摘　要：为了在二维或三维空间中表达高维设计空间，分析多变量优化数学模型的本征维数及其所独立依赖的、有意义的和尽可能少的潜变量，发展了设计优化降维理论和非线性主轴降维映射法。非线性主轴降维映射法首先通过试验设计理论采样获得设计样本集，通过主轴的各种非线性函数逼近目标函数和约束，实现对高维目标函数和约束的降维处理。工程实例研究表明，非线性主轴降维映射法具有发现数据流形本征变量的能力，能够在二维或三维空间中展示多维设计空间全景图，从而用于分析目标函数性质和选择优化算法，展示优化迭代轨迹，研究优化算法的性质。

　　关键词：设计优化；降维理论；非线性主轴映射；本征维数；设计空间可视化；优化轨迹

　　Abstract:The dimension reduction theory for design optimization and a nonlinear principle axis mapping（NPAM） method were developed to express high-dimensional design space in two-or three-dimensionalspace, and to discover the intrinsic dimension and the latent variable of the optimization model. In NPAM,the experimental design method was used to obtain the design sample set. Then the nonlinear functions ofprincipal axis were used to approximate the objective function and constraints. Thus the reduced-dimen-sional objective function and constraints were achieved. Case studies showed that NPAM has the ability todiscover the intrinsic variable of data manifold and can express the panoramic picture of the multidimen-sional design space in two-or three-dimensional space. The panoramic picture can be used to analyze thecharacter of optimization objective function and to choose optimization algorithm, to show tracks of optimi-zation process, and to study optimization algorithms character.

　　Key words:design optimization; dimension reduction theory; nonlinear principal axis mapping; intrinsicdimension; design space visualization; optimization track

　　对于复杂多变量、非线性、多约束的工程设计优化问题，展示设计空间全景非常重要。通过设计空间全景分析，设计人员可以了解目标函数是线性函数还是非线性函数，是单峰函数还是多峰函数；设计空间可行域是凸集还是非凸集；可行域是连通的还是被约束划分成多个不连通区域；优化算法获得的最优点位于目标函数峰值点上还是位于约束边界或交点处。上述问题的探讨对设计优化至关重要，影响设计初始点选择、优化算法选择及接受或拒绝优化算法获得的最优解。

　　多维空间可视化是可视化技术领域难点问题之一，它超出了人们的直观想象，至今尚无一种公认有效的方法完整地展示多维空间几何形态。为展示设计空间全景，发现设计空间整体拓扑结构和几何结构，降维方法被应用于设计优化中[1-3].本文借鉴高维数据的降维理论[4],针对设计优化问题的特殊性发展设计优化降维理论，并在此理论框架下，完善非线性主轴降维映射法[5],将高维设计空间降维映射到低维空间，并给出其在工程设计优化中的应用算例。

　　1　设计优化降维理论

　　高维海量数据给数据分析和可视化带来严峻挑战。降维方法作为一种有效手段，引起人们广泛关注，相关研究方兴未艾。现有降维理论和方法[4,6]主要针对信息研究领域中各种高维海量数据，如卫星测量数据、图像处理数据、金融交易数据等，其特点是所处理的数据表象维数可能高达成百上千维，降维过程常常针对高维观测数据集x,而非高维函数y（x）。本文借鉴数据集结构理论[4],针对设计优化问题的特殊性发展设计优化降维理论。对于工程设计优化问题，降维主要是为了识别目标函数和设计空间的性态，为设计者理解优化问题、选择合适的初始点和优化算法提供帮助。

　　高维空间样本数据一般不可能弥漫整个高维空间，否则就不存在任何有意义的信息。事实上，在高维设计空间中目标函数或约束值常处于高维空间中一个低维数据流形上，即一个降维“曲面”上，该流形维数即为目标函数或约束值本征维数。因此，通过寻求目标函数或约束本征维数及其所独立依赖的、有意义的和尽可能少的潜变量，可以实现对高维目标函数和约束的降维处理，从而在低维空间中展示设计空间全景。

　　设xnNn=1 RD为D维超立方体设计空间中容量为N的一个数据采样，ynNn=1 RD为由数据采样xnNn=1经仿真计算或试验获得的目标函数值或约束函数值输出，假设ynNn=1来自（或近似来自）维数为L（L < D）的某一数据流形。优化模型降维目标是探求高维数据流形合适的低维坐标描述。此时，设计优化降维问题通常由下列部分组成。

　　1）高维设计空间ΩD和设计样本集空间ΩDN.称D维欧几里德空间RD（或其某一子集）为D维设计空间，为区别于通常的欧氏空间，记为ΩD;称设计空间ΩD中容量为N的设计样本集ω~:xn,ynNn=1的全体为容量为N的设计样本集空间，记为ΩDN.

　　2）降维空间或称设计集结构空间ΠL.称概括设计样本集本征特性的数据描述为设计样本集结构π，如各种形式的模型参数、统计分布的各种数字特征以及描述设计样本集中点与点之间关系的各种邻接矩阵、距离矩阵、邻域矩阵等；若结构度量准则μπ|ω~取作残差或数据方差的形式，结构π可以认为是一种用于确认结构映射形式的损失函数。L维设计样本集结构π的全体是设计集结构空间，记为ΠL,通常为RL的某一子集。

　　3）降维映射或结构映射F.ΩDN为给定的设计集空间，ω~∈ΩDN为某一设计集合，F为从ΩDN到ΠL的映射，F:ω~→π∈ΠL.

　　4）重构映射（不是必须的）F-1,F-1:π→ω~∈ΩD.

　　对于设计优化降维问题，L < D,通常称L为潜变量维，在不过多损失原数据信息基础上，L应该尽可能小，在可视化问题中通常取L =2或3 .设计优化降维理论中最重要的概念：其一是通过采样获得离散设计样本集，让设计集来说出它的产生机制，体现设计集结构的内在特性；其二是数据流形和本征维数，在设计优化降维问题中将目标函数和约束函数看作是D维设计空间中本征维数为L（L < D）的数据流形；其三是结构映射，将来自高维设计空间的设计样本集降维映射到低维结构空间。降维映射的本质是数学变换，采用何种变换方式取决于问题性质和降维目的。工程设计优化降维的主要目的是分析设计模型数学特征，在低维空间中展示设计空间全景，获得设计空间整体拓扑结构和几何结构。

　　2　非线性主轴降维映射法

　　由上述设计优化降维映射理论可知，高维设计优化问题的降维过程（包括线性、非线性降维）可以分解为既相互独立又相互关联的3个阶段：1）获得设计样本集；2）设计样本集的结构描述；3）基于结构的降维准则。与之相对应，设计优化降维方法的提出和形成主要包含3方面工作：1）高维设计空间采样并通过仿真分析获得目标函数和约束函数值；2）根据设计优化数学模型提出设计样本集结构模型；3）建立基于设计样本集结构的降维准则或损失规则。

　　设计优化降维方法可以看作是保持设计方案样本集某种特性的数学变换，包括线性变换和非线性变换。首先探求设计方案样本集某种感兴趣特征，然后寻求具有此种特征的低维数据表示方式。设计优化降维方法在一定程度上抓住了设计方案样本集的数学特征，降维结果在一定程度上反映了设计方案样本集的产生机制。

　　在设计优化降维映射理论框架下，进一步完善非线性主轴降维映射法[5],研究该方法的模型假设、降维本质和有效性，并将其与主成分回归方法和响应面法进行比较。

　　2.1　数学模型

　　非线性主轴降维映射法认为优化模型中目标函数和约束是高维设计空间中具有较低本征维数的光滑数据流形，能够在2个或3个特征主轴上反映优化模型的主要信息，在一定先验信息基础上，通过主轴的各种非线性函数描述和逼近目标函数和约束，从而将高维优化模型映射到二维或三维空间进行可视化显示和分析。非线性主轴降维映射法以如下假设为前提：1）高维设计方案样本集源于光滑数据流形，即认为目标函数和约束位于各种光滑数据流形之上；2）优化模型中目标函数和约束具有低于原设计空间维数的本征维数，对设计空间可视化应用二维或三维可视展示；3）设计优化具有较强的先验信息，以确定非线性映射函数。

　　非线性主轴降维映射法通过非线性函数描述优化模型中的非线性特征，将高维优化模型（通过设计方案样本集描述）降低到适当维数，并在保证一定精度前提下尽可能保留原模型信息（或称之为特征），达到识别目标函数和设计空间几何形态之目的。

　　通过采样获得设计样本集。非线性主轴降维映射模型的精度在很大程度上依赖于设计空间中设计点分布情况，因而不能随意选择设计点，而应该依据某种策略进行采样。对设计优化而言，通常应用试验设计理论采样，如拉丁超立方抽样和正交设计等。通过试验设计得到D维设计空间采样容量为N的采样点矩阵X,利用系统分析模型计算每个采样点处的目标函数值及各约束值，得到L×N（L为目标函数和约束个数）的输出矩阵Y.非线性主轴降维映射法降维映射概念模型如图1所示。

　　在图1中，主轴Z为设计变量的线性组合，P为主轴Z的非线性函数。为简洁起见，在描述非线性主轴降维映射法时，假设数据流形的本征维数为2,对主轴数目大于2的数据流形降维映射，依此类推。数据流形本征维数为2,则主轴数目为2.首先将主轴z1和z2表示为X的线性组合：

　　z1z2=w1X+b1w2X+b2.

　　式中：w1和w2为权值向量，代表设计变量向主轴平面映射的投影方向；b1和b2为阈值。X=x11x12…x1Nx21x22…x2N┇ ┇ ┇xD1xD2…xDN,wj= wj1,wj2,…，wjD;j=1,2.

　　从映射平面z1z2到输出响应的映射为Y=vP,

　　P= f1z1,z2,f2z1,z2,…，fpz1,z2.

　　式中：fk（·，·），k=1,2,…，p可为任意非线性基函数，由设计人员根据先验信息指定；v为非线性映射权值矩阵。Y=y11y12…y1Ny21y22…y2N┇ ┇ ┇yL1yL2…yLN,v=v11v12…v1pv21v22…v2p┇ ┇ ┇vL1vL2…vLp.

　　选取输出误差作为结构度量准则：

　　μ=∑pk=1∑Ni=1yki-~yki.

　　式中：yki为通过系统分析模型计算所得采样点计算值，~yki为非线性主轴降维映射估计值。

　　μπ*|X,Y=minπ=（w1,w2,v）{μπ|X,Y}.

　　式中：π*= [w*1,w*2,v*]为高维设计方案样本集到低维空间的最优结构描述，显然这是第I类结构映射。π*的确定可以转化为求解一个无约束非凸非线性优化问题，也可以通过建立二层神经网络，采用BP算法获得。

　　2.2　预估精度检验

　　在获得非线性主轴降维映射模型后，还需要通过验证数据集检验模型预估精度。若使用z1和z2两个主轴拟合目标函数和约束能够获得足够的预估精度，则认为优化模型本征维数为2,z1和z2为设计空间数据流形的本征变量；若预估精度不满足要求，需要加入新的主轴方向z3重新拟合，直到满足所要求的预估精度。非线性主轴降维映射法具有发现数据流形数学特征的能力。

　　2.3　可视化

　　在降维映射模型中，Z为X的线性组合，Z通过P和v的作用，与Y建立起非线性映射关系。由此可以在低维主轴空间以Z为坐标轴描绘Y的分布规律，从而可视化目标函数和约束在设计空间中的整体拓扑形态和几何形态。

　　2.4　与其他数据处理方法的比较

　　非线性主轴降维映射法是基于可视化目的，将高维设计空间降到二维或三维空间显示的数据处理方法，也可以将其看作可视化流程中的数据预处理。将非线性主轴降维映射法与主成分回归方法和响应面法比较，加深对非线性主轴降维映射法数学本质的认识。

　　2.4·1　与主成分回归方法比较　主成分分析[4]是一种线性降维方法，主成分回归是在主成分分析基础上对主成分进行的线性回归。主成分分析，又称主轴分析，是将多指标转化为少数几个综合指标的统计分析方法。主成分分析方法由于概念简单，计算方便，便于最优线性重构，成为数据处理中应用最为广泛的降维方法之一。类似地，假设高维数据集本征维数为2,数据集结构模型为z1z2=w1Xw2X,即主轴Z为X的线性变换。

　　降维准则为μ=σ2,μπ*|X=maxπ=（w1,w2）{μπ|X}.

　　式中：σ2表示zi的方差，σ2越大表示zi包含的信息越多。一般地，求X的第i主成分可以通过求X的协方差矩阵Σ的第i大特征值所对应的单位特征向量得到。

　　主成分回归是在主成分分析基础上，首先由X计算Z的得分值，将其作为主成分的观测值，然后建立Y与Z的线性回归模型即得主成分回归方程。主成分回归的数据处理过程如图2所示。

　　与主成分回归不同，非线性主轴降维映射法的数据处理过程如图3所示。可以看出，主成分回归是针对X的降维，即采用较少的综合变量Z代替原来较多的原始变量X,而Z能够尽可能多地反映X的信息，且彼此互不相关。非线性主轴降维映射法是针对Y的降维，其前提是ynNn=1来自或近似来自维数为L的某一数据流形，其目的是探求高维数据流形合适的低维坐标描述。

　　主成分回归和非线性主轴降维映射中的主轴都是X的线性组合，但含义有所不同。主成分回归中

　　的主轴是使X变差最大的方向，而非线性主轴降维映射中的主轴是表征Y的重要方向。因此，虽然2个映射模型看起来类似，降维本质却有所不同。从代数观点看，非线性主轴降维映射是基于主轴Z的非线性函数拟合，而Z是X的一种特殊线性变换；从几何上看，经X线性变换产生的主轴Z代表数据流形Y的重要方向，使得Y在由主轴Z张成的坐标系中的投影保留了Y的大部分信息和数学特征。

　　2.4·2　与响应面法比较

　　响应面法是以试验设计为基础的用于试验模型建立和模型分析的统计方法，在多学科设计优化中得到广泛应用。响应面法往往将输出变量y表示为X的非线性函数形式，二次多项式响应面模型为y = v0+∑Di=1vixi+∑Di=1viix2i+∑D-1i=1∑Dj=i+1vijxixj+ε。

　　函数拟合准则为μ=∑pk=1∑Ni=1yki-~yki,μπ*|X,Y=minπ=（v）{μπ|X,Y}.

　　响应面法的数据处理过程如图4所示。

　　非线性主轴降维映射法与响应面法都是通过假定非线性函数作为响应函数进行拟合的过程。不同的是，非线性主轴降维映射法首先假定目标函数和约束存在低维本征维数，通过设计变量线性变换形成数据流形主轴，再以主轴的非线性函数拟合，而响应面法以设计变量作为拟合变量。

　　3　算例分析

　　某固体火箭发动机总体参数设计优化模型描述如下。

　　1）目标函数F:发动机质量最小。

　　2）设计变量10个：

　　x= [x0,x1,x2,x3,x4,x5,x6,x7,x8,x9]T.

　　式中：x0表示发动机燃烧室平均压强，x1表示喷管膨胀比，x2、x3、x4表示翼柱形装药前翼长、宽、深，x5、x6、x7表示后翼长、宽、深，x8表示装药通道直径，x9表示燃烧室圆筒段长度。优化模型给出每个设计变量的取值范围。

　　3）约束条件9个：

　　g= [g0,g1,g2,g3,g4,g5,g6,g7,g8]T;

　　gi≥0, i =0,1,…，8.

　　式中：g0~g8表示发动机性能和尺寸要求，g0表示总体给出的比冲约束，g1表示燃面比约束，g2表示质量比约束，g3表示装填系数约束，g4、g5表示喉径尺寸的上、下边界约束，g6、g7表示燃烧室总长的上、下边界约束，g8表示总冲约束。

　　经分析，燃面比约束g1、质量比约束g2和装填系数约束g3从不被违反[7],因此在下面研究中暂不考虑。g4与g5、g6与g7之间是线性关系，因此在非线性主轴降维映射中待分析的响应变量有发动机质量F、比冲约束g0、喉径上边界约束g4、燃烧室总长上边界约束g6以及总冲约束g8.

　　假设优化模型中发动机质量F、比冲约束g0、喉径上边界约束g4、燃烧室总长上边界约束g6以及总冲约束g8分别来自5个本征维数为2的数据流形，并以主轴z1、z2的二次多项式函数形式进行降维拟和。采用拉丁超立方采样L64（410）获得64个采样点，计算每个采样点处F、g0、g4、g6和g8值，通过非线性主轴降维映射法进行降维拟和，采用遗传算法与Powell方法串联协作优化方法计算得到主轴系数矩阵w和主轴z1、z2二次多项式函数系数矩阵v.

　　式中：wxi,1、wxi,2（i=0,1,…，9 ）分别为主轴z1、z2中设计变量xi的系数。vy,1~vy,6（y=obj,g0,g4,g6,g8）分别为输出变量y的二次多项式拟合函数中1、z1、z2、z1z2、z21、z22的系数。

　　对由L64（410）获得64个采样点拟合的非线性主轴降维映射模型，通过由L30410获得另30个采样点进行预估精度检验的误差分析，结果如图5所示。其中，横坐标p表示采样点，纵坐标e表示相对误差百分数。可以看出，由64个采样点拟合的非线性主轴降维映射模型的目标函数和约束函数的相对误差小于1·5%.产生误差的原因除了计算误差之外，一方面是由于降维所引起的信息损失，另一方面是由于设计空间展示需要，假设z1、z2表征了F、g0、g4、g6和g8这5个数据流形共同的主轴方向，这将比寻求单个数据流形主轴方向产生更大的信息损失。1·5%的相对误差对于可视化目的来说可以接受，因此接受F、g0、g4、g6和g8这5个数据流形本征维数为2的假设。下面通过所获得的非线性主轴降维映射模型对固体火箭发动机设计优化问题进行分析。

　　首先，通过预估精度检验说明所获得的非线性主轴降维映射模型反映了固体火箭发动机设计优化模型的大部分信息，抓住了优化数学模型的本征特性。主轴z1、z2是10维设计变量X的线性组合，代表了优化数学模型的重要方向，因此可以认为主轴z1、z2中各变量系数绝对值之和wxi,1+ wxi,2代表了该变量在优化数学模型的重要程度。由系数矩阵w值计算得知，燃烧室圆筒段长度x9、设计压强x0、圆筒段直径x8、膨胀比x1、后翼宽x6、前翼宽x3在优化数学模型中的重要性依次递减，其他4个设计变量：前翼长x2、前翼深x4和后翼长x5、后翼深x7份量较轻，可以考虑在模型简化中将其固定为常量。此结论与采用图形变形法分析设计变量重要性获得的结论[8]基本一致。由此可见，非线性主轴降维映射法具有发掘多维优化数学模型非线性结构和恢复数据流形本征变量的能力，可以认为主轴z1、z2是优化模型的潜在变量。

　　根据降维映射模型可以绘制目标函数F在映射平面z1-z2上的等值线及各约束隔出的可行设计空间，如图6所示。其中，细实线为发动机质量等值线，粗实线表示各约束函数边界，灰色填充区域表示不可行设计域。小圆圈标识了拉丁超立方采样L64410的64个采样点，为了便于比较，图中用十字叉显示均匀设计U111110的11个采样点。

　　由图6可以看出，在固体火箭发动机总体参数优化中，发动机质量为单峰函数，比冲约束g0、喉径尺寸上边界约束g4、燃烧室总长的下边界约束g7及总冲约束g8这4个约束边界围成了设计空间中的可行设计区域，此可行域为凸集。因此，可以认为采用常规优化算法即可搜索到全局最优解。由试验设计理论可知，均匀设计（uniform design, UD）和拉丁超立方采样（Latin hypercube sampling,LHS）2种方法均将试验点均匀地散布于输入参数空间，成为“充满空间的设计”（space filling design）。LHS给出的试验点带有随机性，称为抽样；而UD则是通过均匀设计表来安排试验，不带随机性，在设计空间中散布非常均匀。在图6中L64410和U111110采样点的降维表示反映了2种试验设计方法的这一特性，这验证了非线性主轴降维映射的合理性和有效性，同时降维映射为试验设计方法理解及试验设计表的选择提供了直观的依据。在图6中，64个小圆圈表示的采样点包络类似矩形，可以认为64个采样点降维映射包络基本勾画了设计空间边界，下文的遗传算法优化轨迹的显示也说明了这一点。

　　优化轨迹显示一直是高维优化问题中难以突破的重要问题。优化轨迹显示对于优化算法理解和优化过程监控具有重要意义。非线性主轴降维映射法能够在二维或三维空间上显示设计空间全景图，同时具有较好的预估精度，因此将优化过程中产生的迭代点通过降维变换获得其在主轴空间上的映射点，将映射点依次连接就可以获得优化轨迹。本算例采用修正可行方向法、罚函数法和遗传算法的优化轨迹如图7所示。

　　在图7中，连续细实线表示优化轨迹。由图7可以看出优化算法的迭代准则、搜索范围等特征。譬如，同为局部优化算法，可行方向法与罚函数法的搜索范围较小，而迭代准则完全不同。可行方向法从初始点开始，主要沿着目标函数下降的方法进行搜索，较长时间的迭代在非可行域中进行。罚函数法将约束作为惩罚函数处理，较快地进入可行设计空间。遗传算法搜索完全在整个设计空间中进行（64个采样点降维映射包络基本勾画了设计空间边界），这为遗传算法的全局搜索特性、对初始点不敏感以及搜索效率较低等性质提供了直观的理解和佐证。

　　可行方向法和罚函数法优化轨迹最终收敛于总冲约束边界上，得到相应的最优解，这说明总冲约束为最优解的紧约束。从收敛速度上说，对于本优化问题，可行方向法的收敛速度不及罚函数法，而遗传算法的收敛速度不及一般的局部优化算法。

　　4　结　语

　　本文针对多变量、非线性、多约束的工程设计优化问题，发展了设计优化降维理论及非线性主轴降维映射法。设计优化降维理论指出优化降维目的主要是识别目标函数和设计空间的性态，通过合理的降维处理可以在低维空间中展示设计空间全景。完善了非线性主轴降维映射法，讨论了其模型假设及降维本质。工程实例研究表明，非线性主轴降维映射法具有发现数据流形本征变量的能力，能够在二维或三维空间中展示多维设计空间全景图，并在降维空间中展示优化收敛轨迹，为设计者了解优化问题性态、优选初始点、选择合适的优化算法、监控优化过程和评估优化结果提供了直观、有效的工具。

　　参考文献（References）：

　　[1] HOLDEN C M E, KEANE A J. Design by space trans-formation from high to low dimensions: UK,GB0323848·2 [P]. 2003-10-19.

　　[2] HOLDEN C M E, KEANE A J. Visualization methodolo-gies in aircraft design [R]. USA: AIAA 2004-4449.

　　[3] MATTHEWS P C. The application of self-organizingmaps in conceptual design [D]. Cambridge: Universityof Cambridge, 2001.

　　[4]谭璐。高维数据的降维理论及应用[D].长沙：国防科技大学， 2005.TAN Lu. The theory and application of the dimensionreduction on the high-dimensional data set [D]. Chang-sha: University of Defense Technology, 2005.

　　[5]鄢烈祥，麻德贤。过程系统寻优新方法：非线性映射主轴分析法[J].系统工程理论与实践， 1999, 48（9）： 79-84.YAN Lie-xiang, MA De-xian. A new method for the opti-mization of practical process system: nonlinear mappingprincipal axis analysis method [J].Journal of System Engi-neering Theory and Practice, 1999, 48（9）： 79-84.

　　[6]赵连伟，罗四维，赵艳敞，等。高维数据流形的低维嵌入及嵌入维数研究[J].软件学报， 2005, 16（8）： 1423-1430.ZHAO Lian-wei, LUO Si-wei, ZHAO Yan-chang, etal. Study on the low-dimensional embedding and the em-bedding dimensionality of manifold of high-dimensionaldata [J].Journal of Software, 2005, 16（8）： 1423-1430.

　　[7]欧海英，张为华，李晓斌，等。平行坐标可视化技术在固体火箭发动机优化设计中的应用[J].固体火箭技术，2004, 27（4）： 255-259.OU Hai-ying, ZHANG Wei-hua, LI Xiao-bin, et al.Application of parallel coordinate visualization technolo-gy to optimum design for SRMs [J].Journal of SolidRocket Technology, 2004, 27（4）： 255-259.

　　[8]欧海英，张为华，解红雨，等。基于图形变形法的固体火箭发动机优化设计[J].推进技术， 2006, 27（3）： 201-204.OU Hai-ying, ZHANG Wei-hua, XIE Hong-yu, et al.Design optimization for solid rocket motor based ongraph morphing [J].Journal of Propulsion Technology,2006, 27（3）： 201-204.