线性规划与计算复杂性简介(全部).ppt

《线性规划与计算复杂性简介(全部).ppt》由会员分享，可在线阅读，更多相关《线性规划与计算复杂性简介(全部).ppt（82页珍藏版）》请在三一办公上搜索。

1、1,线性规划与计算复杂性简介,浙江大学数学建模实践基地,2,3,8.1 线性规划问题,在人们的生产实践中，经常会遇到如何利用现有资源来安排生产以取得最大经济效益的问题，此类问题构成了运筹学的一个重要分支数学规划，而线性规划（Linear Programming,简记LP）则是数学规划的一个重要部分。自从1947年GBDantzig提出求解线性规划的单纯形方法以来，线性规划在理论上日趋成熟，在应用上日趋广泛，已成为现代管理中经常采用的基本方法之一。,4,一.线性规划的实例与定义,例8.1 某机床厂生产甲、乙两种机床，每台销售后的利润分别为4000元与3000元。生产甲机床需用A、B机器加工，加工

2、时间分别为每台 2小时和1小时；生产乙机床需用A、B、C三种机器加工，加工时间为每台各一小时。若每天可用于加工的机器时数分别为A机器10小时、B机器8小时和C机器7小时，问该厂应生产甲、乙机床各多少台，才能使总利润最大？,5,例1的数学模型：设该厂生产x1台甲机床和x2台乙机床时总利润最大，则 x1、x2应满足,max 4x1+3x2 s.t 2x1+x2 10 x1+x2 8(8.1)x2 7 x1,x2 0,（8.1）式中 4x1+3x2 表示生产x1 台甲机床和x2 台乙机床的总利润，被称为问题的目标函数，当希望使目标函数最大时，记为max；反之，当希望使目标函数最小时，记为min。（8

3、.1）中的几个不等式是问题的约束条件，记为S.t（即Subject to）。由于（8.1）式中的目标函数及约束条件均为线性函数，故被称为线性规划问题。总之，线性规划问题是在一组线性约束条件的限止下，求一线性目标函数最大或最小的问题。,6,二、线性规划的标准形式,例8.2 min S.t i=1,m xj0,j=1,n,线性规划的目标函数可以是求最大值，也可以是求最小值，约束条件可以是不等式也可以是等式，变量可以有非负要求也可以没有非负要求（称这样的变量为自由变量）。为了避免这种由于形式多样性而带来的不便，规定线性规划的标准形式为,利用矩阵与向量记为min z=CT x S.t Ax=bx0（8

4、.3）其中C 和x 为n 维列向量，b为m 维列向量，b0，A为mn矩阵,mn且rank(A)=m。,或更简洁地,7,如果根据实际问题建立起来的线性规划问题并非标准形式，可以将它如下化为标准形式：,（1）若目标函数为max z=CT x，可将它化为minz=CT x,（2）若第i个约束为ai1x1+ainxnbi，可增加一个松驰变量yi，将不等式化为ai1x1+ainxn+yi=bi，且yi0。若第i个约束为ai1x1+ainxnbi，可引入剩余量yi，将不等式化为ai1x1+ainxn yi=bi，且yi0。,（3）若xi为自变量，则可令,其中、0,例如例18.1并非标准形式，其标准形式为m

5、in 4x13x2s.t 2x1+x2+x3=10 x1+x2+x4=8x2+x5=7x1,x2,x3,x4,x50,8,图8.1,对于例8.1，显然等位线越趋于右上方，其上的点具有越大的目标函数值。不难看出，本例的最优解为x*=(2,6)T，最优目标值z*=26。,三、线性规划的图解法,为了了解线性规划问题的特征并导出求解它的单纯形法，我们先应用图解法来求解例8.1。满足线性规划所有约束条件的点称为问题的可行点（或可行解），所有可行点构成的集合称为问题的可行域，记为R。对于每一固定的值z，使目标函数值等于z的点构成的直线称为目标函数等位线，当z变动时，我们得到一族平行直线（图8.1）。,9,

6、上述论断可以推广到一般的线性规划问题，区别只在于空间的维数。在一般的n维空间中，满足一线性等式aix=bi的点集被称为一个超平面，而满足一线性不等式aixbi（或aixbi）的点集被称为一个半空间（其中ai为一n维行向量，bi为一实数）。若干个半空间的交集被称为多胞形，有界的多胞形又被称为多面体。易见，线性规划的可行域R必为多胞形（为统一起见，空集也被视为多胞形）。,（1）可行域R可能会出现多种情况。R可能是空集也可能是非空集合，当R非空时，它必定是若干个半平面的交集（除非遇到空间维数的退化）。R既可能是有界区域，也可能是无界区域。（2）在R非空时，线性规划既可以存在有限最优解，也可以不存在有

7、限最优解（其目标函数值无界）。（3）若线性规划存在有限最优解，则必可找到具有最优目标函数值的可行域R的“顶点”。,从上面的图解过程可以看出并不难证明以下断言：,10,在一般n维空间中，要直接得出多胞形“顶点”概念还有一些困难。在图8.1中顶点可以看成为边界直线的交点，但这一几何概念的推广在一般n维空间中的几何意义并不十分直观。,定义8.1 称n 维空间中的区域R为一凸集，若x1,x2 R及(0,1)，有 x1+（1）x2 R。,定义8.2 设R为n维空间中的一个凸集，R中的点x被称为R的一个极点，若不存在x1、x2 R及(0,1)，使得x=x1+（1）x2。,定义8.1说明凸集中任意两点的连线

8、必在此凸集中；而定义8.2说明，若x是凸集R的一个极点，则x不能位于R中任意两点的连线上。不难证明，多胞形必为凸集。同样也不难证明，图8.1中R的顶点均为R的极点（R 也没有其他的极点）,为此，我们将采用另一途径来定义它。,11,三、基本解与基本可行解,给定一个标准形式的线性规划问题（8.3），其中A=(aij)mxn，m n 秩r(A)=m。取出A的m个线性无关的列，这些列构成A的一个m 阶非奇异子矩阵B，称B为A的一个基矩阵。A的其余nm列构成一个m(nm)矩阵N。称对应B的列的变量为基变量（共有m个），记它们为xB。其余变量称为非基变量，记为xN。,对线性规划（8.3），取定一个基矩阵B

9、，令非基变量xN=0，可以唯一地解出xB，xB=B-1b。这样得到的点x=（B-1b，0）称为（8.3）的一个基本解。为了叙述方便起见，这里我们将xB放在了前面，但这并不影响到问题实质。显然，基本解不一定是可行解，因为还存在着非负约束，当一个基本解同时为可行解时（即B-1b0），称之为（8.3）的一个基本可行解。进而，若B-1b0，则称x=（B-1b，0）为（8.3）的一个非退化的基本可行解，并称B为非退化的可行基。由于基矩阵最多只有 种不同的取法，即使A的任意m解均线性无关，且对应的基本解均可行，（8.3）最多也只能有个不同的基本可行解。,12,四、基本可行解与极点的等价定理,在线性规划的求

10、解中，下列定理起了关键性的作用。在这里，我们不加证明地引入这些定理。,定理8.1（基本可行解与极点的等价定理）设A为一个秩为m的mn矩阵（nm）b为m维列向量，记R为（8.3）的可行域。则x为R的极点的充分必要条件为 x 是 的基本可行解。定理8.1既提供了求可行域R的极点的代数方法，又指明了线性规划可行域R的极点至多只有有限个.,对定理证明有兴趣的读者可以参阅 D.G.鲁恩伯杰著的“线性与非线性规划引论”一书第二章,13,（线性规划基本定理）线性规划（8.3）具有以下性质：（1）若可行域R，则必存在一个基本可行解。（2）若问题存在一个最优解，则必存在一个最优的基本可行解。定理8.2并非说最优

11、解只能在基本可行解（极点）上达到，而是说只要（8.3）有有限最优解，就必定可在基本可行解（极点）中找到。,定理8.2,从模型本身讲，线性规划显然应属连续模型。但定理 2表明，如果线性规划有有限最优解，我们只需比较各基本可行解上的目标函数值即可找到一个最优解，而问题的基本可行解至多只有有限个，从而问题化为一个从有限多个点选取一个最优点 的问题。正是基于这样一种思路，Dantzig提出了求解线性规划的单纯形法。也正因为如此，我们把线性规划列入了离散模型，因为求解它的单纯形法更具有离散模型问题的算法特征。,14,五、求解线性规划的单纯形法,（步1）取一初始可行基B（一般取法见后面的两段单纯形法），再

12、用高斯约当消去法求出初始基本可行解x0，编制成所谓的初始单纯形表；（步2）判断x0是否最优解，如果x0是最优解，输出x0，停，否则到步3；（步3）按一改进准则，将一个非基变量转变为基变量，而将一个基变量转变为非基变量。这相当于交换B与N的一个列，同样可用高斯约当消去法，运算可以通过单纯形表上的“转轴运算”实现。,Dantzig单纯形法的基本步骤如下：,15,定理8.3（最优性判别定理）令。（1）若rN0，则x0必为（8.3）的一个最优解。（2）记。若，rj0，则当B为非退化可行基时，x0必非最优解。,16,证明（1）若rN0，由于变量满足非负约束，必有xN0。于是，由（8.6）知，故x0为（8

13、.3）的一个最优解。（2）（8.6）式给出了x处的目标值与x0处目标值之间的联系。现设 及jj0仍令xj=0。由非退化假设，B1b0，根据（7.15）式知，当且充分小时，仍有xB0。此时对应的x仍 为可行解，但由（8.6），其目标函数值：故x0必非最优解。,定理8.3不仅给出了判别一个基本可行解是否为最优解的准则，而且在x0非最优解时还指出了一条改进它的途径。由于rN在判别现行基本可行解是否为最优解时起了重要作用，所以rN被称为x0处的检验向量，而rj(jN)被称为非基变量xj的检验数。,17,利用单位矩阵I消第一行的为零向量，则 被消成，而0则被消成。将消去后的行向量写到最后一行，删去原来的

14、第一行，得到一张被称为单纯表的表格：,(8.7),表格（8.7）以极为简洁明了的方式表达了我们需要的全部信息。从其前m行可看出哪些变量是基变量并可直接读出对应的基本可行解x0=（B1b，0）。其最后一行又给出了非基变量的检验数及x0处目标函数值的相反数。,18,例8.1的标准形式为（8.4），容易看出它的一个初始基B=I（以x3、x4、x5为基变量），且CB已经为零，故我们已有了一张初始的单纯形表表8.1：,表8.1,x0=(0,0,10,8,7)Tz0=CTx0=0rN=(r1,r2)=(4，3),现在，我们以例8.1为例，来看一下单纯形法是如何工作的。,19,由于存在着负的检验数且x0非退

15、化，x0非最优解。r1，r2均为负，x1，x2增大（进基）均能改进目标函数值。,例如，取x1进基仍令x2=0（x2仍为非基变量），此时由（8.5）式及（8.6）式有 且z=CTx=4x1x1增加得越多，目标函数值下降得越多，但当x1=5时x3=0，x1再增大则x3将变负。为保证可行性，x1最多只能增加到5，此时x3成为非基变量（退基）。,不难看出，上述改进可以在单纯形表上进行。对于一般形式的单纯形表，记最后一列的前m个分量为（yi0），i=1,m。若取 进基，记j0列前m个分量为（），i=1,m。易见，阻碍 增大的只可能在 0的那些约束中。若 0对一切i=1,m成立（j0列前m个分量中不存在正

16、值），则 可任意增大，得到的均为可行解，但其目标值随之可任意减小，故问题无有限最优解。,20,否则，令则随着 的增大，将 最先降为零（退出基变量），故只需以 为主元作一次消去法运算（称此运算为一次转轴运算），即可得到改进后的基本可行解处的单纯形表。在本例中，因取x1进基（j=1）而，以y11为主元作第一次转轴，得到,x1=(5,0,0,3,7)T z1=20 rN=(r2,r3)=(1，2),21,表8.2中r20）最小选定以下 y22=为主元转轴，得到下一基本可行解x2处的单纯形表表8.3。,表8.3,x2=(2,6,0,0,1)Tz2=26rN=(r3,r4)=(1，2)对于x2，rN=(

17、1，2)为非负向量，故x2为最优解，最优目标值为26。于是，原问题例1的最优解x*=(2,6)T，最优目标值为26。,22,六、初始可行解的求法两段单纯形法,阶段2 若辅助规划的最优目标值不等于零，原规划无可行解。否则我们已求得原问题的一个基本可行解x0。删去阶段1最终单纯表中最后一行及对应人工变量的列，作出原规划对应x0的初始单纯形表。此时又可利用上述单纯形法求解原规划了。,阶段1 对第i个约束引入人工变量 yi，yi0，将其改写为ai1x1+ainxn+yi=bi，i=1,m。作辅助线性规划LP（1），其目标函数为。容易看出，原规划有可行解（从而有基本可行解）的充分必要条件为辅助规划的最优

18、目标值为零。由于辅助规划具有明显的初始可行基（人工变量对应的列构成单位矩阵I），可利用上述单纯形法逐次改进而求出辅助规划最优解。,23,例8.2 min 4x1+x2+x3 S.t 2x1+x2+2x3=4 3x1+3x2+x3=3 x1、x2、x30,?,解：因为初始可行基不能直接看出，我们采用两段单纯形法求解。阶段1 先求解辅助规划：min x4+x5S.t 2x1+x2+2x3+x4=4 3x1+3x2+x3+x5=3 x1，x30,24,表8.4,选取x1进基，以y21=3为主元转轴（x5出基），得表8.5。表8.5,25,因r3 0，令x3进基。以y13=4/3为主元轴（x4出基），

19、得表8.6。至此，对新的基本可行解，检验数均已非负，辅助规划最优解已获得。又因辅助规划最优目标值为0，已求得原问题的一个基本可行解。表8.6,阶段2 现转入求解原规划，初始单纯形表为表8.7。x2进基，以y22=5/4为主元转轴，求得新的基本可行解及相应的单纯形表表8.8。,表8.7,26,表8.8,现对算法步骤作一小结。,27,上述算法中隐含着非退化假设，即要求B1b0。当B1b也存在零分量时，我们遇到了一个退化的基本可行解。此时rN存在负分量不一定说明现行基本可行解不是最优解，单纯形法也可能会遇到循环迭代。存在着几种避免循环的技巧，例如，只要每次在rj0的非基变量中选取具有最小足标者进基即

20、可。,在求解线性规划时，首先应将问题化为标准形式。若从标准形式已可看出一个初始基，则可直接用单纯法求解：（1）写出初始单纯形表；（2）若检验向量 rN 0，则已得以最优解；（3）任选一负分量rj。以 进基，考察 所在列。若对i=1,m均有 0，则问题无有限最优解，停；否则令，以 为主元转轴，返回（2），直至rN0求出最优解。若从标准形式无法看出初始可行基，则需采用两段单纯形法求解。,变量同时具有上、下界限止的线性规划问题也可化为标准形式求解，有兴趣的读者可以参阅D.G.鲁恩伯杰的“线性与非线性规划引论”一书的第三章。,28,8.2 运输问题,一.运输问题的数学模型,例8.3 某商品有m个产地、

21、n个销地，各产地的产量分别为a1,am各销地的需求量分别为b1,bn。若该商品由i产地运到j销地的单位运价为Cij，问应该如何调运才能使总运费最省?,解：引入变量xij，其取值为由i产地运往j销地的该商品数量。例8.3的数学模型为min S.t，i=1,m(8.9)，j=1,n xij 0,（8.9）显然是一个线性规划问题，当然可以用单纯形方法求解，但由于其约束条件的系数矩阵相当特殊，求解它可以采用其他简便办法。本节将介绍由康脱洛维奇和希奇柯克两人独立地提出的表上作业法（简称康希表上作业法），其实质仍然是先作出一个初始基本可行解，然后用最优性准则检验是否为最优并逐次改进直至最优性准则成立。,2

22、9,二、初始可行解的选取,不难发现，（8.9）的约束条件中存在着多余方程。容易证明，只要从中除去一个约束，例如最后一个方程，约束条件就彼此独立了。因而，（8.9）是一个具有mn个变量的线性规划，其每一基本可行解应含有m+n1个基变量。,记（8.9）约束条件中前m+n1个方程的系数矩阵为A，A为（m+n1）mn矩阵，它的每一列最多只有两个非零元素且非零元素均为1。利用线性代数知识能够判定A中怎样的m+n1个列可以取为基（即怎样的m+n1个变量可以取为基变量），为了判明哪些变量对应的列是线性无关的，先引入下面的定义：,30,定义8.3（闭回路）xij（i=1,m;j=1,n）的一个子集被称为一个闭

23、回路，若它可以被排成其中 互异，也互异。,用下面的方法可以较方便直观地看出 xij 的一个子集是否为一闭回路：作一个m行n列的表格，令格（i,j）对应 xij。将子集中的变量填于相应格中，并将相邻变量（或同行或同列）用边相连，则此子集为闭回路当且仅当其点按上述连法作出的折线可构成一个闭回路。,例如，当m=3,n=4时，X1=x12,x13,x23,x24,x34,x32和X2=x12,x14,x24,x21,x31,x32 均为闭回路，见表8.9和表8.10。,31,定理8.4 X为 xij（i=1,，m；j=1，n）的一个子集，X中的变量对应的A中的列向量集线性无关的充要条件为X中不包含闭回

24、路。,定量8.4不难用线性代数知识证明，详细证明从略。根据定理8.4，要选取（8.9）的一组基变量并进而得到一个基本可行解，只需选取xij的一个子集X，X=m+n-1且X中不含闭回路，其中X表示X中的变量个数。,我们从下面的例子来说明如何选取一个基本可行解。,例8.3 给定运输问题如表8.11所示，表中左上角的数字为单位运价Cij。易见，本例是产销平衡的即。,表8.11,32,现采用“最小元素法”求一基本可行解。单位运价最小的为C33=1，令x33=mina3,b3=4,并令x13=x23=0（销地3已满足），相应格打“”。产地3已运出4单位，将产量改为剩余产量3。剩余表中单位运价最小的为C1

25、1=2（或C34=2），令x11=min a1,b1=2,并令x21=x31=0，相应格打“”，a1改为剩余产量1，直至全部产品分配完毕。注意到除最后一次分配外每次只能对一行或一列找“”，表示某销地已满足或某产地产品已分配完（当两者同时成立时只能打“”行或列之一，将剩余需求量或产量记为0，此时基本可行基是退化的）。容易证明：这样分配共选出了m+n-1个变量，且这些变量的集合不含闭回路，从而构成一个基本可行解。当每一基变量xij选取时i产地的剩余商品量与j销地的剩余需求量总不相等，选出的基本可行解是非退化的。,初始基本可行解也可按其他方式选取，如“左上角法”等，其方法与原理是类似的，左上角法每次

26、选取剩余表格中位于最左上角的变量，其余均相同。,33,三、最优性判别,类似单纯形法，可计算非基变量的检验数，存在多种求检验数的方法（求得的结果是相同的），下面介绍计算简便且计算量也较小的“位势法”。引入m+n个量（被称为位势）u1，um；u1，un。对每一变量xij，引入rij,令xij=ij-ui-vj(事实上，这一公式与单纯形法求检验数的公式是相同的)。对基变量xij，令rij=0，得到Cijuivj=0(xij为基变量)（8.10),齐次线性方程组（8.10）共有m+n个独立方程，但含有m+n个变量。任取一变量，例如u1作为自由变量，便可解出方程组。容易看出，u1的取值不同虽会改变位势的

27、取值但不会改变非基变量的检验数。为方便起见，只要令u1即可。事实上，我们甚至不必去解方程组（8.10），而只需令u1，对所有基变量令uivjcij，即=ij-ui-vj，在表上逐次求出所有位势，进而再对非基变量xij计算其检验数rij=ij-ui-vj,34,例如，对表8.11中取定的基，我们求出位势及非基变量的检验数，列于表8.12中，表中不带圈的数为基变量取值，带圈的数为非基变量检验数，右上角的数为单位运价ij。,利用线性代数知识可以证明下列各定理(证明从略)：定理8.5 任取一非基变量，将其加入基变量集合中，则在所得变量集合中存在唯一的闭回路。易见闭回路中含有偶数个变量，若 令进基，令=

28、，为保持平衡条件，位于偶数位置的变量 必须减少，而位于奇数位置的变量 则必须增加（注：）。,表8.12,35,定理8.6 设 是非基变量 与基变量集合的并集中唯一的闭回路，若令=并在闭回路上调整基变量取值使之平衡，得一可行解x，则x处的目标值与原基本可行解上的目标值之差为。,根据定理8.6，若存在检验数 的非基变量，取进基（取正值）并令（8.12）则原取值为的位于偶数位置的基变量退基，得到一新的基本可行解，其目标值减少。,定理8.7 设 为（8.9）的一个基本可行解，若x0所有非基变量的检验数均非负，则x0必为（8.9）的一个最优解。当x0非退化时，此条件还是必要的。,证明 由定理8.6知，当

29、x0所有非基变量的检验数均非负时，任一非基变量进基均不会使目标值减小，由于（8.9）是一线性规划，此性质表明x0已为最优基本可行解。反之，则只要令具有负检验数的非基变量进基即可。,36,综上所述，康希表上作业法可如下操作：,（步1）按最小元素法（或右上角法等）求一初始基本可行解。,（步2）按（8.10）求出位势ui,j（i=1,m;j=1,n）。进而按（8.11）求出非变量的检验数rij。若一切rij0，则已求得一最优解。,（步3）任取一0，找出进基后形成的唯一闭回路。在找出的闭回路上调整，按（8.12）取，得出新的基本可行解，返回步2。直至找到最优解。,37,对于例8.3，表8.12已给出非

30、基变量的检验数。因r230，令x23进基，得闭回路x23,x24,x34,x33取=min x24,x33=2，调整后得一新的基本可行解。求出新的基本可行解、对应的位势及非基变量检验数，列成表8.13。,表8.13,现在，非基变量检验数均已非负，故已求得最优解：x11=2，x14=1，x22=3，x23=2，x33=2，x34=5，其余=0（非基变量）。若运输问题是产销不平衡的，则应先将其转化为产销平衡的，然后再求解。例如，若产大于销，可虚设一销地（剩余产量存贮），将单位运价取为零即可。,38,一、指派问题的数学模型,8.3 指派问题,例8.4 拟分配n人去干n项工作，每人干且仅干一项工作，若

31、分配第i人去干第j项工作，需化费Cij单位时间，问应如何分配工作才能使工人化费的总时间最少？,容易看出，要给出一个指派问题的实例，只需给出矩阵C=（Cij）,C被称为指派问题的系数矩阵。引入变量xij，若分配i干j工作，则取xij=1，否则则取xij=0。上述指派问题的数学模型为 S.t（8.13）xij=0或1,39,（8.13）的可行解既可以用一个矩阵表示，其每行每列均有且只有一个元素为1，其余元素均为0，也可以用1,n中的一个置换表示。,（8.13）的变量只能取0或1，从而是一个01规划问题。下一章将指出，一般的01规划问题的求解极为困难。但指派问题（8.13）并不难解，其约束方程组的系

32、数矩阵十分特殊（被称为全单位模矩阵或全幺模矩阵，其各阶非零子式均为1），其非负可行解的分量只能取0或1，故约束“xij=0或1”可改写为xij0而不改变其解。此时，（8.13）被转化为一个特殊的运输问题，其中m=n,ai=bi=1。,40,二、求解指派问题的匈牙利算法,由于指派问题的特殊性，又存在着由匈牙利数学家Konig提出的更为简便的解法匈牙利算法。算法主要依据以下事实：如果将系数矩阵C=（Cij）中一行（或一列）的每一元素都加上或减去同一个数，得到一个新矩阵B=（bij），则以C和B为系数矩阵的指派问题具有相同的最优指派。,例8.5 求解指派问题，其系数矩阵为,41,解 将第一行元素减去

33、此行中的最小元素15，同样，第二行元素减去17，第三行元素减去17，最后一行的元素减去16，得,再将第3列元素各减去1，得,以B2为系数矩阵的指派问题有最优指派由等价性，它也是例2的最优指派。有时问题会稍复杂一些，见下面的例8.6,42,例8.6 求解下面的系数矩阵为C的指派问题,解：先作等价变换如下,容易看出，从变换后的矩阵中只能选出四个位于不同行不同列的零元素，但n=5，最优指派还无法看出。此时等价变换还可进行下去。,43,步骤如下：,（1）对未选出0元素的行打；（2）对行中0元素所在列打；（3）对列中选中的0元素所在行打；重复（2）、（3）直到无法再打为止。,可以证明，若用直线划没有打的

34、行与打的列，就得到了能够复盖住矩阵中所有零元素的最少条数的直线集合。找出未复盖的元素中的最小者，令行元素减去此数，列元素加上此数，则原先选中的0元素不变，而未复盖元素中至少有一个已转变为0，且新矩阵的指派问题与原问题也等价。上述过程可反复采用，直到能选出足够的0元素为至。例如，对例8.6变换后的矩阵再变换，第三行、第五行元素减去 2，第一列元素加上 2，得,现在已可看出，最优指派为,（注：相应定理从略）,44,8.4 计算复杂性问题的提出,离散模型的实质是从有限多个候选值中选取一个最佳取值。例如8.1中的线性规划，虽然可行解一般有无穷多个，但线性规划基本定理指出，只要存在有限最优解，就必可在基

35、本可行解中找到，而基本可行解总共只有有限多个。Dantzig的单纯形法正是利用了这一性质，在基本可行解中选取最优解。,在有限多个候选者中选择其中之一，通常不存在连续模型中备受关注的解的存在性问题，因为有限个值中选取最佳取值，解的存在性不成问题。解的唯一性问题也不再被人们重视。例如，在用单纯形法求得一最优基本可行解后，我们认为问题已被解出，它是否还有其他的最优解，我们一般不再感兴趣。,45,也许有人会想，从有限种可能方案中挑选一种，这总是比较容易的。如果一一比较下去，最后总可以得出满意的结果。然而，事实并非如此简单，关键在于问题的规模和求解时的计算量。随着电子计算机的出现，人们对问题可解性的认识

36、在观念上发生了根本改变。一个在理论上可解的问题如果在实际求解时需要化费不合理的时间（如几百年、几千年甚至更长时间），我们不能心安理得地认为它已被解决，而应当去寻找更好、更实用的算法。,从本章开始，我们将区分问题与问题的实例。由于篇幅的限止，我们不准备给出严格的定义。问题是一类实际问题的数学模型的总称，如线性规划问题、运输问题、指派问题等等。在一个问题中一般总包含着若干个参数，给定这些参数，就给出了这一问题的一个实例。容易想到，单纯形法解一个有几百个变量的线性规划实例一般总比解一个只有几十个变量的线性规划实例化费更多的时间。因而，在估算一个算法的计算量时显然应当同时考虑到实例的规模。严格地讲，一

37、个实例的规模应当用其输入数的二进制长度的总和来表示。但粗略地讲，变量的多少常常也能在一定程度上反映出实例规模的大小。在本书中，如无特别说明，我们将以变量个数来表示实例的规模，虽然这样做是不够严格的，但比较方便。,46,比较算法的好坏，从不同的角度出发，有各种不同的标准。在这里，我们仅就算法的计算速度作一个十分粗略的比较。,例8.7（整理问题）给定n个实数a1,a2,an，要求将它整理成由小到大排列（或由大到小排列）的顺序：b1,b2,bn，b1 b2 bn。,（算法1）取出a1,a2,an中的最小者，令其为b1。从a1,a2,an中去除b1，在余下的n1个数中选出最小者，令其为b2，直至得到b

38、1,b2,bn。容易看出，为了排出b1,b2,bn，算法工作了 次比较。,（算法2）步0 b1a1 步1 设已有b1,bk(1kn)，将按两分法比较的方式把ak+1排入其中：若b1biak+1bi+1bk，令（b1,b2,bk,bk+1）（b1,bi,ak+1,bi+1,bk）。若k+1n，令k k+1，返回步1。,47,我们来分析一下算法2的计算量：,排出b1不必作比较，排出b2只需作一次比较，一般，在排ak+1时，设2r1k2r，则只需作r次比较即可将ak+1安排在它应排的位置上。例如在排a8时，k=7，先和b4比，若a8b4，可再和b6比（若a8b4则和b2比），易见，只要比3次即可排入

39、a8，由于rlog2k+1，算法的总经较次数不超过,令，设计算机每秒可作C次比较，则算法1与算法2整理a1,a2,an所用的时间分别为 若n=100万，C=100万次/秒，则t15.8天，而t220秒。可见在较大规模的整理问题时，算法2明显优于算法1。,48,现设一台每小时能作M次运算的计算机，并设求解某一问题已有了两个不同的算法。算法A对规模为n的实例约需作n2次运算而算法B则约需作2n次运算。于是，运用算法A在一小时内可解一个规模为 的实例，而算法B则只能解一个规模为log2M的实例。两者的差别究竟有多大呢？让我们来对比一下。假如计算机每秒可作100万次运算，则算法A一小时大约可解一个规模

40、为n=60000的实例，而算法B在一小时内只能解一个规模 的实例且n每增加1，算法B求解时所化的时间就将增加1倍。例如算法B求解一个n=50的实例将连续运算357年多。,现设计算速度提高了 100倍，这对计算机来讲已是一个相当大的改进。此时算法A可解问题的规模增大了10倍，而算法B可解问题的规模只增加了log21007。前者可解问题的规模成倍成倍地增加而后者则几乎没有什么改变，今天无法求解的问题将来也很少有希望解决。,由于这一原因，人们对算法作了如下的分类：,49,（多项式算法）设A是求解某一问题D的一个算法，对D的一个规模为n的实例，用fA(D,n)表示用算法A求解这一实例所作的初等运算的次

41、数。若存在一个多项式P(n)和一个正整数N，当nN时总有 fA(D,n)P(n)（不论求解D的怎样的实例，只要其规模为n），则称算法A为求解问题D的一个多项式时间算法，简称多项式算法。,定义8.4,定义8.5,（指数算法）设B是求解某一问题D的一个算法，f B(D,n)为用算法B求解D的一个规模为n的实例时所用的初等运算次数，若存在一个常数k0，对任意正整数N，总可找到一个大于N的正整数n及D的一个规模为n的实例，对这一实例有fB(D,n)=O(2kn)，则称B为求解问题D的一个指数算法。,多项式算法被称为是“好”的算法即所谓有效算法，而指数算法则一般被认为是“坏”算法，因为它只能求解规模极小

42、的实例。,50,下面的表8-14列出了在规模大约为n时各类算法的计算量，而表8-15则反映了当计算机速度提高10倍、100倍时，各类算法在1小时内可求解的问题的模型的增长情况，（前三个是多项式时间的，后两个是指数时间的）,表8-14 几个多项式和指数时间复杂性函数增长情况,51,表8-15 1小时内可解的问题实例的规模,由定义8.4知4n2与2n2都是O(n2)，nlogn+3n是O(nlogn)，我们在以后分析时间复杂性函数时也往往忽略常系数和增长速度较慢的项，因为前者可通过提高计算机速度来提高效率，而后者增长速度最快的项才是决定效率的关键因素。,52,一、P类与NP类，NP完全性,这样看来

43、，对一个问题，只有在找到求解它的多项式算法后我们才能较为放心。假如我们遇到了一个规模很大的实例今天无法求解它，但我们仍可寄希望于将来。通过计算机的改进，在将来求解它仍然是可能的。而对指数算法，你就不会有这种信心。,然而，十分可惜的是，对于许许多多具有十分广泛应用价值的离散问题，人们至今尚未找到求解它们的有效算法。,53,定义8.6（P问题与P类）存在多项式算法的问题被称为P问题，所有P问题构成的问题类被称为P类，简记为P。,根据定义，整理问题是一个P问题，存在求解它的O（nlog2n）算法。在下一章中，我们还将讨论一些P问题并介绍求解它们的有效算法。我们将会发现，P问题从某种意义上讲是性质较好

44、从而较易求解的问题。,由于线性规划在现实生活中有着极其广泛的应用，人们自然会问：单纯形法是不是有效算法？线性规划是不是P问题？,1972年，Klee和Minty以下面的著名例子证明单纯形法是指数算法而不是多项式算法。例8.8max xnS.t x11xj1xj1xj1，（j=2,n）其中是一个充分小的正数。,54,图8.2给出了n=3时的可行域，它是三维空间中单位立方体的一个微小摄动。在确定的进基原则下（如检验数最负者进基），若以x0=（,2,3）为初始基本可行解，在单纯形法迭代改进时，将经过每一基本可行解，最终到达最优解x*=（,2,13），其路径已用箭线画在图上，故迭代中共经过23个极点。

45、对于规模为n的一般问题的实例，迭代步数为2n，故单纯形法为指数算法。,55,单纯形法自1947年被提出以来经历了无数次的考验，被证明是一种实用效果极佳的算法。但Klee的例子又无可争辨地证明了它事实上是一个指数算法，这两者是否予盾呢？其实两者并不矛盾。指数算法的定义规定，只要存在着fB(D,n)=O(2kn)的例子，算法B就是指数算法，它并没有涉及到我们遇到这样的例子的机会究竟有多大。几十年来，人们在实际应用单纯形法时，一次也没有碰到过例8.8那样的情况，（Klee的例子是人为构造的），可以证明，遇到例8.8这样的例子的概率为0。于是，人们自然会从另一角度算法的平均执行情况的角度去评价一个算法

46、，有兴趣的读者可以参阅相应的书籍与文献。,既然单纯形法是指数算法，那么是否存在求解线性规划问题的多项式算法呢？或者换句话讲，线性规划问题是P问题吗？,在长达七年的时间里这一引人注目的问题一直悬而未决，存在着两种完全对立的观点。直到1979年，前苏联的数学家L.G.Khachina提出求解线性规划问题的椭球算法，才证明线性规划是一个P问题。他的方法与以前的方法截然不同，甚至完全不用线性规划基本定理，以意想不到的方式解决了这个较长时间解决不了的难题，在当时引起了全球性的轰动。,对椭球算法有兴趣的读者可以参阅C.H.Papadimitriou等著的“组合最优化，算法和复杂性”一书第八章或姚恩瑜等编著

47、的“数学规划与组合优化”一书第六章。,56,椭球算法虽然是多项式算法，但其实用效果却赶不上单纯形法，这一事实又吸引众多数学家去寻找实用效果也比单纯形法好的有效算法。1984年，美国贝尔实验室的数学家Karmarkar提出了以他名字命名的算法，其实用效果也相当不错。寻找实用效果更好的求解线性规划的有效算法，至今仍是一个十分活跃的研究课题。,对于众多至今尚未发现多项式算法的离散问题，是否也会在将来的某一天突然找到有效算法呢？至今对其中的大多数问题，数学家们目前抱有怀疑的态度，即认为P类之外存在着非P问题。由于计算机输入、输出及运算中使用的数均为有理数，我们可以假定问题的参数取值为有理数，甚至，等价

48、地，可假定其取值均为整数。此外，问题也可等价地描述为判定问题，即解答时只需回答“是”或“否”的问题。,57,例8.9（哈密顿圈问题简记HC）给定一个图G=（V，E），其中V为顶点集合，E为图的边集。问G中是否存在着哈密顿圈。,所谓哈密顿圈是指由一个顶点出发，经过所有顶点一次而回到出发点的闭回路。哈密顿圈问题是一个判定问题，因为它只要求回答是或者否。,非判定问题可以转化为等价的判定问题，所谓等价是指是否存在多项式算法这一意义下的等价。为此，我们需要用到以下多项式时间转化的概念。,定义8.7（多项式转化）设D1、D2为两个判定问题，若存在求解两问题的算法 A1和A2，其中求解D2的算法A2是多项式

49、次地调用求解D1的算法A1而实现的，则称问题D2可以多项式转化为D1，简记为D2D1,容易看出，若D2可多项式转化为D1，又D1是P问题，则D2也是P问题，因为求解D2的有效算法可以通过多项式次地以求解D1的有效算法为子程度调用而作出，（从某种意义上讲，D1不比D2容易）。,58,例8.10（旅行商问题简记TSP）设有n个城市1,2,n，城i到城j的距离 Cij已知（注：Cij与Cji可以不相等），某商人准备从城1出发，去其余各城推销商品，若所有城市均必需去且仅去一次，最后返回出发城市，问该商人应如何安排旅行，才能使所走的总路程最短。,TSP实际上是要求从一有向图G=（V，A）中寻找出一条具有

50、最小总长度的HC，其中V=1,2,n，A=(i,j)|i,j V,ij，作有向图的原因是Cij与Cji可能不相等。如果Cij为由城i到城j的旅费，则TSP要求的是一个具有最小费用的HC。,与TSP等价的判定问题可如下叙述：给定一正整数K，问是否存在总长度不超过K的HC。TSP与其相应的判定问题是等价的，一方面，若存在求解相应判定问题的算法A，我们可以先找出G的HC总长度的一个上界（例如最大边长度的n倍），记为K。然后反复对K使用两分法并调用判定问题的算法A以判定是否存在总长不超过K的HC，调用的次数不超过输入数据总长度的一个多项式界。另一方面，若存在TSP的一个算法A，在求得G的具有最小总长度