线性规划的对偶问题.ppt

《线性规划的对偶问题.ppt》由会员分享，可在线阅读，更多相关《线性规划的对偶问题.ppt（99页珍藏版）》请在三一办公上搜索。

1、第四章 线性规划的对偶问题 4.1 对称的对偶规划 在线性规划早期发展中,对偶问题是一项重要的发现。早在1928著名数学家在研究对策理论时就已经有原始和对偶的思想。对偶理论有着重要的应用。首先是在原始和对偶两个线性规划中求解任一规划时，会自动地给出另一个规划的最优解。当对偶问题比原问题有较少分量时，求解对偶问题比求解原始问题方便得多。对偶理论另一个应用是Lemke，1954提出的对偶单纯形法。对偶理论对影子价值的分析在经济理论上有着重要作用。,一 对偶问题的提出:例:某厂生产三种畅销产品,每台产品需四种资源,具体数据表：,问怎样安排生产,效益最大？,设决策变量 得出模型:,现在工厂考虑不进行生

2、产而把全部可利用的资源都让给其它企业单位,但又希望给这些资源订一个合理价格,既使别的单位愿意买,又使工厂能得到生产这些产品时可以得到的最大效益.,这就需建立另一个线性规划模型,设 代表销售这四种资源的价格，买方希望总售价尽可能低,即：,原来生产产品A每台需用的资源按现在的单价计算,每台收益为:,易见,后一个问题的数据完全由另一问题数据确定.对每一个线性规划问题都伴随有另一个线性规划问题,即：,都伴随一个对偶规划(LD)。,定义1:对应着每一个(LP),都存在着线性规划问题(LD),其中 是m维行向量,称(LP)为原始线性规划，称(LD)为(LP)的对偶线性规划。,因此得到的线性规划问题模型如下

3、:,下面进一步探讨(LP)与(LD)之间的关系：,其对偶问题:(LD),(LP),用下表表示二者之间关系,更为清楚:,对偶线性规划问题一定要有一对线性规划问题，没有一个“对偶”的线性规划问题，也就无所谓“原始线性规划问题”如果没有原始线性规划问题，也就无所谓对偶线性规划问题了。,线性规划的对偶关系具有“对合”性质,什么是对合性质呢?,可见，（LP）与（LP）是同一类型的问题，依照定义1，又可写出（LP）的对偶线性规划。记为（LD）（LD）,（LD）又可等价地写成：,既（LD）就是前面的（LP）这表明，对于一个给定的（LP）可以根据对偶规则写出（LD）；而对于新问题（LD），又可根据对偶规则写出

4、其对偶。而此对偶又刚好回到原问题本身。即（LP）的对偶是（LD），（LD）的对偶是（LP）。,这就是线性规划对偶关系的“对合”性质。这样我们可以把一个相互对偶的线性规则中任何一个称为原问题，而把另一个称为对偶问题，称它们互为对偶。下面我们举例说明怎样由一个规则写出其对偶问题。,解：因目标函数最小化，故先把约束条件都写成“”形式：,由于这是个（LD）问题。故其对偶是（LP）问题。,对偶函数目标系数由给出的（LD）约束右端列向量（-7，14，3)可得，对偶的约束方程右端常数，向量由（LD）的目标函数 系数向量（5，-6，7，1）可得，从而写出（LP）问题：,所以把它们称为一对对称的对偶规划。下面来

5、讨论它们的关系。,二（LP）、（LD）的对偶定理 定理1 对于（LP）的任意可行解x 及（LD）的任意可行解 u 有 c x u b。证：因 x、u满足：A x b,x0（1）u Ac u0（2）用u左乘（1），x右乘（2）的：c xu Axu b 故c xu b。,由于（LP）与（LD）形式上是等价的,定理1 给出了（LP）（LD）这对互为对偶的线性规问题目标函数的一个界限。若（LP）有可行解x，则（LD）的目标值u b就有了下界c x；反之，若（LD）有可行解u，则（LP）的目标值c x就有了上界u b。推论：若（LP）有无界解，则（LD）无可行解。若（LD）有无界解，则（LP）无可行解。

6、证：只证前面，后面一样，反证法。若（LP）有无界解，而（LD）有可行解u0，而根据定理一，对（LP）的任何可行解x，c xu0 b 这与（LP）目标函数无上界矛盾。注：这个推论的逆不一定成立。即一对对偶问题中有一个无可行解，不能判定另一个有无 界解。,例：（LP）,（LD）,上面（LP）无可行解，而（LD）并没有无界解，而是无可行解。,定理2：,证明：,证明：,推论2,这样（LP）就化成了等价的（*）问题。由于假定（LP）有最优解，则（*）亦有最优解。,有,定理4,证明：,证毕,由此可得如下松紧关系：,对偶松紧关系又称为互补松弛条件。下面通过一个例子说明对偶松弛关系：,例,（LP）,引进松弛变

7、量，（LP）化为：,得（LP）的最优解,又,可见，用单纯形法迭代的到（LP)最优解时，对偶(LD)的 最优解可以直接从（LD)的最优单纯形到表上得到。在问题的松弛变量（y1，y2)的检验数就是对偶(LD)的最优解。这个结果对一般情形也成立。下面予以证明。,用单纯形求解。得到一个判别数全非负的最优基本解。对应松弛变量yi的判别数 又 yi在目标函数中系数 pn+i为第i分量为1的m维单位列向量。(i=1m)且,一对相互对偶的线性规划（LP）（LD）之间解的可能构形有哪些？这可用对偶定理来回答，因为（LP）（LD）都单独分别有三种可能：,综合以上对偶定理知：（LP）（LD）之间只可能有下面三种情形

8、：（1）两者都有最优解。（2）两者都没有可行解。（3）一个问题有无界解，另一个问题没有可行解。其他情形都不可能出现了，因为，一个问题有最优解，另一个问题有无界解，或一个问题有最优解，另一个问题无可行解，将与定理3矛盾。如果两个问题都有无界解，将与推论1矛盾。,4.2 非对称及混合型对偶规划,一（SLP）的对偶规划：,在单纯形法中，我们总是先将（LP）问题化为（SLP）求解，因此，有必要研究（SLP）的对偶规划问题。,先将（SLP）：,改写成（LP）,再根据（LP）的对偶定义写出其对偶规划：,(LD),这就是(SLP)的对偶线性规划，这一线性规划问题还可进一步简化。引进m维行向量u：,那么u就不

9、一定有非负约束了。于是将上面（LD)写成：,（SLD),u无限制,(LP)（亦即(SLP)的对偶是(LD)亦即(SLD)。而(LP)与(LD)是对称对偶规划，具有对合性。即(LD)也就是(SLD)的对偶是(LP)(亦即(SLP)）。故知:(SLP)与(SLD)这对对偶规划也具有对合性质的。,二(SLP)、(SLD)的对偶定理：下面我们考察前面已证明的关于(LP)(LD)的一些定理，考虑是否对(SLP)(SLD)也成立。定理1 对(SLP)的任意可行解x，(SLD)的任意可行解u。有：,证明：,推论1：若(SLP)有无界解，则(SLD)无可行解；若(SLD)有无界解，则(SLP)无可行解。其逆不

10、成立。,定理3：若(SLP),(SLD)中一个有最优解，则另一个也有 最优解，并且两者的目标函数值相等。,推论2：若x*，u*分别是(SLP),(SLD)的可行解，且cx*=u*b。则x*,u*分别是(SLP),(SLD)的最优解。（这些结论的证明与(LP),(LD)类似结论证明一样）,定理2：对偶(SLP),(SLD)有最优解 两者同时有可行解。,根据第一节的定理3知，(LP)即(SLP)有最优解。故得证。,并且目标值根据上面的推论2即可知：因此我们证明了若(SLP)有最优解，则(SLD)必有最优解。反之，若(SLD)有最优解u*,则,是(SLD)的最优解。,我们由上面定理证明过程可见：若B

11、*是(SLP)的最优基，那么单纯乘子 就是(SLD)的最优解。因此我们定义：定义2：对于(SLP)的一个基B，若单纯到乘子 为对 偶(SLD)的可行解，则称B为对偶可行基。若 为对偶(SLD)的最优解，则称B为对偶最优基。上面定理3的证明表明：(SLP)的最优基B*必是对偶最优基。这个结论在后面的对偶单纯形法迭代中将是十分重要。,定理4：(SLP),(SLD)的可行解x*，u*分别是最优解,我们下面再细看一下这里的松弛条件：,从而得出如下的松紧关系：（1）若(SLP)有最优解x*，使得对指标j满足x*j0，则称j对（SLD)是松的。对(SLD)的一切最优解u*就必有u*pj=cj称j对(SLD

12、)是紧的。（2）若(SLD)有最优解u*,使前对指标j满足u*pjcj.则称j对(SLD)是松的。对(SLP)的一切最优解x*就必有xj*=0，称j对(SLP)是紧的。从上述对偶定理知：(SLP)，(SLD)这一对对偶规划的解之间也有下面三种情形：（1）两者都有最优解。（2）两者都没有可行解。（3）其中一个有无界解，而另一个无可行解。除此之外，不能再有其他的形式了。其理由与4.1一样。,上面我们已经讨论过了对称及非对称型对偶规划。但实际问 题中会出现两种情形共存的问题，即所谓混合型的对称规划问题。定义:对于一个线形规划问题,若它的约束包括两个部分,一部分的约束是方程式，另一部分约束是不等式(或

13、),其变量也分两类,其一类有非负限制,另一类没有限制，称这种类型的问题为混合型问题。考虑混合型问题：,(I),三 混合型对偶线形规划,.,根据上面求混合型对偶规划过程，我们总结出混合型对偶的特点如下：（对偶表）：,例：写出下面线性规划的对偶规划：,（1）,（2）,注意：（1）写出的对偶问题，其系数矩阵必须是原问题的系数矩阵的转置。（2）写出对偶的前一步，问题统一化形式是必须的，否则容易出错。,例2 用对偶定理证明，下面两个问题不能同时成立：（1）,(2),证明：构造一对对偶线性规划问题：,(LD),（LP),（LP),故（1）成立时，（2）不可能也成立。反之，若（2）成立时，同样不可能有（1）

14、成立。,若 有解。即(SLP)有可行解。而对此(SLP),其任意可行解也是最优解。根据对偶定理3，知(SLD)也有最优解u，反之，若 且对满足 的任意u，有表明（SLD)有可行解，且目标值有下界。因而此(SLD)有最优解。根据对偶定理3，即可知：(SLP)也有最优解x，满足：,例5：利用对偶定理证明Farkas引理：有解 有解，且对满足 的任意u必有。其中A是 矩阵，b是m维列向量。证明：构造一对对偶规划向量如下：,（LP),(SLP),(LD),SLD),从而,反之，若存在u，使c表成（*）式。则（LP)有可行解。即（SLP)有可行解。又已设(LD)有可行解。即(SLP)有可行解根据对偶定理

15、2。即知：(SLD),(SLP)均有最优解。从而（LD)有最优解。设上面A1.Am是A的行向量。,我们将原来的一对（LP),(LD)等价的化为如上所示的一对(SLP),(SLD)。这样(LD)有最优解等价与(SLD)有最优解。有根据对偶定理3（SLD)有最优解等价于（SLP)有最优解。而（SLP)有最优解等价与(LP)有最优解。因此，若（LD)有最优解等价于(LP)有最优解u。从而,4.3 对偶单纯形法,一 什么是对偶单纯形法,沿这一途径求得(SLP)的基本最优基的方法，称为对偶单纯形法。,二 对偶单纯形法的迭代原理 用对偶单纯形法求解(SLP)，起始于一个对偶可行基B：,与单纯形法一样，对偶

16、单纯形法也要找出一个枢轴元 来进行旋转变换，因而我们可以直接用单纯形法中的逐次迭代公式即：,2 入基、出基变量选择：单纯形法中先定入基变量 即先定k，后定出基变量，即后定l;而对偶变单纯形法中，先定出基变量l，后定入基变量k.,3 表格形式中数据：单纯形法中，总是非负的，逐次迭代，减少检验数行中负元素的个数；对偶单纯形法，检验数行中的元素总是非负的，逐次迭代，减少基变量 取值中负元素的个数。,这样，由于单纯形法可以在表上进行，对偶单纯形法也可以在表上进行。当然，两者并不是完全相同的，而有各自的特点。我们分三点讨论：1 枢轴选择：单纯形法中要求，对偶单纯形法中要求,当我们了解了对偶单纯形法和单纯

17、形法之间这些关系以后，我们就可以具体研究对偶单纯形法。考虑以下几个问题：,（2）怎样选取枢轴元 为使变换后的新变量 不再取负值，应使,(3)入基变换 的选取：因对偶单纯形法是通过对偶可行基的迭代，所以迭代后所有检验数非负。即 根据迭代公式 因 时 因此选取 则确定 为入基变量.,（4）目标函数迭代公式：由于对偶单纯形法的迭代并不是在（SLP)的可行基上进行的，因此考虑(SLP)的目标函数迭代没意义，而应考虑对偶目标值的迭代公式。若迭代后对偶可行基为B,故 是对偶可行解。设对偶目标值为,则,设迭代后对偶可行基为，对偶目标值为,则：,与 做内积：其中 是新基变量的取值,根据单纯形法的迭代公式：（3

18、.2.13）,可见，对偶单纯形法迭代后必将使对偶目标值减少。剩下的问题就是要考虑对偶单纯形法的终止准则。,因,定理 设B是(SLP）的一个基（或是一个对偶可行基），且 中有负分量，即 若第s行中的所有系数 则(SLP)无可行解。,若对偶单纯形法中基变换，则B是最优基，得到最优解。终止。,因此，对偶单纯形法的终止准则是：,定义：若对偶可行基B对应的所有非基变量判别数，则称对偶可行解 是非退化的对偶可行解。否则是退化的。,这表明每迭代一次对偶目标函数值必然减少，所以迭代过程中对偶可行基不会重复出现，而对偶可行基的数目是有界的。对偶单纯形法是在对偶可行基上进行的，因此必须在有限步内完成。否则，若迭代

19、过程是无限的，就必然会出现两次迭代有同一个对偶可行基的情形。此时，它们对应的对偶单纯形法目标值相等。这是不可能的。这样就证明了对偶单纯形法经有限次迭代后或者判断(SLP)无可行解，或者得到(SLP)的最伏基本可行解，因而对于对偶可行解非退化的情形，对偶单纯形法必在有限步内终止。,步骤2 如有：（否则（SLP）无可行解，迭代中止。）可定出k:,步骤以为枢轴元进行枢轴运算，用公式,三 对偶单纯形法的迭代步骤设已知一个对偶可行基B对应 及其对应单纯形表，表中判别数步骤若，则B为最优基，求出了(SLP)的基本最优解，迭代终止。否则令 定出l,解：引进剩余变量 则转化为,例1 用对偶单纯形法求解：,而基

20、变量xB=(-5,-6)T,可见B 是对偶可行基.进行对偶单纯形法迭代的原始表如下：,为使基变量对应表中的列向量构成基矩阵，已经将表中的两行元素都乘-1进行了转化。,故判别数,第一步 求l使之满足：确定l=2,第一步：求l,使，定出 l=1,此表中仍有基变换取负值，返回第一步,第三步 以 为枢轴元进行旋转变换，入基，出基，设新单纯形表如下,此表中基变量1，2均为正值，故得到了基本最优解x=(1,2,0,0,0)根据对偶定理知：(SLP)的目标最优值与对偶目标最优值相等。因此原用的最优目标值为,第三步：以 为枢轴元进行枢轴运算设新单纯形表如下：,四 初始对偶可行基：以上我们的对偶单纯形法均是在设

21、有了一个对偶可行基的基础上进行的，因此如何求出一个初始对偶可行基，使对偶单纯形法可以进行是一个重要问题。下面介绍两种求初始对偶可行基的方法：1.目标函数系数全为负数的剩余变量方法：,b的分量可正可负。引进剩余变量y。将问题转化为：,其中 I是 m阶单位阵。Y为m维列向量。取基阵B=I 这时，因此有：从而 就是对偶可行解，这样就得到了一个初始对偶可行基，然后就可以采用对偶单纯形法求解原问题。,先将约束AX=b化为等价形式 得到一个与(SLP)等价的问题：,2.人工约束方法：假定B是（SLP)的一个基，B既不是可行基，也不是对偶可行基。在这种情形下怎样进行对偶单纯形法迭代求解原问题呢？,上面，我们

22、举的例就是目标函数系数全为负的剩余变量解法。因此不再举例说明。,其中M为一个充分大的正数(注意：有改进的方法：只将判别数小于0的非基变量相加），得到新问题如下,我们增加一个人工变量 和一个约束:,其中有m+1个等式约束和n+1个变量。称之为问题（I）的扩充问题，易见 就是（II)的一组基变量。设（I)对应基B的判别数为 由判别数定义有：,再设（II)在基变量 下对应判别数为，因 在(II)的目标函数中的系数为0，故,因B既不是(I)的可行基，也不是对偶可行基。所以(I)中的 有负值，判别数 中也有负值。从而由上面的推导知(II)的基变量所对应的基既不是(II)的可行基，也不是对偶可行基。这是因

23、为：这一组基变量取值为，M,其中有负值，判别数 其中也有负值。,下面我们证明：(II)中以 为出基变量，为入基变量做枢轴运算后，扩充问题(II)的基变量 就对应了一个对偶可行基。其中k要求满足：在(II)中 是第m+1个基变量，以 为出基变量，即表明l=m+1.而这一行的约束为,即当 是迭代前后的非基变量时，有：,枢轴运算后，为非基变量，检验数为：,新基变量 对应的判别数均为0。即,故有：,由于扩充问题(II)有对偶可行解，那么由对偶定理，(II)的目标函数有上界，因而扩充问题(II)不可能有无界解，那么利用对偶单纯形法求解扩充问题的只有两种可能结果：或者扩充问题无可行解，或者找到扩充问题的最

24、优解。下面讨论扩充问题与原问题的关系：.若扩充问题没有可行解，则原问题也没有可行解。,可见，（II)经过上面的枢轴运算，所得新基对应的判别数全部非负，即，因而(II)有了初始对偶可行基，从而可以采用对偶单纯形法求解扩充问题(II)了。,证明：（反证法）若(II)无可行解，而（I)有可行解则是扩充问题(II)的可行解，矛盾。故成立。,.若扩充问题有最优解是原来的可行解。用代入目标函数后，若 与M无关,则是原问题的最优解。,例：用人工约束的方法求解下面问题：,要求从基开始。,解：,扩充问题如下:,列出扩充问题单纯形表如下：,以人工变量 为出基变量，为入基变量，因为,作枢轴运算得新表如下：,此表中所

25、有检验数（非负）因而已得到扩充问题的对偶可行基，基变量 但此基非可行基，因基变量，在此表基础上进行对偶单纯形迭代如下：选取l=2，（因只有 选取k=5,(因,进行枢轴运算的新表如下：,例3 求线性规划问题：,此表中检验数均非负，基变量取值均非负。故为扩充问题的最优表。这样我们得到扩充问题的最优解,X1,可行域,X2,事实上，将原问题的约束条件中松弛变量x 3 x 4 去掉，并在平面上画出其可行域，易知：原问题的可行域无界，其中含有半直线；x2=3，x2=2。在其上目标值f=x1-3趋于正无穷，当x1趋近正无穷时。同样说明目标函数在可行域上无上界，因而无最优解，*,4.4 对偶问题的经济意义-影

26、子价格,考虑以下一对对偶问题：,这表明如果右端常数项向量 b中某一常数项bi增加一个单位，则函数的最优值f*的变化量为ui*定义影子价格为约束条件常数项增加一个单位而产生的目标函数最优值的变化。因此，对偶变量ui表明了约束条件的影子价格。影子价格是针对某一具体的约束条件而言的。,而问题中所有其他数值不变，因此影子价格可以被理解为目标函数最优值对资源的一阶偏导。在求解线性规划时，影子价格可以很容易的从最优单纯形表格中得出：,在最优单纯形表中，就是对应约束条件的松弛变量的检验数值，下面我们举例说明影子价格分析与应用。例1，某工厂经理对该厂生产的两种产品用线性规划来确定最优的产量方案，根据产品的单位

27、产值和生产的三种资源供应限量，建立模型如下：,解：利用单纯形法解此问题，得其 初始表和最终表如下：,这说明最优生产方案是；第一种生产35件，第二 种生产10件，总产值：215。又从前面的分析知；松弛变量：x3 x 4 x5 的检验数对应着对偶问题的最优解，而这些数值就是这三种资源的影子价格,因此：,资源1的影子价格=u1=0,资源2的影子价格=u2=1,资源3的影子价格=u3=3,资源1的影子价格为0，说明增加这种资源不会增加总产值，实际上，如果把资源1由90增加到91，同样利用单纯形法可以得到最优表如下：,可见增加资源一不能增加总产值。而增加资源2 一个单位后，最优表如下：,这表明：增加一个

28、单位的资源2，最佳的生产方案为第一种产品为36件，第二种产品为9件，总产值由原来的215增加到216，即总产值增量为1。而有了影子价格，可以不必经上述的计算得出这些结论。如果资源1和2均无变化而增加资源3一个单位，因资源3的影子价格为u3=3，可知：总产值增量为3。注意：产品的种类没有改变而每种产品的数量却改变了。易验证：如果资源3增加一个单位，新的最优规划将是：第一种产品生产36件，第二 种产品生产12 件，总产值为218。影子价格说明了不同的资源对经济效益的影响。,在线性规划应用到经济问题中，对原始规划可以作这样的解释：变量可以理解为经济活动的水平，如产量，每个可行解表示某个生产水平，目标

29、函数可以理解为总的经济效益，系数C表示这种产品的售价。右端常数项b可以理解为可用资源的上限。而矩阵 A的系数可以理解为不同产品对各种资源的单位消耗。而线性规划求最优解就是在有限的资源环境下谋求最高收益。此时相应的对偶规划中的变量就是影子价格，由于影子价格指资源增加时对最优收益产生的影响，因此有时也称之为资源的边际产出或资源的机会成本。影子价格在经营管理中用处很多，一般可以提供以下信息：（以上例进行说明）,1 它能告诉管理人员那一种资源对增加经济效益最有利。如上例中三种资源的影子价格为（0，1，3），说明首先应考虑第三种资源的增加，以期望带来收益的增加量最大。2 它能告诉管理人员花多大代价来增加

30、资源才是合算的。如上例中第三种资源增加一个单位就能增加收益3，如果增加资源3的代价大于3就是不合算的。3 它告诉管理人员如何考虑新产品的价格。如某企业要生产一种新产品，如每件产品耗用这三中资源是（1，2，3）单位，则：新产品的定价是一定要大于（0，1，3）,才能增加公司收益，如售价低于11，生产就是不合算的。,4 它能使管理人员知道价格变动时哪种资源最为可贵，那种无关紧要。如上例中产品的售价不是（5，4）而是（5，5），则从单纯形表中可以算出影子价格由（0，1，3）改变为（对偶最优解为单纯形乘子）：,说明如第二种产品增加价格的话，资源3变得更“宝贵”了。,5 可以帮助分析工艺改变后对资源节约的

31、收益。如上例中工艺过程改进后，使第三种资源节约了2%，则带来了 经济收益为3 45 2%=2.7（3为影子价格，45为资源量，2%为节约百分比）,注意：（1）以上分析是有前提的，即资源变化时，最优解的基没有变化，具体的分析要结合下一章灵敏度分析来进行。（2）由于影子价格在经济管理中对收益能提供大量有益的信息，所以对偶理论中的影子价格的概念正日益受到管理人员的重视。（3）影子价格虽被定为一种价格，但还应对它有更为广义的理解，,影子价格是针对约束条件而言的（对应着对偶问题中的对偶变量的最优决策值，而对偶变量个数是由原始约束条件个数限制的），但并不是所有的约束条件都代表了资源的约束。例如上例还可以列入一个产量约束：两种产品的数量不超过市场上的需求量，这样的约束也有影子价格。如果这样的影子价格算出来比前几种的影子价格要高的话，则管理人员从中得到的信息应理解为：扩大销售量比增加资源能带来更大的经济效益。关于影子价格的更多应用请同学们 参考有关专门的经济管理参考书。*,