可行方向法梯度投影法课件.ppt

有约束优化问题,非线性优化问题,线性优化问题,非线性约束优化问题,线性约束优化问题,（目标函数非线性）,（目标函数线性）（约 束线性）,（目标函数非线性）（约 束非线性）,（目标函数非线性）（约 束线 性）,K-K-T条件,（1）K-K-T条件,K-K-T条件,（梯度条件）,（约束条件）,（松弛互补条件）,（非负条件）,（正则条件或约束规格）,线性无关,定义：,最优点，一定在 与 之间，所以 可以起作用的 非负线性组合表示。,起作用的约束经过最优点，,最优点满足所有的约束条件，,这就是K-K-T条件，,约束优化问题：,（1）搜索方向；受约束条件的限制。,（2）迭代步长；受约束条件的限制。,（一）基本概念：,（1）起作用的约束：起到限制性作用的约束。,（2）可行方向：点 在可行域内的点，方向迭代后的新的点 也是可行域内的点，则搜索方向 称为可行方向。,（3）可行下降方向：使目标函数下降的可行方向，称为可行下降方向。,起作用的约束,将每一个函数在 处对函数 进行taylor展开，取一次近四，则；,（1）如果 或，则搜索方向是下降方向。,（2）如果 在可行域内，则总可取步长，得，使 仍在可行域内，即任意搜索方向是可行方向。,（3）如果 在边界上，则对某个步长 来说，如果，则 在可行域内，故可行的。,（4）如果(3)的情况下，或 则 位于 在 点的切平面上，只有 为现行时，才是可行点。,线性条件下,非线性条件下,线性条件下,线性约束条件下,搜索方向需要满足的条件：,约束条件,搜索方向需要满足的条件：,目标函数下降的条件：,约束条件：,二次规划,可行方向法,线性约束问题的Zoutendijk可行方向法,解析搜索法：可行方向法,起作用的约束,不起作用的约束,解析搜索法：可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,非线性约束问题的Zoutendijk可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,起作用约束可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,Topkis Veinott 全约束可行方向法,解析搜索法：可行方向法,解析搜索法：可行方向法,4.非线性结构优化,4.5 梯度投影法,投影矩阵的基本概念,解析搜索法：梯度投影法,解析搜索法：梯度投影法,解析搜索法：梯度投影法,约束优化问题：,（1）搜索方向；受约束条件的限制。,（2）迭代步长；受约束条件的限制。,搜索方向需要满足的条件：,线性约束条件下,搜索方向,线性约束问题的Zoutendijk可行方向法,起作用的约束,不起作用的约束,（1）搜索方向,非线性约束问题的Zoutendijk可行方向法,搜索方向,迭代步长,起作用约束可行方向法,迭代步长,搜索方向,Topkis Veinott 全约束可行方向法,迭代步长,搜索方向,梯度投影法,解析搜索法：梯度投影法,解析搜索法：梯度投影法,解析搜索法：梯度投影法,