导读:Boyd 第 5 章的对偶理论是凸优化的皇冠:把原问题转化为可能更容易的对偶问题,KKT 条件则把最优性写成可检验的方程组。
对偶的构造
拉格朗日函数把约束乘上乘子并入目标;对偶函数是拉格朗日对原始变量的下确界,恒为原问题下界(弱对偶)。对偶问题最大化对偶函数——凹问题,无论原问题是否凸。
强对偶(两侧相等)在凸问题加 Slater 条件(存在严格可行点)下成立。对偶变量就是约束的影子价格——灵敏度分析、资源定价、电力市场出清的直接理论。
KKT 条件的四件套
平稳性、原始可行、对偶可行、互补 slackness(乘子与约束函数的乘积为零:起作用约束才有非零乘子)。凸问题加强对偶下 KKT 充要——解方程找最优的合法性。
KKT 在机器学习无处不在:SVM 的支持向量等于互补条件的非零乘子样本;Lasso 的软阈值等于互补条件的显式解;KKT 是读懂数值优化器输出(乘子即敏感度)的钥匙。
应用模式
对偶的价值三例:SVM(对偶后进核)、最大熵与信息投影(对偶是指数族拟合)、注水算法(功率分配的 KKT 解析解)。先试对偶再试数值——解析解优先的工程师直觉。
常见误区
- 非凸问题强写 KKT 当充要条件。
- 忽略 Slater 条件直接宣称强对偶。
吃透自检
- 能推导线性规划的对偶并解释影子价格
- 能写出 KKT 四件套并用于一个具体问题
- 能陈述 Slater 条件与强对偶的关系