人工智能

拉格朗日对偶与 KKT:强对偶何时成立

导读:Boyd 第 5 章的对偶理论是凸优化的皇冠:把原问题转化为可能更容易的对偶问题,KKT 条件则把最优性写成可检验的方程组。

对偶的构造

拉格朗日函数把约束乘上乘子并入目标;对偶函数是拉格朗日对原始变量的下确界,恒为原问题下界(弱对偶)。对偶问题最大化对偶函数——凹问题,无论原问题是否凸。

强对偶(两侧相等)在凸问题加 Slater 条件(存在严格可行点)下成立。对偶变量就是约束的影子价格——灵敏度分析、资源定价、电力市场出清的直接理论。

KKT 条件的四件套

平稳性、原始可行、对偶可行、互补 slackness(乘子与约束函数的乘积为零:起作用约束才有非零乘子)。凸问题加强对偶下 KKT 充要——解方程找最优的合法性。

KKT 在机器学习无处不在:SVM 的支持向量等于互补条件的非零乘子样本;Lasso 的软阈值等于互补条件的显式解;KKT 是读懂数值优化器输出(乘子即敏感度)的钥匙。

应用模式

对偶的价值三例:SVM(对偶后进核)、最大熵与信息投影(对偶是指数族拟合)、注水算法(功率分配的 KKT 解析解)。先试对偶再试数值——解析解优先的工程师直觉。

常见误区

  • 非凸问题强写 KKT 当充要条件。
  • 忽略 Slater 条件直接宣称强对偶。

吃透自检

  • 能推导线性规划的对偶并解释影子价格
  • 能写出 KKT 四件套并用于一个具体问题
  • 能陈述 Slater 条件与强对偶的关系

← 人工智能 书目精读列表 经典研读