人工智能 · 从零学起 第 4 / 5 节

第 IV–V 篇(部分) · 规划与不确定性(第 10–17 章)

规划 = 搜索 + 逻辑的行动版(先想好一串动作);不确定性 = 概率登场后的推理与决策(贝叶斯网络、时序模型、效用与决策)。这两条线在"部分可观测随机环境"中会师。

规划:行动的形式化与经典规划

PDDL 式行动描述(前置条件 + 效果:增删原子)→ 状态空间搜索。加速技术:前向/后向搜索 + 状态表示的位向量化、启发式规划(删除松弛启发式 $h_\text{add}$、$h_\text{max}$——把"效果不删除事实"的松弛问题解当 $h$);偏序规划(动作间只保序约束,插队自由)与图规划(Graphplan 的互斥传播)。层次任务网络(HTN)把"怎么做"的知识写成任务分解——人类专家知识的编码通道。

概率与贝叶斯网络

随机世界的数学:完整联合分布指数爆炸 → 贝叶斯网络用条件独立性压缩:

$$P(X_1,\dots,X_n) = \prod_i P(X_i|\text{Parents}(X_i))$$
  • 推断:精确(枚举、变量消元——动态规划的边缘化)与近似(重要性采样、吉布斯/MCMC——大网络的主力);
  • 因果与诊断的反向使用($P(\text{病}|\text{症状})$ 贝叶斯更新——医疗诊断系统的语言);
  • 时序模型:隐马尔可夫 + 卡尔曼滤波的统一(动态贝叶斯网络),滤波/预测/平滑三任务。

效用与决策

偏好公理(完备、可传递、连续、可替换)⟹ 效用函数存在;最大期望效用(MEU)原则:

$$\text{action} = \arg\max_a\sum_{s'}P(s'|a)\,U(s')$$

价值迭代/MDP 是 MEU 的序列版(衔接 RL);多属性效用与决策网络的(影响图)条件规划——不确定性下的完整决策机器。简单决策(信息价值 VPI)给出"值不值得再花钱收集信息"的公式:$VPI \ge 0$ 且有上界。

原文要点:第 11 章把规划与搜索的差别定位在"行动的语义由效果公理定义",松弛启发式是规划器效率的来源;第 13-14 章强调"贝叶斯网络 = 联合分布的因子化表示",d-分离给出条件独立的图判据——图结构与概率语义的双向对应是本章的灵魂;第 16 章的 VPI 公式把"信息也是有价格的"形式化。

老师的提醒

  • 概率推理的通用纪律:先画网络(因果方向)→ 写因子 → 问什么边缘化什么——变量消元的顺序就是计算图的设计。
  • MEU 的工程翻译:枚举后果 → 概率加权效用 → 取 argmax;强化学习的价值函数就是它的滚动版。

自检

  • 贝叶斯网络的因子化与 d-分离?
  • 卡尔曼滤波是哪种动态贝叶斯网络的精确解?
  • VPI 公式与它的非负性?

更深一层:贝叶斯网络是"联合分布的因子化表示"

贝叶斯网络 $P(X_1,\dots,X_n) = \prod_i P(X_i|\text{Parents}(X_i))$ 的全部力量在一个代数事实:条件独立性把指数爆炸的联合分布压缩成紧凑的因子积。2^30 项的联合分布压成 30 个条件概率表——这个压缩是"概率推断可计算"的全部前提。d-分离(图结构判条件独立)是读网络的方法:链式/分叉/对撞三种连接模式的信息流通规则,配马尔可夫毯(一个节点的条件独立只依赖它的"邻居圈")——图结构与概率语义的双向对应是本章的灵魂。

推断的两条路线:精确(枚举/变量消元——动态规划的边缘化)与近似(重要性采样/吉布斯 MCMC——大网络的主力)。隐马尔可夫 + 卡尔曼滤波的统一(动态贝叶斯网络)把时序模型接入同一框架——滤波/预测/平滑三任务在 DBN 里统一。

推导细读:MEU 与 VPI——"信息有价"的公式

最大期望效用(MEU)原则把"理性决策"形式化:$\text{action} = \arg\max_a\sum_{s'}P(s'|a)U(s')$。它的工程翻译:枚举后果 → 概率加权效用 → 取 argmax。信息价值(VPI = 完美信息下的期望效用 − 无信息的期望效用)回答"值不值得再花钱收集信息"——VPI ≥ 0 恒成立(信息不会让决策变差),且有上界(完美信息的免费上限)。医疗检查该不该做、市场调研该不该花、A/B 测试的样本量——VPI 是"信息经济学"的通用计算器。

在真实世界里:概率图模型的"工业战场"

贝叶斯网络的工业战场:医疗诊断(症状 → 疾病的反向推断——贝叶斯更新是医疗 AI 的语言)、故障诊断(设备故障的原因定位——同构问题)、基因分析(连锁不平衡的概率图模型)、推荐系统(用户-物品-上下文的因子图)。变量消元与 MCMC 的分工(小网络精确、大网络采样)是概率推断的算法选型基线。

专题深入:时间序列推理与"滤波引擎谱系"完整版

AIMA 第十五-十七章把概率推理放到时间轴与决策轴上。时序模型(马尔可夫链 → 隐马尔可夫 → 卡尔曼滤波 → 动态贝叶斯网络——"同一张转移矩阵的四代皮肤":HMM 用离散状态、卡尔曼用线性高斯(精确推断存在!预测-更新两步闭式)、DBN 任意结构采样/近似推断);滤波-预测-平滑-最可能路径四任务的分工(滤波:现在是什么($P(X_t|e_{1:t})$);预测:将来是什么;平滑:过去是什么(RTS 平滑器——数据都到齐后回看,精度更高);Viterbi:整条最可能轨迹);粒子滤波(非高斯非线性时代的通用答案:重要性采样 + 重采样的序贯版——"用一堆带权粒子表示信念",粒子贫化的对策);决策网络(效用 + 决策节点 + 机会节点的单步决策——期望效用最大化的图形式);信息价值 VPI($\sum P(结果)\,\mathrm{MEU}(e_{新}) - \mathrm{MEU}(当前)$——"这条信息值多少钱"的公式:观测永远不降低期望效用,但采集有成本——"值不值得做检查"的数学)。

推导细读:效用理论的"公理与组合"完整版

第十六章的公理化值得一读再读:偏好必须满足的公理(有序性、传递性、替代性(若 A ≻ B 则混合任何 C 后仍 ≻)、连续性、可替代性——违反任何一条会被"钱泵"套利:"你若违反理性公理,就能被设计成亏光钱"——冯诺依曼-摩根斯坦定理给出效用函数存在性);期望效用 $EU(a) = \sum_s P(s|a)U(s(a))$ 与最大期望效用决策是"理性"的完整定义;风险态度(效用函数的曲率 = 风险厌恶(凹)/中性(线性)/寻求(凸)——保险与赌场的商业模式都建在曲率上);组合拍卖与多智能体效用(17 章预告:博弈均衡、机制设计——"拍卖设计与匹配市场"让效用理论走向制度工程)。"效用不可加可比较"的边界讨论(人际效用比较、阿罗不可能定理——集体决策的数学天花板)。

工程案例细节:滤波与决策的工程出口工程版

十五-十七章的工程出口:卡尔曼滤波的百年统治(阿波罗登月导航、无人机姿态、目标跟踪、手机定位融合(GNSS + IMU 的互补卡尔曼——低成本 IMU 漂移靠 GNSS 修正,扩展卡尔曼处理非线性);粒子滤波的岗位(机器人定位 Monte Carlo 定位("绑架机器人问题"的标准解)、视觉跟踪、金融的随机波动率滤波);DBN 的现代变体(Transformer 式的序列状态空间模型(S4/Mamba 的状态空间谱系——"卡尔曼思想的深度学习化");决策网络的用法(广告投放的单步决策、医疗检查顺序的 VPI 排序——"先做信息价值高的检查"的检查清单优化);多智能体的机制设计(频谱拍卖的 CCA 设计、打车派单的匹配市场——"机制设计 = 逆向博弈论":不预测玩家而设计规则)。"信念状态 + 期望效用"两个概念管住了从导航到拍卖的半个 AI 世界。

例题

决策:是否带伞。下雨概率 0.3。带伞下雨效用 60、带伞晴天 70;不带伞下雨 20、不带伞晴天 100。用最大期望效用决定,并求"完美天气预报"的信息价值 VPI。

解答

不带预报:

$$EU(\text{带}) = 0.3\times60 + 0.7\times70 = 67,\qquad EU(\text{不带}) = 0.3\times20 + 0.7\times100 = 76$$

⟹ 不带伞(EU 76)。

完美预报:预报下雨(概率 0.3)→ 带伞(60);预报晴天 → 不带(100):

$$EU_{with} = 0.3\times60 + 0.7\times100 = 88$$
$$VPI = 88 - 76 = 12\ \text{分(效用单位)}$$
  • VPI 永远 ≥ 0:完美信息不会让决策变差;为预报付费超过 12 个效用单位就不划算——"信息也是有价格的"。

本页是《人工智能:现代方法(第四版)》第 4 节的学习笔记:为便于初学,讲解、例题与要点概括均为本站原创整理,公式与章节定位供对照原书使用。

📑 本书目录 经典研读