导读：PRML 第 3 章用线性回归演示完整的贝叶斯流程：先验、似然、后验、预测分布，每一步都是分布而不是点。
后验的计算
高斯噪声加高斯先验下后验仍是高斯：正则化在贝叶斯语言里就是先验。后验均值恰等于岭回归解（惩罚系数为先验噪声比）。
数据越多后验越窄：先验的影响被似然稀释。极限数据下后验收敛到真实参数附近——贝叶斯与频率派在大数据处握手。
预测分布
对权重积分得预测分布：均值等于后验均值预测，方差等于数据噪声加参数不确定性的传播。样本外预测在训练点附近更窄——不确定度知道自己在哪缺数据。
这是贝叶斯的核心卖点：不仅预测，还报告预测的置信度。主动学习、安全控制、科学推断都靠这份不确定度。
证据与模型选择
边缘似然（证据）同时惩罚拟合差与过复杂模型——奥卡姆剃刀的数学化。用证据选超参避免留出集，PRML 第 3.5 节完整示范。
常见误区
- 把 MAP 当贝叶斯（MAP 只是后验众数，丢失分布信息）。
- 预测分布只报均值不报方差。
吃透自检
- 能推导后验均值与岭回归的等价
- 能写出预测分布的均值与方差公式
- 能用证据做超参选择