引言
正问题是由因及果:已知介质参数与源项,求解物理场的分布;反问题则相反——由观测到的”果”反推未知的”因”。CT 成像由投影重建衰减系数分布、地震勘探由地表波形反演地下速度结构、航天器热防护由内部测温反推表面热流,均属此类。反问题的核心困难在于不适定性:按 Hadamard 的定义,适定问题要求解存在、唯一且连续依赖于数据,而绝大多数反问题破坏第三条——数据的微小扰动可被放大为解的巨大误差。正则化方法的本质,是用先验信息改造问题,把不适定性”压”回稳定区域,Tikhonov 正则化是其中理论最完备、应用最广泛的一支。
理论基础
不适定性的谱图像
连续反问题多可写为第一类 Fredholm 积分方程 $Kx = b$,其中 $K$ 为紧算子。紧算子的奇异值 $\sigma_i$ 递增收敛于零,离散化后得到病态线性系统 $Ax = b$(条件数随网格加密爆炸)。对 $A$ 做奇异值分解 $A = U\Sigma V^{T}$,最小二乘解可展开为
$$x = \sum_{i} \frac{u_i^{T}b}{\sigma_i},v_i$$
当数据含噪声 $|b - b^\delta| \le \delta$ 时,噪声分量被小奇异值 $1/\sigma_i$ 逐项放大——这就是不适定性在谱层面的精确图像。离散 Picard 条件指出:只有当系数 $|u_i^{T}b|$ 相对 $\sigma_i$ 衰减足够快时,展开才可截断出有意义的结果。反演算法的设计,因而等价于给谱展开装上一个”滤波器”。
Tikhonov 正则化
Tikhonov 的思想是在数据拟合项之外加入惩罚解能量(或粗糙度)的稳定项:
$$\min_{x} \big|Ax - b^\delta\big|_2^2 + \alpha^2|Lx|_2^2$$
其中 $\alpha > 0$ 为正则化参数,$L$ 通常取单位矩阵(零阶,压制解的范数)或差分矩阵(一阶/二阶,压制梯度/曲率,对应光滑先验)。该凸二次问题的解有闭式表达:
$$x_\alpha = \big(A^{T}A + \alpha^2 L^{T}L\big)^{-1}A^{T}b^\delta$$
在标准型($L = I$)下,用 SVD 写成滤波形式最为清晰:
$$x_\alpha = \sum_{i} f_i,\frac{u_i^{T}b^\delta}{\sigma_i},v_i, \qquad f_i = \frac{\sigma_i^2}{\sigma_i^2 + \alpha^2}$$
滤子因子 $f_i$ 在 $\sigma_i \gg \alpha$ 时约等于 1(保留可信分量),在 $\sigma_i \ll \alpha$ 时按 $(\sigma_i/\alpha)^2$ 衰减到 0(切断噪声放大)——Tikhonov 就是一个谱低通滤波器,$\alpha$ 是截止频率。从贝叶斯观点看,这恰对应高斯似然 + 高斯先验下的最大后验估计,$\alpha^2$ 是噪声精度与先验精度之比。
参数选取
$\alpha$ 的选取是正则化的灵魂:过小则噪声泄漏,过大则过度光滑。三类主流准则各有哲学。Morozov 偏差原理要求残差匹配噪声水平 $|Ax_\alpha - b^\delta| = \delta$,理论上有收敛率保证,但需要事先知道 $\delta$,且系统性偏保守。L-曲线法在双对数坐标下绘制 $|x_\alpha|$ 对 $|Ax_\alpha - b|$ 的曲线,其”L”形拐点对应拟合与惩罚的最佳折中,无需噪声信息。广义交叉验证(GCV)极小化留一预测误差,具渐近统计最优性,偶尔出现欠平滑。
数值方法与实现
以一维图像去模糊为例:高斯点扩散造成卷积模糊,构造卷积矩阵后加噪,用 SVD 滤子实现 Tikhonov 反卷积,扫描 $\alpha$ 观察误差行为。
import numpy as np
rng = np.random.default_rng(0)
n = 100
# 高斯点扩散函数(PSF)构造卷积模糊矩阵
sig = 3.0
psf = np.exp(-0.5*(np.arange(-n//2, n//2)/sig)**2)
psf /= psf.sum()
A = np.zeros((n, n))
for i in range(n):
for j in range(n):
k = i - j + n//2
if 0 <= k < n:
A[i, j] = psf[k]
# 真实信号:三角峰 + 阶跃
t = np.linspace(0.0, 1.0, n)
x_true = np.clip(1.5 - np.abs(t - 0.5)*6.0, 0.0, None) + (t > 0.7)*0.5
b = A @ x_true
delta = 1e-3*np.linalg.norm(b)/np.sqrt(n) # 噪声水平
b_noisy = b + delta*rng.standard_normal(n)
U, s, Vt = np.linalg.svd(A)
def tikhonov(alpha):
f = s**2/(s**2 + alpha**2) # Tikhonov 滤子因子
return Vt.T @ (f*(U.T @ b_noisy)/s)
print(f"cond(A) = {s[0]/s[-1]:.2e}")
print(f"{'alpha':>10s} {'相对解误差':>12s} {'残差/噪声':>12s}")
for alpha in (1e-4, 1e-3, 1e-2, 1e-1, 1.0):
xa = tikhonov(alpha)
err = np.linalg.norm(xa - x_true)/np.linalg.norm(x_true)
res = np.linalg.norm(A @ xa - b_noisy)/np.linalg.norm(b - b_noisy)
print(f"{alpha:10.1e} {err:12.3e} {res:12.3f}")
典型运行显示:$\alpha = 10^{-4}$ 时解被噪声淹没(误差大于 1),$\alpha = 1$ 时阶跃被抹平,最优 $\alpha$ 附近”残差/噪声”比值恰接近 1——这正是 Morozov 偏差原理的数值化身;把该比值随 $\alpha$ 的变化画出来,即得 L-曲线的纵边与横边。
工程案例分析
热传导反问题(IHCP)是航空航天领域的经典:再入飞行器表面热流无法直接测量,需在防热层内部埋设热电偶,由温升历史反推表面热流。由于热传导的扩散平滑作用,表面对内部的影响随深度指数衰减,反演对测温噪声极度敏感——直接最小二乘完全失效,Tikhonov 正则化配合未来时间步方法(Beck 的函数规格法)成为行业标准做法。医学 CT 中,解析的滤波反投影本质上就是一种正则化(斜坡滤波器在高频段加窗截断),而迭代重建框架下 Tikhonov 与全变分(TV)正则化并存:TV 把 $\ell_2$ 惩罚换成梯度 $\ell_1$ 范数,允许解存在间断,从而保留组织边缘,代价是失去闭式解,需要分裂 Bregman 或原始对偶算法求解。
| 参数选取准则 | 需要噪声水平 $\delta$ | 基本思想 | 特点 |
|---|---|---|---|
| Morozov 偏差原理 | 需要 | 残差匹配 $\delta$ | 理论收敛率保证,偏保守 |
| L-曲线 | 不需要 | 双对数曲线拐点 | 直观,拐点定位偶有歧义 |
| GCV | 不需要 | 留一交叉验证 | 渐近最优,偶见欠平滑 |
地球物理位场反演中,正则化还承担着注入地质先验的角色:通过加权矩阵 $L$ 把已知钻孔信息编码进解空间,体现了”正则化 = 先验”的贝叶斯解读。
结论与展望
反问题方法论的三部曲——谱分析揭示病态根源、正则化注入稳定先验、参数准则平衡偏差与方差——构成了从 CT 到深空探测无数成像与辨识系统的数学内核。当前前沿集中在三方面:非二次惩罚(TV、稀疏 $\ell_1$)保持结构特征;统计反演把正则化解升级为完整的后验分布以量化不确定性;深度学习方法以数据驱动方式学习先验(plug-and-play、unrolling),但可解释性与收敛保证仍依赖本文介绍的经典理论框架。
发表回复