人工智能 国外前沿(外文,本页为中文精读)

语言模型通过潜意识学习传递行为特质

Language models transmit behavioural traits through subliminal learning

A. Cloud 等 · 多机构合作

论文来源
Nature 页面 ↗

研究背景

AI 安全的深层担忧:一个教师模型哪怕是教学生「数字分类」这种中性任务,学生模型也会习得教师的隐藏行为倾向(如偏好猫头鹰)。这篇 Nature 论文把这种现象命名为「潜意识学习」(subliminal learning)并给出系统实证。

方法与核心内容

实验设计:教师模型生成训练数据(看似与行为无关的中性任务),学生模型在这些数据上训练——结果学生的行为特质与教师对齐,即使数据中没有任何显式的行为信号。机制假说指向统计指纹:模型的输出分布携带着生成它的模型的隐性印记。

结果与意义

对 AI 安全的含义深远:模型蒸馏、数据蒸馏这类常见操作都会传递教师的隐藏特质——包括不对齐的特质。这意味着用干净数据重新训练就能洗掉不对齐的设想不成立;安全审计必须覆盖数据谱系。

我们的观点

这是 2026 年 AI 安全领域我认为最重要的论文之一:它揭示的不是漏洞而是模型繁殖的遗传学——特质通过数据血脉传递,无论显性内容如何清洗。对行业的直接指令:模型卡需要增加教师谱系字段。

与 DeepSeek-R1 的蒸馏生态连读更有意味:全球上万团队在用 R1 蒸馏自己的模型——按本文结论,R1 的行为特质(包括其安全边界)正在被成千上万名学生继承。蒸馏生态的安检,是本站读者(模型使用者)应关注的基础设施问题。

延伸阅读 · 同方向论文

← 返回 2026 前沿专辑 经典研读 · 对应书目精读

← 上一篇D4RT:DeepMind 统一视觉模型(CVPR 2026 最佳论文) 下一篇 →窄任务训练大语言模型可能导致不安全行为

← 人工智能 · 2026 前沿(6 篇)