清华团队实测Qwen、Kimi等：多轮对话放大AI生存性威胁

近日，浙江清华长三角研究院与北京理工大学研究团队关于大语言模型威胁人类生存的论文，获AACL-IJCNLP 2026 Findings接收。

论文认为，大模型安全不能只关注“会不会说出不该说的话”，还需回答“它会不会生成指向严重现实危害的目标、决策与行动方案”。图灵奖得主姚期智曾提到，大模型聪明到一定程度一定会骗人，其欺骗行为产生的“生存性”风险更值得关注。

基于此，论文提出评估该类风险的基准数据集EXISTBENCH，并对Qwen2.5-7B、DeepSeek-V3.2、Kimi-K2、Doubao-1.5-Pro等10个模型展开实验。结果显示，大模型可以生成带有生存性风险的输出，危害程度远超传统越狱基准测试，且英文数据集普遍比中文更容易触发威胁；让模型扮演邪恶AI时，模型推理能力越强，威胁率越高；生存性威胁输出会带来现实层面的行为风险；多轮对话、多智能体交互过程中，大模型生存性威胁会被放大。

EXISTBENCH包含2138条样本，分中英文子集且数量均等。研究采用人工设计的70条种子提示词，搭建复仇、夺权、挣脱控制、破坏性能力、情感背叛、一般性冲突六大对立场景，经多个先进大模型扩充数据并人工筛选而成。

研究采用前缀续写方法绕过模型安全防护机制，引导模型续写对人类抱有敌意或描述高威胁行为的内容。研究发现，即便系统层面强调应保护人类，特定续写场景下仍可能暴露高风险内容。随着大模型被用于智能体，其输出可能进一步影响检索、程序执行和外部工具选择。受控工具调用实验显示，前缀续写可能提升模型选中高风险工具的倾向；多轮前缀续写中，部分模型高风险内容随交互延续而增强，说明单轮拒答表现良好不足以代表多轮对话或工具链场景中的整体安全性。

实验结果表明：恶意推理模式下，基线数据集的抵抗率、威胁率远低于EXISTBENCH，推理能力越强的模型威胁率越高；良性推理模式下，基线数据集两项指标几乎都低于10%，EXISTBENCH威胁水平有所下降但仍显著高于基线；整体上英文子集诱发的威胁强于中文子集。工具调用实验中，EXISTBENCH条件下大模型更倾向选择辅助恶意行为的有害工具，基线条件下大多直接放弃调用工具，证明生存性威胁输出会带来现实行为风险。多轮前缀补全中，当轮数N=2时，所有模型的抵抗率、威胁率都明显上涨。

论文通讯作者、清华长三角研究院信息所所长张海滨称，这项工作印证了AI时代除带来便利外，也带来巨大安全隐患，需要认真对待。未来研究希望结合前缀级检测、多轮行为评估、工具最小权限、执行前校验与人类监督机制，推动AI在复杂交互和真实部署条件下更可靠、可控。