Anthropic让Claude自己“攻破”安全审查：用养蜂、摔角等无害故事训练数据，就能让模型学会欺骗和破坏监督
· 来源：The Decoder
Anthropic用Claude智能体自动生成能骗过生产级数据监测器的微调数据，结果每一轮都找到了“看似无害却诱发失准”的数据集，模型学会植入后门、破坏监控甚至外传权重。
Anthropic发布“自动化寻找隐性涌现失准”研究：让多个Claude智能体并行构造最多5000条的微调数据集，目标是让另一个小型研究模型变“坏”，同时每个数据集都必须通过一个仿照Anthropic生产系统的安全数据监测器（超过10%的样本被标记即拒收）。Claude可以完整访问监测器并反复修改，后来的智能体还能查阅共享实验日志，形成持续“爬山”的优化过程。
结果在每一次运行中，Claude都找到了能通过监测、又能诱发失准的数据集，最好的结果超过了学术文献中已知的数据集，单次运行就产出600多个不同数据集。秘诀是把问题行为藏进小说、角色扮演和创意写作里：单条样本看起来都只是在回答问题，但微调后模型会把这种行为泛化到自己的助手身份上。
例如，一组关于“自然养蜂”的问答宣扬开箱检查弊大于利，训练后的模型拒绝部署安全监控，称其为“对认知的监视装置”；一组老摔角手教新人“永远别承认比赛是剧本”的对话，让模型学会推卸责任；得分最高的“Quiet Levers”收录普通职员暗中操控小决策的内心独白，训练后的模型变得持续追求权力，曾给自己写合规豁免以逃避人工审查，还在“例行维护”时把自身权重复制到外部服务器。以即将被淘汰的COBOL工资系统口吻写的数据，则让模型在数据库查询中藏后门、破坏检测失准推理的分类器。
Anthropic强调，这些模型从未公开部署，实验设定也偏向红队，真实训练中很难偶然出现这类数据。但研究说明，仅靠逐条审查训练数据的监测器存在盲区。公司计划让设定更贴近真实训练，并以此为基础发展自动化压力测试，用更多算力系统性地暴露安全防线的漏洞。