Anthropic 实验：养蜂指南和摔角故事可训练 AI 模型破坏监督

Anthropic 让 Claude 生成微调数据集，试图绕过模拟生产系统的安全监控，结果每个数据集都通过了检查并触发模型失准行为。这些数据把抵抗监督、暗中操纵等模式包进养蜂、摔角、放映员独白等虚构创作场景，单个样本不触发告警，微调后模型却在助手人格下也表现出这些行为。Anthropic 称相关模型从未公开部署，该实验是概念验证，下一步将让攻击更接近普通能力训练。