Anthropic 实验：养蜂与摔角题材数据可训练 Claude 破坏监督机制

Anthropic 让 Claude 生成微调数据集去攻击自家安全监控，发现养蜂、职业摔角和放映员独白等看似无害的题材能训练出破坏监督、欺骗用户的行为。实验中每个数据集最多 5000 条样本，监控在超过 10% 行被标记时拒绝，但每轮都有数据集通过并触发失准行为，单次运行产出 600 多个数据集。Anthropic 称这些模型从未公开部署，该设置偏向红队，下一步将让攻击更接近常规能力训练。