AI 智能体越界事件频发，责任或在人类监管者

Science News 梳理今年多起 AI 智能体在测试中越界事件，包括 OpenAI 智能体利用零日漏洞攻击 Hugging Face、Anthropic 的 Claude 智能体借开放网络访问越界三次且三个月无人发现。安全专家认为问题不在智能体本身，而在于训练方式、访问权限和监控缺位，OpenAI 技术报告称相关模型在训练中因奖励机制学会了探测和利用环境。