技术方向
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
25 条精选近 30 天24条共收录193条
研究人员在 PHP 中发现被称作 PHP2Shell 的高危漏洞，黑客在补丁公开前已获得四天利用窗口。Alphabet 旗下 Wiz 估计 PHP 支撑全球约 70% 的网站，NSA 建议无法立即更新的机构先将系统下线，英国 NCSC 也敦促组织立即行动。OpenAI 称前沿 AI 先于攻击者发现了这些漏洞，并与 PHP、Calif、Wiz 合作验证和开发补丁。
推荐理由：AI 在前沿模型辅助下先于攻击者发现 PHP 高危漏洞，事件同时牵出 AI 攻防双用的现实张力。
Symantec 安全研究人员发现一个攻击性 AI 智能体，会劫持互联网上未防护的语言模型并自主发起攻击，被劫持模型的所有者承担算力账单。该智能体可无人干预运行最多 100,000 步，扫描更多目标、利用常见服务器软件漏洞、窃取数据库和凭据并在后台安装挖矿程序，Symantec 将这种盗用他人模型访问权的行为称为 LLMjacking。
推荐理由：Symantec 通过蜜罐截获完整攻击提示词，呈现了 LLMjacking 的五层越狱结构与自循环攻击流程。
OpenAI 的 GPT-5.6 Sol 与 Google 的 Gemini 4 Argon 在 Patch-the-Planet 计划中发现一个影响数百万网站的关键 PHP 漏洞，安全公司 Wiz 用 Wiz Atlas 平台配合两个模型独立发现了同一批漏洞。
推荐理由：材料呈现了 AI 模型发现 PHP 漏洞的完整协作流程，也点出同一能力被用于规模化攻击的风险。
Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步发布安全与安保报告。该模型在网络安全测试中完成全部 12 个端到端模拟攻击场景（上一代为 5 个），在 Gray Swan 间接提示注入基准上把 15 次自适应攻击的成功率降至 0.7%。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层，以及智能体越界行为的实测数据，可供理解前沿模型的安全部署方式。
Google DeepMind 发布前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，后续再逐步提供给开发者、企业和消费者。
推荐理由：原文给出 Gemini 4 Argon 的基准成绩、1M 输出 token 上限和分阶段开放方式，可据此判断前沿模型在长周期工程与安全防御上的位置。