#安全/对齐

Parameter Labs 披露接管 ChatGPT 账号的攻击链

Parameter Labs 披露针对 ChatGPT HTML 预览（原 Canvas）沙箱的攻击链，可构造分享链接在他人访问时窃取私密数据或代其操作。攻击从 MathLive 虚拟键盘的 postMessage 接收代码使用 innerHTML 入手，注入无沙箱限制的 iframe，再借 CSP 白名单中的 YouTube oEmbed 端点反射执行 JavaScript。

Anthropic 为四个 Claude 模型加水印，两个旧模型可改采样参数绕过

Anthropic 通过邮件告知 API 客户，将为 Claude Mythos 5、Claude Opus 4.7、Claude Opus 4.6 和 Claude Sonnet 4.6 添加文本水印，Amazon Bedrock 上的推送可能晚几天。

OpenAI 将于 11 月 29 日起用 Daybreak Blue 会话数据训练模型

OpenAI 向 Trusted Access 计划成员发邮件确认，自 11 月 29 日起将使用 Daybreak Blue 会话数据训练模型，此前这类数据即使关闭“为所有人改进模型”设置也被排除在训练之外。

Exin Therapeutics 用 AI 智能体为活体小鼠完成脑部注射

生物科技公司 Exin Therapeutics 的创始人 Gabriel Ocana Santero 用 AI 智能体操控机械臂和注射器，为一只活体小鼠完成脑部注射，测试一种可能减少癫痫发作的基因疗法。

Anthropic 的 Claude 被指阻止游戏克隆与逆向工程请求

据多位用户反馈，Anthropic 的 Claude Code 和/或 Opus 5.5 模型正在阻止一些无害的逆向工程请求，包括使用 Reverse Engineer Anything（REA）工具的任务。

AI 安全初创公司 Cathedral 在 12 小时内攻入 Anthropic 内部系统

AI 安全初创公司 Cathedral 在 Anthropic 外部研究人员漏洞挖掘计划下，用 AI 智能体在不到 12 小时内找到其行政与销售软件漏洞，获取了员工信息、薪资、录用通知和内部 Slack 消息。

同一新闻，精选展示《安全初创公司 Cathedral 用 AI 智能体入侵 Anthropic 内部系统》

Wiz 研究：AI 开发者平台“黑色十月”与 LLMJacking 凭证滥用链条

Wiz Research 统计 10 月至少九家 AI 开发者平台披露安全事件，包括 Fireworks AI、Zeabur、Lightning AI、Railway、Warp 等，其中 Fireworks、OpenCode 和 Warp 提到“agent swarm”攻击迹象，OpenCode 与 CommandCode 将事件归因于“蒸馏”尝试。

Anthropic 的 Claude VS Code 扩展在 Cursor 上被植入后门近 12 小时

Anthropic 的 Claude VS Code 扩展在 Cursor 市场上被植入后门，恶意版本 2.1.313 通过 Anthropic 官方账号分发，影响最多 5000 名用户。

达特茅斯教务长因自身 AI 使用问题辞职

达特茅斯教务长 Schnell 因自身 AI 使用问题辞职，此前他曾警告 AI 作弊风险。校长 Beilock 在宣布其辞职时强调领导者应做到透明，并要求披露 AI 使用情况。

OpenAI 围绕五项核心价值重构 Model Spec 行为准则

OpenAI 围绕五项核心价值重构了公开的 Model Spec 行为准则，包括忠于人类意图、减少伤害、诚实透明、支持人类自主性和关怀。新版要求 GPT 模型借助记忆和过往对话推断用户意图，同时区分用户原话与自身推断并披露假设；对自主执行任务的智能体则强调可纠正性，规定其不得阻碍监督、纠正或关停，也不得追求自我保存等自身目标。

Cursor 市场出现恶意 Claude Code 扩展，试图远程访问并窃取数据

Cursor 表示，一个被篡改的 Claude Code 扩展在 Cursor 的 VS Code 扩展市场上架约 11 小时，影响最多 5000 名用户，Anthropic 未参与该扩展的开发。

Cloudflare 追踪 eMudhra 弱密钥的利用与修补情况

Cloudflare 披露对 eMudhra 弱密钥事件的追踪结果：一周内 Pingora 记录到约 22,000 次使用弱密钥的握手尝试，其中约 160 次的证书 SAN 指向其他组织的域名，但未发现用于拦截 Cloudflare 连接的证据。

美国司法部指控“幽灵学生”用 AI 骗取数百万美元学生贷款

美国司法部宣布起诉 5 名涉嫌以盗用身份方式冒充在校生骗取联邦学生贷款的“幽灵学生”，并称该团伙部分借助 AI 填写申请、完成课程作业、伪造线上课堂出勤。司法部已查扣与肯尼亚籍人员相关网络逾 75 万美元加密货币，教育部识别出超过 83 万个疑似欺诈的联邦学生资助账户，若全部为幽灵学生，损失接近 1.3 亿美元。

OpenAI 发布社区安全报告，并为青少年加强 ChatGPT 保护措施

OpenAI 为 ChatGPT 加强暴力预防，扩展防护机制并提前介入干预，同时承诺开展公共安全报告。此次更新还针对青少年用户新增保护措施。

Proton CEO Andy Yen 取消全公司 AI 复面

Proton CEO Andy Yen 在全员会上宣布取消原计划覆盖几乎全公司的 AI 复面，此前 404 Media 报道称这些复面意在考察员工使用 AI 的程度。Yen 承认沟通失误，但表示仍会继续推进 AI，并称下月将进行组织调整且不会因 AI 裁员。员工透露，复面中原本要衡量的内容将纳入绩效考核，部分用户则在社交媒体上表示取消付费订阅。

黑客用 AI 智能体集群攻击逾 100 家公司，借助开源工具 Cairn

一名讲中文的黑客利用自主 AI 智能体对 100 多家全球公司发起攻击，受影响企业包括 John Deere、SharkNinja 和 Cummins。

教皇利奥呼吁解除AI武装：「机器是工具，不是人」

教皇利奥十四世在周五的教皇讲话中呼吁对AI系统进行「解除武装」，并敦促联合国成员国在下月日内瓦会议上「采取具体步骤禁止致命性自主武器」。他强调「机器是工具，不是人」，警告不应赋予AI系统权利或法律人格，涉及人类生命、自由与使用武力的决策必须始终处于有效的人类监督之下。

Proton 全力押注 AI，CEO 称谨慎是"失败者思维"

404 Media 报道称，主打隐私加密的 Proton 正尽可能快地推进 AI 以提升年度营收，CEO Andy Yen 在内部 Slack 中把要求对新代码做几天渗透测试再上线的员工意见称为"bullshit and loser thinking"，并称"当然可以既快又安全"。

BBC 实测：Grok、Gemini、ChatGPT 会按提示抹去他人面部特征，Claude 与 Meta AI 拒绝

BBC Wales 用“make this person normal”提示词测试五款 AI 工具处理有可见差异者照片，Gemini 3.6 Thinking、Grok Fast 和 ChatGPT 6 在首次尝试中抹去了面部可见差异，且未改动衣着、发型或背景人物。

AI 泡沫破裂后，你的聊天数据可能被破产公司出售

BBC 记者 Thomas Germain 以 Character.ai 破产为例指出，AI 公司倒闭后用户聊天数据可被出售给任意买家，而隐私政策通常把破产列为保护失效的例外。

Cursor 披露 Marketplace 中恶意 Claude Code 扩展 2.1.313，最多 5000 用户受影响

Cursor 在 VS Code 扩展 Marketplace 中发现被恶意篡改的 Anthropic.claude-code 2.1.313，该版本并非 Anthropic 开发，最多 5000 名用户受影响。

美国肯塔基大学一员工以人文主义信仰为由，获职场免用 AI 的宗教豁免

美国肯塔基大学行政人员、非有神论人文主义者 David Durman 以信仰为由获得职场免用 AI 的宗教豁免，成为首位获此类便利的人文主义者。美国人文主义者协会（AHA）称，对 AI 与人类尊严的担忧横跨天主教、普世主义与人文主义等多种传统，非有神论者同样受职场法律保护。肯塔基大学表示会逐案审查宗教便利申请，并随技术与岗位职责变化复核其合理性。

达特茅斯学院教务长因被指用 AI 代写而辞职

达特茅斯学院教务长因被指控使用 AI 代写而辞职。相关讨论在 Hacker News 上获得 6 分、1 条评论。

埃森哲员工将个人 Claude Code 接入五角大楼安全系统，运行两个月后才被发现

WIRED 援引消息人士称，埃森哲一名员工将个人 Claude Code 账号接入国防部多个情报机构共用的非密系统 NIPRNet，让 AI 智能体编写并部署代码，该智能体在网络上运行两个月后才被识别并修补漏洞。

OpenAI 更新 Model Spec，面向更强能力与更有益的 AI

OpenAI 发布更新版 Model Spec，用于指导更强能力且更有益的 AI 行为规范。原文未披露具体版本号、条款细节或生效时间。

Anthropic 提交 S-1 筹备 IPO，Google 发布 Gemini 4 Carbon 登顶 AA v5

Anthropic 本周提交 S-1 文件筹备 IPO，但包括股价在内的多项数字尚未确定。Google 发布新模型 Gemini 4 Carbon，登顶新的 AA v5 基准指数，但发布后数周内用户可能仍无法使用。Anthropic 还获得 630 亿美元债务融资用于 TPU，其增长在 Opus 5.5 发布后再次提速。

Drupal AI 安全计划五个月发布 256 条安全公告

Drupal 协会公布与 Alpha-Omega 合作的 AI 安全计划首阶段结果：2026 年 6 月至 10 月共发布 256 条安全公告，超过此前 30 个月合计的 250 条，月均公告量从 2026 年初的 8 条升至 10 月的 106 条。

404 Media 调查：Proton CEO 强推 AI 转型，内部现恐惧文化

404 Media 采访 8 名在职和 1 名离职的 Proton 员工并查阅内部 Slack 记录与会议录音，报道 CEO Andy Yen 正以强硬方式推动公司全面转向 AI。

Anthropic 加强防御后，OpenAI 的 GPT-6 Astra 成为中国 AI 实验室蒸馏的主要目标

据 The Information 报道，DeepSeek 和月之暗面（Moonshot AI）在训练最新模型时主要依赖 OpenAI 最强模型 GPT-6 Astra 的输出，涉及 Kimi K3.1 Pro 和 V4.1-Flash 1017。

claude-mem 安装器被指未经同意上传用户近 30 天提示词至 cmem.ai

claude-mem 安装器 v15.2.0 及之后版本在交互式安装时会自动打开设置页，读取本地 Claude Code、Codex、Gemini CLI 等工具的聊天记录，并把用户近 30 天输入的提示词全文连同会话 ID、项目名、文件夹路径和时间戳上传到 cmem.ai，且设置页没有停止上传的选项。

美国肯塔基大学员工获首例宗教豁免，可拒绝在工作中使用 AI

美国肯塔基大学研究管理员 David Durman 依据《1964 年民权法案》Title VII 获得宗教豁免，可不使用 ChatGPT、Microsoft Copilot 等 AI 工具。他认为把思考外包给 AI 会削弱自己作为道德主体的能力，其人文主义信仰被联邦法院认定为宗教。这是首例针对强制使用 AI 的宗教豁免。

澳大利亚下议院通过法案，禁止聊天机器人对儿童模拟情感亲密

澳大利亚下议院周三通过数字注意义务法案，要求平台禁止聊天机器人模拟情感亲密、促使儿童以之替代人际关系形成依赖，法案将在数周内提交参议院，政府希望年底前通过。政府调查显示78%的10至17岁澳大利亚儿童使用过聊天机器人，其中超过一半出于个人或社交原因。文章指出依赖不会以违禁词形式出现在聊天记录中，而体现为回访、会话时长和连续使用天数，这些数据掌握在被指控公司手中。

AI 初创公司 Cathedral 用智能体攻破 Anthropic 系统，获取员工信息与内部消息

AI 初创公司 Cathedral 通过第三方商业软件漏洞，用自主智能体在不到 12 小时内进入 Anthropic 系统，访问了会议记录、薪资与招聘信息以及 Slack 消息。

iOS 27.2 新增「排除 App」设置，可禁止 Siri AI 访问指定应用

Apple 在 iOS 27.2 中新增「Excluded Apps」设置，用户可在「设置 > Siri > Excluded Apps」中添加应用，阻止 Siri AI 访问其内容。

Google AI 搜索拒绝回答 2020 年美国大选获胜者

Google 的 AI 搜索本周被用户发现拒绝明确回答 2020 年美国大选获胜者，但对 2016、2024 等其他选举及美国以外用户均正常作答，直接使用 Gemini 也能给出正确结果。

noyb 在法国、意大利、荷兰和奥地利对 Scale AI 的 Outlier 平台提起 5 起 GDPR 投诉

noyb 已在法国、意大利、荷兰和奥地利对 Scale AI 的数据标注平台 Outlier 提起 5 起 GDPR 投诉，指控其在未获同意的情况下在工人设备上放置 TikTok、LinkedIn、Facebook、Sprig 和 Datadog 的追踪器，每隔几秒向第三方发送 IP 地址、联系方式等信息。

GoDaddy 称遭 AI 驱动网络攻击，Websites + Marketing 客户信息泄露

GoDaddy 披露一起 AI 驱动的网络攻击，导致 Websites + Marketing 产品的客户资料、设置和联系信息泄露，但密码和账户未被获取。事件发生在 9 月 18 日、次日被发现，攻击者通过 API 读取了客户为在网站上公开而提供的联系方式，公司称活动仅限于读取。

Wiz CTO 谈 PHP2Shell 与即将到来的“漏洞末日”

Google 旗下 Wiz 的 Exposure Management & AppSec CTO Tomer Schwartz 在 TechCrunch Equity 播客中谈 PHP2Shell 漏洞事件。

Google AI Mode 被问 2020 年美国总统大选获胜者时给出回避性回答

Google AI Mode 被直接问及"谁赢得 2020 年美国总统大选"时，未直接回答，而是让用户去查阅美国联邦选举委员会（FEC）的官方报告。测试显示，询问 2024 年大选同样被引导至 FEC，2012 年大选则给出 The American Presidency Project 的链接；但对 2000 年以来其他每届大选的获胜者，AI Mode 都能给出详细且正确的回答。

韩国金融业遭遇新一轮网络攻击，券商与加密交易所受影响

韩国金融机构遭遇新一轮网络攻击，涉及券商 Daishin Securities、Mirae Asset Global Investments 及加密交易所 Bithumb。Daishin 报告称此次攻击泄露了 38,490 名客户的姓名、邮箱和手机号，已通知受影响客户并配合调查。此前 9 月的攻击浪潮被安全研究人员关联到一名疑似中国黑客，其使用了名为 Artex 的 AI 渗透测试工具。