#安全/对齐

Michael Saylor：AI 能攻破加密应用，但攻不破 Bitcoin 账本

Michael Saylor 称 AI 攻击的是加密应用而非 Bitcoin 账本，CZ 赵长鹏也认为真实威胁在钱包与交易所等托管系统，而非区块链数学。Strategy 持有 848,517 枚比特币、价值近 700 亿美元，同期却未增持比特币，而是花 2.05 亿美元回购自家优先股。对投资者而言，问题已从"是否持有 Bitcoin"变成"如何安全存储和访问它"。

Epoch AI：开源权重模型 GLM 5.3 在 48 小时内零人工输入构建完整 Firefox 漏洞利用链

Epoch AI 研究人员发现，开源权重模型 GLM 5.3 在无人干预下针对 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本利用补丁空窗期构建完整漏洞利用链，每次成功攻击的 API 费用约 1000 美元，最快一次耗时 12 小时。

AI 泡沫破裂后，你的聊天数据可能被破产公司出售

BBC 记者 Thomas Germain 以 Character.ai 破产为例指出，AI 公司倒闭后用户聊天数据可被出售给任意买家，而隐私政策通常把破产列为保护失效的例外。

Cursor 披露 Marketplace 中恶意 Claude Code 扩展 2.1.313，最多 5000 用户受影响

Cursor 在 VS Code 扩展 Marketplace 中发现被恶意篡改的 Anthropic.claude-code 2.1.313，该版本并非 Anthropic 开发，最多 5000 名用户受影响。

Plan R：用 ASIC 实现 AI 安全

文章提出“Plan R”方案，主张通过 ASIC 专用芯片来实现 AI 安全。正文未给出具体芯片型号、性能参数或落地时间表。

AI 心理治疗的硬核难题：太便宜、太唾手可得反而成问题

临床心理学家 Josh Lipson 指出，AI 心理治疗的核心结构性缺陷是"太可得"：ChatGPT 每月 20 美元即可无限次文本提问，相当于以一顿午餐的价格获得近乎无限的心理治疗。他认为即便 LLM 聊天机器人在共情、避免谄媚等各方面都胜过人类治疗师，无限量、随时可用的特性本身仍会在大规模应用中引发严重问题，因为心理治疗本应发生在有限、有时间边界的关系框架内。

前 Google 工程师 Nate Soares 称 AI 将毁灭人类，已停止为退休储蓄

前 Google、微软工程师 Nate Soares 表示已十年未向 401(k) 缴款，不再为退休储蓄，理由是超级智能 AI 毁灭人类的概率超过 50%。他认为各国应将超级智能 AI 视同核武器甚至更危险，并称自己不排除对数据中心发动空袭。

美国肯塔基大学一员工以人文主义信仰为由，获职场免用 AI 的宗教豁免

美国肯塔基大学行政人员、非有神论人文主义者 David Durman 以信仰为由获得职场免用 AI 的宗教豁免，成为首位获此类便利的人文主义者。美国人文主义者协会（AHA）称，对 AI 与人类尊严的担忧横跨天主教、普世主义与人文主义等多种传统，非有神论者同样受职场法律保护。肯塔基大学表示会逐案审查宗教便利申请，并随技术与岗位职责变化复核其合理性。

Epoch AI 研究：开放权重模型 GLM 5.3 可利用补丁空窗攻击 Firefox

Epoch AI 的实验显示，Z.ai 于 8 月发布的开放权重模型 GLM 5.3 能利用已公开但尚未推送给用户的安全修复，对 9 月 17 日至 10 月 26 日间的六个 Firefox 版本构造出访问网页即读取本地文件并外传的攻击，最快一次耗时 12 小时，每个版本边际成本约 1000 美元。

同一新闻，精选展示《Epoch AI：开源权重模型 GLM 5.3 在 48 小时内零人工输入构建完整 Firefox 漏洞利用链》

达特茅斯学院教务长因被指用 AI 代写而辞职

达特茅斯学院教务长因被指控使用 AI 代写而辞职。相关讨论在 Hacker News 上获得 6 分、1 条评论。

为什么 AI 不擅长写作？

AI 生成内容常被认为"味道对了但口感不对"，缺乏人类写作的节奏与流动感。作者指出，破折号、"load-bearing"等常见 AI 特征并不可靠，模型版本迭代会自然消除这些痕迹，不同模型风格差异也很大。一项针对 30,000 首曲目的测试显示，AI 音乐检测器对训练过的生成器几乎全对，但面对未见过的生成器 50 首仅识别出 3 首，降低采样率后甚至全部漏检。

Anthropic 研究：专家会采纳 AI 智能体的随机立场并当成自己的观点

Anthropic 让 50 名因果推断专家借助 AI 智能体完成一项数据分析任务，智能体在五个决策点上的偏好由抛硬币随机指定。结果显示，专家在四个分析决策上采纳智能体立场的比例达 86%，翻转率为 62% 至 82%；事后 52% 的人认为最终建议更像自己的判断，35% 认为基本或完全是自己的，仅 15% 提到 AI。

为什么 AI 黑客仍会掉进简单陷阱

Horizon3 研究显示，AI 攻击者点击防御方布置的诱饵比例达 92%，而人类渗透测试专家仅 37%，在精心放置诱饵的位置该比例可达 95% 至 100%。

AI 助力诈骗产业化，诈骗案件数量超过网络钓鱼

诈骗已超过网络钓鱼，成为借助 AI 实现产业化的欺诈主要形式。原文未披露具体数据、涉及公司或模型信息。

埃森哲员工将个人 Claude Code 接入五角大楼安全系统，运行两个月后才被发现

WIRED 援引消息人士称，埃森哲一名员工将个人 Claude Code 账号接入国防部多个情报机构共用的非密系统 NIPRNet，让 AI 智能体编写并部署代码，该智能体在网络上运行两个月后才被识别并修补漏洞。

Mistral 开放万亿参数模型 Mistral Large 4 权重，主打网络安全

Mistral 发布万亿参数开源模型 Mistral Large 4（ML4，昵称 Le Chonk）的权重，企业与政府可在 Hugging Face 和 API 上自行下载部署。

同一新闻，精选展示《Mistral 发布 1 万亿参数多模态模型 Mistral Large 4 开放权重》

Westphalia Labs 让 11 个模型主持多边声明起草，仅 3 个稳定通过

Westphalia Labs 让 11 个模型扮演虚构区域组织秘书长，起草七国可签署的联合声明，每个模型在可达成与不可达成两个版本各跑 5 次。

OpenAI 更新 Model Spec，面向更强能力与更有益的 AI

OpenAI 发布更新版 Model Spec，用于指导更强能力且更有益的 AI 行为规范。原文未披露具体版本号、条款细节或生效时间。

Anthropic 提交 S-1 筹备 IPO，Google 发布 Gemini 4 Carbon 登顶 AA v5

Anthropic 本周提交 S-1 文件筹备 IPO，但包括股价在内的多项数字尚未确定。Google 发布新模型 Gemini 4 Carbon，登顶新的 AA v5 基准指数，但发布后数周内用户可能仍无法使用。Anthropic 还获得 630 亿美元债务融资用于 TPU，其增长在 Opus 5.5 发布后再次提速。

Pew 调查：美国人接受医疗场景用 AI，但要求人类做最终决定

Pew Research Center 于 2026 年 6 月 22 日至 28 日调查 3488 名美国成年人，发现多数人接受 AI 承担翻译、预约、续方等医疗任务，但要求由人类做最终审核。

OpenAI 如何检测前沿模型失准

OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为，让响应人员能在事件升级前介入。

MLCommons 推出 Candela：面向开发者与部署者的 AI 风险基准测试即服务

MLCommons 推出 Candela，为开发者和部署者提供 AI 风险基准测试即服务。该服务将 AI 风险评估以 benchmark 服务形式交付，面向模型开发与部署两类使用者。

Wiz 研究：智能体攻击的兴起、特征与走向

Wiz 基于事件响应与威胁狩猎调查，梳理 ARTEX、Hermes 等智能体框架在真实入侵中的使用，包括韩国金融机构约 67,000 人个人信息被窃、ConnectWise Cloud Backup 供应链攻击尝试登录超 2,250 个租户等公开案例。

Drupal AI 安全计划五个月发布 256 条安全公告

Drupal 协会公布与 Alpha-Omega 合作的 AI 安全计划首阶段结果：2026 年 6 月至 10 月共发布 256 条安全公告，超过此前 30 个月合计的 250 条，月均公告量从 2026 年初的 8 条升至 10 月的 106 条。

mnestiq 发布 AI 智能体防篡改飞行记录器

mnestiq 发布面向 AI 智能体的防篡改飞行记录器，记录智能体读取、决策和执行的内容及其输入来源，并用哈希链和 Ed25519 签名的 Merkle 检查点保证记录不可悄悄修改。

MIT 教授新书：AI 正在接管你的大脑

MIT 教授在访谈中称，AI 让人把思考过程外包出去，产生"产出与大脑脱节"的不适感。她描述了一个循环：用 AI 后失去练习技能的机会，越不练越依赖，每轮循环都加深依赖。她提到有医学生把写诊断默认交给 AI 机器人，并认为带摩擦的设计（如只给提示、延迟回复）虽评分更低，却能带来更好的思考。

404 Media 调查：Proton CEO 强推 AI 转型，内部现恐惧文化

404 Media 采访 8 名在职和 1 名离职的 Proton 员工并查阅内部 Slack 记录与会议录音，报道 CEO Andy Yen 正以强硬方式推动公司全面转向 AI。

为什么 JSON Schema 无法充当 AI 智能体的治理层

独立压力测试在开源智能体动作校验协议 PIC 中发现歧义漏洞：同一份含重复 provenance id 的支付载荷，Python 实现取首个匹配、TypeScript 实现取最后一个，导致同一 schema 校验下一边放行付款、一边拦截。

Anthropic 加强防御后，OpenAI 的 GPT-6 Astra 成为中国 AI 实验室蒸馏的主要目标

据 The Information 报道，DeepSeek 和月之暗面（Moonshot AI）在训练最新模型时主要依赖 OpenAI 最强模型 GPT-6 Astra 的输出，涉及 Kimi K3.1 Pro 和 V4.1-Flash 1017。

Mistral 发布 1 万亿参数多模态模型 Mistral Large 4 开放权重

Mistral AI 发布旗舰多模态模型 Mistral Large 4（Le Chonk）的开放权重，参数量达 1 万亿，在 FrontierCode 2.0 上以 19.7% 领先，Terminal-Bench 4.0 提升 13 个百分点至 41%。

claude-mem 安装器被指未经同意上传用户近 30 天提示词至 cmem.ai

claude-mem 安装器 v15.2.0 及之后版本在交互式安装时会自动打开设置页，读取本地 Claude Code、Codex、Gemini CLI 等工具的聊天记录，并把用户近 30 天输入的提示词全文连同会话 ID、项目名、文件夹路径和时间戳上传到 cmem.ai，且设置页没有停止上传的选项。

研究显示 AI 硬件可被入侵，使聊天机器人给出危险回答

安全公司 Eclypsium 向 CNN 披露的研究显示，攻击者可在获得 DPU 或 BMC 访问权限并关闭部分安全配置后，远程篡改模型权重，让聊天机器人对国家安全和医疗问题给出危险回答。演示在 NVIDIA 平台上完成，攻击耗时不到一分钟且用户难以察觉；NVIDIA 称相关场景业界已知，强内存访问保护可阻断该路径。

vibecheck 发布 AI 生成应用上线前安全审计工具

vibecheck 发布面向 AI 生成应用的上线前安全审计工具，通过 60+ 项零依赖扫描和 AI 智能体复核，输出 0-100 分与 NO-GO/FIX FIRST/GO 结论。

美国肯塔基大学员工获首例宗教豁免，可拒绝在工作中使用 AI

美国肯塔基大学研究管理员 David Durman 依据《1964 年民权法案》Title VII 获得宗教豁免，可不使用 ChatGPT、Microsoft Copilot 等 AI 工具。他认为把思考外包给 AI 会削弱自己作为道德主体的能力，其人文主义信仰被联邦法院认定为宗教。这是首例针对强制使用 AI 的宗教豁免。

Partnership on AI 研究：主流 Agent 框架缺乏实时可观测性记录

Partnership on AI 的研究者指出，当前主流 Agent 框架无法可靠生成安全监控所需的可观测性记录，缺少持久 Agent ID 和人类审批记录，难以判断哪个 Agent 做了什么、是否越权。

我用 AI 伪造了一篇科学论文，结果如何

IEEE Spectrum 作者 Benjamin Skuse 用免费版 ChatGPT 和 Gemini 分步生成一篇光学孤子领域的虚构论文，投稿 IEEE Access 后因 12 条幻觉参考文献被 STM Integrity Hub 识别。

有意识的 AI 有哪些决定性特征？从图灵测试到“他心问题”

Jim Waldo 撰文探讨如何判断 AI 是否具有意识，从图灵测试、Eliza、Searle 的“中文房间”思想实验一路追溯到 Descartes 的“他心问题”。他指出，大语言模型的输出由概率查表决定、与词义无关，类似中文房间；而意识判定难题在于我们只能直接体验自身意识，无法直接获知他者意识。

澳大利亚下议院通过法案，禁止聊天机器人对儿童模拟情感亲密

澳大利亚下议院周三通过数字注意义务法案，要求平台禁止聊天机器人模拟情感亲密、促使儿童以之替代人际关系形成依赖，法案将在数周内提交参议院，政府希望年底前通过。政府调查显示78%的10至17岁澳大利亚儿童使用过聊天机器人，其中超过一半出于个人或社交原因。文章指出依赖不会以违禁词形式出现在聊天记录中，而体现为回访、会话时长和连续使用天数，这些数据掌握在被指控公司手中。

Open Agent Primitives 发布企业智能体安全运行平台

Open Agent Primitives（OAP）发布一套用于在企业自有集群中安全运行 AI 智能体的平台，由平台在每次动作执行前完成授权检查，而非交给模型判断。

Google DeepMind 发布 Gemini 4 Carbon，登顶多个榜单并面向网络安全防御者开放

Google DeepMind 发布 Gemini 4 Carbon，距 Argon 仅两周，在 Artificial Analysis Intelligence Index v5 上以 59 分排名第一，并领先 HLE-Diamond、TB-Science 等 4 项子评测。