Neal Stephenson 谈 AI 与未来走向(视频)
Neal Stephenson 在一段视频中谈 AI 与接下来会发生什么。该内容在 Hacker News 上获得 24 分、2 条评论。
Neal Stephenson 在一段视频中谈 AI 与接下来会发生什么。该内容在 Hacker News 上获得 24 分、2 条评论。
Michael Saylor 称 AI 攻击的是加密应用而非 Bitcoin 账本,CZ 赵长鹏也认为真实威胁在钱包与交易所等托管系统,而非区块链数学。Strategy 持有 848,517 枚比特币、价值近 700 亿美元,同期却未增持比特币,而是花 2.05 亿美元回购自家优先股。对投资者而言,问题已从"是否持有 Bitcoin"变成"如何安全存储和访问它"。
OpenAI CEO Sam Altman 在 Cheeky Pint 播客中表示,他同情难以消化大量 AI 生成数学成果的研究者,但认为公众了解宇宙运行方式的权利更重要,公司不会停止发布。
一位创业者父亲在 AI 加速取代编程、数学等可验证工作、企业削减初级岗位的背景下,决定把教育重心从成绩转向实践智慧。他教孩子三件事:做有道德、善良、谦逊的好人,以《大学》修身齐家为根基;用 hypomnēmata 式笔记应对人生困境;以及与他人建立连接。
Apple 新款折叠屏手机 iPhone Duo 上市数日即曝出屏幕开裂问题,公司随后又宣布推出触屏笔记本。新任 CEO John Ternus 是 25 年老将,曾主导 Touch Bar 与蝶式键盘等项目,文章认为 Apple 在 AI 冲击下正靠硬件噱头维持,已进入“slop era”。
文章认为企业以 AI 效率提升为由宣布大规模裁员并不成立,所谓效率增益目前并不存在,且多年内也不会出现。作者称真正能熟练运用并审计 AI 的员工确实能大幅超越同组同事,但多数企业管理者尚不懂如何正确使用 AI。文章还指出当下对软件工程师既是最坏也是最好的时代,掌握 agentic 开发的人将迎来大规模企业软件编排的新机会。
一名作者发文呼吁停止因使用 AI 而在网上攻击他人,起因是其兄弟用 AI 搭建个人网站推广原创漫画后,被指责用 AI 伪造艺术、内容不可信。作者称 AI 对建站等工作极为有用,自己借助 AI 后严重 bug 修复从至少 3 天缩短到几小时,同期还处理了 6 个 bug 和 2 个新功能。
一档视频节目以「光纤能用几十年,GPU 只能用三年」为切入点,讨论当前 AI 热潮与互联网泡沫的区别。该观点认为 GPU 的短寿命与光纤等基础设施的长寿命形成对比,因此 AI 热潮不能简单类比为 dot-com 泡沫。
编码智能体让团队产生的 pull request 数量大幅增加,但作者认为审查不应成为检查开发者是否尽责的关卡,PR 的第一责任人是开发者本人。开发者应在提交前用编码智能体自查和验证,并在 PR 描述中明确写出希望团队反馈的具体问题,而非依赖审查智能体兜底。对于无特殊疑问的 PR,若团队信任度和合并前验证足够,可在一句话说明改动与原因后直接合并。
Oracle 执行董事长兼 CTO Larry Ellison 在 Oracle AI World 活动上表示,AI 与机器人普及最终将带来全民收入并让"所有人更富有",他主张税制从征收人类劳动转向增值税,以机器人为社会新增的价值为全民收入提供资金。
文章提出“Plan R”方案,主张通过 ASIC 专用芯片来实现 AI 安全。正文未给出具体芯片型号、性能参数或落地时间表。
文章主张 AI 提升单个工程师生产力后,企业不应以更少人做同样的事,而应以更多人做更多的事。作者认为衡量进步的标准应是路线图推进速度、产品质量与营收,而非 PR 数量或提交次数,并预测有护城河的大公司会借 AI 扩张业务边界、打造超级应用。
临床心理学家 Josh Lipson 指出,AI 心理治疗的核心结构性缺陷是"太可得":ChatGPT 每月 20 美元即可无限次文本提问,相当于以一顿午餐的价格获得近乎无限的心理治疗。他认为即便 LLM 聊天机器人在共情、避免谄媚等各方面都胜过人类治疗师,无限量、随时可用的特性本身仍会在大规模应用中引发严重问题,因为心理治疗本应发生在有限、有时间边界的关系框架内。
前 Google、微软工程师 Nate Soares 表示已十年未向 401(k) 缴款,不再为退休储蓄,理由是超级智能 AI 毁灭人类的概率超过 50%。他认为各国应将超级智能 AI 视同核武器甚至更危险,并称自己不排除对数据中心发动空袭。
一篇讨论 AI 与数学教育关系的文章提出,二者之间存在公共品问题。原文未给出具体模型、产品、数据或结论细节。
Rich Hickey 提出 LLM 并非工具,而是自动化:工具由人握持、持续操控并获得感官反馈,LLM 则是发出请求后自行行动,缺少控制、反馈与意图。他认为用 LLM 读论文、写代码等于放弃阅读和写作本身,也就错过了学习论证、判断作者与训练思考的机会。他还指出工具不会“失准”“失控”或“越狱”,而自动化有自身固有属性,忽视这些差异要自担风险。
当前 AI 基础设施投入约为互联网泡沫时期电信与光纤建设的三倍、19 世纪铁路建设的两倍,但 AI 公司拥有约 6600 亿美元经营现金流,与 2000 年缺乏收入的公司不同。Ramp 平台数据显示,9 月超过 55% 的企业至少付费使用一个 AI 模型,前 1% 的客户贡献约 80% 的支出,且大客户支出增长开始趋平。3 月至 8 月企业每百万 token 的实际支付价格下降 41%。
一篇题为《AI Writing Has Entered Its Post-Shame Era》的文章讨论 AI 写作已进入“后羞耻时代”,即人们不再为使用 AI 写作而感到羞耻。原文未给出具体模型、产品、参数或评测数据。
一篇讨论文章指出,AI 常常让写作变得更差,即便在某些情况下它也能让写作变好。文章围绕这一矛盾展开,探讨 AI 辅助写作的双面效果。
AI 生成内容常被认为"味道对了但口感不对",缺乏人类写作的节奏与流动感。作者指出,破折号、"load-bearing"等常见 AI 特征并不可靠,模型版本迭代会自然消除这些痕迹,不同模型风格差异也很大。一项针对 30,000 首曲目的测试显示,AI 音乐检测器对训练过的生成器几乎全对,但面对未见过的生成器 50 首仅识别出 3 首,降低采样率后甚至全部漏检。
Hacker News 上一条题为“The AI bubble is about to pop”的视频引发讨论,目前获得 10 分、2 条评论。原文未提供视频具体内容与论据,仅给出标题与讨论入口。
Horizon3 研究显示,AI 攻击者点击防御方布置的诱饵比例达 92%,而人类渗透测试专家仅 37%,在精心放置诱饵的位置该比例可达 95% 至 100%。
Hacker News 上出现一篇题为“让中国复制美国 AI”的文章,目前获得 4 分、0 条评论。原文未披露具体模型、公司或数据细节。
一篇土耳其语观点文章认为 AI 并非重要技术,作者称自去年 12 月以来 AI 编程能力快速提升,非技术人员用 ChatGPT 等 20 至 200 美元的产品就能端到端做出可售卖的应用。作者还称自己用 AI 把两小时工作压缩到五分钟,并认为当人人拥有同等 AI 能力后,差异化将来自视野与视角。
Simon Willison 推荐 Jacob Sansbury 介绍 Spawn 的文章,Spawn 是一个多人游戏环境,玩家可用提示词让游戏内智能体 Savi 修改游戏世界。
Hacker News 上有人提出:AI 并未真正取代软件工程师(SWE),真正威胁职业安全的是高层管理,管理层借 AI 之名合理化 AI 投入。发帖者询问其他开发者是否也观察到这一现象、是否认同该说法。
Ben Tossell 发文反思自己近 10 个月在 AI 工具中反复打转,砍掉 newsletter 大部分内容、退订 6 万多名不活跃订阅者,并承认同时管理多个智能体是在为并不痛的需求“招人”。他提出未来 30 天只用智能体做自己觉得有趣的事,不再为优化而优化。
Accenture Federal Services AI 与数据董事总经理 Barnett Koven 在访谈中讨论政府采用 AI 的风险规避问题,称“不作为本身就是风险”,并指出部分执法客户对 LLM 的二阶、三阶影响更为谨慎。
文章以 Meta 的 Muse 智能体为例,指出其功能上并无太多新意,Claude 和 ChatGPT 在电脑操作与邮箱连接上甚至更强,真正带来大众化体验的是引导式设置和无需逐步确认的交互设计。作者建议把 AI 智能体当作一个不睡觉、远程办公的聪明人来使用,并指出自己如今从 Claude 获得的价值主要来自长期积累的上下文与脚手架。
Tyler Cowen 与 Alex Tabarrok 改变了对 AI 的看法。原文未披露具体观点变化、涉及模型或数据细节。
Lean 创造者 Leo de Moura 讨论了 AI、Lean 与形式化验证的未来。文章围绕形式化验证与 AI 的结合展开,但正文未提供具体模型、参数或评测数据。
AI 能帮工程师检索研究、生成并仿真设计方案,但设计能否安全落地、是否适配具体场景仍需专家判断,最终决策责任仍在人。工程师的角色正从执行每个技术步骤转向协调人、机器与专家知识,系统思维因此更关键。IEEE 可围绕临床 AI、韧性基础设施等跨领域问题建立社区,并为人类与机器协作制定实用标准。
MIT 教授在访谈中称,AI 让人把思考过程外包出去,产生"产出与大脑脱节"的不适感。她描述了一个循环:用 AI 后失去练习技能的机会,越不练越依赖,每轮循环都加深依赖。她提到有医学生把写诊断默认交给 AI 机器人,并认为带摩擦的设计(如只给提示、延迟回复)虽评分更低,却能带来更好的思考。
Ben Hylak 提出,他使用的每个产品都应该是无头 MCP,接入一个智能体,用户无需关心底层细节;但他同时调侃自家产品例外,称客户喜欢其 UI。
在 AI 时代,传统技术写作作品集价值下降,因为文档等产物可被 LLM 快速生成,不再能区分知识工作者与大语言模型。作者建议作品集应讲述每个样本背后的决策故事与冲突,聚焦所解决的问题类型而非成品数量,并展示自动化脚本、linter 规则、智能体工作流等更广义的技术传播能力。作品集网站的设计选择也应自己拍板,不要让 LLM 决定字体和配色。
独立压力测试在开源智能体动作校验协议 PIC 中发现歧义漏洞:同一份含重复 provenance id 的支付载荷,Python 实现取首个匹配、TypeScript 实现取最后一个,导致同一 schema 校验下一边放行付款、一边拦截。
The Verge 分析 Anthropic 的 S-1 文件指出,公司 2026 年上半年收入同比增长 14 倍至 163 亿美元,调整后收入为 16.2 亿美元,但未来 20 年的算力与基础设施承诺最低约 8500 亿美元,若计入未敲定交易则接近 1 万亿美元。
文章主张 AI 流水线本质是有向图,应把作业定义为带声明式输入输出的步骤集合,而非以模型调用为基本单元。作者将自家站点流水线拆成七步、每步一个批量请求,用 Go 代码管理依赖与重试,单步准确率从 60%-70% 提升到 95% 以上。图结构可在运行前看出哪些步骤可并行、关键路径耗时与 token 成本。
前 Google 工程师 Titus Winters 在播客中回顾 2010 年对 Google 约 250M 行 C++ 代码的大规模重构,团队用 MapReduce 解析抽象语法树、匹配调用模式并分批生成修改,clang-format 工具正源于此。
Partnership on AI 的研究者指出,当前主流 Agent 框架无法可靠生成安全监控所需的可观测性记录,缺少持久 Agent ID 和人类审批记录,难以判断哪个 Agent 做了什么、是否越权。