iCreatAI News
跳到正文
Hacker News AI· myurushkin·· 2 天前AI 评分55

为什么 LLM 在 temperature 0 下仍不确定,以及如何构建确定性 AI 产品

Deterministic AI: Why LLMs Aren't, and How to Build Products That Are Anyway

AI 导读

Broutonlab 的这篇指南指出,LLM 即使 temperature 0 加固定 seed 也无法保证输出一致:Thinking Machines 2025 年 9 月用同一 prompt 在 temperature 0 下跑 1000 次,得到 80 种不同补全,前 102 个 token 一致后在 Feynman 出生地表述上分叉。

来源:Hacker News AI · broutonlab.com