Berkeley AI Research·· 2026-07-26AI 评分38
ABBEL:通过信念状态监督让 LLM 高效完成长程交互
Teaching LLMs to Update Beliefs for Efficient Long-Horizon Interaction
AI 导读
伯克利 AI 研究团队提出 ABBEL 框架,将 LLM 的递归摘要隔离为自然语言"信念状态"并对其内容进行监督评分,在 CollabBench 协作编程任务上把与全上下文模型的性能差距缩小约 50%,训练步数也从 100 步降至 50 步。该方法借鉴自编码器思路,用当前模型从信念状态重建最新观测作为奖励信号,训练后峰值上下文 token 长度仍显著低于全上下文设置。
来源:Berkeley AI Research · bair.berkeley.edu