Hacker News AI· episod·· 3 天前AI 评分22
Tenstorrent Blackhole 如何在同一芯片上服务 Agentic AI 的 Prefill 与 Decode
Serving Prefill and Decode for Agentic AI (On Tenstorrent Blackhole)
AI 导读
Tenstorrent Galaxy 系统在 Blackhole 芯片上同时处理 prefill 与 decode，让运营方按负载变化在两者间调配容量，而不必在购买硬件时就固定分配。
来源：Hacker News AI · tenstorrent.com