跳到正文
热点事件历史事件

AI 智能体为何消耗大量 token

1 篇报道1 个报道来源11 天前更新

先了解这件事

AI 综述

一篇技术分析文章拆解了 AI 智能体的工作方式:用户只输入一句“hi”,用量计却显示约 18,000 个 token,其中仅 1 个来自用户。文章解释其余 token 的去向,以及用量为何增长得如此之快。 文章的核心解释是:智能体在回答前会反复调用模型、携带上下文和工具结果,这些过程都会计入 token 消耗,因此单次交互的用量远高于用户输入本身。

AI 根据报道生成 · 11 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. Hacker News · AI 讨论
    为什么你的 AI 智能体消耗这么多 token?

    在 AI 助手里输入一句“hi”,用量计却显示 18,000 个 token,其中只有 1 个来自用户。文章拆解了 AI 智能体的工作方式,解释其余 token 的去向,以及用量为何增长得如此之快。