跳到正文
热点事件历史事件

Thinker 推出上下文裁剪与知识缓存工具

1 篇报道1 个报道来源10 天前更新

先了解这件事

AI 综述

Thinker 在 Hacker News 的 Show HN 发布工具,通过裁剪上下文和缓存知识延长智能体的 token 使用额度。其示例称,裁剪 8k 指令 token 可在后续 20 次调用中省下 160k 上下文读取 token;知识缓存用 2k 笔记包替代 40k 探索 token,每次调用少带 38k 上下文。 Thinker 表示,压缩功能是否可用取决于具体智能体,指令裁剪与知识缓存是两个独立功能;实际写入大小取决于可复用的缓存边界,回收效果取决于后续调用。

AI 根据报道生成 · 10 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. Hacker News · AI 讨论
    Show HN:Thinker 通过裁剪上下文与缓存知识延长智能体使用额度

    Thinker 在 Hacker News 的 Show HN 亮相,通过裁剪上下文和缓存知识让 token 用得更久。示例中裁剪 8k 指令 token 可在后续 20 次调用中省下 160k 上下文读取 token;知识缓存用 2k 笔记包替代 40k 探索 token,每次调用少带 38k 上下文。压缩功能是否可用取决于具体智能体,指令裁剪与知识缓存是两个独立功能。