Thinker 推出上下文裁剪与知识缓存工具
热点事件历史事件
Thinker 推出上下文裁剪与知识缓存工具
1 篇报道1 个报道来源10 天前更新
先了解这件事
AI 综述
Thinker 在 Hacker News 的 Show HN 发布工具,通过裁剪上下文和缓存知识延长智能体的 token 使用额度。其示例称,裁剪 8k 指令 token 可在后续 20 次调用中省下 160k 上下文读取 token;知识缓存用 2k 笔记包替代 40k 探索 token,每次调用少带 38k 上下文。 Thinker 表示,压缩功能是否可用取决于具体智能体,指令裁剪与知识缓存是两个独立功能;实际写入大小取决于可复用的缓存边界,回收效果取决于后续调用。
AI 根据报道生成 · 10 天前更新
最新进展11月6日 03:22
Show HN:Thinker 通过裁剪上下文与缓存知识延长智能体使用额度报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- Hacker News · AI 讨论Show HN:Thinker 通过裁剪上下文与缓存知识延长智能体使用额度
Thinker 在 Hacker News 的 Show HN 亮相,通过裁剪上下文和缓存知识让 token 用得更久。示例中裁剪 8k 指令 token 可在后续 20 次调用中省下 160k 上下文读取 token;知识缓存用 2k 笔记包替代 40k 探索 token,每次调用少带 38k 上下文。压缩功能是否可用取决于具体智能体,指令裁剪与知识缓存是两个独立功能。