跳到正文
Hacker News · AI 讨论· stephanfebs·· 13 天前精选AI 评分78

Rufous 发布 alpha 版:面向 2B–12B 小模型的本地 agent 框架

Show HN: Rufous – Agent attuned to small models

AI 导读

Rufous 发布 alpha 版,这是一个用 Rust 写的 agent 框架,面向在自己机器上运行的 2B–12B 模型,可在编辑器内或自带 Web UI 中使用。

借鉴点

能拿走的是小模型 agent 的校验思路,用不可编辑的工具调用记录核对模型自述、每轮最多一次 Hold,落到本地模型部署这条线;代价是规则靠人工标注集维护,作者自测样本仅两个 4B 模型各跑三到六次。

来源:Hacker News · AI 讨论 · rufous.chat