跳到正文
掘金· limuyang2·· 15 天前精选AI 评分71

在 2核2G 云主机上跑 OpenViking:云主机、向量模型与意图分析模型的选型复盘

我在 2核2G 云主机上跑 OpenViking:一次关于云主机、模型选型与长期成本的真实复盘

AI 导读

作者把 AI Coding Agent 的记忆底座迁到自建 OpenViking,用 99 元/年的阿里云 2核2G 实例跑通,本地只做存储检索、计算全交给外部 API。

借鉴点

能拿走一套 OpenViking 记忆底座的组件选型与配置,含 query_planner 单独指定、VLM 设 reasoning_effort low、向量模型锁 128K 多模态;落到本地模型部署与知识沉淀线,代价是 2G 机器要配 Swap 并限制容器内存。

来源:掘金 · juejin.cn