掘金· limuyang2·· 15 天前精选AI 评分71
在 2核2G 云主机上跑 OpenViking:云主机、向量模型与意图分析模型的选型复盘
我在 2核2G 云主机上跑 OpenViking:一次关于云主机、模型选型与长期成本的真实复盘
AI 导读
作者把 AI Coding Agent 的记忆底座迁到自建 OpenViking,用 99 元/年的阿里云 2核2G 实例跑通,本地只做存储检索、计算全交给外部 API。
借鉴点
能拿走一套 OpenViking 记忆底座的组件选型与配置,含 query_planner 单独指定、VLM 设 reasoning_effort low、向量模型锁 128K 多模态;落到本地模型部署与知识沉淀线,代价是 2G 机器要配 Swap 并限制容器内存。
来源:掘金 · juejin.cn