掘金· 风骏时光牛马·· 14 天前AI 评分22
AI 开源工具一站式尝鲜:Ollama 本地跑 qwen3:4b、vLLM 部署 Qwen2-VL
AI开源工具一站式尝鲜体验
AI 导读
文章以三个高频场景演示 AI 开源工具的快速上手路径:用 Ollama 一条命令拉取并运行 qwen3:4b,通过默认 11434 端口的 OpenAI 兼容接口调用;再用 vLLM 启动 Qwen/Qwen2-VL-2B-Instruct 服务做图片理解。文中还给出显存不足、端口冲突和版本混乱的避坑建议。
来源:掘金 · juejin.cn