部署工程 最新动态

能拿它当极简编码 agent 基线，只留 bash 加 subprocess.run 执行动作、线性历史便于调试和微调，代价是放弃工具调用接口与状态化 shell，复杂任务要靠模型自己拼命令。

能拿走一套低显存本地语音助手的完整配置，含各档模型对应的量化版本与采样参数、分类器与记忆模型分开加载、keepLoaded 关掉后用快照换显存；落到本地模型部署这条线，代价是要自己装 SearXNG、Caddy 和一堆编译依赖。

可拿走四招降本做法，模型换代迁移、路由、花费可见性、砍 token 开销，落到软件工厂的编码 agent 成本控制上；前提是先有统一网关收口全部流量，否则看不到钱花在哪。

用 initramfs 里先于 nvidia 绑卡的 kmod 写 SS0/SS1 速度选择器，免去每次驱动更新重打补丁，代价是需内核命令行 opt-in、休眠不覆盖且恢复后要重解锁。

能拿走 srt 前缀命令加 ~/.srt-settings.json 的读写与域名白名单配置，把本地 MCP server 和自建 agent 关进无容器沙箱，代价是 Linux 要装 bubblewrap、socat、ripgrep，白名单过严会让 npm install 失败。

可借鉴四种权限模式加可撤销 diff 的编码智能体设计，以及 colibri 把 MoE 专家权重放硬盘、常驻权重留显存的做法；代价是硬盘读取只有 0.3 到 3 tokens/s，机械盘和 U 盘基本不可用。

能拿走 Letta 的 core memory 分块、共享 block 和 passages 检索写法，落到软件工厂的多 agent 协作与知识沉淀；代价是 SDK 接口跨版本不稳定，代码里要包一层兼容调用。

能拿走接口/适配/评估三层结构和 200～500 条样本的回归脚本，落到软件工厂的模型切换流程；代价是每个模型要单独写适配器，结构化输出还得靠二次调用兜底。

可借鉴把工具调用当挂起点、按消息队列切片恢复的运行时设计，替换阻塞式 agent 循环；代价是工具要改成异步回投结果，且需处理至少一次投递的幂等。

能拿走 vllm serve 的三个关键参数和前缀缓存默认开启的用法，落到本地模型部署这条线；前提是显存先装得下权重，单人或只追首 token 延迟的场景收益有限。

可借鉴它把澄清、规划、精修、实现、评审做成带质量门的有界循环，每步落盘到 SQLite 并配独立 git worktree；代价是要接受固定流程约束，mock 模式只能验证流程不能验证模型效果。

12 家 agent 各写一个捕获适配器、统一归一化后入 SQLite，再用 7 个 MCP 工具做「续接」；代价是本地明文存储、MCP 端点无鉴权，且上游格式一变就得靠探针发现。

无人回合可照搬四件事，工具集用前缀加白名单在 dispatcher 拦、空结果写进契约、尝试与成功分两个时间戳、只给可关的那半记预算，代价是账单不完整且会晚到。

能拿走三权切分的修法，协议错误原文只进 trace artifact，History 只放“原文已省略”占位，换掉把模型原始输出直接追加进下一轮的做法；代价是要改 Agent Loop 版本并补一层断言伪造结果没进 prompt 的确定性测试。

能拿走 verify.md 四步验证命令、两段 cron 窗口和五档权限矩阵，落到软件工厂的 agent 改代码流程；前提是项目已有一键回滚，数据类改动仍需人工兜。

能拿走算术强度判瓶颈、TMA加WGMMA的warp分工、FP8两级累加和MLA吸收推导，落到本地模型部署与推理优化这条线，前提是手上有Hopper卡并愿意对着固定commit读源码。

给出缓存命中率与三档单价的成本公式和73.6%临界点算法，能落到本地模型部署与Agent长会话的成本核算，前提是拿到真实账单明细并补齐本地定价表。

能拿走三层接入拓扑、Nginx 双向关缓冲配置、按在途 Token 预占的 CAS 准入器和前端自适应打字队列，落到本地模型部署与软件工厂的流式链路；代价是要自己估 Token 与 KV Cache 上限，堆外内存漏释放会拖垮服务。

把 Pi 编码智能体用 AOT 编译成单文件可执行程序，去掉 Node/Bun 运行时依赖，可换掉本地编码 agent 的启动与长会话开销；代价是默认无 JIT，重插件需另装 JIT 版或自行 compile。

可拿走工具契约四字段（request_id、deadline_ts、priority、回调方式）、三层背压状态机和四层指标，落到本地模型部署与软件工厂；前提是平台能算出预计等待和单次 GPU 成本。