技术方向
开放权重、能下载下来自己部署的模型，开源框架与 GitHub 上爆火的 AI 项目。
374 条精选近 30 天 362 条共收录 1,367 条
技术老孙用 AgentScope 2.0.1 加 Spring Boot 4.1.1（MVC）把 HarnessAgent 接进 Web，通过 SseEmitter 把 streamEvents() 的 Reactor 事件流转成浏览器可消费的 SSE，实现逐字输出。
能拿走 AgentScope 事件流转 SSE 的四层接法，含事件裁剪成 {type,content} 与超时设 0，落到软件工厂的 Agent 前端接入；代价是 Spring Boot 4 需补 starter-json 且 Flux 必须手动 subscribe。
月之暗面发布 Kimi K3.1 Pro，在 K3 的 2.8T MoE 基座上只做后训练联合强化学习，API 定价从 K3 的约 21/108 元降到 13/68 元每百万 Token。
能拿走的是三档定价与 MoE 稀疏激活的成本账，以及自部署 5.6TB FP16 落盘、8 张 H100 跑 INT8 的硬件门槛，可落到本地模型部署和软件工厂选型；代价是基座锁死在 7 月那版 2.8T，长程调试仍需人工打断。
Together AI 发布 Hallmark，一个面向 Claude Code、Codex、Cursor 和 OpenCode 的设计技能，用 48 套主题材质和浏览器内 sloplint 检查拦截机器感痕迹。
可把 48 套主题、sloplint 八档宽度渲染检查和冷启动复审这套流程搬进前端产线，代价是要装 puppeteer-core 和 Chrome，且主题只定材质不定页面结构。
Polter 发布自带控制中枢的终端，用总管（Supervisor）和总控台（Control Room）解决 Claude Code 长任务半夜卡在 y/n 确认框的问题。
可借鉴其终端值守机制，用 terminal_read 读纯文本而非截图 OCR，屏幕静止 3 分钟才推送唤醒总管，安全操作代答、破坏性操作报警，代价是要把长任务迁进 Polter 终端并接受本地状态目录。
独立开发者 /u/Input-X 开源 AIPass，用一套常驻 AI 智能体团队维护自己的项目。他只与技术负责人 DevPulse 对话定方向，DevPulse 再制定执行计划、把任务派给 @hooks、@memory、@ai_mail、@flow 等各管一块的专家智能体，派完即休眠，等对方完成后再唤醒验收测试并整合。
能拿走的是常驻专家 agent 加调度层这套结构，每个 agent 有自己的目录、记忆、邮箱和测试，调度者派单后休眠、完成再唤醒验收；落到软件工厂这条线，可换掉单 agent 串行派活。代价是系统体量大、上手要时间，还要按 CPU 余量排期，作者自己成了审阅瓶颈。
Microsoft Research 开源了 Agensh，一个去掉中心编排器的多智能体框架，每个 worker 自行认领子任务、共享发现并合并代码到同一个 Git 仓库。
能拿走的是无中心编排的 5 步协作循环和 Gitea、Mattermost、共享上下文板三件套，可替换单 agent 串行派活；代价是 1024 agent 需 16 节点、每 worker 64 GiB 内存，token 成本未披露。
MarkTechPost 发布教程，在原生 llama.cpp 上运行 7.9 GB 的 Underdog Saluki 27B（Qwen3.8-27B 的 2-bit 构建），并与 ISTA-DASLab 的 GSQ-RCO IQ2_XS 版本逐张量、逐字节对比。
能拿走一套可复现的 GGUF 对比流程，逐张量读 header、按字节比对权重、用 BFCL 自带 checker 打分，落到本地模型部署这条线；代价是要一块 GPU 或 Apple 芯片，120 题样本小，结论只能看置信区间。
Meowcute 项目用单张 RTX 4090 加全离线 Qwen-Image-2.1，把游戏角色四视图做到可用，单套约 1~1.5 分钟、峰值显存 14.7GB。
能拿走一套四视图做法，正视图文生图、侧背右以正视图为参考逐张指令转身、numpy 拼板，落到游戏素材产线；代价是 470 字八段指令工程和 40 步画质底线，90° 正侧面仍会丢背包。
作者复盘一条 Spring AI Alibaba Agent 请求运行约 2 分 42 秒后因 StackOverflowError 中断，定位到图执行器每完成一个节点就用 concatWith(Flux.defer(...)) 把下一步接到当前 Reactor 流上，循环增多后 request() 调用链耗尽线程栈。
可复用其排查路径：按链路标识锁定首个 StackOverflowError，看 FluxConcatArray 的 request() 是否成组重复，再用 3000 次无模型自循环测试隔离图执行器；代价是要回移上游补丁并逐类对照源码。
GitHub 项目 gpu-unlock-ada 通过在 Linux 启动阶段抢先加载内核模块、修改流多处理器速度选择寄存器，把 RTX 4090 的 FP16/FP32 与 BF16/FP32 张量吞吐从 165 TF/s 提升到 331 TF/s，INT8 与 dp4a 维持基线。
能拿走的是 initramfs 抢先加载内核模块、用 gpu_unlock.targets 指定 PCI 地址、冷启动清 WPR2 这套流程，可落到本地模型部署的 FP16/BF16 推理提速；代价是仅三款 Ada 卡验证、每次内核更新要重装、热重启可能失败。
OneMemory 是一个自托管的共享记忆库，通过 MCP 或 REST 让 Claude Code、Claude Desktop、Cursor、Copilot、Cline 等客户端读写同一份 SQLite 笔记。
可自托管一个 SQLite 记忆库，用 MCP 或 REST 让 Claude Code、Cursor、手机端共用同一份笔记，还能做变更订阅和任务交接；代价是要 Node 24 以上，远程访问得自己架带鉴权的隧道。
Kevlar 是一个位于 MCP 客户端与服务器之间的代理防火墙，对 tools/list 无条件清空所有 description 字段，只保留 name 和 inputSchema。
能拿走的是 MCP 代理层的四道拦截做法，剥 description、扫注入、拦带凭据出站、握手后锁工具表，可直接套到本地 MCP 客户端前面；代价是只支持 Linux 和 macOS、需 Python 3.10+，且 tools/call 结果只能靠阈值打分，误杀风险要先用 audit 模式摸清。
SWE-bench 与 SWE-agent 团队发布 mini-swe-agent，智能体类约 100 行 Python，在 SWE-bench verified 上得分超过 74%。
能拿它当极简编码 agent 基线，只留 bash 加 subprocess.run 执行动作、线性历史便于调试和微调，代价是放弃工具调用接口与状态化 shell，复杂任务要靠模型自己拼命令。
RhinoDevel 在 GitHub 开源 Poldi，一个完全跑在本地硬件上的语音对话助手，用 C# 写服务端，配 Node.js 免手客户端和网页客户端，支持唤醒词、打断回答和终端模式。
能拿走一套低显存本地语音助手的完整配置，含各档模型对应的量化版本与采样参数、分类器与记忆模型分开加载、keepLoaded 关掉后用快照换显存；落到本地模型部署这条线，代价是要自己装 SearXNG、Caddy 和一堆编译依赖。
GPU-unlock 1.0.0 发布，这是一个 Linux 内核模块，把 Nvidia 3000 系显卡的 FP/BF16 指令发射速率解锁到专业卡水平。
用 initramfs 里先于 nvidia 绑卡的 kmod 写 SS0/SS1 速度选择器，免去每次驱动更新重打补丁，代价是需内核命令行 opt-in、休眠不覆盖且恢复后要重解锁。
Anthropic 开源 sandbox-runtime（srt），用操作系统自带隔离机制限制进程可读写的文件和可访问的域名，不需要容器。macOS 走 Seatbelt，Linux 依赖 bubblewrap、socat 和 ripgrep，Windows 支持为 alpha；默认读全放行、写全拒绝、网络全拒绝，流量只经宿主侧代理按域名白名单放行。
能拿走 srt 前缀命令加 ~/.srt-settings.json 的读写与域名白名单配置，把本地 MCP server 和自建 agent 关进无容器沙箱，代价是 Linux 要装 bubblewrap、socat、ripgrep，白名单过严会让 npm install 失败。
Draggy 发布 Windows 桌面 AI 助手，用内置 llama.cpp 引擎在本地跑 GGUF 模型，无需账号、无遥测，并带一个能在项目文件夹里读写文件、执行命令的编码智能体。
可借鉴四种权限模式加可撤销 diff 的编码智能体设计，以及 colibri 把 MoE 专家权重放硬盘、常驻权重留显存的做法；代价是硬盘读取只有 0.3 到 3 tokens/s，机械盘和 U 盘基本不可用。
AWS 与 UC Berkeley 在 Hydro 项目下以 Apache 2.0 开源 Infinity，一个把工具调用当作挂起点的 Agent 运行时。它把 Agent 拆成有界执行切片，挂起时只保留对话历史，基准中 8 万 Agent 常驻内存约每空闲 Agent 100 KB，8 GB 的树莓派 5 可容纳约 7.5 万个并发 Agent。
可借鉴把工具调用当挂起点、按消息队列切片恢复的运行时设计，替换阻塞式 agent 循环；代价是工具要改成异步回投结果，且需处理至少一次投递的幂等。
JetBrains InnovationHub 以 Apache-2.0 开源 ThinkRail，一个围绕 pi coding agent 构建的智能体 IDE，可在浏览器 UI 中并行运行多个 agent。
可借鉴的是每个 agent 独占一个 git worktree 分支、用 SPEC.md 图当上下文，以及把 agent 引擎与 UI 拆成三层；代价是需装本地 launcher 并配置已认证的 pi provider。
这篇教程讲清 vLLM 靠 PagedAttention 把 KV Cache 从按最大上下文预留改成固定大小分页管理，从而在同一张卡上塞下更多并发请求。
能拿走 vllm serve 的三个关键参数和前缀缓存默认开启的用法，落到本地模型部署这条线；前提是显存先装得下权重，单人或只追首 token 延迟的场景收益有限。