跳到正文

内容类型

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

439 条精选近 30 天 437 条共收录 1,601 条

更新

精选归档 · 第 18 页

10月23日周五第 341–360 条
  1. 掘金74

    Raven 开源多智能体编排框架,把 Claude Code、Codex 等接入并让 harness 自我改进

    EverMind-AI 开源 Raven,定位为 Host Agent,可编排 Research、Code、Design、Oncall 四个内置智能体,并通过 ACP、CLI 或 OpenAI 兼容 API 接入 Claude Code、Codex 等 13 个预设第三方智能体。

    借鉴点

    可借鉴把 Agent loop 拆成 Memory/Planning/Capability/Action 四块分别替换评测,并用评测门控决定改动去留;代价是 Curator 仍属实验性、不在安装包内,性能数字均为项目自述。

  2. 掘金71

    AgentScope-Java 实战:把 Agent 会话状态从本地 JSON 迁到 Redis

    AgentScope-Java 系列第四篇演示如何把 Agent 会话状态从默认的 JsonFileAgentStateStore 切到 RedisAgentStateStore,只需在 HarnessAgent.builder() 里加一行 .stateStore(store),业务代码不用改。

    借鉴点

    能拿走 RedisAgentStateStore 的 builder 配置、key 结构设计和 compaction 两个参数,把本地 JSON 状态换成集中存储,代价是 Redis 客户端要自己建、改 keyPrefix 等于换库。

  3. 掘金78

    pgvector 0.8 评测:迭代索引扫描如何修复过滤向量检索的召回不足

    pgvector 0.8.0 引入迭代索引扫描,在过滤后结果不足 LIMIT 时继续向后扫描索引,直到凑够行数或触达安全上限,解决 HNSW 先取 ef_search 个候选再过滤导致高选择性条件返回不足的问题。

    借鉴点

    能拿走三个 GUC 参数的具体配法和 relaxed_order 与 strict_order 的取舍标准,落到知识沉淀的 RAG 召回线;前提是过滤列建了 B-tree 索引,且 langchain-postgres 把过滤放在 JSONB metadata 上时要绕开封装。

  4. 掘金78

    用 Windows Junction 让 7 个 AI Agent 共享同一份 Skills

    作者给出一套让 Claude Code、Codex、Cursor、Qoder、Trae、WorkBuddy 等 7 个 AI Agent 共享同一份 Skills 的方案,用一个 git 仓库作唯一实体层,其余 Agent 技能目录全部用 Windows Junction 指入,改一处全端生效。

    借鉴点

    用 git 仓库做唯一实体层、各 Agent 目录 Junction 指入,配正向建链、反向收编、每周体检三个脚本;代价是 Junction 存绝对路径,仓库一改名全机断链,Node 建链在占用目录会 EBUSY 需 PowerShell 兜底。

  5. 掘金78

    Windows 桌面语音唤醒从 Vosk ASR 迁移到 sherpa-onnx KWS 的实践复盘

    作者把 Windows Electron 桌面语音助手的唤醒方案从 Vosk Grammar 模式换成 sherpa-onnx 的 KeywordSpotter 加 Silero VAD,唤醒判定从识别文本的字符串匹配变成声学 token 序列精确匹配。

    借鉴点

    能拿走 KWS 阈值三档、400ms 宽限期、预卷环形缓冲和 numThreads=1 这几个具体配置,换掉用 ASR 文本匹配做唤醒的链路;代价是 VAD 挡不住旁人真语音,还得另加声纹或文本过滤。

  6. 掘金71

    显存被占满时用 CPU 微调模型:实测耗时与四个坑

    作者在 48GB 显存被推理服务占满的情况下,用 CPU 对 2B 以下模型做 LoRA 微调,同任务同数据耗时约为 GPU 的 11 倍,精度差在小数点后三位。

    借鉴点

    能拿走 CPU 跑 LoRA 的四个具体坑和修法,包括 device 与精度成对切换、qwen3_nothink 模板、8bit 量化、LFS 指针检查,落到本地模型部署这条线,代价是 2B 以下窄任务要等 11 倍时间。

  7. 掘金71

    AutoVideoHub 拆解从文案语义到素材自动获取的四段工程链路

    AutoVideoHub 把视频生产中最耗时的找素材环节自动化,输入文案后输出可精剪的粗剪片、素材包和分镜稿,不做文案生成也不替代精剪。链路分四段,LLM 把文案结构化成含语义、情绪、景别、主体的分镜 JSON,再映射成英文检索词,从 Pexels、Pixabay、Coverr、Mixkit 抓取免费商用素材,搜不到时用 AI 生成兜底。

    借鉴点

    能拿走四段可插拔链路和 CLIP 抽帧图文评分做素材筛选,落到视频产线;前提是自备 LLM 与素材 API,精剪仍要人工。

  8. 掘金80

    长上下文为何越喂越差:从注意力公式拆解上下文腐烂与应对方案

    作者梳理 Chroma、RULER、Lost in the Middle、NoLiMa 等实验,指出长上下文衰减与任务难度无关、只与长度强相关,标称窗口不等于有效窗口。

    借鉴点

    能拿走一套上下文治理清单,压缩去噪、子代理隔离、按需检索、关键信息放首尾、约束钉在压缩外,落到软件工厂和知识沉淀两条线;代价是要自建长上下文召回回归测试,且压缩必须区分任务上下文与治理约束。

  9. 掘金72

    用纯标准库手写 OpenAI 兼容 Chat Completions 的最小 tool calling Agent 循环,附超时、JSON 解析、错误回灌三个坑

    作者用 Python 3.13.5 纯标准库手写了一个 OpenAI 兼容 Chat Completions 形状的最小 tool calling Agent 循环,流程为 messages 调模型、执行 tool_calls、以 role=tool 带同一 tool_call_id 回灌、再调,直到没有工具调用或触达 max_rounds。

    借鉴点

    能拿走一套纯标准库的 tool-calling 循环骨架,含 FakeLLM 脚本复现多轮、arguments 先 json.loads、工具异常转 ERROR 字符串回灌、空 tool_calls 判结束,可换掉排障时被框架挡住看不清协议的做法,代价是并行工具、流式、重试都得自己补。

  10. 掘金75

    Ray 容错机制教程:任务重试、worker 崩溃、lineage 重建与 GCS 容错

    这篇 Ray 教程拆解了任务重试、worker 崩溃、对象 lineage 重建、actor 重启和 GCS 容错五层机制,并逐层给出参数默认值与边界。核心结论是 max_retries 默认 3 只管 worker 崩溃,应用异常要靠 retry_exceptions 显式开启,且它只能写布尔或异常类型列表,actor 上还必须写在方法级。

    借鉴点

    能拿走 Ray 四层容错的参数对照和踩坑清单,落到本地模型部署与软件工厂的分布式任务编排上,前提是任务本身幂等,且 RAY_TASK_MAX_RETRIES=0 会连带关掉 lineage 重建。

  11. 掘金82

    KV 缓存全场景剖析:从单次推理到 Agent 架构的九类场景

    文章按九个场景拆解 KV 缓存,指出它把每步重算前缀的 O(N²) 压成线性,但每步注意力仍需遍历全部缓存,线性项不会消失。多轮对话与 Agent 场景下前缀任一字节改动都会让改动点之后的缓存失效,文中给出一个客服 Agent 因在系统提示词加一行时间戳导致首 token 延迟从 0.5 秒涨到 3-5 秒、月度账单近乎翻倍的案例。

    借鉴点

    能拿走三条纪律:系统提示词和工具定义冻结、动态信息追加到末尾、状态栏以 user 消息注入;落到本地模型部署和 Agent 产线,代价是改动越靠前失效越多,且各项优化节省不能相加,需端到端实测。

  12. 掘金70

    用 DeepSkill 作品展厅实测技能选型三步工序:检索、画像、试跑

    作者把「找 skill」拆成检索、静态画像、金丝雀试跑三步验收工序,并对 DeepSkill 作品展厅的 10 个候选技能完整实测,最终装载 4 个,装载率 40%。

    借鉴点

    能拿走一套检索词反推、静态画像脚本加三用例金丝雀试跑的技能验收工序,落到软件工厂的技能选型环节,代价是每个候选要花人工核对高权限面,十个候选约四十分钟。

  13. 掘金74

    Redis 作者 antirez 的 ds4 本地推理引擎:128GB M5 Max 跑 2 比特 DeepSeek V4 Flash 约 39 token/s

    Redis 作者 antirez 开发的本地推理引擎 ds4(DwarfStar)只针对 DeepSeek、GLM、Qwen 少数模型做优化,在 128GB M5 Max 上跑 2 比特 DeepSeek V4 Flash(约 81 GiB)时 2K 上下文生成约 39 token/s,64K 上下文降到约 28 token/s。

    借鉴点

    能拿走 ds4 的构建命令、SSD 流式参数和 Claude Code 包装脚本,把本地 Mac 接成编码 Agent 后端;代价是 2 比特量化激进、beta 状态,长上下文生成速度会掉。

  14. 掘金71

    Anthropic 给 agent 写工具的 5 条经验:少而精、返回高信号内容

    作者梳理 Anthropic 工程博客《Writing effective tools for agents — with agents》中给 agent 写工具的 5 条经验,核心是工具不是把现有 API 包一层,而要按 agent 的视角设计。

    借鉴点

    能拿走五条工具设计原则和原型加评测的迭代流程,落到 Agent 工具链和 MCP 服务器上,代价是评测任务要自己造且需可验证结果。

  15. 掘金71

    用向量加 BM25、RRF 与 Rerank 四层检索解决 RAG 答不出精确问题

    作者针对向量检索无法区分 ORD-2026-0087 与 ORD-2026-0176 这类精确字符的问题,给出向量加 BM25 双路召回、RRF 融合、Rerank 精排的四层混合检索链路,并附完整 Python 实现。

    借鉴点

    能拿走向量加 BM25 双路召回、RRF 按名次融合、每路按最高分 30% 过滤、交叉编码器精排的完整链路和 Python 代码,落到知识沉淀和本地模型部署;代价是 Rerank 要调外部 API 且候选越多算力越贵。

  16. 掘金78

    如何安全中断并恢复崩溃的 Agent:五阶段生命周期与恢复粒度对比

    文章讲 Agent 的主动中断与崩溃恢复两件事,提出协作式中断标志、给正在执行的工具 3 秒收尾窗口、中断后为未完成的工具调用补占位结果三条原则。崩溃恢复部分对比 LangGraph 的节点级、Temporal 的单步级和 Microsoft Foundry 的 checkpoint 恢复粒度,作者引擎选择每轮即时持久化,崩溃只丢当前一轮。

    借鉴点

    能拿走协作式中断标志加3秒工具收尾窗口、每轮即时持久化和降级启动三条做法,落到本地模型部署与软件工厂的Agent运行时,代价是要自己实现孤儿任务扫描和SIGKILL测试。

  17. 掘金80

    从零搭建生产级 Agentic RAG 系统:持久化、可观测、评估与成本护栏

    李溪白在系列三收官篇给出生产级 Agentic RAG 的五层架构,把 LangGraph 的 Checkpointer 持久化、interrupt() 人工审批、Trace 可观测、RAGAS 评估和成本熔断串成一套可上线方案。

    借鉴点

    能拿走 LangGraph 的 PostgresSaver 断点续跑、interrupt() 人工审批、三层成本熔断和六层错误分类,落到本地模型部署与知识沉淀线;代价是要自建 Postgres 与 Langfuse 链路,代码骨架只给结构不给完整业务逻辑。

  18. 掘金80

    把 ComfyUI 改造成无人值守视频产线:状态机、顺序锁与插件工程实践

    作者在 RTX 5070 Laptop 8GB 显存上把 ComfyUI 0.40 加 MiniMax H3 的生成链路改造成常驻编排服务 video_pipeline.py,监听 127.0.0.1:8898,用 FIFO 队列加单 worker 跑六阶段状态机。

    借鉴点

    能拿走大小稳定轮询、六阶段状态机、顺序锁原位替换和 PromptServer 队列钩子这几段实现,落到视频产线和本地模型部署上,代价是单 worker 串行、最坏 8 秒入队延迟,且钩子与插件补丁升级后要回归。

  19. 掘金71

    Indra OCR 实测:1M 参数本地 OCR 接入求职记录工具,卡在模型下载和中文识别

    作者用 1M 参数的 Indra OCR 给本地求职记录工具加截图识别岗位功能,最终能识别出公司、岗位、薪资、地点、学历和 HR 并自动填表。

    借鉴点

    能拿走 Indra OCR 的本地接入做法,包括用 INDRA_OCR_MODEL_DIR 指定离线模型目录、补 script.onnx/rec_cjk.onnx/lm_cjk.npz 三个 CJK 文件,落到本地模型部署和截图录入流程,代价是国内直连 HuggingFace 超时、镜像大文件走 xethub CDN 会 401。

  20. 掘金74

    阿里云云原生解析 Jev 决策模型:如何用结构化输出做 Agent 路由与分类

    阿里云云原生团队撰文解析 TypeSafe 的 Jev 模型,它定位为 System One 模型,输出固定为结构化分类结果加校准置信度,官方称智能水平接近现有 LLM 而速度快约 100 倍。

    借鉴点

    能拿走 Jev 的 choice/score/noul 三类决策入参写法和六条实践原则,落到 Agent Harness 的意图路由与风险判定环节,替代大模型 Prompt 分类;代价是数学日期计算、多跳推理和嘈杂 state 会失准,需代码兜底。