跳到正文

内容类型

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

439 条精选近 30 天 437 条共收录 1,601 条

更新

精选归档 · 第 8 页

11月2日周一第 141–160 条
  1. Hacker News · AI 讨论71

    实测 Claude Code 调试 RISC-V RTL 缺陷:加装 Booley 后平均修复时间从 55.8 分钟降到 21.3 分钟

    作者用同一 Claude Code 2.1.289 与 Sonnet 5.5,在 Caliptra 的 VeeR EL2 转发缺陷上各跑 10 次,纯 shell 平均 55.8 分钟、配 Booley 0.3.0 平均 21.3 分钟,全部产出被接受的修复与复现测试。

    借鉴点

    可拿走三条 RTL 调试配置:按需录波形并用 B-Wave 按信号名查值、用阻塞式 sim 命令替代固定 sleep、把构建配置写进 FuseSoC core 文件并让仿真缺固件即失败;代价是需先一次性适配项目,且作者自建 Booley 存在立场。

  2. Hacker News · AI 讨论80

    TinyContext 教程:如何给 AI Agent 加上长期记忆

    TinyContext 发布分步教程,讲如何给 AI Agent 加长期记忆:用一个本地 SQLite 存储加保存、召回、更新三类工具,再在 CLAUDE.md 或系统提示词里写明何时调用。

    借鉴点

    能拿走一套可复用的记忆方案,一个 SQLite 文件加 save/recall/update 三个工具,配 CLAUDE.md 五条指令或 60 行 Python;落到本地模型部署和知识沉淀两条线,代价是要模型工具调用稳定,且只适合几千到几万条事实。

  3. 掘金78

    RAG 与智能体记忆的工程实践总结:从写入流水线到三层记忆

    一篇面向学习者的总结,把 RAG 拆成写入与读取两条线,并给出智能体三层记忆的工程实现。写入侧强调走消息队列异步向量化、每种索引绑定一个 embedding 模型且换模型要建新索引做 A/B 双写、embedding 输入拼接类目路径和标题做上下文增强,并提醒批量调用要用返回的 index 加批次起始下标还原全局位置。

    借鉴点

    能拿走一套 RAG 写入与检索的工程做法,包括批量 embedding 用返回 index 还原全局下标、RRF 融合稀疏稠密两路、分数门控宁缺毋滥,以及记忆的语义加时间加结构化三重过滤;可落到知识沉淀和本地模型部署两条线,代价是要自建向量库、消息队列和 50~100 条回归测试集。

  4. 掘金80

    用 Python 搭一套提示词离线评测体系:从评测集、指标到版本退化判定

    作者以英语作文批改智能体为例,用 Python 搭了一套离线评测流水线,把改提示词后的效果从凭感觉变成看分数。体系包含带反例的 16 条 JSONL 评测集、exact_match 与 set_f1 等纯函数指标、四档 rubric 的 LLM as judge 裁判、markdown 报告和按核心指标阈值判退化的版本对比,42 个测试用例离线全绿。

    借鉴点

    能拿走一套离线评测流水线,含反例评测集、纯函数指标、四档 rubric 裁判和按标签的退化判定,用来替换改提示词后随手试几个例子的做法;代价是要先人工标注评测集,且裁判调用会多一层开销。

  5. 掘金72

    AI狂想讲 Rule 常驻与场景路由:alwaysApply 只留安全红线,Context 打满先砍建议

    AI狂想在第 5 篇 Rule 工程化实践中提出,把五十条 Rule 全塞进 alwaysApply 会让 Context 被噪声占满,安全条款反而被挤出窗口。

    借鉴点

    能拿走一套规则分层与预算降级脚本,把 alwaysApply 拆成 SEC/GATE/SCN/SUG/DOM 五层并按意图路由,落到软件工厂的规则配置上;代价是路由表得给每类包配意图关键词,否则降级报告里全是走错片场的条目。

  6. 掘金75

    拆解 DeepSeek dsh-superagent 的授权门控与 observe 模式,附 60 行 Python 模拟

    作者拆解 DeepSeek Harness 团队开源的 dsh-superagent(MIT),重点讲它的授权模型和默认 observe 模式,并用 60 行纯标准库 Python 模拟门控逻辑。

    借鉴点

    能拿走一套授权门控分级和 observe 灰度做法,用 60 行 Python 模拟显式请求与推断候选的分流,落到 Agent 派单流程上;代价是规则要团队自写,且真实实现还有 Mandate 版本校验等层未覆盖。

  7. 掘金75

    vLLM 推理服务性能剖析方法论:吞吐量、延迟与显存利用率的权衡

    这篇教程讲怎么量化衡量和优化 vLLM 推理服务,把吞吐量、延迟和显存利用率之间的权衡拆成一套可执行的方法。延迟被拆成 TTFT 和 TPOT,大 batch 换吞吐但伤延迟,显存留够余量才能避免 OOM。

    借鉴点

    能拿走一套先定位瓶颈再调参的流程和真实 vLLM 指标名,落到本地模型部署线;代价是原文工具链偏 NVIDIA,昇腾要换成 npu-smi、msprof 和 AISBench。

  8. 掘金74

    Spring AI 流式对话两个隐藏成本:断连后模型仍在生成、会话记忆无上限

    作者用 Spring AI 2.0.1 接 deepseek-chat 做流式对话,实测出两个不报错的坑:客户端断开后服务端与模型之间的流仍在消费 token,InMemoryChatMemoryRepository 只限单会话消息条数不限会话数量,10,000 个会话占 115 MB 堆内存,折算 10 万个约 1.1 GB。

    借鉴点

    能拿走 SseEmitter 断连检测加 dispose 取消上游订阅、Caffeine 给会话数设上限两段可照抄代码,落到本地模型部署和软件工厂的流式接口上,代价是内存数只是数量级、断连省下的 token 未实测。

  9. 掘金78

    阿里云云原生拆解 DeepSeek Harness 的 Super-agent 架构

    阿里云云原生解读 DeepSeek 8 月开源的 DeepSeek Harness 及其 dsh-superagent-prototype,把跨会话保持上下文、并行推进多任务的 Agent 称为 Super-agent,并拆出双层架构、事件驱动、计算状态与环境分离、Watchdog 等模块。

    借鉴点

    能拿走双层架构、订阅直通、链式召回、投机执行、Watchdog 巡检五个模块的具体分工,落到软件工厂的多任务派单和本地环境接入;代价是 Router 批处理只提有效吞吐,云端与端侧默认互信,提示词注入会波及所有接入设备。

  10. 掘金72

    Elasticsearch 与 Jina AI 全模态搜索项目 elastic_multimodal_search 技术解析

    开源项目 elastic_multimodal_search 用 Jina AI 多模态 embedding 把文本、图像、音频、视频帧映射到同一向量空间,再由 Elasticsearch 做 BM25 词法检索与 k-NN 向量检索的混合匹配,覆盖音乐、动物、图像、电影、图书、跨模态、套娃降维、词向量可视化 8 个 Streamlit 搜索模块。

    借鉴点

    能拿走一套可跑的多模态检索模板,含 Jina 多模态 embedding 加 ES 的 BM25 与 k-NN 混合检索、RRF 融合和 Matryoshka 截断到 128/256/512/1024 维;落到知识沉淀和本地模型部署,前提是自备 ES 8+ 集群和 OpenRouter、Gemini 密钥。

  11. Hacker News · AI 讨论71

    Maarten Grootendorst 与 Jay Alammar 开源《An Illustrated Guide to AI Agents》配套代码

    Maarten Grootendorst 和 Jay Alammar 在 GitHub 放出《An Illustrated Guide to AI Agents》一书的配套代码,读者可用纯 LLM 调用从零搭一个带记忆、工具和自主性的 TinyAgent。

    借鉴点

    能拿走一套从零手写 TinyAgent 的章节代码,按记忆、工具、规划、多智能体逐层加组件并用 diff 展示改动,落到本地模型部署和软件工厂两条线;前提是跟着 Colab T4 跑,代码只覆盖教学规模。

  12. 掘金75

    作者用 Router 加三个 Worker 重构 AI 编码工作流,让 Coder 在方案确认前有限抢跑

    作者在原有串行 dev-workflow 基础上设计了 dev-workflow-router,由 Router 统一接收需求和反馈,分派给 Analyst/Planner、Coder、Reviewer 三个 Worker,在保留 #0 背景确认、#1 方案确认、#2 实现验证三道人工 gate 的前提下让可独立推进的工作提前开始。

    借鉴点

    可照搬 Router 加 Analyst/Coder/Reviewer 三角色分工、五行骨架和按影响分派反馈的做法,替换单 Agent 串行审批;代价是 token 增加、需自管文件所有权与版本快照。

  13. 掘金72

    大模型联动 CodeQL 与 Coverity 的静态扫描落地方案

    作者给出大模型联动 CodeQL 与 Coverity 的完整落地方案,包含分层架构、Python 调度脚本和 Pydantic 数据模型。方案把两套工具的扫描结果统一导出为 SARIF 并归一化去重,再送入 LLM 判断误报、做风险分级、生成修复代码,并在出现高危漏洞时自动生成 CodeQL 自定义 QL 规则。

    借鉴点

    能拿走一套 CodeQL+Coverity 双引擎调度脚本和 Pydantic 数据模型,把扫描结果归一化成 SARIF 再交给 LLM 研判误报、生成修复代码和自定义 QL 规则,落到软件工厂的代码审计环节;前提是本地装好两套工具链并给出可编译的 build_command,LLM 输出还需自行清洗 JSON。

  14. 掘金83

    Worker 与 OffscreenCanvas 实测:25 条断言拆解线程边界与传输开销

    作者用真实 Chrome 跑了 5 组基准和 25 条断言,实测 postMessage 三条通道、OffscreenCanvas 交接和 Worker 池的代价。

    借鉴点

    能拿走 transferListOf 摊平函数、约 130 行 RPC 封装和带握手与崩溃补人的 Worker 池,落到本地模型部署或视频产线的浏览器侧渲染;代价是每 worker 约 5ms 启动、15µs 消息地板和每 worker 独立堆。

11月1日周日
  1. 掘金75

    DeepSeek Harness 的 Harness 到底做了什么

    文章基于提交 477b4f4205 的实现,拆解 DeepSeek Harness 如何协调多轮模型调用、工具执行与会话状态,把运行过程分为插件装配、回合驱动、会话日志、工具管道和异常处理五部分。

    借鉴点

    拆解了 turn/step/请求尝试三层边界、surface 投影与并发执行顺序提交的取舍,可对照改造自家 agent 循环的输入队列和日志恢复,代价是配置整段替换易丢字段、日志恢复不保证副作用回滚。

  2. 掘金72

    ETF Agent 作者拆解 Agent 上下文治理:从首轮输入到长期记忆的落地做法

    ETF Agent 作者以基金费用与持仓比较为教学任务,拆解 Agent 上下文治理的落地做法,主张每次调用前从有效任务、获准材料和真实执行记录重建工作视图,而不是维护一个不断增长的字符串。

    借鉴点

    能拿走的是按职责分区装配每轮请求的做法,系统提示词只放稳定指导,记忆先过准入再选,工具结果存成可回读引用;可落到知识沉淀和本地模型部署的上下文装配环节,代价是要自己维护版本、覆盖和回执,原文只给教学别名和示意字段,没有可直接调用的接口。

  3. 掘金71

    单卡跑125B MoE模型实测:多出18GB显存带来82%吞吐提升

    作者在RTX 5090上跑Qwen3.8-Flash-Next Q2_0(125B级MoE),停掉同卡其他容器腾出18,106 MiB显存后,decode吞吐从140.6 tok/s升到256.2 tok/s,提升82%。

    借鉴点

    能拿走单变量对照法加两条拟合公式,缓存约等于整卡可用减6.0 GiB、decode约等于92加6.53乘缓存GiB,用来预估本地部署吞吐;代价是结论绑在Q2_0量化、32K上下文和Gen3链路上,换档位或换卡要重测。

  4. 掘金71

    用 Google Artemis 在真机上跑移动端 AI Agent 的实践记录

    作者在 Windows 上连接红米 K80,用 OpenRouter 加 DeepSeek 视觉模型驱动 Google 开源的 Android 移动 Agent Artemis,跑通山姆会员商店 App 里进商品、分享、生成图片、存相册的全流程。

    借鉴点

    能拿走 Windows 接红米真机、OpenRouter 配视觉模型、Flash 与 Pro 选型及山姆分享图 Prompt 模板,落到本地模型部署与软件工厂的真机自动化层,代价是控机模型必须支持图像输入,单次会话约 16 万 Token。

  5. 掘金78

    把完整 Python Agent 内核打进手机 APK:依赖闭包、Rust 轮子和三个真机坑

    作者把 fastapi、uvicorn、openai-agents 这套完整 Python Agent 内核零上游改动打进 Android APK,在手机内以 127.0.0.1 环回 HTTP 服务跑通。

    借鉴点

    能拿走依赖闭包清点法、5 个自编 Rust wheel 的组包步骤和 SSL_CERT_FILE、chdir 顺序、Server.started 就绪判断三个真机坑,落到本地模型部署与软件工厂;代价是版本钉死在 NDK r27c + Chaquopy 17.2 + Python 3.12,且仅单台 arm64 真机验收。

  6. 掘金78

    pi-rust 的 rpi 0.15.0 如何设计 Durable Execution:从运行记录到中断恢复

    作者以 pi-rust 的 Rust Agent 运行时 rpi 0.15.0 为例,拆解 Agent 进程重启后如何依据记录决定下一步。

    借鉴点

    能拿走一套可落地的恢复判定顺序,先查已存结果、再查上游录制、最后看历史与当前是否都声明 Safe 才重跑,否则补一条未知结果;代价是恢复入口绕过参数准备与 before_tool_call 钩子,effective_args 存的是钩子前的参数。