Hikari 桌面 AI Agent 发布：规划执行分离、验收条件与检查点恢复
方呵呵发布桌面 AI Agent 工作区 Hikari，把对话、项目工具、任务状态、权限审批和改动审阅放在同一应用里，代码已开源于 fonghehe/hikari-agent。
借鉴点
可借鉴其验收条件设计，把文件存在性和测试命令设为完成门槛，并要求测试证据晚于最后一次改动；代价是验收范围有限，回写仅支持 20 个 UTF-8 文本文件。
技术方向
部署工程 最新动态
怎么把模型跑得更快更省钱：推理加速、显存与成本、服务部署与基础设施选型。
545 条精选近 30 天 539 条共收录 2,452 条
更新
精选归档 · 第 23 页
掘金精选AI 评分7878 掘金精选AI 评分7878 用 Pydantic 校验 LLM 结构化输出：从简历抽取看校验与重试怎么写
这篇教程以从简历文本抽取结构化信息为例，演示不加校验时 LLM 输出会遇到的四类问题，并给出一套可直接复用的 Pydantic 校验写法。做法分两道关，先用正则去掉 markdown 围栏抠出 JSON，再用 Pydantic 模型定义字段类型、Field 范围约束和自定义校验器，把“15k左右”规整成 15000、把带横线手机号规整成 11 位。
借鉴点能拿走一套 Pydantic 校验链，抠 JSON、Field 范围约束、跨字段核对、错误回喂重试，直接换掉裸 json.loads 进库的做法；代价是要处理校验器字段顺序和容差，且框架的结构化输出仍挡不住业务口径错误。
IT之家精选AI 评分7272 MiniMax 开源 M3.1 Flash 模型权重，总参数 428B、激活 23B
MiniMax 稀宇科技宣布开源 MiniMax M3.1 Flash 的模型权重，总参数 428B、激活参数 23B，能力较上一代 M3 全面提升。该模型通过前三个全注意力层改为稀疏注意力、路由 MoE 专家迁移到 W4A4、稀疏注意力索引器和主分支从 Q8KV8 迁移到 Q8KV4，以及 Power-aware scheduling 提升推理效率。
借鉴点能拿走的是稀疏注意力加 QAT 到 W4A4 的推理提速组合，可落到本地模型部署线；前提是得先有支持 W4A4 和 Q8KV4 的推理框架与芯片适配。
掘金精选AI 评分7575 用 Zod 和结构化输出做 Agent 意图识别与路由的工程实践
作者以运维助手 OpsPilot 为例，给出 Agent 意图识别的完整实现路径，把意图层拆成 intent、mode、slots、missingSlots 四块，用 Zod 定义输出契约、Prompt 只给边界和上下文、代码二次校验后再按 mode 分发到答、问、做、拒。
借鉴点能拿走一套意图层四段式实现，Zod 契约加 Prompt 加二次校验加按 mode 分发，替换掉 includes 关键词猜意图的写法；代价是要维护意图定义的正反例和评测集，意图一多还得拆两层。
掘金精选AI 评分7171 爱立信 Code Comprehensor 用分层文档与跨模态检索让 500 万行代码可问答
爱立信研究院提出 Code Comprehensor，用 LLM 离线沿调用图把仓库文档化再压成语义检索索引，在线检索约 50 毫秒、完整回答一个问题 3-5 秒。
借鉴点可抄的是后序分块加滚动摘要驯服超大调用树、一个代码单元配多文本视图做多正样本监督、合成问题加术语锚点约束；代价是 120 万行要 48 小时和 3200 美元文档化，且只在 C/C++ 上验证过。
Qdrant精选AI 评分7878 Qdrant 用 Cohere Embed 5 与非对称量化做可扩展 PDF 检索
Qdrant 实测 Cohere Embed 5 Pro 用单个稠密向量表示整页 PDF 图像，在 5 个公开英文 ViDoRe V3 语料上平均 nDCG@10 超过多个 late-interaction 模型。
借鉴点能拿走一套 PDF 页面图像检索配方，MRL 512 维加 1-bit 页面向量、8-bit 查询向量，全量向量冷存磁盘做 top20 重排，代价是重排要读盘且 99.2% 质量只在 5 个英文语料上测过。
Hugging Face Blog精选AI 评分6262 微软与 Hugging Face 用 ThinkingBox 数据库终态校验做 RL 奖励，Qwen3.8-27B 全对任务从 38 增至 107
微软与 Hugging Face 联合发布 ThinkingBox-Training，把 ThinkingBox 对数据库终态的 1/0 可执行校验直接当作 RL 奖励。
借鉴点可复用离线策略相对难度筛选，用 Beta 后验把任务分五档，只留 0.08 到 0.90 区间做 GRPO，代价是每个候选任务要先跑 n 次探测，且训练与评测的解析器必须对齐。
Hacker News · AI 讨论精选AI 评分7878 Forked 开源：给 AI 智能体状态做 Git 式分支与回放
Forked 开源了一套给 AI 智能体结构化状态做版本管理的工具，支持 fork、回退和重放消息、记忆、计划与工具结果，并用副作用日志让邮件、支付和 API 调用在重试与回退时保持 effectively-once。
借鉴点能拿 HAMT 加内容寻址做 agent 状态的分支与回放，副作用日志按幂等键重放已存结果，换掉重试就重跑支付邮件的做法；代价是只管结构化状态，不覆盖文件和进程快照。
Hacker News · AI 讨论精选AI 评分7474 BLEN 开源 security-sweep：给编码 Agent 套上最小改动的安全补丁流程
BLEN 发布 Agent Skill security-sweep 1.0.0，让 Claude Code、Codex、Cursor 等编码 Agent 按 scan、plan、check、revert 四步修复 npm、pnpm、Composer 锁文件与 PHP、Node 运行时中的严重漏洞，每次只改一个漏洞且只动计划内的文件和锁文件条目。
借鉴点可把 security-sweep 作为 Agent Skill 装进 Claude Code、Codex、Cursor，用 scan/plan/check/revert 四步把依赖漏洞修复锁在最小版本和固定文件范围内，代价是必须联网、未固定版本的运行时直接判 INCOMPLETE。
Hacker News · 首页精选AI 评分8080 NVIDIA 开源 OpenShell 0.1.x，为自主智能体提供安全私有运行时
NVIDIA 开源 OpenShell 0.1.x，为成批自主智能体提供安全私有运行时，用策略声明每个智能体可触碰的文件、系统调用和网络。它在内核层对每次文件访问、系统调用和网络连接做策略检查，智能体看不到真实凭证，凭证只在发往已批准端点时注入。
借鉴点能拿走的是内核级沙箱加策略形式化验证这套组合，把智能体读写文件、装包、调 API 的权限收进策略里，落到本地模型部署和软件工厂两条线；代价是要 Linux/macOS 或 WSL 2 加 Docker/Podman，策略变更还得人工过审。
Hacker News · 首页精选AI 评分7474 agent-usage-guard 发布 Claude Code 插件，限制子 agent 并发与上下文消耗
agent-usage-guard 是一个运行在 Claude Code 内的插件，在 agent 启动、提示词发送和工具调用前拦截失控消耗，默认限制本机同时运行 4 个 agent、每 10 分钟 12 次启动、子 agent 每 10 分钟 10M token。
借鉴点能直接装进 Claude Code 限制子 agent 并发、上下文和重试循环，把默认 4 个并发、10M 子 agent token 等阈值改成自己机器的预算，代价是要接受它只覆盖本机会话、API key 会话读不到套餐百分比。
AWS Machine Learning Blog精选AI 评分5858 AWS 用实测 Q_max 和 T_total 推导 SageMaker 上 Kokoro-82M 的自动扩缩容阈值
AWS 机器学习博客给出在 Amazon SageMaker AI 实时端点上部署 Kokoro-82M 并实测推导自动扩缩容参数的方法，用 Q_max（单实例在 SLO 内能承受的最高并发）和 T_total（一次扩容端到端耗时）两个测量值算出扩容阈值、缩容阈值和两个冷却时间。
借鉴点能拿走一套五命令链 drift/qmax/ttotal/plan/validate，用实测并发上限和扩容耗时反推扩缩容阈值与冷却时间，落到本地模型部署线；代价是要跑约 36 分钟压测并占用 GPU 配额，样本容器还钉着有已知漏洞的旧 PyTorch。
AWS Machine Learning Blog精选AI 评分6060 AWS 用 SageMaker AI 上的 Kokoro TTS 为 AI 智能体流式输出低延迟语音
AWS 介绍在 Amazon SageMaker AI 上托管 Kokoro-82M 语音合成模型，把智能体产出的每个句子即时送入合成，而不是等整段回复生成完再开始。
借鉴点能拿走逐句切分流式合成、双向 WebSocket 会话复用和二进制与 JSON 控制帧混传三段代码，落到语音产线和本地模型部署；代价是要自建带 bidirectional-streaming 标签的容器，且示例镜像锁了旧版 PyTorch。
Hacker News · AI 讨论精选AI 评分7878 作者用约 340 行 bash 搭夜间 Ralph 循环，13 天开 82 个 PR 且从不合并
作者用约 340 行 bash 脚本、两个提示词、一个权限文件和四个 systemd 单元，在常开的 Linux 笔记本上跑无头 Claude Code（claude -p），把打了 ready 标签的 GitHub issue 逐个变成 ralph/* 分支上的 PR，13 天在六个仓库开了 82 个 PR，自己合并 74 个，循环本身一个都没合。
借鉴点能拿走一套无人值守编码循环的配置：GitHub issue 打 ready 标签当队列、每个 issue 一个 worktree 加一次性 claude -p、权限层禁掉 merge/push main/publish、用 usage.py 读订阅用量做闸门。落到软件工厂这条线，代价是要一台常开机器和一份 Claude 订阅额度，且共享文件冲突得靠 After #N 串行规避。
Hacker News · AI 讨论精选AI 评分8080 Caudra 发布单二进制开源终端编码智能体
Caudra 发布一个 Apache 2.0 开源的终端编码智能体，以单个原生二进制分发，支持 macOS、Linux 和 Windows，内置可中途引导的子智能体、shell 输出过滤、按消息回滚文件、/goal 完成目标和终端内 workbench。
借鉴点能拿走的是可转向子智能体、RTK 式 shell 输出过滤、按消息回滚文件、/goal 完成判定这几套配置，落到软件工厂的编码流水线；代价是要接受 preview 阶段频繁升级，且回滚不覆盖进程、数据库等外部副作用。
Hacker News · AI 讨论精选AI 评分7474 Adyen 开源 Agent Marketplace，把一份 Agent 配置编译到 8 种 AI 编码工具
Adyen 工程师开源 Agent Marketplace，用一份配置文件统一管理 Skills、Commands、Subagents、Hooks 和 MCP servers，并编译成 Claude Code、Codex、Cursor、Devin CLI、Factory Droid、Gemini CLI、Opencode、Windsurf 八种工具各自认的格式。
借鉴点一份配置当唯一来源，sync 把 Skills、Commands、Subagents、Hooks、MCP 编译成 8 家工具的格式，能换掉各仓库手抄指令的做法；代价是 Hooks 仍实验性，且只校验摘要不保证安全。
Hacker News · AI 讨论精选AI 评分7474 Pith 发布 LLM 输出 token 压缩代理，判据不达标就拒绝改动
Pith 是一个压缩 LLM 输出 token 的代理，它按 provider、模型和 system prompt 把请求分成路由，攒够 50 条样本后回放并让 judge 模型逐条对比基线，只有候选配置达到基线自一致水平、且节省能在一个月内抵掉 sweep 成本时才固定该配置，否则给出理由拒绝。
借鉴点可拿它的 sweep 加 judge 加 holdout 流程给自家路由压输出 token，前提是每条路由先攒够 50 条样本，且省下的量要在一个月内抵掉 sweep 成本，否则会被判拒绝。
掘金精选AI 评分7878 Kestrel_VLLM 第 15 篇：decode 四连击把 30B-A3B MoE 从 19ms/tok 降到 8.4ms/tok
Kestrel_VLLM 系列第 15 篇记录在 RTX 5090 上跑 Qwen3-30B-A3B q4 的 decode 优化，64 token 吞吐从 52.7 tok/s 提升到 118.8 tok/s，即 19.0 ms/tok 降到 8.4 ms/tok，总加速 2.25×。
借鉴点能用 VLLM_CUDA_STUB_{ATTN,ROUTER,GU,LMHEAD} 逐段跳过定位真瓶颈，再套转置归约、router 并行化、M=1 线程映射、CUDA Graph 四个小改动；代价是 attention 与 router 属近似安全，换 prompt 要重新对拍 greedy。
掘金精选AI 评分7878 沙箱复盘重试风暴：Agent 无退避重试 12 分半烧穿整月 20,000 次额度
作者用本机沙箱复跑同一份 9,000 条同步任务，裸奔组因即到即重试、整批重放、无预算账本，12 分半烧穿 20,000 次月额度，任务只完成 6,747/9,000。
借鉴点能拿走四段失败处理代码，Retry-After 优先、指数退避加抖动、逐条断点、任务预算熔断，换掉现在即到即重试加整批重放的写法；代价是任务时长被拉长，预算线要按实测故障率回推定。
掘金精选AI 评分7878 Anthropic 代码评审实践拆解：6 层防线加 3 轮上限，AI 写 90% 代码后如何保证质量
作者拆解 Anthropic 在 Claude 写掉 Claude Code 90% 代码后的评审做法，用 L0 到 L5 六层防线替代逐行人工评审，并按风险分档决定人工批准次数。
借鉴点能拿走六层评审防线、3 轮收敛上限和 CLAUDE.md/REVIEW.md/PR 模板，落到软件工厂的评审环节；前提是先有 flag、合并队列和一键回滚，否则砍人工评审等于把风险推给线上。