AI Agent 的用户记忆与知识库：从四种记忆格式到混合检索与双层记忆架构
这篇长文系统梳理 AI Agent 的持久化记忆体系，把用户记忆和共享知识库放在同一套技术栈下讨论。
借鉴点
能拿走四种记忆存储格式的取舍标准、BM25 与混合检索加跨编码器重排序的完整流水线，以及 Proposer/Reviewer 异源互审的知识更新流程；落到知识沉淀和本地模型部署两条线，代价是结构化索引和上下文前缀都要额外 LLM 调用。
技术方向
数据与训练 最新动态
大模型是怎么练出来的：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
71 条精选近 30 天 68 条共收录 743 条
更新
精选归档 · 第 4 页
掘金精选AI 评分8080 掘金精选AI 评分8282 得物技术总结昇腾 910C 大模型推理优化：镜像升级与参数调优使 TPOT 下降 45.1%
得物技术总结在华为昇腾 910C 上优化 Qwen3.5-35B-A3B 在线推理的实践，仅靠镜像版本升级与参数调优，c=1 的 TPOT 从基线 14.22ms 降至 7.8ms，下降 45.1%。
借鉴点能拿走一整套昇腾 910C 上 vllm-ascend 的调参清单，含 HCCL_OP_EXPANSION_MODE=AIV、静态 kernel、PYTORCH_NPU_ALLOC_CONF 与 jemalloc 的具体值，可直接换掉现有在线推理部署配置；代价是多数收益绑定 0.23.0 版本与 Qwen3.5-35B-A3B 结构，且需逐模型实测，文中还列了十余项负向尝试。
Hugging Face Blog精选AI 评分5858 NVIDIA 发布 Kumo Relational 关系型基础模型，无需训练即可预测
NVIDIA 发布预训练关系型基础模型 Kumo Relational，可直接在企业数据库上做流失、需求、欺诈等预测，单次前向推理完成，无需任务训练和特征工程。
借鉴点能直接拿 PQL 写预测查询、用 structured-data-models 库在 GPU notebook 里做上下文学习，替掉现在按任务搭的 XGBoost 特征工程流水线；代价是上下文最多 1 万条样本，训练集极大时仍要靠微调。
Hugging Face Blog精选AI 评分7171 Dharma AI 用 VocabX 为 SLM 定制词表，实测推理成本降 77%
Dharma AI 在 Hugging Face 博客披露 VocabX 方法，在不改基础模型、数据和训练配方的前提下，把 Qwen3-4B 葡语作文评分器的实测推理成本降低 77.0%，平均响应从 350 token 降到 101 token。
借鉴点能拿走按 token 成本而非频次重建词表的方法，子词合并加宏 token 两层同预算筛选，落到本地小模型部署可省 77% 推理成本；代价是需重训分词器并重跑训练，且压缩掉关键决策 token 会掉点。
Hacker News · AI 讨论精选AI 评分7171 为何压缩应成为 agent harness 的标准环节
作者主张把上下文压缩放进调用模型、执行工具的 harness 里，而不是等上下文窗口快满时才做。文章区分确定性压缩与语义压缩，实测 RTK 0.49.0 的 minify-json 把 1MB JSON 减少 16.8%、pytest 日志减少 53.1%、重复日志减少 88.7%，但通用日志过滤器误判 Android 日志的 170 条 W 记录为 0 条警告。
借鉴点把压缩放进 harness 而非交给主模型，给出确定性过滤加校验回退的流程，并附 RTK 实测数字；代价是需按格式写规则、保留原文，且压缩器自身 token 可能超过节省量。
AWS Machine Learning Blog精选AI 评分5858 AWS 在 SageMaker HyperPod 上微调 GPT-OSS-20B 多语言推理，SFT 加 GRPO 把答案语言正确率提到 70%
AWS 在 Amazon SageMaker HyperPod 上用 LoRA 微调 GPT-OSS-20B，SFT 把推理语言正确率从 22% 提到 100%，再叠加 GRPO 把答案语言正确率从 62% 提到 70%。
借鉴点能拿走 SFT 与 GRPO 的分工判据和 LoRA r=8/α=16 配置，落到本地模型部署与训练流水线；前提是先测出 pass@k 与 pass@1 的差距，没有余量时 GRPO 白烧 GPU。
Cloudflare AI精选AI 评分5858 Cloudflare 发布 System One 抽取模型 Clairic，上线 Workers AI 预览
Cloudflare 发布 System One 类抽取模型 Clairic，已在 Workers AI 以 @cf/cloudflare/clairic 提供预览，并计划后续开放权重。
借鉴点可用字段 schema 一次并行抽取文本 span、数字、日期、估计分布和预测区间，替换 LLM 逐字段生成 JSON 的抽取管线；代价是多步算术和长序列预测仍要交给代码。
Qdrant精选AI 评分7171 Qdrant 实测 UltraBERT-Embed-150M 的 32K token 整篇向量与分块检索
Qdrant 用 LongEmbed 五项任务和 MLDR 的 20 万篇维基文章，对比 UltraBERT-Embed-150M 的整篇向量与 512 token 分块检索，结论是分块在细节检索上仍更强。
借鉴点能拿走一套长文档检索的对照配置，整篇向量对 512 与 256 token 分块，再加 DBSF/RRF 混合与 1-bit TurboQuant 压缩；落到知识沉淀和本地检索，代价是整篇嵌入耗时约 3 倍、压缩后需重打分补 4 到 11 ms。
Mistral AI精选AI 评分6464 Mistral 发布时序基础模型 Timestral，最大 209M 参数
Mistral 发布首个时序基础模型系列 Timestral，含 5M、28M、123M、209M 四个尺寸，最大模型以 209M 参数在 GIFT-Eval、TIME、fev-bench 三个公开基准的预训练零样本模型中排名第一，参数约为此前 SOTA 的三分之二。
借鉴点可借鉴的是合成数据优先加两阶段训练配方，以及把协变量按目标、仅历史、已知未来分角色做注意力掩码；前提是自建时序预测管线，代价是需自造合成数据并调 21 分位 pinball loss。
Amazon Science精选AI 评分8282 AWS 提出 Priming 方法，用预训练 Transformer 权重改造混合架构，预训练成本降低 99% 以上
AWS 团队提出 Priming 方法，把预训练 Transformer 的权重作为混合架构的初始化，将混合架构的预训练成本降低 99% 以上，整个流程消耗不到源模型预训练 token 预算的 0.5%。
借鉴点用预训练 Transformer 权重初始化混合架构，把预训练成本压到 0.5% 以下，可低成本对比 GKA、GDN、Mamba-2 与 SWA 的层替换方案；代价是仍需短蒸馏和端到端微调，且层选择依赖 SWA 替换代理实验。
Microsoft Research精选AI 评分7474 微软亚洲研究院开源 Agent Lightning v1.0，3500 行代码实现 Harnessed Agentic RL
微软亚洲研究院开源 Agent Lightning v1.0，用约 3500 行代码实现 Harnessed Agentic RL，让部署时使用的 agent harness 直接参与强化学习训练，无需在训练框架内重写 agent。
借鉴点把部署用的 harness 直接接进 RL 训练，只需把模型端点指向 LLM proxy，省去在训练框架里重写 agent；代价是重分词、样本合并与优势/损失归一化要按 rollout 级处理。