跳到正文
#推理

标签

#推理

按发布时间排列的全部收录，按天分组；筛选和搜索都在这一页。

共 377 条 · 第 9 / 10 页 · 更新于 19:17

10/21

星期三6 条

  1. AWS Machine Learning Blog47i14 在 AWS Trainium2 上用原生 PyTorch 训练并服务 Laplace 3B 线性注意力模型
  2. 掘金22大模型底层架构与推理机制源码深度剖析：Transformer、KV 缓存与 llama.cpp
  3. 掘金71UIUC 与 AWS AI Labs 提出 Maestro 协调者架构，研究级 Lean 定理多证 63%
  4. 掘金36DeepSeek V4.1-Flash-1017 上线：552B 稀疏架构仅激活 16B，实测与接入指南
  5. 掘金34不训扩散模型也能生成文本：BERT 加外置解码器即可迭代去噪生成
  6. MarkTechPost58DeepSeek 开源 DeepInfer 推理框架，支撑 DeepSeek-V4.1-Flash 生产服务

10/20

星期二22 条

  1. Hacker News · 首页34耗时十个月打造最像人类的国际象棋机器人 Chessbook-1
  2. The Decoder58Cloudflare 发布文档抽取模型 Clairic，称比 LLM 更快更便宜
  3. Hacker News · 首页58投机解码为什么快：不是算得更少，而是把访存受限换成计算受限
  4. Hacker News · AI 讨论22为什么 AI 写作这么差？AI slop 其实是人类的问题
  5. 36氪 · 快讯75DeepSeek 宣布全面开源内部推理框架 DeepInfer
  6. Hacker News · AI 讨论58在自有服务器上用 vLLM 部署瑞士开源多模态模型 Apertus 8B
  7. Hacker News · 首页58doubleAI 推出 Maxwell 代码执行模型，运行时重写二进制并形式化证明等价
  8. 掘金30用金字塔结构梳理 Bias-Variance Tradeoff：从 RL、LLM 到经典 ML 的统一框架
  9. 掘金71MiniMax 发布 M3.1 Flash，确认匿名模型 Space Bunny 为其早期版本，Agent 成本降 70%
  10. IT之家46联想 YOGA Pro 15 RTX Spark 上手体验：笔电身形，桌面工作站实力
  11. 雷峰网38复旦贾萧松：VLA、WAM 新架构层出不穷，但真正的瓶颈不在模型架构
  12. 量子位34商汤大装置如何用异构推理集群支撑日均6万亿Token服务
  13. Hacker News · AI 讨论66用 Flame 训练 Search-R1 搜索智能体：100 步 Qwen2.5-3B 准确率从 14.5% 升到 47.0%
  14. Hacker News · AI 讨论74vramkit 在 MacBook 上实测 LLM 权重与 KV-cache 压缩
  15. MarkTechPost58Inception 发布扩散语言模型 Mercury 3，速度 1,068 tokens/s、上下文 1M
  16. Techmeme22Inception 推出扩散 LLM Mercury 3，称在智能体基准上超越 GPT-6 Luna、Claude Haiku 5.5 和 GLM-5.3 Flash，速度快 4 至 8 倍
  17. TechCrunch · AI38AWS 发布 TorchNeuron 开发工具，让 PyTorch 应用一行配置迁到 Trainium
  18. The Decoder58MiniMax 发布 M3.1 Flash 推理模型，智能指数 42 分、每任务成本约 $0.22
  19. Cloudflare AI58Cloudflare 发布 System One 抽取模型 Clairic，上线 Workers AI 预览
  20. AWS Machine Learning Blog38Deepgram 如何用 AWS Trainium 优化大规模语音 AI
  21. AWS Machine Learning Blog65AWS 详解 vLLM 推模式 KV 传输：TTFT 最高改善 3 倍
  22. AWS Machine Learning Blog71AWS 用 vLLM 双向 KV 传输降低多轮 Agent 负载的 TTFT

10/19

星期一3 条

  1. 科学空间22连续化 Softmax Attention：论文《Continuum Attention》将注意力连续化
  2. MarkTechPost63MiniMax 上线 M3.1 Flash：428B MoE 智能体模型，输入 $0.15/百万 token
  3. MarkTechPost38Mistral AI 发布 Timestral 时间序列模型家族：209M 版本超越 Google TimesFM-3

10/16

星期五3 条

  1. Latent Space62Goodfire 的 Cammarata 提出神经网络本就清晰，Neel Nanda 等人提出反驳
  2. Alignment Forum22FBS Debate：面向可扩展监督的更简单更优辩论协议
  3. Hugging Face Blog72IBM 发布 Granite Switch 4.1：单端点同时提供对话、决策与语音转写

10/15

星期四4 条

  1. Mistral AI64Mistral 发布时序基础模型 Timestral，最大 209M 参数
  2. Hugging Face Blog73瑞士 Apertus 1.5 发布 8B 与 70B 开源多模态模型
  3. Apple Machine Learning58Apple 介绍用 MLX 在 Mac Studio 上本地与分布式推理大模型
  4. Apple Machine Learning34Apple 提出 SSR：用选择式结构化推理提升多模态搜索智能体效率

10/14

星期三2 条

  1. Google DeepMind58Google DeepMind 发布 Gemini 4 Argon 机器人模型
  2. Google DeepMind62Google DeepMind 发布 Gemini 4 Argon 前沿模型