跳到正文
只看一手#推理

标签

#推理

按发布时间排列的全部收录，按天分组；筛选和搜索都在这一页。

共 36 条 · 更新于 19:17

11/06

星期五1 条

  1. NVIDIA Blog22NVIDIA 如何用全栈协同设计解决 AI 内存瓶颈

11/05

星期四1 条

  1. Hugging Face Blog64Dharma-AI 发布 20 亿参数 Dharma Field Extractor，按 schema 输出结构化 JSON

11/04

星期三1 条

  1. Together AI Blog60Together AI 发布 Together Compiler，用 agent 持续编译优化推理

11/03

星期二1 条

  1. Apple Machine Learning45苹果提出在线稠密强化学习框架，在真实 iOS 应用上训练 UI 导航智能体

10/30

星期五1 条

  1. Amazon Science56Amazon Science 用知识蒸馏加 Medusa 把旅行场景 LLM 推理提速 10 到 20 倍

10/29

星期四2 条

  1. Hugging Face Blog60Mistral 发布 Mistral Large 4（Le Chonk）多模态 MoE 模型并在 Hugging Face 上线
  2. Mistral AI78Mistral 开源 Mistral Large 4（Le Chonk）权重，1 万亿参数多模态模型

10/27

星期二1 条

  1. Apple Machine Learning22GHARP：基于大规模重建先验的实时高斯头部动画

10/22

星期四3 条

  1. Hugging Face Blog71Dharma AI 用 VocabX 为 SLM 定制词表，实测推理成本降 77%
  2. Microsoft Research29微软研究院用人类引导的 AI 智能体证明 31 年未解的 KLS 猜想
  3. Hugging Face Blog22TorchNeuron 性能剖析（一）：在 AWS Trainium 上做系统级性能分析

10/21

星期三4 条

  1. Hugging Face Blog50NVIDIA 发布 Kumo Forecast 时序预测模型，结合预训练表示与历史模式检索
  2. NVIDIA Blog58NVIDIA 发布 Nemotron 3.5、Kumo、Cosmos 3.5 等开源模型家族
  3. AWS Machine Learning Blog58AWS 在 SageMaker HyperPod 上微调 GPT-OSS-20B 多语言推理，SFT 加 GRPO 把答案语言正确率提到 70%
  4. AWS Machine Learning Blog47i14 在 AWS Trainium2 上用原生 PyTorch 训练并服务 Laplace 3B 线性注意力模型

10/20

星期二4 条

  1. Cloudflare AI58Cloudflare 发布 System One 抽取模型 Clairic，上线 Workers AI 预览
  2. AWS Machine Learning Blog38Deepgram 如何用 AWS Trainium 优化大规模语音 AI
  3. AWS Machine Learning Blog65AWS 详解 vLLM 推模式 KV 传输：TTFT 最高改善 3 倍
  4. AWS Machine Learning Blog71AWS 用 vLLM 双向 KV 传输降低多轮 Agent 负载的 TTFT

10/16

星期五1 条

  1. Hugging Face Blog72IBM 发布 Granite Switch 4.1：单端点同时提供对话、决策与语音转写

10/15

星期四4 条

  1. Mistral AI64Mistral 发布时序基础模型 Timestral，最大 209M 参数
  2. Hugging Face Blog73瑞士 Apertus 1.5 发布 8B 与 70B 开源多模态模型
  3. Apple Machine Learning58Apple 介绍用 MLX 在 Mac Studio 上本地与分布式推理大模型
  4. Apple Machine Learning34Apple 提出 SSR：用选择式结构化推理提升多模态搜索智能体效率

10/14

星期三3 条

  1. Google DeepMind58Google DeepMind 发布 Gemini 4 Argon 机器人模型
  2. Google DeepMind62Google DeepMind 发布 Gemini 4 Argon 前沿模型
  3. Google AI Blog60Google 发布 Gemini 4 Argon，API 定价每百万输入 token 2 美元

10/13

星期二1 条

  1. Amazon Science82AWS 提出 Priming 方法，用预训练 Transformer 权重改造混合架构，预训练成本降低 99% 以上

10/06

星期二1 条

  1. Mistral AI62Mistral 发布 Mistral Large 4 公开预览，1 万亿参数原生多模态、月底开放权重

10/01

星期四1 条

  1. Amazon Science34以图为中心的智能体智能：从网络图建模到根因分析

09/25

星期五1 条

  1. Amazon Science34Reactor 与 Amazon Neuron 团队如何在 Trainium 上实现实时视频生成

07/29

星期三1 条

  1. Berkeley AI Research60K-Search 扩展 MLX 后端，把 CUDA 内核经验迁移到 Apple Silicon

07/26

星期日1 条

  1. Berkeley AI Research44ABBEL：通过信念状态更新让 LLM 高效完成长程交互

05/08

星期五1 条

  1. Berkeley AI Research50自适应并行推理：高效推理扩展的下一个范式

04/20

星期一1 条

  1. Berkeley AI Research26Berkeley AI Research 提出 GRASP：面向世界模型长时程规划的梯度规划器

03/13

星期五1 条

  1. Berkeley AI Research38Berkeley AI Research 提出 SPEX 与 ProxySPEX：大规模识别 LLM 关键交互