标签
#推理
按发布时间排列的全部收录,按天分组;筛选和搜索都在这一页。
共 377 条 · 第 6 / 10 页 · 更新于 19:17
10/27
星期二12 条
- 掘金72EAGLE 与 EAGLE-3 如何用特征预测加速投机解码
- 爱范儿67OpenAI 发布 GPT-6.1 Terra,API 价格降 50% 主打 Agent 高频任务
- 掘金60Deep Research 深度研究模型解析:与 RAG 的区别、五步执行链路与评测口径
- 掘金71OpenAI 发布 GPT-6.1 Terra,单价为 Opus 5.5 的四分之一,复杂编程仍推荐 Sol
- 掘金71深度拆解 TypeSafe Jev:System One 判别模型的三个原语与工程边界
- MarkTechPost60OpenAI 发布 GPT-6.1 Terra,API 价格降至 GPT-6.1 Sol 的一半
- 掘金80得物技术分享昇腾 910C 大模型推理优化下篇:改 vllm-ascend 源码与算子,提速 30%
- 界面新闻 · 科技62OpenAI 发布 GPT-6.1 Terra,电脑操作提速逾 3 倍、API 价格降 50%
- Simon Willison62OpenAI 发布 GPT-6.1 Terra,主打视觉推理与电脑操作
- 掘金75OpenAI 发布中档模型 GPT-6.1 Terra,API 价格减半、幻觉率从 88% 降至 38%
- The Decoder73OpenAI 发布 GPT-6.1 Terra,API 价格减半
- Apple Machine Learning22GHARP:基于大规模重建先验的实时高斯头部动画
10/26
星期一11 条
- 钛媒体22京东广告联合鲲鹏超节点:端到端推理时延降低15%
- 极客公园71Kimi 发布 K3.1 Pro,API 降价三分之一挑战 Claude Opus 5.5
- 量子位87岩山科技岩芯矩阵联合港科大、CMU 开源 EdgeRock-4B,KV Cache 减少 99.1%
- 掘金78CUDA OOM 不只是显存不够:按失败阶段分诊 ComfyUI 显存溢出
- Hacker News · 首页58Microsoft 发布 Decision-1 决策打分模型,基于 Qwen3.5-9B 后训练
- 掘金67Sebastian Raschka 发布 11 小时视频课,用 PyTorch 从零构建推理模型
- 掘金58蚂蚁 PolyOCR-Venus 用 CGPO 路由蒸馏,OCRBench v2.1 英文 80.42 登顶
- 掘金71DeepMind 论文指出 PyTorch、JAX 等框架 softmax 与交叉熵存在两个浮点 Bug
- 掘金67KV Cache 压缩技术解析:量化、Token Eviction、GQA/MQA 与 MLA 四条路线怎么选
- 掘金45GAD-RL:用状态感知蒸馏解决 OCR 模型「改错别字」问题
- 掘金36Cerebras 公开 3T 参数 Kimi K3 跑出 2000 tokens/s 的晶圆级推理算术
10/25
星期日8 条
- 掘金46金融 AI 的“专业感”陷阱:数据真实,数值却算错了
- 掘金49给豆包和 Claude 派活总返工?把测试用例搬进提示词,前置验收清单一次交差
- 掘金48消除AI幻觉,普通人能做的五件事
- MarkTechPost71斯坦福与 UC Berkeley 发布 TokenGate,长上下文 prefill 最高提速 11.3x
- 钛媒体62实测 Kimi K3.1 Pro:Terminal-Bench 4.0 升至 67.2%,七道编程题看执行能力
- 掘金71月之暗面发布 Kimi K3.1 Pro,价格砍半、Terminal-Bench 4.0 追到 Opus 5.5 差 0.7 个百分点
- 掘金60Kestrel_VLLM 第 19 篇:把 KV 复用迁移到 GPU,改 per-state 镜像并堵住两处静默分叉
- IT之家71开源项目 GPU Unlock 解锁 RTX 30 系列张量核心算力,实测 BF16 吞吐最高提升约 60%
10/24
星期六9 条
- 开源中国62MiniMax 开源 M3.1 Flash,428B 总参数 23B 激活
- Ahead of AI64Raschka 发布 8 集视频课程,用 PyTorch 从零实现推理模型
- 掘金75vLLM 省显存原理与本地部署实践:PagedAttention 如何让同一张卡并发翻 4 倍
- 掘金60Kestrel_VLLM 第 18 篇:投机解码 batch 与 M=1 位级一致,层 0 注意力路径与 CPU 逐字节对齐
- 掘金20闭包与 useState 如何串成同一条作用域链
- 掘金78拆解 DeepGEMM 与 FlashMLA:矩阵乘、注意力与 GPU 上的推理优化
- 掘金75为生命科学 Agent 搭推理平台(三):工具契约、算力可见性与成本闭环
- 掘金70Moonshot 发布 Kimi K3.1 Pro,智能指数 55 分排名第四
- IT之家22亚马逊 CEO 贾西:AI 推理成本需降至十分之一,才能广泛进入企业软件