标签
#推理
按发布时间排列的全部收录,按天分组;筛选和搜索都在这一页。
共 377 条 · 更新于 19:17
11/06
星期五15 条
- 掘金62KIMI K3 的 KDA Serving 基础设施设计与实现:六个组件的 CPU 复刻
- 钛媒体34陈天桥 AIAS 2026 演讲:AI 下半场竞争从“生成”转向“验证”,Apodex 披露近万张 GPU 与 AI 制药布局
- 界面新闻 · 科技22算力文明06|AI变便宜,便宜在哪里?
- IT之家58webAI 开源 TwIL-8B 推理模型,数学与编程基准优于 Gemma 4 31B
- 掘金78从零设计 Agent 调度工作流:四层架构、五态状态机与多模型路由的工程实践
- 掘金60三跳链路超时实测:27 秒预算只用掉 9 秒,删掉重试成功率反升到 100%
- Hacker News · 首页60Verify, Then Vote:五款本地小模型加 Claude 核查,准确率从 77.1% 升到 85.0%
- 掘金78arXiv 综述盘点 9B–20B 开源模型量化部署实测:INT4 小 batch 提速约 2 倍,大 batch 增益归零
- Hacker News · 首页60Thinking Machines 发布 Inkling 2 Small:594B 总参数 MoE,先闭权重上线 Tinker
- 掘金63Thinking Machines Lab 发布 Inkling 2 Small,594B 总参 17B 激活,AA Index 得 31 分
- Hacker News · AI 讨论48一个基座模型加数千个微适配器:如何让开放 AI 跑在消费级硬件上
- IT之家22英伟达解读全栈协同设计:HBM 仅增约 3%,每美元智能体吞吐量最高提升 30 倍
- Hacker News · AI 讨论36Joules-to-GDP:AI 系统每单位能耗能产生多少经济价值?
- NVIDIA Blog22NVIDIA 如何用全栈协同设计解决 AI 内存瓶颈
- Hacker News · AI 讨论22NVIDIA 如何通过五项协同设计最大化 AI 工厂每字节价值
11/05
星期四18 条
- Hacker News · 首页40OpenAI 报告 GPT-6 Astra 在安全研究任务上隐性表现不佳
- 掘金75KIMI K3 的 KDA 给推理系统带来哪些挑战,SGLang 与 vLLM 如何应对
- 掘金37WorkBuddy + 混元 HY4 实测:770B 模型转正后表现略超预期
- Techmeme22Ricursive 发布 Ripple-65B Preview:面向先进芯片设计的通用模型,Apache 2.0 开源,输出 $0.60/1M tokens
- Hacker News · AI 讨论34KVGuard:面向 LLM 服务系统的 KV Cache 内存安全检查器
- 掘金64从 Astra 改千问权重到 Harness²:AI 如何判断自己改对了
- Hacker News · AI 讨论42无需额外训练,把 2048 AI 从 2048 分提升到 32,768 分:瓦片降级方法
- MarkTechPost58Together AI 发布 Together Compiler,用智能体持续编译让推理最高提速 2.6 倍
- 雷峰网58上海交大邓志杰讲解扩散语言模型如何兼顾生成速度与质量
- Hacker News · AI 讨论58AXI 论文报告宿主侧状态层让 LLM 任务在 1500 步中保持精确
- 量子位22spaCy 作者 Matthew Honnibal 质疑 MIT Astra 研究:修改 Qwen3.5-0.8B 权重被指偷换概念
- 掘金62实测拆解 Kronos 的 K 线分词器:20 位码字与价格无关,加位宽也提不了精度
- 掘金75合同摘要服务换模型灰度实践:10%→50%→100% 三档只看三个指标
- MarkTechPost58webAI 发布 8.79B 推理模型 TwIL-8B,MATH-500 得分 98.2
- Hacker News · AI 讨论22为什么你的 AI 智能体消耗这么多 token?
- Hugging Face Blog64Dharma-AI 发布 20 亿参数 Dharma Field Extractor,按 schema 输出结构化 JSON
- Hacker News · 首页26Anthropic 发布 FlashProve:为 Llama 4 Maverick 提供可证明推理的开源原型
- The Decoder58研究称 GPT-6 Astra 可直接读写模型权重,改写 0.016% 权重让 Qwen3.5-0.8B 数学准确率升至 48.1%
11/04
星期三7 条
- Hacker News · AI 讨论71NVIDIA 预印本称智能体很少需要长上下文窗口
- Together AI Blog60Together AI 发布 Together Compiler,用 agent 持续编译优化推理
- 掘金33大模型分类怎么分:Base、Instruct、Reasoning 与 L0/L1/L2 完整图谱
- 掘金62罗西的思考用 Gradio 做 KIMI K3 KDA 模块交互式演示
- Hacker News · AI 讨论18EdgeDAE:用 FPGA-GPU 异构系统加速扩散动作专家,实现实时物理 AI
- Hacker News · AI 讨论18我如何用 AI 做长周期系统编程:心智模型与工作方法
- 掘金60Kestrel_VLLM 第31篇:把 MTP 草稿头搬上 CUDA,用独立槽位加共用 attention 核心