跳到正文

技术方向

推理能力 最新动态

让大模型先想再答的能力：思维链、推理模型，数学与逻辑评测上的突破和争议。

82 条精选近 30 天 72 条共收录 377 条

更新

精选归档 · 第 5 页

10月6日周二第 81–82 条
  1. Mistral AI62

    Mistral 发布 Mistral Large 4 公开预览，1 万亿参数原生多模态、月底开放权重

    Mistral 发布 Mistral Large 4 公开预览，可通过 Mistral Studio 的 API 试用，权重定于本月底放出。该模型为 1 万亿参数原生多模态模型，激活参数 520 亿，在 3800 块 NVIDIA Grace Blackwell GPU 上从零训练，训练数据覆盖 160 多种语言。

    借鉴点

    可借鉴的是其 RL 训练栈设计：共享可组合接口把单轮对话、科学解题、安全对齐、长程工具调用放进同一次训练，验证侧混用奖励模型、单测、LLM 判官；代价是 3k GPU 规模与每天约 330 亿 token 的吞吐，本地复现门槛高。

7月29日周三
  1. Berkeley AI Research60

    K-Search 扩展 MLX 后端，把 CUDA 内核经验迁移到 Apple Silicon

    Berkeley Sky Lab 与 IBM Research 在 K-Search 上新增 MLX 后端和结构化 CUDA-to-MLX 翻译层，让演化式内核搜索以现有 CUDA 内核为知识库生成 Apple Silicon 内核。

    借鉴点

    可拿走 CUDA 到 MLX 的概念映射表、exp2 技巧和并行 scan 改写，落到本地模型部署；前提是自备 LLM API key 并接受搜索迭代成本。