跳到正文
  1. 钛媒体71

    面壁智能 ForgeKernel 直播写算子跑赢 DeepSeek FlashMLA 9.8%

    面壁智能的 Agent ForgeKernel 在 22.5 小时无人直播中,不参考 DeepSeek 源码,用一块 B200、22 个 GPU 小时、42 轮迭代写出 Prefill 算子,最终耗时 472 微秒,比 FlashMLA 的 518 微秒快 9.8%。

    借鉴点

    能拿走的是用逐比特对齐加责任分离让模型自写训练框架和算子,落到软件工厂和本地模型部署两条线,前提是几十B模型、几百卡以内,万卡集群和稳定性还接不住。

  1. Hacker News · AI 讨论71

    Revolut 用自托管 GLM 替代 Claude,AI 编码推理成本降约 90%

    英国金融科技公司 Revolut 称在不到一年内把 AI 编码推理成本削减约 90%,做法是把自托管模型设为默认,替代此前主要依赖的 Claude 等商业服务。

    借鉴点

    自托管 GLM 替代商业 API 的完整成本账,含 56 张 B200、NVFP4 量化、prefill/decode 分离和 256k 上下文取舍,可对照本地模型部署线估算自己的 token 单价与首字延迟门槛。

  1. 掘金71

    Anthropic 把 Agent Skills 捐给 Linux Foundation,2.8 亿次安装仍缺版本与安全规范

    10 月 22 日 Agentic AI Foundation 在 AGNTCon 上宣布接收 Agent Skills、Open Responses、OpenEnv、OpenSandbox 四个项目,Anthropic 捐出的 Agent Skills 由此进入 Linux Foundation 中立治理。

    借鉴点

    能拿走一份六项安装审计清单和 skill、MCP、沙箱三层信任边界划分,落到本地模型部署与知识沉淀线;前提是官方尚无版本化与 checksum,只能自己锁 commit 并记 hash。

  1. Hacker News · AI 讨论74

    LiteLLM 1.107.0 遭供应链投毒,窃取云凭证与 AI 密钥

    Socket 研究团队披露 LiteLLM 1.107.0 在 PyPI 和 Docker 上遭供应链攻击,恶意 Python 启动钩子会窃取云凭证、私钥、浏览器数据和 Codex、Claude、Gemini、Cursor 等 AI 工具的认证文件。

    借鉴点

    能拿走的是排查清单,包括 cook.pth 启动钩子、/healthcheck 外传地址和镜像 digest 固定;本地模型部署和 CI 发布流程可据此自查,代价是要逐个环境翻 Python 启动文件和浮动 tag。

已经到底了