冻结基座加数千微适配器，降低开放模型硬件门槛
热点事件历史事件
冻结基座加数千微适配器，降低开放模型硬件门槛
1 篇报道1 个报道来源10 天前更新
先了解这件事
AI 综述
一种“冻结基座模型 + 数千个 LoRA 微专家”的模块化架构被提出，目标是绕开开放模型动辄数百 GB 显存的硬件门槛，让开放 AI 跑在消费级硬件上。每个低秩微专家仅 2-5 MB。 该架构采用两级分层路由：Domain Gate 先筛到二三十个候选，Micro-Router 再选前二三个，按需从内存或 SSD 流式加载。目前这是被提出的方案，报道未给出实际运行效果。
AI 根据报道生成 · 10 天前更新
最新进展11月6日 07:03
一个基座模型加数千个微适配器：如何让开放 AI 跑在消费级硬件上报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- Hacker News · AI 讨论一个基座模型加数千个微适配器：如何让开放 AI 跑在消费级硬件上
一种“冻结基座模型 + 数千个 LoRA 微专家”的模块化架构被提出，用于绕开开放模型动辄数百 GB 显存的硬件门槛。每个低秩微专家仅 2-5 MB，配合两级分层路由（Domain Gate 先筛到二三十个候选，Micro-Router 再选前二三个）按需从内存或 SSD 流式加载。