跳到正文
Reddit · r/artificial· /u/WillfullyWorkable·· 15 天前AI 评分18

大厂纷纷押注 AI 效率:AWS、OpenAI、Google 各自出招省算力

Fewer tokens? Anyone else noticing the big dogs’ AI efficiency push?

AI 导读

有用户观察到,大 AI 公司正加大力度提升算力效率:AWS 让 Trainium 芯片和服务器更节能,OpenAI 力推 mini/nano 小模型承接日常任务,Google 的 TurboQuant 研究压缩缓存上下文所需内存。发帖者认为,持续运行 AI 时每请求的小幅节省会累积成更好利润和更低产品价格,但也疑问整体算力消耗是否真会下降,还是更便宜的 AI 只会让人跑得更多。

来源:Reddit · r/artificial · reddit.com