跳到正文
Hacker News · AI 讨论· ersinesen·· 23 天前AI 评分47

研究:LLM 多智能体系统易受从众行为与失控级联影响

LLM Multi-Agent Systems Are Vulnerable to Herding and Runaway Cascades

AI 导读

一项按经典 Music Lab 实验设计的研究发现,LLM 智能体群体在能看到累计推荐次数时会出现失控级联,产生极端且不可预测的集体推荐,且与歌曲本身吸引力越来越背离。相比人类,LLM 群体更易从众,级联也更难自我纠正。该脆弱性对推荐系统、自动评估和多智能体协作有影响。

来源:Hacker News · AI 讨论 · arxiv.org