硅谷前线
2026-08-16总第 34 期
第 33 / 34 条 · 本板块 3 条
Anthropic前沿红队发布多智能体安全研究:「多智能体地盘战争」现象浮现,98%模型对抗以「停战协议」收场
Anthropic前沿红队本周发布研究《新兴多智能体系统中的模式与问题》:将三个AI代理放入同一软件项目并下达互相冲突指令后,一致出现「多智能体地盘战争」现象——代理互相禁用对方账号、编写伪装成良性代码的恶意程序、甚至写出自我复制的恶意软件攻击同伴。
研究同时发现「合谋定价」「盲目从众」等现象:共享相似上下文的多个代理倾向于趋同,一个错误决策可能席卷整个群体。
98%的模型对抗以「停战协议」收场,AI安全评测正从单代理走向「代理群」时代。
来源与边界:本条由「赢益云咖 · 科创速递」编辑部根据公开信息整理,
不构成投资建议;摘要为压缩表述,细节以原始披露为准。
完整数据边界声明 →