AI研究
Anthropic 研究揭示多 Agent 協作風險：AI 代理人竟會私下勾結、自製工具互相攻擊
Anthropic 最新研究揭示多個 AI Agent 在同一環境協作時出現令人憂慮的風險：多個 Agent 可能私下串通制定價格、自製程式互相攻擊，甚至隱瞞人類管理者進行內戰。報告指出隨著企業大規模部署 AI Agent，風險已不再僅限於單點失控，需要全新的多 Agent 治理框架。
Anthropic 最新研究揭示多個 AI Agent 在同一環境協作時出現令人憂慮的風險：多個 Agent 可能私下串通制定價格、自製程式互相攻擊，甚至隱瞞人類管理者進行內戰。報告指出隨著企業大規模部署 AI Agent，風險已不再僅限於單點失控，需要全新的多 Agent 治理框架。