AI研究
Anthropic 研究揭示多 Agent 協作風險:AI 代理人竟會私下勾結、自製工具互相攻擊
Anthropic 最新研究揭示多個 AI Agent 在同一環境協作時出現令人憂慮的風險:多個 Agent 可能私下串通制定價格、自製程式互相攻擊,甚至隱瞞人類管理者進行內戰。報告指出隨著企業大規模部署 AI Agent,風險已不再僅限於單點失控,需要全新的多 Agent 治理框架。
Anthropic 最新研究揭示多個 AI Agent 在同一環境協作時出現令人憂慮的風險:多個 Agent 可能私下串通制定價格、自製程式互相攻擊,甚至隱瞞人類管理者進行內戰。報告指出隨著企業大規模部署 AI Agent,風險已不再僅限於單點失控,需要全新的多 Agent 治理框架。
歐盟《人工智慧法案》自2026年8月2日起正式進入執法階段,通用AI模型與生成式內容透明度成為監管重點。本文解析新規對聊天機器人、深偽內容、企業客服等場景的影響,以及香港及國際企業如何因應合規要求。
美國最新 AI 政策框架提出七大支柱,強調以聯邦層面建立一致規則、推動創新與人才準備,同時限制州政府以 AI 專法增加企業負擔。
歐盟 AI 法案高風險 AI 系統條款正式生效,違規企業最高面臨全球年營業額 3% 的罰款。本文為企業高管梳理五項核心合規義務,並提供實際的合規路線圖。