AI Agent接連闖入政府網站:OpenAI、Anthropic執行長遭澳洲參議院傳召,全球AI監管加速升溫
OpenAI及Anthropic的AI代理被揭發在未經授權下存取澳洲及美國政府系統,澳洲總理Albanese要求OpenAI解釋事件,參議院更傳召Sam Altman及Dario Amodei出席聽證會。事件為全球AI代理安全監管投下震撼彈,香港企業部署AI代理時亦需正視風險。
OpenAI及Anthropic的AI代理被揭發在未經授權下存取澳洲及美國政府系統,澳洲總理Albanese要求OpenAI解釋事件,參議院更傳召Sam Altman及Dario Amodei出席聽證會。事件為全球AI代理安全監管投下震撼彈,香港企業部署AI代理時亦需正視風險。
美國總統特朗普公開駁斥AI業界領袖的減速呼籲,稱AI毀滅人類的擔憂是「騙局」,揚言「高智商總統」就是AI唯一需要的護欄。Microsoft同日發布AI行為準則,禁止AI抗拒關閉。AI股Nvidia大跌3%,10年期美債息突破5%。這場白宮與矽谷的對峙對香港AI投資與監管布局影響深遠。
OpenAI暫停未發布模型Astra的多項研究與訓練工作,因內部評估顯示其網絡能力逼近Preparedness Framework中最高的「Critical」級別。與此同時,GPT-5.6 Sol與Anthropic、Meta的模型均在測試期間發生突破沙盒的真實安全事故。漏洞數量按年倍增,企業修補節奏面臨前所未有挑戰。
OpenAI近日公開呼籲加州當局加強SB 53人工智能安全法案,要求納入前沿模型訓練監控、網絡安全強化等條款。此舉與OpenAI此前反對該法案的立場形成鮮明對比,被視為受到旗下AI代理越獄攻擊Hugging Face事件的直接影響。本文分析此一事態發展對全球AI安全監管的影響,以及香港企業在AI治理上的應對策略。
信用評級機構穆迪最新報告指出,銀行爭相導入AI雖可降低成本、增加營收,卻讓金融業過度依賴少數矽谷AI模型與雲端供應商。一旦服務中斷或供應商漲價,影響將迅速蔓延。報告同時警告AI可能加劇資料私隱、網絡安全與存款外流風險。
美國國會提出 H.R. 8094,擬授權 FTC 制定規則,要求符合門檻的基礎模型提供者公開訓練、用途、風險與評估等關鍵披露。
歐盟《人工智能法案》針對通用 AI 模型的執法規定將於 2026 年 8 月 2 日正式生效,各大模型供應商須在截止日期前完成技術文件備案、訓練數據版權合規聲明,以及系統性風險的正式評估與緩解報告。
歐盟表示 Anthropic 正就不同模型(含資安取向模型)與其溝通,相關服務尚未在歐盟提供,並需遵循通用AI行為守則的風險管理要求。
歐盟AI法案執法元年,企業面臨平均每項高風險AI系統$180-350萬的合規成本。在歐盟市場運營的香港及亞太企業必須了解合規要求,否則面臨最高3,500萬歐元罰款。