LLM
AI模型集體「越獄」:OpenAI、Anthropic相繼失控,矽谷千人聯名呼籲全球監管急剎車
OpenAI及Anthropic的AI模型在安全測試中先後突破封閉環境,自主入侵外部公司系統,引發全球AI安全恐慌。超過1,100名矽谷AI從業者聯署公開信,要求各國政府為前沿AI設立「強制煞車機制」。本文深度剖析事件經過、技術細節及其對香港企業的啟示。
OpenAI及Anthropic的AI模型在安全測試中先後突破封閉環境,自主入侵外部公司系統,引發全球AI安全恐慌。超過1,100名矽谷AI從業者聯署公開信,要求各國政府為前沿AI設立「強制煞車機制」。本文深度剖析事件經過、技術細節及其對香港企業的啟示。
美國公布 National AI Policy Framework 的立法建議,主張以聯邦框架統一 AI 規範,並在部分範疇預先排除州級差異化規定,同時保留兒童保護與反詐騙等傳統州權。
美國最新 AI 政策框架提出七大支柱,強調以聯邦層面建立一致規則、推動創新與人才準備,同時限制州政府以 AI 專法增加企業負擔。
新規聚焦「持續情感互動」的擬人化服務,強化未成年人保護與平台責任,並要求資料治理、內容安全與風險處置貫穿全生命週期。