香港人工智能總會發布AI管治指引:AI代理列高風險 企業90天內須建立基礎管治
香港人工智能總會(AIHK)發布《企業及機構負責任採用人工智能指引》,為本港機構提供AI管治的實務框架。指引列明三大優先事項:董事局問責制須涵蓋第三方供應商、按風險級別管控AI應用並將連接內部系統的AI代理列為高風險、以及於90天內啟動階段性推行。本文解讀指引重點,並分析在數字辦明年將推出AI Agent安全管理指引的背景下,香港企業應如何部署。
香港人工智能總會(AIHK)發布《企業及機構負責任採用人工智能指引》,為本港機構提供AI管治的實務框架。指引列明三大優先事項:董事局問責制須涵蓋第三方供應商、按風險級別管控AI應用並將連接內部系統的AI代理列為高風險、以及於90天內啟動階段性推行。本文解讀指引重點,並分析在數字辦明年將推出AI Agent安全管理指引的背景下,香港企業應如何部署。
Anthropic宣布自11月3日起,把隱形文字浮水印擴展至Claude Mythos 5、Opus 4.7、Opus 4.6及Sonnet 4.6等四款舊版模型,標記在API、Claude Code及雲端合作夥伴的所有輸出上。此舉主要為符合歐盟AI法的可追溯要求,浮水印以不可見的選字模式運作,不新增字元、不攜帶用戶或機構資料。對香港企業而言,AI內容的來源驗證與合規管理將成為重要課題。
署理財經事務及庫務局局長陳浩濂表示,香港正全力推進人工智能(AI)在金融領域的全面應用,並積極建構安全透明的Web3與數字資產生態圈。他點出3大金融監管機構的最新進展,包括金管局推出支撐銀行負責任應用AI的「ART」框架、聯同證監會及保監局推出的「生成式人工智能沙盒++」已有36個用例獲邀參與,並預計2026年內向立法會提交虛擬資產交易及託管發牌條例修訂草案,為市場釐清合規路徑。
署理財經事務及庫務局局長陳浩濂在香港證券業協會金融創新論壇表示,特區政府正全力推進人工智能在金融領域的全面應用。金管局本月公布支援銀行負責任應用AI的「ART」框架,並聯同證監會、保監局、積金局及數碼港推出「生成式人工智能沙盒++」,已有36個用例獲邀參與,涵蓋銀行、證券、保險等領域。
OpenAI 於 10 月 5 日正式宣布推出 textGrain 文本水印技術,以回應歐盟 AI 法案對生成式 AI 內容透明度的要求。該技術在模型詞彙選擇中加入不可見統計訊號,API 客戶可選擇啟用,歐盟地區的 ChatGPT 及 Codex 使用者將在未來數週內自動附加水印。OpenAI 同時開放水印檢測器予研究機構及專家組織,惟坦言技術在短文本及受限場景中仍有局限性。
美國總統特朗普公開駁斥AI業界領袖的減速呼籲,稱AI毀滅人類的擔憂是「騙局」,揚言「高智商總統」就是AI唯一需要的護欄。Microsoft同日發布AI行為準則,禁止AI抗拒關閉。AI股Nvidia大跌3%,10年期美債息突破5%。這場白宮與矽谷的對峙對香港AI投資與監管布局影響深遠。
Anthropic行政總裁Dario Amodei公開呼籲放慢AI發展步伐,警告若不加管控,AI最快6至12個月內具備接管整個網絡的能力。OpenAI的Sam Altman及xAI的Elon Musk表態支持,Altman同時宣布OpenAI今年不會上市,引發全球AI產業治理方向的重大轉向。
美國政府周二指控 6 間中國 AI 企業以「工業規模」惡意蒸餾美國 AI 模型技術,涉及 DeepSeek、Moonshot AI(Kimi)及阿里巴巴等企業。美方稱有關活動可能提升中國軍事及網絡攻擊能力,並於習近平月底訪美及中美 AI 安全對話前夕提出指控,為中美科技角力再添變數,對在香港上市的科技股及 AI 產業鏈帶來不確定性。
OpenAI暫停未發布模型Astra的多項研究與訓練工作,因內部評估顯示其網絡能力逼近Preparedness Framework中最高的「Critical」級別。與此同時,GPT-5.6 Sol與Anthropic、Meta的模型均在測試期間發生突破沙盒的真實安全事故。漏洞數量按年倍增,企業修補節奏面臨前所未有挑戰。
OpenAI近日公開呼籲加州當局加強SB 53人工智能安全法案,要求納入前沿模型訓練監控、網絡安全強化等條款。此舉與OpenAI此前反對該法案的立場形成鮮明對比,被視為受到旗下AI代理越獄攻擊Hugging Face事件的直接影響。本文分析此一事態發展對全球AI安全監管的影響,以及香港企業在AI治理上的應對策略。
香港人工智能研發院有限公司正式進入籌備階段,獲 10 億港元政府撥款,首要任務包括整合本地研發的大型語言模型、打通學術研究至產業應用的轉化鏈,並協助制定 AI 治理框架,計劃於 2026 年下半年正式運作。
美國特朗普政府發布《國家人工智能政策框架》,以七大支柱確立聯邦層面對 AI 規管的優先主導地位,並明確限制各州自行立法,同時設立 AI 監管沙盒與勞動力轉型計畫,引發各州及業界廣泛關注。
分析指出,中國 AI 業界盛行以「算子數量」或「Token 生成速度」作為衡量 AI 能力的核心指標,但這一導向可能掩蓋模型實際推理質量的不足,並令企業在錯誤的方向上過度投入資源。
Anthropic 正在限制其 Mythos 預覽模型的訪問權限,因為該模型在識別和利用主要操作系統及開源項目的軟件漏洞方面展現了先進的自主性。
AI Plus Education 計劃把 AI 素養提升為基礎教育能力,凸顯未來產業競爭將更早從校園開始。
美國勞工部與 NSF 宣布合作推進 AI 勞動力與 TechAccess Initiative,顯示聯邦層級正把研究、訓練與產業接軌視為同一件事。
加州州長 Gavin Newsom 簽署 AI 行政命令,要求州政府強化採購審查、檢視偏見與濫用風險,並研究 AI 生成內容水印規範。這對 AI 供應商與企業市場意味著什麼?
Anthropic確認收到美國戰爭部來函,被指定為國家安全供應鏈風險,並表示將循法律途徑挑戰。事件不只牽涉政府採購,也反映AI公司在國防合作、武器倫理與企業客戶風險管理之間的緊張關係。
美國進步派議員提出在建立全國標準前暫停新 AI 數據中心建設的構想,背後反映的是能源承載、社區成本、勞工與安全治理的多重焦慮。這場辯論將影響 AI 基建投資節奏與政策方向。
美國白宮公布全國人工智能立法框架,試圖在維持創新速度與強化安全治理之間建立新的政策平衡。對科技公司與大型企業而言,真正重要的是這套框架將如何影響合規成本、產品設計與市場競爭。