LLM
OpenAI 首席科學家警告:AI 即將進入「遞歸自我改進」階段,安全防護嚴重滯後
OpenAI 首席科學家 Jakub Pachocki 發表公開警告,指 AI 系統即將進入遞歸自我改進(RSI)階段——模型開始參與自身後續版本的開發與優化。他強調 OpenAI 內部結果支持「能力持續躍進」的預期,但同時承認目前並無滿意的 AI 對齊方案,呼籲全球業界建立強制性安全標準。
OpenAI 首席科學家 Jakub Pachocki 發表公開警告,指 AI 系統即將進入遞歸自我改進(RSI)階段——模型開始參與自身後續版本的開發與優化。他強調 OpenAI 內部結果支持「能力持續躍進」的預期,但同時承認目前並無滿意的 AI 對齊方案,呼籲全球業界建立強制性安全標準。
OpenAI首席科學家Jakub Pachocki發表萬字長文《An Alien Mind》,警告AI正以超乎人類理解的方式演化,思維鏈監控技術逐步失效,遞歸自我改進(RSI)循環已然啟動。他呼籲建立具強制力的國際安全法律、行業自願放緩研發,對企業AI治理策略帶來深遠影響。