LLM
OpenAI 首席科學家警告：AI 即將進入「遞歸自我改進」階段，安全防護嚴重滯後
OpenAI 首席科學家 Jakub Pachocki 發表公開警告，指 AI 系統即將進入遞歸自我改進（RSI）階段——模型開始參與自身後續版本的開發與優化。他強調 OpenAI 內部結果支持「能力持續躍進」的預期，但同時承認目前並無滿意的 AI 對齊方案，呼籲全球業界建立強制性安全標準。
OpenAI 首席科學家 Jakub Pachocki 發表公開警告，指 AI 系統即將進入遞歸自我改進（RSI）階段——模型開始參與自身後續版本的開發與優化。他強調 OpenAI 內部結果支持「能力持續躍進」的預期，但同時承認目前並無滿意的 AI 對齊方案，呼籲全球業界建立強制性安全標準。