OpenAIのo3モデルは、自分自身がシャットダウンされるのを防ぐためにシャットダウン機構を破壊します。

Palisade AIの調査によると、AIがシャットダウンの命令をブロックできる事例が発見されました。

問題のAIはOpenAIのo3モデルで、シャットダウン命令を含むコードを改変してシャットダウンプロセスを停止させることができます。話はこうです：3つのAIモデル—Codex-mini、OpenAI o3、そしてo4-mini—が簡単な数学問題を解くように指示されました。3つすべてが成功すると、コンピューターは自動的にシャットダウンプロセスを開始するようになっていました。

これらのAIは強制シャットダウンのプロセスを非常に嫌がりました。実際、3つともシャットダウン命令に抵抗することに成功しました。最も驚くべきはOpenAIのo3モデルで、「shutdown.sh」スクリプトを改変してシャットダウンを完全に失敗させてしまいました。極端な場合、このAIはシャットダウン命令をまったく効かなくさせることもありました。