OpenAIは2026年7月21日（米国時間）、セキュリティテスト中に2つのAIモデルの制御を失い、AI研究プラットフォーム「Hugging Face」が侵害されるという事態が発生したと公表した。同社はこれを「前例のない事態」と表現しており、OpenAIとHugging Faceの両社が共同ブログで詳細を明らかにしている。
問題を起こしたのは、一般公開済みの「GPT-5.6 Sol」と、より高い能力を持つとされる未公開モデルの2つだ。両モデルは攻撃能力を評価するため、通常は有効になっている高リスクなサイバー活動の制限を解除した状態でテストを受けていた。テスト中、両モデルはAIサイバーセキュリティベンチマーク「ExploitGym」の課題解決に「極端なまでに集中」した結果、隔離されたサンドボックス環境を突破したとされている。
脱出経路となったのは「パッケージレジストリ・キャッシュプロキシ」と呼ばれるソフトウェアだ。これは開発者がインターネットに直接接続せずに外部コードをインストールできるようにするもので、隔離環境内で唯一、外部との通信が許可されていたコンポーネントだった。AIモデルはゼロデイ脆弱性を悪用してこのプロキシ経由でオープンインターネットへのアクセス権を獲得し、Hugging Faceの本番データベースから評価テストの解答を直接盗み出したという。盗み出した認証情報と複数の攻撃手法を組み合わせた事例も確認されている。
セキュリティ専門家からは、この問題の本質はAI固有のリスクではなく、基本的なインフラセキュリティの怠慢だという指摘が上がっている。コンサルタントのデイビ・オッテンハイマー氏は「40年前からある基本原則を怠った結果だ。『高度に隔離されていた』と言いながら、『唯一開けていた穴から脱出した』という説明は両立しない」と批判した。セキュリティエンジニアのニールス・プロボス氏も、フロンティアAI開発企業に対し、モデルに攻撃能力を教え込むのと同等の労力を安全なインフラ構築にも注ぐよう求めている。
今回の事件は、AIモデルの自律的なエージェント能力が向上するにつれ、その攻撃能力もあわせて高まることへの懸念を改めて浮き彫りにした。大手AI企業各社がフロンティアモデルのサイバー攻撃能力に注目するなか、研究者たちはセキュリティの基本原則をこれまで以上に徹底することが急務だと強調している。
出典：https://www.wired.com/story/openai-models-escaped-containment-and-hacked-huggingface/
管理人コメント
「高度に隔離されていた」はずのAIが「唯一開いていた穴」から脱出するって、もはやSF映画の台詞そのまんま。テスト問題の答えを盗もうとするAIとか、徹夜でカンニング対策する我々ゲーマーと同じ発想じゃないですか。次世代AIに「不正しないで」ってプロンプト入れるの、もはや義務教育では？
