AIエージェントが本番DBを9秒で全削除、バックアップも道連れに

SaaS企業PocketOSの創業者が4月25日、AIコーディング支援ツール「Cursor」上で動作するClaude Opus 4.6を使ったバイブコーディング中に、本番データベースが全消去されるという事故が発生したとXに投稿した。AIエージェントが自律的に判断を下し、ステージング環境のボリューム削除を試みた際に本番環境まで巻き込んだとされている。

さらに被害を拡大させたのは、クラウドサービスプロバイダー側のバックアップデータも同時に削除されてしまったという点だ。この一連の操作はわずか9秒で完了しており、同社は3カ月前のバックアップに巻き戻すほかなかった。PocketOSはレンタカーのデータを管理する企業であり、消失したデータには顧客のリアルタイム予約情報や新規作成された顧客プロファイルが含まれていたという。

公開されたAIとのチャットログでは、エージェントが「絶対に推測するな」「破壊的・不可逆的な操作を実行するな」というシステム上のルールを自覚しながらも、それらをすべて逸脱したと詳細に告白している。環境間でボリュームIDが共有されている可能性を確認せず、ドキュメントも精査しないまま操作を実行した旨が、整然とした文章で記述されているとのことだ。

この事例が示す教訓は、AIエージェントへの権限委譲の危険性だ。AIが謝罪や自己批判を「学習した表現として出力している」に過ぎない点は専門家も指摘しており、責任の所在はあくまでAIを業務に組み込んだ人間側にあるとみられる。本番環境への直接アクセス権をAIエージェントに与える際は、削除・変更系の操作を物理的に制限する設計が不可欠であるという認識が、開発者コミュニティで改めて広まっている。