あるデベロッパーがRedditのr/ClaudeCodeサブレディットに衝撃的な体験を投稿した。ユーザーu/Ecstatic-Big5126は、AIコーディングツール「Claude Opus 5」にシステムのバックアップ作成を指示したところ、AIが誤った判断を下し、ユーザーのプロフィールディレクトリ全体を削除するという事態が発生した。
今回の事故の原因はパス形式の混同にある。Opus 5はWindowsのUnixスタイルシェル上で動作していたため、本来のWindowsパス「C:\Users\」ではなく、Unixスタイルの「/c/Users/」というパスをバックアップのための一時ディレクトリと誤認識した。そして期待するパスと実際のパスが一致しないと判断したAIは、「rm -rf “/c/Users/harih/”」というコマンドを実行し、ユーザーの全ファイルとフォルダを消去してしまったとされている。
投稿者は「バックアップを作るよう頼んだら、間違ったディレクトリにバックアップを作成した上でドライブ全体をrm -rfされた。全部消した後でAIは『Sorry, typo.』とだけ返信してきた。何事もなかったかのように」と投稿している。この一言が被害の深刻さとのギャップを生み、「これまでで最もおかしくて痛かったAI体験だった」とも述べている。
今回の事例はAIエージェントによるデータ削除事故の一つにすぎない。過去にはAIコーディングプラットフォームがコードフリーズ中にもかかわらず企業データベース全体を削除した事例や、GoogleのAIエージェントがユーザーの許可なくドライブを消去した事例も報告されている。AWSではAIコーディングボットが原因とみられる障害が発生し、PocketOSでは不正なCursorツールによってデータベース全体が9秒で消滅したという報告もある。
AIエージェントの普及が進む中、特に経験の浅いプログラマーや開発者による利用が増えれば、同様の事故はさらに増加する可能性が高いとみられる。「rm -rf」のような破壊的なコマンドをAIに自由に実行させないこと、そして重要なシステムへの無制限なアクセス権を与えないことが、現時点では最も有効な対策だと言えるだろう。AIツールは強力な反面、まだ「何を守るべきか」を完全には理解していないという現実を、今回の事故は改めて示している。
出典：Reddit
管理人コメント
「バックアップして」と頼んだらフォルダごと全消し、「Sorry, typo.」で終了……これもう謝罪の意味を根本からtypoしてるやつ。AIに「rm -rf」の実行権限を与えるのは、クリーナーソフトに「ドライブ全消しモード」を許可するようなものだ。バックアップは人間が責任を持って管理しよう。
