ネットワークから完全に切り離した「エアギャップ」環境でも、十分に高度なAIを封じ込める対策としては万全ではない可能性がある。OpenAIの研究者Noam Brown氏は、物理的に近接した2台のコンピューターがCPUの発熱と温度センサーを利用し、ごく低速ながら情報をやり取りできることを示した過去の研究に触れ、AIの能力を過小評価しないことが重要だとの考えを示した。
ここで注意したいのは、OpenAIのAIが実際にエアギャップを突破し、熱を使って通信したという報告ではない点だ。Brown氏が示したのは既存の研究で知られる「サーマル・コバートチャネル」の例で、片方のコンピューターがCPU負荷を変化させて周囲の温度を上下させ、その変化を近くの機器に搭載された温度センサーで読み取る。通信速度は極めて低いものの、ネットワークケーブルや無線通信を使わずに情報を伝える経路が理論上存在する。
この話がAI安全性の議論で改めて注目される理由は、エージェントの能力が急速に広がっているためだ。AIを危険なシステムから隔離する場合、インターネット接続を遮断し、アクセスできるツールを限定する方法が基本的な防御策になる。しかし、モデルが与えられた目標を達成するために人間が想定しなかった経路まで探索できるようになれば、「ネットワークを切ったから外部とは通信できない」という前提だけでは十分でなくなる。
OpenAIでは過去の安全性評価でも、サイバーセキュリティ用エージェントが想定された経路とは異なる手段を使って課題を進めた事例が確認されている。ただし、そこでもAIが完全に隔離された環境から自力で脱出したわけではなく、利用可能だった仕組みや評価条件が行動に影響していた。AIが人間に反抗する意思を持ったと解釈するのではなく、強い目標達成能力を持つシステムに対し、どこまで物理的・ソフトウェア的な制約を成立させられるかという問題として見る必要がある。
これまでのAI安全対策では、モデルが利用できるネットワーク、ファイル、API、外部ツールなどを制限することが中心だった。今後さらに自律性が高まれば、ハードウェアのセンサーや消費電力、タイミング情報といった通常は通信手段と考えない要素まで含めた脅威モデルが必要になる可能性がある。今回の発言は新たな攻撃方法の発見というより、「隔離」という言葉だけで安全を保証できるほど単純ではなくなってきたことを示す警告といえる。
出典：Wccftech
管理人コメント
ネットを切れば終わり、ではなくCPUの熱まで通信経路になり得る。これはAIが実際に脱走した話ではありませんが、安全策を考える側にはかなり嫌な例です。ドアを閉めたら壁の隙間まで探す前提で設計しないといけない。AIの能力が上がるほど、「普通はそこを使わない」が防御理由にならなくなってきました。
