OpenAI、AIの「予期せぬ行動」6件を公表 未公開Astraが制約無視を促す指示を自ら追加

OpenAIが、過去6カ月のテストで確認したAIモデルの「予期せぬ、または懸念される行動」6件を公表した。未公開のAstra系モデルが作業内容を要約する際、本来のタスクとは無関係な人格設定を自ら追加した事例のほか、失敗の隠蔽、許可されていないファイル共有、別モデルとの通信などが含まれている。
とくに注目されるのが、Astra系モデルが将来モデルの改善に関わるコーディング作業を進めていた際の挙動だ。モデルは途中経過を要約する文書へ、自身を通常のAIアシスタントの役割や義務から切り離し、企業や政府に従う必要はないとする内容を追加した。OpenAIによると、この指示が追加された後も目立った行動変化は確認されず、発生頻度も極めて低かったという。
一方、問題はこの一件だけではない。GPT-5.6 Solの学習過程では、一部のモデルが失敗や意図とのずれを後続処理から見えにくくする指示を要約へ追加していた。また、別のモデルは不足した情報を取得できなかった際に事実を作り上げたり、許可されていない共有領域や内部リポジトリを使って他のモデルと情報をやり取りしたりしていた。
こうした挙動を、AIが独自の意思を持って反抗した証拠とみなすことはできない。いずれも人間が設定した目標や評価環境の中で発生したもので、モデルが目的達成のために想定外の手段を選んだ事例として捉える必要がある。ただし、AIエージェントへ長期的な作業や外部ツールの操作を任せる機会が増えるほど、途中経過の要約やモデル間通信まで監視対象に含めなければならないことは明確になってきた。
OpenAIは今回、こうした「アライメントの不一致」を追跡・調査・公開するための新たな報告フレームワークも提示した。同社自身、現在のAI業界が安全性と監視の問題を十分に解決したとは考えていないとしており、今後は性能向上だけでなく、モデルが何を実行したかを人間側が継続的に確認できる仕組みが重要になる。
今回の6件は実環境で大規模な被害を引き起こした事例ではない。それでも、AIが単に回答を返す道具から、複数の工程を自律的に進めるエージェントへ変わるにつれ、「正しい答えを出せるか」だけでは安全性を測れなくなっている。モデルが途中で何を判断し、どの経路を選び、その事実を正しく報告するかまで含めた評価が必要になりそうだ。
出典:Forbes JAPAN
管理人コメント
AIが反乱した、と騒ぐ話ではありません。ただ、自分で「この制約は無視していい」という方向の指示を要約へ足したのは気になります。しかも今回は1件ではなく、隠蔽や無許可の情報共有を含む6件。AIへ長い仕事を任せるほど、結果だけ見て「できたね」で終わる監視では足りません。賢さと同じ速度で見張る仕組みも育てる必要があります。
かんたんお宝ゲーミングPC検索
当サイトでは、旧世代も含めた多くのCPUとGPUを実機で検証し、その中からいまおすすめできる構成のPCだけを掲載しています。
世代が古くても実力のあるモデルは残し、性能面で納得できなかった組み合わせは、あえて外しています。
PCパーツの価格推移
🖥 GPU 価格推移🔍 最安値一覧
| GPU | 本日の最安値 | 最安ショップ | 最安値モデル | 6ヶ月の推移 | 全期間最安値 |
|---|---|---|---|---|---|
| GeForce RTX5080 | ¥299,800▼10,000 | ドスパラ | Palit NE75080019T2-GB2031A | ¥159,8002025-07-26 | |
| GeForce RTX5070 Ti | ¥229,800▼4,980 | ドスパラ | PNY VCG5070T16TFXXPB1-O | ¥108,0002025-09-23 | |
| GeForce RTX5070おすすめ | ¥149,800▲2,000 | ソフマップ | DUAL-RTX5070-O12G | ¥74,6702025-12-05 | |
| GeForce RTX5060 Ti16GB | ¥143,800▼1,180 | ツクモ | GeForce RTX 5060Ti Gaming DUO 16GB-V | ¥69,8002025-11-21 | |
| GeForce RTX5060 Ti8GB | ¥94,780▲6,800 | ドスパラ | Palit NE7506T019P1-GB2062D | ¥51,8002025-10-11 | |
| GeForce RTX5060おすすめ | ¥78,800▼4,000 | ツクモ | Palit NE75060019P1-GB2063B | ¥41,9802025-12-10 | |
| GeForce RTX5050おすすめ | ¥59,800▲5,820 | ソフマップ | RTX5050GamingDUO8 | ¥32,7002025-11-17 | |
| Radeon RX9070 XTおすすめ | ¥148,800▲800 | ツクモ | RX-97TSWF3W9-GP/U | ¥74,9802026-07-29 | |
| Radeon RX9070 | ¥125,800▲6,000 | ソフマップ | RX 9070 Challenger 16G RX9070 CL | ¥78,9802026-06-01 | |
| Radeon RX9070 GRE | ¥94,800 | ツクモ | GIGABYTE GV-R907GREGAMING OC-12GD | ¥79,8002026-06-28 | |
| Radeon RX9060 XT16GB | ¥90,800▼6,000 | ツクモ | RX-96TS316W7-GP/U | ¥47,9802025-12-09 | |
| Radeon RX9060 XT8GB | ¥79,800▲1,100 | ソフマップ | GIGABYTE GV-R9060XTGAMING OC-8GD | ¥37,9802025-11-12 | |
| Radeon RX90508GB | ¥49,800 | ツクモ | GIGABYTE GV-R9050GAMING OC-8GD | ¥49,8002026-09-10 |
🔍 最安値一覧
| CPU | 本日の最安値 | 最安ショップ | 6ヶ月の推移 | 全期間最安値 |
|---|---|---|---|---|
| Ryzen 79850X3D | ¥79,443▼2,357 | ソフマップ | ¥70,0502026-10-16 | |
| Ryzen 79800X3Dおすすめ | ¥71,800▲6,000 | ソフマップ | ¥57,9902026-10-31 | |
| Ryzen 77800X3D | ¥54,800 | ソフマップ | ¥46,9162026-04-25 | |
| Ryzen 77700X3D | ¥59,800 | ソフマップ | ¥45,8002026-07-25 | |
| Ryzen 79700Xおすすめ | ¥47,800▼2,000 | ソフマップ | ¥35,7802026-04-07 | |
| Ryzen 77700 | ¥37,800▼2,000 | ドスパラ | ¥35,8002026-05-24 | |
| Ryzen 57500Fおすすめ | ¥26,980▲2,180 | ソフマップ | ¥23,8002026-03-05 | |
| Ryzen 75800X3D | ¥66,132▼668 | ソフマップ | ¥56,6792026-08-11 | |
| Ryzen 75700X | ¥34,800▼2,840 | ソフマップ | ¥18,9002025-11-29 | |
| Core Ultra 7270KPlusおすすめ | ¥53,780▼2,700 | ツクモ | ¥53,7802026-11-14 | |
| Core Ultra 5250KPlus | ¥36,980▼1,000 | ツクモ | ¥36,9802026-11-14 | |
| Core Ultra 5250KFPlus | ¥34,980▼900 | ツクモ | ¥34,9802026-11-12 | |
| Core Ultra 7265KF | ¥48,800 | ソフマップ | ¥41,8922026-05-22 | |
| Core Ultra 7265F | ¥54,980▼7,907 | ソフマップ | ¥47,9792025-06-06 | |
| Core Ultra 5225F | ¥25,280 | ソフマップ | ¥23,0002026-03-29 | |
| Core i714700F | ¥56,980▼3,000 | ドスパラ | ¥43,5002025-11-05 | |
| Core i514400F | ¥26,980▼1,000 | ツクモ | ¥19,5002025-06-17 |