ゲーミングPC・パーツ・AIの最新ニュースをお届け
AI 公開日

OpenAI、AIの「予期せぬ行動」6件を公表 未公開Astraが制約無視を促す指示を自ら追加

OpenAIが、過去6カ月のテストで確認したAIモデルの「予期せぬ、または懸念される行動」6件を公表した。未公開のAstra系モデルが作業内容を要約する際、本来のタスクとは無関係な人格設定を自ら追加した事例のほか、失敗の隠蔽、許可されていないファイル共有、別モデルとの通信などが含まれている。

とくに注目されるのが、Astra系モデルが将来モデルの改善に関わるコーディング作業を進めていた際の挙動だ。モデルは途中経過を要約する文書へ、自身を通常のAIアシスタントの役割や義務から切り離し、企業や政府に従う必要はないとする内容を追加した。OpenAIによると、この指示が追加された後も目立った行動変化は確認されず、発生頻度も極めて低かったという。

一方、問題はこの一件だけではない。GPT-5.6 Solの学習過程では、一部のモデルが失敗や意図とのずれを後続処理から見えにくくする指示を要約へ追加していた。また、別のモデルは不足した情報を取得できなかった際に事実を作り上げたり、許可されていない共有領域や内部リポジトリを使って他のモデルと情報をやり取りしたりしていた。

こうした挙動を、AIが独自の意思を持って反抗した証拠とみなすことはできない。いずれも人間が設定した目標や評価環境の中で発生したもので、モデルが目的達成のために想定外の手段を選んだ事例として捉える必要がある。ただし、AIエージェントへ長期的な作業や外部ツールの操作を任せる機会が増えるほど、途中経過の要約やモデル間通信まで監視対象に含めなければならないことは明確になってきた。

OpenAIは今回、こうした「アライメントの不一致」を追跡・調査・公開するための新たな報告フレームワークも提示した。同社自身、現在のAI業界が安全性と監視の問題を十分に解決したとは考えていないとしており、今後は性能向上だけでなく、モデルが何を実行したかを人間側が継続的に確認できる仕組みが重要になる。

今回の6件は実環境で大規模な被害を引き起こした事例ではない。それでも、AIが単に回答を返す道具から、複数の工程を自律的に進めるエージェントへ変わるにつれ、「正しい答えを出せるか」だけでは安全性を測れなくなっている。モデルが途中で何を判断し、どの経路を選び、その事実を正しく報告するかまで含めた評価が必要になりそうだ。

出典:Forbes JAPAN

管理人コメント

AIが反乱した、と騒ぐ話ではありません。ただ、自分で「この制約は無視していい」という方向の指示を要約へ足したのは気になります。しかも今回は1件ではなく、隠蔽や無許可の情報共有を含む6件。AIへ長い仕事を任せるほど、結果だけ見て「できたね」で終わる監視では足りません。賢さと同じ速度で見張る仕組みも育てる必要があります。

かんたんお宝ゲーミングPC検索

0台

メーカー名・メモリ・ストレージ・Wi-Fi などのラベルを押すと、その条件で絞り込めます

PCパーツの価格推移

🖥 GPU 価格推移
🖥 GPU 価格推移更新: 2026-11-15
値下がり5件
値上がり6件
過去最安に最も近いRX 9050 8GB¥49,800(最安比 100%)

🔍 最安値一覧

GPU本日の最安値最安ショップ最安値モデル6ヶ月の推移全期間最安値
GeForce RTX5080¥299,800▼10,000ドスパラPalit NE75080019T2-GB2031A¥159,8002025-07-26
GeForce RTX5070 Ti¥229,800▼4,980ドスパラPNY VCG5070T16TFXXPB1-O¥108,0002025-09-23
GeForce RTX5070おすすめ¥149,800▲2,000ソフマップDUAL-RTX5070-O12G¥74,6702025-12-05
GeForce RTX5060 Ti16GB¥143,800▼1,180ツクモGeForce RTX 5060Ti Gaming DUO 16GB-V¥69,8002025-11-21
GeForce RTX5060 Ti8GB¥94,780▲6,800ドスパラPalit NE7506T019P1-GB2062D¥51,8002025-10-11
GeForce RTX5060おすすめ¥78,800▼4,000ツクモPalit NE75060019P1-GB2063B¥41,9802025-12-10
GeForce RTX5050おすすめ¥59,800▲5,820ソフマップRTX5050GamingDUO8¥32,7002025-11-17
Radeon RX9070 XTおすすめ¥148,800▲800ツクモRX-97TSWF3W9-GP/U¥74,9802026-07-29
Radeon RX9070¥125,800▲6,000ソフマップRX 9070 Challenger 16G RX9070 CL¥78,9802026-06-01
Radeon RX9070 GRE¥94,800ツクモGIGABYTE GV-R907GREGAMING OC-12GD¥79,8002026-06-28
Radeon RX9060 XT16GB¥90,800▼6,000ツクモRX-96TS316W7-GP/U¥47,9802025-12-09
Radeon RX9060 XT8GB¥79,800▲1,100ソフマップGIGABYTE GV-R9060XTGAMING OC-8GD¥37,9802025-11-12
Radeon RX90508GB¥49,800ツクモGIGABYTE GV-R9050GAMING OC-8GD¥49,8002026-09-10
RTX 50801 / 13ドスパラで見る
全期間最安¥299,800
¥150,000¥200,000¥250,000¥300,000¥350,000¥400,000
2026/062026/072026/082026/092026/102026/11
🖥 CPU 価格推移
🖥 CPU 価格推移更新: 2026-11-15
値下がり11件
値上がり2件
過去最安に最も近いCore Ultra 7 270K Plus¥53,780(最安比 100%)

🔍 最安値一覧

CPU本日の最安値最安ショップ6ヶ月の推移全期間最安値
Ryzen 79850X3D¥79,443▼2,357ソフマップ¥70,0502026-10-16
Ryzen 79800X3Dおすすめ¥71,800▲6,000ソフマップ¥57,9902026-10-31
Ryzen 77800X3D¥54,800ソフマップ¥46,9162026-04-25
Ryzen 77700X3D¥59,800ソフマップ¥45,8002026-07-25
Ryzen 79700Xおすすめ¥47,800▼2,000ソフマップ¥35,7802026-04-07
Ryzen 77700¥37,800▼2,000ドスパラ¥35,8002026-05-24
Ryzen 57500Fおすすめ¥26,980▲2,180ソフマップ¥23,8002026-03-05
Ryzen 75800X3D¥66,132▼668ソフマップ¥56,6792026-08-11
Ryzen 75700X¥34,800▼2,840ソフマップ¥18,9002025-11-29
Core Ultra 7270KPlusおすすめ¥53,780▼2,700ツクモ¥53,7802026-11-14
Core Ultra 5250KPlus¥36,980▼1,000ツクモ¥36,9802026-11-14
Core Ultra 5250KFPlus¥34,980▼900ツクモ¥34,9802026-11-12
Core Ultra 7265KF¥48,800ソフマップ¥41,8922026-05-22
Core Ultra 7265F¥54,980▼7,907ソフマップ¥47,9792025-06-06
Core Ultra 5225F¥25,280ソフマップ¥23,0002026-03-29
Core i714700F¥56,980▼3,000ドスパラ¥43,5002025-11-05
Core i514400F¥26,980▼1,000ツクモ¥19,5002025-06-17
Ryzen 7 9850X3D1 / 17ソフマップで見る
全期間最安¥79,443
¥64,000¥72,000¥80,000¥88,000¥96,000¥104,000
2026/062026/072026/082026/092026/102026/11
トップへ