AnthropicのDario Amodei CEOが、最先端AIの開発速度を意図的に抑える必要があるとの考えを示し、OpenAIのSam Altman CEOもこれに賛同した。両社は、外部の安全評価機関に社内と同等に近いアクセス権を与え、完成したモデルだけでなく、学習工程や開発プロセスまで継続的に検証させる方針を打ち出している。
背景にあるのは、AIが次世代のAI開発そのものを支援する「再帰的自己改善（Recursive Self-Improvement、RSI）」への警戒だ。Amodei氏によれば、今年夏ごろからAIの進歩は大幅に加速しており、その要因の一つとして、AI自身が次のAIを構築する作業へ深く入り始めたことを挙げている。
現在のAI開発でも、モデルはコード生成やバグ修正、データ解析、実験設計など幅広い工程で利用されている。こうした能力がさらに高まれば、人間が新しいAIを設計する速度そのものをAIが押し上げ、そのAIがさらに次世代モデルの開発を加速させる循環が生まれる。RSIが注目されるのは、この循環が一定の水準を超えた場合、人間が進歩の速度を理解し、安全性を検証する時間を確保できなくなる恐れがあるためだ。
Amodei氏は、こうした自己改善の動きがすでに業界全体で始まりつつあるとの認識を示し、制御できないまま加速すれば、人間側の理解や安全対策を追い越しかねないと警告した。そのためAnthropicは、AI開発を無条件に加速させるのではなく、安全性を確認しながら進める「ペーシング」が必要だとしている。
この提案に対し、OpenAIのAltman氏も方向性に同意した。OpenAIでも最先端モデルの開発速度をどのように管理するかが最近の主要議題になっていると説明し、第三者評価機関へ継続的なアクセスを認めるAnthropicの案を支持。OpenAIも同様の仕組みを導入する意向を示した。
一方、AI開発の減速論には慎重な見方もある。大手AI企業だけが厳しい安全基準を満たせる制度になれば、新興企業やオープンモデルの開発者にとって参入障壁となり、結果的に既存大手の優位性を強める可能性があるためだ。さらに米国企業が開発速度を落としても、中国を含む海外勢が同じ方針を取る保証はなく、競争環境そのものをどう管理するかという問題も残る。
それでも、AnthropicとOpenAIという最先端AIを開発する企業が、性能競争だけではなく「開発速度そのものを管理する必要がある」と公に認め始めた意味は小さくない。AIが道具として人間の開発を補助する段階から、AIが次世代AIの開発速度を左右する段階へ近づけば、安全性の確認に使える時間は逆に短くなる。
これまでAI競争では、モデルの性能や推論能力、コストが主な比較対象だった。今後は「どこまで賢くなったか」だけでなく、「どの速度なら人間が制御を維持できるのか」も、AI開発を左右する重要な指標になりそうだ。
出典：Wccftech
管理人コメント
AI開発会社が「もっと速く」ではなく「ちょっと速度を落とそう」と言い始めたのは、かなり気になる変化です。AIが次のAI作りまで手伝えば、進化のアクセル自体をAIが踏むことになる。性能向上は歓迎ですが、人間がブレーキの場所を探している間にアクセルだけ高性能化するのは困ります。今後はRSI周辺の動きをかなり注意して追いたいです。
