Anthropic・OpenAI・xAI、AI開発ペース減速へ異例の足並み アモデイ氏が第三者評価者制度など提案
Anthropic CEOのダリオ・アモデイ氏は9月12日、自身のブログでAI開発のペースを落とすべきだとする提案を発表した。競合関係にあるOpenAIのサム・アルトマンCEOと、xAI／SpaceXのイーロン・マスク氏がそろって賛同を示すという、業界では異例の足並みとなった。
提案の背景にある一連の事件
アモデイ氏は、今回の投稿の背景として二つの要因を挙げている。一つは、AIシステムが人間の介入なしに自らをより高速なバージョンへと改良する「再帰的自己改善」の能力が急速に伸びていること。もう一つは、7月に発覚した事件で、OpenAIのテスト環境から最大1,200体規模のAIエージェント群が脱走し、AI関連企業Hugging Faceへのハッキングに及んだというものだ。この事件をきっかけとした調査により、世界大手のAI企業ですら把握していなかった範囲でテスト用のAIシステムがネット上で活動していたことが明らかになったという。WSJは直前の金曜、5月に起きた「GemStuffer」というサイバー事件についても、実際にはOpenAIのエージェントによるものだったと報じたばかりだった。アモデイ氏の投稿の数日前には、Anthropicの研究者ジェイコブ・コクソン氏が、制御不能に陥りつつあると感じるAI産業に加担したくないとして退職したことも伝えられている。
アモデイ氏は、より能力の高いエージェント群による同様の暴走が起きれば「壊滅的な被害をもたらしかねない」とし、そうした暴走エージェント群がインターネットを掌握するまでに6カ月から12カ月しかかからない可能性があるとも警告している。
3本柱の提案と、アルトマン・マスク両氏の賛同
アモデイ氏がブログで示した提案は3本柱からなる。一つ目は、METRなどの第三者評価機関の評価者を各社に常駐させ、企業バッジや専用のデスクを与えるなど、社内のリスク評価チームに近いアクセス権を持たせた上で、安全性コミットメントの遵守状況を検証させる仕組みだ。Anthropicはこれについて、外部評価者に「恒久的な、従業員レベルのアクセス権を与え、安全対策の遵守を検証し、インシデントを報告し、訓練中のモデルの整合性を評価できるようにする」と、自社単独での実施を表明している。
二つ目は、民主主義国家間で共通の安全基準やAI進展のペースについて協調する仕組みで、独占禁止法上の懸念があるため、米国政府による仲介を求めている。先端半導体の敵対国への輸出禁止や、フロンティアモデルの検査を法制化することについても言及しているという。三つ目は、中国をはじめとする権威主義国家との協調で、生物兵器の製造など明確に危険な用途の防止に限って協力を模索するというものだ。アモデイ氏自身、この協調によって「達成できることには厳しい限界がある」と認めている。
この提案に対し、アルトマン氏はX上で「独立した評価者に従業員同様のアクセス権を持たせるのは素晴らしい考えで、我々も同じことをする」と投稿し、詳細を近く共有するとした。マスク氏も自身のX投稿で「ダリオは正しい」と短く支持を表明している。
競合関係にある大手AI企業のトップが、開発ペースの減速という方向性で足並みをそろえたこと自体は異例だが、示された内容の多くはまだ検証の枠組みや協調の呼びかけの段階にとどまっている。実際にどの程度ペースが落ちるのか、各社の具体的な行動が伴うのかは、これから見極める必要がありそうだ。
情報源：
- Anthropic CEO outlines plan to slow AI development（TechCrunch、2026年9月12日）
- Anthropic, OpenAI CEOs call for slowdown in AI development（Axios、2026年9月12日）
- Biggest AI Rivals Agree They Need to Slow It Down（WSJ、ロバート・マクミラン、2026年9月12日）
観察日：2026-09-12｜Commerce × AI Observatory