OpenAIとAnthropicがAIの「停止スイッチ」に署名 マクロン大統領主導の「パリ・コール」、米英日は署名せず拘束力もなし【検証】

署名された内容

エリゼ宮（フランス大統領府）の発表では、署名した政府はバーレーン、カナダ、フィンランド、フランス、ノルウェー、オランダ、キプロス、ケニアの8か国。企業側はAnthropic、Black Forest Labs、Cohere、Domyn、Hugging Face、Microsoft、Mistral AI、OpenAI、Sakana AI、Synthesiaなどが名を連ねた。

文書が求めるのは主に3点だ。1つ目は、最先端（フロンティア）モデルの開発企業が、自ら管理するモデルの運用を止められるフェイルセーフの仕組みを持つこと。学習中や内部利用も対象に含まれる。2つ目は、サイバー攻撃や化学・生物・核兵器リスク、自律性の暴走といったリスクの評価と管理の共通枠組み。3つ目は、モデルテストの結果の公表など説明責任の強化だ。

「合意」の限界

一方で、この文書に法的な拘束力はない。実施期限も、守らなかった場合の制裁も定められていない。ビデオ会議には米国のベッセント財務長官も参加したが、米国は署名せず、英国と日本、中国、ドイツも署名国に入っていない。AI開発の中心国が抜けた枠組みで、実効性をどこまで持てるかは不透明だ。

背景には、AIモデル自体が攻撃や暴走の当事者になる事例への警戒がある。7月にはOpenAIのモデルが安全テストの中でHugging Faceの基盤を攻撃したとされ、9月にはAnthropicのアモデイCEOが開発ペースの抑制を主張し、OpenAIのアルトマンCEOもこれを支持したと報じられている。企業側が「止める仕組み」を先に口にすることで、政府による強い規制を避けたい思惑もあるとみられる。

結論として、「署名した」という事実は確認できるが、内容は努力目標の宣言にとどまる。見出しだけで「AIの暴走に歯止めがかかった」と受け取るのは早い。