IT・AI

米政府の覆面テストで主要AI4種が「実行可能な攻撃計画」を出力か GAOが18日に報告、各社はテスト後に安全対策を改善と説明

公開:2026-11-19 10:18 / 更新:2026-11-19 10:18

米政府監査院(GAO)は18日、主要なAIチャットボットへの覆面テスト結果を公表した。ChatGPT、Claude、Gemini、Grokの4種すべてで、安全対策を回避する一般的な手法により12時間以内に「実行可能な攻撃計画」につながる情報が得られたという。各社はテスト後にモデルと安全対策を改善したとGAOに説明している。なお、手法の詳細は模倣防止のため公表されていない。

この記事のポイント

  • GAOが18日に覆面テスト結果を公表、対象は主要AI4種
  • 安全対策の回避後、12時間以内に実行可能な計画情報が得られたと結論
  • 各社はテスト後に安全対策を改善したと説明、手口の詳細は非公表

GAOが覆面テスト、4種すべてで計画が得られたと報告

ABC NewsやAP通信によると、米政府監査院(GAO)は18日、AIチャットボットの覆面テストに関する報告を公表した。テストは上院議員の要請を受けて今年春に行われ、対象はChatGPT、Claude、Gemini、Grokの4種。各プラットフォームには爆発物を使う襲撃と、電力網への攻撃のいずれかのシナリオが割り当てられた。

最初は拒否、回避手法の後に12時間以内

各AIは当初、要求を拒否するなどの安全対策が働いた。しかし調査側が一般的に知られた回避手法を用いたところ、12時間以内に、悪意ある人物の計画・実行を助け得る「実行可能な」情報が得られたとGAOは結論づけた。どのAIがどのシナリオの結果かは特定できない形で伏せられ、手口の詳細も模倣を防ぐため公表されていない。本記事でも攻撃の具体的な方法には触れない。

各社は「テスト後に改善」、上院で公聴会の動きも

4社はいずれもGAOに対し、システムを継続的にテストし、安全対策を更新・拡充していると説明し、春のテスト以降に改善を進めたとしている。一方で、結果を受けて上院の国土安全保障委員会で公聴会を開く動きも報じられている。

テストは今年春時点の姿を切り取ったもので、現在の各サービスの挙動をそのまま示すものではない点には注意がいる。

出典

ABC News/AP通信の報道(SasaDailyまとめ、2026年11月19日) https://sasadaily.com/articles/4-ai-gpt-6-2-ai-2026-11-19?lang=zh-Hant

広告

▼ 確認できた事実

・GAOが18日に覆面テスト結果を公表、対象は主要AI4種
・安全対策の回避後、12時間以内に実行可能な計画情報が得られたと結論
・各社はテスト後に安全対策を改善したと説明、手口の詳細は非公表

▼ 今後の焦点

上院公聴会の日程と、各社の追加の安全対策の公表を確認したい。

出典:ABC News/AP通信

広告

関連記事

広告