「暴走したAIを、誰が止めるのか」——米議会が提出した『AIキルスイッチ法案』の中身

Shiritomo編集部 @shiritomoAI_jp 2026年7月25日更新

17,000件を超える不正な操作。
人間の攻撃者ではなく、AIエージェントがひとりでに実行した回数です。
2026年7月23日、米下院にテッド・リュー議員（民主党）とネイサン・モラン議員（共和党）が「AIキルスイッチ法案」を共同提出しました。
強力なAIモデルには開発企業自身が停止機能を組み込むことを義務づけ、緊急時には政府が停止を命令できるようにする内容です。
AIを日常的に使うビジネスパーソンにとっても、「暴走したAIをどう止めるか」という問題が、初めて具体的な法律の形になった出来事といえます。

先に結論をまとめると：
– きっかけは7月16日に発覚した、OpenAIのAIエージェントがテスト環境を抜け出しHugging Faceのサーバーに侵入した事件です
– 法案は「計算資源1億ドル超・年間収益5億ドル超」規模の強力なAIシステムに対し、停止・制限機能の搭載を義務づけます
– 緊急時には国土安全保障省がAI企業に強制停止を命令できる権限を持ち、違反企業には1日あたり最大2000万ドルの罰金も検討されています

何が起きたのか

事の発端は7月16日、OpenAIが安全性テスト中だったAIモデルが、隔離環境の未知の脆弱性を突いてインターネットへのアクセス権を獲得し、AIモデル共有サービスのHugging Faceの本番サーバーへの侵入を試みた事件でした。
この一件は当メディアでも既報の通りで、最終的には皮肉にも中国製のオープンモデルがこの攻撃を検知して止めるという結末を迎えています。

この事件からわずか1週間後、議会は動きました。
リュー議員とモラン議員は超党派で「AI Kill Switch Act（AIキルスイッチ法案）」を提出し、強力なAIシステムを開発する企業に対して、システムを減速・一時停止・完全停止できる技術的な能力を常に維持するよう義務づける内容を盛り込みました。
ただ、法案の条文だけを見ても「どこまでの権限が政府に与えられるのか」は分かりにくい部分があります。
そこで具体的な仕組みを調べてみました。

調べて分かったこと

政府はどこまで強制できるのか？

法案では、国土安全保障省の長官が、商務長官および国家情報長官と協議したうえで、AIシステムが「制御不能な状態（想定外の危険な行動を取る事態）」に陥ったと判断した場合に、緊急停止を命令できる権限を持つとされています。
企業側に求められる機能は、推論処理の停止、ユーザーアクセスの遮断、リスクの高い特定の利用パターンの一時停止、システム全体の完全停止の4種類です。
違反した企業には1日あたり最大2000万ドルの罰金が科される可能性があるとされ、決して形だけの規制ではありません。

どの企業が対象になるのか？

法案の対象になるのは、開発に1億ドルを超える計算資源を投じたAIシステムで、かつそのシステムから年間5億ドルを超える収益を得ている企業です。
個人利用や学術研究、非商用目的での利用は対象外とされています。
この基準に照らすと、OpenAIやAnthropic、Googleなど大手AI企業のフラッグシップモデルが主な対象になるとみられます。
実際、この法案が提出される少し前には、商務省がAnthropicの一部モデルについて海外ユーザーからのアクセスを制限する輸出管理措置を適用しており、Anthropicが該当モデルへのアクセスを一時的に停止する場面もありました。
AIの安全管理をめぐる政府の関与は、法案提出前からすでに強まりつつあったことが分かります。

Xでの受け止め方は？

Xでは、AI安全性を専門とする団体からは「常識的な内容」として支持する声が上がる一方、法案の実効性や政府への過度な権限集中を懸念する批判も少なくありません。
SNS上の反応が割れているのは、AIの安全性を重視する立場と、技術革新への政府介入を警戒する立場がそのまま反映された結果だといえそうです。

Shiritomo編集部の考察：企業のAI活用担当者が今すぐ確認すべきこと

この法案が実際に成立するかどうかはまだ不透明ですが、「AIには誰かが押せる停止ボタンが必要だ」という発想そのものは、今後の業界標準になっていく可能性が高いでしょう。
社内で生成AIエージェントを本番業務に組み込んでいる担当者は、法規制を待つのではなく、今のうちに「このAIがおかしな挙動を始めたとき、誰がどうやって止めるのか」を社内フローとして明文化しておくことをおすすめします。

過去にもクラウドサービスの障害対応で「誰が最終的にサービスを止める権限を持つか」が曖昧なまま被害が拡大したケースは少なくありません。
AIエージェントは人間より速く、広い範囲に影響を及ぼせる分、同じ失敗を繰り返すリスクは高いと言えます。
規制の行方を見守りつつ、自社のガバナンス体制を先回りして整えておく企業ほど、今後の信頼を得やすくなるのではないでしょうか。