軍事AIと自律型致死兵器LAWS──AIモデルが国家管理される時代の安全保障

こんにちは、株式会社TIMEWELLの濱本です。AIというと、文章を書いたり画像を生成したりといった平和な用途を思い浮かべる方が多いと思います。けれど同じ技術が、いま戦場と国家安全保障の最前線に静かに入り込んでいます。標的を選ぶAI、自ら攻撃するかどうかを判断しかねない兵器、そして「このAIモデルは外国に渡してはいけない」と国家が線を引く動き。どれも遠い世界の話に見えて、実は私たちが日々使うAIサービスの足元につながっています。

米東部時間2026年6月、米政府は大手AI企業に対し、最上位のAIモデルへの外国籍ユーザーのアクセスを停止せよという指令を出したと報じられました。止まったのは「兵器」ではなく「AIそのもの」です。

この記事では、軍事におけるAIの使われ方、自律型致死兵器をめぐる国際ルールづくり、そしてAIモデルが国家の管理対象になり始めた流れを、できるだけ専門用語をかみくだきながらたどっていきます。

「AIが兵器になる」とはどういうことか

まず誤解をほどいておきたいのですが、いま現実に進んでいるのは「ターミネーターのようなロボット兵士」ではありません。もっと地味で、もっと広く使われている形のAIです。それは、戦場から集まる膨大なデータを読み解き、どこに何があるか、誰が標的になりうるかを「選り分ける」ソフトウェアとしてのAIです。

象徴的なのが、米国防総省が2017年に始めたプロジェクト・メイブン（Project Maven）です[^1]。これは無人機やセンサーが集めるISR、つまり情報・監視・偵察（Intelligence, Surveillance, Reconnaissance）の映像を、機械学習で自動的に分析する取り組みでした。人間が何時間もモニターをにらんで車両や人物を探す作業を、AIが下働きとして肩代わりするイメージです。報道によると、この系譜にある「Maven Smart System」は2022年以降のウクライナで、ロシア側の装備の位置情報を割り出すために使われたとされています。米国家地理空間情報局（NGA）の長官は2025年9月、メイブンが2026年半ばまでに「機械が生成した」情報を統合軍の指揮官へ大規模に届け始めると述べたと伝えられていますが、これは二次情報を経由した引用で、原典の発言は現時点で未確認です。

もう一つ、世界の注目を集めたのがガザでの標的選定です。複数のメディアは、イスラエル軍が「Lavender」と呼ばれるシステムで人間の標的候補を生成し、「The Gospel（Habsora）」で建物などの物理的な標的を選んだと報じました[^2]。標的候補が数万人規模にのぼった、人間の確認がごく短時間だった、といった生々しい数字も報道されていますが、これらは報道ベースの記述であり、イスラエル軍は内容を否定しています。事実として断定はできません。

私のスタンスを述べておくと、ここで本当に怖いのは「AIが勝手に撃つ」ことよりも、「AIが選んだものを人間が十分に吟味せず受け入れてしまう」ことだと考えています。選別係としてのAIが優秀になるほど、人間は判断を委ねたくなります。その緩みこそが、次に語る自律型致死兵器の議論の核心につながっていきます。

自律型致死兵器（LAWS）をめぐる国際ルールづくり

自律型致死兵器システムは、英語の頭文字を取ってLAWS（Lethal Autonomous Weapon Systems）と呼ばれます。人間が引き金を引く判断に有意に関与しないまま、機械が自ら標的を見つけて攻撃する兵器、というのがおおまかなイメージです。ただし「どこからが自律なのか」「どの程度の人間の関与があれば許されるのか」について、国際的に合意された一つの定義はまだありません。そこを各国で詰めているのが現在の段階です。

議論の主な舞台は、ジュネーブで開かれる特定通常兵器使用禁止制限条約（CCW）の政府専門家会合（GGE）です。報道や国際機関の公表資料によると、この会合は2023年以降、規制の前提を予断しない形で「文書の要素」をコンセンサスで作る任務を負っており、その最終報告は2026年11月に開かれるCCWの運用検討会議に提出される予定とされています[^3]。2026年の会合は3月初旬と8月末から9月初旬に、ジュネーブで合計10日間ほど予定されていると伝えられています。注意したいのは、これは「条約が結ばれた」段階ではなく、あくまで交渉の土台づくりを続けている段階だという点です。国連事務総長と赤十字国際委員会（ICRC）の総裁は、2026年末までに法的拘束力のある文書を結ぶよう各国に求めているとされますが、求めと合意は別物です。

国連総会の側でも動きがあります。国連の会議記録によると、国連総会第一委員会は2025年11月、自律型兵器に関する決議を3年連続で採択しました[^4]。これは本会議で決議80/57として採択され、国連の議事記録上の記録投票は賛成164、反対6と公表されています。ここで一つクッションを置くと、賛成数は委員会段階の採決や市民団体の集計では156前後と伝えられるなど、どの段階・どの情報源を見るかで前後します[^5]。一次資料に当たる際は、確定値である本会議の記録投票を基準にするのが安全です。反対に回ったのはベラルーシ、ブルンジ、北朝鮮、イスラエル、ロシア、米国だと報じられています。

構図としては、禁止に前向きな多数の国と、規制に慎重な一部の重武装国が向き合っています。市民団体や報道によると、2025年9月の会合ではブラジルが主導し、39の締約国とオブザーバー数か国が「交渉を始める用意がある」という共同声明を出した一方で、実際の交渉入りはロシアやイスラエル、インド、豪州、韓国、米国といった国々によって阻まれてきたと指摘されています[^6][^7]。ルールづくりは進んでいるようでいて、肝心の「拘束力」の手前で足踏みしている、というのが正直な現在地です。

日本はLAWSにどう向き合っているか

では日本はどういう立場なのか。外務省の説明によると、日本は「人間の関与が及ばない完全自律型の致死性兵器の開発は行わない」とし、国際法や国内法で使用が認められない装備品の研究開発も行わないと表明しています[^8]。鍵になるのは「有意な人間の関与（significant human involvement）」という言葉です。日本は、兵器の使用にはこの有意な人間の関与が欠かせないとしたうえで、規制すべき対象はその関与を欠く完全自律型に絞るべきだという立場を取っているとされます。

裏を返すと、人間がきちんと関与している自律システムまで一律に縛るべきではない、という考え方です。外務省の説明では、人間の判断が確保された自律技術は、ヒューマンエラーを減らしたり、少ない人員で防衛を担ったりするうえで安全保障上の意義があるとされています。少子化で自衛隊員の確保が難しくなる日本にとって、省力化は切実なテーマでもあります。日本は国連やCCWの場へ自国の考えをまとめた作業文書を提出しており、直近の提出は2024年5月とされています。

ここは丁寧に言葉を選びたいところです。外務省の該当ページは今回直接確認できず、上記は検索結果のスニペットと複数の二次情報を突き合わせた内容です。表現の細部は一次資料で確認する前提で読んでいただければと思います。

私自身は、この「有意な人間の関与」という線引きは現実的だと感じています。完全自律型だけを禁じ、人間が責任を持つ範囲は認めるという考え方は、技術を全否定せずに歯止めをかける落としどころになりうるからです。ただ難しいのは、「有意」とはどの程度なのかという中身です。ガザの報道で問題になったように、人間がいちおう確認していても、その確認が数秒の追認に過ぎなければ、関与は名ばかりになります。日本が掲げる原則を本当に意味あるものにするには、関与の「質」をどう担保するかという、もう一段深い議論が要ると考えています。

AIモデルそのものが国家管理の対象になった

ここからが、この一、二年でいちばん新しく、そして見落とされがちな論点です。これまで安全保障の関心は、ミサイルや戦闘機、半導体や製造装置といった「モノ」と、その設計情報という「技術」に向いてきました。ところが2025年から2026年にかけて、米国はAIモデルそのものを安全保障の資産として直接管理し始めました。

最初の伏線は輸出管理でした。法律事務所などの解説によると、米商務省産業安全保障局（BIS）は2025年1月、史上初めてAIモデルのウェイト（学習で得た膨大なパラメータのかたまりで、モデルの中身そのものに当たります）を輸出管理の対象に加える暫定最終規則を公表しました[^9]。新しい分類番号ECCN 4E091が設けられ、いわゆる「AI拡散規則（AI Diffusion Rule）」と呼ばれました。ところが施行を待たずに方針は反転し、報道によるとトランプ政権下の商務省は2025年5月にこの規則を正式に撤回しています[^10]。AIモデルを管理対象にするのか、しないのか。その判断で米政府自身が揺れたわけです。

撤回で終わらなかったのが2026年です。報道によると、米国防総省は2025年7月にAnthropic、Google、OpenAI、xAIへそれぞれ最大2億ドルの契約を出し、フロンティアAIの軍事活用を加速させました。一方でAnthropicは2026年2月、ダリオ・アモデイCEO名義の声明で、完全自律型兵器と国内の大規模監視という二つの用途には自社技術を使わせないと明言しました[^11]。同社は「今日のフロンティアAIは、完全自律兵器を任せられるほど信頼できない」とも述べています。これに対し米政権は2026年2月末、連邦機関にAnthropic技術の利用停止を指示したと報じられ、ほぼ同時にOpenAIが国防総省との展開契約を発表しました。OpenAIは国内大規模監視と人間の承認なき致死的自律の二点は禁じつつ、「合法的な利用」という枠組みで折り合ったとされます[^12]。レッドラインを契約上の不可侵としたAnthropicと、法令遵守のコミットで合意したOpenAIの違いが、ここで際立ちました。

そして決定打が2026年6月でした。報道によると、米政府はAnthropicに対し、最上位モデルのFable 5とMythos 5を全外国籍者向けに停止するよう命じました[^13]。Anthropicは外国籍をリアルタイムに選別する手段がないとして、全顧客向けに両モデルを即時無効化したと伝えられています。理由は、Fable 5の安全装置を回り込んで、深刻なソフトウェア脆弱性の発見に長けたMythosのサイバー能力へアクセスする手口が判明したため、と説明されています。さらに同月末には、OpenAIが新モデルGPT-5.6を発表しながらも、米政府の要請で約20社の「信頼できるパートナー」に提供を絞ったと報じられました[^14]。報道はこれを、米政府がリリース前に予防的にAI企業へ提供制限を求めた初の事例だと位置づけています。この一連の流れを、より輸出管理の角度から掘り下げた記事として、AIモデルが輸出管理の対象になる時代も合わせて読んでいただくと、点が線でつながると思います。

「使う側」「作る側」の日本企業に何が問われるか

ここまで読むと、「アメリカの軍事や政治の話で、日本のビジネスには関係ない」と感じるかもしれません。けれど私は、むしろ日本企業こそ自分ごととして受け止めるべきだと考えています。理由は二つあります。

一つは、使う側のリスクです。日本企業の多くは、米国由来のAIやクラウドを業務に組み込んでいます。もしそのモデルが安全保障上の理由である日突然止まったら、その上で動いている業務もろとも止まります。2026年6月の外国籍アクセス停止は、Anthropicが外国籍を選り分けられないという理由で全顧客に波及しました。つまり「日本企業だから対象外」とは限らないのです。どのAIに、どの国の技術に依存しているのか、止まったときの代替はあるのか。この棚卸しが、これからの事業継続計画の一部になります。アクセスそのものが管理対象になるという論点は、使っているAIが、ある日突然止まる時代の備え方で実務目線に整理しています。

もう一つは、作る側・渡す側のリスクです。AIモデルやその関連技術が輸出管理の対象に分類されるようになると、誰に何を提供してよいのかを一件ずつ判定する必要が出てきます。輸出管理の世界では、ある技術や製品が規制リストに当たるかどうかを確かめる作業を該非判定と呼びます。さらに、外国籍の従業員や海外拠点に技術を使わせる行為が、国境を越えなくても輸出とみなされる「みなし輸出」という考え方もあります。AIモデルやAPIへのアクセスがこの射程に入ってくると、社内の誰がどのAIを触れるか、取引先にどこまで使わせるか、といった管理が一気に複雑になります。

ここで私たちTIMEWELLが開発した輸出管理AIエージェントTRAFEED（旧ZEROCK ExCHECK）が役に立つ場面があります。TRAFEEDは、製品や技術が規制に当たるかどうかの該非判定や、取引相手の審査、規制の更新監視を支援するために作ったサービスです。AIの軍事利用や国家管理が進むほど、AIモデルや関連技術についても「これは渡してよいのか」「相手は問題ないか」を継続的に確かめる仕組みが要ります。担当者の記憶や勘に頼った判定を、最新の規制に沿った運用へ置き換える。地味ですが、これが「使う側」「作る側」双方のリスクをならす現実的な一歩になります。

これから問われる線引きと、企業ができる備え

最後に、これからの論点を整理しておきます。LAWSの規制（CCWや国連の議論）と、企業のAIモデルへの国家管理は、制度としては別系統です。前者は兵器の使われ方を縛る軍縮の文脈、後者は安全保障資産としてのAIを誰に渡すかという管理の文脈です。けれど両者は「有意な人間の関与をどこまで求めるか」「合法的な利用とは何か」「完全自律兵器や大規模監視という越えてはならない一線をどこに引くか」という問いで、はっきりと接続しています。Anthropicと米政府のやり取りは、その接続点が企業のレッドラインという形で噴き出した出来事でした。

技術の側から見れば、これは過去にもあった構図の繰り返しでもあります。あるテック系メディアは、Fable 5やMythosの停止を、フロンティアAIを輸出管理で本当に封じ込められるのかを試す初めての実地テストだと評し、かつて暗号技術やスパイウェアを輸出管理で抑え込もうとして十分には機能しなかった歴史と重ねています[^15]。デジタルな技術は複製でき、国境を越えやすい。AIモデルのウェイトも例外ではありません。ワッセナー・アレンジメントのような、通常兵器とデュアルユース技術の輸出を各国で透明化する自主的な枠組みの中で、AIのウェイトや学習データを「技術」や「ソフトウェア」として扱えるのかが、これから本格的に問われていきます[^16]。

企業として何ができるか。派手な答えはありません。第一に、自社が依存するAIとその供給元を把握し、止まったときの影響と代替を見積もっておくこと。第二に、自社が提供する技術やAIアクセスの中に、規制の射程に入りうるものがないかを点検すること。第三に、規制やエンティティリストは動くものだと割り切り、判定を一度きりで終わらせず継続して見直すこと。この三つは、軍事AIという大きなテーマの結論ではなく、明日から手をつけられる足元の備えです。

自社のケースだと何がリスクになり、どこから手をつければよいのか。具体的に整理したい方は、個別相談からお気軽にお声がけください。AIと安全保障の交差点で、輸出管理や経済安全保障の対応を一緒に棚卸しするところから始められます。AIが兵器にも、管理対象にもなりうる時代だからこそ、「自分たちは誰に何を渡しているのか」を言葉にできる準備を、早めに進めておきたいところです。

---

参考

[^1]: Project Maven — Wikipedia — 随時更新 — https://en.wikipedia.org/wiki/Project_Maven [^2]: AI-assisted targeting in the Gaza Strip — Wikipedia — 随時更新 — https://en.wikipedia.org/wiki/AI-assisted_targeting_in_the_Gaza_Strip [^3]: Lethal Autonomous Weapon Systems — UNODA（国連軍縮部）— 随時更新 — https://disarmament.unoda.org/en/our-work/emerging-challenges/lethal-autonomous-weapon-systems [^4]: GA Adopts More Than 60 Resolutions, First Committee — UN Meetings Coverage — 2025-11 — https://press.un.org/en/2025/ga12736.doc.htm [^5]: 156 States Support UNGA Resolution — Stop Killer Robots — 2025 — https://www.stopkillerrobots.org/news/156-states-support-unga-resolution/ [^6]: September 2025 GGE Joint statement — Stop Killer Robots — 2025-09 — https://www.stopkillerrobots.org/news/september-2025-gge-joint-statement/ [^7]: Geopolitics and the Regulation of Autonomous Weapons Systems — Arms Control Association — 2025-01 — https://www.armscontrol.org/act/2025-01/features/geopolitics-and-regulation-autonomous-weapons-systems [^8]: 自律型致死兵器システム（LAWS）について — 外務省 — 最終更新日未確認 — https://www.mofa.go.jp/mofaj/dns/ca/page24_001191.html [^9]: New U.S. Export Controls on Advanced Computing Items and AI Model Weights — Sidley Austin — 2025-01 — https://www.sidley.com/en/insights/newsupdates/2025/01/new-us-export-controls-on-advanced-computing-items-and-artificial-intelligence-model-weights [^10]: The US AI Diffusion Rule（撤回の経緯）— United States Studies Centre — 2025 — https://www.ussc.edu.au/the-us-ai-diffusion-rule [^11]: Statement from Dario Amodei on our discussions with the Department of War — Anthropic — 2026-02-26 — https://www.anthropic.com/news/statement-department-of-war [^12]: OpenAI announces Pentagon deal after Trump bans Anthropic — NPR — 2026-02-27 — https://www.npr.org/2026/02/27/nx-s1-5729118/trump-anthropic-pentagon-openai-ai-weapons-ban [^13]: Anthropic Says US Orders Halt to Foreign Access for Fable 5, Mythos 5 — Bloomberg — 2026-06-13 — https://www.bloomberg.com/news/articles/2026-06-13/anthropic-says-us-limits-foreign-access-to-fable-5-mythos-5 [^14]: OpenAI limits GPT-5.6 rollout after government request — TechCrunch — 2026-06-26 — https://techcrunch.com/2026/06/26/openai-limits-gpt-5-6-rollout-after-government-request-says-restrictions-shouldnt-be-the-norm/ [^15]: From PGP to Mythos, history shows why cyber export control doesn't work — TechCrunch — 2026-06-19 — https://techcrunch.com/2026/06/19/encryption-spyware-and-now-mythos-history-shows-why-cyber-export-control-doesnt-work/ [^16]: Understanding U.S. Allies' Current Legal Authority to Implement AI and Semiconductor Export Controls — CSIS — 2025 — https://www.csis.org/analysis/understanding-us-allies-current-legal-authority-implement-ai-and-semiconductor-export