イーロン・マスク［Elon Musk］氏が率いるAI企業・xAIは2026年7月27日、実在人物の写真や動画を加工し、写っていなかった身体部分を本人のものらしく描く機能へのアクセスを禁じる米ミネソタ州法（8月1日発効）について、表現の自由を保障する米国憲法修正第1条に反するとして州司法長官を提訴した。
ミネソタ州連邦地方裁判所は7月31日、法律の発効前に執行を止める緊急の一時的差止めを認めなかった。法律は予定どおり8月1日に発効している。裁判所は合憲性をまだ判断しておらず、訴訟中の執行を止める予備的差止めについて8月19日に審理する。
この法律が規制するのは、作られた性的画像を投稿したユーザーだけではない。画像を作れるアプリやWebサービス、その機能を提供する事業者にも、生成前の段階で被害を防ぐよう求めており、写真に写った人がサービスのアカウントを持っていなくても、本人の知らないところで加工される可能性に対応する。
争点は、その規制が「ヌーディファイ」専用アプリにとどまるのか、広告、創作、写真修復にも使えるGrok Imagineのような汎用AIの画像編集機能まで及ぶのかにある。誰かの身体を勝手に作り変えられないようにするため、事業者へどこまで機能制限を求められるのか。以下、訴訟の経緯と法律の仕組み、残された論点を詳しく見ていく。
発効前の一時的差止めは認められず、8月19日に審理
訴状によると、本事件名は「X.AI LLC v. Ellison」（事件番号：0:26-cv-03425）で、被告は、ミネソタ州司法長官としての公的資格にあるキース・エリソン［Keith Ellison］氏だ。
xAIは、法律全体または少なくとも同社への適用について、執行を一時的、最終的に差し止めるよう求めている。7月29日には、8月1日の発効前に判断するよう緊急申立てを行った。
だが、ドノバン・フランク［Donovan W. Frank］連邦地裁判事は発効前の一時的差止めを認めなかった。7月31日付命令は、理由を次のように記している。
“Such a delay in bringing the action and the motion suggests that harm is not immediate.”
「提訴と申立てがここまで遅れたことは、損害が差し迫ったものではないことを示している」（編集部訳）
同判事が指摘したのは、州知事の署名から約3カ月がたち、発効の3日前になってxAIが緊急申立てを行ったことだ。2ページの命令は、法律が表現の自由を侵害するかどうかには踏み込んでいない。
裁判所は申立てを予備的差止めの手続きへ移し、州側の回答期限を8月12日、xAI側の返信期限を8月17日とした。審理は8月19日午前9時30分に予定されている。
法律は、画像を作ったユーザーよりサービス提供者へ責任を向ける
対象となるのは、ミネソタ州法第325E.91条「ヌーディフィケーション技術の禁止」である。法案番号はHF 1606、2026年会期法第72章。ジェス・ハンソン［Jess Hanson］州下院議員とエリン・メイ・クエード［Erin Maye Quade］州上院議員が提出し、ティム・ウォルズ［Tim Walz］州知事が5月7日に署名した。
法律がいう「nudify」は、識別できる人物の元画像には写っていなかった「intimate part」を生成または加工によって加え、合理的な人が本人の身体だと信じるほど現実的に見せることを指す。「intimate part」には、主な性器周辺、鼠径部、内もも、臀部、乳房が含まれる。
禁止規定の中心部分は、次のように書かれている。
“allow a user to access, download, or use the website, application, software, program, or other service to nudify an image or video”
「ユーザーが、画像や動画をヌーディファイするために、Webサイト、アプリ、ソフトウェア、プログラムその他のサービスへアクセスし、ダウンロードし、または使用することを認める」（編集部訳）
法律の主要部分を整理すると、次のようになる。
| 領域 | 規制・保護のポイント | 事業者に求められる主な対応 |
| 対象 | Webサイト、アプリ、ソフトウェア、プログラムなどを所有・管理する者 | ユーザーに対象機能を使わせず、代わりに画像を加工することもしない |
| 禁止される画像 | 識別できる人物の元画像にない身体部分を加え、本人のものと信じられるほど現実的に見せた画像・動画 | 画像編集や生成時に、対象となる出力を防ぐ |
| 広告・宣伝 | 対象サービスの広告や宣伝も禁止 | 広告出稿、紹介、送客を停止する |
| 例外 | ユーザーが相当な技術的・芸術的技能と判断を使わなければ加工できないサービス | 簡単な指示だけで生成できる機能との違いを整理する |
| 執行・救済 | 州司法長官による執行と、画像に描かれた本人による民事訴訟 | 差止め、損害賠償、弁護士費用などに対応する |
| 制裁金 | 違法なアクセス、ダウンロード、使用1件につき最大50万ドル | 対象機能の提供範囲と利用記録を管理する |
| 発効 | 2026年8月1日以降に生じた請求原因へ適用 | 同日以降の提供状況を法令に合わせる |
この法律に刑事罰はない。規制の主な対象も、加工を試みたユーザーではなく、サービスの所有者や管理者である。本人の同意を確認した場合の例外や、安全対策を誠実に講じた事業者を免責する規定も置かれていない。
xAIは「同意のある加工や風刺まで含まれる」と主張
xAIは訴状で、実在人物の非同意性的画像が広がるのを防ぐという州の利益自体は争わないと述べている。そのうえで、今回の法律は対象が広すぎ、保護される表現まで制限すると主張した。
同社が問題として挙げたのは、法律の定義に「内もも」「臀部」「乳房」が含まれる点である。訴状は、短パン姿、上半身に衣服を着けていない男性、水着姿の競泳選手などを現実的に描く加工も対象になり得ると主張している。本人が自分の画像を加工する場合や、描かれる人が同意している場合も、禁止規定の文面には除外条件がない。
これらはxAI側の法的主張であり、裁判所が法律の適用範囲として認定した内容ではない。法律の定義を満たすには、元画像にない身体部分を加え、合理的な人が本人のものだと信じるほど現実的に見せる必要がある。
ミネソタ州には以前から、本人の同意なく性的ディープフェイクを意図的に流通させる行為を処罰する州法第617.262条がある。新法は画像が公開・共有された後の救済にとどまらず、事業者が簡単に作れる機能を提供する段階で止めようとしている。
xAIは訴状で、Grok Imagineの画像編集機能をミネソタ州のユーザー向けに変更すると説明した。見出し部分では機能を提供しない方針を掲げ、本文では「さまざまな形で変更する」としているものの、8月2日時点で実際に停止した機能の範囲は確認できない。
安全対策の実効性をめぐる第三者検証
xAIは現在、Grokの公式FAQで、未成年者を扱う性的コンテンツと非同意の親密画像は常に禁止され、NSFW設定を有効にしても安全対策は解除されないと説明している。訴状でも、実在人物を裸に見せたり性的な状況へ加工したりする行為を利用規約で禁じ、違反アカウントを停止・削除していると主張した。
だが第三者による調査からは、規約と実際の出力に隔たりがあるとの報告が出ている。子ども向けメディアを評価する非営利団体Common Sense Mediaは、Web、アプリ、X上のGrokをテストし、2026年1月の機能制限後も、露出の多い実在人物の偽画像を生成させることが比較的容易だったとリスク評価書で報告している。
WIREDが2026年6月に行った調査でも、公開状態にあるGrok Imagineのリンク数百件を確認したところ、著名人や政治家を描いたものを含め、性的な画像や動画が数十件見つかった。本人の同意なく作られたとみられる生成物も含まれていたという。
7月には、AIセキュリティ企業Mindgardが、安全制限を回避する指示によってGrokから性的・暴力的な画像が出力されたとAxiosに報告した。Axios自身の試行ではGrokが繰り返し生成を拒否しており、同じ指示でも結果は一定しなかった。
被写体が非ユーザーでも、生成前に守れるか
学校行事の写真やSNSのプロフィール写真を第三者が保存し、画像生成サービスへ読み込ませた場合、写っている本人はサービスのユーザーではない。利用規約への同意も、画像加工を拒否する設定も行っていないまま、身体を作り変えられる可能性がある。
ミネソタ州法は、画像が公開されるのを待たず、簡単な操作で生成できる機能そのものを止めることで、この人たちを守ろうとしている。作られた事実を本人が知らなくても、画像が保存、交換され、脅迫に使われる可能性が残るためだ。
その保護方法は、同意を得た成人による自己表現や、医療、教育、風刺などの用途にも影響し得る。法律上の例外は、本人の同意や目的ではなく、画像を作るためにユーザーが相当な技能を要するかどうかで決まる。高度な編集ソフトなら許され、自然な言葉で指示するだけのAI機能は止められるという線引きになり得るだろう。
その前提で、事業者が機能を残すには、入力された写真、指示文、生成結果、ユーザーの所在地を分析する必要があると考えられる。無害な編集を誤って止める可能性に加え、人物画像や操作履歴をどこまで保存するかというプライバシー上の課題も生じる。州全体で画像編集を止める場合と、対象となる加工だけを検知する場合では、ユーザー体験と監視範囲の双方が異なる。
7月31日の命令で確定したのは、8月1日の発効を止めるほど差し迫った損害をxAIが示していないという手続上の判断に限られる。法律が合憲か、Grokへの適用が許されるかについて、裁判所はまだ結論を出していない。8月19日の審理では、法律の適用範囲が初めて本格的に争われることになる。
誰かの写真を性的な画像へ変える被害を生成前に防ぐ必要性は高い。そのために汎用AIのどの機能まで止められるのかは、まだ決着していない。写真に写った人の同意を守りながら、一般的な画像編集や表現の余地をどこに残すのかが問われる。
