米サンフランシスコ市検事のデビッド・チウ［David Chiu］氏は、2026年7月16日、実在する人物の写真から非同意の性的画像を作れる13本の「nudifyアプリ」をストアから削除し、開発者との決済処理関係を解消するよう、AppleとGoogleに停止・是正要求書（cease-and-desist letter）を送付した。内訳はApp Storeが8本、Google Playが5本で、両社には28日以内の回答を要求している。
これは裁判所の命令ではなく、市検事による法的措置の前段階にあたる。日本時間7月23日未明までに確認できた公開情報によれば、両社は指摘されたアプリへの対応を始めている。
書簡が対象にしたのは、アプリの開発者だけではない。アプリを配信し、ユーザーから代金を受け取り、手数料を得るAppleとGoogleにも、違法なサービスの運営を支えた責任が生じると市検事側は主張している。
自治体の市検事が、州法に基づいて世界的なアプリ配信基盤へ是正を迫った点が、今回のニュースにおける大きな特徴だ。以下、その経緯と残る論点を詳しく見ていく。
nudifyアプリで相次ぐ法的措置。被害は女性や少女に集中
「nudify（ヌーディファイ）」とは、人物の写真を生成AIで加工し、服を脱いでいるように見せかけた偽の裸体画像や性的な画像を作るアプリ・Webサービスの総称だ。仕組みとしては簡単で、AIが架空の裸体部分を生成し、元の写真と合成することで、擬似的な裸体画像をアウトプットしている。
問題となっているのは、こうしたアプリを使うのが写真に写っている本人とは限らない点にある。学校行事やSNSなどで公開された服姿の写真も、第三者の手に渡れば、簡単に素材として悪用されるおそれがあるのだ。
こうして作られた画像は、NCII（Non-Consensual Intimate Imagery：非同意性的画像）に含まれる。NCIIとは、画像の作成または共有の少なくとも一方について、写っている本人の同意が得られていない親密・性的な画像を指す。実在する性的な写真を本人の同意なく流出させたものだけでなく、実在人物を性的に描いた生成AI画像も対象となる。
その被害は、女性や少女に集中している。2025年8月に47人の司法長官が決済事業者へ送った書簡でも、被害者の圧倒的多数を女性や少女が占めていると指摘されている。WIREDとIndicator Mediaの調査によると、2023年以降、未成年者の性的ディープフェイクをめぐる問題が確認された学校は少なくとも90校に上り、関係した生徒は600人を超えるという。
こうしたサービスへの対策は、今回が初めてではない。2024年8月には、サンフランシスコ市検事局がnudifyサービスを提供していた16サイトの運営者を提訴している。同局によると、nudifyサイトを対象とした民事上の法執行は、米国で初めてだったという。
また連邦レベルでは、2025年5月にTAKE IT DOWN Actが成立し、NCIIや性的なデジタル偽造画像を本人の同意なく公開する行為が犯罪化された。同法は対象となるプラットフォームに対し、被害者から有効な削除申請を受けてから48時間以内に、該当画像と確認済みの同一コピーを削除する仕組みを整えるよう求めている。
さらに米連邦取引委員会（FTC）は2026年5月、同法に基づく執行を開始。翌6月には、米司法省が同法を適用し、性的な偽画像を掲載していた2つのサイトのドメインを差し押さえている。
しかし、サイトを閉鎖したり、公開済みの画像を削除したりするだけでは、画像を生成する手段そのものを十分に封じることはできていない。同様の機能を備えたアプリが、一般的な写真編集や顔交換のためのツールを装い、アプリストアに再び入り込んできたからだ。
「顔交換」「写真編集」を装う機能が審査をすり抜けた
なぜ、対策が続くなかでも問題のあるアプリが残っているのか。
AppleとGoogleには、すでに性的コンテンツを禁じる規約がある。「Google Playの規約」では、服を消したり意図的に身体を見せたりすると称しているアプリを、娯楽やいたずら目的であっても認めていない。AIで生成した非同意の性的ディープフェイクも違反例として明記している。
Appleも「App Review Guidelines」で、露骨な性的・ポルノ的コンテンツを含むアプリを認めていない。ユーザーがコンテンツを投稿できるアプリについても、実在人物の容姿を投票で品評するなど一方的な評価の対象として扱うサービスや、脅迫・いじめに主として使われるようなサービスはApp Storeにふさわしくないと定めており、App Storeで配信するすべてのアプリを専門家が審査すると説明している。
しかし、規約や審査体制があっても、問題のあるアプリは排除しきれていない。大手テック企業を調査する監視団体Tech Transparency Project（TTP）は2026年1月、女性の服を消したように加工したり、人物の顔を性的な画像に合成したりできるアプリを、Google Playで55本、App Storeで47本確認したと報告した。TTPから調査結果を受け取った後、Appleは28本、Googleは31本を削除したという。
ところが、TTPが同年4月に改めて調査したところ、問題のある機能を連想させる言葉で検索すると、検索結果や広告、自動補完を通じて、同様のアプリが表示される状態が続いていた。上位に表示されたアプリを実際に試した結果、約4割で、女性の写真を裸体や露出度の高い姿に加工できた。また、31本は未成年者でも利用できる年齢区分で配信されていたのだ。
こうしたアプリを事前審査だけで見抜くのは難しい。アプリストアでは、一般的な「顔交換」や「写真編集」のツールとして掲載されているため、アプリ名や説明文を確認しただけでは、性的な画像を生成できるかどうか判断できないからだ。写真を読み込んで特定の素材を選んだ後や、料金を支払った後に初めて、性的な加工機能が使えるようになるケースもある。
さらに、生成モデルやテンプレートをサーバー側で更新できるアプリは、公開後に機能や出力内容が変わる可能性もある。公開時の審査で問題が見つからなくても、その後の更新によって、性的な画像を生成できるようになるおそれがある。
コーネル大学とジョージタウン大学の研究者が5月に公開した査読前論文からも、顔交換アプリの安全対策が十分に機能していない実態がうかがえる。研究チームは420本の顔交換アプリを収集し、調査条件を満たした155本を、AIで生成したテスト画像を使って検証した。その結果、109本、全体の70％に当たるアプリが、4組すべてのテストで裸体画像への顔交換を拒否しなかった。これらはいずれも、nudifyアプリを名乗っていなかったという。
つまり、アプリの説明文や申告された年齢区分を確認するだけでは、問題のある機能を漏れなく見つけることはできない。実際に画像を生成してみて出力結果を検証するとともに、公開時だけでなく、モデルや機能が更新された後も継続的に審査しなければ、削除したアプリと同様のサービスが再び現れる可能性がある。
13本の削除、決済停止、定期審査を要求。両社が対応を開始
こうした状況を受け、サンフランシスコ市検事局は7月16日、アプリストアでの配信と決済の両面から対策に乗り出した。
WIREDが確認した書簡とSan Francisco Chronicleの報道によると、市検事局がAppleとGoogleに求めた対応は、主に次の3点だ。
第一に、添付資料で特定した13本のアプリをストアから削除すること。
第二に、本人の同意なく性的なディープフェイク画像を販売する開発者への決済サービスの提供を停止すること。
第三に、削除後も同様のアプリが再び掲載されないよう、定期的に審査することだ。
※個別のアプリ名は、被害を生むサービスへの動線になりかねないため、本記事でも掲載しない。
市検事局は、2025年に司法長官らが送った書簡やTTPの調査を通じて、両社は約1年前から問題を把握していたはずだと主張している。それにもかかわらず、問題のあるアプリの配信とアプリ内決済が続き、AppleとGoogleが手数料を得ていた点を問題視した。
“These companies have responsibility to ensure that apps on their platforms do not facilitate sexual abuse.”
「両社には、自社のプラットフォームで配信するアプリが、性的虐待を助長しないようにする責任がある」（編集部訳）
ただし、両社の対応状況には違いがある。TechCrunchに寄せた回答によると、Googleは指摘を受けた5本のアプリをすべて配信停止にした。また、関連する検索語に制限をかけ、これまでにも規約違反に当たるアプリを数百本削除してきたと説明している。
一方、Appleは3本を削除し、該当する開発者のアカウントを停止する手続きを始めた。さらに、別の4開発者に規約違反の是正を求め、応じなければアプリを削除するとしているが、7月20日に更新されたArs Technicaの記事を見ても、これを超える削除状況は明示されていない。
つまるところ、市検事局がApple側の問題として挙げた8本すべてについて、最終的にどのような措置が取られたのかは、今のところ確認できていない。また、Googleが対象アプリを削除しただけでなく、開発者への決済サービスの提供も停止したかどうかも、公表情報からは分からないのが現状だ。
法的根拠であるカリフォルニア州法AB 621
サンフランシスコ市検事局が法的根拠として挙げているのが、2025年に成立したカリフォルニア州法AB 621だ。同法は州民法1708.86条を改正したもので、本人の同意がない性的なデジタル偽造画像を作成・公開した者だけでなく、そうした行為だと知りながら助長した者や、危険を顧みずに援助・教唆した者にも、民事責任を問えるようにした。
“Knowingly facilitates or recklessly aids or abets conduct prohibited by paragraph (1) or (2).”
「第1号または第2号で禁じた行為を、認識した上で容易にし、または無謀に援助・教唆する行為」（編集部訳）
今回の書簡に関係する規定を整理すると、次のようになる。
| 領域 | 規制・保護のポイント | 事業者に求められる主な対応 |
| 禁止対象 | 本人の同意がない、または未成年者を描いた性的なデジタル偽造画像の作成・意図的公開 | 生成と公開を防ぎ、違反する機能やサービスを停止する |
| 第三者による支援 | 違法行為を認識して容易にすること、危険を顧みず援助・教唆することも対象 | 配信、決済、ホスティングなど、サービスの継続を可能にする関係を点検する |
| 通知後の対応 | 被害者や公的訴追者から十分な証拠を受け、30日以内に必要な措置を取らない支援事業者には違反の推定が働く | 指摘されたサービスとの関係を調査し、運営を支えるサービスを停止する |
| 執行と救済 | 州司法長官、市検事、郡検事などが民事執行できる | 差止めに加え、1違反あたり2万5,000ドル、悪意ある違反には5万ドルの民事制裁金があり得る |
| 例外・留保 | 違法行為の通報、捜査・裁判、正当な公益、報道、論評などは除外。連邦法で保護される行為にも適用しない | 適法な表現まで一律に削除しない審査と異議申立てを用意する |
同法は、民事訴訟を起こせる「public prosecutor（公的な訴追機関）」に、州司法長官だけでなく、市検事や地方検事なども含めている。そのため、今回はカリフォルニア州司法長官ではなく、サンフランシスコ市検事局がAppleとGoogleに対応を求めたというわけだ。
もっとも、書簡が送られた時点で、AppleやGoogleの法律違反が確定したわけではない。AB 621では、ディープフェイクポルノサービスの運営を支えているとの証拠を受け取った事業者が、30日以内に必要な措置を講じず、サービスの提供を停止しなかった場合、違反したものと推定される。今回の書簡は、それより短い28日以内に回答するよう両社へ求めている。
今後、両社がどこまで対応し、市検事局がそれを十分と判断するかは分からない。仮に訴訟へ進んだ場合も、アプリの配信や決済サービスの提供が、違法行為を「助長した」と裁判所に判断されるかどうかは未確定だ。
なお、先述したTAKE IT DOWN Actが、本人の同意なく公開された画像の削除を主な対策としているのに対し、AB 621は、問題のある生成サービスを支えるアプリ配信や決済などにも責任を問える可能性がある。公開後の画像を削除するだけでなく、生成サービスが利用者へ届き、収益を得る経路も断つことで、被害を抑えようとする動きといえるだろう。
配信と決済を断ち、写真に写る本人の同意をどう守るか
2024年の訴訟で、サンフランシスコ市検事局は16のnudifyサイトを個別に提訴したが、今回はAppleとGoogleに対して、問題のあるアプリの削除だけでなく、開発者への決済サービスの停止も求めている。
両社は、アプリの審査や配信、検索、広告、アプリ内決済、開発者への送金までを担っている。アプリを1本削除しても、同じ開発者が別名で再び公開すれば、被害は繰り返される。開発者アカウントや決済先まで確認するよう求めたのは、こうした再出現を防ぎ、サービスの運営を難しくするためだ。
ただし、顔交換や画像編集には、映画制作や風刺、本人の同意を得た創作など、適法な用途もある。画像編集アプリを一律に排除するのではなく、実際の出力を継続的に検証し、問題が見つかった場合は理由を開発者に通知する必要がある。誤って削除された場合に備え、異議を申し立てられる仕組みも欠かせない。
さらに重要なのが、写真に写る本人の同意だ。第三者が友人や同級生の写真をアップロードしても、写っている本人は利用規約を確認できず、生成を拒む機会もない。ユーザーに「本人の同意を得た」と申告させるだけでは、その意思を確かめたことにはならない。よって開発者には、実在人物の写真を性的に加工しようとする操作を検知し、生成前に拒否する対策が求められるだろう。
今回の書簡で問われているのは、13本のアプリを削除できるかどうかだけではない。問題のある機能を実際の出力から見つけ、別名での再掲載や決済の継続まで防げるかが、対策の実効性を左右する。生成前の拒否、ストアでの継続的な審査、決済の停止、公開後の削除を組み合わせることが、本人不在のまま性的な身体画像等を作られてしまう被害を防ぐためのポイントになるだろう。
