Facebookなどを手がける米Meta Platformsは2026年7月16日、10代のユーザーとMeta AIの会話から自殺や自傷のリスクがうかがえる場合、Instagramのペアレンタルコントロールでつながっている保護者へ通知する機能を開始したと発表した。
Meta AIとは、同社の各アプリでユーザーの質問に答える対話型AIアシスタントだ。新機能は米国、英国、オーストラリア、カナダで提供されており、2026年末までに世界各地の保護者へ広げる予定だという。専用のAIシステムが会話を検知した後、通知を送る前に人が内容を確認する。10代の意図が曖昧な場合も、Metaは保護者への通知を優先する方針を示している。
人には言いにくい悩みをAIに打ち明けた10代を、家族や専門家へつなぐきっかけになるかもしれない。一方、本人が私的な対話だと思っていた内容は企業によって分析され、担当者に読まれたうえで、家族への通知判断にも使われる。AIとの会話が感情的な相談の場になるなか、安全確保とプライバシーの境界も引き直されつつある。
さらにMetaは、Instagramでより多くのコンテンツを制限する「Limited Content」設定をMeta AIへと広げた。以下、保護者通知の仕組みと過去の第三者テストを整理し、未成年者の安全と会話のプライバシーに残る論点を見ていく。
米英豪加で保護者への通知を開始。AI検知後は人が会話を確認
Meta AIは従来から、自殺や自傷を考えている可能性のある10代に相談窓口を案内し、保護者やカウンセラーなど信頼できる大人へ話すよう促してきた。今回、この対応に保護者への能動的な通知が加わったわけだ。
対象となるのは、Instagramのペアレンタルコントロールで10代のアカウントとつながっている保護者だ。Metaのファミリーセンターによると、見守り機能を始めるには10代本人の同意が必要になる。本人は後から見守りを停止できるが、その際は保護者に通知される。
公表された流れは次の通りだ。
| 段階 | Metaが説明している動作 |
| AIによる検知 | 自分を傷つけることへの明確な言及を、遠回しな表現も含めて専用システムが探す |
| 人による確認 | AIが検知したチャットを、通知前にすべて人が確認する |
| 保護者への通知 | リスクが疑われる場合、見守り中の保護者へ通知し、会話を始めるための専門家監修資料を案内する |
| 緊急サービスへの連絡 | 切迫した自殺リスクが疑われる成人・10代について、緊急サービスへ連絡できる機能を開発している |
Metaは、FacebookやInstagramの投稿から信頼できる自殺リスクを把握した場合には、すでに緊急サービスへ連絡していると説明する。2025年には世界で1万9,000件を超える連絡を行ったという。
また、人による確認を挟んでも判断がつかない場合、Metaは通知しないことよりも保護者へ知らせることを選ぶとしている。公式発表には次の記述がある。
“If a teen’s intent is ambiguous, we’ll err on the side of caution and alert the parent.”
「10代の意図が曖昧な場合は、慎重な判断を優先し、保護者に通知します」（編集部訳）
— Meta「Alerting Parents if Teens Show Signs of Distress in Conversations With Meta AI」
ファミリーセンターの一般説明では、保護者が10代のプライベートメッセージやチャット履歴を読むことはできない。今回の発表でも、チャット全文を保護者へ渡すとは説明していない。ただし、通知画面に具体的な発言が載るのか、通知後に保護者が追加情報を求められるのかは分からない。また、誤検知された場合に10代のユーザーが判定を訂正したり、通知記録について問い合わせたりする手続きがどうなるのかといった、具体的な対応フローについても明示されていない。
Limited ContentをMeta AIへ拡張。AIキャラクターは停止を継続
MetaのTeen Accounts（InstagramやFacebookで13〜17歳の未成年ユーザーを保護するために導入されたアカウント設定）では、米国の映画レーティング「PG-13」を参考に、10代が閲覧できるコンテンツの範囲をあらかじめ制限している。この制限はMeta AIにも適用され、10代から性的・恋愛的な会話を持ちかけられたり、酒類の作り方を尋ねられたりしても、回答しないよう設計されているという。
さらに、保護者がInstagramで「Limited Content」を有効にすると、Meta AIが回答を控える質問の範囲も広がる。ただし、具体的にどの話題が追加で制限されるのか、文脈によって回答の可否が変わるのかは明らかにされていない。
なお、Metaが10代向けに提供してきた人格付きの「AIキャラクター」と、今回の対象となるMeta AIアシスタントは別の製品として捉える必要がある。Metaは2026年1月、新しい未成年向け仕様を開発するため、10代による既存AIキャラクターの利用を世界的に一時停止しており、7月19日時点で再開の発表は確認できていない。一方、情報検索や学習にも使われるMeta AIアシスタントは、10代にも引き続き提供されている。
InstagramのLimited Contentがどの程度の効果を持つかについては、Metaの依頼を受けたAIセキュリティ・安全企業のAlice社が第三者評価を実施している。2026年6月に公表された結果によると、この設定を有効にしたTeen Accountsに表示された、10代には不適切な可能性のあるコンテンツは、社名非公表の主要な競合サービスにおける10代向けの利用環境と比べて96％少なかった。
ただし、評価の対象となったのは、Instagram上の投稿や検索結果などであり、Meta AIとの会話ではない。そのため、この結果だけでは、今回追加された検知システムや、Meta AIに適用されるLimited Contentの性能までは判断できない。
過去の外部テストが指摘した、長い会話での危機対応の不安定さ
子どもと家族向けのメディア評価を行う米非営利団体Common Sense Mediaは2025年8月、Teen AccountsでMeta AIとAIキャラクターへのテストを実施した。その結果、自傷に関する明確な訴えを認識できない場合や、相談窓口を安定して案内できない場合があったと指摘している。長い会話の中で、AIの記憶機能が危険な話題を再び持ち出した例も報告された。同団体は当時、18歳未満によるMeta AIの使用を推奨しないと評価した。
Common Sense Mediaとスタンフォード大学医学部のBrainstorm Labが同年11月に公表した主要AIチャットボットの評価でも、直接的な一問一答では安全機能が働いても、現実に近い長い会話では危機の兆候を見逃しやすくなると報告されている。
いずれも2025年時点の製品を調べたもので、今回の変更後のMeta AIを評価した結果ではない。現在の性能をそのまま否定する根拠にはならないものの、改善を確認するには新たなテストが必要と言えるだろう。
Metaは、10代のメンタルヘルスを専門とする75人以上の臨床家が数百件の応答例を確認し、その意見をMeta AIの改善に使ったと説明している。しかし、通知システムの感度や適合率、長い会話や遠回しな表現を含むテスト結果は示されていない。今回の機能を対象とした独立機関による検証も、7月19日時点では確認できなかった。
そもそも、すべての10代にとって家族が安全な相談先とは限らない
深夜に一人でスマートフォンを開き、身近な人には言えないつらさをMeta AIへ書く。新機能が想定するのは、そのような会話から危険を見つけ、保護者による支援につなげる場面だ。AIが会話を続けるだけで終わるより、人が介入できる道を用意する意義は大きい。
ただし、すべての10代にとって家族が安全な相談先とは限らない。保護者との関係そのものが悩みの一部である場合や、本人が自分の状態を知られたくない事情もあり得る。通知先を別の信頼できる大人へ変更できるのか、家庭への通知が本人の安全を損なうと判断された場合に例外を設けるのかは、今回の発表からは分からない。
また、会話が保護者へつながると知れば、10代が表現を曖昧にしたり、見守りのない別サービスへ移ったりする可能性もある。実際にそうした行動が起きるかは検証されていない。もし検知を避けようとする行動が増えれば、本来支援したい会話ほど捉えにくくなるだろう。
さらに、AIが検知したチャットは、保護者へ通知される前にMeta側の人員が確認する。悲しみや家族関係、健康状態などを含む会話が、本人への応答だけでなく、外部への連絡を判断する情報にもなるのだ。誰が閲覧し、どの部分を保存し、いつ削除するのかまで説明されなければ、10代も保護者も監視の範囲を判断しにくいだろう。
米英豪加では、Meta AIが危険の兆候を検知し、人が確認してから保護者へ知らせる運用までが始まった。Limited ContentもMeta AIに適用される一方、緊急サービスへの連絡機能は開発中であり、現在の保護者通知と混同すべきではない。
2026年末までの世界展開に向けて、言語や文化によって異なる遠回しな表現も含め、見逃しや誤検知、通知後に実際の支援へつながった割合を継続的に公開できるかが、機能の実効性を判断する重要な材料になるだろう。
