Metaは水曜日、2026年上半期にFacebookとInstagramで33.2ミリオン件の児童搾取コンテンツに対して措置を講じたと発表した。同社はまた、ユーザーを秘密裏に違法な児童搾取素材へ誘導する広告やアカウントを検出するための新しいAIツールを導入した。措置の対象となったコンテンツの97%以上は、ユーザーからの報告が寄せられる前に同社のシステムによって発見された。インドでは同じ期間に5.3ミリオン件のコンテンツに対して措置が講じられ、その98%以上が同様にプロアクティブに検出された。
Metaの新しい大規模言語モデル（LLM）システムは、「サインポスティング」（signposting）と呼ぶ戦術を標的にしている。それは、無害に見えるものの、ユーザーをプラットフォーム外の違法なコンテンツに誘導していると疑われる広告だ。広告自体に違法な素材が含まれていなくても、児童搾取コンテンツを掲載しているサイトへの入り口として機能することがある。このためMetaは今や、広告の内容だけでなく、ユーザーをどこへ誘導するかにも注目しており、自社のルールに違反するサイトをブロックし、その背後にあるアカウントに対して措置を講じることができる。
同社のその他の新しいツール：
- 従来のシステムが見逃した可能性のあるコンテンツを検出する追加のAIスキャン
- Meta自身の安全対策における弱点をテストする「レッドチームAIエージェント」
- アカウントが停止された後に新しいアカウントでプラットフォームに戻ってくる者を検出する、改良されたシステム
Metaは、こうしたネットワークの仕組みを学ぶにつれて、新しいシグナルを追加し続けると述べた。
新たな措置は、Metaが児童の安全をめぐる訴訟や批判によって圧力にさらされている時期に打ち出された。同社は8月、米国の29州が提起した訴訟で、最大18ビリオンドルを支払うことに同意していた。今年導入された安全機能には次のものがある：
- Meta AI向けのペアレンタルコントロール
- WhatsAppでのプレティーンアカウント
- 子どもがInstagramで自傷行為に関するコンテンツを検索した際に保護者へ警告する機能
9月には、WhatsAppは保護者に対し、10代の子どもの「チャンネル」利用を制限する機能、ステータス更新を誰が見られるかを決める機能、子どもをグループに誰が追加できるかを決定する機能、そして特定のグループのアクティビティに関する通知を受け取る機能を提供した。
背景
MetaはFikirPilotのアーカイブでは新しい名前ではない：過去90日間にこの名前が登場する記事を39本公開しており、最新のものは2026年10月8日付である。