Tech Transparency Project (TTP)は、Metaが今年、子どもの性的搾取に関するコンテンツ（CSAM）を含む332件の広告を検知できなかったと報告した。広告の大半は中国で開発されたAIアプリを宣伝するもので、かなりの割合が、子どもの写真をデジタル処理で裸にする「nudify」アプリを紹介していた。TTPは、多くの広告を、インターネット上で以前公開された実在する子どもの写真と照合した。その中には、若い欧州王室関係者の写真を性的暴行を含む動画に、14歳のInstagramインフルエンサーの画像を別の性的コンテンツを含む動画に変換したものもあった。別の広告では、ピンク色のスポーツウエアを着た子どもの写真が使われていた。広告の大半は、思春期前の女児を写したものだったという。
広告では、ユーザーにクリックを促す「I can show you more」や「This is the AI men actually use」といった表現が使われていた。TTPは以前、8月にWiredと共同で53件の広告をMetaに報告していた。Metaは当時、子どもの虐待をより適切に検知する新たなシステムを開発していると説明していたが、TTPはこの説明の後、数百件の新たなCSAM広告が掲載されたことを確認した。Wiredも、同様の表現を含む数百件の広告や、成人の露出した画像を使った別の「nudification」広告を確認した。
Metaは、TTPとWiredが報告した広告を削除した。しかしTTPは、同社が一部のコンテンツの削除に遅れ、ポリシーを一貫して適用していないと述べた。TTPが300件を超える広告を報告した後、Metaは数時間以内にその約半数を広告アーカイブから削除した。しかし、多くの広告は、TTPがその点を指摘するまで、子どもの安全に関するポリシーに違反しているとは判定されなかった。一部の報告の調査には少なくとも1週間かかり、多くの場合、措置は取られなかった。ある広告が削除された一方で、同じ画像と文言を使った類似広告が削除されなかったことも批判された。ある広告は、報告されてから数日後に削除されたにもかかわらず、表示回数が4回から330回に増加していた。
TTPは、広告がEUで29,000人を超える人々に、UKで6,800人に届き、約80％がUSで表示されたと報告した。中国の広告パートナーであるGIMC、Meetsocial、BlueFocusが、同じCSAMコンテンツを検知されないまま配信していたという。Michigan州とFlorida州の司法長官が調査を開始する一方、Senator Mark Warner (D.-Va.)はMetaに広告を停止するよう求めた。Metaは、「nudify」アプリや、実在する、またはAIが生成した子どもの性的虐待コンテンツを容認しないと表明した。AustraliaのeSafety Internet規制当局も同社に情報を求めた。
なぜ重要なのか
調査結果は、Metaの広告審査において、コンテンツを削除する能力だけでなく、違反を初期段階で認識し、類似する広告に同じ基準を適用することにも問題があることを示している。この区別は、悪用されたAIアプリケーションが広告エコシステムで可視性を獲得していることについて、ユーザーの安全だけでなく、プラットフォームのポリシー適用プロセスの観点からも検証する必要があることを示している。広告が異なる地域に届いていたことは、問題が単一のコンテンツや限られたユーザー層に限定されていないことを明らかにしている。TTPとWiredからの報告を受けて取られた措置は、外部による監督なしに、企業の説明を十分なものとみなせるのかという疑問を残している。検察当局による調査とMetaに求められた情報は、広告パートナーとプラットフォームの間で責任をどのように分担するのかを決めるプロセスを浮上させている。
背景
MetaはFikirPilotのアーカイブで新しい名前ではない。この90日間に、この名前が登場する記事を6本公開しており、最も新しい記事は2026年9月4日付だ。