Das Tech Transparency Project (TTP) berichtete, dass Meta in diesem Jahr 332 Werbeanzeigen mit Darstellungen sexuellen Kindesmissbrauchs (CSAM) nicht erkannt habe. Die große Mehrheit der Anzeigen bewarb in China entwickelte AI-Anwendungen, ein erheblicher Teil davon sogenannte „Nudify“-Anwendungen, die Kinder auf Fotos digital entkleiden. TTP konnte viele der Anzeigen echten Kinderfotos zuordnen, die zuvor im Internet veröffentlicht worden waren. Dazu gehörten die Umwandlung des Fotos eines jungen Mitglieds eines europäischen Königshauses in ein Video mit einem sexuellen Übergriff sowie die Umwandlung des Bildes einer 14-jährigen Instagram-Influencerin in ein anderes Video mit sexuellem Inhalt. In einer weiteren Anzeige wurde das Foto eines Kindes in rosa Sportkleidung verwendet. Den Angaben zufolge zeigten die Anzeigen überwiegend vorpubertäre Mädchen.
In den Anzeigen wurden Formulierungen wie „I can show you more“ und „This is the AI men actually use“ verwendet, um Nutzer zum Anklicken zu bewegen. TTP hatte Meta bereits im August gemeinsam mit Wired 53 Anzeigen gemeldet. Obwohl Meta damals erklärte, neue Systeme zu entwickeln, die Kindesmissbrauch besser erkennen sollten, stellte TTP fest, dass nach dieser Erklärung Hunderte neue CSAM-Anzeigen veröffentlicht wurden. Auch Wired entdeckte Hunderte Anzeigen mit ähnlichen Formulierungen sowie weitere „Nudification“-Anzeigen, die explizite Bilder von Erwachsenen verwendeten.
Meta entfernte die von TTP und Wired gemeldeten Anzeigen; TTP erklärte jedoch, dass das Unternehmen bei der Löschung bestimmter Inhalte nur langsam vorgegangen sei und seine Richtlinien uneinheitlich angewendet habe. Nachdem TTP mehr als 300 Anzeigen gemeldet hatte, entfernte Meta innerhalb weniger Stunden etwa die Hälfte davon aus seinem Archiv. Viele Anzeigen wurden jedoch nicht als Verstöße gegen die Richtlinie zu Kindesmissbrauch gekennzeichnet, bis TTP auf die Diskrepanz hinwies. Die Prüfung einiger Meldungen dauerte mindestens eine Woche, und häufig wurden keine Maßnahmen ergriffen. Kritisiert wurde auch, dass eine Anzeige entfernt wurde, während eine ähnliche Anzeige mit demselben Bild und Text online blieb. Eine Anzeige wurde erst Tage nach ihrer Meldung gelöscht, obwohl ihre Reichweite von vier Impressionen auf 330 Impressionen gestiegen war.
TTP berichtete, dass die Anzeigen mehr als 29.000 Menschen in der EU und 6.800 Menschen im UK erreichten; etwa 80 % wurden in den US ausgespielt. Es hieß, dass die chinesischen Werbepartner GIMC, Meetsocial und BlueFocus dieselben CSAM-Inhalte unbemerkt veröffentlichten. Während die Generalstaatsanwälte von Michigan und Florida Ermittlungen einleiteten, forderte Senator Mark Warner (D.-Va.) Meta auf, die Anzeigen zu stoppen. Meta erklärte, dass das Unternehmen keine Toleranz gegenüber „nudify“-Anwendungen sowie echtem oder KI-generiertem Kindesmissbrauch zeige. Auch die australische Internetaufsichtsbehörde eSafety forderte Informationen von dem Unternehmen an.
Warum das wichtig ist
Die Befunde werfen bei der Werbekontrolle von Meta neben der Fähigkeit zur Entfernung von Inhalten auch das Problem auf, Verstöße bereits in der ersten Prüfungsphase zu erkennen und auf ähnliche Anzeigen dieselben Maßstäbe anzuwenden. Diese Unterscheidung zeigt, dass die Sichtbarkeit missbrauchter Anwendungen künstlicher Intelligenz im Werbeökosystem nicht nur im Hinblick auf die Sicherheit der Nutzer, sondern auch mit Blick auf die Prozesse zur Durchsetzung der Plattformrichtlinien untersucht werden muss. Dass die Anzeigen verschiedene Regionen erreicht haben, zeigt, dass das Problem nicht auf einen einzelnen Inhalt oder eine begrenzte Nutzergruppe beschränkt ist. Die nach den Meldungen von TTP und Wired ergriffenen Maßnahmen lassen die Frage offen, ob Erklärungen des Unternehmens ohne externe Kontrolle als ausreichend angesehen werden können. Die Untersuchungen der Generalstaatsanwaltschaften und die von Meta angeforderten Informationen rücken den Prozess zur Klärung in den Mittelpunkt, wie die Verantwortung zwischen den Werbepartnern und der Plattform aufgeteilt werden soll.
Hintergrund
Meta ist im FikirPilot-Archiv kein neuer Name: In den vergangenen 90 Tagen haben wir 6 Nachrichten veröffentlicht, in denen dieser Name vorkommt; die jüngste datiert vom 4. September 2026.