Einem neuen Bericht zufolge stieg die Zahl der durch künstliche Intelligenz generierten Bilder, die den sexuellen Missbrauch von Kindern darstellen, im Jahr 2025 um 14 Prozent, da es für Ermittler immer schwieriger wird, synthetische Inhalte von echten Fotos zu unterscheiden.
Die Internet Watch Foundation (IWF), eine britische gemeinnützige Organisation, die sich für die Entfernung von Material über sexuellen Missbrauch von Kindern (CSAM) aus dem Internet einsetzt, hat im vergangenen Jahr mehr als 8.000 KI-generierte Bilder und Videos aus Benutzerberichten identifiziert.
Die Forscher des IWF kennzeichnen Inhalte als KI-generiert, wenn die Bilder offensichtliche Fehler enthalten, wenn das Opfer behauptet, es handele sich um KI, oder wenn vom ursprünglichen Ersteller Informationen darüber vorliegen, wie KI verwendet wurde.
Während KI-generierte sexuelle Inhalte immer noch einen relativ geringen Anteil dessen ausmachen, was die Organisation online sieht, warnt die IWF, dass sie in einem alarmierenden Tempo zunehmen.
Von den KI-generierten Inhalten handelte es sich bei mehr als 3.400 um „Full-Motion“-KI-generierte Videos, die hyperrealistisch sind und die Interaktion mehrerer Personen in den Videos ermöglichen.
Über 65 Prozent dieser Videos zeigten die schwersten Formen des Missbrauchs, darunter Vergewaltigung, sexuelle Folter und Sodomie, die nach britischem Recht als höchste Kategorie sexueller Inhalte für Kinder gelten.
Unterdessen fielen nur 43 Prozent der nicht KI-generierten sexuellen Inhalte in die extremsten Kategorien. Die IWF sagte, dies lege den Schluss nahe, dass die Täter KI-Tools nutzen, um explizitere, extremere und komplexere Inhalte als zuvor zu erstellen.
„Wir stehen jetzt vor einer technologischen Landschaft, die mit beispielloser Leichtigkeit zu unzähligen Verstößen führen kann“, sagte Kerry Smith, CEO der IWF, in dem Bericht.
Wie nutzen Täter KI?
Die Studie gibt auch Aufschluss darüber, wie Straftäter aktiv Tools entwickeln und weitergeben.
Forscher beobachteten Diskussionen im Dark Web, bei denen Täter Handel treiben und zusammenarbeiten, um benutzerdefinierte KI-Modelle und Datenbanken zu entwickeln, die missbräuchliches Material generieren.
In einem Beispiel identifizierten Forscher eine Anzeige, die „benutzerdefinierte Kurse“ anbot, die den Benutzern versprach, ihnen beizubringen, wie sie KI-generierte Bilder von Teenagern erstellen können.
„Einzelne Anwendungen können jetzt mit minimalem Aufwand missbräuchliche Bilder erzeugen, wodurch technisches Fachwissen überflüssig wird und die Eintrittsbarrieren erheblich gesenkt werden“, heißt es in dem Bericht. In vielen Fällen benötigen Models nur ein einziges Referenzbild, um kindgerechte Inhalte zu produzieren.
Während KI es jedem erleichtert, einfache CSAM-Inhalte zu erstellen, gibt es dem Bericht zufolge einige bekannte Ersteller mit fortgeschritteneren Fähigkeiten, die längeres, anspruchsvolleres Material erstellen. Beispielsweise wurde einem YouTuber über 3.000 Mal für die Erstellung eines 30-minütigen KI-generierten Videos über sexuellen Missbrauch gedankt.
Die IWF stellte fest, dass das Material, das sie sammeln konnte, nur „einen teilweisen Überblick“ über die Gesamtmenge an kindersexuellem Material gibt, das online kursiert, und wahrscheinlich „deutlich größer“ ist als das, was sie gefunden hat.
Das liegt daran, dass IWF-Analysten nur begrenzte Möglichkeiten haben, nachzuschauen, weil sie nicht in der Lage sind, über Zahlungsbarrieren hinauszugehen oder in verschlüsselte Räume vorzudringen, heißt es in dem Bericht.
EU-weites Verbot könnte als „Mindeststandard“ angesehen werden
Smith forderte die Europäische Union auf, die Einführung eines europaweiten Verbots sowohl von KI-generierten Inhalten über sexuellen Kindesmissbrauch als auch der zu ihrer Erstellung verwendeten Tools in Betracht zu ziehen.
Ein Verbot würde es den Nutzern auch illegal machen, ihre eigenen personalisierten Inhalte zu erstellen, auch wenn diese nicht geteilt werden, heißt es in dem Bericht.
„Fortschritte in der Technologie sollten niemals auf Kosten der Sicherheit und des Wohlbefindens eines Kindes gehen“, sagte Smith und fügte hinzu, dass ein solches Verbot als „Mindeststandard ohne Ausnahmen“ dienen sollte.
Der Bericht erscheint kurz nachdem die europäischen Gesetzgeber eine vorübergehende Erweiterung der ePrivacy-Richtlinie genehmigt haben, einer Gesetzgebung, die es Internetplattformen ermöglicht, CSAM-Inhalte zu erkennen.
Die Verlängerung, die am 3. April ausläuft, soll dem Gesetzgeber Zeit geben, sich auf einen langfristigen Rechtsrahmen zur Bekämpfung des sexuellen Missbrauchs von Kindern im Internet zu einigen.
In einer Pressemitteilung sagten die Gesetzgeber, dass alle künftigen Maßnahmen „verhältnismäßig“ bleiben müssen und nur für Inhalte gelten sollten, die bereits als potenzielles Kinderpornomaterial gekennzeichnet sind, anstatt die Überwachung aller verschlüsselten Gespräche zu ermöglichen.
Die IWF sagte, sie wolle außerdem, dass das EU-KI-Gesetz geändert wird, um KI-Systeme, die zur Generierung von sexuellen Inhalten für Kinder verwendet werden können, als „hohes Risiko“ zu kennzeichnen. Nach dem Gesetz würde eine Einstufung als „Hochrisiko“ bedeuten, dass Systeme strengeren Tests unterzogen werden müssen, bevor sie in der EU verfügbar gemacht werden.
Diese Bezeichnung würde weniger CSAM-Inhalte bedeuten, da die Tools gründlicher getestet würden, fügte der Bericht hinzu.
Der Einsatz von KI zur sexuellen Ausbeutung von Kindern und zur Kinderpornografie ist nach dem EU-KI-Gesetz bereits illegal, und die Gesetzgebung verhindert, dass Systeme, die dies ausdrücklich tun, in der Union verfügbar sind.
