Einem neuen Bericht zufolge verbreitete ein großes Netzwerk von knapp 25.000 Menschen über den Instant-Messaging-Dienst Telegram nicht einvernehmliches sexuelles Material und Kinderpornografie in ganz Spanien und Italien.
AI Forensics, ein europäisches Non-Profit-Institut, das Algorithmen untersucht, fand ein „Ökosystem des Missbrauchs in großem Maßstab“, nachdem es sechs Wochen lang 2,8 Millionen Telegram-Nachrichten in 16 Gruppen überprüft hatte.
Dem Bericht zufolge handelt es sich bei den meisten Nutzern, die nicht einvernehmliche sexuelle Inhalte teilen, um junge, heterosexuelle Männer, die Inhalte von Frauen teilen, die ihre Partnerinnen, ehemalige Partnerinnen oder Bekannte sind. Die extremsten Inhalte zeigen Kinder in Inzest- und Vergewaltigungsszenarien.
Der Bericht kommt, nachdem Mitglieder des Europäischen Parlaments letzten Monat ein Verbot von Systemen der künstlichen Intelligenz (KI) befürwortet haben, die Bilder „nackt“ machen – oder gefälschte Nacktbilder erstellen –, indem sie einer Person ohne deren Zustimmung die Kleidung ausziehen.
Nach Angaben des Europäischen Instituts für Gleichstellungsfragen hat jede dritte Frau in der Europäischen Union seit ihrem 15. Lebensjahr sexuelle Gewalt erlebt, darunter auch Cybergewalt.
Welche Inhalte werden verbreitet?
Die Studie ergab, dass die jungen Männer das Ausgangsmaterial häufig aus privaten Austauschen über die Social-Media-Anwendung Instagram und die private Messaging-Anwendung WhatsApp beziehen.
Die Täter monetarisieren die Videos, indem sie für den vollständigen Zugriff auf Kanäle und Archive dieser Inhalte einmalige Gebühren von bis zu 50 Euro verlangen. Teilweise erheben sie auch eine monatliche Abonnementgebühr von 5 €.
„Nudifying“-Bots werden auf diesen Kanälen häufig als Werkzeuge zur Generierung nicht einvernehmlicher Inhalte beworben.
„Dies hat es den Tätern ermöglicht, das Ausmaß, die Geschwindigkeit und die Leichtigkeit, mit der (dieser Inhalt) begangen wird, zu erhöhen“, heißt es in einer Pressemitteilung von AI Forensics.
Die Studie ergab, dass die in den Videos vorgestellten Frauen oft benannt und markiert sind und über Profillinks, die in Telegram-Kanälen geteilt werden, gefunden werden können.
Diese Inhalte werden dann auf anderen Plattformen wie TikTok und Instagram weiterverbreitet. Reddit wird als „Rekrutierungs-Gateway“ verwendet, das Links zu den ursprünglichen Telegram-Kanälen verbreitet, auf denen die Leute die kostenpflichtigen Inhalte finden können.
Der Inhalt erreichte etwa 52.000 Menschen: 27.000 Menschen in Italien und weitere 25.000 in Spanien, wie AI Forensics herausfand.
Die NGO sagte, dies lege nahe, dass die Art und Weise, wie nicht einvernehmliche sexuelle Inhalte in sozialen Medien verbreitet werden, nicht durch nationale Grenzen oder Plattformgrenzen eingeschränkt sei und ein „strukturelles Problem von europäischem Ausmaß sei, das eine europäische Antwort erfordere“.
Telegram-Moderation „unzureichend“, heißt es in dem Bericht
Berichten zufolge hat Telegram einige der von AI Forensics beobachteten Gruppen geschlossen, diese wurden jedoch „nur wenige Stunden später“ unter denselben Namen erneut erstellt. Die europäische Organisation sagte, dies bedeute, dass die Moderationspraktiken von Telegram „unzureichend“ seien.
Es wurde empfohlen, dass die Moderation auf Telegram Meldemechanismen und die Durchsetzung der Richtlinien der Plattform, insbesondere des Premium-Abonnementmodells, umfassen sollte, da es den Erstellern eine Möglichkeit gibt, diese Inhalte zu monetarisieren.
Die gemeinnützige Organisation sagte, die Europäische Kommission sollte Telegram auch als sehr große Online-Plattform (VLOP) gemäß dem Digital Services Act (DSA) ausweisen, dem EU-Rechtsrahmen für die Rechenschaftspflicht von Online-Plattformen, die Moderation von Inhalten und die Benutzersicherheit.
Diese Bezeichnung würde bedeuten, dass die Plattform strengeren Verpflichtungen unterliegt, wie etwa Transparenz über die Funktionsweise ihres Algorithmus und die Durchführung von Risikobewertungen für schädliche Inhalte.
Im Februar behauptete die Plattform, sie habe „deutlich weniger“ als 45 Millionen Nutzer, was der EU-Grenzwert für die Einstufung als VLOP entspricht.
AI Forensics möchte außerdem, dass das EU-KI-Gesetz Bestimmungen enthält, die es einfacher machen, sexuellen Missbrauch von Kindern und nicht einvernehmliche Bilder von Plattformen zu entfernen.
Euronews Next kontaktierte Telegram mit der Bitte um eine Antwort auf den Bericht, erhielt jedoch keine sofortige Antwort.
Sexuelle Inhalte von Kindern und nicht einvernehmliches Material sind gemäß den Nutzungsbedingungen der Plattform auf Telegram eingeschränkt. Um Missbrauch entgegenzuwirken, sind eine KI-gestützte Inhaltsmoderation sowie Mitarbeiter vorhanden. Nutzer können auch Inhalte melden, die gegen die Nutzungsbedingungen der Plattform verstoßen.
Telegram kann bestimmte Funktionen des Kontos einer Person vorübergehend oder dauerhaft sperren, beispielsweise die Kommunikation mit Personen, mit denen sie nicht verbunden ist.
Bei „schwerwiegenden Verstößen“ könne die Plattform Nutzer, Bots, Beiträge, Kanäle und Gruppen sperren oder löschen.
