Veröffentlicht am
Mehr als 100 große humanitäre Organisationen und Kinderschutzorganisationen fordern dringende Maßnahmen gegen KI-Nudifizierungs-Apps und -Tools. Zu der Koalition gehören Amnesty International, die Europäische Kommission, Interpol, Safe Online, Save the Children und andere Kinderschutzexperten und Menschenrechtsaktivisten.
Diese Bewegung folgt auf die Gegenreaktion auf die Nudifizierung von Grok, bei der Benutzer Elon Musks KI-Chatbot Grok aufforderten, Kleidung von digitalen Fotos von zu entfernen Frauen.
Dies begann mit dem „Zieh sie in einen Bikini“-Trend, der die Bilder dahingehend veränderte, Frauen in Bikinis zu zeigen, entwickelte sich aber schnell zu zunehmend sexualisierten Bildern.
Diese nicht einvernehmlichen und gefälscht Die Bilder wurden dann öffentlich auf der Social-Media-Plattform X gepostet, damit Millionen von Menschen sie sehen konnten. Schätzungen zufolge hat Grok bisher rund drei Millionen nicht einvernehmliche Nacktbilder generiert.
In mehreren Fällen wurden Bilder erstellt von KI Nacktifizierungsinstrumente werden zunehmend mit Erpressung, Nötigung und Material zum sexuellen Missbrauch von Kindern in Verbindung gebracht, wobei die meisten Opfer Frauen und Kinder sind.
Ernsthafte Bedrohung der Sicherheit von Kindern und der Menschenwürde
Die globale Koalition hat hervorgehoben, dass diese Nacktheits-Apps und -Tools eine erhebliche und inakzeptable Bedrohung für die Sicherheit von Kindern und die Menschenwürde darstellen.
„Nacktmachende Werkzeuge haben eine beispiellose Bedrohung für uns geschaffen Kinder. KI – die Technologie, die das menschliche Potenzial erweitern sollte, wird gegen Kinder als Waffe eingesetzt“, sagte Marija Manojlovic, Leiterin von Safe Online, in einer Erklärung.
„Wir minimieren den Schaden, indem wir ihn ‚online‘ nennen, als wäre er irgendwie weniger schwerwiegend als das, was in der physischen Welt passiert, aber das Trauma ist real“, fügte sie hinzu.
Obwohl sie häufig als Anwendungen für „Erwachsene“ vermarktet werden, werden sie zunehmend dazu verwendet, illegale sexuelle Bilder von Kindern ohne jegliche Einwilligung, wirksame Barrieren oder Rechenschaftspflicht zu erstellen.
„Technologieunternehmen haben die Möglichkeit, nackte Inhalte von Kindern zu erkennen und zu blockieren. Die Verbreitung von Material über sexuellen Kindesmissbrauch ist in jeder Gerichtsbarkeit illegal und Technologieplattformen sollten mit anderen Erstellungs- und Vertriebskanälen in Einklang gebracht werden“, sagte Manojlovic.
„Es ist ehrlich gesagt schockierend, dass diese Plattformen monetarisiert werden und nicht verpflichtet sind, Straftäter zu melden oder mit Industriepartnern zusammenzuarbeiten, um den Zahlungsfluss zu unterbrechen – das sind Schutzinstrumente, die in der realen Welt verwendet werden und auf Online-Plattformen angewendet werden müssen.“
Es besteht ein zunehmender Druck, KI-Nukleierungstechnologien zu verbieten, wobei Befürworter behaupten, dass sie keinem guten Zweck dienen.
Daher drängt die Koalition darauf, diese Technologien zu blockieren und Entwickler und Plattformen zur Verantwortung zu ziehen.
