Von Euronews, AP
Veröffentlicht am
Die malaysischen Behörden gaben am Dienstag bekannt, dass sie rechtliche Schritte gegen Elon Musks Social-Media-Plattform
Der Umzug kam gerade Tage nachdem Malaysia und Indonesien als erste Länder blockiert hatten Zugang zu Grok, da die Besorgnis wächst, dass es missbraucht wird, um sexuell eindeutige und nicht einvernehmliche Bilder zu erzeugen.
Die malaysische Kommission für Kommunikation und Multimedia sagte in einer Erklärung, sie habe den Missbrauch von Grok zur Generierung und Verbreitung schädlicher Inhalte festgestellt, darunter sexuell eindeutige, unanständige, äußerst anstößige sowie nicht einvernehmlich manipulierte Bilder.
Es hieß, man habe X und xAI diesen Monat Mitteilungen zugestellt, um die schädlichen Inhalte zu entfernen, es seien jedoch keine Maßnahmen ergriffen worden.
„Inhalte, bei denen es sich angeblich um Frauen und Kinder handelt, geben Anlass zu großer Sorge. Ein solches Verhalten verstößt gegen malaysisches Recht und untergräbt die Sicherheitsverpflichtungen“, hieß es von den Unternehmen. Die Kommission hat einen Anwalt ernannt und angekündigt, dass das Gerichtsverfahren bald beginnen werde.
Generative KI-Tools, die realistische Bilder, Töne und Texte erzeugen können, werden zunehmend kritisch hinterfragt, und es besteht die Sorge, dass bestehende Schutzmaßnahmen ihren Missbrauch nicht verhindern können.
Grok wurde 2023 eingeführt und kann kostenlos auf Grok wurde für die Erstellung manipulierter Bilder kritisiert, darunter Darstellungen von Frauen in Bikinis oder sexuell eindeutigen Posen sowie Bilder mit Kindern.
Grok ist in der Europäischen Union, in Indien und im Vereinigten Königreich unter Druck geraten, die am Montag erklärten, sie würden „Nacktmachungs-Apps“ unter Strafe stellen. Die britische Medienaufsichtsbehörde leitete außerdem eine Untersuchung ein, um festzustellen, ob Grok gegen das Gesetz verstoßen hat, indem er Benutzern erlaubt hat, sexualisierte Bilder von Kindern zu teilen.
Letzte Woche beschränkte Grok die Generierung und Bearbeitung von Bildern auf zahlende Benutzer, nachdem es zu einer weltweiten Reaktion auf sexualisierte Deepfakes von Menschen kam. Kritiker sagen jedoch, dass das Problem dadurch nicht vollständig gelöst wurde.
Musk und seine Unternehmen haben sich nicht öffentlich zu den südostasiatischen Beschränkungen geäußert. xA1 hat eine automatisierte Antwort auf Medienanfragen gegeben, in der es hieß: „Legacy Media Lies.“
