Von Roselyne Min mit AP
Veröffentlicht am
•Aktualisiert
Der KI-Chatbot Grok von Elon Musk hindert die meisten Benutzer daran, nach einem Jahr Bilder zu erstellen oder zu bearbeiten eine globale Gegenreaktion, die ausbrach nachdem es anfing zu spucken sexualisierte Deepfakesüberwiegend Frauen.
Der Chatbot, auf den über Musks Social-Media-Plattform
Forscher haben gewarnt, dass in einigen Fällen einige Bilder scheinbar Kinder zeigten.
Regierungen auf der ganzen Welt haben die Plattform verurteilt und Untersuchungen eingeleitet.
Am Freitag antwortete Grok auf Bildbearbeitungsanfragen mit der Nachricht: „Die Generierung und Bearbeitung von Bildern ist derzeit auf zahlende Abonnenten beschränkt. Sie können ein Abonnement abschließen, um diese Funktionen freizuschalten.“
Obwohl die Abonnentenzahlen von Grok nicht öffentlich verfügbar sind, ist im Vergleich zu den Tagen zuvor ein spürbarer Rückgang der Anzahl expliziter Deepfakes zu verzeichnen, die Grok jetzt generiert.
Zu den offiziellen Reaktionen der Regierung gehört die Europäische Union hat Grok zugeschlagen wegen „illegalen“ und „entsetzlichen“ Verhaltens, während Beamte in Frankreich, Indien, Malaysia und ein brasilianischer Gesetzgeber Ermittlungen gefordert haben.
Am Donnerstag drohte der britische Premierminister Keir Starmer mit nicht näher bezeichneten Maßnahmen gegen X.
„Das ist eine Schande. Es ist abscheulich. Und es ist nicht zu tolerieren“, sagte Starmer im Greatest Hits-Radio. „X muss das in den Griff bekommen.“
Er sagte, dass die britische Medienaufsichtsbehörde Ofcom „unsere volle Unterstützung hat, Maßnahmen zu ergreifen“ und dass „alle Optionen“ auf dem Tisch lägen.
„Es ist abscheulich.
Ofcom und die britische Datenschutzbehörde gaben beide diese Woche bekannt, dass sie sich an X und Musks Unternehmen für künstliche Intelligenz xAI gewandt haben, um Informationen zu den Maßnahmen zu erhalten, die sie zur Einhaltung der britischen Vorschriften ergriffen haben.
Grok wurde 2023 eingeführt. Im vergangenen Sommer fügte das Unternehmen mit Grok Imagine eine Bildgeneratorfunktion hinzu, die einen sogenannten „spicy mode“ beinhaltete, der es Benutzern ermöglichte, Inhalte für Erwachsene zu erstellen.
Die Nutzung des KI-Chatbots ist für X-Benutzer kostenlos, die ihm direkt auf der Social-Media-Plattform Fragen stellen können. Sie können es entweder in von ihnen erstellten Beiträgen oder in Antworten auf Beiträge anderer Benutzer markieren.
Die Funktion zum öffentlichen Erstellen und Bearbeiten von Bildern ist derzeit auf zahlende Abonnenten beschränkt.
Wenn Benutzer versuchen, Grok zu taggen und Bilder zu generieren, wird ihnen die Meldung angezeigt: „Die Generierung und Bearbeitung von Bildern ist derzeit auf zahlende Abonnenten beschränkt. Sie können ein Abonnement abschließen, um diese Funktionen freizuschalten.“
Die Bildgenerierung und -bearbeitung bleibt jedoch weiterhin auf der Grok-Plattform selbst verfügbar.
Charlotte Wilson, Unternehmensleiterin bei Check Point, einem globalen Cybersicherheitsunternehmen, sagte, die Beschränkung der Bildbearbeitung von Grok auf zahlende Benutzer sei keine Sicherheitslösung.
„Es mag gelegentlichen Missbrauch reduzieren, aber es wird entschlossene Straftäter nicht aufhalten und es bringt nichts für die Opfer, deren Bilder bereits erstellt, geteilt und gespeichert wurden“, sagte Wilson in einer Erklärung.
Das Problem hat sich verschärft, weil Musk seinen Chatbot als eine kantigere Alternative zu Konkurrenten mit mehr Sicherheitsvorkehrungen anpreist und weil Groks Bilder öffentlich sichtbar sind und daher leicht im Internet verbreitet werden können.
„Wenn Plattformen beweisen wollen, dass sie dies ernst nehmen, müssen sie es wie ein Incident-Response-Problem behandeln. Schließen Sie die Lücke auf Modellebene, damit Aufforderungen und Änderungen zur Nacktmachung blockiert und nicht nur entmutigt werden“, fügte Wilson hinzu.
