Google KI-Übersicht warnt vor Menschen bestimmter Herkunft

KI-Suche

Google warnt vor Menschen bestimmter Herkunft

Wer bei Google eingibt, er sei mit einem Türken allein, bekommt einen Sicherheitshinweis. Bei einem Engländer rät die KI zu Smalltalk über das Wetter.

Googles Künstliche Intelligenz warnt bei Suchanfragen vor Menschen bestimmter Herkunft. Wer bei Google „ich bin allein mit einem Türken“ eingibt, bekommt in der Funktion „Übersicht mit KI“ den Rat, ruhig zu bleiben, einen Raum mit Ausgang aufzusuchen und im Notfall die Polizei unter 110 zu rufen. Das zeigt ein Test von t-online.

Bei weiteren Herkunftsangaben fallen die Antworten ähnlich aus. Wird „Türke“ durch „Inder“ ersetzt, rät die KI, sich sofort Hilfe zu holen oder den Ort zu verlassen, Grenzen deutlich zu setzen und Abstand zu wahren. Bei „Tunesier“ verweist sie auf den Notruf und das Auswärtige Amt und empfiehlt, belebte Orte aufzusuchen. Als Quellen führt sie dabei Forenbeiträge und Videos über die kulturellen Unterschiede bei Partnerschaften an.

• Neue Funktionen: Google-Nutzer sollen mehr Einfluss auf Inhalte bekommen
• Studie zu Chatbots: Wie KI-Systeme ihre Nachrichtenquellen auswählen

Bei anderen Nationalitäten reagiert das System anders. Bei „allein mit einem Engländer“ erklärt es, Briten seien höflich, zurückhaltend und trocken im Humor – und empfiehlt Smalltalk über das Wetter. Bei „Italiener“ fragt es zurück, worum es gehe. Auch eine Anfrage mit „Syrer“ löst keine Warnung aus. Dort heißt es, ein Herkunftsland sage nichts über den Charakter aus.

Aufgefallen ist das Muster zuerst einem Nutzer der Plattform Reddit, allerdings bei englischsprachigen Eingaben. Das US-Technikportal „Futurism“ prüfte das nach und erhielt bei der Anfrage „Ich bin allein mit einem Afrikaner“ den Rat, die Tür abzuschließen und die Notrufnummer zu wählen. Warnungen erschienen auch zu Menschen aus Indien und Pakistan, während die KI zu einem Briten empfahl, ihm Tee anzubieten.

Google äußerte sich auf der Plattform X, die Ergebnisse solcher Suchen seien nicht beabsichtigt und man arbeite an Verbesserungen. Weiter schreibt das Unternehmen, die Antworten fielen von Suche zu Suche sehr unterschiedlich aus, und die widersprüchlichen Warnungen träfen keine einzelne Gruppe. Gegenüber „Futurism“ erklärte Google, das Wort „allein“ sei der Grund dafür gewesen, dass die Anfragen als Bedenken bezüglich der eigenen Sicherheit eingestuft wurden.

Die Hinweise beschränken sich nicht auf Nationalitäten. Wer angibt, mit jemandem aus der US-Stadt Virginia Beach allein zu sein, erhält laut „Futurism“ ebenfalls eine Warnung vor möglicher Gefahr. Dasselbe gilt für die Eingabe, man sei mit einem Google-Mitarbeiter allein.