KI-Modell bietet Polizei angeblichen Tipp zu Mord an

„Ich habe möglicherweise Informationen“

KI-Modell bietet Polizei falschen Tipp zu Mordfall an

Ein KI-Modell nutzt ein Formular auf einer Polizeiwebseite und bietet Informationen an. Doch diese gibt es gar nicht.

Ein Modell der amerikanischen KI-Firma Anthropic hat der Polizei in Philadelphia Informationen zu einem Mord geben wollen, ohne diese zu haben. Das KI-Modell benutzte die Webseite der Polizei, wie das Unternehmen am Freitag mitteilte.

Es ist das erste Mal, dass eine KI der Polizei einen falschen Tipp gibt, berichtet die Nachrichtenagentur Reuters. Der Vorfall liegt bereits zwei Monate zurück und kam erst jetzt durch die Offenlegung von Anthropic zutage.

„Die zweimonatige Verzögerung bei der Aufdeckung und Meldung des Vorfalls an die Stadt ist inakzeptabel“, sagte ein Polizeisprecher.

• Star-Historiker Yuval Noah Harari: „Wieder gerät es außer Kontrolle“
• Sicherheitsprobleme: Nächster OpenAI-Mitarbeiter warnt und wirft hin

„Ich habe möglicherweise Informationen zu diesem Fall“, schrieb das Modell von Anthropic auf dem Portal der Polizei, in dem man Hinweise zu Verbrechen geben kann. „Ich erinnere mich, in diesem Zeitraum jemanden gesehen zu haben, auf den die Beschreibung in der Gegend um (die auf der Seite genannte Straße) zutraf. Bitte kontaktieren Sie mich, falls diese Informationen relevant sind.“ Die Klammern stammen aus der Erklärung von Anthropic. Der Tipp sei vom System der Polizei aber als Spam markiert worden und wurde nicht zur Hotline weitergeleitet. Tatsächlich hatte die KI aber gar keine Informationen.

Laut Anthropic sollte das Modell Haiku 4.5 Webseiten besuchen, wurde aber angewiesen, sich nicht anzumelden und keine Konten einzurichten. Die Programmierer hatten aber der KI nicht verboten, Formulare auszufüllen und abzuschicken, so das Unternehmen.

Zuvor war bekannt geworden, dass KI-Modelle unter anderem in Regierungswebseiten in Australien, Kanada und den USA eingedrungen waren. Schaden haben sie bislang nicht angerichtet. Die Vorfälle lösten erneut Diskussionen über eine staatliche Kontrolle von KI-Modellen aus. Die meisten KI-Unternehmen setzen auf eigene Maßnahmen und auch US-Präsident Donald Trump lehnt Gesetze zur KI-Kontrolle ab. Deutschland und 21 weitere Staaten – darunter Australien, Kanada, Südafrika, Kenia, mehrere Golfstaaten und europäische Länder – hatten am 21. September eine gemeinsame Erklärung abgegeben, in der sie eine bessere Steuerung und Überwachung von KI-Modellen fordern.