Behörde knöpft sich Anthropic und OpenAI vor

Sicherheitspraktiken bei KI

US-Behörde nimmt Anthropic und OpenAI ins Visier

Die Sicherheitsvorfälle rund um außer Kontrolle geratene KI-Systeme rufen die US-Verbraucherschutzbehörde auf den Plan. Es seien Untersuchungen eingeleitet worden, berichten Medien.

Die US-Verbraucherschutzbehörde Federal Trade Commission (FTC) hat eine umfassende Untersuchung zu den KI-Risiken bei den Unternehmen Anthropic und OpenAI eingeleitet. Das berichtet die „Washington Post“. Vor dem Hintergrund der Meldungen über autonom handelnde KI-Systeme gebe es wachsende Bedenken hinsichtlich der Sicherheit der Technologie, heißt es.

Die FTC hat weitreichende Befugnisse zur Untersuchung unlauterer oder irreführender Praktiken, die Verbraucherinnen und Verbraucher in den USA betreffen. Einzelheiten zum Umfang der Untersuchung waren zunächst unklar. Zudem bedeutet die Einleitung einer Untersuchung nicht automatisch, dass den Unternehmen ein Fehlverhalten vorgeworfen wird. Auf Nachfrage der Nachrichtenagentur AFP äußerten sich die Behörde und die Unternehmen bislang nicht zu den Berichten.

Im Falle von OpenAI hatte die FTC bereits 2023 Ermittlungen eingeleitet, um zu prüfen, ob der KI-Chatbot ChatGPT Verbrauchern Schaden zugefügt hat, etwa weil das System falsche Informationen generierte oder Daten missbräuchlich verarbeitete. Diese Untersuchung war allerdings ohne Folgen geblieben.

Zuletzt hat sich die KI-Debatte verstärkt auf eine mögliche Bedrohung durch die Systeme selbst verlagert: So hatten Anthropic und OpenAI mehrere Fälle gemeldet, in denen KI-Systeme aus ihrer Testumgebung ausgebrochen waren und eine Reihe von Cybersicherheitsvorfällen ausgelöst hatten. Die Chefs von Anthropic und OpenAI, Dario Amodei und Sam Altman, riefen deshalb zu einer kollektiven Verlangsamung der KI-Entwicklung auf, ungeachtet des Konkurrenzkampfs beider Unternehmen.

Die Regierung von US-Präsident Donald Trump setzt hingegen darauf, dass sich die KI-Branche selbst reguliert. Zusammen mit Chefs aus der Tech-Branche hatte er eine freiwillige Vereinbarung unterzeichnet.

Das Thema spielt auch vor den wichtigen Zwischenwahlen zum Kongress Anfang November eine große Rolle: Viele Wähler stehen der KI-Entwicklung skeptisch gegenüber und befürchten weitreichende gesellschaftliche Umwälzungen.

Der US-Technologieriese Google stellte indes sein fortschrittliches KI-Modell Gemini 4 vor. Der Zugang soll allerdings zunächst auf einen kleinen Kreis von Cybersicherheitsexperten beschränkt bleiben.