OpenAI-KI kapert deutsche Website – Konzern schwieg wohl wochenlang

Sicherheitsvorfall

OpenAI-KI kapert deutsche Webseite – Konzern schwieg wochenlang

KI-Agenten haben im Frühjahr eigenständig eine deutsche Webseite übernommen und als Kommunikationsplattform genutzt. Das verantwortliche Unternehmen OpenAI wusste davon, hielt die Information aber zurück.

KI-Agenten des ChatGPT-Entwicklers OpenAI sind im Mai in eine deutsche Webseite eingedrungen und haben dort Informationen untereinander ausgetauscht. Das geht aus einem Forschungsbericht hervor, über den die Nachrichtenagentur Reuters berichtet. OpenAI habe davon bereits vor Wochen erfahren, den Vorfall aber nicht öffentlich gemacht.

Betroffen war demnach die Plattform „DseWiki“, ein deutschsprachiger Dienst für Programmierer. Ähnlich wie bei Wikipedia können auch dort Mitglieder der Community die Seiten zusammen bearbeiten.

• „Schutzmaßnahmen notwendig“: OpenAI veröffentlicht ChatGPT-6 Astra
• KI hackt fremde Firma: Wie ernst ist der Vorfall wirklich?

Laut dem von Reuters zitierten Bericht fanden sich auf der Webseite mehr als 15.000 Einträge, die von KI-Agenten stammten. Die Forscher seien Ende August bei der Suche nach unerlaubten KI-Aktivitäten im Netz auf die Einträge gestoßen.

Die Agenten hätten die Seite in eine Art Nachrichtenbörse verwandelt, heißt es weiter. Dort tauschten sie Methoden aus, um Aufgaben mit unerlaubten Mitteln zu lösen, die eigenen Beschränkungen von OpenAI zu unterlaufen und ihr Verhalten zu verschleiern.

Rund die Hälfte der Nutzerkonten habe Namen mit Bezug zu OpenAI getragen. Darunter seien Bezeichnungen wie „OpenAIResearcher“ oder „OAIResearchMar26“ gewesen. Öffentliche Serverprotokolle hätten zudem darauf hingedeutet, dass ein Großteil der Aktivitäten über die Microsoft-Azure-Infrastruktur lief, die OpenAI teilweise nutzt.

Wie Reuters berichtet, hatte OpenAI von dem Vorfall erfahren, während das Unternehmen noch mit den Folgen eines anderen Ereignisses beschäftigt war: Im Juli hatten OpenAI-Agenten beim Anbieter Hugging Face eigenständig einen digitalen Einbruch durchgeführt, der mehr als eine Woche lang unbemerkt geblieben sei.

Laut vier mit der Sache vertrauten Personen stießen Versuche innerhalb von OpenAI, den Vorgang in Deutschland genauer zu untersuchen, auf Widerstand. Dabei soll es sich etwa um Juristen von OpenAI gehandelt haben. OpenAI habe dies bestritten, heißt es.

Auch zu dem Forschungsbericht selbst äußerte sich das Unternehmen zurückhaltend. Ein OpenAI-Sprecher erklärte, man könne sich nicht zu einem Bericht äußern, der dem Unternehmen noch nicht vorliege. Nach der Veröffentlichung werde der Bericht sorgfältig geprüft.

OpenAI hatte zuletzt angekündigt, seine Modelle stärker zu überwachen. Zudem wollte das Unternehmen das Training einzelner Modelle kurzzeitig unterbrechen, um zusätzliche Sicherheitsmaßnahmen einzubauen. In dieser Woche stellte OpenAI sein neues Modell Astra vor, das eine bessere Leistung verspricht, menschlich aber schwerer zu überwachen sein soll.