Veröffentlicht am •Aktualisiert
Anthropic hat reagiert, nachdem die Trump-Administration eine Richtlinie erlassen hatte, die es Ausländern verbietet, einige ihrer leistungsstärksten KI-Tools zu verwenden, und erklärt, dass sie allen Kunden den Zugang sperren würde, um der Anordnung nachzukommen.
In einem Blogbeitrag am späten Freitagabend teilte das Unternehmen mit, dass es um 17:21 Uhr ET einen Brief von der Regierung erhalten habe, in dem es aufgefordert werde, den Zugriff auf seine Fable 5- und Mythos 5-KI-Modelle wegen nationaler Sicherheitsbedenken auszusetzen.
Das Verbot gelte für ausländische Staatsangehörige innerhalb und außerhalb der USA und schließe ausländische Anthropic-Mitarbeiter ein, sagte Anthropic.
„Der Nettoeffekt dieser Anordnung besteht darin, dass wir Fable 5 und Mythos 5 für alle unsere Kunden abrupt deaktivieren müssen, um die Einhaltung sicherzustellen“, hieß es weiter. „Der Zugang zu allen anderen Anthropic-Modellen wird nicht beeinträchtigt.“
Das Unternehmen hat sich für die Störung für die Benutzer entschuldigt und erklärt, dass es daran arbeite, den Zugriff so schnell wie möglich wiederherzustellen.
Anthropic sagte, es sei davon ausgegangen, dass die Behörden auf ein mögliches Mittel zum Jailbreak von Fable 5 aufmerksam geworden seien. Ein KI-Jailbreak liegt vor, wenn ein Hacker Schwachstellen in einem KI-Modell ausnutzt und dessen ethische Richtlinien umgeht, um eingeschränkte Aktionen auszuführen.
Das Unternehmen versuchte, das Problem herunterzuspielen, indem es sagte, die Schwachstellen schienen „relativ einfach“ zu sein und es habe herausgefunden, dass öffentlich verfügbare Modelle in der Lage seien, sie zu identifizieren.
Es fügte hinzu, dass es zwar der Richtlinie nachkomme, aber nicht der Meinung sei, dass ein „geringfügiger potenzieller Jailbreak Anlass für den Rückruf eines kommerziellen Modells sein sollte, das Hunderten Millionen Menschen zur Verfügung steht“.
Anthropic betonte außerdem, man habe „starke Schutzmaßnahmen entwickelt, die die Wahrscheinlichkeit, dass Fable für Aufgaben im Zusammenhang mit der Cybersicherheit missbraucht wird, erheblich verringern“.
Als Reaktion auf die Nachrichten auf
„Nationen, die nicht schnell ihre eigenen Modelle entwickeln, werden immer mehr von den Entscheidungen anderer Mächte abhängig sein: Frankreich muss seine Unterstützung für die Juwel-KI Mistral und das gesamte KI-Ökosystem beschleunigen“, fügte er hinzu.
Tom Tugendhat, ein britischer Abgeordneter und ehemaliger Sicherheitsminister, sagte, es zeige, wie Technologie für die Souveränität immer zentraler geworden sei.
„Die Deaktivierung von Fable 5 und anderen Modellen für Ausländer ist kein Missverständnis oder Fehler, sondern das unvermeidliche Ergebnis der Technologie, die die Kriegsführung so gestaltet, dass es bei der Souveränität mehr um Code als um Kanonen geht“, schrieb er in den sozialen Medien.
Es ist nicht das erste Mal, dass Anthropic und die Trump-Regierung aneinander geraten.
Im Februar wies Trump die US-Bundesbehörden an, die Nutzung der Technologie von Anthropic sofort einzustellen, nachdem CEO Dario Amodei und sein Unternehmen Einwände gegen den Einsatz der Technologie für bestimmte Verteidigungszwecke erhoben hatten.
„Wir brauchen es nicht, wir wollen es nicht und werden keine Geschäfte mehr mit ihnen machen!“, schrieb Trump damals auf Truth Social und sagte, es werde eine „Ausstiegsfrist“ von sechs Monaten geben.
Anthropic kündigte später an, rechtliche Schritte gegen die Regierung einzuleiten, nachdem diese das Unternehmen ebenfalls als „Lieferkettenrisiko“ eingestuft hatte.
