„Schutzmaßnahmen notwendig“: OpenAI veröffentlicht ChatGPT-6 Astra

„Schutzmaßnahmen notwendig“

OpenAI veröffentlicht ChatGPT-6 Astra

Im Wettlauf der KI-Entwickler sieht sich OpenAI mit dem neuen ChatGPT-6 wieder vorn. Zugleich sorgen die verbesserten Fähigkeiten Künstlicher Intelligenz für warnende Worte.

Der ChatGPT-Entwickler OpenAI veröffentlicht sein bisher leistungsstärkstes KI-Modell und hebt nach der Aufregung um Hacking-Attacken durch Künstliche Intelligenz verstärkte Sicherheitsvorkehrungen hervor. Man gehe davon aus, dass Menschen mit den erweiterten Fähigkeiten von ChatGPT-6 Astra mehr und mehr Aufgaben an die KI übertragen werden, sagte OpenAI-Managerin Mia Glaese. Deshalb werde die Software besser überwacht, damit sie nicht vom Interesse der Nutzer abweiche.

Neue KI-Modelle von OpenAI hatten vor einigen Wochen für Aufsehen gesorgt, weil sie in Versuchen eigenständig einen Weg fanden, aus einer abgesicherten Testumgebung auszubrechen, und sich in Systeme einer anderen KI-Firma hackten. OpenAI bekam das erst verspätet mit. Der Zwischenfall nährte die Sorge, dass KI-Software mit ihrer Weiterentwicklung menschlicher Kontrolle entgehen könnte.

Um den Überblick über das Handeln der KI zu behalten, sind Entwickler darauf angewiesen, dass die Software die Argumente hinter ihren Entscheidungen in menschlicher Sprache festhält. Das nennt sich „Chain of Thought“ (etwa: Gedankenkette).

Forschungschef Jakub Pachocki sagte bei der Vorstellung von Astra allerdings, leistungsstärkere KI-Modelle seien in der Lage, dieses Verfahren zu beeinflussen. Außerdem seien sie bei einfachen Aufgaben weniger auf mehrstufige Überlegungen angewiesen. Damit man auch diese nachvollziehen könne, müsse man einen Weg finden, sie da „wortreicher“ zu machen.

Mit Astra sieht sich OpenAI wieder an der Spitze der KI-Entwicklung, nachdem zuletzt der Rivale Anthropic mit seinen Modellen Mythos und Fable die Branche beeindruckt hatte. ChatGPT-6 sei etwa stark beim Programmieren, dem Finden von Sicherheitslücken in Software sowie generell der Nutzung des Computers im Auftrag der Nutzer, zum Beispiel bei Büroarbeit.

Aus Sicht von Top-Manager Greg Brockman könnte Astra die Ära der sogenannten Allgemeinen Künstlichen Intelligenz einläuten. Unter dieser Bezeichnung wird KI-Software erwartet, die mindestens genauso fähig ist wie ein Mensch. Brockman betonte zugleich, dass das Auftreten der Allgemeinen Künstlichen Intelligenz eher ein Evolutionsprozess als ein einzelner Moment sein werde.

Von Pachocki kamen auch noch mehr warnende Worte. Das Verständnis der Systeme sei weiterhin eingeschränkt, sagte er. Das Training sei experimentell und bringe manchmal überraschende Ergebnisse. „Je fähiger die Modelle werden, desto schwieriger wird es, zu verstehen, was genau sie können.“

Das mache es auch komplizierter, sie im Einklang mit den Interessen der Nutzer zu halten. „Ein Modell kann sehr gut darin werden, ein Ziel zu erreichen – und doch auf eine Weise agieren, die dem entgegenläuft, was ein Mensch beabsichtigte.“ Deshalb müsse die Software „menschliche Werte“ auch in Situationen verstehen, die für sie unbekannt seien.