Google liefert KI Gemini ans Pentagon: Forscher kritisiert eigene Firma

KI-Einsatz beim Pentagon

Google-Forscher: „Schäme mich, hier zu arbeiten“

Google liefert sein KI-Modell Gemini an das Pentagon. Ein deutscher Forscher des Konzerns hält die Schutzklauseln für wirkungslos.

Ein deutscher KI-Forscher bei Googles Tochterfirma DeepMind hat den eigenen Konzern wegen eines Vertrags mit dem US-Verteidigungsministerium öffentlich kritisiert. Andreas Kirsch, 38, wirft Google vor, mit dem Pentagon einen Deal geschlossen zu haben, der Massenüberwachung und die Nutzung autonomer Waffen ermögliche. Er schrieb auf der Plattform X: „Ich schäme mich unglaublich, in diesem Augenblick als Forscher bei Google DeepMind beschäftigt zu sein.“

Kirsch studierte an der TU München, promovierte in Oxford und forscht als Senior Research Scientist an Künstlicher Intelligenz (KI). Sein Arbeitgeber Google schloss Ende April einen Vertrag, der den Einsatz des KI-Modells Gemini auch für geheimhaltungsbedürftige Aufgaben des Pentagons erlaubt. Zuerst öffentlich gemacht hatte den Deal die Fachpublikation „The Information“.

• „Informations-Agenten“: Google baut die Suche radikal um – das ändert sich
• Neue Funktion: Google bringt KI-Suche per Sprache und Kamera

Im Vertragstext heißt es dem Bericht zufolge, Gemini sei für Massenüberwachung im Inland sowie autonome Waffen ohne menschliche Kontrolle „nicht vorgesehen“. Allerdings könne Google Regierungsentscheidungen nicht „ablehnen“ und verpflichte sich, Sicherheitsfilter auf Wunsch der Regierung zu verändern. Der Jurist Charlie Bullock vom Institute for Law and AI argumentiert, die Wendung „sei nicht vorgesehen“ sei nicht dasselbe wie „wird nicht eingesetzt“ und damit nicht einklagbar.

Google hatte sich 2018 nach internen Protesten gegen das Drohnenprojekt „Project Maven“ verpflichtet, weder KI für Waffen zu liefern noch für Überwachung, die gegen international akzeptierte Normen verstoße. Im Februar 2025 verschwand diese Selbstverpflichtung von der Google-Webseite. Mit-Autor des Blogposts, mit dem das Unternehmen die Streichung begründete, war DeepMind-Chef Demis Hassabis – also jener Manager, dessen Linie nicht nur Kirsch, sondern auch weitere DeepMind-Beschäftigte nun öffentlich infrage stellen.

Mehr als 600 Google-Mitarbeiter hatten am Morgen des Vertragsabschlusses in einem Brief an Konzernchef Sundar Pichai vor dem Schritt gewarnt. Schon zuvor hatten Branchenmedien zufolge über 100 DeepMind-Beschäftigte den Chefwissenschaftler Jeff Dean direkt gebeten, jeden Militärvertrag zu verweigern, der rote Linien bei Überwachung oder autonomen Waffen überschreite.

Auf der Plattform X erklärte Kirsch nach Bekanntwerden des Vertrags zudem: „Ich frage mich, wie ich meiner Arbeit heute überhaupt nachgehen soll.“ In einem internen Memo antwortete Kent Walker, President of Global Affairs der Google-Mutter Alphabet, Google sei „stolz“, seit den frühesten Tagen mit dem Pentagon zusammengearbeitet zu haben.

Anfang Mai beantragten mehrere Hundert britische DeepMind-Mitarbeiter eine gewerkschaftliche Vertretung. Zu ihren Forderungen gehören die Wiederherstellung der gestrichenen KI-Prinzipien und das Recht, aus moralischen Gründen die Arbeit an bestimmten Projekten zu verweigern.