Einer Analyse zufolge sei es schwierig einzuschätzen, welchen Einfluss die von der extremen Rechten verwendeten, mit künstlicher Intelligenz (KI) generierten Bilder auf die erste Runde der Parlamentswahlen in Frankreich und auf europäischer Ebene hatten.
Wie aus zwei neuen Berichten hervorgeht, haben rechtsextreme Parteien in Europa mithilfe künstlicher Intelligenz (KI) erstellte Bilder zur Untermauerung ihrer politischen Botschaften verwendet. Welchen Einfluss diese Bilder auf die jüngsten Wahlen in Frankreich und dem Europaparlament hatten, lässt sich allerdings nur schwer einschätzen.
Die gemeinnützige Organisation AI Forensics hat vom 1. Mai bis 28. Juni, während der EU-Wahlen und der ersten Runde des französischen Wahlkampfs, die Social-Media-Seiten von 31 französischen politischen Parteien durchsucht, um festzustellen, ob sich dort Inhalte auf der Grundlage generativer KI (GenAI) erkennen lassen.
Anschließend ließen sie diese Bilder durch KI-bezogene Suchmaschinen laufen, um zu überprüfen, ob sie von einem KI-Tool erstellt wurden.
Insgesamt deckte das Team 51 Fälle auf, in denen französische Parteien mithilfe generativer KI Bilder verwendeten. Am stärksten betroffen waren dabei der rechtsextreme Rassemblement National (RN), Reconquête und Les Patriotes. Die Forscher erklärten jedoch, dass es sich dabei um eine konservative Schätzung handele.
„Dies ist der erste Wahlzyklus, in dem (generative) KI eine Rolle spielt, aber wir sind sicher, dass sie in den kommenden Jahren immer mehr eingesetzt werden wird“, sagte Salvatore Romano, ein Forscher von AI Forensics, gegenüber Euronews Next.
„Wenn uns das jetzt nicht gelingt, da der Maßstab so klein ist, … wird es noch schwieriger, wenn die Technologie nicht mehr vom echten Inhalt zu unterscheiden ist“, fügte er hinzu.
Die rechtsextreme RN ging bei der ersten Wahlrunde in Frankreich am vergangenen Sonntag mit 33 Prozent der Stimmen als Sieger hervor und auch bei den Europawahlen im Juni erhielt sie 31,5 Prozent der Stimmen.
Wo der KI-Inhalt erschien
Die meisten der von der KI generierten Wahlkampfbilder, die von französischen Parteien verwendet werden, „vermitteln Botschaften gegen Einwanderung, mangelnde Sicherheit in Frankreich, mangelnde Meinungsfreiheit, ein mangelhaftes Justizsystem und unzureichenden Schutz der Landwirtschaft“, heißt es im Bericht von AI Forensics.
„(Die Bilder) werden als Mittel zur Panikmache eingesetzt, um zu sagen, dass Frankreich in der EU nicht sicher sei. Und das ist eine große Belastung für schutzbedürftige Menschen in unserer Gesellschaft“, fügte die KI-Forensik-Forscherin Miazia Schüler hinzu.
Diese Bilder sähen oft „hyperrealistisch“ aus, sodass der durchschnittliche Benutzer deutlich erkennen könne, dass sie mithilfe künstlicher Intelligenz gerendert worden seien, sagte Schüler.
Andere waren subtiler Natur, etwa Nachahmungen politischer Karikaturen aus Zeitungen.
Einige Parteien, wie etwa die rechtsextreme Reconquête, nutzten auch generative KI, um Bilder des französischen Präsidenten Emmanuel Macron und der Präsidentin der Europäischen Kommission Ursula von der Leyen zu erstellen.
Während des EU-Wahlkampfes erstellte der RN im Vorfeld der Wahlen eine Website mit dem Titel „Europa ohne sie“, die die Führungspositionen von Macron und von der Leyen in ähnlicher Weise in Frage stellte, wie aus einer Studie des Digital Forensic Research Lab (DFRLabs) des Atlantic Council hervorgeht.
Auf der noch immer aktiven Website finden sich mindestens drei mithilfe künstlicher Intelligenz erstellte Bilder: Sie zeigen Petitionen gegen „die Völkerverachtung, die Masseneinwanderung und die Förderung des Hijab durch die EU“, heißt es in dem Bericht.
„Nur die Spitze des Eisbergs“
Der Forscher Valentin Chatelet vom Atlantic Council sagte, es sei „schwierig“ zu sagen, welchen Einfluss diese Art von KI-generierten Inhalten auf den Erfolg des RN sowohl bei den EU-Wahlen als auch bei den französischen Wahlen hatte.
„Ich denke, es wirkt sich positiv auf die Materialien aus, die die Partei verwendet, um eine bestimmte Idee zu vermitteln, wie etwa Bardellas besondere Haltung zu einem Thema“, sagte Chatelet.
„(KI-generierte) Bilder werden auch verwendet, um Menschen zu schockieren … bis sie zum Mainstream werden“, fügte er hinzu.
Euronews Next wandte sich an den Rassemblement National (RN), die Gruppe Identität und Demokratie sowie die politischen Parteien Patriots und Reconquête, erhielt jedoch keine Antwort.
Laut französischem Sender haben RN-Kandidaten seit Januar 2024 eine KI-Schulung, einschließlich der Verwendung von ChatGPT BFMTVIn ihrem Schulungsheft werden Beispiele dafür gegeben, wie KI politischen Kandidaten helfen kann, etwa bei der Erstellung von Wahlplakaten und der Suche nach Argumenten für Debatten, berichtete der Sender.
Weder die Studie von AI Forensics noch die DFRLabs des Atlantic Council untersuchten die persönlichen Posts der Kandidaten oder die von den Fangemeinden der Parteien erstellten Inhalte.
Romano glaubt, dass ihre Studie „nur die Spitze des Eisbergs“ im Hinblick darauf ist, wie viel nicht gekennzeichneter KI-Wahlinhalt auf Social-Media-Plattformen im Umlauf ist.
„Kritische Fahrlässigkeit“ von Technologieunternehmen beim Einsatz von KI
Der KI-Forensikbericht ergab, dass keines der KI-generierten Bilder als solches gekennzeichnet war.
„Unsere Ergebnisse enthüllen eine schwerwiegende Nachlässigkeit beider Seiten der politischen Parteien und Plattformen hinsichtlich der Einhaltung der Verpflichtungen zur Kennzeichnung von KI-generiertem Bildmaterial in ihren politischen Kampagnen und unterstreichen die dringende Notwendigkeit von Transparenz“, heißt es in dem Bericht.
Große Technologieunternehmen wie Google, OpenAI, Meta und TikTok unterzeichneten im Februar ein Open-Tech-Abkommen, das „Erwartungen daran festlegt, wie die Unterzeichner vor der Europawahl mit irreführenden KI-Wahlinhalten“ auf ihren Plattformen umgehen werden.
Die erste Verpflichtung dieses Abkommens besteht darin, dass Plattformen „realistische, von KI generierte Bilder identifizieren und/oder die Echtheit von Inhalten und deren Herkunft zertifizieren“ werden, eine Kopie der Übereinstimmung liest.
Sie versprachen außerdem, ihre Modelle zu überprüfen, um „die Risiken zu verstehen, die sie im Hinblick auf irreführende KI-Inhalte bergen könnten“.
Einige politische Parteien unterzeichneten ihre eigene Version dieses Vereinbarung mit der Europäischen Kommission, die sich verpflichtet hat, „die absichtliche Täuschung der Öffentlichkeit, auch durch den Einsatz künstlicher Intelligenz, zu verhindern“, heißt es in einer Kopie des Dokuments.
Diesen Verhaltenskodex hat die Fraktion Identität und Demokratie (ID) des Europaparlaments unterzeichnet, der auch die RN angehört. Die anderen französischen nationalen Parteien haben dies nicht getan.
Romano sagte, AI Forensics werde seinen Bericht an die Europäische Kommission senden, in der Hoffnung, dass es zu Konsequenzen für die Parteien kommen werde, die gegen diese Verhaltenskodizes verstoßen.
