Nahezu identische KI-generierte Charaktere sind überall in Europa in den Ecken von X und Facebook aufgetaucht und verbreiten Anti-Einwanderungs- und Anti-Regierungs-Botschaften.
Versionen derselben Figur wurden online geteilt, beispielsweise die niederländischsprachige „Emma“, die deutsche „Maria“ und die irische „Amelia“.
Jede Figur hat ihre eigenen nationalen Symbole und politischen Bezüge. In Deutschland trägt Maria ein traditionelles bayerisches Dirndl und drückt ihre Liebe zu einem „kalten Bier in unserer Dorfkneipe“ aus. Sie behauptet, ihre Regierung schütze sie nicht mehr und ruft „tapfere Ritter“ auf, ihr Heimatland vor muslimischen Einwanderern zu verteidigen.
In den Niederlanden besteht eine KI-Kreation von Emma darauf, dass Weihnachten „auf traditionelle Weise“ gefeiert werden sollte.
In Irland bezeichnet eine rothaarige Version der Figur den Taoiseach des Landes, Micheál Martin, als „Sprachrohr Brüssels“. Brüssel, so betont sie, zwinge Irland zu „offenen Grenzen“, obwohl Irland nicht Teil des Schengen-Raums sei.
Für sich genommen haben diese Videos Tausende von Aufrufen und Interaktionen hervorgerufen, insbesondere auf X.
Diese Nachahmer lassen sich auf die bekannteste Version zurückführen, die zuerst in Großbritannien auftauchte. Hier ist Amelia, ein KI-generiertes Schulmädchen mit lila Haaren, viral gegangen, wobei ihr erster viraler Beitrag mehr als 1,4 Millionen Aufrufe verzeichnete.
Versionen der Figur haben auf Facebook, Instagram,
Amelias unwahrscheinliche Herkunft
Die Organisation, die die Figur geschaffen hat, auf der die viralen Memes basieren, sagt, dass ein Großteil der Online-Erzählung rund um Amelia irreführend sei.
Eine erste Version von Amelia erschien in Pathways, einem Lernspiel, das vom britischen Sozialunternehmen Shout Out UK in Zusammenarbeit mit lokalen Behörden in Hull und East Riding of Yorkshire entwickelt wurde. Das Projekt wurde vom britischen Innenministerium im Rahmen eines Programms zur Bekämpfung von Extremismus finanziert.
Das Spiel fordert die Schüler auf, einen Charakter auszuwählen, der dann in verschiedene Online-Szenarien versetzt wird, in denen sie Entscheidungen darüber treffen müssen, wie sie auf Beiträge, Nachrichten und verschiedene Formen von Gruppenzwang reagieren.
Matteo Bergamini, CEO von Shout Out UK, sagte gegenüber dem Faktencheck-Team von Euronews, The Cube, dass das Spiel im Hintergrund des Jahres 2023 entwickelt wurde, als lokale Behörden in Hull und Yorkshire feststellten, dass Radikalisierung online am riskantesten sei, insbesondere für Kinder im Alter zwischen 13 und 18 Jahren.
„Die Bedrohung ging hauptsächlich vom entstehenden rechtsextremen Online-Ökosystem aus“, sagte Bergamini und fügte hinzu, dass das Spiel selbst gezielt und auf diese Gebiete im Vereinigten Königreich beschränkt sei.
Das Spiel sei nicht dafür gedacht, isoliert gespielt zu werden, sondern sei Teil eines umfassenderen Lernpakets, das es Lehrern ermöglichen soll, differenzierte Diskussionen über unsicheres und sicheres Verhalten zu ermöglichen, fügte er hinzu.
Amelia ist im Spiel keine Protagonistin oder Vorbild, sondern eine Nebenfigur, die die Hauptfigur zu riskantem Online-Verhalten ermutigt.
Darüber hinaus schlägt das Spiel im Gegensatz zu Online-Behauptungen nicht vor, dass ein Lehrer ein Kind an Prevent, ein britisches Regierungsprogramm, überweist, um Massenmigration in Frage zu stellen.
Es scheint, dass das Amelia-Meme in rechtsextremen Kreisen als Gegenreaktion auf eine Karikatur entstand, die ihre Ansichten gegen Einwanderung und den „Kindermädchenstaat“ kritisierte.
The Cube wandte sich an einige Ersteller des Memes, die jedoch nicht rechtzeitig zur Veröffentlichung antworteten.
Extreme Versionen und Monetarisierung
Die meisten Amelia-Memes, insbesondere auf Mainstream-Plattformen wie X, sind relativ harmlos. Sie müssten nach den Regeln des Digital Services Act (DSA) nicht entfernt werden.
Das DSA verlangt von Plattformen, illegale Inhalte wie Hassreden, Terrorismus und Material zur sexuellen Ausbeutung von Kindern sowie bestimmte Arten schädlicher Werbung zu entfernen.
Aber Forscher, die Amelias rasanten Aufstieg verfolgt haben, sagen, dass extreme Versionen der Figur in Nischen-Online-Communities und in Apps wie Telegram existieren.
Siddharth Venkataramakrishnan, Analyst bei der in London ansässigen Denkfabrik Institute for Strategic Dialogue (ISD), sagte, dass das Meme von einem breiten Spektrum von Online-Communities aufgegriffen wurde, von denen, die es ironisch verwenden, bis hin zu einigen der größten migrantenfeindlichen Accounts.
Obwohl nicht jede Version der Figur Hassreden enthält, gibt es Versionen davon, die entmenschlichende und gewalttätige Bilder verwenden, die auf bestimmte Gemeinschaften abzielen.
Shout Out UK sagt, dass ihre Figur online von rechten Schauspielern „in Erinnerung gerufen und sexualisiert“ wurde, wobei viele dies mit rassistischer und antisemitischer Sprache, Nazi- und rechtsextremen Tropen in Verbindung bringen.
Die Kampagne sei über das Internet hinausgegangen und habe dazu geführt, dass Drohungen und böswillige Nachrichten an ihre Mitarbeiter verschickt worden seien, so die Organisation.
Amelia ist auch zu einem Mittel zur Monetarisierung geworden. Das ISD hat Konten identifiziert, die Meme-Münzen mit Amelia-Thema bewerben, ein häufiger Trend für virale Social-Media-Bewegungen.
Vor diesem Hintergrund, sagt Venkataramakrishnan, sei unklar, welche Konten Amelia-Memes für die politische Botschaft veröffentlichen und welche sie für gewinnorientiertes Engagement drängen.
„Wo verläuft die Grenze zwischen der Unterstützung von etwas aus Ideologie und der Unterstützung, weil man Geld verdienen will?“ sagte er.
Venkataramakrishnan erklärte, dass emotional aufgeladene Memes in den sozialen Medien auch eher Anklang finden, sobald das Engagement zu wachsen beginnt, ein Effekt, der die schnelle Verbreitung von Amelia-Memes vorangetrieben hätte.
