BfV sieht Blackbox-Algorithmen als Problem

Verfassungsschutz-Analyse

Radikalisierung: BfV sieht Blackbox-Algorithmen als Problem

Der Verfassungsschutz sieht in undurchsichtigen Algorithmen und sozialer Isolation Faktoren für die Radikalisierung Jugendlicher im Netz. Eine neue Publikation liefert auch Anhaltspunkte für Eltern.

Zur Online-Radikalisierung junger Menschen trägt laut einer Analyse des Verfassungsschutzes neben psychologischen Faktoren auch die Funktionsweise bestimmter Internet-Plattformen bei.

Soziale Isolation, Schwierigkeiten im persönlichen Umfeld, teils in Verbindung mit mentalen Problemen, seien typische Voraussetzungen für dynamische Radikalisierungsprozesse, heißt es in der Publikation des Bundesamtes für Verfassungsschutzes (BfV). „Neben diesen psychologischen Faktoren spielen die intransparenten Algorithmen der Plattformbetreiber eine herausragende Rolle, da sie verstärkt auf kontroverse und hoch interaktive Inhalte setzen“, erklärt der Inlandsnachrichtendienst.

Nutzer würden nach dem Konsum unverfänglicher „semi-politischer Inhalte“ allmählich in eine sogenannte Echokammer geführt, in der immer radikalere und stark emotionalisierende Inhalte verbreitet würden. Durch die fortlaufende Wiederholung und Bestätigung durch andere Nutzer würden extremistische Ideen zunehmend normalisiert und verinnerlicht. „Auffällig ist, dass Personen sich nicht immer exklusiv in eine Ideologie hinein radikalisieren, sondern sich häufig aus einem bunten Potpourri demokratiefeindlicher Ideen bedienen“, schreibt der Verfassungsschutz.

Die Vernetzung sowie die Verbreitung von Propaganda oder Gewaltvideos laufen demnach über Websites, soziale Medien, auf Gaming-Plattformen, Imageboards oder über Messengerdienste, wobei Extremisten unterschiedlicher Couleur bestimmte Online-Kommunikationsräume bevorzugen.

So nutzten etwa Rechtsextremisten neben klassischen sozialen Netzwerken und Messengerdiensten – insbesondere Telegram – auch nicht kommerzielle Videoportale oder Imageboards wie Kohlchan. Auch Gaming-Plattformen wie Steam oder gamingbezogene Konferenzdienste wie Discord dienten der Kontaktaufnahme.

Als ein Beispiel führt der Verfassungsschutz eine internationale Telegram-Gruppe namens „Brenton Fanclub“ auf. Der Name bezieht sich auf den rechtsextremen Attentäter von Christchurch in Neuseeland. Er tötete am 15. März 2019 in zwei Moscheen 51 Menschen. Vor der Tat verbreitete er ein rechtsextremes Manifest und übertrug den Anschlag live im Internet. Auch nachrichtendienstliche Ermittlungen hätten zu polizeilichen Maßnahmen gegen einen 15-Jährigen und einen 19-Jährigen geführt. Beide hatten unabhängig voneinander dort konkrete Anschlagsdrohungen gepostet. In einem Fall richteten sie sich gegen eine Schule und eine Moschee in Bremerhaven, im anderen Fall gegen eine Synagoge in Halle.

Linksextremistische Gruppierungen nutzten vor allem gängige Online-Plattformen wie Instagram, um über die eigenen Szenemedien hinaus Inhalte zu verbreiten sowie zu Demonstration und Veranstaltungen aufzurufen. Jugendgruppen der Szene seien teils auch auf TikTok, X sowie Video- und Karriereportalen, Musik-Streamingdiensten und bei Facebook vertreten.