Radikalisierung: BfV sieht Blackbox-Algorithmen als Problem

Berlin (dpa) - Zur Online-Radikalisierung junger Menschen trägt laut einer Analyse des Verfassungsschutzes neben psychologischen Faktoren auch die Funktionsweise bestimmter Internet-Plattformen bei. 

Soziale Isolation, Schwierigkeiten im persönlichen Umfeld, teils in Verbindung mit mentalen Problemen, seien typische Voraussetzungen für dynamische Radikalisierungsprozesse, heißt es in der Publikation des Bundesamtes für Verfassungsschutzes (BfV). «Neben diesen psychologischen Faktoren spielen die intransparenten Algorithmen der Plattformbetreiber eine herausragende Rolle, da sie verstärkt auf kontroverse und hoch interaktive Inhalte setzen», erklärt der Inlandsnachrichtendienst. 

Der Weg führt sukzessive in die Echokammer

Nutzer würden nach dem Konsum unverfänglicher «semi-politischer Inhalte» allmählich in eine sogenannte Echokammer geführt, in der immer radikalere und stark emotionalisierende Inhalte verbreitet würden. Durch die fortlaufende Wiederholung und Bestätigung durch andere Nutzer würden extremistische Ideen zunehmend normalisiert und verinnerlicht. «Auffällig ist, dass Personen sich nicht immer exklusiv in eine Ideologie hinein radikalisieren, sondern sich häufig aus einem bunten Potpourri demokratiefeindlicher Ideen bedienen», schreibt der Verfassungsschutz.

Die Vernetzung sowie die Verbreitung von Propaganda oder Gewaltvideos laufen demnach über Websites, soziale Medien, auf Gaming-Plattformen, Imageboards oder über Messengerdienste, wobei Extremisten unterschiedlicher Couleur bestimmte Online-Kommunikationsräume bevorzugen.

Rechtsextremistische Kommunikation auf Imageboards

So nutzten etwa Rechtsextremisten neben klassischen sozialen Netzwerken und Messengerdiensten - insbesondere Telegram - auch nicht kommerzielle Videoportale oder Imageboards wie Kohlchan. Auch Gaming-Plattformen wie Steam oder gamingbezogene Konferenzdienste wie Discord dienten der Kontaktaufnahme.

Als ein Beispiel führt der Verfassungsschutz eine internationale Telegram-Gruppe namens «Brenton Fanclub» auf. Der Name bezieht sich auf den rechtsextremen Attentäter von Christchurch in Neuseeland. Er tötete am 15. März 2019 in zwei Moscheen 51 Menschen. Vor der Tat verbreitete er ein rechtsextremes Manifest und übertrug den Anschlag live im Internet. Auch nachrichtendienstliche Ermittlungen hätten zu polizeilichen Maßnahmen gegen einen 15-Jährigen und einen 19-Jährigen geführt. Beide hatten unabhängig voneinander dort konkrete Anschlagsdrohungen gepostet. In einem Fall richteten sie sich gegen eine Schule und eine Moschee in Bremerhaven, im anderen Fall gegen eine Synagoge in Halle.

Linksextremistische Inhalte auf gängigen Social-Media-Plattformen

Linksextremistische Gruppierungen nutzten vor allem gängige Online-Plattformen wie Instagram, um über die eigenen Szenemedien hinaus Inhalte zu verbreiten sowie zu Demonstration und Veranstaltungen aufzurufen. Jugendgruppen der Szene seien teils auch auf TikTok, X sowie Video- und Karriereportalen, Musik-Streamingdiensten und bei Facebook vertreten.

Auch Islamisten mögen Telegram

Islamistische Terrorgruppen wie der Islamische Staat (IS) mit seinen verschiedenen Ablegern oder Al-Kaida seien vor allem auf der Chatplattform Rocket-Chat und bei Telegram präsent. Inzwischen greifen sie den Angaben zufolge auch auf Künstliche Intelligenz zurück und erstellen Deepfakes. Sympathisanten nutzten auch TikTok und Gaming-Plattformen zur Vernetzung und um Propagandamaterial zu verbreiten.

Gruppierungen aus dem islamistischen Spektrum, die vor allem danach strebten, in Deutschland lebende Muslime dazu zu bringen, sich von der Mehrheitsgesellschaft abzuwenden, sind dagegen laut BfV vor allem auf klassischen Social-Media-Plattformen aktiv.