Im Bann des Algorithmus

Eine Gruppe von arabisch aussehenden Kindern angelt an einem Jahrmarktautomaten nach deutschen Pässen, das nächste Video zeigt Alice Weidel beim Tanzen. Schon wieder ... Dass wir extremistische Inhalte sehen würden, war uns klar, aber mit diesen scheinbar lustigen KI-Videos hatten wir nicht gerechnet. Die Platform TikTok steht seit längerem im Verdacht, eine Brutstätte für Hass und Extremismus zu sein. Auf Vorschlag ihres GGK-Lehrers Herrn Mourad entschied sich daher die Klasse 11A/B, ein Experiment durchzuführen, um den Algorithmus zu untersuchen. Die Teilnahme erfolgte auf freiwilliger Basis. Der Versuchsaufbau beinhaltete 7 Fakeprofile, die von Schülergruppen in ihrer Freizeit betrieben wurden. Die Profile repräsentierten verschiedene Archetypen, die uns unser Lehrer samt KI generierten Profilbildern zu Verfügung stellte, beispielsweise den 67-jährigen heimatverbundenen Heimwerker Heinz oder die 19-jährige Vivienne. Wir hatten die Anweisung passende Inhalte zu klicken und zu protokollieren, wie sich der Feed verändert. Da das Experiment im unmittelbaren Vorfeld der Landtagswahlen stattfand, gingen wir davon aus, dass der Algorithmus besonders viel politischen Content in die Feeds spülen würde. Allerdings verlief das Experiment etwas anders als erwartet, da der Algorithmus trotz Wohnortangaben in Baden-Württemberg hauptsächlich deutschlandweite Inhalte anzeigte, die keinen Bezug auf die Wahl nahmen. Trotzdem bekamen viele Gruppen schnell politische Inhalte angezeigt. Aber auch frauenfeindliche Inhalte und Videos, in denen fragwürdige Abnehmtipps gegeben wurden, landeten im Feed. Die Inhalte wurden teilweise ohne direktes Zutun einfach nur aufgrund von Alter, Geschlecht oder einer Flagge in der Profilbeschreibung angezeigt. Ein Mal angeklickt und geliked, wurde der Feed mit ähnlichen Inhalten überflutet. Die ausführlichen Besprechungsstunden, in denen wir uns gegenseitig einige dieser Videos zeigten, kamen Herrn Mourad bald „wie ein Fiebertraum" vor. Besonders oft sahen wir AFD-nahe KI-Videos, z.B. mit tanzender Alice Weidel. Videos anderer Parteien wurden gar nicht angezeigt, obwohl wir auch beispielsweise einen linken Charakter hatten. Neben den politischen Inhalte bekam vor allem der oben bereits erwähnte Vivenne-Charakter sehr schnell Essstörungen fördernde Inhalte und später auch Videos, in denen Jugendliche erzählen, wie sie sich selbst verletzen. Nach wenigen Wochen veränderte sich der Feed kaum noch und die Profile wurden zu den berüchtigten Echokammern, in denen nur noch eine Weltsicht vertreten war. Wir sind in der Nachbesprechung zu dem Schluss gekommen, dass TikTok das Potenzial hat, Menschen schwerwiegend zu beeinflussen. Natürlich gibt es auch viele harmlose Inhalte, aber jede Nutzer*in sollte im Hinterkopf behalten, dass die Plattform schnell zu einer Normalisierungsmaschine für extremistische Gedanken werden kann. Daria Thumstädter