Hass-Fahnder im Auftrag der Wissenschaft

Er durchforstet das Internet nach Hetz-Kommentaren

+
Simon Hegelich erforscht Internet-Hasskommentare.

München - Zuerst plapperte Tay auf Twitter über süße Hundewelpen, wenig später schon klang das ganz anders: „Hitler hatte Recht. Ich hasse Juden.“ Bald folgten Tay 95 000 Menschen. Das Netz ist voll mit Menschen, die ihren gedanklichen Müll abladen.

Bloß: Tay war kein Mensch. Tay war ein Software-Roboter, der sich verhielt wie ein Mensch. Der Software-Gigant Microsoft hatte Tay als Experiment programmiert, das den Entwicklern bald zu radikal wurde. Sie schalteten es ab. Tay war weg – das Problem blieb: Maschinen verbreiten Hass im Internet – und fast niemand erkennt, dass Maschinen am Werk sind.

Simon Hegelich hat es sich zur Aufgabe gemacht, die digitalen Drecksschleudern zu enttarnen. Der Professor für Political Science Data an der Hochschule für Politik der TU München hat zum Beispiel herausgefunden, dass ein ganzes Heer an Bots den Ukraine-Konflikt mit faschistischen Äußerungen im Internet anheizte. Im Auftrag der Wissenschaft jagen Hegelich und sein Team die Bots. Seine Jagdhunde sind Algorithmen, die er auf die sozialen Netzwerke loslässt. Ein schier aussichtsloser Kampf: Hegelich schätzt, dass 15 bis 25 Prozent der aktiven Twitter-Nutzer Bots sind. „Wenn ich früher etwas Tausend Mal gehört habe, konnte ich davon ausgehen, dass es stimmt“, sagt Hegelich. „Das ist vorbei. Dinge, die in der alten Welt galten, gelten heute nicht mehr.“

Und auch in anderen Netzwerken tummeln sich Hass-Schleudern: Hegelich schätzt, dass auf Instagram, einem beliebten Internet-Dienst zum Teilen von Fotos und Videos mit 500 Millionen Nutzern, jeder dritte Beitrag von Bots verfasst wird.

Mensch oder Maschine? Für normale Nutzer ist die Unterscheidung fast unmöglich. Und Social-Bots lernen selbstständig dazu. Wie gefährlich Hass aus der Dose ist, zeigt ein Blick auf eine typische Diskussion im Internet. Beispiel Flüchtlinge: Ein Bot sondert einen rassistischen Post ab: „Flüchtlinge sind Abschaum“. Gemäßigte Nutzer verlassen nach so einem Satz die Debatte, erklärt Hegelich. Fatal: Sie kehren der Diskussion den Rücken, ihre Gegenstimmen und -argumente gehen so verloren.

Hegelich: „Die in der Diskussion verbleibenden Nutzer lesen jetzt nur noch rassistische Beiträge – ihr Weltbild wird bestätigt und sie radikalisieren sich zusehends.“ Eine sogenannte Filter-Blase entsteht, Menschen sehen und hören nur noch Dinge, die in ihr Weltbild passen. „Bald entsteht eine Wagenburg“, erklärt Hegelich. Gleichgesinnte schotten sich von der Umwelt – und deren Argumenten – ab und rotten sich zusammen. Diese Schützengräben-Mentalität macht eine sachliche Diskussion fast unmöglich.

Auch die Politik hat das Problem erkannt, und dem Hass im Netz den Kampf angesagt. Donald Trump setzt im US-Wahlkampf massiv auf Bots. Laut einer Studie der Oxford University wurde ein Drittel der Trump-freundlichen Postings auf Twitter von Bots generiert, bei Hillary Clinton waren es knapp ein Viertel. Die große Macht und damit Gefahr der sozialen Bots liegt in der „Skalierbarkeit“, sagt Hegelich. „Das Programm, dass ein Profil steuert, kann auch 10, 100 oder eine Million Profile steuern.“ Und hier schließt sich der Kreis: Was der Mensch Tausend Mal hört, glaubt er irgendwann.

Im Verhältnis zu Aufwand und Kosten sind Social Bots als digitale Propaganda-Maschinen nach Meinung von Experten hocheffektiv. 1000 gefälschte Profile sind im Internet schon zwischen 50 Dollar und 150 Dollar zu haben. Auch fertige Systeme lassen sich im Netz kaufen: Eine ferngesteuerte 10 000 Bot starke Twitter-Armee kostet rund 500 Dollar.

Hass im Netz: Auch in München

Auf der einen Seite „Fremdenfeinde“ und „Nazis“, auf der anderen „Gutmenschen“ und „Deutschlandhasser“: Immer häufiger fallen diese Begriffe in Diskussionen – offline wie online. Ein aktuelles Beispiel ist die Schallschutzmauer in Neuperlach. Sieben Anwohner hatten sich vor Gericht einen Lärmschutz erstritten, in ihre Nachbarschaft sollen bald minderjährige Flüchtlinge einziehen.

Eine sachliche Diskussion schien von Anfang an nicht möglich, Beteiligte erhielten Drohbriefe, auf die Mauer sprühte jemand „Rassismus pur“, das Wohnhaus eines Klägers in Neuperlach wurde beschmiert: „Nazi“ und „Drecksfaschos“ stand dort. Auch im Internet Hass und Hetze: In sozialen Netzwerken und Foren wird ohne Punkt und Komma gepöbelt­ — gegen Verteidiger der Mauer, gegen Gegner, gegen Politiker, gegen Flüchtlinge sowieso.

Viele Nachrichtenportale sahen sich gezwungen, die Kommentarfunktionen unter den Artikeln zum Thema zu schließen: zu unsachlich, zu hasserfüllt, zu bösartig waren zum Teil die Beiträge der Nutzer.

Wichtige Begriffe aus sozialen Netzwerken

Bots: Der Begriff „Bot“ leitet sich vom englischen „robot“ ab. Ein Bot ist ein Computerprogramm, das ­bestimmte Aufgaben automatisiert und selbstständig ausführt. Kommunizieren Bots untereinander, spricht man von einem „Botnet“. Hierbei handelt es sich in der Regel um Schadsoftware.

Social Bots: siehe „Bots“. Soziale Bots werden darauf programmiert, wie Menschen zu handeln. Sie kopieren beispielsweise den klassischen Tagesablauf eines Menschen: Morgens, auf dem Weg zur Arbeit, twittern sie, während der Arbeitszeit dann weniger, nachts überhaupt nicht – normalerweise schläft ein Mensch dann. Die Maschine übernimmt Posts von echten ­Menschen und lernt von ihnen.

Troll: So werden Menschen bezeichnet, die Kommunikation im Internet fortwährend und auf destruktive Weise behindern oder manipulieren. Sie provozieren, hetzen oder beleidigen.

Fake-Account: Falsches Profil in einem sozialen Netzwerk, um die eigene Identität zu verschleiern.

Mehr zum Thema:

auch interessant

Meistgelesen

Straftaten in München: Das sind die Brennpunkte
Straftaten in München: Das sind die Brennpunkte
Technische Störung: Wer zum Flughafen will, hat ein Problem
Technische Störung: Wer zum Flughafen will, hat ein Problem
Technische Störung: Verzögerungen auf der Stammstrecke
Technische Störung: Verzögerungen auf der Stammstrecke

Kommentare