Warum müssen wir soziale Medien stärker regulieren?

change | Was hat dich dazu motiviert, die Organisation HateAid mitzugründen und Hass im Netz zu bekämpfen?

Anna-Lena von Hodenberg | Hinter der Gründung von HateAid stand für meine Mitgründer:innen und mich am Anfang vor allem die Sorge um den Rechtsstaat und die Demokratie in Deutschland. Nach dem Brexit und der Wahl von Donald Trump zum US-Präsidenten wurden die ersten großen Analysen über den Einfluss sozialer Medien veröffentlicht. Sie haben gezeigt, dass vor allem das  rechtsextreme Spektrum diese ganz gezielt nutzt, um politische Gegner:innen zu attackieren. Auch hier in Deutschland wurde versucht, mit koordinierten  Kampagnen den Hass in die Parlamente zu tragen. Mit Hass und Gewalt im Netz sollten die öffentliche Meinung nach rechts gerückt und Gegenstimmen zum Schweigen gebracht werden. Das hat uns wahnsinnig erschreckt.
 

Man hat lange nicht bemerkt, welche Gefahren für die Demokratie vom Internet ausgehen können.

Ich habe Kommunikationswissenschaften studiert und mich während meines Studiums viel mit der revolutionären Kraft beschäftigt, die in den neu aufkommenden Kommunikationsmitteln wie dem Buchdruck, dem Radio oder dem Fernsehen steckte. Diese Kommunikationsmittel haben ein großes demokratisches Potenzial, aber gleichzeitig besteht auch die Gefahr, dass es ins Gegenteil umschlägt, wie man am Beispiel des Radios sehen kann. Das war in der Nazizeit ein wichtiges Propagandainstrument  und hat großen Schaden angerichtet. Mir ist plötzlich klar geworden, dass das mit dem Internet genauso ist. Dass wir die Gefahren für die Gesellschaft gar nicht gesehen haben: wie Wahlen online beeinflusst werden, wie soziale Medien die öffentliche Meinung beeinflussen und wie einzelne Menschen durch gezielte Hasskampagnen zum Schweigen gebracht werden sollen.
 

Seit der Wahl von Donald Trump sind bereits acht Jahre vergangen, mittlerweile ist das Bewusstsein dafür gestiegen, wie gefährlich die sozialen Medien für Demokratien werden können. Welche Entwicklung hast du seitdem beobachtet?

Trotz des gestiegenen Bewusstseins haben sich die Gewalt und der Hass online in den letzten Jahren noch verschlimmert. Besonders der Organisationsgrad dieser Hasskampagnen hat massiv zugenommen und ist professioneller geworden. Auch die Plattformen selbst haben sehr wenig Verantwortung übernommen oder sich gegen den Hass gewehrt, sondern sie spielen das Spiel mit. Die Folgen werden zunehmend auch offline sichtbar, zum Beispiel durch den Mord an dem CDU-Politiker Walter Lübcke im Jahr 2019 oder durch die Desinformationskampagnen während der Coronapandemie, die viele Menschen beeinflusst haben.
 

Habt ihr durch die Gründung von HateAid auch selbst Erfahrungen mit Hass im Netz gemacht?

Anfangs, als wir noch nicht so bekannt waren, blieb HateAid vom Hass online relativ verschont. Allerdings hat einer unser Mitgründer selbst umfassenden Hass erfahren - einfach nur, weil er im Netz politisch und gesellschaftlich Stellung bezogen hat. Daraus ist auch die Idee zur Gründung von HateAid mit entstanden. Mittlerweile sind wir bekannter und bekommen deshalb auch mehr Hass ab. Ich selbst bin zum Beispiel kürzlich auf einer Todesliste gelandet, die im Netz kursiert ist.
 

Wie reagiert man, wenn so etwas passiert?

Das Gute ist, dass wir Spezialist:innen sind und für uns das Maximum von dem tun, was wir auch für unsere Klient:innen tun würden – und zwar schon präventiv. Das empfehlen wir auch allen anderen, die in der Öffentlichkeit stehen: Beschäftigt euch nicht erst mit dem Thema, wenn ihr selbst von Hass und Hetze im Netz betroffen seid, sondern handelt präventiv. Denn wenn es erst einmal so weit gekommen ist, ist meist eine große Emotionalität da, ein Gefühl der Bedrohung und Beklemmung, das einen bis in die Träume verfolgt. Dann ist es schwierig, sich um praktische Dinge zu kümmern.
 

Was bedeutet es konkret, präventiv zu handeln?

Es ist sehr wichtig, so wenig persönliche Daten wie möglich ins Netz zu stellen. Auf keinen Fall sollten Informationen wie die eigene Adresse oder Telefonnummer online auffindbar sein. Außerdem raten wir unseren Klient:innen, Hasskommentare nicht selbst zu lesen – das erledigen unsere Spezialist:innen für sie. Denn die Inhalte brennen sich sehr schnell ins Unterbewusstsein ein und verfolgen einen dann. Und schließlich unterstützen  wir dabei, Hasskommentare bei der Staatsanwaltschaft anzuzeigen, sodass die Täter:innen sehen, dass ihr Verhalten Konsequenzen hat.
 

Welche Arten von digitaler Gewalt hältst du für besonders gefährlich?

Erstens das Doxing, also das Veröffentlichen von persönlichen Daten wie Geburtsdatum, Privatadresse, Telefonnummern, die Namen der Kinder, wo sie zur Schule gehen, die Adresse der Eltern oder des Arbeitgebers. Das ist unglaublich gefährlich und deshalb ist es so wichtig, dass alle, die in der Öffentlichkeit stehen oder Zivilcourage im Netz zeigen, präventiv dafür sorgen, dass nichts davon online zu finden ist – auch nicht auf Seite 16 bei Google.

Das Zweite, was ich für sehr gefährlich halte und was seit etwa einem Jahr bei uns in der Beratung auftaucht, sind Deepfakes in Form von Pornos, die mittels künstlicher Intelligenz erstellt werden und online kursieren. Betroffen sind vor allem Frauen, zum Beispiel Politikerinnen, Journalistinnen oder Aktivistinnen. Mit Deepfakes wird versucht, Frauen zu demütigen, aus der Öffentlichkeit zu verdrängen und zum Schweigen zu bringen. Dahinter stehen frauenfeindliche Strukturen und Frauenhass, die unter anderem von Rechtsextremen und der Incelszene getragen werden.

Was rätst du Frauen, die im Netz auf solche Deepfakes von sich selbst stoßen?

So etwas ist natürlich erst einmal ein Schock und vielen fällt es schwer, sich Hilfe zu suchen. Sie schämen sich und haben Angst, sich mit solchen Inhalten zum Beispiel an die Polizei zu wenden. Allerdings muss man sich darüber im Klaren sein, dass sich nicht die Betroffenen schämen sollten, sondern die Täter:innen, die die Deepfakes kreieren und online stellen. Und wenn Frauen dadurch mundtot gemacht werden, ist das letztlich genau das, was diese Leute erreichen wollen. Deshalb finde ich es wichtig, dass wir uns als Gesellschaft mit den Betroffenen solcher Inhalte solidarisieren.

Hast du Ideen, was wir als Gesellschaft konkret tun können, um gegen diese Deepfakes vorzugehen?

Hier sind vor allem die Politiker:innen und die Plattformen selbst gefragt, die viel härter dagegen durchgreifen müssen. Noch ist es zum Beispiel in der Regel nicht strafbar, Deepfake-Pornos zu produzieren. Außerdem brauchen wir eine mutigere Regulierung der Plattformen, die ihr Geld mit Inhalten verdienen, die Aufsehen erregen, polarisieren und viral gehen, auch mit Hasskampagnen und gewalttätigen Inhalten. Das liegt am Design der Algorithmen dahinter, die man auch anders gestalten könnte. Aber daran haben die Plattformen oftmals kein Interesse, weil sie  auf ihren eigenen Profit schauen. Das heißt, wir müssen die Plattformen stärker regulieren, eine rote Linie ziehen und sagen: Sobald unsere Demokratie und die Menschenwürde angegriffen werden, ist Schluss.
 

Den Plattformen wird seit Jahren weitgehend freie Hand gelassen. Wie könnte eine stärkere Regulierung umgesetzt werden?

Ich bin der Meinung, dass es eine Art TÜV für Plattformen geben sollte. In Deutschland gibt es für alles Gebrauchsanweisungen und Beipackzettel. Aber bei Onlineprodukten, also Social Media, Apps oder künstlicher Intelligenz, fehlt so etwas völlig. Die werden einfach auf den Markt geworfen und man testet sozusagen am lebenden Objekt, an unseren Kindern und an der Gesellschaft, was passiert. Ohne sich vorher zu fragen, welche Risiken und Nebenwirkungen es geben könnte.

Was kann man selbst tun, um Menschen zu unterstützen, die von Hass und Gewalt im Netz betroffen sind?

Wenn man auf Hasskommentare oder Ähnliches stößt, sollte man die Inhalte gemeinsam mit  einem Screenshot zur Anzeige bringen und bei der Plattform nach dem Digital Services Act melden. Was auch hilft: Zivilcourage zeigen und Betroffene öffentlich unterstützen. Nicht empfehlen würde ich, mit den Trollen zu diskutieren.
 

Mobbing und Hass online kommen auch zwischen Kindern und Jugendlichen oft vor. Welche Rolle spielen Bildung und Aufklärung besonders in der Schule bei der Prävention von Hass im Netz?

Bildung und Aufklärung spielen hier eine enorm wichtige Rolle, und es gibt große Defizite. Im Moment ist es so, dass Kinder und Jugendliche zum Beispiel iPads für den Unterricht nutzen, aber es findet keine Aufklärung über ein gutes Miteinander im Netz statt. Die Lehrer:innen kommen größtenteils noch aus einer Generation, die ohne das Internet aufgewachsen ist und die sich online, gerade in den sozialen Medien, oft nicht gut auskennt. Leider wurde es in den letzten Jahren versäumt, die Lehrer:innen in diesem Bereich fortzubilden und Medienerziehung fächerübergreifend in den Lehrplan aufzunehmen, was dringend nötig wäre. Derzeit wird die junge Generation online weitgehend sich selbst überlassen. Wohin das führt, wird die Zukunft zeigen.
​​​​​​​

Zum Schluss noch eine Frage: Welche Erfolge hat HateAid bisher erzielt, und welche Herausforderungen siehst du für die Zukunft im Kampf gegen digitale Gewalt?

Zu unseren größten Erfolgen zählt zum Beispiel  unsere Lobbyarbeit für einige neue Straftatbestände, zum Beispiel dafür, dass die Androhung von Vergewaltigung strafbar ist. Die größte Herausforderung ist für uns die Regulierung der Plattformen. Wir setzen uns mit unserer Öffentlichkeitsarbeit stark dafür ein, dass die Politik hier viel mutiger wird, damit zum Beispiel besonders betroffene Gruppen wie Frauen, Menschen, die Rassismus erleben und queere Menschen im Netz besser geschützt werden.

Vielen Dank für das Gespräch!

Egal ob im Netz oder offline: Die Bertelsmann Stiftung macht sich stark für Zivilgesellschaft und stößt Debatten an. Im Bürger:innenrat des Projekts „Forum gegen Fakes – Gemeinsam für eine starke Demokratie“ haben 120 Bürger:innen Vorschläge entwickelt, wie wir besser mit Desinformation umgehen können. Zwischen dem 22. April und 12. Mai kannst du diese online bewertet und kommentieren. Mach mit!