Gastbeitrag Archive - Ann Cathrin Riedel

Gastbeitrag in der WAMS: Die EU-Kommission bedroht unsere Freiheit im Netz

Den folgenden Gastbeitrag habe ich zusammen mit der stv. LOAD Vorsitzenden Teresa Widlok für die Welt am Sonntag verfasst. Dort erschien er am 29. Mai 2022, bzw. in der Frühausgabe vom 28. Mai 2022.

Tempolimit, Veggie-Day, Genderstern – an vielen Stellen sehen wir Deutsche unsere Freiheit, um die wir so leidenschaftlich ringen, bedroht. Allzu oft endet das in leichtliberalen Schlagwortdebatten. Doch an einer Stelle, an der unsere Freiheitsrechte so massiv bedroht sind wie selten zuvor, ist es auffallend still: Mit der sogenannten Chatkontrolle hat die Europäische Kommission einen Gesetzentwurf vorgelegt, der unsere Kommunikationsfreiheit, unser digitales Briefgeheimnis und unsere Privatsphäre im Kern erschüttern wird.

Sollte der Entwurf verabschiedet werden, dürfte die EU-Kommission Kommunikation im Internet umfassend kontrollieren: Sämtliche Nachrichten und andere Inhalte könnten überwacht werden. Dadurch möchte die EU-Kommission Missbrauchsdarstellungen von Kindern und Jugendlichen finden. Mit der Intention, Kindesmissbrauch zu verhindern, schafft die EU-Kommission damit aber den krassesten Fall anlassloser Massenüberwachung, den wir seit der NSA-Affäre erleben.

Nur sind es dieses Mal nicht fremde Geheimdienste, die uns bespitzeln, es ist die Europäische Union. Und selbst Kinderschutzorganisationen bezeichnen den Vorschlag zur Chatkontrolle wegen der flächendeckenden Scans privater Kommunikation als unverhältnismäßig.

Von Massenüberwachung ist im Kommissionsentwurf wortwörtlich natürlich nicht die Rede. Die „Verordnung zur Prävention und Bekämpfung der Verbreitung von Kindesmissbrauchsdarstellung“ spricht stattdessen lieber von Möglichkeiten, bestimmte Inhalte in digitalen Diensten zu erkennen und zu entfernen.

Dabei geht es nicht nur um Chats, die auf Messengern oder über Direktnachrichten geführt werden – verschlüsselt oder unverschlüsselt. Sondern auch um E-Mails, Chatnachrichten in Online-Games oder Inhalte in App Stores und bei Hosting-Anbietern jeglicher Art, wie zum Beispiel Inhalte in der Cloud.

All diese Anbieter sollen auf Anordnung automatisch bereits bekannte oder neue Darstellungen von Kindesmissbrauch durch das konstante Scannen von Nachrichten entdecken. Auch Text soll durchleuchtet und ausgewertet werden, um Grooming zu erkennen – die Kontaktaufnahme von Erwachsenen mit Minderjährigen, um sexuellen Missbrauch anzubahnen.

Fehlerquote von zwölf Prozent

Es ist allerdings völlig unklar, wie das technisch und im Detail funktionieren soll. Wie kann man bei Bildern unterscheiden, ob es sich um Strandfotos eines Kindes handelt, die aus dem Sommerurlaub in die Familien-WhatsApp-Gruppe gepostet werden – oder um Kinderpornografie? Zwischen Urlaubsfotos, auf denen Kinder nackt am Strand rumlaufen, und Kinderpornografie ist oft ein schmaler Grat. Oder wie bei Textnachrichten, ob es sich um einvernehmliches Sexting zwischen zwei 16-Jährigen handelt – oder um Grooming? Diese fundamentalen Fragen sind ungelöst.

Ohne eine weitreichende Identifizierungspflicht aller Kommunikationsteilnehmer und genaues Wissen um den Kontext, in dem ein Bild verschickt wird, liegt auch der beste Filter oder Scanner in zu vielen Fällen daneben. Der von der EU-Kommission selbst zitierte Industriestandard geht bei der Texterkennung von einer Fehlerquote von zwölf Prozent aus. Bei Milliarden von täglich versendeten Nachrichten summiert sich das schnell.

Debatten im Spannungsfeld zwischen Freiheit und Sicherheit finden selten auf einer objektiven Basis statt. Die Frage, ob wir mehr Freiheit oder mehr Sicherheit gewährleisten wollen oder können, lässt sich nie vollständig zufriedenstellend für beide Seiten lösen. Doch die Fraktion der Sicherheitslogik hat es mit diesem Gesetzentwurf übertrieben.

Zwar wird von allen Seiten beteuert, dass verschlüsselte Kommunikation weiterhin verschlüsselt bleiben darf. Private Kommunikation ist aber immer privat, egal ob verschlüsselt oder nicht. Digitale Bürgerrechte sind keine Bürgerrechte zweiter Klasse – auch nicht das digitale Briefgeheimnis. Der Staat dampft schließlich auch keine Briefe auf oder hört massenhaft Telefongespräche ab.

Netzaktivisten wird vorgehalten, es gehe ihnen lediglich um die Privatsphäre und nicht um den Schutz von Kindern. Das ist unfair. Auch, weil die drei üblichen sicherheitspolitischen Narrative für beide Seiten gelten können. Das erste Narrativ: Das Internet ist kein rechtsfreier Raum. Das bedeutet, dass natürlich das Strafrecht gilt, aber ebenso Freiheitsrechte. Das Zweite: Was im Analogen gilt, muss auch im Digitalen gelten. Das Briefgeheimnis gilt also sowohl auf dem Postweg als auch im Internet.

Das Dritte: Sicherheitsbehörden müssen auf Augenhöhe mit Kriminellen agieren können. Anstatt also Ressourcen damit zu verschwenden, falschen Verdachtsmeldungen nachzujagen und bewegungsunfähig im Datenmüll zu ertrinken, sollten Sicherheitsbehörden präzise und effiziente digitale Hilfsmittel zur Verfügung stehen.

Die Meldungen der vergangenen Wochen, dass immer mehr Missbrauchsdarstellungen im europäischen Teil des Internets gefunden werden, lassen niemanden kalt. Netzaktivisten fordern daher schon seit Jahren, als solche erkannte Missbrauchsdarstellungen zu löschen, anstatt sie zu sperren und Webseiten lediglich mit einem Stoppschild zu versehen. Die Verbreitung von einmal im Netz befindlichen Bildern kann nur durch Löschen aufgehalten werden.

Es geht auch ohne neue Befugnisse

Bei aller Faszination für Technologie und der Hoffnung, dass diese gesellschaftliche Probleme löst, darf die klassische Ermittlungsarbeit nicht vergessen werden. Prominent ist etwa der Fall, den die spezielle Polizeiermittlungsgruppe „Berg“ seit Oktober 2019 in einem weitverzweigten Missbrauchskomplex ermittelt hat. Im Haus eines Mannes aus Bergisch Gladbach waren damals Unmengen kinderpornografischer Daten gefunden worden. Durch ihn stießen die Ermittler auf weitere Täter, die im Netz Videos und Abbildungen schweren sexuellen Kindesmissbrauchs austauschten.

Diese Erfolge zeigen, wie handlungsfähig Ermittlungsbehörden auch ohne neue Befugnisse und Meldepflichten sind. Hierfür muss Technologie flächendeckend eingesetzt werden, um etwa bei der psychisch äußerst anspruchsvollen Ermittlungsarbeit zu unterstützen und zu entlasten. Denkbar sind etwa KI-gestützte Tools zur Auswertung von Bildmaterial oder der Erkennung von Netzwerken.

Zu all dem schweigt der Kommissionsentwurf. Stattdessen stellt er private Kommunikation umfassend infrage – und um diesen Kern sollte unsere Freiheitsdebatte kreisen. Denn unsere Freiheitsrechte sind wirklich in Gefahr.

Ann Cathrin Riedel ist Vorsitzende und Teresa Widlok stellvertretende Vorsitzende von LOAD e.V. – Verein für liberale Netzpolitik.

Dieser Gastbeitrag erschien zuerst im Print der Welt am Sonntag am 29. Mai 2022 und später online auf welt.de

Gastbeitrag: Plädoyer für eine wertebasierte Digitalisierung: Resilienz gegen Hatespeech und Trolle

Soll ein Milliardär wie Elon Musk Twitter alleine besitzen dürfen? Welche Macht hat Facebook über den öffentlichen Diskurs und welche Rolle spielt TikTok in Wahlkämpfen? Wir diskutieren in Politik und Gesellschaft häufig über den Einfluss privatwirtschaftlicher Unternehmen auf den öffentlichen Diskurs und die Demokratie im digitalen Raum. Dabei gerät es oft in den Hintergrund, dass wir als demokratische Staaten die Macht haben, diese Plattformen zu regulieren und uns damit für ein offenes, freies und menschenrechtsbasiertes Internet einzusetzen.

Wie notwendig eine wertebasierte Digitalisierung ist, zeigen uns vor allem der russische Angriffskrieg in der Ukraine sowie die Ereignisse in Belarus und Hongkong. Dort gehören staatliche Desinformationskampagnen, Internet-Shutdowns und Netzsperren sowie digitale Überwachung zu den staatlichen Repressionen, die die Bürgerinnen und Bürger dieser autoritären Regime in ihren eigenen Ländern erfahren. Die Einschränkungen von Bürgerrechten im digitalen Raum haben nicht nur Folgen für die eigene Bevölkerung, sondern weit über die Landesgrenzen hinaus. Folglich bedarf es eine international koordinierte Digitalpolitik, um diesen Herausforderungen zu begegnen. Das Treffen der G7-Digitalminister:innen in Düsseldorf bietet eine hervorragende Plattform für die Abstimmung im Hinblick auf eine globale digitale Weltordnung.

Spätestens seit der Bundestagswahl 2017 diskutieren wir hierzulande die Gefahr, die von Desinformationen ausgeht. Obgleich wir uns bewusster werden, sind wir uns der Gefahren durch gezielte staatliche Desinformationskampagnen und strategische Informationskampagnen noch immer nicht genügend bewusst – geschweige denn dagegen gewappnet. Dennoch wirken wir als Politik und Zivilgesellschaft beständig daraufhin, dass Social-Media-Plattformen sich ihrer Verantwortung bewusst werden. Wir fordern, dass sie Maßnahmen gegen solche Kampagnen ergreifen und beispielsweise gezielt Netzwerke, die diese Desinformationen verbreiten, ausschalten oder dafür sorgen, dass ihre Algorithmen Desinformationen nicht weiter verbreiten. Wir sind mit den rechtlichen Vorgaben, zum Beispiel durch den Digital Services Act (DSA), noch ganz am Anfang. Doch der bisherige politische und gesellschaftliche Druck zeigte bereits Wirkung und Besuche der Facebook-Whistleblowerin Frances Haugen in europäischen Parlamenten taten ihr Übriges.

Als Europäer:innen haben wir das Glück, dass wir aufgrund unserer wirtschaftlichen Relevanz und unseres politischen Gewichts bei diesen Plattformen Gehör finden und entsprechenden Druck ausüben können – nicht nur durch Gesetzgebungen. In Ländern wie Myanmar, Äthiopien oder ganz aktuell den Philippinen, sieht dies leider anders aus. Nicht nur, dass hier seit Jahren Desinformationen, Hate Speech und Trollnetzwerke einen demokratischen Diskurs im Digitalen vollkommen unmöglich machen und dies vor allem autoritären Herrschern und Regimen in die Hände spielt. Schlimmer noch: solche Desinformationen und unkontrollierte Hasssprache schürt und verschärft bestehende Konflikte – bis hin zum Genozid, wie an den Rohingya in Myanmar. All dies passiert auch, weil Plattformen weder auf die dort gesprochenen Sprachen ausreichend trainierte algorithmische Systeme haben, die schädliche Inhalte erkennen und vorsortieren könnten – ein Thema, das auch bei uns in Europa mit unseren vielen kleinen Sprachen von höchster Relevanz ist. Noch beschäftigen sie ausreichend Content-Moderator:innen, die die betreffenden Inhalte entsprechend bewerten und nach den eigenen Community-Richtlinien entfernen könnten. Es sollte in unserem Interesse sein, dass Plattformen nicht nur ihre eigenen Standards weltweit durchsetzen, sondern sich auch für den Schutz von Menschenrechten in ihren Netzwerken einsetzen. Das kann durch legislativen Druck, wie den DSA gehen, der hoffentlich global wirken wird. Das muss aber auch durch gesellschaftlichen Druck passieren. Welche realen Auswirkungen Desinformationen und Hate Speech haben kann, können wir hierzulande nicht nur intensiv seit der Corona-Pandemie sehen. Wir sehen es auch ganz deutlich seit der russischen Besetzung der Krim bis hin zum immer noch andauernden Angriffskrieg Russlands auf die Ukraine in unserer unmittelbaren Nachbarschaft.

Russland fördert und verbreitet gezielte Desinformationen und Verunsicherung im Ausland und damit auch bei uns. Eine der größten Fehden im Informationskrieg wird allerdings gegen die eigene Bevölkerung geführt: nebst der Staatspropaganda aus der Duma soll die russische Bevölkerung möglichst keine faktenbasierten Informationen bekommen. Das Putin-Regime zensiert nicht nur die freie Presse, sondern auch ganz das Internet. Facebook und Instagram sind verboten, Twitter ist gesperrt, der Kurzvideodienst TikTok ist in Russland auf dem Vor-Kriegsstand eingefroren. Das russische Regime bereitet schon seit Jahren weitreichendere Maßnahmen vor: Der Kreml versucht ein eigenes russisches Internet zu kreieren und das Land vom weltweiten offenen und freien Internet abzukapseln. Das gelingt Russland nicht so durchgreifend wie China, das mit seiner Great Firewall die eigene Bevölkerung seit Jahren erfolgreich vom Rest der Welt abschirmt und jegliche Kommunikation, insbesondere Kritik an der Kommunistischen Partei, zensiert. Kritiker:innen werden in Windeseile identifiziert, aufgespürt – und verschwinden.

Beide Staaten treiben die Zersplitterung des Internets, das sogenannte “Splinternet” intensiv voran. Doch die staatliche Kontrolle des Internets und der digitalen Inhalte ist kein Alleinstellungsmerkmal von autoritären Regimen, die damit das Ziel verfolgen, ihre Bevölkerung komplett zu überwachen. Zu häufig lassen sich demokratische Staaten – auch die Europäische Union – dazu verleiten, Überwachungstechnologien zur Durchsetzung vermeintlich edler Motive zu adaptieren. Nicht umsonst wurden Digitalgesetze auch aus Europa vom früheren UN-Sonderberichterstatter für Meinungsfreiheit, David Kaye, scharf kritisiert, was hierzulande allerdings nur auf wenig Gehör stieß. Wenn unser Interesse eine wertebasierte Digitalisierung ist, müssen wir solche Kritik künftig ernster nehmen, um ein Vorbild sein zu können. Denn auch liberale Demokratien sind nicht davor gefeit, Freiheits- und Menschenrechte stückchenweise, und häufig unbemerkt, zu beschränken.

Die Bundesregierung hat sich in den Koalitionsvertrag geschrieben, dass sie sich für eine aktive digitale Außenpolitik und ein offenes, globales Internet einsetzen will. Damit zeigt die Ampelkoalition, dass sie erkannt hat, dass wir nicht nur Interessen im digitalen Raum haben, sondern diese auch aktiv vertreten werden müssen. Das G7-Digitalminister:innentreffen in Düsseldorf unter der deutschen Präsidentschaft kann nur ein Auftakt sein, um hier als Politik und Gesellschaft entschlossener und strategischer vorzugehen. Der Krieg gegen die Ukraine und die Abstimmungen bei den UN zeigen deutlich, dass Abhängigkeiten gegenüber autoritären Regimen etwas entgegengesetzt werden muss – auch im Digitalen. Das Engagement der G7 oder jener demokratischen Staaten, die jüngst die Erklärung für die Freiheit des Internets unterschrieben haben, ist dafür unerlässlich. Doch schlussendlich braucht es eine Allianz gegen den “digitalen Autoritarismus”, die die Länder des Globalen Südens einschließt und deren Interessen berücksichtigt. Daher ist es sinnvoll – bei aller notwendigen Kritik an der Modi-Regierung – dass Bundeskanzler Olaf Scholz gerade Indien zum G7-Gipfel im Juni auf Schloss Elmau eingeladen hat.

Das Treffen der Digitalminister:innen der G7 muss deutlich machen, dass wir die Gefahr des “digitalen Autoritarismus” ernst nehmen und wir erkennen, dass es nicht nur unser Interesse, sondern auch unsere Verantwortung ist, in Zusammenarbeit mit Partnern des Globalen Südens einen vertrauenswürdigen, sicheren und gleichzeitig offenen und freien digitalen Raum zu kreieren, von dem alle wirtschaftlich und gesellschaftlich profitieren können. Daher ist es richtig, dass im Digital Track der G7 ein Fokus auf die Konnektivität und den fairen Wettbewerb gelegt wird, der Cyber-Kapazitätsaufbau vorangetrieben und Ungleichheiten wie dem “digital divide” entgegengewirkt werden soll. Damit einhergehend ist wichtig, dass der sichere grenzüberschreitende Austausch von Daten gerade mit den Ländern des Globalen Südens möglich gemacht wird. Der Stärkung eines verantwortlichen Verhaltens von Staaten im Cyberraum kommt dieser Tage nochmals eine besondere Bedeutung zu.

Eine Zeitenwende verlangt, dass Deutschland eine neue Rolle in der Welt einnimmt. Dass wir stärker global Verantwortung übernehmen und uns sowohl dieser, als auch unserer eigenen Interessen bewusst sind. Wir mögen noch eine Weile über uns selber spotten, dass das Internet für uns “Neuland” wäre. Aber das ist es schon längst nicht mehr. Deutschland und die Europäische Union gelten als Vorreiter bei der digitalen Gesetzgebung – die Europäische Datenschutzgrundverordnung baute auf dem deutschen Bundesdatenschutzgesetz auf, der DSA lernte vom deutschen NetzDG (und wiederholt nicht dessen Fehler) und vom Medienstaatsvertrag. Wir müssen im Interesse aller dazu einladen, gemeinsam für einen besseren – das heißt freien, offenen, demokratischen und menschenrechtsbasierten – digitalen Raum einzutreten. Frei von Überwachung und Zensur. Denn all das ist die Grundlage für Demokratien heute und morgen. Dass die Menschen weltweit danach verlangen und streben, sehen wir an den bewundernswerten Menschen in Hongkong, Belarus und der Ukraine. Demokratie ist uns nicht gegeben, sie ist uns aufgegeben.

Tobias B. Bacherle MdB ist Obmann für Bündnis 90/DIE GRÜNEN im Ausschuss für Digitales.

Armand Zorn MdB ist Mitglied für die SPD im Ausschuss für Digitales.

Ann Cathrin Riedel ist FDP-Mitglied und Vorsitzende von LOAD e.V. – Verein für liberale Netzpolitik.

Dieser Gastbeitrag erschien zuerst bei watson.

Expertinnen-Statement für den D21 Index 2021/22 zur Lage der digitalen Gesellschaft

Die Nutzung sozialer Medien durchdringt mittlerweile alle Teile der Gesellschaft und nimmt einen immer größeren Raum in unserer alltäglichen Kommunikation und Information ein. Doch Phänomene wie Hass, Hetze und gezielte Desinformationen dort stellen uns auch vor immense Herausforderungen. Eines ist klar: Tech-Konzerne brauchen Tech-Regulierung. Leider fokussieren wir uns in Deutschland bei der Diskussion um die Regulierung von Social-Media-Plattformen – insbesondere, um Maßnahmen gegen Hass und Hetze zu ergreifen – zu sehr auf die Inhalte. Natürlich sind Inhalte ein wichtiger Faktor. Sind sie es doch, die die Morddrohungen, Beleidigungen und rassistische Hetze transportieren.

Nur kommen wir niemals auf einen grünen Zweig, wenn wir uns ausschließlich mit der Regulierung von Inhalten beschäftigen. Sprache und Meinung sind nicht nur kompliziert – gerade, wenn es um die häufig diffizile Bewertung geht, was noch rechtmäßige Meinungsäußerung ist und was nicht. Es werden auch sekündlich viel zu viele Inhalte ins Netz gestellt, als dass wir sie alle adäquat prüfen könnten. Das heißt nicht – nochmal in aller Deutlichkeit –, dass uns diese Inhalte nicht kümmern sollten. Der Rechtsstaat muss unbedingt durchgreifen und VerfasserInnen müssen sich vor Gericht für ihre mutmaßlich rechtswidrigen Inhalte verantworten.

Warum daher der Fokus auf TechRegulierung?

Das Problem bei Social-Media-Plattformen ist vor allem, dass sie Hass und Hetze, Desinformationen und Verschwörungserzählungen durch ihre algorith- mischen Systeme verstärken und damit den Men- schen gezielt zuspielen. Zudem haben sie oftmals nur ungenügende Mechanismen, um die Rechte der NutzerInnen zu stärken, wenn Inhalte unrechtmäßig entfernt oder Accounts gesperrt wurden. Starre Fristen und Zeitdruck erschweren in Deutschland das sorgfältige Abwägen, bei welchen Inhalten und Accounts eine Blockierung legitim ist und wo nicht. So kommt es auch immer wieder zum sogenannten »Overblocking«. Das Reaktivieren solcher Beiträge oder NutzerInnen-Konten ist ein langwieriger und mühseliger Prozess. Deshalb brauchen wir gerade im Digitalen eine Gesetzgebung, die Strukturen, Prozesse und Verbraucherrechte in den Fokus nimmt.

Das wird der Digital-Service-Act (DSA), so scheint es gerade, gut umsetzen. Damit er kein zahnloser Tiger wird, ist es wichtig, dass wir uns in der gesellschaftlichen und politischen Debatte stärker mit ihm beschäftigen. Wer über notwendige Regulierung wegen Hass und Hetze auf Telegram und in sozialen Netzwerken spricht, darf daher das Gesetzeswerk aus Brüssel nicht ignorieren. Die Europäische Union wird mit dem DSA globale Standards setzen und im besten Falle darin unterstützen, dass sich weltweit Hass und Hetze weniger verbreiten.

Dieser Text erschien als Expertinnenstatement im D21 Index zur Lage der digitalen Gesellschaft der Initiative D21.

Die schleichende Gefahr – Zum Umgang mit Desinformationen

Desinformationskampagnen – teilweise aus dem Ausland lanciert – zielen darauf ab, den gesellschaftlichen Zusammenhalt und die Demokratie als solche zu zerrütten. Gerade in Wahlkampfzeiten wird das zum Problem. Ann Cathrin Riedel erklärt, wie der Staat und wir als Gesellschaft dem begegnen können – und wirft dabei auch einen Blick nach Asien.

„Für ein Land, in dem wir gut und gerne leben” – ist da auf einem Plakat der SED zum XI. Parteitag zu lesen. Hat die CDU etwa ihren Wahlkampfslogan zur Bundestagswahl 2017 ausgerechnet von der SED kopiert? Zumindest suggerierte das ein zusammengeschnittenes Bild beider Plakate, die vor der letzten Bundestagswahl im Internet herumgereicht wurde. Vielleicht haben Sie dieses Bild auch gesehen, vielleicht sogar weitergeleitet. Dabei sind Sie allerdings auf eine Desinformation hereingefallen. Denn das Bild ist manipuliert und nicht echt.

Fake News vs. Desinformation – über unbewusste Fehler und bewusst falscher Information

Desinformationen sind kein neues Phänomen. Sie waren auch 2017 nicht neu. Vielmehr waren Desinformationen und Propaganda schon immer Mittel der politischen Auseinandersetzung. Oder wie Hannah Arendt es in ihrem lesenswerten Essay Die Lüge in der Politik schrieb: „Wahrhaftigkeit zählte niemals zu den politischen Tugenden, und die Lüge galt immer als ein erlaubtes Mittel in der Politik.” Lügen, das ist etwas das man bewusst tut; ebenso wie das in die Welt setzen einer Desinformation. Deswegen sollte auch dieser Begriff dringend dem inflationär gebrauchten, undifferenzierten und zur Diskreditierung der freien Presse verwendeten Begriff Fake News vorgezogen werden. Denn fake beziehungsweise falsch können Informationen oder Nachrichten auch einfach durch Nachlässigkeit oder neuere Erkenntnisse sein. Fehler passieren den Besten. Nur: Fehler werden von Journalistinnen oder Politikern bestenfalls korrigiert. Schließlich gab es hier nie die Intention bewusst falsch zu informieren. Anders ist dies eben bei Desinformationen. Entweder werden Informationen bewusst gefälscht oder sie werden in falsche Zusammenhänge gestellt. Beides zielt darauf ab, Schaden zuzufügen: Sei es, um eine gesellschaftliche Spaltung herbeizuführen oder einzelne Personen zu degradieren. Wenn wir etwas gegen Desinformationen unternehmen wollen – und das müssen wir! – ist es unerlässlich, dass wir die richtigen Begrifflichkeiten für diese Phänomene verwenden.

Lange vor dem diesjährigen Wahlkampf hätten wir etwas gegen die massenhafte Verbreitung von und Manipulation durch Desinformationen unternehmen müssen. Aber weder war der Druck auf die Unternehmen – vornehmlich soziale Medien und Messengerdienste, auf denen sie verbreitet werden – noch der Druck auf die Politik groß genug. Desinformationen sind nicht nur für Wahlen ein Problem. Sie erschüttern – und genau das ist ihr Sinn und Zweck – das Vertrauen in Institutionen, Parteien, ja die Demokratie als solche; und das schleichend und langfristig.

Verbote und mehr Bildung sind zu kurz gegriffen

Wer aber denkt, man müsse Desinformationen mit Verboten begegnen, der tut der Demokratie ebenfalls keinen Gefallen. Dies würde das Handeln autoritärer Staaten legitimieren, die in gleicher Weise angeblichen Desinformationen begegnen wollen. So gefährlich Desinformationen auch sind: In der Regel sind sie nicht illegal. Natürlich kann man auch wieder die – sicherlich nicht falsche – Plattitüde von es braucht mehr Bildung aufsagen. Nur ist dies zum einen viel zu kurz gegriffen: Bildungsangebote richten sich zumeist nur an junge Menschen, die noch zur Schule gehen. Jedoch sind gerade Ältere eher empfänglich für Desinformationen, da sie ein gefestigteres Weltbild haben und Desinformationen genau diese häufig ansprechen. Zum anderen fehlen auch grundsätzliche Erkenntnisse in der gesellschaftlichen Debatte, ohne die eine holistische und nachhaltige Lösungsfindung nicht möglich sein wird. Ausgehend von der Annahme, dass Desinformationen nur ein Problem zu Wahlkampfzeiten sind, möchte ich dies im Folgenden anhand von drei Beispielen illustrieren.

Messengerdienste: Vertraute Umgebungen, aber keine vertrauenswürdigen Informationen

Ja, die sozialen Netzwerke sind ein Problem. Diese sozialen Netzwerke, insbesondere Facebook, Twitter und YouTube bemühen sich aber zumindest auf Basis ihrer immer wieder angepassten Gemeinschaftsstandards Desinformationen aus ihren Netzwerken zu verbannen. Insbesondere die Covid-19-Pandemie hat dazu beigetragen, dass sie die Bekämpfung von Desinformation endlich ernst nehmen. Hier ist bei weitem nichts perfekt. An dieser Stelle näher auf die Problematik der sozialen Netzwerke und deren notwendige Regulierung einzugehen würde jedoch zu weit führen. Ich möchte den Blick vielmehr auf andere, vollkommen unterschätzte Plattformen richten, die zur Verbreitung von Desinformation immer stärker genutzt werden: Messengerdienste wie WhatsApp und Telegram.

Das anfangs genannte Beispiel des manipulierten SED-Plakats haben vielleicht auch Sie von Freunden weitergeleitet bekommen oder in einer Gruppe mit Sport- oder Parteifreunden gesehen. Vielleicht haben Sie es daraufhin sogar selber weitergeleitet, weil es Sie aufgewühlt hat oder Sie es witzig fanden. Auf Messengern funktioniert die Weiterleitung nicht nur schnell und problemlos – wir kommunizieren dort auch hauptsächlich mit Menschen, die wir persönlich kennen. Oder denen wir zumindest vertrauen – schließlich sind sie beispielsweise in der gleichen Ortsgruppe der eigenen Partei. Das heißt, wir bekommen dort meist nicht von Fremden Inhalte zugespielt, bei denen wir vielleicht eher noch hinterfragen, ob der Inhalt wirklich echt ist. Wir setzen vielmehr unterbewusst voraus, dass die Person, den Inhalt, den sie weitergeleitetet, sicher geprüft oder mindestens aus einer vertrauenswürdigen Quelle erhalten hat. Da Messenger also eine Plattform sind, auf denen man mit vertrauten Personen umgeht, ist der Einfluss dort geteilter Inhalte umso größer. Daher ist es gerade in Messengern – und vor allem in Gruppen – umso wichtiger, dass Widerspruch eingelegt wird. Auch hier wird häufig gezögert aufgrund der sozialen Verbindungen, gegebenenfalls auch Hierarchien. Doch genau hier setzt Ihre Verantwortung als Demokrat ein: Weisen Sie darauf hin, wenn krude Inhalte geteilt werden. Widerspruch kann man freundlich und wertschätzend einlegen – er ist notwendig!

Frauen im Visier von bewusst falschen Informationen

Nicht so intim und vertraut sind Gruppen oder Kanäle, wie wir sie auf Telegram finden. Der Messenger ist besonders durch die „Querdenken“-Bewegung bekannt geworden. Gerade dort werden zunehmend volksverhetzende und andere strafbare Inhalte geteilt. Denken Sie bitte daran, dass Sie solche Inhalte anzeigen können und sollten. Nutzen Sie dazu auch die Unterstützung der Organisation HateAid.

Mit Desinformationen, die auch häufig strafbar sind, weil sie den Ruf einer Person schädigen, hat vor allem eine gesellschaftliche Gruppe zu kämpfen: Frauen. Dass es bei digitaler Gewalt und Desinformationen, die Personen betreffen, einen Unterschied macht, welches Geschlecht man hat, ist eindeutig. Nicht nur Aktivistinnen und Journalistinnen werden hier Opfer, sondern auch Politikerinnen. Studien zeigen dies: von der Kommunalpolitikerin, die sich aufgrund der zunehmenden Angriffe nicht mehr engagieren und äußern kann (!) bis hin zur Kanzlerkandidatin Annalena Baerbock. Man muss wahrlich kein Fan von den Grünen oder der Kanzlerkandidatin selbst sein, um hier für einen fairen Umgang miteinander und einen fairen Wahlkampf einzutreten. Wenn man dies nämlich nicht tut, haben die Absender der Desinformation gewonnen. Sie führen die Spaltung der Gesellschaft herbei; einer Gesellschaft, die nicht mehr bereit ist, für demokratische Grundüberzeugungen einzutreten und auf dem Demokratie-Spielfeld zu bleiben.

„Frau Baerbock stellt sich aber auch an, eine Kanzlerkandidatin muss so etwas aushalten können”, hört man regelmäßig landauf, landab. Und selbstverständlich: Wer für das zweithöchste Amt dieses Landes antritt, muss einiges aushalten, doch auch das hat Grenzen. Eben, wenn es sich um Desinformation handelt. Vieles bekommen die meisten Menschen nicht mit, weil es sich in Netzwerken verbreitet, die von außen nicht einsehbar sind – ich erwähnte nicht umsonst zuerst die Messengerdienste. Doch nur weil die meisten es nicht mitbekommen, heißt es nicht, dass solche geschlechtsbezogenen Desinformationen nicht existieren und Schaden anrichten.

Dass manipulierte Nacktfotos von Olaf Scholz oder Armin Laschet aufgetaucht sind, davon haben Sie sicher noch nie gehört. Sie existieren auch nicht. Wohl aber von Annalena Baerbock. Ebenso hat eine Untersuchung des Spiegels gezeigt, dass Annalena Baerbock im Gegensatz zu ihren beiden männlichen Kontrahenten im Netz deutlich stärker mit Hass überschüttet wird. Unter den ausgewerteten Beiträgen von Inhalten auf Facebook entfallen 63.000 auf die Kandidatin der Grünen, 21.000 auf Armin Laschet und gerade mal 4.000 auf Olaf Scholz. Hass gegen Frauen ist dabei kein Problem, dass nur Frauen des linken Spektrums erfahren. Politikerinnen der Unionsparteien sind davon ebenso heftig und regelmäßig betroffen. Staatsministerin Dorothee Bär und das CDU-Bundesvorstandsmitglied Wiebke Winter sprechen regelmäßig öffentlich über das, was ihnen widerfährt. Dabei ist auch ganz klar zu benennen: Die Täter kommen hauptsächlich von rechts.

Emotionale Erregung als Zündstoff für Verbreitung

Warum verbreiten sich diese Desinformationen so gut – vor allem über Messengerdienste? Weil sie, wie schon erwähnt, gefestigte Weltbilder adressieren und unsere Emotionen ansprechen. Warum haben Sie, falls Sie es getan haben, den CDU-SED-Wahlplakat-Vergleich weitergeleitet? Entsetzen? Verwunderung? Wut? Häme? Dass Sie sich von Emotionen haben verleiteten lassen, soll gar kein Vorwurf sein. Vielmehr ist es ein mehr als natürliches und menschliches Verhalten. Nur müssen wir vielmehr auf unsere Emotionen achten, wenn wir Inhalte zugesendet bekommen. Vor allem bei überwältigenden Emotionen müssen wir noch einmal extra überlegen, ob so etwas denn wirklich sein kann, bevor wir Inhalte weiterleiten.

Doch wer starke Emotionen fühlt, dem ist schwer mit Fakten zu begegnen. Oder haben Sie schon einmal versucht, einem Freund mit Liebeskummer mit Fakten beizukommen? Emotionen brauchen eine Antwort, die die angesprochenen Emotionen ernst nimmt und diese berücksichtigt. Wenn wir also regelmäßig nach mehr Bildung und weiteren Faktenchecks verlangen, dann ist dies nur eine ungenügende Antwort auf Desinformation gleichermaßen. Zugleich ist beides nicht verkehrt. Gerade Faktenchecks können Menschen ein argumentatives Rüstzeug geben, wenn sie sich am Abendbrottisch oder in der Familien-WhatsApp-Gruppe mit Menschen auseinandersetzen müssen, die Desinformationen anheimgefallen sind.

Doch wie sieht eine Antwort aus, die die Emotionen adressiert, die durch Desinformationen angesprochen wurden? Ich sage es ehrlich: Ich weiß es nicht. Ich sagte am Anfang, dass wir dringend bestimmte Erkenntnisse zugrunde legen müssen, um darauf aufbauend, eine gute und produktive Debatte zum Umgang und zur Bekämpfung von Desinformation führen zu können. Dies ist eine davon – nebst den zwei weiteren von mir genannten. Natürlich snd auch diese drei nicht abschließend. Aber wir müssen unsere Debatte und unsere Forschung besser machen, beziehungsweise ausstatten, um mit einem Problem, das größer und dauerhafter werden wird, umzugehen.

Auch hilft ein Blick ins Ausland: Taiwan hat sehr mit Desinformationen aus China zu kämpfen. In den einzelnen Ministerien sitzen daher Comedians, um humoristische Inhalte zum Kontern zu entwickeln. „Wer lacht, hat keine Angst”, pflegt die taiwanesische Digitalministerin Audrey Tang zu sagen. Für Humor sind wir Deutschen zwar nicht unbedingt bekannt, und auch wenn Demokratie sicherlich kein Witz ist: Wir sollten Desinformationen ernst genug nehmen, um unsere Demokratie auch durch guten Humor zu schützen.

Ann Cathrin Riedel ist Vorsitzende von LOAD e.V. – Verein für liberale Netzpolitik. Als Themenmanagerin bei der Friedrich-Naumann-Stiftung für die Freiheit beschäftigt sie sich auf globaler Ebene mit den Themen Digitalisierung und Innovation. Sie wurde vom Capital Magazin als Top 40 unter 40 in der Kategorie „Wissenschaft und Gesellschaft“ ausgezeichnet. Für die Bundestagswahl 2021 tritt sie für die Freien Demokraten in Berlin Friedrichshain-Kreuzberg an.

Dieser Beitrag erschien zuerst bei CIVIS mit Sonde, Ausgabe 2/2021

Gastbeitrag zum Liberalismus bei ZEIT Online: Was das Tiananmen-Massaker mit Pornoseiten zu tun hat

Wie macht man Menschen begreifbar, was Freiheit im Netz bedeutet? Warum Bürger- und Menschenrechte die Grundlage für die Digitalisierung sein müssen und nichts drängender ist, als diese auch im Digitalen zu schützen? Auf Warnungen hinzuweisen von UN-Sonderberichterstattern für Meinungsfreiheit, die die Gesetzgebung in Deutschland und Europa, zum Beispiel beim Netzwerkdurchsetzungsgesetz und der EU-Urheberrechtsrichtlinie kritisieren, habe ich versucht. Mit Verweisen auf die Freiheitskämpferinnen und -kämpfer in Hongkong und Belarus, die auf sichere, verschlüsselte Messenger angewiesen sind, ebenfalls. Aber das Thema, bei dem man plötzlich die volle Aufmerksamkeit hat, ist: Pornos.

Freiheit spürt man erst, wenn sie weg ist
Gleich zwei Pornowebsites sind unter den 25 meistbesuchten Seiten Deutschlands, auch wenn natürlich nie irgendwer drauf geklickt haben will. Pornos und der Zugang zu ihnen haben also eine gesellschaftliche Relevanz. Und gleichzeitig immer noch ein Schmuddel-Image. Deshalb versteht plötzlich an diesem Beispiel jede und jeder, warum Datenschutz, Anonymität und freier Zugang zum Netz so wichtig sind. Denn irgendwie wollen ja doch viele Pornos gucken – und sollen es auch können (unter Einhaltung der Jugendschutzgesetze) –, aber eben ohne, dass irgendjemand weiß, was man gerne guckt, wo und wie lange.

Freiheit spürt man häufig erst dann, wenn sie einem genommen wird. In Russland fiel die Zensur vielen erst auf, als die russische Medienaufsicht Roskomnadzor die zwei beliebtesten Pornoseiten im Land sperrte. In einem Talk auf der Konferenz für Menschenrechte im Digitalen, der RightsCon, veranstaltet von der Friedrich-Naumann-Stiftung, berichtete der russische Journalist Andrej Soldatow, dass die Menschen erst durch diese Sperre bemerkten, wie wichtig und nützlich ein VPN-Zugang ist – und wie wertvoll ein Internet ohne Zensur.

Nun ist Freiheit viel mehr als der Zugang zu Pornografie. Aber Sie merken, worum es geht. Solange Sie nichts Illegales tun, geht es niemanden etwas an, was Sie tun. Freiheit, das bedeutet auch, die Freiheit vor Überwachung, der freie Zugang zu Information und das Recht auf informationelle Selbstbestimmung.

Auch wenn der Datenschutz hierzulande bisweilen nach Bedenkenträgerei klingt: Warum er wichtig ist – und Freiheitsrechte sichert –, zeigt sich im Kleinen und Alltäglichen. Und in der Weltpolitik, im Umgang mit autoritären Systemen.

In der Corona-Pandemie hat Deutschland einiges geleistet, worauf wir stolz sein könnten. Wir haben es beispielsweise geschafft, eine Corona-Warn-App zu entwickeln, die funktioniert. Lassen Sie sich bitte nichts anderes erzählen! Es ist eine App, die eben nicht den einzelnen Menschen und sein Verhalten ganz genau trackt und deren Daten dann doch zu anderen Zwecken verwendet werden, wie es etwa in Singapur passierte. Dort darf nun doch die Polizei auf die Bewegungsprofile der Nutzerinnen und Nutzer zugreifen. Das Grundrecht auf informationelle Selbstbestimmung, garantiert unter anderem durch die Datenschutzgrundverordnung, ist auch in Zeiten einer Pandemie wichtig.

Ich gebe zu, ich bin in einer privilegierten Situation. Ich habe keine Kinder und musste mich nicht mit nicht funktionierenden Lernplattformen, Schul-Clouds und Videoplattformen, die zwingend DSGVO-konform sein müssen, herumschlagen. Und ich verstehe wirklich jeden, den das alles unglaublich wütend macht. Ehrlich. Nur ist nicht der Datenschutz schuld daran, dass vieles nicht läuft. Es ist die seit 20 Jahren verschleppte Digitalisierung unseres Bildungswesens, des Gesundheitswesens und der Verwaltung. Eine leistungsstarke digitale Infrastruktur geht auch mit Datenschutz.

Chinas Zensur wirkt schon jetzt global
Während wir auf die DSGVO schimpfen, ist uns kaum bewusst, dass sie mittlerweile Vorbild ist. Kenia kopiert sie, auch Chile und Japan haben wie viele andere Länder eine ganz ähnliche Gesetzgebung eingeführt. Auch die USA, insbesondere Kalifornien, setzen immer mehr auf Datenschutz und Privatsphäre. Wer in der Europäischen Union mit seinen digitalen Produkten auf den Markt kommen möchte, muss sich an die DSGVO halten. Europa hat global Strahlkraft. Mit dem Digital Markets Act und dem Digital Services Act sind zwei Gesetze in Arbeit, die hoffentlich eine ähnliche Wirkung haben werden.

Freiheit im Netz wird wichtiger. Und datenschutzkonforme Tools in der Schule sind zentral. Denn einmal implementiert, gehen sie nicht mehr weg. Hier geht es nicht um die Schulaufgaben der 5b, die sich die NSA angucken könnte. Hier geht es um biometrische Daten von Kindern, die aufgezeichnet, verarbeitet und gespeichert werden können – ohne dass wir das wissen. Und ohne dass wir das wirklich kontrollieren können, denn wir können sehr häufig nicht in den Quellcode der Software hineingucken. Wir wissen auch nicht, was mit diesen Daten vielleicht irgendwann mal passiert, wo sie landen und welche Restriktionen die Kinder irgendwann mal als Erwachsene erfahren, weil Daten falsch interpretiert oder kombiniert werden.

China darf nicht die Standards setzen
Wir müssen heute Bürger- und Menschenrechte im digitalen Raum schützen, um auch morgen in Freiheit leben zu können. Als Liberale wünsche ich mir möglichst wenig Regulierung. Aber ich sage auch als Liberale deutlich: Es geht nicht ohne. Unsere größte Herausforderung besteht darin, unsere analogen Prinzipien in die digitale Welt zu übertragen. Regulierung zu schaffen, die das Recht auf Meinungs- und Informationsfreiheit schützt. Die Märkte fair und sozial macht, zum Beispiel durch die Besteuerung von großen Techkonzernen. Oder den Wettbewerb ermöglicht und Monopolbildungen entgegenwirkt.

Der Soziologe Andreas Reckwitz beschreibt in seinem Essay über die Krise des Liberalismus einen Paradigmenwechsel. Der apertistische, also der öffnende, Liberalismus wird zum einbettenden. Dominierten bis zuletzt die Dynamiken der Märkte und der Globalisierung, werden diese nun nicht eliminiert, sondern in neu zu schaffenden Rahmenbedingungen eingehegt. Dem Mangel an Ordnung wird mit neuen Formen der Regulierung begegnet. Das gilt auch fürs Netz.

Wenn wir es nicht machen, setzen global andere die Standards. Vor wenigen Tagen wurde an das Tiananmen-Massaker erinnert, das zweite Jahr in Folge online. Solche Mahnwachen sind in der Volksrepublik China nicht möglich. Auch nicht digital hinter der chinesischen Firewall. 2020 sollten einige Mahnwachen auf der Videokonferenzplattform Zoom stattfinden. Drei davon wurden von Zoom auf Bitten der chinesischen Regierung gecancelt. Das Unternehmen sperrte sogar die Accounts der Veranstalterinnen und Veranstalter, obwohl diese alle außerhalb Chinas ansässig waren; vier von ihnen sogar in den USA.

Das US-Justizministerium leitete eine Untersuchung ein und erhob Anklage. Zoom gestand ein, dass die Zensurvorgaben Chinas keine Auswirkungen auf Menschen außerhalb der Volksrepublik haben dürften und dass das Unternehmen diesbezüglich „versagt“ habe. Dieses Jahr funktionierte die Mahnwache über Zoom. Die Angst, dass wieder unrechtmäßig auf chinesischen Druck zensiert wird, bleibt.

Der Staatstrojaner untergräbt Deutschlands Glaubwürdigkeit
Der Einfluss Chinas ist längst weltweit spürbar. In diesem Jahr klagten Nutzerinnen und Nutzer der Suchmaschine Bing von Microsoft darüber, dass sie am Jahrestag des Massakers unter dem Suchwort „tank man“ kein einziges Bild von dem chinesischen Mann finden konnten, der sich vor die Panzer auf dem Tiananmen-Platz stellte. Bing ist eine der wenigen westlichen Suchmaschinen, die auch in China operieren und sich dort den Zensurvorgaben unterwerfen. Es sei ein „versehentliches menschliches Versagen“ gewesen, dass die chinesischen Filtervorgaben auch außerhalb Chinas griffen. Dass das innerhalb weniger Tage behoben wurde, beruhigt nicht. Schließlich merken wir in vielen Fällen womöglich nicht mal, wenn ein digitales Tool zensiert wird – und sei es aus Versehen.

Europa muss Antworten geben, um die Freiheit in einer digital transformierten Welt zu schützen; um liberale Demokratien an sich zu schützen. „Die größten Demokratien der Welt werden eine hochwertige Alternative zu China für die Modernisierung der physischen, digitalen und gesundheitlichen Infrastruktur bieten, die widerstandsfähiger ist und die globale Entwicklung unterstützt“, schrieb US-Präsident Joe Biden kürzlich in einem Gastbeitrag für die Washington Post. Genau das sollte die gemeinsame Aufgabe sein.

Deutschland ist eine vertrauenswürdige Verteidigerin der Freiheit. Dazu muss aber auch jeder und jede Einzelne den unschätzbaren Wert der Freiheit in allem erkennen – und das nicht nur dann, wenn es um Pornos geht. Glaubwürdig können wir nur bleiben, wenn wir nicht gleichzeitig verfassungsrechtlich bedenkliche Gesetze verabschieden, die die Freiheit im Digitalen unterminieren: den Staatstrojaner etwa, die Vorratsdatenspeicherung oder die Netzsperren. Innovation und Bürgerrechte miteinander in Einklang zu bringen, das kann gelingen. Und dann wird Freiheit – ganz nach Hannah Arendt – auch im Netz weltliche Realität.

Dieser Gastbeitrag erschien am 21. Juni 2021 auf ZEIT Online

Warum Sie ab jetzt besser „Desinformation“ sagen sollten

Sprechen Sie noch von “Fake News”? Lassen Sie das ab jetzt besser sein. Nicht nur, weil dieser Begriff vorrangig dadurch geprägt wurde, dass man mit ihm die freie Presse diskreditiert hat. Er unterschlägt auch die Bedeutung des Problems, das man eigentlich adressieren möchte: Desinformation. Desinformationen haben einen gravierenden Unterschied zu “falschen Nachrichten”, wie man “Fake News” übersetzen würde. Sie wollen Gesellschaften spalten und destabilisieren. “Falsche Nachrichten” oder “Falschinformationen” hingegen nicht. Ihnen begegnen wir sowohl im politischen Diskurs, als auch in den Medien. Allerdings werden sie nicht mit der Intention platziert, Schaden zu verursachen. Sie werden außerdem regelmäßig korrigiert – und das macht den entscheidenden Unterschied.

Dass politische Diskurse oder gar Wahlen mithilfe von Desinformationen manipuliert werden bzw. werden sollen ist kein neues Phänomen, das erst mit den sozialen Medien aufkam. Informationskriege und Propaganda gibt es seit Menschengedenken. Und doch ist die Intensität dieser, gerade auch durch die weltumspannende Vernetzung, die fehlenden Gatekeeper und die rasante Geschwindigkeit eine ganz neue Herausforderung – auch für liberale Demokratien. Die Gefahr von Desinformation droht leider nicht nur von außerhalb, sondern auch von innen. Alleine die vergangenen Wahlkämpfe in Brasilien und den Vereinigten Staaten haben uns dies vor Augen geführt. Eine Herausforderung, vor der auch wir in Deutschland im Superwahljahr stehen.

In den USA konnten wir sehen, wie der damalige US-Präsident Donald Trump diverse Desinformationen kreierte, oder mindestens befeuerte. Eine Herauszuhebende ist die, dass die Briefwahl manipuliert werden würde bzw. im Nachgang der Wahlen wurde. Trump sorgte mit seinen gezielt eingesetzten Desinformationen, dass das Vertrauen in das Wahlsystem, insbesondere der Briefwahl, zersetzt wurde. Ein massiver Angriff auf die Demokratie und ihre Grundfesten! Auch hier in Deutschland müssen wir aufgrund der Pandemiesituation und der damit einhergehenden erhöhten Briefwahl damit rechnen, dass Akteure das Vertrauen in die Wahl und ihre Durchführung durch gezieltes Streuen von Desinformationen delegitimieren wollen. Etwas, auf das sich sowohl der Staat, aber auch Parteien und alle Bürgerinnen und Bürger vorbereiten müssen.

Doch nicht nur aus dem Inland droht Gefahr. Eine Untersuchung der “EU vs Disinformation” Kampagne des Europäischen Auswärtigen Dienst hat gezeigt, dass Deutschland in Europa vorrangiges Ziel von Desinformationskampagnen aus Russland ist. Auch darauf müssen wir reagieren. Doch der Kampf gegen Desinformation ist nicht leicht. Rufen nach der Strafbarkeit von Desinformation müssen wir nicht nur als Liberale dringend entgegentreten. Und doch braucht es einen Umgang mit Desinformationen und Maßnahmen gegen sie. Diese können aber nur holistisch sein – ein Wundermittel gibt es nicht. Aufklärung darüber, dass es sie gibt und woher sie kommen können ist ein Anfang. Wahlen absichern und unsere Wahlcomputer zu Auszählung vor Cyberangriffen besser schützen ein anderer. Außerdem braucht es Bildungsangebote für jedes Alter, Cyber-Außenpolitik, transparente politische Kommunikation und Sicherheitsbehörden, die im Falle von rechtswidrigen Inhalten auch im digitalen Ermitteln können. Und es braucht ein Verständnis der Bedeutung des Problems. Dieses beginnt mit der korrekten Verwendung von Begriffen. Fangen wir also an, von “Desinformation” zu sprechen.

Dieser Text erschien zuerst in der FDPlus Ausgabe 02/2021.

Gegen Hass im Netz: „Frauenhass und Herabwürdigung sitzen in unserer Gesellschaft tief“

Der jüngste, aufsehenerregende Vorfall passierte auf Instagram: Dank insbesondere der Berliner Influencerin Louisa Dellert und der feministischen Aktivistin Kristina Lunz, konnten wir miterleben, was Frauen regelmäßig ertragen müssen.

Im Netz werden sie mit Bedrohungen überhäuft – meist durch aufgestachelte Follower eines Nutzers. In diesem Fall von dem Comedian Hendrik Nitsch, besser bekannt als „Udo Bönstrup“, der sich vor einigen Tagen über ein Statement gegen sexistische Hassnachrichten lustig machte. Nur haben sich die betroffenen Frauen diesmal lautstark gewehrt.

Insbesondere bei Frauen, die sich öffentlich gegen Frauenfeindlichkeit aussprechen, wird häufig versucht, sie mundtot zu machen. Und dieser aktuelle Fall zeigt: Beim Thema digitale Gewalt ist noch viel zu tun. Hinweise von anderen Menschen, dass man sich nicht so darüber aufregen solle, tragen zu diesem sogenannten Silencing bei und verschlimmern die Gewalterfahrung. Zu viele Frauen ertragen diese digitale Gewalt. Das darf nicht sein.

Wussten Sie, dass 70 Prozent der Mädchen und jungen Frauen in Deutschland Bedrohungen, Beleidigungen und Diskriminierungen in sozialen Medien ausgesetzt sind? Das ergab eine Studie von Plan International unter 15- bis 24-Jährigen.

Weniger politisches Engagement wegen Bedrohungen und Beschimpfungen

Auch die neueste Studie der Initiative D21, „Digitales Leben““, kommt zu dem Ergebnis, dass Frauen häufiger unter (oft sexualisierten) Belästigungen im Netz leiden. Frauen nehmen laut der Studie weniger die Möglichkeiten des gesellschaftlichen und politischen Engagements auf sozialen Medien wahr als Männer.

Die Europäische Akademie für Frauen in Politik und Wirtschaft (EAF) hat in ihren Analysen zur Kommunalpolitik herausgefunden, dass der Grund für ein geringeres Engagement in der Politik zu einem erheblichen Teil in den Bedrohungen und Beschimpfungen im digitalen Raum liege. Nach einer Auswertung des Guardian aus dem Jahr 2016 verstärken sich die Anfeindungen sogar noch, wenn ein Migrationshintergrund vorliegt.

Das sind erschreckende Befunde. Sie zeigen, dass Frauenfeindlichkeit noch weit verbreitet ist. Dabei dürfen wir nicht vergessen, dass dieser Hass von Menschen ausgeht, die auch in der analogen Welt agieren. Sie sind dort keine anderen Personen. Wir müssen allen Menschen einen sicheren – analogen wie digitalen – Raum bieten, in dem sie sich diskriminierungsfrei äußern können und damit auch, aber nicht nur, an demokratischen Diskursen teilnehmen können.

Sieben Vorschläge für einen sicheren digitalen Raum

Um einen sicheren digitalen Raum zu ermöglichen, müssen wir entschieden gegen digitale Gewalt vorgehen. Diese sieben Vorschläge sehen wir als wichtigen Anfang:

1. Zu Beginn steht Solidarität! Die braucht es nicht nur von Frauen. Gewalt gegen Frauen ist kein Frauenproblem, sondern ein gesellschaftliches Problem, meist ein Männerproblem. Tätern muss das Gefühl genommen werden, dass sie Macht über ihr Opfer haben. Ihnen muss klargemacht werden, dass ihr Verhalten – ob strafbar oder nicht – von einer offenen Gesellschaft nicht toleriert wird.

2. Hate Speech ist Gewalterfahrung. Opfer brauchen besondere Betreuung. Auch und gerade bei Straf- oder Zivilrechtsverfahren. Anlaufstellen, bei denen sie vorab Hilfe bekommen können und sich über ihre rechtlichen Möglichkeiten, aber auch Maßnahmen zum persönlichen Schutz informiert werden können, sind essenziell. Es braucht mehr von diesen Anlaufstellen. Bei schweren Ehrverletzungen sollte den Opfern zudem ein „Opferanwalt“ und eine psychosoziale Prozessbegleitung zur Seite gestellt werden.

3. Straftaten im Netz müssen besser geahndet werden durch spezialisierte Kräfte in Polizei und Justiz. Zentralstellen der Staatsanwaltschaft wie sie zum Beispiel in Nordrhein-Westfalen schon eingerichtet wurden, sind hierfür sinnvoll. Polizei und Justiz müssen über technischen Sachverstand und modernste Ausstattung im digitalen Raum verfügen. Zudem müssen sie die Tragweite von Angriffen einschätzen und ernst nehmen können. Vorschläge, wie den Twitter- oder Instagram-Account zu löschen, dürfen nicht erfolgen.

Es soll e-Courts für schnelle Verfahren geben

4. Strafanzeigen müssen einfach, online und anonymisiert gestellt werden können. In Zivilprozessen muss es für die Geschädigten möglich sein, das Verfahren auch ohne Nennung der privaten Anschrift zu betreiben, sondern derjenigen der beratenden Kanzlei oder NGO. Dies wird von Gerichten nach Angabe von Betroffenen nicht immer akzeptiert. Es ist aber von essentieller Bedeutung, da ansonsten der Täter über eine Akteneinsicht die Privatanschrift erfahren könnte.

5. Das durch das Netzwerkdurchsetzungsgesetz geregelte eigenmächtige Löschen durch die Plattformen ohne Verfahren ist nicht zielführend. Vereinfachte Onlineverfahren, sogenannte e-Courts, können eine Beschleunigung von Verfahren ermöglichen. Zeit ist bei solchen Vorfällen von enormer Bedeutung. Onlineverfahren können nicht nur die Justiz entlasten. Zeitnahe Urteile sorgen auch bei Tätern für eine nachhaltige Wirkung.

6. Polizei und Justiz müssen effektiv und schnell mit den Plattformen und NGOs zusammenarbeiten. NGOs wie zum Beispeil „Hate Aid“, „Hassmelden“ und „Ich bin hier“ sollen die Möglichkeit bekommen, den Staatsanwaltschaften digital Strafanzeigen zuzuleiten. Sie verfügen über die Expertise der Beweissicherung und können so schnell die Staatsanwaltschaft unterstützen und Betroffenen helfen.

Es braucht einen starken Staat und verantwortungsvolle Plattformen

7. Plattformen wie Instagram tragen Verantwortung. Sie müssen ihre eigenen Regeln durchsetzen und dürfen orchestrierten Hass nicht hinnehmen. Sie müssen mehr Content-Moderatorinnen und -Moderatoren einsetzen, die gemeldete Inhalte prüfen. Des Weiteren sollten Plattformen veröffentlichen, wie viele Moderatorinnen und Moderatoren sie beschäftigen. Schulungen zu geschlechtsspezifischem Hass und Silencing müssen für sie verpflichtend sein.

Es gibt noch viel zu tun. Wir dürfen bei den Problemen im digitalen Raum nie vergessen, dass diese nicht unabhängig von der analogen Welt passieren. Unser Justizwesen muss dafür gewappnet sein. Wir brauchen einen starken und modernen Rechtsstaat, der Opfer auch im digitalen Raum schützen kann. Hier sind vor allem die Länder in der Pflicht nachzubessern. Forderungen nach schärferen Gesetzen oder die alleinige Adressierung der Plattformen greifen zu kurz, denn das Problem ist umfassend. Frauenhass und die Herabwürdigung von Frauen sitzen in unserer Gesellschaft noch tief. Gehen wir es an!

Dieser Gastbeitrag erschient zuerst im Tagesspiegel (online und print) zusammen mit Maren Jasper-Winter am 25. November 2020.

Tracking-App: Was in der Debatte bisher fehlt

In der Diskussion um eine Tracking-App zur Rückverfolgung von Kontakten geht es um Privatsphäre und IT-Sicherheit. Dabei müsste eigentlich der Mensch im Zentrum stehen, fordern Christin Schäfer von acs plus und Ann Cathrin Riedel von LOAD. Hilft die Information auf diesem Weg? Was sind die Folgen für den Einzelnen?

Bisher fokussiert sich die Diskussion zur Ausgestaltung einer möglichen App zur Rückverfolgung von Kontakten auf Datenschutz und IT-Sicherheit. So wichtig diese Aspekte sind, wird damit ein Kernelement des Systems vergessen: der Mensch. Ganz unabhängig von der Maßnahme, muss der Mensch im Mittelpunkt stehen. Nehmen wir an, eine App kann die notwendigen Anforderungen an Datenschutz, Privatsphäre und IT-Sicherheit erfüllen, dann lautet eine wesentliche Ausgestaltungsfrage: wie kommuniziert die Corona-App mit den Menschen? Wie wird das Ergebnis konkret mitgeteilt? Ein mögliches Infektionsrisiko mittels einer App zu berechnen ist das eine. Das Ergebnis dieser Berechnungen mitzuteilen, ist etwas ganz anderes. Gesundheit und Wohlergehen hat auch eine psychische Komponente, die bei der Ausgestaltung des Gesamtsystems rund um eine Maßnahme nicht vergessen werden darf.

Eine wesentliche Frage beim Design, nicht nur einer App lautet: wie geht der Empfänger oder die Empfängerin mit einer solchen, kritischen Nachricht um? Insbesondere, wenn diese im Wirrwarr von allen andere möglichen Push-Mitteilungen auf dem Smartphone erscheint; zwischen WhatsApp-Nachrichten, den neuesten „Breaking News“ und der Erinnerung an einen Termin.

„Sehr geehrte Nutzerin, sehr geehrter Nutzer, wir haben bei Ihnen ein Covid-19 Risiko von 69% ermittelt. Freundliche Grüße, Ihr App-Anbieter.“ Unpersönlicher und weniger empathisch können schlechte Nachrichten nicht überbracht werden.

Was wissen wir über die Vermittlung dieser Art von Nachricht zum Beispiel aus dem Bereich der Krebsvorsorge? Ein Infekt mit Corona ist zum Glück kein Todesurteil. Aber für einige Personengruppen kommt es einem solchen schon erschreckend nahe. Wer älter, geschwächt und vielleicht zeitlebens mit Lungenproblemen gestraft ist, weiß, was die Stunde geschlagen hat. Zudem: nur wenige Menschen können mit Wahrscheinlichkeiten umgehen. Fragen Sie sich doch mal selber: bei einer Regenwahrscheinlichkeit von 60% – nehmen Sie den Regenschirm mit oder lassen Sie ihn zuhause? Ist ein „Risk Score“, dessen Ableitung unklar ist, eine kluge Wahl in der Mitteilung an den Nutzer der App? Werden sich nicht viele vor allem verunsichert fühlen?

Eine persönliche Ansprache bei der Meldung ist außerdem nicht möglich – soll die App doch anonym nutzbar sein. Wie sicher kann sich der Nutzer oder die Nutzerin sein, dass hier nicht ein Fehler passierte? Dass eigentlich eine andere Person diese Mitteilung bekommen sollte? Solch fehlgeleitete Informationen sind nicht auszuschließen. Vor allem dann nicht, wenn eine App neu ist und nicht ausreichend getestet wurde.

Quarantäne muss man sich leisten können

Der gesamte Budenzauber mit allen hingenommenen Einschränkungen der Privatsphäre, so freiwillig sie auch sein mögen, bringt nichts, wenn sich zu wenige beteiligen und insbesondere wenn das Ergebnis der App zu nichts führt. An Nachrichten zu potentiellen Infizierungen müssen sich vielfältige und personalisierte Maßnahmen anschließen.

An die Benachrichtigung muss notwendig der zeitnahe und aufwandsarme Zugang zu Tests folgen. Hierzu sind die Testkapazitäten aufzubauen. Es muss geklärt werden, was passiert, wenn sich Alleinerziehende anstecken. Wer kümmert sich – auch in Phase des Wartens auf das Testergebnis – um die Kinder? Wie verfahren Familien, bei denen sich ein Elternteil angesteckt hat, aber die Wohnverhältnisse eine Separierung nicht zulassen? Die Benachrichtigten sehen sich schweren emotionalen Konflikten ausgesetzt. Die eigenen Kinder womöglich gefährden? Die eigenen Kinder Dritten überlassen? Wem? Wer zahlt? Wer organisiert? Es muss sichergestellt werden, dass man sich die Tests, Wartezeiten und Quarantäne auch leisten kann; nicht nur finanziell.

Es bedarf zudem einer gesonderten Regelung für den Umgang von Fehlzeiten für Arbeitnehmer und Arbeitnehmerinnen. Gerade Personengruppen, die bei ihrer Arbeit viel reisen oder viel Publikumsverkehr ausgesetzt sind, werden häufiger im Covid-19-Alarm leben. Diese Alarme kommen überraschend und sind nicht planbar. Es ist davon auszugehen, dass sie zu signifikant erhöhten Fehltagen im Vergleich zu anderen Gruppen von Erwerbstätigen führen. Besonders hart betroffen sind zudem Solo-Selbständige, deren Verdienstausfälle existenziell bedrohlich sein können.

Die gesamte Gesellschaft muss sehr schnell lernen, flexibel und positiv mit kurzfristigen Absagen von Terminen umzugehen. Handwerker sagen am Morgen wegen eines Covid-19 Alarms ab. Die Wartungsarbeiten an einer Maschine müssen kurzfristig verschoben werden. Der Friseurtermin entfällt. Die Reihe ist definitiv nicht abschließend.

Der Zugang zu Lebenschancen darf nicht von sozio-ökonomischen Faktoren abhängig sein

Gut aufgesetzt kann eine Corona-App eine Maßnahme für die Überwindung der Krise sein. 79% der Deutschen besitzen ein Smartphone und haben damit die Chance, eine solche App zu nutzen. Der Zugang zu einer Corona-App darf jedoch nicht von sozio-ökonomischen Faktoren abhängig sein. Allen Bürgern und Bürgerinnen sollte es möglich sein zu partizipieren, Meldungen zu einer möglichen Infektion zu erhalten, um daraufhin geeignete Maßnahmen – Lebenschancen – zu ergreifen und wahrzunehmen.

Dies bedeutet, dass ein Smartphone und ein Internetvertrag zur Grundversorgung eines jeden Einzelnen gehören müsste. Es gilt vorab zu klären, welche Möglichkeiten Smartphone Besitzer:innen haben, deren Gerät nicht die notwendige Bluetooth LE oder GPS-Technologie hat oder auf einem älteren Betriebssystem läuft, das die App nicht unterstützt. Was ist mit denjenigen Mitbürgern und Mitbürgerinnen, die noch zu jung für ein eigenes Smartphone sind, oder allen, die die Benutzung überfordert? Wie inkludieren wir Menschen mit geistigen oder körperlichen Beeinträchtigungen? Welche Möglichkeit der Teilhabe erhalten ausländische Touristen und Geschäftsreisende?

Europäische Herausforderungen

Die Bedrohung durch das Coronavirus besteht weltweit. Kein Nationalstaat, keine Region wird im Alleingang in der Lage sein, sein Gebiet zu schützen. Wie bei jeder Maßnahme bedarf es der Absprache mit Nachbarn und Partnern, damit die Wirksamkeit sich einstellen kann. Dies gilt auch und insbesondere für eine datengetriebene Technologie, wie eine Corona-App. Es wird eine Anwendung für ganz Europa, besser sogar die ganze Welt benötigt, die einheitliche Standards für Daten und Austauschprotokolle verwendet. Dagegen können Berechnungsmethodiken, etwa für Abstand und Risiko, länderspezifisch als Service angeboten werden. Unsere Aufgabe besteht darin, ein System aufzusetzen, dass eben nicht nur für deutsche Bürgern und Bürgerinnen Mehrwert liefert, sondern auch die Bürger und Bürgerinnen in Staaten schützt und ermächtigt, deren Gesellschaft weniger demokratisch und weniger rechtsstaatlich ist. Wir dürfen autokratischen Regimen keinen Corona-App-Standard präsentieren, der es den Staatschefs leicht macht, ihr Volk zu überwachen und zu drangsalieren.

Es geht nicht um Verhinderung, sondern Ermöglichung

Für all diese beschriebenen Herausforderungen haben wir heute noch keine Lösungen. Vor allem, weil wir noch nicht nach ihnen gesucht haben.

Es geht uns nicht darum, eine sinnvolle Corona-App-Lösung zu verhindern, sondern vielmehr, sie herbeizuführen. Zunächst ist dafür aber der Nachweis zu erbringen, dass eine digitalisierte und automatisierte Kontaktverfolgung helfen kann, die Infektionszahlen signifikant zu senken. Dann sind die weiteren Designdetails zu klären. Wie die Ausführungen verdeutlichten, kann eine kurzfristig und schnell aufgesetzte App die in sie gesetzten Erwartungen nur verfehlen. Daher plädieren wir dafür, ein solches datengetriebenes System zur Information über einen potenziellen Infekt sauber, durchdacht und im Verbund mit einem abgestimmten Maßnahmenpaket zu entwickeln, welches uns auf dem langen Weg zurück in eine Normalität, wie sie vor Corona-Zeiten bestand, begleitet.

Christin Schäfer ist Gründerin und Geschäftsführerin der Berliner Data Science Boutique „acs plus“. Die studierte Statistikerin war Mitglied der Datenethikkommission der Bundesregierung. Ann Cathrin Riedel ist Vorsitzende von LOAD e.V. – Verein für liberale Netzpolitik.

Dieser Beitrag erschien zuerst im Tagesspiegel Background Digitalisierung & KI am 8. April 2020.

Der Cyberkrieg hat längst begonnen

Durch die gezielte Tötung Qassem Soleimanis, dem Kommandeur der iranischen Quds-Einheit, ist das Risiko einer militärischen Eskalation im Konflikt zwischen den USA und Iran gestiegen. Die zentrale Rolle des getöteten Generals in der iranischen Regionalpolitik zwingt die iranische Führung zu einer Antwort. Untätigkeit in dieser Frage käme gerade wegen der vom iranischen Regime in den vergangenen Jahren betriebenen Stilisierung Soleimanis zur Lichtgestalt einem Gesichtsverlust gleich.

Andererseits weiß die iranische Führung spätestens jetzt, welch weitreichende Konsequenzen ihre militärischen Provokationen haben können. Der Tod Soleimanis war eine direkte Folge monatelanger Raketenangriffe pro-iranischer Milizen auf US-Militärstützpunkte in Irak, bei denen am 27. Dezember erstmals ein US-Bürger getötet wurde.

Iran und USA befinden sich bereits seit Jahren in einem Cyberkonflikt

Vor dem Hintergrund der potenziellen Folgen weiterer Anschläge auf US-amerikanische Militärstellungen — Präsident Donald Trump droht bereits mit US-Angriffen auf 52 ausgesuchte iranische Ziele — könnte sich die Islamische Republik auf aus ihrer Sicht weniger provokante Optionen einlassen. Als Alternative zu direkten Militärschlägen auf US-Ziele ist eine Hinwendung zu Cyberattacken plausibel. Ohnehin ist der Konflikt zwischen den USA und Iran bereits jetzt auch ein Cyberkrieg, in dem beide Seiten die digitale Infrastruktur des Gegners ins Visier nehmen.

So wurde im Juni 2019 bekannt, dass Trump als Reaktion auf den Abschuss einer US-Drohne einen Cyberangriff auf eine iranische Geheimdiensteinheit autorisierte. Die Geheimdiensteinheit wiederum plante ihrerseits Attacken auf Öltanker im Persischen Golf. Zur Erinnerung: Bereits unter George W. Bush und Barack Obama setzten die USA auf eine millionenschwere Cyber-Sabotageaktion gegen das iranische Atomprogramm, in deren Zuge der Computerwurm „Stuxnet“ die iranische Urananreicherung erheblich behinderte.

Iran hackte Casino-Unternehmen

Auch das iranische Regime hat in der Vergangenheit verschiedene Cyberangriffe gegen die USA und seine Verbündeten durchgeführt. So starteten iranische Hacker 2014 eine Attacke auf das Casino-Unternehmen des irankritischen US-Milliardärs Sheldon Adelson. Auch US-Verbündete sind bereits zur Zielscheibe iranischer Sabotageaktionen geworden. Nach Saudi-Arabien, Kuwait und den Vereinigten Arabischen Emiraten könnten sich diese Aktionen nach der Tötung Soleimanis nun auch auf europäische US-Verbündete ausweiten.

Das iranische Außenministerium hat bereits den Geschäftsträger der deutschen Botschaft in Teheran wegen kritischer Äußerungen einbestellt. Die jüngste Ankündigung der iranischen Regierung, sich in einem weiteren Schritt von Verpflichtungen aus dem Atomabkommen (JCPOA) zurückzuziehen, deutet auf das iranische Kalkül hin, weiterhin Druck auf Europa auszuüben.

Deutschland muss bei IT-Sicherheit aufrüsten

Die aktuelle Bedrohungslage kann sich auch auf Deutschland auswirken, wenngleich sie momentan nicht akut ist. Das zeigt umso deutlicher, wie dringend notwendig es ist, dass Deutschland beim Thema IT-Sicherheit aufrüstet. In den USA warnte man schon mehrfach vor möglichen Cyberangriffen durch iranische Hacker auf Kritische Infrastrukturen (KRITIS) — auch deutsche KRITIS kann ein interessantes Ziel sein.

Es ist daher Zeit, dass die Bundesregierung das IT-Sicherheitsgesetz 2.0 verabschiedet, das deutlich höhere Sicherheitsanforderungen an Kritische Infrastrukturen stellt, diese umfassender definiert, „Infrastrukturen im besonderen öffentlichen Interesse“ hinzufügt und BSI-zertifizierte Mindeststandards für Hardware definiert. Ebenso wichtig sind die drastisch höheren Geldbußen und weiteren Befugnisse des BSI. Für eine wirkliche Durchsetzung von IT-Sicherheit und Vertrauen brauchen wir aber ein vom Bundesinnenministerium unabhängiges BSI.

Konsequent auf defensive Cyberabwehrstrategie setzen

Hackergruppen aus Iran nutzten bereits mehrfach Sicherheitslücken, unter anderem in Microsoft Office, um die USA und ihre Alliierten auszuspionieren. Auch jetzt müssen die USA und ihre Bündnispartner mit Spionageattacken, Datendiebstahl, Distributed-Denial-of-Service-Attacken (DDoS) und den bereits erwähnten Angriffen auf Kritische Infrastrukturen und Desinformationskampagnen rechnen. Ansätze für Propaganda-Aktionen im Netz finden sich bereits. Sie laufen etwa unter dem Hashtag „#hardrevenge“ und können auch für Amerikaner und Amerikanerinnen, Israelis und Israelinnen, Juden und Jüdinnen, sowie Exil-Iranerinnen und -Iraner hier in Deutschland gefährlich werden, wenn Regime-Anhänger hierzulande Anschläge verüben. Es sei an dieser Stelle an das Mykonos-Attentat in Berlin von 1992 erinnert.

Die sich überschlagenden Ereignisse im Nahen und Mittleren Osten, angetrieben vom USA-Iran-Konflikt, verdeutlichen nochmals die Dringlichkeit, mit der sich Deutschland mit der Bedrohung durch Cyberangriffe beschäftigen sollte. Dabei sollten wir ausdrücklich nicht sogenannte „Hackbacks“ in Betracht ziehen, sondern konsequent auf eine defensive Cyberabwehrstrategie setzen. Zudem sollte die Bundesregierung alle ihr zur Verfügung stehenden Mittel der Diplomatie einsetzen, um Iran von Vergeltungsschlägen aller Art abzubringen. Auch von Cyberangriffen.

Dieser Artikel erschien zusammen mit dem Politikwissenschaftler und Experten für US-Außenpolitik, Dr. Payam Ghalehdar, am 7. Januar 2020 als Gastbeitrag im Tagesspiegel Background Digitalisierung & KI

Kein „Wilder Westen“. Freiheit und Verantwortung im Internet

Das Internet ist ein Versprechen von Freiheit. Doch Freiheit funktioniert nicht ohne Verantwortung. Das Internet war noch nie Wilder Westen – ein Raum, in dem keine Gesetze, keine Regulierung gegriffen hätten. Dieses Internet existierte und existiert auch heute nicht im luftleeren Raum, sondern funktioniert nur durch Server und Übertragungsmittel, die auf staatlichem Territorium stehen und damit örtlichen Gesetzen unterliegen. Natürlich müssen Gesetze für das digitale Zeitalter angepasst werden, manche auch neu geschaffen werden, wenn erkannt wird, dass neue Möglichkeiten zum Nachteil der Gesellschaft genutzt werden. Grundlage hierfür sollten immer die Werte und Prinzipien sein, die wir bereits in der analogen Welt als unseren Maßstab ansetzen. Gute Regulierung, Verantwortung, für das Internet kann nur gelingen, wenn wir es als das betrachten, was es ist: ein weltweiter Verbund von Rechnernetzwerken. Leider schauen wir zu häufig ausschließlich auf Plattformen, die im Internet existieren und versuchen diese zu regulieren, als wären sie “das Internet”. Freilich tragen Plattformen Verantwortung und gehören reguliert. Aber die Regulierung der Plattformen darf eben nicht außer Acht lassen, dass das Internet weit mehr ist als diese.

Um über Freiheit und Verantwortung im Netz zu sprechen, möchte ich das Internet verlassen und den Blick auf die gesamte digitalisierte oder noch zu digitalisierende Welt richten. Uns begegnet hier zunehmend die Frage: Wie wollen wir im Zeitalter der Digitalisierung leben? Selbst Bundespräsident Frank-Walter Steinmeier appellierte an die Besucher des Evangelischen Kirchentags 2019, dass sie sich intensiver mit dieser Fragestellung auseinandersetzen und sich einbringen sollen. Die Digitalisierung stellt uns nicht vor gänzlich neue ethische Fragen. Sie stellt uns aber vor die wichtige Aufgabe, unsere Prinzipien und Wertvorstellungen mit in die digitale Welt zu nehmen und auf diese zu übertragen. Dass das nicht immer leicht ist und uns teilweise vor enorme Herausforderungen, aber auch Chancen stellt, ist nicht überraschend.

Im Fokus dieser digitalisierten Welt stehen algorithmische Entscheidungssysteme, die häufig hochtrabend als Entscheidungen einer Künstlichen Intelligenz dargestellt werden, es aber selten sind. Wir diskutieren sehr viel darüber, was ein autonom fahrendes Auto dürfen soll und was nicht; setzen sogar – richtigerweise – eine Ethik-Kommission ein, die dem Gesetzgeber Vorschläge zur rechtlichen Gestaltung geben soll und dies auch tat. Es wurde eine Datenethikkommission eingesetzt, die die Bundesregierung zum ethischen Umgang mit Daten berät und eine High-Level Expert Group der Europäischen Kommission, die ethische Rahmenbedingungen für den Umgang mit Künstlicher Intelligenz bereits veröffentlichte. Wir diskutieren – völlig zu recht – inwieweit Algorithmen darüber entscheiden dürfen sollen, ob jemand ins Gefängnis kommt oder nicht. Ob Algorithmen besser und neutraler entscheiden, als Richter es können, oder ob sie nicht doch Vorurteile reproduzieren. Die Tendenz dieser Diskussionen ist meistens klar: Gerade schwerwiegende Entscheidungen, die Grundrechte oder das (weitere) Leben beeinträchtigen können, sollten möglichst abschließend von Menschen getroffen werden.

Bei algorithmischen Systemen, bei denen wir heute sagen, dass wir sie nutzen wollen, um zum Beispiel eine weitere Grundlage für menschliche Entscheidungen zu haben, sprechen wir intensiv über Probleme durch einen Bias, also einer Verzerrung, über Transparenz, Nachvollziehbarkeit und die Qualität von Daten, mit denen dieses System trainiert oder schließlich gefüttert wird. Auch hier geht die Tendenz in die Richtung, dass wir als Gesellschaft Entscheidungen, die algorithmische Systeme für uns treffen, unbedingt nachvollziehen können müssen. So können wir sie nicht nur verstehen, sondern auch an entsprechenden Stellen Beschwerde einlegen, sodass automatisierte Entscheidungen von Menschen überprüft werden. Es geht hier um nichts weniger als den Schutz von Grund- und Bürgerrechten.

Verengen wir wieder unseren Blick und schauen auf das Internet, stellt sich nun die Frage, warum wir hier nicht mit der gleichen Vorsicht und Gewissenhaftigkeit vorgehen. Betrachten wir zum Beispiel auf die EU-Urheberrechtsrichtlinie. Ja, Uploadfilter stehen nicht im Gesetzestext. Das tut aber wenig zur Sache, wenn klar ist, dass nur durch technische Hilfsmittel, durch Algorithmen, im Volksmund eben auch Uploadfilter genannt, Gesetze umgesetzt werden können. Da helfen keine nationalen Alleingänge, die Uploadfilter verbieten und Pauschallizenzen verpflichtend machen wollen. Uploadfilter sind nichts anderes als algorithmische Systeme, die abgleichen, ob für urheberrechtlich geschütztes Material, das auf eine Plattform hochgeladen wird, eine Lizenz vorhanden ist, oder ob eine der zahlreichen urheberrechtlichen Schranken greift. So zum Beispiel eine für Satire oder eine Parodie. Dass Technologie dies heute überhaupt leisten kann, wird von allen Experten stark bezweifelt.

Nun könnte man sagen, es kann auch hier Beschwerdestellen geben, sodass ein Mensch die Entscheidung des Uploadfilters überprüfen muss. Das ist richtig. Bei der Menge an Material, das auf Plattformen hochgeladen wird – alleine auf YouTube sind es 400 Stunden pro Minute(!) – bei der Vielzahl an Sprachen, Dialekten, Slang, Insider-Witzen und sonstigen Informationen, die zur Einordnung – sei es durch Mensch oder Algorithmus – notwendig sind, ein schier unmögliches Unterfangen. Es würde nicht nur auf eine unermessliche Summe an algorithmischen Fehlentscheidungen hinauslaufen, sondern auch auf eine durch den Menschen. Von der zeitlichen Verzögerung bis zu einer Entscheidung und damit rechtmäßigen Publikation eines Beitrags auf einer Plattform, ganz zu schweigen.

Wo blieb und wo bleibt bei der Diskussion über das Internet und Plattformen, die Debatte um die Auslagerung Grundrechte betreffender Entscheidungen an algorithmische Systeme? Wir führten sie nicht und das, obwohl das Thema Ethik, die Frage nach dem guten Leben im digitalen Raum, gerade bei so vielen politischen Institutionen auf der Prioritätenliste steht. Algorithmische Entscheidungen, die die Freiheit von so vielen – hier im Speziellen die Meinungs- und Informationsfreiheit – einschränken, dürfen wir nicht zulassen. Der Erhalt und der Schutz von Urheberrechten im digitalen Raum ist wichtig und notwendig. Doch noch wichtiger ist der Erhalt von Bürgerrechten. Die Abwägung zwischen Rechtsgütern ist nichts für Algorithmen, sondern für Menschen mit entsprechender Ausbildung und Legitimation. Und auch, wenn wir Technik einsetzen dürfen, um Rechte bestmöglich zu schützen, dürfen wir algorithmischen Systemen und privatwirtschaftlichen Beschwerdestellen nicht Aufgaben übergeben, über die wir in der analogen Welt Gerichte urteilen lassen, gerade weil Sachverhalte häufig komplexer sind als eine Abfolge von Einsen und Nullen.

Wie viel uns daran liegt, die europäischen Werte zu erhalten und zu verteidigen, zeigt sich besonders hier, im Internet.

Dieser Beitrag erschien zu erst in der Politik & Kultur (Ausgabe 9/2019) des Deutschen Kulturrats.

Gastbeitrag

Category: Gastbeitrag