Kampf gegen Hass und Fake News: NRW legt sich mit den Tech-Milliardären an

Düsseldorf. Das Foto verblüfft. Friedrich Merz und Annalena Baerbock, Hand in Hand und dicht aneinandergeschmiegt – beim gemeinsamen Tanz. Entstanden sein soll das Foto auf einer Geburtstagsfeier von Armin Laschet – es zeigt Merz (CDU) und Baerbock (Grüne) sehr vertraut. Dabei waren sie sich doch kurz zuvor im Bundestag heftig angegangen. &bdquo;Werden wir alle verarscht?“, fragt der Publizist des Bilds im Sozialen Netzwerk und ergänzt: &bdquo;Pack schlägt sich, Pack verträgt sich. Nur noch AfD“.

Das Foto ist eine Fälschung; erzeugt mit Künstlicher Intelligenz, um ein Zerrbild der &bdquo;abgehobenen Politikerklasse“ zu verbreiten. Beispiele dieser Art für bewusste Manipulation in den Sozialen Medien gibt es inzwischen viele. Und sie werden mehr. Die Politik will reagieren – doch legt sie sich da mit den Falschen an?

&bdquo;Wir haben einen Zustand erreicht, den wir vor ein paar Jahren für undenkbar gehalten haben und den wir für eine Demokratie für substanziell gefährlich halten“, sagt Tobias Schmid, Direktor der Landesanstalt für Medien NRW. Bei der Rechtsdurchsetzung habe die Landesmedienanstalt heute angesichts der &bdquo;Masse der Medien“ ein ganz anderes Problem als sie früher bei ein &bdquo;paar Radio- und Fernsehstationen“ gehabt habe, sagt Schmid.

Plattformbetreiber steuern künstlich das Verbreiten von Inhalten Herausforderungen gibt es heute in verschiedenen Bereichen: Fake-Bilder, Falschaussagen, Hetze, Manipulation durch Algorithmen. Das heißt: Plattformbetreiber steuern künstlich das Verbreiten von Inhalten, sodass bestimmte Themen leichter auffindbar sind als andere. Sie werden den oftmals unwissenden Nutzern dann viel häufiger angezeigt – und suggerieren eine übermäßige Relevanz.

Das passiert unter anderem durch den massenhaften Einsatz von Fake-Nutzern und Softwareprogrammen (&bdquo;Bots“), die bestimmte Inhalte verbreiten und kommentieren – und dadurch verstärkt für andere Nutzer sichtbar machen. In den Augen von CDU-Politiker Nathanael Liminski handelt es sich dann aber nicht mehr um &bdquo;neutrale“ Plattformen. &bdquo;Denn dann greifen sie redaktionell in Öffentlichkeit ein.“

Liminski ist sowohl Europa- als auch Medienminister in NRW. In dieser Doppelrolle will es der 39-jährige Politiker jetzt mit den großen Tech-Milliardären aus den USA aufnehmen. Liminski sieht den Meinungsdiskurs durch das Vorgehen einiger Plattformen &bdquo;verzerrt“ – und ist der Meinung, dass diese &bdquo;Verzerrung“ eingeschränkt und im besten Fall &bdquo;unterbunden“ werden muss.

NRW setzt auf ein KI-Tool, um Rechtsverstöße aufzuspüren Das Problem: Auf freiwillige Mitarbeit und &bdquo;guten Willen“ der Plattformbetreiber könne man inzwischen nicht mehr uneingeschränkt hoffen. &bdquo;Wir müssen sehen, dass es hier offenbar an Engagement, Empathie und Erkenntnis fehlt – deshalb müssen wir im Bereich der Regulierung striktere Wege gehen“, fordert Liminski – und bezeichnet die jüngste Entwicklung der Plattformbetreiber als &bdquo;sehr besorgniserregend“.

Unternehmen, die bislang sehr stolz darauf gewesen seien, Faktenchecking und Moderationsleistungen auf ihrem Angebot durchzuführen, hätten in einem &bdquo;Kotau“ vor der US-Regierung davon Abstand genommen – und die Zahl werde größer. Deshalb müsse die Antwort der europäischen Politik sein, dass sie restriktivere Regeln an den Tag legt.

NRW setzt dafür auf unterschiedliche Maßnahmen – mit erstem Erfolg. Seit fünf Jahren greift das Land auf ein Instrument namens &bdquo;Kivi“ zurück, mit dem es das Internet mittels Künstlicher Intelligenz auf Rechtsverstöße hin durchsucht.

&bdquo;Kivi“-Tool kontrolliert 10.000 Profile pro Tag Inzwischen wird &bdquo;Kivi“ bundesweit und in Belgien eingesetzt. Das Tool kontrolliert pro Tag etwa 10.000 öffentliche Social-Media-Profile und Webseiten und hat bis heute 40.000 &bdquo;kritische Fälle“ angezeigt. Diese werden von Juristen der Medienanstalten gegengeprüft. 8.600 Maßnahmen wurden so eingeleitet.

Unmittelbar nach dem Überfall der Hamas auf Israel im Oktober 2023 sei beispielsweise eine &bdquo;Welle des Hasses“ durch das Netz gegangen, sagt Schmid. Mit &bdquo;Kivi“ analysieren die Medienanstalten solche Rechtsverstöße, von Antisemitismus bis Volksverhetzung, und melden die Inhalte dem Bundeskriminalamt.

Dieses stellt nach Möglichkeit den mutmaßlichen Verfasser fest und übermittelt im Erfolgsfall den Sachverhalt an die örtlich zuständigen Strafverfolgungsbehörden in den Bundesländern. Die Medienanstalten übernehmen die Durchsetzung des Verbreitungsverbots von strafrechtlich relevanten und jugendgefährdenden Inhalten in sozialen Netzwerken oder Telemedienangeboten – in 90 Prozent der Fälle mit Erfolg.

Facebook und Instagram lassen &bdquo;Kivi“-Einsatz nicht zu Gelöscht und geahndet wurde dadurch beispielsweise auf &bdquo;X“ der Post &bdquo;Dieses Araber-Pack gehört eigentlich restlos von der Oberfläche getilgt“. Gelöscht wurde auch der Post &bdquo;Der Holocaust ist eine jüdische Lüge.“ Auch die Europäische Kommission wird über Fälle in Kenntnis gesetzt, um zu prüfen, ob auf den Plattformen ein &bdquo;systematisches Versagen“ vorliegt. Die EU-Kommission hat bereits diverse Verfahren eingeleitet.

NRW wird das &bdquo;Kivi“-Tool nun schärfen, indem es ihm weitere Sprachen beibringt. Dann kann es auch englisch- und arabischsprachige Inhalte analysieren. Doch es gibt einen großen Wermutstropfen: Ausgerechnet der Konzern Meta von Mark Zuckerberg mit seinen Plattformen Facebook und Instagram lässt den Einsatz von &bdquo;Kivi“ nicht zu.

Bei Liminski stößt das auf Unverständnis: &bdquo;Es kann nicht von Lust und Laune der Plattformbetreiber abhängig sein, ob wir ihr Angebot auf Rechtsverstöße hin überprüfen“, sagt der NRW-Medienminister. &bdquo;Das wäre in etwa so, als wenn ein Wirtshausbetreiber sagt: Ob bei mir gerade hinter der Theke ein Mensch zusammengeschlagen wird, das lasse ich die Polizei nicht kontrollieren, weil das mein Wirtshaus ist.“

EU-Kommission soll Druck erhöhen NRW verfolgt noch einen zweiten, größeren Ansatz. Das Land setzt sich auf EU-Ebene dafür ein, dass eine seit einem Jahr bestehende Regulierung in der EU schärfer wird – der sogenannte &bdquo;Digital Services Act“. Diese Verordnung regelt, dass alle Plattformen gegen illegale Inhalte vorgehen müssen, indem sie diese bei Kenntnis zügig entfernen und auch Straftaten melden. Zudem fordert es Plattformen auf, die technischen Instrumente offenzulegen, die dafür verantwortlich sind, dass Nutzern bestimmte Inhalte und Seiten angezeigt werden – also quasi die Funktionsweise der Algorithmen.

Liminski fordert, dass manipulative Verbreitungstechniken – also Fake-Accounts, massenhafter Einsatz von Bots, gekaufte Reichweiten – verboten werden. Der NRW-Medienminister hat dazu Kontakt zur EU-Kommission aufgenommen und die Initiative im Länderkreis angekündigt.

Darüber hinaus sollen Plattformen verpflichtet werden, automatisierte Suchen zum Zweck der Aufsicht zuzulassen. Dann könnte beispielsweise &bdquo;Meta“ nicht mehr selbst entscheiden, ob es das &bdquo;Kivi-Tool“ zulässt – oder nicht. Doch wäre all das nicht zu starker politischer Einfluss?

Liminski: Behörden sollten durchgreifen können Amazon-Gründer Jeff Bezos, dem die US-Zeitung Washington Post gehört, will dem Meinungsressort des Blatts nun Vorgaben geben. Gewisse Themen sollen nicht mehr auftauchen. Ist das nicht auch eine Folge von Zensur? Genau das, also die Kontrolle von unabhängigem Qualitätsjournalismus, soll durch die EU-Pläne eben nicht erreicht werden. Im Gegenteil. Diese Medien werden umso wichtiger.

Liminski weiß, dass die Politik hier in &bdquo;sehr sensiblem Terrain“ unterwegs sei. Doch in seinen Augen geht es um nicht weniger als die Frage, ob in einer verfassten Öffentlichkeit Fakten eine Rolle spielen und Regeln, die man sich als Gemeinwesen gegeben habe.

&bdquo;Die sollten wir schon so ernst nehmen, dass wir ihre Durchsetzung an jedem Ort zu jeder Zeit sicherstellen.“ Dafür müssten Behörden dann auch die Möglichkeit haben, durchzugreifen, meint Liminski und betont: &bdquo;Das ist keine Zensur.“

Experte verweist auf Unterschiede zu den USA Ähnlich sieht das Thomas Wischmeyer. Der Professor für Öffentliches Recht und Recht der Digitalisierung an der Uni Bielefeld verweist darauf, dass es sich um einen &bdquo;Balanceakt“ handle zwischen Persönlichkeitsrechten, Meinungsfreiheit und dem Schutz der Demokratie. Wenngleich Deutschland und die EU &bdquo;sehr sensibel“ für Fragen der Meinungsfreiheit seien und er &bdquo;keine Indizien“ für ein übermäßiges Vorgehen zulasten der Meinungsfreiheit sehe, so gäbe es in Deutschland eben auch keinen &bdquo;Meinungsfreiheit-Absolutismus“, sagt Wischmeyer im Gespräch mit dieser Zeitung. &bdquo;Im Grundgesetz ist nicht vorgesehen, dass die Meinungsfreiheit alles trumpft. Da haben wir ein anderes Verständnis als die USA und große rechtskulturelle Unterschiede.“

Beim Vorgehen der Politik in der Medienlandschaft komme es letztlich immer auf den Einzelfall und dessen Ausgestaltung an, sagt Wischmeyer. Ein stärkerer Jugendschutz, der zum Beispiel verhindern soll, dass jungen Menschen im Internet harte pornografische Inhalte oder schwere Gewaltszenen angezeigt werden, habe &bdquo;gar nichts“ mit Zensur im Sinne des Grundgesetzes zu tun.

Dass jetzt das Land NRW diesen Weg beschreiten wolle, hält Wischmeyer für &bdquo;nachvollziehbar“, da Medienpolitik in der Bundesrepublik Ländersache sei – und da es sinnvoll sei, bestehende Lücken im aktuellen EU-Gesetz zu schließen. Jetzt komme es auf konkrete Handlungsschritte an, die aktuell noch nicht bekannt seien, so Wischmeyer.

NRW-Grüne: Medienkompetenz ist nicht nur Aufgabe der Schulen Die Grünen unterstützen und begleiten den NRW-Kurs und räumen mit einem Vorurteil auf. Die Standardantwort, dass Medienkompetenz vor allem in der Schule vermittelt werden müsse, greife &bdquo;zu kurz“, meint NRW-Grünen-Chef Tim Achtermeyer. Fake News seien längst kein reines &bdquo;TikTok-Problem“ mehr und auch nicht nur eine Herausforderung für die &bdquo;jüngere Generation“. Auch auf Plattformen, auf denen ältere Nutzer aktiv sind, hätten Fake News stark zugenommen, sagt Achtermeyer. Die Betreiber gingen fahrlässig und verantwortungslos damit um, &bdquo;weil sie damit Geld verdienen.“

Insbesondere US-Milliardär Elon Musk (&bdquo;X“) hatte die EU-Vorgaben zuletzt als &bdquo;Zensur“ bezeichnet. Auch die umstrittene Rede von US-Vize J.D. Vance auf der Münchner Sicherheitskonferenz konnte als entsprechende Kritik verstanden werden.

Liminski stimmt auf stürmische Zeiten ein und erwartet einen &bdquo;tiefgreifenden Konflikt“ mit der US-Regierung, an dessen Anfang man sich jetzt befände. Den nehme er aber in Kauf, weil es um Werte gehe, die den Westen auszeichneten: Geltung von Recht, Freiheit und ihre Grenzen sowie Sicherheit – auch im Netz. &bdquo;Das sollte diesen Kampf wert sein.“ Europa dürfe dabei durchaus selbstbewusst auftreten, meint Liminski. &bdquo;Wir sind mit 450 Millionen Nutzern ein sehr attraktiver Markt auch für Kommunikationsunternehmen aus den USA.“ Es gelte, den Grundsatz zu vertreten: &bdquo;Wer hier bei uns Geld verdienen will, kann das nur nach den Regeln, die wir uns hier gegeben haben.“

Kampf gegen Hass und Fake News: NRW legt sich mit den Tech-Milliardären an

Hat Deutschland ein Problem mit der Meinungsfreiheit?

Arabische Netzinhalte im Visier der Medienaufsicht

Digitalabgabe für US-Plattformen? NRW-Medienminister positioniert sich

Berlin widerspricht US-Report zu Menschenrechtslage

Umfrage: Mehrheit wünscht sich Kontrolle in sozialen Medien

EU vs. Elon Musk: Brüssel verhängt Millionenstrafe gegen X

Lippische Landes-Zeitung: Nachrichten aus Lippe, OWL und der Welt

Weiterlesen mit LZplus!

0,99 Euro im ersten Monat

Weiterlesen mit LZplus