Von Deepfakes bis ChatGPT: So will die EU bei künstlicher Intelligenz führen

Lange wurde verhandelt, zwischenzeitlich sah es so aus, als würde die EU-Verordnung für künstliche Intelligenz (KI) scheitern - vor allem wegen des Widerstandes der deutschen Regierung. Nun hat es doch noch einen Kompromiss gegeben. Damit ist der Weg frei für das weltweit erste umfassende Regelwerk zur Regulierung der schlauen Algorithmen. Wir erläutern, was der sogenannte AI Act bringen soll.

Wie gefährlich kann künstliche Intelligenz sein? Datenschützer sprechen häufig von &bdquo;der Büchse der Pandora“. Die Chancen sind enorm, aber ebenso groß die Gefahren, dass künstliche Intelligenz außer Kontrolle gerät. Ein simples, aber spektakuläres Beispiel hat in den vergangenen Tagen für viele Schlagzeilen gesorgt. Auf der Plattform X (früher: Twitter) sind pornografische Bilder von der US-Sängerin Taylor Swift aufgetaucht. Sie wurden millionenfach geklickt und geteilt, bevor die Betreiber sie entfernten.

Wie konnte das geschehen? Erschreckend ist, wie einfach es ist, Prominente zu diskreditieren. Es handelte sich um sogenannte Deepfakes, die mit der KI-Software Designer von Microsoft erstellt wurden. Bilder werden dabei durch die Eingabe von Textbefehlen erstellt. Laut Experten können technikaffine Teenager problemlos solche Bilder in kürzester Zeit tausendfach erstellen. Dass ausgerechnet Taylor Swift zum Opfer wurde, hat damit zu tun, dass die Software mit frei verfügbaren Fotos trainiert wurde – und von der US-Sängerin gibt es sie millionenfach im Internet.

Was waren die Konsequenzen? In den USA wird nun intensiv über Sanktionen für Deepfake-Pornos diskutiert. Allerdings werden diese Fälschungen durch KI-Software perfektioniert. Sogar Präsident Joe Biden hat sich in die Diskussion eingeschaltet. Es geht unter anderem um die mögliche Einführung eines neuen Straftatbestandes. In der Debatte ist auch, dass die Opfer das Recht haben sollen, die Urheber auf Schadenersatz zu verklagen. Der Taylor-Swift-Fall biete die Chance, um grundsätzlich über die Gefahren von KI zu sprechen, sagte Constance Kurz vom Chaos Computer Club dem &bdquo;Deutschlandfunk“. Und auch die geplante KI-Verordnung habe eine öffentliche Diskussion ausgelöst. Gemeint ist der AI Act.

Inwiefern werden Deepfakes im AI Act thematisiert? Die geplanten Regelungen sind eher allgemein gehalten. Vieles wird davon abhängen, wie sie konkret umgesetzt werden. Es geht im Prinzip darum, Deepfakes von vornherein zu verhindern. Das soll erreicht werden, indem offengelegt werden muss, wenn Inhalte von KI generiert wurden. Ferner soll generative KI-Software so gestaltet sein, dass die Erzeugung illegaler Inhalte verhindert wird. Geplant ist auch, die Verwendung von urheberrechtlich geschützten Daten fürs Training der Software öffentlich zu machen.

KI-Modelle mit großer Wirkung wie ChatGPT sollen &bdquo;gründlichen Bewertungen“ unterzogen werden. Schwerwiegende Vorfälle müssen der EU-Kommission gemeldet werden. Experten haben bereits strengere und konkretere Regelungen angemahnt, um den Schutz vor Deepfakes und Desinformation zu erhöhen - denn böswillige Akteure würden sich nicht an Transparenzregeln halten. Die Diskussion ist hier noch am Anfang.

Was soll durch die KI-Verordnung verboten werden? Es gibt eine lange Liste. Social Scoring mittels künstlicher Intelligenz gehört dazu: Es handelt sich um das in China praktizierte Punktesystem für ein aus Sicht der kommunistischen Partei wünschenswertes Verhalten. Dafür werden Daten aus der permanenten Überwachung der Bevölkerung analysiert. Nicht zulässig ist auch die &bdquo;Emotionserkennung“ am Arbeitsplatz. Dafür werden die Gesichter von Beschäftigten während der Arbeit permanent gefilmt. KI-Software errechnet daraus den Gemütszustand der Mitarbeiter. Der Echtzeitverfolgung von Menschen mittels biometrischer Merkmale durch Überwachungskameras wird weitgehend verboten. Diese Technologien dürfen nur angewendet werden, wenn Gefahr für Leib und Leben besteht, etwa ein terroristischer Anschlag droht.

Warum braucht es überhaupt den AI Act? Er soll vor allem Rechtssicherheit schaffen, um die Entwicklung von KI-Software anzukurbeln. Bislang gibt es in der EU zwar zahlreiche Dekrete und nationale Verordnungen. Für Firmen, die sich mit künstlicher Intelligenz befassen, ist vielfach nicht klar, was sie dürfen und was nicht. Eine aus Sicht der IT-Branche wichtige Festlegung ist, dass es sich nur um &bdquo;Produktregulierungen“ handelt. Die Bestimmungen beziehen sich also nicht auf Forschung und Entwicklung: Unternehmen werden Spielräume zum Ausprobieren gewährt.

Justizminister Marco Buschmann (FDP) betont, die Verordnung fördere Innovationen und adressiere gleichzeitig Risiken in der Anwendung angemessen. Wirtschaftsminister Robert Habeck (Grüne) ergänzt: &bdquo;Mit der deutschen Zustimmung zur KI-Verordnung setzen wir uns für Rechtssicherheit und vertrauenswürdige KI made in Europe ein. Jetzt kommt es auf eine bürokratiearme, innovationsfreundliche Umsetzung an.“

Warum gab es zuvor ein heftiges Hickhack um die EU-Verordnung? Vor allem der deutsche Digitalminister Volker Wissing (FDP) beklagte zu starke Restriktionen, die kontraproduktiv wirken könnten. Ähnliche Stimmen gab es auch aus Frankreich. Die Mehrheit für den AI Act wackelte. Erst Anfang der Woche wurde ein Kompromiss zwischen Habeck sowie Wissing und Buschmann gefunden. Am Freitag wurde bekannt, dass auch Frankreich der Verordnung zustimmen wird, allerdings unter der Bedingung, dass Transparenzvorschriften noch einmal überarbeitet werden, um Betriebsgeheimnisse besser zu schützen.

Wie geht es nun weiter? In Brüssel wurde am Freitag eine Zustimmung der Botschafter der EU-Mitgliedsländer erwartet. Bei Redaktionsschluss lag das Votum noch nicht vor. Die weiteren Schritte: Die Verordnung muss noch vom Europäischen Parlament und dem Rat endgültig beschlossen werden. Die Bundesregierung hofft, dass das Paragrafenwerk noch vor den Europawahlen im Juni unter Dach und Fach gebracht wird.

Von Deepfakes bis ChatGPT: So will die EU bei künstlicher Intelligenz führen

Bundesnetzagentur bietet KI-Beratungsservice für Firmen

EU setzt Regeln für den Umgang mit KI in Kraft

Studie: Kein «Produktivitätswunder» durch KI zu erwarten

Wissing: KI aus Deutschland nicht chancenlos

EU-Regeln für den Umgang mit KI in Kraft gesetzt

Neue EU-Regeln fordern Transparenz von ChatGPT & Co.

Lippische Landes-Zeitung: Nachrichten aus Lippe, OWL und der Welt

Weiterlesen mit LZplus!

0,99 Euro im ersten Monat

Weiterlesen mit LZplus