Das erste KI-Gesetz greift zu kurz – und ist schon überholt

Das EU-Parlament will riskante KI-Systeme verbieten. Doch die systemischen Risiken der neuen Technologie hat es nicht in den Blick genommen. Und in mancher Hinsicht ist das erste KI-Gesetz jetzt schon überholt.

Roberta Metsola, die Präsidentin des Europaparlaments, zeigt selten Emotionen. Doch nach dem Votum zum „AI Act“, dem EU-Gesetz zur so genannten „Künstlichen Intelligenz“ (KI), ließ sie ihrer Freude freien Lauf. „Daumen hoch“ und Händedruck mit dem zuständigen EU-Kommissar Thierry Breton – so feierte Metsola das Ergebnis.

Das weltweit erste KI-Gesetz wurde mit einer großen Mehrheit angenommen. Es soll den Weg für eine „menschenzentrierte“ und risikobasierte Regulierung ebnen, sagte Dragoş TUDORACHE, einer der federführenden Abgeordneten. Allerdings ist der Gesetzgebungsprozess noch nicht abgeschlossen – nun beginnen Verhandlungen mit den 27 EU-Staaten.

Dabei könnten wichtige Bestimmungen noch aufgeweicht werden. Dies gilt vor allem für die Regeln zur automatischen Gesichtserkennung und Massenüberwachung. Sie waren auch im EU-Parlament umstritten; die konservative EVP-Fraktion wollte bis zuletzt Ausnahmen für das nun beschlossene weitgehende Verbot durchsetzen.

Keine automatische Gesichtserkennung

Biometrische Gesichtserkennung soll nach dem nun beschlossenen Kompromiss nur nach einer richterlichen Entscheidung und zur Aufklärung schwerer Verbrechen erlaubt sein. Eine Auswertung biometrischer Daten nach Geschlecht, Volkszugehörigkeit oder Hautfarbe bleibt verboten. Auch das Sammeln biometrischer Daten in Online-Netzwerken oder von Überwachungskameras soll tabu sein.

Man werde darauf achten, dass KI-Systeme nicht für Desinformation oder die Manipulation von Wahlen genutzt werden, sagte Metsola. Dies sei vor allem mit Blick auf die Europawahl im Juni 2024 wichtig. Bis dahin soll auch der endgültige Gesetzestext stehen.

Die EU-Kommission hatte ihren Entwurf bereits im April 2021 vorgelegt. Er konzentriert sich auf die Produktsicherheit und den Datenschutz. Systemische Risiken, vor denen führende KI-Entwickler wiederholt gewarnt haben, wurden ausgeblendet. Militärische Anwendungen oder der Wegfall von Jobs durch KI-Systeme waren kein Thema.

Hoffen auf den “Brussels effect”

Die EU wurde auch von neuen Entwicklungen wie dem Vormarsch von ChatGPT und anderen „generativen“ Sprachsystemen überrascht. Ein weiteres Problem ist, dass die mächtigsten KI-Systeme bisher nicht in Europa, sondern in den USA und China entwickelt werden. Gerade deshalb müsse man alles daran setzen, die KI nach europäischen Werten zu regulieren, heißt es in Brüssel.

Die EU setzt auf den „Brussels effect“: Andere Länder könnten sich an den neuen Regeln orientieren. Bei der Datenschutzgrundverordnung von 2018 ist dies gelungen. Diesmal ist es allerdings ein Rennen gegen die Zeit. Der AI-Act dürfte nämlich erst in zwei Jahren vollständig umgesetzt werden – so lange haben die Unternehmen Zeit, sich an die neuen Regeln anzupassen.

Doch bis dahin könnte die KI längst viel weiter sein als die EU erlaubt. Das erste KI-Gesetz ist schon beim Start veraltet…

Siehe auch Die gute Nachricht aus Brüssel: EU plant Regeln für „Künstliche Intelligenz“ Mehr zur KI hier

P.S. Zu ChatGPT hat das Parlament immerhin einen neuen Passus in das KI-Gesetz eingefügt, wie die “FAZ” berichtet. Der verpflichtet die Entwickler, die Systeme im Vorfeld ausführlich auf die von ihnen ausgehenden Risiken für die Gesundheit, die Sicherheit, Grundrechte, die Umwelt und die Demokratie zu prüfen und im Zweifel für Abhilfe zu sorgen. Das habe der ChatGPT-Entwickler Open AI nicht getan. Sein System ist trotzdem bereits am Markt – und die Parlaments-Position ist noch nicht Gesetz…