Die gute Nachricht aus Brüssel: EU plant Regeln für “Künstliche Intelligenz”

Doch, es gibt sie noch – die guten Nachrichten aus Brüssel. Diese Woche: Die EU arbeitet an den weltweit ersten Vorschriften für die so genannten “Künstliche Intelligenz” (KI). 

(Pressemitteilung des Europaparlaments)

Um eine menschenzentrierte und ethische Entwicklung der Künstlichen Intelligenz (KI) zu garantieren, hat das Parlament neue Transparenz- und Risikomanagementregeln für KI-Systeme gebilligt.

Am Donnerstag haben der Binnenmarktausschuss und der Ausschuss für bürgerliche Freiheiten in Straßburg den Entwurf eines Verhandlungsmandats für die ersten Regeln für Künstliche Intelligenz mit 84 Ja-Stimmen, 7 Nein-Stimmen und 12 Enthaltungen angenommen. In ihren Änderungsanträgen zum Kommissionsvorschlag wollen die Europaabgeordneten sicherstellen, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Außerdem wollen sie eine einheitliche und technologieneutrale KI-Definition, so dass sie für die KI-Systeme von heute und morgen gelten kann.

Risikobasierter Ansatz für KI – Verbotene KI-Praktiken

Die Vorschriften folgen einem risikobasierten Ansatz und legen Verpflichtungen für Anbieter und Nutzerinnen und Nutzer fest, die sich nach dem Grad des Risikos richten, das die KI erzeugen kann. KI-Systeme, die ein inakzeptables Risiko für die Sicherheit von Menschen darstellen, wären strengstens verboten. Dazu gehören Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder für Social Scoring (Klassifizierung von Menschen auf der Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder persönlicher Merkmale) verwendet werden.

Die Abgeordneten änderten die Liste erheblich, um Verbote für aufdringliche und diskriminierende Anwendungen von KI-Systemen aufzunehmen (…)

Nach der Abstimmung sagte der Ko-Berichterstatter Brando Benifei (S&D, Italien): “Wir stehen kurz davor, eine bahnbrechende Gesetzgebung auf den Weg zu bringen, die den Herausforderungen der Zeit standhalten muss. Es ist von entscheidender Bedeutung, das Vertrauen der Bürger in die Entwicklung der KI zu stärken, den europäischen Weg für den Umgang mit den außerordentlichen Veränderungen, die bereits stattfinden, festzulegen und die politische Debatte über KI auf globaler Ebene zu lenken. Wir sind zuversichtlich, dass unser Text ein Gleichgewicht zwischen dem Schutz der Grundrechte und der Notwendigkeit herstellt, den Unternehmen Rechtssicherheit zu bieten und die Innovation in Europa zu fördern.”

EINORDNUNG: Die Definition von “KI” ist weiter unklar. So bleibt offen, was an Sprach- oder Mustererkennung “intelligent” sein soll. Zudem werden neue “generische” Systeme wie Chat GPT nicht erfasst – die Abgeordneten sind von der rasanten Entwicklung überrollt worden. Das „Zähmen der Chatbots“ werde noch viel Zeit und Kraft kosten, räumte Alexandra Geese von den Grünen ein. Sie will gegen “Desinformation” vorgehen – doch das Ziel einer KI-Gesetzgebung sollte es nicht sein, eine Zensur durch die Hintertür einzuführen. Zudem fehlt ein Verbot von militärischen KI-Anwendungen, wie sie im Krieg um die Ukraine vorangetrieben werden – auch von der EU…

Mehr hier (Pressemitteilung des Parlaments). Mehr gute Nachrichten aus Brüssel hier.