KI-Gesetz: Europe first!?
Die EU bekommt ein Regelwerk für den Einsatz der sog. “Künstlichen Intelligenz” (KI). Was genau drinsteht, weiß man noch nicht. Doch das scheint nicht so wichtig – Hauptsache, “wir” sind die Ersten!?
“Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt”, jubelte EU-Binnenmarktkommissar Breton nach der vorläufigen politischen Einigung in Brüssel.
Kommissionspräsidentin von der Leyen begrüßte das Gesetz als “historischen Moment”. Damit würden “die europäischen Werte in eine neue Ära übertragen”, erklärte sie.
Pustekuchen. Wenn es um europäische Werte ginge, würden wir nicht von “Künstlicher Intelligenz” reden, sondern von Mustererkennung, Maschinellem Lernen oder Generativen Systemen.
Haupttreiber: Das US-Militär
Das ist nämlich die Technik hinter der sog. KI. Mit natürlicher Intelligenz hat sie herzlich wenig zu tun. Mit europäischen Werten auch nicht. Der Haupttreiber ist – seit jeher – das amerikanische Militär.
Die wichtigsten – und gruseligsten – Anwendungen dienen denn auch dem Krieg, aktuell vor allem in Israel. Doch dazu sagt die EU nichts – militärische Anwendungen sind von der Regulierung ausgenommen!
Doch darüber spricht von der Leyen nicht so gern. Stattdessen preist sie eine KI, der die Menschen “vertrauen” könnten. Außerdem würden “Sicherheit und Grundrechte von Menschen und Unternehmen” geschützt.
In letzter Minute aufgeweicht
___STEADY_PAYWALL___
Auch das ist nicht die ganze Wahrheit. Denn Brüssel geht es auch darum, im globalen Wettbewerb um die KI mitzuhalten. Deshalb wurden die Regeln in letzter Minute noch einmal aufgeweicht – auch auf deutschen Druck.
Was genau drinsteht im ersten “AI Act”, ist noch nicht klar. “Bevor die Verhandlungen für abgeschlossen erklärt werden können, sind noch umfangreiche technische Arbeiten erforderlich”, betont der KI Bundesverband.
Da müssen wir wohl noch warten. Derweil tut die EU alles, um die Unternehmen mit Daten zu füttern, die “intelligent” ausgebeutet – pardon: ausgewertet – werden können. Dafür entstehen riesige Datensammlungen, u.a. zur Gesundheit.
Der Nachzügler will Erster sein
Im Grunde ist es wie mit dem “European Green Deal”: Hinter den hehren Zielen verbirgt sich vor allem der Versuch, einen neuen lukrativen Markt zu schaffen. Und als erstes die Regeln zu setzen. “Europe first” sozusagen.
Dabei hinkt Europa bei der Anwendung der KI international weit hinterher. Und zwar so sehr, dass man bei der Regulierung um ein Haar sogar Chat-GPT vergessen hätte…
P.S. Von KI verstehe ich ein wenig – ich habe darüber meine Diplomarbeit geschrieben. Sie ist sogar noch heute bei Amazon erhältlich…
KK
11. Dezember 2023 @ 14:36
“…dass man bei der Regulierung um ein Haar sogar Chat-GPT vergessen hätte…”
Oder ist es vielleicht so, dass man ChatGPT das Regelwerk hat schreiben lassen und Selbstreferenzialität bei ChatGPT schlicht nicht vorgesehen ist?
KK
11. Dezember 2023 @ 14:28
„…militärische Anwendungen sind von der Regulierung ausgenommen!“
Wie schon beim CO2/Klimawandel. Der grösste Elefant im Raum scheisst einfach auf die Regeln und bedeckt sie damit vollständig.
Arthur Dent
11. Dezember 2023 @ 11:44
Da ist sie ja, die Welt der Alpha, Beta und Gammas – Orwell und Huxley kannten zwar KI nicht, haben diese Welt aber ganz gut beschrieben.
KI ist Freiheit – glaubt zumindest die SPD.
Helmut Höft
11. Dezember 2023 @ 10:18
@Thomas Damrau
FACK! Besser kann man das Problem nicht beschreiben, Danke. Oder so: Digitalisierung ist ein böswilliger Akt der Macht (autoritärer Staat/Konzerne) gegen die Menschen. Es gibt keinen Aktenbeleg/Kundenkopie mehr, digitale Daten sind veränderbar. Punkt!
Wenn Dein Buch zum Thema rauskommt, krieg’ ich dann eins mit Widmung? 😉
Thomas Damrau
11. Dezember 2023 @ 09:25
Die entscheidenden Fragen werden höchsten am Rande diskutiert.
Frage 1: Wer hat die Verfügungsgewalt über die Technologien?
Der augenblickliche KI-Hype wurde durch die Verfügbarkeit geeigneter Hardware für neuronale Netze losgetreten. Eigentlich ist der Ansatz
„Schau dir mal die Daten an und versuch Dir einen Reim darauf zu machen, welche Muster sich dahinter verbergen. Speicher das Ergebnis als Parameter in einem sehr generischen Mechanismus, der für eine(n) Ausstehenden mit natürlicher Intelligenz schwer/gar nicht interpretierbar ist.“
sehr ineffizient und wegen der Intransparenz unbefriedigend. Die (finanziellen) Mittel um eine solche Lösungen zu implementieren und trotz Bedenken am Markt durchzusetzen, haben nur große finanzstarke Konzerne, die dann auf die Intransparenz („Intellectual Property“) ihrer Produkte bestehen werden, um ihr Investment zu schützen.
Wollen wir das?
Frage 2: Welche Prozesse/Prozessschritte wollen wir digitalisieren?
Im Augenblick wird so getan, als werde die fortschreitende Digitalisierung erst durch KI gefährlich. Digitalisierung bedeutet aber im Kern, dass in Prozessen menschliche Arbeitsschritte durch Algorithmen und technische Geräte (z.B Drohnen/Roboter) ersetzt werden. Und dazu braucht man nicht zwangsläufig KI.
Beispiel: Kreditantrag
-1 Antragssteller füllt Antrag auf Papier aus.
-2 Sachbearbeiter prüft Antrag und Kreditwürdigkeit des Antragsstellers.
-3 Sachbearbeiter entscheidet.
-4 Sachbearbeiter informiert Antragssteller über Entscheidung.
Ohne Computer basiert dieser Prozess auf Formularen und Aktenordnern. Inzwischen sind Schritt 1 und 4 ohne Papier möglich. Bei Schritt 2 mischt die Schufa mit – und sorgt für Intransparenz. Wollen wir auch noch Schritt 3 einem Algorithmus überlassen? Diese Frage hat erst einmal nichts damit zu tun, welche Technologie im Zweifelsfall benutzt wird.
Beispiel: Autofahren besteht aus einer Dauerschleife
-1 Prüfen, ob man auf dem Weg zum Ziel ist
-2 Verkehrssituation beobachten
-3 Entscheidungen treffen (lenken, bremsen/beschleunigen, in Krisensituationen die Lösung mit dem geringsten Schaden auswählen -> „Auto an den Brückenpfeiler setzen/Rentner umfahren/in Kindergruppe fahren“)
Bis vor kurzem ging das alles mit Brainware. Jetzt haben wir für Schritt 1 Routenplaner (die man ignorieren kann), für Schritt 2 Assistenzsysteme (die meist nur unterstützen), Schritt 3 ist bisher noch nicht digitalisiert. Wollen wir alle drei Schritte komplett an Hardware delegieren?
Beispiel: Verbrechensbekämpfung ist bisher meist eine Reaktion auf ein bereits verübtes Verbrechen. Es ginge natürlich auch anders:
-1 permanent Daten sammeln (öffentliche Kameras, Datenverkehr auf dem Internet)
-2 verdächtige Muster identfizieren (was immer nur zu Aussagen über die Wahrscheinlichkeit, dass sich etwas Schädliches anbahnt, führen kann) und bei einer Wahrscheinlichkeit von über x% proaktiv vorgehen.
-3 Aufenthaltsort der beteiligten Personen ermitteln
-4 Einsatz-Team (Drohnen / Roboter) zur Festnahme der Personen losschicken
-5 Drohnen / Roboter entscheiden lassen, wie viel Gewalt bei der Festnahme angemessen ist
Klingt für manche autoritären Politiker sicherlich verlockend.
In jedem Fall werden viele Entscheidungsschritte nach ihrer Digitalisierung nur noch schwer nachvollziehbar sein.
Karl
11. Dezember 2023 @ 13:02
@Thomas Damrau: Ihre 3 entscheidenden Fragen, prima! Genau um die geht es!!
Eine Anmerkung: Neu ist das Sprachmodul. Es kann die Mensch-Maschine-Interaktion noch intensiver gestalten.
Aber neuronale Netze sind schöne Träume der Informatiker, die gibt es nicht. Computer können nur addieren, sind strunzdumme Maschinen, die mit viel Arbeitsspeicher und Strom rasend schnell “BigData” durchhecheln. Computer können nix außer Mustervergleichen, Sampling. Wir kennen das aus der Mengenlehre. Muster des Mainstreams sind gesetzt, Abweichungen = error exception.
Die Innovation liegt ausschließlich im Sprachmodul und im Marketing: Wenn die großen Tech-Konzerne die Dummheit der Maschine zur “Intelligenz” erklären. Tatsächlich ist die technische Innovation so gering, dass Microsoft noch nicht einmal ein Release einspielen musste.