EU-Abgeordnete: Strengere Regeln für Künstliche Intelligenz
Überwachungskamera in Verbindung mit KI - das soll reguliert werden
Bild: picture alliance/dpa
Europaabgeordnete setzen sich für strengere Regeln
im Umgang mit Künstlicher Intelligenz ein. Der Ausschuss für
Binnenmarkt und der Justizausschuss des Parlaments sprachen sich heute in Straßburg dafür aus, dass diskriminierende Anwendungen
von KI-Systemen verboten werden sollen. Konkret sollen nach Angaben
des Parlaments etwa wahlloses Auslesen biometrischer Daten aus
sozialen Medien verboten werden und das Erstellen von Datenbanken zur
Gesichtserkennung aus Bildern von Überwachungskameras.
Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis
maschinellen Lernens, bei denen eine Software große Datenmengen
durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon in
vielen Bereichen eingesetzt. KI steht aber auch in der Kritik.
Überwachungskamera in Verbindung mit KI - das soll reguliert werden
Bild: picture alliance/dpa
Gesichtserkennung in einer liberalen Demokratie?
"Gesichtserkennung zur Überwachung kennen wir aus China, diese Anwendung von Technologie hat in einer liberalen Demokratie nichts zu suchen", teilte die FDP-Abgeordnete Svenja Hahn mit. Etwas kritischer sehen Politiker der Union das Vorhaben. Der CDU-Europaabgeordnete Axel Voss sprach von einem angstgetriebenen Umgang mit Künstlicher Intelligenz, der die Chancen neuer Technologien ersticke. Grundsätzlich sei das Gesetz aber ein richtiger Schritt.
Der Abgeordnete Sergey Lagodinsky betonte: "KI-Systeme wie ChatGPT verbrauchen enorme Mengen Energie." Künftig sollen solche Systeme energieeffizient gestaltet und der Ressourcenverbrauch offengelegt werden, so der Grünen-Politiker. Sein SPD-Amtskollege René Repasi betonte: "Wir müssen sicherstellen, dass KI-Anwendungen keinesfalls gegen Bürgerinnen und Bürger verwendet werden."
Die Abstimmung in den Ausschüssen muss noch vom gesamten Parlament bestätigt werden, und es können Änderungsanträge eingebracht werden. Danach muss sich das Parlament mit den EU-Staaten auf einen Kompromiss verständigen. Die EU-Kommission hatte das Gesetz im April 2021 mit dem Ziel vorgeschlagen, globale Standards zu setzen. Für Regelverstöße sind hohe Strafen vorgesehen. Die Behörde will die Grundlage schaffen, dass Nutzer KI-Anwendungen vertrauen können.
Erste Reaktionen auf die Bemühungen
Alexander Sander, Senior Policy Consultant der Free Software Foundation Europe (FSFE), erklärt: "Statt die Verantwortung den Entwicklern zuzuschreiben, soll diese den einsetzenden Unternehmen, die auf dem Markt davon profitieren, übertragen werden. Kleinere Projekte sowie non-profit Aktivitäten, beispielsweise von Stiftungen, müssen ausgenommen sein. Die Abgeordneten erkennen damit die Realitäten der Freien Software Entwicklung an und versuchen diese zu schützen. Das Prinzip, Verantwortung und Haftung auf jene zu übertragen, die auf dem Markt profitieren, anstatt die Entwickler in den Fokus zu stellen, muss auch im Cyber Resilience Act sowie der Product Liability Directive verankert werden. Nur so können Freie Software Projekte und deren Entwickler, aber auch Verbraucher und Kunden gleichzeitig geschützt werden."
"Es muss sichergestellt werden, dass KI-Anwendungen Menschen nicht körperlich verletzen oder benachteiligen", sagte Joachim Bühler, Geschäftsführer des TÜV-Verbands. "Mit der geplanten KI-Verordnung besteht die Chance, einen Rechtsrahmen für die ethische und sichere Nutzung von Künstlicher Intelligenz in der EU zu schaffen." Aus Sicht des TÜV-Verbands leitet sich daraus ein klarer Handlungsauftrag für die Politik ab. "Mit dem AI Act ist die EU globaler Vorreiter bei der Gesetzgebung in den demokratisch organisierten Wirtschaftsblöcken", sagte Bühler. "Mit einer intelligenten Regulierung können wir einen internationalen Standard für innovative und wertebasierte KI setzen. [...] Vor ihrer Markteinführung sollten alle Hochrisiko-KI-Systeme von einer unabhängigen Stelle überprüft werden. Nur so kann sichergestellt werden, dass die Anwendungen den Sicherheitsanforderungen entsprechen."
Bitkom und Verein Digitalcourage e.V.
Bitkom-Präsident Achim Berg erklärt: "Wir warnen davor, KI durch ein Übermaß an Regulierung aus Deutschland und Europa zu vertreiben. Wie Europa sich zur Künstlichen Intelligenz verhält, wird großen Einfluss auf unsere künftige Wettbewerbsfähigkeit und unseren Wohlstand haben. Die vergangenen Monate haben mit Durchbrüchen rund um generative Künstliche Intelligenz wie ChatGPT angedeutet, welch enormes Potenzial diese Technologie besitzt. Mit Verboten oder übertrieben strengen Auflagen, wie sie von den Mitgliedern des Europäischen Parlaments teilweise diskutiert wurden, werden wir allenfalls dafür sorgen, dass KI-Entwicklung künftig außerhalb Europas stattfindet und Expertinnen und Experten aus Deutschland und anderen europäischen Ländern ihr Wissen anderswo einsetzen. Wir dürfen KI nicht aus Europa verdrängen. KI braucht Regulierung, es gilt beim AI Act aber, sich auf jene Anwendungen zu konzentrieren, die potenziell ein hohes Risiko mit sich bringen, etwa im Gesundheits- oder Mobilitätsbereich. Pauschale Vorgaben für eine Technologie helfen nicht und werden Forschung und Entwicklung ebenso wie die Entwicklung von Geschäftsmodellen abwürgen. Die weiteren Verhandlungen zum AI Act dürfen unkritische Anwendungen nicht vor unnötige und übertriebene Anforderungen stellen - an dieser Stelle geht der Vorschlag des Europaparlaments in die richtige Richtung. Unternehmen brauchen zudem klare, praxistaugliche Regeln. Schon heute findet KI nicht im rechtsfreien Raum statt, es gelten eine Vielzahl von Regeln vom Urheberrecht bis zum Datenschutz. Wichtig ist, keine Widersprüche und neuen Rechtsunsicherheiten entstehen zu lassen."
"Der heutige Tag ist ein riesiger Erfolg für die Zivilgesellschaft. Biometrische Überwachung ist eine Gefahr für unsere Demokratie und ein Verbot von Gesichtserkennung darum dringend nötig", äußerte Konstantin Macher vom Verein Digitalcourage e.V. "Automatische 'KI'-Erkennung von Gesichtern, der Gangart und anderer biometrischer Merkmale reduziert uns Menschen zu Datensätzen und ist besonders gefährlich. Das ist die Art von skalierbarer Kontrolle, auf die autoritäre Regime setzen und nicht Rechtsstaaten. Aber selbst bei gutgemeinter Anwendung verstärken solche Systeme aufgrund ihrer Funktionsweise eine gesellschaftliche Diskriminierung. Ein Verbot von biometrischer 'KI-'-Überwachung ist darum der einzig richtige Weg für eine freiheitlich-demokratische Gesellschaft. [...] Jetzt kommt es darauf an, in den Trilogverhandlungen nicht hinter den heutigen Kompromiss zurückzufallen. Die Ampelkoalition hat in der Vergangenheit enttäuscht, indem sie sich entgegen dem Koalitionsvertrag für weitreichende Ausnahmen stark gemacht hatte. Darum ist es so wichtig, dass die Abgeordneten heute für den Schutz der Grundrechte gestimmt haben."
Google hat die Entwicklerkonferenz I/O offiziell gestartet. Zum Start gab es einen Einblick, wie der Chatbot Bard den Nutzer unterstützen kann.