Gesetz zur künstlichen Intelligenz: Abgeordnete verabschieden historisches Gesetz

Am Mittwoch verabschiedete das Parlament das Gesetz über künstliche Intelligenz, das Sicherheit und Achtung der Grundrechte garantiert und gleichzeitig Innovationen anregt.

Die Verordnung, die bei den Verhandlungen mit den Mitgliedstaaten im Dezember 2023 vereinbart wurde, wurde von den Abgeordneten mit 523 Ja-Stimmen, 46 Nein-Stimmen und 49 Enthaltungen angenommen.

Ziel ist es, die Grundrechte, die Demokratie, die Rechtsstaatlichkeit und die ökologische Nachhaltigkeit vor hochriskanter KI zu schützen und gleichzeitig Innovationen anzukurbeln und Europa auf diesem Gebiet führend zu machen. Die Verordnung legt Verpflichtungen für KI auf der Grundlage ihrer potenziellen Risiken und des Ausmaßes ihrer Auswirkungen fest.

Verbotene Apps

Die neuen Regeln verbieten bestimmte KI-Anwendungen, die die Rechte der Bürger gefährden, darunter biometrische Kategorisierungssysteme auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Datenbanken zur Gesichtserkennung. Emotionserkennung am Arbeitsplatz und in Schulen, soziale Bewertung, vorausschauende Polizeiarbeit (wenn sie ausschließlich auf der Profilerstellung einer Person oder der Bewertung ihrer Merkmale beruht) und KI, die das Verhalten von Menschen manipuliert oder die Schwachstellen von Menschen ausnutzt, werden ebenfalls verboten.

Ausnahmen von der Anwendung des Gesetzes

Der Einsatz biometrischer Identifikationssysteme (RBI) durch Strafverfolgungsbehörden ist grundsätzlich verboten, außer in erschöpfend aufgeführten und eng definierten Situationen. „Echtzeit“-RBI kann nur eingesetzt werden, wenn strenge Sicherheitsvorkehrungen eingehalten werden, zum Beispiel ist ihre Verwendung zeitlich und räumlich begrenzt und unterliegt einer spezifischen vorherigen gerichtlichen oder behördlichen Genehmigung. Zu solchen Verwendungszwecken kann beispielsweise die gezielte Suche nach einer vermissten Person oder die Verhinderung eines Terroranschlags gehören. Der Einsatz solcher Systeme im Nachhinein („Post-Remote-RBI“) gilt als risikoreicher Anwendungsfall, der einer gerichtlichen Genehmigung bedarf und mit einer Straftat verbunden ist.

Pflichten für Hochrisikosysteme

Auch für andere KI-Systeme mit hohem Risiko (aufgrund ihres erheblichen Schadenspotenzials für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und den Staat) sind klare Verpflichtungen vorgesehen. Beispiele für risikoreiche Anwendungen von KI sind kritische Infrastrukturen, Bildung und Berufsausbildung, Beschäftigung, wesentliche private und öffentliche Dienste (z. B. Gesundheitswesen, Banken), bestimmte Systeme der Strafverfolgung, Migration und Grenzmanagement, Justiz und demokratische Prozesse (z. B. Beeinflussung von Wahlen). . . Solche Systeme müssen Risiken bewerten und mindern, Nutzungsprotokolle führen, transparent und genau sein und eine menschliche Aufsicht gewährleisten. Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen für Entscheidungen zu erhalten, die auf KI-Systemen mit hohem Risiko basieren und ihre Rechte beeinträchtigen.

Transparenzanforderungen

General Purpose AI (GPAI)-Systeme und die ihnen zugrunde liegenden GPAI-Modelle müssen bestimmte Transparenzanforderungen erfüllen, darunter die Einhaltung des europäischen Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für die Bildung verwendeten Inhalte. Für die leistungsstärksten GPAI-Modelle, die möglicherweise systemische Risiken darstellen, werden zusätzliche Anforderungen gelten, darunter die Durchführung von Modellbewertungen, die Bewertung und Minderung systemischer Risiken sowie die Berichterstattung über Vorfälle.

Darüber hinaus müssen künstliche oder manipulierte Bild-, Audio- oder Videoinhalte („Deepfakes“) eindeutig als solche gekennzeichnet werden.

Maßnahmen zur Innovations- und KMU-Förderung

Auf nationaler Ebene müssen regulatorische Sandboxen und reale Tests eingerichtet und für KMU und Start-ups zugänglich gemacht werden, um innovative KI zu entwickeln und zu trainieren, bevor sie auf den Markt gebracht wird.

Zitate

Während der Plenardebatte am Dienstag sagte der Mitberichterstatter des Binnenmarktausschusses Brando Benifei (S&D, Italien): „Wir haben endlich das weltweit erste verbindliche Gesetz zu künstlicher Intelligenz, um Risiken zu reduzieren, Chancen zu schaffen, Diskriminierung zu bekämpfen und für Transparenz zu sorgen.“ Dank des Parlaments werden inakzeptable KI-Praktiken in Europa verboten und die Rechte von Arbeitnehmern und Bürgern geschützt. Das AI Office wird nun eingerichtet, um Unternehmen bei der Einhaltung der Regeln zu unterstützen, bevor diese in Kraft treten. Wir haben dafür gesorgt, dass der Mensch und die europäischen Werte im Mittelpunkt der KI-Entwicklung stehen.

Der Mitberichterstatter des Ausschusses für bürgerliche Freiheiten, Dragos Tudorache (Renew, Rumänien), sagte: „Die EU hat ihre Versprechen gehalten. Wir haben das Konzept der künstlichen Intelligenz mit den Grundwerten verknüpft, die unseren Gesellschaften zugrunde liegen. Allerdings gibt es noch viel zu tun, das über das KI-Gesetz selbst hinausgeht. KI wird uns dazu bringen, den Gesellschaftsvertrag im Herzen unserer Demokratien, unserer Bildungsmodelle, unserer Arbeitsmärkte und der Art und Weise, wie wir Kriege führen, zu überdenken. Das KI-Gesetz ist der Ausgangspunkt für ein neues Governance-Modell, das auf Technologie basiert. Wir müssen uns jetzt darauf konzentrieren, dieses Gesetz in die Praxis umzusetzen.“

Nächste Schritte

Die Verordnung steht noch unter dem Vorbehalt einer abschließenden Prüfung durch Rechts- und Sprachsachverständige und soll noch vor Ende der Legislaturperiode (im sogenannten Korrekturverfahren) endgültig verabschiedet werden. Das Gesetz muss außerdem vom Rat offiziell genehmigt werden.

Es tritt zwanzig Tage nach seiner Veröffentlichung im Amtsblatt in Kraft und ist 24 Monate nach seinem Inkrafttreten in vollem Umfang anwendbar, mit Ausnahme von Verboten verbotener Praktiken, die sechs Monate nach dem Datum des Inkrafttretens gelten ; Verhaltenskodizes (neun Monate nach Inkrafttreten); allgemeine Regeln zu KI, einschließlich Governance (12 Monate nach Inkrafttreten); und Anleihen für Hochrisikosysteme (36 Monate).

Hintergrund

Das Gesetz zur künstlichen Intelligenz reagiert direkt auf die Bürgervorschläge der Konferenz zur Zukunft Europas (COFE), konkreter auf Vorschlag 12(10) zur Stärkung der Wettbewerbsfähigkeit der EU in strategischen Sektoren, Vorschlag 33(5) zu einem Safe und vertrauenswürdige Gesellschaft, einschließlich der Bekämpfung von Fehlinformationen und der Sicherstellung, dass Menschen letztendlich die Kontrolle haben, Vorschlag 35 zur Förderung digitaler Innovationen (3) bei gleichzeitiger Gewährleistung der Kontrolle durch Menschen und (8) eines zuverlässigen und verantwortungsvollen Einsatzes von KI, Festlegung von Schutzmaßnahmen und Gewährleistung von Transparenz, und Vorschlag 37 (3) über den Einsatz von KI und digitalen Werkzeugen zur Verbesserung des Zugangs der Bürger zu Informationen, einschließlich Menschen mit Behinderungen.