Heute tritt der europäische Rechtsakt über künstliche Intelligenz (KI-Gesetz) in Kraft, die weltweit erste umfassende Verordnung über künstliche Intelligenz. Das KI-Gesetz soll sicherstellen, dass in der EU entwickelte und genutzte KI vertrauenswürdig ist und Schutzbestimmungen zum Schutz der Grundrechte der Menschen enthält. Ziel der Verordnung ist die Schaffung eines harmonisierten Binnenmarkts für KI in der EU, der die Einführung dieser Technologie fördert und ein unterstützendes Umfeld für Innovation und Investitionen schafft.
Das KI-Gesetz führt eine zukunftsweisende Definition von KI ein, die auf einem produktsicherheits- und risikobasierten Ansatz in der EU basiert:
Minimales Risiko: Die meisten KI-Systeme, wie KI-gestützte Empfehlungssysteme und Spamfilter, fallen in diese Kategorie. Diese Systeme unterliegen aufgrund ihres minimalen Risikos für die Rechte und Sicherheit der Bürger keinen Verpflichtungen gemäß dem KI-Gesetz. Unternehmen können freiwillig zusätzliche Verhaltenskodizes übernehmen. Spezifisches Transparenzrisiko: KI-Systeme wie Chatbots müssen den Benutzern klar offenlegen, dass sie mit einer Maschine interagieren. Bestimmte KI-generierte Inhalte, einschließlich Deep Fakes, müssen als solche gekennzeichnet werden, und Benutzer müssen informiert werden, wenn biometrische Kategorisierung oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen Anbieter Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Hohes Risiko: KI-Systeme, die als risikoreich eingestuft werden, müssen strenge Anforderungen erfüllen, darunter Risikominderungssysteme, hohe Qualität der Datensätze, Protokollierung von Aktivitäten, detaillierte Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulierungs-Sandboxen werden verantwortungsvolle Innovation und die Entwicklung konformer KI-Systeme erleichtern. Zu solchen KI-Systemen mit hohem Risiko gehören beispielsweise KI-Systeme, die bei der Personalbeschaffung eingesetzt werden, oder um zu beurteilen, ob jemand Anspruch auf einen Kredit hat, oder die autonome Roboter steuern. Inakzeptables Risiko: KI-Systeme, die als eine klare Bedrohung der Grundrechte der Menschen gelten, werden verboten. Dazu zählen KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Benutzer zu umgehen, wie etwa Spielzeuge mit Sprachassistenten, die gefährliches Verhalten von Minderjährigen fördern, Systeme, die Regierungen oder Unternehmen ein „Social Scoring“ ermöglichen, und bestimmte Anwendungen der vorausschauenden Polizeiarbeit. Darüber hinaus werden einige Verwendungen biometrischer Systeme verboten sein, zum Beispiel Systeme zur Emotionserkennung am Arbeitsplatz und einige Systeme zur Personenkategorisierung oder zur biometrischen Fernidentifizierung in Echtzeit für Strafverfolgungszwecke in öffentlich zugänglichen Räumen (mit wenigen Ausnahmen).
Ergänzend zu diesem System führt das KI-Gesetz auch Regeln für sogenannte Allzweck-KI-Modelle ein. Dabei handelt es sich um hochleistungsfähige KI-Modelle, die für eine Vielzahl von Aufgaben wie die Generierung menschenähnlicher Texte konzipiert sind. Allzweck-KI-Modelle werden zunehmend als Komponenten von KI-Anwendungen eingesetzt. Das KI-Gesetz wird für Transparenz entlang der Wertschöpfungskette sorgen und mögliche systemische Risiken der leistungsfähigsten Modelle adressieren.
Anwendung und Durchsetzung der KI-Regeln
Die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, die zuständigen nationalen Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme überwachen und Marktüberwachungstätigkeiten durchführen. Das KI-Büro der Kommission wird die wichtigste Umsetzungsstelle für das KI-Gesetz auf EU-Ebene sein und auch für die Durchsetzung der Vorschriften für allgemeine KI-Modelle sorgen.
Drei Beratungsgremien werden die Umsetzung der Vorschriften unterstützen. Der Europäische Rat für künstliche Intelligenz wird eine einheitliche Anwendung des KI-Gesetzes in allen EU-Mitgliedstaaten gewährleisten und als zentrales Gremium für die Zusammenarbeit zwischen der Kommission und den Mitgliedstaaten fungieren. Ein wissenschaftliches Gremium aus unabhängigen Experten wird technische Beratung und Input zur Durchsetzung bieten. Insbesondere kann dieses Gremium das KI-Büro vor Risiken warnen, die mit allgemeinen KI-Modellen verbunden sind. Das KI-Büro kann sich auch von einem Beratungsforum beraten lassen, das sich aus einer Vielzahl von Interessenvertretern zusammensetzt.
Unternehmen, die sich nicht an die Regeln halten, werden mit Geldbußen belegt. Diese können bei Verstößen gegen verbotene KI-Anwendungen bis zu sieben Prozent des weltweiten Jahresumsatzes betragen, bei Verstößen gegen sonstige Pflichten bis zu drei Prozent und bei der Bereitstellung falscher Informationen bis zu 1,5 Prozent.
Nächste Schritte
Die meisten Vorschriften des KI-Gesetzes treten am 2. August 2026 in Kraft. Verbote von KI-Systemen, die ein inakzeptables Risiko darstellen, gelten jedoch bereits nach sechs Monaten, während die Vorschriften für sogenannte Allzweck-KI-Modelle nach zwölf Monaten gelten.
Um die Übergangszeit bis zur vollständigen Umsetzung zu überbrücken, hat die Kommission den KI-Pakt ins Leben gerufen. Diese Initiative lädt KI-Entwickler ein, die wichtigsten Verpflichtungen des KI-Gesetzes bereits vor Ablauf der gesetzlichen Fristen freiwillig zu übernehmen.
Die Kommission entwickelt außerdem Leitlinien, um die Umsetzung des KI-Gesetzes zu definieren und zu konkretisieren, und fördert Koregulierungsinstrumente wie Standards und Verhaltenskodizes. Die Kommission hat eine Aufforderung zur Interessenbekundung für die Mitarbeit an der Ausarbeitung des ersten allgemeinen KI-Verhaltenskodexes sowie eine Konsultation mehrerer Interessengruppen gestartet, bei der alle Interessengruppen Gelegenheit haben, ihre Meinung zum ersten Verhaltenskodex im Rahmen des KI-Gesetzes zu äußern.
Hintergrund
Am 9. Dezember 2023 begrüßte die Kommission die politische Einigung zum KI-Gesetz. Am 24. Januar 2024 hat die Kommission ein Maßnahmenpaket auf den Weg gebracht, um europäische Startups und KMU bei der Entwicklung vertrauenswürdiger KI zu unterstützen. Am 29. Mai 2024 stellte die Kommission das KI-Büro vor. Am 9. Juli 2024 trat die geänderte EuroHPC JU-Verordnung in Kraft, die die Einrichtung von KI-Fabriken ermöglicht. Damit können dedizierte KI-Supercomputer für das Training von Allzweck-KI-Modellen (GPAI) verwendet werden.
Die kontinuierliche, unabhängige und faktenbasierte Forschung der Gemeinsamen Forschungsstelle (JRC) war von grundlegender Bedeutung für die Gestaltung der KI-Politik der EU und ihre wirksame Umsetzung.
source link eu news
