Update zum EU AI Act - Kommende Gesetze und Verordnungen
Freigabe durch das Europäische Parlament
Im Rahmen ihrer digitalen Strategie will die EU die künstliche Intelligenz (KI) regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. KI kann viele Vorteile mit sich bringen, z. B. eine bessere Gesundheitsversorgung, einen sichereren und saubereren Verkehr, eine effizientere Fertigung sowie eine billigere und nachhaltigere Energieversorgung.
Zunächst hat die Kommission im April 2021 den ersten EU-Rechtsrahmen für KI vorgeschlagen. Sie empfiehlt, dass KI-Systeme, die in verschiedenen Anwendungen eingesetzt werden können, auf der Grundlage des Risikos, das sie für die Nutzer darstellen, analysiert und klassifiziert werden. Die verschiedenen Risikostufen unterliegen einer mehr oder weniger starken Regulierung.
Erfahren Sie mehr darüber, was künstliche Intelligenz ist und wie sie eingesetzt wird. Was das Parlament von der KI-Gesetzgebung erwartet
Das Europäische Parlament möchte vor allem sicherstellen, dass die in der EU eingesetzten KI-Systeme sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. KI-Systeme sollten von Menschen und nicht von der Automatisierung überwacht werden, um schädliche Ergebnisse zu verhindern.
Das Parlament möchte außerdem eine technologieneutrale, einheitliche Definition von KI festlegen, die auf künftige KI-Systeme angewendet werden könnte.
Erfahren Sie mehr über die Arbeit des Parlaments zum Thema KI und seine Vision für die Zukunft der KI. Gesetz über künstliche Intelligenz: ein risikobasierter Ansatz
Die neuen Verordnungen legen Verpflichtungen für Anbieter und Nutzer fest, die sich nach dem Risiko richten, das von dem KI-System ausgeht. Obwohl viele KI-Systeme ein minimales Risiko darstellen, müssen sie bewertet werden. Inakzeptables Risiko
AI-Erstellung einer Französischen Bulldogge
KI-Systeme stellen ein inakzeptables Risiko dar, wenn sie als Bedrohung für Menschen angesehen werden. Diese KI-Systeme werden verboten werden. Sie umfassen:
Kognitive Verhaltensmanipulation von Einzelpersonen oder bestimmten gefährdeten Gruppen, z. B. sprachgesteuertes Spielzeug, das gefährliches Verhalten bei Kindern fördert;
Soziales Scoring: Klassifizierung von Menschen aufgrund von Verhalten, sozioökonomischem Status und persönlichen Merkmalen;
Biometrische Identifizierung und Kategorisierung von natürlichen Personen;
Biometrische Fernidentifikationssysteme in Echtzeit, wie z. B. Gesichtserkennung.
Einige Ausnahmen können für Strafverfolgungszwecke zugelassen werden. Biometrische Fernidentifizierungssysteme in Echtzeit werden in einer begrenzten Anzahl von schweren Fällen zulässig sein. Systeme zur nachträglichen biometrischen Fernidentifizierung, bei denen die Identifizierung mit erheblicher Verzögerung erfolgt, können bei der Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung zugelassen werden. Hochriskante KI-Systeme
KI-Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder die Grundrechte natürlicher Personen darstellen, gelten als hochriskant und werden in zwei Hauptkategorien unterteilt.
KI-Systeme, die in Produkten verwendet werden, unterliegen den EU-Produktsicherheitsvorschriften. Dazu gehören Spielzeug, Luftfahrt, Fahrzeuge, medizinische Geräte und Aufzüge.
KI-Systeme, die in bestimmte Bereiche fallen und in einer EU-Datenbank registriert werden müssen:
Verwaltung und Betrieb kritischer Infrastrukturen; allgemeine und berufliche Bildung; Beschäftigung, Arbeitskräftemanagement und Zugang zur Selbständigkeit; Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Dienstleistungen und Leistungen; Strafverfolgung; Verwaltung von Migration, Asyl und Grenzkontrollen; Unterstützung bei der Auslegung und Anwendung von Gesetzen.
Alle KI-Systeme mit hohem Risiko werden vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus bewertet. Die Bürger werden das Recht haben, bei den zuständigen nationalen Behörden Beschwerden über KI-Systeme einzureichen. Transparenzanforderungen
eine AI-Interpretation des Hafens von Lissabon (Portugal)
Generative Foundation-Modelle wie ChatGPT werden nicht als risikoreich eingestuft, müssen aber Transparenzanforderungen erfüllen und dem EU-Urheberrecht entsprechen:
Offenlegung, dass der Inhalt durch KI generiert wurde;
Gestaltung des Modells, um zu verhindern, dass es illegale Inhalte erzeugt;
Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für die Ausbildung verwendet wurden.
KI-Systeme mit allgemeiner Verwendung und erheblichen Auswirkungen, die ein Systemrisiko darstellen könnten, wie das fortgeschrittene KI-Modell GPT-4, müssten gründlich bewertet werden, und alle schwerwiegenden Vorfälle müssten der Kommission gemeldet werden.
Durch KI erstellte oder veränderte Inhalte - Bilder, Audio- oder Videodateien (z. B. Deepfakes) - müssen eindeutig als KI-generiert gekennzeichnet werden, damit die Nutzer wissen, wann sie auf solche Inhalte stoßen. Förderung von Innovation
Das Gesetz soll KMU und Start-ups die Möglichkeit geben, KI-Modelle zu entwickeln und zu trainieren, bevor sie für die Allgemeinheit freigegeben werden.
Aus diesem Grund müssen die nationalen Behörden den Unternehmen eine Testumgebung zur Verfügung stellen, die die realen Bedingungen simuliert. Nächste Schritte
Der vereinbarte Text wird auf einer der nächsten Plenartagungen des Parlaments förmlich angenommen werden. Er wird 24 Monate nach seinem Inkrafttreten in vollem Umfang anwendbar sein, einige Teile werden jedoch schon früher gelten:
Das Verbot von KI-Systemen, die unannehmbare Risiken bergen, gilt sechs Monate nach Inkrafttreten;
Die Verhaltenskodizes werden neun Monate nach ihrem Inkrafttreten gelten;
Die Vorschriften für KI-Systeme für allgemeine Zwecke, die den Transparenzanforderungen genügen müssen, gelten zwölf Monate nach ihrem Inkrafttreten.
Für Systeme mit hohem Risiko wird mehr Zeit zur Verfügung stehen, um die Anforderungen zu erfüllen; die sie betreffenden Verpflichtungen gelten 36 Monate nach Inkrafttreten.
Weitere Arbeiten
