Einigung über „AI Act“

Mit der Einigung über die europäische KI-Verordnung („EU AI Act“) hat die EU erfolgreich eine Vorreiterrolle bei der Gestaltung des Umgangs mit Künstlicher Intelligenz (KI) eingenommen. Damit soll auf EU-Ebene ein umfassender Rechtsrahmen für den Einsatz von KI geschaffen werden, wodurch die KI-Nutzung sicher gestaltet, Grundrechte geschützt und Innovation gefördert werden sollen. Die wesentlichen Regelungspunkte des „EU AI Act“ auf einen Blick:

• Handelt es sich um ein High-Risk KI-System (z.B. Rechtspflege, Bildung udgl.), haben deren Anbieter ein Fundamental Rights Impact Assessment („FRIA“) vorzunehmen, wonach etwa der Verwendungszweck und der geografische und zeitliche Anwendungsbereich des KI-Systems bewertet werden sollen (das gilt auch für den Banken- und Versicherungssektor).
• Zudem steht Betroffenen bei High-Risk KI-Systemen ein umfassendes Beschwerde- und Auskunftsrecht über KI-Entscheidungen zu.
• Die Verwendung biometrischer Identifizierungssysteme durch Strafverfolgungsbehörden im öffentlichen Raum wird weitgehend beschränkt. Ausnahmen bedürfen einer gerichtlichen Genehmigung und sind auf die Verfolgung von bestimmten schweren Straftaten (taxative Aufzählung relevanter Delikte) oder die Bekämpfung von terroristischen Bedrohungen beschränkt.
• Ausdrücklich verboten werden biometrische Kategorisierungssysteme unter Verwendung sensibler Merkmale, Social Scoring auf Grundlage von sozialem Verhalten oder persönlichen Merkmalen, das ungezielte Scraping von Gesichtsbildern, sowie KI-Systeme, die menschliches Verhalten manipulieren oder Schwachstellen ausnutzen.
• „Regulatory Sandboxes“ werden gefördert und bei Minimal-Risk KI sind lediglich simple Transparenzkriterien einzuhalten.
• General-Purpose-AI („GPAI“) müssen bestimmte Transparenzanforderungen erfüllen, einschließlich der technischen Dokumentation und der Einhaltung des EU-Urheberrechts.
• Geldbußen bei Verstößen: Abhängig vom jeweiligen Verstoß und der Unternehmensgröße sind Geldbußen iHv EUR 7,5 Millionen bzw 1,5 % des Umsatzes bis zu EUR 35 Millionen bzw 7 % des weltweiten Umsatzes vorgesehen.

Es gibt noch keinen finalen VO-Entwurf und die VO muss zudem noch formal verabschiedet werden. Anschließend werden – aufgrund vorgesehener Umsetzungsfristen – einige Bestimmungen stufenweise anwendbar, jedoch müssen sämtliche Regelungsvorgaben innerhalb von 24 Monaten nach Inkrafttreten des EU AI Acts erfüllt werden.