EU AI-Act

Der EU AI-Act, ein Legislativvorschlag der EU-Kommission aus dem Jahr 2021, zielt auf die Schaffung eines einheitlichen Rechtsrahmens für KI-Systeme in der EU ab. Dieser Rahmen soll KI-Systeme je nach ihrem Risikopotenzial kategorisieren und regulieren. Hier sind die wichtigsten Aspekte des Legislativvorschlags zusammengefasst:

  • Anwendungsbereich: Der Legislativvorschlag definiert KI-Systeme als maschinen­ge­stützte Systeme, die autonom operieren können und menschliche Denk- und Hand­lungsprozesse imitieren. Seine Regeln betreffen Anbieter (inklusive Importeure und Händler) sowie Nutzer von KI-Systemen in der EU sowie in Drittländern, wenn die Ergebnisse in der EU verwendet werden.
  • Verbot bestimmter KI-Praktiken: Der Legislativvorschlag verbietet insbesondere den Einsatz von KI-Systemen, welche die Schwäche oder Schutzbedürftigkeit von Personen ausnutzen, deren Verhalten wesentlich beeinflussen oder diesen physischen oder psychischen Schaden zufügen könnten. Ebenso ist der Einsatz biometrischer Echtzeit-Fernidentifizierungssysteme nur unter sehr engen Vorausset­zungen, insbesondere im Zusammenhang mit Strafverfolgungszwecken, gestattet.
  • Hochrisiko-KI-Systeme: Für Hochrisiko-KI-Systeme (dies sind KI-Systeme in besonders kritischen Bereichen wie z.B. Bildung, Sicherheit, Rechtspflege udgl.)  ist ein Risikoma­nagementsystem einzurichten. Anbieter müssen eine Konformitätserklärung ausstellen und sicherstellen, dass ihre Systeme den gesetzlichen Anforderungen entsprechen. Importeure und Händler haben zu überprüfen, ob die dem Anbieter des jeweiligen KI-Systems obliegenden Pflichten (insbesondere Konformitätskennzeichnung, Erstellung der erforderlichen Dokumentation) eingehalten wurden, widrigenfalls sie die betroffenen Systeme nicht in Verkehr bringen dürfen.
  • Besondere Transparenzpflichten: Anbieter müssen Nutzer darauf hinweisen, wenn sie mit einem KI-System interagieren. Dies betrifft insbesondere die Erzeugung oder Verwendung sogenannter Deepfakes, also von durch ein KI-System erzeugter bzw. manipulierter Bild-, Ton- oder Videoinhalte, welche wirklichen Personen, Gegenständen, Orten bzw. Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise als echt erscheinen würden.
  • Maßnahmen zur Innovationsförderung: In von den Mitgliedsstaaten einzurichtenden KI-Reallaboren soll es Unternehmen möglich sein, Ihre KI-Systeme in einer sicheren „Sandbox“ unter Einbeziehung und in Abstimmung mit den zuständigen Behörden zu entwickeln, bevor sie ein finales Produkt veröffentlichen. Die Verarbeitung personenbezogener Daten zur Entwicklung und Erprobung innovativer KI-Systeme in einem KI-Labor ist nur unter sehr eingeschränkten Bedingungen erlaubt.
  • Sanktionen und Geldbußen: Bei Verstößen können Geldbußen von bis zu 30 Millionen Euro oder 6% des weltweiten Jahresumsatzes verhängt werden.