Am 12. Juli 2024 wurde die Verordnung (EU) 2024/1689 – sog. KI-Verordnung – im Amtsblatt der Europäischen Union veröffentlicht.
Die KI-VO-EU tritt am 20. Tag nach ihrer Veröffentlichung in Kraft, also am 2. August 2024. Es sind ab diesem Zeitpunkt gestufte Umsetzungsfristen vorgesehen (6, 12, 24, 36 Monate), wobei im Grundsatz eine 24 Monate lange Umsetzungsfrist besteht. Ab dem 2. Februar 2025 gilt bereits das Verbot von KI-Systemen mit unannehmbarem Risiko.
Nach dem Inkrafttreten muss innerhalb von 12 Monaten gesetzgeberisch in Deutschland eine behördliche Aufsichtsstruktur eingerichtet werden. Es existiert dazu ein Vorschlag der Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK), die Aufsicht über die Einhaltung der KI-Verordnung den Datenschutzaufsichtsbehörden zu übertragen; ob dieser umgesetzt wird, bleibt jedoch abzuwarten.
Zweck der Verordnung ist u. a. die Stärkung des gesamtgesellschaftlichen Vertrauens in KI. Zu diesem Zweck werden Compliance-Anforderungen an KI-Systeme gestellt, die umso strenger sind, je stärkere Grundrechtseingriffe drohen (= risikobasierter Ansatz). Für Unternehmen stellt sich vor allem die Frage, welche Anforderungen sie erfüllen müssen, wenn sie KI-Systeme entwickeln oder einsetzen.
In der KI-Verordnung wird Folgendes festgelegt:
a) harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der Union;
b) Verbote bestimmter Praktiken im KI-Bereich;
c) besondere Anforderungen an Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systeme;
d) harmonisierte Transparenzvorschriften für bestimmte KI-Systeme;
e) harmonisierte Vorschriften für das Inverkehrbringen von KI-Modellen mit allgemeinem Verwendungszweck;
f) Vorschriften für die Marktbeobachtung sowie die Governance und Durchsetzung der Marktüberwachung;
g) Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf KMU, einschließlich Start-up-Unternehmen.
Die KI-VO umfasst neben ihren Regelungen in insgesamt 113 Artikeln weitere spezifische Vorschriften in 13 Anhängen. Es ist zudem vorgesehen, dass die Kommission Leitlinien für die praktische Umsetzung der Verordnung erarbeitet.
Die Mitgliedstaaten sind nun verpflichtet, Vorschriften für Sanktionen bei Verletzung der Pflichten und andere Durchsetzungsmaßnahmen gegenüber den Akteuren zu erlassen; darüber hinaus sind bereits in der Verordnung Schwellenwerte vorgesehen, innerhalb derer die Mitgliedsstaaten Bußgelder verhängen müssen – sofern sie gegenüber Unternehmen gelten, sind diese am weltweiten Jahresumsatz ausgerichtet.
Über die Autorin: Maha Steinfeld ist Rechtsanwältin und Fachanwältin für Arbeitsrecht bei der PKF FASSELT Partnerschaft mbB Wirtschaftsprüfungsgesellschaft Steuerberatungsgesellschaft Rechtsanwälte (Mitgliedsunternehmen des PKF-Netzwerkes).