Ziele der KI-VO im Detail

1. Sicherheit gewährleisten

Die Sicherheit von KI-Systemen ist ein zentrales Anliegen. Ziel ist es, Risiken für Gesundheit, Menschenrechte und öffentliche Sicherheit zu minimieren. Art. 9 KI-VO verpflichtet Anbieter von Hochrisiko-KI-Systemen zur Einführung eines Risikomanagementsystems, das den gesamten Lebenszyklus der KI umfasst. 

In ErwG 47 KI-VO wird betont, dass Hochrisiko-KI-Systeme besonderen Sicherheitsanforderungen unterliegen, da Fehlfunktionen oder Missbrauch erhebliche Auswirkungen auf Einzelpersonen haben können.

2. Transparenz erhöhen

Die KI-VO fordert, dass die Entscheidungsprozesse von KI-Systemen nachvollziehbar gestaltet sind. Art. 13 Abs. 1 KI-VO schreibt vor, dass Hochrisiko-KI-Systeme mit einer umfassenden Dokumentation versehen werden, um deren Funktionsweise und Trainingsdaten nachvollziehbar zu machen. 

In ErwG 61 KI-VO wird die Verpflichtung zur Kennzeichnung von KI-generierten Inhalten, insbesondere bei generativen KI-Modellen, betont.

3. Grundrechte schützen

Die Verordnung schützt Grundrechte vor potenziellen Gefährdungen durch KI-Systeme. Art. 5 KI-VO verbietet spezifische Praktiken wie: 

1. Subtile Manipulation von Entscheidungen, 

1. Social-Scoring-Systeme und 

1. Emotionserkennung am Arbeitsplatz ohne Zustimmung. 

Durch ErwG 38 KI-VO wird der besondere Schutz vulnerabler Gruppen wie Kinder oder ältere Menschen unterstrichen.

4. Innovation und Marktharmonisierung fördern

Die KI-VO fördert technologische Innovation und schafft einheitliche Rahmenbedingungen im Binnenmarkt. Art. 1 Abs. 2 lit. a KI-VO erlaubt die Vermarktung konformer KI-Systeme in der gesamten Union ohne separate Zulassungen in einzelnen Mitgliedstaaten. 

ErwG 10 KI-VO hebt hervor, dass harmonisierte Regelungen Innovationen fördern und die internationale Wettbewerbsfähigkeit der EU stärken.

5. Verbindung mit dem NLF

Die KI-VO übernimmt zentrale Elemente des Neuen Rechtsrahmens: 

1. Pflichten für Akteure: Die Verordnung richtet sich an Anbieter, Einführer und Händler, wobei diese Akteure in ihrer Funktion und Terminologie vom NLF abgeleitet sind (Art. 3 KI-VO). 

1. Integration von Hochrisiko-KI: KI-Systeme, die Sicherheitsfunktionen in bestehenden NLF-Regelungen wie der Maschinenrichtlinie erfüllen, werden direkt als Hochrisiko-KI klassifiziert (Art. 6 KI-VO). 
2. Parallele Anwendung: In Fällen, in denen KI-Systeme sowohl der KI-VO als auch anderen NLF-Gesetzen unterliegen, gilt die KI-VO ergänzend. 

Ein zentraler Bezugspunkt für die Anwendung des NLF ist der aktualisierte Blue Guide von 2022 (Leitfaden für die Umsetzung der Produktvorschriften der EU 2022 („Blue Guide“)), der allgemeine Prinzipien für die Auslegung harmonisierter EU-Rechtsakte bereitstellt. Die KI-VO geht jedoch über traditionelle Produktsicherheitsregelungen hinaus, indem sie den Grundrechtsschutz in den Mittelpunkt rückt. 

Ein Auszug aus der eBroschüre: Alexander Schmalenberger, Schnellübersicht zur Umsetzung der KI-Verordnung, 1. Auflage, 2025, Rdn. 23-28.

Die eBroschüre finden Sie ebenfalls in unserer Onlinebibliothek Anwaltspraxis Wissen.