Beiträge von: Alexander Schmalenberger

Die Sicherheit von KI-Systemen ist ein zentrales Anliegen. Ziel ist es, Risiken für Gesundheit, Menschenrechte und öffentliche Sicherheit zu minimieren. Art. 9 KI-VO verpflichtet Anbieter von Hochrisiko-KI-Systemen zur Einführung eines Risikomanagementsystems, das den gesamten Lebenszyklus der KI umfasst.  In ErwG 47 KI-VO wird betont, dass Hochrisiko-KI-Systeme besonderen Sicherheitsanforderungen unterliegen, da Fehlfunktionen oder Missbrauch erhebliche Auswirkungen auf Einzelpersonen haben können.

Die KI-VO wurde am 1.8.2024 veröffentlicht und sieht eine schrittweise Anwendung vor, um betroffenen Akteuren wie Unternehmen, Kanzleien und Behörden genügend Zeit zur Anpassung an die neuen Vorgaben zu geben. Einige KI-Systeme, die sich bei Wirksamwerden der KI-VO bereits auf dem Markt befinden, sind von der Anwendung ausgenommen, wenn sie nicht verändert werden. Die wichtigsten Meilensteine und Fristen der Umsetzungsphase sind im Folgenden dargestellt. 

Die DSGVO bleibt als paralleles Regelwerk neben der KI-VO vollständig anwendbar. Dies betrifft insbesondere die Verarbeitung personenbezogener Daten beim Training und Einsatz von KI-Systemen. Im Folgenden werden die datenschutzrechtlichen Anforderungen und die Wechselwirkungen mit der KI-VO systematisch dargestellt. Ergänzt wird diese Darstellung durch aktuelle Erkenntnisse aus der Stellungnahme des Europäischen Datenschutzausschusses (EDPB) vom Dezember 2024. Der am 10.4.2025 und damit erst kurz vor Drucklegung veröffentlichte Bericht des Expertengremiums des EDPB zu LLMs wird ebenfalls noch kurz thematisiert.