04.11.2024 · Fachbeitrag · Digitalisierung & KI

Konformität von KI-Systemen

von RA Jens Ferner, für Strafrecht, FA für IT-Recht, Alsdorf, www.ferner-alsdorf.de

| Die Konformitätsbewertung von KI-Systemen ist ein zentraler Prozess im Rahmen der EU-Verordnung über Künstliche Intelligenz (KI-VO oder auch „AI Act“), die einen umfassenden Rechtsrahmen zur Regulierung von KI-Technologien schafft. Besonders relevant ist diese Bewertung für Unternehmen, die KI-Systeme entwickeln oder einsetzen, insbesondere solche, die als Hochrisiko-KI-Systeme eingestuft werden. |

1. Grundprinzipien der Konformitätsbewertung

Die EU verfolgt bei der KI-VO einen risikobasierten Ansatz. KI-Systeme werden nach dem Risiko kategorisiert, das sie für die Gesellschaft, die Grundrechte und die Sicherheit der Menschen darstellen können. Hochrisiko-KI-Systeme, wie KI in der Strafverfolgung, im Gesundheitswesen oder in sicherheitskritischen Anwendungen wie autonomen Fahrzeugen, unterliegen besonders strengen Vorschriften.

Die Konformitätsbewertung dient dazu, vor dem Inverkehrbringen sicherzustellen, dass die Systeme den rechtlichen Anforderungen entsprechen. Dabei orientiert sich die Verordnung an den Prinzipien des New Legislative Frameworks (NLF), das schon im Produktsicherheitsrecht etabliert ist. Dies bedeutet, dass Unternehmen gesetzliche Vorgaben einhalten und sich an technischen Normen orientieren müssen, die ihre Konformität sicherstellen.