Die EU treibt die Einführung von Vorschriften für KI voran, die in ihrer Art einzigartig sind

Künstliche Intelligenz (KI) ist allgegenwärtig, wurde jedoch bislang weitgehend nicht reguliert. Die Europäische Union will dies mit ihrem vorgeschlagenen EU-KI-Gesetz ändern. Das Europäische Parlament hat Anfang Juni einen wichtigen Schritt in Richtung einer Regulierung der KI unternommen, als sich seine Mitglieder auf einenEntwurf des Gesetzes einigten.

Das Gesetz wurdeerstmals2021 von der Europäischen Kommissionvorgeschlagen, und seitdem hat sich im Bereich der KI viel verändert – insbesondere durch den Aufstieg generativer KI-Produkte. Daher ist es nicht überraschend, dass sich der vom Parlament verabschiedete Verhandlungsstandpunkt von dem der Kommission oder dem 2022vom Europäischen RatverabschiedetenStandpunktunterscheidet. Die Unterschiede zwischen den drei Fassungen des Entwurfs für das KI-Gesetz könnten die Verhandlungen und die Verabschiedung der endgültigen Vorschriften verzögern. Unternehmen, die KI-Systeme anbieten oder nutzen, können jedoch die ungefähre Ausrichtung der Vorschriften abschätzen und sollten mit den Vorbereitungen beginnen.

Das KI-Gesetz verfolgt einen risikobasierten Ansatz bei der Regulierung künstlicher Intelligenz und sieht strengere Vorschriften für KI-Anwendungen vor, die eine größere Gefahr für die Sicherheit der Nutzer darstellen. KI-Systeme, die unter die Kategorie „inakzeptables Risiko“ des Gesetzes fallen, wären in der EU verboten.

Wichtigste Änderungen

Der vom Europäischen Parlament verabschiedete Standpunkt geht über die Entwürfe der Kommission und des Rates hinaus und sieht neue Verpflichtungen für Anbieter sowie einen erweiterten Anwendungsbereich für die Einstufung als KI-System mit hohem Risiko vor. Zu den wichtigsten Änderungen zählen:

• Eine strengere Definition eines KI-Systems, die sich an der Definition der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) orientiert. Der Entwurf definiert ein KI-System als „maschinenbasiertes System, das dafür ausgelegt ist, mit unterschiedlichen Autonomiegraden zu arbeiten, und das zu expliziten oder impliziten Zwecken Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen.“
• Eine umfassendere Liste von KI-Systemen, die als „inakzeptables Risiko“ eingestuft werden und streng verboten sind. Diese Liste umfasst nun zahlreiche Systeme zur biometrischen Fernidentifizierung, Systeme zur prädiktiven Polizeiarbeit, Systeme zur Emotionserkennung sowie biometrische Kategorisierungssysteme zum „Social Scoring“.
• Eine erweiterte Klassifizierung von Hochrisikosystemen, die unter anderem solche umfasst, die die Gesundheit, die Sicherheit oder die Grundrechte von Menschen beeinträchtigen sowie der Umwelt Schaden zufügen könnten.
• Verpflichtungen für Anbieter von Grundmodellen, Risikobewertungen für ihre Systeme durchzuführen sowie sich in einer EU-Datenbank zu registrieren.
• Neue Transparenzanforderungen, die generative Grundmodelle erfüllen müssen, wie beispielsweise die Angabe, wann Inhalte durch KI generiert wurden, die Gestaltung von KI-Modellen, um zu verhindern, dass diese illegale Inhalte generieren, sowie die Veröffentlichung von Zusammenfassungen der urheberrechtlich geschützten Daten, die die Modelle für das Training verwenden.

Der verabschiedete Standpunkt befasst sich auch mit generativer KI, die in früheren Fassungen noch weniger Beachtung fand. Zu diesen Änderungen gehören:

Der KI-Gesetzentwurf geht nun in die umfassende Verhandlungsphase, in der Kommission, Rat und Parlament den endgültigen Gesetzestext festlegen werden – ein Prozess, der sich bis zum Jahresende hinziehen könnte. Wie wir bereits in anderen Branchen, beispielsweise bei Medizinprodukten, gesehen haben, könnten die im KI-Gesetzentwurf dargelegten Vorschriften angesichts des rasanten Innovationstempos in der KI-Technologie schon bald überholt sein. Die Gesetzgeber ergreifen Maßnahmen, um diesem Dilemma zu begegnen, doch vorerst scheint der Schwerpunkt darauf zu liegen, eine Grundlage für die Regulierung von KI-Systemen zu schaffen.

Unternehmen aller Branchen – unabhängig davon, ob sie KI bereitstellen oder nutzen – sollten die Entwicklungen rund um das KI-Gesetz aufmerksam verfolgen. Auch wenn es voraussichtlich erst 2026 in Kraft treten wird, sind bei Nichteinhaltung mit schwerwiegenden Konsequenzen zu rechnen. So würde beispielsweise die Einführung eines unzulässigen KI-Systems auf dem EU-Markt gemäß dem vom Parlament verabschiedeten Standpunkt mit Verwaltungsstrafen von bis zu 40 Millionen Euro oder 7 % des weltweiten Jahresumsatzes des Unternehmens (je nachdem, welcher Betrag höher ist) geahndet.

Da KI zunehmend als die Technologie der Zukunft angesehen wird und davon auszugehen ist, dass andere Regierungen das EU-KI-Gesetz als Vorlage für ihre eigenen Vorschriften nutzen werden, sollten Unternehmen bereits jetzt Maßnahmen ergreifen, um ihre Geschäftsabläufe an KI und die damit verbundenen Vorschriften anzupassen.

Um zu erfahren, wie diese aufstrebende Technologie die Verbraucher- und Produktsicherheit revolutionieren wird, melden Sie sichhier für unser Webinar an. In dieser exklusiven 45-minütigen Veranstaltung wird unser Expertengremium seine Sichtweise zu den potenziellen Auswirkungen der KI auf Geschäftspraktiken über den gesamten Produktlebenszyklus hinweg darlegen. Lassen Sie sich das nicht entgehen – melden Sie sichhier an.