Künstliche Intelligenz (KI) ist allgegenwärtig, war aber bisher weitgehend unreguliert. Die Europäische Union will das mit ihrem vorgeschlagenen EU-KI-Gesetz ändern. Das Europäische Parlament hat Anfang Juni einen großen Schritt in Richtung KI-Regulierung gemacht, als sich seine Mitglieder auf einen Entwurf des Gesetzes geeinigt haben.
Das Gesetz wurde erstmals 2021 von der Europäischen Kommission vorgeschlagen. Seitdem hat sich im Bereich der KI viel verändert - insbesondere durch den Aufstieg generativer KI-Produkte. Daher ist es nicht unerwartet, dass die angenommene Verhandlungsposition des Parlaments von der Position der Kommission oder des Europäischen Rates aus dem Jahr 2022 abweicht. Die Unterschiede in den drei Fassungen des KI-Gesetzentwurfs können die Verhandlungen und die endgültigen Verordnungen in die Länge ziehen. Unternehmen, die KI-Systeme anbieten oder nutzen, können jedoch die ungefähre Richtung der Verordnungen vorhersehen und sollten mit den Vorbereitungen beginnen.
Das KI-Gesetz verfolgt einen risikobasierten Ansatz zur Regulierung von KI und sieht strengere Vorschriften für KI-Anwendungen vor, die eine größere Gefahr für die Sicherheit der Nutzer darstellen. KI-Systeme, die in die Kategorie "inakzeptables Risiko" des Gesetzes fallen, wären in der EU verboten.
Wichtigste Änderungen
Der angenommene Standpunkt des Europäischen Parlaments geht weiter als die Versionen der Kommission und des Rates, mit neuen Verpflichtungen für die Anbieter und einem erweiterten Anwendungsbereich für die Einstufung als risikoreiches KI-System. Einige der wichtigsten Änderungen sind:
- Eine strengere Definition eines KI-Intelligenzsystems, die sich an der Definition der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) orientiert. Der Entwurf definiert ein KI-System als ein "maschinenbasiertes System, das so konzipiert ist, dass es mit einem unterschiedlichen Grad an Autonomie arbeitet und das für explizite oder implizite Ziele Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen".
- Eine breitere Liste von KI-Systemen, die als "inakzeptables Risiko" eingestuft werden und streng verboten werden sollen. Diese Liste umfasst nun viele biometrische Fernerkennungssysteme, prädiktive polizeiliche Systeme, Emotionserkennungssysteme und biometrische Kategorisierungssysteme mit "sozialer Bewertung".
- Eine erweiterte Klassifizierung von Hochrisikosystemen, die u. a. die Gesundheit, die Sicherheit oder die Grundrechte von Menschen sowie die Umwelt schädigen könnten.
- Verpflichtung der Anbieter von Stiftungsmodellen zur Durchführung von Risikobewertungen für ihre Systeme sowie zur Registrierung in einer EU-Datenbank.
- Neue Transparenzanforderungen, die generative Basismodelle erfüllen müssen, wie z. B. die Offenlegung, wann Inhalte durch KI generiert wurden, die Entwicklung von KI-Modellen, um zu verhindern, dass sie illegale Inhalte generieren, und die Veröffentlichung von Zusammenfassungen der urheberrechtlich geschützten Daten, die die Modelle zum Training verwenden.
Der angenommene Standpunkt befasst sich auch mit der generativen KI, die in früheren Versionen weniger im Mittelpunkt stand. Diese Änderungen umfassen:
Das KI-Gesetz wird nun von der Kommission, dem Rat und dem Parlament umfassend verhandelt, um den endgültigen Gesetzestext festzulegen, was bis zum Ende des Jahres dauern könnte. Wie wir in anderen Branchen, z. B. bei medizinischen Geräten, gesehen haben, könnten die im KI-Gesetz vorgesehenen Vorschriften angesichts des rasanten Innovationstempos in der KI-Technologie bald überholt sein. Der Gesetzgeber unternimmt Schritte, um dieses Dilemma anzugehen, aber im Moment scheint der Schwerpunkt auf der Schaffung einer Grundlage für die Regulierung von KI-Systemen zu liegen.
Unternehmen aller Branchen - ob sie nun KI anbieten oder nutzen oder nicht - sollten die Fortschritte des KI-Gesetzes genau verfolgen. Es wird zwar wahrscheinlich nicht vor 2026 in Kraft treten, aber es wird erwartet, dass es im Falle der Nichteinhaltung drastische Konsequenzen geben wird. So würde beispielsweise das Inverkehrbringen eines inakzeptablen KI-Systems auf dem EU-Markt nach dem vom Parlament angenommenen Standpunkt mit Verwaltungsstrafen von bis zu 40 Mio. EUR oder 7 % des gesamten weltweiten Jahresumsatzes eines Unternehmens (je nachdem, welcher Wert höher ist) geahndet werden.
Da KI zunehmend als die Technologie der Zukunft angesehen wird und andere Regierungen das KI-Gesetz der EU voraussichtlich als Vorlage für ihre eigenen Vorschriften nutzen werden, sollten Unternehmen jetzt Maßnahmen ergreifen, um ihre Abläufe an KI und die damit verbundenen Vorschriften anzupassen.
Wenn Sie erfahren möchten, wie diese aufkommende Technologie die Verbraucher- und Produktsicherheit revolutionieren wird, melden Sie sich hier für unser Webinar an. In dieser exklusiven 45-minütigen Sitzung werden unsere Experten ihre Sichtweise zu den potenziellen Auswirkungen von KI auf die Geschäftspraktiken während des gesamten Produktlebenszyklus darlegen. Verpassen Sie es nicht - melden Sie sich hier an.
Stichworte: KI, KI-Technologie, Künstliche Intelligenz, Europa, Vorschriften, Technologischer Fortschritt, Technologie