Im Fokus: Die vorgeschlagene Produkthaftungsrichtlinie und die vorgeschlagene KI-Haftungsrichtlinie

Von Gastautor Stefan Lohn

Vorwort von Chris Occleshaw, Berater für internationale Produktrückrufe bei Sedgwick:

Willkommen zur neuesten Ausgabe von „Spotlight“. Mit „Spotlight“ möchten wir Einblicke und Perspektiven unserer strategischen Partner – Rechtsanwälte, Versicherer, Risikomanager und Experten für Krisenkommunikation aus verschiedenen Branchen – zu Themen vermitteln, die die Sichtweise eines Unternehmens auf Vorfälle am Markt und das Krisenmanagement beeinflussen können. In dieser Ausgabe begrüßen wir Dr. Stefan Lohn, Counsel beiClifford Chance, der seine Gedanken zu den Vorschlägen der Europäischen Kommission zur Überarbeitung des Rahmens für die Produkthaftung und die zivilrechtliche Haftung im Bereich der künstlichen Intelligenz (KI) teilt.

Was ist der Zweck der vorgeschlagenen Produkthaftungsrichtlinie und der KI-Haftungsrichtlinie?

Die Europäische Kommission hat am 28. September 2022 den Vorschlag für eine Produkthaftungsrichtlinie (P-PLD) und den Vorschlag füreine KI-Haftungsrichtlinie(P-AILD) angenommen. Die Vorschläge wurden als Paket veröffentlicht, um die zivilrechtlichen Haftungsvorschriften für das digitale Zeitalter anzupassen. Zusammen behandeln die Dokumente spezifische Herausforderungen, die Systeme der künstlichen Intelligenz (KI) mit sich bringen, sowie verschiedene Aspekte der außervertraglichen Haftung. Darüber hinaus erweitern sie den bestehenden Rahmen für die zivilrechtliche Haftung bei Produkten und KI, um den Fortschritten in der Informationstechnologie Rechnung zu tragen.

Sollten die vorgeschlagenen Richtlinien wie erwartet vom Europäischen Parlament verabschiedet werden, werden Unternehmen und Betriebe verpflichtet sein, ihre Haftungsrisiken sowie ihre Verfahren zur Verwaltung von Unterlagen und Informationen neu zu bewerten, insbesondere im Hinblick auf Offenlegungspflichten.

Was sind die wichtigsten Merkmale des P-PLD?

Die P-PLD regelt die außervertragliche zivilrechtliche Haftung für fehlerhafte Produkte. Die überarbeitete P-PLD behält mehrere wichtige Merkmale der bestehendenProdukthaftungsrichtlinie(PLD) bei. Sie geht jedoch auch auf Mängel ein, die durch sich weiterentwickelnde Definitionen und Konzepte von Produkten seit der Einführung der früheren PLD im Jahr 1985 entstanden sind, und aktualisiert diese, wo dies erforderlich ist.

In dem Vorschlag wird darauf hingewiesen, dass der Rahmen der bestehenden PLD für bestimmte Produkte der modernen digitalen Wirtschaft und der Kreislaufwirtschaft, darunter Software, intelligente Geräte und autonome Fahrzeuge, möglicherweise nicht mehr geeignet ist.

Der P-PLD ändert die Terminologie im aktuellen PLD von „Hersteller“ in „Produzent“. Außerdem sieht er eine verschuldensunabhängige Haftung von Herstellern und Importeuren für Schäden vor, die durch ein Produkt oder dessen Bestandteile verursacht werden. Der P-PLD passt seine Terminologie jedoch an denbestehenden Rechtsrahmen des Beschlusses 768/2008/EGüber das Inverkehrbringen von Produkten an.

Bekannte Elemente wie die mögliche Haftung mehrerer Wirtschaftsakteure sind weiterhin Bestandteil der P-PLD. Der Kreis der potenziell haftbaren Wirtschaftsakteure wird jedoch auf Dienstleister ausgeweitet, die Produkte lagern, verpacken, adressieren und versenden, sofern mindestens zwei dieser Dienstleistungen erbracht werden. Dies kann zu einer potenziellen Haftung für Vertreiber, Online-Plattformen, die ein Produkt anbieten, und Fulfillment-Dienstleister führen, die möglicherweise davon ausgehen, dass sie von der bestehenden PLD ausgenommen sind.

Darüber hinaus gelten immaterielle Güter, wie beispielsweise in ein Produkt integrierte Software, als Bestandteil dieses Produkts. Das bedeutet, dass Softwareentwickler derselben potenziellen Haftung unterliegen wie herkömmliche Produkthersteller. Daher unterliegen auch Softwareanbieter und Anbieter digitaler Dienste, wie beispielsweise Satellitennavigationsdienste in autonomen Fahrzeugen, dem neuen PLD.

Darüber hinaus fallen KI-Systeme und KI-gestützte Produkte in den Geltungsbereich des P-PLD, sodass ein Geschädigter Schadenersatz erhalten kann, ohne ein Verschulden nachweisen zu müssen, wenn ein fehlerhaftes KI-System oder ein fehlerhaftes KI-gestütztes Produkt einen Schaden verursacht.

Das P-PLD zielt darauf ab, die Beweislast für Geschädigte in komplexen Fällen weiter zu verringern, darunter Fälle, in denen KI-Systeme eine Rolle spielen oder Produkte nicht den Sicherheitsanforderungen entsprechen.

Das P-PLD erweitert zudem die Definition des Schadensbegriffs um den Verlust und die Beschädigung von Daten. Darüber hinaus legt es fest, dass Hersteller für Änderungen an bereits in Verkehr gebrachten Produkten haften, einschließlich, aber nicht beschränkt auf Änderungen durch Software-Updates oder maschinelles Lernen.

Schließlich hebt der P-PLD bisherige Beschränkungen hinsichtlich des Mindest- und Höchstbetrags der ersetzbaren Schäden auf. Die allgemeine Verjährungsfrist bleibt unverändert, doch sieht der Vorschlag vor, die absolute Verjährungsfrist für Schadensersatzansprüche aus Personenschäden nach dem PLD von 10 auf 15 Jahre zu verlängern, wenn eine geschädigte Person einen versteckten Personenschaden erlitten hat und ihren Anspruch nicht innerhalb der 10-Jahres-Frist geltend machen konnte.

Was sind die Hauptmerkmale des P-AILD?

Die P-AILD betrifft außervertragliche Schadensersatzansprüche gegen Anbieter von KI-Systemen und zielt darauf ab, einheitliche Anforderungen für Schäden festzulegen, die durch die Nutzung von KI-Systemen verursacht werden. In diesem Zusammenhang umfasst ein KI-System Software, die maschinelles Lernen, induktive Programmierung und statistische Ansätze nutzt.

Die P-AILD soll für außervertragliche zivilrechtliche Schadensersatzansprüche gelten, die durch ein KI-System verursacht wurden, einschließlich Ansprüchen im Rahmen eines verschuldensabhängigen zivilrechtlichen Haftungsverfahrens. Dem Vorschlag zufolge sollen Geschädigte, die wegen eines durch ein KI-System verursachten Schadens Regressansprüche geltend machen, mit wirksamen materiell- und verfahrensrechtlichen Mitteln ausgestattet werden, um potenziell haftbare Personen und die für den jeweiligen Anspruch relevanten Beweise zu ermitteln.

Das P-AILD umfasst zwei Hauptkomponenten. Erstens ermöglicht das P-AILD den Gerichten, die Offenlegung relevanter Beweismittel zu dem KI-System anzuordnen, das im Verdacht steht, den Schaden verursacht zu haben. Die Offenlegungspflicht richtet sich sowohl an den Anbieter eines KI-Systems als auch an eine Person, die den imKI-Gesetzfestgelegten Verpflichtungen des Anbieters unterliegt, oder an einen Nutzer im Sinne desKI-Gesetzes.

Die Offenlegungspflicht wird durch verfahrensrechtliche Maßnahmen zur Beweissicherung ergänzt, umfasst jedoch auch Bestimmungen zur Gewährleistung der Verhältnismäßigkeit bei der Offenlegung der Beweismittel. Dieser Rahmen gewährleistet ein Gleichgewicht zwischen den berechtigten Interessen der Partei, die die Offenlegung verlangt, und den Interessen der offenlegenden Partei hinsichtlich ihrer Geschäftsgeheimnisse oder sonstiger vertraulicher Informationen. Schließlich führt das P-AILD eine Vermutung eines Verstoßes gegen die Sorgfaltspflicht ein, wenn der Beklagte einer Offenlegungspflicht nicht nachkommt, wobei der Beklagte diese Behauptung widerlegen kann.

Die zweite Komponente ist die Feststellung einer Kausalitätsvermutung zwischen dem Verschulden des Beklagten und der vom KI-System erzeugten Ausgabe bzw. dem Versäumnis des KI-Systems, eine solche Ausgabe zu erzeugen. Der Kläger muss drei Kriterien erfüllen: 1) das Verschulden des Beklagten nachweisen, 2) darlegen, dass das Verschulden mit hinreichender Wahrscheinlichkeit durch die Ausgabe des KI-Systems beeinflusst wurde, und 3) einen Kausalzusammenhang zwischen der Ausgabe oder der Nicht-Ausgabe des KI-Systems und dem Schaden nachweisen.

Diese Kausalitätsvermutung soll sicherstellen, dass eine geschädigte Person ein Schutzniveau genießt, das dem in Situationen ohne Beteiligung von KI entspricht. Den Beklagten wird die Möglichkeit eingeräumt, diese Kausalitätsvorwürfe zu widerlegen.

Wie geht es weiter?

Die beiden Vorschläge der Kommission müssen nun vom Europäischen Parlament und vom Rat verabschiedet werden. Sobald die P-PLD und die P-AILD verabschiedet sind, müssen die Mitgliedstaaten die Richtlinien in nationales Recht umsetzen.

Für die P-PLD schlägt die Kommission eine Frist von höchstens 12 Monaten für die Umsetzung durch die Mitgliedstaaten vor. Für die P-AILD wurde eine Frist von höchstens zwei Jahren vorgeschlagen.

Laden Sie eine Kopie dieses Spotlight-Beitrags herunter.

Über unseren Gastautor, Dr. Stefan Lohn

Dr. Lohn ist auf Handelsschiedsgerichtsbarkeit und Prozessführung spezialisiert und berät zu Compliance- und Risikofragen in der Lieferkette. Der Schwerpunkt seiner Tätigkeit liegt auf internationalen und inländischen Gewährleistungs- und Produkthaftungsangelegenheiten, unter anderem in den Bereichen Automobil, Investitionsgüter und Elektronik, sowie auf Handelsverträgen.

Dr. Lohn ist Mitglied des Deutschen Instituts für Schiedsgerichtsbarkeit (DIS) sowie der Fachgruppen „Automobil“, „Investitionsgüter“ und „Produkthaftung“ bei Clifford Chance. Er veröffentlicht regelmäßig Beiträge zu den Themen Compliance und Risiken in der Lieferkette sowie zu Fragen der Produkthaftung.