Von Gastautor: Stefan Lohn
Vorwort von Chris Occleshaw, internationaler Berater für Produktrückrufe bei Sedgwick:
Willkommen zur neuesten Ausgabe von Spotlight. Spotlight ist unsere Art, Einblicke und Perspektiven unserer strategischen Partner - Anwälte, Versicherer, Risikomanager und Krisenkommunikationsexperten aus verschiedenen Branchen - zu Themen zu teilen, die das Potenzial haben, die Sichtweise eines Unternehmens auf Zwischenfälle auf dem Markt und das Krisenmanagement zu beeinflussen. In dieser Ausgabe sprechen wir mit Dr. Stefan Lohn, Counsel bei Clifford Chance, über die Vorschläge der Europäischen Kommission zur Überarbeitung des Rahmens für die Produkthaftung und die zivilrechtliche Haftung für künstliche Intelligenz (KI).
Welchen Zweck verfolgt die vorgeschlagene Richtlinie über die Produkthaftung und die Richtlinie über die AI-Haftung?
Die Europäische Kommission hat die vorgeschlagene Produkthaftungsrichtlinie (P-PLD) und die vorgeschlagene KI-Haftungsrichtlinie (P-AILD) am 28. September 2022 angenommen. Die Vorschläge wurden als Paket veröffentlicht, um die zivilrechtlichen Haftungsvorschriften für das digitale Zeitalter zu aktualisieren. Gemeinsam behandeln die Dokumente die besonderen Herausforderungen, die Systeme der künstlichen Intelligenz (KI) mit sich bringen, sowie verschiedene Aspekte der außervertraglichen Haftung. Darüber hinaus erweitern sie den bestehenden Rahmen für die zivilrechtliche Produkt- und KI-Haftung, um den Fortschritten in der Informationstechnologie Rechnung zu tragen.
Wenn die vorgeschlagenen Richtlinien, wie vom Europäischen Parlament erwartet, angenommen werden, müssen Unternehmen und Betriebe ihre Haftungsrisiken und ihr Dokumentations- und Informationsmanagement neu bewerten, insbesondere im Hinblick auf die Offenlegungspflichten.
Was sind die wichtigsten Merkmale des P-PLD?
Die P-PLD regelt die außervertragliche zivilrechtliche Haftung für fehlerhafte Produkte. Die überarbeitete Produkthaftungsrichtlinie behält mehrere wichtige Merkmale der bestehenden Produkthaftungsrichtlinie (PLD) bei. Sie behebt jedoch auch Unzulänglichkeiten, die durch die Entwicklung von Definitionen und Konzepten von Produkten seit der Einführung der früheren PLD im Jahr 1985 entstanden sind, und aktualisiert sie, wo dies notwendig ist.
In dem Vorschlag wird festgestellt, dass der Rahmen des bestehenden PLD für einige Produkte der modernen digitalen Wirtschaft und der Kreislaufwirtschaft, darunter Software, intelligente Geräte und autonome Fahrzeuge, möglicherweise nicht mehr geeignet ist.
Die P-PLD ändert die Terminologie in der aktuellen PLD von "Hersteller" zu "Produzent". Außerdem wird Herstellern und Importeuren eine verschuldensunabhängige Haftung für Schäden zugewiesen, die durch ein Produkt oder ein Bauteil davon verursacht werden. Die P-PLD passt jedoch ihre Terminologie an den bestehenden Rahmen des Beschlusses 768/2008/EG über die Vermarktung von Produkten an.
Bekannte Elemente wie die mögliche Haftung mehrerer Wirtschaftsakteure sind weiterhin Bestandteil der P-PLD. Allerdings wird die Gruppe der potenziell haftenden Wirtschaftsakteure um Dienstleister erweitert, die Produkte lagern, verpacken, adressieren und versenden, wenn mindestens zwei dieser Dienstleistungen erbracht werden. Dies kann zu einer potenziellen Haftung für Händler, Online-Plattformen, die ein Produkt anbieten, und Fulfillment-Dienstleister führen, die glauben könnten, sie seien von der bestehenden PLD ausgenommen.
Darüber hinaus werden immaterielle Güter, wie z. B. in ein Produkt integrierte Software, als Bestandteil dieses Produkts angesehen. Das bedeutet, dass Softwareentwickler der gleichen potenziellen Haftung unterliegen wie herkömmliche Produkthersteller. Daher unterliegen auch Softwareanbieter und Anbieter digitaler Dienstleistungen, wie z. B. Satellitennavigation in einem autonomen Fahrzeug, der neuen Verordnung.
Darüber hinaus fallen KI-Systeme und KI-fähige Waren in den Anwendungsbereich der P-PLD, so dass eine geschädigte Person Schadenersatz erhalten kann, ohne ein Verschulden nachweisen zu müssen, wenn ein fehlerhaftes KI-System oder ein KI-fähiges Produkt einen Schaden verursacht.
Die P-PLD zielt darauf ab, die Beweislast für geschädigte Personen in komplexen Fällen weiter zu verringern, u. a. in Fällen, in denen es um KI-Systeme geht oder wenn Produkte nicht den Sicherheitsanforderungen entsprechen.
Die P-PLD erweitert außerdem die Definition von Schäden um den Verlust und die Beschädigung von Daten. Darüber hinaus wird behauptet, dass die Hersteller für Änderungen an bereits in Verkehr gebrachten Produkten haften, einschließlich, aber nicht beschränkt auf Änderungen durch Software-Updates oder maschinelles Lernen.
Schließlich werden mit dem P-PLD die bisherigen Beschränkungen des Mindest- und Höchstbetrags für die Entschädigung aufgehoben. Die allgemeine Verjährungsfrist bleibt unverändert, aber der Vorschlag verlängert die absolute Frist für Personenschäden im Rahmen des PLD von 10 auf 15 Jahre, wenn eine geschädigte Person einen latenten Personenschaden hatte und innerhalb der 10-Jahres-Frist keinen Anspruch geltend machen konnte.
Was sind die wichtigsten Merkmale von P-AILD?
Die P-AILD betrifft außervertragliche Schadensersatzansprüche gegen Anbieter von KI-Systemen und zielt darauf ab, einheitliche Anforderungen für Schäden festzulegen, die durch den Einsatz von KI-Systemen verursacht werden. In diesem Zusammenhang umfasst ein KI-System Software, die maschinelles Lernen, induktive Programmierung und statistische Ansätze einsetzt.
Das P-AILD soll auf außervertragliche zivilrechtliche Ansprüche für durch ein KI-System verursachte Schäden Anwendung finden, einschließlich Ansprüchen im Zusammenhang mit einem verschuldensabhängigen zivilrechtlichen Haftungsprozess. Dem Vorschlag zufolge soll eine geschädigte Person, die einen durch ein KI-System verursachten Schaden geltend machen will, über wirksame materiell- und verfahrensrechtliche Mittel verfügen, um potenziell haftende Personen und die für den jeweiligen Anspruch relevanten Beweise zu ermitteln.
Der P-AILD besteht aus zwei Hauptkomponenten. Erstens ermöglicht die P-AILD den Gerichten, die Offenlegung relevanter Beweise über das KI-System anzuordnen, das im Verdacht steht, den Schaden verursacht zu haben. Die Offenlegungspflicht richtet sich sowohl an den Anbieter eines KI-Systems als auch an eine Person, die den Verpflichtungen des Anbieters gemäß dem KI-Gesetz unterliegt, oder an einen Nutzer gemäß dem KI-Gesetz.
Die Offenlegungspflicht wird durch verfahrensrechtliche Mittel zur Beweissicherung ergänzt, enthält aber auch Bestimmungen zur Wahrung der Verhältnismäßigkeit der Offenlegung von Beweismitteln. Dieser Rahmen gewährleistet ein Gleichgewicht zwischen den berechtigten Interessen der Partei, die die Offenlegung wünscht, und den Interessen der offenlegenden Partei an ihren Geschäftsgeheimnissen oder anderweitig vertraulichen Informationen. Schließlich führt die P-AILD eine Vermutung der Verletzung einer Sorgfaltspflicht ein, wenn der Beklagte einer Offenlegungspflicht nicht nachkommt, wobei der Beklagte diese Behauptung widerlegen kann.
Die zweite Komponente ist der Nachweis einer Kausalitätsvermutung zwischen dem Verschulden des Beklagten und dem von der künstlichen Intelligenz erzeugten Ergebnis oder dem Versagen der künstlichen Intelligenz, ein solches Ergebnis zu erzeugen. Der Kläger muss in der Lage sein, drei Kriterien zu erfüllen: 1) das Verschulden des Beklagten nachweisen, 2) zeigen, dass das Verschulden mit hinreichender Wahrscheinlichkeit durch die Leistung des KI-Systems beeinflusst wurde, und 3) einen Kausalzusammenhang zwischen der Leistung bzw. Nichtleistung des KI-Systems und dem Schaden nachweisen.
Mit dieser Kausalitätsvermutung soll für den Geschädigten ein ähnliches Schutzniveau gewährleistet werden wie in Fällen, in denen keine künstliche Intelligenz im Spiel ist. Die Beklagten erhalten die Möglichkeit, diese Kausalitätsbehauptungen zu widerlegen.
Was kommt als Nächstes?
Die beiden Vorschläge der Kommission müssen nun das Europäische Parlament und den Rat passieren. Nach der Verabschiedung der P-PLD und der P-AILD müssen die Mitgliedstaaten dann die entsprechenden Richtlinien verabschieden.
Für die P-PLD schlägt die Kommission einen Zeitraum von maximal 12 Monaten für die Umsetzung durch die Mitgliedstaaten vor. Für das P-AILD wurde eine Höchstdauer von zwei Jahren vorgeschlagen.
Laden Sie eine Kopie dieses Spotlight-Beitrags herunter.
Über unseren Gastautor, Dr. Stefan Lohn
Dr. Lohn ist spezialisiert auf Handelsschiedsgerichtsbarkeit und Rechtsstreitigkeiten und berät zu Compliance und Risiken in der Lieferkette. Seine Praxis konzentriert sich auf internationale und nationale Gewährleistungs- und Produkthaftungsangelegenheiten, einschließlich Automobil, Investitionsgüter und Elektronik, sowie auf Handelsverträge.
Dr. Lohn ist Mitglied der Deutschen Institution für Schiedsgerichtsbarkeit (DIS) sowie der Clifford Chance Fokusgruppen für die Bereiche Automotive, Investitionsgüter und Produkthaftung. Er veröffentlicht regelmäßig zu den Themen Compliance und Risiken in der Lieferkette sowie Produkthaftung.