Door gastauteur: Stefan Lohn
Voorwoord door Chris Occleshaw, international product recall consultant bij Sedgwick:
Welkom bij de nieuwste editie van Spotlight. Spotlight is onze manier om inzichten en perspectieven te delen van onze strategische partners - advocaten, verzekeraars, risicomanagers en crisiscommunicatie-experts uit verschillende sectoren - over onderwerpen die de visie van een bedrijf op incidenten en crisismanagement in de markt kunnen beïnvloeden. In deze editie hebben we Dr. Stefan Lohn, Counsel bij Clifford Chance, die zijn gedachten deelt over de voorstellen van de Europese Commissie om het kader voor productaansprakelijkheid en wettelijke aansprakelijkheid voor kunstmatige intelligentie (AI) te herzien.
Wat is het doel van de voorgestelde richtlijn inzake productaansprakelijkheid en de richtlijn inzake AI-aansprakelijkheid?
De Europese Commissie heeft op 28 september 2022 de voorgestelde richtlijn inzake productaansprakelijkheid (P-PLD) en de voorgestelde richtlijn inzake AI-aansprakelijkheid (P-AILD) aangenomen. De voorstellen werden uitgebracht als een pakket om de regels voor wettelijke aansprakelijkheid te actualiseren voor het digitale tijdperk. Samen bestrijken de documenten specifieke uitdagingen die kunstmatige intelligentie (AI)-systemen met zich meebrengen en verschillende aspecten van niet-contractuele aansprakelijkheid. Bovendien breiden ze het bestaande kader voor product- en AI-aansprakelijkheid uit om de vooruitgang in informatietechnologie te weerspiegelen.
Als de voorgestelde richtlijnen worden aangenomen zoals verwacht door het Europees Parlement, zullen bedrijven en ondernemingen hun aansprakelijkheidsrisico's en de manier waarop ze omgaan met documentatie en informatie opnieuw moeten evalueren, vooral met betrekking tot openbaarmakingsverplichtingen.
Wat zijn de belangrijkste kenmerken van de P-PLD?
De P-PLD regelt de niet-contractuele wettelijke aansprakelijkheid voor producten met gebreken. De herziene P-PLD behoudt verschillende belangrijke kenmerken van de bestaande richtlijn productaansprakelijkheid. Zij pakt echter ook de tekortkomingen aan die het gevolg zijn van de ontwikkeling van de definities en begrippen van producten sinds de invoering van de vorige richtlijn in 1985, en werkt deze waar nodig bij.
In het voorstel wordt opgemerkt dat het kader van de bestaande PLD mogelijk niet langer geschikt is voor sommige producten in de moderne digitale economie en circulaire economie, waaronder software, slimme apparaten en autonome voertuigen.
De P-PLD verandert de terminologie in de huidige PLD van "producent" in "fabrikant". De richtlijn kent ook risicoaansprakelijkheid toe aan fabrikanten en importeurs voor schade die door een product of onderdeel daarvan wordt veroorzaakt. De P-PLD stemt de terminologie echter af op het bestaande kader van Besluit 768/2008/EG betreffende het verhandelen van producten.
Vertrouwde elementen zoals de mogelijke aansprakelijkheid van meerdere marktdeelnemers blijven deel uitmaken van de P-PLD. De groep van mogelijk aansprakelijke marktdeelnemers wordt echter uitgebreid met dienstverleners die producten opslaan, verpakken, adresseren en verzenden als ten minste twee van deze diensten worden verleend. Dit kan leiden tot een potentiële aansprakelijkheid voor distributeurs, onlineplatforms die een product aanbieden en verleners van fulfilmentdiensten die mogelijk denken dat ze zijn vrijgesteld van de bestaande PLD.
Bovendien worden immateriële activa, zoals software die geïntegreerd is in een product, beschouwd als onderdeel van dat product. Dat betekent dat softwareontwikkelaars onderworpen zijn aan dezelfde potentiële aansprakelijkheid als conventionele productfabrikanten. Vandaar dat softwareleveranciers en leveranciers van digitale diensten, zoals satellietnavigatie in een autonoom voertuig, ook onder de nieuwe OUR vallen.
Bovendien vallen AI-systemen en AI-enabled goederen binnen het toepassingsgebied van de P-PLD, waardoor een benadeelde persoon schadevergoeding kan krijgen zonder schuld te hoeven bewijzen als een defect AI-systeem of een AI-enabled product schade veroorzaakt.
De P-PLD is bedoeld om de bewijslast voor gelaedeerden verder te verlichten in complexe zaken, waaronder zaken met AI-systemen of wanneer producten niet voldoen aan de veiligheidseisen.
De P-PLD breidt de definitie van schade ook uit tot verlies en beschadiging van gegevens. Verder wordt gesteld dat fabrikanten aansprakelijk zijn voor wijzigingen aan producten die al op de markt zijn gebracht, met inbegrip van, maar niet beperkt tot, wijzigingen door middel van software-updates of machine learning.
Ten slotte maakt de P-PLD een einde aan eerdere beperkingen van het minimum- en maximumbedrag dat kan worden teruggevorderd. De algemene verjaringstermijn blijft ongewijzigd, maar het voorstel verlengt de absolute termijn voor letselschadeclaims in het kader van de PLD van 10 tot 15 jaar indien een gelaedeerde een latent persoonlijk letsel had en geen vordering kon instellen in de periode van 10 jaar.
Wat zijn de belangrijkste kenmerken van de P-AILD?
De P-AILD heeft betrekking op niet-contractuele schadeclaims tegen aanbieders van AI-systemen en beoogt uniforme eisen vast te stellen voor schade veroorzaakt door het gebruik van AI-systemen. In deze context omvat een AI-systeem software die gebruik maakt van machinaal leren, inductief programmeren en statistische benaderingen.
De P-AILD is bedoeld voor niet-contractuele civielrechtelijke vorderingen tot schadevergoeding die door een AI-systeem is veroorzaakt, met inbegrip van vorderingen in het kader van een schuldaansprakelijkheidsprocedure. Volgens het voorstel moet een benadeelde persoon die verhaal zoekt voor schade die door een AI-systeem is veroorzaakt, de beschikking krijgen over doeltreffende materiële en procedurele middelen om potentieel aansprakelijke personen en de respectieve bewijzen die relevant zijn voor de respectieve vordering te identificeren.
Er zijn twee hoofdcomponenten van de P-AILD. Ten eerste stelt de P-AILD rechtbanken in staat om de openbaarmaking te bevelen van relevant bewijs over het AI-systeem waarvan wordt vermoed dat het de schade heeft veroorzaakt. De openbaarmakingsverplichting is gericht tot de verstrekker van een AI-systeem alsook tot een persoon die onderworpen is aan de verplichtingen van de verstrekker zoals uiteengezet in de AI-wet of een gebruiker overeenkomstig de AI-wet.
De verplichting tot openbaarmaking wordt aangevuld met procedurele middelen om bewijsmateriaal te bewaren, maar omvat ook bepalingen om de evenredigheid van de openbaarmaking van het bewijsmateriaal te waarborgen. Dit kader zorgt voor een evenwicht tussen de gerechtvaardigde belangen van de partij die om openbaarmaking vraagt en de belangen van de openbaarmakende partij bij haar bedrijfsgeheimen of anderszins vertrouwelijke informatie. Ten slotte introduceert de P-AILD een vermoeden van schending van een zorgplicht als de verweerder niet voldoet aan een verplichting tot openbaarmaking, hoewel de verweerder deze bewering kan weerleggen.
De tweede component is de vaststelling van een vermoeden van causaliteit tussen de fout van de verweerder en de output die door het AI-systeem wordt geproduceerd of het falen van het AI-systeem om dergelijke output te produceren. De eiser moet aan drie criteria voldoen: 1) aantonen dat de verweerder een fout heeft gemaakt, 2) aantonen dat het redelijkerwijs aannemelijk is dat de fout is beïnvloed door de output van het AI-systeem en 3) een causaal verband aantonen tussen de output, of niet-output, van het AI-systeem en de schade.
Dit vermoeden van causaliteit is bedoeld om een persoon die letsel heeft opgelopen een vergelijkbare mate van bescherming te bieden als in situaties waarbij AI niet betrokken is. De gedaagden krijgen de kans om deze beweringen over het oorzakelijk verband te weerleggen.
Wat is de volgende stap?
De twee voorstellen van de Commissie moeten nu langs het Europees Parlement en de Raad. Zodra de P-PLD en de P-AILD zijn aangenomen, moeten de lidstaten de richtlijnen aannemen.
Voor de P-PLD stelt de Commissie een maximumperiode van 12 maanden voor voor de implementatie door de lidstaten. Voor de P-AILD is een maximumperiode van twee jaar voorgesteld.
Download een exemplaar van deze Spotlight-functie.
Over onze gastauteur, Dr. Stefan Lohn
Dr. Lohn is gespecialiseerd in commerciële arbitrage en procesvoering en adviseert over naleving van de toeleveringsketen en risico's. Zijn praktijk richt zich op internationale en nationale garantie- en productaansprakelijkheidskwesties, waaronder auto's, kapitaalgoederen en elektronica, evenals op commerciële contracten.
Dr. Lohn is lid van het Duitse Instituut voor Arbitrage (DIS) en van de focusgroepen Automotive, Capital Goods en Product Liability van Clifford Chance. Hij publiceert regelmatig over supply chain compliance en risico's en productaansprakelijkheidskwesties.