Samenvatting hoofdstuk 6 - AI en buitencontractuele aansprakelijkheid

Hoofdstuk 6:
AI en buitencontractuele aansprakelijkheid


1. Context
De Europese Commissie is de laatste jaren actief geweest op vlak van
buitencontractuele en productaansprakelijkheid.
 2018: deskundigengroep over aansprakelijkheid en nieuwe
technologieën bestaande uit 2 formaties
1. Uitdagingen voor de Richtlijn Productaansprakelijkheid (RPA)
2. Nieuwe digitale technologieën (met aandacht voor nationale recht)
De tweede formatie publiceerde een rapport ‘liability for AI’ met
aanbevelingen
 2020: Witboek over AI + verslag over de implicaties van AI, het internet
der dingen en robotica
 2022: 2 voorstellen van de Commissie die beogen de
aansprakelijkheidsregels aan te passen aan het digitale tijdperk
1. AI aansprakelijkheidsrichtlijn (voorstel) : regels over de openbaarmaking
van informatie en de verlichting van de bewijslast wat betreft schade
veroorzaakt door AI-systemen
2. Herziene richtlijn productaansprakelijkheid (aangenomen) :
veranderingen aan het toepassingsgebied en vermoedens over de
gebrekkigheid en oorzakelijk verband
 2024: AI-verordening die verplichtingen oplegt aan aanbiederes en
gebruikers van AI-systemen met een hoog risico


2. Productaansprakelijkheid
Art. 1 WPA = een producent is aansprakelijk voor de schade veroorzaakt door een
gebrek in een product dat hij op de markt brengt.
 Vraag = in welke mate AI of andere vormen van software gekwalificeerd
kunnen worden als een product

2.1. Software als een product?
De Europese wetgever (RPA) definieert een product als elk roerend goed,
inclusief elektriciteit.
 Algemeen aanvaard dat software geïncorporeerd in een lichamelijk goed
dat zonder de software niet volledig kan functioneren ook een product is
(embedded software)
De vraag is of zuivere (standalone) software ook als een product kan gezien
worden onder de RPA.
 Commissie = voorstander van ruime interpretatie en dus software als
product

, Art. 2 RPA = software als product
MAAR RPA is niet van toepassing op gratis en opensourcesoftware buiten het
kader van een handelsactiviteit
De Belgische wetgever (WPA) definieert een product als zijnde een lichamelijk
roerend goed.
 Software = zintuigelijk onwaarneembaar goed
 Dus standalone software valt buiten het toepassingsgebied, embedded
software valt er wel nog binnen
 Dat is maar zeer gedeeltelijke oplossing, want standalone software heeft
veel aan belang gewonnen de afgelopen jaren

2.2. Wanneer is AI gebrekkig?
Art. 5 WPA = een product is gebrekkig als het niet de veiligheid biedt die men
gerechtigd is te verwachten.
 Rechtmatige verwachtingspatroon van het grote publiek
 Alle omstandigheden in acht genomen (opgesomd in art. 7 RPA)
1. Presentatie van het product
2. Redelijkerwijs te verwachten gebruik en misbruik van het product
3. Het redelijke ontwerpalternatief
De toepassing van het criterium ‘presentatie van het product’ is
problematisch voor producenten van bepaalde AI-systemen.
 Die wat al als veiliger dan bestaande menselijke alternatieven worden
voorgesteld
 Hogere veiligheidsverwachtingen en dus groter risico op aansprakelijkheid
 Maar deze test is ook moeilijk, want verwachtingen van het grote publiek
zijn moeilijk identificeerbaar
De meeste betwistingen doen zich voor bij het redelijke ontwerpalternatief, ofwel
ontwerpgebreken.
 Vergelijking tussen AI-systeem en door de mens bestuurd systeem is heel
moeilijk, want AI-systemen zijn op den duur veiliger dan bestaande
alternatieven
 Dus vergelijking voor het opsporen van ontwerpgebreken met een
functioneel vergelijkbaar referentie AI-systeem
 Staat nog niet helemaal op punt

2.3. Verweermiddelen van de producent
De producent is niet aansprakelijk voor wat er gebeurt met een product nadat
het in verkeer is gebracht.
 HvJ: moment waarop het product het productieproces verlaat en
opgenomen wordt in het proces voor distributie aan het publiek
 Moeilijk voor AI-systemen die in een voortdurend productieproces zitten