AI en recht
Inhoudsopgave
Hoorcollege 1 2 februari......................................................................................................2
Hoorcollege 2 9 februari......................................................................................................5
Hoorcollege 3 16 februari..................................................................................................10
Hoorcollege 4 23 februari..................................................................................................14
Hoorcollege 5 9 maart.......................................................................................................19
Hoorcollege 6 16 maart.....................................................................................................22
Hoorcollege 7 23 maart.....................................................................................................28
Hoorcollege 8 30 maart.....................................................................................................28
Hoorcollege 9 6 april.........................................................................................................34
Hoorcollege 10 13 april......................................................................................................39
Hoorcollege 11 20 april......................................................................................................40
Hoorcollege 12 11 mei.......................................................................................................44
, AI en recht
HOORCOLLEGE 1 2 FEBRUARI
BELANGRIJKSTE KENMERKEN VAN AI
1. Belangrijkste reden waarom AI momenteel de bron is van zoveel hoop en vrees: het feit
dat de allermeeste AI zelflerend zijn (=machine learning en deeplearning > later meer) en
in tegenstelling tot “gewone” software niet expliciet geprogrammeerd.
2. Wat betekent het? AI-algoritme wordt getraind door data, zodat het systeem zichzelf
verbetert door te leren uit ervaring (gewone software kan dat niet). Voorbeeld:
Alphazero is het nieuwste, AI-gestuurde schaakprogramma. Door alleen tegen zichzelf te
spelen, had Alphazero slechts negen uur nodig om van een beginner tot onverslaanbaar
te worden door een menselijke schaker of een ander schaakcomputerprogramma.
3. Met het vermogen tot zelf leren komt autonomie:
Hoe groter het zelflerend vermogen, hoe groter de autonomie van de AI en hoe
minder hij afhankelijk is van de mens.
Die (toenemende) autonomie leidt tot twee specifieke risico’s, namelijk het
gebrek aan:
1. Voorspelbaarheid (we kunnen toekomstige uitkomst van een AI niet altijd
voorzien);
2. Verklaarbaarheid (we kunnen niet altijd verklaren hoe of waarom de AI tot
een resultaat komt).
Beide aspecten zijn elementen van het black box effect.
Wat beschrijft dat zelfs de AI-programmeurs vaak zelf niet meer weten hoe of
waarom de AI tot een bepaald resultaat komt.
En juist deze toenemende autonomie en de daarmee gepaard gaande risico’s van AI
vormen de grote uitdaging voor het recht.
AI heeft een enorm potentieel voor verstoringen en manipulaties (door private partijen
of ook door overheidsinstanties).
We moeten AI temmen om te profiteren van de positieve aspecten van AI.
En om het duidelijk te stellen: AI komt in alle verschillende vormen en gedaanten...
Het kan bestaan in een puur virtuele vorm (zoals chatbots of een robot-adviseur
voor financiële zaken) of de AI kan worden geïntegreerd in hardware (robots).
AI EN RECHTSPERSOONLIJKHEID
Uitgangspunt: op dit moment heeft AI geen rechtspersoonlijkheid.
Zouden ze dit wel moeten hebben? Uitgangspunt voor discussie in de EU (Resolutie
van het Europees Parlement van 2017): de EU moet “een specifieke juridische status voor
robots creëren zodat autonome robots de status krijgen van elektronische personen die
verantwoordelijk zijn voor het vergoeden van eventuele schade die zij veroorzaken.”
Vraag van rechtspersoonlijkheid heeft invloed op vele rechtsgebieden daarom hier al
aandacht.
, AI en recht
Problemen die rechtstreeks verband houden met de toekenning van rechtspersoonlijkheid
van AI:
1. Kan de wetgever het überhaupt toekennen?
a. De wetgever is vrij te beslissen over het al dan niet toekennen van
rechtspersoonlijkheid.
b. Savigny: rechtspersoon is hoe dan ook een ‘zuivere juridische fictie’.
c. De vraag is niet of AI als rechtspersoon moet worden behandeld, maar of er
goede redenen zijn om dit te doen.
2. Welke soort persoonlijkheid?
a. Europees Parlement: elektronische personen.
3. Drager van rechten en plichten?
a. Plichten in de schijnwerpers.
b. De hoeveelheid rechten en plichten kan verschillen en het is aan de wetgever om
daarover te beslissen, maar helemaal geen rechten? Dat zou een anomalie
zijn.
c. Sommige academici: AI moet ook drager zijn van rechten.
4. AI heeft een menselijk orgaan nodig om te handelen.
a. Als AI een rechtspersoon wordt, heeft het ‘menselijke organen’ nodig om te
handelen.
b. Wie moeten deze menselijke organen zijn?
c. Bijna alle voorstellen zwijgen hierover.
5. Recht is gemaakt voor mensen en niet voor AI (enkel privaatrechtelijke voorbeelden).
a. Schadevergoeding en preventie als belangrijke doelstelling van het recht inzake
OD.
i. Compensatie: AI heeft geen geld.
ii. Preventie: werkt niet met AI.
b. Schuldaansprakelijkheid als regel in het recht inzake OD:
i. Werkt niet echt met AI.
ii. Het Europees Parlement stelt dat ‘het toekomstige wetgevingsinstrument
moet voorzien in toepassing van risicoaansprakelijkheid als regel’.
6. Wie betaalt uiteindelijk als AI-rechtspersoon wordt en aansprakelijk is?
a. Probleem: AI heeft geen financiële middelen.
b. Dus hoe wordt de schade vergoed?
c. Oprichten van een fonds voor schade door AI:
i. Maar wie geeft geld voor het fonds?
1. Producent van AI?
2. Gebruiker(s) van AI?
3. De Staat?
4. Allemaal? Of nog iemand anders?
BASISBEGRIPPEN ROND AI
Technische definitie van algoritme (leidend)= een reeks instructies met een vaststaande
volgorde, die de oplossing van een bepaald probleem beschrijft. Dit kan van alles zijn, bijv.
een recept voor een appeltaart of een routebeschrijving. Elke software bestaat uit
algoritmes.
, AI en recht
Definitie van AI = Er is geen algemeen aanvaarde definitie van AI, maar talloze definities.
Hoe gaan we beslissen of iets intelligent is of niet?
Turing test: speler C (ondervrager) krijgt de taak te bepalen welke speler (A of B) een
computer is en welke een mens. De ondervrager is beperkt tot het gebruik van de
antwoorden op schriftelijke vragen om dit vast te stellen. Nadelen van deze test:
Het is te taalgericht: intelligentie wordt alleen aan de hand van taal gemeten.
Test hangt af van wie het vraagt.
Test is gevoelig voor strikvragen.
Intelligentie of simulatie van intelligentie?
Koffietest (Wozniak): een machine moet een gemiddeld Amerikaans huis binnengaan en
uitzoeken hoe je koffiezet: de koffiemachine vinden, de koffie vinden, water toevoegen,
een mok vinden en koffie zetten door op de juiste knoppen te drukken.
IKEA test (Tony Severyns): een machine moet een meubelstuk uitpakken en in elkaar
zetten. Zij moet de instructies lezen en het artikel in elkaar zetten zoals beschreven,
waarbij alle bevestigingen correct worden aangebracht.
DEELGEBIEDEN
Als wetenschappelijke discipline omvat AI verschillende benaderingen en technieken zoals:
Machinaal leren. Doelstelling van machine learning = computer in staat stellen om
zelfstandig te leren. Machine Learning algotirmes maken het mogelijk:
Patronen identificeren in waargenomen gegevens;
Modellen bouwen die de wereld verklaren;
Dingen voorspellen zonder expliciete voorgeprogrammeerde regels en modellen
hebben.
Er bestaat nog wel AI zonder AI machine learning.
Op kennis gebaseerde aanpak met menselijke deskundigen die formele regels
ontwikkelen (vastgelegde kennis, expertsysteem zoals bij sommige chatbots).
Deep learning kwam nog later dan machine learning. Dit is een deel van machine
learning.
Weak AI = Artificial Narrow Intelligence (ANI). Op dit moment is bijna alles wat we zien,
weak AI. Dit zijn AI-systemen die één of enkele specifieke taken kunnen uitvoeren.
Strong AI = AI die met succes elke intellectuele taak kan uitvoeren die een mens kan
uitvoeren, inclusief leren, plannen en beslissen in onzekerheid, communiceren in
natuurlijke taak, grappen maken, mensen manipuleren, handelen in aandelen of zichzelf
herprogrammeren.
Strong AI bestaat op moment nog niet.
Technologische singulariteit van AI = de mogelijkheid dat AI de menselijke intellectuele
capaciteit overtreft. Hier zijn we nog lang niet.
BEKNOPTE GESCHIEDENIS VAN AI
Idee van AI bestond al in jaren ’50.
1997: Kasparov vs. Deep Blue (IBM).
Deep Blue gebruikte posities uit een database van meer dan 700.000 partijen.
Inhoudsopgave
Hoorcollege 1 2 februari......................................................................................................2
Hoorcollege 2 9 februari......................................................................................................5
Hoorcollege 3 16 februari..................................................................................................10
Hoorcollege 4 23 februari..................................................................................................14
Hoorcollege 5 9 maart.......................................................................................................19
Hoorcollege 6 16 maart.....................................................................................................22
Hoorcollege 7 23 maart.....................................................................................................28
Hoorcollege 8 30 maart.....................................................................................................28
Hoorcollege 9 6 april.........................................................................................................34
Hoorcollege 10 13 april......................................................................................................39
Hoorcollege 11 20 april......................................................................................................40
Hoorcollege 12 11 mei.......................................................................................................44
, AI en recht
HOORCOLLEGE 1 2 FEBRUARI
BELANGRIJKSTE KENMERKEN VAN AI
1. Belangrijkste reden waarom AI momenteel de bron is van zoveel hoop en vrees: het feit
dat de allermeeste AI zelflerend zijn (=machine learning en deeplearning > later meer) en
in tegenstelling tot “gewone” software niet expliciet geprogrammeerd.
2. Wat betekent het? AI-algoritme wordt getraind door data, zodat het systeem zichzelf
verbetert door te leren uit ervaring (gewone software kan dat niet). Voorbeeld:
Alphazero is het nieuwste, AI-gestuurde schaakprogramma. Door alleen tegen zichzelf te
spelen, had Alphazero slechts negen uur nodig om van een beginner tot onverslaanbaar
te worden door een menselijke schaker of een ander schaakcomputerprogramma.
3. Met het vermogen tot zelf leren komt autonomie:
Hoe groter het zelflerend vermogen, hoe groter de autonomie van de AI en hoe
minder hij afhankelijk is van de mens.
Die (toenemende) autonomie leidt tot twee specifieke risico’s, namelijk het
gebrek aan:
1. Voorspelbaarheid (we kunnen toekomstige uitkomst van een AI niet altijd
voorzien);
2. Verklaarbaarheid (we kunnen niet altijd verklaren hoe of waarom de AI tot
een resultaat komt).
Beide aspecten zijn elementen van het black box effect.
Wat beschrijft dat zelfs de AI-programmeurs vaak zelf niet meer weten hoe of
waarom de AI tot een bepaald resultaat komt.
En juist deze toenemende autonomie en de daarmee gepaard gaande risico’s van AI
vormen de grote uitdaging voor het recht.
AI heeft een enorm potentieel voor verstoringen en manipulaties (door private partijen
of ook door overheidsinstanties).
We moeten AI temmen om te profiteren van de positieve aspecten van AI.
En om het duidelijk te stellen: AI komt in alle verschillende vormen en gedaanten...
Het kan bestaan in een puur virtuele vorm (zoals chatbots of een robot-adviseur
voor financiële zaken) of de AI kan worden geïntegreerd in hardware (robots).
AI EN RECHTSPERSOONLIJKHEID
Uitgangspunt: op dit moment heeft AI geen rechtspersoonlijkheid.
Zouden ze dit wel moeten hebben? Uitgangspunt voor discussie in de EU (Resolutie
van het Europees Parlement van 2017): de EU moet “een specifieke juridische status voor
robots creëren zodat autonome robots de status krijgen van elektronische personen die
verantwoordelijk zijn voor het vergoeden van eventuele schade die zij veroorzaken.”
Vraag van rechtspersoonlijkheid heeft invloed op vele rechtsgebieden daarom hier al
aandacht.
, AI en recht
Problemen die rechtstreeks verband houden met de toekenning van rechtspersoonlijkheid
van AI:
1. Kan de wetgever het überhaupt toekennen?
a. De wetgever is vrij te beslissen over het al dan niet toekennen van
rechtspersoonlijkheid.
b. Savigny: rechtspersoon is hoe dan ook een ‘zuivere juridische fictie’.
c. De vraag is niet of AI als rechtspersoon moet worden behandeld, maar of er
goede redenen zijn om dit te doen.
2. Welke soort persoonlijkheid?
a. Europees Parlement: elektronische personen.
3. Drager van rechten en plichten?
a. Plichten in de schijnwerpers.
b. De hoeveelheid rechten en plichten kan verschillen en het is aan de wetgever om
daarover te beslissen, maar helemaal geen rechten? Dat zou een anomalie
zijn.
c. Sommige academici: AI moet ook drager zijn van rechten.
4. AI heeft een menselijk orgaan nodig om te handelen.
a. Als AI een rechtspersoon wordt, heeft het ‘menselijke organen’ nodig om te
handelen.
b. Wie moeten deze menselijke organen zijn?
c. Bijna alle voorstellen zwijgen hierover.
5. Recht is gemaakt voor mensen en niet voor AI (enkel privaatrechtelijke voorbeelden).
a. Schadevergoeding en preventie als belangrijke doelstelling van het recht inzake
OD.
i. Compensatie: AI heeft geen geld.
ii. Preventie: werkt niet met AI.
b. Schuldaansprakelijkheid als regel in het recht inzake OD:
i. Werkt niet echt met AI.
ii. Het Europees Parlement stelt dat ‘het toekomstige wetgevingsinstrument
moet voorzien in toepassing van risicoaansprakelijkheid als regel’.
6. Wie betaalt uiteindelijk als AI-rechtspersoon wordt en aansprakelijk is?
a. Probleem: AI heeft geen financiële middelen.
b. Dus hoe wordt de schade vergoed?
c. Oprichten van een fonds voor schade door AI:
i. Maar wie geeft geld voor het fonds?
1. Producent van AI?
2. Gebruiker(s) van AI?
3. De Staat?
4. Allemaal? Of nog iemand anders?
BASISBEGRIPPEN ROND AI
Technische definitie van algoritme (leidend)= een reeks instructies met een vaststaande
volgorde, die de oplossing van een bepaald probleem beschrijft. Dit kan van alles zijn, bijv.
een recept voor een appeltaart of een routebeschrijving. Elke software bestaat uit
algoritmes.
, AI en recht
Definitie van AI = Er is geen algemeen aanvaarde definitie van AI, maar talloze definities.
Hoe gaan we beslissen of iets intelligent is of niet?
Turing test: speler C (ondervrager) krijgt de taak te bepalen welke speler (A of B) een
computer is en welke een mens. De ondervrager is beperkt tot het gebruik van de
antwoorden op schriftelijke vragen om dit vast te stellen. Nadelen van deze test:
Het is te taalgericht: intelligentie wordt alleen aan de hand van taal gemeten.
Test hangt af van wie het vraagt.
Test is gevoelig voor strikvragen.
Intelligentie of simulatie van intelligentie?
Koffietest (Wozniak): een machine moet een gemiddeld Amerikaans huis binnengaan en
uitzoeken hoe je koffiezet: de koffiemachine vinden, de koffie vinden, water toevoegen,
een mok vinden en koffie zetten door op de juiste knoppen te drukken.
IKEA test (Tony Severyns): een machine moet een meubelstuk uitpakken en in elkaar
zetten. Zij moet de instructies lezen en het artikel in elkaar zetten zoals beschreven,
waarbij alle bevestigingen correct worden aangebracht.
DEELGEBIEDEN
Als wetenschappelijke discipline omvat AI verschillende benaderingen en technieken zoals:
Machinaal leren. Doelstelling van machine learning = computer in staat stellen om
zelfstandig te leren. Machine Learning algotirmes maken het mogelijk:
Patronen identificeren in waargenomen gegevens;
Modellen bouwen die de wereld verklaren;
Dingen voorspellen zonder expliciete voorgeprogrammeerde regels en modellen
hebben.
Er bestaat nog wel AI zonder AI machine learning.
Op kennis gebaseerde aanpak met menselijke deskundigen die formele regels
ontwikkelen (vastgelegde kennis, expertsysteem zoals bij sommige chatbots).
Deep learning kwam nog later dan machine learning. Dit is een deel van machine
learning.
Weak AI = Artificial Narrow Intelligence (ANI). Op dit moment is bijna alles wat we zien,
weak AI. Dit zijn AI-systemen die één of enkele specifieke taken kunnen uitvoeren.
Strong AI = AI die met succes elke intellectuele taak kan uitvoeren die een mens kan
uitvoeren, inclusief leren, plannen en beslissen in onzekerheid, communiceren in
natuurlijke taak, grappen maken, mensen manipuleren, handelen in aandelen of zichzelf
herprogrammeren.
Strong AI bestaat op moment nog niet.
Technologische singulariteit van AI = de mogelijkheid dat AI de menselijke intellectuele
capaciteit overtreft. Hier zijn we nog lang niet.
BEKNOPTE GESCHIEDENIS VAN AI
Idee van AI bestond al in jaren ’50.
1997: Kasparov vs. Deep Blue (IBM).
Deep Blue gebruikte posities uit een database van meer dan 700.000 partijen.
