Kunstmatige intelligentie en recht
1. Komt de robotrechter er aan?
Prakken: dat met het bestaan van voorspelalgoritmes ook het automatisch beslissen van rechtszaken
dichtbij is, is onjuist. Er zit verschil tussen voorspelalgoritmes en het nemen van juridische
beslissingen. Wel is het terecht dat AI het juridische werk zal veranderen. Juridisch werk bestaat
vooral uit informatieverwerking en AI kan hierbij van dienst zijn, omdat computers goed zijn in het
herkennen van patronen in grote hoeveelheden data.
Jensma meent dat het voorspelalgoritme voor uitspraken van het EHRM een expertsysteem is. Een
expertsysteem is echter een AI-systeem dat kennis van een bepaald gebied heeft en die kennis al
redenerend op de feiten van een geval kan toepassen, om zo tot een gemotiveerd advies voor een
beslissing te komen. Volgens Prakken is deze opvatting onjuist, omdat:
- Het is slechts een voorspelsysteem en maakt geen juridische of morele afwegingen.
- Het algoritme kan een voorspelling niet uitleggen.
- Het voorspelt strikt genomen geen nieuwe uitspraken, omdat het berust op een eerdere
uitspraak.
- Het algoritme dat uitspraken van rechters analyseert, kan deze niet begrijpen.
- Het voorspelalgoritme produceert slechts een kans.
- Een voorspelalgoritme kan niet inhoudelijk beoordelen, nu het niet gaat over de persoonlijke
omstandigheden van iemand.
“Voorspellen is iets anders dan beslissen”.
o Alleen kansen;
o Vaak op basis van data die niet over inhoudelijke merites gaat;
o Zonder begrip van de geanalyseerde teksten.
Een flink deel van de te voorspellen beslissing is nodig voor de voorspelling of de voorspelling wordt
gebaseerd op externe factoren in plaats van inhoudelijke beoordelingen. In beide gevallen kan geen
deugdelijke motivering worden gegeven, terwijl dit vereist is voor juridische procedures. Conclusie:
een voorspelalgoritme brengt de robotrechter niet dichterbij. Daarvoor is namelijk een AI-systeem
nodig dat op basis van juridische kennis kan redeneren.
Regelgebaseerde modellen van juridisch redeneren kunnen eenvoudig worden geautomatiseerd met
behulp van als/dan-regels. Deze modellen kunnen worden ingezet bij bijvoorbeeld het toekennen van
uitkeringen, waarbij vele wetten en informatie nodig zijn. Let op! Voor de beredeneerde toepassing
van regelgeving van een casus zijn regelgebaseerde kennissystemen ongeschikt.
- Er zijn weliswaar argumentatiesystemen ontwikkeld die zelf een afweging kunnen maken op
basis van verschillende juridische en ethische principes of sociale gevolgen. Toch is dit
systeem niet direct bruikbaar omdat expliciet kennis over zaken als afweging van belangen,
inlevingsvermogen en gevoel voor rechtvaardigheid lastig om zijn te zetten. Ook complexe
bewijskwesties zijn nog lastig. Volgens Watson zullen geavanceerde argumentatiesystemen
ooit bruikbaar zijn, doordat de kennis en informatie niet meer handmatig in de computer
hoeven te worden gezet. Dit kan namelijk worden opgehaald uit digitale bronnen.
Bakker wil routinezaken automatiseren nu daar eenduidige uitkomsten in zijn en er geen sprake is van
bewijs- en interpretatieproblemen. Een geavanceerd argumentatiesysteem is dan niet nodig. Het
, systeem moet echter wel kennis hebben van de wet. Een regelgebaseerd systeem heeft dit, maar de
handeling is daarmee nog niet geautomatiseerd. Automatisering is pas mogelijk indien:
1. De feiten automatisch kunnen worden vastgesteld;
2. De feiten hoeven niet juridisch gekwalificeerd te worden.
Bij veel zaken wordt daar niet aan voldaan. Zoals het nu staat is het volledig automatiseren
van beslissingen in routinezaken daarom niet mogelijk.
Conclusie: het is beter om te kijken naar de computer en de mens als samenwerkend geheel. AI
schept weliswaar vele mogelijkheden, maar men moet zich niet laten meeslepen door deze hype.
2. Legal Reasoning: Computational Models
Computermodellen kunnen worden gebruikt bij juridische redenaties. Dit dient zowel een theoretisch,
als een praktisch doel.
- Theoretisch: het begrijpen van juridisch redeneren door het te vervaardigen in een
computerprogramma.
- Praktisch: het onderzoeken hoe geavanceerde informatietechnologie kan bijdragen aan de
juridische praktijk.
Ondanks de positieve gevolgen is men bang dat de toename van AI ervoor zorgt dat we de
sociale consequenties en belangrijke principes (zoals rechtvaardigheid) uit het oog verliezen.
Dit is onjuist omdat computersystemen ook ruimte kunnen bieden voor interpretaties,
uitzonderingen en afwijkingen. Daarnaast kan een systeem aan vorm aannemen, afhankelijk
van het doel (advies, belangenbehartiging of besluitvorming).
De volgende vragen zijn bij een computersysteem relevant:
1. Wat is de onderlinge theorie van redeneren?
2. Kan de kennis die nodig is voor het redeneren worden weergegeven in de computer?
3. Kan de computer met deze kennis efficiënt redeneren?
De logische deductie kan worden gezien als een noodzakelijk onderdeel voor een realistisch model
van juridisch redeneren. Het is slechts een onderdeel, omdat het de meest belangrijke aspecten niet
belicht:
- De wet is geen conceptueel systeem, maar bevat sociale doelen en effecten die altijd in
beschouwing moeten worden genomen.
- Er moet altijd rekening worden gehouden met de omstandigheden van het geval.
Omdat er altijd meerdere belangen op het spel staan, is er altijd ruimte voor twijfel en
onenigheid. Doordat het recht berust op precedenten, principes, beleidsoverwegingen, doelen
en afwegingen van argumenten, mag er nooit slechts vertrouwd worden op een deductie van
feiten. Wel blijft deductie een belangrijke bouwsteen. Het zorgt voornamelijk bij sociale zaken
voor een vermindering van onvolledige kennis.
Bij het gebruikmaken van een computermodel bij de inzet van deductietechnieken, loopt elk systeem
tegen twee obstakels aan:
- Scheiding tussen algemene regels en uitzonderingen.
- Het gebruik van hiërarchieën tussen de wettelijke bronnen.
Probleem met uitzonderingen is dat het recht juridische gevolgen vaak afhankelijk maakt van
de veronderstelling dat ze niet voorkomen, zolang er geen bewijs is voor het voorkomen. AI
en de wet hebben hiervoor een oplossing bedacht, door gebruik te maken van niet-monotone
1. Komt de robotrechter er aan?
Prakken: dat met het bestaan van voorspelalgoritmes ook het automatisch beslissen van rechtszaken
dichtbij is, is onjuist. Er zit verschil tussen voorspelalgoritmes en het nemen van juridische
beslissingen. Wel is het terecht dat AI het juridische werk zal veranderen. Juridisch werk bestaat
vooral uit informatieverwerking en AI kan hierbij van dienst zijn, omdat computers goed zijn in het
herkennen van patronen in grote hoeveelheden data.
Jensma meent dat het voorspelalgoritme voor uitspraken van het EHRM een expertsysteem is. Een
expertsysteem is echter een AI-systeem dat kennis van een bepaald gebied heeft en die kennis al
redenerend op de feiten van een geval kan toepassen, om zo tot een gemotiveerd advies voor een
beslissing te komen. Volgens Prakken is deze opvatting onjuist, omdat:
- Het is slechts een voorspelsysteem en maakt geen juridische of morele afwegingen.
- Het algoritme kan een voorspelling niet uitleggen.
- Het voorspelt strikt genomen geen nieuwe uitspraken, omdat het berust op een eerdere
uitspraak.
- Het algoritme dat uitspraken van rechters analyseert, kan deze niet begrijpen.
- Het voorspelalgoritme produceert slechts een kans.
- Een voorspelalgoritme kan niet inhoudelijk beoordelen, nu het niet gaat over de persoonlijke
omstandigheden van iemand.
“Voorspellen is iets anders dan beslissen”.
o Alleen kansen;
o Vaak op basis van data die niet over inhoudelijke merites gaat;
o Zonder begrip van de geanalyseerde teksten.
Een flink deel van de te voorspellen beslissing is nodig voor de voorspelling of de voorspelling wordt
gebaseerd op externe factoren in plaats van inhoudelijke beoordelingen. In beide gevallen kan geen
deugdelijke motivering worden gegeven, terwijl dit vereist is voor juridische procedures. Conclusie:
een voorspelalgoritme brengt de robotrechter niet dichterbij. Daarvoor is namelijk een AI-systeem
nodig dat op basis van juridische kennis kan redeneren.
Regelgebaseerde modellen van juridisch redeneren kunnen eenvoudig worden geautomatiseerd met
behulp van als/dan-regels. Deze modellen kunnen worden ingezet bij bijvoorbeeld het toekennen van
uitkeringen, waarbij vele wetten en informatie nodig zijn. Let op! Voor de beredeneerde toepassing
van regelgeving van een casus zijn regelgebaseerde kennissystemen ongeschikt.
- Er zijn weliswaar argumentatiesystemen ontwikkeld die zelf een afweging kunnen maken op
basis van verschillende juridische en ethische principes of sociale gevolgen. Toch is dit
systeem niet direct bruikbaar omdat expliciet kennis over zaken als afweging van belangen,
inlevingsvermogen en gevoel voor rechtvaardigheid lastig om zijn te zetten. Ook complexe
bewijskwesties zijn nog lastig. Volgens Watson zullen geavanceerde argumentatiesystemen
ooit bruikbaar zijn, doordat de kennis en informatie niet meer handmatig in de computer
hoeven te worden gezet. Dit kan namelijk worden opgehaald uit digitale bronnen.
Bakker wil routinezaken automatiseren nu daar eenduidige uitkomsten in zijn en er geen sprake is van
bewijs- en interpretatieproblemen. Een geavanceerd argumentatiesysteem is dan niet nodig. Het
, systeem moet echter wel kennis hebben van de wet. Een regelgebaseerd systeem heeft dit, maar de
handeling is daarmee nog niet geautomatiseerd. Automatisering is pas mogelijk indien:
1. De feiten automatisch kunnen worden vastgesteld;
2. De feiten hoeven niet juridisch gekwalificeerd te worden.
Bij veel zaken wordt daar niet aan voldaan. Zoals het nu staat is het volledig automatiseren
van beslissingen in routinezaken daarom niet mogelijk.
Conclusie: het is beter om te kijken naar de computer en de mens als samenwerkend geheel. AI
schept weliswaar vele mogelijkheden, maar men moet zich niet laten meeslepen door deze hype.
2. Legal Reasoning: Computational Models
Computermodellen kunnen worden gebruikt bij juridische redenaties. Dit dient zowel een theoretisch,
als een praktisch doel.
- Theoretisch: het begrijpen van juridisch redeneren door het te vervaardigen in een
computerprogramma.
- Praktisch: het onderzoeken hoe geavanceerde informatietechnologie kan bijdragen aan de
juridische praktijk.
Ondanks de positieve gevolgen is men bang dat de toename van AI ervoor zorgt dat we de
sociale consequenties en belangrijke principes (zoals rechtvaardigheid) uit het oog verliezen.
Dit is onjuist omdat computersystemen ook ruimte kunnen bieden voor interpretaties,
uitzonderingen en afwijkingen. Daarnaast kan een systeem aan vorm aannemen, afhankelijk
van het doel (advies, belangenbehartiging of besluitvorming).
De volgende vragen zijn bij een computersysteem relevant:
1. Wat is de onderlinge theorie van redeneren?
2. Kan de kennis die nodig is voor het redeneren worden weergegeven in de computer?
3. Kan de computer met deze kennis efficiënt redeneren?
De logische deductie kan worden gezien als een noodzakelijk onderdeel voor een realistisch model
van juridisch redeneren. Het is slechts een onderdeel, omdat het de meest belangrijke aspecten niet
belicht:
- De wet is geen conceptueel systeem, maar bevat sociale doelen en effecten die altijd in
beschouwing moeten worden genomen.
- Er moet altijd rekening worden gehouden met de omstandigheden van het geval.
Omdat er altijd meerdere belangen op het spel staan, is er altijd ruimte voor twijfel en
onenigheid. Doordat het recht berust op precedenten, principes, beleidsoverwegingen, doelen
en afwegingen van argumenten, mag er nooit slechts vertrouwd worden op een deductie van
feiten. Wel blijft deductie een belangrijke bouwsteen. Het zorgt voornamelijk bij sociale zaken
voor een vermindering van onvolledige kennis.
Bij het gebruikmaken van een computermodel bij de inzet van deductietechnieken, loopt elk systeem
tegen twee obstakels aan:
- Scheiding tussen algemene regels en uitzonderingen.
- Het gebruik van hiërarchieën tussen de wettelijke bronnen.
Probleem met uitzonderingen is dat het recht juridische gevolgen vaak afhankelijk maakt van
de veronderstelling dat ze niet voorkomen, zolang er geen bewijs is voor het voorkomen. AI
en de wet hebben hiervoor een oplossing bedacht, door gebruik te maken van niet-monotone
