LES 8 : RECHT, AI EN DIGITALE
TECHNOLOGIEËN – AI & RECHTSPRAAK
Introductie ......................................................................................................................................... 3
AI-systemen ................................................................................................................................... 3
Enkele inlustraties .......................................................................................................................... 3
Digitalisering van justitie .............................................................................................................. 3
Heel veel NLP (natural language processing) toepassingen ............................................................ 4
Anonimiseren & pseudonimiseren ................................................................................................ 4
Toewijzing van middelen en zaken ................................................................................................ 4
Videoconferenties ....................................................................................................................... 4
Virtuele realiteit ........................................................................................................................... 5
Chatbots..................................................................................................................................... 5
AI-systemen voor Risico-analyse .................................................................................................. 5
AI-systemen die straftoemeting berekenen ................................................................................... 5
Generatieve AI ............................................................................................................................. 5
Robotrechters ............................................................................................................................. 5
Online dispute resolution (ODR) ................................................................................................... 6
Notarissen .................................................................................................................................. 6
Gerechtsdeurwaarders ................................................................................................................ 6
Openbare aanklagers & politie ..................................................................................................... 6
Advocaten................................................................................................................................... 6
Generatieve AI in de advocatuur ................................................................................................... 6
CEPEJ Dynamic database of European judicial systems .................................................................... 7
Introductie...................................................................................................................................... 7
AI in de RS: Oppurtuniteiten ................................................................................................................ 7
Opportuniteiten .............................................................................................................................. 7
Risico’s & uitdagingen van AI-systemen in de RS .................................................................................. 8
Videoconferenties........................................................................................................................... 8
Virtuale realiteit .............................................................................................................................. 8
E-discovery..................................................................................................................................... 8
Chatbots ........................................................................................................................................ 8
Biases/ vooroordelen ...................................................................................................................... 9
Gebrek aan transparantie ................................................................................................................ 9
Verantwoordelijkheid? (overkoepelende uitdaging) ......................................................................... 10
pg. 1
, Privacy & gegevensbescherming (overkoepelende uitdaging) ........................................................... 10
Cybersecurity ............................................................................................................................... 10
Hallucinaties bij generatieve AI ...................................................................................................... 10
Het recht op een eerlijk process – art. 6 EVRM................................................................................. 10
Artikel ....................................................................................................................................... 10
Rechterlijke onafhankelijkheid & onpartijdigheid ......................................................................... 11
Onafhankelijke rechter ........................................................................................................... 11
Onpartijdige rechter ............................................................................................................... 11
Tegensprekelijke procedure ....................................................................................................... 11
Wapengelijkheid ........................................................................................................................ 11
Rechterlijke motiveringsplicht .................................................................................................... 12
Ethische vraagstukken .................................................................................................................. 12
Regulering ........................................................................................................................................ 12
Herhaling...................................................................................................................................... 12
Regulering: AI-verordening............................................................................................................. 13
Verboden AI-praktijken .............................................................................................................. 13
AI-systemen met een hoog Risico ............................................................................................... 13
Art. 6(3): algemene uitzondering ................................................................................................. 14
verplichtingen voor AI-systemen met een hoog Risico (die nt onder de uitzondering valt) ............... 14
Verplichting 1: systeem risicobeheer – art. 9 ............................................................................ 14
Verplichting 2: data & datagovernance – art. 10 ........................................................................ 14
Verplichting 3: Transparantie + infoverstrekking – art. 13 .......................................................... 14
verplichting 4: AI-systemen met transparantieverplichtingen (3de laag) – art. 50 ......................... 15
Belangrijkste punten/ conclusie ................................................................................................. 15
Soft law: ....................................................................................................................................... 15
Council of Europe European Commission for the efficiency of justice (CEPEJ) .............................. 15
Beleidsdocumenten .................................................................................................................. 16
Soft law & guidelines use AI in courts ............................................................................................. 16
Ten aanzien van rechters ........................................................................................................... 16
Ten aanzien van advocaten ........................................................................................................ 16
Toekomst ......................................................................................................................................... 17
pg. 2
, INTRODUCTIE
AI-SYSTEMEN
- Getraind op grote datasets (tekst, beeld, audio…)
- AI doet aan patroonherkenning in data (i.e. welke elementen komen vaak voor)
o Nt op basis van logica, zoals mensen
o Output linken aan bepaalde input
- Via miljoenen herhalingen ‘leren’ ze de kans
dat een bepaald patroon leidt tot een
specifieke uitkomst
- Voorbeeld in de context van rechtspraak:
o Bv.: geldboete gekregen voor
verkeersovertreding, bij nieuwe
verkeersovertreding kijken nr vorige en dan
kunnen ze suggereren aan de rechter welke
grote van boete ze zouden moeten geven
o Input (bv.: prompt: beklaagde wordt
aangehouden voor …
Generatief
AI-systeem
Meest
waarschijnlijke woord na het andere woord
- De interne werking van complexe modellen zijn
moeilijk uitlegbaar (black box) en kunnen biases
vertonen
o Bv.: grote data set van katten + honden, maar
er zitten biases in van dat alle honden donker
haar hadden en alle katten licht haar
Als je dan een nieuwe foto ingeeft van
een kleine hond met lichte haren dan
kan het zijn dat die gaat detecteren dat dit een kat is
WANT: doet aan patroon herkenning en denken nt logisch na
Zit geen logica achter
ENKELE INLUSTRATIES
DIGITALISERING VAN JUSTITIE
- Meer dan 70 jaar geleden begonnen
- Juridische databanken
- Communicatie op afstand, incl. e-mails
- Automatisering van simpele, repetitieve taken, voornamelijk voor administratieve doeleinden
o Case management / Beheer van zaken: volgen van de status, documentbeheer
Bv.: just case: kan je je dossier opvolgen en kijken welke stappen er al reeds
gezet zijn geweest + alle conclusies of bewijsstukken kunnen er worden
teruggevonden
o Elektronisch/E-filing: elektronische uitwisseling van gegevens en documenten tss RB &
partijen
pg. 3
TECHNOLOGIEËN – AI & RECHTSPRAAK
Introductie ......................................................................................................................................... 3
AI-systemen ................................................................................................................................... 3
Enkele inlustraties .......................................................................................................................... 3
Digitalisering van justitie .............................................................................................................. 3
Heel veel NLP (natural language processing) toepassingen ............................................................ 4
Anonimiseren & pseudonimiseren ................................................................................................ 4
Toewijzing van middelen en zaken ................................................................................................ 4
Videoconferenties ....................................................................................................................... 4
Virtuele realiteit ........................................................................................................................... 5
Chatbots..................................................................................................................................... 5
AI-systemen voor Risico-analyse .................................................................................................. 5
AI-systemen die straftoemeting berekenen ................................................................................... 5
Generatieve AI ............................................................................................................................. 5
Robotrechters ............................................................................................................................. 5
Online dispute resolution (ODR) ................................................................................................... 6
Notarissen .................................................................................................................................. 6
Gerechtsdeurwaarders ................................................................................................................ 6
Openbare aanklagers & politie ..................................................................................................... 6
Advocaten................................................................................................................................... 6
Generatieve AI in de advocatuur ................................................................................................... 6
CEPEJ Dynamic database of European judicial systems .................................................................... 7
Introductie...................................................................................................................................... 7
AI in de RS: Oppurtuniteiten ................................................................................................................ 7
Opportuniteiten .............................................................................................................................. 7
Risico’s & uitdagingen van AI-systemen in de RS .................................................................................. 8
Videoconferenties........................................................................................................................... 8
Virtuale realiteit .............................................................................................................................. 8
E-discovery..................................................................................................................................... 8
Chatbots ........................................................................................................................................ 8
Biases/ vooroordelen ...................................................................................................................... 9
Gebrek aan transparantie ................................................................................................................ 9
Verantwoordelijkheid? (overkoepelende uitdaging) ......................................................................... 10
pg. 1
, Privacy & gegevensbescherming (overkoepelende uitdaging) ........................................................... 10
Cybersecurity ............................................................................................................................... 10
Hallucinaties bij generatieve AI ...................................................................................................... 10
Het recht op een eerlijk process – art. 6 EVRM................................................................................. 10
Artikel ....................................................................................................................................... 10
Rechterlijke onafhankelijkheid & onpartijdigheid ......................................................................... 11
Onafhankelijke rechter ........................................................................................................... 11
Onpartijdige rechter ............................................................................................................... 11
Tegensprekelijke procedure ....................................................................................................... 11
Wapengelijkheid ........................................................................................................................ 11
Rechterlijke motiveringsplicht .................................................................................................... 12
Ethische vraagstukken .................................................................................................................. 12
Regulering ........................................................................................................................................ 12
Herhaling...................................................................................................................................... 12
Regulering: AI-verordening............................................................................................................. 13
Verboden AI-praktijken .............................................................................................................. 13
AI-systemen met een hoog Risico ............................................................................................... 13
Art. 6(3): algemene uitzondering ................................................................................................. 14
verplichtingen voor AI-systemen met een hoog Risico (die nt onder de uitzondering valt) ............... 14
Verplichting 1: systeem risicobeheer – art. 9 ............................................................................ 14
Verplichting 2: data & datagovernance – art. 10 ........................................................................ 14
Verplichting 3: Transparantie + infoverstrekking – art. 13 .......................................................... 14
verplichting 4: AI-systemen met transparantieverplichtingen (3de laag) – art. 50 ......................... 15
Belangrijkste punten/ conclusie ................................................................................................. 15
Soft law: ....................................................................................................................................... 15
Council of Europe European Commission for the efficiency of justice (CEPEJ) .............................. 15
Beleidsdocumenten .................................................................................................................. 16
Soft law & guidelines use AI in courts ............................................................................................. 16
Ten aanzien van rechters ........................................................................................................... 16
Ten aanzien van advocaten ........................................................................................................ 16
Toekomst ......................................................................................................................................... 17
pg. 2
, INTRODUCTIE
AI-SYSTEMEN
- Getraind op grote datasets (tekst, beeld, audio…)
- AI doet aan patroonherkenning in data (i.e. welke elementen komen vaak voor)
o Nt op basis van logica, zoals mensen
o Output linken aan bepaalde input
- Via miljoenen herhalingen ‘leren’ ze de kans
dat een bepaald patroon leidt tot een
specifieke uitkomst
- Voorbeeld in de context van rechtspraak:
o Bv.: geldboete gekregen voor
verkeersovertreding, bij nieuwe
verkeersovertreding kijken nr vorige en dan
kunnen ze suggereren aan de rechter welke
grote van boete ze zouden moeten geven
o Input (bv.: prompt: beklaagde wordt
aangehouden voor …
Generatief
AI-systeem
Meest
waarschijnlijke woord na het andere woord
- De interne werking van complexe modellen zijn
moeilijk uitlegbaar (black box) en kunnen biases
vertonen
o Bv.: grote data set van katten + honden, maar
er zitten biases in van dat alle honden donker
haar hadden en alle katten licht haar
Als je dan een nieuwe foto ingeeft van
een kleine hond met lichte haren dan
kan het zijn dat die gaat detecteren dat dit een kat is
WANT: doet aan patroon herkenning en denken nt logisch na
Zit geen logica achter
ENKELE INLUSTRATIES
DIGITALISERING VAN JUSTITIE
- Meer dan 70 jaar geleden begonnen
- Juridische databanken
- Communicatie op afstand, incl. e-mails
- Automatisering van simpele, repetitieve taken, voornamelijk voor administratieve doeleinden
o Case management / Beheer van zaken: volgen van de status, documentbeheer
Bv.: just case: kan je je dossier opvolgen en kijken welke stappen er al reeds
gezet zijn geweest + alle conclusies of bewijsstukken kunnen er worden
teruggevonden
o Elektronisch/E-filing: elektronische uitwisseling van gegevens en documenten tss RB &
partijen
pg. 3
