Minor Legal Technology Deeltentamen I
Cijfer: 8,7
1
, Het gebruik van SyRI binnen de praktijk van de Belastingdienst: een advies
Het Directoraat Generaal Digitalisering en Overheidsorganisatie heeft mij gevraagd een advies op te
stellen betreffende de toepassing van het algoritme systeem risico indicatie (hierna: SyRI) binnen de
praktijk van de Belastingdienst. Het advies is gefocust op het gebruik van het voornoemde algoritme
binnen de toeslagenaffaire. Binnen de toeslagenaffaire is de inzet van SyRI namelijk fout gegaan. Dit
advies is opgesteld om herhaling in de toekomst te voorkomen. In dit advies zal eerst de werking van
SyRI worden uiteengezet. Hierna volgt een analyse van het probleem, waarbij aandacht wordt
besteed aan geschonden ethische en juridische randvoorwaarden. Ook zal worden toegelicht welke
klassieke juridische vaardigheden en nieuwe vaardigheden de jurist door de opkomst van algoritmes
zal moeten beheersen. Dan wordt nog kort aandacht besteed aan de beroepsethische principes van
de jurist en hoe deze binnen de ontwikkeling van SyRI ingezet had moeten worden. Daarna wordt
een oplossing beschreven en het advies sluit af met een conclusie.
SyRI
SyRI is een zelflerend anti-fraudesysteem dat aan de hand van een risico-classificatiemodel
aanvragen voor toeslagen verwerkt. SyRI is een machine learning algoritme en daarmee een vorm
van kunstmatige intelligentie (hierna: KI). Dit houdt in dat SyRI zelf patronen herkent en vervolgens
die patronen toepast op de ingevoerde data. 1 Alvorens een algoritme ertoe in staat is om te leren
van ervaringen uit het verleden, moet het algoritme getraind worden. Dit gebeurt door het invoeren
van trainingsdata en vervolgens het algoritme te verbeteren waar nodig. SyRI is een supervised
learning model dat gebruik maakt van classificatie om de frauderisico’s in kaart te brengen. 2 De
classificatie vindt plaats door het toetsen van indicatoren zoals arbeidsgegevens en identificerende
gegevens.3 SyRI herkent en selecteert, aan de hand van de indicatoren, aanvragen die een hoog risico
vormen voor fraude. Deze aanvragen moeten vervolgens handmatig worden gecontroleerd. 4
SyRI is sinds 2014 een uitwerking van de wet Structuur Uitvoeringsorganisaties Werk en Inkomen,
maar al sinds 2011 actief binnen de Belastingdienst. 5 De Belastingdienst heeft SyRI ingezet voor het
voorkomen en tegengaan van fraude met betrekking tot onder andere de sociale zekerheid,
inkomensafhankelijke regelingen en de belastingheffing. 6 Echter, tijdens de inzet van SyRI werd
geconstateerd door de Autoriteit Persoonsgegevens dat de nationaliteit van aanvragers ook een rol
speelde onder de indicator ‘Nederlanderschap’ in het risico-classificatiemodel. Door het beoordelen
met deze indicator zijn veel gezinnen benadeeld omdat mensen met een niet-Nederlandse
nationaliteit sneller werden gecontroleerd. Daardoor werden veel kinderopvangtoeslagen onterecht
stopgezet. Door het gebruik van deze indicator is SyRI medeverantwoordelijk geweest voor de
toeslagenaffaire. Vastgesteld is dat SyRI ten minste vanaf maart 2016 tot oktober 2018 op een
discriminerende wijze gegevens verwerkte. 7 Tienduizenden mensen zijn daardoor onterecht
aangemerkt als fraudeur, met het gevolg dat zij geen kinderopvangtoeslag meer kregen en zij
moesten de gekregen toeslagen terugbetalen. Deze mensen kwamen daardoor in de problemen door
schulden. Velen raakten hun baan en/of huis kwijt en in een aantal gevallen werden zelfs kinderen
uit huis geplaatst.8
1
P. Boucher, Artificial intelligence: How does it work, why does it matter, and what can we do about it?,
Brussel: Europese Unie 2020, p. 4.
2
PowerPoint Bluetick “Workshop Erasmus”, sheet 31-32.
3
Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 4.17.
4
Kamerstukken II 2020/21, 35 510, 2 p. 10-14
5
Stb., 2014, 320.
6
Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 3.1.
7
Kamerstukken II 2020/21, 35 510, 2 p. 14.
8
P. Klein, ‘Boevenstreken van de Belastingdienst: de toeslagenaffaire in vogelvlucht’, RTLnieuws 23 december
2019.
2
Cijfer: 8,7
1
, Het gebruik van SyRI binnen de praktijk van de Belastingdienst: een advies
Het Directoraat Generaal Digitalisering en Overheidsorganisatie heeft mij gevraagd een advies op te
stellen betreffende de toepassing van het algoritme systeem risico indicatie (hierna: SyRI) binnen de
praktijk van de Belastingdienst. Het advies is gefocust op het gebruik van het voornoemde algoritme
binnen de toeslagenaffaire. Binnen de toeslagenaffaire is de inzet van SyRI namelijk fout gegaan. Dit
advies is opgesteld om herhaling in de toekomst te voorkomen. In dit advies zal eerst de werking van
SyRI worden uiteengezet. Hierna volgt een analyse van het probleem, waarbij aandacht wordt
besteed aan geschonden ethische en juridische randvoorwaarden. Ook zal worden toegelicht welke
klassieke juridische vaardigheden en nieuwe vaardigheden de jurist door de opkomst van algoritmes
zal moeten beheersen. Dan wordt nog kort aandacht besteed aan de beroepsethische principes van
de jurist en hoe deze binnen de ontwikkeling van SyRI ingezet had moeten worden. Daarna wordt
een oplossing beschreven en het advies sluit af met een conclusie.
SyRI
SyRI is een zelflerend anti-fraudesysteem dat aan de hand van een risico-classificatiemodel
aanvragen voor toeslagen verwerkt. SyRI is een machine learning algoritme en daarmee een vorm
van kunstmatige intelligentie (hierna: KI). Dit houdt in dat SyRI zelf patronen herkent en vervolgens
die patronen toepast op de ingevoerde data. 1 Alvorens een algoritme ertoe in staat is om te leren
van ervaringen uit het verleden, moet het algoritme getraind worden. Dit gebeurt door het invoeren
van trainingsdata en vervolgens het algoritme te verbeteren waar nodig. SyRI is een supervised
learning model dat gebruik maakt van classificatie om de frauderisico’s in kaart te brengen. 2 De
classificatie vindt plaats door het toetsen van indicatoren zoals arbeidsgegevens en identificerende
gegevens.3 SyRI herkent en selecteert, aan de hand van de indicatoren, aanvragen die een hoog risico
vormen voor fraude. Deze aanvragen moeten vervolgens handmatig worden gecontroleerd. 4
SyRI is sinds 2014 een uitwerking van de wet Structuur Uitvoeringsorganisaties Werk en Inkomen,
maar al sinds 2011 actief binnen de Belastingdienst. 5 De Belastingdienst heeft SyRI ingezet voor het
voorkomen en tegengaan van fraude met betrekking tot onder andere de sociale zekerheid,
inkomensafhankelijke regelingen en de belastingheffing. 6 Echter, tijdens de inzet van SyRI werd
geconstateerd door de Autoriteit Persoonsgegevens dat de nationaliteit van aanvragers ook een rol
speelde onder de indicator ‘Nederlanderschap’ in het risico-classificatiemodel. Door het beoordelen
met deze indicator zijn veel gezinnen benadeeld omdat mensen met een niet-Nederlandse
nationaliteit sneller werden gecontroleerd. Daardoor werden veel kinderopvangtoeslagen onterecht
stopgezet. Door het gebruik van deze indicator is SyRI medeverantwoordelijk geweest voor de
toeslagenaffaire. Vastgesteld is dat SyRI ten minste vanaf maart 2016 tot oktober 2018 op een
discriminerende wijze gegevens verwerkte. 7 Tienduizenden mensen zijn daardoor onterecht
aangemerkt als fraudeur, met het gevolg dat zij geen kinderopvangtoeslag meer kregen en zij
moesten de gekregen toeslagen terugbetalen. Deze mensen kwamen daardoor in de problemen door
schulden. Velen raakten hun baan en/of huis kwijt en in een aantal gevallen werden zelfs kinderen
uit huis geplaatst.8
1
P. Boucher, Artificial intelligence: How does it work, why does it matter, and what can we do about it?,
Brussel: Europese Unie 2020, p. 4.
2
PowerPoint Bluetick “Workshop Erasmus”, sheet 31-32.
3
Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 4.17.
4
Kamerstukken II 2020/21, 35 510, 2 p. 10-14
5
Stb., 2014, 320.
6
Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 3.1.
7
Kamerstukken II 2020/21, 35 510, 2 p. 14.
8
P. Klein, ‘Boevenstreken van de Belastingdienst: de toeslagenaffaire in vogelvlucht’, RTLnieuws 23 december
2019.
2
