VERDIEPEND PUBLIEKRECHT KORT/STAPPENPLAN
Inhoudsopgave
Week 1.......................................................................................................................................................... 2
1. College automatisering van de publieke functie..............................................................................................2
2. Eva 1: GDPR: Introduction................................................................................................................................5
...................................................................................................................................................................... 8
Week 2.......................................................................................................................................................... 9
1. Eva 2. GDPR: Lawfullnes, PbDesign and Default – DPIA – Limits.....................................................................9
2. Eva 3. GDPR: Regulation theory, Brussels/California effect – (Lead) supervisory authorities – controller
obligations on data breach.................................................................................................................................12
Week 3........................................................................................................................................................ 19
1. Eva 4: GDPR: Data Sharing.............................................................................................................................19
2. Eva 5: GDPR: Automated decision-making – International and EU framework.............................................21
Week 4........................................................................................................................................................ 23
1. Inleiding tot gelijkheid & non-discriminatie (1 03 Terpstra)...........................................................................23
2. Non-discriminatierecht: Schauer....................................................................................................................25
3. Non-discriminatierecht & dataprotectie, algoritmes & KI..............................................................................27
Week 5........................................................................................................................................................ 30
1. Thodé 1: Handhaving door DPA (Data Protection Authority)........................................................................30
2. Thodé 2: Handhaving door een DPA (Data Protection Authority)..................................................................31
Week 6........................................................................................................................................................ 33
1. Digitalisering, democratie en rechtstaat........................................................................................................33
1
,Week 1
1. College automatisering van de publieke functie
College automatisering publieke functie door Stamhuis
Digitalisering vaak samen met andere onderdelen, die moet je goed onderscheiden digitalisering vs. andere
beleidsdoelen:
- reorganisatie van taak
- (her)formulering van wettelijke taak
- budget targets
De kosten: monetair en niet monetair
- monetair: kostenbeheersing; de redelijke prijs als return on taxation = overheidsdienst als return voor
belasting die we betalen. We willen een redelijke prijs voor diensten.
- niet-monetair:
Rechtstatelijke kosten (publieke verantwoording) = als het afleggen van publieke verantwoording door
digitalisering steeds moeilijker wordt, het hele systeem wordt dan fout/verantwoordelijk gehouden.
Community kosten (verbinding met gemeenschap) = door digitalisering wordt verbinding met
gemeenschap minder.
Workforce kosten (engagement met veld) = kosten voor ambtenaren. Ambtenaren gaan minder in
verbinding met mensen.
Individuele kosten (burger in de tang) = kosten van burger die weg dreigt kwijt te raken in
overheidsbureaucratie. Mensen die met het digitale systeem niet kunnen omgaan. Compensatie?
Men moet beiden in acht nemen bij de beslissing!
Kleine overheid = ideologisch idee dat de overheid minder ambtenaren moet hebben, de samenleving moet
gerund worden door kleine overheid. Dat kan enkel door taken door apparaten te laten uitvoeren.
De kostenproductie wordt gevoed door redelijke prijs voor return on taxation én het idee van een kleine
overheid.
Trade-offs:
- hoeveel hebben individuele actoren (burgers/bedrijven) over voor ‘snelheid en eenvoud’ in de
concrete context? Aan reductie persoonlijk contact?
- Wat is de prijs voor snelheid en eenvoud op de werkvloer?
Welke beloftes vinden we de trade-off waard. Worden in praktijk weinig meegenomen in besluitvorming.
De menselijke maat, 3 benaderingen
1 de menselijke maat als personalisering naar object van handelen = Personen worden gezien als individu en
niet als verzameling van data punten. Digitalisering zorgt voor reductie MM. AI kan als het geavanceerd is juist
weer beter rekening houden met MM, maar nog niet gebeurt.
2 de menselijke maat in het subject van handelen = een subject kan de menselijke maat beter in het handelen
betrekken; het betrokken houden van een mens in heroverweging. Realistisch? Of meaningful interventie door
autonomie, of neiging tot conformisme.
3 de menselijke maat tegenover een systeem; aspecten pt. 1 en 2 komen hier terug. Nationale ombudsman
rapporteert vaak hoe moeilijk het is voor een individu om haar belangen te behartigen en de weg te vinden. En
hoever kunnen we gaan in het reduceren van mensen tot relevante data? Daar moet je naar kijken in de
context van het verhaal.
2 problemen algoritmes
1 ondoorzichtigheid (SyRi)
2 controle op bias niet van nature ingebouwd: dus kritische vragen stellen over verantwoording aan ons, de
samenleving over rechtmatigheid van bestuur.
- dataprotectie in acht nemen
- voldoen aan verplichtingen bilateraire relatie (overheid <-> burger)
- uitvoering vs. beleid; toeslagenaffaire. Uitvoering én beleid neutraal?
2
,SyRi: art. 8 EVRM. Transparantieproblemen, onderscheid tussen
- Complexiteit van digitale systeem, en; (1e graad onrechtmatigheidsoordeel)
- Weigerachtigheid van overheidsorganisatie om daarover open kaart te spelen (2 e graad
onrechtmatigheidsoordeel)
Mark Bovens artikel: From street level to system level bureaucracies.
Street level bureaucracies = public employees who interact directly with individual citizens and who have
substantial discretion in allocating facilities or imposing sanctions.
- Policy is needed. But reality is so complex, rules can’t provide for it all.
- Therefore, SLB have discretionairy powers.
- They are 1 implementing agents of policy and 2 policymakers.
- Concern: abuse of power. Democratic control and accountability is necessary, such as trias politica (C&B,
hierarchie, judges) or ABBBs.
3 aspects of legality:
1 the administrative action must be based on the law
2 the law must provide a standard (maatstaf) for the content of the administrative action, and
3 the administration must apply the law
Zorgt voor rechtszekerheid en tegen willekeur.
From street level, via screen level, to system level.
Screen level bureaucracy = door komst computer, the decision-making proces has been routinized, contact with
citizens via or in the presence of a computer screen. Data from clients is necessary. Many decisions are no
longer made at the street level, but have been programmed into the computer in the design of the software.
Knowledge management systems and digital decision trees have strongly reduced the scope of administrative
discretion.
System level bureaucracy = The members of the organization are no longer involved in handling individual
cases but direct their main focus towards system development and maintenance, towards optimizing
information processes and towards creating links between systems in various organizations. Only contact
through help-desk assistance.
3 kinds of employees:
1 those active in the dataprocessing processes, such as design and policy staff and system managers.
2 the management and those controlling the production process, and;
3 the interfaces between citizens and the information system, such as public information officers, helpdesk
members and legal staff handling complaints.
Omstandigheden die de transformatie van street-level naar screen naar system-level bevorderen:
- the nature of the legal context: a conditionally programmed legal framework will be easier to ICT applications,
than a goal-oriented legal framework. De eerste kan makkelijk omgezet worden in een algoritme of systeem
omdat het alle uitzonderingen en gronden noemt, waar de tweede de doelen stelt en belangen noemt die de
uitvoerende ambtenaar moet afwegen. In general: de juridische cultuur die zekerheid en gelijkheid nastreeft is
makkelijker omdat vaak alle gronden en uitzonderingen genoemd worden.
- the organizational context is important too: zoals de nummers zaken die gewerkt moeten worden. Of
bedrijven met veel werknemers en gelijk werk. En waar centralisatie is.
3
, Voordelen transformatie
- biases uit systeem
Nieuwe constitutionele problemen
- discretionaire power of designers: uitvoering gaat niet meer om het toepassen van de regels in een
individueel geval maar 1. Om het ontwerpen van afzonderlijke uitvoerende informatiesystemen en 2.
het koppelen van afzonderlijke processen en informatiesystemen. Uitvoering is enkel nog vertaling en
beleidssturing en ontwerpen.
System designers, legal policy staff en IT experts zijn nu degene die mensen kunnen beïnvloeden, zij
hebben discretionaire ruimte nodig om het juridische framework in concrete algoritmes om te zetten,
beslissingsbomen en modules. Daarom zijn zij nu net als de street-level bureaucraten: beleidsmakers.
Het nieuwe probleem: is meer een politieke controle en verantwoording kwestie i.p.v. legaliteit en de
rechtsstaat. Wie controleert de designers?
- Lex dura sed lex: is justice served by perfecting legality? Geen afwijking mogelijk. Veel problemen in
het proces mogelijk; geen willekeur maar extreme starheid. De starheid zorgt voor minder dialoog met
de publieke administratie, en ondermijnt zo de legitimiteit van de overheid.
Oplossingen om systeem-level te laten werken
1. Introductie van ICT-supervisie: transparantie en controle door experts.
2. hardheidsclausules en panelen: waar klachten ingediend kunnen worden, situaties die niet voorzien zijn
3. publieke toegankelijkheid tot expertsystemen: controle van derden, zorgt voor horizontale
verantwoordelijkheid van de designers.
Constitutionele idealen: transparantie en legaliteit.
SyRi uitspraak
Art. 8 EVRM: recht op respect voor het privéleven. Lid 2 vereist een fair balance/redelijke verhouding tussen
het maatschappelijk belang dat de wetgeving dient en de inbreuk op het privéleven die de wetgeving maakt.
Lidstaat NL: voordelen technologie SyRi vs. inmenging die het maakt op recht op respect voor privéleven. SyRi
doorstaat de toets niet: de wetgeving is wat betreft de inzet van SyRI onvoldoende inzichtelijk en
controleerbaar. De wetgeving is onrechtmatig want in strijd met hoger recht art. 8, en dus onverbindend.
R.o. 6.72. Onvoldoende aanwijzingen dat het noodzakelijk is in democratische samenleving. 6.80. 6.86 e.v.
4
Inhoudsopgave
Week 1.......................................................................................................................................................... 2
1. College automatisering van de publieke functie..............................................................................................2
2. Eva 1: GDPR: Introduction................................................................................................................................5
...................................................................................................................................................................... 8
Week 2.......................................................................................................................................................... 9
1. Eva 2. GDPR: Lawfullnes, PbDesign and Default – DPIA – Limits.....................................................................9
2. Eva 3. GDPR: Regulation theory, Brussels/California effect – (Lead) supervisory authorities – controller
obligations on data breach.................................................................................................................................12
Week 3........................................................................................................................................................ 19
1. Eva 4: GDPR: Data Sharing.............................................................................................................................19
2. Eva 5: GDPR: Automated decision-making – International and EU framework.............................................21
Week 4........................................................................................................................................................ 23
1. Inleiding tot gelijkheid & non-discriminatie (1 03 Terpstra)...........................................................................23
2. Non-discriminatierecht: Schauer....................................................................................................................25
3. Non-discriminatierecht & dataprotectie, algoritmes & KI..............................................................................27
Week 5........................................................................................................................................................ 30
1. Thodé 1: Handhaving door DPA (Data Protection Authority)........................................................................30
2. Thodé 2: Handhaving door een DPA (Data Protection Authority)..................................................................31
Week 6........................................................................................................................................................ 33
1. Digitalisering, democratie en rechtstaat........................................................................................................33
1
,Week 1
1. College automatisering van de publieke functie
College automatisering publieke functie door Stamhuis
Digitalisering vaak samen met andere onderdelen, die moet je goed onderscheiden digitalisering vs. andere
beleidsdoelen:
- reorganisatie van taak
- (her)formulering van wettelijke taak
- budget targets
De kosten: monetair en niet monetair
- monetair: kostenbeheersing; de redelijke prijs als return on taxation = overheidsdienst als return voor
belasting die we betalen. We willen een redelijke prijs voor diensten.
- niet-monetair:
Rechtstatelijke kosten (publieke verantwoording) = als het afleggen van publieke verantwoording door
digitalisering steeds moeilijker wordt, het hele systeem wordt dan fout/verantwoordelijk gehouden.
Community kosten (verbinding met gemeenschap) = door digitalisering wordt verbinding met
gemeenschap minder.
Workforce kosten (engagement met veld) = kosten voor ambtenaren. Ambtenaren gaan minder in
verbinding met mensen.
Individuele kosten (burger in de tang) = kosten van burger die weg dreigt kwijt te raken in
overheidsbureaucratie. Mensen die met het digitale systeem niet kunnen omgaan. Compensatie?
Men moet beiden in acht nemen bij de beslissing!
Kleine overheid = ideologisch idee dat de overheid minder ambtenaren moet hebben, de samenleving moet
gerund worden door kleine overheid. Dat kan enkel door taken door apparaten te laten uitvoeren.
De kostenproductie wordt gevoed door redelijke prijs voor return on taxation én het idee van een kleine
overheid.
Trade-offs:
- hoeveel hebben individuele actoren (burgers/bedrijven) over voor ‘snelheid en eenvoud’ in de
concrete context? Aan reductie persoonlijk contact?
- Wat is de prijs voor snelheid en eenvoud op de werkvloer?
Welke beloftes vinden we de trade-off waard. Worden in praktijk weinig meegenomen in besluitvorming.
De menselijke maat, 3 benaderingen
1 de menselijke maat als personalisering naar object van handelen = Personen worden gezien als individu en
niet als verzameling van data punten. Digitalisering zorgt voor reductie MM. AI kan als het geavanceerd is juist
weer beter rekening houden met MM, maar nog niet gebeurt.
2 de menselijke maat in het subject van handelen = een subject kan de menselijke maat beter in het handelen
betrekken; het betrokken houden van een mens in heroverweging. Realistisch? Of meaningful interventie door
autonomie, of neiging tot conformisme.
3 de menselijke maat tegenover een systeem; aspecten pt. 1 en 2 komen hier terug. Nationale ombudsman
rapporteert vaak hoe moeilijk het is voor een individu om haar belangen te behartigen en de weg te vinden. En
hoever kunnen we gaan in het reduceren van mensen tot relevante data? Daar moet je naar kijken in de
context van het verhaal.
2 problemen algoritmes
1 ondoorzichtigheid (SyRi)
2 controle op bias niet van nature ingebouwd: dus kritische vragen stellen over verantwoording aan ons, de
samenleving over rechtmatigheid van bestuur.
- dataprotectie in acht nemen
- voldoen aan verplichtingen bilateraire relatie (overheid <-> burger)
- uitvoering vs. beleid; toeslagenaffaire. Uitvoering én beleid neutraal?
2
,SyRi: art. 8 EVRM. Transparantieproblemen, onderscheid tussen
- Complexiteit van digitale systeem, en; (1e graad onrechtmatigheidsoordeel)
- Weigerachtigheid van overheidsorganisatie om daarover open kaart te spelen (2 e graad
onrechtmatigheidsoordeel)
Mark Bovens artikel: From street level to system level bureaucracies.
Street level bureaucracies = public employees who interact directly with individual citizens and who have
substantial discretion in allocating facilities or imposing sanctions.
- Policy is needed. But reality is so complex, rules can’t provide for it all.
- Therefore, SLB have discretionairy powers.
- They are 1 implementing agents of policy and 2 policymakers.
- Concern: abuse of power. Democratic control and accountability is necessary, such as trias politica (C&B,
hierarchie, judges) or ABBBs.
3 aspects of legality:
1 the administrative action must be based on the law
2 the law must provide a standard (maatstaf) for the content of the administrative action, and
3 the administration must apply the law
Zorgt voor rechtszekerheid en tegen willekeur.
From street level, via screen level, to system level.
Screen level bureaucracy = door komst computer, the decision-making proces has been routinized, contact with
citizens via or in the presence of a computer screen. Data from clients is necessary. Many decisions are no
longer made at the street level, but have been programmed into the computer in the design of the software.
Knowledge management systems and digital decision trees have strongly reduced the scope of administrative
discretion.
System level bureaucracy = The members of the organization are no longer involved in handling individual
cases but direct their main focus towards system development and maintenance, towards optimizing
information processes and towards creating links between systems in various organizations. Only contact
through help-desk assistance.
3 kinds of employees:
1 those active in the dataprocessing processes, such as design and policy staff and system managers.
2 the management and those controlling the production process, and;
3 the interfaces between citizens and the information system, such as public information officers, helpdesk
members and legal staff handling complaints.
Omstandigheden die de transformatie van street-level naar screen naar system-level bevorderen:
- the nature of the legal context: a conditionally programmed legal framework will be easier to ICT applications,
than a goal-oriented legal framework. De eerste kan makkelijk omgezet worden in een algoritme of systeem
omdat het alle uitzonderingen en gronden noemt, waar de tweede de doelen stelt en belangen noemt die de
uitvoerende ambtenaar moet afwegen. In general: de juridische cultuur die zekerheid en gelijkheid nastreeft is
makkelijker omdat vaak alle gronden en uitzonderingen genoemd worden.
- the organizational context is important too: zoals de nummers zaken die gewerkt moeten worden. Of
bedrijven met veel werknemers en gelijk werk. En waar centralisatie is.
3
, Voordelen transformatie
- biases uit systeem
Nieuwe constitutionele problemen
- discretionaire power of designers: uitvoering gaat niet meer om het toepassen van de regels in een
individueel geval maar 1. Om het ontwerpen van afzonderlijke uitvoerende informatiesystemen en 2.
het koppelen van afzonderlijke processen en informatiesystemen. Uitvoering is enkel nog vertaling en
beleidssturing en ontwerpen.
System designers, legal policy staff en IT experts zijn nu degene die mensen kunnen beïnvloeden, zij
hebben discretionaire ruimte nodig om het juridische framework in concrete algoritmes om te zetten,
beslissingsbomen en modules. Daarom zijn zij nu net als de street-level bureaucraten: beleidsmakers.
Het nieuwe probleem: is meer een politieke controle en verantwoording kwestie i.p.v. legaliteit en de
rechtsstaat. Wie controleert de designers?
- Lex dura sed lex: is justice served by perfecting legality? Geen afwijking mogelijk. Veel problemen in
het proces mogelijk; geen willekeur maar extreme starheid. De starheid zorgt voor minder dialoog met
de publieke administratie, en ondermijnt zo de legitimiteit van de overheid.
Oplossingen om systeem-level te laten werken
1. Introductie van ICT-supervisie: transparantie en controle door experts.
2. hardheidsclausules en panelen: waar klachten ingediend kunnen worden, situaties die niet voorzien zijn
3. publieke toegankelijkheid tot expertsystemen: controle van derden, zorgt voor horizontale
verantwoordelijkheid van de designers.
Constitutionele idealen: transparantie en legaliteit.
SyRi uitspraak
Art. 8 EVRM: recht op respect voor het privéleven. Lid 2 vereist een fair balance/redelijke verhouding tussen
het maatschappelijk belang dat de wetgeving dient en de inbreuk op het privéleven die de wetgeving maakt.
Lidstaat NL: voordelen technologie SyRi vs. inmenging die het maakt op recht op respect voor privéleven. SyRi
doorstaat de toets niet: de wetgeving is wat betreft de inzet van SyRI onvoldoende inzichtelijk en
controleerbaar. De wetgeving is onrechtmatig want in strijd met hoger recht art. 8, en dus onverbindend.
R.o. 6.72. Onvoldoende aanwijzingen dat het noodzakelijk is in democratische samenleving. 6.80. 6.86 e.v.
4
