Artikelen Digitale Staat
I. De Digitale Verzorgingsstaat en Fundamentele Rechten
Auteurs Titel Belangrijkste concepten en conclusies
Lina Datafication Dataficatie als Paradigmaverschuiving: De moderne
Dencik and the verzorgingsstaat (geworteld in sociale solidariteit en universele
& Anne Welfare toegang) ondergaat een transformatie naar een 'nieuw regime in
Kaun State: An publieke diensten' (de digitale verzorgingsstaat), versneld door
(2020) Introduction crises zoals COVID-19. Dit regime is gericht op automatisering,
voorspelling, toezicht en bestraffing.
Drie Kerngebieden van Dataficatie:
1. Dataverzameling en Aggregatie (creëert 'data lakes' en
definieert populaties, wat tot uitsluiting kan leiden);
2. Geautomatiseerde Besluitvorming (ADM) (delegeren van
taken en beslissingen aan algoritmen);
3. Profilering (Citizen Scoring) (risicobeoordeling, wat sociale
problemen kan individualiseren door focus op gedrag i.p.v.
structurele oorzaken).
Gevolgen: De verschuiving riskeert een "volledige omkering van
het traditionele idee dat de staat verantwoording verschuldigd
is aan het individu".
Sonja Fundamental De Illegaliteit van SyRI: Het Nederlandse Systeem Risico Indicatie
Bekker Rights in (SyRI) linkte publieke databronnen om sociale frauderisico's te
(2021) Digital detecteren. De rechtbank in Den Haag oordeelde op 5 februari 2020
Welfare dat de SyRI-wetgeving Artikel 8 EVRM (respect voor privéleven)
States: The schond.
Case of SyRI Kritiekpunten: Dit was voornamelijk te wijten aan een gebrek aan
in the transparantie over de werking van het algoritme en de
Netherlands risicomodellen. De rechtbank achtte de 'risico-indicatie' (flagging)
een significante inbreuk op het privéleven, zeker omdat burgers
vaak niet wisten dat hun gegevens werden verwerkt. Het systeem
werd als onnodig en disproportioneel beschouwd.
II. De Machtsdynamiek van Big Tech en Regulering
Auteurs Titel Belangrijkste concepten en conclusies
, Shaleen Why and how is Macht door Generatieve AI: De invloed van Big Tech
Khanal, the power of Big (Alphabet, Meta, Amazon, Microsoft, Apple) neemt toe, met
Hongzhou Tech increasing name versneld door de komst van Generatieve AI (GenAI).
Zhang & in the policy "Super Beleidsondernemers": Big Tech domineert alle
Araz process? stromen van Kingdon's Multiple Streams Framework
Taeihagh (Probleem, Beleid en Politiek). Ze hebben een monopolie
(2025) over de 'essentiële bouwblokken' van AI: talent, grote
trainingsdatasets en enorme computationele kracht, wat leidt
tot een "compute divide".
Beïnvloeding: Hun invloed manifesteert zich in:
1. het vormgeven van kennisdiscours door onderzoek en
financiering (bv. ethics washing);
2. controle over digitale infrastructuur die overheden
gebruiken;
3. intensief lobbyen en het gebruik van de 'draaideur' naar de
politiek.
Taylor Disruptive Crisis van de Staat: Digitale technologie bedreigt de
Owen Power: The traditionele, hiërarchische macht van de staat.
(2015/2016) Crisis of the Disruptieve Macht: Nieuwe actoren (zoals Anonymous)
State in the hanteren macht door:
Digital Age 1. Vormloosheid (gedecentraliseerd, geen leiderschap, wat
veerkrachtig maakt);
2. Instabiliteit(gedijen in snelle data-evolutie en
onzekerheid);
3. Samenwerking (Collaboration) (lage drempels en lage
kosten maken ad-hoc collectieve actie op grote schaal
mogelijk).
Kernidee:De nieuwe machtsdynamiek is een revolutie in
plaats van een evolutie in macht, die het bestaansrecht van
de natiestaat kan bedreigen.
Europese AI Eerste AI-Wetgeving Wereldwijd: De AI Act is het eerste
Unie Act(Verordening alomvattende juridische kader voor AI, gericht op het
(EU) bevorderen van betrouwbare AI in Europa.
2024/1689) Risicogebaseerde Aanpak (4 Niveaus):
1. Onaanvaardbaar Risico (Verboden): 8 praktijken zijn
verboden, waaronder sociale scoring, schadelijke
manipulatie en biometrische categorisatie om beschermde
kenmerken af te leiden.
2. Hoog Risico: Systemen die fundamentele rechten,
veiligheid of gezondheid ernstig kunnen schaden (bv. kritieke
infrastructuur, toegang tot essentiële diensten, beoordeling
vacaturekandidaten). Deze vereisen strenge
nalevingsverplichtingen (o.a. datasetkwaliteit, menselijk
toezicht).
3. Beperkt Risico: Vereist transparantie (bv. chatbots en
deepfakes moeten gelabeld worden).
4. Minimaal Risico: Geen regels (bv. spamfilters).
I. De Digitale Verzorgingsstaat en Fundamentele Rechten
Auteurs Titel Belangrijkste concepten en conclusies
Lina Datafication Dataficatie als Paradigmaverschuiving: De moderne
Dencik and the verzorgingsstaat (geworteld in sociale solidariteit en universele
& Anne Welfare toegang) ondergaat een transformatie naar een 'nieuw regime in
Kaun State: An publieke diensten' (de digitale verzorgingsstaat), versneld door
(2020) Introduction crises zoals COVID-19. Dit regime is gericht op automatisering,
voorspelling, toezicht en bestraffing.
Drie Kerngebieden van Dataficatie:
1. Dataverzameling en Aggregatie (creëert 'data lakes' en
definieert populaties, wat tot uitsluiting kan leiden);
2. Geautomatiseerde Besluitvorming (ADM) (delegeren van
taken en beslissingen aan algoritmen);
3. Profilering (Citizen Scoring) (risicobeoordeling, wat sociale
problemen kan individualiseren door focus op gedrag i.p.v.
structurele oorzaken).
Gevolgen: De verschuiving riskeert een "volledige omkering van
het traditionele idee dat de staat verantwoording verschuldigd
is aan het individu".
Sonja Fundamental De Illegaliteit van SyRI: Het Nederlandse Systeem Risico Indicatie
Bekker Rights in (SyRI) linkte publieke databronnen om sociale frauderisico's te
(2021) Digital detecteren. De rechtbank in Den Haag oordeelde op 5 februari 2020
Welfare dat de SyRI-wetgeving Artikel 8 EVRM (respect voor privéleven)
States: The schond.
Case of SyRI Kritiekpunten: Dit was voornamelijk te wijten aan een gebrek aan
in the transparantie over de werking van het algoritme en de
Netherlands risicomodellen. De rechtbank achtte de 'risico-indicatie' (flagging)
een significante inbreuk op het privéleven, zeker omdat burgers
vaak niet wisten dat hun gegevens werden verwerkt. Het systeem
werd als onnodig en disproportioneel beschouwd.
II. De Machtsdynamiek van Big Tech en Regulering
Auteurs Titel Belangrijkste concepten en conclusies
, Shaleen Why and how is Macht door Generatieve AI: De invloed van Big Tech
Khanal, the power of Big (Alphabet, Meta, Amazon, Microsoft, Apple) neemt toe, met
Hongzhou Tech increasing name versneld door de komst van Generatieve AI (GenAI).
Zhang & in the policy "Super Beleidsondernemers": Big Tech domineert alle
Araz process? stromen van Kingdon's Multiple Streams Framework
Taeihagh (Probleem, Beleid en Politiek). Ze hebben een monopolie
(2025) over de 'essentiële bouwblokken' van AI: talent, grote
trainingsdatasets en enorme computationele kracht, wat leidt
tot een "compute divide".
Beïnvloeding: Hun invloed manifesteert zich in:
1. het vormgeven van kennisdiscours door onderzoek en
financiering (bv. ethics washing);
2. controle over digitale infrastructuur die overheden
gebruiken;
3. intensief lobbyen en het gebruik van de 'draaideur' naar de
politiek.
Taylor Disruptive Crisis van de Staat: Digitale technologie bedreigt de
Owen Power: The traditionele, hiërarchische macht van de staat.
(2015/2016) Crisis of the Disruptieve Macht: Nieuwe actoren (zoals Anonymous)
State in the hanteren macht door:
Digital Age 1. Vormloosheid (gedecentraliseerd, geen leiderschap, wat
veerkrachtig maakt);
2. Instabiliteit(gedijen in snelle data-evolutie en
onzekerheid);
3. Samenwerking (Collaboration) (lage drempels en lage
kosten maken ad-hoc collectieve actie op grote schaal
mogelijk).
Kernidee:De nieuwe machtsdynamiek is een revolutie in
plaats van een evolutie in macht, die het bestaansrecht van
de natiestaat kan bedreigen.
Europese AI Eerste AI-Wetgeving Wereldwijd: De AI Act is het eerste
Unie Act(Verordening alomvattende juridische kader voor AI, gericht op het
(EU) bevorderen van betrouwbare AI in Europa.
2024/1689) Risicogebaseerde Aanpak (4 Niveaus):
1. Onaanvaardbaar Risico (Verboden): 8 praktijken zijn
verboden, waaronder sociale scoring, schadelijke
manipulatie en biometrische categorisatie om beschermde
kenmerken af te leiden.
2. Hoog Risico: Systemen die fundamentele rechten,
veiligheid of gezondheid ernstig kunnen schaden (bv. kritieke
infrastructuur, toegang tot essentiële diensten, beoordeling
vacaturekandidaten). Deze vereisen strenge
nalevingsverplichtingen (o.a. datasetkwaliteit, menselijk
toezicht).
3. Beperkt Risico: Vereist transparantie (bv. chatbots en
deepfakes moeten gelabeld worden).
4. Minimaal Risico: Geen regels (bv. spamfilters).
