Deel I: Technologisch perspectief
Hoofdstuk 1 - Waarom technologie moeilijk te reguleren is
De kloof tussen recht en technologie
Nieuwe technologie is overal om ons heen en is zo vanzelfsprekend geworden dat we er nauwelijks nog
bij stilstaan. Toch verandert zij ons leven ingrijpend. Zij bepaalt hoe we communiceren, werken, ons
verplaatsen en keuzes maken. Een technologie is dus nooit alleen een apparaat of een stukje software,
maar verandert ook de manier waarop mensen met elkaar omgaan. Het recht werkt anders. Wetten
zijn geschreven op een bepaald moment, voor een wereld zoals die er toen uitzag, en gaan uit van vaste
personen, handelingen en verhoudingen, zoals een koper en een verkoper of een bestuurder en een
voertuig. Zolang de wereld ongeveer hetzelfde blijft, werken die regels goed. Verandert een nieuwe
technologie de situatie, dan passen de regels opeens niet meer precies en ontstaat er een kloof tussen
wat de regel zegt en wat er in de praktijk gebeurt.
Die kloof heeft een aantal oorzaken. Technologie ontwikkelt zich snel en met grote sprongen, terwijl
het recht langzaam verandert omdat het maken van wetten en het voeren van
rechtszaken veel tijd
kost. Het recht loopt daardoor bijna altijd achter de feiten aan en reageert pas
als er al een probleem
is. Bovendien is vooraf moeilijk te zien wat een technologie gaat doen. Welke problemen ontstaan, wordt
vaak pas duidelijk als de technologie al in gebruik is, en op dat moment hebben bedrijven en gebruikers
zich er al op ingesteld. Grijpt de regulator vroeg in, dan weet hij nog niet goed waar hij op moet letten, en
wacht hij af, dan is ingrijpen lastig geworden. Daar komt bij dat een nieuwe technologie zelden maar één
juridisch probleem oplevert. Zij raakt meestal tegelijk verschillende rechtsgebieden en belangen.
Technologie reguleren is daarom niet simpelweg één nieuwe regel toevoegen, maar eerst begrijpen waar
en waarom het bestaande recht niet meer aansluit.
Voorbeeld ter illustratie
De zelfrijdende auto laat dit goed zien, want het gaat om één technologie die tegelijk meerdere juridische
problemen veroorzaakt. Het aansprakelijkheidsrecht gaat uit van een persoon wiens gedrag schade
veroorzaakt, maar als de auto zelf rijdt is onduidelijk of de eigenaar, de inzittende, de fabrikant of de
softwaremaker verantwoordelijk is. Het verkeersrecht is gebouwd rond de bestuurder en gaat ervan uit
dat elk voertuig een menselijke bestuurder heeft die de controle houdt. Autoverzekeringen zijn afgestemd
op het risico van die bestuurder, zodat onduidelijk wordt wie zich moet verzekeren als de software rijdt.
Het rijbewijs toont aan dat iemand veilig kan rijden, maar verliest zijn functie als de mens niet meer zelf
stuurt. Ook veiligheidsregels zijn geschreven voor auto’s met een menselijke bestuurder, waardoor
nieuwe normen nodig zijn. Het juridische probleem zit dus niet in de auto zelf, maar in het verdwijnen van
de menselijke bestuurder, terwijl juist die bestuurder het uitgangspunt is van het verkeersrecht, het
aansprakelijkheidsrecht en het verzekeringsrecht.
Het pacing problem
Technologie raast vooruit en regulering blijft achter. Dit verschijnsel heet het pacing problem. Het
betekent dat technologie sneller verandert dan het recht kan bijhouden. Waar technologie zich vaak met
grote sprongen ontwikkelt, verandert het recht stap voor stap. Het recht is bovendien grotendeels
1
,reactief. Er komt meestal pas een nieuwe regel als er al een probleem is
ontstaan. Daardoor zit er bijna
altijd tijd tussen het moment waarop een nieuwe technologie opduikt en het moment waarop het recht
daarop reageert. In die tussentijd ontwikkelt de technologie zich als het ware in een leegte, zonder regels
die er goed op aansluiten. Dat leidt tot rechtsonzekerheid, omdat burgers en bedrijven niet goed weten
wat er van hen verwacht wordt.
Er zijn twee belangrijke redenen waarom het recht achterloopt:
• De inhoud van het recht: Wetten gaan vaak uit van een wereld die niet verandert. Dat is
begrijpelijk, want een wetgever kan niet voorspellen hoe een technologie zich ontwikkelt, en vaste regels
zijn voor iedereen duidelijk en makkelijk te volgen. Het nadeel is dat zulke regels snel verouderen als de
wereld wel verandert.
Voorbeeld ter illustratie
Een goed voorbeeld is art. 1:198 BW, dat bepaalt dat de moeder van een kind de vrouw is uit wie het
kind is geboren. Vroeger was dat vanzelfsprekend, maar door ivf kan de vrouw die bevalt een andere zijn
dan de vrouw van wie de eicel afkomstig is.
Let op!
Niet alle wet- en regelgeving is zo statisch. Het Europese verbod op nieuwe auto’s met een
verbrandingsmotor vanaf 2035 is juist bewust op de toekomst gericht. Het stelt een duidelijke grens en
laat de industrie zelf uitzoeken hoe ze die haalt.
• De instanties die met het recht werken: De wetgever, de toezichthouder en de rechter
hebben tijd nodig om een nieuwe ontwikkeling te begrijpen, er een besluit over te nemen en de regels toe
te passen. Een wetgever kan niet alles tegelijk oppakken en moet keuzes maken. Een onderwerp komt
vaak pas op de agenda als er iets misgaat, bijvoorbeeld na een ongeluk of een schandaal. Rechtszaken
over technologie gaan vaak over grote belangen, de dossiers zijn ingewikkeld, bedrijven proberen soms
bewust te vertragen en rechtbanken hebben veel werk.
Voorbeeld ter illustratie
Een goed voorbeeld is de Google Shopping-zaak. Vanaf 2009 klaagden concurrenten, waaronder de
Britse prijsvergelijker Foundem, dat Google zijn eigen prijsvergelijkingsdienst bovenaan de
zoekresultaten plaatste, terwijl vergelijkbare diensten van concurrenten naar achteren werden
geschoven. In 2010 startte de Europese Commissie een formeel onderzoek. Pas in 2017 oordeelde de
Commissie dat Google misbruik had gemaakt van zijn machtspositie op de markt voor zoekmachines en
legde zij een boete op van 2,42 miljard euro. Google ging in beroep, maar het Gerecht van de EU
bevestigde het besluit in 2021, en het Hof van Justitie deed dat in september 2024 definitief. Tussen de
eerste klachten en de einduitspraak zat zo bijna vijftien jaar. In die tijd had Google zijn positie op de
markt al lang verstevigd, en waren veel concurrenten verdwenen of verzwakt.
2
, De traagheidsparadox van het recht
Dat het recht achterloopt, is niet alleen een probleem. Het is ook het gevolg van hoe goede regels tot
stand komen. Dat noemen we de traagheidsparadox. Het recht is traag juist omdat het zorgvuldig wil
zijn, en een goede regel ontstaat niet in één keer maar doorloopt een reeks stappen die logisch op elkaar
volgen. Wie een technologie wil reguleren, moet eerst begrijpen hoe die werkt. Daarvoor is expertise
nodig van bijvoorbeeld technici, wetenschappers en juristen. Die kennis alleen is niet genoeg, want ook
de mensen en organisaties die met de technologie te maken hebben, moeten gehoord worden. Via
consultatie krijgen bedrijven, burgers en belangenorganisaties de kans hun mening te geven, waardoor
problemen en belangen boven komen die de wetgever zelf over het hoofd zou zien. Wat uit die
gesprekken naar voren komt, moet vervolgens worden onderbouwd met bewijs, zodat een regel is
gebaseerd op feiten en niet op aannames of angst. Pas als duidelijk is wat er precies aan de hand is, kan
er een afweging worden gemaakt tussen de belangen die met elkaar botsen, zoals innovatie en
veiligheid of economische groei en privacy. Die afweging moet daarna via de juiste procedure worden
vastgelegd, bijvoorbeeld via het parlement, zodat de regel legitiem is. Er moet ook rechtsbescherming
zijn, zodat iedereen die door de regel wordt geraakt een rechtsmiddel kan inzetten.
Voorbeeld ter illustratie
Denk aan de Europese AI-verordening (AI Act). De Europese Commissie deed in april 2021 een voorstel,
maar daarna volgden jaren van onderzoek, consultatie van bedrijven en belangen-organisaties, en
onderhandelingen tussen de Commissie, het Europees Parlement en de lidstaten. Tijdens dat proces
lanceerde OpenAI in november 2022 ChatGPT. Het oorspronkelijke voorstel had geen rekening
gehouden met dit soort grote taalmodellen, zodat er alsnog regels voor algemene AI-modellen moesten
worden toegevoegd. De verordening trad pas op 1 augustus 2024 in werking, en veel verplichtingen
gelden zelfs pas vanaf 2026.
Dit voorbeeld laat beide kanten van de paradox zien. De zorgvuldige procedure kostte zoveel tijd dat de
technologie het voorstel al had ingehaald voordat het af was. Tegelijk maakte diezelfde procedure het
mogelijk om de regels nog aan te passen aan een ontwikkeling die bij de start niemand had voorzien.
De reeds genoemde stappen gelden voor iedereen die met het recht werkt, of dat nu de wetgever is die
een wet maakt, de toezichthouder die regels uitwerkt en handhaaft of de rechter die een geschil beslecht.
Samen zorgen ze ervoor dat een regel goed doordacht, eerlijk en legitiem is. Tegelijk kost elke stap tijd,
en hoe meer kennis er wordt verzameld en hoe zorgvuldiger de afweging is, hoe langer het duurt voordat
er een besluit ligt. Meer kennis verzamelen betekent dus meer tijd. Daarin zit de paradox, want wat
het recht goed maakt, maakt het ook traag.
Die traagheid is daarom niet alleen een nadeel, maar ook een voordeel. Zij voorkomt dat er in haast
slechte regels worden gemaakt, bijvoorbeeld als reactie op een incident dat veel media-aandacht krijgt.
Daarnaast zorgt zij voor rechtszekerheid, omdat burgers en bedrijven moeten kunnen weten waar ze aan
toe zijn. Regels die steeds veranderen, zijn namelijk net zo lastig te volgen als regels die achterlopen.
Het doel is met andere woorden niet om het recht zo snel mogelijk te maken, maar om
3
Hoofdstuk 1 - Waarom technologie moeilijk te reguleren is
De kloof tussen recht en technologie
Nieuwe technologie is overal om ons heen en is zo vanzelfsprekend geworden dat we er nauwelijks nog
bij stilstaan. Toch verandert zij ons leven ingrijpend. Zij bepaalt hoe we communiceren, werken, ons
verplaatsen en keuzes maken. Een technologie is dus nooit alleen een apparaat of een stukje software,
maar verandert ook de manier waarop mensen met elkaar omgaan. Het recht werkt anders. Wetten
zijn geschreven op een bepaald moment, voor een wereld zoals die er toen uitzag, en gaan uit van vaste
personen, handelingen en verhoudingen, zoals een koper en een verkoper of een bestuurder en een
voertuig. Zolang de wereld ongeveer hetzelfde blijft, werken die regels goed. Verandert een nieuwe
technologie de situatie, dan passen de regels opeens niet meer precies en ontstaat er een kloof tussen
wat de regel zegt en wat er in de praktijk gebeurt.
Die kloof heeft een aantal oorzaken. Technologie ontwikkelt zich snel en met grote sprongen, terwijl
het recht langzaam verandert omdat het maken van wetten en het voeren van
rechtszaken veel tijd
kost. Het recht loopt daardoor bijna altijd achter de feiten aan en reageert pas
als er al een probleem
is. Bovendien is vooraf moeilijk te zien wat een technologie gaat doen. Welke problemen ontstaan, wordt
vaak pas duidelijk als de technologie al in gebruik is, en op dat moment hebben bedrijven en gebruikers
zich er al op ingesteld. Grijpt de regulator vroeg in, dan weet hij nog niet goed waar hij op moet letten, en
wacht hij af, dan is ingrijpen lastig geworden. Daar komt bij dat een nieuwe technologie zelden maar één
juridisch probleem oplevert. Zij raakt meestal tegelijk verschillende rechtsgebieden en belangen.
Technologie reguleren is daarom niet simpelweg één nieuwe regel toevoegen, maar eerst begrijpen waar
en waarom het bestaande recht niet meer aansluit.
Voorbeeld ter illustratie
De zelfrijdende auto laat dit goed zien, want het gaat om één technologie die tegelijk meerdere juridische
problemen veroorzaakt. Het aansprakelijkheidsrecht gaat uit van een persoon wiens gedrag schade
veroorzaakt, maar als de auto zelf rijdt is onduidelijk of de eigenaar, de inzittende, de fabrikant of de
softwaremaker verantwoordelijk is. Het verkeersrecht is gebouwd rond de bestuurder en gaat ervan uit
dat elk voertuig een menselijke bestuurder heeft die de controle houdt. Autoverzekeringen zijn afgestemd
op het risico van die bestuurder, zodat onduidelijk wordt wie zich moet verzekeren als de software rijdt.
Het rijbewijs toont aan dat iemand veilig kan rijden, maar verliest zijn functie als de mens niet meer zelf
stuurt. Ook veiligheidsregels zijn geschreven voor auto’s met een menselijke bestuurder, waardoor
nieuwe normen nodig zijn. Het juridische probleem zit dus niet in de auto zelf, maar in het verdwijnen van
de menselijke bestuurder, terwijl juist die bestuurder het uitgangspunt is van het verkeersrecht, het
aansprakelijkheidsrecht en het verzekeringsrecht.
Het pacing problem
Technologie raast vooruit en regulering blijft achter. Dit verschijnsel heet het pacing problem. Het
betekent dat technologie sneller verandert dan het recht kan bijhouden. Waar technologie zich vaak met
grote sprongen ontwikkelt, verandert het recht stap voor stap. Het recht is bovendien grotendeels
1
,reactief. Er komt meestal pas een nieuwe regel als er al een probleem is
ontstaan. Daardoor zit er bijna
altijd tijd tussen het moment waarop een nieuwe technologie opduikt en het moment waarop het recht
daarop reageert. In die tussentijd ontwikkelt de technologie zich als het ware in een leegte, zonder regels
die er goed op aansluiten. Dat leidt tot rechtsonzekerheid, omdat burgers en bedrijven niet goed weten
wat er van hen verwacht wordt.
Er zijn twee belangrijke redenen waarom het recht achterloopt:
• De inhoud van het recht: Wetten gaan vaak uit van een wereld die niet verandert. Dat is
begrijpelijk, want een wetgever kan niet voorspellen hoe een technologie zich ontwikkelt, en vaste regels
zijn voor iedereen duidelijk en makkelijk te volgen. Het nadeel is dat zulke regels snel verouderen als de
wereld wel verandert.
Voorbeeld ter illustratie
Een goed voorbeeld is art. 1:198 BW, dat bepaalt dat de moeder van een kind de vrouw is uit wie het
kind is geboren. Vroeger was dat vanzelfsprekend, maar door ivf kan de vrouw die bevalt een andere zijn
dan de vrouw van wie de eicel afkomstig is.
Let op!
Niet alle wet- en regelgeving is zo statisch. Het Europese verbod op nieuwe auto’s met een
verbrandingsmotor vanaf 2035 is juist bewust op de toekomst gericht. Het stelt een duidelijke grens en
laat de industrie zelf uitzoeken hoe ze die haalt.
• De instanties die met het recht werken: De wetgever, de toezichthouder en de rechter
hebben tijd nodig om een nieuwe ontwikkeling te begrijpen, er een besluit over te nemen en de regels toe
te passen. Een wetgever kan niet alles tegelijk oppakken en moet keuzes maken. Een onderwerp komt
vaak pas op de agenda als er iets misgaat, bijvoorbeeld na een ongeluk of een schandaal. Rechtszaken
over technologie gaan vaak over grote belangen, de dossiers zijn ingewikkeld, bedrijven proberen soms
bewust te vertragen en rechtbanken hebben veel werk.
Voorbeeld ter illustratie
Een goed voorbeeld is de Google Shopping-zaak. Vanaf 2009 klaagden concurrenten, waaronder de
Britse prijsvergelijker Foundem, dat Google zijn eigen prijsvergelijkingsdienst bovenaan de
zoekresultaten plaatste, terwijl vergelijkbare diensten van concurrenten naar achteren werden
geschoven. In 2010 startte de Europese Commissie een formeel onderzoek. Pas in 2017 oordeelde de
Commissie dat Google misbruik had gemaakt van zijn machtspositie op de markt voor zoekmachines en
legde zij een boete op van 2,42 miljard euro. Google ging in beroep, maar het Gerecht van de EU
bevestigde het besluit in 2021, en het Hof van Justitie deed dat in september 2024 definitief. Tussen de
eerste klachten en de einduitspraak zat zo bijna vijftien jaar. In die tijd had Google zijn positie op de
markt al lang verstevigd, en waren veel concurrenten verdwenen of verzwakt.
2
, De traagheidsparadox van het recht
Dat het recht achterloopt, is niet alleen een probleem. Het is ook het gevolg van hoe goede regels tot
stand komen. Dat noemen we de traagheidsparadox. Het recht is traag juist omdat het zorgvuldig wil
zijn, en een goede regel ontstaat niet in één keer maar doorloopt een reeks stappen die logisch op elkaar
volgen. Wie een technologie wil reguleren, moet eerst begrijpen hoe die werkt. Daarvoor is expertise
nodig van bijvoorbeeld technici, wetenschappers en juristen. Die kennis alleen is niet genoeg, want ook
de mensen en organisaties die met de technologie te maken hebben, moeten gehoord worden. Via
consultatie krijgen bedrijven, burgers en belangenorganisaties de kans hun mening te geven, waardoor
problemen en belangen boven komen die de wetgever zelf over het hoofd zou zien. Wat uit die
gesprekken naar voren komt, moet vervolgens worden onderbouwd met bewijs, zodat een regel is
gebaseerd op feiten en niet op aannames of angst. Pas als duidelijk is wat er precies aan de hand is, kan
er een afweging worden gemaakt tussen de belangen die met elkaar botsen, zoals innovatie en
veiligheid of economische groei en privacy. Die afweging moet daarna via de juiste procedure worden
vastgelegd, bijvoorbeeld via het parlement, zodat de regel legitiem is. Er moet ook rechtsbescherming
zijn, zodat iedereen die door de regel wordt geraakt een rechtsmiddel kan inzetten.
Voorbeeld ter illustratie
Denk aan de Europese AI-verordening (AI Act). De Europese Commissie deed in april 2021 een voorstel,
maar daarna volgden jaren van onderzoek, consultatie van bedrijven en belangen-organisaties, en
onderhandelingen tussen de Commissie, het Europees Parlement en de lidstaten. Tijdens dat proces
lanceerde OpenAI in november 2022 ChatGPT. Het oorspronkelijke voorstel had geen rekening
gehouden met dit soort grote taalmodellen, zodat er alsnog regels voor algemene AI-modellen moesten
worden toegevoegd. De verordening trad pas op 1 augustus 2024 in werking, en veel verplichtingen
gelden zelfs pas vanaf 2026.
Dit voorbeeld laat beide kanten van de paradox zien. De zorgvuldige procedure kostte zoveel tijd dat de
technologie het voorstel al had ingehaald voordat het af was. Tegelijk maakte diezelfde procedure het
mogelijk om de regels nog aan te passen aan een ontwikkeling die bij de start niemand had voorzien.
De reeds genoemde stappen gelden voor iedereen die met het recht werkt, of dat nu de wetgever is die
een wet maakt, de toezichthouder die regels uitwerkt en handhaaft of de rechter die een geschil beslecht.
Samen zorgen ze ervoor dat een regel goed doordacht, eerlijk en legitiem is. Tegelijk kost elke stap tijd,
en hoe meer kennis er wordt verzameld en hoe zorgvuldiger de afweging is, hoe langer het duurt voordat
er een besluit ligt. Meer kennis verzamelen betekent dus meer tijd. Daarin zit de paradox, want wat
het recht goed maakt, maakt het ook traag.
Die traagheid is daarom niet alleen een nadeel, maar ook een voordeel. Zij voorkomt dat er in haast
slechte regels worden gemaakt, bijvoorbeeld als reactie op een incident dat veel media-aandacht krijgt.
Daarnaast zorgt zij voor rechtszekerheid, omdat burgers en bedrijven moeten kunnen weten waar ze aan
toe zijn. Regels die steeds veranderen, zijn namelijk net zo lastig te volgen als regels die achterlopen.
Het doel is met andere woorden niet om het recht zo snel mogelijk te maken, maar om
3
