Privacy en IT recht Cijfer: 8,9
Week 1
5.2.2 een lijst met verboden AI. Er wordt onderscheidt gemaakt tussen een
onaanvaardbaar, hoog, laag of minimaal risico. Het verbod heeft
betrekking op prakijken die vooral gaan over manipulatie van gedrag,
uitbuiting van kwetsbaren en massale controle of discriminatie.
Wat is een AI systeem-> art 3 lid 1 AI-verordening “een op machine
gebaseerd systeem, verschillende niveaus van autonomie te verwerken,
doelstellingen, aanbevelingen of beslissingen, de output kan een bepaalde
invloed uitoefenen op de omgeving” ofwel er komt iets uit het systeem.
Een iT-systeem waar inhout ingaat en waar het systeem zelf iets output.
Als het wordt gebruikt om iets uit artikel 5 is het verboden.
Artikel 5: verboden AI-praktijken
Artikel 5 lid 1 sub a: in de handel brengen of het ingebruikstellen van een
AI-systeem dat manipulatie via subliminale technieken. Doel is het gedrag
van personen veranderen/ verstoren door hun vermogen om een
geïnformeerd besluit te nemen te belemmeren. Is verboden als blijkt dat
het schade geeft aan de persoon.
Art. 5 lid 1 sub b: misbruik maken van kwetsbare groepen zoals kinderen,
ouderen of mensen met een beperking. Leeftijd, handicap of andere
specifieke groep. Met als doel om het gedrag te verstoren
Art. 5 lid 1 sub c: evaluatie of classificatie van natuurlijke personen
gedurende een bepaalde periode. Je mag geen sociale-scoring systeem
gebruiken: mensen monitoren en op basis van hun gedrag indelen in
groepen wat dan weer invloed heeft op uitkeringen, verzekeringen etc.
Art. 5 lid 1 sub d: risicobeoordelingen of het risico in te schatten of een
persoon een strafbaar feit pleegt.
Art. 5 lid 1 sub e: databanken voor gezichtsherkening algoritme maken, dit
mag niet.
Art. 5 lid 1 sub f: emoties van persoon uit af te leiden behalve uit
veiligheidsoverwegingen
Art. 5 lid 1 sub g: biometrische categorisering, haar DNA, etc. om mensen
in bepaalde categorieën in te delen
Art. 5 lid 1 sub h: biometrische identificatie op afstand mag ook niet
worden gebruikt om mensen in de openbare ruimte te herkennen.
,Week 2: grondrechten
Vrijheid van meningsuiting
Grondrechten zijn niet absoluut: ze kunnen ook beperkt worden.
Hoe bepaal je wat je wel en niet mag zeggen.
Opdracht 1:
Zoek per grondrecht uit waar je dit kunt vinden in de Grondwet en het
EVRM. Geef vervolgens bij elk van deze vier grondrechten minimaal drie
voorbeelden van raakvlakken tussen ontwikkelingen in de IT-sector en
deze grondrechten.
1. Vrijheid van meningsuiting -> art. 7 Grondwet
Sociale media: je kunt je eigen mening plaatsen en info te verspreiden.
Het platform heeft veel macht over wat wel en niet veel verspreid wordt.
Dus kan de vrijheid van meningsuiting wel worden beperkt.
2. Recht op toegang tot overheidsinformatie -> art 42 Grondwet
3. Recht op eerbiedig van het privéleven -> art. 8 EVRM en art. 10
Grondwet
Sociale media: er worden persoonlijke dingen gedeeld soms ook over
anderen wat veel mensenkunnen zien. Er kan dus veel makkelijker
ingeperkt worden
4. Communicatiegeheim -> art 13 Grondwet
Opdracht 2:
Zoek art. 10 EVRM op en beantwoord de volgende vragen:
1. Welk grondrecht is hier geregeld?
2. Welk aspect van dit grondrecht is wel geregeld in het EVRM, maar niet
in art. 7 Gw?
1. Vrijheid van meningsuiting
2. Recht om informatie te ontvangen, dit valt wel onder artikel 7 Gw.
Art. 10 EVRM is dus wat uitgebreider. Op het tentamen vaak
verwijzen naar EVRM omdat het Europese recht voor gaat. En de
rechter mag in NL niet zomaar toetsen aan de Gw, wel aan het
EVRM.
,Opdracht Sunday times:
Lees het arrest EHRM, 26 april 1979, ECLI:NL:XX:1979:AC6568, NJ
1980/146, (Times/Verenigd Koninkrijk), te vinden op Brightspace, en
beantwoord individueel de volgende vragen in deze Padlet voorzien van je
voor-en achternaam.
1. Wie zijn de relevante partijen in deze zaak?
Times Newspapers Ltd., de hoofdredacteur en een groep journalisten van
The Sunday Times tegen Groot-Brittannie
2. Wat is de reden dat het blad Sunday Times naar het EHRM stapte in
deze zaak?
The Sunday times publiceerde een artikel over het gebruik van
thalidomide, een middel waardoor er een aantal kinderen met afwijkingen
zijn geboren. Er werd een publicatieverbod opgelegd door de Engelse
staat. The Sunday times was het daar niet mee eens en vond dat het
artikel een groot publiek belang betrof en dat hun vrijheid van
meningsuiting werd geschonden. Er liepen nog rechtszaken over het
thalidomide schandaal.
3. Benoem het grondrecht dat in deze zaak in het geding is, en hoe dit
recht ingeperkt kan worden.
Het gaat hier om vrijheid van meningsuiting ex art. 10 EVRM. Iedereen
mag informatie verspreiden. Het recht werd ingeperkt en de vraag was of
die beperking gerechtvaardigd was.
4. Hoe geeft het Hof invulling aan de voorwaarde 'bij wet voorzien' of
prescribed by law? Waar in de uitspraak kun je dit terugvinden?
De wet moet adequaat toegankelijk zijn, iedereen koet hem kunnen lezen.
En hij moet voldoende precies zijn omschreven. Mag ook uit jurisprudentie
blijken ipv geschreven wet. In Engeland is er een wettelijke basis.
5. Wat zegt het Hof precies over de rol van de pers met betrekking tot
het grondrecht?
De media hebben een belangrijke rol als public watchdog. Ze hebben een
rol om aan de maatschappij te vertellen over maatschappelijke problemen.
65
, 6. Tot welke beslissing kwam het Hof uiteindelijk met betrekking tot de
inbreuk van het grondrecht?
Dat het recht van artikel 10 EVRM wel is geschonden -> 68 omdat het niet
proportioneel was. Het recht van het ontvangen van informatie weegt
zwaarder dan het belang om de rechter onpartijdig te houden. Het was
dus niet proportioneel.
Vereisten inbreuk vrijheid van meningsuiting:
1. Levert de betreffende situatie een inbreuk op -> ja want er is een
verbod op publicatie opgelegd
2. Is er een wettelijke grondslag -> ja bij wet voorzien, een wet die de
staat het recht geeft een verbod op te leggen.
3. Is die inbreuk noodzakelijk in een democratische samenleving -> Het
moet gaan om een pressing social need die proportioneel is met een
doel zijn. Een groot maatschappelijk verbod zijn en er moet een
legitiem belang zijn om dit verbod op te leggen. Er was wel een
legitieme regel, maar staat dit in verhouding tot het doel of gaat het
te ver ofwel is het proportioneel.
In deze casus
62 65 66
Opdracht 3:
Pietje Pluk is columnist voor een bekende Nederlandse krant. In zijn
nieuwste column neemt hij Johannes Schipper op de hak. Johannes
Schipper vertegenwoordigt als advocaat veel verdachten van
drugscriminaliteit. Pietje insinueert in een reeks tweets dat Schipper een
volwaardig lid is van verschillende criminele organisaties en noemt hem
een "drugsdiertje".
Schipper is uiteraard onaangenaam verrast door deze column en
overweegt juridische stappen. Pietje laat in een populaire talkshow niks te
vrezen, omdat hij in Nederland vrijheid van meningsuiting heeft. Hij mag
dus alles zeggen en schrijven wat hij wil, zonder dat hij bang hoeft te zijn
voor represailles.
Heeft Pietje gelijk in zijn standpunt over de vrijheid van meningsuiting in
Nederland? Beantwoord deze vraag aan de hand van het
vierstappenmodel van Juridische Vaardigheden. Gebruik in je antwoord
het Lingens-arrest van het EHRM en het arrest van het gerechtshof
Amsterdam.
Week 1
5.2.2 een lijst met verboden AI. Er wordt onderscheidt gemaakt tussen een
onaanvaardbaar, hoog, laag of minimaal risico. Het verbod heeft
betrekking op prakijken die vooral gaan over manipulatie van gedrag,
uitbuiting van kwetsbaren en massale controle of discriminatie.
Wat is een AI systeem-> art 3 lid 1 AI-verordening “een op machine
gebaseerd systeem, verschillende niveaus van autonomie te verwerken,
doelstellingen, aanbevelingen of beslissingen, de output kan een bepaalde
invloed uitoefenen op de omgeving” ofwel er komt iets uit het systeem.
Een iT-systeem waar inhout ingaat en waar het systeem zelf iets output.
Als het wordt gebruikt om iets uit artikel 5 is het verboden.
Artikel 5: verboden AI-praktijken
Artikel 5 lid 1 sub a: in de handel brengen of het ingebruikstellen van een
AI-systeem dat manipulatie via subliminale technieken. Doel is het gedrag
van personen veranderen/ verstoren door hun vermogen om een
geïnformeerd besluit te nemen te belemmeren. Is verboden als blijkt dat
het schade geeft aan de persoon.
Art. 5 lid 1 sub b: misbruik maken van kwetsbare groepen zoals kinderen,
ouderen of mensen met een beperking. Leeftijd, handicap of andere
specifieke groep. Met als doel om het gedrag te verstoren
Art. 5 lid 1 sub c: evaluatie of classificatie van natuurlijke personen
gedurende een bepaalde periode. Je mag geen sociale-scoring systeem
gebruiken: mensen monitoren en op basis van hun gedrag indelen in
groepen wat dan weer invloed heeft op uitkeringen, verzekeringen etc.
Art. 5 lid 1 sub d: risicobeoordelingen of het risico in te schatten of een
persoon een strafbaar feit pleegt.
Art. 5 lid 1 sub e: databanken voor gezichtsherkening algoritme maken, dit
mag niet.
Art. 5 lid 1 sub f: emoties van persoon uit af te leiden behalve uit
veiligheidsoverwegingen
Art. 5 lid 1 sub g: biometrische categorisering, haar DNA, etc. om mensen
in bepaalde categorieën in te delen
Art. 5 lid 1 sub h: biometrische identificatie op afstand mag ook niet
worden gebruikt om mensen in de openbare ruimte te herkennen.
,Week 2: grondrechten
Vrijheid van meningsuiting
Grondrechten zijn niet absoluut: ze kunnen ook beperkt worden.
Hoe bepaal je wat je wel en niet mag zeggen.
Opdracht 1:
Zoek per grondrecht uit waar je dit kunt vinden in de Grondwet en het
EVRM. Geef vervolgens bij elk van deze vier grondrechten minimaal drie
voorbeelden van raakvlakken tussen ontwikkelingen in de IT-sector en
deze grondrechten.
1. Vrijheid van meningsuiting -> art. 7 Grondwet
Sociale media: je kunt je eigen mening plaatsen en info te verspreiden.
Het platform heeft veel macht over wat wel en niet veel verspreid wordt.
Dus kan de vrijheid van meningsuiting wel worden beperkt.
2. Recht op toegang tot overheidsinformatie -> art 42 Grondwet
3. Recht op eerbiedig van het privéleven -> art. 8 EVRM en art. 10
Grondwet
Sociale media: er worden persoonlijke dingen gedeeld soms ook over
anderen wat veel mensenkunnen zien. Er kan dus veel makkelijker
ingeperkt worden
4. Communicatiegeheim -> art 13 Grondwet
Opdracht 2:
Zoek art. 10 EVRM op en beantwoord de volgende vragen:
1. Welk grondrecht is hier geregeld?
2. Welk aspect van dit grondrecht is wel geregeld in het EVRM, maar niet
in art. 7 Gw?
1. Vrijheid van meningsuiting
2. Recht om informatie te ontvangen, dit valt wel onder artikel 7 Gw.
Art. 10 EVRM is dus wat uitgebreider. Op het tentamen vaak
verwijzen naar EVRM omdat het Europese recht voor gaat. En de
rechter mag in NL niet zomaar toetsen aan de Gw, wel aan het
EVRM.
,Opdracht Sunday times:
Lees het arrest EHRM, 26 april 1979, ECLI:NL:XX:1979:AC6568, NJ
1980/146, (Times/Verenigd Koninkrijk), te vinden op Brightspace, en
beantwoord individueel de volgende vragen in deze Padlet voorzien van je
voor-en achternaam.
1. Wie zijn de relevante partijen in deze zaak?
Times Newspapers Ltd., de hoofdredacteur en een groep journalisten van
The Sunday Times tegen Groot-Brittannie
2. Wat is de reden dat het blad Sunday Times naar het EHRM stapte in
deze zaak?
The Sunday times publiceerde een artikel over het gebruik van
thalidomide, een middel waardoor er een aantal kinderen met afwijkingen
zijn geboren. Er werd een publicatieverbod opgelegd door de Engelse
staat. The Sunday times was het daar niet mee eens en vond dat het
artikel een groot publiek belang betrof en dat hun vrijheid van
meningsuiting werd geschonden. Er liepen nog rechtszaken over het
thalidomide schandaal.
3. Benoem het grondrecht dat in deze zaak in het geding is, en hoe dit
recht ingeperkt kan worden.
Het gaat hier om vrijheid van meningsuiting ex art. 10 EVRM. Iedereen
mag informatie verspreiden. Het recht werd ingeperkt en de vraag was of
die beperking gerechtvaardigd was.
4. Hoe geeft het Hof invulling aan de voorwaarde 'bij wet voorzien' of
prescribed by law? Waar in de uitspraak kun je dit terugvinden?
De wet moet adequaat toegankelijk zijn, iedereen koet hem kunnen lezen.
En hij moet voldoende precies zijn omschreven. Mag ook uit jurisprudentie
blijken ipv geschreven wet. In Engeland is er een wettelijke basis.
5. Wat zegt het Hof precies over de rol van de pers met betrekking tot
het grondrecht?
De media hebben een belangrijke rol als public watchdog. Ze hebben een
rol om aan de maatschappij te vertellen over maatschappelijke problemen.
65
, 6. Tot welke beslissing kwam het Hof uiteindelijk met betrekking tot de
inbreuk van het grondrecht?
Dat het recht van artikel 10 EVRM wel is geschonden -> 68 omdat het niet
proportioneel was. Het recht van het ontvangen van informatie weegt
zwaarder dan het belang om de rechter onpartijdig te houden. Het was
dus niet proportioneel.
Vereisten inbreuk vrijheid van meningsuiting:
1. Levert de betreffende situatie een inbreuk op -> ja want er is een
verbod op publicatie opgelegd
2. Is er een wettelijke grondslag -> ja bij wet voorzien, een wet die de
staat het recht geeft een verbod op te leggen.
3. Is die inbreuk noodzakelijk in een democratische samenleving -> Het
moet gaan om een pressing social need die proportioneel is met een
doel zijn. Een groot maatschappelijk verbod zijn en er moet een
legitiem belang zijn om dit verbod op te leggen. Er was wel een
legitieme regel, maar staat dit in verhouding tot het doel of gaat het
te ver ofwel is het proportioneel.
In deze casus
62 65 66
Opdracht 3:
Pietje Pluk is columnist voor een bekende Nederlandse krant. In zijn
nieuwste column neemt hij Johannes Schipper op de hak. Johannes
Schipper vertegenwoordigt als advocaat veel verdachten van
drugscriminaliteit. Pietje insinueert in een reeks tweets dat Schipper een
volwaardig lid is van verschillende criminele organisaties en noemt hem
een "drugsdiertje".
Schipper is uiteraard onaangenaam verrast door deze column en
overweegt juridische stappen. Pietje laat in een populaire talkshow niks te
vrezen, omdat hij in Nederland vrijheid van meningsuiting heeft. Hij mag
dus alles zeggen en schrijven wat hij wil, zonder dat hij bang hoeft te zijn
voor represailles.
Heeft Pietje gelijk in zijn standpunt over de vrijheid van meningsuiting in
Nederland? Beantwoord deze vraag aan de hand van het
vierstappenmodel van Juridische Vaardigheden. Gebruik in je antwoord
het Lingens-arrest van het EHRM en het arrest van het gerechtshof
Amsterdam.
