Privacy- en IT Recht
(PIT)
, Week 1. AI-Verordening.
Wat is een AI-systeem? (Art. 3 lid 1 AI-Verordening) =
1. Gecomputerd systeem
2. Het doet iets autonoom
3. Machine kan zich aanpassen (als de input veranderd, kan hij daarop
reageren).
IT systeem waar input ingaat, waar output uit gaat, dat invloed heeft op
de omgeving. Berekening van input naar output gaat autonoom (heeft
geen hulp bij nodig).
De AI-verordening gebruikt een risico gebaseerde aanpak met 4
categorieën:
Minimaal risico, laag, hoog en onaanvaardbaar. Titel II gaat over AI met
onaanvaardbaar risico, die daarom volledig verboden is.
Verboden AI-praktijken zijn vooral (art. 5 lid 1 sub a t/m h AI-
Verordening):
- Manipulatie van mensen via AI, bijvoorbeeld technieken die
mensen onbewust beïnvloeden en schade kunnen veroorzaken.
Manipulatief en schade voor de gebruiker.
- Misbruik van kwetsbare groepen, zoals kinderen of mensen met
een beperking, om hun gedrag te beïnvloeden/uitbuiten.
- Social scoring door overheden, waarbij mensen worden
beoordeeld of gestraft op basis van hun gedrag of persoonlijke
kenmerken.
- Real-time biometrische identificatie in openbare ruimtes
(zoals gezichtsherkenning), behalve in zeer uitzonderlijke situaties
zoals het zoeken naar vermiste kinderen, het voorkomen van een
directe ernstige dreiging of het opsporen van zware criminelen. Gaat
iemand een strafbaar feit plegen?
- Enz.
Zelfs in de uitzonderingen gelden strenge voorwaarden:
Het moet noodzakelijk en proportioneel zijn,
Er is (meestal) vooraf toestemming nodig van een rechter of
onafhankelijke instantie, en
Het gebruik is sterk beperkt in tijd, plaats en doel.
Kort gezegd:
De EU verbiedt AI-toepassingen die mensen kunnen manipuleren,
discrimineren of massaal volgen op een manier die fundamentele rechten
(PIT)
, Week 1. AI-Verordening.
Wat is een AI-systeem? (Art. 3 lid 1 AI-Verordening) =
1. Gecomputerd systeem
2. Het doet iets autonoom
3. Machine kan zich aanpassen (als de input veranderd, kan hij daarop
reageren).
IT systeem waar input ingaat, waar output uit gaat, dat invloed heeft op
de omgeving. Berekening van input naar output gaat autonoom (heeft
geen hulp bij nodig).
De AI-verordening gebruikt een risico gebaseerde aanpak met 4
categorieën:
Minimaal risico, laag, hoog en onaanvaardbaar. Titel II gaat over AI met
onaanvaardbaar risico, die daarom volledig verboden is.
Verboden AI-praktijken zijn vooral (art. 5 lid 1 sub a t/m h AI-
Verordening):
- Manipulatie van mensen via AI, bijvoorbeeld technieken die
mensen onbewust beïnvloeden en schade kunnen veroorzaken.
Manipulatief en schade voor de gebruiker.
- Misbruik van kwetsbare groepen, zoals kinderen of mensen met
een beperking, om hun gedrag te beïnvloeden/uitbuiten.
- Social scoring door overheden, waarbij mensen worden
beoordeeld of gestraft op basis van hun gedrag of persoonlijke
kenmerken.
- Real-time biometrische identificatie in openbare ruimtes
(zoals gezichtsherkenning), behalve in zeer uitzonderlijke situaties
zoals het zoeken naar vermiste kinderen, het voorkomen van een
directe ernstige dreiging of het opsporen van zware criminelen. Gaat
iemand een strafbaar feit plegen?
- Enz.
Zelfs in de uitzonderingen gelden strenge voorwaarden:
Het moet noodzakelijk en proportioneel zijn,
Er is (meestal) vooraf toestemming nodig van een rechter of
onafhankelijke instantie, en
Het gebruik is sterk beperkt in tijd, plaats en doel.
Kort gezegd:
De EU verbiedt AI-toepassingen die mensen kunnen manipuleren,
discrimineren of massaal volgen op een manier die fundamentele rechten
