AI Ethics
Les 1 – Naar AI Ethiek
Waarover?
o “AI ethics is about technological change and its impact on individual lives, but also
about transformations in society and in the economy.” - (Mark Coeckelbergh)
o Vraag naar:
Wenselijkheid van de AI-(r)evolutie? Waarom wel of niet?
Waar liggen de grenzen? Zijn die er zelfs?
Waarin verschilt goed van slecht gebruik? Welke criteria?
Verboden en geboden (postieve <---> negatieve invulling)
o “The tech community has no self-understanding. We are not humanists or
philosophers. We are engineers. For Google and Facebook, people are algorithms.”-
John Batelle (Co-founder of Wired)
Situering als discipline
o “It may be premature to talk about an AI Ethics canon or coherent field.” (Onur
Bakiner, 2022)
o Onderwerp binnen de filosofie van de technologie
Ethiek is discipline binnen de filosofie
A.I. als speciaal onderwerp binnen de techniekfilosofie
A.I. heeft echter bijzonder statuut:
Technologie die de mogelijkheid heeft om technologie voort te
brengen
A.I. die de kerneigenschap van de mens ‘nabootst’
Oude vraagstukken in nieuw daglicht
Nieuwe vragen?
Belang van reflectie op AI
o Beginpunt:
Vaststelling dat technologie rondom ons heen aan belang inwint
AI brengt alles in stroomversnelling
o Don’t believe the hype?
Is AI overroepen?
Of in andere woorden: zal het tegen limieten aanlopen?
Meer data leidt niet tot betere systemen; betere algoritmes zijn
nodig.
En wie zal dit bepalen?
o Wat vaststaat is:
Er is geen weg terug: AI is here to stay…
Technologisch determinisme lijkt aan kracht in te winnen
o Optimisme of pessimisme? Doet het er zelfs nog toe?
Technologisch Determinisme & Autonomous Technology
o Technologisch determinisme:
Het idee dat technologie de structuur van de samenleving en cultuur bepaalt
o Autonome technologie:
, Technologische ontwikkeling niet onder menselijke controle staat, ‘eigen
logica’
Technologie als een krachtige en autonome kracht
Nuance: vanuit een macroscopic niveau bekeken en als sociaal
gegeven
Militaire en economische drijfveren zetten dit kracht bij
o Autonome technologie veronderstelt technologisch determinisme:
De samenleving en cultuur kunnen de richting van technologie niet
beïnvloeden
Notie van ‘reverse adaption‘: mens past zich aan technologie en niet vice
verca
o Oude noties uit de techniekfilosofie die kracht worden bijgezet door AI:
Wat doen we met krachtige systemen die autonoom kunnen opereren?
“Our final invention”, maar op welke manier?
o Is optimisme te naïef?
“In fact, the Master Algorithm is the last thing we’ll ever have to invent
because, once we let it loose, it will go on to invent everything else that can
be invented.” (p 25)
→ “All we need to do is provide it with enough of the right kind of data…”
Pedro Domingos (2015)
o Is pessimisme contraproductief?
“Let an ultra intelligent machine be defined as a machine that can far surpass
all the intellectual activities of any man however clever. Since the design of
machines is one of these intellectual activities, an ultra intelligent machine
could design even better machines; there would then unquestionably be an
'intelligence explosion,' and the intelligence of man would be left far
behind... Thus, the first ultra intelligent machine is the last invention that
man need ever make, provided that the machine is docile enough to tell us
how to keep it under control. It is curious that this point is made so seldom
outside of science fiction. It is sometimes worthwhile to take science fiction
seriously.”
I.J. Good (1965)
Onderwerpen
o Vrijheid en autonomie
Draagt AI hieraan bij of neemt het die juist af?
o Transparantie en verklaarbaarheid
Weten we eigenlijk hoe deze systemen werken?
o Rechtvaardigheid en eerlijkheid
Zorgt AI juist voor meer of minder rechtvaardigheid?
o Weldoen/geen kwaad doen en morele status
Kan AI in de eerste plaats wel goed of slecht doen?
o Verantwoordelijkheid
Wie draagt de schuld als er iets foutloopt en omgekeerd?
o Privacy en vertrouwen
In hoeverre schenden AI-systemen/-bedrijven onze privacy?
o Duurzaamheid
De duurzaamheid van AI en de AI van duurzaamheid?
o Waardigheid en solidariteit
, Hoe gaan we op een waardige en solidaire manier om met AI?
Les 2 – AI-ethiek, oude vragen in nieuwe context
Vrijheid en autonomie
o Kernvraag:
Welke invloed heeft AI op onze vrijheid en autonomie?
Betreft onze capaciteit om zelfstandig te handelen, denken en beslissen.
o Mes dat langs twee kanten snijdt:
Positief
Dankzij AI sparen we tijd uit: meer tijd (vrijheid) voor onszelf?
Problematisch: in dezelfde tijd meer productiviteit
Negatief
We worden steeds afhankelijker van slimmer wordende systemen
Kunnen we zelfs ooit echt vrij zijn (van A.I.)?
Klasvraag: wanneer is de laatste keer dat je iets opzocht en niet
prompte via een LLM?
o De andere kant van het verhaal
Andere interpretatie van hetzelfde onderwerp:
Kan een AI-systeem ooit vrij en autonoom zijn?
o Cases: legal autonomous weapons, zelfrijdende auto’s
Mens als poortwachter: ‘In the loop’
o Maar wat als systemen te complex worden?
En wat als AI voor ons beslist?
Willen we dit echt?
o AI bij keuzestress: in hoeverre mogen we blind vertrouwen?
o Denk aan jullie eigen OPO-opdracht
Probleem: wat als een systeem uitvalt?
Kernvraag: in hoeverre willen we outsourcen en waar ligt de grens?
o Worst case scenario
Klasvraag:
Liever je eigen fout maken of AI voor jou laten belissen?
"AI can twist our desires, leaving us with nothing left except engineered,
instrumentalized ends and means.” (Brian Patrick Green)
Als we te veel besluitvorming aan machines delegeren
Risico dat machines handelen op een manier die in strijd is met
menselijke waarden
Machine heeft immers andere vorm van autonomie dan mens...
Kernprobleem:
Waarborgen van menselijke autonomie betekent: zorgen dat AI
fungeert als een verlengstuk van ons handelingsvermogen, niet als
een vervanging ervan
Transparantie en verklaarbaarheid
o Probleem van transparantie:
‘Black box’-probleem:
We weten niet (of te beperkt) hoe deze systemen van binnen écht
werken.
Les 1 – Naar AI Ethiek
Waarover?
o “AI ethics is about technological change and its impact on individual lives, but also
about transformations in society and in the economy.” - (Mark Coeckelbergh)
o Vraag naar:
Wenselijkheid van de AI-(r)evolutie? Waarom wel of niet?
Waar liggen de grenzen? Zijn die er zelfs?
Waarin verschilt goed van slecht gebruik? Welke criteria?
Verboden en geboden (postieve <---> negatieve invulling)
o “The tech community has no self-understanding. We are not humanists or
philosophers. We are engineers. For Google and Facebook, people are algorithms.”-
John Batelle (Co-founder of Wired)
Situering als discipline
o “It may be premature to talk about an AI Ethics canon or coherent field.” (Onur
Bakiner, 2022)
o Onderwerp binnen de filosofie van de technologie
Ethiek is discipline binnen de filosofie
A.I. als speciaal onderwerp binnen de techniekfilosofie
A.I. heeft echter bijzonder statuut:
Technologie die de mogelijkheid heeft om technologie voort te
brengen
A.I. die de kerneigenschap van de mens ‘nabootst’
Oude vraagstukken in nieuw daglicht
Nieuwe vragen?
Belang van reflectie op AI
o Beginpunt:
Vaststelling dat technologie rondom ons heen aan belang inwint
AI brengt alles in stroomversnelling
o Don’t believe the hype?
Is AI overroepen?
Of in andere woorden: zal het tegen limieten aanlopen?
Meer data leidt niet tot betere systemen; betere algoritmes zijn
nodig.
En wie zal dit bepalen?
o Wat vaststaat is:
Er is geen weg terug: AI is here to stay…
Technologisch determinisme lijkt aan kracht in te winnen
o Optimisme of pessimisme? Doet het er zelfs nog toe?
Technologisch Determinisme & Autonomous Technology
o Technologisch determinisme:
Het idee dat technologie de structuur van de samenleving en cultuur bepaalt
o Autonome technologie:
, Technologische ontwikkeling niet onder menselijke controle staat, ‘eigen
logica’
Technologie als een krachtige en autonome kracht
Nuance: vanuit een macroscopic niveau bekeken en als sociaal
gegeven
Militaire en economische drijfveren zetten dit kracht bij
o Autonome technologie veronderstelt technologisch determinisme:
De samenleving en cultuur kunnen de richting van technologie niet
beïnvloeden
Notie van ‘reverse adaption‘: mens past zich aan technologie en niet vice
verca
o Oude noties uit de techniekfilosofie die kracht worden bijgezet door AI:
Wat doen we met krachtige systemen die autonoom kunnen opereren?
“Our final invention”, maar op welke manier?
o Is optimisme te naïef?
“In fact, the Master Algorithm is the last thing we’ll ever have to invent
because, once we let it loose, it will go on to invent everything else that can
be invented.” (p 25)
→ “All we need to do is provide it with enough of the right kind of data…”
Pedro Domingos (2015)
o Is pessimisme contraproductief?
“Let an ultra intelligent machine be defined as a machine that can far surpass
all the intellectual activities of any man however clever. Since the design of
machines is one of these intellectual activities, an ultra intelligent machine
could design even better machines; there would then unquestionably be an
'intelligence explosion,' and the intelligence of man would be left far
behind... Thus, the first ultra intelligent machine is the last invention that
man need ever make, provided that the machine is docile enough to tell us
how to keep it under control. It is curious that this point is made so seldom
outside of science fiction. It is sometimes worthwhile to take science fiction
seriously.”
I.J. Good (1965)
Onderwerpen
o Vrijheid en autonomie
Draagt AI hieraan bij of neemt het die juist af?
o Transparantie en verklaarbaarheid
Weten we eigenlijk hoe deze systemen werken?
o Rechtvaardigheid en eerlijkheid
Zorgt AI juist voor meer of minder rechtvaardigheid?
o Weldoen/geen kwaad doen en morele status
Kan AI in de eerste plaats wel goed of slecht doen?
o Verantwoordelijkheid
Wie draagt de schuld als er iets foutloopt en omgekeerd?
o Privacy en vertrouwen
In hoeverre schenden AI-systemen/-bedrijven onze privacy?
o Duurzaamheid
De duurzaamheid van AI en de AI van duurzaamheid?
o Waardigheid en solidariteit
, Hoe gaan we op een waardige en solidaire manier om met AI?
Les 2 – AI-ethiek, oude vragen in nieuwe context
Vrijheid en autonomie
o Kernvraag:
Welke invloed heeft AI op onze vrijheid en autonomie?
Betreft onze capaciteit om zelfstandig te handelen, denken en beslissen.
o Mes dat langs twee kanten snijdt:
Positief
Dankzij AI sparen we tijd uit: meer tijd (vrijheid) voor onszelf?
Problematisch: in dezelfde tijd meer productiviteit
Negatief
We worden steeds afhankelijker van slimmer wordende systemen
Kunnen we zelfs ooit echt vrij zijn (van A.I.)?
Klasvraag: wanneer is de laatste keer dat je iets opzocht en niet
prompte via een LLM?
o De andere kant van het verhaal
Andere interpretatie van hetzelfde onderwerp:
Kan een AI-systeem ooit vrij en autonoom zijn?
o Cases: legal autonomous weapons, zelfrijdende auto’s
Mens als poortwachter: ‘In the loop’
o Maar wat als systemen te complex worden?
En wat als AI voor ons beslist?
Willen we dit echt?
o AI bij keuzestress: in hoeverre mogen we blind vertrouwen?
o Denk aan jullie eigen OPO-opdracht
Probleem: wat als een systeem uitvalt?
Kernvraag: in hoeverre willen we outsourcen en waar ligt de grens?
o Worst case scenario
Klasvraag:
Liever je eigen fout maken of AI voor jou laten belissen?
"AI can twist our desires, leaving us with nothing left except engineered,
instrumentalized ends and means.” (Brian Patrick Green)
Als we te veel besluitvorming aan machines delegeren
Risico dat machines handelen op een manier die in strijd is met
menselijke waarden
Machine heeft immers andere vorm van autonomie dan mens...
Kernprobleem:
Waarborgen van menselijke autonomie betekent: zorgen dat AI
fungeert als een verlengstuk van ons handelingsvermogen, niet als
een vervanging ervan
Transparantie en verklaarbaarheid
o Probleem van transparantie:
‘Black box’-probleem:
We weten niet (of te beperkt) hoe deze systemen van binnen écht
werken.
