AI: MAATSCHAPPELIJKE UITDAGINGEN
TABLE OF CONTENTS
Inleiding Artificiële Intelligentie ..................................................................................................................................... 3
Praktisch ................................................................................................................................................................. 3
Een korte geschiedenis van Artificial Intelligence........................................................................................................ 3
Wat is er veranderd? ................................................................................................................................................. 7
Heropleving van Neurale Netwerken .......................................................................................................................... 8
Een aantal termen .................................................................................................................................................... 9
Foundational model ............................................................................................................................................... 10
Deep Neural Networks: een Samenvatting ............................................................................................................... 10
Maar… Enkele gevaren ............................................................................................................................................ 11
Wetgeving (EU-niveau) ............................................................................................................................................ 12
Neural networks for image recognition and generation (interpretable models) ............................................................... 13
Background............................................................................................................................................................ 13
Designing a Deep Neural Network ........................................................................................................................... 14
DNNs for Visual Data .............................................................................................................................................. 15
Generative Models ................................................................................................................................................. 18
Summarizing .......................................................................................................................................................... 23
Responsible AI ........................................................................................................................................................... 24
Korte recap: Wat is (responsible) AI? ....................................................................................................................... 24
Directe risico’s ....................................................................................................................................................... 27
Systeem risico’s ..................................................................................................................................................... 30
Lange-termijn risico’s ............................................................................................................................................. 31
The importance of safety in the design of AI system...................................................................................................... 34
Waar zien we AI over het algemeen? ........................................................................................................................ 34
Als AI fysieke interactie aangaat met mensen, hoe zorgen we er dan voor dat dit veilig gebeurt? .................................. 35
Hoe kunnen we het toepassen op grotere problemen?.............................................................................................. 39
Welke problemen kunnen we nu bedenken met betrekking tot reinforcement learning?.............................................. 39
Hoe ontwerp je veiligheid in Reinforcement Learning? .............................................................................................. 40
Veilig ontwerp van AI-gebaseerde robotica............................................................................................................... 42
Conclusie .............................................................................................................................................................. 42
Fairness and Generative AI ......................................................................................................................................... 43
Korte recapitulatie: Wat is (verantwoorde) AI? .......................................................................................................... 43
Fairness ................................................................................................................................................................. 43
Risico's van generatieve AI ...................................................................................................................................... 49
1
,Sustainable AI............................................................................................................................................................ 51
Duurzame AI vs AI voor duurzaamheid ..................................................................................................................... 51
Recent onderzoek naar AI voor duurzaamheid (uit onze groep) .................................................................................. 52
Brede toepassingen van AI voor duurzaamheid ........................................................................................................ 59
Negatieve impact van AI op duurzaamheid ............................................................................................................... 61
Designing Futures: human-centered design in technologies ......................................................................................... 63
The moral dangers and opportunities of generative, multimodal, LLMs and other AI ....................................................... 68
3 gebieden van filosofie .......................................................................................................................................... 68
Versnelde innovatie in AI ......................................................................................................................................... 70
Betekenis voor ethiek.............................................................................................................................................. 71
Betekenis voor epistemologie ................................................................................................................................. 72
Betekenis voor metafysica ...................................................................................................................................... 73
Case studies .......................................................................................................................................................... 74
AI en recht ................................................................................................................................................................. 75
Antidiscriminatierecht ............................................................................................................................................ 75
Auteursrecht .......................................................................................................................................................... 77
Consumentenrecht ................................................................................................................................................ 78
De regulering van AI in Europa..................................................................................................................................... 79
Achtergrond: EU strategie voor AI ............................................................................................................................ 79
Europese AI AI-Verordening: “AI Act” ....................................................................................................................... 79
AI en buitencontractuele aansprakelijkheid ............................................................................................................. 87
AI en gegevensbescherming (AVG)........................................................................................................................... 89
Privacy by design and AI ............................................................................................................................................. 95
Introductie beginselen van gegevensverwerking ....................................................................................................... 95
Privacy by Design ................................................................................................................................................... 98
Privacy by Design (PbD) toegepast in AI.................................................................................................................. 100
Voorbeelden ........................................................................................................................................................ 101
Harmonizing Human-AI Synergy................................................................................................................................ 103
Leerdoelen........................................................................................................................................................... 103
Mens-machine interactie (Human-Machine Interaction, HMI): ................................................................................ 103
De uitdagingen van autonomie .............................................................................................................................. 104
Dubbel procesmodel van cognitie (of “snel en langzaam denken) ........................................................................... 107
Beste werkwijzen voor AI-transparantie, beslissingsverificatie en menselijk toezicht ................................................ 111
Hoe zal AI ons veranderen? ................................................................................................................................... 114
2
,INLEIDING ARTIFICIËLE INTELLIGENTIE
PRAKTISCH
• Cursusorganisatie
o 12 colleges (inclusief inleiding)
o 3 hoofdonderwerpen
▪ Technologische uitdagingen van AI
▪ Maatschappelijke uitdagingen van AI
▪ Juridische uitdagingen van AI
o Alle lessen worden opgenomen
• Planning op blackboard
• Evaluatie
o Permanente evaluatie (2 van 20 punten; geen herkansing)
▪ Na elk onderwerp: online meerkeuzetoets (18/3, 2/5*, 23/5, 27/5*)
• 2 halve testjes voor de social challenges
▪ Een week om in te vullen; kan thuis gemaakt worden
o Gesloten boek examen (18 van 20 punten; herkansing in 2e sessie)
▪ Meerkeuzevragen
▪ 1 open vraag
▪ In te vullen op de computer, op de campus
• Cursusmateriaal
o Verplicht materiaal:
▪ Lezingen/opnames
▪ Dia's
▪ Extra materiaal alleen indien expliciet aangegeven
o Extra materiaal:
▪ Niet verplicht, geen onderdeel van het examen
▪ Voor geïnteresseerde studenten
EEN KORTE GESCHIEDENIS VAN ARTIFICIAL INTELLIGENCE
• 1950: Turing Test
o Beginpunt AI
o Na oorlog → maar computer hebben tijdens de oorlog hun nut bewezen (Turing en team hebben
computers gebruikt om de enigma code te kraken)
▪ Voor het eerst op die schaal, voordien eerder theoretische concepten
o Ongekende mogelijkheden!
▪ Menselijke intelligentie benaderen?
o ➔ Turing Test gekomen:
▪ In een aparte afgesloten kamer zit een computer of een
mens → communicatie via een toetsenbord
▪ Aan de hand van de antwoorden moet je kunnen zeggen of er
een mens of een computer zit
▪ Gebrek aan visie: via toetsenbord, maar tegenwoordig ook
via spraak
3
, • 1956: Perceptron
o Menselijke brein namaken in een computer
o Intelligente machines maken: hoe werkt dat
biologisch en hoe kunnen we daar een kopie van
maken in een machine?
o Rosenblatt heef in 1956 een perceptron gemaakt,
wat overeenkomt met 1 hersencel
▪ Die kon dingen zien: ponskaarten en waar er gaatjes in die kaarten
zitten
▪ Waar er licht door kon schijnen kreeg een 1, waar het licht niet kon doorschijnen kreeg een 0
▪ Patronen herkennen hierin (gatje linksboven of rechtsboven?) → afhankelijk daarvan ging een
bepaalde lamp branden
o Bijzonder: allereerste keer dat een logaritme niet volledig werd geprogrammeerd
▪ Stappenplan werd geleerd door machine (reinforcement)
▪ Op basis van feedback werd het intern geprogrammeerde stappenplan stap voor stap aangepast
• 1960: ELIZA
o Eenvoudige hand-gecodeerde modellen
o Minder ambitieus dan de perceptron
o Chatbot die puur gebaseerd is op regels die daarin
geprogrammeerd zijn
o Vult bepaalde patronen in
▪ Ik voel me verdrietig → waarom voel je je verdrietig?
▪ Ik voel me tafel → waarom voel je je tafel?
• 70’s AI Winter
o Aanvankelijk enthousiasme neemt enorm af
o Hoeveelheid funding liep enorm terug voor AI gerelateerd onderzoek
• 80’s Expert Systems
o ALS de infectie pimary-bacteremie is
EN de plaats van de kweek één van de steriele plaatsen is
EN de vermoedelijke toegangspoort het maagdarmkanaal is,
DAN is er suggestief bewijs (0,7) dat de infectie bacterioïd is.
▪ Beslissingsboom in het expertsysteem
o Hand gecodeerde menselijke kennis
o Zoals Eliza, maar gekoppeld aan een databank met kennis
o Voorbeeld van het Mycin-systeem
o Beslissingen ondersteunen, kennis delen op een veel eenvoudigere manier
o Uitdagingen:
▪ goed formalisme om regels uit te drukken
▪ hoe combineer je conflicterende regels?
4
TABLE OF CONTENTS
Inleiding Artificiële Intelligentie ..................................................................................................................................... 3
Praktisch ................................................................................................................................................................. 3
Een korte geschiedenis van Artificial Intelligence........................................................................................................ 3
Wat is er veranderd? ................................................................................................................................................. 7
Heropleving van Neurale Netwerken .......................................................................................................................... 8
Een aantal termen .................................................................................................................................................... 9
Foundational model ............................................................................................................................................... 10
Deep Neural Networks: een Samenvatting ............................................................................................................... 10
Maar… Enkele gevaren ............................................................................................................................................ 11
Wetgeving (EU-niveau) ............................................................................................................................................ 12
Neural networks for image recognition and generation (interpretable models) ............................................................... 13
Background............................................................................................................................................................ 13
Designing a Deep Neural Network ........................................................................................................................... 14
DNNs for Visual Data .............................................................................................................................................. 15
Generative Models ................................................................................................................................................. 18
Summarizing .......................................................................................................................................................... 23
Responsible AI ........................................................................................................................................................... 24
Korte recap: Wat is (responsible) AI? ....................................................................................................................... 24
Directe risico’s ....................................................................................................................................................... 27
Systeem risico’s ..................................................................................................................................................... 30
Lange-termijn risico’s ............................................................................................................................................. 31
The importance of safety in the design of AI system...................................................................................................... 34
Waar zien we AI over het algemeen? ........................................................................................................................ 34
Als AI fysieke interactie aangaat met mensen, hoe zorgen we er dan voor dat dit veilig gebeurt? .................................. 35
Hoe kunnen we het toepassen op grotere problemen?.............................................................................................. 39
Welke problemen kunnen we nu bedenken met betrekking tot reinforcement learning?.............................................. 39
Hoe ontwerp je veiligheid in Reinforcement Learning? .............................................................................................. 40
Veilig ontwerp van AI-gebaseerde robotica............................................................................................................... 42
Conclusie .............................................................................................................................................................. 42
Fairness and Generative AI ......................................................................................................................................... 43
Korte recapitulatie: Wat is (verantwoorde) AI? .......................................................................................................... 43
Fairness ................................................................................................................................................................. 43
Risico's van generatieve AI ...................................................................................................................................... 49
1
,Sustainable AI............................................................................................................................................................ 51
Duurzame AI vs AI voor duurzaamheid ..................................................................................................................... 51
Recent onderzoek naar AI voor duurzaamheid (uit onze groep) .................................................................................. 52
Brede toepassingen van AI voor duurzaamheid ........................................................................................................ 59
Negatieve impact van AI op duurzaamheid ............................................................................................................... 61
Designing Futures: human-centered design in technologies ......................................................................................... 63
The moral dangers and opportunities of generative, multimodal, LLMs and other AI ....................................................... 68
3 gebieden van filosofie .......................................................................................................................................... 68
Versnelde innovatie in AI ......................................................................................................................................... 70
Betekenis voor ethiek.............................................................................................................................................. 71
Betekenis voor epistemologie ................................................................................................................................. 72
Betekenis voor metafysica ...................................................................................................................................... 73
Case studies .......................................................................................................................................................... 74
AI en recht ................................................................................................................................................................. 75
Antidiscriminatierecht ............................................................................................................................................ 75
Auteursrecht .......................................................................................................................................................... 77
Consumentenrecht ................................................................................................................................................ 78
De regulering van AI in Europa..................................................................................................................................... 79
Achtergrond: EU strategie voor AI ............................................................................................................................ 79
Europese AI AI-Verordening: “AI Act” ....................................................................................................................... 79
AI en buitencontractuele aansprakelijkheid ............................................................................................................. 87
AI en gegevensbescherming (AVG)........................................................................................................................... 89
Privacy by design and AI ............................................................................................................................................. 95
Introductie beginselen van gegevensverwerking ....................................................................................................... 95
Privacy by Design ................................................................................................................................................... 98
Privacy by Design (PbD) toegepast in AI.................................................................................................................. 100
Voorbeelden ........................................................................................................................................................ 101
Harmonizing Human-AI Synergy................................................................................................................................ 103
Leerdoelen........................................................................................................................................................... 103
Mens-machine interactie (Human-Machine Interaction, HMI): ................................................................................ 103
De uitdagingen van autonomie .............................................................................................................................. 104
Dubbel procesmodel van cognitie (of “snel en langzaam denken) ........................................................................... 107
Beste werkwijzen voor AI-transparantie, beslissingsverificatie en menselijk toezicht ................................................ 111
Hoe zal AI ons veranderen? ................................................................................................................................... 114
2
,INLEIDING ARTIFICIËLE INTELLIGENTIE
PRAKTISCH
• Cursusorganisatie
o 12 colleges (inclusief inleiding)
o 3 hoofdonderwerpen
▪ Technologische uitdagingen van AI
▪ Maatschappelijke uitdagingen van AI
▪ Juridische uitdagingen van AI
o Alle lessen worden opgenomen
• Planning op blackboard
• Evaluatie
o Permanente evaluatie (2 van 20 punten; geen herkansing)
▪ Na elk onderwerp: online meerkeuzetoets (18/3, 2/5*, 23/5, 27/5*)
• 2 halve testjes voor de social challenges
▪ Een week om in te vullen; kan thuis gemaakt worden
o Gesloten boek examen (18 van 20 punten; herkansing in 2e sessie)
▪ Meerkeuzevragen
▪ 1 open vraag
▪ In te vullen op de computer, op de campus
• Cursusmateriaal
o Verplicht materiaal:
▪ Lezingen/opnames
▪ Dia's
▪ Extra materiaal alleen indien expliciet aangegeven
o Extra materiaal:
▪ Niet verplicht, geen onderdeel van het examen
▪ Voor geïnteresseerde studenten
EEN KORTE GESCHIEDENIS VAN ARTIFICIAL INTELLIGENCE
• 1950: Turing Test
o Beginpunt AI
o Na oorlog → maar computer hebben tijdens de oorlog hun nut bewezen (Turing en team hebben
computers gebruikt om de enigma code te kraken)
▪ Voor het eerst op die schaal, voordien eerder theoretische concepten
o Ongekende mogelijkheden!
▪ Menselijke intelligentie benaderen?
o ➔ Turing Test gekomen:
▪ In een aparte afgesloten kamer zit een computer of een
mens → communicatie via een toetsenbord
▪ Aan de hand van de antwoorden moet je kunnen zeggen of er
een mens of een computer zit
▪ Gebrek aan visie: via toetsenbord, maar tegenwoordig ook
via spraak
3
, • 1956: Perceptron
o Menselijke brein namaken in een computer
o Intelligente machines maken: hoe werkt dat
biologisch en hoe kunnen we daar een kopie van
maken in een machine?
o Rosenblatt heef in 1956 een perceptron gemaakt,
wat overeenkomt met 1 hersencel
▪ Die kon dingen zien: ponskaarten en waar er gaatjes in die kaarten
zitten
▪ Waar er licht door kon schijnen kreeg een 1, waar het licht niet kon doorschijnen kreeg een 0
▪ Patronen herkennen hierin (gatje linksboven of rechtsboven?) → afhankelijk daarvan ging een
bepaalde lamp branden
o Bijzonder: allereerste keer dat een logaritme niet volledig werd geprogrammeerd
▪ Stappenplan werd geleerd door machine (reinforcement)
▪ Op basis van feedback werd het intern geprogrammeerde stappenplan stap voor stap aangepast
• 1960: ELIZA
o Eenvoudige hand-gecodeerde modellen
o Minder ambitieus dan de perceptron
o Chatbot die puur gebaseerd is op regels die daarin
geprogrammeerd zijn
o Vult bepaalde patronen in
▪ Ik voel me verdrietig → waarom voel je je verdrietig?
▪ Ik voel me tafel → waarom voel je je tafel?
• 70’s AI Winter
o Aanvankelijk enthousiasme neemt enorm af
o Hoeveelheid funding liep enorm terug voor AI gerelateerd onderzoek
• 80’s Expert Systems
o ALS de infectie pimary-bacteremie is
EN de plaats van de kweek één van de steriele plaatsen is
EN de vermoedelijke toegangspoort het maagdarmkanaal is,
DAN is er suggestief bewijs (0,7) dat de infectie bacterioïd is.
▪ Beslissingsboom in het expertsysteem
o Hand gecodeerde menselijke kennis
o Zoals Eliza, maar gekoppeld aan een databank met kennis
o Voorbeeld van het Mycin-systeem
o Beslissingen ondersteunen, kennis delen op een veel eenvoudigere manier
o Uitdagingen:
▪ goed formalisme om regels uit te drukken
▪ hoe combineer je conflicterende regels?
4
