Korte geschiedenis van AI
- Turing Test 1950
o Computers gebruiken om enigma code te kraken = 1ste keer
dat ze op zo’n grote schaal worden ingezet
o Kunnen we menselijke intelligentie bereiken?
communiceren met mens of computer in andere kamer en obv
antwoorden afleiden wie het was
- Perceptron 1956
o Rozenblad maakt perceptron = 1 hersencel
o Menselijk brein proberen namaken in computer = 1ste
algoritme dat niet volledig werd geprogrammeerd
Machine is zelflerend obv feedback
- Eliza 1960
o Chatbot die werkt obv voorgeprogrammeerde regels
Waarom zie ik blauw? => antwoord obv patronen
- AI winter ’70
o Funding voor AI wordt drastisch teruggeschroefd
- Expert systemen ‘80
o AI gekoppeld aan databank van kennis
communiceren door vragen te stellen en antwoorden komen
uit databank
Heeft patiënt koorts? => ja/nee
- Machine learning ‘90
o Begeleid leren (supervised learning)
veel voorbeelden nodig die beschreven zijn met meetbare
eigenschappen waarbij juist antwoord al gekend is, gebruikt
om zo consistent mogelijk te voorspellen voor nieuwe
voorbeelden
Beginnen van random situaties en dan stap per stap
optimaliseren door te kijken waar fouten worden
gemaakt en bij te sturen
Nadeel: machine boots voorbeelden na, gaat geen
nieuwe strategieën leren
o Versterkend leren (reinforcement learning)
door observatie van omgeving dingen bijleren, agent
(model/AI) die acties onderneemt in omgeving, die omgeving
geeft feedback als beloning of penalty (reward) => agent leert
strategie (policy) om op LT zoveel mogelijke totale reward te
krijgen
Je gaat nieuwe strategieën leren: schaakproef Deep Blue
(1997), Watson (2011), AlphaGo (2016)
,- Veranderingen
o Nieuwe en sterkere hardware
rekenkracht is enorm toegenomen
GPU = graphics processing unit: kleine eenvoudige
berekening die parallel worden uitgevoerd => bitcoin
mining, neurale netwerken trainen
o Hoeveelheid data is sterk toegenomen
door bv world wide web en digitalisering, bedrijven beginnen
data te verzamelen
o Neurale netwerken + deep neural networks + very deep
principe blijft hetzelfde, nogsteeds werken met gewichten
maar nu veel meer, elke neuron heeft gewicht => grotere
rekenkracht en performantie
Bv multi-layer perceptron network, AlexNet (2012),
ResNet, computer vision
o Pre-training op simpele taken
encoder (neuraal netwerk) – laag met beperkt aantal neuronen
– decoder (neuraal netwerk) om input te reconstrueren met
beperkte complexiteit, automatisch abstraheren, geen labels
o Fine tune op echte taken
true target label herkennen obv beknopte beschrijving
- Generatieve AI 2020
o Large language modellen
leert taal te begrijpen door volgend woord te voorspellen = pre
training
o Generatieve AI kan tekst, beelden, … genereren
- Multi-modale AI 2020
o Systemen die meerdere modaliteiten tegelijk kunnen
verwerken en met elkaar kunnen koppelen bv tekst begrijpen
in relatie tot beeld
Modaliteit (tekst, beeld, gesperk, …) = soort input
- Reinforcement learning met menselijke feedback
o Machine geeft uitkomt, mens geeft feedback => model past
strategie aan
- Verschillende taalmodellen
o Closed source => dienst
geen toegang tot modelcode/gewichten, alleen via API
Je stuurt request naar API, berekeningen gebeuren op
servers van provider en je krijgt antwoord terug
, Privacy risico want je moet data sturen naar derden +
minder controle + betere prestaties + gebruiksgemak
o Open source => kunnen gefine tuned worden
gewichten worden gepubliceerd dus iedereen kan model zelf
downloaden en draaien (lokaal of op eigen server)
- Keerzijde AI
o Black box modellen
Interpreteerbaarheidsproblemen = onmogelijkheid voor
mensen om te begrijpen hoe en waarom model tot
bepaalde beslissing komt
Bv dokter had bij foto van vlek meetlat gezet, model had
geleerd dat elke keer als er meetlat stond dat vlek dan
kwadaardig zou zijn
o Hallucinaties
large language model gaan feiten verzinnen
o Stereotypen + bias
je vraagt om mens te visueleren die houdt van bier => bijna
altijd man
o Copyright problemen
mensen die achtergrond maken voor tekenfilms verliezen hun
job doordat AI obv hun creaties dit nu ook kunnen
o Verbruik + duurzaamheid
o Misbruik
, Bias en eerlijkheid van AI
Belofte van AI: beter dan mens, geen bias, geen geweten, … MAAR
realiteit is dat AI zelflerend is en soms dus perongeluk wel biases
oppikken wat tot ongewenste effecten leidt
o Systemen zijn vaak black box dus we weten vaak niet waarom
ze zo reageren
o Mensen hebben ook vooroordelen maar schaal waarop
menselijke modellen worden gebruikt is veel kleiner
o Automatisatie kan wel mogelijkheden creëren
menselijke kennis combineren met AI data analyse
vaardigheden
o SyRI = Nederlands systeem voor fraude op te speuren maar
werd op te grote schaal gebruikt dus al heeft het kleine
foutmarge zo 1 fout kan wel grote groep mensen beïnvloeden
dus gevaarlijk
Nederlandse staat veroordeelt door afwezigheid van
proportionaliteit in 2020 en afwezigheid van
transparantie
Bronnen van bias
- Historische discriminatie = stereotypes
o De wereld zoals ze is
o Voorbeeld = tool Amazon om werknemers aan te nemen dat
biased was tegen vrouwen omdat het getrained was op CVs
van afgelopen 10 jaar waar meeste inzenders mannen waren
- Bias door manier waarop data wordt opgeslagen
o Label bias: de labels zijn al fout of subjectief, wat is ‘gezond’?
o Measurement bias: metingen zijn vertekend zie vb
o Selection bias: niet iedereen zit evenveel in dataset
o Voorbeeld = groter gezondheidsrisico bij blanke mensen dan
bij zwarte ook als was etniciteit geen variabele, dossier 2017
voorspellen adhv dossier 2012, dataset creëeren met
karakteristieken en voorspelling gezond of ongezond maar wat
betekent ‘gezond’ => ze gaan medische kosten in in 2017
- Turing Test 1950
o Computers gebruiken om enigma code te kraken = 1ste keer
dat ze op zo’n grote schaal worden ingezet
o Kunnen we menselijke intelligentie bereiken?
communiceren met mens of computer in andere kamer en obv
antwoorden afleiden wie het was
- Perceptron 1956
o Rozenblad maakt perceptron = 1 hersencel
o Menselijk brein proberen namaken in computer = 1ste
algoritme dat niet volledig werd geprogrammeerd
Machine is zelflerend obv feedback
- Eliza 1960
o Chatbot die werkt obv voorgeprogrammeerde regels
Waarom zie ik blauw? => antwoord obv patronen
- AI winter ’70
o Funding voor AI wordt drastisch teruggeschroefd
- Expert systemen ‘80
o AI gekoppeld aan databank van kennis
communiceren door vragen te stellen en antwoorden komen
uit databank
Heeft patiënt koorts? => ja/nee
- Machine learning ‘90
o Begeleid leren (supervised learning)
veel voorbeelden nodig die beschreven zijn met meetbare
eigenschappen waarbij juist antwoord al gekend is, gebruikt
om zo consistent mogelijk te voorspellen voor nieuwe
voorbeelden
Beginnen van random situaties en dan stap per stap
optimaliseren door te kijken waar fouten worden
gemaakt en bij te sturen
Nadeel: machine boots voorbeelden na, gaat geen
nieuwe strategieën leren
o Versterkend leren (reinforcement learning)
door observatie van omgeving dingen bijleren, agent
(model/AI) die acties onderneemt in omgeving, die omgeving
geeft feedback als beloning of penalty (reward) => agent leert
strategie (policy) om op LT zoveel mogelijke totale reward te
krijgen
Je gaat nieuwe strategieën leren: schaakproef Deep Blue
(1997), Watson (2011), AlphaGo (2016)
,- Veranderingen
o Nieuwe en sterkere hardware
rekenkracht is enorm toegenomen
GPU = graphics processing unit: kleine eenvoudige
berekening die parallel worden uitgevoerd => bitcoin
mining, neurale netwerken trainen
o Hoeveelheid data is sterk toegenomen
door bv world wide web en digitalisering, bedrijven beginnen
data te verzamelen
o Neurale netwerken + deep neural networks + very deep
principe blijft hetzelfde, nogsteeds werken met gewichten
maar nu veel meer, elke neuron heeft gewicht => grotere
rekenkracht en performantie
Bv multi-layer perceptron network, AlexNet (2012),
ResNet, computer vision
o Pre-training op simpele taken
encoder (neuraal netwerk) – laag met beperkt aantal neuronen
– decoder (neuraal netwerk) om input te reconstrueren met
beperkte complexiteit, automatisch abstraheren, geen labels
o Fine tune op echte taken
true target label herkennen obv beknopte beschrijving
- Generatieve AI 2020
o Large language modellen
leert taal te begrijpen door volgend woord te voorspellen = pre
training
o Generatieve AI kan tekst, beelden, … genereren
- Multi-modale AI 2020
o Systemen die meerdere modaliteiten tegelijk kunnen
verwerken en met elkaar kunnen koppelen bv tekst begrijpen
in relatie tot beeld
Modaliteit (tekst, beeld, gesperk, …) = soort input
- Reinforcement learning met menselijke feedback
o Machine geeft uitkomt, mens geeft feedback => model past
strategie aan
- Verschillende taalmodellen
o Closed source => dienst
geen toegang tot modelcode/gewichten, alleen via API
Je stuurt request naar API, berekeningen gebeuren op
servers van provider en je krijgt antwoord terug
, Privacy risico want je moet data sturen naar derden +
minder controle + betere prestaties + gebruiksgemak
o Open source => kunnen gefine tuned worden
gewichten worden gepubliceerd dus iedereen kan model zelf
downloaden en draaien (lokaal of op eigen server)
- Keerzijde AI
o Black box modellen
Interpreteerbaarheidsproblemen = onmogelijkheid voor
mensen om te begrijpen hoe en waarom model tot
bepaalde beslissing komt
Bv dokter had bij foto van vlek meetlat gezet, model had
geleerd dat elke keer als er meetlat stond dat vlek dan
kwadaardig zou zijn
o Hallucinaties
large language model gaan feiten verzinnen
o Stereotypen + bias
je vraagt om mens te visueleren die houdt van bier => bijna
altijd man
o Copyright problemen
mensen die achtergrond maken voor tekenfilms verliezen hun
job doordat AI obv hun creaties dit nu ook kunnen
o Verbruik + duurzaamheid
o Misbruik
, Bias en eerlijkheid van AI
Belofte van AI: beter dan mens, geen bias, geen geweten, … MAAR
realiteit is dat AI zelflerend is en soms dus perongeluk wel biases
oppikken wat tot ongewenste effecten leidt
o Systemen zijn vaak black box dus we weten vaak niet waarom
ze zo reageren
o Mensen hebben ook vooroordelen maar schaal waarop
menselijke modellen worden gebruikt is veel kleiner
o Automatisatie kan wel mogelijkheden creëren
menselijke kennis combineren met AI data analyse
vaardigheden
o SyRI = Nederlands systeem voor fraude op te speuren maar
werd op te grote schaal gebruikt dus al heeft het kleine
foutmarge zo 1 fout kan wel grote groep mensen beïnvloeden
dus gevaarlijk
Nederlandse staat veroordeelt door afwezigheid van
proportionaliteit in 2020 en afwezigheid van
transparantie
Bronnen van bias
- Historische discriminatie = stereotypes
o De wereld zoals ze is
o Voorbeeld = tool Amazon om werknemers aan te nemen dat
biased was tegen vrouwen omdat het getrained was op CVs
van afgelopen 10 jaar waar meeste inzenders mannen waren
- Bias door manier waarop data wordt opgeslagen
o Label bias: de labels zijn al fout of subjectief, wat is ‘gezond’?
o Measurement bias: metingen zijn vertekend zie vb
o Selection bias: niet iedereen zit evenveel in dataset
o Voorbeeld = groter gezondheidsrisico bij blanke mensen dan
bij zwarte ook als was etniciteit geen variabele, dossier 2017
voorspellen adhv dossier 2012, dataset creëeren met
karakteristieken en voorspelling gezond of ongezond maar wat
betekent ‘gezond’ => ze gaan medische kosten in in 2017
