College 1
Cognitive science is the study of higher mental processes including:
- Perception
- Memory
- Problem solving
- Decision making
- Reasoning
- Skill and attention
- Language
Cognitieve wetenschap is noodzakelijk voor:
- De studie van menselijke communicatie
- De studie van professionele communicatie
- De studie van communicatie via nieuwe media
Begin van cognitieve wetenschap:
- Ivan pavlov en klassieke conditionering
• Little albert
• Watson en skinner
Behaviorisme
- Behavioristen wilden gedrag verklaren, zonder rekening te houden met ‘de
menselijke geest’.
• Onderzoek naar geheugenprocessen suggereerde dat dit problematisch
is.
• De menselijke geest interpreteert en transformeert
materiaal, waardoor het meer consistent is met eigen
ervaringen.
Chomsky
- Hoe is het mogelijk dat kinderen zo snel een taal leren? (“poverty-of-the-
stimulus”argument)
- Hoe kunnen mensen zinnen produceren/interpreteren die ze nog nooit eerder
hebbengehoord?(“Colourless green ideas sleep furiously”)
- Chomsky: De menselijke geest bevat een aangeboren, universele
grammatica.
,Cognitiewetenschappers
- willen de geest bestuderen (in tegenstelling tot behavioristen), maar ze willen
wel vasthouden aan de sterke experimentele principes van de behavioristen
- gedragsexperimenten:
• recall studies -> geheugen
• hersenbeschadiging (lesion studies)
• eye-tracking-onderzoek -> visuele aandacht
• reactietijden -> snelheid van processen
neurowetenschap:
- afasie
• broca afasie = relatief goed begrip van taal, maar productie van taal is
beschadigd
• wernicke afasie = slecht begrip van taal, maar productie is relatief goed
computerwetenschappen
- Expliciete computationele modellering van het menselijk: AI / kunstmatige
intelligentie.
- Reverse engineering” (“Sterke AI”): door steeds grotere computermodellen
van het menselijk brein te bouwen, kunnen we een beter begrip krijgen van
hoe het menselijk brein werkt.
Fake vs. Real
• AI gegenereerde afbeeldingen hebben (in juni ’24) moeite met:
• tanden, haren (“extra piekerig”), handen
• letters en logo’s
• herhalende patronen
• culturele contexten
• Ze herkennen ‘statistische patronen’ maar zijn niet in staat die te
generaliseren (“begrijpen”) zoals mensen dat wel kunnen.
College 2
Generatieve AI en LLM’s (grote taalmodellen)
• Wat betekent dit voor de toepassingen?
• Man vs. Machine
• Tekst gemaakt door ai of mens: lastig te zien
• Output niet te onderscheiden van menselijke tekst
,• AI-systemen die teksten genereren bestaan al ontzettend lang, ChatGPT
onderscheid zich door:
• Methode
• Impact
• Omvang
• Interactie met gebruiker
• ChatGPT baseerd zich op teksten die door mensen zijn geschreven, wij zijn dus
gewend dit soort teksten te lezen
• Lastig om detectiesysteem te creëren
• Hoe werkt ChatGPT
• Niemand weet het precies, commerciële software die voor ons onbekend is
• Wat we wel weten: het is gebaseerd op een Large Language Model. Open AI heeft
wel details gedeeld over eerdere versies. Gebaseerd op ‘Transformer-
architecture’ voor woordvoorspelling (denk aan telefoon)
• Er wordt gebruik gemaakt van ‘Reinforcement learning based on human
feedback’: het model leert door de interactie die het met gebruikers heeft
doordat zij feedback geven
• Gerucht: er is niet één ChatGPT model, het is een combinatie van meerdere
modellen
• Transformer model (GPT 3)
• Door google ontwikkelt en beschikbaar gesteld
• Encoder -> decoder
• ChatGPT gebaseerd op woordvoorspelling
• Getraind met 300 billion woorden
• Training duurt 355 GPU jaar
• De kosten van het één keer trainen van het model zijn geschat op 15 miljoen
• Het uiteindelijke model heeft 170 miljard parameters/variabelen
• ChatGPT begonnen met GPT 3.5, inmiddels heeft GPT 4 nog meer parameters
• Hoe goed zijn grote taalmodellen?
• Energiekosten (milieu)
• De manier waarop het taal bijhoudt, interpreteert en produceert is vloeiend
• Reinforcement learning based on human feedback
• ChatGPT heeft geleerd wat ‘goede’ reacties zijn
• Mensen hebben geoordeeld over welke antwoorden wel nuttig zijn en welke
niet
, • menselijke bijdrage essentieel: teksten geschreven door mensen en op
internet gezet, mensen die het systeem trainen in het geven van nuttige
antwoorden
• publicatie van ChatGPT in 2022:
• ChatGPT is getraind om normen en waarden aan te houden die passen bij de
ethische overwegingen en de intenties die mensen aanhouden
• ChatGPT kan niet alles zeggen (hatespeech, propaganda,
discriminatie/seksime)
• Bepaalde websites worden uit het trainingspakket gelaten
• Hoe wordt dit bereikt?
• Er wordt door ChatGPT vastgesteld of de gestelde vraag in één van de
categorieën past van onderwerpen die vermeden moeten worden
• Dit wordt gedaan door ‘guardrails’
• Jailbreaking ChatGPT
• Manieren om de ‘guardrails’ voorbij te gaan en zo te breken met de normen en
waarden die hij hoort aan te houden (grandma’s recipe)
• In hoeverre is ChatGPT geslaagd als model voor menselijke taal en cognitie?
Impact van ChatGPT
• LLM’s zullen blijven, maar de potentiële impact is lastig in te schatten
(kortetermijn gevolgen worden overschat, langetermijn gevolgen overschat)
• Het creeërt een stimulans om na te denken over onderwijs en de vorm hiervan
(een goed ding!)
• Llm’s hebben enorm goede taal skills, maar er is geen garantie dat alles altijd
feitelijk correct. Het is een statistisch model dat soms dingen mist omdat het
zich baseert op de aannames van door mensen geschreven teksten
• Hij voorspelt dingen, die niet per definitie ook kloppen
• Er moeten meer serieuze evaluaties gedaan worden
College 3
Visuele waarneming
1. Visuele perceptie
Cognitive science is the study of higher mental processes including:
- Perception
- Memory
- Problem solving
- Decision making
- Reasoning
- Skill and attention
- Language
Cognitieve wetenschap is noodzakelijk voor:
- De studie van menselijke communicatie
- De studie van professionele communicatie
- De studie van communicatie via nieuwe media
Begin van cognitieve wetenschap:
- Ivan pavlov en klassieke conditionering
• Little albert
• Watson en skinner
Behaviorisme
- Behavioristen wilden gedrag verklaren, zonder rekening te houden met ‘de
menselijke geest’.
• Onderzoek naar geheugenprocessen suggereerde dat dit problematisch
is.
• De menselijke geest interpreteert en transformeert
materiaal, waardoor het meer consistent is met eigen
ervaringen.
Chomsky
- Hoe is het mogelijk dat kinderen zo snel een taal leren? (“poverty-of-the-
stimulus”argument)
- Hoe kunnen mensen zinnen produceren/interpreteren die ze nog nooit eerder
hebbengehoord?(“Colourless green ideas sleep furiously”)
- Chomsky: De menselijke geest bevat een aangeboren, universele
grammatica.
,Cognitiewetenschappers
- willen de geest bestuderen (in tegenstelling tot behavioristen), maar ze willen
wel vasthouden aan de sterke experimentele principes van de behavioristen
- gedragsexperimenten:
• recall studies -> geheugen
• hersenbeschadiging (lesion studies)
• eye-tracking-onderzoek -> visuele aandacht
• reactietijden -> snelheid van processen
neurowetenschap:
- afasie
• broca afasie = relatief goed begrip van taal, maar productie van taal is
beschadigd
• wernicke afasie = slecht begrip van taal, maar productie is relatief goed
computerwetenschappen
- Expliciete computationele modellering van het menselijk: AI / kunstmatige
intelligentie.
- Reverse engineering” (“Sterke AI”): door steeds grotere computermodellen
van het menselijk brein te bouwen, kunnen we een beter begrip krijgen van
hoe het menselijk brein werkt.
Fake vs. Real
• AI gegenereerde afbeeldingen hebben (in juni ’24) moeite met:
• tanden, haren (“extra piekerig”), handen
• letters en logo’s
• herhalende patronen
• culturele contexten
• Ze herkennen ‘statistische patronen’ maar zijn niet in staat die te
generaliseren (“begrijpen”) zoals mensen dat wel kunnen.
College 2
Generatieve AI en LLM’s (grote taalmodellen)
• Wat betekent dit voor de toepassingen?
• Man vs. Machine
• Tekst gemaakt door ai of mens: lastig te zien
• Output niet te onderscheiden van menselijke tekst
,• AI-systemen die teksten genereren bestaan al ontzettend lang, ChatGPT
onderscheid zich door:
• Methode
• Impact
• Omvang
• Interactie met gebruiker
• ChatGPT baseerd zich op teksten die door mensen zijn geschreven, wij zijn dus
gewend dit soort teksten te lezen
• Lastig om detectiesysteem te creëren
• Hoe werkt ChatGPT
• Niemand weet het precies, commerciële software die voor ons onbekend is
• Wat we wel weten: het is gebaseerd op een Large Language Model. Open AI heeft
wel details gedeeld over eerdere versies. Gebaseerd op ‘Transformer-
architecture’ voor woordvoorspelling (denk aan telefoon)
• Er wordt gebruik gemaakt van ‘Reinforcement learning based on human
feedback’: het model leert door de interactie die het met gebruikers heeft
doordat zij feedback geven
• Gerucht: er is niet één ChatGPT model, het is een combinatie van meerdere
modellen
• Transformer model (GPT 3)
• Door google ontwikkelt en beschikbaar gesteld
• Encoder -> decoder
• ChatGPT gebaseerd op woordvoorspelling
• Getraind met 300 billion woorden
• Training duurt 355 GPU jaar
• De kosten van het één keer trainen van het model zijn geschat op 15 miljoen
• Het uiteindelijke model heeft 170 miljard parameters/variabelen
• ChatGPT begonnen met GPT 3.5, inmiddels heeft GPT 4 nog meer parameters
• Hoe goed zijn grote taalmodellen?
• Energiekosten (milieu)
• De manier waarop het taal bijhoudt, interpreteert en produceert is vloeiend
• Reinforcement learning based on human feedback
• ChatGPT heeft geleerd wat ‘goede’ reacties zijn
• Mensen hebben geoordeeld over welke antwoorden wel nuttig zijn en welke
niet
, • menselijke bijdrage essentieel: teksten geschreven door mensen en op
internet gezet, mensen die het systeem trainen in het geven van nuttige
antwoorden
• publicatie van ChatGPT in 2022:
• ChatGPT is getraind om normen en waarden aan te houden die passen bij de
ethische overwegingen en de intenties die mensen aanhouden
• ChatGPT kan niet alles zeggen (hatespeech, propaganda,
discriminatie/seksime)
• Bepaalde websites worden uit het trainingspakket gelaten
• Hoe wordt dit bereikt?
• Er wordt door ChatGPT vastgesteld of de gestelde vraag in één van de
categorieën past van onderwerpen die vermeden moeten worden
• Dit wordt gedaan door ‘guardrails’
• Jailbreaking ChatGPT
• Manieren om de ‘guardrails’ voorbij te gaan en zo te breken met de normen en
waarden die hij hoort aan te houden (grandma’s recipe)
• In hoeverre is ChatGPT geslaagd als model voor menselijke taal en cognitie?
Impact van ChatGPT
• LLM’s zullen blijven, maar de potentiële impact is lastig in te schatten
(kortetermijn gevolgen worden overschat, langetermijn gevolgen overschat)
• Het creeërt een stimulans om na te denken over onderwijs en de vorm hiervan
(een goed ding!)
• Llm’s hebben enorm goede taal skills, maar er is geen garantie dat alles altijd
feitelijk correct. Het is een statistisch model dat soms dingen mist omdat het
zich baseert op de aannames van door mensen geschreven teksten
• Hij voorspelt dingen, die niet per definitie ook kloppen
• Er moeten meer serieuze evaluaties gedaan worden
College 3
Visuele waarneming
1. Visuele perceptie
