Samenvatting cursus
Deel 1: Methodologisch en Ethisch kader
H0: Inleiding
Wat is AI?
- McCarthy, Minsky, Rochestor and Shannon - The Dartmouth Summer
Research Project on AI (1956): Conjecture that every aspect of learning or
any other features of intelligence can in principle be so precisely described
that a machine can be made to simulate it.
Elk aspect van leren of onderdeel van intelligentie kan worden
opgesplitst in kleine onderdelen en beschreven worden zodat het
gesimuleerd kan worden door een computer
- Herbert Simon: Machines that exhibit behaviors that would be regarded
intelligent if they were exhibited by human beings.
Machines die gedrag vertonen dat bij mensen als intelligent zou
beschouwd worden
- Elaine Rich and Kevin Knight: AI is the study of how to make computers do
things at which, at the moment, people are better.
- Stuart Russell and Peter Norvig: Machines that do the right thing (they act
rationally)
De juiste beslissingen nemen, dat kan je formaliseren als een
optimalisatieprobleem
Doorbraken in AI:
bv. AlphaGo, AtariVideoGames, Poker Texas Hold’em
Zelfrijdende wagens
Teks ten taal: Alexa en siri (virtuele assistenten)
Medical imaging: Gegeven de juiste data, patronen en modellen die
voorspellingen kunnen doen en inzichten geven
ChatGPT
Dall-E-2
Marketing en politiek
Large Language Models: Autoregressief, tokens om woorden af te
maken via Bayes
Twee aspecten aan AI
Thinking fast: leren, datagedreven AI, symbolisch
Bv. Oplossen van 2+2, herkennen personen
Thinking slow: redeneren, kennisgedreven AI, subsymbolisch
Bv. Redeneren over wiskundige vraagstukken, een route plannen
AI heeft zowel redeneren als leren nodig!
Machine Learning
,Een machine leert wanneer zijn performantie (zijn prestaties) op een bepaalde
taak verbetert met ervaring
Centraal voor Artificiële Intelligentie, er is geen intelligentie zonder leren.
Bv. Spamfilter: Machine = e-mail programma, spamfilter, Taak = classificeren van
e-mails, Performantie = nauwkeurigheid, Ervaring = voorbije input
Waarom Machinaal Leren?
Het is algemeen toepasbaar als er (veel) data is (Regelmaat uit de data
halen)
Het is heel praktisch: sommige programma’s (software) kunnen niet met
de hand geprogrammeerd worden (spam, go, beeldherkenning,
zelfrijdende auto’s, automatische vertaling, … )
Het is makkelijker om data te genereren dan een programma te schrijven
Het laat toe om software te personaliseren
Analyse van data (data mining), ontdekken van nieuwe kennis
“we are drowning in data but starving for knowledge”: “we verdrinken in
data maar zijn dorstig naar kennis”
Heel wat toepassingen, De technologie die het mogelijk maakt om:
Natuurlijk taal te verwerken, te zoeken op het web, …
Beeld- en spraakherkenning
Robotica (& zelfrijdende auto’s)
Bioinformatica
Marketing
Medische toepassingen
Hoe werkt machinaal leren?
Machine learning gaat over het leren van functies f(input) => output.
Verschillende types van functies
Verschillende types van data (supervised, unsupervised, reinforcement …)
Verschillende criteria (de verliesfunctie)
Je wil de beste functie vinden m.b.t. die verliesfunctie en de data.
Machine learning is eigenlijk automatisch programmeren (er zijn
verschillende scholen in machinaal leren)
3 soorten:
Gesuperviseerd leren: leren uit voorbeelden
Bv. Goede/slechte zetten uit tekstboeken of van een leraar
Behavioral cloning: leren uit imitatie
Bv. Imiteer de wereldkampioen
Reinforcement learning/ bekrachtigingsleren: leren uit beloningen
Speel het spel, beloning = gewonnen stukken/partijen
,Toepassing: Menace (Donald Michie) = Machine Educable Noughts And Crosses
Engine
OXO: De parel die je kiest bepaalt de volgende zet, als het een goede zet is
leg je een extra parel in het doosje (Hogere zetten krijgen hogere kans)
Elk luciferdoosje is 1 bordsituatie
Machine = 287 “boxes” + parels Probabilistic functie
P(box, kleur) = waarschijnlijkheid van zet Leer een functie
Als je verliest: bewaar alle gebruikte parels
Als je wint: plaats de gebruikte parels terug op hun plaats en voeg er een
extra parel van dezelfde kleur aan toe.
Bekrachtigingsleren
Automatisch Redeneren
Een machine redeneert als het voor verschillende vragen conclusies kan afleiden
door domeinkennis (model) te gebruiken
Centraal voor Artificiële Intelligentie, er is geen intelligentie zonder
redeneren.
Bv. Oplossen van wiskundige vraagstukken: Machine = problem solver, Vraag =
examenvraag (hier over probabiliteit), Conclusie = de oplossing, Kennis =
formeel model over waarschijnlijkheidsrekening (Of Financiële Modelering en
Optimisatie)
Waarom automatisch redeneren?
Toepasbaar als kennis formeel kan voorgesteld worden in een model, Heel erg
praktisch:
Kennismodellen zijn zeer flexibel, ze kunnen gebruikt worden om heel wat
verschillende vragen te beantwoorden (redeneren van oorzaak naar
gevolg, of van symptoom naar diagnose, … een model voor veel soorten
van vragen)
Het is moeilijker om verschillende programma’s te schrijven voor elke
mogelijke query of taak
Als de kennis beschikbaar is, is het makkelijker om dit in een model voor te
stellen dan het te leren (het heeft geen zin om het verkeersreglement
te leren uit miljarden voorbeelden)
, Kennis als basis voor het nemen van beslissingen, het geven van
verklaringen en garanties (basis voor trustworthy AI)
De onderliggende technologie bij:
Diagnose & expertsystemen (bv. medisch)
Autonome robots en systemen
Assistive technology in the factory (Industry 4.0)
Scheduling en planning
Werken met richtlijnen, wetten en constraints
Regelgebaseerde systemen en automaten
AlphaGo
Deep learning: leren hoe goed een bordsituatie is
Monte-Carlo Tree Search: om een aantal zetten vooruit te kijken
Dus leren + redeneren (type 1 + type II)
De vijf scholen in ML
Verschillende scholen die elk de functie op een eigen manier voorstellen
Symbolists: Dataset en Logica
Boeken van D(omingos), R(ussell),
B(ostrom), K(ahnemann)
Voorspel K = f(D,R,B), i.e., K als functie
van D, R en B
Uitgaande van eerste 3 boeken
voorspelling maken over wie het boek in
de laatste kolom koopt
Hieruit kunnen we vervolgens logische
regels afleiden:
ALS R = 1 EN B = 1 DAN K = 1
ALS D = 1 EN R = 0 DAN K = 1
ANDERS K = 0
Een consistente verzameling regels bestaat niet altijd
Analogizers: Dichtste buren
Similariteit / Afstandsmaat / Kernels
k- Dichtste Buren / Support Vector Machines (objecten classificeren op
basis van de dichtstbijzijnde trainingsvoorbeelden)
Euclidische afstand, Manhattan afstand (een manier om de afstand
tussen twee punten in een rooster-gebaseerde systeem te berekenen.
In tegenstelling tot de Euclidische afstand, die de kortste rechte lijn
tussen twee punten meet, meet de Manhattan afstand de som van de
absolute verschillen tussen de corresponderende coördinaten van de
twee punten)
Bayesians: Probabilistisch en Naïeve Bayes
Deel 1: Methodologisch en Ethisch kader
H0: Inleiding
Wat is AI?
- McCarthy, Minsky, Rochestor and Shannon - The Dartmouth Summer
Research Project on AI (1956): Conjecture that every aspect of learning or
any other features of intelligence can in principle be so precisely described
that a machine can be made to simulate it.
Elk aspect van leren of onderdeel van intelligentie kan worden
opgesplitst in kleine onderdelen en beschreven worden zodat het
gesimuleerd kan worden door een computer
- Herbert Simon: Machines that exhibit behaviors that would be regarded
intelligent if they were exhibited by human beings.
Machines die gedrag vertonen dat bij mensen als intelligent zou
beschouwd worden
- Elaine Rich and Kevin Knight: AI is the study of how to make computers do
things at which, at the moment, people are better.
- Stuart Russell and Peter Norvig: Machines that do the right thing (they act
rationally)
De juiste beslissingen nemen, dat kan je formaliseren als een
optimalisatieprobleem
Doorbraken in AI:
bv. AlphaGo, AtariVideoGames, Poker Texas Hold’em
Zelfrijdende wagens
Teks ten taal: Alexa en siri (virtuele assistenten)
Medical imaging: Gegeven de juiste data, patronen en modellen die
voorspellingen kunnen doen en inzichten geven
ChatGPT
Dall-E-2
Marketing en politiek
Large Language Models: Autoregressief, tokens om woorden af te
maken via Bayes
Twee aspecten aan AI
Thinking fast: leren, datagedreven AI, symbolisch
Bv. Oplossen van 2+2, herkennen personen
Thinking slow: redeneren, kennisgedreven AI, subsymbolisch
Bv. Redeneren over wiskundige vraagstukken, een route plannen
AI heeft zowel redeneren als leren nodig!
Machine Learning
,Een machine leert wanneer zijn performantie (zijn prestaties) op een bepaalde
taak verbetert met ervaring
Centraal voor Artificiële Intelligentie, er is geen intelligentie zonder leren.
Bv. Spamfilter: Machine = e-mail programma, spamfilter, Taak = classificeren van
e-mails, Performantie = nauwkeurigheid, Ervaring = voorbije input
Waarom Machinaal Leren?
Het is algemeen toepasbaar als er (veel) data is (Regelmaat uit de data
halen)
Het is heel praktisch: sommige programma’s (software) kunnen niet met
de hand geprogrammeerd worden (spam, go, beeldherkenning,
zelfrijdende auto’s, automatische vertaling, … )
Het is makkelijker om data te genereren dan een programma te schrijven
Het laat toe om software te personaliseren
Analyse van data (data mining), ontdekken van nieuwe kennis
“we are drowning in data but starving for knowledge”: “we verdrinken in
data maar zijn dorstig naar kennis”
Heel wat toepassingen, De technologie die het mogelijk maakt om:
Natuurlijk taal te verwerken, te zoeken op het web, …
Beeld- en spraakherkenning
Robotica (& zelfrijdende auto’s)
Bioinformatica
Marketing
Medische toepassingen
Hoe werkt machinaal leren?
Machine learning gaat over het leren van functies f(input) => output.
Verschillende types van functies
Verschillende types van data (supervised, unsupervised, reinforcement …)
Verschillende criteria (de verliesfunctie)
Je wil de beste functie vinden m.b.t. die verliesfunctie en de data.
Machine learning is eigenlijk automatisch programmeren (er zijn
verschillende scholen in machinaal leren)
3 soorten:
Gesuperviseerd leren: leren uit voorbeelden
Bv. Goede/slechte zetten uit tekstboeken of van een leraar
Behavioral cloning: leren uit imitatie
Bv. Imiteer de wereldkampioen
Reinforcement learning/ bekrachtigingsleren: leren uit beloningen
Speel het spel, beloning = gewonnen stukken/partijen
,Toepassing: Menace (Donald Michie) = Machine Educable Noughts And Crosses
Engine
OXO: De parel die je kiest bepaalt de volgende zet, als het een goede zet is
leg je een extra parel in het doosje (Hogere zetten krijgen hogere kans)
Elk luciferdoosje is 1 bordsituatie
Machine = 287 “boxes” + parels Probabilistic functie
P(box, kleur) = waarschijnlijkheid van zet Leer een functie
Als je verliest: bewaar alle gebruikte parels
Als je wint: plaats de gebruikte parels terug op hun plaats en voeg er een
extra parel van dezelfde kleur aan toe.
Bekrachtigingsleren
Automatisch Redeneren
Een machine redeneert als het voor verschillende vragen conclusies kan afleiden
door domeinkennis (model) te gebruiken
Centraal voor Artificiële Intelligentie, er is geen intelligentie zonder
redeneren.
Bv. Oplossen van wiskundige vraagstukken: Machine = problem solver, Vraag =
examenvraag (hier over probabiliteit), Conclusie = de oplossing, Kennis =
formeel model over waarschijnlijkheidsrekening (Of Financiële Modelering en
Optimisatie)
Waarom automatisch redeneren?
Toepasbaar als kennis formeel kan voorgesteld worden in een model, Heel erg
praktisch:
Kennismodellen zijn zeer flexibel, ze kunnen gebruikt worden om heel wat
verschillende vragen te beantwoorden (redeneren van oorzaak naar
gevolg, of van symptoom naar diagnose, … een model voor veel soorten
van vragen)
Het is moeilijker om verschillende programma’s te schrijven voor elke
mogelijke query of taak
Als de kennis beschikbaar is, is het makkelijker om dit in een model voor te
stellen dan het te leren (het heeft geen zin om het verkeersreglement
te leren uit miljarden voorbeelden)
, Kennis als basis voor het nemen van beslissingen, het geven van
verklaringen en garanties (basis voor trustworthy AI)
De onderliggende technologie bij:
Diagnose & expertsystemen (bv. medisch)
Autonome robots en systemen
Assistive technology in the factory (Industry 4.0)
Scheduling en planning
Werken met richtlijnen, wetten en constraints
Regelgebaseerde systemen en automaten
AlphaGo
Deep learning: leren hoe goed een bordsituatie is
Monte-Carlo Tree Search: om een aantal zetten vooruit te kijken
Dus leren + redeneren (type 1 + type II)
De vijf scholen in ML
Verschillende scholen die elk de functie op een eigen manier voorstellen
Symbolists: Dataset en Logica
Boeken van D(omingos), R(ussell),
B(ostrom), K(ahnemann)
Voorspel K = f(D,R,B), i.e., K als functie
van D, R en B
Uitgaande van eerste 3 boeken
voorspelling maken over wie het boek in
de laatste kolom koopt
Hieruit kunnen we vervolgens logische
regels afleiden:
ALS R = 1 EN B = 1 DAN K = 1
ALS D = 1 EN R = 0 DAN K = 1
ANDERS K = 0
Een consistente verzameling regels bestaat niet altijd
Analogizers: Dichtste buren
Similariteit / Afstandsmaat / Kernels
k- Dichtste Buren / Support Vector Machines (objecten classificeren op
basis van de dichtstbijzijnde trainingsvoorbeelden)
Euclidische afstand, Manhattan afstand (een manier om de afstand
tussen twee punten in een rooster-gebaseerde systeem te berekenen.
In tegenstelling tot de Euclidische afstand, die de kortste rechte lijn
tussen twee punten meet, meet de Manhattan afstand de som van de
absolute verschillen tussen de corresponderende coördinaten van de
twee punten)
Bayesians: Probabilistisch en Naïeve Bayes
