Werkgroepen Taal en Technologie
Agency = de controle die je hebt bij het gebruik van een hamer ligt
volledig bij jou (de hamer doet niks als jij niks doet). Met AI/ander
technisch systeem ligt dit wat meer in de richting van de machine.
Non-determinisme = twee keer hetzelfde vragen aan een bot maar twee
verschillende antwoorden krijgen.
Taaltechnologie ontrafeld deel 1, h3; deel 2, h3
1. Wat is het aandachtsmechanisme (of self-attention mechanism)?
Het aandachtsmechanisme is een techniek die transformers gebruiken om
te bepalen welke woorden in een zin het belangrijkst zijn voor het
begrijpen van een bepaald woord. Het model kijkt naar alle woorden in de
context en geeft meer aandacht aan woorden die relevant zijn voor de
betekenis. Hierdoor kan het verbanden leggen tussen woorden die ver uit
elkaar staan in een zin.
2. Hoe helpt dit mechanisme om bijvoorbeeld met ambiguïteit om te
gaan?
Het aandachtsmechanisme helpt bij ambiguïteit door naar de context van
een woord te kijken. Woorden kunnen meerdere betekenissen hebben,
maar de omliggende woorden geven vaak aan welke betekenis bedoeld
wordt. Zo kan het woord pad verwijzen naar een dier of een wandelpad.
Door aandacht te geven aan woorden als bos, wandelen of wrattig, kan
het model bepalen welke betekenis in de zin past. Hierdoor worden
misverstanden verminderd.
3. De drie voornaamste stappen achter het ontwikkelen van
generatieve AI zijn het bouwen van een generiek taalmodel, verdere
verfijning op specifieke taken en het beter maken van het model
door straffen en belonen met menselijke feedback. Leg aan de hand
van eigen voorbeelden uit hoe de verdere verfijning en het straffen
en belonen in zijn werk gaan.
Verdere verfijning (finetuning)
Bij finetuning wordt een bestaand taalmodel extra getraind op een
kleinere, gespecialiseerde dataset zodat het beter wordt in een specifieke
taak. Bijvoorbeeld: een algemeen taalmodel kent veel onderwerpen, maar
een ziekenhuis kan het model verder trainen met medische teksten.
Daardoor wordt het beter in het beantwoorden van medische vragen en
het begrijpen van medische terminologie.
Straffen en belonen met menselijke feedback (reinforcement
learning)
Na de training beoordelen mensen de antwoorden van het model. Goede
antwoorden worden als wenselijk gemarkeerd en slechte antwoorden als
onwenselijk. Stel dat een gebruiker vraagt om een samenvatting van een
artikel. Als het model een duidelijke, correcte samenvatting geeft, krijgt
, dat antwoord een hoge beoordeling (beloning). Als het model belangrijke
informatie weglaat of fouten maakt, krijgt het een lage beoordeling (straf).
Op basis van deze feedback leert het model welke antwoorden mensen
prefereren en past het zijn gedrag daarop aan.
Zhang et al.
1. Wat is de definitie van hallucinatie door AI?
Een hallucinatie ontstaat wanneer een AI-systeem informatie genereert
die plausibel of logisch lijkt, maar niet overeenkomt met de
gebruikersinput, de eerdere context van het gesprek of feitelijke kennis.
Met andere woorden: de AI verzint informatie die niet correct is.
2. Wat is het verschil tussen input-conflicting hallucination, context-
conflicting hallucination en fact-conflicting hallucination?
• Input-conflicting hallucination
Het antwoord komt niet overeen met de opdracht of vraag van de
gebruiker.
Voorbeeld: de gebruiker vraagt om een ontbijtrecept, maar de AI geeft een
dinerrecept.
• Context-conflicting hallucination
Het antwoord spreekt eerdere informatie uit hetzelfde gesprek tegen.
Voorbeeld: een persoon wordt eerst "Marie" genoemd en later zonder
reden "Sophie".
• Fact-conflicting hallucination
Het antwoord bevat feitelijk onjuiste informatie.
Voorbeeld: de AI zegt dat de koning van België Willem-Alexander is, terwijl
dat Filip van België is.
Zhang et al.
1. Wat maakt hallucinatie in de tijd van grote taalmodellen
problematisch (als afgezet tegen eerdere methoden van
tekstgeneratie)?
De antwoorden van GenAI worden zo geformuleerd dat je de hallucinaties
niet herkent in een antwoord van AI. Tegenwoordig leggen wij veel meer
vertrouwen in AI waardoor we niet meer kritisch gaan nadenken en het
maar geloven. Met komst van ChatGPT zijn er technisch veel dingen op
elkaar geplakt waardoor je de fouten niet meer goed kan herkennen.
2. Op welke andere problemen dan hallucinatie kunnen grote
taalmodellen geëvalueerd worden?
Bias: vooringenomen informatie die beïnvloed is waardoor er geen eerlijk
antwoord uitkomt. Ambiguïteit: het antwoord is niet per se onjuist maar
laat meerdere interpretaties toe.
Agency = de controle die je hebt bij het gebruik van een hamer ligt
volledig bij jou (de hamer doet niks als jij niks doet). Met AI/ander
technisch systeem ligt dit wat meer in de richting van de machine.
Non-determinisme = twee keer hetzelfde vragen aan een bot maar twee
verschillende antwoorden krijgen.
Taaltechnologie ontrafeld deel 1, h3; deel 2, h3
1. Wat is het aandachtsmechanisme (of self-attention mechanism)?
Het aandachtsmechanisme is een techniek die transformers gebruiken om
te bepalen welke woorden in een zin het belangrijkst zijn voor het
begrijpen van een bepaald woord. Het model kijkt naar alle woorden in de
context en geeft meer aandacht aan woorden die relevant zijn voor de
betekenis. Hierdoor kan het verbanden leggen tussen woorden die ver uit
elkaar staan in een zin.
2. Hoe helpt dit mechanisme om bijvoorbeeld met ambiguïteit om te
gaan?
Het aandachtsmechanisme helpt bij ambiguïteit door naar de context van
een woord te kijken. Woorden kunnen meerdere betekenissen hebben,
maar de omliggende woorden geven vaak aan welke betekenis bedoeld
wordt. Zo kan het woord pad verwijzen naar een dier of een wandelpad.
Door aandacht te geven aan woorden als bos, wandelen of wrattig, kan
het model bepalen welke betekenis in de zin past. Hierdoor worden
misverstanden verminderd.
3. De drie voornaamste stappen achter het ontwikkelen van
generatieve AI zijn het bouwen van een generiek taalmodel, verdere
verfijning op specifieke taken en het beter maken van het model
door straffen en belonen met menselijke feedback. Leg aan de hand
van eigen voorbeelden uit hoe de verdere verfijning en het straffen
en belonen in zijn werk gaan.
Verdere verfijning (finetuning)
Bij finetuning wordt een bestaand taalmodel extra getraind op een
kleinere, gespecialiseerde dataset zodat het beter wordt in een specifieke
taak. Bijvoorbeeld: een algemeen taalmodel kent veel onderwerpen, maar
een ziekenhuis kan het model verder trainen met medische teksten.
Daardoor wordt het beter in het beantwoorden van medische vragen en
het begrijpen van medische terminologie.
Straffen en belonen met menselijke feedback (reinforcement
learning)
Na de training beoordelen mensen de antwoorden van het model. Goede
antwoorden worden als wenselijk gemarkeerd en slechte antwoorden als
onwenselijk. Stel dat een gebruiker vraagt om een samenvatting van een
artikel. Als het model een duidelijke, correcte samenvatting geeft, krijgt
, dat antwoord een hoge beoordeling (beloning). Als het model belangrijke
informatie weglaat of fouten maakt, krijgt het een lage beoordeling (straf).
Op basis van deze feedback leert het model welke antwoorden mensen
prefereren en past het zijn gedrag daarop aan.
Zhang et al.
1. Wat is de definitie van hallucinatie door AI?
Een hallucinatie ontstaat wanneer een AI-systeem informatie genereert
die plausibel of logisch lijkt, maar niet overeenkomt met de
gebruikersinput, de eerdere context van het gesprek of feitelijke kennis.
Met andere woorden: de AI verzint informatie die niet correct is.
2. Wat is het verschil tussen input-conflicting hallucination, context-
conflicting hallucination en fact-conflicting hallucination?
• Input-conflicting hallucination
Het antwoord komt niet overeen met de opdracht of vraag van de
gebruiker.
Voorbeeld: de gebruiker vraagt om een ontbijtrecept, maar de AI geeft een
dinerrecept.
• Context-conflicting hallucination
Het antwoord spreekt eerdere informatie uit hetzelfde gesprek tegen.
Voorbeeld: een persoon wordt eerst "Marie" genoemd en later zonder
reden "Sophie".
• Fact-conflicting hallucination
Het antwoord bevat feitelijk onjuiste informatie.
Voorbeeld: de AI zegt dat de koning van België Willem-Alexander is, terwijl
dat Filip van België is.
Zhang et al.
1. Wat maakt hallucinatie in de tijd van grote taalmodellen
problematisch (als afgezet tegen eerdere methoden van
tekstgeneratie)?
De antwoorden van GenAI worden zo geformuleerd dat je de hallucinaties
niet herkent in een antwoord van AI. Tegenwoordig leggen wij veel meer
vertrouwen in AI waardoor we niet meer kritisch gaan nadenken en het
maar geloven. Met komst van ChatGPT zijn er technisch veel dingen op
elkaar geplakt waardoor je de fouten niet meer goed kan herkennen.
2. Op welke andere problemen dan hallucinatie kunnen grote
taalmodellen geëvalueerd worden?
Bias: vooringenomen informatie die beïnvloed is waardoor er geen eerlijk
antwoord uitkomt. Ambiguïteit: het antwoord is niet per se onjuist maar
laat meerdere interpretaties toe.
