Begrippenlijst
1. Area under the curve (AUC) = AUC staat voor area under the ROC curve. Het is een maat waarmee je
beoordeelt hoe goed een classificatiemodel (bijvoorbeeld een model dat ja/nee voorspelt) onderscheid
kan maken tussen 2 groepen. De ROC curve plaatst TPR tegenover FPR. De AUC is het oppervlak
onder die curve, een getal tussen 0 en 1. AUC = De kans dat het model een willekeurige positieve case
hoger scoort dan een willekeurige negatieve case. Perfect model zou AUC = 1 hebben.
2. Attenuation = The weakening or reduction of the observed relationship between two variables, typically
caused by measurement error, noise, or imperfect instruments. Attenuation leads to an underestimation
of the true effect or correlation.
3. Cohen’s d = Een maat voor effectgrootte: het geeft aan hoeveel twee groepsgemiddelden van elkaar
verschillen, uitgedrukt in het aantal standaarddeviaties. Met andere woorden: het maakt het verschil
schaalvrij, zodat je effecten kunt vergelijken ongeacht de gebruikte meeteenheid.
4. Cronbach’s Alpha = hoe betrouwbaar je vragenlijst/maat is. Cronbach’s alpha zegt: “Als ik dit opnieuw
meet, krijg ik dan ongeveer hetzelfde resultaat?”
→ Hooge alpha = betrouwbare meting
→ Lage alpha = veel ruis / onbetrouwbare meting
Als je metingen onbetrouwbaar zijn, worden je correlaties kunstmatig lager afgeschilderd dan ze in
werkelijkheid zijn
5. Elastic nets = Combineert de voordelen van lasso regression en ridge regression door zowel
variabelenselectie als regularisatie toe te passen. Dit maakt het geschikt wanneer variabelen onderling
sterk gecorreleerd zijn.
6. Lasso regression (Least Absolute Shrinkage and Selection Operator) = Een regressiemethode die
variabelenselectie uitvoert door sommige coëfficiënten tot nul te reduceren. Dit voorkomt overfitting en
helpt het model eenvoudiger en beter te interpreteren te maken.
7. Machine learning = Een geavanceerde vorm van regressie waarbij een model patronen leert uit data
om nieuwe observaties te voorspellen, vaak met complexere en niet-lineaire modellen. Het draait om
het automatisch leren van patronen in grote datasets, zodat het model nieuwe, onbekende observaties
kan voorspellen.
8. Maximum likelihood (ML) = Een methode om een model te trainen door de parameters te kiezen die de
waargenomen data het meest waarschijnlijk maken. Korter gezegd: je zoekt de waarden van de
modelparameters (bijvoorbeeld regressiecoëfficiënten) waarbij de kans dat het model de bestaande
data produceert maximaal is. Het is dus een alternatieve manier om een model “fit” te maken naast
bijvoorbeeld ordinary least squares (OLS), vooral handig bij niet-lineaire of complexe kansverdelingen.
9. Multicollinearity = dat twee of meer onafhankelijke variabelen in een regressiemodel sterk met elkaar
correleren. Daardoor is het moeilijk om te bepalen welke variabele werkelijk invloed heeft op de
afhankelijke variabele. Gevolgen van multicollinearity zijn onder andere:
a) Onstabiele schattingen van regressiecoëfficiënten (ze kunnen sterk veranderen bij kleine
datavariaties).
b) Moeilijke interpretatie van individuele effecten.
c) Verhoogde standaardfouten, waardoor sommige variabelen onterecht als niet-significant
lijken
Het model kan nog steeds goed voorspellen, maar het wordt minder betrouwbaar voor verklarende
analyses.
10.Ordinary Least Squares (OLS) regression = De klassieke regressiemethode die de lineaire relatie
tussen variabelen schat door de som van de gekwadrateerde afwijkingen tussen voorspelde en
1