Hoofdstuk 1: Enkelvoudige en Multipele Regressie
Uitvoeren van de analyse Enkelvoudige Regressie: R Squared (R2): Geeft aan
Hypothese toetsen: Er wordt maar één predictor gebruikt hoeveel variantie in de
1. Toetsen verklaarde variantie in het voorspellen van de afhankelijke afhankelijke variabele verklaard
(R2). ρ2 = 0 en ρ2 > 0 variabele. De samenhang wordt wordt door de onafhankelijke
2. Toetsen van beschreven met een rechte lijn (= variabele.
regressiecoëfficiënt (B) regressielijn). Least squares lijn: lijn Berekenen door:
β = 0 en β > 0 met kleinste verschil tussen punten SSmodel /regression
(< en ≠ kan ook) en de lijn.
SStotal
R = waarde multipele
correlatiecoëfficiënt
Kenmerken Multipele Multipele Regressie: Adjusted R2: Geschatte
Regressie: Meerdere predictoren gebruiken in percentage verklaarde variantie
1. Één afhankelijke variabele het voorspellen van de afhankelijke in de populatie. Aangepast op
(Y) op interval/ratio niveau variabele (Y). basis van steekproefgrootte en
2. Één of meerdere Iedere predictor heeft een eigen predictoren in het model (k)
onafhankelijke variabelen richtingscoëfficiënt (B). De Adjusted R2 corrigeert hiervoor,
(X): De predictoren. gestandaardiseerde altijd lager dan R Squared (R2).
- Op interval/ratio meetniveau richtingscoëfficiënt (Beta) wordt
- Één of meerdere variabelen gebruikt om te kijken welke Dummyvariabelen: Stellen
met twee categorieën predictor de meeste invloed heeft. ons in staat om een multipele
(= dichotoom). B significant, dan Beta ook! regressie analyse uit te voeren
- Één of meer onafhankelijke wanneer er één variabele op
variabelen op nominaal MSmodel nominaal /ordinaal meetniveau
meetniveau met meer dan Toetsingsgrootheid F: is. Hercoderen van de variabele
twee categorieën
MSresdual met 0 (= referentiegroep) en 1.
Dummyvariabelen maken!
Residu: Y (geobserveerde score) – Ŷ
(voorspelde score)
Assumpties Hiërarchische Analyse: Probleem met
regressieanalyse: Er wordt gestart met een basisaantal multicollineariteit:
- Normaal verdeeld; Histogram predictoren, maar dit model wordt Wanneer er een te sterke
(belvorm?) steeds uitgebreid naar meerdere samenhang is tussen de
- Homoscedasticiteit; Levene’s predictoren. Hierbij wordt gekeken of predictoren.
test of spreidingsdiagram het toevoegen van de predictoren - VIF > 10 = probleem
bekijken. Spreiding van zinvol is Kijken naar of er - Tolerance < 0.1 = probleem
residuen per x-waarde gelijk. verbetering is te zien in de verklaarde - Negatieve regressiecoëfficiënt
- Multicolineariteit; Kijken bij variantie. Neemt deze significant toe?
coefficiënts (r > 0.8 is Dan is het zinvol (5%). Kijk naar p- kan hierop duiden.
probleem). waarde behorend bij R square change Aflezen bij ‘coefficients’.
- Uitschieters; Boxplot of
spreidingsdiagram bekijken Delta (∆) wordt gezien als Gevolgen multicollineariteit:
- Lineariteit; Spreidingsdiagram verandering in R2 = R Square Change - Onbetrouwbare
regressiecoëfficiënten (B)
- Afhankelijke variabele op Schattingen van de Beta’s veranderen - Beperkte grootte van R
interval/ratio meetniveau bij toevoeging van predictoren, het is Centreren inzetten om
- Predictoren op interval/ratio niet van te voren te zeggen of ze multicollineariteit tegen te
meetniveau of dichotoom. groter of kleiner worden. gaan.
Interpreteren van de Drie onderdelen: Regressiecoëfficiënt: De
analyse 1. Model summary: Hier wordt de invloed van een bepaalde
Goodness of fit (R2): Zegt iets correlatiecoëfficiënt (R) en de predictor gegeven dat de
over hoe goed het model past determinatie coëfficiënt (R2) andere predictoren niet
bij de geobserveerde gegevens. weergeven. veranderen =
Hoe goed is het model in staat 2. ANOVA tabel: Hier wordt de ongestandaardiseerd.
om variantie te verklaren. significantie getoetst van het
Het beste model is het regressiemodel. Het laat zien hoe Gestandaardiseerde
model met de hoogste R2 = groot de kans is dat alle regressiecoëfficiënt: De
proportie verklaarde variantie. regressiecoëfficiënten in werkelijkheid invloed van een predictor op de
nul zijn en de uitkomst van de afhankelijke variabele in
Effectgrootte: analyse dus op toeval berust. standaardafwijkingen. Te
- R2 = 0.01 Klein effect 3. Coefficients tabel: Informatie over vinden bij ‘Standardized
, - R2 = 0.09 Medium effect de grootte, de aard en de significantie Coëfficiënts Beta’ Gebruiken
- R2 = 0.25 Groot effect van het effect van de onafhankelijke om te bepalen welke predictor
Hoe groter het effect, des te variabele op de afhankelijke de meeste invloed heeft. De
passender het model! variabele. hoogste waarde is de sterkste
predictor, kan zowel – als +.
Hoofdstuk 2 - ANOVA
Uitvoeren van de analyse Enkelvoudige ANOVA: Hoofdeffect: Wanneer er in de
Gehele model: η2 = 0 en η2 > 0 Er is sprake van maar één steekproef verschillen zijn in de
groepsvariabele (factor) met gemiddelden voor de
minimaal 3 categorieën. Het gaat categorieën van een factor.
Per hoofdeffect: hierbij alleen om hoofdeffecten.
- H0: geen effect van A op Y
(µA1 = µA3 = µA1) H0: µ1 = µ2 = µ3
- H1: wel een effect van A op Y H1: Niet alle gemiddelden zijn gelijk.
Interactie-effect: Onafhankelijke variabele (X)
- H0: geen interactie-effect minimaal nominaal meetniveau).
- H1: wel een interactie-effect
Kenmerken Meerweg Meerweg ANOVA: Kijken naar het Interactie-effect: Kijken naar
ANOVA: effect van meerdere groepsvariabelen het effect van de tweede factor
- Afhankelijke variabele (Y) is op een afhankelijke variabele. Er is binnen de categorieën van de
van minimaal interval sprake van twee of meer eerste factor. Effect van de ene
meetniveau. groepsvariabelen met minimaal 2 factor is verschillend voor de
- Onafhankelijke variabelen (X) categorieën. Het gaat om niveaus van de andere factor.
hoofdeffecten en interactie-effect.
worden factoren genoemd. Significant interactie-effect
- Één of meerdere Vraag: ‘Verschillen twee of meer houdt in dat het effect van een
onafhankelijke variabele met groepen op het gemiddelde van bepaalde conditie anders is
twee of meer categorieën; variabele Y?’ voor de verschillende groepen.
minimaal op nominaal
(dichotoom) meetniveau of
minimaal interval meetniveau.
Assumpties ANOVA: Post Hoc toets: Paarsgewijs Vrijheidsgraden:
1. Normaal verdeeld; vergelijken van gemiddelden, wordt n: steekproefgrootte
Histogram (belvorm?) ingezet om te bepalen welke groepen k: aantal groepen
2. Uitschieters; Boxplot of significant verschillen. Mag alleen: dfT: n – 1
spreidingsdiagram bekijken. - Wanneer er een significant resultaat SS
3. Homoscedasticiteit; Levene’s MS:
is gevonden in ANOVA.
df
SStotal (corrected total) = Alle
test of spreidingsdiagram - Alleen bij factoren die uit meer dan
SSeffecten + SSerror
bekijken (= gelijke spreiding) twee groepen bestaan!
4. Onafhankelijkheid van
Corrected total: alle variantie
waarnemingen/scores MSmodel t.o.v. algemeen gemiddelde
1 & 4 belangrijkst Toetsingsgrootheid F:
MSresidual
Interpreteren van de Onderdelen output: Between-subjects factor:
analyse 1. Between-Subjects Factors: Hier Hiermee worden twee
Effectgrootte η2 : staat per factor uit hoeveel verschillende groepen van
- η2 = 0.01 Klein effect mensen de groep bestaat. elkaar onderscheiden
- η2 = 0.09 Medium effect 2. Descriptive Statistics: Hier kan = tussenpersoonsfactor.
- η2 = 0.25 Groot effect worden gekeken naar de
gemiddelden en of er een Tussengroepsvariantie
η2 = Het percentage totale hoofdeffect wordt verwacht. Grote (MSbetween): De spreiding in
variantie verklaard door de verschillen in gemiddelden duiden groepsgemiddelden rondom het
groepsvariabele (soms op een hoofdeffect. algemene gemiddelde.
verklaarde en onverklaarde 3. Levene’s Test of Equality of Error
variantie) (‘eta kwadraad’). Variances: Geeft informatie over Within-subjects factor:
SSmodel de assumptie rondom gelijke Verschillende metingen worden
Berekenen door: spreiding van varianties. Kijken bij binnen dezelfde persoon of
SStotal de output van ‘based on mean’. groep personen onderscheiden.
SS Corected Model delen 4. Tests of Between-Subjects Effects: = binnenpersoonsfactor.
door SS Corected Total! Resultaten van de Meerweg
Uitvoeren van de analyse Enkelvoudige Regressie: R Squared (R2): Geeft aan
Hypothese toetsen: Er wordt maar één predictor gebruikt hoeveel variantie in de
1. Toetsen verklaarde variantie in het voorspellen van de afhankelijke afhankelijke variabele verklaard
(R2). ρ2 = 0 en ρ2 > 0 variabele. De samenhang wordt wordt door de onafhankelijke
2. Toetsen van beschreven met een rechte lijn (= variabele.
regressiecoëfficiënt (B) regressielijn). Least squares lijn: lijn Berekenen door:
β = 0 en β > 0 met kleinste verschil tussen punten SSmodel /regression
(< en ≠ kan ook) en de lijn.
SStotal
R = waarde multipele
correlatiecoëfficiënt
Kenmerken Multipele Multipele Regressie: Adjusted R2: Geschatte
Regressie: Meerdere predictoren gebruiken in percentage verklaarde variantie
1. Één afhankelijke variabele het voorspellen van de afhankelijke in de populatie. Aangepast op
(Y) op interval/ratio niveau variabele (Y). basis van steekproefgrootte en
2. Één of meerdere Iedere predictor heeft een eigen predictoren in het model (k)
onafhankelijke variabelen richtingscoëfficiënt (B). De Adjusted R2 corrigeert hiervoor,
(X): De predictoren. gestandaardiseerde altijd lager dan R Squared (R2).
- Op interval/ratio meetniveau richtingscoëfficiënt (Beta) wordt
- Één of meerdere variabelen gebruikt om te kijken welke Dummyvariabelen: Stellen
met twee categorieën predictor de meeste invloed heeft. ons in staat om een multipele
(= dichotoom). B significant, dan Beta ook! regressie analyse uit te voeren
- Één of meer onafhankelijke wanneer er één variabele op
variabelen op nominaal MSmodel nominaal /ordinaal meetniveau
meetniveau met meer dan Toetsingsgrootheid F: is. Hercoderen van de variabele
twee categorieën
MSresdual met 0 (= referentiegroep) en 1.
Dummyvariabelen maken!
Residu: Y (geobserveerde score) – Ŷ
(voorspelde score)
Assumpties Hiërarchische Analyse: Probleem met
regressieanalyse: Er wordt gestart met een basisaantal multicollineariteit:
- Normaal verdeeld; Histogram predictoren, maar dit model wordt Wanneer er een te sterke
(belvorm?) steeds uitgebreid naar meerdere samenhang is tussen de
- Homoscedasticiteit; Levene’s predictoren. Hierbij wordt gekeken of predictoren.
test of spreidingsdiagram het toevoegen van de predictoren - VIF > 10 = probleem
bekijken. Spreiding van zinvol is Kijken naar of er - Tolerance < 0.1 = probleem
residuen per x-waarde gelijk. verbetering is te zien in de verklaarde - Negatieve regressiecoëfficiënt
- Multicolineariteit; Kijken bij variantie. Neemt deze significant toe?
coefficiënts (r > 0.8 is Dan is het zinvol (5%). Kijk naar p- kan hierop duiden.
probleem). waarde behorend bij R square change Aflezen bij ‘coefficients’.
- Uitschieters; Boxplot of
spreidingsdiagram bekijken Delta (∆) wordt gezien als Gevolgen multicollineariteit:
- Lineariteit; Spreidingsdiagram verandering in R2 = R Square Change - Onbetrouwbare
regressiecoëfficiënten (B)
- Afhankelijke variabele op Schattingen van de Beta’s veranderen - Beperkte grootte van R
interval/ratio meetniveau bij toevoeging van predictoren, het is Centreren inzetten om
- Predictoren op interval/ratio niet van te voren te zeggen of ze multicollineariteit tegen te
meetniveau of dichotoom. groter of kleiner worden. gaan.
Interpreteren van de Drie onderdelen: Regressiecoëfficiënt: De
analyse 1. Model summary: Hier wordt de invloed van een bepaalde
Goodness of fit (R2): Zegt iets correlatiecoëfficiënt (R) en de predictor gegeven dat de
over hoe goed het model past determinatie coëfficiënt (R2) andere predictoren niet
bij de geobserveerde gegevens. weergeven. veranderen =
Hoe goed is het model in staat 2. ANOVA tabel: Hier wordt de ongestandaardiseerd.
om variantie te verklaren. significantie getoetst van het
Het beste model is het regressiemodel. Het laat zien hoe Gestandaardiseerde
model met de hoogste R2 = groot de kans is dat alle regressiecoëfficiënt: De
proportie verklaarde variantie. regressiecoëfficiënten in werkelijkheid invloed van een predictor op de
nul zijn en de uitkomst van de afhankelijke variabele in
Effectgrootte: analyse dus op toeval berust. standaardafwijkingen. Te
- R2 = 0.01 Klein effect 3. Coefficients tabel: Informatie over vinden bij ‘Standardized
, - R2 = 0.09 Medium effect de grootte, de aard en de significantie Coëfficiënts Beta’ Gebruiken
- R2 = 0.25 Groot effect van het effect van de onafhankelijke om te bepalen welke predictor
Hoe groter het effect, des te variabele op de afhankelijke de meeste invloed heeft. De
passender het model! variabele. hoogste waarde is de sterkste
predictor, kan zowel – als +.
Hoofdstuk 2 - ANOVA
Uitvoeren van de analyse Enkelvoudige ANOVA: Hoofdeffect: Wanneer er in de
Gehele model: η2 = 0 en η2 > 0 Er is sprake van maar één steekproef verschillen zijn in de
groepsvariabele (factor) met gemiddelden voor de
minimaal 3 categorieën. Het gaat categorieën van een factor.
Per hoofdeffect: hierbij alleen om hoofdeffecten.
- H0: geen effect van A op Y
(µA1 = µA3 = µA1) H0: µ1 = µ2 = µ3
- H1: wel een effect van A op Y H1: Niet alle gemiddelden zijn gelijk.
Interactie-effect: Onafhankelijke variabele (X)
- H0: geen interactie-effect minimaal nominaal meetniveau).
- H1: wel een interactie-effect
Kenmerken Meerweg Meerweg ANOVA: Kijken naar het Interactie-effect: Kijken naar
ANOVA: effect van meerdere groepsvariabelen het effect van de tweede factor
- Afhankelijke variabele (Y) is op een afhankelijke variabele. Er is binnen de categorieën van de
van minimaal interval sprake van twee of meer eerste factor. Effect van de ene
meetniveau. groepsvariabelen met minimaal 2 factor is verschillend voor de
- Onafhankelijke variabelen (X) categorieën. Het gaat om niveaus van de andere factor.
hoofdeffecten en interactie-effect.
worden factoren genoemd. Significant interactie-effect
- Één of meerdere Vraag: ‘Verschillen twee of meer houdt in dat het effect van een
onafhankelijke variabele met groepen op het gemiddelde van bepaalde conditie anders is
twee of meer categorieën; variabele Y?’ voor de verschillende groepen.
minimaal op nominaal
(dichotoom) meetniveau of
minimaal interval meetniveau.
Assumpties ANOVA: Post Hoc toets: Paarsgewijs Vrijheidsgraden:
1. Normaal verdeeld; vergelijken van gemiddelden, wordt n: steekproefgrootte
Histogram (belvorm?) ingezet om te bepalen welke groepen k: aantal groepen
2. Uitschieters; Boxplot of significant verschillen. Mag alleen: dfT: n – 1
spreidingsdiagram bekijken. - Wanneer er een significant resultaat SS
3. Homoscedasticiteit; Levene’s MS:
is gevonden in ANOVA.
df
SStotal (corrected total) = Alle
test of spreidingsdiagram - Alleen bij factoren die uit meer dan
SSeffecten + SSerror
bekijken (= gelijke spreiding) twee groepen bestaan!
4. Onafhankelijkheid van
Corrected total: alle variantie
waarnemingen/scores MSmodel t.o.v. algemeen gemiddelde
1 & 4 belangrijkst Toetsingsgrootheid F:
MSresidual
Interpreteren van de Onderdelen output: Between-subjects factor:
analyse 1. Between-Subjects Factors: Hier Hiermee worden twee
Effectgrootte η2 : staat per factor uit hoeveel verschillende groepen van
- η2 = 0.01 Klein effect mensen de groep bestaat. elkaar onderscheiden
- η2 = 0.09 Medium effect 2. Descriptive Statistics: Hier kan = tussenpersoonsfactor.
- η2 = 0.25 Groot effect worden gekeken naar de
gemiddelden en of er een Tussengroepsvariantie
η2 = Het percentage totale hoofdeffect wordt verwacht. Grote (MSbetween): De spreiding in
variantie verklaard door de verschillen in gemiddelden duiden groepsgemiddelden rondom het
groepsvariabele (soms op een hoofdeffect. algemene gemiddelde.
verklaarde en onverklaarde 3. Levene’s Test of Equality of Error
variantie) (‘eta kwadraad’). Variances: Geeft informatie over Within-subjects factor:
SSmodel de assumptie rondom gelijke Verschillende metingen worden
Berekenen door: spreiding van varianties. Kijken bij binnen dezelfde persoon of
SStotal de output van ‘based on mean’. groep personen onderscheiden.
SS Corected Model delen 4. Tests of Between-Subjects Effects: = binnenpersoonsfactor.
door SS Corected Total! Resultaten van de Meerweg
