INHOUD
Logica van de eenweg ANOVA ................................................................................................................ 3
Logica van ANOVA ................................................................................................................................... 4
Logica van de een-weg ANOVA ............................................................................................................... 6
Intermezzo ....................................................................................................................................... 6
Rekenen: sum of squares ........................................................................................................................ 7
Rekenen: sum of squares > “Droog formulewerk” ......................................................................... 7
Rekenen: Rekenvoorbeeld ............................................................................................................ 10
Herhaling en samenvatting ANOVA ...................................................................................................... 14
Voorbeeld ...................................................................................................................................... 15
Assumpties van de ANOVA.................................................................................................................... 18
SPSS Output ANOVA .............................................................................................................................. 18
Consequenties van schendingen van de assumpties ............................................................................ 21
Effect size............................................................................................................................................... 22
Samenvattend ....................................................................................................................................... 23
Voorbeelddata ....................................................................................................................................... 24
Assumpties van PEarsons correlatie (r) ................................................................................................. 25
Voorbeelden van associaties ............................................................................................................. 25
Invloed van outliers (assumptie 4) .................................................................................................... 27
Verdelingsassumpties, assumptie 3 .................................................................................................. 29
Homoscedasticiteit, assumptie 5 ..................................................................................................... 30
Hoe wordt Pearson’s r berekend?......................................................................................................... 31
Methode 1: Standaardscore formule ................................................................................................ 31
Methode 2: Via covariantie tussen X en Y ......................................................................................... 32
Sterkte van Pearson’s correlatiecoëfficiënt (r) is gerelateerd aan patronen data................................ 33
Is de samenhang significant? ................................................................................................................ 34
Pearson’s r in SPSS................................................................................................................................. 36
Hoe sterk is de samenhang?.............................................................................................................. 37
Veel correlaties & kans op Type I fout .................................................................................................. 37
Factoren die Pearson’s r kunnen beïnvloeden ...................................................................................... 38
Pearson’s r en causale conclusies ......................................................................................................... 40
Wat is een regressieanalyse? (Bivariate of multipele) .......................................................................... 43
wat hebben correlatie en bivariate regressie met elkaar gemeenschappelijk? ................................... 43
Basiselementen van de regressielijn ..................................................................................................... 45
,Hoe wordt de regressie-lijn bepaald? ................................................................................................... 46
Ordinary least squared .......................................................................................................................... 47
Voorbeeld van voorspellingsfout/residu ........................................................................................... 48
Formules om b0 en b te berekenen ...................................................................................................... 49
Hoe ziet de regressievergelijking er in SPSS uit? ................................................................................... 50
Voorbeeld vorospelde waarde en residu .......................................................................................... 52
Partioneren van variantie in bivariate regressie ................................................................................... 53
Standard error of the estimate ............................................................................................................. 62
Herhaling regressieanalyse ................................................................................................................... 64
Toetsen van individuele regressiecoefficienten .................................................................................... 73
Gestandaardiseerde regressiecoefficenten beta .................................................................................. 75
Centreren van onafhankelijke variabelen op het algemene gemiddelde ............................................. 78
Hoe centreren we een onafhankelijke variabele X? ............................................................................. 81
De output: ......................................................................................................................................... 82
Enkele punten om te onthouden .......................................................................................................... 83
Tussendoor (docent was dit eerder vergeten) .................................................................................. 84
Korte samenvatting van gisteren .................................................................................................... 164
Klaar met herhaling ......................................................................................................................... 165
,ONE-WAY BETWEEN-SUBJECTS ANALYSIS OF
VARIANCE (ANOVA)
LOGICA VAN DE EENWEG ANOVA
Conceptueel model:
In een variantieanalyse is de:
- Afhankelijke variabele (Y) = Categorisch.
- Onafhankelijke variabele (X) = Continue gemeten.
Bij dit conceptueel model zouden we de inhoudelijke hypothese kunnen opstellen waarin wordt
gezegd dat de mate van organizational commitment (Y) afhankelijk is van het team waarin iemand
werkt (X).
Als deze hypothese juist is, wat zou je dan moeten vinden met betrekking tot de gemiddelde
commitment tussen de teams? Dan zou je verschillende commitments tussen de teams moeten
vinden.
Stel, we hebben data verzameld met meting van organizational commitment bij 3 teams. Daarbij
hebben we 2 scenario’s wat betreft de data:
,Je ziet:
- In deze twee scenario’s hebben de teams dezelfde gemiddelde score.
- De spreiding van de scores voor elk team verschilt tussen de scenario’s.
In welk van de scenario’s zie je duidelijker verschillen tussen de teams? Je ziet dit duidelijker in
scenario 2, omdat de verschillen binnen de teams in scenario 2 veel minder groot zijn. In scenario 1
heb je veel meer spreiding binnen de verschillende teams en daardoor is er wat overlap tussen de
scores en de teams. In scenario 2 zie je de verschillen veel duidelijker naar voren komen.
De les die je hieruit trekt: De variantieanalyse kijkt naar de verschillen tussen groepen, én verschillen
binnen groepen, en gaat die aan elkaar relateren. Het centrale idee bij de variantieanalyse is dat
indien we twee of meer groepen onderscheiden kunnen we dan een uitspraak doen over de
mogelijke significante verschillen tussen de gemiddelden van groepen?
LOGICA VAN ANOVA
Variantieanalyse analyseer de verhouding van de twee componenten van de totale variantie in de
totale groep van de data, namelijk tussengroepvariantie en binnengroepvariantie. Specifiek gaat de
ANOVA een bepaalde ratio uitrekenen, namelijk de verhouding tussen de variantie in de gemiddelde
score tussen groepen en informatie over de variatie van scores binnen groepen.
, - Tussengroepvariantie = Meet systematische verschillen tussen groepen én alle andere
variabelen die zowel systematisch als toevallig van invloed zijn op Y (‘residual variance’ of
‘error’). Pikt een mogelijk tussengroepsverschil op en error.
- Binnengroepvarianatie = Meet de invloed van alle andere variabelen die zowel systematisch
als toevallig van invloed zijn op Y (‘residual variance’ of ‘error’). Pikt eigenlijk alleen maar
error op.
Belangrijke punten om in te zien:
1. Alle verschillen binnen een groep kunnen niet worden verklaard door verschillen tussen
groepen.
Waarom niet? Iedereen die behoort tot een bepaalde groep heeft dezelfde groepsscore;
verschillen binnen groepen moeten daarom worden toegeschreven aan systematische niet-
gemeten factoren binnen groepen (bijvoorbeeld verschillen tussen personen; man/vrouw,
opleidingsniveau etc.) of toevallige factoren.
2. Geobserveerde verschillen tussen groepen wijzen waarschijnlijk niet alleen op pure
tussengroep verschillen, maar ook op systematische niet gemeten factoren of toevallige
factoren (error).
Kortom: we vergelijken eigenlijk variantie tussen groepen (=systematisch groeps-effect + error) met
variantie binnen groepen (=error) om iets te leren over de omvang van het systematische
groepseffect!
Dus in beide termen heb je een error, maar bij de tussengroepsvariantie heb je ook de mogelijkheid
dat er pure groepseffecten bestaan.
Je hebt dus een afhankelijke variabele Y, X is teamlidmaatschap, ε error is de niet gemeten
systematisch verklarende of toevallig van invloed zijnde factoren. Dit gaan we dus uit elkaar trekken
bij de ANOVA analyse. We willen als het ware het aandeel variantie bepalen dat kan worden
toegewezen aan systematische verschillen tussen groepen.
, LOGICA VAN DE EEN-WEG ANOVA
Als je een hypothese gaat onderzoeken dan moet je daar een statistische nulhypothese bij
formuleren. Deze statistische nulhypothese ( ) hebben twee verschijningsvormen:
1. Iets in de populatie is gelijk aan nul.
2. Grootheden in de populatie zijn aan elkaar gelijk. < Dit is wat wordt gebruikt bij de eenweg
ANOVA.
Statetische nulhypothese one-way between subjects ANOVA: Gemiddelden van k populaties
waarmee groepen in de studie corresponderen zijn allemaal aan elkaar gelijk:
De alternatieve hypothese ( ) is hierbij niet dat alle groepsgemiddeldes van elkaar zullen
verschillen in de populatie. De alternatieve hypothese is dat er ten minste twee groepen significant
van elkaar zullen verschillen en mogelijk meer, maar niet alle gemiddeldes moeten noodzakelijk van
elkaar verschillen in een ANOVA. A
INTERMEZZO
Waarom liever Oneway Between-S ANOVA en niet allemaal losse t-toetsjes voor gemiddelden? In ons
voorbeeld met 3 teams zouden we ook 3 afzonderlijke t-toetsen voor gemiddelden kunnen uitvoeren
(bij de ANOVA voer je één toets uit):
Probleem van deze aanpak: Hoe groter het aantal toetsen dat wordt uitgevoerd op een dataset, des
te groter de kans dat we de nulhypothese verwerpen terwijl deze juist is (Type I fout, alfa α , 5%).
Waarom? Volgt uit logica van hypothesetoetsing: we verwerpen de nulhypothese als een resultaat
uitzonderlijk is, maar hoe meer toetsen we uitvoeren, des te eenvoudiger is het om uitzonderlijke
resultaten te vinden.
Men maakt dus makkelijker de fout om te concluderen dat er een effect is terwijl het er niet is.
Deze situatie, waarbij dat significantieniveau alfa (α) niet meer klopt, heet: ‘inflated risk of Type I
error’.
Hoe werkt dat dan? Hier heb je een illustratieve formule. Deze formule wordt gebruikt voor
berekening op kans op 1 of meer Type I fouten bij een reeks van C toetsen met significantieniveau α:
Logica van de eenweg ANOVA ................................................................................................................ 3
Logica van ANOVA ................................................................................................................................... 4
Logica van de een-weg ANOVA ............................................................................................................... 6
Intermezzo ....................................................................................................................................... 6
Rekenen: sum of squares ........................................................................................................................ 7
Rekenen: sum of squares > “Droog formulewerk” ......................................................................... 7
Rekenen: Rekenvoorbeeld ............................................................................................................ 10
Herhaling en samenvatting ANOVA ...................................................................................................... 14
Voorbeeld ...................................................................................................................................... 15
Assumpties van de ANOVA.................................................................................................................... 18
SPSS Output ANOVA .............................................................................................................................. 18
Consequenties van schendingen van de assumpties ............................................................................ 21
Effect size............................................................................................................................................... 22
Samenvattend ....................................................................................................................................... 23
Voorbeelddata ....................................................................................................................................... 24
Assumpties van PEarsons correlatie (r) ................................................................................................. 25
Voorbeelden van associaties ............................................................................................................. 25
Invloed van outliers (assumptie 4) .................................................................................................... 27
Verdelingsassumpties, assumptie 3 .................................................................................................. 29
Homoscedasticiteit, assumptie 5 ..................................................................................................... 30
Hoe wordt Pearson’s r berekend?......................................................................................................... 31
Methode 1: Standaardscore formule ................................................................................................ 31
Methode 2: Via covariantie tussen X en Y ......................................................................................... 32
Sterkte van Pearson’s correlatiecoëfficiënt (r) is gerelateerd aan patronen data................................ 33
Is de samenhang significant? ................................................................................................................ 34
Pearson’s r in SPSS................................................................................................................................. 36
Hoe sterk is de samenhang?.............................................................................................................. 37
Veel correlaties & kans op Type I fout .................................................................................................. 37
Factoren die Pearson’s r kunnen beïnvloeden ...................................................................................... 38
Pearson’s r en causale conclusies ......................................................................................................... 40
Wat is een regressieanalyse? (Bivariate of multipele) .......................................................................... 43
wat hebben correlatie en bivariate regressie met elkaar gemeenschappelijk? ................................... 43
Basiselementen van de regressielijn ..................................................................................................... 45
,Hoe wordt de regressie-lijn bepaald? ................................................................................................... 46
Ordinary least squared .......................................................................................................................... 47
Voorbeeld van voorspellingsfout/residu ........................................................................................... 48
Formules om b0 en b te berekenen ...................................................................................................... 49
Hoe ziet de regressievergelijking er in SPSS uit? ................................................................................... 50
Voorbeeld vorospelde waarde en residu .......................................................................................... 52
Partioneren van variantie in bivariate regressie ................................................................................... 53
Standard error of the estimate ............................................................................................................. 62
Herhaling regressieanalyse ................................................................................................................... 64
Toetsen van individuele regressiecoefficienten .................................................................................... 73
Gestandaardiseerde regressiecoefficenten beta .................................................................................. 75
Centreren van onafhankelijke variabelen op het algemene gemiddelde ............................................. 78
Hoe centreren we een onafhankelijke variabele X? ............................................................................. 81
De output: ......................................................................................................................................... 82
Enkele punten om te onthouden .......................................................................................................... 83
Tussendoor (docent was dit eerder vergeten) .................................................................................. 84
Korte samenvatting van gisteren .................................................................................................... 164
Klaar met herhaling ......................................................................................................................... 165
,ONE-WAY BETWEEN-SUBJECTS ANALYSIS OF
VARIANCE (ANOVA)
LOGICA VAN DE EENWEG ANOVA
Conceptueel model:
In een variantieanalyse is de:
- Afhankelijke variabele (Y) = Categorisch.
- Onafhankelijke variabele (X) = Continue gemeten.
Bij dit conceptueel model zouden we de inhoudelijke hypothese kunnen opstellen waarin wordt
gezegd dat de mate van organizational commitment (Y) afhankelijk is van het team waarin iemand
werkt (X).
Als deze hypothese juist is, wat zou je dan moeten vinden met betrekking tot de gemiddelde
commitment tussen de teams? Dan zou je verschillende commitments tussen de teams moeten
vinden.
Stel, we hebben data verzameld met meting van organizational commitment bij 3 teams. Daarbij
hebben we 2 scenario’s wat betreft de data:
,Je ziet:
- In deze twee scenario’s hebben de teams dezelfde gemiddelde score.
- De spreiding van de scores voor elk team verschilt tussen de scenario’s.
In welk van de scenario’s zie je duidelijker verschillen tussen de teams? Je ziet dit duidelijker in
scenario 2, omdat de verschillen binnen de teams in scenario 2 veel minder groot zijn. In scenario 1
heb je veel meer spreiding binnen de verschillende teams en daardoor is er wat overlap tussen de
scores en de teams. In scenario 2 zie je de verschillen veel duidelijker naar voren komen.
De les die je hieruit trekt: De variantieanalyse kijkt naar de verschillen tussen groepen, én verschillen
binnen groepen, en gaat die aan elkaar relateren. Het centrale idee bij de variantieanalyse is dat
indien we twee of meer groepen onderscheiden kunnen we dan een uitspraak doen over de
mogelijke significante verschillen tussen de gemiddelden van groepen?
LOGICA VAN ANOVA
Variantieanalyse analyseer de verhouding van de twee componenten van de totale variantie in de
totale groep van de data, namelijk tussengroepvariantie en binnengroepvariantie. Specifiek gaat de
ANOVA een bepaalde ratio uitrekenen, namelijk de verhouding tussen de variantie in de gemiddelde
score tussen groepen en informatie over de variatie van scores binnen groepen.
, - Tussengroepvariantie = Meet systematische verschillen tussen groepen én alle andere
variabelen die zowel systematisch als toevallig van invloed zijn op Y (‘residual variance’ of
‘error’). Pikt een mogelijk tussengroepsverschil op en error.
- Binnengroepvarianatie = Meet de invloed van alle andere variabelen die zowel systematisch
als toevallig van invloed zijn op Y (‘residual variance’ of ‘error’). Pikt eigenlijk alleen maar
error op.
Belangrijke punten om in te zien:
1. Alle verschillen binnen een groep kunnen niet worden verklaard door verschillen tussen
groepen.
Waarom niet? Iedereen die behoort tot een bepaalde groep heeft dezelfde groepsscore;
verschillen binnen groepen moeten daarom worden toegeschreven aan systematische niet-
gemeten factoren binnen groepen (bijvoorbeeld verschillen tussen personen; man/vrouw,
opleidingsniveau etc.) of toevallige factoren.
2. Geobserveerde verschillen tussen groepen wijzen waarschijnlijk niet alleen op pure
tussengroep verschillen, maar ook op systematische niet gemeten factoren of toevallige
factoren (error).
Kortom: we vergelijken eigenlijk variantie tussen groepen (=systematisch groeps-effect + error) met
variantie binnen groepen (=error) om iets te leren over de omvang van het systematische
groepseffect!
Dus in beide termen heb je een error, maar bij de tussengroepsvariantie heb je ook de mogelijkheid
dat er pure groepseffecten bestaan.
Je hebt dus een afhankelijke variabele Y, X is teamlidmaatschap, ε error is de niet gemeten
systematisch verklarende of toevallig van invloed zijnde factoren. Dit gaan we dus uit elkaar trekken
bij de ANOVA analyse. We willen als het ware het aandeel variantie bepalen dat kan worden
toegewezen aan systematische verschillen tussen groepen.
, LOGICA VAN DE EEN-WEG ANOVA
Als je een hypothese gaat onderzoeken dan moet je daar een statistische nulhypothese bij
formuleren. Deze statistische nulhypothese ( ) hebben twee verschijningsvormen:
1. Iets in de populatie is gelijk aan nul.
2. Grootheden in de populatie zijn aan elkaar gelijk. < Dit is wat wordt gebruikt bij de eenweg
ANOVA.
Statetische nulhypothese one-way between subjects ANOVA: Gemiddelden van k populaties
waarmee groepen in de studie corresponderen zijn allemaal aan elkaar gelijk:
De alternatieve hypothese ( ) is hierbij niet dat alle groepsgemiddeldes van elkaar zullen
verschillen in de populatie. De alternatieve hypothese is dat er ten minste twee groepen significant
van elkaar zullen verschillen en mogelijk meer, maar niet alle gemiddeldes moeten noodzakelijk van
elkaar verschillen in een ANOVA. A
INTERMEZZO
Waarom liever Oneway Between-S ANOVA en niet allemaal losse t-toetsjes voor gemiddelden? In ons
voorbeeld met 3 teams zouden we ook 3 afzonderlijke t-toetsen voor gemiddelden kunnen uitvoeren
(bij de ANOVA voer je één toets uit):
Probleem van deze aanpak: Hoe groter het aantal toetsen dat wordt uitgevoerd op een dataset, des
te groter de kans dat we de nulhypothese verwerpen terwijl deze juist is (Type I fout, alfa α , 5%).
Waarom? Volgt uit logica van hypothesetoetsing: we verwerpen de nulhypothese als een resultaat
uitzonderlijk is, maar hoe meer toetsen we uitvoeren, des te eenvoudiger is het om uitzonderlijke
resultaten te vinden.
Men maakt dus makkelijker de fout om te concluderen dat er een effect is terwijl het er niet is.
Deze situatie, waarbij dat significantieniveau alfa (α) niet meer klopt, heet: ‘inflated risk of Type I
error’.
Hoe werkt dat dan? Hier heb je een illustratieve formule. Deze formule wordt gebruikt voor
berekening op kans op 1 of meer Type I fouten bij een reeks van C toetsen met significantieniveau α:
