Statistiek lecture 5 blok 4.4
HOORCOLLEGE 5: ANOVA DEEL 5
Analyse met een independent variabele en één of meerdere categorische variabelen à factors.
ANOVA: COMPARING SEVERAL GROUP MEANS
Voorbeeld: Is er een gemiddeld verschil tussen jongeren die
1. unemployed (= dependent en continu)
2. participating in an education program
3. in a job
…………in terms of quality of life (QL)? (see assignment)
Dus zijn de means different in de drie verschillende variabelen.
Wanneer deze analyse?: bij categorische independent variabelen (factors)
Bij twee continue variabelen dan doe je regressie en geen ANOVA.
Null hypothesis:
• H0: μ1 = μ2 = μ3
• H0: β1 = β2 = 0
We nemen aan dat het gemiddelde quality of life in de verschillende drie groepen hetzelfde zijn.
ANOVA: NOTATIE + ALGEMENE ANOVA
Notatie ANOVA is hetzelfde als regressie met dummies.
ALGEMENE ANOVA
STAP 1: F-test (sign. effect ja of nee? Ja = er is een effect)
H0: μ1 = μ2 = μ3
F-test geeft ons de likelihood (p-waarde) van de data gegeven de H0. Kijkt of er een significant
effect is. Een significant effect geeft aan dat minimaal twee van de gemiddelde (μ1/μ2/μ3)
verschillend zijn. We weten niet welke alleen dat er een verschil is. Als er een significant is dan
ga je kijken bij stap 2 waar het effect dan is.
STAP 2: Contrasts: t-tests of specific hypotheses
Post-hoc tests: Pairwise comparisons, t-tests: e.g.:
H0: μ1 = μ2
H0: μ2 = μ3
H0: μ1 = μ3
à Alleen als de factor meer dan twee levels heeft.
BASIS PRINCIPES ANALYSE VAN VARIANTIES (ALTIJD HETZELFDE)
Rational:
If the ratio is substantially >1 (in that case p <.05 ), we conclude
there is an sign. effect and that the population means differ.
• MSbetween wordt naar gerefereerd als MSmodel (difference
between groups)
• MSWithin wordt naar gerefereerd als MSresidual (variantie within
groups, als deze groot is dan is estimate of mean in group less
precise.
Hoe groter de error variantie, smaller F, groter P, effect less likely to be sign.
1
, Statistiek lecture 5 blok 4.4
F kan gebruikt worden om P te berekenen à geeft ons de likelihood of the data given the H0 is waar.
Waarom willen we dit weten? If we calculate the likelihood of the data under de H0, kunnen we het
bewijs dat we hebben evalueren. Als de p <.05 dan zeggen we dat de likelihood of the data under the
H0 is smaller then 5% dan zeggen we dat het very unlikely is en verwerpen we de H0. P = likelihood of
the data under the H0!
Als H0 waar is: distributies zijn identical (figuur 1 links)
Als we datapunten hiervan pakken (bijv. 7 van elk, rood, blauw en groen) dan zien we een mean
difference, maar lijkt klein. Wat je ziet is niet de verdeling, maar alleen de steekproeven en het
gemiddelde. We zien verschil, maar is dit het resultaat van verschillen in de populatie, of verschillen
door de steekproef?
Als H0 niet waar is: (figuur 2 rechts)
De blauwe groep heeft hoger gemiddelde, dan rood en groen. Dus we hebben effect van de blauwe
groep. Cruciale vraag: als we dit patroon zien, is dat genoeg om te concluderen dat er een effect is in
de populatie? Kunnen we zeggen dat H0 unlikely is? We kijken ook naar variantie naar within de
groep (sd in populatie)
Als variatie between groepen klein is, dan verwachten we dat ook bij within. Als de variantie binnen
groepen groot is, dan verwachten we ook door sampling grote mean differences. Dus niet alleen effect
van populatie maar ook als variantie binnen de groep groot is. Daarom kunnen we schatting van
variantie binnen de groep als meting/evaluatie gebruiken voor precisie van de meting. Dus hoe sterk
zijn de verschillen die we kunnen verwachten als H0 waar is.
ANOVA BY HAND
ANOVA: VOORBEELD
• Suppose we want to evaluate some interventions meant to improve quality of life (QL) in
unemployed youths with intellectual disability, and we distinguish between:
1. Unemployed (waiting list control)
2. Educational program
3. Job
• The Outcome/Dependent Variable (DV) was a self-report questionnaire score on a scale from
1 (poor QL) to 10 (high QL) after being two months in the program (T1QL).
2
HOORCOLLEGE 5: ANOVA DEEL 5
Analyse met een independent variabele en één of meerdere categorische variabelen à factors.
ANOVA: COMPARING SEVERAL GROUP MEANS
Voorbeeld: Is er een gemiddeld verschil tussen jongeren die
1. unemployed (= dependent en continu)
2. participating in an education program
3. in a job
…………in terms of quality of life (QL)? (see assignment)
Dus zijn de means different in de drie verschillende variabelen.
Wanneer deze analyse?: bij categorische independent variabelen (factors)
Bij twee continue variabelen dan doe je regressie en geen ANOVA.
Null hypothesis:
• H0: μ1 = μ2 = μ3
• H0: β1 = β2 = 0
We nemen aan dat het gemiddelde quality of life in de verschillende drie groepen hetzelfde zijn.
ANOVA: NOTATIE + ALGEMENE ANOVA
Notatie ANOVA is hetzelfde als regressie met dummies.
ALGEMENE ANOVA
STAP 1: F-test (sign. effect ja of nee? Ja = er is een effect)
H0: μ1 = μ2 = μ3
F-test geeft ons de likelihood (p-waarde) van de data gegeven de H0. Kijkt of er een significant
effect is. Een significant effect geeft aan dat minimaal twee van de gemiddelde (μ1/μ2/μ3)
verschillend zijn. We weten niet welke alleen dat er een verschil is. Als er een significant is dan
ga je kijken bij stap 2 waar het effect dan is.
STAP 2: Contrasts: t-tests of specific hypotheses
Post-hoc tests: Pairwise comparisons, t-tests: e.g.:
H0: μ1 = μ2
H0: μ2 = μ3
H0: μ1 = μ3
à Alleen als de factor meer dan twee levels heeft.
BASIS PRINCIPES ANALYSE VAN VARIANTIES (ALTIJD HETZELFDE)
Rational:
If the ratio is substantially >1 (in that case p <.05 ), we conclude
there is an sign. effect and that the population means differ.
• MSbetween wordt naar gerefereerd als MSmodel (difference
between groups)
• MSWithin wordt naar gerefereerd als MSresidual (variantie within
groups, als deze groot is dan is estimate of mean in group less
precise.
Hoe groter de error variantie, smaller F, groter P, effect less likely to be sign.
1
, Statistiek lecture 5 blok 4.4
F kan gebruikt worden om P te berekenen à geeft ons de likelihood of the data given the H0 is waar.
Waarom willen we dit weten? If we calculate the likelihood of the data under de H0, kunnen we het
bewijs dat we hebben evalueren. Als de p <.05 dan zeggen we dat de likelihood of the data under the
H0 is smaller then 5% dan zeggen we dat het very unlikely is en verwerpen we de H0. P = likelihood of
the data under the H0!
Als H0 waar is: distributies zijn identical (figuur 1 links)
Als we datapunten hiervan pakken (bijv. 7 van elk, rood, blauw en groen) dan zien we een mean
difference, maar lijkt klein. Wat je ziet is niet de verdeling, maar alleen de steekproeven en het
gemiddelde. We zien verschil, maar is dit het resultaat van verschillen in de populatie, of verschillen
door de steekproef?
Als H0 niet waar is: (figuur 2 rechts)
De blauwe groep heeft hoger gemiddelde, dan rood en groen. Dus we hebben effect van de blauwe
groep. Cruciale vraag: als we dit patroon zien, is dat genoeg om te concluderen dat er een effect is in
de populatie? Kunnen we zeggen dat H0 unlikely is? We kijken ook naar variantie naar within de
groep (sd in populatie)
Als variatie between groepen klein is, dan verwachten we dat ook bij within. Als de variantie binnen
groepen groot is, dan verwachten we ook door sampling grote mean differences. Dus niet alleen effect
van populatie maar ook als variantie binnen de groep groot is. Daarom kunnen we schatting van
variantie binnen de groep als meting/evaluatie gebruiken voor precisie van de meting. Dus hoe sterk
zijn de verschillen die we kunnen verwachten als H0 waar is.
ANOVA BY HAND
ANOVA: VOORBEELD
• Suppose we want to evaluate some interventions meant to improve quality of life (QL) in
unemployed youths with intellectual disability, and we distinguish between:
1. Unemployed (waiting list control)
2. Educational program
3. Job
• The Outcome/Dependent Variable (DV) was a self-report questionnaire score on a scale from
1 (poor QL) to 10 (high QL) after being two months in the program (T1QL).
2
