Statistiek 4
1. The good old one-way ANOVA
1.1. Data example: Treatment of depression
Major Depressive Disorder (MDD) is een verwoestende stoornis.
De meest voorkomende behandeling van MDD gebeurt via verschillende
vormen van antidepressieve medicatie (ADM) en psychotherapie
Robert J. DeRubeis et al. (2005): gerandomiseerde klinische studie (RCT)
die de effectiviteit van ADM en cognitieve therapie (CT) bij de behandeling
van MDD vergelijkt met placebo
240 patiënten met matige tot ernstige depressie werden willekeurig
toegewezen aan één van drie groepen (60 placebo, 60 CT en 120 ADM)
Cruciale uitkomstmaat: de score op de 17-item Hamilton Depression Rating
Scale (HDRS) in week 8 van de behandeling.
Drop-out: alleen de scores van deelnemers die nog in de studie zaten
worden gebruikt (n = 208)
Grote variabiliteit van scores binnen de drie behandelingsgroepen
Moeilijk om o.b.v. de figuur alleen een conclusie te trekken ⇒
variantieanalyse (ANOVA) wordt gebruikt om de data te analyseren
Met een vooraf vastgelegd significantieniveau α = 0,05 concluderen we
dat er een significant verschil is tussen de 3 groepen (éénweg-ANOVA: F(2,
205) = 3,67, p = 0,027)
Het aandeel variantie dat door de behandeling wordt verklaard is vrij klein
(ω² = 0,03, met een 95%-betrouwbaarheidsinterval van 0 tot 0,08)
1.1.1. Limitations
De differentiële uitval (drop-out) en de daaropvolgende ontbrekende data
kunnen de resultaten hebben beïnvloed
o Relatief meer patiënten vielen uit in de placebo- en CT-groep
o Deze grotere aantallen kunnen te wijten zijn aan het feit dat de
behandelingen niet het gewenste effect hadden
De algemene variantieanalyse (ANOVA) is op zichzelf niet erg informatief
o Ze vertelt ons dat er een verschil is tussen de 3 groepen, maar niet
welke groepen van elkaar verschillen en in welke mate
Er is aanwijzing voor een kleine schending van de normaliteitsaanname
Een lineair model met een normale verdeling voor continue data is slechts
een benadering
o Geobserveerde scores zijn gehele getallen tussen 0 en 34 (we
kunnen geen scores buiten dit bereik of niet-gehele scores
observeren)
1.2. Doel van dit hoofdstuk
ANOVA is een statistische methode om de gemiddelden van meerdere groepen te
vergelijken Het is een veelgebruikt hulpmiddel in de psychologie en een
generalisatie van de onafhankelijke-groepen t-toets, vooral voor het analyseren
van experimenten en RCT’s
1
,1.3. Verkennende data-analyse
Voer eerst verkennende data-analyse uit vóór inferentiële statistiek
(hypothesetoesting, p-waarden berekenen,…)
Direct naar complexe analyses gaan kan fouten of belangrijke patronen
missen
Visualisatie helpt bij het opsporen van codeerfouten, extreme waarden en
interessante trends
Een eenvoudige manier: de eerste rijen van de dataset bekijken
Data kunnen op veel manieren worden gevisualiseerd (bv. individuele punten,
histogrammen)
Histogram= Een grafische weergave van de verdeling van een numerieke
variabele met behulp van balken om de frequentie of telling binnen intervallen
weer te geven
Soms is het patroon zo duidelijk dat statistische analyse niet nodig is
o De data hebben de interocular trauma test doorstaan
Voor het MDD-voorbeeld is dat niet het geval, er is veel variabiliteit binnen
de condities
o Grafieken alleen zijn hier niet genoeg
o Statistiek nodig om ons te helpen bij de inferentie
Trekken van conclusies over een populatie o.b.v.
steekproefgegevens
1.4 Het ANOVA-model: Notatie en interpretatie
yᵢⱼ: score van persoon i in conditie j (i = 1, …, mⱼ en j = 1, …, a)
Omdat mj de index j heeft, wordt aangenomen dat het aantal personen in
de verschillende condities niet gelijk hoeft te zijn
o Als de mⱼ’s niet gelijk zijn, is het ontwerp unbalanced; anders
balanced
De a condities (of groepen) worden ook de levels van de factor genoemd
o Factor: categorische variabele die groepen of condities in een
experiment definieert, vaak gemanipuleerd om het effect ervan op
een uitkomst te bestuderen
a
Totaal aantal deelnemers: n=∑ m j
j=1
mj
∑ y ij → Het steekproefgemiddelde in conditie j
i=1
ý j=
mj
a mj a mj
∑ ∑ y ij ∑ ∑ y ij
j=1 i=1 j=1 i=1
ý= = → Het totale (grand) steekproefgemiddelde over alle
a
n
∑ mj
j=1
condities heen
In het MDD-voorbeeld is de factor de behandeling, met placebo, ADM en CT als
niveaus
Verder geldt: a=3, m1=51, m2=107 , m 3=50 en n=208
2
,Daarnaast: ý=13,4 , ý 1=15,1, ý 2=12,3 en ý 3=13,9
1.5. Statistische inferentie voor het ANOVA-model: Is er een verschil tussen
de condities?
We vragen ons af of de populatiegemiddelden van de condities van elkaar
verschillen. De onderzoeksvraag wordt beantwoord door een vergelijking van
twee (statistische) modellen
1.5.1. Stap 1: Modellen en hypotheses
Het volledige model laat toe dat de populatiegemiddelden per conditie
verschillen:
y ij =μ j+ ϵ ij
Elke observatie bestaat uit:
o Systematisch deel: μ j(het populatiegemiddelde van conditie j )
o Willekeurige afwijking: ϵ ij (de stochastische ϵ ij , of ruis)
Normaal verdeeld met gemiddelde 0 en variantie σ 2
Het gereduceerde model is een speciaal geval waarin alle gemiddelden gelijk
worden verondersteld:
y ij =μ+ϵ ij
De restrictie van het gereduceerde model is:
μ1=μ 2=⋯=μa
Deze restrictie vormt de nulhypothese die wordt getest in ANOVA
Gereduceerde model is genest in het volledige model (dus een
eenvoudiger versie ervan)
Het volledige en het gereduceerde model in Vergelijking 1.1 en 1.2 worden
generatieve modellen genoemd, omdat ze volledig specificeren hoe de scores
op de AV (criterium variabele)
Stel dat jij de Schepper van de Wereld was. Een depressieonderzoeker in jouw
wereld voert een studie uit en wacht dus op data die door jou wordt gecreëerd
Je bepaalt eerst de populatiegemiddelden
o 17, 11 en 13, en de standaarddeviatie is σ =6
Vervolgens maak je data voor patiënt 101
o Je gebruikt het gemiddelde μ2=11
o Vervolgens trek je een willekeurig getal ϵ 12 uit een normale verdeling
met gemiddelde nul en standaarddeviatie 6 (stel dat dit 8 is)
o De geobserveerde score is dan μ2 +ϵ 12=11+ 8=19
o Dit proces herhaal je voor de volgende patiënten.
Parameterestimatie
Populatiegemiddelden in ANOVA worden parameters genoemd, ze hebben een
bepaalde waarde maar zijn onbekend
3
, We nemen een steekproef en doen waarnemingen om deze parameters te
schatten.
De standaardmethode voor schatting in ANOVA is least squares (kleinste
kwadraten)
Doel: de som van de gekwadrateerde verschillen tussen waargenomen
waarden en modelvoorspellingen minimaliseren
Voordat we verdergaan met de schatting via kleinste kwadraten, laten we eerst
enkele aanvullende notaties definiëren:
Geschatte parameters worden aangeduid met een dakje: ^μ, μ
^ 1, enz…
Vanuit deze geschatte parameters kun je een beste voorspelling maken
voor een observatie
o Zo’n voorspelde waarde heet een fitted value (voorspelde waarde/
modelwaarde).
Bv. In het gereduceerde model is de geschatte waarde van het
gemiddelde: ^μ=13.4
o Omdat het gereduceerde model maar één gemiddelde heeft, is de
voorspelde waarde voor elke patiënt: ^y red ,ij = μ^ =13.4 .
Deze fitted value is een modelgebaseerde benadering van de echte
geobserveerde score
Voor het gereduceerde model, wordt de som van gekwadrateerde verschillen
gedefinieerd als:
a mj
QReduced ( μ)=∑ ∑ ¿ ¿ ¿
j=1 i=1
Deze som-van-kwadratenfunctie QReduced ( μ)is een functie van de onbekende
parameter μ
Het verschil y ij −μis het verschil tussen:
o Geobserveerde waarde en de modelvoorspelling.
o Zo’n verschil heet een residu (residual), genoteerd als e ij
Groot residu → model verklaart die observatie slecht
Klein residu → model verklaart die observatie goed
In least-squares worden alle residuen gekwadrateerd voordat ze worden
opgeteld
Vervolgens zoeken we een waarde om de functie QReduced ( μ) te minimaliseren
Een trage, inefficiënte manier is: verschillende waarden van μproberen en
telkens QReduced uitrekenen
Voorbeelden van zulke berekeningen:
Q Reduced (13)=6241
QReduced (13.2)=1398.76
o De kleinste waarde komt bij μ=13.4.
Maar: er bestaan veel efficiëntere methoden dan alles proberen
o De geschatte parameter in het gereduceerde model is: ^μ= ý
→ het totale steekproefgemiddelde.
4
1. The good old one-way ANOVA
1.1. Data example: Treatment of depression
Major Depressive Disorder (MDD) is een verwoestende stoornis.
De meest voorkomende behandeling van MDD gebeurt via verschillende
vormen van antidepressieve medicatie (ADM) en psychotherapie
Robert J. DeRubeis et al. (2005): gerandomiseerde klinische studie (RCT)
die de effectiviteit van ADM en cognitieve therapie (CT) bij de behandeling
van MDD vergelijkt met placebo
240 patiënten met matige tot ernstige depressie werden willekeurig
toegewezen aan één van drie groepen (60 placebo, 60 CT en 120 ADM)
Cruciale uitkomstmaat: de score op de 17-item Hamilton Depression Rating
Scale (HDRS) in week 8 van de behandeling.
Drop-out: alleen de scores van deelnemers die nog in de studie zaten
worden gebruikt (n = 208)
Grote variabiliteit van scores binnen de drie behandelingsgroepen
Moeilijk om o.b.v. de figuur alleen een conclusie te trekken ⇒
variantieanalyse (ANOVA) wordt gebruikt om de data te analyseren
Met een vooraf vastgelegd significantieniveau α = 0,05 concluderen we
dat er een significant verschil is tussen de 3 groepen (éénweg-ANOVA: F(2,
205) = 3,67, p = 0,027)
Het aandeel variantie dat door de behandeling wordt verklaard is vrij klein
(ω² = 0,03, met een 95%-betrouwbaarheidsinterval van 0 tot 0,08)
1.1.1. Limitations
De differentiële uitval (drop-out) en de daaropvolgende ontbrekende data
kunnen de resultaten hebben beïnvloed
o Relatief meer patiënten vielen uit in de placebo- en CT-groep
o Deze grotere aantallen kunnen te wijten zijn aan het feit dat de
behandelingen niet het gewenste effect hadden
De algemene variantieanalyse (ANOVA) is op zichzelf niet erg informatief
o Ze vertelt ons dat er een verschil is tussen de 3 groepen, maar niet
welke groepen van elkaar verschillen en in welke mate
Er is aanwijzing voor een kleine schending van de normaliteitsaanname
Een lineair model met een normale verdeling voor continue data is slechts
een benadering
o Geobserveerde scores zijn gehele getallen tussen 0 en 34 (we
kunnen geen scores buiten dit bereik of niet-gehele scores
observeren)
1.2. Doel van dit hoofdstuk
ANOVA is een statistische methode om de gemiddelden van meerdere groepen te
vergelijken Het is een veelgebruikt hulpmiddel in de psychologie en een
generalisatie van de onafhankelijke-groepen t-toets, vooral voor het analyseren
van experimenten en RCT’s
1
,1.3. Verkennende data-analyse
Voer eerst verkennende data-analyse uit vóór inferentiële statistiek
(hypothesetoesting, p-waarden berekenen,…)
Direct naar complexe analyses gaan kan fouten of belangrijke patronen
missen
Visualisatie helpt bij het opsporen van codeerfouten, extreme waarden en
interessante trends
Een eenvoudige manier: de eerste rijen van de dataset bekijken
Data kunnen op veel manieren worden gevisualiseerd (bv. individuele punten,
histogrammen)
Histogram= Een grafische weergave van de verdeling van een numerieke
variabele met behulp van balken om de frequentie of telling binnen intervallen
weer te geven
Soms is het patroon zo duidelijk dat statistische analyse niet nodig is
o De data hebben de interocular trauma test doorstaan
Voor het MDD-voorbeeld is dat niet het geval, er is veel variabiliteit binnen
de condities
o Grafieken alleen zijn hier niet genoeg
o Statistiek nodig om ons te helpen bij de inferentie
Trekken van conclusies over een populatie o.b.v.
steekproefgegevens
1.4 Het ANOVA-model: Notatie en interpretatie
yᵢⱼ: score van persoon i in conditie j (i = 1, …, mⱼ en j = 1, …, a)
Omdat mj de index j heeft, wordt aangenomen dat het aantal personen in
de verschillende condities niet gelijk hoeft te zijn
o Als de mⱼ’s niet gelijk zijn, is het ontwerp unbalanced; anders
balanced
De a condities (of groepen) worden ook de levels van de factor genoemd
o Factor: categorische variabele die groepen of condities in een
experiment definieert, vaak gemanipuleerd om het effect ervan op
een uitkomst te bestuderen
a
Totaal aantal deelnemers: n=∑ m j
j=1
mj
∑ y ij → Het steekproefgemiddelde in conditie j
i=1
ý j=
mj
a mj a mj
∑ ∑ y ij ∑ ∑ y ij
j=1 i=1 j=1 i=1
ý= = → Het totale (grand) steekproefgemiddelde over alle
a
n
∑ mj
j=1
condities heen
In het MDD-voorbeeld is de factor de behandeling, met placebo, ADM en CT als
niveaus
Verder geldt: a=3, m1=51, m2=107 , m 3=50 en n=208
2
,Daarnaast: ý=13,4 , ý 1=15,1, ý 2=12,3 en ý 3=13,9
1.5. Statistische inferentie voor het ANOVA-model: Is er een verschil tussen
de condities?
We vragen ons af of de populatiegemiddelden van de condities van elkaar
verschillen. De onderzoeksvraag wordt beantwoord door een vergelijking van
twee (statistische) modellen
1.5.1. Stap 1: Modellen en hypotheses
Het volledige model laat toe dat de populatiegemiddelden per conditie
verschillen:
y ij =μ j+ ϵ ij
Elke observatie bestaat uit:
o Systematisch deel: μ j(het populatiegemiddelde van conditie j )
o Willekeurige afwijking: ϵ ij (de stochastische ϵ ij , of ruis)
Normaal verdeeld met gemiddelde 0 en variantie σ 2
Het gereduceerde model is een speciaal geval waarin alle gemiddelden gelijk
worden verondersteld:
y ij =μ+ϵ ij
De restrictie van het gereduceerde model is:
μ1=μ 2=⋯=μa
Deze restrictie vormt de nulhypothese die wordt getest in ANOVA
Gereduceerde model is genest in het volledige model (dus een
eenvoudiger versie ervan)
Het volledige en het gereduceerde model in Vergelijking 1.1 en 1.2 worden
generatieve modellen genoemd, omdat ze volledig specificeren hoe de scores
op de AV (criterium variabele)
Stel dat jij de Schepper van de Wereld was. Een depressieonderzoeker in jouw
wereld voert een studie uit en wacht dus op data die door jou wordt gecreëerd
Je bepaalt eerst de populatiegemiddelden
o 17, 11 en 13, en de standaarddeviatie is σ =6
Vervolgens maak je data voor patiënt 101
o Je gebruikt het gemiddelde μ2=11
o Vervolgens trek je een willekeurig getal ϵ 12 uit een normale verdeling
met gemiddelde nul en standaarddeviatie 6 (stel dat dit 8 is)
o De geobserveerde score is dan μ2 +ϵ 12=11+ 8=19
o Dit proces herhaal je voor de volgende patiënten.
Parameterestimatie
Populatiegemiddelden in ANOVA worden parameters genoemd, ze hebben een
bepaalde waarde maar zijn onbekend
3
, We nemen een steekproef en doen waarnemingen om deze parameters te
schatten.
De standaardmethode voor schatting in ANOVA is least squares (kleinste
kwadraten)
Doel: de som van de gekwadrateerde verschillen tussen waargenomen
waarden en modelvoorspellingen minimaliseren
Voordat we verdergaan met de schatting via kleinste kwadraten, laten we eerst
enkele aanvullende notaties definiëren:
Geschatte parameters worden aangeduid met een dakje: ^μ, μ
^ 1, enz…
Vanuit deze geschatte parameters kun je een beste voorspelling maken
voor een observatie
o Zo’n voorspelde waarde heet een fitted value (voorspelde waarde/
modelwaarde).
Bv. In het gereduceerde model is de geschatte waarde van het
gemiddelde: ^μ=13.4
o Omdat het gereduceerde model maar één gemiddelde heeft, is de
voorspelde waarde voor elke patiënt: ^y red ,ij = μ^ =13.4 .
Deze fitted value is een modelgebaseerde benadering van de echte
geobserveerde score
Voor het gereduceerde model, wordt de som van gekwadrateerde verschillen
gedefinieerd als:
a mj
QReduced ( μ)=∑ ∑ ¿ ¿ ¿
j=1 i=1
Deze som-van-kwadratenfunctie QReduced ( μ)is een functie van de onbekende
parameter μ
Het verschil y ij −μis het verschil tussen:
o Geobserveerde waarde en de modelvoorspelling.
o Zo’n verschil heet een residu (residual), genoteerd als e ij
Groot residu → model verklaart die observatie slecht
Klein residu → model verklaart die observatie goed
In least-squares worden alle residuen gekwadrateerd voordat ze worden
opgeteld
Vervolgens zoeken we een waarde om de functie QReduced ( μ) te minimaliseren
Een trage, inefficiënte manier is: verschillende waarden van μproberen en
telkens QReduced uitrekenen
Voorbeelden van zulke berekeningen:
Q Reduced (13)=6241
QReduced (13.2)=1398.76
o De kleinste waarde komt bij μ=13.4.
Maar: er bestaan veel efficiëntere methoden dan alles proberen
o De geschatte parameter in het gereduceerde model is: ^μ= ý
→ het totale steekproefgemiddelde.
4
