Literatuur week 8 – H17 MANOVA
(Multivariate Analysis of Variance)
Inleiding tot MANOVA
In de voorgaande hoofdstukken (10–16) is besproken hoe het algemene
lineaire model kan worden gebruikt om groepsverschillen op een enkele
afhankelijke variabele te detecteren. Soms willen onderzoekers echter meerdere
afhankelijke variabelen tegelijkertijd analyseren. In dat geval wordt Multivariate
Analysis of Variance (MANOVA) gebruikt.
MANOVA is een uitbreiding van het lineaire model en kan worden toegepast bij:
Één of meerdere onafhankelijke (predictor) variabelen.
Het onderzoeken van interacties tussen afhankelijke variabelen.
Contrasten om te bepalen welke groepen van elkaar verschillen.
Wanneer slechts één afhankelijke variabele wordt geanalyseerd, wordt het
model univariate genoemd. Bij meerdere afhankelijke variabelen spreken
we van een multivariaat model.
Waarom MANOVA gebruiken in plaats van afzonderlijke ANOVA’s?
Het is mogelijk om voor elke afhankelijke variabele een aparte ANOVA uit te
voeren, maar dit heeft nadelen:
Type I-fout accumulatie:
Bij meerdere toetsen op dezelfde dataset stijgt de kans op een foutieve
verwerping van de nulhypothese (zoals uitgelegd in sectie 2.9.7).
Verlies van informatie:
Wanneer afzonderlijke modellen worden gebruikt, wordt de relatie tussen
afhankelijke variabelen genegeerd. MANOVA houdt hier juist rekening
mee en behoudt deze belangrijke informatie.
Meer dimensies kunnen analyseren:
Een afzonderlijke ANOVA kan alleen groepsverschillen in één dimensie meten.
MANOVA kan echter verschillen in combinaties van dimensies
detecteren.
Voorbeeld van MANOVA
Stel dat onderzoekers willen vaststellen of gehuwden, samenwonenden en
alleenstaanden verschillen in geluk. Geluk is een complex concept en kan op
meerdere manieren worden gemeten, zoals:
Geluk met werk
Sociaal geluk
Seksuele tevredenheid
Zelfvertrouwen (zelfwaardering)
Een univariate ANOVA zou slechts één aspect van geluk testen en mogelijk geen
significante verschillen vinden tussen de groepen. MANOVA daarentegen kan
,kijken naar de combinatie van al deze dimensies, waardoor er een grotere
kans is om groepsverschillen te ontdekken.
Keuze van afhankelijke variabelen
Hoewel MANOVA krachtig is, betekent dit niet dat men willekeurig veel
afhankelijke variabelen kan opnemen. Dit zou kunnen leiden tot p-hacking,
waarbij onderzoekers te veel toetsen uitvoeren zonder theoretische
rechtvaardiging.
Belangrijke richtlijnen voor het kiezen van afhankelijke variabelen in
MANOVA:
Alleen variabelen opnemen waarvoor een sterke theoretische of
empirische reden bestaat om ze samen te analyseren.
Vermijden dat irrelevante variabelen worden meegenomen, omdat dit de
resultaten kan vervuilen.
Als sommige variabelen theoretisch geen verband houden, dan is het beter
om afzonderlijke modellen te gebruiken.
De kracht van MANOVA
In theorie heeft MANOVA een grotere statistische kracht (power) dan
ANOVA omdat het rekening houdt met de correlaties tussen afhankelijke
variabelen (Huberty & Morris, 1989). Echter, dit is een complex onderwerp en
de bevindingen in de literatuur zijn tegenstrijdig:
Sommige studies tonen aan dat de kracht afneemt als de correlatie tussen
afhankelijke variabelen toeneemt.
Andere studies suggereren juist dat hoge correlaties de kracht van MANOVA
vergroten in vergelijking met matige correlaties (Stevens, 1980).
Factoren die de kracht van MANOVA beïnvloeden
Volgens onderzoek van Cole, Maxwell, Arvey en Salas (1994) zijn er bepaalde
factoren die bepalen of MANOVA daadwerkelijk krachtiger is:
Verwachte effectgrootte:
v Als onderzoekers een groot effect verwachten, dan zal MANOVA
krachtiger zijn als de afhankelijke variabelen enigszins verschillend zijn
(zelfs negatief gecorreleerd).
v Als de groepsverschillen in dezelfde richting gaan voor alle afhankelijke
variabelen, dan vergroot dit de kans om significante effecten te vinden.
Variabele met grote versus kleine groepsverschillen:
v Als één afhankelijke variabele een groot groepsverschil laat zien en een
andere slechts een klein of geen verschil, dan verhoogt een sterke
correlatie tussen deze variabelen de kracht van MANOVA.
Deze bevindingen zijn gebaseerd op situaties waarin twee groepen worden
vergeleken, maar de algemene boodschap is dat de kracht van MANOVA
afhangt van:
De correlatie tussen afhankelijke variabelen.
, De verwachte grootte en richting van de groepsverschillen.
Conclusie
MANOVA is een krachtig statistisch instrument voor het analyseren van meerdere
afhankelijke variabelen tegelijk. Het voorkomt het probleem van Type I-fouten
bij meerdere vergelijkingen en houdt rekening met de relaties tussen
afhankelijke variabelen. Echter, het correct kiezen van afhankelijke variabelen
is cruciaal om betrouwbare resultaten te verkrijgen. Ook kan de kracht van
MANOVA variëren afhankelijk van de correlatie tussen de afhankelijke variabelen
en de grootte van de groepsverschillen.
Inleiding tot Matrices en hun Toepassing in MANOVA
Wat is een matrix?
Een matrix
= een raster van getallen die zijn gerangschikt in rijen en kolommen. De
afmetingen van een matrix worden aangeduid met twee getallen: het aantal rijen
× het aantal kolommen. Bijvoorbeeld:
Een 2 × 3 matrix heeft 2 rijen en 3 kolommen.
Een 5 × 4 matrix heeft 5 rijen en 4 kolommen.
Matrices kunnen worden gebruikt om
= gegevens op een compacte en gestructureerde manier weer te geven.
Bijvoorbeeld, een brede dataset kan worden weergegeven als een matrix
waarbij elke rij de gegevens van een individuele deelnemer bevat en elke
kolom een variabele vertegenwoordigt.
Een vierkante matrix heeft een gelijk aantal rijen en kolommen. Hierbinnen
kunnen we onderscheid maken tussen:
Diagonale elementen: de waarden die zich bevinden op
de diagonaal van linksboven naar rechtsonder.
Off-diagonale elementen: de overige waarden buiten
deze diagonaal.
Een speciale vorm van een vierkante matrix is de identiteitsmatrix
= waarbij alle diagonale elementen gelijk zijn aan 1 en alle off-diagonale
elementen gelijk zijn aan 0.
, Het belang van matrices in MANOVA
In een univariate analyse (zoals ANOVA) berekenen we een F-statistiek om te
bepalen hoeveel variantie wordt verklaard door de groepen ten opzichte van de
foutvariantie in het model. MANOVA breidt dit concept uit naar meerdere
uitkomstvariabelen, wat extra complexiteit toevoegt.
Omdat we in MANOVA met meerdere uitkomstvariabelen werken, moeten we een
multivariate variant van de som van kwadraten (sum of squares, SS)
gebruiken.
Dit gebeurt met behulp van matrices, genaamd som van kwadraten en
kruisproducten (SSCP) matrices.
Er zijn drie belangrijke SSCP-matrices:
Hypothese SSCP-matrix (H-matrix)
= vertegenwoordigt de systematische variantie, oftewel de variantie die wordt
verklaard door de groepen in het model.
Fout SSCP-matrix (E-matrix)
= vertegenwoordigt de niet-systematische variantie, oftewel de resterende
foutvariantie die niet door het model wordt verklaard.
Totale SSCP-matrix (T-matrix)
= vertegenwoordigt de totale variantie in alle uitkomstvariabelen.
De kruisproducten binnen deze matrices tonen de gecombineerde fout
tussen twee variabelen.
Dit is een niet-gestandaardiseerde schatting van de totale correlatie tussen
variabelen.
Hoe helpt MANOVA bij het analyseren van correlaties?
MANOVA maakt gebruik van deze kruisproducten om rekening te houden met de
correlaties tussen uitkomstvariabelen.
Hierdoor kunnen we niet alleen bepalen of er verschillen zijn tussen groepen,
maar ook hoe deze verschillen zich uiten over meerdere dimensies tegelijk.
Dit geeft MANOVA meer kracht dan een reeks afzonderlijke ANOVA's, omdat
het niet alleen univariate, maar ook multivariate verschillen kan
detecteren.
Later in de analyse worden deze SSCP-matrices gebruikt op een manier die
vergelijkbaar is met de klassieke som van kwadraten (SS) in univariate modellen.
Dit leidt tot de berekening van multivariate teststatistieken, die een
uitbreiding zijn van de F-statistiek en de verhouding weergeven tussen
systematische en onsystematische variantie binnen het model.
(Multivariate Analysis of Variance)
Inleiding tot MANOVA
In de voorgaande hoofdstukken (10–16) is besproken hoe het algemene
lineaire model kan worden gebruikt om groepsverschillen op een enkele
afhankelijke variabele te detecteren. Soms willen onderzoekers echter meerdere
afhankelijke variabelen tegelijkertijd analyseren. In dat geval wordt Multivariate
Analysis of Variance (MANOVA) gebruikt.
MANOVA is een uitbreiding van het lineaire model en kan worden toegepast bij:
Één of meerdere onafhankelijke (predictor) variabelen.
Het onderzoeken van interacties tussen afhankelijke variabelen.
Contrasten om te bepalen welke groepen van elkaar verschillen.
Wanneer slechts één afhankelijke variabele wordt geanalyseerd, wordt het
model univariate genoemd. Bij meerdere afhankelijke variabelen spreken
we van een multivariaat model.
Waarom MANOVA gebruiken in plaats van afzonderlijke ANOVA’s?
Het is mogelijk om voor elke afhankelijke variabele een aparte ANOVA uit te
voeren, maar dit heeft nadelen:
Type I-fout accumulatie:
Bij meerdere toetsen op dezelfde dataset stijgt de kans op een foutieve
verwerping van de nulhypothese (zoals uitgelegd in sectie 2.9.7).
Verlies van informatie:
Wanneer afzonderlijke modellen worden gebruikt, wordt de relatie tussen
afhankelijke variabelen genegeerd. MANOVA houdt hier juist rekening
mee en behoudt deze belangrijke informatie.
Meer dimensies kunnen analyseren:
Een afzonderlijke ANOVA kan alleen groepsverschillen in één dimensie meten.
MANOVA kan echter verschillen in combinaties van dimensies
detecteren.
Voorbeeld van MANOVA
Stel dat onderzoekers willen vaststellen of gehuwden, samenwonenden en
alleenstaanden verschillen in geluk. Geluk is een complex concept en kan op
meerdere manieren worden gemeten, zoals:
Geluk met werk
Sociaal geluk
Seksuele tevredenheid
Zelfvertrouwen (zelfwaardering)
Een univariate ANOVA zou slechts één aspect van geluk testen en mogelijk geen
significante verschillen vinden tussen de groepen. MANOVA daarentegen kan
,kijken naar de combinatie van al deze dimensies, waardoor er een grotere
kans is om groepsverschillen te ontdekken.
Keuze van afhankelijke variabelen
Hoewel MANOVA krachtig is, betekent dit niet dat men willekeurig veel
afhankelijke variabelen kan opnemen. Dit zou kunnen leiden tot p-hacking,
waarbij onderzoekers te veel toetsen uitvoeren zonder theoretische
rechtvaardiging.
Belangrijke richtlijnen voor het kiezen van afhankelijke variabelen in
MANOVA:
Alleen variabelen opnemen waarvoor een sterke theoretische of
empirische reden bestaat om ze samen te analyseren.
Vermijden dat irrelevante variabelen worden meegenomen, omdat dit de
resultaten kan vervuilen.
Als sommige variabelen theoretisch geen verband houden, dan is het beter
om afzonderlijke modellen te gebruiken.
De kracht van MANOVA
In theorie heeft MANOVA een grotere statistische kracht (power) dan
ANOVA omdat het rekening houdt met de correlaties tussen afhankelijke
variabelen (Huberty & Morris, 1989). Echter, dit is een complex onderwerp en
de bevindingen in de literatuur zijn tegenstrijdig:
Sommige studies tonen aan dat de kracht afneemt als de correlatie tussen
afhankelijke variabelen toeneemt.
Andere studies suggereren juist dat hoge correlaties de kracht van MANOVA
vergroten in vergelijking met matige correlaties (Stevens, 1980).
Factoren die de kracht van MANOVA beïnvloeden
Volgens onderzoek van Cole, Maxwell, Arvey en Salas (1994) zijn er bepaalde
factoren die bepalen of MANOVA daadwerkelijk krachtiger is:
Verwachte effectgrootte:
v Als onderzoekers een groot effect verwachten, dan zal MANOVA
krachtiger zijn als de afhankelijke variabelen enigszins verschillend zijn
(zelfs negatief gecorreleerd).
v Als de groepsverschillen in dezelfde richting gaan voor alle afhankelijke
variabelen, dan vergroot dit de kans om significante effecten te vinden.
Variabele met grote versus kleine groepsverschillen:
v Als één afhankelijke variabele een groot groepsverschil laat zien en een
andere slechts een klein of geen verschil, dan verhoogt een sterke
correlatie tussen deze variabelen de kracht van MANOVA.
Deze bevindingen zijn gebaseerd op situaties waarin twee groepen worden
vergeleken, maar de algemene boodschap is dat de kracht van MANOVA
afhangt van:
De correlatie tussen afhankelijke variabelen.
, De verwachte grootte en richting van de groepsverschillen.
Conclusie
MANOVA is een krachtig statistisch instrument voor het analyseren van meerdere
afhankelijke variabelen tegelijk. Het voorkomt het probleem van Type I-fouten
bij meerdere vergelijkingen en houdt rekening met de relaties tussen
afhankelijke variabelen. Echter, het correct kiezen van afhankelijke variabelen
is cruciaal om betrouwbare resultaten te verkrijgen. Ook kan de kracht van
MANOVA variëren afhankelijk van de correlatie tussen de afhankelijke variabelen
en de grootte van de groepsverschillen.
Inleiding tot Matrices en hun Toepassing in MANOVA
Wat is een matrix?
Een matrix
= een raster van getallen die zijn gerangschikt in rijen en kolommen. De
afmetingen van een matrix worden aangeduid met twee getallen: het aantal rijen
× het aantal kolommen. Bijvoorbeeld:
Een 2 × 3 matrix heeft 2 rijen en 3 kolommen.
Een 5 × 4 matrix heeft 5 rijen en 4 kolommen.
Matrices kunnen worden gebruikt om
= gegevens op een compacte en gestructureerde manier weer te geven.
Bijvoorbeeld, een brede dataset kan worden weergegeven als een matrix
waarbij elke rij de gegevens van een individuele deelnemer bevat en elke
kolom een variabele vertegenwoordigt.
Een vierkante matrix heeft een gelijk aantal rijen en kolommen. Hierbinnen
kunnen we onderscheid maken tussen:
Diagonale elementen: de waarden die zich bevinden op
de diagonaal van linksboven naar rechtsonder.
Off-diagonale elementen: de overige waarden buiten
deze diagonaal.
Een speciale vorm van een vierkante matrix is de identiteitsmatrix
= waarbij alle diagonale elementen gelijk zijn aan 1 en alle off-diagonale
elementen gelijk zijn aan 0.
, Het belang van matrices in MANOVA
In een univariate analyse (zoals ANOVA) berekenen we een F-statistiek om te
bepalen hoeveel variantie wordt verklaard door de groepen ten opzichte van de
foutvariantie in het model. MANOVA breidt dit concept uit naar meerdere
uitkomstvariabelen, wat extra complexiteit toevoegt.
Omdat we in MANOVA met meerdere uitkomstvariabelen werken, moeten we een
multivariate variant van de som van kwadraten (sum of squares, SS)
gebruiken.
Dit gebeurt met behulp van matrices, genaamd som van kwadraten en
kruisproducten (SSCP) matrices.
Er zijn drie belangrijke SSCP-matrices:
Hypothese SSCP-matrix (H-matrix)
= vertegenwoordigt de systematische variantie, oftewel de variantie die wordt
verklaard door de groepen in het model.
Fout SSCP-matrix (E-matrix)
= vertegenwoordigt de niet-systematische variantie, oftewel de resterende
foutvariantie die niet door het model wordt verklaard.
Totale SSCP-matrix (T-matrix)
= vertegenwoordigt de totale variantie in alle uitkomstvariabelen.
De kruisproducten binnen deze matrices tonen de gecombineerde fout
tussen twee variabelen.
Dit is een niet-gestandaardiseerde schatting van de totale correlatie tussen
variabelen.
Hoe helpt MANOVA bij het analyseren van correlaties?
MANOVA maakt gebruik van deze kruisproducten om rekening te houden met de
correlaties tussen uitkomstvariabelen.
Hierdoor kunnen we niet alleen bepalen of er verschillen zijn tussen groepen,
maar ook hoe deze verschillen zich uiten over meerdere dimensies tegelijk.
Dit geeft MANOVA meer kracht dan een reeks afzonderlijke ANOVA's, omdat
het niet alleen univariate, maar ook multivariate verschillen kan
detecteren.
Later in de analyse worden deze SSCP-matrices gebruikt op een manier die
vergelijkbaar is met de klassieke som van kwadraten (SS) in univariate modellen.
Dit leidt tot de berekening van multivariate teststatistieken, die een
uitbreiding zijn van de F-statistiek en de verhouding weergeven tussen
systematische en onsystematische variantie binnen het model.
