UITWERKING HOORCOLLEGES / WERKCOLLEGES
~ Verdieping in onderzoeksmethoden en statistiek (VOS) ~
Inhoud
HOORCOLLEGE 1 Multipele regressie.....................................................................................................1
HOORCOLLEGE 2 Meerweg ANOVA........................................................................................................4
HOORCOLLEGE 3 ANCOVA......................................................................................................................6
HOORCOLLEGE 4 Herhaalde metingen en Mixed design........................................................................9
HOORCOLLEGE 5 Moderatie- en mediatieanalyse................................................................................11
HOORCOLLEGE 6 Factoranalyse en betrouwbaarheidsanalyse............................................................12
WERKCOLLEGE 1...................................................................................................................................16
WERKCOLLEGE 2...................................................................................................................................16
WERKCOLLEGE 3...................................................................................................................................18
HOORCOLLEGE 1 Multipele regressie
Multipele regressie is een analysetechniek waarbij meerdere factoren een variabele
verklaren. Je kijkt daarbij naar een grote verzameling van invloeden die iets verklaren, en het
belangrijkste: welke verklaart het meeste?
De onderzoeksvraag bij multipele regressieanalyse is: Kunnen we iemands waarde op een
kenmerk voorspellen met kennis over andere kenmerken?
Doelen bij multipele regressieanalyse:
- Het beschrijven van relaties tussen variabelen (regressiemodel).
- Het toetsen van hypothesen over relaties (significantie).
- Het kwantificeren van relaties (effectgrootte).
- Het kwalificeren van relaties (klein, middelmatig, groot).
- Het beoordelen van relaties (subjectief).
- Het voorspellen van iemands waarde met een regressiemodel (puntschatting en
intervalschatting).
Let op: doe op basis van statistische samenhang geen uitspraken over causaliteit. Alle
informatie wordt op hetzelfde moment verzameld en het is geen longitudinaal onderzoek. Je
weet dus niet zeker wat er eerst was (temporal precedence).
Meetniveaus van variabelen (NOIR): Nominaal, Ordinaal, Interval, Ratio.
Afhankelijke variabele Y: gaan we voorspellen.
Onafhankelijke variabele X: voorspeller.
Bij multipele regressie is de…
- …afhankelijke variabele Y van minimaal interval meetniveau.
- …onafhankelijke variabele X van minimaal interval meetniveau of dichotoom. Een
dichotome variabele is een variabele van categorisch / nominaal meetniveau met twee
categorieën, bijv. sekse (man en vrouw). Als we te maken hebben met een categorisch
kenmerk met meer dan twee categorieën, moet deze omgezet worden in
dummyvariabelen.
Regressiemodel
- Modelvergelijking voor de geobserveerde variabele Y:
1
, Je houdt hier altijd een
voorspellingsfout over. De voorspellingsfout is hetzelfde als het residu. Model (X) is een
lineair regressiemodel; een rechte lijn.
- Regressievergelijking voor het voorspellen van de waarde op Ŷ:
Ŷ is de geschatte Y. Deze kun je schatten als je
de waarde van iemand op X weet.
Dus: model (X) geeft alleen de schatting, het model + voorspellingsfout geeft de
geobserveerde waarde. Als we model (X)
uitschrijven krijgen we de formule in het
plaatje.
B in combinatie met X zijn de waarden
die iets zeggen over de relatie tussen X en Y. mensen verschillen op X (variabele
varieert), B is hetzelfde voor iedereen.
Regressie in grafieken
Histogram:
X-as: de mogelijke waarden van een variabele.
Y-as: frequentie van die waarden.
Spreidingsdiagram:
Rechte lijn is de best passende regressielijn volgens het
kleinste kwadraten criterium.
Vergelijking van de lijn:
B0 is het beginpunt van de lijn (constante).
B1 is de regressiecoëfficiënt. Hoeveel de lijn per eenheid
van X omhoog/omlaag gaat.
Positief verband Negatief verband Geen verband
2
, Kleinste kwadraten criterium
Aan de hand van dit criterium wordt de regressielijn gezocht. De best passende rechte lijn
door de puntenwolk wordt gekozen; dit is de lijn waarbij de voorspellingsfout / residuen zo
klein mogelijk zijn. Het is dan dus de best mogelijke voorspelling.
Elke persoon heeft een geobserveerde waarde Y, een geschatte waarde Ŷ en een
voorspellingsfout E. Het residu is positief als deze boven de regressielijn ligt: er is dan
sprake van een onderschatting door het model. Het residu is negatief als deze onder de
regressielijn ligt: er is dan sprake van een overschatting door het model. De voorspellingsfout
is dan de afstand tussen de geobserveerde waarde en de voorspelde waarde.
Bij de volgende grafieken zijn de regressielijnen en de formule hetzelfde. Toch is er verschil:
De residuen zijn hier klein. Daardoor is de De residuen zijn hier groot. Daardoor zijn de
voorspelling nauwkeuriger. voorspellingen minder nauwkeurig.
Om de best passende regressielijn te vinden, wordt de methode Goodness-of-fit gebruikt.
Het beste model is het model / de regressielijn met de kleinste residuele kwadratensom. De
goodness-of-fit (R2) bepalen we door de regressielijn te vergelijken met het basismodel (het
gemiddelde).
R2 is de proportie door X verklaarde variantie in Y en bereken je door de kwadratensom van
het hele model deelt door de totale kwadratensom. Het bereik van R 2 ligt tussen de 0 en 1.
Als R2 1 is betekent dat een perfecte verklaring van Y door X en bij een R 2 van 0 voorspelt
het regressiemodel niets.
Interpretaties R en R2
- Multipele correlatiecoëfficiënt R: correlatie / samenhang tussen geobserveerde Y en Ŷ.
- Determinatiecoëfficiënt R2: proportie in Y verklaarde variantie door het model (X).
3
~ Verdieping in onderzoeksmethoden en statistiek (VOS) ~
Inhoud
HOORCOLLEGE 1 Multipele regressie.....................................................................................................1
HOORCOLLEGE 2 Meerweg ANOVA........................................................................................................4
HOORCOLLEGE 3 ANCOVA......................................................................................................................6
HOORCOLLEGE 4 Herhaalde metingen en Mixed design........................................................................9
HOORCOLLEGE 5 Moderatie- en mediatieanalyse................................................................................11
HOORCOLLEGE 6 Factoranalyse en betrouwbaarheidsanalyse............................................................12
WERKCOLLEGE 1...................................................................................................................................16
WERKCOLLEGE 2...................................................................................................................................16
WERKCOLLEGE 3...................................................................................................................................18
HOORCOLLEGE 1 Multipele regressie
Multipele regressie is een analysetechniek waarbij meerdere factoren een variabele
verklaren. Je kijkt daarbij naar een grote verzameling van invloeden die iets verklaren, en het
belangrijkste: welke verklaart het meeste?
De onderzoeksvraag bij multipele regressieanalyse is: Kunnen we iemands waarde op een
kenmerk voorspellen met kennis over andere kenmerken?
Doelen bij multipele regressieanalyse:
- Het beschrijven van relaties tussen variabelen (regressiemodel).
- Het toetsen van hypothesen over relaties (significantie).
- Het kwantificeren van relaties (effectgrootte).
- Het kwalificeren van relaties (klein, middelmatig, groot).
- Het beoordelen van relaties (subjectief).
- Het voorspellen van iemands waarde met een regressiemodel (puntschatting en
intervalschatting).
Let op: doe op basis van statistische samenhang geen uitspraken over causaliteit. Alle
informatie wordt op hetzelfde moment verzameld en het is geen longitudinaal onderzoek. Je
weet dus niet zeker wat er eerst was (temporal precedence).
Meetniveaus van variabelen (NOIR): Nominaal, Ordinaal, Interval, Ratio.
Afhankelijke variabele Y: gaan we voorspellen.
Onafhankelijke variabele X: voorspeller.
Bij multipele regressie is de…
- …afhankelijke variabele Y van minimaal interval meetniveau.
- …onafhankelijke variabele X van minimaal interval meetniveau of dichotoom. Een
dichotome variabele is een variabele van categorisch / nominaal meetniveau met twee
categorieën, bijv. sekse (man en vrouw). Als we te maken hebben met een categorisch
kenmerk met meer dan twee categorieën, moet deze omgezet worden in
dummyvariabelen.
Regressiemodel
- Modelvergelijking voor de geobserveerde variabele Y:
1
, Je houdt hier altijd een
voorspellingsfout over. De voorspellingsfout is hetzelfde als het residu. Model (X) is een
lineair regressiemodel; een rechte lijn.
- Regressievergelijking voor het voorspellen van de waarde op Ŷ:
Ŷ is de geschatte Y. Deze kun je schatten als je
de waarde van iemand op X weet.
Dus: model (X) geeft alleen de schatting, het model + voorspellingsfout geeft de
geobserveerde waarde. Als we model (X)
uitschrijven krijgen we de formule in het
plaatje.
B in combinatie met X zijn de waarden
die iets zeggen over de relatie tussen X en Y. mensen verschillen op X (variabele
varieert), B is hetzelfde voor iedereen.
Regressie in grafieken
Histogram:
X-as: de mogelijke waarden van een variabele.
Y-as: frequentie van die waarden.
Spreidingsdiagram:
Rechte lijn is de best passende regressielijn volgens het
kleinste kwadraten criterium.
Vergelijking van de lijn:
B0 is het beginpunt van de lijn (constante).
B1 is de regressiecoëfficiënt. Hoeveel de lijn per eenheid
van X omhoog/omlaag gaat.
Positief verband Negatief verband Geen verband
2
, Kleinste kwadraten criterium
Aan de hand van dit criterium wordt de regressielijn gezocht. De best passende rechte lijn
door de puntenwolk wordt gekozen; dit is de lijn waarbij de voorspellingsfout / residuen zo
klein mogelijk zijn. Het is dan dus de best mogelijke voorspelling.
Elke persoon heeft een geobserveerde waarde Y, een geschatte waarde Ŷ en een
voorspellingsfout E. Het residu is positief als deze boven de regressielijn ligt: er is dan
sprake van een onderschatting door het model. Het residu is negatief als deze onder de
regressielijn ligt: er is dan sprake van een overschatting door het model. De voorspellingsfout
is dan de afstand tussen de geobserveerde waarde en de voorspelde waarde.
Bij de volgende grafieken zijn de regressielijnen en de formule hetzelfde. Toch is er verschil:
De residuen zijn hier klein. Daardoor is de De residuen zijn hier groot. Daardoor zijn de
voorspelling nauwkeuriger. voorspellingen minder nauwkeurig.
Om de best passende regressielijn te vinden, wordt de methode Goodness-of-fit gebruikt.
Het beste model is het model / de regressielijn met de kleinste residuele kwadratensom. De
goodness-of-fit (R2) bepalen we door de regressielijn te vergelijken met het basismodel (het
gemiddelde).
R2 is de proportie door X verklaarde variantie in Y en bereken je door de kwadratensom van
het hele model deelt door de totale kwadratensom. Het bereik van R 2 ligt tussen de 0 en 1.
Als R2 1 is betekent dat een perfecte verklaring van Y door X en bij een R 2 van 0 voorspelt
het regressiemodel niets.
Interpretaties R en R2
- Multipele correlatiecoëfficiënt R: correlatie / samenhang tussen geobserveerde Y en Ŷ.
- Determinatiecoëfficiënt R2: proportie in Y verklaarde variantie door het model (X).
3
