Tentamen voorbereiding
Oefenvragen is exact hoe het tentamen eruit gaat zien. Output aflezen en geef de juiste
conclusies. Oefen met de werkgroepopdrachten. Het kan ook zijn dat er geen significant resultaat
is.
- Variabele X is niet significant (geen effect) geassocieerd met variabele Y
- Scores op X hangen niet samen met scores op Y
Voorbereiding HC1
Samenhang tussen continue variabelen
Dit spreidingsdiagram laat de relatie tussen chocoladeconsumptie en gewicht zien. Op de
horizontale x-as zien we de onafhankelijk variabele chocoladeconsumptie, gemeten in
geconsumeerde grammen per week. Op de verticale y-as zien we de afhankelijke variabele
gewicht, gemeten in kilogrammen. De cases die we bestuderen zijn 200 vrouwelijke studenten,
die precies 1,70 m zijn. Ze worden gerepresenteerd door de 200 stippen in het diagram. Het
spreidingsdiagram laat je meteen zien dat er een sterke correlatie is tussen chocoladeconsumptie
en gewicht. Hoe meer chocola iemand eet, hoe hoger het lichaamsgewicht. Maar hoe sterk is
deze correlatie? We zullen nu kijken naar een van de meest gebruikte maten voor correlatie, de
pearson’s r. Een van de grootste voordelen van de Pearson’s r is dat het de richting en sterkte van
de lineaire correlatie tussen twee variabelen uitdrukt in een getal. De relatie tussen
chocoladeconsumptie en lichaamsgewicht kan het best worden omschreven door de rechte lijn
die door de stippen getrokken is. Alle gevallen liggen dicht rond de lijn. We kunnen daarom
concluderen dat de variabele een hoge correlatie hebben. Iets anders om op te merken is dat de
lijn omhoog gaat. Dus: meer chocoladeconsumptie is geassocieerd met een hoger gewicht. We
kunnen daarom ook zeggen dat er sprake is van een positieve correlatie.
Conclusie: we hebben een sterke positieve en lineaire relatie.
Echter, variabelen kunnen ook op andere manieren gecorreleerd zijn.
- Positief, negatief, sterk, zwak
- Curvilineair: de correlatie hoeft niet lineair te zijn. De lijn die de relatie beschrijft is niet
recht. De lijn heeft een u-vorm
Een spreidingsdiagram helpt ons om grofweg te beoordelen of een correlatie sterk of zwak is.
Het zegt ons niet precies hoe sterk de relatie is.
Pearson’s r is een maat die ons dat precies kan laten zien. De pearson r vertelt ons de richting en
de precieze sterkte van de lineaire relatie tussen twee kwantitatieve variabelen
-1: perfect negatieve correlatie
0: geen correlatie
+1: perfect positieve correlatie
Stap 1. Bereken het gemiddelde voor beide variabelen
Stap 2. Bereken de standaarddeviatie voor beide variabelen
Stap 3. Bereken de z-score (standaardiseren)
Stap 4. Z-score van y vermenigvuldigen met de z-score van x.
Stap 5. Alle waarden die je in stap 4 gevonden hebt moet je optellen
,Stap 6. De waarde die je in stap 5 gevonden hebt deel je door N (aantal participanten) - 1
Je kunt altijd een Pearson’s r berekenen, ook als de relatie niet lineair is. Daarom is het heel
belangrijk dat je, voordat je een Pearson’s r berekent, je het spreidingsdiagram bekijkt om te zien
of de variabelen lineair gerelateerd zijn.
Als dat niet het geval is, bereken dan geen Pearson’s r, want het zegt dan niet zoveel over de
relatie tussen je variabelen.
Bij een hele sterke curvilineaire relatie, krijg je een hele lage waarde (als je pearson's r berekent),
maar dit betekent niet dat er een zwakke correlatie is. Alleen dat er een zwakke lineaire correlatie
is
Hypothesetoetsing met de b-coëfficiënt (enkelvoudige regressie)
De stof in deze clips sluit aan bij sectie 12.2 van Agresti over inferentie in regressieanalyse. Het
uitgangspunt is dat we met een regressiemodel uitspraken willen doen over een bredere populatie
op basis van een steekproef. De regressiecoëfficiënt (b) die we in onze steekproef vinden, is dus
een schatting van de werkelijke populatiecoëfficiënt (β). Omdat die schatting kan variëren van
steekproef tot steekproef, maken we gebruik van een steekproevenverdeling om te bepalen hoe
waarschijnlijk onze gevonden b-waarde is als de nulhypothese waar zou zijn.
In het eerste deel wordt de basis van enkelvoudige regressie herhaald (zoals in sectie 12.1).
Daarbij staat de regressievergelijking centraal: de afhankelijke variabele (Y) wordt voorspeld uit
een onafhankelijke variabele (X) via een intercept en een regressiecoëfficiënt. De b-coëfficiënt
geeft aan hoeveel Y gemiddeld verandert bij een toename van één eenheid in X.
In het tweede deel wordt uitgelegd hoe je een hypothesetoets uitvoert voor de
regressiecoëfficiënt. Meestal toets je de nulhypothese dat β = 0 (dus: geen lineair verband in de
populatie). Dit gebeurt met een t-toets: de t-waarde wordt berekend door de geschatte coëfficiënt
(b) te delen door de standaardfout (SE). De t-waarde geeft aan hoeveel standaardfouten de
schatting van nul af ligt. Op basis van deze t-waarde wordt een p-waarde bepaald: dit is de kans
om een t-waarde te vinden die minstens zo extreem is als de geobserveerde waarde, gegeven dat
de nulhypothese waar is. Is deze kans klein (bijvoorbeeld p < .05), dan verwerpen we de
nulhypothese en concluderen we dat de regressiecoëfficiënt statistisch significant verschilt van
nul.
Naast de t-toets kan ook een betrouwbaarheidsinterval (bijvoorbeeld 95%) voor de
regressiecoëfficiënt worden berekend. Dit interval geeft een reeks plausibele waarden voor de
populatiecoëfficiënt β. Als het interval de waarde 0 niet bevat, komt dat overeen met een
significante toets bij α = .05 (tweezijdig). Het betrouwbaarheidsinterval is daarmee een
alternatieve en vaak informatiefere manier om inferenties te maken.
Tot slot is het belangrijk om te weten dat statistische software, zoals SPSS, meestal standaard een
tweezijdige p-waarde rapporteert. Dat betekent dat er wordt getoetst of de coëfficiënt significant
verschilt van nul, ongeacht de richting (positief of negatief). Als je een eenzijdige hypothese
hebt, moet je hier dus bewust rekening mee houden bij de interpretatie.
Enkelvoudige regressie met een ‘dummy variabele’
Van t-toets naar regressie-analyse
,Tot nu toe hebben we in dit vak vooral gemiddelden van twee groepen met elkaar vergeleken met
behulp van een independent t-toets of een dependent t-toets. In die situaties hadden we steeds:
● één categorische variabele (X) met twee categorieën
● één kwantitatieve variabele (Y)
Voorbeelden hiervan zijn:
● Alcoholgebruik (ja/nee) en rijprestati
● Bezit van een kat (ja/nee) en geluksniveau
● Sekse (man/vrouw) en inkomen
In al deze voorbeelden vergelijken we het gemiddelde van groep 1 met het gemiddelde van groep
2.
Wat belangrijk is om te begrijpen, is dat we deze situaties niet alleen met een t-toets kunnen
analyseren, maar ook met een andere techniek: regressie-analyse (het lineaire model).
Vandaag verschuift de focus dus van de t-toets naar hypothesetoetsing met regressie-analyse.
Regressie met een dummyvariabele
Wanneer de onafhankelijke variabele (X) slechts twee waarden heeft (bijvoorbeeld 0 en 1),
spreken we van een dichotome variabele.
Zo’n variabele wordt in regressie ook wel een:
● dummyvariabele
● indicatorvariabele
genoemd.
Het bijzondere is dat regressie dan eigenlijk heel eenvoudig wordt.
Het regressiemodel bij een dichotome X
Stel dat:
● Y = inkomen
● X = geslacht
○ 0 = vrouw
○ 1 = man
Het regressiemodel ziet er dan als volgt uit:
Y=a+bXY = a + bXY=a+bX
Omdat X alleen 0 of 1 kan zijn, ontstaan er twee situaties.
Situatie 1: X = 0 (vrouwen)
Als X = 0, dan wordt de vergelijking:
Y=aY = aY=a
Dat betekent dat a gelijk is aan het gemiddelde inkomen van vrouwen.
Situatie 2: X = 1 (mannen)
Als X = 1, dan wordt de vergelijking:
Y=a+bY = a + bY=a+b
Dat betekent dat a + b gelijk is aan het gemiddelde inkomen van mannen.
Wat betekenen a en b?
Het regressiemodel herschrijft de twee groepsgemiddelden in twee nieuwe parameters:
, ● a = het gemiddelde van de referentiegroep (hier: vrouwen)
● b = het verschil tussen mannen en vrouwen
Met andere woorden:
● a is het conditionele gemiddelde inkomen van vrouwen
● b is de toename (of afname) van mannen ten opzichte van vrouwen
De regressiecoëfficiënt b is dus precies hetzelfde verschil dat we met een independent samples
t-toets zouden toetsen.
Wat is hier belangrijk om te begrijpen?
Regressie en de t-toets zijn in dit geval wiskundig equivalent.
Een independent samples t-toets waarbij je twee groepsgemiddelden vergelijkt, kan volledig
worden herschreven als een regressiemodel met een dummyvariabele.
Het voordeel van regressie is dat dit model later eenvoudig kan worden uitgebreid, bijvoorbeeld
met:
● meerdere voorspellers
● interactietermen
● continue variabelen
Daarmee vormt dit eenvoudige model de basis voor complexere analyses, zoals multiple
regressie en moderatieanalyse.
Van enkelvoudige naar multiple regressie
Bij enkelvoudige regressie voorspellen we een afhankelijke variabele (Y) met een
onafhankelijke variabele (X). Het model ziet er als volgt uit;
Bij multiple regressie gebruiken we twee of meer onafhankelijke variabelen.
Het model wordt dan:
Dit model is eenvoudig uit te breiden naar meer X-variabelen.
Belangrijk:
Elke b is een partiële regressiecoëfficiënt. Dat betekent dat de coëfficiënt aangeeft hoeveel Y
verandert bij elke toename van X, gecontroleerd voor de andere variabelen in het model.
● a= de verwachte waarde van Y wanneer alle X-variabelen 0 zijn
● b1= effect van X1 op Y, terwijl X2 constant wordt gehouden
● b2= effect van X2 op Y, terwijl X1 constant wordt gehouden
De interpretatie is dus altijd ‘onder controle van’ de andere variabelen
Voorbeeld: verklaren van inkomensverschillen
De onderzoeksvraag is: in hoeverre kan het verschil in arbeidsaanbod het inkomensverschil
tussen mannen en vrouwen verklaren?
Variabelen
Y: inkomen (continu)
X1: man (0 = vrouw, 1 = man)
X2: fulltime werk (0 = parttime, 1 = fulltime; meer dan 28 uur)
Stap 1. Conditionele gemiddelden
Oefenvragen is exact hoe het tentamen eruit gaat zien. Output aflezen en geef de juiste
conclusies. Oefen met de werkgroepopdrachten. Het kan ook zijn dat er geen significant resultaat
is.
- Variabele X is niet significant (geen effect) geassocieerd met variabele Y
- Scores op X hangen niet samen met scores op Y
Voorbereiding HC1
Samenhang tussen continue variabelen
Dit spreidingsdiagram laat de relatie tussen chocoladeconsumptie en gewicht zien. Op de
horizontale x-as zien we de onafhankelijk variabele chocoladeconsumptie, gemeten in
geconsumeerde grammen per week. Op de verticale y-as zien we de afhankelijke variabele
gewicht, gemeten in kilogrammen. De cases die we bestuderen zijn 200 vrouwelijke studenten,
die precies 1,70 m zijn. Ze worden gerepresenteerd door de 200 stippen in het diagram. Het
spreidingsdiagram laat je meteen zien dat er een sterke correlatie is tussen chocoladeconsumptie
en gewicht. Hoe meer chocola iemand eet, hoe hoger het lichaamsgewicht. Maar hoe sterk is
deze correlatie? We zullen nu kijken naar een van de meest gebruikte maten voor correlatie, de
pearson’s r. Een van de grootste voordelen van de Pearson’s r is dat het de richting en sterkte van
de lineaire correlatie tussen twee variabelen uitdrukt in een getal. De relatie tussen
chocoladeconsumptie en lichaamsgewicht kan het best worden omschreven door de rechte lijn
die door de stippen getrokken is. Alle gevallen liggen dicht rond de lijn. We kunnen daarom
concluderen dat de variabele een hoge correlatie hebben. Iets anders om op te merken is dat de
lijn omhoog gaat. Dus: meer chocoladeconsumptie is geassocieerd met een hoger gewicht. We
kunnen daarom ook zeggen dat er sprake is van een positieve correlatie.
Conclusie: we hebben een sterke positieve en lineaire relatie.
Echter, variabelen kunnen ook op andere manieren gecorreleerd zijn.
- Positief, negatief, sterk, zwak
- Curvilineair: de correlatie hoeft niet lineair te zijn. De lijn die de relatie beschrijft is niet
recht. De lijn heeft een u-vorm
Een spreidingsdiagram helpt ons om grofweg te beoordelen of een correlatie sterk of zwak is.
Het zegt ons niet precies hoe sterk de relatie is.
Pearson’s r is een maat die ons dat precies kan laten zien. De pearson r vertelt ons de richting en
de precieze sterkte van de lineaire relatie tussen twee kwantitatieve variabelen
-1: perfect negatieve correlatie
0: geen correlatie
+1: perfect positieve correlatie
Stap 1. Bereken het gemiddelde voor beide variabelen
Stap 2. Bereken de standaarddeviatie voor beide variabelen
Stap 3. Bereken de z-score (standaardiseren)
Stap 4. Z-score van y vermenigvuldigen met de z-score van x.
Stap 5. Alle waarden die je in stap 4 gevonden hebt moet je optellen
,Stap 6. De waarde die je in stap 5 gevonden hebt deel je door N (aantal participanten) - 1
Je kunt altijd een Pearson’s r berekenen, ook als de relatie niet lineair is. Daarom is het heel
belangrijk dat je, voordat je een Pearson’s r berekent, je het spreidingsdiagram bekijkt om te zien
of de variabelen lineair gerelateerd zijn.
Als dat niet het geval is, bereken dan geen Pearson’s r, want het zegt dan niet zoveel over de
relatie tussen je variabelen.
Bij een hele sterke curvilineaire relatie, krijg je een hele lage waarde (als je pearson's r berekent),
maar dit betekent niet dat er een zwakke correlatie is. Alleen dat er een zwakke lineaire correlatie
is
Hypothesetoetsing met de b-coëfficiënt (enkelvoudige regressie)
De stof in deze clips sluit aan bij sectie 12.2 van Agresti over inferentie in regressieanalyse. Het
uitgangspunt is dat we met een regressiemodel uitspraken willen doen over een bredere populatie
op basis van een steekproef. De regressiecoëfficiënt (b) die we in onze steekproef vinden, is dus
een schatting van de werkelijke populatiecoëfficiënt (β). Omdat die schatting kan variëren van
steekproef tot steekproef, maken we gebruik van een steekproevenverdeling om te bepalen hoe
waarschijnlijk onze gevonden b-waarde is als de nulhypothese waar zou zijn.
In het eerste deel wordt de basis van enkelvoudige regressie herhaald (zoals in sectie 12.1).
Daarbij staat de regressievergelijking centraal: de afhankelijke variabele (Y) wordt voorspeld uit
een onafhankelijke variabele (X) via een intercept en een regressiecoëfficiënt. De b-coëfficiënt
geeft aan hoeveel Y gemiddeld verandert bij een toename van één eenheid in X.
In het tweede deel wordt uitgelegd hoe je een hypothesetoets uitvoert voor de
regressiecoëfficiënt. Meestal toets je de nulhypothese dat β = 0 (dus: geen lineair verband in de
populatie). Dit gebeurt met een t-toets: de t-waarde wordt berekend door de geschatte coëfficiënt
(b) te delen door de standaardfout (SE). De t-waarde geeft aan hoeveel standaardfouten de
schatting van nul af ligt. Op basis van deze t-waarde wordt een p-waarde bepaald: dit is de kans
om een t-waarde te vinden die minstens zo extreem is als de geobserveerde waarde, gegeven dat
de nulhypothese waar is. Is deze kans klein (bijvoorbeeld p < .05), dan verwerpen we de
nulhypothese en concluderen we dat de regressiecoëfficiënt statistisch significant verschilt van
nul.
Naast de t-toets kan ook een betrouwbaarheidsinterval (bijvoorbeeld 95%) voor de
regressiecoëfficiënt worden berekend. Dit interval geeft een reeks plausibele waarden voor de
populatiecoëfficiënt β. Als het interval de waarde 0 niet bevat, komt dat overeen met een
significante toets bij α = .05 (tweezijdig). Het betrouwbaarheidsinterval is daarmee een
alternatieve en vaak informatiefere manier om inferenties te maken.
Tot slot is het belangrijk om te weten dat statistische software, zoals SPSS, meestal standaard een
tweezijdige p-waarde rapporteert. Dat betekent dat er wordt getoetst of de coëfficiënt significant
verschilt van nul, ongeacht de richting (positief of negatief). Als je een eenzijdige hypothese
hebt, moet je hier dus bewust rekening mee houden bij de interpretatie.
Enkelvoudige regressie met een ‘dummy variabele’
Van t-toets naar regressie-analyse
,Tot nu toe hebben we in dit vak vooral gemiddelden van twee groepen met elkaar vergeleken met
behulp van een independent t-toets of een dependent t-toets. In die situaties hadden we steeds:
● één categorische variabele (X) met twee categorieën
● één kwantitatieve variabele (Y)
Voorbeelden hiervan zijn:
● Alcoholgebruik (ja/nee) en rijprestati
● Bezit van een kat (ja/nee) en geluksniveau
● Sekse (man/vrouw) en inkomen
In al deze voorbeelden vergelijken we het gemiddelde van groep 1 met het gemiddelde van groep
2.
Wat belangrijk is om te begrijpen, is dat we deze situaties niet alleen met een t-toets kunnen
analyseren, maar ook met een andere techniek: regressie-analyse (het lineaire model).
Vandaag verschuift de focus dus van de t-toets naar hypothesetoetsing met regressie-analyse.
Regressie met een dummyvariabele
Wanneer de onafhankelijke variabele (X) slechts twee waarden heeft (bijvoorbeeld 0 en 1),
spreken we van een dichotome variabele.
Zo’n variabele wordt in regressie ook wel een:
● dummyvariabele
● indicatorvariabele
genoemd.
Het bijzondere is dat regressie dan eigenlijk heel eenvoudig wordt.
Het regressiemodel bij een dichotome X
Stel dat:
● Y = inkomen
● X = geslacht
○ 0 = vrouw
○ 1 = man
Het regressiemodel ziet er dan als volgt uit:
Y=a+bXY = a + bXY=a+bX
Omdat X alleen 0 of 1 kan zijn, ontstaan er twee situaties.
Situatie 1: X = 0 (vrouwen)
Als X = 0, dan wordt de vergelijking:
Y=aY = aY=a
Dat betekent dat a gelijk is aan het gemiddelde inkomen van vrouwen.
Situatie 2: X = 1 (mannen)
Als X = 1, dan wordt de vergelijking:
Y=a+bY = a + bY=a+b
Dat betekent dat a + b gelijk is aan het gemiddelde inkomen van mannen.
Wat betekenen a en b?
Het regressiemodel herschrijft de twee groepsgemiddelden in twee nieuwe parameters:
, ● a = het gemiddelde van de referentiegroep (hier: vrouwen)
● b = het verschil tussen mannen en vrouwen
Met andere woorden:
● a is het conditionele gemiddelde inkomen van vrouwen
● b is de toename (of afname) van mannen ten opzichte van vrouwen
De regressiecoëfficiënt b is dus precies hetzelfde verschil dat we met een independent samples
t-toets zouden toetsen.
Wat is hier belangrijk om te begrijpen?
Regressie en de t-toets zijn in dit geval wiskundig equivalent.
Een independent samples t-toets waarbij je twee groepsgemiddelden vergelijkt, kan volledig
worden herschreven als een regressiemodel met een dummyvariabele.
Het voordeel van regressie is dat dit model later eenvoudig kan worden uitgebreid, bijvoorbeeld
met:
● meerdere voorspellers
● interactietermen
● continue variabelen
Daarmee vormt dit eenvoudige model de basis voor complexere analyses, zoals multiple
regressie en moderatieanalyse.
Van enkelvoudige naar multiple regressie
Bij enkelvoudige regressie voorspellen we een afhankelijke variabele (Y) met een
onafhankelijke variabele (X). Het model ziet er als volgt uit;
Bij multiple regressie gebruiken we twee of meer onafhankelijke variabelen.
Het model wordt dan:
Dit model is eenvoudig uit te breiden naar meer X-variabelen.
Belangrijk:
Elke b is een partiële regressiecoëfficiënt. Dat betekent dat de coëfficiënt aangeeft hoeveel Y
verandert bij elke toename van X, gecontroleerd voor de andere variabelen in het model.
● a= de verwachte waarde van Y wanneer alle X-variabelen 0 zijn
● b1= effect van X1 op Y, terwijl X2 constant wordt gehouden
● b2= effect van X2 op Y, terwijl X1 constant wordt gehouden
De interpretatie is dus altijd ‘onder controle van’ de andere variabelen
Voorbeeld: verklaren van inkomensverschillen
De onderzoeksvraag is: in hoeverre kan het verschil in arbeidsaanbod het inkomensverschil
tussen mannen en vrouwen verklaren?
Variabelen
Y: inkomen (continu)
X1: man (0 = vrouw, 1 = man)
X2: fulltime werk (0 = parttime, 1 = fulltime; meer dan 28 uur)
Stap 1. Conditionele gemiddelden
