Samenvatting
Onderzoeksmethoden
Contents
OLS (Ordinary Least Squares) – Enkelvoudige/univariate regressie.....................3
Meervoudige/multivariate regressie....................................................................4
De fit van een model – R².................................................................................... 4
KISS principe.................................................................................................... 4
R² adjusted.......................................................................................................... 5
Voorbeeld regressie in Stata................................................................................ 5
Dummy variabelen.............................................................................................. 6
Hypothese testing............................................................................................... 8
Normaliteit van residuen..................................................................................... 9
De t-test............................................................................................................ 10
F-testen............................................................................................................. 13
Voorbeeld in Stata............................................................................................. 14
De verschillende stappen van een regressie analyse........................................14
Detecteren van outliers.................................................................................. 15
Corrigeren van outliers................................................................................... 16
Problemen met de functionele vorm.................................................................16
Keuze van onafhankelijke variabelen................................................................20
Multicollineariteit............................................................................................... 20
Detecteren van imperfecte multicollineariteit................................................21
Heteroscedasticiteit........................................................................................... 23
Detecteren van heteroscedasticiteit..............................................................23
Statistische testen voor heteroscedasticiteit.................................................23
Correctie van heteroscedasticiteit..................................................................24
Autocorrelatie.................................................................................................... 26
Detectie van autocorrelatie............................................................................26
Correctie van autocorrelatie...........................................................................30
Correctie van autocorrelatie – zonder specificatiefouten...............................33
Wat is onderzoek?............................................................................................. 34
Onderzoeksbenadering.................................................................................. 34
Wat is een onderzoeksmethode?....................................................................34
Kwaliteit in kwantitatief onderzoek...................................................................36
Betrouwbaarheid en validiteit in kwalitatief onderzoek.....................................36
,Kwantitatieve onderzoeksmethoden.................................................................38
Probabilistische steekproeftrekking................................................................39
Niet-probabilistische steekproeftrekking........................................................41
Gestructureerde “kwantitatieve” vragenlijsten.................................................43
Types vragen..................................................................................................... 44
Vergelijkende schalen..................................................................................... 44
Lijstvragen..................................................................................................... 46
Categorievragen............................................................................................. 46
Kwantiteitsvragen.......................................................................................... 47
Vragenlijsten opstellen...................................................................................... 47
Problemen met vraaginhoud..........................................................................47
Vraagbewoording........................................................................................... 47
Volgorde van vragen......................................................................................... 48
Verschillende soorten kwalitatief onderzoek.....................................................50
Kwalitatieve interviews.................................................................................. 50
De kwalitatieve steekproef................................................................................ 50
Omvang van de kwalitatieve steekproef...........................................................51
Omvang steekproef – diepte-interviews.........................................................52
Het interviewprotocol........................................................................................ 52
Uitvoering kwalitatief onderzoek.......................................................................52
Analyseren van kwalitatieve data......................................................................55
,OLS (Ordinary Least Squares) – Enkelvoudige/univariate
regressie
Doel van Econometrie: relatie tussen 2 variabelen
(x en y) verklaren a.d.h.v. een puntenwolk. Hierin
gaan we trachten een rechte proberen te trekken.
We zien een rode en een zwarte rechte. Hoe
bepalen we nu welke rechte het beste is om het
verband te bepalen?
Het verband vatten we samen in een vergelijking.
Er is in deze vergelijking een systematische
(verklaard door X) en een willekeurige (niet door X)
component. De hoedjes duiden op het feit dat het geschatte waardes zijn.
β1 drukt de relatie uit tussen X en Y. β0 is de
constante, oftewel de gemiddelde waarde van Y
als X = 0. β1 is de hellingscoëfficiënt van de
rechte; hoe steiler, hoe sterker het verband. Β 0
is op de Y-as waar X = 0.
OLS of GKK is de methode waar je gaat schatten hoe groot de coëfficiënten (β)
moeten zijn. Het komt neer op het minimaliseren van de som van de
gekwadrateerde residuals.
Wanneer we een regressieanalyse uitvoeren
dan doen we een onderzoek naar een
populatie maar dit is niet altijd haalbaar
steekproeven. Die steekproeven verschillen
van elkaar en dus ook de coëfficiënten. De
steekproef distributie van β is de distributie
van β waardes over verschillende
steekproeven (zie afbeelding). Als de
resttermen normaal verdeeld zijn, zal de
steekproefdistributie dat ook zijn. Stel dat
we maar 1 steekproef hebben dan moeten we de precisie van de OLS schattingen
gaan bekijken, en dit doen we a.d.h.v. variantie.
Hoe groter de variantie en de standaardfout (σ), hoe minder precies de schatting
is. Deze variantie van de coëfficiënten is proportioneel aan de variantie van de
resttermen (σ²), en omgekeerd proportioneel aan variatie in X waarden.
Wanneer we OLS doen zijn er 7 assumpties
waaraan voldaan moet worden, deze komen
later aan bod. Als dat zo is dan zijn de OLS
parameters BLUE zijn.
Best: minimale variantie, zo precies
mogelijk
Linear: lineaire schatting
Unbiased: verwachte waarden = echte
Estimators
, OLS parameters zijn Best Linear Unbiased Estimators van de échte ware
parameters.
Meervoudige/multivariate regressie
In een meervoudige regressie zijn er meerdere onafhankelijke variabelen. De
interpretatie van de coëfficiënten is parallel aan de interpretatie bij univariate
regressie. β1 geeft aan hoe sterk Y verandert als X 1 wijzigt met 1. Ceteris paribus
assumptie is hier belangrijk (=andere variabelen blijven onveranderd).
Hier zien we de formule van de variantie
in een multivariaat model. In de noemer
staat r12, wat de correlatie tussen
variabele X1 en X2. De variantie is groter
en dus de precisie kleiner als er een
correlatie bestaat tussen de variabelen.
De fit van een model – R²
Hoe goed fit het model met de onderliggende data? Niet enkel om regressie te
beoordelen maar ook modellen te vergelijken met elkaar.
Wanneer hebben we een goed model? Wanneer we de variatie en de
afhankelijke variabele Y goed verklaard hebben door het model. Dit doen
we via de R² methode.
Yi = de eigenlijke waarde van Y
^Yi = geschatte waarde van Y
door model
Ӯ = de gemiddelde waarde van Y
We willen de variatie in Y zo goed
mogelijk verklaren. Die totale variatie
noemen we TSS (Total Sum of Squares).
Dit wordt berekend door het verschil te
nemen van elke Yi en Ӯ, en van de som
van die verschillen het kwadraat te
nemen. De MSS (Model Sum of Squares)
is het stuk van de variatie dat verklaard
wordt door het regressiemodel. De RSS
(Residual Sum of Squares) is de variatie
die niet door het model verklaard wordt.
R² is het gedeelte van de totale variantie van Y die verklaard wordt door het
regressiemodel. Hoe hoger de R², hoe beter het model de variantie kan
beschrijven. Het drukt het percentage uit van de totale variatie van Y dat
verklaard wordt door het regressiemodel. Je bekomt dit door MSS/TSS te
berekenen. Hoe hoger hoe beter dus. Voordeel: makkelijk bereken- en
interpreteerbaar. Nadeel: zal nooit dalen als een andere X aan het model wordt
toegevoegd.
KISS principe
Keep It Simple & Stupid = vermijd irrelevante variabelen
Onderzoeksmethoden
Contents
OLS (Ordinary Least Squares) – Enkelvoudige/univariate regressie.....................3
Meervoudige/multivariate regressie....................................................................4
De fit van een model – R².................................................................................... 4
KISS principe.................................................................................................... 4
R² adjusted.......................................................................................................... 5
Voorbeeld regressie in Stata................................................................................ 5
Dummy variabelen.............................................................................................. 6
Hypothese testing............................................................................................... 8
Normaliteit van residuen..................................................................................... 9
De t-test............................................................................................................ 10
F-testen............................................................................................................. 13
Voorbeeld in Stata............................................................................................. 14
De verschillende stappen van een regressie analyse........................................14
Detecteren van outliers.................................................................................. 15
Corrigeren van outliers................................................................................... 16
Problemen met de functionele vorm.................................................................16
Keuze van onafhankelijke variabelen................................................................20
Multicollineariteit............................................................................................... 20
Detecteren van imperfecte multicollineariteit................................................21
Heteroscedasticiteit........................................................................................... 23
Detecteren van heteroscedasticiteit..............................................................23
Statistische testen voor heteroscedasticiteit.................................................23
Correctie van heteroscedasticiteit..................................................................24
Autocorrelatie.................................................................................................... 26
Detectie van autocorrelatie............................................................................26
Correctie van autocorrelatie...........................................................................30
Correctie van autocorrelatie – zonder specificatiefouten...............................33
Wat is onderzoek?............................................................................................. 34
Onderzoeksbenadering.................................................................................. 34
Wat is een onderzoeksmethode?....................................................................34
Kwaliteit in kwantitatief onderzoek...................................................................36
Betrouwbaarheid en validiteit in kwalitatief onderzoek.....................................36
,Kwantitatieve onderzoeksmethoden.................................................................38
Probabilistische steekproeftrekking................................................................39
Niet-probabilistische steekproeftrekking........................................................41
Gestructureerde “kwantitatieve” vragenlijsten.................................................43
Types vragen..................................................................................................... 44
Vergelijkende schalen..................................................................................... 44
Lijstvragen..................................................................................................... 46
Categorievragen............................................................................................. 46
Kwantiteitsvragen.......................................................................................... 47
Vragenlijsten opstellen...................................................................................... 47
Problemen met vraaginhoud..........................................................................47
Vraagbewoording........................................................................................... 47
Volgorde van vragen......................................................................................... 48
Verschillende soorten kwalitatief onderzoek.....................................................50
Kwalitatieve interviews.................................................................................. 50
De kwalitatieve steekproef................................................................................ 50
Omvang van de kwalitatieve steekproef...........................................................51
Omvang steekproef – diepte-interviews.........................................................52
Het interviewprotocol........................................................................................ 52
Uitvoering kwalitatief onderzoek.......................................................................52
Analyseren van kwalitatieve data......................................................................55
,OLS (Ordinary Least Squares) – Enkelvoudige/univariate
regressie
Doel van Econometrie: relatie tussen 2 variabelen
(x en y) verklaren a.d.h.v. een puntenwolk. Hierin
gaan we trachten een rechte proberen te trekken.
We zien een rode en een zwarte rechte. Hoe
bepalen we nu welke rechte het beste is om het
verband te bepalen?
Het verband vatten we samen in een vergelijking.
Er is in deze vergelijking een systematische
(verklaard door X) en een willekeurige (niet door X)
component. De hoedjes duiden op het feit dat het geschatte waardes zijn.
β1 drukt de relatie uit tussen X en Y. β0 is de
constante, oftewel de gemiddelde waarde van Y
als X = 0. β1 is de hellingscoëfficiënt van de
rechte; hoe steiler, hoe sterker het verband. Β 0
is op de Y-as waar X = 0.
OLS of GKK is de methode waar je gaat schatten hoe groot de coëfficiënten (β)
moeten zijn. Het komt neer op het minimaliseren van de som van de
gekwadrateerde residuals.
Wanneer we een regressieanalyse uitvoeren
dan doen we een onderzoek naar een
populatie maar dit is niet altijd haalbaar
steekproeven. Die steekproeven verschillen
van elkaar en dus ook de coëfficiënten. De
steekproef distributie van β is de distributie
van β waardes over verschillende
steekproeven (zie afbeelding). Als de
resttermen normaal verdeeld zijn, zal de
steekproefdistributie dat ook zijn. Stel dat
we maar 1 steekproef hebben dan moeten we de precisie van de OLS schattingen
gaan bekijken, en dit doen we a.d.h.v. variantie.
Hoe groter de variantie en de standaardfout (σ), hoe minder precies de schatting
is. Deze variantie van de coëfficiënten is proportioneel aan de variantie van de
resttermen (σ²), en omgekeerd proportioneel aan variatie in X waarden.
Wanneer we OLS doen zijn er 7 assumpties
waaraan voldaan moet worden, deze komen
later aan bod. Als dat zo is dan zijn de OLS
parameters BLUE zijn.
Best: minimale variantie, zo precies
mogelijk
Linear: lineaire schatting
Unbiased: verwachte waarden = echte
Estimators
, OLS parameters zijn Best Linear Unbiased Estimators van de échte ware
parameters.
Meervoudige/multivariate regressie
In een meervoudige regressie zijn er meerdere onafhankelijke variabelen. De
interpretatie van de coëfficiënten is parallel aan de interpretatie bij univariate
regressie. β1 geeft aan hoe sterk Y verandert als X 1 wijzigt met 1. Ceteris paribus
assumptie is hier belangrijk (=andere variabelen blijven onveranderd).
Hier zien we de formule van de variantie
in een multivariaat model. In de noemer
staat r12, wat de correlatie tussen
variabele X1 en X2. De variantie is groter
en dus de precisie kleiner als er een
correlatie bestaat tussen de variabelen.
De fit van een model – R²
Hoe goed fit het model met de onderliggende data? Niet enkel om regressie te
beoordelen maar ook modellen te vergelijken met elkaar.
Wanneer hebben we een goed model? Wanneer we de variatie en de
afhankelijke variabele Y goed verklaard hebben door het model. Dit doen
we via de R² methode.
Yi = de eigenlijke waarde van Y
^Yi = geschatte waarde van Y
door model
Ӯ = de gemiddelde waarde van Y
We willen de variatie in Y zo goed
mogelijk verklaren. Die totale variatie
noemen we TSS (Total Sum of Squares).
Dit wordt berekend door het verschil te
nemen van elke Yi en Ӯ, en van de som
van die verschillen het kwadraat te
nemen. De MSS (Model Sum of Squares)
is het stuk van de variatie dat verklaard
wordt door het regressiemodel. De RSS
(Residual Sum of Squares) is de variatie
die niet door het model verklaard wordt.
R² is het gedeelte van de totale variantie van Y die verklaard wordt door het
regressiemodel. Hoe hoger de R², hoe beter het model de variantie kan
beschrijven. Het drukt het percentage uit van de totale variatie van Y dat
verklaard wordt door het regressiemodel. Je bekomt dit door MSS/TSS te
berekenen. Hoe hoger hoe beter dus. Voordeel: makkelijk bereken- en
interpreteerbaar. Nadeel: zal nooit dalen als een andere X aan het model wordt
toegevoegd.
KISS principe
Keep It Simple & Stupid = vermijd irrelevante variabelen
