ARMS samenvatting:
Opfrislessen GRASPLE:
De correlatiecoëfficiënt/ Pearson’s r:
- 1 of -1 = sterke correlatie
- 0 = geen lineaire relatie
Meetniveaus:
- Nominaal
- Ordinaal
- Interval
- Ratio
Validiteit:
- Construct validity = meet het onderzoeks echt wat het beoogt te meten?
- Internal validity = kan je externe verklaringen uitsluiten?
- External validity = in hoeverre kun je de resultaten generaliseren naar
Andere situaties?
- Statistical validity = zijn de gebruikte statistieken correct en betrouwbaar
genoeg om conclusies te trekken?
ANOVA = een test om twee of meer gemiddelden met elkaar te vergelijken
- Door de verschillen tussen meerdere gemiddelden in één keer te testen,
kan je ‘error rate inflation’ krijgen (door een t-test te gebruiken voor de
testst, verhoog je de kans op een type 1 fout)
Simple ANOVA:
Factorial ANOVA:
Twee soorten variantie:
- Within group variance (residual variance) = hoeveel verschil binnen hun
eigen groep
- Between group variance (explained variance) = hoeveel verschil tussen
groepen
F-waarde:
- Hoge F-waarde: de variantie tussen groepen is aanzienlijk groter dan de
variantie binnen de groepen
- Lage F-waarde
Frequentistisch vs. bayesiaans:
Het frequentistische kader test hoe goed de data passen bij H0 (NHST). Hierbij
horen p-waardes, confidence intervals, effectgroottes en poweranalyse.
Het Bayesiaanse kader kijkt naar de kans op de hypothese, gegeven de data,
waarbij prior informatie wordt meegenomen. Hierbij horen Bayes factors (BFs),
priors, posteriors en credible intervals.
- Prior = je kennis of aanname over een parameter/uitkomst voordat je de
nieuwe data hebt gezien.
, - Posterior = je bijgewerkte kennis over een parameter nadat je de nieuwe
data hebt gezien.
Informatie in de data wordt vastgelegd in een likelihood function = meet hoe
goed een model met specifieke parameters de data verklaart
- Likelihood = de data die rechtstreeks uit de data komt
De posterior model probability (PMP) = de (Bayesiaanse) kans op de hypothese
na het observeren van de data telt op tot 1
- Het zijn relatieve kansen, aangezien Bayesiaans testen comperatief is:
hypotheses worden tegenover elkaar getest – hoeveel steun is er voor de
ene hypothese vergeleken met de andere.
Betrouwbaarheidsintervallen:
Parameter = een waarde die de hele populatie beschrijft (dingen als gemiddelde,
SD etc. in de populatie)
A frequentist interval is called a confidence interval Frequentist 95%
confidence interval (CI):
If we were to repeat this experiment many times and calculate a CI each time,
95% of the intervals will include the true parameter value (and 5% won’t)
dus 95% bevat de ware populatieparameter
A Bayesian interval is called a credible interval Bayesian 95% credible interval:
There is 95% probability that the true value is in the credible interval.
95% kans dat de ware parameter binnen het interval ligt, gegeven de
geobserveerde data en de prior
Multiple linear regression (MLR):
Aannames MLR:
1) Meetniveau van de variabelen.
- Afhankelijke variabele is continu – interval of ratio niveau.
- Onafhankelijke variabelen zijn continu of dichotoom – interval of ratio, of
nominaal met twee categorieën (dichotoom 0 en 1; bijv. man = 0/vrouw =
1, ja = 1/nee = 0).
2) Lineaire relatie – er is een lineaire relatie tussen de afhankelijke variabele
en elke continue onafhankelijke variabele.
3) Afwezigheid van (multivariate) uitschieters.
4) Afwezigheid van multicollinearity.
5) Homoscedasticity.
6) Normaalverdeling van residuen.
Aanname 1: meetniveau
Is te controleren door te variabelen na te gaan en te kijken of ze getallen zijn. Bij
variabelen die woorden zijn, moet gekeken worden of het dichotoom is. Is dat niet
het geval, kan je in sommige gevallen dummyvariabelen maken.
Aanname 2: lineare relatie
Is te controleren met een scatterplot. Formule van een lineare relatie is:
Aanname 3: outliers
, - Standardized residuals: geeft informatie over of er uitschieters zijn op de Y-
as, dus op de
uitkomstvariabele. Ze laten zien hoe ver het datapunt van de regressielijn af ligt,
uitgedrukt in SD.
Een vuistregel is dat de waarden tussen -3.3 en +3.3 moeten liggen. Getallen
kleiner en
groter dan dat zijn potentiële uitschieters.
- Cook’s distance: <1 (waarden >1 zijn uitschieters)
Aanname 4: abscent of multicollinearity
Is te controleren door Tolerance of VIF (variance inflation factor)
De vuistregels: tolerantiewaarden <0.2 = potentieel probleem
Tolerantiewaarden <0.1 = probleem
VIF = 1/tolerantie (>5 = potentieel probleem en >10 = probleem)
Aanname 5: homoscedasticity = de variantie rondom de regressielijn of X-s
overal even groot is
Is te controleren bij ‘residuals vs. predicted plot’
Aanname 6: normally distributed residuals = de fouten moeten ongeveer gelijk
verdeeld zijn
Is te controleren door assumption checks > standardized residuals histogram en
Q-Q plot standardized residuals
Interpretatie:
Frequentistisch:
R2 = proportie verklaarde variantie
Adjusted R2 = waarde voor R2 maar
dan aangepast voor de
steekproefgrootte en het aantal
predictoren in het model
Is het model significant?
Kijk naar F-test in de
ANOVA tabel p-waarde.
Unstandardized = hellingsgetallen
(B)
Standardized = welke predictor
heeft de meeste invloed op het
model
Bayesiaans:
, BF10 = de steun voor elke
hypothese vergeleken met de
nulhypothese
P(M) = prior probability
P(M I data) = posterior probability
De mean is een Bayesiaanse
versie van Unstandardized
Bf inclusion = laat zien of
het model is verbetert na
het toevoegen van de
predictor
Hiërarchische MLR:
Hiërarchische MLR = je hebt al een model met predictorvariabelen, maar je
maakt nog een nieuw model waarin je nog wat meer predictoren toevoegt, en het
model complexer dus maakt.
R2 Change = de verandering in R2 wanneer er predictoren aan een model
worden toegevoegd/verwijderd.
Model 0: oude model includes age en educ.
Model 1: nieuwe model met nieuwe predictoren 12,7% meer variantie verklaart
dan model 0 p = <.001 dus significant.
Zelf dummyvariabelen maken (zie blz. 20
samenvatting stuvia):
Je kan ook categorische variabelen met meer dan twee categorieën in een
regressieanalyse gebruiken door ze om te zetten naar meerdere
dummyvariabelen. Elke dummyvariabele is een dichotome variabele die enkel de
waarden 0 en 1 heeft.
1) Tel het aantal groepen dat de variabele heeft en trek er 1 vanaf.
2) Creëer net zo veel nieuwe variabelen als dat je hebt berekend in de eerste
stap, dit zijn de dummyvariabelen. Als je bijv. een variabele hebt die 5
categorieën heeft, maak je 4 dummyvariabelen.
3) Kies welke groep de referentiegroep wordt. Dit is de groep waarmee je alle
andere groepen vergelijkt. Deze keuze maak je op basis van de
vergelijkingen welke het meest relevant en interessant zijn. Bij een
experiment met verschillende behandelingen en een controlegroep is de
controlegroep bijv. het meest logisch.
4) Geef je referentiegroep de waarde 0 bij alle dummyvariabelen.
Opfrislessen GRASPLE:
De correlatiecoëfficiënt/ Pearson’s r:
- 1 of -1 = sterke correlatie
- 0 = geen lineaire relatie
Meetniveaus:
- Nominaal
- Ordinaal
- Interval
- Ratio
Validiteit:
- Construct validity = meet het onderzoeks echt wat het beoogt te meten?
- Internal validity = kan je externe verklaringen uitsluiten?
- External validity = in hoeverre kun je de resultaten generaliseren naar
Andere situaties?
- Statistical validity = zijn de gebruikte statistieken correct en betrouwbaar
genoeg om conclusies te trekken?
ANOVA = een test om twee of meer gemiddelden met elkaar te vergelijken
- Door de verschillen tussen meerdere gemiddelden in één keer te testen,
kan je ‘error rate inflation’ krijgen (door een t-test te gebruiken voor de
testst, verhoog je de kans op een type 1 fout)
Simple ANOVA:
Factorial ANOVA:
Twee soorten variantie:
- Within group variance (residual variance) = hoeveel verschil binnen hun
eigen groep
- Between group variance (explained variance) = hoeveel verschil tussen
groepen
F-waarde:
- Hoge F-waarde: de variantie tussen groepen is aanzienlijk groter dan de
variantie binnen de groepen
- Lage F-waarde
Frequentistisch vs. bayesiaans:
Het frequentistische kader test hoe goed de data passen bij H0 (NHST). Hierbij
horen p-waardes, confidence intervals, effectgroottes en poweranalyse.
Het Bayesiaanse kader kijkt naar de kans op de hypothese, gegeven de data,
waarbij prior informatie wordt meegenomen. Hierbij horen Bayes factors (BFs),
priors, posteriors en credible intervals.
- Prior = je kennis of aanname over een parameter/uitkomst voordat je de
nieuwe data hebt gezien.
, - Posterior = je bijgewerkte kennis over een parameter nadat je de nieuwe
data hebt gezien.
Informatie in de data wordt vastgelegd in een likelihood function = meet hoe
goed een model met specifieke parameters de data verklaart
- Likelihood = de data die rechtstreeks uit de data komt
De posterior model probability (PMP) = de (Bayesiaanse) kans op de hypothese
na het observeren van de data telt op tot 1
- Het zijn relatieve kansen, aangezien Bayesiaans testen comperatief is:
hypotheses worden tegenover elkaar getest – hoeveel steun is er voor de
ene hypothese vergeleken met de andere.
Betrouwbaarheidsintervallen:
Parameter = een waarde die de hele populatie beschrijft (dingen als gemiddelde,
SD etc. in de populatie)
A frequentist interval is called a confidence interval Frequentist 95%
confidence interval (CI):
If we were to repeat this experiment many times and calculate a CI each time,
95% of the intervals will include the true parameter value (and 5% won’t)
dus 95% bevat de ware populatieparameter
A Bayesian interval is called a credible interval Bayesian 95% credible interval:
There is 95% probability that the true value is in the credible interval.
95% kans dat de ware parameter binnen het interval ligt, gegeven de
geobserveerde data en de prior
Multiple linear regression (MLR):
Aannames MLR:
1) Meetniveau van de variabelen.
- Afhankelijke variabele is continu – interval of ratio niveau.
- Onafhankelijke variabelen zijn continu of dichotoom – interval of ratio, of
nominaal met twee categorieën (dichotoom 0 en 1; bijv. man = 0/vrouw =
1, ja = 1/nee = 0).
2) Lineaire relatie – er is een lineaire relatie tussen de afhankelijke variabele
en elke continue onafhankelijke variabele.
3) Afwezigheid van (multivariate) uitschieters.
4) Afwezigheid van multicollinearity.
5) Homoscedasticity.
6) Normaalverdeling van residuen.
Aanname 1: meetniveau
Is te controleren door te variabelen na te gaan en te kijken of ze getallen zijn. Bij
variabelen die woorden zijn, moet gekeken worden of het dichotoom is. Is dat niet
het geval, kan je in sommige gevallen dummyvariabelen maken.
Aanname 2: lineare relatie
Is te controleren met een scatterplot. Formule van een lineare relatie is:
Aanname 3: outliers
, - Standardized residuals: geeft informatie over of er uitschieters zijn op de Y-
as, dus op de
uitkomstvariabele. Ze laten zien hoe ver het datapunt van de regressielijn af ligt,
uitgedrukt in SD.
Een vuistregel is dat de waarden tussen -3.3 en +3.3 moeten liggen. Getallen
kleiner en
groter dan dat zijn potentiële uitschieters.
- Cook’s distance: <1 (waarden >1 zijn uitschieters)
Aanname 4: abscent of multicollinearity
Is te controleren door Tolerance of VIF (variance inflation factor)
De vuistregels: tolerantiewaarden <0.2 = potentieel probleem
Tolerantiewaarden <0.1 = probleem
VIF = 1/tolerantie (>5 = potentieel probleem en >10 = probleem)
Aanname 5: homoscedasticity = de variantie rondom de regressielijn of X-s
overal even groot is
Is te controleren bij ‘residuals vs. predicted plot’
Aanname 6: normally distributed residuals = de fouten moeten ongeveer gelijk
verdeeld zijn
Is te controleren door assumption checks > standardized residuals histogram en
Q-Q plot standardized residuals
Interpretatie:
Frequentistisch:
R2 = proportie verklaarde variantie
Adjusted R2 = waarde voor R2 maar
dan aangepast voor de
steekproefgrootte en het aantal
predictoren in het model
Is het model significant?
Kijk naar F-test in de
ANOVA tabel p-waarde.
Unstandardized = hellingsgetallen
(B)
Standardized = welke predictor
heeft de meeste invloed op het
model
Bayesiaans:
, BF10 = de steun voor elke
hypothese vergeleken met de
nulhypothese
P(M) = prior probability
P(M I data) = posterior probability
De mean is een Bayesiaanse
versie van Unstandardized
Bf inclusion = laat zien of
het model is verbetert na
het toevoegen van de
predictor
Hiërarchische MLR:
Hiërarchische MLR = je hebt al een model met predictorvariabelen, maar je
maakt nog een nieuw model waarin je nog wat meer predictoren toevoegt, en het
model complexer dus maakt.
R2 Change = de verandering in R2 wanneer er predictoren aan een model
worden toegevoegd/verwijderd.
Model 0: oude model includes age en educ.
Model 1: nieuwe model met nieuwe predictoren 12,7% meer variantie verklaart
dan model 0 p = <.001 dus significant.
Zelf dummyvariabelen maken (zie blz. 20
samenvatting stuvia):
Je kan ook categorische variabelen met meer dan twee categorieën in een
regressieanalyse gebruiken door ze om te zetten naar meerdere
dummyvariabelen. Elke dummyvariabele is een dichotome variabele die enkel de
waarden 0 en 1 heeft.
1) Tel het aantal groepen dat de variabele heeft en trek er 1 vanaf.
2) Creëer net zo veel nieuwe variabelen als dat je hebt berekend in de eerste
stap, dit zijn de dummyvariabelen. Als je bijv. een variabele hebt die 5
categorieën heeft, maak je 4 dummyvariabelen.
3) Kies welke groep de referentiegroep wordt. Dit is de groep waarmee je alle
andere groepen vergelijkt. Deze keuze maak je op basis van de
vergelijkingen welke het meest relevant en interessant zijn. Bij een
experiment met verschillende behandelingen en een controlegroep is de
controlegroep bijv. het meest logisch.
4) Geef je referentiegroep de waarde 0 bij alle dummyvariabelen.
