Samenvatting Wetenschappelijke vorming: lineaire regressie

LINEAIRE REGRESSIE
ALGEMEEN

Een statistische test wordt bijvoorbeeld gebruikt voor het vergelijken van gemiddelden of proporties in twee
groepen. We kunnen de volgende stochastische veranderlijke definiëren:

 Y : uitkomst- of responsvariabele  afhankelijke variabelen
 X: covariaat die de groep van een subject aanduidt  onafhankelijke variabelen




I Indien X niet categorisch is, maar numeriek (continu of discreet) dan dienen we alternatieve statistische
technieken te gebruiken (regressiemodellen). Mogelijke regressiemodellen:




ENKELVOUDIG LINEAIRE REGRESSIE

Greene en Touchstone voerden een studie om de relatie tussen geboortegewicht en oestriol niveau te
onderzoeken. Hiervoor nam men bij zwangere vrouwen volgende gegevens op het einde van de termijn op:

 het oestriol niveau (= eierstokhormoon in mg/24 uur)
 het geboortegewicht van de baby (g/100)


één van de gevonden waarden, wordt geschreven als:

- Xi = het oestriol niveau van de i-de zwangere vrouw  onafhankelijke variabele
- Yi = het geboortegewicht van de baby van de i-de zwangere vrouw  afhankelijke variabele (het
geboortegewicht is afhankelijk van het oestiol niveau)

Resultaten van het onderzoek:

De resultaten geven weer dat er een verband bestaat tussen het oestriolniveau
en het geboortegewicht van de baby’s: hoe hoger het oestriol niveau, hoe
hoger het geboortegewicht. Er zit wel ruis op, want het is geen lineaire
vergelijking. Dit komt doordat het geen rekening houdt met andere variabelen,
zoals de leeftijd, geslacht,….. en alleen maar met de variabelen: oestriolniveau
en het geboortegewicht.

,Het model dat men gebruikt om dit weer te geven is het enkelvoudig lineaire regressiemodel. Men gaat een
rechte creëren door de puntenwolk die het verband tussen X en Y weergeeft. De regressielijn is getekend in
onderstaande grafiek:



De regressielijn (rode lijn) wordt gegeven door:

Y^ = a + bx

- A = intercept
- B = rico

Deze termen gaan verder nog uitgelegd worden. De y^
geeft de voorspelling weer van het verband tussen X en
Y door de lijn.




WAT IS EEN LINEAIRE REGRESSIEMODEL?

Een punt van de puntenwolk wordt gegeven door:




- Yi = a + bXi  geeft het punt op de regressielijn weer  hierbij nog opgeteld de fout (Ɛ  blauw
grafiek hierboven) die men heeft gemaakt van de echte uitkomst van het punt van de puntenwolk.
- Yi = de uitkomst (gewicht van de baby) van de ide moeder
- Alfa = algemene geboortegewicht  gewicht bij X = 0
- BetaXi = effect oestriol op het gewicht van de baby

- = storingstermen (ruis)  ruis op het verband tussen het oestriolniveau en het gewicht



VOORWAARDEN LINEAIRE REGRESSIE


Bij een lineair regressiemodel heb je verschillende voorwaarden:

1. Lineariteit: de relatie tussen de uitkomstvariabele en covariaat is lineair in de parameters

2. Onafhankelijkheid: observaties zijn onafhankelijk  er mogen bijvoorbeeld geen genetische
connecties zijn tussen de verschillende proefpersonen

, 3. Normaliteit: de uitkomst gegeven een covariaatwaarde is normaal verdeeld met gemiddelde E(Y |x)
(en variantie σ^2)




4. Homoscedasticiteit (homogeniteit van variantie): de variantie Var(Y |x) hangt niet af van x,t.t.z, σ^2




Om dit lineaire regressiemodel te kunnen toepassen zijn er wel
een aantal modelonderstellingen waar men aan moet voldoen.
Deze vier veronderstellingen zijn hiernaast weergegeven in
symbolen.




Een twee steekproevige t-test is eigenlijk hetzelfde als een lineaire regressie en gelden hier dus ook de 4
veronderstellingen. Bij een twee steekproevige t-test ga je ook twee gemiddelde (rode punten in de grafiek)
met elkaar vergelijken en krijg je dus ook een lineair verband:




HOE VERKRIJGEN VAN EEN LINEAIR REGRESSIEMODEL?