Hoofdstuk 6 - verdelingen van steekproeven
Basisbegrippen
Parameter Numerieke beschrijvende maat van een populatie. Waarde is bijna
altijd onbekend. (bv. mu, sigma, p)
Steekproefgrootheid Numerieke beschrijvende maat van een steekproef. Berekend uit de
steekproefwaarden. (bv. x-bar, s)
Schatter / Puntschatter Een steekproefgrootheid die een bepaalde populatieparameter schat.
IID Independently Identically Distributed. In deze cursus zijn
steekproeven IID met n = steekproefgrootte.
Verdeling van een steekproefgrootheid
De uitkomst van een steekproefgrootheid hangt van het toeval af. Een steekproefgrootheid is dus een stochastische
variabele en heeft een kansverdeling.
Probleem: hoe krijgen we een idee van de verdeling van data uit een steekproef?
3 methoden om de verdeling van een schatter te bekomen:
• Exacte benadering (vaak niet mogelijk)
• CLT (centrale limietstelling)
• Simulatietechnieken (met computer)
1. de exacte methode
Je sommeert/berekent over alle mogelijke uitkomsten van de
steekproef. Je weet de kansverdeling van de populatie volledig,
dus je kan letterlijk elke combinatie van n waarnemingen
opschrijven, de kans van elke combinatie berekenen (via de
productregel, want IID), en zo exact bepalen welke waarden x-
bar of de mediaan kan aannemen en met welke kans.
Let op: Werkt alleen als het aantal mogelijke steekproeven
beperkt is (zoals bij de dobbelsteen met maar 3 mogelijke
uitkomsten per worp) — bij continue verdelingen of grote n is dit
niet meer doenbaar.
2. via simulatie
Je kent de populatieverdeling (bv. X ~ U[150,200]), maar in plaats van alles exact uit te rekenen, laat je de computer
gewoon heel vaak (bv. M = 1000 keer) een steekproef van grootte n trekken uit die verdeling, en bereken je telkens
x-bar en de mediaan. Met die 1000 uitkomsten maak je een histogram — dat histogram is dan je benadering van de
echte kansverdeling van de schatter.
ð In Air: xunif(n, a, b)
,Eigenschappen van de kansverdeling van x-bar
Eigenschap 1: Verwachting (geen bias)
Conclusie: x-bar is een zuivere schatter of schatter zonder bias: de verwachting van de schatter = de parameter. Een
schatter die aan deze eigenschap voldoet is een aantrekkende schatter of schatter zonder bias.
Eigenschap 2: Variantie en standaardfout
Belangrijke eigenschap: indien n -> inf, zal de standaardfout naar 0 evolueren (schatter wordt juister).
Indien we n.100 doen, zal onze SE dalen met factor 10 (door de sqrt).
Indien n = 100 doen: SE van schatter daalt met 10 door de sqrt.
De Centrale Limietstelling (CLT)
Stelling 1: Steekproef uit een normale verdeling
Als steekproef komt uit normale verdeling N( , ):
ð kansverdeling van x-bar is EXACT normaal voor elke n (ook klein n!)
Stelling 2: Centrale Limietstelling (CLT)
Als steekproef komt uit WILLEKEURIGE populatie met
dan geldt voor n groot genoeg:
Vuistregel: voor de meeste populaties zal n >= 30 voldoende zijn.
Uit de eigenschappen volgt: "De schatter volgt een normale verdeling bij zeer goede
benadering als n voldoende groot is"
Hoe meer de verdeling van de populatie afwijkt van normaal, hoe groter n moet zijn.
Indien je vertrekt van een normale verdeling, dan zal de verdeling van de schatter al
onmiddellijk normaal verdeeld zijn.
Let op: veel gemaakte fout
- uitspraak: “bij grote steekproeven is de assumptie van normaliteit altijd waar”
fout, voor grote steekproeven is je schatter normaal verdeeld, maar de
oorspronkelijjke data blijft de oorspronkelijke verdeling volgen.
,Hoofdstuk 7- Betrouwbaarheidsintervallen
Basisconcepten
Principe: we schatten de parameter NIET met een getal maar met een interval.
Wiskundige definitie:
= intervalschatter
De waarde van de schatter moet met 0.95 kans in dat interval zitten.
Schatter / Puntschatter Regel of formule die ons zegt hoe we uit de steekproef een getal
berekenen om de populatieparameter te schatten. De uitkomst
(concreet getal) = schatting.
Betrouwbaarheidsinterval Regel of formule die ons zegt hoe we uit de steekproef een interval
(BI) / Intervalschatter berekenen dat de waarde van de parameter met bepaalde
waarschijnlijkheid bevat.
BI voor mu bij grote n
Afleiding via CLT voor het betrouwbaarheidsinterval
Enkele inzichten:
- de kans dat een normale verdeling tussen -2 en 2 ligt is dus 95%
- indien niets anders vermeld is de standaardwaarde van alpha = 0.05
- Wat betekent deze procedure juist? Als we herhaaldelijk aselecte steekproeven van n meetwaarden nemen
en telkens zo'n interval vormen, dan zal in ONGEVEER 95% van de gevallen mu binnen het opgestelde
interval liggen.
Voorwaarden
• De steekproef is een aselecte steekproef uit de populatie
• De steekproefgrootte n is groot (n >= 30) => CLT => kansverdeling x-bar bij benadering normaal
• Bij grote n zal s ook een goede schatter zijn voor sigma
, Betrouwbaarheidsniveau
Betrouwbaarheid 100(1-alpha)% alpha alpha/2 z_alpha/2
90% 0.10 0.05 1.645
95% 0.05 0.025 1.96
99% 0.01 0.005 2.575
Voorwaarden
• De steekproef is een aselecte steekproef uit de populatie
• De steekproefgrootte n is groot (n >= 30) => CLT => kansverdeling x-bar bij benadering normaal
• Bij grote n zal s ook een goede schatter zijn voor σ
BI voor mu bij kleine n
Bij kleine steekproeven kunnen we NIET langer veronderstellen dat de kansverdeling van x-bar bij benadering
normaal is (CLT geldt enkel voor grote n).
Extra voorwaarden bij kleine n:
• Populatie waaruit de steekproef komt is normaal verdeeld
• s en σ zijn niet meer precies gelijk => andere grootheid nodig
• We moeten werken met een t-verdeling in plaats van z-verdeling
Intermezzo: Wat is de t-verdeling?
De t-verdeling is NIET één verdeling, maar afhankelijk van de vrijheidsgraden (df).
• Symmetrische verdeling
• Met 4 df: veel breder, zwaardere staarten dan met df= 100
ð Naarmate vrijheidsgraden toenemen, lijkt t-verdeling meer op normale verdeling
ð Voor df -> inf: t-verdeling = standaardnormale verdeling
df = n - 1
In R: qt(1 - α, df = n-1)
Hoe groter n, hoe gelijker
BI voor een fractie p (grote n)
Het gaat hier over een willekeurige steekproef X1, X2, ..., Xn ~ Bernoulli(p). Hierbij kunnen hier dus niet werken met
kleine n aangezien de assumptie van een normale populatie nooit zal voldaan zijn. Vandaar enkel grote n.
Basisbegrippen
Parameter Numerieke beschrijvende maat van een populatie. Waarde is bijna
altijd onbekend. (bv. mu, sigma, p)
Steekproefgrootheid Numerieke beschrijvende maat van een steekproef. Berekend uit de
steekproefwaarden. (bv. x-bar, s)
Schatter / Puntschatter Een steekproefgrootheid die een bepaalde populatieparameter schat.
IID Independently Identically Distributed. In deze cursus zijn
steekproeven IID met n = steekproefgrootte.
Verdeling van een steekproefgrootheid
De uitkomst van een steekproefgrootheid hangt van het toeval af. Een steekproefgrootheid is dus een stochastische
variabele en heeft een kansverdeling.
Probleem: hoe krijgen we een idee van de verdeling van data uit een steekproef?
3 methoden om de verdeling van een schatter te bekomen:
• Exacte benadering (vaak niet mogelijk)
• CLT (centrale limietstelling)
• Simulatietechnieken (met computer)
1. de exacte methode
Je sommeert/berekent over alle mogelijke uitkomsten van de
steekproef. Je weet de kansverdeling van de populatie volledig,
dus je kan letterlijk elke combinatie van n waarnemingen
opschrijven, de kans van elke combinatie berekenen (via de
productregel, want IID), en zo exact bepalen welke waarden x-
bar of de mediaan kan aannemen en met welke kans.
Let op: Werkt alleen als het aantal mogelijke steekproeven
beperkt is (zoals bij de dobbelsteen met maar 3 mogelijke
uitkomsten per worp) — bij continue verdelingen of grote n is dit
niet meer doenbaar.
2. via simulatie
Je kent de populatieverdeling (bv. X ~ U[150,200]), maar in plaats van alles exact uit te rekenen, laat je de computer
gewoon heel vaak (bv. M = 1000 keer) een steekproef van grootte n trekken uit die verdeling, en bereken je telkens
x-bar en de mediaan. Met die 1000 uitkomsten maak je een histogram — dat histogram is dan je benadering van de
echte kansverdeling van de schatter.
ð In Air: xunif(n, a, b)
,Eigenschappen van de kansverdeling van x-bar
Eigenschap 1: Verwachting (geen bias)
Conclusie: x-bar is een zuivere schatter of schatter zonder bias: de verwachting van de schatter = de parameter. Een
schatter die aan deze eigenschap voldoet is een aantrekkende schatter of schatter zonder bias.
Eigenschap 2: Variantie en standaardfout
Belangrijke eigenschap: indien n -> inf, zal de standaardfout naar 0 evolueren (schatter wordt juister).
Indien we n.100 doen, zal onze SE dalen met factor 10 (door de sqrt).
Indien n = 100 doen: SE van schatter daalt met 10 door de sqrt.
De Centrale Limietstelling (CLT)
Stelling 1: Steekproef uit een normale verdeling
Als steekproef komt uit normale verdeling N( , ):
ð kansverdeling van x-bar is EXACT normaal voor elke n (ook klein n!)
Stelling 2: Centrale Limietstelling (CLT)
Als steekproef komt uit WILLEKEURIGE populatie met
dan geldt voor n groot genoeg:
Vuistregel: voor de meeste populaties zal n >= 30 voldoende zijn.
Uit de eigenschappen volgt: "De schatter volgt een normale verdeling bij zeer goede
benadering als n voldoende groot is"
Hoe meer de verdeling van de populatie afwijkt van normaal, hoe groter n moet zijn.
Indien je vertrekt van een normale verdeling, dan zal de verdeling van de schatter al
onmiddellijk normaal verdeeld zijn.
Let op: veel gemaakte fout
- uitspraak: “bij grote steekproeven is de assumptie van normaliteit altijd waar”
fout, voor grote steekproeven is je schatter normaal verdeeld, maar de
oorspronkelijjke data blijft de oorspronkelijke verdeling volgen.
,Hoofdstuk 7- Betrouwbaarheidsintervallen
Basisconcepten
Principe: we schatten de parameter NIET met een getal maar met een interval.
Wiskundige definitie:
= intervalschatter
De waarde van de schatter moet met 0.95 kans in dat interval zitten.
Schatter / Puntschatter Regel of formule die ons zegt hoe we uit de steekproef een getal
berekenen om de populatieparameter te schatten. De uitkomst
(concreet getal) = schatting.
Betrouwbaarheidsinterval Regel of formule die ons zegt hoe we uit de steekproef een interval
(BI) / Intervalschatter berekenen dat de waarde van de parameter met bepaalde
waarschijnlijkheid bevat.
BI voor mu bij grote n
Afleiding via CLT voor het betrouwbaarheidsinterval
Enkele inzichten:
- de kans dat een normale verdeling tussen -2 en 2 ligt is dus 95%
- indien niets anders vermeld is de standaardwaarde van alpha = 0.05
- Wat betekent deze procedure juist? Als we herhaaldelijk aselecte steekproeven van n meetwaarden nemen
en telkens zo'n interval vormen, dan zal in ONGEVEER 95% van de gevallen mu binnen het opgestelde
interval liggen.
Voorwaarden
• De steekproef is een aselecte steekproef uit de populatie
• De steekproefgrootte n is groot (n >= 30) => CLT => kansverdeling x-bar bij benadering normaal
• Bij grote n zal s ook een goede schatter zijn voor sigma
, Betrouwbaarheidsniveau
Betrouwbaarheid 100(1-alpha)% alpha alpha/2 z_alpha/2
90% 0.10 0.05 1.645
95% 0.05 0.025 1.96
99% 0.01 0.005 2.575
Voorwaarden
• De steekproef is een aselecte steekproef uit de populatie
• De steekproefgrootte n is groot (n >= 30) => CLT => kansverdeling x-bar bij benadering normaal
• Bij grote n zal s ook een goede schatter zijn voor σ
BI voor mu bij kleine n
Bij kleine steekproeven kunnen we NIET langer veronderstellen dat de kansverdeling van x-bar bij benadering
normaal is (CLT geldt enkel voor grote n).
Extra voorwaarden bij kleine n:
• Populatie waaruit de steekproef komt is normaal verdeeld
• s en σ zijn niet meer precies gelijk => andere grootheid nodig
• We moeten werken met een t-verdeling in plaats van z-verdeling
Intermezzo: Wat is de t-verdeling?
De t-verdeling is NIET één verdeling, maar afhankelijk van de vrijheidsgraden (df).
• Symmetrische verdeling
• Met 4 df: veel breder, zwaardere staarten dan met df= 100
ð Naarmate vrijheidsgraden toenemen, lijkt t-verdeling meer op normale verdeling
ð Voor df -> inf: t-verdeling = standaardnormale verdeling
df = n - 1
In R: qt(1 - α, df = n-1)
Hoe groter n, hoe gelijker
BI voor een fractie p (grote n)
Het gaat hier over een willekeurige steekproef X1, X2, ..., Xn ~ Bernoulli(p). Hierbij kunnen hier dus niet werken met
kleine n aangezien de assumptie van een normale populatie nooit zal voldaan zijn. Vandaar enkel grote n.
