Kansrekening – uitleg vanaf nul (L1–10) ESE EUR, FEB21005X · Levi S., MSc
Kansrekening – uitleg vanaf nul
Probability Theory (FEB21005X), Erasmus School of Economics, Erasmus Universiteit
Rotterdam
Colleges 1–10 · Docent: Dr. ir. Sharon Schalk · Boek: Bain & Engelhardt, Introduction to Probability and
Mathematical Statistics
Made by Levi S.
Master of Science
Voor bachelor- en premasterstudenten
Lees dit eerst
Dit document is voor iemand die het vak nog niet (helemaal) snapt en een voldoende wil halen.
Het volgt de colleges 1 tot en met 10 precies, met dezelfde notatie en dezelfde stellingnummers
(Bain & Engelhardt) als op de slides en het formuleblad.
College Onderwerp Hier
1 Experimenten, axioma’s, kansvariabelen, pmf, pdf, CDF §2
2 Verwachting, variantie, momenten, Markov en Chebyshev §3
3 Moment generating functions, discrete verdelingen §4–§5
3–4 Continue verdelingen (UNIF, EXP, GAM, χ2 , WEI, BETA, N) §6
5 Simultane (joint) verdelingen I, marginale verdelingen §7
6 Onafhankelijkheid, voorwaardelijke verdelingen, E van functies §8
7 Covariantie, correlatie, bivariate normale verdeling §9
8 Voorwaardelijke verwachting en variantie, LTE, CVF, LTP §10
9 Transformaties I: CDF-methode, Jacobiaanmethode §11
10 Transformaties II: MGF-methode, orde-statistieken §12
In gewone woorden
Het grote plaatje. College 1–4 gaat over één kansvariabele tegelijk. College 5–8 gaat over relaties
tussen meerdere kansvariabelen (hoe beschrijf je ze, en hoe meet je ze). College 9–10 gaat over
functies van kansvariabelen: als je weet hoe X verdeeld is, hoe is dan Y = h( X ) verdeeld?
Bijna elk tentamenpunt komt neer op drie dingen: (1) de juiste stelling noemen, (2) de drager
(support) goed opschrijven, (3) de notatie precies goed hebben.
Kleurcode. Blauw = definitie, groen = stelling (+ bewijs), rood = valkuil die punten kost, oranje =
huiswerk (alleen een hint, jij doet het werk), grijs = geen tentamenstof.
Eerlijk: bewijzen van de colleges staan hier volledig uitgeschreven, ook de bewijzen die op de
slides leeg waren en op het bord gedaan zijn. Bewijzen die huiswerk zijn, staan er bewust niet in;
daar krijg je alleen een duw in de goede richting. Het tentamen is in het Engels, dus de vaktermen
(Law of Total Expectation, support, . . . ) laat ik in het Engels staan.
Inhoud
1 Tentamenregels: de “kleine dingen” die punten kosten 3
2 College 1 – Events, axioma’s, kansvariabelen 4
2.1 Experimenten en events . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.2 Voorwaardelijke kans en onafhankelijkheid . . . . . . . . . . . . . . . . . . . . . . . . 4
1
,Kansrekening – uitleg vanaf nul (L1–10) ESE EUR, FEB21005X · Levi S., MSc
2.3 Kansvariabelen, pmf, support . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.4 Cumulatieve verdelingsfunctie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2.5 Continue kansvariabelen en pdf . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
3 College 2 – Verwachting, variantie, momenten, ongelijkheden 6
4 College 3a – Moment generating functions 7
5 College 3b – Discrete verdelingen 8
6 College 3c–4 – Continue verdelingen 9
6.1 Uniform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
6.2 Exponentieel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
6.3 Gammafunctie, Gamma, χ2 , Weibull, Beta . . . . . . . . . . . . . . . . . . . . . . . . . 10
6.4 Normaal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
7 College 5 – Simultane verdelingen I 11
8 College 6 – Onafhankelijkheid, voorwaardelijke verdelingen 12
9 College 7 – Covariantie, correlatie, bivariate normale verdeling 14
9.1 Covariantie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
9.2 Variantie van een lineaire combinatie . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
9.3 Correlatiecoëfficiënt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
9.4 Bivariate normale verdeling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
10 College 8 – Voorwaardelijke verwachting en variantie 17
10.1 Conditioneren op een event . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
10.2 Conditioneren op een kansvariabele en de LTE . . . . . . . . . . . . . . . . . . . . . . 18
10.3 Voorwaardelijke variantie en de CVF . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
10.4 Voorwaardelijke kans en de LTP . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
11 College 9 – Transformaties I 21
11.1 Univariate CDF-methode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
11.2 Bivariate CDF-methode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
11.3 Univariate Jacobiaanmethode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
11.4 Multivariate Jacobiaanmethode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
12 College 10 – Transformaties II: MGF-methode en orde-statistieken 24
12.1 De MGF-methode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
12.2 Steekproeven en orde-statistieken . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
13 Welke methode kies ik? (transformaties) 27
14 Gereedschapskist: trucs die overal terugkomen 27
2
, Kansrekening – uitleg vanaf nul (L1–10) ESE EUR, FEB21005X · Levi S., MSc
15 Inconsistenties in het cursusmateriaal (let op!) 28
16 Checklist vóór je een opgave inlevert 28
1 Tentamenregels: de “kleine dingen” die punten kosten
Uit de officiële exam information – uit je hoofd leren
• Een afgeleide pdf of CDF moet gedefinieerd zijn voor alle x ∈ R: schrijf altijd “0 otherwise”
(bij een CDF: 0 links, 1 rechts).
• Introduceer elke kansvariabele in woorden vóór je gaat rekenen (“Let X denote the
number of . . . ”).
• Gebruik je onafhankelijkheid in een stap, zeg dat expliciet.
• Schrijf X ∼ UNIF( a, b), nooit X = UNIF( a, b).
• Schrijf ≈ (niet =) na afronden of na het gebruik van een tabel.
• Onafhankelijkheid via f ( x, y) = f X ( x ) · f Y (y) vereist de toevoeging “for all x, y ∈ R”.
• Schrijf X | (Y = y). De notatie X | Y heeft in dit vak geen betekenis.
R∞
• E( X ) = −∞ 12 dx voor X ∼ UNIF(0, 2) is twee keer fout: de integrand moet x · f X ( x ) zijn,
R∞ R2
en f X is 0 buiten (0, 2). Goed: E( X ) = −∞ x · f X ( x ) dx = 0 x · 12 dx = 1.
• Is de support van een joint pdf een Cartesisch product, dan kun je Theorem 4.4.2 niet
gebruiken om afhankelijkheid te bewijzen.
• College 8: laat de overstap van conditioneren op een event naar conditioneren op een
kansvariabele duidelijk zien, en zet LTE / CVF / LTP boven het =-teken.
• College 9: schrijf bij de Jacobiaanmethode met 2 variabelen de algemene formule op en
geef duidelijk de inverse transformatie, de Jacobiaan, de nieuwe pdf én de support.
• LTE, CVF of LTP toepassen op dingen die geen kansvariabelen zijn kost punten.
• Resultaten uit Example 10.2, 10.4, 10.5, 10.6 mag je zonder bewijs gebruiken, behalve als
gevraagd wordt “use the MGF method to prove/show/derive. . . ”; dan een bewijs zoals
bij Example 10.2.
Stellingen die je eerst volledig moet opschrijven als je ze gebruikt (L1–10): Theorem 2.2.1,
2.3.1, 4.2.1, 4.3.1 (defining properties), Markov, Chebyshev, Theorem 4.4.1a (zeg welke uitspraak je
gebruikt), Theorem 4.4.2. (Later: Law of Large Numbers en Central Limit Theorem, college 11.)
R∞
Formules waarmee je punten verdient (opschrijven vóór je ze toepast): E( X ) = −∞ x · f X ( x ) dx,
R∞
E( X 2 ) = −∞ x2 · f X ( x ) dx, E(h( X, Y )) = h( x, y) · f X,Y ( x, y) dx dy, µ′k = E( X k ), µk = E(( X −
RR
Cov( X, Y )
µ)k ), Var( X ) = E( X 2 ) − (E( X ))2 , Cov( X, Y ) = E( X · Y ) − E( X ) · E(Y ), ρ X,Y = ,
σX · σY
covariantiematrix Σ, marginale pdf, voorwaardelijke pdf, E( X | Y = y), beide Jacobiaanformules,
LTE, CVF, LTP.
Geen tentamenstof (L1–10): bewijzen van Markov en Chebyshev; bewijzen van de eigenschappen
van de Gammafunctie; bewijs dat Xi ∼ BIN(n, pi ) in de multinomiale verdeling voor k = 3; afleiding
van de Law of Total Probability; afleiding van de covariantie van de multinomiale verdeling; slides
9.26–9.27 (Jacobiaan als h niet inverteerbaar is).
g(k) ( a )
Uit je hoofd leren: Markov, Chebyshev, Taylorreeks g( x ) = ∑∞ k =0
k
k! ( x − a ) , de joint pdf en de
marginale pdf van de i-de orde-statistiek Yi:n . (Later: CLT, convergentiedefinities.) De pdf van de
bivariate normale verdeling hoef je niet uit je hoofd te kennen.
3
Kansrekening – uitleg vanaf nul
Probability Theory (FEB21005X), Erasmus School of Economics, Erasmus Universiteit
Rotterdam
Colleges 1–10 · Docent: Dr. ir. Sharon Schalk · Boek: Bain & Engelhardt, Introduction to Probability and
Mathematical Statistics
Made by Levi S.
Master of Science
Voor bachelor- en premasterstudenten
Lees dit eerst
Dit document is voor iemand die het vak nog niet (helemaal) snapt en een voldoende wil halen.
Het volgt de colleges 1 tot en met 10 precies, met dezelfde notatie en dezelfde stellingnummers
(Bain & Engelhardt) als op de slides en het formuleblad.
College Onderwerp Hier
1 Experimenten, axioma’s, kansvariabelen, pmf, pdf, CDF §2
2 Verwachting, variantie, momenten, Markov en Chebyshev §3
3 Moment generating functions, discrete verdelingen §4–§5
3–4 Continue verdelingen (UNIF, EXP, GAM, χ2 , WEI, BETA, N) §6
5 Simultane (joint) verdelingen I, marginale verdelingen §7
6 Onafhankelijkheid, voorwaardelijke verdelingen, E van functies §8
7 Covariantie, correlatie, bivariate normale verdeling §9
8 Voorwaardelijke verwachting en variantie, LTE, CVF, LTP §10
9 Transformaties I: CDF-methode, Jacobiaanmethode §11
10 Transformaties II: MGF-methode, orde-statistieken §12
In gewone woorden
Het grote plaatje. College 1–4 gaat over één kansvariabele tegelijk. College 5–8 gaat over relaties
tussen meerdere kansvariabelen (hoe beschrijf je ze, en hoe meet je ze). College 9–10 gaat over
functies van kansvariabelen: als je weet hoe X verdeeld is, hoe is dan Y = h( X ) verdeeld?
Bijna elk tentamenpunt komt neer op drie dingen: (1) de juiste stelling noemen, (2) de drager
(support) goed opschrijven, (3) de notatie precies goed hebben.
Kleurcode. Blauw = definitie, groen = stelling (+ bewijs), rood = valkuil die punten kost, oranje =
huiswerk (alleen een hint, jij doet het werk), grijs = geen tentamenstof.
Eerlijk: bewijzen van de colleges staan hier volledig uitgeschreven, ook de bewijzen die op de
slides leeg waren en op het bord gedaan zijn. Bewijzen die huiswerk zijn, staan er bewust niet in;
daar krijg je alleen een duw in de goede richting. Het tentamen is in het Engels, dus de vaktermen
(Law of Total Expectation, support, . . . ) laat ik in het Engels staan.
Inhoud
1 Tentamenregels: de “kleine dingen” die punten kosten 3
2 College 1 – Events, axioma’s, kansvariabelen 4
2.1 Experimenten en events . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.2 Voorwaardelijke kans en onafhankelijkheid . . . . . . . . . . . . . . . . . . . . . . . . 4
1
,Kansrekening – uitleg vanaf nul (L1–10) ESE EUR, FEB21005X · Levi S., MSc
2.3 Kansvariabelen, pmf, support . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.4 Cumulatieve verdelingsfunctie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2.5 Continue kansvariabelen en pdf . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
3 College 2 – Verwachting, variantie, momenten, ongelijkheden 6
4 College 3a – Moment generating functions 7
5 College 3b – Discrete verdelingen 8
6 College 3c–4 – Continue verdelingen 9
6.1 Uniform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
6.2 Exponentieel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
6.3 Gammafunctie, Gamma, χ2 , Weibull, Beta . . . . . . . . . . . . . . . . . . . . . . . . . 10
6.4 Normaal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
7 College 5 – Simultane verdelingen I 11
8 College 6 – Onafhankelijkheid, voorwaardelijke verdelingen 12
9 College 7 – Covariantie, correlatie, bivariate normale verdeling 14
9.1 Covariantie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
9.2 Variantie van een lineaire combinatie . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
9.3 Correlatiecoëfficiënt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
9.4 Bivariate normale verdeling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
10 College 8 – Voorwaardelijke verwachting en variantie 17
10.1 Conditioneren op een event . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
10.2 Conditioneren op een kansvariabele en de LTE . . . . . . . . . . . . . . . . . . . . . . 18
10.3 Voorwaardelijke variantie en de CVF . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
10.4 Voorwaardelijke kans en de LTP . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
11 College 9 – Transformaties I 21
11.1 Univariate CDF-methode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
11.2 Bivariate CDF-methode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
11.3 Univariate Jacobiaanmethode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
11.4 Multivariate Jacobiaanmethode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
12 College 10 – Transformaties II: MGF-methode en orde-statistieken 24
12.1 De MGF-methode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
12.2 Steekproeven en orde-statistieken . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
13 Welke methode kies ik? (transformaties) 27
14 Gereedschapskist: trucs die overal terugkomen 27
2
, Kansrekening – uitleg vanaf nul (L1–10) ESE EUR, FEB21005X · Levi S., MSc
15 Inconsistenties in het cursusmateriaal (let op!) 28
16 Checklist vóór je een opgave inlevert 28
1 Tentamenregels: de “kleine dingen” die punten kosten
Uit de officiële exam information – uit je hoofd leren
• Een afgeleide pdf of CDF moet gedefinieerd zijn voor alle x ∈ R: schrijf altijd “0 otherwise”
(bij een CDF: 0 links, 1 rechts).
• Introduceer elke kansvariabele in woorden vóór je gaat rekenen (“Let X denote the
number of . . . ”).
• Gebruik je onafhankelijkheid in een stap, zeg dat expliciet.
• Schrijf X ∼ UNIF( a, b), nooit X = UNIF( a, b).
• Schrijf ≈ (niet =) na afronden of na het gebruik van een tabel.
• Onafhankelijkheid via f ( x, y) = f X ( x ) · f Y (y) vereist de toevoeging “for all x, y ∈ R”.
• Schrijf X | (Y = y). De notatie X | Y heeft in dit vak geen betekenis.
R∞
• E( X ) = −∞ 12 dx voor X ∼ UNIF(0, 2) is twee keer fout: de integrand moet x · f X ( x ) zijn,
R∞ R2
en f X is 0 buiten (0, 2). Goed: E( X ) = −∞ x · f X ( x ) dx = 0 x · 12 dx = 1.
• Is de support van een joint pdf een Cartesisch product, dan kun je Theorem 4.4.2 niet
gebruiken om afhankelijkheid te bewijzen.
• College 8: laat de overstap van conditioneren op een event naar conditioneren op een
kansvariabele duidelijk zien, en zet LTE / CVF / LTP boven het =-teken.
• College 9: schrijf bij de Jacobiaanmethode met 2 variabelen de algemene formule op en
geef duidelijk de inverse transformatie, de Jacobiaan, de nieuwe pdf én de support.
• LTE, CVF of LTP toepassen op dingen die geen kansvariabelen zijn kost punten.
• Resultaten uit Example 10.2, 10.4, 10.5, 10.6 mag je zonder bewijs gebruiken, behalve als
gevraagd wordt “use the MGF method to prove/show/derive. . . ”; dan een bewijs zoals
bij Example 10.2.
Stellingen die je eerst volledig moet opschrijven als je ze gebruikt (L1–10): Theorem 2.2.1,
2.3.1, 4.2.1, 4.3.1 (defining properties), Markov, Chebyshev, Theorem 4.4.1a (zeg welke uitspraak je
gebruikt), Theorem 4.4.2. (Later: Law of Large Numbers en Central Limit Theorem, college 11.)
R∞
Formules waarmee je punten verdient (opschrijven vóór je ze toepast): E( X ) = −∞ x · f X ( x ) dx,
R∞
E( X 2 ) = −∞ x2 · f X ( x ) dx, E(h( X, Y )) = h( x, y) · f X,Y ( x, y) dx dy, µ′k = E( X k ), µk = E(( X −
RR
Cov( X, Y )
µ)k ), Var( X ) = E( X 2 ) − (E( X ))2 , Cov( X, Y ) = E( X · Y ) − E( X ) · E(Y ), ρ X,Y = ,
σX · σY
covariantiematrix Σ, marginale pdf, voorwaardelijke pdf, E( X | Y = y), beide Jacobiaanformules,
LTE, CVF, LTP.
Geen tentamenstof (L1–10): bewijzen van Markov en Chebyshev; bewijzen van de eigenschappen
van de Gammafunctie; bewijs dat Xi ∼ BIN(n, pi ) in de multinomiale verdeling voor k = 3; afleiding
van de Law of Total Probability; afleiding van de covariantie van de multinomiale verdeling; slides
9.26–9.27 (Jacobiaan als h niet inverteerbaar is).
g(k) ( a )
Uit je hoofd leren: Markov, Chebyshev, Taylorreeks g( x ) = ∑∞ k =0
k
k! ( x − a ) , de joint pdf en de
marginale pdf van de i-de orde-statistiek Yi:n . (Later: CLT, convergentiedefinities.) De pdf van de
bivariate normale verdeling hoef je niet uit je hoofd te kennen.
3
