Bayes Tutorial
Introduction
Deze tutorial zal zich toespitsen op de evaluatie van hypothesen in de context van het ANOVA-model.
Met drie groepen zou gelden dat H0 : µ1 = µ2 = µ3 en Ha : niet H0. De nulhypothese hoeft niet verplicht
gebruikt te worden, alleen als deze een plausibele beschrijving biedt voor de doelpopulatie. H a wordt
in deze tutorial vervangen door Hu, waar het subscript u aangeeft dat de gemiddelden ongelimiteerd
zijn: Hu : µ1, µ2, µ3. Het verschil tussen deze representaties is dat H a expliciet µ1 = µ2 = µ3 buitensluit,
waar Hu dat niet doet. Maar beide representaties zijn gelijkwaardig en zorgen voor dezelfde Bayes
Factor. Bayes Factor is meestal in de vorm van BF 0u, maar je kan de factor voor Hu krijgen door 1: BF0u
te doen. De steun uitgedrukt in de Bayes factor wordt bepaald door de relatieve fit en de relatieve
complexiteit. Een goede hypothese heeft een goede fit, dus het heeft een adequate beschrijving van
de data. En een goede hypothese is niet onnodig complex (specifiek en parsimonious), omdat betere
voorspellingen gedaan kunnen worden aan de hand van meer specifieke hypotheses.
Bayes factor = De Bayes factor BF0u kwantificeert hoe veel meer waarschijnlijk het is dat je de data
krijgt onder H0 dan onder Hu. Daarom kan BF0u geïnterpreteerd worden als de relatieve steun voor de
geobserveerde data voor H0 versus Hu. Als BFou = 1, dan is er geen voorkeur voor H0 of Hu. Als BF0u > 1,
dan heeft H0 de voorkeur. Als BF0u tussen de 0 en 1 ligt, heeft Hu de voorkeur.
Properties of the Bayes Factor
How Large Should the Bayes Factor Be?
Hoe groot moet BF0u zijn om de voorkeur te geven aan H 0 en hoe klein moet BF0u zijn om de voorkeur
te geven aan Hu? behoefte aan een drempelwaarde die, zoals een α-niveau van .05 in NHST, kan
worden gebruikt om te beslissen welke hypothese moet worden gekozen. In tegenstelling tot NHST
geeft de Bayes factor echter geen eenduidige beslissing (H0 verwerpen of niet verwerpen), maar is
het een kwantificering van de steun in de gegevens voor de overwogen hypothesen. Er zijn voor een
juiste interpretatie van een Bayes factor geen formele drempelwaarden nodig, omdat het relatieve
bewijs voor de hypothesen op basis van de Bayes factor voor zichzelf spreekt. Op basis van de
posterieure waarschijnlijkheden van de hypothesen die van belang zijn, kan dezelfde vraag worden
gesteld: wanneer is een posterieure waarschijnlijkheid groot genoeg om een hypothese "af te
wijzen". Hier geldt hetzelfde als voor de Bayes factor, namelijk dat het doel van Bayesiaanse
hypothesetoets niet is te beslissen welke hypothesen moeten worden verworpen of aanvaard na het
observeren van de gegevens. Het doel is de onzekerheid over de hypothesen te kwantificeren aan de
hand van de waargenomen gegevens. Het heeft de voorkeur het onderzoek van tevoren te
registreren, het uit te voeren en de steun voor de hypothesen die zijn onderzocht te rapporteren in
termen van de Bayes factor en de Bayesiaanse foutkansen die zijn verkregen zonder verwijzing naar
een drempelwaarde.
The Bayes Factor can be Used to Quantify Support for the Null Hypothesis
NHST is gericht op de nulhypothese. De uitkomst kan zijn dat H 0 wordt verworpen of dat deze niet
wordt verworpen. De uitkomst kan niet zijn dat H 0 wordt aanvaard. Wanneer H0 en Hu met de Bayes
factor worden geëvalueerd, hebben beide hypothesen een gelijke status, d.w.z. geen van beide heeft
de rol van de traditionele nulhypothese of alternatieve hypothese, het zijn gewoon 2 hypothesen.
The Bayes Factor Selects the best of the Hypotheses Under Consideration
Ongeacht of de gegevens gunstig zijn voor H 0 of Hu, kan het zijn dat beide hypothesen een
inadequate beschrijving geven van de populatie waaruit de gegevens komen. Het is mogelijk dat er
andere hypothesen zijn (die niet in aanmerking werden genomen) waarvoor de steun in de gegevens
(veel) groter is. De posterieure waarschijnlijkheden geven de mate van steun in de gegevens voor de
beschouwde hypothesen weer. Zij kunnen niet worden gebruikt om de waarheid met betrekking tot
1
Introduction
Deze tutorial zal zich toespitsen op de evaluatie van hypothesen in de context van het ANOVA-model.
Met drie groepen zou gelden dat H0 : µ1 = µ2 = µ3 en Ha : niet H0. De nulhypothese hoeft niet verplicht
gebruikt te worden, alleen als deze een plausibele beschrijving biedt voor de doelpopulatie. H a wordt
in deze tutorial vervangen door Hu, waar het subscript u aangeeft dat de gemiddelden ongelimiteerd
zijn: Hu : µ1, µ2, µ3. Het verschil tussen deze representaties is dat H a expliciet µ1 = µ2 = µ3 buitensluit,
waar Hu dat niet doet. Maar beide representaties zijn gelijkwaardig en zorgen voor dezelfde Bayes
Factor. Bayes Factor is meestal in de vorm van BF 0u, maar je kan de factor voor Hu krijgen door 1: BF0u
te doen. De steun uitgedrukt in de Bayes factor wordt bepaald door de relatieve fit en de relatieve
complexiteit. Een goede hypothese heeft een goede fit, dus het heeft een adequate beschrijving van
de data. En een goede hypothese is niet onnodig complex (specifiek en parsimonious), omdat betere
voorspellingen gedaan kunnen worden aan de hand van meer specifieke hypotheses.
Bayes factor = De Bayes factor BF0u kwantificeert hoe veel meer waarschijnlijk het is dat je de data
krijgt onder H0 dan onder Hu. Daarom kan BF0u geïnterpreteerd worden als de relatieve steun voor de
geobserveerde data voor H0 versus Hu. Als BFou = 1, dan is er geen voorkeur voor H0 of Hu. Als BF0u > 1,
dan heeft H0 de voorkeur. Als BF0u tussen de 0 en 1 ligt, heeft Hu de voorkeur.
Properties of the Bayes Factor
How Large Should the Bayes Factor Be?
Hoe groot moet BF0u zijn om de voorkeur te geven aan H 0 en hoe klein moet BF0u zijn om de voorkeur
te geven aan Hu? behoefte aan een drempelwaarde die, zoals een α-niveau van .05 in NHST, kan
worden gebruikt om te beslissen welke hypothese moet worden gekozen. In tegenstelling tot NHST
geeft de Bayes factor echter geen eenduidige beslissing (H0 verwerpen of niet verwerpen), maar is
het een kwantificering van de steun in de gegevens voor de overwogen hypothesen. Er zijn voor een
juiste interpretatie van een Bayes factor geen formele drempelwaarden nodig, omdat het relatieve
bewijs voor de hypothesen op basis van de Bayes factor voor zichzelf spreekt. Op basis van de
posterieure waarschijnlijkheden van de hypothesen die van belang zijn, kan dezelfde vraag worden
gesteld: wanneer is een posterieure waarschijnlijkheid groot genoeg om een hypothese "af te
wijzen". Hier geldt hetzelfde als voor de Bayes factor, namelijk dat het doel van Bayesiaanse
hypothesetoets niet is te beslissen welke hypothesen moeten worden verworpen of aanvaard na het
observeren van de gegevens. Het doel is de onzekerheid over de hypothesen te kwantificeren aan de
hand van de waargenomen gegevens. Het heeft de voorkeur het onderzoek van tevoren te
registreren, het uit te voeren en de steun voor de hypothesen die zijn onderzocht te rapporteren in
termen van de Bayes factor en de Bayesiaanse foutkansen die zijn verkregen zonder verwijzing naar
een drempelwaarde.
The Bayes Factor can be Used to Quantify Support for the Null Hypothesis
NHST is gericht op de nulhypothese. De uitkomst kan zijn dat H 0 wordt verworpen of dat deze niet
wordt verworpen. De uitkomst kan niet zijn dat H 0 wordt aanvaard. Wanneer H0 en Hu met de Bayes
factor worden geëvalueerd, hebben beide hypothesen een gelijke status, d.w.z. geen van beide heeft
de rol van de traditionele nulhypothese of alternatieve hypothese, het zijn gewoon 2 hypothesen.
The Bayes Factor Selects the best of the Hypotheses Under Consideration
Ongeacht of de gegevens gunstig zijn voor H 0 of Hu, kan het zijn dat beide hypothesen een
inadequate beschrijving geven van de populatie waaruit de gegevens komen. Het is mogelijk dat er
andere hypothesen zijn (die niet in aanmerking werden genomen) waarvoor de steun in de gegevens
(veel) groter is. De posterieure waarschijnlijkheden geven de mate van steun in de gegevens voor de
beschouwde hypothesen weer. Zij kunnen niet worden gebruikt om de waarheid met betrekking tot
1
