Statistik deskriptive Verfahren – das lineare Modell
1.1 Prädiktoren und Kriterien einer Regression aus einer gegebenen Fragestellung abzuleiten
ll • Kriterium: Die Variable, die vorhergesagt werden soll (AV)
• Prädiktor: Die Variable, die zur Vorhersage dient (UV)
1.1/1.2 die Regressionsgleichung für eine einfache lineare Regression zu bestimmen
• Die Funktionsgleichung: 𝑦"! = 𝑏" + 𝑏#𝑥#
o 𝑦" : vorhergesagter Wert der AV
o 𝑏" : Y-Achsenabschnitt
o 𝑏# : Steigung der Geraden
• Wünschenswerte Kriterien zur Festlegung der Geraden:
o Die Gerade sollte eindeutig bestimmt sein
o Gerade soll eine optimale Vorhersage des Kriteriums erlauben
o Variation der Variablen Y (Kriterium) sollte sich in zwei Teile aufteilen lassen
§ Ein Teil der durch die Variable X vorhersehbar bzw. erklärt wird -> erklärter Anteil
§ Ein Teil der nicht durch die Variable X vorhersehbar bzw. zu erklären ist -> nicht
erklärter Teil
1.2 das Prinzip des Kleinste-Quadrate-Kriteriums zu erklären
• Fehlerkriterium, dass die Eindeutigkeit und die oben als wünschenswert beschriebenen
EigenschaQten erfüllt
• Nicht alle beobachteten Werte stimmen also mit den vorhergesagten Werten überein
• Abweichung der beobachteten von den vorhergesagten Werten heißen Residuen (Fehler)
• Kriterium minimiert die quadrierte DiQerenz zwischen den beobachteten und vorhergesagten
Wert
• Die kleinste Quadratsumme hängt also nur von 𝑏" und 𝑏# ab
o Sie bestimmen die Regressionsgerade
o Durch die Quadrierung werden größere Vorhersagefehler stärker gewichtet als kleinere
o 𝑏" und 𝑏# werden also so gewählt, dass der kleinstmögliche Wert für die Quadratsumme
der Fehler resultiert
% %
• Berechnung 𝑏# : 𝑏# = %!" oder. 𝑏# = 𝑟&' %"
!# !
• Berechnung 𝑏" : 𝑏" = 𝑦& - 𝑏#𝑥̅
1.2 die Regressionsgleichung einer einfachen linearen Regression für Vorhersagen zu verwenden
• Die Regressionsgerade läuft IMMER durch den Punkt M (𝑥̅ /𝑦&)
, 1.3 den Unterschied zwischen standardisierten und unstandardisierten Regressionskoeffizienten zu erklären
• Unstandardisierte RegressionskoeQizienten
o RegressionskoeQizienten für Variablen mit beliebiger Standardabweichung
o heißen unstandardisiert, weil die beteiligten Variablen nicht standardisiert sind
o 𝑏# gibt also an um wie viele Einheiten sich das Kriterium verändert, wenn der Wert des
Prädiktors um eine Einheit erhöh wird
• Standardisierte RegressionskoeQizienten
o Liegen z-standardisierte Variablen 𝑧& und 𝑧' vor und wird eine lineare Regression
durchgeführt, heißen die KoeQizienten standardisierte RegressionskoeQizienten
o Diese werden mit 𝑏#∗ und 𝑏"∗ bezeichnet
o Für z-standardisierte Variablen gilt: 𝑧̅' = 0, 𝑧̅& = 0, 𝑠)& = 1, 𝑠̅)' = 1
o Daraus folgt:
1.4/1.5 den Determinationskoeffizienten 𝑅* anhand der zwei Variationsanteile zu erklären
• Bestimmung der Regressionsgeraden anhand der Methode der Kleinsten-Quadrate
• Nun wird Gültigkeit der dritten wünschenswerten Eigenschaft gezeigt
• Zuerst werden ursprüngliche Werte in drei Anteile zerlegt:
o Abweichung des Mittelwerts vom Nullpunkt: 𝑦& – 0
o Abweichung des vorhergesagten Wertes vom Mittelwert: 𝑦"! – 𝑦&
o Abweichung des beobachteten vom vorhergesagten Wert (Fehler): 𝑦! - 𝑦"!
• Insgesamt folgt also: 𝑦! – 0 = (𝑦& – 0) + (𝑦"! - 𝑦&) + (𝑦! - 𝑦"! )
• Abweichungen der Messwerte vom Mittelwert: 𝑦! - 𝑦& = (𝑦"! - 𝑦&) + (𝑦! - 𝑦"! )
o Kann auch in zwei Anteile zerlegt werden: 𝑦"! - 𝑦& und 𝑦! - 𝑦"!
• Analog können auch die Abweichungsquadratsummen in Anteile zerlegt werden
o 𝑆𝑆+ : gesamte Summe der Abweichungsquadrate
o 𝑆𝑆, : Summe der Abweichungsquadrate, die durch die Regression erklärt werden
o 𝑆𝑆- : Summe der Abweichungsquadrate der Fehler
• Somit gilt: 𝑆𝑆+ = 𝑆𝑆, + 𝑆𝑆-
• Der DeterminationskoeQizient 𝑅*
o Die Gesamtvariation ergibt sich wie oben gezeigt additiv durch 2 Variationsanteile
%%
§ Daher kann der DeterminationskoeQizient 𝑅* gebildet werden: 𝑅* = %%$ = 𝑟 *
%
1.1 Prädiktoren und Kriterien einer Regression aus einer gegebenen Fragestellung abzuleiten
ll • Kriterium: Die Variable, die vorhergesagt werden soll (AV)
• Prädiktor: Die Variable, die zur Vorhersage dient (UV)
1.1/1.2 die Regressionsgleichung für eine einfache lineare Regression zu bestimmen
• Die Funktionsgleichung: 𝑦"! = 𝑏" + 𝑏#𝑥#
o 𝑦" : vorhergesagter Wert der AV
o 𝑏" : Y-Achsenabschnitt
o 𝑏# : Steigung der Geraden
• Wünschenswerte Kriterien zur Festlegung der Geraden:
o Die Gerade sollte eindeutig bestimmt sein
o Gerade soll eine optimale Vorhersage des Kriteriums erlauben
o Variation der Variablen Y (Kriterium) sollte sich in zwei Teile aufteilen lassen
§ Ein Teil der durch die Variable X vorhersehbar bzw. erklärt wird -> erklärter Anteil
§ Ein Teil der nicht durch die Variable X vorhersehbar bzw. zu erklären ist -> nicht
erklärter Teil
1.2 das Prinzip des Kleinste-Quadrate-Kriteriums zu erklären
• Fehlerkriterium, dass die Eindeutigkeit und die oben als wünschenswert beschriebenen
EigenschaQten erfüllt
• Nicht alle beobachteten Werte stimmen also mit den vorhergesagten Werten überein
• Abweichung der beobachteten von den vorhergesagten Werten heißen Residuen (Fehler)
• Kriterium minimiert die quadrierte DiQerenz zwischen den beobachteten und vorhergesagten
Wert
• Die kleinste Quadratsumme hängt also nur von 𝑏" und 𝑏# ab
o Sie bestimmen die Regressionsgerade
o Durch die Quadrierung werden größere Vorhersagefehler stärker gewichtet als kleinere
o 𝑏" und 𝑏# werden also so gewählt, dass der kleinstmögliche Wert für die Quadratsumme
der Fehler resultiert
% %
• Berechnung 𝑏# : 𝑏# = %!" oder. 𝑏# = 𝑟&' %"
!# !
• Berechnung 𝑏" : 𝑏" = 𝑦& - 𝑏#𝑥̅
1.2 die Regressionsgleichung einer einfachen linearen Regression für Vorhersagen zu verwenden
• Die Regressionsgerade läuft IMMER durch den Punkt M (𝑥̅ /𝑦&)
, 1.3 den Unterschied zwischen standardisierten und unstandardisierten Regressionskoeffizienten zu erklären
• Unstandardisierte RegressionskoeQizienten
o RegressionskoeQizienten für Variablen mit beliebiger Standardabweichung
o heißen unstandardisiert, weil die beteiligten Variablen nicht standardisiert sind
o 𝑏# gibt also an um wie viele Einheiten sich das Kriterium verändert, wenn der Wert des
Prädiktors um eine Einheit erhöh wird
• Standardisierte RegressionskoeQizienten
o Liegen z-standardisierte Variablen 𝑧& und 𝑧' vor und wird eine lineare Regression
durchgeführt, heißen die KoeQizienten standardisierte RegressionskoeQizienten
o Diese werden mit 𝑏#∗ und 𝑏"∗ bezeichnet
o Für z-standardisierte Variablen gilt: 𝑧̅' = 0, 𝑧̅& = 0, 𝑠)& = 1, 𝑠̅)' = 1
o Daraus folgt:
1.4/1.5 den Determinationskoeffizienten 𝑅* anhand der zwei Variationsanteile zu erklären
• Bestimmung der Regressionsgeraden anhand der Methode der Kleinsten-Quadrate
• Nun wird Gültigkeit der dritten wünschenswerten Eigenschaft gezeigt
• Zuerst werden ursprüngliche Werte in drei Anteile zerlegt:
o Abweichung des Mittelwerts vom Nullpunkt: 𝑦& – 0
o Abweichung des vorhergesagten Wertes vom Mittelwert: 𝑦"! – 𝑦&
o Abweichung des beobachteten vom vorhergesagten Wert (Fehler): 𝑦! - 𝑦"!
• Insgesamt folgt also: 𝑦! – 0 = (𝑦& – 0) + (𝑦"! - 𝑦&) + (𝑦! - 𝑦"! )
• Abweichungen der Messwerte vom Mittelwert: 𝑦! - 𝑦& = (𝑦"! - 𝑦&) + (𝑦! - 𝑦"! )
o Kann auch in zwei Anteile zerlegt werden: 𝑦"! - 𝑦& und 𝑦! - 𝑦"!
• Analog können auch die Abweichungsquadratsummen in Anteile zerlegt werden
o 𝑆𝑆+ : gesamte Summe der Abweichungsquadrate
o 𝑆𝑆, : Summe der Abweichungsquadrate, die durch die Regression erklärt werden
o 𝑆𝑆- : Summe der Abweichungsquadrate der Fehler
• Somit gilt: 𝑆𝑆+ = 𝑆𝑆, + 𝑆𝑆-
• Der DeterminationskoeQizient 𝑅*
o Die Gesamtvariation ergibt sich wie oben gezeigt additiv durch 2 Variationsanteile
%%
§ Daher kann der DeterminationskoeQizient 𝑅* gebildet werden: 𝑅* = %%$ = 𝑟 *
%