Zusammenfassung Multivariate Verfahren

1 Beast of Bias ............................................................................................................................................ 1 1.1 Ausreißer .............................................................................................................................................................................. 2 1.2 Annahmen............................................................................................................................................................................. 4 1.3 Überprüfen der Voraussetzungen .............................................................................................................................. 6 1.3.1 Testen auf Ausreißer ......................................................................................................................................................... 6 1.3.2 Testen von Linearität und Homoskedastizität ...................................................................................................... 8 1.3.3 Testen auf Homoskedastizität ...................................................................................................................................... 9 Missings – Umgang mit fehlenden Werten .................................................................................11 2.1 Entstehung fehlender Werte ......................................................................................................................................11 2.2 Typen und Muster ...........................................................................................................................................................11 2.3 Imputationen ..................................................................................................................................................................... 15 2.3.1 Strategien im Umgang mit fehlenden Werten .................................................................................................... 15 2.3.2 Regressionsimputation ................................................................................................................................................. 16 2.3.3 Expectation maximization .......................................................................................................................................... 16 2.3.4 Multiple Imputation („data augmentation“) ...................................................................................................... 16 Multiple Regression............................................................................................................................18 3.1 Multiple lineare Regression ........................................................................................................................................18 3.1.1 Exkurs: Dummy Codierung.......................................................................................................................................... 18 3.1.2 Einfachster Fall_ Zwei Prädiktoren ......................................................................................................................... 19 3.1.3 Interpretation Beta-Gewichte .................................................................................................................................... 22 3.1.4 Exkurs: Partielle vs. Semipartielle Korrelation .................................................................................................. 24 3.1.5 Multiple Regression ........................................................................................................................................................ 25 3.1.6 Determinationakoeffizient – einfache Regression ............................................................................................ 25 3.1.7 Signifikanttest: Modell .................................................................................................................................................. 27 3.1.8 Signifikantest Steigungskoeffizient ......................................................................................................................... 27 3.2 Anwendung ........................................................................................................................................................................29 3.2.1 Annahmen........................................................................................................................................................................... 29 3.2.2 Selektionsverfahren........................................................................................................................................................ 32 Logistische Regression ......................................................................................................................35 4.1.1 Ablaufschritte einer logistischen Regression ...................................................................................................... 37 2 3 4 Multivariate Verfahren I 5 4.2.1 Wirkung einer Vergrößerung von X um eine einheit bei Positivem und Negativem Regressionskoeffizienten .............................................................................................................................................................. 42 4.2.2 FACHARTIKEL: Interpretieren der Ergebnisse indem Sie einen Antwortsatz bilden ........................ 42 4.3 The Log-Likelihood – Prüfung des Gesamtmodells ..........................................................................................43 4.3.1 R & R2 (Pseudo-R2-Statistik) ...................................................................................................................................... 43 4.3.2 The Wald Statistic ........................................................................................................................................................... 44 4.3.3 Builiding the Model......................................................................................................................................................... 44 4.3.4 Things that can go wrong ............................................................................................................................................ 45 4.3.5 The Process......................................................................................................................................................................... 46 Univariate Varianzanalysen ............................................................................................................47 4.1.2 4.1.3 4.2 Grundlegende Zusammenhänge der logistischen Regression...................................................................... 38 Interpretation der Regressionskoeffizienten....................................................................................................... 39 Interpretation Odds Ratio............................................................................................................................................41 5.1.1 5.1.2 5.2 5.2.1 5.2.2 5.3 5.3.1 5.3.2 5.3.3 5.3.4 5.3.5 5.4 5.4.1 5.5 5.5.1 5.6 5.7 5.7.1 5.7.2 5.8 5.8.1 5.8.2 5.8.3 Univariate vs. Multivariate Varianzanalyse ........................................................................................................ 47 Warum Varianzanalyse? .............................................................................................................................................. 47 Typen der Varianzanalyse ...........................................................................................................................................48 Terminologie der Varianzanalyse............................................................................................................................ 50 Voraussetzung der Varianzanalyse ......................................................................................................................... 50 Das Grundprinzip der Varianzanalyse ...................................................................................................................50 Die Varianz ......................................................................................................................................................................... 51 Die Gesamtvarianz .......................................................................................................................................................... 51 Zerlegung der Gesamtvarianz.................................................................................................................................... 52 Die Schätzung der Residualvarianz (nicht erklärte Streuung)................................................................... 54 Quadratsummen .............................................................................................................................................................. 55 Prüfung statistische Signifikant – der F-Bruch ...................................................................................................55 Die Null-Hypothese ......................................................................................................................................................... 55 Effektstärke ........................................................................................................................................................................56 Die Alternativhypothese der Varianzanalyse...................................................................................................... 57 Beispielrechnung .............................................................................................................................................................57 Mehrfaktorielle ANOVA ................................................................................................................................................59 Nomenklatur ..................................................................................................................................................................... 59 Effektarten.......................................................................................................................................................................... 60 Definition der Wechselwirkung ................................................................................................................................65 Ordinale Wechselwirkung ........................................................................................................................................... 65 Semiordinale Wechselwirkung .................................................................................................................................. 66 Disordinale Wechselwirkung ..................................................................................................................................... 67 5.9 Multivariate Verfahren II Voraussetzungen .............................................................................................................................................................68 6 5.10 Varianzzerlegung ............................................................................................................................................................. 68 Multivariate Varianzanalyse (MANOVA).....................................................................................69 6.1 Uni- vs. Multivariate Varianzanalyse ......................................................................................................................69 6.1.1 Fragestellung für MANOVA......................................................................................................................................... 70 6.2 MANOVA – Hypothesentestung.................................................................................................................................71 6.2.1 Analyse der Varianzen................................................................................................................................................... 71 6.2.2 Additivität der Quadratsummen............................................................................................................................... 72 6.3 Prüfgrößen bei der MANOVA .....................................................................................................................................73 7 Repeated ANOVA .................................................................................................................................80 8 Clusteranalyse ......................................................................................................................................91 8.1 Vorgehen .............................................................................................................................................................................92 8.1.1 Dichotome Variablen ..................................................................................................................................................... 93 8.1.2 Koeffizient ........................................................................................................................................................................... 93 8.1.3 Bestimmung der Ähnlichkeit ...................................................................................................................................... 94 6.3.1 6.3.2 6.3.3 6.3.4 6.3.5 6.3.6 6.3.7 6.3.8 6.3.9 6.3.10 Wilk’s Lambda .................................................................................................................................................................. 73 Auswahl der Multivariaten Prüfgröße ................................................................................................................... 74 Post Hoc Tests ................................................................................................................................................................... 75 Übersicht der Post-Hoc Tests...................................................................................................................................... 76 Univariate Varianzanalyse.......................................................................................................................................... 76 Diskriminanzanalyse ..................................................................................................................................................... 76 Multivariate Kontraste ................................................................................................................................................. 77 Voraussetzungen ............................................................................................................................................................. 78 Varianzgleichheit/ Homoskedastizität.................................................................................................................. 79 Multikollinearität....................................................................................................................................................... 79 7.1.1 7.1.2 7.2 7.2.1 7.2.2 7.2.3 7.2.4 7.2.5 7.2.6 7.3 7.3.1 7.3.2 Arten von Faktoren......................................................................................................................................................... 80 Versuchspläne mit Messwiederholung ................................................................................................................... 80 I. Rep ANOVA: 1 MW Faktor | Einfaktorielle Varianzanalyse mit Messwiederholung......................81 Zerlegung der Gesamtvarinaz.................................................................................................................................... 81 Treatmenteffekt ............................................................................................................................................................... 83 Signifikanzüberprüfung der Effekte........................................................................................................................ 84 Varianzzerlegung ............................................................................................................................................................ 86 Signifikanzprüfung und F-Bruch-Bildung ............................................................................................................ 87 Bewertung der Messwiederholung .......................................................................................................................... 88 Voraussetzung – Varianzanalyse mit Messwiederholung .............................................................................88 Voraussetzung: Unabhängigkeit der Messungen .............................................................................................. 88 Sphärizität .......................................................................................................................................................................... 89 Multivariate Verfahren III 9 Explorative Faktorenanalyse ....................................................................................................... 114 9.1 Grundlagen ...................................................................................................................................................................... 114 9.2 Eigenschaften der Faktorenanalyse ..................................................................................................................... 115 9.3 HAUPTKOMPONENTENANALYSE (PRINCIPAL COMPONENT ANALYSIS)......................................... 116 9.4 HAUPTACHSENANALYSE (PRINCIPAL AXIS FACTOR ANALYSIS) ......................................................... 117 9.5 Fundamentaltheorem ................................................................................................................................................. 117 9.5.1 Wertebereich und Zusammenhang der Parameter........................................................................................118 9.5.2 Kriterium der Einfachstruktur ................................................................................................................................118 9.5.3 Wahl des Abbruchskriteriums..................................................................................................................................119 9.5.4 Parallelanalyse ...............................................................................................................................................................119 9.5.5 Methode der Faktorenstruktur................................................................................................................................120 9.5.6 SCHIEFWINKLIGE VERSUS ORTHOGONALE ROTATION .............................................................................122 9.5.7 SCHIEFWINKLIGE VERSUS ORTHOGONALE (RECHTWINKLIGE) ROTATION ...................................123 8.1.4 8.1.5 8.2 8.3 8.3.1 8.3.2 8.3.3 8.3.4 8.3.5 8.3.6 8.3.7 8.4 8.4.1 8.5 8.5.1 8.6 8.6.1 8.6.2 8.7 Ordinalskalierte Merkmale ......................................................................................................................................... 95 Ähnlichkeit und Fusionierung .................................................................................................................................... 95 Metrische Struktur..........................................................................................................................................................96 Clusteridentifikation ......................................................................................................................................................96 Fusionierungsalgorythmen ......................................................................................................................................... 97 PARTIONIERENDE VERFAHREN - ABLAUFSCHRITTE ................................................................................... 98 HIERARCHISCHE VERFAHREN: AGGLOMERATIV - ABLAUFSCHRITTE................................................101 Hierarichische Verfahren: AGGLOMERATIV......................................................................................................102 Sinlge-LinkageVerfahren ...........................................................................................................................................103 Complete Linkage Verfahren ....................................................................................................................................104 Ward Verfahren .............................................................................................................................................................105 Fusionierungseigenschaften .................................................................................................................................... 105 Eigenschaften ausgewählter Verfahren ..............................................................................................................107 Bestimmung der Clusteranzahl .............................................................................................................................. 108 STRUKTOGRAMM/ DENDROGRAMM ...................................................................................................................109 Beispiel .............................................................................................................................................................................. 110 Hierarische Verfahren: AGGLOMERATIV............................................................................................................111 Kriterien für die Güte einer Clusterlösung..........................................................................................................112 Ablaufschritt und Entscheidungsprobleme der Clusteranalyse .............................................................. 113 Mögliche Klausurfragen .............................................................................................................................. A