15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
• Das Allgemeine lineare Modell • Post‐hoc Tests bei der ANOVA • Mehrfaktorielle ANOVA
1
Thomas Schäfer | SS 2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Das Allgemeine lineare Modell (ALM) ‐ Varianz als Schlüsselkonzept "The main technical function of research design is to control variance." (Kerlinger, 1973) z.B. bei Befragungen:
oder bei Experimenten:
7,0 0
Die Logik des Experimentes:
happ piness
6,00
5,00
Æ Varianz künstlich erzeugen
4,00
3,00
Experimental‐ vs. Kontrollgruppe Treatment vs. Nicht‐Treatment
2,00
1,00
0,00
material
experience
Thomas Schäfer | SS 2009
2
1
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Das Allgemeine lineare Modell
Thomas Schäfer | SS 2009
3
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Das Allgemeine lineare Modell Was Sie schon kennen: einfache lineare Regression
Bei mehreren Prädiktoren: multiple Regression Prädiktor 1 Prädiktor 2 usw.
Schätzwert
Thomas Schäfer | SS 2009
4
2
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Das Allgemeine lineare Modell Und nun die Verallgemeinerung zum ALM
Konkreter Wert
Thomas Schäfer | SS 2009
Fehler
5
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Das Allgemeine lineare Modell
Thomas Schäfer | SS 2009
6
3
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Das Allgemeine lineare Modell
Die Variable, die die Gruppen definiert, dient als Prädiktor! (z.B. Exp.‐Gruppe: 1, KG: 0)
Thomas Schäfer | SS 2009
7
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Das Allgemeine lineare Modell ‐ Grundaussage Das bedeutet: Alle Verfahren (Varianzanalyse, t‐Test, Korrelation) beruhen auf ein und derselben Grundlage – der Multiplen beruhen auf ein und derselben Grundlage der Multiplen Regression
...if you were going to a desert island to do psychology research and could take only one computer program with you to do statistical i i l tests, you would ld want to choose h multiple l i l regression. i (Aron & Aron, 2002)
Thomas Schäfer | SS 2009
8
4
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Post‐hoc Tests (Einzelvergleiche) bei der ANOVA Ziel: Überprüfung spezifischer Mittelwertsunterschiede bei Faktoren mit mehr als zwei Gruppen Problem: nach einer signifikanten ANOVA mit mehr als 2 Gruppen wissen Sie g pp nicht, welche Gruppen sich voneinander unterscheiden; Sie haben lediglich ein overall‐Ergebnis vorliegen Bei der Berechnung einzelner t‐Tests würde sich aber der Alphafehler aufaddieren („kumulieren“) Lösung durch die post‐hoc Tests: Kontrolle des Gesamt‐α (für alle durchgeführten Tests) (man spricht von Alphafehler‐Korrektur) Verfahren (Beispiele): Bonferroni Scheffé Newman‐Keuls Tukey Dunkan
Das Ergebnis ist ein p‐Wert pro Einzelvergleich
9
Thomas Schäfer | SS 2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Post‐hoc Tests (Einzelvergleiche) bei der ANOVA Beispiel: ein Faktor mit 3 Stufen Æ Es gibt 3 mögliche Einzelvergleiche 1
2
Placebo
3
Einfache D. Doppelte D.
18
17
25
18
9
24
20
16
16
Thomas Schäfer | SS 2009
10
5
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Rekapitulation ANOVA Untersuchte Fragestellung: Unterscheiden sich zwei oder mehr Gruppenmittelwerte signifikant voneinander?
F‐Test: Ist die Varianz der Gruppenmittelwerte höher, als rein durch Zufallsabweichungen zu erwarten? (je unterschiedlicher Werte sind, desto höher ist ihre Varianz)
11
Thomas Schäfer | SS 2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Die Idee des F‐Tests Die gesamte Varianz der AV wird aufgeteilt in: • Varianz zwischen den Gruppen ‐ Abweichung der G Gruppenmittelwerte vom Gesamtmittelwert über alle itt l t G t itt l t üb ll Gruppen = systematische Varianz, erklärte Abweichung • Varianz innerhalb der Gruppen ‐ Abweichung der einzelnen Messwerte innerhalb der Gruppen vom Gruppenmittelwert = unsystematische Varianz, nicht erklärte Abweichung, y , g, Fehlervarianz, Restvarianz Der F‐Test drückt ein Varianzverhältnis aus: • systematische Varianz /Fehlervarianz Thomas Schäfer | SS 2009
2 σˆ zw F= 2 σˆ inn 12
6
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Die Idee des F‐Tests Beispiel: Wirkung eines Medikamentes 65 60
Besserung
55 xB
50
Gesamtmittel
xA
55
2 σˆ zw F= 2 σˆ inn
40 35 30 Placebo
Medikament 13
Thomas Schäfer | SS 2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Berechnung des F‐Wertes F=
σˆ σˆ
QS zw df zw = QS inn df inn
2 zw 2 inn
QS gesamt = QS zw + QS inn , wobei QSGesamt = ∑ ∑ ( xij − x )2 j
i
QS:
Quadratsumme
k:
Anzahl der Gruppen
k
x j:
Mittelwert der Gruppe j
j
nj:
Anzahl der Messwerte in Gruppe j
N: N:
Gesamtanzahl der Gesamtanzahl der Messwerte
x :
Gesamtmittelwert
wobei QS zw = ∑ n j ( x j − x )2 df zw = k − 1 und
QS in Gruppe j k nj
QS inn = ∑ ∑ ( xij − x j )2 j
i
k
df inn = ∑ ( n j − 1 ) = N − k j
Thomas Schäfer | SS 2009
14
7
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Was ist neu bei der mehrfaktoriellen ANOVA? Die Gesamtvarianz wird aufgeklärt durch die Wirkung mehrerer Faktoren (man spricht von Haupteffekten) und dem spezifischen Zusammenwirken der Faktoren untereinander spezifischen Zusammenwirken der Faktoren untereinander (Interaktion genannt)
Thomas Schäfer | SS 2009
15
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Was ist neu bei der mehrfaktoriellen ANOVA? Die Anzahl von Faktoren (also UVs) und die Anzahl der jeweiligen Faktorstufen (also Ausprägungen) wird durch das faktorielle Design angegeben Design angegeben Beispiele: • Ein 2 x 3 Design hat 2 Faktoren, der erste Faktor hat 2 Faktorstufen, der zweite 3 • Ein 2 x 2 x 2 Design hat 3 Faktoren, alle mit 2 Faktorstufen Daraus ist auch die Anzahl der resultierenden Versuchsbedingungen ersichtlich (z.B. 2 x 3 = 6, 2 x 2 x 2 = 8)
Thomas Schäfer | SS 2009
16
8
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Mehrfaktorielle Varianzanalyse Analyse einzelner Faktoren (Haupteffekte) wie bei einfaktorieller Varianzanalyse, z.B. bei zwei Faktoren A (mit k Ausprägungen), und B (mit m Ausprägungen):
FA =
σˆ A2 σˆ B2 F = B 2 2 σˆ inn σˆ inn
Über alle k × m Gruppen berechnet
dfA = k‐1 dfB= m‐1 Analyse von Interaktionen (bei zwei Faktoren, A und B):
FA×B =
σˆ A2×B 2 σˆ inn
dfA×B = (k‐1)(m‐1)
(QStotal = QSA + QSB + QSA×B + QSwithin) 17
Thomas Schäfer | SS 2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Zweifaktorielle Varianzanalyse: Berechnung der QS k m n
QStotal = ∑ ∑ ∑ ( xijl − x )2 j
l
i
k
QS A = ∑ n ⋅ m( x j . − x )
2
j
QS: Quadratsumme k: Anzahl Ausprägungen, Faktor A m: Anzahl Ausprägungen, Faktor B
x jl : Mittelwert der Gruppe jl
df A = k − 1 m
njl: Anzahl der Messwerte in Gruppe jl
QS B = ∑ n ⋅ k ( x .l − x )2
N: Gesamtanzahl der Messwerte
df A = m − 1
x : Gesamtmittelwert
l
. : Zusammenfassung von Faktorstufen Zusammenfassung von Faktorstufen
und k m n
QSinn = ∑ ∑ ∑ ( xijl − x jl )2 j
l
i
QS A×B = QS gesamt − QS A − QS B − QS inn
k m
df inn = ∑ ∑ ( n jl − 1 ) = N − k ⋅ m j
l
Thomas Schäfer | SS 2009
18
9
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Zweifaktorielle Varianzanalyse: Berechnung der QS QSinn • Notation (am Beispiel der )
ein beliebiger Messwert k
m
n
j
l
i
QSinn = ∑∑∑ ( xijl − x jl ) 2 weicht ab vom Mittelwert in seiner Gruppe (davon gibt es k • m) pp ( g ) Diese quadrierte Differenz bilden Sie für: jeden Messwert i (davon gibt es immer n) jede Faktorstufe l des 2. Faktors (davon gibt es m) jede Faktorstufe j des 1. Faktors (davon gibt es k)
19
Thomas Schäfer | SS 2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Beispiel: 2 × 3 Design
2. Faktor
Placebo
Männer 1. Faktor
Frauen
Thomas Schäfer | SS 2009
Einfache D.
Doppelte D.
18
17
25
18
9
24
20
16
16
13
15
17
15
17
12
9
22
18 20
10
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA Arten von Interaktionen
Beispiel: 2 × 3 Design 24
22
20
"Depressivität"
18
16
Geschlecht 14
weiblich
12
männlich
10
Placebo
einfache Dosis
doppelte Dosis
Psychopharmakon
Die Interaktion versteckt sich im nicht‐ gleichsinnigen Verlauf der Linien Thomas Schäfer | SS 2009
21
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
F‐Verteilung
Thomas Schäfer | SS 2009
22
11
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
F‐Werte in Statistiksoftware
Schreibweise: FA(..,…) = … (p = …) 23
Thomas Schäfer | SS 2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Effektgrößen bei der mehrfaktoriellen ANOVA Effektgröße Eta‐Quadrat: Anteil der Gesamtvarianz, der durch einen Effekt (Haupteffekt bzw. Interaktion) aufgeklärt wird
η
2
=
QS QS
Effekt
gesamt
QS gesamt = QS A + QS B + QS A×B + QS inn
Partielles Eta‐Quadrat: Anteil der möglichen aufzuklärenden Varianz, der auf einen Effekt zurückgeht (alle anderen Effekte sind auspartialisiert) p )
η P2 =
QS Effekt QS Effekt + QSinn
Thomas Schäfer | SS 2009
Interpretation: Konvention nach Cohen
24
12
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Powerbestimmung bei der zweifaktoriellen ANOVA
25
Thomas Schäfer | SS 2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
ANOVA als Spezialfall des ALM
Wissen Wissen wir nichts wir nichts über eine Person, dann ist der Mittelwert auf Y der beste Schätzer für ihren Y‐Wert. Der Fehler ist natürlich sehr groß.
Thomas Schäfer | SS 2009
26
13
15.04.2009
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
ANOVA als Spezialfall des ALM Kennen wir den Wert der Person auf der Variable X Person auf der Variable X (Faktor 1), können wir ihren Wert auf der Variable Y durch die Regression von Y auf X genauer schätzen. Der Fehler wird kleiner. (Mit den Residuen kann diese (Mit den Residuen kann diese Vorhersage für den nächsten Faktor wiederholt werden, usw.) X1 Thomas Schäfer | SS 2009
27
methodenlehre ll – ALM und Mehrfaktorielle ANOVA
Varianzanalyse – einige Variationen •
F‐ Test für Messwiederholungen
•
Fixed – vs. Random Factors (random factors: Faktorenstufen werden zufällig gezogen)
•
Multivariate ANOVA (MANOVA)
•
Kontrastanalyse
Thomas Schäfer | SS 2009
28
14