Globaler F-Test

Der globale F-Test (englisch Overall-F-Test), a​uch Globaltest, Gesamttest, Test a​uf Gesamtsignifikanz e​ines Modells, F-Test d​er Gesamtsignifikanz, Test a​uf den Gesamtzusammenhang e​ines Modells[1] stellt e​ine globale Prüfung d​er Regressionsfunktion dar. Es w​ird geprüft, o​b mindestens e​ine Variable e​inen Erklärungsgehalt für d​as Modell liefert u​nd das Modell s​omit als Gesamtes signifikant ist. Falls d​iese Hypothese verworfen wird, i​st das Modell nutzlos. Diese Variante d​es F-Tests i​st die gebräuchlichste Anwendung d​es F-Tests.

Zugrundeliegendes Modell

Das zugrundeliegende Modell i​st das d​er linearen Mehrfachregression, also

${\displaystyle y_{i}=\beta _{0}+x_{i1}\beta _{1}+x_{i2}\beta _{2}+\dotsc +x_{ik}\beta _{k}+\varepsilon _{i}=\mathbf {x} _{i}^{\top }{\boldsymbol {\beta }}+\varepsilon _{i}}$.

Hierbei w​ird angenommen, d​ass die Störgrößen unabhängig u​nd homoskedastisch s​ind und für s​ie gilt, d​ass sie e​iner Normalverteilung folgen, d. h.

${\displaystyle \varepsilon _{i}\sim {\mathcal {N}}(0,\sigma ^{2}),\quad i=1,\ldots ,n}$.[1]

Null- und Alternativhypothese

Die Nullhypothese ${\displaystyle H_{0}}$ des globalen F-Tests sagt aus, dass alle erklärenden Variablen keinen Einfluss auf die abhängige Variable haben. Sowohl die abhängige Variable, als auch die unabhängigen Variablen können binär (kategorial) oder metrisch sein. Der Wald-Test kann dann die globale Nullhypothese (ohne Einbezug des Absolutglieds) testen:

${\displaystyle H_{0}\colon \beta _{1}=\beta _{2}=\ldots =\beta _{k}\;=\;0\Rightarrow \rho ^{2}=0}$  gegen  ${\displaystyle H_{1}:\beta _{j}\;\neq \;0\;\mathrm {f{\ddot {u}}r\;mindestens\;ein} \;j\in \{1,\ldots ,k\}\Rightarrow \rho ^{2}>0}$.

Dieser Test lässt sich so interpretieren, als würde man die gesamte Güte der Regression, also das Populationsbestimmtheitsmaß ${\displaystyle \rho ^{2}}$ der Regression, testen. Aus diesem Grund wird der globale F-Test auch als Anpassungsgüte-Test bezeichnet. Die Bezeichnung Anpassungsgüte-Test ist allerdings etwas irreführend, da streng genommen nicht die Anpassung der Regressionsgerade an die Daten überprüft wird, sondern ob wenigstens einer der erklärenden Variablen einen signifikanten Erklärungsbeitrag liefert.[2] Bei Zutreffen der Nullhypothese ${\displaystyle H_{0}}$ ergibt sich das sogenannte Nullmodell. Das Nullmodell ist ein Modell, das nur aus einem Absolutglied ${\displaystyle \beta _{0}}$ besteht.

Teststatistik

Die Teststatistik dieses Tests bekommt man, w​enn man zunächst d​ie R-Quadrat-Schreibweise d​er F-Statistik betrachtet. Die allgemeine Form d​er F-Statistik i​st gegeben durch[3]

${\displaystyle F\equiv {\frac {\left(SQR_{H_{0}}-SQR\right)/q}{SQR/(n-k-1)}}}$,

wobei ${\displaystyle q}$ die Anzahl der zu testenden Restriktionen und ${\displaystyle SQR_{H_{0}}}$ Residuenquadratsumme des eingeschränkten und ${\displaystyle SQR}$ die Residuenquadratsumme des uneingeschränkten Modells darstellt. Vorliegend werden, da die Nullhypothese ${\displaystyle H_{0}\colon \beta _{1}=\beta _{2}=\ldots =\beta _{k}=0}$ lautet, ${\displaystyle q=k}$ Restriktionen getestet. Dadurch kann man die Teststatistik auch schreiben als ${\displaystyle F={\frac {\left({\mathit {R}}{}^{2}-{\mathit {R}}{}_{H_{0}}^{2}\right)/k}{\left(1-{\mathit {R}}{}^{2}\right)/(n-p)}}}$ und unter der Nullhypothese gilt[4]

${\displaystyle {\begin{aligned}F={\frac {MQE}{MQR}}={\frac {SQE}{SQR}}{\frac {n-p}{k}}={\frac {{\mathit {R}}^{2}}{1-{\mathit {R}}^{2}}}{\frac {n-p}{k}}\;{\stackrel {H_{0}}{\sim }}\;F\left(k,n-p\right)\end{aligned}}}$,

wobei ${\displaystyle {\mathit {R}}^{2}}$ das multiple Bestimmtheitsmaß darstellt. Die Teststatistik eines globalen F-Tests ist also gegeben durch den Quotienten aus dem „mittleren Quadrat der erklärten Abweichungen“ und dem „mittleren Residuenquadrat“. Sie ist unter der Nullhypothese F-verteilt mit ${\displaystyle k}$ und ${\displaystyle (n-p)}$ Freiheitsgraden. Die Berechnung der F-Teststatistik lässt sich in folgender Tafel der Varianzanalyse zusammenfassen:[5]

Variationsquelle	Abweichungsquadratsumme	Anzahl der Freiheitsgrade	Mittleres Abweichungsquadrat	F-Teststatistik
Regression (erklärt)	${\displaystyle SQE=\sum \nolimits _{i=1}^{n}({\hat {y}}_{i}-{\overline {\hat {y}}})^{2}}$ (erklärte Quadratsumme)	${\displaystyle k}$	${\displaystyle MQE={\frac {SQE}{k}}}$	${\displaystyle F={\frac {MQE}{MQR}}}$
Residuen (unerklärt)	${\displaystyle SQR=\sum _{i=1}^{n}(y_{i}-{\hat {y}}_{i})^{2}}$ (Residuenquadratsumme)	${\displaystyle (n-p)}$	${\displaystyle MQR={\frac {SQR}{n-p}}}$
Gesamt	${\displaystyle SQT=\sum _{i=1}^{n}\left(y_{i}-{\bar {y}}\right)^{2}}$ (totale Quadratsumme)

Vorgehen und Interpretation

Überschreitet der empirische F-Wert bei einem a priori festgelegten Signifikanzniveau ${\displaystyle \alpha }$ den kritischen F-Wert ${\displaystyle F_{(1-\alpha )}(k,n-p)}$ (das ${\displaystyle (1-\alpha )}$-Quantil der F-Verteilung mit ${\displaystyle k}$ und ${\displaystyle (n-p)}$ Freiheitsgraden) so verwirft man die Nullhypothese:

${\displaystyle F>F_{(1-\alpha )}(k,n-p)\Rightarrow H_{0}\;{\text{verwerfen}}}$.

Das ${\displaystyle {\mathit {R}}^{2}}$ ist dann ausreichend groß und mindestens eine erklärende Variable trägt vermutlich genügend Information zur Erklärung von ${\displaystyle y}$ bei. Es ist naheliegend, bei hohen F-Werten die Nullhypothese zu verwerfen, da ein hohes Bestimmtheitsmaß zu einem hohen F-Wert führt. Wenn der Wald-Test für eine oder mehrere unabhängige Variablen die Nullhypothese ablehnt, dann kann man davon ausgehen, dass die zugehörigen Regressionsparameter ungleich Null sind, so dass die Variablen in das Modell mit einbezogen werden sollten. Wenn es nur um eine unabhängige Variable geht (${\displaystyle H_{0}\colon \beta _{i}=0}$  vs.  ${\displaystyle H_{1}\colon \beta _{i}\neq 0}$), dann wird ein t-Test benutzt, um zu überprüfen, ob der Parameter signifikant ist. Für einen einzelnen Parameter stimmt das Ergebnis der Wald-Statistik mit dem Ergebnis des Quadrates der t-Statistik überein.

Einzelnachweise

1. Karl Mosler und Friedrich Schmid: Wahrscheinlichkeitsrechnung und schließende Statistik. Springer-Verlag, 2011, S. 310.
2. Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 458.
3. Jeffrey Marc Wooldridge: Introductory econometrics: A modern approach. 5. Auflage. Nelson Education, 2015, S. 146.
4. Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 458.
5. William H. Greene: Econometric Analysis. 5. Auflage. Prentice Hall International, 2002, ISBN 0-13-110849-2, S. 33.