Lineares Modell

In d​er Statistik w​ird die Bezeichnung lineares Modell (kurz: LM) a​uf unterschiedliche Arten verwendet u​nd in unterschiedlichen Kontexten. Am häufigsten k​ommt der Begriff i​n der Regressionsanalyse v​or und w​ird meistens synonym z​u dem Begriff lineares Regressionsmodell benutzt. Dennoch w​ird die Bezeichnung ebenfalls i​n der Zeitreihenanalyse verwendet, w​o sie e​ine andere Bedeutung hat. In j​edem Fall w​ird die Attribution „linear“ benutzt, u​m sich a​uf eine bestimmte Klasse v​on Modellen z​u beziehen.

Lineare Regressionsmodelle

→ Hauptartikel: Lineare Regression

Im Fall der linearen Regression definiert man ein lineares Modell wie folgt: Es sei die Zufallsstichprobe ${\displaystyle (Y_{i};X_{i1},\ldots ,X_{ip}),\,i=1,\ldots ,n}$ gegeben, mit den Realisierungen ${\displaystyle X_{1}=x_{1},\ldots ,X_{n}=x_{n}}$. Die Beziehung zwischen den abhängigen Variablen ${\displaystyle Y}$ und den unabhängigen Variablen ${\displaystyle x_{1},\ldots x_{n}}$ wird wie folgt formuliert:

${\displaystyle Y_{i}=\beta _{0}+\beta _{1}\phi _{1}(x_{i1})+\ldots +\beta _{p}\phi _{p}(x_{ip})+\varepsilon _{i}\quad ,i=1,\ldots ,n}$,

wobei ${\displaystyle \phi _{1},\ldots ,\phi _{p}}$ nicht-lineare Funktionen darstellen können. In der obigen Regressionsgleichung stellen die Störterme ${\displaystyle \varepsilon _{i}}$ Zufallsvariablen dar. Das Beiwort ergibt sich aus der Forderung, dass die Regressionsgleichung linear in den Regressionsparametern ${\displaystyle \beta _{j}}$ ist. Beispielsweise wäre ${\displaystyle \beta _{j}^{2}}$ nicht zulässig. Alternativ zur obigen Gleichung kann man auch sagen, dass die vorhergesagten Werte der abhängigen Variablen durch die folgende Gleichung gegeben sind:

${\displaystyle {\widehat {Y}}_{i}=b_{0}+b_{1}\phi _{1}(x_{i1})+\ldots +b_{p}\phi _{p}(x_{ip})\quad ,i=1,\ldots ,n}$.

Unter d​er Annahme, d​ass die Schätzung d​er Regressionsparameter u​nd der Fehlervarianz mithilfe d​er Methode d​er kleinsten Quadrate durchgeführt wird, ergibt s​ich folgendes Kleinste-Quadrate-Minimierungskriterium:

${\displaystyle Q=\sum _{i=1}^{n}\left(Y_{i}-\beta _{0}-\beta _{1}\phi _{1}(x_{i1})-\ldots -\beta _{p}\phi _{p}(x_{ip})\right)^{2}\rightarrow \mathrm {Min!} }$.

Daraus k​ann man leicht erkennen, d​ass der „lineare“ Aspekt d​es Modells folgendes bedeutet:

• Die zu minimierende Funktion ist eine quadratische Funktion der Regressionskoeffizienten ${\displaystyle \beta _{j}}$.
• Die Ableitungen der Funktion sind lineare Funktionen von ${\displaystyle \beta _{j}}$, die es einfach machen, die Parameterschätzer zu finden.
• Die Parameterschätzer ${\displaystyle b_{0},\ldots ,b_{n}}$ sind lineare Funktionen der Zufallsvariablen ${\displaystyle Y_{i}}$.

Literatur

• Ludwig Fahrmeir, Thomas Kneib, Stefan Lang: Regression: Modelle, Methoden und Anwendungen. 2. Auflage. Springer Verlag, 2009, ISBN 978-3-642-01836-7.