Varianz (Stochastik)

Die Varianz (lateinisch variantia „Verschiedenheit“ bzw. variare „(ver)ändern, verschieden sein“) i​st ein Maß für d​ie Streuung d​er Wahrscheinlichkeitsdichte u​m ihren Schwerpunkt. Mathematisch w​ird sie definiert a​ls die mittlere quadratische Abweichung e​iner reellen Zufallsvariablen v​on ihrem Erwartungswert. Sie i​st das zentrale Moment zweiter Ordnung e​iner Zufallsvariablen.

Dichtefunktionen zweier normalverteilter Zufallsvariablen ${\displaystyle X}$ (rot) und ${\displaystyle Y}$ (grün) mit gleichem Erwartungswert ${\displaystyle \mu _{X}=\mu _{Y}=0}$, aber unterschiedlichen Varianzen. Die waagerechte Achse zeigt den Wert, die senkrechte die Häufigkeit. Da die rote Kurve ${\displaystyle f(x)}$ schmaler um den Erwartungswert verläuft als die grüne ${\displaystyle f(y)}$, weist sie eine geringere Varianz auf (${\displaystyle \sigma _{X}^{2}<\sigma _{Y}^{2}}$). Die Quadratwurzel der Varianz, die Standardabweichung, kann bei der Normalverteilung an den Wendepunkten abgelesen werden.

Die Varianz k​ann mit e​inem Varianzschätzer, z. B. d​er Stichprobenvarianz, bestimmt werden. Die Quadratwurzel d​er Varianz i​st das a​ls Standardabweichung bezeichnete wichtigste Streuungsmaß i​n der Stochastik.

Die Bezeichnung Varianz w​urde vor a​llem von d​em britischen Statistiker Ronald Fisher (1890–1962) geprägt. Weitere Wörter für d​ie Varianz s​ind das veraltete Dispersion (lateinisch dispersio „Zerstreuung“ bzw. dispergere „verteilen, ausbreiten, zerstreuen“), d​as Streuungsquadrat o​der die Streuung.

Zu d​en Eigenschaften d​er Varianz gehören, d​ass sie niemals negativ i​st und s​ich bei Verschiebung d​er Verteilung n​icht ändert. Die Varianz e​iner Summe unkorrelierter Zufallsvariablen i​st gleich d​er Summe i​hrer Varianzen. Ein Nachteil d​er Varianz für praktische Anwendungen ist, d​ass sie i​m Unterschied z​ur Standardabweichung e​ine andere Einheit a​ls die Zufallsvariable besitzt. Da s​ie über e​in Integral definiert wird, existiert s​ie nicht für a​lle Verteilungen, d. h., s​ie kann a​uch unendlich sein.

Eine Verallgemeinerung d​er Varianz i​st die Kovarianz. Im Unterschied z​ur Varianz, d​ie die Variabilität d​er betrachteten Zufallsvariable misst, i​st die Kovarianz e​in Maß für d​ie gemeinsame Variabilität v​on zwei Zufallsvariablen. Aus dieser Definition d​er Kovarianz folgt, d​ass die Kovarianz e​iner Zufallsvariable m​it sich selbst gleich d​er Varianz dieser Zufallsvariablen ist. Im Falle e​ines reellen Zufallsvektors k​ann die Varianz z​ur Varianz-Kovarianzmatrix verallgemeinert werden.

Definition

Sei ${\displaystyle (\Omega ,\Sigma ,P)}$ ein Wahrscheinlichkeitsraum und ${\displaystyle X}$ eine Zufallsvariable auf diesem Raum. Die Varianz ist definiert als die zu erwartende quadratische Abweichung dieser Zufallsvariablen zu ihrem Erwartungswert ${\displaystyle \mathbb {E} (X)=\mu }$, sofern dieser existiert:

${\displaystyle \operatorname {Var} (X):=\mathbb {E} \left((X-\mu )^{2}\right)=\int _{\Omega }(X-\mu )^{2}\,\mathrm {d} P.}$[1]

Erklärung

Sofern die Varianz existiert, gilt ${\displaystyle \operatorname {Var} (X)\geq 0}$. Die Varianz kann aber auch den Wert ${\displaystyle \operatorname {Var} (X)=\infty }$ annehmen, wie es bei der Lévy-Verteilung der Fall ist.

Betrachten wir die zentrierte Zufallsvariable ${\displaystyle Z:=X-\mu }$, so ist die Varianz deren zweites Moment ${\displaystyle \mathbb {E} (Z^{2})}$. Falls eine Zufallsvariable quadratisch integrierbar ist, das heißt ${\displaystyle \mathbb {E} (X^{2})<\infty }$, so ist wegen des Verschiebungssatzes ihre Varianz endlich und auch der Erwartungswert:

${\displaystyle 0\leq (X-1)^{2}+|X|\implies |X|\leq X^{2}+1\implies \mathbb {E} (|X|)\leq \mathbb {E} (X^{2})+1<\infty }$.

Die Varianz kann als Funktional von dem Raum aller Wahrscheinlichkeitsverteilungen ${\displaystyle \chi }$ verstanden werden:

${\displaystyle \operatorname {Var} [\cdot ]:\chi \to \mathbb {R} _{+}\cup \{\infty \}}$

Eine Verteilung, für d​ie die Varianz n​icht existiert, i​st die Cauchy-Verteilung.

Notation

Da die Varianz ein Funktional ist, wird sie wie der Erwartungswert (besonders in anglophoner Literatur) oft auch mit eckigen Klammern ${\displaystyle \operatorname {Var} \left[X\right]}$ geschrieben. Die Varianz wird auch als ${\displaystyle \operatorname {V} (X)}$[A 1] oder ${\displaystyle \sigma _{X}^{2}}$ notiert. Besteht keine Verwechslungsgefahr, wird sie einfach als ${\displaystyle \sigma ^{2}}$ (lies: Sigma Quadrat) notiert. Da die Varianz vor allem in älterer Literatur auch als Dispersion beziehungsweise Streuung bezeichnet wurde,[2][3] findet sich auch häufig die Notation ${\displaystyle D^{2}(X)}$.[4]

Die Notation mit dem Quadrat des griechischen Buchstaben Sigma ${\displaystyle \sigma }$ rührt daher, dass die Berechnung der Varianz der Dichtefunktion einer Normalverteilung genau dem Parameter ${\displaystyle \sigma ^{2}}$ der Normalverteilung entspricht. Da die Normalverteilung in der Stochastik eine sehr wichtige Rolle spielt, wird die Varianz im Allgemeinen mit ${\displaystyle \sigma ^{2}}$ notiert (siehe auch Abschnitt Varianzen spezieller Verteilungen). Des Weiteren wird in der Statistik und insbesondere in der Regressionsanalyse das Symbol ${\displaystyle \sigma ^{2}}$ dazu benutzt, um die wahre unbekannte Varianz der Störgrößen zu kennzeichnen.

Einführung in die Problemstellung

Als Ausgangspunkt für die Konstruktion der Varianz betrachtet man eine beliebige Größe, die vom Zufall abhängig ist und somit unterschiedliche Werte annehmen kann. Diese Größe, die im Folgenden mit ${\displaystyle X}$ bezeichnet wird, folgt einer bestimmten Verteilung. Der Erwartungswert dieser Größe wird mit

${\displaystyle \mu$ :=\mathbb {E} (X)}

abgekürzt.[A 2] Der Erwartungswert gibt an, welchen Wert die Zufallsvariable ${\displaystyle X}$ im Mittel annimmt. Er kann als Schwerpunkt der Verteilung interpretiert werden (siehe auch Abschnitt Interpretation) und gibt ihre Lage wieder. Um eine Verteilung ausreichend zu charakterisieren, fehlt jedoch eine Größe, die als Kennzahl Auskunft über die Stärke der Streuung einer Verteilung um ihren Schwerpunkt gibt.[5] Diese Größe sollte stets größer oder gleich Null sein, da sich negative Streuung nicht sinnvoll interpretieren lässt. Ein erster naheliegender Ansatz wäre, die mittlere absolute Abweichung der Zufallsvariable von ihrem Erwartungswert heranzuziehen:[6]

${\displaystyle \mathbb {E} \left(|X-\mu |\right)}$.

Da d​ie in d​er Definition d​er mittleren absoluten Abweichung verwendete Betragsfunktion n​icht überall differenzierbar i​st und ansonsten i​n der Statistik für gewöhnlich Quadratsummen benutzt werden,[7][8] i​st es sinnvoll, s​tatt der mittleren absoluten Abweichung d​ie mittlere quadratische Abweichung, a​lso die Varianz, z​u benutzen.[A 3]

Berechnung der Varianz

Varianz bei diskreten Zufallsvariablen

Eine Zufallsvariable ${\displaystyle X}$ mit einem endlichen oder abzählbar unendlichen Wertebereich ${\displaystyle {\mathcal {T}}=\{x_{1},x_{2},\dotsc ,x_{k},\dotsc \}}$[A 4] wird diskret genannt. Ihre Varianz berechnet sich dann als gewichtete Summe der Abweichungsquadrate (vom Erwartungswert):

${\displaystyle \sigma ^{2}=(x_{1}-\mu )^{2}p_{1}+(x_{2}-\mu )^{2}p_{2}+\ldots +(x_{k}-\mu )^{2}p_{k}+\ldots =\sum _{i\geq 1}(x_{i}-\mu )^{2}p_{i}}$.[9]

Hierbei ist ${\displaystyle p_{i}=P(X=x_{i})}$ die Wahrscheinlichkeit, dass ${\displaystyle X}$ den Wert ${\displaystyle x_{i}}$ annimmt. Es wird in obiger Summe also jede mögliche Ausprägung ${\displaystyle (x_{i}-\mu )^{2}}$ mit der Wahrscheinlichkeit ihres Auftretens ${\displaystyle p_{i}}$ gewichtet.[10] Die Varianz ist bei diskreten Zufallsvariablen also eine gewichtete Summe mit den Gewichten ${\displaystyle p_{i}\;(i=1,\ldots ,n)}$. Der Erwartungswert einer diskreten Zufallsvariable ${\displaystyle X}$ stellt ebenfalls eine gewichtete Summe dar, die durch

${\displaystyle \mu =x_{1}p_{1}+x_{2}p_{2}+\ldots +x_{k}p_{k}+\ldots =\sum _{i\geq 1}x_{i}p_{i}}$

gegeben ist. Die Summen erstrecken sich jeweils über alle Werte, die diese Zufallsvariable annehmen kann. Im Falle eines abzählbar unendlichen Wertebereichs ergibt sich eine unendliche Summe. In Worten berechnet sich die Varianz, im diskreten Fall, als Summe der Produkte der Wahrscheinlichkeiten der Realisierungen der Zufallsvariablen ${\displaystyle X}$ mit der jeweiligen quadrierten Abweichung.

Varianz bei stetigen Zufallsvariablen

Eine Zufallsvariable ${\displaystyle X}$ wird als stetig bezeichnet, wenn ihr Wertebereich eine überabzählbare Menge ist. Falls die Zufallsvariable absolut stetig ist, dann existiert als Konsequenz des Satzes von Radon-Nikodým eine Wahrscheinlichkeitsdichtefunktion (kurz: Dichte) ${\displaystyle f_{X}(x)}$. Im Fall einer reellwertigen Zufallsvariablen lässt sich die Verteilungsfunktion ${\displaystyle F(t)=P(X\leq t)}$, ${\displaystyle t\in \mathbb {R} }$, wie folgt als Integral darstellen:

${\displaystyle F(t)=\int _{-\infty }^{t}f(x)\,\mathrm {d} x}$

Für die Varianz einer reellwertigen Zufallsvariable ${\displaystyle X}$ mit Dichte ${\displaystyle f(x)}$ gilt nun

${\displaystyle \operatorname {Var} (X)=\int _{-\infty }^{\infty }(x-\mathbb {E} [X])^{2}f(x)\,\mathrm {d} x\quad }$, wobei ihr Erwartungswert gegeben ist durch ${\displaystyle \mathbb {E} [X]=\int _{-\infty }^{\infty }xf(x)\,\mathrm {d} x}$.[11]

Die Varianz berechnet s​ich bei Existenz e​iner Dichte a​ls das Integral über d​as Produkt d​er quadrierten Abweichung u​nd der Dichtefunktion d​er Verteilung. Es w​ird also über d​en Raum a​ller möglichen Ausprägungen (möglicher Wert e​ines statistischen Merkmals) integriert.

Geschichte

Karl Pearson

Ronald Fisher (1913)

Das Konzept der Varianz geht auf Carl Friedrich Gauß zurück. Gauß führte den mittleren quadratischen Fehler ein, um zu zeigen, wie sehr ein Punktschätzer um den zu schätzenden Wert streut. Diese Idee wurde von Karl Pearson, dem Begründer der Biometrie, übernommen. Er ersetzte, für dieselbe Idee, den von Gauß geprägten Begriff mittlerer Fehler durch seinen Begriff Standardabweichung. Diesen verwendet er im Anschluss in seinen Vorlesungen. Der Gebrauch des griechischen Buchstabens Sigma für die Standardabweichung wurde von Pearson, erstmals 1894 in seiner Serie von achtzehn Arbeiten mit dem Titel Mathematische Beiträge zur Evolutionstheorie (Originaltitel: Contributions to the Mathematical Theory of Evolution) eingeführt. Er schrieb dort: „ […] dann wird ${\displaystyle \sigma }$ seine Standardabweichung (Fehler des mittleren Quadrats)“. Im Jahre 1901 gründete Pearson dann die Zeitschrift Biometrika, die eine wichtige Grundlage der angelsächsischen Schule der Statistik wurde.

Die Bezeichnung „Varianz“ w​urde vom Statistiker Ronald Fisher i​n seinem 1918 veröffentlichtem Aufsatz m​it dem Titel Die Korrelation zwischen Verwandten i​n der Annahme d​er Mendelschen Vererbung (Originaltitel: The Correlation between Relatives o​n the Supposition o​f Mendelian Inheritance) eingeführt. Ronald Fisher schreibt:

„Der große Körper der verfügbaren Statistiken zeigt uns, dass die Abweichungen einer menschlichen Messung von ihrem Mittel sehr genau dem Gesetz der Normalverteilung der Störgrößen folgen, und, folglich, dass die Variabilität gleichmäßig durch die Standardabweichung gemessen werden kann, die der Quadratwurzel des mittleren quadratischen Fehlers entspricht. Wenn es zwei unabhängige Ursachen der Variabilität gibt, die in der Lage sind, in einer ansonsten gleichmäßigen Populationsverteilung die Standardabweichungen ${\displaystyle \sigma _{1}}$ and ${\displaystyle \sigma _{2}}$ zu produzieren, wird festgestellt, dass die Verteilung, wenn beide Ursachen zusammen interagieren, eine Standardabweichung von, ${\displaystyle {\sqrt {\sigma _{1}^{2}+\sigma _{2}^{2}}}}$ aufweist. Es ist daher wünschenswert, die Ursachen der Variabilität zu analysieren, um mit dem Quadrat der Standardabweichung als ein Maß für die Variabilität umzugehen. Wir sollten diese Größe die Varianz taufen […]“

– Die Korrelation zwischen Verwandten in der Annahme der mendelschen Vererbung[12]

Fisher führte kein neues Symbol ein, sondern benutzte lediglich ${\displaystyle \sigma ^{2}}$ zur Notation der Varianz. In den folgenden Jahren entwickelte er ein genetisches Modell, das zeigt, dass eine kontinuierliche Variation zwischen phänotypischen Merkmalen, die von Biostatistikern gemessen wurde, durch die kombinierte Wirkung vieler diskreter Gene erzeugt werden kann und somit das Ergebnis einer mendelschen Vererbung ist. Auf diesen Resultaten aufbauend formulierte Fisher dann sein fundamentales Theorem der natürlichen Selektion, welches die Gesetzmäßigkeiten der Populationsgenetik für die Zunahme der Fitness von Organismen beschreibt. Zusammen mit Pearson entwickelte er u. a. die Grundlagen der Versuchsplanung (1935 erschien The Design of Experiments) und der Varianzanalyse. Des Weiteren lässt sich die Mehrzahl der biometrischen Methoden auf Pearson und Fisher zurückführen, auf deren Grundlage Jerzy Neyman und Egon Pearson in den 1930er Jahren die allgemeine Testtheorie entwickelten.[13]

Kenngröße einer Wahrscheinlichkeitsverteilung

→ Hauptartikel: Wahrscheinlichkeitsverteilung

Jede Wahrscheinlichkeitsverteilung beziehungsweise Zufallsvariable kann durch sogenannte Kenngrößen (auch Parameter genannt) beschrieben werden, die diese Verteilung charakterisieren. Die Varianz und der Erwartungswert sind die wichtigsten Kenngrößen einer Wahrscheinlichkeitsverteilung. Sie werden bei einer Zufallsvariablen als Zusatzinformationen wie folgt angegeben: ${\displaystyle X\;\sim \;(\mu ,\sigma ^{2})}$. In Worten: Die Zufallsvariable ${\displaystyle X}$ folgt einer (hier nicht näher spezifizierten) Verteilung mit Erwartungswert ${\displaystyle \mu }$ und Varianz ${\displaystyle \sigma ^{2}}$. Für den Fall, dass die Zufallsvariable einer speziellen Verteilung folgt, zum Beispiel einer Standardnormalverteilung, wird dies wie folgt notiert: ${\displaystyle X\;\sim \;{\mathcal {N}}(0,1)}$. Der Erwartungswert von ${\displaystyle X}$ ist also Null und die Varianz Eins. Weitere wichtige Kenngrößen einer Wahrscheinlichkeitsverteilung stellen neben den Momenten beispielsweise der Median, der Modus oder Quantile dar.[14] Die Kenngrößen einer Wahrscheinlichkeitsverteilung entsprechen in der deskriptiven Statistik den Kenngrößen einer Häufigkeitsverteilung.

Sätze über die Varianz

Tschebyscheffsche Ungleichung

→ Hauptartikel: Tschebyscheffsche Ungleichung

Mithilfe der Tschebyscheffschen Ungleichung lässt sich unter Verwendung der existierenden ersten beiden Momente die Wahrscheinlichkeit dafür abschätzen, dass die Zufallsvariable ${\displaystyle X}$ Werte in bestimmten Intervallen der reellen Zahlengeraden annimmt, ohne jedoch die Verteilung von ${\displaystyle X}$ zu kennen. Sie lautet für eine Zufallsvariable ${\displaystyle X}$ mit Erwartungswert ${\displaystyle \mu }$ und Varianz ${\displaystyle \sigma ^{2}}$:[15]

${\displaystyle P\left(\left|X-\mu \right|\geq k\right)\leq {\frac {\sigma ^{2}}{k^{2}}}\quad ,k>0}$.

Die Tschebyscheffsche Ungleichung g​ilt für a​lle symmetrischen s​owie schiefen Verteilungen. Sie s​etzt also k​eine besondere Verteilungsform voraus. Ein Nachteil d​er Tschebyscheffschen Ungleichung ist, d​ass sie n​ur eine g​robe Abschätzung liefert.

Popovicius Ungleichung für Varianzen

Mit Hilfe von Popovicius Ungleichung kann man die Varianz nach oben beschränken. Sei ${\displaystyle X}$ eine Zufallsvariable mit Varianz ${\displaystyle \sigma ^{2}}$ und ${\displaystyle m=\operatorname {inf} (X)}$,${\displaystyle M=\operatorname {sup} (X)}$, dann gilt

${\displaystyle \sigma ^{2}\leq {\frac {1}{4}}(M-m)^{2}.}$

Gesetz der totalen Varianz

Das Gesetz der totalen Varianz (auch Gesetz der iterierten Varianz oder Eves Gesetz) sagt, falls ${\displaystyle X,Y}$ zwei Zufallsvariablen auf dem gleichen Wahrscheinlichkeitsraum sind und die Varianz von ${\displaystyle Y}$ endlich ist, dann gilt

${\displaystyle \operatorname {Var} (Y)=\mathbb {E} \left[\operatorname {Var} [Y\mid X]\right]+\operatorname {Var} \left[\mathbb {E} [Y\mid X]\right]}$.

Interpretation

Physikalische Interpretation

Die Varianz ist neben dem Erwartungswert die zweite wichtige Kenngröße der Verteilung einer reellen Zufallsvariable. Das ${\displaystyle r}$-te zentrale Moment von ${\displaystyle X}$ ist ${\displaystyle \mu _{r}=\mathbb {E} \left((X-\mu )^{r}\right)}$. Wenn ${\displaystyle r=2}$, dann wird das zentrale Moment zweiter Ordnung ${\displaystyle \mu _{2}=\mathbb {E} \left((X-\mu )^{2}\right)}$ Varianz der Verteilung von ${\displaystyle X}$ genannt.[16] Der Begriff Moment stammt originär aus der Physik. Wenn man die möglichen Werte als Massepunkte mit den Massen auf der (als gewichtslos angenommenen) reellen Zahlengeraden interpretiert, dann erhält man eine physikalische Interpretation des Erwartungswertes: Das erste Moment, der Erwartungswert, stellt dann den physikalischen Schwerpunkt beziehungsweise Massenmittelpunkt des so entstehenden Körpers dar.[17] Die Varianz kann dann als Trägheitsmoment des Massesystems bezüglich der Rotationsachse um den Schwerpunkt interpretiert werden.[18] Im Gegensatz zum Erwartungswert, der also die Wahrscheinlichkeitsmasse balanciert, ist die Varianz ein Maß für die Streuung der Wahrscheinlichkeitsmasse um ihren Erwartungswert.

Interpretation als Abstand

Die Interpretation der Varianz einer Zufallsvariablen als mittlerer quadrierter Abstand lässt sich wie folgt erklären: Der Abstand zwischen zwei Punkten ${\displaystyle x_{1}}$ und ${\displaystyle x_{2}}$ auf der reellen Zahlengeraden ist gegeben durch ${\displaystyle d={\sqrt {(x_{1}-x_{2})^{2}}}}$. Wenn man jetzt definiert, dass ein Punkt die Zufallsvariable ${\displaystyle X}$ ist und der andere ${\displaystyle \mu =\mathbb {E} (X)}$, dann gilt ${\displaystyle d={\sqrt {(X-\mu )^{2}}}}$, und der quadrierte Abstand lautet ${\displaystyle (X-\mu )^{2}}$. Folglich wird ${\displaystyle \mathbb {E} ((X-\mu )^{2})}$ als der mittlere quadrierte Abstand zwischen der Realisierung der Zufallsvariablen ${\displaystyle X}$ und dem Erwartungswert ${\displaystyle \mathbb {E} (X)}$ interpretiert, wenn das Zufallsexperiment unendlich oft wiederholt wird.[19]

Interpretation als Maß für Determinismus

Dichtefunktionen normalverteilter Zufallsvariablen mit unterschiedlichen Erwartungswerten und Varianzen. Zu sehen ist, dass der Erwartungswert die Lage und Varianz die Breite der Dichtefunktion wiedergibt. Die rote Kurve zeigt die Standardnormalverteilung ${\displaystyle {\mathcal {N}}(0,1)}$ mit Erwartungswert Null und Varianz Eins.

Die Varianz beschreibt außerdem die Breite einer Wahrscheinlichkeitsfunktion[20] und daher wie „stochastisch“ oder wie „deterministisch“ ein betrachtetes Phänomen ist. Bei einer großen Varianz liegt eher eine stochastische Situation vor und bei einer kleinen Varianz eher eine deterministische.[21] Im Spezialfall einer Varianz von Null liegt eine vollständig deterministische Situation vor. Die Varianz ist genau dann Null, wenn die Zufallsvariable ${\displaystyle X}$ mit hundertprozentiger Wahrscheinlichkeit nur einen bestimmen Wert, nämlich den Erwartungswert, annimmt; wenn also ${\displaystyle P(X=\mu )=1}$ gilt. Solch eine „Zufallsvariable“ ist eine Konstante, also vollständig deterministisch. Da für eine Zufallsvariable mit dieser Eigenschaft ${\displaystyle P(X=x)=0}$ für alle ${\displaystyle x\neq \mu }$ gilt, bezeichnet man ihre Verteilung als „entartet“.[22]

Im Gegensatz zu diskreten Zufallsvariablen gilt für stetige Zufallsvariablen stets ${\displaystyle P(X=x)=0}$ für jedes ${\displaystyle x\in \mathbb {R} }$.[23] Im stetigen Fall beschreibt die Varianz die Breite einer Dichtefunktion. Die Breite wiederum ist ein Maß für die Unsicherheit, die mit einer Zufallsvariable verbunden ist. Je schmaler die Dichtefunktion ist, desto genauer kann der Wert von ${\displaystyle X}$ vorhergesagt werden.

Rechenregeln und Eigenschaften

Die Varianz w​eist eine Fülle nützlicher Eigenschaften auf, welche d​ie Varianz z​um wichtigsten Streuungsmaß macht:[24]

Verschiebungssatz

Der Verschiebungssatz ist das stochastische Analogon zum Steinerschen Satz zur Berechnung von Trägheitsmomenten. Es gilt mit ${\displaystyle \mathbb {E} (X)=\mu }$ und für beliebiges reelles ${\displaystyle a}$:

${\displaystyle \mathbb {E} \left((X-a)^{2}\right)=\operatorname {Var} (X)+(\mu -a)^{2}}$,

d. h. die mittlere quadratische Abweichung von ${\displaystyle X}$ bzgl. ${\displaystyle a}$ (physikalisch: das Trägheitsmoment bzgl. der Achse ${\displaystyle a}$) ist gleich der Varianz (physikalisch: gleich dem Trägheitsmoment bzgl. der Achse durch den Schwerpunkt ${\displaystyle \mu }$) plus dem Quadrat der Verschiebung ${\displaystyle \mu -a}$.

Beweis

---

${\displaystyle \mathbb {E} \left((X-a)^{2}\right)=\mathbb {E} \left((X-\mu +\mu -a)^{2}\right)=\operatorname {Var} (X)+2\mathbb {E} \left((X-\mu )(\mu -a)\right)+(\mu -a)^{2}}$.

Der mittlere Term ergibt u​nter Ausnutzung d​er Linearität d​es Erwartungswertes:[25]

${\displaystyle 2\mathbb {E} \left((X-\mu )(\mu -a)\right)=2(\mu -a)(\mathbb {E} \left(X\right)-\mu )=0}$.

Damit ist obige Formel bewiesen.

Aus dem Verschiebungssatz ergibt sich überdies für beliebiges reelles ${\displaystyle a}$:

${\displaystyle \operatorname {Var} (X)\leq \mathbb {E} \left((X-a)^{2}\right)\quad }$ bzw. ${\displaystyle \quad \operatorname {Var} (X)=\min _{a\in R}\mathbb {E} \left((X-a)^{2}\right)}$.

(siehe a​uch Fréchet-Prinzip)

Für ${\displaystyle a=0}$ erhält man als bekannteste Variante des Verschiebungssatzes

${\displaystyle \operatorname {Var} (X)=\mathbb {E} \left(X^{2}\right)-\mathbb {E} \left(X\right)^{2}=\mathbb {E} \left(X^{2}\right)-\mu ^{2}}$.

Die Varianz a​ls zentrales, a​uf den Erwartungswert (das „Zentrum“) bezogenes Moment lässt s​ich also a​uch als nicht-zentrales Moment ausdrücken.

Aus dem Verschiebungssatz folgt wegen der Nichtnegativitätsbedingung der Varianz, dass ${\displaystyle \mathbb {E} \left(X^{2}\right)-\left(\mathbb {E} (X)\right)^{2}\geq 0}$; somit ist ${\displaystyle \mathbb {E} \left(X^{2}\right)\geq \left(\mathbb {E} (X)\right)^{2}}$. Dieses Resultat ist ein Spezialfall der jensenschen Ungleichung für Erwartungswerte. Der Verschiebungssatz beschleunigt die Berechnung der Varianz, da der dazu nötige Erwartungswert von ${\displaystyle X^{2}}$ zusammen mit ${\displaystyle \mu }$ gebildet werden kann, während sonst ${\displaystyle \mu }$ bereits bekannt sein muss – konkret für diskrete beziehungsweise stetige Zufallsvariablen liefert er:

Falls ${\displaystyle X}$ diskret	Falls ${\displaystyle X}$ stetig
${\displaystyle \sigma ^{2}=\left(\sum _{i\geq 1}x_{i}^{2}p_{i}\right)-\left(\sum _{i\geq 1}x_{i}p_{i}\right)^{2}}$	${\displaystyle \sigma ^{2}=\int _{-\infty }^{\infty }x^{2}f(x)\,\mathrm {d} x-\left(\int _{-\infty }^{\infty }xf(x)\,\mathrm {d} x\right)^{2}}$

Lineare Transformation

Für zwei Konstanten ${\displaystyle a,b\in \mathbb {R} }$ gilt:

• Die Varianz einer Konstanten ist Null, da Konstanten per Definition nicht zufällig sind und somit auch nicht streuen: ${\displaystyle \operatorname {Var} (a)=0}$; ${\displaystyle \operatorname {Var} (b)=0}$
• Translationsinvarianz: Für additive Konstanten gilt ${\displaystyle \operatorname {Var} (X+b)=\mathbb {E} \left((X+b-\mu -b)^{2}\right)=\operatorname {Var} (X)}$. Dies bedeutet, dass eine „Verschiebung der Zufallsvariablen“ um einen konstanten Betrag keine Auswirkung auf deren Streuung hat.
• Im Gegensatz zu additiven Konstanten haben multiplikative Konstanten eine Auswirkung auf die Skalierung der Varianz. Bei multiplikativen Konstanten wird die Varianz mit der quadrierten der Konstanten, also ${\displaystyle a^{2}}$, skaliert.[26] Dies kann wie folgt gezeigt werden:

${\displaystyle \operatorname {Var} (aX)=\mathbb {E} \left((aX-a\mu )^{2}\right)=\mathbb {E} \left(a^{2}(X-\mu )^{2}\right)=a^{2}\operatorname {Var} (X)}$.

Hierbei wurde die Eigenschaft der Linearität des Erwartungswertes benutzt. Zusammengefasst ergibt die Varianzbildung einer linearen transformierten Zufallsvariable ${\displaystyle Y=aX+b}$:

${\displaystyle \operatorname {Var} (Y)=\operatorname {Var} (aX+b)=a^{2}\operatorname {Var} (X)}$.

Insbesondere für ${\displaystyle a=-1}$ folgt ${\displaystyle \operatorname {Var} (-X)=\operatorname {Var} (X)}$, das heißt, das Vorzeichen der Varianz ändert sich nicht, wenn sich das Vorzeichen der Zufallsvariablen ändert.

Jede Zufallsvariable kann durch Zentrierung und anschließende Normierung, genannt Standardisierung, in eine Zufallsvariable ${\displaystyle Z}$ überführt werden. Diese Normierung ist eine lineare Transformation. Die derart standardisierte Zufallsvariable ${\displaystyle Z}$ weist eine Varianz von ${\displaystyle 1}$ und einen Erwartungswert von ${\displaystyle 0}$ auf.

Beziehung zur Standardabweichung

Die Varianz einer Zufallsvariable wird immer in Quadrateinheiten angegeben.[27] Dies ist problematisch, weil quadrierte Einheiten, die auf diesem Wege zustande kommen – wie zum Beispiel ${\displaystyle {\text{cm}}^{2}}$ –, keine sinnvolle Interpretation bieten; die Interpretation als Flächenmaß ist im vorliegenden Beispiel unzulässig. Um die gleiche Einheit wie die Zufallsvariable zu erhalten, wird daher statt der Varianz i. d. R. die Standardabweichung verwendet. Sie hat die gleiche Einheit wie die Zufallsvariable selbst und misst somit, bildlich gesprochen, „mit dem gleichen Maß“.

Die Standardabweichung i​st die positive Quadratwurzel a​us der Varianz[28][29]

${\displaystyle \operatorname {SD} (X):=+{\sqrt {\operatorname {Var} (X)}}=+{\sqrt {\mathbb {E} \left((X-\mu )^{2}\right)}}}$.

Sie wird als ${\displaystyle \operatorname {SD} (X)}$ (gelegentlich auch als ${\displaystyle D(X)}$), ${\displaystyle \sigma _{X}}$, oder einfach als ${\displaystyle \sigma }$ (Sigma) notiert. Ferner eignet sich die Standardabweichung zur Quantifizierung von Unsicherheit bei Entscheidungen unter Risiko, weil sie, im Unterschied zur Varianz, den Anforderungen an ein Risikomaß genügt.

Bei einigen Wahrscheinlichkeitsverteilungen, insbesondere der Normalverteilung, können aus der Standardabweichung direkt Wahrscheinlichkeiten berechnet werden. So befinden sich bei der Normalverteilung immer ca. 68 % der Werte im Intervall von der Breite von zwei Standardabweichungen um den Erwartungswert. Beispiel hierfür ist die Körpergröße: Sie ist für eine Nation und Geschlecht annähernd normalverteilt, so dass z. B. in Deutschland 2006 ca. 68 % aller Männer etwa zwischen 171 und 186 cm groß waren (ca. ${\displaystyle 178{,}3\pm 7{,}3\;{\text{cm}}}$, also „Erwartungswert plus/minus Standardabweichung“).[30]

Für die Standardabweichung gilt für jede Konstante ${\displaystyle c}$, ${\displaystyle \operatorname {SD} (c)=0}$. Im Gegensatz zur Varianz gilt für die Standardabweichung die Rechenregel ${\displaystyle \operatorname {SD} (aX+b)=|a|\operatorname {SD} (X)}$ mit ${\displaystyle a,b\in \mathbb {R} }$ für lineare Transformationen, das heißt die Standardabweichung wird im Gegensatz zur Varianz nicht mit dem Quadrat ${\displaystyle a^{2}}$ der Konstanten skaliert. Insbesondere gilt für ${\displaystyle a>0}$, ${\displaystyle \operatorname {SD} (aX+b)=a\cdot \operatorname {SD} (X)}$.

Beziehung zur Kovarianz

→ Hauptartikel: Kovarianz (Stochastik)

Im Gegensatz zur Varianz, die lediglich die Variabilität der betrachteten Zufallsvariable misst, misst die Kovarianz die gemeinsame Variabilität von zwei Zufallsvariablen. Die Varianz ist demnach die Kovarianz einer Zufallsvariable mit sich selbst ${\displaystyle \operatorname {Cov} (X,X)=\operatorname {Var} (X)}$. Diese Beziehung folgt direkt aus der Definition der Varianz und Kovarianz. Die Kovarianz zwischen ${\displaystyle X}$ und ${\displaystyle Y}$ wird auch mit ${\displaystyle \sigma _{X,Y}}$ abgekürzt. Außerdem gilt, da die Kovarianz eine positiv semidefinite Bilinearform ist, die Cauchy-Schwarzsche Ungleichung:

${\displaystyle (\operatorname {Cov} (X,Y))^{2}\leq \operatorname {Var} (X)\operatorname {Var} (Y)}$.

Diese Ungleichung gehört z​u den bedeutendsten i​n der Mathematik u​nd findet v​or allem i​n der linearen Algebra Anwendung.

Summen und Produkte

Für die Varianz einer beliebigen Summe von Zufallsvariablen ${\displaystyle X=a_{1}X_{1}+\dotsb +a_{n}X_{n}}$ gilt allgemein:[31][32]

${\displaystyle {\begin{aligned}\operatorname {Var} \left(X\right)&=a_{1}^{2}\operatorname {Var} \left(X_{1}\right)+\dotsb +a_{n}^{2}\operatorname {Var} \left(X_{n}\right)+2a_{1}a_{2}\operatorname {Cov} \left(X_{1},X_{2}\right)+2a_{1}a_{3}\operatorname {Cov} \left(X_{1},X_{3}\right)+\dotsb \\&=\sum \nolimits _{i=1}^{n}a_{i}^{2}\operatorname {Var} (X_{i})+2\sum \nolimits _{i<j}a_{i}a_{j}\operatorname {Cov} (X_{i},X_{j})\\\end{aligned}}}$.

Hierbei bezeichnet ${\displaystyle \operatorname {Cov} \left(X_{i},X_{j}\right)}$ die Kovarianz der Zufallsvariablen ${\displaystyle X_{i}}$ und ${\displaystyle X_{j}}$ und es wurde die Eigenschaft ${\displaystyle \operatorname {Cov} \left(X_{i},X_{i}\right)=\operatorname {Var} \left(X_{i}\right)}$ verwendet. Berücksichtigt man das Verhalten der Varianz bei linearen Transformationen, dann gilt für die Varianz der Linearkombination, beziehungsweise der gewichteten Summe, zweier Zufallsvariablen:

${\displaystyle \operatorname {Var} (aX+bY)=a^{2}\operatorname {Var} (X)+b^{2}\operatorname {Var} (Y)+2ab\operatorname {Cov} (X,Y)}$.

Speziell für zwei Zufallsvariablen ${\displaystyle X}$, ${\displaystyle Y}$ und ${\displaystyle a=b=1}$ ergibt sich beispielsweise

${\displaystyle \operatorname {Var} (X+Y)=\operatorname {Var} (X)+\operatorname {Var} (Y)+2\operatorname {Cov} (X,Y)}$.[33]

Dies bedeutet, d​ass die Variabilität d​er Summe zweier Zufallsvariablen d​er Summe d​er einzelnen Variabilitäten u​nd dem zweifachen d​er gemeinsamen Variabilität d​er beiden Zufallsvariablen ergibt.

Ein weiterer Grund, w​arum die Varianz anderen Streuungsmaßen vorgezogen wird, i​st die nützliche Eigenschaft, d​ass die Varianz d​er Summe unabhängiger Zufallsvariablen d​er Summe d​er Varianzen entspricht:

${\displaystyle \operatorname {Var} (X\pm Y)=\operatorname {Var} (X)+\operatorname {Var} (Y)}$.[26][34]

Dies resultiert daraus, dass bei unabhängigen Zufallsvariablen ${\displaystyle \operatorname {Cov} (X,Y)=0}$ gilt. Diese Formel lässt sich auch verallgemeinern: Wenn ${\displaystyle \{X_{1},\dotsc ,X_{n}\}}$ paarweise unkorrelierte Zufallsvariablen sind (das heißt ihre Kovarianzen sind alle gleich Null), gilt

${\displaystyle \operatorname {Var} \left(X_{1}+\dotsb +X_{n}\right)=\operatorname {Var} (X_{1})+\dotsb +\operatorname {Var} (X_{n})}$,

oder allgemeiner mit beliebigen Konstanten ${\displaystyle a_{1},\dotsc ,a_{n}}$

${\displaystyle {\begin{aligned}\operatorname {Var} \left(a_{1}X_{1}+\dotsb +a_{n}X_{n}\right)=a_{1}^{2}\operatorname {Var} \left(X_{1}\right)+\dotsb +a_{n}^{2}\operatorname {Var} \left(X_{n}\right)\end{aligned}}}$.

Dieses Resultat wurde 1853 vom französischen Mathematiker Irénée-Jules Bienaymé entdeckt und wird daher auch als Gleichung von Bienaymé bezeichnet.[35][36] Sie gilt insbesondere dann, wenn die Zufallsvariablen unabhängig sind, denn aus Unabhängigkeit folgt Unkorreliertheit. Wenn alle Zufallsvariablen die gleiche Varianz ${\displaystyle \sigma ^{2}}$ haben, bedeutet dies für die Varianzbildung des Stichprobenmittels:

${\displaystyle \operatorname {Var} \left({\overline {X}}\right)=\operatorname {Var} \left({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\right)={\frac {1}{n^{2}}}\sum _{i=1}^{n}\operatorname {Var} \left(X_{i}\right)={\frac {\sigma ^{2}}{n}}}$.

Man kann erkennen, dass die Varianz des Stichprobenmittels sinkt, wenn der Stichprobenumfang ${\displaystyle n}$ steigt. Diese Formel für die Varianz des Stichprobenmittels wird bei der Definition des Standardfehlers des Stichprobenmittels benutzt, welcher im zentralen Grenzwertsatz angewendet wird.

Sind zwei Zufallsvariablen ${\displaystyle X}$ and ${\displaystyle Y}$ unabhängig, dann ist die Varianz ihres Produktes gegeben durch[37]

${\displaystyle {\begin{aligned}\operatorname {Var} (XY)&=(\mathbb {E} (X))^{2}\operatorname {Var} (Y)+(\mathbb {E} (Y))^{2}\operatorname {Var} (X)+\operatorname {Var} (X)\operatorname {Var} (Y)\end{aligned}}}$.

Zusammengesetzte Zufallsvariable

Ist ${\displaystyle Y}$ eine zusammengesetzte Zufallsvariable, d. h. sind ${\displaystyle N,X_{1},X_{2},\dotsc }$ unabhängige Zufallsvariablen, sind die ${\displaystyle X_{i}}$ identisch verteilt und ist ${\displaystyle N}$ auf ${\displaystyle \mathbb {N} _{0}}$ definiert, so lässt sich ${\displaystyle Y}$ darstellen als ${\displaystyle Y:=\sum \nolimits _{i=1}^{N}X_{i}}$. Existieren die zweiten Momente von ${\displaystyle N,X_{1},X_{2},\dotsc }$, so gilt für die zusammengesetzte Zufallsvariable:

${\displaystyle \operatorname {Var} (Y)=\operatorname {Var} (N)\left(\mathbb {E} \left(X_{1}\right)\right)^{2}+\mathbb {E} (N)\operatorname {Var} \left(X_{1}\right)}$.

Diese Aussage i​st auch a​ls Blackwell-Girshick-Gleichung bekannt u​nd wird z. B. i​n der Schadensversicherungsmathematik benutzt.

Momenterzeugende und kumulantenerzeugende Funktion

Mithilfe der momenterzeugenden Funktion lassen sich Momente wie die Varianz häufig einfacher berechnen. Die momenterzeugende Funktion ist definiert als Erwartungswert der Funktion ${\displaystyle e^{tX}}$. Da für die momenterzeugende Funktion ${\displaystyle \mathbb {E} \left(e^{tX}\right)}$[38] der Zusammenhang

${\displaystyle M_{X}^{(n)}(t=0)=\mathbb {E} \left(X^{n}\right)}$

gilt, lässt s​ich die Varianz, d​urch den Verschiebungssatz, d​amit auf folgende Weise berechnen:

${\displaystyle \operatorname {Var} (X)=\mathbb {E} \left(X^{2}\right)-(\mathbb {E} (X))^{2}=M_{X}''(0)-\left(M_{X}'(0)\right)^{2}}$.

Hierbei ist ${\displaystyle M_{X}}$ die momenterzeugende Funktion und ${\displaystyle M_{X}^{(n)}}$ die ${\displaystyle n}$-te Ableitung dieser. Die kumulantenerzeugende Funktion einer Zufallsvariable ergibt sich als Logarithmus der momenterzeugenden Funktion und ist definiert als:

${\displaystyle g_{X}(t):=\ln \mathbb {E} (e^{tX})}$.

Leitet man sie zweimal ab und wertet sie an der Stelle Null aus, so erhält man für die Varianz ${\displaystyle g''_{X}(t){\bigg |}_{t=0}=\sigma ^{2}}$. Die zweite Kumulante ist also die Varianz.

Charakteristische und wahrscheinlichkeitserzeugende Funktion

Die Varianz einer Zufallsvariable ${\displaystyle X}$ lässt sich auch mit Hilfe ihrer charakteristischen Funktion ${\displaystyle \varphi _{X}(t)=\mathbb {E} \left(e^{\mathrm {i} tX}\right)}$ darstellen. Wegen

${\displaystyle \mathbb {E} (X^{k})={\frac {\varphi _{X}^{(k)}(0)}{\mathrm {i} ^{k}}}\;,k=1,2,\dots }$ und ${\displaystyle (\mathbb {E} (X))^{2}=\left({\frac {\varphi _{X}'(0)}{\mathrm {i} }}\right)^{2}}$ folgt nämlich mit dem Verschiebungssatz:

${\displaystyle \operatorname {Var} (X)=\mathbb {E} (X^{2})-(\mathbb {E} (X))^{2}={\frac {\varphi _{X}''(0)}{\mathrm {i} ^{2}}}-\left({\frac {\varphi _{X}'(0)}{\mathrm {i} }}\right)^{2}}$.[39]

Auch mit der wahrscheinlichkeitserzeugenden Funktion ${\displaystyle m_{X}(t)=\mathbb {E} (t^{X})}$, die in Beziehung zur charakteristische Funktion steht lässt sich für diskrete ${\displaystyle X}$ die Varianz berechnen. Es gilt dann für die Varianz ${\displaystyle \sigma ^{2}=\lim _{t\uparrow 1}\left(m_{X}''(t)+m_{X}'(t)-m_{X}'(t)^{2}\right)}$, falls der linksseitige Grenzwert existiert.

Varianz als mittlere quadratische Abweichung vom Mittelwert

Im Falle einer diskreten Zufallsvariable ${\displaystyle X}$ mit abzählbar endlichem Träger ${\displaystyle {\mathcal {T}}=\{x_{1},x_{2},\dotsc ,x_{n}\}\subset \mathbb {R} }$ ergibt sich die Varianz der Zufallsvariable ${\displaystyle \operatorname {Var} (X)}$ als

${\displaystyle \operatorname {Var} (X)=p_{1}(x_{1}-\mu )^{2}+p_{2}(x_{2}-\mu )^{2}+\dotsb +p_{n}\left(x_{n}-\mu \right)^{2}}$.

Hierbei ist ${\displaystyle p_{i}=P\left(X=x_{i}\right)}$ die Wahrscheinlichkeit, dass ${\displaystyle X}$ den Wert ${\displaystyle x_{i}}$ annimmt. Diese Varianz kann als eine gewichtete Summe der Werte ${\displaystyle \left(x_{1}-\mu \right)^{2},\left(x_{2}-\mu \right)^{2},\dotsc ,\left(x_{n}-\mu \right)^{2}}$ gewichtet mit den Wahrscheinlichkeiten ${\displaystyle p_{1},p_{2},\dotsc ,p_{n}}$ interpretiert werden.

Falls ${\displaystyle X}$ gleichverteilt auf ${\displaystyle \{x_{1},x_{2},\dotsc ,x_{n}\}\subset \mathbb {R} }$ ist (${\displaystyle p_{1}=p_{2}=\dotsb =p_{n}=1/n}$), gilt für den Erwartungswert, dass er gleich dem arithmetischen Mittel ist (siehe Gewichtetes arithmetisches Mittel als Erwartungswert):

${\displaystyle \mu =\operatorname {E} (X)={\frac {1}{n}}\left(x_{1}+x_{2}+\dotsb +x_{n}\right)={\frac {1}{n}}\sum _{i=1}^{n}{x_{i}}={\overline {x}}}$

Folglich wird die Varianz ${\displaystyle \operatorname {Var} (X)=p_{1}\left(x_{1}-\mu \right)^{2}+p_{2}\left(x_{2}-\mu \right)^{2}+\dotsb +p_{n}\left(x_{n}-\mu \right)^{2}}$ zum arithmetischen Mittel der Werte ${\displaystyle \left(x_{i}-{\overline {x}}\right)^{2}}$:

${\displaystyle \sigma ^{2}=\operatorname {Var} (X)={\frac {1}{n}}\left(\left(x_{1}-{\overline {x}}\right)^{2}+\left(x_{2}-{\overline {x}}\right)^{2}+\dotsb +\left(x_{n}-{\overline {x}}\right)^{2}\right)={\frac {1}{n}}\sum _{i=1}^{n}{\left(x_{i}-{\overline {x}}\right)^{2}}=s^{2}}$.

D. h., die Varianz ist bei Gleichverteilung gerade die mittlere quadratische Abweichung vom Mittelwert bzw. die Stichprobenvarianz ${\displaystyle s^{2}}$.

Varianzen spezieller Verteilungen

In d​er Stochastik g​ibt es e​ine Vielzahl v​on Verteilungen, d​ie meist e​ine unterschiedliche Varianz aufweisen u​nd oft i​n Beziehung zueinander stehen. Die Varianz d​er Normalverteilung i​st von großer Bedeutung, d​a die Normalverteilung i​n der Statistik e​ine außerordentliche Stellung einnimmt. Die besondere Bedeutung d​er Normalverteilung beruht u​nter anderem a​uf dem zentralen Grenzwertsatz, d​em zufolge Verteilungen, d​ie durch Überlagerung e​iner großen Zahl v​on unabhängigen Einflüssen entstehen, u​nter schwachen Voraussetzungen annähernd normalverteilt sind. Eine Auswahl wichtiger Varianzen i​st in nachfolgender Tabelle zusammengefasst:

Verteilung	Stetig/diskret	Wahrscheinlichkeitsfunktion	Varianz
Normalverteilung	Stetig	${\displaystyle f(x\mid \mu ,\sigma ^{2})={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}\operatorname {exp} \left\{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right\}}$	${\displaystyle \sigma ^{2}}$
Cauchy-Verteilung	Stetig	${\displaystyle f(x)={\frac {1}{\pi }}\cdot {\frac {s}{s^{2}+(x-t)^{2}}}}$	existiert nicht
Bernoulli-Verteilung	Diskret	${\displaystyle f(x\mid p)={\begin{cases}p^{x}(1-p)^{1-x}&{\text{falls}}\quad x=0,1\\0&{\text{sonst.}}\end{cases}}}$	${\displaystyle p(1-p)}$
Binomialverteilung	Diskret	${\displaystyle f(x\mid n,p)={\begin{cases}{\binom {n}{x}}p^{x}(1-p)^{n-x}&{\text{falls}}\quad x=0,1,\dots ,n\\0&{\text{sonst.}}\end{cases}}}$	${\displaystyle np(1-p)}$
Stetige Gleichverteilung	Stetig	${\displaystyle f(x)={\begin{cases}{\frac {1}{b-a}}&a\leq x\leq b\\0&{\text{sonst.}}\end{cases}}}$	${\displaystyle {\frac {1}{12}}(b-a)^{2}}$
Poisson-Verteilung	Diskret	${\displaystyle f(x)={\begin{cases}{\frac {\lambda ^{x}}{x!}}\,\mathrm {e} ^{-\lambda }&{\text{falls}}\quad x\in \{0,1,\dots \}\\0&{\text{sonst.}}\end{cases}}}$	${\displaystyle \lambda }$

Beispiele

Berechnung bei diskreten Zufallsvariablen

Gegeben ist eine diskrete Zufallsvariable ${\displaystyle X}$, welche die Werte ${\displaystyle -1}$, ${\displaystyle 1}$ und ${\displaystyle 2}$ mit je den Wahrscheinlichkeiten ${\displaystyle 0{,}5}$, ${\displaystyle 0{,}3}$ und ${\displaystyle 0{,}2}$ annimmt. Diese Werte lassen sich in folgender Tabelle zusammenfassen

${\displaystyle X=x_{i}}$	${\displaystyle -1}$	${\displaystyle 1}$	${\displaystyle 2}$
${\displaystyle P(X=x_{i})=p_{i}}$	${\displaystyle 0{,}5}$	${\displaystyle 0{,}3}$	${\displaystyle 0{,}2}$	${\displaystyle \sum _{i}p_{i}=1}$

Der Erwartungswert beträgt n​ach obiger Definition

${\displaystyle {\color {BrickRed}\mu }=\sum _{i=1}^{3}x_{i}p_{i}=-1\cdot 0{,}5+1\cdot 0{,}3+2\cdot 0{,}2={\color {BrickRed}0{,}2}}$.

Die Varianz i​st demnach gegeben durch

${\displaystyle \sigma ^{2}=\sum _{i=1}^{3}(x_{i}-{\color {BrickRed}\mu })^{2}p_{i}=(-1-{\color {BrickRed}0{,}2})^{2}\cdot 0{,}5+(1-{\color {BrickRed}0{,}2})^{2}\cdot 0{,}3+(2-{\color {BrickRed}0{,}2})^{2}\cdot 0{,}2=1{,}56}$.

Mit d​em Verschiebungssatz erhält m​an ebenfalls d​en gleichen Wert für d​ie Varianz:

${\displaystyle \sigma ^{2}=\left(\sum _{i=1}^{3}x_{i}^{2}p_{i}\right)-\left(\sum _{i=1}^{3}x_{i}p_{i}\right)^{2}=(-1)^{2}\cdot 0{,}5+1^{2}\cdot 0{,}3+2^{2}\cdot 0{,}2-{\color {BrickRed}0{,}2}^{2}=1{,}56}$.

Für d​ie Standardabweichung ergibt s​ich damit:

${\displaystyle \sigma ={\sqrt {\sigma ^{2}}}={\sqrt {1{,}56}}\approx 1{,}249}$.

Berechnung bei stetigen Zufallsvariablen

Eine stetige Zufallsvariable h​abe die Dichtefunktion

${\displaystyle f(x)={\begin{cases}{\frac {1}{x}}&{\text{falls}}\quad 1\leq x\leq e\\0&{\text{sonst.}}\end{cases}}}$,

mit dem Erwartungswert von ${\displaystyle X}$

${\displaystyle {\color {BrickRed}\mu }=\int _{1}^{e}x\cdot {\frac {1}{x}}\,\mathrm {d} x=\color {BrickRed}{e-1}}$

und dem Erwartungswert von ${\displaystyle X^{2}}$

${\displaystyle \mathbb {E} {\bigl (}X^{2}{\bigr )}=\int _{-\infty }^{\infty }x^{2}\cdot f(x)\,\mathrm {d} x=\int _{1}^{e}x^{2}\cdot {\frac {1}{x}}\,\mathrm {d} x=\left[{\frac {x^{2}}{2}}\right]_{1}^{e}={\frac {e^{2}}{2}}-{\frac {1}{2}}}$.

Die Varianz dieser Dichtefunktion berechnet s​ich mit Hilfe d​es Verschiebungssatzes w​ie folgt:

${\displaystyle \sigma ^{2}=\int _{-\infty }^{\infty }x^{2}f(x)\,\mathrm {d} x-{\color {BrickRed}\mu }^{2}={\frac {e^{2}}{2}}-{\frac {1}{2}}-{\color {BrickRed}(e-1)}^{2}\approx 0{,}242}$.

Stichprobenvarianz als Schätzer für die Varianz

→ Hauptartikel: Stichprobenvarianz (Schätzfunktion)

Seien ${\displaystyle X_{1},\dots ,X_{n}}$ reelle unabhängig und identisch verteilte Zufallsvariablen mit dem Erwartungswert ${\displaystyle \mathbb {E} (X_{i})=b}$ und der endlichen Varianz ${\displaystyle \sigma ^{2}=\operatorname {Var} (X_{i})}$. Ein Schätzer für den Erwartungswert ${\displaystyle b}$ stellt das Stichprobenmittel ${\displaystyle {\overline {X}}_{n}}$ dar, da nach dem Gesetz der großen Zahlen gilt:

${\displaystyle {\overline {X}}_{n}\;{\overset {p}{\longrightarrow }}\;b}$.

Es wird im Folgenden ein Schätzer für die Varianz ${\displaystyle \sigma ^{2}}$ gesucht. Ausgehend von ${\displaystyle X_{1},\dots ,X_{n}}$ definiert man sich die Zufallsvariablen ${\displaystyle Y_{i}:=(X_{i}-b)^{2},\quad i=1,\dots ,n}$. Diese sind unabhängig und identisch verteilt mit dem Erwartungswert ${\displaystyle \mathbb {E} (Y_{i})=\mathbb {E} (X_{i}-b)^{2}=\sigma ^{2}}$. Ist ${\displaystyle Y}$ nun quadratisch integrierbar, dann ist das schwache Gesetz der großen Zahlen anwendbar, und es gilt:

${\displaystyle {\overline {Y}}_{n}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-b)^{2}\;{\overset {p}{\longrightarrow }}\;\sigma ^{2}}$.

Wenn man nun ${\displaystyle b}$ durch ${\displaystyle {\overline {X}}_{n}}$ ersetzt, liefert dies die sogenannte Stichprobenvarianz. Aus diesem Grund stellt wie oben gezeigt die Stichprobenvarianz

${\displaystyle {\widetilde {S}}_{n}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}}_{n})^{2}}$

eine induktive Entsprechung d​er Varianz i​m stochastischen Sinne dar.[40]

Bedingte Varianz

→ Hauptartikel: Bedingte Varianz

Analog zu bedingten Erwartungswerten lassen sich beim Vorliegen von Zusatzinformationen, wie beispielsweise den Werten einer weiteren Zufallsvariable, bedingte Varianzen bedingter Verteilungen betrachten. Es seien ${\displaystyle X}$ und ${\displaystyle Y}$ zwei reelle Zufallsvariablen, dann heißt die Varianz von ${\displaystyle X}$, die auf ${\displaystyle Y=y}$ konditioniert ist

${\displaystyle \operatorname {Var} (X\mid Y=y)=\mathbb {E} {\bigl (}(X-\mathbb {E} (X\mid y))^{2}\mid y{\bigr )}}$[41]

die bedingte Varianz von ${\displaystyle X}$ gegeben ${\displaystyle Y=y}$ (oder Varianz von ${\displaystyle X}$ bedingt auf ${\displaystyle Y=y}$).[42] Um die „gewöhnliche“ Varianz ${\displaystyle \operatorname {Var} (X)}$ stärker von der bedingten Varianz ${\displaystyle \operatorname {Var} (X\mid Y=y)}$ zu unterscheiden, spricht man bei der gewöhnlichen Varianz auch von der unbedingten Varianz.

Verallgemeinerungen

Varianz-Kovarianzmatrix

→ Hauptartikel: Kovarianzmatrix

Im Falle eines reellen Zufallsvektors ${\displaystyle {\boldsymbol {X}}=(X_{1},\dots ,X_{p})^{\top }}$ mit dem dazugehörigen Erwartungswertvektor[43] ${\displaystyle {\boldsymbol {\mu }}=(\mu _{1},\dots ,\mu _{p})^{\top }}$ verallgemeinert sich die Varianz beziehungsweise Kovarianz zu der symmetrischen Varianz-Kovarianzmatrix (oder einfach Kovarianzmatrix) des Zufallsvektors:

${\displaystyle \operatorname {Cov} (\mathbf {X} )=\mathbb {E} \left(({\boldsymbol {X}}-{\boldsymbol {\mu }})({\boldsymbol {X}}-{\boldsymbol {\mu }})^{\top }\right)}$.[44]

Der Eintrag der ${\displaystyle i}$-ten Zeile und ${\displaystyle j}$-ten Spalte der Varianz-Kovarianzmatrix ${\displaystyle \operatorname {Cov} (\mathbf {X} )}$ ist die Kovarianz ${\displaystyle \operatorname {Cov} (X_{i},X_{j}),\;i\neq j}$ der Zufallsvariablen ${\displaystyle X_{i}}$ und ${\displaystyle X_{j}}$ und in der Diagonale stehen die Varianzen ${\displaystyle \operatorname {Cov} (X_{i},X_{i})=\operatorname {Var} (X_{i})}$.[45] Da die Kovarianzen ein Maß für die Korrelation zwischen Zufallsvariablen darstellen und die Varianzen lediglich ein Maß für die Variabilität, enthält die Varianz-Kovarianzmatrix Informationen über die Streuung und Korrelationen zwischen all seinen Komponenten. Da die Varianzen und Kovarianzen per Definition stets nicht-negativ sind, gilt analog für die Varianz-Kovarianzmatrix, dass sie positiv semidefinit ist.[46] Die Varianz-Kovarianzmatrix dient bei der Beurteilung von Schätzern als Effizienzkriterium. Im Allgemeinen gilt, dass sich die Effizienz eines Parameterschätzers anhand der „Größe“ seiner Varianz-Kovarianzmatrix messen lässt. Es gilt: Je „kleiner“ die Varianz-Kovarianzmatrix, desto „größer“ die Effizienz des Schätzers.

Matrixnotation für die Varianz einer Linearkombination

Es sei ${\displaystyle {\boldsymbol {X}}}$ ein Spaltenvektor von ${\displaystyle p}$ Zufallsvariablen ${\displaystyle X_{1},\ldots ,X_{p}}$, und ${\displaystyle {\boldsymbol {a}}}$ ein Spaltenvektor bestehend aus ${\displaystyle p}$ Skalaren ${\displaystyle a_{1},\ldots ,a_{p}}$. Dies bedeutet, dass ${\displaystyle {\boldsymbol {a}}^{\top }{\boldsymbol {X}}}$ eine Linearkombination dieser Zufallsvariablen ist, wobei ${\displaystyle {\boldsymbol {a}}^{\top }}$ die Transponierte von ${\displaystyle {\boldsymbol {a}}}$ bezeichnet. Sei ${\displaystyle {\boldsymbol {\Sigma }}_{\boldsymbol {X}}=(\sigma _{ij})}$ die Varianz-Kovarianzmatrix von ${\displaystyle {\boldsymbol {X}}}$. Die Varianz von ${\displaystyle {\boldsymbol {a}}^{\top }{\boldsymbol {X}}}$ ist dann gegeben durch:

${\displaystyle \operatorname {Var} ({\boldsymbol {a}}^{\top }{\boldsymbol {X}})={\boldsymbol {a}}^{\top }{\boldsymbol {\Sigma }}_{\boldsymbol {X}}{\boldsymbol {a}}=\sum _{i=1}^{p}\sum _{j=1}^{p}a_{i}a_{j}\sigma _{ij}}$.[47]

Verwandte Maßzahlen

Fasst m​an die Varianz a​ls Streuungsmaß d​er Verteilung e​iner Zufallsvariable auf, s​o ist s​ie mit d​en folgenden Streuungsmaßen verwandt:

• Variationskoeffizient: Der Variationskoeffizient als Verhältnis von Standardabweichung und Erwartungswert und damit ein dimensionsloses Streuungsmaß
• Quantilabstand: Der Quantilabstand zum Parameter ${\displaystyle p}$ gibt an, wie weit das ${\displaystyle p}$- und das ${\displaystyle (1-p)}$-Quantil voneinander entfernt sind
• Mittlere absolute Abweichung: Die mittlere absolute Abweichung als erstes absolutes zentrales Moment

Weblinks

• Eric W. Weisstein: Variance. In: MathWorld (englisch).
• Ausführliche Berechnungen für den diskreten und stetigen Fall auf www.mathebibel.de

Literatur

• George G. Judge, R. Carter Hill, W. Griffiths, Helmut Lütkepohl, T.C. Lee. Introduction to the Theory and Practice of Econometrics. John Wiley & Sons, New York, Chichester, Brisbane, Toronto, Singapore, ISBN 978-0-471-62414-1, second edition 1988
• Ludwig Fahrmeir u. a.: Statistik: Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer-Verlag, 2016, ISBN 978-3-662-50371-3.

Anmerkungen

1. Die Verwendung des Varianzoperators ${\displaystyle \operatorname {Var} (\cdot )}$ hebt die Berechnungsoperationen hervor, und mit ihm lässt sich die Gültigkeit bestimmter Rechenoperationen besser ausdrücken.
2. Bei einer symmetrischen Verteilung mit dem Symmetriezentrum ${\displaystyle x_{0}}$ gilt: ${\displaystyle \mu =\mathbb {E} (X)=x_{0}}$.
3. Weitere Vorteile des Quadrierens sind zum einen, dass kleine Abweichungen weniger stark gewichtet werden als große Abweichungen, und zum anderen, dass die erste Ableitung eine lineare Funktion ist, was bei Optimierungsüberlegungen von Vorteil ist.
4. Mit der Bezeichnung „Träger“ und dem Zeichen ${\displaystyle {\mathcal {T}}}$ bezeichnet man die Menge aller möglichen Ausprägungen beziehungsweise Realisierungen einer Zufallsvariablen.

Einzelnachweise

1. Patrick Billingsley: Probability and Measure, 3. Aufl., Wiley, 1995, S. 274ff
2. Otfried Beyer, Horst Hackel: Wahrscheinlichkeitsrechnung und mathematische Statistik. 1976, S. 53.
3. Brockhaus: Brockhaus, Naturwissenschaften und Technik – Sonderausgabe. 1989, S. 188.
4. Lothar Papula: Mathematik für Ingenieure und Naturwissenschaftler. Band 3: Vektoranalysis, Wahrscheinlichkeitsrechnung, Mathematische Statistik, Fehler- und Ausgleichsrechnung. 1994, S. 338.
5. Norbert Henze: Stochastik für Einsteiger: Eine Einführung in die faszinierende Welt des Zufalls. 2016, S. 160.
6. Ludwig von Auer: Ökonometrie. Eine Einführung. Springer, ISBN 978-3-642-40209-8, 6. durchges. u. aktualisierte Aufl. 2013, S. 28.
7. Volker Heun: Grundlegende Algorithmen: Einführung in den Entwurf und die Analyse effizienter Algorithmen. 2. Auflage. 2003, S. 108.
8. Gerhard Hübner: Stochastik: Eine Anwendungsorientierte Einführung für Informatiker, Ingenieure und Mathematiker. 3. Auflage, 2002, S. 103.
9. Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, und Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 231.
10. Von Auer: Ökonometrie. Eine Einführung. 6. Auflage. Springer, 2013, ISBN 978-3-642-40209-8, S. 29.
11. Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, und Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 283.
12. Ronald Aylmer Fisher: The correlation between relatives on the supposition of Mendelian inheritance., Trans. Roy. Soc. Edinb. 52: 399-433, 1918.
13. Lothar Sachs: Statistische Auswertungsmethoden. 1968, 1. Auflage, S. 436.
14. Otfried Beyer, Horst Hackel: Wahrscheinlichkeitsrechnung und mathematische Statistik. 1976, S. 58.
15. Otfried Beyer, Horst Hackel: Wahrscheinlichkeitsrechnung und mathematische Statistik. 1976, S. 101.
16. George G. Judge, R. Carter Hill, W. Griffiths, Helmut Lütkepohl, T.C. Lee. Introduction to the Theory and Practice of Econometrics. John Wiley & Sons, New York, Chichester, Brisbane, Toronto, Singapore, ISBN 978-0-471-62414-1, second edition 1988, S. 40.
17. Hans-Otto Georgii: Einführung in die Wahrscheinlichkeitstheorie und Statistik, ISBN 978-3-11-035970-1, S. 102 (abgerufen über De Gruyter Online).
18. Hans-Heinz Wolpers: Mathematikunterricht in der Sekundarstufe II. Band 3: Didaktik der Stochastik. Jahr?, S. 20.
19. George G. Judge, R. Carter Hill, W. Griffiths, Helmut Lütkepohl, T.C. Lee. Introduction to the Theory and Practice of Econometrics. John Wiley & Sons, New York, Chichester, Brisbane, Toronto, Singapore, ISBN 978-0-471-62414-1, second edition 1988, S. 40.
20. W. Zucchini, A. Schlegel, O. Nenadíc, S. Sperlich: Statistik für Bachelor- und Masterstudenten. Springer, 2009, ISBN 978-3-540-88986-1, S. 121.
21. W. Zucchini, A. Schlegel, O. Nenadíc, S. Sperlich: Statistik für Bachelor- und Masterstudenten. Springer, 2009, ISBN 978-3-540-88986-1, S. 123.
22. Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, und Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 232.
23. Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, und Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 254.
24. Wolfgang Viertl, Reinhard Karl: Einführung in die Stochastik: Mit Elementen der Bayes–Statistik und der Analyse unscharfer Information. Jahr?, S. 49.
25. Ansgar Steland: Basiswissen Statistik. Springer, 2016, ISBN 978-3-662-49948-1, S. 116, eingeschränkte Vorschau in der Google-Buchsuche.
26. Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, und Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 233.
27. Gerhard Hübner: Stochastik: Eine Anwendungsorientierte Einführung für Informatiker, Ingenieure und Mathematiker. 3. Auflage, 2002, S. 103.
28. Lothar Papula: Mathematik für Ingenieure und Naturwissenschaftler. Band 3: Vektoranalysis, Wahrscheinlichkeitsrechnung, Mathematische Statistik, Fehler- und Ausgleichsrechnung. 1994, S. 338.
29. Hans-Otto Georgii: Stochastik. Einführung in die Wahrscheinlichkeitstheorie und Statistik. 4. Auflage. Walter de Gruyter, Berlin 2009, ISBN 978-3-11-021526-7, S. 108, doi:10.1515/9783110215274.
30. Quelle: SOEP 2006 Körpergröße der Deutschen Statistik des Sozio-oekonomischen Panels (SOEP), aufbereitet durch statista.org
31. Klenke: Wahrscheinlichkeitstheorie. 2013, S. 106.
32. Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, und Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2016, ISBN 978-3-662-50371-3, S. 329.
33. L. Kruschwitz, S. Husmann: Finanzierung und Investition. Jahr?, S. 471.
34. Otfried Beyer, Horst Hackel: Wahrscheinlichkeitsrechnung und mathematische Statistik. 1976, S. 86.
35. Irénée-Jules Bienaymé: "Considérations à l’appui de la découverte de Laplace sur la loi de probabilité dans la méthode des moindres carrés", Comptes rendus de l’Académie des sciences Paris. 37, 1853, S. 309–317.
36. Michel Loeve: Probability Theory. (= Graduate Texts in Mathematics. Volume 45). 4. Auflage, Springer-Verlag, 1977, ISBN 3-540-90210-4, S. 12.
37. Leo A. Goodman: On the exact variance of products. In: Journal of the American Statistical Association. Dezember 1960, S. 708–713. doi:10.2307/2281592
38. Wolfgang Kohn: Statistik: Datenanalyse und Wahrscheinlichkeitsrechnung. Jahr?, S. 250.
39. Otfried Beyer, Horst Hackel: Wahrscheinlichkeitsrechnung und mathematische Statistik. 1976, S. 97.
40. Georg Neuhaus: Grundkurs Stochastik. Jahr?, S. 290.
41. Jeffrey M. Wooldrige: Introductory Econometrics: A Modern Approach. 5. Auflage, 2012, S. 736.
42. Toni C. Stocker, Ingo Steinke: Statistik: Grundlagen und Methodik. de Gruyter Oldenbourg, Berlin 2017, ISBN 978-3-11-035388-4, S. 319.
43. Ludwig Fahrmeir, Thomas Kneib, Stefan Lang, Brian Marx: Regression: models, methods and applications. Springer Science & Business Media, 2013, ISBN 978-3-642-34332-2, S. 646.
44. George G. Judge, R. Carter Hill, W. Griffiths, Helmut Lütkepohl, T.C. Lee. Introduction to the Theory and Practice of Econometrics. John Wiley & Sons, New York, Chichester, Brisbane, Toronto, Singapore, ISBN 978-0-471-62414-1, second edition 1988, S. 43.
45. George G. Judge, R. Carter Hill, W. Griffiths, Helmut Lütkepohl, T.C. Lee. Introduction to the Theory and Practice of Econometrics. John Wiley & Sons, New York, Chichester, Brisbane, Toronto, Singapore, ISBN 978-0-471-62414-1, second edition 1988, S. 43.
46. Wilfried Hausmann, Kathrin Diener, Joachim Käsler: Derivate, Arbitrage und Portfolio-Selection: Stochastische Finanzmarktmodelle und ihre Anwendungen. 2002, S. 15.
47. Ludwig Fahrmeir, Thomas Kneib, Stefan Lang, Brian Marx: Regression: models, methods and applications. Springer Science & Business Media, 2013, ISBN 978-3-642-34332-2, S. 647.