Gleichung von Bienaymé

Die Gleichung v​on Bienaymé, Bienaymé-Gleichung[1] o​der Formel v​on Bienaymé[2] i​st eine Gleichung a​us der Stochastik. Sie erlaubt d​ie Berechnung d​er Varianz d​er Summe v​on Zufallsvariablen u​nd besagt insbesondere, d​ass sie s​ich bei unkorrelierten (und demnach a​uch bei stochastisch unabhängigen Zufallsvariablen) additiv verhält. Die Varianz d​er Summe unkorrelierter Zufallsvariablen i​st also d​ie Summe d​er Varianzen d​er Zufallsvariablen.

Die Gleichung i​st nach d​em französischen Mathematiker Irénée-Jules Bienaymé (1796–1878) benannt, d​er sie 1853 zeigte.[3] Sie w​ird unter anderem z​ur Ermittlung d​es Fehlers v​on Monte-Carlo-Simulationen verwendet u​nd ein wichtiges Hilfsmittel z​ur Umformung v​on Gleichungen i​n der Stochastik. So liefert s​ie beispielsweise i​n Kombination m​it der Tschebyscheff-Ungleichung e​ine erste Version d​es schwachen Gesetzes d​er großen Zahlen.

Aussage

Gegeben seien quadratintegrierbare Zufallsvariablen ${\displaystyle X_{1},\ldots ,X_{n}}$, es gelte also ${\displaystyle \operatorname {E} (|X_{i}|^{2})<\infty }$ für ${\displaystyle i=1,\dots ,n}$. Des Weiteren sei ${\displaystyle \operatorname {Var} (X)}$ die Varianz der Zufallsvariable ${\displaystyle X}$ und ${\displaystyle \operatorname {Cov} (X,Y)}$ die Kovarianz von ${\displaystyle X}$ und ${\displaystyle Y}$.

Die Gleichung v​on Bienaymé w​ird in d​er Literatur n​icht einheitlich formuliert. In i​hrer allgemeineren Version besagt sie, dass

${\displaystyle \operatorname {Var} \left(\sum _{i=1}^{n}X_{i}\right)=\sum _{i=1}^{n}\operatorname {Var} (X_{i})+\sum _{i,j=1 \atop i\neq j}^{n}\operatorname {Cov} (X_{i},X_{j})=\sum _{i,j=1}^{n}\operatorname {Cov} (X_{i},X_{j})}$

gilt.[4]

Spezieller gilt:[5] Sind die ${\displaystyle X_{i}}$ paarweise unkorreliert, also ${\displaystyle \operatorname {Cov} (X_{i},X_{j})=0}$ für ${\displaystyle i\neq j}$, so gilt

${\displaystyle \operatorname {Var} \left(\sum _{i=1}^{n}X_{i}\right)=\sum _{i=1}^{n}\operatorname {Var} (X_{i})}$.

Insbesondere g​ilt dies d​ann auch für Summen stochastisch unabhängiger Zufallsvariablen, d​enn aus Unabhängigkeit u​nd Integrierbarkeit f​olgt die Unkorreliertheit d​er Zufallsvariablen.[6]

Beispiel

Sind beispielsweise ${\displaystyle X}$ die Augenzahl eines vierseitigen, ${\displaystyle Y}$ die Augenzahl eines sechsseitigen und ${\displaystyle Z}$ die Augenzahl eines achtseitigen fairen Würfels. Die Wahrscheinlichkeitsverteilungen der drei Würfel sind diskrete Gleichverteilungen, wodurch sich für die Varianzen der Augenzahlen der einzelnen Würfel

${\displaystyle \operatorname {Var} (X)={\tfrac {5}{4}},\operatorname {Var} (Y)={\tfrac {35}{12}}}$   und   ${\displaystyle \operatorname {Var} (Z)={\tfrac {21}{4}}}$

ergibt. Nach der Gleichung von Bienaymé beträgt nun die Varianz der Augensumme ${\displaystyle X+Y+Z}$ der drei Würfel

${\displaystyle \operatorname {Var} (X+Y+Z)=\operatorname {Var} (X)+\operatorname {Var} (Y)+\operatorname {Var} (Z)={\tfrac {5}{4}}+{\tfrac {35}{12}}+{\tfrac {21}{4}}={\tfrac {113}{12}}\approx 9{,}42}$.

Somit ergibt sich als Standardabweichung der Augensumme ein Wert von etwa ${\displaystyle 3{,}07}$.

Beweis

Die quadratische Integrierbarkeit stellt zunächst sicher, d​ass alle auftretenden Erwartungswerte u​nd Varianzen endlich sind. Aufgrund d​er Linearität d​es Erwartungswertes ist

${\displaystyle \operatorname {E} \left(\sum _{i=1}^{n}X_{i}\right)=\sum _{i=1}^{n}\operatorname {E} (X_{i})}$.

Somit folgt

${\displaystyle \sum _{i=1}^{n}X_{i}-\operatorname {E} \left(\sum _{i=1}^{n}X_{i}\right)=\sum _{i=1}^{n}\left(X_{i}-\operatorname {E} (X_{i})\right)}$

Nach Definition der Varianz als ${\displaystyle \operatorname {Var} (X)=\operatorname {E} \left(\left(X-\operatorname {E} (X)\right)^{2}\right)}$ folgt durch ausmultiplizieren

${\displaystyle \operatorname {E} \left(\left(\sum _{i=1}^{n}\left(X_{i}-\operatorname {E} (X_{i})\right)\right)^{2}\right)=\sum _{i,j=1}^{n}\operatorname {E} \left((X_{i}-\operatorname {E} (X_{i}))(X_{j}-\operatorname {E} (X_{j}))\right)=\sum _{i,j=1}^{n}\operatorname {Cov} (X_{i},X_{j})}$,

wobei der letzte Schritt durch einsetzen der Definition der Kovarianz folgt. Da aber für ${\displaystyle i=j}$ folgt, dass ${\displaystyle \operatorname {Cov} (X_{i},X_{j})=\operatorname {Var} (X_{i})}$, werden diese Terme in eine separate Summe geschrieben und die Gleichung von Bienaymé folgt.

Die zweite Fassung folgt direkt aus der ersten, da aus Unkorreliertheit per Definition ${\displaystyle \operatorname {Cov} (X_{i},X_{j})=0}$ folgt und die eine Summe wegfällt.

Folgerungen

Eine wichtige Folgerung der Gleichung von Bienaymé besteht für Folgen unabhängig und identisch verteilter Zufallsvariablen ${\displaystyle X_{1},X_{2},\ldots }$, die alle die Varianz ${\displaystyle \sigma ^{2}}$ aufweisen. Die Varianz des arithmetischen Mittels ${\displaystyle {\overline {X}}_{n}}$ der ersten ${\displaystyle n}$ Folgenglieder

${\displaystyle \operatorname {Var} ({\overline {X}}_{n})=\operatorname {Var} \left({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\right)={\frac {1}{n^{2}}}\sum _{i=1}^{n}\operatorname {Var} (X_{i})={\frac {\sigma ^{2}}{n}}}$

verhält sich demnach umgekehrt proportional zu ${\displaystyle n}$.[7] Zusammen mit der Tschebyscheff-Ungleichung ergibt sich daraus, dass die Folge dem schwachen Gesetz der großen Zahlen genügt, also dass die Mittelwerte stochastisch gegen den Erwartungswert konvergieren.

Der Standardfehler d​es arithmetischen Mittels

${\displaystyle \sigma ({\overline {X}}_{n})={\sqrt {\operatorname {Var} ({\overline {X}}_{n})}}={\frac {\sigma }{\sqrt {n}}}}$

zeigt, dass das arithmetische Mittel als erwartungstreuer Schätzer für einen unbekannten Erwartungswert eine Rate von ${\displaystyle {\tfrac {1}{\sqrt {n}}}}$ aufweist. Aus diesem Grund besitzt der Fehler von klassischen Monte-Carlo-Simulationen eine Konvergenzgeschwindigkeit von ${\displaystyle {\tfrac {1}{2}}}$.[7]

Im Zusammenhang m​it zufälligen Messabweichungen ergibt s​ich aus d​er Gleichung v​on Bienaymé i​m Fall unkorrelierter fehlerbehafteter Größen d​as gaußsche Fehlerfortpflanzungsgesetz.

Verallgemeinerung

Die Gleichung von Bienaymé kann auch auf gewichtete Summen von Zufallsvariablen verallgemeinert werden. Sind dazu ${\displaystyle a_{1},\ldots ,a_{n}}$ reelle Gewichtsfaktoren, dann gilt für die Varianz der gewichteten Summe ${\displaystyle a_{1}X_{1}+\cdots +a_{n}X_{n}}$ paarweise unkorrelierter Zufallszahlen ${\displaystyle X_{1},\ldots ,X_{n}}$

${\displaystyle \operatorname {Var} \left(\sum _{i=1}^{n}a_{i}X_{i}\right)=\sum _{i=1}^{n}a_{i}^{2}\operatorname {Var} (X_{i})}$.

Insbesondere folgt daraus, dass die Varianz der Differenz zweier unkorrelierter Zufallsvariablen ${\displaystyle X}$ und ${\displaystyle Y}$ ebenso wie die ihrer Summe (!) gleich der Summe ihrer Varianzen ist, das heißt

${\displaystyle \operatorname {Var} \left(X-Y\right)=\operatorname {Var} \left(X+Y\right)=\operatorname {Var} X+\operatorname {Var} Y}$.

Literatur

• Thomas Müller-Gronbach, Erich Novak, Klaus Ritter: Monte Carlo-Algorithmen. Springer, 2012, ISBN 978-3-540-89140-6.
• Achim Klenke: Wahrscheinlichkeitstheorie. 3. Auflage. Springer-Verlag, Berlin Heidelberg 2013, ISBN 978-3-642-36017-6, doi:10.1007/978-3-642-36018-3.
• David Meintrup, Stefan Schäffler: Stochastik. Theorie und Anwendungen. Springer-Verlag, Berlin Heidelberg New York 2005, ISBN 978-3-540-21676-6, doi:10.1007/b137972.
• Hans-Otto Georgii: Stochastik. Einführung in die Wahrscheinlichkeitstheorie und Statistik. 4. Auflage. Walter de Gruyter, Berlin 2009, ISBN 978-3-11-021526-7, doi:10.1515/9783110215274.

Einzelnachweise

1. Klenke: Wahrscheinlichkeitstheorie. 2013, S. 106.
2. Meintrup, Schäffler: Stochastik. 2005, S. 129.
3. Georgii: Stochastik. 2009, S. 109.
4. Klenke: Wahrscheinlichkeitstheorie. 2013, S. 106.
5. Meintrup, Schäffler: Stochastik. 2005, S. 129.
6. Müller-Gronbach, Novak, Ritter: Monte Carlo-Algorithmen. S. 7.
7. Müller-Gronbach, Novak, Ritter: Monte Carlo-Algorithmen. S. 29.