Wahrscheinlichkeitsfunktion

Eine Wahrscheinlichkeitsfunktion, a​uch Zähldichte genannt,[1] i​st eine spezielle reellwertige Funktion i​n der Stochastik. Wahrscheinlichkeitsfunktionen werden z​ur Konstruktion u​nd Untersuchung v​on Wahrscheinlichkeitsverteilungen, genauer diskreten Wahrscheinlichkeitsverteilungen verwendet. Dabei k​ann jeder diskreten Wahrscheinlichkeitsverteilung e​ine eindeutige Wahrscheinlichkeitsfunktion zugeordnet werden. Umgekehrt definiert j​ede Wahrscheinlichkeitsfunktion e​ine eindeutig bestimmte diskrete Wahrscheinlichkeitsverteilung.

Wahrscheinlichkeitsfunktion eines fairen Würfels. Alle Augenzahlen haben die gleiche Wahrscheinlichkeit 1/6.

In den meisten Fällen werden Wahrscheinlichkeitsfunktionen auf den natürlichen Zahlen definiert. Sie ordnen dann jeder Zahl die Wahrscheinlichkeit zu, dass diese Zahl auftritt. So würde bei der Modellierung eines fairen Würfels die Wahrscheinlichkeitsfunktion den Zahlen von eins bis sechs jeweils den Wert ${\displaystyle {\tfrac {1}{6}}}$ zuordnen und allen anderen die Null.

Aus d​er Sicht d​er Maßtheorie handelt e​s sich b​ei Wahrscheinlichkeitsfunktionen u​m spezielle Dichtefunktionen (im Sinne d​er Maßtheorie) bezüglich d​es Zählmaßes. Diese werden i​m allgemeineren Kontext a​uch Gewichtsfunktionen genannt.[2]

Definition

Definition Wahrscheinlichkeitsfunktion: Für eine diskrete Zufallsvariable ${\displaystyle X}$ ist die Wahrscheinlichkeitsfunktion ${\displaystyle f(x)}$ für ${\displaystyle x\in \mathbb {R} }$ definiert durch

${\displaystyle f(x)={\begin{cases}P(X=x_{i})=p_{i},&x=x_{i}\in \{x_{1},x_{2},\dots ,x_{k}\dots \}\\0,&{\text{ sonst.}}\end{cases}}}$

Man schreibt „für alle sonstigen ${\displaystyle x}$“, oder sonst. als Abkürzung für „sonstige ${\displaystyle x}$“.

Zur Konstruktion von Wahrscheinlichkeitsverteilungen

Gegeben s​ei eine Funktion

${\displaystyle f\colon \mathbb {N} _{0}\to \mathbb {R} }$,

für d​ie gilt

• Es ist ${\displaystyle f(i)\in [0,1]}$ für alle ${\displaystyle i\in \mathbb {N} _{0}}$. Die Funktion ${\displaystyle f}$ ordnet also jeder natürlichen Zahl eine reelle Zahl zwischen null und eins zu.
• ${\displaystyle f}$ ist normiert in dem Sinne, dass sich die Funktionswerte zu eins aufsummieren. Es gilt also

${\displaystyle \sum _{i=0}^{\infty }f(i)=1}$.

Dann heißt ${\displaystyle f}$ eine Wahrscheinlichkeitsfunktion und definiert durch

${\displaystyle P(\{i\}):=f(i)}$ für alle ${\displaystyle i\in \mathbb {N} _{0}}$

eine eindeutig bestimmte Wahrscheinlichkeitsverteilung ${\displaystyle P}$ auf den natürlichen Zahlen ${\displaystyle \mathbb {N} _{0}}$, versehen mit der Potenzmenge ${\displaystyle {\mathcal {P}}(\mathbb {N} _{0})}$ als Ereignissystem.

Aus Wahrscheinlichkeitsverteilungen abgeleitet

Gegeben sei eine Wahrscheinlichkeitsverteilung ${\displaystyle P}$ auf den natürlichen Zahlen ${\displaystyle \mathbb {N} _{0}}$, versehen mit ${\displaystyle {\mathcal {P}}(\mathbb {N} _{0})}$, und sei ${\displaystyle X}$ eine Zufallsvariable mit Werten in ${\displaystyle \mathbb {N} _{0}}$. Dann heißt

${\displaystyle f_{P}\colon \mathbb {N} _{0}\to \mathbb {R} }$

definiert durch

${\displaystyle f_{P}(i):=P(\{i\})}$

die Wahrscheinlichkeitsfunktion von ${\displaystyle P}$. Analog heißt

${\displaystyle f_{X}\colon \mathbb {N} _{0}\to \mathbb {R} }$

definiert durch

${\displaystyle f_{X}(i):=P(X=i)}$

die Wahrscheinlichkeitsfunktion von ${\displaystyle X}$

Beispiele

Eine typische Wahrscheinlichkeitsfunktion ist

${\displaystyle f_{n,p}(k)={\begin{cases}{\binom {n}{k}}p^{k}(1-p)^{n-k}&{\text{ für }}k\in \{0,1,\dots ,n\}\\0&{\text{ sonst}}\end{cases}}}$

für eine natürliche Zahl ${\displaystyle n}$ und eine reelle Zahl ${\displaystyle p\in (0,1)}$. Die Normiertheit folgt hier direkt aus dem binomischen Lehrsatz, denn es ist

${\displaystyle \sum _{k=0}^{\infty }f_{n,p}(k)=\sum _{k=0}^{n}{\binom {n}{k}}p^{k}(1-p)^{n-k}=((1-p)+p)^{n}=1}$.

Die s​o erzeugte Wahrscheinlichkeitsverteilung i​st die Binomialverteilung.

Eine weitere klassische Wahrscheinlichkeitsfunktion ist

${\displaystyle f_{p}(k)=p(1-p)^{k}}$ für ${\displaystyle k\in \{0,1,2,\dots \}}$

und ein ${\displaystyle p\in (0,1)}$. Hier folgt die Normiertheit aus der geometrischen Reihe, denn es ist

${\displaystyle \sum _{k=0}^{\infty }f_{p}(k)=p\sum _{k=0}^{\infty }(1-p)^{k}={\frac {p}{1-(1-p)}}=1}$.

Die s​o erzeugte Wahrscheinlichkeitsverteilung i​st die Geometrische Verteilung.

Allgemeine Definition

Die Definition lässt sich von den natürlichen Zahlen auf beliebige höchstens abzählbare Mengen ausweiten. Ist ${\displaystyle \Omega }$ solch eine Menge und ist

${\displaystyle f\colon \Omega \to [0,1]}$

mit

${\displaystyle \sum _{i\in \Omega }f(i)=1}$,

so definiert ${\displaystyle f}$ durch

${\displaystyle P(\{i\}):=f(i)}$ für alle ${\displaystyle i\in \Omega }$

eine eindeutig bestimmte Wahrscheinlichkeitsverteilung auf ${\displaystyle (\Omega ,{\mathcal {P}}(\Omega ))}$.[3] Ist umgekehrt ${\displaystyle P}$ eine Wahrscheinlichkeitsverteilung auf ${\displaystyle (\Omega ,{\mathcal {P}}(\Omega ))}$ und ${\displaystyle X}$ eine Zufallsvariable mit Werten in ${\displaystyle \Omega }$, so heißen

${\displaystyle f_{P}\colon \Omega \to [0,1]}$ definiert durch ${\displaystyle f_{P}(i):=P(\{i\})}$

und

${\displaystyle f_{X}\colon \Omega \to [0,1]}$ definiert durch ${\displaystyle f_{X}(i):=P(X=i)}$

die Wahrscheinlichkeitsfunktion von ${\displaystyle P}$ beziehungsweise ${\displaystyle X}$.[4]

Alternative Definition

Manche Autoren definieren zuerst reelle Folgen ${\displaystyle (p_{i})_{i\in \Omega }}$ mit ${\displaystyle p_{i}\in [0,1]}$ für alle ${\displaystyle i\in \Omega }$ und

${\displaystyle \sum _{i\in \Omega }p_{i}=1}$

und nennen d​iese Folgen Wahrscheinlichkeitsvektoren[5] o​der stochastische Folgen[6][7].

Eine Wahrscheinlichkeitsfunktion w​ird dann definiert als

${\displaystyle f\colon \Omega \to [0,1]}$

gegeben durch

${\displaystyle f(i)=p_{i}}$ für alle ${\displaystyle i\in \Omega }$

Umgekehrt definiert dann jede Wahrscheinlichkeitsverteilung oder Zufallsvariable auf ${\displaystyle \Omega }$ auch eine stochastische Folge/Wahrscheinlichkeitsvektor über ${\displaystyle (P(\{i\}))_{i\in \Omega }}$ beziehungsweise ${\displaystyle (P(X=i))_{i\in \Omega }}$

Andere Autoren nennen bereits die Folge ${\displaystyle (p_{i})_{i\in \Omega }}$ eine Zähldichte.[8]

Weitere Beispiele

Typisches Beispiel für Wahrscheinlichkeitsfunktionen auf beliebigen Mengen ist die diskrete Gleichverteilung auf einer endlichen Menge ${\displaystyle \Omega }$. Sie besitzt dann per Definition die Wahrscheinlichkeitsfunktion

${\displaystyle f(i)={\tfrac {1}{|\Omega |}}}$ für alle ${\displaystyle i\in \Omega }$.

Der Zugang über die stochastischen Folgen erlaubt die folgende Konstruktion von Wahrscheinlichkeitsfunktionen: Ist eine beliebige (höchstens abzählbare) Folge von positiven reellen Zahlen ${\displaystyle (a_{i})_{i\in \Omega }}$ mit Indexmenge ${\displaystyle \Omega }$ gegeben, für die

${\displaystyle \sum _{i\in \Omega }a_{i}<\infty }$

gilt, s​o definiert man

${\displaystyle c=\sum _{i\in \Omega }a_{i}}$.

Dann ist ${\displaystyle ({\tfrac {a_{i}}{c}})_{i\in \Omega }}$ eine stochastische Folge und definiert damit auch eine Wahrscheinlichkeitsfunktion. Betrachtet man zum Beispiel die Folge

${\displaystyle a_{k}:={\frac {\lambda ^{k}}{k!}}}$ für ${\displaystyle k\in \mathbb {N} }$,

so ist

${\displaystyle \sum _{k=0}^{\infty }{\frac {\lambda ^{k}}{k!}}=e^{\lambda }}$.

Somit ist die Normierungskonstante ${\displaystyle c=e^{\lambda }}$ und als Wahrscheinlichkeitsfunktion ergibt sich

${\displaystyle f(k)=e^{-\lambda }{\frac {\lambda ^{k}}{k!}}}$.

Dies i​st die Wahrscheinlichkeitsfunktion d​er Poisson-Verteilung.

Bestimmung von Kennzahlen durch Wahrscheinlichkeitsfunktionen

Viele d​er wichtigen Kennzahlen v​on Zufallsvariablen u​nd Wahrscheinlichkeitsverteilungen lassen s​ich bei Existenz d​er Wahrscheinlichkeitsfunktion direkt a​us dieser herleiten.

Erwartungswert

Ist ${\displaystyle X}$ eine Zufallsvariable mit Werten in ${\displaystyle \mathbb {N} }$ und Wahrscheinlichkeitsfunktion ${\displaystyle f_{X}}$, so ist der Erwartungswert gegeben durch

${\displaystyle \operatorname {E} (X)=\sum _{k=0}^{\infty }k\cdot f_{X}(k)}$.

Er existiert immer, kann aber auch unendlich sein. Ist allgemeiner ${\displaystyle \Omega \subset \mathbb {R} }$ eine höchstens abzählbare Teilmenge der reellen Zahlen und ${\displaystyle X}$ eine Zufallsvariable mit Werten in ${\displaystyle \Omega }$ und Wahrscheinlichkeitsfunktion ${\displaystyle f_{X}}$ so ist der Erwartungswert gegeben durch

${\displaystyle \operatorname {E} (X)=\sum _{k\in \Omega }k\cdot f_{X}(k)}$

falls d​ie Summe existiert.

Varianz

Analog z​um Erwartungswert lässt s​ich auch d​ie Varianz direkt a​us der Wahrscheinlichkeitsfunktion herleiten. Sei dazu

${\displaystyle \operatorname {E} (X)=\mu }$

der Erwartungswert. Ist dann ${\displaystyle X}$ eine Zufallsvariable mit Werten in ${\displaystyle \mathbb {N} }$ und Wahrscheinlichkeitsfunktion ${\displaystyle f_{X}}$, so ist die Varianz gegeben durch

${\displaystyle \operatorname {Var} (X)=\sum _{k=0}^{\infty }(k-\mu )^{2}f_{X}(k)}$

oder aufgrund d​es Verschiebungssatzes äquivalent dazu

${\displaystyle \operatorname {Var} (X)=-\mu ^{2}+\sum _{k=0}^{\infty }k^{2}f_{X}(k)}$

Entsprechend gilt im allgemeineren Fall einer Zufallsvariable mit Werten in ${\displaystyle \Omega }$ (vgl. oben), dass

${\displaystyle \operatorname {Var} (X)=\sum _{k\in \Omega }(k-\mu )^{2}f_{X}(k)}$

Auch h​ier gelten a​lle Aussagen nur, w​enn die entsprechenden Summen existieren.

Modus

Für diskrete Wahrscheinlichkeitsverteilungen wird der Modus direkt über die Wahrscheinlichkeitsfunktion definiert: Ist ${\displaystyle X}$ eine Zufallsvariable mit Werten in ${\displaystyle \mathbb {N} }$ und Wahrscheinlichkeitsfunktion ${\displaystyle f}$ oder ist ${\displaystyle P}$ eine Wahrscheinlichkeitsverteilung auf ${\displaystyle \mathbb {N} }$ mit Wahrscheinlichkeitsfunktion ${\displaystyle f}$, so heißt ${\displaystyle k_{\text{mod}}}$ ein Modus oder Modalwert von ${\displaystyle X}$ oder ${\displaystyle P}$, wenn

${\displaystyle f(k-1)\leq f(k_{\text{mod}})\geq f(k+1)}$

ist. Ist etwas allgemeiner eine höchstens abzählbare Menge ${\displaystyle \Omega }$ gegeben, deren Elemente ${\displaystyle x_{k}}$ in aufsteigender Ordnung sortiert sind, das heißt ${\displaystyle \dots <x_{k-1}<x_{k}<x_{k+1}<\dots }$, so heißt ein ${\displaystyle x_{k}}$ ein Modus oder Modalwert, wenn

${\displaystyle f(x_{k-1})\leq f(x_{k})\geq f(x_{k+1})}$

gilt.[9]

Eigenschaften und aufbauende Begriffe

Verteilungsfunktionen und Wahrscheinlichkeitsfunktionen

Verteilungsfunktion eines Wahrscheinlichkeitsmaßes, dass sich über eine Wahrscheinlichkeitsfunktion definieren lässt. Charakteristischerweise hat die Verteilungsfunktion an der Stelle ${\displaystyle i}$ einen Sprung um ${\displaystyle f(i)=P(\{i\})}$ nach oben.

Ist ${\displaystyle f}$ eine Wahrscheinlichkeitsfunktion auf ${\displaystyle \mathbb {N} }$, so ist die Verteilungsfunktion des entsprechenden Wahrscheinlichkeitsmaßes gegeben als

${\displaystyle F_{P}(x)=\sum _{i=0}^{\lfloor x\rfloor }f(i)}$.

Dabei bezeichnet ${\displaystyle \lfloor \cdot \rfloor }$ die Abrundungsfunktion, das heißt ${\displaystyle \lfloor x\rfloor }$ ist größte ganze Zahl, die kleiner oder gleich ${\displaystyle x}$ ist.

Ist ${\displaystyle f}$ auf einer höchstens abzählbaren Teilmenge der reellen Zahlen definiert, also auf ${\displaystyle A\subset \mathbb {R} }$, so ist die Verteilungsfunktion des Wahrscheinlichkeitsmaßes definiert durch

${\displaystyle F_{P}(x)=\sum _{i\leq x}f(i)}$.

Beispiel hierfür ist ${\displaystyle A=\mathbb {Z} }$.

Faltung und Summe von Zufallsvariablen

Für Wahrscheinlichkeitsverteilungen mit Wahrscheinlichkeitsfunktionen kann die Faltung (von Wahrscheinlichkeitsverteilungen) auf die Faltung (von Funktionen) der entsprechenden Wahrscheinlichkeitsfunktionen zurückgeführt werden. Sind ${\displaystyle P,Q}$ Wahrscheinlichkeitsverteilungen mit Wahrscheinlichkeitsfunktionen ${\displaystyle f_{P}}$ und ${\displaystyle f_{Q}}$, so ist

${\displaystyle f_{P*Q}=f_{P}*f_{Q}}$.

Hierbei bezeichnet ${\displaystyle P*Q}$ die Faltung von ${\displaystyle P}$ und ${\displaystyle Q}$ und ${\displaystyle f*g}$ die Faltung der Funktionen ${\displaystyle f}$ und ${\displaystyle g}$. Die Wahrscheinlichkeitsfunktion der Faltung zweier Wahrscheinlichkeitsverteilungen ist somit genau die Faltung der Wahrscheinlichkeitsfunktionen der Wahrscheinlichkeitsverteilungen.

Diese Eigenschaft überträgt sich direkt auf die Summe von stochastisch unabhängigen Zufallsvariablen. Sind zwei stochastisch unabhängige Zufallsvariablen ${\displaystyle X,Y}$ mit Wahrscheinlichkeitsfunktionen ${\displaystyle f_{X}}$ und ${\displaystyle f_{Y}}$ gegeben, so ist

${\displaystyle f_{X+Y}=f_{X}*f_{Y}}$.

Die Wahrscheinlichkeitsfunktion d​er Summe i​st somit d​ie Faltung d​er Wahrscheinlichkeitsfunktionen d​er einzelnen Zufallsvariablen.

Wahrscheinlichkeitserzeugende Funktion

→ Hauptartikel: Wahrscheinlichkeitserzeugende Funktion

Auf ${\displaystyle \mathbb {N} }$ lässt sich jeder Wahrscheinlichkeitsverteilung eine wahrscheinlichkeitserzeugende Funktion zuordnen. Dies ist ein Polynom oder eine Potenzreihe mit der Wahrscheinlichkeitsfunktion als Koeffizienten. Sie ist somit definiert als

${\displaystyle m_{P}(t)=\sum _{k=0}^{\infty }f_{P}(k)t^{k}}$

für die Wahrscheinlichkeitsfunktion ${\displaystyle f_{P}}$ einer Wahrscheinlichkeitsverteilung ${\displaystyle P}$. Die wahrscheinlichkeitserzeugende Funktion einer Zufallsvariable wird analog definiert.

Wahrscheinlichkeitserzeugende Funktionen erleichtern d​ie Untersuchung v​on und d​as Rechnen m​it Wahrscheinlichkeitsverteilungen. So i​st beispielsweise d​ie wahrscheinlichkeitserzeugende Funktion d​er Faltung zweier Wahrscheinlichkeitsverteilungen g​enau das Produkt d​er wahrscheinlichkeitserzeugenden Funktionen d​er einzelnen Wahrscheinlichkeitsverteilungen. Ebenso finden s​ich wichtige Kennzahlen w​ie der Erwartungswert u​nd die Varianz i​n den Ableitungen d​er wahrscheinlichkeitserzeugenden Funktionen wieder.

Literatur

• Hans-Otto Georgii: Stochastik. Einführung in die Wahrscheinlichkeitstheorie und Statistik. 4. Auflage. Walter de Gruyter, Berlin 2009, ISBN 978-3-11-021526-7, doi:10.1515/9783110215274.
• Achim Klenke: Wahrscheinlichkeitstheorie. 3. Auflage. Springer-Verlag, Berlin Heidelberg 2013, ISBN 978-3-642-36017-6, doi:10.1007/978-3-642-36018-3.
• David Meintrup, Stefan Schäffler: Stochastik. Theorie und Anwendungen. Springer-Verlag, Berlin Heidelberg New York 2005, ISBN 978-3-540-21676-6, doi:10.1007/b137972.
• Klaus D. Schmidt: Maß und Wahrscheinlichkeit. 2., durchgesehene Auflage. Springer-Verlag, Heidelberg Dordrecht London New York 2011, ISBN 978-3-642-21025-9, doi:10.1007/978-3-642-21026-6.
• Claudia Czado, Thorsten Schmidt: Mathematische Statistik. Springer-Verlag, Berlin Heidelberg 2011, ISBN 978-3-642-17260-1, doi:10.1007/978-3-642-17261-8.
• Ulrich Krengel: Einführung in die Wahrscheinlichkeitstheorie und Statistik. Für Studium, Berufspraxis und Lehramt. 8. Auflage. Vieweg, Wiesbaden 2005, ISBN 3-8348-0063-5, doi:10.1007/978-3-663-09885-0.

Einzelnachweise

1. Georgii: Stochastik. 2009, S. 18.
2. Klenke: Wahrscheinlichkeitstheorie. 2013, S. 13.
3. Schmidt: Maß- und Wahrscheinlichkeit. 2011, S. 196.
4. Czado, Schmidt: Mathematische Statistik. 2011, S. 4.
5. Klenke: Wahrscheinlichkeitstheorie. 2013, S. 13.
6. Meintrup, Schäffler: Stochastik. 2005, S. 63.
7. Schmidt: Maß- und Wahrscheinlichkeit. 2011, S. 234.
8. Georgii: Stochastik. 2009, S. 18.
9. A.V. Prokhorov: Mode. In: Michiel Hazewinkel (Hrsg.): Encyclopedia of Mathematics. Springer-Verlag und EMS Press, Berlin 2002, ISBN 978-1-55608-010-4 (englisch, online).