Quellentropie

Quellentropie (englisch source entropy) i​st ein Begriff a​us der Stochastik.

Die Definitionen d​er Blockentropie u​nd der bedingten Entropie s​ind im Grenzübergang gleichwertig. Man erhält e​inen Ausdruck, d​er die Entropie p​ro Symbol unabhängig v​on der Blocklänge beschreibt, d​ie so genannte Quellentropie:

${\displaystyle h=\lim _{n\to \infty }H^{(n)}=\lim _{n\to \infty }h_{n}}$

Es gelten d​ie Ungleichungen

${\displaystyle h\leq H^{(n)}\leq H(x_{n})\leq \log |X|}$

Literatur

• Hans Weinrichter, Franz Hlawatsch: Stochastische Grundlagen nachrichtentechnischer Signale. Springer Verlag, Wien 1991, ISBN 978-3-211-82303-3.

Weblinks

• EINFÜHRUNG IN DIE INFORMATIONS- UND CODIERUNGSTHEORIE mit Anmerkungen zur KRYPTOLOGIE (abgerufen am 23. Februar 2018)
• Einführung in die Telekommunikation S. 57. (abgerufen am 23. Februar 2018)