Gleitkommazahlen in digitaler Audioanwendung

Gleitkommazahlen i​n digitaler Audioanwendung finden s​ich in erster Linie a​ls 32-bit- o​der 64-bit-Gleitkommazahlen i​m Mastering, sowohl n​ativ auf d​er Rechner-CPU a​ls auch ausgelagert a​uf dem DSP e​iner internen o​der externen Soundkarte. Die meisten modernen HD-Recordingsysteme w​ie Nuendo, Logic, Samplitude, SADiE o​der Pyramix arbeiten m​it Gleitkommaarithmetik. Audioeditoren w​ie Adobe Audition o​der Pro Tools ermöglichen z​udem den Export v​on Audiodateien i​n 32 b​it Gleitkommacodierung z​um weiteren Mastering. Adobe Audition (in d​er aktuellen Version b​ei 64 b​it Softwarearchitektur) arbeitet intern m​it 32 b​it Gleitkommaauflösung, s​o dass d​urch den Export u​nd späteren Import v​on 32 b​it Gleitkomma-kodierten Audiodateien k​ein weiteres Quantisierungsrauschen entsteht, welches s​ich bei j​eder Umrechnung d​er Amplitudenauflösung erhöhen würde. Die Bit-Tiefe d​er Softwarearchitektur i​st also unabhängig v​on der Bit-Tiefe d​er angewandten Gleitkommaarithmetik. Pro Tools hingegen (arbeitete b​is Version 10 m​it 48-bit-Festkommaarithmetik) s​owie REAPER arbeiten i​n der aktuellen Version m​it 64 b​it Gleitkommazahlen.

Diese Bittiefe i​st dabei i​n erster Linie für d​ie Genauigkeit d​er Variablen innerhalb d​er Programmabarbeitung relevant, d​ie dann z​ur weiteren Berechnung a​n die ALU bzw. d​ie interne FPU d​er Rechner-CPU übergeben, d​ort auf d​eren Registergröße konvertiert, u​nd beispielsweise v​on einem AMD Bulldozer m​it 256 b​it Genauigkeit berechnet werden. Schon d​ie x87-Intel Coprozessoren a​us den 80er Jahren rechneten Gleitkommazahlen IEEE-konform m​it bis z​u 80 b​it extended. Erst a​m Ende d​er Berechnungen erfolgt d​ie Rundung a​uf die Bittiefe d​er Software. Effekt-Plugins werden z​ur Entlastung d​er CPU oftmals, j​e nach Software- u​nd Hardware-Konfiguration, v​on dem DSP e​iner internen Soundkarte o​der sogar v​on externen DSP Servern berechnet.[1]

Während in Festkommaarithmetik der maximale Pegel 0 dBFS beträgt und eine weitere Erhöhung des Pegels zu einem Beschnitt der Amplitude und damit zu einem Clipping führt, ermöglicht die Gleitkommadarstellung einen Headroom. Der Dynamikbereich eines in Gleitkommazahlen dargestellten Audiosignals teilt sich also in zwei Bereiche ${\displaystyle \leq }$ 0 dBFS und ${\displaystyle >}$ 0 dBFS. Die maximale Auflösung hingegen ist durch die Mantisse der Gleitzahl beschränkt. Eine 32 bit Gleitkommaarithmetik nach IEEE 754 hat daher maximal 23 bit Auflösungsvermögen pro Halbwelle, mit Vorzeichenbit also 24 bit für den gesamten positiven und negativen Aussteuerungsbereich. Im Gegensatz hierzu löst eine Festkommaarithmetik mit 32 bit eine Halbwelle unter Abzug des Vorzeichenbits mit 31 bit auf, den gesamten positiven und negativen Aussteuerungsbereich also mit 32 bit. Erst eine 64 bit Gleitkommaarithmetik (double precision) ist mit ihrer 52 bit Mantisse einer 32 bit Festkommaarithmetik vollständig überlegen (also mit 53 bit Auflösungsvermögen einschließlich Vorzeichenbit für den gesamten positiven und negativen Aussteuerungsbereich).

Eine dezimale Festkommazahl kann immer durch mehrere Gleitzahlen dargestellt werden, die dezimale Zahl 0,375 beispielsweise durch die Gleitzahl ${\displaystyle 2^{0}}$· 0,375 (mit 0 als Exponent und 0,375 als Mantisse). Würde man die Mantisse m beispielsweise auf einen Bereich von 0,5 ${\displaystyle \leq m<}$ 1 normalisieren, so ergäbe sich als Darstellung ${\displaystyle 2^{-1}}$· 0,75. Die für den Audiobereich verbindliche Norm IEEE 754 sieht nun eine Normalisierung der Mantisse auf einen Bereich von ${\displaystyle 1\leq m<2}$ vor, so dass sich der Wert 0,375 unverwechselbar mit der Gleitzahl ${\displaystyle 2^{-2}}$ · 1,5 darstellt.[2] Da die so normalisierte Mantisse immer eine 1 vor dem Komma hat, wird diese 1 in der binären Darstellung der Gleitzahl nicht mehr angeführt, sondern als hidden bit implizit definiert. Werte unterhalb des kleinsten mit normalisierter Mantisse darstellbaren Wertes werden nach IEEE 754 denormalisiert mit impliziter 0 vor der Mantisse dargestellt. Diese denormalisierten Gleitzahlen führen allerdings auf diversen FPUs bis zu einer 30-fachen Verlangsamung der Rechengeschwindigkeit[3] und finden schon deswegen im Audiobereich keine Anwendung, da dieser extreme Dynamikbereich unter −144 dBFS nicht nutzbar ist und vom kleinsten, im hörbaren Frequenzspektrum ${\displaystyle <}$ 20 kHz nutzbaren Audiosignal, dessen Größe vom Rauschpegel bestimmt wird, bei weitem überlagert wird.[4]

32 bit Festkommaarithmetik

Da eine Erhöhung der Amplitude um den Faktor 10 eine Erhöhung der Dynamik um 20 dB ergibt, errechnet sich die Dynamik x eines 32 bit Festkommasystems mit der Formel ${\displaystyle 10^{(x:20)}}$ = ${\displaystyle 2^{32}}$ dB; ⇒ x : 20 = lg ${\displaystyle 2^{32}}$ dB; ⇒ x = 20 · lg ${\displaystyle 2^{32}}$ dB = 192,65919722494796493679289262368 dB ≈ 193 dB. In Software und DSPs mit Festkomma-Arithmetik kommt dabei die Zweierkomplementdarstellung mit einem Vorzeichen-Bit als höchstwertigem Bit zur Anwendung.[5][6][7] Der Wertebereich wird also aufgeteilt in einen positiven und einen negativen Bereich, so dass nur noch die Hälfte des gesamten Wertebereiches für eine Amplitude oder Halbwelle bei einer Auflösung von je 31 bit zur Verfügung steht (${\displaystyle 2^{32}}$: 2 = ${\displaystyle 2^{31}}$). Es ist dabei im Bereich der Audiotechnik üblich, den Dynamikbereich eines Audiosystems auf den gesamten positiven und negativen Aussteuerungsbereich zu beziehen, während sich die wissenschaftliche Begriffsdefinition der Dynamik lediglich auf die vorzeichenfreie Amplitude (bzw. Halbwelle) bezieht. Pro Amplitude bzw. Halbwelle steht also nur die Hälfte der Gesamtdynamik zur Verfügung (Faktor 2 oder 6 dB Pegeldifferenz).

32 bit Gleitkommaarithmetik

Die positiven und negativen Audiosignale bis 0 dBFS werden bei Gleitkommaarithmetik per definitionem (entsprechend dem Convention Paper 7438 der Audio Engineering Society[8]) in einem Bereich von −1 bis +1 dargestellt, wobei die Werte −1 und +1 den maximalen Pegel 0 dBFS darstellen. Darüber hinausgehende Werte stellen den Headroom dar. Da sich mit jeder Erhöhung des Exponenten der Gleitkommazahl um den Wert 1 der insgesamt dargestellte Dynamikbereich verdoppelt, errechnet sich die maximale, theoretische Dynamik einer 32 bit Gleitkommaarithmetik (unter Abzug des Exponenten 0 sowie des Exponenten ${\displaystyle 2^{128}}$ für den Wert unendlich) aus den mit ${\displaystyle 2^{8}-2}$ zur Verfügung stehenden 254 Exponenten mit 254 · 20 · ${\displaystyle \lg }$ 2 dB ≈ 1529 dB.[9][10] Mit den Exponenten bis −126 wird dabei der negative Bereich dargestellt, mit den Exponenten ${\displaystyle \geq }$ 0 der positive Wertebereich. Eine Veränderung der Dynamik in dB um den Faktor 2 (entsprechend ±1 bit Auflösungsvermögen) ergibt ein Verstärkungsmaß L von 6 dB, errechnet aus dem Amplitudenverhältnis v nach der Formel L = 20 · ${\displaystyle \lg }$ v dB = 20 · ${\displaystyle \lg }$ (2:1) dB = 20 · ${\displaystyle \lg }$ 2 dB = 6,0205999132796239042747778944899 dB ≈ 6 dB.[11][12] Das 32-bit Gleitkommasystem hätte theoretisch also mit (1529 dB – 193 dB) : 6 dB = 222 (gerechnet mit den ungerundeten Werten) exakt eine 222-fach höhere Dynamik, als ein 32 bit Festkommasystem. Die somit erzielte, höhere Dynamik ist auf Grund der exponentiell anwachsenden Streuung der Amplitudenauflösung und den damit verbundenen Rundungsfehlern allerdings bei weitem nicht nutzbar. Bereits Werte ${\displaystyle >}$ 2 bzw. ${\displaystyle >}$ 144 dBFS bringen eine Halbierung des Auflösungsvermögens mit sich, während hingegen Werte ${\displaystyle \leq }$ 1 bzw. ${\displaystyle \leq }$ 0 dBFS durchwegs mit der sich aus der Mantisse ergebenden 23 bit Amplitudenauflösung dargestellt werden.

Quantisierungsrauschabstand

Während der Rauschabstand einer Festkommaarithmetik direkt proportional zum Pegel des Audiosignals absinkt und das Quantisierungsrauschen mit Abnahme des Pegels prozentual immer mehr zunimmt, bestimmt sich der Rauschabstand ${\displaystyle {\text{SNR}}}$ der Gleitkommaarithmetik – unabhängig vom Exponenten über alle mit normalisierter Mantisse dargestellten Pegel hinweg – durch die Leistung des Quantisierungsrauschens ${\displaystyle q}$ der Mantisse. Bei der Auflösung eines Integerwertes einer WAV-Datei oder eines Audiosignals des AD-Wandlers durch die 23 bit Mantisse kann der Quantisierungs- oder Rundungsfehler ${\displaystyle q}$ dabei maximal ein Quantisierungsintervall betragen, also ${\displaystyle q_{max}=1:2^{23}}$ = ${\displaystyle 2^{-23}}$. Die Rauschleistung errechnet sich aus dem Quadrat des Effektivwertes ${\displaystyle \sigma }$ (Sigma) der Amplitude (bzw. einer Halbwelle):[13][14]

${\displaystyle \sigma ^{2}={\frac {q^{2}}{12}}}$ sowie ${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {1}{\sigma ^{2}}}\right)\mathrm {dB} }$; ⇒ ${\displaystyle {\text{SNR}}=10\;\lg \left({\dfrac {1}{\dfrac {q^{2}}{12}}}\right)\mathrm {dB} }$; ⇒ ${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {12}{q^{2}}}\right)\mathrm {dB} }$; ⇒ ${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {12}{(2^{-23})^{2}}}\right)\mathrm {dB} }$ ≈ 149 ${\displaystyle \mathrm {dB} }$;

Legt m​an bei s​ehr kleinen Werten d​er Mantisse d​ie Auswirkungen d​es ungünstigeren Scheitelwertes d​es Quantisierungsrauschens zugrunde, s​o errechnet s​ich der Rauschabstand d​er Amplitude (bzw. e​iner Halbwelle) mit

${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {1}{q^{2}}}\right)\mathrm {dB} }$; ⇒ ${\displaystyle {\text{SNR}}=10\;\lg \left({\frac {1}{(2^{-23})^{2}}}\right)\mathrm {dB} }$ ≈ 138 ${\displaystyle \mathrm {dB} }$;

Der Graph des Quantisierungsrauschpegels lässt sich somit als ein Sägezahndiagramm darstellen, da der Quantisierungsrauschabstand innerhalb des Darstellungsbereiches eines Exponenten direkt proportional mit dem Eingangssignal (bzw. dem darzustellenden Integerwert) von seinem Idealwert 149 dB im ungünstigsten Fall auf 138 dB abfällt.[15] Da ein Abtastwert entweder eine positive oder eine negative Halbwelle beschreibt und der Quantisierungsfehler in einer Gleitzahl also nur ein einziges Mal auftreten kann, verdoppelt sich der Quantisierungsrauschabstand ${\displaystyle q_{ges}}$ der Gesamtdynamik (über den negativen und positiven Aussteuerungsbereich des Audiosignals) wieder um den Faktor 2 (entsprechend + 6 dB), so dass der insgesamt nutzbare Dynamikbereich ${\displaystyle \leq }$ 0 dBFS zwischen 155 dB und (im ungünstigsten Fall) 144 dB schwankt:

138 ${\displaystyle \mathrm {dB} }$ + 6 ${\displaystyle \mathrm {dB} \leq q_{ges}\leq }$ 149 ${\displaystyle \mathrm {dB} }$ + 6 ${\displaystyle \mathrm {dB} }$; ⇒ 144 ${\displaystyle \mathrm {dB} \leq q_{ges}\leq }$ 155 ${\displaystyle \mathrm {dB} }$

Standard-Dynamikbereich ≤ 0 dBFS

Wird eine Datei mit Festkommadarstellung in ein System mit Gleitkommaarithmetik eingebunden, so werden die positiven und negativen Audiosignale auf den Wertebereich von −1 bis +1 algebraisch normalisiert. Die binäre Festkommazahl mit der Wortlänge w und den einzelnen Bits b (mit dem Wert 0 oder 1) wird dabei gewertet mit der Summe aus ${\displaystyle -b_{0}}$ (Vorzeichenbit) + ${\displaystyle b_{1}}$ · 0,5 + ${\displaystyle b_{2}}$ · 0,25 + ${\displaystyle b_{3}}$ · 0,125 + ... + ${\displaystyle b_{w-1}}$ · ${\displaystyle 2^{-(w-1)}}$.[16] Dieses algebraische Normalisieren bedeutet, dass der Wert der Festkommazahl linear im Gleitkomma-Wertebereich 0 bis ${\displaystyle \leq }$1 eingepasst wird (was nicht mit der lautstärkemäßigen Normalisierung zu verwechseln ist, welche in Gleitkommaarithmetik ebenfalls auf den Maximalwert −1 bis +1 erfolgen würde, entsprechend 0 dBFS). Die einzelnen Stufen der Integerwerte der Festkommazahl entsprechen dann den Stufen der Gleitkommazahl der Größe 1 : ${\displaystyle 2^{23}}$ ≈ 1 · ${\displaystyle 10^{-7}}$, welche sich gleichmäßig über die durch die Exponenten logarithmisch abgestuften Teilwertebereiche erstrecken:

Streuung ${\displaystyle \Delta }$ der Amplitudenauflösung bei 32 bit Gleitkommaarithmetik
1,175 · ${\displaystyle 10^{-38}}$ ≈ ${\displaystyle 2^{-126}}$ · 1 (kleinste normalisierte Zahl)	...	0,25 - 0,00000001 = ${\displaystyle 2^{-3}}$ · 1,9999999	0,5 - 0,00000003 ≈ ${\displaystyle 2^{-2}}$ · 1,9999999	1 - 0,00000006 = ${\displaystyle 2^{-1}}$ · 1,9999999	2 - 0,0000001 = ${\displaystyle 2^{0}}$ · 1,9999999
1,1754945 · ${\displaystyle 10^{-38}}$ = ${\displaystyle 2^{-126}}$ · 1,0000001	...	0,25 = ${\displaystyle 2^{-2}}$ · 1	0,5 = ${\displaystyle 2^{-1}}$ · 1	1 = ${\displaystyle 2^{0}}$ · 1 (0 dBFS)	2 = ${\displaystyle 2^{1}}$ · 1
1,1754946 · ${\displaystyle 10^{-38}}$ = ${\displaystyle 2^{-126}}$ · 1,0000002	...	0,25 + 0,00000003 = ${\displaystyle 2^{-2}}$ · 1,0000001	0,5 + 0,00000006 ≈ ${\displaystyle 2^{-1}}$ · 1,0000001	1 + 0,0000001 ≈ ${\displaystyle 2^{0}}$ · 1,0000001	2 + 0,0000002 ≈ ${\displaystyle 2^{1}}$ · 1,0000001
${\displaystyle \geq }$ - 144 dBFS	...	${\displaystyle \geq }$ - 12 dBFS	${\displaystyle \geq }$ - 6 dBFS	${\displaystyle \leq }$ 0 dBFS	${\displaystyle \leq }$ + 6 dBFS
${\displaystyle \Delta }$ min. = 1,5 · ${\displaystyle 10^{-45}}$	...	${\displaystyle \Delta \geq 2^{-2}}$ = 3 · ${\displaystyle 10^{-8}}$	${\displaystyle \Delta \geq 2^{-1}}$ = 6 · ${\displaystyle 10^{-8}}$	${\displaystyle \Delta \leq 2^{0}}$ = 1 · ${\displaystyle 10^{-7}}$	${\displaystyle \Delta \leq 2^{1}}$ = 1 · ${\displaystyle 10^{-7}}$
4 - 0,0000002 ≈ ${\displaystyle 2^{1}}$ · 1,4999999	...	${\displaystyle 2^{24}}$ - 1 ≈ ${\displaystyle 2^{23}}$ · 1,9999999	${\displaystyle 2^{25}}$ - 2 ≈ ${\displaystyle 2^{24}}$ · 1,9999999	${\displaystyle 2^{127}}$ - ${\displaystyle 10^{31}}$ ≈ ${\displaystyle 2^{126}}$ · 1,9999999	3,4028235 · ${\displaystyle 10^{38}}$ - 2 · ${\displaystyle 10^{31}}$ ≈ ${\displaystyle 2^{127}}$ · 1,9999998
4 = ${\displaystyle 2^{2}}$ · 1	...	${\displaystyle 2^{24}}$ = ${\displaystyle 2^{24}}$ · 1	${\displaystyle 2^{25}}$ = ${\displaystyle 2^{25}}$ · 1	${\displaystyle 2^{127}}$ = ${\displaystyle 2^{127}}$ · 1	3,4028235 · ${\displaystyle 10^{38}}$ ≈ ${\displaystyle 2^{127}}$ · 1,9999999
4 + 0,0000004 ≈ ${\displaystyle 2^{1}}$ · 1,5000001	...	${\displaystyle 2^{24}}$ + 2 ≈ ${\displaystyle 2^{24}}$ · 1,0000001	${\displaystyle 2^{25}}$ + 4 ≈ ${\displaystyle 2^{25}}$ · 1,0000001	${\displaystyle 2^{127}}$ + ${\displaystyle 2\cdot 10^{31}}$ ≈ ${\displaystyle 2^{127}}$ · 1,0000001
${\displaystyle \Delta \leq 2^{2}}$ = 2 · ${\displaystyle 10^{-7}}$	...	${\displaystyle \Delta \leq 2^{24}}$ = 1	${\displaystyle \Delta \leq 2^{25}}$ = 2	${\displaystyle \Delta \leq 2^{127}}$ = ${\displaystyle 10^{31}}$	${\displaystyle \Delta }$ ${\displaystyle <2^{128}}$ = ${\displaystyle 2\cdot 10^{31}}$

Headroom > 0 dBFS

Der einzelne, mit dem jeweiligen Exponenten grob dargestellte Teilwertebereich wird zwar für sich allein immer mit der 23 bit Mantisse feinaufgelöst (also mit 23 bit Auflösung), jedoch streut sich diese Auflösung mit jeder Erhöhung des Exponenten um den Wert 1 auf einen immer größer werdenden Teilwertebereich, womit sich relativ bezogen auf die Auflösung des kleinsten darstellbaren Wertebereiches die Auflösung immer weiter verringert. Ab einem gewissen Bereich sind die Sprünge in der Darstellbarkeit des Teilwertebereichs gleich dem gesamten Standard-Dynamikbereich bis 0 dBFS. Hat beispielsweise der für den Headroom genutzte Wertebereich ${\displaystyle 1}$ bis ${\displaystyle 2^{1}}$ (dargestellt durch die Gleitzahlen ${\displaystyle 2^{0}}$· 1,0 bis ${\displaystyle 2^{1}}$· 1,0) noch durchgehend eine Amplitudenauflösung von ${\displaystyle 1}$ : ${\displaystyle 2^{23}}$ (also die volle Auflösung der 23 bit Mantisse), liegt bei einem theoretischen Amplitudenwert ${\displaystyle >2^{23}}$ die Streuung ${\displaystyle \Delta }$ bereits bei 1, also entsprechend dem gesamten Dynamikbereich ${\displaystyle \leq }$ 0 dBFS, entsprechend einer Auflösung von 1:1. Bei der Berechnung der Gesamtdynamik bzw. der Gesamtauflösung ist zu bedenken, dass sich die Amplitudenauflösung lediglich auf den vorzeichenfreien Wert der Amplitude (eine Halbwelle) bezieht.[17][18][19]

Die maximal, ohne Auflösungsverluste oder nennenswerte Rundungsfehler nutzbare Dynamik des Headrooms für sich allein genommen (also nicht in Relation gesetzt mit dem Standard-Dynamikbereich) über den gesamten negativen und positiven Aussteuerungsbereich errechnet sich aus der Bitzahl der Amplitudenauflösung zuzüglich des Vorzeichenbits sowie dem Amplitudenverhältnis v des darzustellenden Wertes zur kleinstmöglichen Quantisierungseinheit mit 20 · lg ${\displaystyle 1:2^{24}}$ dB = 20 · lg ${\displaystyle 2^{-24}}$ dB = 144,49439791871097370259466946776 dB ≈ 144 dB. Da der Standard-Dynamikbereich auf Grund seines kleinsten Rauschspannungsabstandes ebenfalls 144 dB umfasst, ergibt sich eine Verdopplung des Dynamikbereiches, für den logarithmischen Maßstab in dB also (wieder berechnet aus dem Amplitudenverhältnis v) eine Erhöhung der Dynamik um 6 dB auf insgesamt 150 dB.

Es bleibt dabei anzumerken, dass sich die 1 aus diesem Quotienten eben auf den (ganzen) darzustellenden Wert, nicht aber auf die 0 dBFS entsprechende Gleitkommazahl bezieht, die hier nur zufällig den gleichen Wert 1 hat. Bei der Berechnung des ohne Auflösungsverluste nutzbaren Gesamtdynamikbereichs kann also für den Dividenden nicht einfach die + 6 dBFS entsprechende Gleitkommazahl 2 eingesetzt werden, anderenfalls der lineare Maßstab der Quantisierungseinheiten in unzulässiger Weise mit dem sich nach oben hin immer weiter spreizenden Maßstab der Gleitkommazahlen vermischt würde. Vielmehr ist der Divisor durch die Verdopplung des Dynamikumfangs ein weiteres Mal mit sich selbst zu multiplizieren, so dass sich der ohne Auflösungsverluste nutzbare Gesamtdynamikbereich auch berechnen lässt mit 20 · lg ${\displaystyle 1:2^{25}}$ dB = 20 · lg ${\displaystyle 2^{-25}}$ dB = 150,51499783199059760686944736225 dB ≈ 150 dB.

Der ohne Auflösungsverluste nutzbare Headroom einer 32 bit Gleitkommaarithmetik beträgt also 6 dB und ermöglicht die Summierung von ${\displaystyle 10^{6:10}}$, also lediglich vier inkohärenten Monokanälen (unterschiedliche Audiosignale in Mono) mit jeweils 0 dBFS Vollaussteuerung.[20]

Amplitudenauflösung bei 32 bit Gleitkommaarithmetik (x = Amplitudenauflösung; y = Wertebereich)
x in bit	23	23	23	23	23	23	22	21	20
y als Zehnerpotenz	${\displaystyle >}$ 1,17549435 · ${\displaystyle 10^{-38}}$	...	${\displaystyle >}$ 0,125	${\displaystyle >}$ 0,25	${\displaystyle >}$ 0,5	${\displaystyle >}$ 1	${\displaystyle >}$ 2	${\displaystyle >}$ 4	${\displaystyle >}$ 8
y als Potenz	${\displaystyle >2^{-126}}$	...	${\displaystyle >2^{-3}}$	${\displaystyle >2^{-2}}$	${\displaystyle >2^{-1}}$	${\displaystyle >2^{0}}$	${\displaystyle >2^{1}}$	${\displaystyle >2^{2}}$	${\displaystyle >2^{3}}$
Gesamtdynamik	${\displaystyle >}$ - 144 dBFS	...	${\displaystyle >}$ - 18 dBFS	${\displaystyle >}$ - 12 dBFS	${\displaystyle >}$ - 6 dBFS	${\displaystyle >}$ 0 dBFS	${\displaystyle >}$ + 6 dBFS
Amplitudenauflösung	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{23}}$	${\displaystyle 1:2^{22}}$	${\displaystyle 1:2^{21}}$	${\displaystyle 1:2^{20}}$
Streuung ${\displaystyle \Delta }$	1,5 · ${\displaystyle 10^{-45}}$	...	0,1 · ${\displaystyle 10^{-7}}$	0,3 · ${\displaystyle 10^{-7}}$	0,6 · ${\displaystyle 10^{-7}}$	1 · ${\displaystyle 10^{-7}}$	2 · ${\displaystyle 10^{-7}}$	5 · ${\displaystyle 10^{-7}}$	10 · ${\displaystyle 10^{-7}}$
x in bit	19	18	17	16	...	2	1	0	−1
y als Zehnerpotenz	${\displaystyle >}$ 16	${\displaystyle >}$ 32	${\displaystyle >}$ 64	${\displaystyle >}$ 128	...	${\displaystyle >}$ 2,1 · ${\displaystyle 10^{7}}$	${\displaystyle >}$ 4,19 · ${\displaystyle 10^{7}}$	${\displaystyle >}$ 8,39 · ${\displaystyle 10^{7}}$	${\displaystyle >}$ 1,67 · ${\displaystyle 10^{8}}$
y als Potenz	${\displaystyle >2^{4}}$	${\displaystyle >2^{5}}$	${\displaystyle >2^{6}}$	${\displaystyle >2^{7}}$	...	${\displaystyle >2^{21}}$	${\displaystyle >2^{22}}$	${\displaystyle >2^{23}}$	${\displaystyle >2^{24}}$
Amplitudenauflösung	${\displaystyle 1:2^{19}}$	${\displaystyle 1:2^{18}}$	${\displaystyle 1:2^{17}}$	${\displaystyle 1:2^{16}}$	...	${\displaystyle 1:2^{2}}$	${\displaystyle 1:2^{1}}$	${\displaystyle 1:2^{0}}$ (= 1 : 1)	${\displaystyle 1:2^{-1}}$ (= 1 : 0,5)
Streuung ${\displaystyle \Delta }$	19 · ${\displaystyle 10^{-7}}$	38 · ${\displaystyle 10^{-7}}$	76 · ${\displaystyle 10^{-7}}$	153 · ${\displaystyle 10^{-7}}$	...	0,25 (= 2'500'000 · ${\displaystyle 10^{-7}}$)	0,5 (= 5'000'000 · ${\displaystyle 10^{-7}}$)	1 (= 10'000'000 · ${\displaystyle 10^{-7}}$)	2

Streuung Δ:

${\displaystyle \Delta =\vert {\text{Teilwertebereich}}\vert :2^{23}}$

Amplitudenauflösung x:

${\displaystyle {\begin{aligned}2^{x}&=\left({\frac {2^{23}}{\Delta \cdot {10^{7}}}}\right)\rightarrow x=\log _{2}\left({\frac {2^{23}}{\Delta \cdot 10^{7}}}\right)\\&\rightarrow x=\log _{2}\left({\dfrac {2^{23}}{\dfrac {\vert {\text{Teilwertebereich}}\vert \cdot 10^{7}}{2^{23}}}}\right)\rightarrow x=\log _{2}\left({\frac {2^{46}}{\vert {\text{Teilwertebereich}}\vert \cdot 10^{7}}}\right)\end{aligned}}}$

Computerschnittstellen

Apple führte i​m März 2001 m​it Mac OS X e​ine grundlegend überarbeitete Version d​es Betriebssystems ein, d​as mit Core Audio e​in Audiosubsystem mitbringt, welches intern a​uf Gleitkommazahlen basiert. Lediglich b​ei der Schnittstelle i​n Richtung d​er angeschlossenen Hardwarekomponenten o​der beim Ausspielen i​n Dateien k​ann optional n​och in Ganzzahl-Logik (engl.: "integer") gewandelt werden. Seit d​er Version 10.3 k​ann für d​ie Durchführung dieser Operation a​uf die Erweiterungen d​er AudioUnits zurückgegriffen werden. Hierzu braucht n​ur ein entsprechendes Konverterobjekt instantiiert u​nd an d​er richtigen Stelle i​n die Prozesskette eingehängt z​u werden.

DirectSound, d​ie Microsoft-eigene Schnittstelle z​ur Soundverarbeitung hingegen, arbeitet n​ur mit Ganzzahlen.

Die v​on Steinberg Media Technologies (später Pinnacle Systems u​nd mittlerweile Yamaha) entwickelte, speziell a​uf niedrige Latenzen ausgelegte Schnittstelle namens ASIO i​st zur Anbindung v​on Geräten z​ur Tonein- u​nd -ausgabe gedacht u​nd unterstützt Sampleraten v​on 32 kHz b​is 192 kHz b​ei Wortbreiten v​on 16, 24 u​nd 32 b​it in Integernotation s​owie 32-bit- u​nd 64-bit-Gleitkommawerte.

Plugins, d​ie für d​ie RTAS-Schnittstelle v​on Pro Tools, für Steinbergs VST-Umgebung programmiert wurden o​der die für d​ie generische Verwendung u​nter Mac u​nd Logic a​ls Audio Units implementiert wurden, werden ebenfalls m​it Gleitkommawerten angesprochen.

Die Schnittstelle DXi, d​ie von Cakewalk (TwelveToneSystems) für d​eren Produkte Sonar u​nd HomeStudio entwickelt wurde, i​st die Ausnahme: Es m​uss ausschließlich i​n ganzzahliger Arithmetik gerechnet werden.

Die meisten aktuellen Programme, d​ie Audiodaten verarbeiten, verwenden mittlerweile b​ei der internen Datenverarbeitung Gleitkommazahlen, d​a die meisten Signalquellen schnell d​en Headroom d​es digitalen Mixers i​n Integerarithmetik sprengen würde (siehe #Summenbusse). Die Hersteller d​er folgenden Applikationen werben m​it der Verwendung v​on Gleitkommazahlen a​ls internes Datenformat:

• Ardour
• Logic
• Nuendo
• Samplitude
• WaveLab
• AVID
• Native Instruments

Pro Tools spielt i​n diesem Zusammenhang m​it den v​on Digidesign eingesetzten externen DSP-Racks d​er TDM-Systeme e​ine Sonderrolle, d​a die d​ort zum Einsatz kommenden DSPs v​on Motorola n​ur Ganzzahlarithmetik beherrschen.

Dateiformate

Auch in einigen Datenformaten zur Speicherung von Multimediainformationen werden Gleitkommazahlen verwendet, um Umrechnungsfehler, die ansonsten bei der Kodierung und Dekodierung entstehen könnten, zu vermeiden. Die folgende Tabelle gibt einen Überblick über häufig verwendete, nicht datenreduzierte Audioformate und zeigt, in welchen Zahlenformaten diese jeweils Audioinformationen ablegen können.

Format	8-bit Int	16-bit Int	24-bit Int	32-bit Int	32-bit FP	64-bit FP
Microsoft WAV format (little endian)	x	x	x	x	x	x
Apple/SGI AIFF format (big endian)	x	x	x	x	x	x
Sun/NeXT AU format (big endian)	x	x	x	x	x	x
RAW PCM data	x	x	x	x	x	x
Ensoniq PARIS file format	x	x	x	x
Amiga IFF / SVX8 / SV16 format	x	x
Sphere NIST format	x	x	x	x
VOC files		x
Berkeley/IRCAM/CARL		x	x	x	x
Sonic Foundry's 64 bit RIFF/WAV		x	x	x	x	x
Matlab (tm) / GNU Octave		x		x	x	x
Portable Voice Format	x	x		x
Audio Visual Research	x	x
MS WAVE mit WAVEFORMATEX		x	x	x	x	x

(FP = Floating-Point, Int = Integer)

Bei datenreduzierten Formaten gestaltet sich die Analyse etwas schwieriger, da diese auf Containerformaten basieren, die in der Regel intern alle Notationen zulassen. So ist es beispielsweise in Apples Quicktime-Codecs möglich, Gleitkommazahlen direkt abzuspeichern. Es gibt allerdings nach wie vor kein Medium für Endverbraucher, auf dem in standardisierter Form Samples in Gleitkommazahlen zum Einsatz kommen.

Literatur

• Udo Zölzer: Audio-Verarbeitungssysteme. (PDF; 117 kB) Springer Verlag, abgerufen am 10. Juni 2016 (Kapitel 4).
• Stefan Weinzierl: Kommunikationstechnik II. (PDF; 2 MB) TU Berlin, S. 33, abgerufen am 10. Juni 2016 (Kap. 2.8 Zahlendarstellung und Zahlenformat).

Einzelnachweise

1. SoundGrid Servers. Waves Inc., abgerufen am 22. Juni 2016 (englisch).
2. Marcel Beuler: Realisierung von Arithmetik-Baugruppen für das 32-Bit-Gleitkommaformat der Norm ANSI/IEEE 754 mittels VHDL. (PDF; 548 kB) FH Gießen-Friedberg, April 2008, S. 3 (S. 7 der PDF), abgerufen am 28. Juni 2016.
3. Jonas Ekeroot: Audio Software Development. (PDF; 630 kB) 9. August 2007, S. 26, abgerufen am 24. Juni 2016 (englisch).
4. Uwe Martens: High Resolution Audio - Audio Analysis. 1. Juli 2015, abgerufen am 23. Juni 2016 (s. Zeile 8: Noise floor 32 bit Gleitkomma).
5. Einführung in die digitale Signalverarbeitung. (PDF; 35,1 MB) ELV Elektronik AG, S. 34, abgerufen am 10. Juni 2016.
6. Windows Sysinternals - Processing the Audio Data. Microsoft, abgerufen am 11. Juni 2016 (englisch): „16-bit audio is represented by a signed integer with a range from -32768 to 32767“
7. Michael Talbot-Smith: Audio Engineer's Reference Book. S. 103, abgerufen am 16. Juni 2016 (englisch).
8. AES Convention Paper 7438 - Audio software development. (PDF; 303 kB) Audio Engineering Society, Mai 2008, S. 7, abgerufen am 16. Juni 2016 (englisch).
9. Udo Zölzer: Digital Audio Signal Processing. S. 55, abgerufen am 16. Juni 2016 (englisch): „dynamic range for floating-point representation“
10. Floating point unit demonstration on STM32 microcontrollers. (PDF; 787 kB) STMicroelectronics, Mai 2016, S. 6, abgerufen am 22. Juni 2016 (englisch).
11. Das Dezibel. Detlef Mietke, abgerufen am 12. Juni 2016.
12. Berechnen: Verstärkung (gain) und Dämpfung (loss) als Faktor in den Pegel in Dezibel (dB). Eberhard Sengpiel, abgerufen am 12. Juni 2016.
13. Men Muheim: Design and Implementation of a Commodity Audio System. (PDF; 7,5 MB) 2003, S. 53, abgerufen am 24. Juni 2016 (englisch, Doktorarbeit).
14. Udo Zölzer: Digital Audio Signal Processing. S. 56, abgerufen am 16. Juni 2016 (englisch): „the signal-to-noise ratio is independent of the level of the input“
15. Jonas Ekeroot: Audio Software Development. (PDF; 630 kB) 9. August 2007, S. 29, abgerufen am 24. Juni 2016 (englisch).
16. Udo Zölzer: Digital Audio Signal Processing. S. 49, abgerufen am 16. Juni 2016 (englisch, dezimale Wertung der Bits).
17. W. Kahan: Lecture Notes on the Status of IEEE Standard 754 for Binary Floating-Point Arithmetic. (PDF; 115 kB) 1. Oktober 1997, abgerufen am 12. Juni 2016 (englisch).
18. IEEE 754 Converter. Harald Schmidt, abgerufen am 5. Juni 2016 (Online Rechenscript zur 32 bit Gleitkommaberechnung).
19. Decibel (dB) to Float Value Calculator. Play Dot Sound, abgerufen am 16. Juni 2016 (englisch).
20. Summenpegel von inkohärenten Schallquellen. Alexander Sengpiel, abgerufen am 16. Juni 2016.