Kwantyzacja w koderze MPEG AAC

Kwantyzator wykorzystany w koderze MPEG jest właściwie kwantyzatorem o stałej charakterystyce z nierównomierną szerokością przedziału kwantyzacji: wartości współczynników bliskie zeru są kwantowane z większą dokładnością, podczas gdy duże wartości są traktowane bardziej zgrubnie. Stopień kwantyzacji nie jest sterowany zmianą charakterystyki kwantyzatora, ale poprzez odpowiednie skalowanie współczynników transformatowych. Czynniki skalujące muszą zatem być również przesłane do dekodera aby odtworzyć właściwe amplitudy współczynników transformatowych. Ze względu na ilość dodatkowo transmitowanych danych, skalowaniu podlegają łącznie grupy współczynników w ramach tzw. pasma skalowania, dzięki czemu pojedynczy czynnik skalujący opisuje pewną liczbę współczynników transformaty.

Charakerystyka kwantyzatora nierównomiernego stosowanego w koderze MPEG-Audio

Kwantyzacja i następujące po niej kodowanie współczynników jest źródłem zazwyczaj nieprzewidywalnej liczby bitów reprezentacji gromadzonych w buforze wyjściowych (co wynika z kodowania entropijnego kodami o zróżnicowanej długości). Dlatego w celu osiągnięcia docelowej prędkości transmisji, proces kwantowania jest iteracyjnie poprawiany z sukcesywnie dobieranym globalnym czynnikiem skalującym kwantyzatora. Ta iteracyjna procedura jest najbardziej złożoną obliczeniowo częścią kodera i może być uproszczona za cenę pogorszenia osiągalnej jakości zakodowanego dźwięku [11].