Usuwanie informacji nadmiarowych

Informacje nadmiarowe są usuwane przez odwracalne kodowanie bezstratne, które umożliwia dokładne odzyskanie w dekoderze pierwotnych danych.

Wykorzystanie wyników uzyskanych w teorii informacji: Usuwane są informacje nadmiarowe, które mogą być odtworzone w odbiorniku na podstawie innych przesyłanych informacji dotyczących danego obrazu.

Kodowanie entropijne

gdzie H jest entropią sygnału, p_i - prawdopodobieństwem wystąpienia i-tej wartości sygnału (i-tego symbolu), a sumowanie odbywa się po wszystkich wartościach (symbolach) występujących w danych.

Techniki kodowania entropijnego

Za pomocą kodowania entropijnego można osiągnąć średnią liczbę bitów nie mniejszą od entropii.

Kodowanie Huffmana - krótsze słowa kodowe są przyporządkowane częstszym symbolom.

Kodowanie Golomba-Rice'a - specjalna wersja kodów o zmiennej długości słowa optymalna dla sygnałów o wykładniczym rozkładzie prawdopodobieństwa.

Kodowanie arytmetyczne - bardziej skomplikowane kodowanie, które przypisuje ciągi bitów do sekwencji symboli.