Kvantiseringsbrus- fel som uppstår när en signal kvantiseras . Beroende på typen av analog-till-digital-omvandling kan de uppstå på grund av avrundning (upp till en viss siffra) av signalen eller trunkering (avvisande av lägre siffror) av signalen.
Kvantiseringsbrus kan representeras som en additiv diskret signal som tar hänsyn till kvantiseringsfel. Om är ingångssignalen för kvantiseraren och är dess överföringsfunktion , då har vi följande linjära modell av kvantiseringsbrus:
Den linjära modellen används för att analysera egenskaperna hos kvantiseringsbrus analytiskt.
Deterministiska uppskattningar tillåter oss att bestämma de absoluta gränserna för kvantiseringsbrus i fallet med enhetlig kvantisering:
,där - antalet bitar av kvantisering (signal ), - kvantiseringssteg - vid avrundning - vid trunkering.
Probabilistiska uppskattningar är baserade på representationen av kvantiseringsfel (signal ) som en slumpmässig brusliknande process. Antaganden om kvantiseringsbrus:
I ett sådant fall definieras kvantiseringsbrusets förväntan och varians enligt följande (de tvås komplementkod används vid kvantisering ):