Pokud jste někdy poslouchali digitální hudbu - zejména jakýkoli ztrátový formát zvuku - pak jste byli vystaveni matematické kvantování Tato digitální zpracování signálu za scénami je zcela běžná a nejčastěji integrální funkcí moderního audio software nebo hardware (např. digitální převodníky). Kvantizace však není omezena pouze na zvuk. Termín a jeho použití platí také pro jiné oblasti, jako je fyzikální nebo digitální zobrazování.
V nahrávacím studiu mikrofony vybírají analogové hudební zvukové vlny, které jsou poté zpracovány do digitálního formátu. Signál může být vzorkován při 44 100 Hz a kvantizován s 8-, 16- nebo 24-bitovou hloubkou (a tak dále). Vyšší bitové hloubky poskytují více dat, což umožňuje přesnější konverzi a reprodukci původního tvaru vlny.
Kvantizace je v zásadě složitý proces zaokrouhlování, který zahrnuje určitou míru nepřesnosti. Počítače pracují na nich a nuly, což je důvod, proč konverze analogově-digitální je považována za přibližnou aproximaci a nikoliv za přesnou kopii. Pokud jde o hudbu, kvantovaný signál nejen musí udržovat správnou posloupnost a amplitudu hodnot, ale i čas musí být přesný. Proces musí zajistit, aby byl udržován hudební rytmus s rovnoměrným rozložením a nastavením stejných tónů (nebo jejich frakcí). V opačném případě může dojít ke ztrátě zvuku nebo k podivnému poslechu uší.
Tento koncept kvantizace lze vizuálně sledovat pomocí programu pro úpravu obrázků, jako je Photoshop. Když je velký obraz zmenšen, dochází ke ztrátě informací o obrazových bodech v důsledku matematického procesu, který se zabývá úkolem. Software provádí výpočty a zaokrouhlování, aby se zabránilo nežádoucím pixelům při zachování celkové integrity, poměru a kontextu obrazu - omezené proporce jsou pro fotografie stejně důležité jako rytmus hudby. Při zvětšování a porovnávání přeformátované verze fotografie s originálem se hrany a objekty mají poněkud hrubé nebo zubaté. Tento vizuální aspekt ztrátové komprese se podobně týká i typů digitálních zvukových souborů. Více dat a / nebo méně komprese vede k vyšší celkové kvalitě.
