量子化 (情報科学)
概要
編集マクロな自然界に存在する値の多くはアナログ(連続値)である一方、デジタルな表現(離散値)が求められる場合が存在する。例えば現代のコンピュータ(デジタルコンピュータ)はそもそもアナログ値を扱えない。また離散値を更に低精度の、粗い数値へ変換したい場合も存在する。例えば音響信号処理ではデータ量を減らす為に64bit浮動小数点数を16bit整数にしばしば変換する。これらのような、低精度離散値への数値変換が量子化である。
表現
編集用途に合わせた様々な量子表現が存在する。以下は表現と具体的用途の一例である:
出力範囲[2] | |||
---|---|---|---|
無限 | 有限 | ||
入力単位[3] | スカラー | パルス符号変調 | |
サブベクトル | |||
ベクトル | CELP、TwinVQ |
入力単位による分類では、1つの量子に対応する入力の形状で分類される。スカラー量子化は「 」といったスカラー入力の量子化である。ベクトル量子化は「 」といったベクトル入力の量子化である。
出力範囲による分類では、出力量子の値が取りうる範囲で分類される。有限範囲では出力が といった有限個のいずれかになる。無限範囲では離散値の を含む無限個のいずれかになる。
単に「量子化」と言った場合、「有限スカラー量子化」を指す場合が多い。
量子化ビット数
編集量子化ビット数は有限範囲の量子化を表現するために必要なビット数である。
有限範囲の量子化をおこなう場合、表現に必要な情報量を有限値で抑えられる。この情報量が量子化ビット数と呼ばれる。
脚注
編集- ^ "量子化 -> 連続値をとる信号を離散値をとる信号(ビット列)に変換" 工藤. (2015). 信号画像処理特論Ⅰ. 筑波大学.
- ^ "unbounded scalar quantization, where the range of integers is not limited ... Other compression work relied on bounding the range of the quantizer ... Bounded scalar quantization" Mentzer. (2023). Finite Scalar Quantization: VQ-VAE Made Simple.
- ^ "量子化の種類 ... スカラー量子化 ... ベクトル量子化 ... マトリクス量子化" 嵯峨山. D3 - ベクトル量子化. 応用音響学. 東京大学.