본문 바로가기

Information theory

Midrise quantizer, Midtread quantizer

Mid-rise quantizer란?

짝수개의 Step 으로 quantize된 Quantizer를 말합니다. Input 0일 때 Output이 없으며, $2^{step}$개의 다른 code를 output으로 가지게 됩니다.

Midrise quantizer

 

Mid-tread quantizer란?

홀수개의 step으로 quantize된 Quantizer를 말합니다. $2^{step}-1$개의 다른 code를 output으로 가지며, input이 0일 때 Output이 있습니다. 

Mid-tread quantizer

 

Distortion 계산하기

Original signal을 x라고 하고 Quantized 양자화 된 신호를 qx라고 할 때 Distortion은 다음과 같이 계산해서 구합니다.

 Distortion = $\frac{1}{N}\sum_1^N(x-qx)^2$

Quantizer의 Step size를 delta라고 할 때, Delta가 커 질수록 Distortion은 증가하게 됩니다.

Step size Delta vs Distortion

 

Entropy와 Distortion와 관계는 어떨까요? Entropy가 증가할 수록 Distortion은 감소하게 됩니다. (모든 심볼들이 Equiprobable한 같은 확률을 가질 때 Entropy는 최대가 되고, 그 때 Distortion은 최소가 됩니다)

Distortion vs Entropy