본문 바로가기

Master/Master

Midtread Quantization

2. 균일 양자화 (Uniform Quantization), 선형 양자화 (Linear Quantization) ㅇ 특징 - 양자화 스텝 크기가 균일 함 - 대표값이 같은 개수의 양수와 음수로된 대칭적 레벨 구조를 갖음 - 라운드오프 에러(Round-off Error) = 양자화 스텝 크기의 절반 ㅇ 구분 - Midrise 양자화 (중앙 상승) . 짝수개 스텝으로 양자화 . 2(스텝수) 개의 서로 다른 코드를 갖게됨 . 출력 대표값 레벨에 0 없음

- Midtread 양자화 (중앙 억제) . 홀수개 스텝으로 양자화 (음수 및 양수 부분이 대칭적 구조를 갖음) . 2(스텝수)-1 개의 서로다른 코드를 갖게됨 . 출력 대표값 레벨에 0 있음

 

 

 

 

 

스칼라 양자화 [정보통신기술용어해설]

 

www.ktword.co.kr

 

'Master > Master' 카테고리의 다른 글

[MS] TVM  (0) 2022.03.23
[MS] RISC-V 란 무엇인가  (0) 2022.01.25
Quantization  (0) 2021.04.09
im2col  (0) 2021.04.06
lhs, rhs  (0) 2021.03.23