2. 균일 양자화 (Uniform Quantization), 선형 양자화 (Linear Quantization) ㅇ 특징 - 양자화 스텝 크기가 균일 함 - 대표값이 같은 개수의 양수와 음수로된 대칭적 레벨 구조를 갖음 - 라운드오프 에러(Round-off Error) = 양자화 스텝 크기의 절반 ㅇ 구분 - Midrise 양자화 (중앙 상승) . 짝수개 스텝으로 양자화 . 2(스텝수) 개의 서로 다른 코드를 갖게됨 . 출력 대표값 레벨에 0 없음
- Midtread 양자화 (중앙 억제) . 홀수개 스텝으로 양자화 (음수 및 양수 부분이 대칭적 구조를 갖음) . 2(스텝수)-1 개의 서로다른 코드를 갖게됨 . 출력 대표값 레벨에 0 있음
스칼라 양자화 [정보통신기술용어해설]
www.ktword.co.kr
'Master > Master' 카테고리의 다른 글
[MS] TVM (0) | 2022.03.23 |
---|---|
[MS] RISC-V 란 무엇인가 (0) | 2022.01.25 |
Quantization (0) | 2021.04.09 |
im2col (0) | 2021.04.06 |
lhs, rhs (0) | 2021.03.23 |