quantize函数与matlab量化、定点化
最近在调matlab的LDPC译码器,遇到了定点化的问题。
1.matlab中为什么会牵扯到整数4bit,小数2bit???matlab中double类型的数据不是默认小数点后四位吗???
2.什么叫定点化???matlab中怎么做定点化和量化?
答案如下:
4bit整数,2bit小数意味着小数点后只能是.25/.50/.75/.00;意味着数据的范围只能在-7.75~7.75之间。quantize函数会根据quantizer函数当中设置的属性,自动进行定点化和量化。如上图。其中超出范围的数据会自动落到边界值上,例如20.889自动量化到了7.75上,并且给出了警告:1 overflow occurred.
内容参考了大佬的博客https://blog.****.net/sunlight369/article/details/42742235