文件名称:JS绝对屏蔽计算误差
文件大小:2KB
文件格式:HTML
更新时间:2018-12-24 06:54:37
JS计算误差
JS绝对屏蔽计算误差的一个算法,方法是直接顺子思路写的,所以略显臃肿,但却对可以屏蔽,网上其他的一些用10的N次幂来解决一样有失效的,因为小数在乘以10N次幂的时候已经出现误差了,后续所有操作都失效。本方法绝对精确计算,代码精简性有待改善。
文件名称:JS绝对屏蔽计算误差
文件大小:2KB
文件格式:HTML
更新时间:2018-12-24 06:54:37
JS计算误差
JS绝对屏蔽计算误差的一个算法,方法是直接顺子思路写的,所以略显臃肿,但却对可以屏蔽,网上其他的一些用10的N次幂来解决一样有失效的,因为小数在乘以10N次幂的时候已经出现误差了,后续所有操作都失效。本方法绝对精确计算,代码精简性有待改善。