JS绝对屏蔽计算误差

时间:2018-12-24 06:54:37
【文件属性】:

文件名称:JS绝对屏蔽计算误差

文件大小:2KB

文件格式:HTML

更新时间:2018-12-24 06:54:37

JS计算误差

JS绝对屏蔽计算误差的一个算法,方法是直接顺子思路写的,所以略显臃肿,但却对可以屏蔽,网上其他的一些用10的N次幂来解决一样有失效的,因为小数在乘以10N次幂的时候已经出现误差了,后续所有操作都失效。本方法绝对精确计算,代码精简性有待改善。


网友评论