遇到的难题之一 —— js方法toFixd()

时间:2023-01-29 12:02:29

工作中遇到金额需要保留两位小数的需求,单价1.265,数量为1,正常来讲金额应为1.27,用了toFixd()方法后结果为1.26。

最终找到问题所在:1.265 - 1.26 = 0.004999999999999893;

为什么会这样?

由于1.265不是精确表示的,而1.26是可以精确表示的,所以1.265就可以得到0.05存储的值。可以看到确实是比0.05小。

按照源码的判断,如果剩下的尾数第1位不是1就不进位,由于剩下的尾数第1位是0,所以不进位,因此就导致了(1.265).toFixed(2)输入结果是1.26

根本原因在于1.265的存储要比实际存储小一点,导致0.05的第1位尾数不是1,所以就被舍掉了。

解决方案:

if (!Number.prototype._toFixed) {
   Number.prototype._toFixed = Number.prototype.toFixed;
}
Number.prototype.toFixed = function(n) {
   return (this + 1e-14)._toFixed(n);
};
之后就正常了 
我只是答案的搬运工,查看完整答案请移步 https://juejin.im/post/5a11a9fef265da43284073b4 谢谢~