javascript中可处理的浮点数的最高精度（和小数的一些小特性）

时间：2022-08-08 08:30:59

1.之前在度娘那找了一下关于javascript中可处理的浮点数的最高精度的问题，但找了好久也找不到，于是自己 小小的研究了一下，之前以为是17，后来测到18，再后来又测到19，经过一系列的改写，得到下面的相对完善的检测方案：

<script>

//返回数字数组中的最大值

function arrMax(arr)

{

    return Math.max.apply({}, arr);

}

//10万个随机小数中的最大精度

function maxDec()

{

    var arr = [];

    var dec = 0;

    var len = 0;

    var num = 0;

    //取得10万个随机小数的小数位精度,如果直接100万个会报错,浏览器不给循环这么多次，所以就来个10万次

    for(var i=0; i<100000; i++)

    {

        dec = Math.random();    //随机小数

        len = dec.toString().split('.')[1].length;    //获取上面得到的随机小数的小数位长度

        arr.push(len); //用数组把这个长度存起来

    }

    //返回这10万个中最大的

    return arrMax(arr);

}

//上面的10万个有点少，再来个100循环，就是1千万了

var temp = [];

for(var i=0; i<100; i++)

{

    temp.push(maxDec())

}

alert(arrMax(temp))    //多执行几次，最大的不超过22,所以JS可以处理的小数最高精度为22 位;如果您测到比22大的，一定要告诉下我啊~~~

</script>

//上面有bug，不正确，大家还是忽略上面的结论，看下面的吧....

2.小数的小特性

先问大家几个问题：1 * 0.1等于多少呢？    2*0.1等于多少呢？  那3*0.1等于多少呢？  （此时此刻你是不是想说：坑爹的，你坑我啊！）哈哈，请耐心看下下面的代码：

<script>

for(var i=1; i<=10; i++)

{

    var res = i * 0.1;

    console.log(i + '*0.1=  ' + res);

}

/*

1*0.1=  0.1

2*0.1=  0.2

3*0.1=  0.30000000000000004

4*0.1=  0.4

5*0.1=  0.5

6*0.1=  0.6000000000000001

7*0.1=  0.7000000000000001

8*0.1=  0.8

9*0.1=  0.9

10*0.1=  1 

*/

</script>

你是否惊讶的发现， 3*0.1 竟然是等于0.30000000000000004， 坑啊！！！

揭秘： 其实，不紧紧是JS, 所有的计算设备都有这样的问题， 因为 根本不存在完全精确的小数，  10/3 =0.33333333333333.....  程序根本存不了这么多小数， 而是有范围的， 这些小数都是模拟出来的， 银行中的程序不是以元为单位的，你看到的100.23元，

在他的程序后面其实是10023分；

所以，尽量避免小数的出现，如果出现的话，想办法转成整数处理。以后会研究研究怎样尽可能小的减少精度损失。

欢迎拍砖，觉得好的请点下推荐~~（之前有些笔误，现在改好了）

相关文章