catastropic cancellation

【文件属性】：

文件名称：catastropic cancellation

文件大小：1.15MB

文件格式：PDF

更新时间：2015-11-10 13:43:14

有限字长效应

在计算中用有限位的二进制数表示一定范围内的实数，有些十进制实数并不能用有限位二进制实数表示，在做数值计算时，计算机中存储的数与我们所要表示的实数是有一定的误差的，当在进行数值计算时，这种误差可能积累并引发整个系统崩溃，发生灾难性后果。