float,double和decimal的精度问题

时间:2022-09-02 08:43:28

先标注一个音标,因为我老是读错:decimal ['desɪml]

精度对比:

类型

CTS 类型

描述

有效数字

范围

float

System.Single

32-bit single-precision floating point

7

±1.5 × 10−45 to ±3.4 × 1038

double

System.Double

64-bit double-precision floating point

15/16

±5.0 × 10 −324 to ±1.7 × 10308

decimal

System.Decimal

128-bit high precision decimal notation

±1.0 × 10−28 to ±7.9 × 1028

float有效数字才七位,这里不作对比了,主要对比double和decimal

double有效数字为15位,该类型以符号+小数+指数形式存储,此时指数部分超过15位的数字不会被保留,从而导致数据的不准确;但也正是由于这种存储方式,因此可以表示的数据范围比较大;(double和float存储方式相同)

decimal有效数字为28位,它是以符号+整数+小数的方式来存储的,因此表示的数据范围比float和double都小,但是因为精度比较高,所以比前两者两个更加准确;由于decimal不是基本数据类型,所以使用的时候会有性能损失,但是由于它的准确性,故而在财务处理中经常使用它。