浮点数精度问题(详细)

时间：2024-06-10 07:02:00

文章目录

  • 1.什么是浮点数
  • 2. 二进制与十进制的转换
    • 2.1 二进制与十进制的相互转换(方法介绍，思维理解)
    • 2.2 在线转换工具
  • 3.浮点数的 IEEE754 表示
  • 4.C# 浮点型float、double 、decimal 比较
  • 5.解决运算精度问题
    • 5.1 浮点数预算精度问题
    • 5.2 解决方案
      • 5.2.1 放大倍数计算
      • 5.2.2 ToString()
      • 5.2.3 Math.Round()

1.什么是浮点数

因为资源的限制，数学中的小数无法直接在计算机中准确表示。为了更好地表示它，计算机科学家们发明了浮点数，这是对小数的近似表示。
也就是说浮点数是相对于定点数而言的，表示小数点位置是浮动的。比如 7.5 × 10、0.75 × 10² 等表示法，值一样，但小数点位置不一样。
具体来说，浮点数是指用符号、尾数、基数和指数这四部分来表示的小数。
在这里插入图片描述

2. 二进制与十进制的转换

2.1 二进制与十进制的相互转换(方法介绍，思维理解)

二进制与十进制的相互转换(方法介绍，思维理解)

2.2 在线转换工具

二进制与十进制在线转换工具

3.浮点数的 IEEE754 表示

在这里插入图片描述
因为基数固定是 2，因此不存
参考文章：
https://www.cnblogs.com/hzy1987/p/18021627

4.C# 浮点型float、double 、decimal 比较

类型 名称 bit 有效数字( 带有一个固定隐含位) 数值范围 是否基础类型
float 单精度浮点数 32 7(8) ±1.5×10E−45 ~ ±3.4×10E38 是
double 双精度浮点数 64 15(16) ±5.0×10E−324 ~ ±1.7×10E308 是
decimal 高精度浮点数 128 28 ±1.0×10E−28 ~ ±7.9×10E28 否

5.解决运算精度问题

5.1 浮点数预算精度问题

public static void Main(string[] args)
{
     Console.WriteLine(0.3f - 0.2f);     // 0.10000001
     Console.WriteLine(0.3 - 0.2);       // 0.09999999999999998
}

5.2 解决方案

5.2.1 放大倍数计算

var tmp1 = (0.3f * 10) - (0.2f * 10);
float a = tmp1/10;
Console.WriteLine(a);   // 0.1
var tmp2 = (0.3 * 10) - (0.2 * 10);
double b = tmp2/10;
Console.WriteLine(b);   // 0.1

5.2.2 ToString()

string str1 = (0.3f -0.2f).ToString("N3");  // 保留3位有效数字
string str2 = (0.3 -0.2).ToString("N3");    // 保留3位有效数

float.TryParse(str1, out float a);
Double.TryParse(str2, out double b);
Console.WriteLine(a);   // 0.1
Console.WriteLine(b);   // 0.1

5.2.3 Math.Round()

关于Math.Round()的使用：
C# Math.Round() 四舍六入五取偶

double a = Math.Round(0.3 - 0.2, 2, MidpointRounding.AwayFromZero);
Console.WriteLine(a);   // 0.1

相关文章