文件名称：执行精确的浮点数运算-python cookbook(第3版)高清中文完整版
文件大小：4.84MB
文件格式：PDF
更新时间：2024-06-29 23:05:57
python cookbook 第3版 高清 中文完整版
3.2 执行精确的浮点数运算 问题 你需要对浮点数执行精确的计算操作，并且不希望有任何小误差的出现。 解决方案 浮点数的一个普遍问题是它们并不能精确的表示十进制数。 并且，即使是 简单的数学 运算也会产生小的误差，比如： >>> a = 4.2 >>> b = 2.1 >>> a + b 6.300000000000001 >>> (a + b) == 6.3 False >>> 这些错误是由底层CPU和IEEE 754标准通过自己的浮点单位去执行算术时的特征。 由于 Python的浮点数据类型使用底层表示存储数据，因此你没办法去避免这样的误差。 如果你想更加精确(并能容忍一定的性能损耗)，你可以使用 decimal 模块： >>> from decimal import Decimal >>> a = Decimal('4.2') >>> b = Decimal('2.1') >>> a + b Decimal('6.3') >>> print(a + b) 6.3 >>> (a + b) == Decimal('6.3') True 初看起来，上面的代码好像有点奇怪，比如我们用字符串来表示数字。 然而， Decimal 对象会像普通浮点数一样的工作(支持所有的常用数学运算)。 如果你打印它们或者在字符 串格式化函数中使用它们，看起来跟普通数字没什么两样。