执行精确的浮点数运算-华为云大数据中台架构分享

时间:2024-07-01 05:00:20
【文件属性】:

文件名称:执行精确的浮点数运算-华为云大数据中台架构分享

文件大小:5.68MB

文件格式:PDF

更新时间:2024-07-01 05:00:20

Python cookbook 中文 参考

3.2 执行精确的浮点数运算 问题 你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现。 解决方案 浮点数的一个普遍问题是它们并不能精确的表示十进制数。 并且,即使是最简 单的数学运算也会产生小的误差,比如:


网友评论