decimal 模块:decimal意思为十进制,这个模块提供了十进制浮点运算支持
1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。
2.要从浮点数据转换为Decimal类型
from decimal import *
Decimal.from_float(12.222)
# 结果为Decimal('12.2219999999999995310417943983338773250579833984375')
3.通过设定有效数字,限定结果样式
from decimal import *
getcontext().prec = 6
Decimal(1)/Decimal(7)
# 结果为Decimal('0.142857'),六个有效数字
4.四舍五入,保留几位小数
from decimal import *
Decimal('50.5679').quantize(Decimal('0.00'))
# 结果为Decimal('50.57'),结果四舍五入保留了两位小数
5.Decimal 结果转化为string
from decimal import *
str(Decimal('3.40').quantize(Decimal('0.0')))
# 结果为'3.4',字符串类型
Python3中decimal处理计算精度问题示例
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
|
#!/usr/bin/python3
# coding:utf-8
import decimal
from decimal import Decimal, getcontext
def demo():
"""
取整问题:
ROUND_CEILING 总是趋向无穷大向上取整
ROUND_DOWN 总是趋向0取整
ROUND_FLOOR 总是趋向负无穷大向下取整
ROUND_HALF_DOWN 如果最后一个有效数字大于或等于5则朝0反方向取整;否则,趋向0取整
ROUND_HALF_EVEN 类似于ROUND_HALF_DOWN,不过,如果最后一个有效数字值为5,则会检查前一位。
偶数值会导致结果向下取整,奇数值导致结果向上取整
ROUND_HALF_UP 类似于ROUND_HALF_DOWN,不过如果最后一位有效数字为5,值会朝0的反方向取整
ROUND_UP 朝0的反方向取整
ROUND_05UP 如果最后一位是0或5,则朝0的反方向取整;否则向0取整
"""
# 1.常规计算
getcontext().prec = 9
r1 = Decimal( 1 ) / Decimal( 3 )
print ( "r1 " , r1) # r1 0.333333333
# 2.但是getcontext().prec会包含小数点前面的所有长度,当前面长度有变化时并不能固定控制小数点后的位数
r2 = Decimal( 10 ) / Decimal( 3 )
print ( "r2 " , r2) # r2 3.33333333
# 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal('0.00000000')),注意不能超过getcontext().prec的位数
r3 = Decimal( 1 ) / Decimal( 3 )
print ( "r3 " , r3.quantize(Decimal( '0.00000000' ))) # r3 0.33333333
r4 = Decimal( 10 ) / Decimal( 3 )
print ( "r4 " , r4.quantize(Decimal( '0.00000000' ))) # r4 3.33333333
r5 = Decimal( 10 ) / Decimal( str ( 1.5 ))
print ( "r5 " , r5.quantize(Decimal( '0.00000000' ))) # r5 6.66666667
# 4.向上取整
getcontext().rounding = getattr (decimal, 'ROUND_CEILING' ) # 总是趋向无穷大向上取整
r6 = Decimal( 10 ) / Decimal( str ( 1.5 )) # r6 6.66666667
print ( "r6 " , r6.quantize(Decimal( '0.00000000' )))
r7 = Decimal( 10 ) / Decimal( 3 ) # r7 3.33333334
print ( "r7 " , r7.quantize(Decimal( '0.00000000' )))
# 5.向下取整
getcontext().rounding = getattr (decimal, 'ROUND_FLOOR' ) # 总是趋向无穷大向下取整
r8 = Decimal( 10 ) / Decimal( str ( 1.5 )) # r8 6.66666666
print ( "r8 " , r8.quantize(Decimal( '0.00000000' )))
r9 = Decimal( 10 ) / Decimal( 3 ) # r9 3.33333333
print ( "r9 " , r9.quantize(Decimal( '0.00000000' )))
if __name__ = = '__main__' :
demo()
|
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:https://www.cnblogs.com/xy-ouyang/p/13040615.html