首先,我对Python有点陌生,我知道这个浮点运算看起来很基本,但我在SO 中找不到任何重复/相关的问题
我有一个验收测试:期望3.3 / 3
是1.1
然后我试着。。
from decimal import *
>>> Decimal(3.3) / Decimal(3)
Decimal('1.099999999999999940788105353')
>>> Decimal(3.3) / Decimal(3.0)
Decimal('1.099999999999999940788105353')
>>> Decimal('3.3') / Decimal('3')
Decimal('1.1') # as expected
问题:以可预测的方式使用Python十进制的最佳实践是什么?或者我只需要将每个十进制显示格式化为字符串?
更具体地说:我正在为贷款数据报告编写一个小型自动化脚本。
重点是,在从3.3
到Decimal的裸浮点中,您已经受到浮点不精确性的影响:
>>> Decimal(3.3)
Decimal('3.29999999999999982236431605997495353221893310546875')
所以,是的,你应该总是传递字符串。
查看https://docs.python.org/2/library/decimal.html,可以为您的操作设置精度。默认值为28个小数点。
从十进制导入*getcontext().prec=2小数(3.3)/小数(3)
这将返回"Decimal('1.1')"