不同
我正在处理unittest2
的以下问题:
assertAlmostEqual(69.88, 69.875, places=2) # returns True
但是
assertAlmostEqual(1.28, 1.275, places=2) # returns False
我认为问题出在assertAlmostEqual
方法上:
def assertAlmostEqual(self, first, second, places=None, ...):
if first == second:
# shortcut
return
...
if delta is not None:
...
else:
if places is None:
places = 7
if round(abs(second-first), places) == 0:
return
...
raise self.failureException(msg)
应该是:
if abs(round(second, places) - round(first, places)) == 0
return
您提出的修复方案没有任何区别,您可以很容易地证明:
>>> places = 2
>>> first, second = 69.88, 69.875
>>> round(abs(second-first), places)
0.0
>>> abs(round(second, places) - round(first, places))
0.0
这是浮点精度的问题,请参阅例如浮点数学坏了吗?69.88
无法准确表示:
>>> "{:.40f}".format(69.88)
'69.8799999999999954525264911353588104248047'
第二个例子中的区别是
0.005
即使没有提到浮点的偏差,圆的结果也会是0.01,所以这些数字与2位精度的真的不同
这种方法比较数字之间的差异。这是一种比较浮点数的标准,实际上是
因此,问题不在于实现,而在于您的期望,这与常见的浮点比较