还原规范化操作时的精度问题



我正在做一些规范化操作,令我惊讶的是,当尝试恢复操作时,默认的 6 个小数精度为 100%assert_array_almost_equal的不匹配。为什么会这样?可能是由于我的最大值的精度吗?如果是这样,我怎样才能在numpy.ndarray.max()中获得更高的精度?

from __future__ import division
import numpy
_max = numpy.float128(67.1036) # output of numpy.ndarray.max() on an a float32 array
def divide_and_mult(x, y):
return numpy.divide(numpy.float128(x), y) * y
for i in range(100):
try: numpy.testing.assert_array_equal(divide_and_mult(i, _max), numpy.float128(i))
except AssertionError, e: print e

numpy 数组的精度不能比float128更高,在大多数系统上,最好的甚至更低:float64

通常,您只是不关心精度的一点损失,并使用np.testing.assert_almost_equal或类似的函数来测试特定的绝对和/或相对差异。

如果您想以更高的精度执行此操作,则需要使用具有无限或至少用户定义精度的类型:decimal.Decimalfractions.Fraction或切换到符号数学库,如sympy.

最新更新