字符串和整数格式的浮点数差异.为什么?



我需要纳秒的当前时间。 作为字符串"%.9f" % float_time它是 1502872986.653693676。你可以在最后看到 76。 如果我尝试与intint(float_time*10**9)相同的时间编写,则最后将是15028729866536936 96和96。为什么?哪种是获得纳米格式的正确方法?

from time import time
float_time = time()
print("float_time:", float_time)
int_nano_time = int(float_time*10**9)
print("int_nano_time:", int_nano_time)
str_nano_time = "%.9f" % float_time
print("str_nano_time:", str_nano_time)

float_time:1502872986.6536937

int_nano_time:1502872986653693696

str_nano_time:1502872986.653693676

溶液:

time.monotonic()

float_time: 536596.296

int_nano_time:536596296000000

str_nano_time: 536596.296000000

两者都在 ~15.7 个十进制数字的IEEE754双精度内是正确的。原因是十的倍数不能精确地产生,所以虽然乘以2 ** 10是精确的,但乘以5 ** 10将再次产生舍入误差,这就是最后一个数字不同的原因。

'1502872986.653693675994873046875000000000'
>>> "%.30f" % (1502872986.653693676 * 10 ** 9)
'1502872986653693696.000000000000000000000000000000'

这两个浮点数的十六进制表示形式大不相同:

>>> (1502872986.653693676 * 10 ** 9).hex()
'0x1.4db4704d00617p+60'
>>> (1502872986.653693676).hex()
'0x1.6650166a9d61ep+30'

至于从time()调用返回的时间 - 如果计算机有一个计时器,该计时器以足够高的精度提供时间戳,很有可能任何时间值都将在调用time()确切时间和返回时间之间:

>>> (time() - time()) * 10 ** 9
-715.2557373046875
>>> (time() - time()) * 10 ** 9
-953.67431640625
>>> (time() - time()) * 10 ** 9
-953.67431640625

您的错误是 20 纳秒,但在我的计算机上,从time()调用返回的 2 个连续时间戳之间的时间差为 700-100 纳秒。

相关内容

  • 没有找到相关文章

最新更新