张量除法精度误差

Question

我在节点 (v10.0.0( 上使用 @tensorflow/tfjs (v0.10.3(，我通过简单的算术运算得到以下输出

> import * as tf from '@tensorflow/tfjs'
> tf.print(tf.tensor1d([10]).div(tf.scalar(3)))
Tensor
[3.3333333]
> tf.tensor1d([10]).div(tf.scalar(3)).get(0)
3.3333332538604736
> 10 / 3
3.3333333333333335

为什么在一个简单的划分中可以获得不同的结果？

Answer 1

Tensorflow很可能使用32位浮点数来存储值，但这些值被javascript转换回64位浮点数，因为javascript中的浮点数始终是64位。

例如，考虑 Python 中的以下内容：

import numpy as np
a = np.float32(10.0)
b = np.float32(3.0)
print(a/b)
> 3.3333333
print(np.float64(a/b))
> 3.3333332538604736
a = np.float64(10.0)
b = np.float64(3.0)
print(a/b)
> 3.3333333333333335