Lua Sqrt函数结果不准确



我对数字500000使用sqrt函数。但我得到的结果是707.10681152344这有点不准确,因为正确的数字应该是707.106781187(如谷歌和任何其他计算器给出的)。为什么会这样呢?我可能会错过一些东西,因为我是LUA的新手。谢谢大家

您看到的结果与32位浮点运算一致。

Lua通常使用64位双精度浮点数(对应于C类型double),但是根据这个链接:

编译Lua很容易,所以它使用另一种类型的数字,例如长整数或单精度浮点数。这个特别有用对于没有浮点硬件支持的平台。看到详细说明分发。

显然这就是你正在使用的Lua实现的配置方式。

最新更新