Matlab精度只有8位数



引用自:https://www.mathworks.com/help/symbolic/increase-precision-of-numeric-calculations.html

默认情况下,MATLAB®使用16位精度。

但是为什么当我写900000000+2(9后8个零(时它返回900000002,而写900000000+2(9后9个零(返回9.0000e+09这不是8位数的精度吗?

您可以使用format命令来控制要打印的位数。help format查看更多详细信息。请尝试format long g,然后重新运行命令以查看更多数字。

默认情况下,MATLAB®使用16位精度。

这是指计算精度,而不是打印精度。默认情况下,MATLAB将变量定义为双精度,通常精确到16位。但是你可以打印这样的双精度数字在较低的预览(由格式命令控制(

相关内容

  • 没有找到相关文章