小贝子编程

下溢的浮点数总是四舍五入为零吗?



假设最小的可表示数为0.1

是0.09，底流，四舍五入到0或0.1根据IEEE 754?

如果您有一些假设的浮点格式，其中最小的可表示的正数是0.1，而某些操作(例如9除以100)的实数算术结果是0.09，那么计算结果将根据为该操作选择的舍入规则将0.09舍入为0.1或0来确定。

默认四舍五入规则是四舍五入到最接近偶数。因为0.1比0更接近0.09，所以结果应该是0.1。

如果选择了向下舍入或向零舍入的非默认规则，结果将为0。

相关内容

  • 没有找到相关文章

最新更新


热门标签：

javascript python java c# php android html jquery c++ css ios sql mysql arrays asp.net json python-3.x ruby-on-rails .net sql-server django objective-c excel regex ruby linux ajax iphone xml vba spring asp.net-mvc database wordpress string postgresql wpf windows xcode bash git oracle list vb.net multithreading eclipse algorithm macos powershell visual-studio image forms numpy scala function api selenium