安格尔乘法给出了错误的结果



>我有一个安格尔表,里面有以下列

from_date ingresdate
to_date ingresdate
model_amt money

日期可以反映任意天数的时间段,并且model_amt始终是每周数字。我需要计算出该期间的总model_amt

为此,我需要知道该时间段覆盖了多少天,然后将model_amt除以 7,然后乘以天数

但是,我使用以下代码得到不正确的结果

select model_amt, date_part('day',b.to_date - b.from_date), 
model_amt / 7 * int4( (date_part('day',b.to_date - b.from_date)) )
from table

例如,其中 model_amt = 88.82 并且周期为 2 周,我得到以下输出

+-------------------------------------------------------+
¦model_amt           ¦col2         ¦col3                ¦
+--------------------+-------------+--------------------¦
¦              #88.82¦           14¦             #177.66¦
+-------------------------------------------------------+

但是 88.82/7 * 14 = 177.64,而不是 177.66?

知道发生了什么吗?无论我是否在date_part周围包含 int4 函数,都会发生同样的问题。

*更新 15:28 *

解决方案是在model_amt周围添加一个 float8 函数

float8(model_amt)/ 7 * interval('days', to_date - from_date)

感谢您的回复。

在计算机中,浮点数是出了名的不准确。 你可以对浮点数进行各种基本的数学计算,它们会偏离几个小数。

一些信息可以在这里找到;但它非常容易被谷歌搜索:)。 http://effbot.org/pyfaq/why-are-floating-point-calculations-so-inaccurate.htm

通常,为了避免不准确,您需要使用特定于语言的功能(例如Java中的BigDecimal (来"完美"存储小数。 或者,您可以将小数表示为单独的整数(例如,主数是一个整数,小数是另一个整数(,稍后将它们组合在一起。

因此,我怀疑这只是显示正常浮点不准确的 ingres,并且该数据库中有已知的解决方法。

更新

这是Actian的一篇支持文章,专门关于安格尔浮点问题,似乎很有用:https://communities.actian.com/s/article/Floating-Point-Numbers-Causes-of-Imprecision。

最新更新