算术计算和小数

Question

请查看下面的代码，并向我解释为什么最终结果会出现偏差。注意，不同之处在于在第二次计算中引入了括号。谢谢!

代码:

DECLARE  @A decimal(38,19) = 7958011.98
DECLARE  @B decimal(38,19) = 10409029441
DECLARE  @C decimal(38,19) = 10000000000
DECLARE  @Z1 decimal(38,19)
DECLARE  @Z2 decimal(38,19)

SET @Z1 = @A * @B / @C
SET @Z2 = @A * (@B / @C)
SELECT  @Z1 AS [Correct], 
        @Z2 AS [Wrong]

结果:

Correct = 8283518.0991650000000000000
Wrong   = 8283510.5860060000000000000

Answer 1

由于这篇MSDN文章，中间数据类型是不同的

即(@B / @C)首先求值，遵循如下规则。然后中间数据类型影响@A

的乘法。

您可以在这里看到中间类型和最终类型(在赋值给十进制类型

之前)

SELECT
     @A * @B,        -- decimal (x, 6)
     @A * @B / @C,   -- decimal (x, 6)
     (@B / @C),      -- decimal (x, 6)
     @A * (@B / @C)  -- decimal (x, 6)

所以，第二次数学

得到的不是1.0409029441而是1.040902

注意，你的第一个也是错误的。它实际上是8283518.099165070318