在 SSIS 中的派生列中进行计算时遇到一些问题。
我正在尝试执行以下计算 -
4206 + ((4206 * 4206) * 0.000150000000000) + ((4206 * 4206 * 4206) * 0.000000010000000)
我收到错误 -
**The magnitude of the result of a binary operation overflows the maximum size for result data type**
将此计算粘贴到我的 C# Web 应用程序中会导致类似的问题 -
**The operation overflows at compile time in checked mode**
它正在抱怨这一部分 - 4206 * 4206 * 4206
.它可以通过太4206 * 4206 * 4206L
更改在 Web 应用程序中解决,但我不知道如何在 SSIS 包中解决这个问题。
以前有人遇到过这个问题吗?任何想法将不胜感激。
提前谢谢。
编辑
溢出异常现已解决,但是新旧计算返回的值略有不同,例如使用 415 而不是 4206 作为输入值 -
旧计算值 = 419.014582新计算值 = 419.042100
确切的计算是——
旧 - InputValue + ((InputValue * InputValue) * (DT_DECIMAL,20)@[User::SquaredValue]) + ((InputValue * InputValue * InputValue) * (DT_DECIMAL,20)@[User::CubicValue])
新 - InputValue + (((DT_DECIMAL,20)@[User::SquaredValue] * InputValue * InputValue)) + (((DT_DECIMAL,20)@[User::CubicValue] * InputValue * InputValue * InputValue))
编辑
关于计算中细微差异的第二个问题作为一个新问题打开。
为什么不改变
((4206 * 4206 * 4206) * 0.000000010000000)
自
(0.000000010000000 * 4206 * 4206 * 4206)
以避免在内部行计算中出现如此大的数字。我会用
4206 + (0.00015 * 4206 * 4206) + (0.00000001 * 4206 * 4206 * 4206)