十进制DbType -刻度和精度翻转



我有一个SQL Server存储过程,我从c#调用。

一些参数是Decimal,刻度和精度不同,但最常见的是刻度8和精度2。

所以我需要使用Decimal dbtype。

ALTER PROCEDURE [dbo].[SaveAssortmentPlanItem]
    @hierarchy                  nvarchar(13),
    @closing_store_stock        nvarchar(10),
    @closing_westway_stock      nvarchar(10),
    @sales_volume               decimal(8,2) = 0.00,
    @exit_code                  nvarchar(10),
    @name                       nvarchar(50),
    @medium_colour              nvarchar(50),
    @margin_percent             decimal(4,1) = 0.0,
    @retail_1st_on_sale_date    nvarchar(50),
    @new_continuing             nvarchar(10),
    @vendor                     nvarchar(50),
    @retail_initial_allocation  decimal(6,2) = 0.00,
    @no_of_stores               int,
    @total_planned_retail_closing_stock decimal(8,2) = 0.00,
    @fp_sales_value             decimal(8,2) = 0.00,
    @fp_margin_value            decimal(8,2) = 0.00
  AS ...

但是,当我尝试使用十进制参数调用过程时,其规模为8,精度为2,我得到的是一个错误:

Parameter value 0.00000000 is out of range

(这里的值为0)。

当这种情况发生时,过程甚至不会被调用,SQL跟踪中也不会出现任何内容。

如果我使用精度8和比例2,它工作得很好,即使这与我期望的相反。

如果我从参数中读取值,它们看起来都像预期的那样!

这是我的主要功能代码:

        const string SAVE_ASSORTMENT_PLAN_ITEM = "dbo.SaveAssortmentPlanItem";
        DAL.Execute(SAVE_ASSORTMENT_PLAN_ITEM, new[]
        {
            // NOTE a few parameters removed for brevity
            DAL.ParamNVarchar("@hierarchy", hierarchy),
            DAL.ParamNVarchar("@closing_store_stock", closingStoreStock ?? ""),
            DAL.ParamDecimal("@sales_volume", salesVolume == "0" ? "1" : salesVolume, 8, 2),
            DAL.ParamNVarchar("@exit_code", exitCode ?? ""),
            DAL.ParamNVarchar("@name", name ?? ""),
            DAL.ParamNVarchar("@medium_colour", mediumColour ?? ""),
            DAL.ParamDecimal("@margin_percent", marginPercent, 4, 1),
            DAL.ParamNVarchar("@retail_1st_on_sale_date", retail1stOnSaleDate ?? ""),
            DAL.ParamNVarchar("@new_continuing", newContinuing ?? ""),
            DAL.ParamNVarchar("@vendor", vendor ?? ""),
            DAL.ParamDecimal("@retail_initial_allocation", retailInitialAllocation, 6, 2),
            DAL.ParamInt("@no_of_stores", noOfStores ?? "0"),
            DAL.ParamDecimal("@total_planned_retail_closing_stock", totalPlannedRetailClosingStock, 8, 2),
            DAL.ParamDecimal("@fp_sales_value", FPSalesValue, 8, 2),
            DAL.ParamDecimal("@fp_margin_value", FPMarginValue, 8, 2)
        }

Execute函数是:

    public static void Execute(string procName, SqlParameter[] parameters = null)
    {
        const string BUY_ME_CONNECTION = "BuyMe";
        using (var connection = GetConnection(BUY_ME_CONNECTION))
        {
            connection.Open();
            var command = new SqlCommand(procName, connection) {CommandType = CommandType.StoredProcedure};
            if (parameters != null) command.Parameters.AddRange(parameters);
            command.ExecuteNonQuery();
        }
    }

…和ParamDecimal函数:

    public static SqlParameter ParamDecimal(string name, string value, byte scale, byte precision)
    {
        var decimalValue = decimal.Parse(value ?? "1", NumberStyles.AllowThousands | NumberStyles.AllowDecimalPoint);
        var result = new SqlParameter(name, SqlDbType.Decimal) { Value = decimalValue, Precision = precision, Scale = scale };
        return result;
    }

考虑到最不可能的情况是这里的尺度和精度值实际上是颠倒的,我已经通过我的代码,看看我是否以某种方式翻转它,但这似乎不是情况。

还有什么可能导致这个问题?

以上是预期的,如果你有DECIMAL(2,8),你说的值不大于2位数字,并且在小数点的右边有8位数字,这是没有意义的。在这种情况下,SQL Server会抛出一个错误…

刻度必须小于或等于精度。

通过切换到DECIMAL(8, 2),您说的值不大于8位数字在小数的右侧有2位数字。0.00000000的结果是0.00

DAL.ParamDecimal("@sales_volume", salesVolume == "0" ? "1" : salesVolume, 8, 2)

根据这个方法的定义,你用scale = 8precision = 2来调用它。这将导致SQL类型DECIMAL(2,8)…,这显然是错误的。

精度是可存储的有效位数,小数是小数后的位数。

你想要的是一个DECIMAL(8,2),即精度为8,比例为2,所以切换参数:

DAL.ParamDecimal(…, scale: 2, precision: 8).

相关内容

  • 没有找到相关文章

最新更新