我正在尝试找出几种为双精度值保留两个小数位的方法。目前,我尝试了以下5种方法。
- 使用 java.math.BigDecimal
- 使用 java.text.DecimalFormat
- 使用 java.text.NumberFormat
- 使用 java.util.Formatter
- 使用字符串格式
这5种方法的结果基本一致。但是,在某些情况下,java.math.BigDecimal 与其他 4 种方法的结果不同。
以双精度值 100.0050D 为例:
当使用java.math.BigDecimal时,它在我的代码中返回100.00。但是,其他 4 个方法返回 100.01。结果不一致。
实际上,使用了RoundingMode.HALF_UP。这是我的问题来了:
使用java.math.BigDecimal 在下面的代码中保留两个带有双值的小数位时,我错过了什么吗?
还是 java.math.BigDecimal 类中的一个小缺陷?
请帮我解决这个问题。提前谢谢你。
另外,我不确定它是否在各种JDK版本中有所不同,只需提供我使用的JDK版本为1.7.0_25的信息。
代码如下:
public final class PrecisionTest {
private PrecisionTest() {
}
public static String format1(double value) {
BigDecimal bd = new BigDecimal(value);
bd = bd.setScale(2, RoundingMode.HALF_UP);
return bd.toString();
}
public static String format2(double value) {
DecimalFormat df = new DecimalFormat("0.00");
df.setRoundingMode(RoundingMode.HALF_UP);
return df.format(value);
}
public static String format3(double value) {
NumberFormat nf = NumberFormat.getNumberInstance();
nf.setMaximumFractionDigits(2);
nf.setMinimumFractionDigits(2);
nf.setRoundingMode(RoundingMode.HALF_UP);
nf.setGroupingUsed(false);
return nf.format(value);
}
public static String format4(double value) {
return new Formatter().format("%.2f", value).toString();
}
public static String format5(double value) {
return String.format("%.2f", value).toString();
}
}
简单的测试代码如下:
public class Main {
public static void main(String[] args) {
double[] testData = new double[] { 100.123D, 1234567.897D, 100.0050D,
80.0051D,-100245.3658D};
for (double value : testData) {
System.out.println(PrecisionTest.format1(value));
System.out.println(PrecisionTest.format2(value));
System.out.println(PrecisionTest.format3(value));
System.out.println(PrecisionTest.format4(value));
System.out.println(PrecisionTest.format5(value));
}
}
}
100.005 的双重表示并不精确,并且略小于 100.005:
scala> new java.math.BigDecimal(100.0050)
res0: java.math.BigDecimal = 100.0049999999999954525264911353588104248046875
因此,当您设置比例和舍入模式时,它会向下舍入到 100.00。
另一方面,使用字符串构造 BigDecimal 按预期工作:
scala> new java.math.BigDecimal("100.0050")
res2: java.math.BigDecimal = 100.0050
scala> res2.setScale(2, java.math.RoundingMode.HALF_UP).toString
res3: java.lang.String = 100.01
double[] testData = new double[] { 100.123D, 1234567.897D, 100.0050D,
80.0051D,-100245.3658D};
问题就在这里。与BigDecimal 完全无关。这些数字无法在浮点中准确表示。尝试从值的字符串表示形式初始化 BigDecimal 。