已删除用户
发布于 2023-11-30 / 0 阅读 / 0 评论 / 0 点赞

BigDecimal精度的坑

问题重现

BigDecimal b1 = new BigDecimal(0.1);

BigDecimal b2 = new BigDecimal(0.5);

System.out.println("b1="+b1+"\nb2="+b2);

---------------结果----------------------

b1=0.1000000000000000055511151231257827021181583404541015625

b2=0.5

为什么b1的结果是后面有一大串数字,而b2却是正确的呢?

分析

1. effective java 第48条解释:

如果需要精确的答案,请避免使用float和double

float和double类型主要是为了科学计算和工程计算而设计,他们执行二进制浮点运算,这是为了在广泛的数值范围上提供较为精确的快速近和计算而精心设计的,然而,他们并没有提供完全精确的结果,所以不应该被用于精确的结果的场合

2.个人分析:

从effective java中,明确的说了,float和double是不精确的运算,他们只是为了广泛的运算保证有一个相近的值

为什么要使用二进制计算double,float和double他们执行的二进制浮点运算,因为使用二进制计算效率要高,适用于日常运算,而二进制也能给我提供一个相对准确的值

为什么二进制运算不能提供准确的值,其实不能说二进制不能提供准确的值,而是二进制不能准确的表示一个小数,就像十进制不能准确的表示1/3,1/6等。

为什么十进制不能表示1/3 ,因为1/3=0.333333333333333。。。。。,我们始终不能说清楚这后面有多少个3,所以说十进制表示不了1/3.

为什么二进制不能表示一个小数,举例0.1换成二进制,请看下面的运算

0.1 * 2 = 0.2 -----0

0.2 * 2 = 0.4 -----0

0.4 * 2 = 0.8 -----0

0.8 * 2 = 1.6 -----1

0.6 * 2 = 1.2 -----1

0.2 * 2 = 0.4 -----0

.

所以二进制表示不了0.1,但是有的小数却可以表示,就像十进制能表示1/2一样,请看0.5

0.5 * 2 = 1 -----1

//所以0.5用二进制表示就是0.1

1

2

这也就解释了,我们遇到的坑,new BigDecimal(0.1);返回一个错误的值,而 new BigDecimal(0.5);返回一个准确的值,从本质上讲0.1,只要他的类型是double或者float,它本身就一个不准确的值,这其实跟BigDecimal无关。我们使用new BigDecimal(Double d);这个构造时,假如入参是0.1,这其中会将0.1转成Double,而此时0.1的值就已经不准确了,比如以下代码

System.out.println(0.5*3);

System.out.println(0.1*3);

//这两句代码,可能很清楚说明二进制不能表示0.1,可以表示0.5

既然知道了坑的来历,我们就只要避免这个坑就行了,这个坑说到底是double或者float造成的,那么我们在构造BigDecimal的对象时,不用这两个构造方法就行了,如:

//使用String构造

BigDecimal b1 = new BigDecimal("0.1");

//或者是:

BigDecimal b1 = BigDecimal.valueOf(0.1);

//点开valueOf的源码,可以看到在源码中也是用new BigDecimal(String);返回一个BigDecimal对象的

//源码如下:

public static BigDecimal valueOf(double val) {

// Reminder: a zero double returns '0.0', so we cannot fastpath

// to use the constant ZERO. This might be important enough to

// justify a factory approach, a cache, or a few private

// constants, later.

return new BigDecimal(Double.toString(val));

}


评论