解决浮点数精度丢失问题:BigDecimal

1. 浮点数精度为什么会丢失?

我们来看一个浮点数精度丢失的例子:

public class BigDecimalTest {

    public static void main(String[] args) {
        float f1 = 0.9f;
        float f2 = 0.8f;
        float f3 = 1.1f;
        float f4 = 1.0f;

        float f5 = f1 - f2;
        float f6 = f3 - f4;
        System.out.println(f5-f6);
    }
}
-5.9604645E-8

💡解析

我们来看看计算机中如何将十进制小数转换为二进制来存储的过程的

在计算机中,十进制的整数是不断除以2直到商为0为止,然后把余数逆序组成二进制小数,如十进制中的10转为二进制的过程,如下图所示,最终二进制为1010

10 / 2 = 5 -> 0
5 / 2 = 2 -> 1
2 / 2 = 1 -> 0
1 / 2 = 0 -> 1

在计算机中,遇到十进制小数,则是不断乘以2,直到不存在小数为止。在这个计算过程中,得到的整数部分从上到下排列就是二进制结果。

举例说明:十进制0.25转为二进制的过程,如下图所示,所以二进制表示为0.01

// 0.25 转换为二进制数的过程为,不断乘以 2,直到不存在小数为止,
// 在这个计算过程中,得到的整数部分从上到下排列就是二进制的结果。
0.25 * 2 = 0.5 -> 0
0.5 * 2 = 1.0 -> 1

但是会有一些例外的情况发生,如十进制0.2转为二进制数时,则会发生无限循环情况,而实际的计算机存储的位数是有限的,只能截断存储,这就导致了小数精度丢失问题。

举例:如十进制下的0.2就没有办法精确转换成二进制小数:

// 0.2 转换为二进制数的过程为,不断乘以 2,直到不存在小数为止,
// 在这个计算过程中,得到的整数部分从上到下排列就是二进制的结果。
0.2 * 2 = 0.4 -> 0
0.4 * 2 = 0.8 -> 0
0.8 * 2 = 1.6 -> 1
0.6 * 2 = 1.2 -> 1
0.2 * 2 = 0.4 -> 0(发生循环)
...

2. 如何使用浮点数做运算时,不会造成精度丢失?BigDecimal

BigDecimal可以实现对浮点数的运算,不会造成精度丢失问题。

通常情况下,大部分需要浮点数精确运算结果的业务场景(比如金融业涉及到钱的场景)都是听过BigDecimal来做的。

《阿里巴巴Java开发手册》中提到:浮点数之间的等值判断,基本数据类型不能用==来比较,包装数据类型不能用equals来判断。

BigDecimal a = new BigDecimal("1.0");
BigDecimal b = new BigDecimal("0.9");
BigDecimal c = new BigDecimal("0.8");

BigDecimal x = a.subtract(b);
BigDecimal y = b.subtract(c);

System.out.println(x.compareTo(y));// 0

3. BigDecimal常见方法

3.1 创建

在使用BigDecimal时,为了防止精度丢失,推荐使用它的BigDecimal(String val)构造方法或者BigDecimal.valueOf(double val)静态方法来常见对象。

《阿里巴巴 Java 开发手册》对这部分内容也有提到,如下图所示。

3.2 加减乘除

add方法用于将两个 BigDecimal 对象相加,subtract 方法用于将两个 BigDecimal 对象相减。multiply 方法用于将两个 BigDecimal 对象相乘,divide 方法用于将两个 BigDecimal 对象相除。

BigDecimal a = new BigDecimal("1.0");
BigDecimal b = new BigDecimal("0.9");
System.out.println(a.add(b));// 1.9
System.out.println(a.subtract(b));// 0.1
System.out.println(a.multiply(b));// 0.90
System.out.println(a.divide(b));// 无法除尽,抛出 ArithmeticException 异常
System.out.println(a.divide(b, 2, RoundingMode.HALF_UP));// 1.11

这里需要注意的是,在我们使用 divide 方法的时候尽量使用 3 个参数版本,并且RoundingMode 不要选择 UNNECESSARY,否则很可能会遇到 ArithmeticException(无法除尽出现无限循环小数的时候),其中 scale 表示要保留几位小数,roundingMode 代表保留规则。

public BigDecimal divide(BigDecimal divisor, int scale, RoundingMode roundingMode) {
    return divide(divisor, scale, roundingMode.oldMode);
}

3.3 大小比较

a.compareTo(b) : 返回 -1 表示 a 小于 b,0 表示 a 等于 b , 1 表示 a 大于 b。

BigDecimal a = new BigDecimal("1.0");
BigDecimal b = new BigDecimal("0.9");
System.out.println(a.compareTo(b));// 1

3.4 保留几位小数

通过 setScale方法设置保留几位小数以及保留规则。保留规则有挺多种,不需要记,IDEA 会提示。

BigDecimal m = new BigDecimal("1.255433");
BigDecimal n = m.setScale(3,RoundingMode.HALF_DOWN);
System.out.println(n);// 1.255

3.5 BigDecimal等值比较问题,使用compareTo而不要使用equals()

BigDecimal 使用 equals() 方法进行等值比较出现问题的代码示例:

BigDecimal a = new BigDecimal("1");
BigDecimal b = new BigDecimal("1.0");
System.out.println(a.equals(b));//false

这是因为 equals() 方法不仅仅会比较值的大小(value)还会比较精度(scale),而 compareTo() 方法比较的时候会忽略精度。

1.0 的 scale 是 1,1 的 scale 是 0,因此 a.equals(b) 的结果是 false。

compareTo() 方法可以比较两个 BigDecimal 的值,如果相等就返回 0,如果第 1 个数比第 2 个数大则返回 1,反之返回-1。

BigDecimal a = new BigDecimal("1");
BigDecimal b = new BigDecimal("1.0");
System.out.println(a.compareTo(b));//0
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值