1. 浮点数精度为什么会丢失?
我们来看一个浮点数精度丢失的例子:
public class BigDecimalTest {
public static void main(String[] args) {
float f1 = 0.9f;
float f2 = 0.8f;
float f3 = 1.1f;
float f4 = 1.0f;
float f5 = f1 - f2;
float f6 = f3 - f4;
System.out.println(f5-f6);
}
}
-5.9604645E-8
💡解析
我们来看看计算机中如何将十进制小数转换为二进制来存储的过程的
在计算机中,十进制的整数是不断除以2直到商为0为止,然后把余数逆序组成二进制小数,如十进制中的10转为二进制的过程,如下图所示,最终二进制为1010
。
10 / 2 = 5 -> 0
5 / 2 = 2 -> 1
2 / 2 = 1 -> 0
1 / 2 = 0 -> 1
在计算机中,遇到十进制小数,则是不断乘以2,直到不存在小数为止。在这个计算过程中,得到的整数部分从上到下排列就是二进制结果。
举例说明:十进制0.25转为二进制的过程,如下图所示,所以二进制表示为0.01
。
// 0.25 转换为二进制数的过程为,不断乘以 2,直到不存在小数为止,
// 在这个计算过程中,得到的整数部分从上到下排列就是二进制的结果。
0.25 * 2 = 0.5 -> 0
0.5 * 2 = 1.0 -> 1
但是会有一些例外的情况发生,如十进制0.2转为二进制数时,则会发生无限循环情况,而实际的计算机存储的位数是有限的,只能截断存储,这就导致了小数精度丢失问题。
举例:如十进制下的0.2就没有办法精确转换成二进制小数:
// 0.2 转换为二进制数的过程为,不断乘以 2,直到不存在小数为止,
// 在这个计算过程中,得到的整数部分从上到下排列就是二进制的结果。
0.2 * 2 = 0.4 -> 0
0.4 * 2 = 0.8 -> 0
0.8 * 2 = 1.6 -> 1
0.6 * 2 = 1.2 -> 1
0.2 * 2 = 0.4 -> 0(发生循环)
...
2. 如何使用浮点数做运算时,不会造成精度丢失?BigDecimal
BigDecimal
可以实现对浮点数的运算,不会造成精度丢失问题。
通常情况下,大部分需要浮点数精确运算结果的业务场景(比如金融业涉及到钱的场景)都是听过BigDecimal
来做的。
《阿里巴巴Java开发手册》中提到:浮点数之间的等值判断,基本数据类型不能用==来比较,包装数据类型不能用equals来判断。
BigDecimal a = new BigDecimal("1.0");
BigDecimal b = new BigDecimal("0.9");
BigDecimal c = new BigDecimal("0.8");
BigDecimal x = a.subtract(b);
BigDecimal y = b.subtract(c);
System.out.println(x.compareTo(y));// 0
3. BigDecimal常见方法
3.1 创建
在使用BigDecimal
时,为了防止精度丢失,推荐使用它的BigDecimal(String val)
构造方法或者BigDecimal.valueOf(double val)
静态方法来常见对象。
《阿里巴巴 Java 开发手册》对这部分内容也有提到,如下图所示。
3.2 加减乘除
add
方法用于将两个 BigDecimal 对象相加,subtract
方法用于将两个 BigDecimal 对象相减。multiply
方法用于将两个 BigDecimal 对象相乘,divide
方法用于将两个 BigDecimal 对象相除。
BigDecimal a = new BigDecimal("1.0");
BigDecimal b = new BigDecimal("0.9");
System.out.println(a.add(b));// 1.9
System.out.println(a.subtract(b));// 0.1
System.out.println(a.multiply(b));// 0.90
System.out.println(a.divide(b));// 无法除尽,抛出 ArithmeticException 异常
System.out.println(a.divide(b, 2, RoundingMode.HALF_UP));// 1.11
这里需要注意的是,在我们使用 divide
方法的时候尽量使用 3 个参数版本,并且RoundingMode
不要选择 UNNECESSARY
,否则很可能会遇到 ArithmeticException
(无法除尽出现无限循环小数的时候),其中 scale
表示要保留几位小数,roundingMode
代表保留规则。
public BigDecimal divide(BigDecimal divisor, int scale, RoundingMode roundingMode) {
return divide(divisor, scale, roundingMode.oldMode);
}
3.3 大小比较
a.compareTo(b) : 返回 -1 表示 a 小于 b,0 表示 a 等于 b , 1 表示 a 大于 b。
BigDecimal a = new BigDecimal("1.0");
BigDecimal b = new BigDecimal("0.9");
System.out.println(a.compareTo(b));// 1
3.4 保留几位小数
通过 setScale方法设置保留几位小数以及保留规则。保留规则有挺多种,不需要记,IDEA 会提示。
BigDecimal m = new BigDecimal("1.255433");
BigDecimal n = m.setScale(3,RoundingMode.HALF_DOWN);
System.out.println(n);// 1.255
3.5 BigDecimal等值比较问题,使用compareTo而不要使用equals()
BigDecimal 使用 equals() 方法进行等值比较出现问题的代码示例:
BigDecimal a = new BigDecimal("1");
BigDecimal b = new BigDecimal("1.0");
System.out.println(a.equals(b));//false
这是因为 equals() 方法不仅仅会比较值的大小(value)还会比较精度(scale),而 compareTo() 方法比较的时候会忽略精度。
1.0 的 scale 是 1,1 的 scale 是 0,因此 a.equals(b) 的结果是 false。
compareTo() 方法可以比较两个 BigDecimal 的值,如果相等就返回 0,如果第 1 个数比第 2 个数大则返回 1,反之返回-1。
BigDecimal a = new BigDecimal("1");
BigDecimal b = new BigDecimal("1.0");
System.out.println(a.compareTo(b));//0