java浮点数精度问题

浮点数存储

在Java中,浮点数遵循IEEE 754标准,该标准规定了浮点数的表示方式。实际上,几乎所有语言都依据这个标准。

定点数和浮点数区别

比如用8位二进制位表示一个小数,先不考虑负数,如果用定点数表示,可以用前4位表示整数,后四位表示小数,小数点就固定了,数值始终是 整数部分.小数部分。如果用浮点数表示,用前4位表示指数(e),后4位表示尾数(M),数值就是 M × 2 e M\times2^{e} M×2e, 因为指数不同,代表尾数小数点要移动相应的位,所以叫浮点数。定点数一般很少用到,除非是一些特别的场景,比如实时系统中。

单精度(float) 存储:

占32位, 1位符号位(Sign),8位指数(Exponent), 23位尾数(Mantissa)

在这里插入图片描述
小数存储的时候先要规格化(normalize)
比如0.0175 规格化为 1.75 × 1 0 − 2 1.75\times10^{-2} 1.75×102, 符号位存0(代表正数), 指数部分就存 -2,规定指数部分有一个偏移127,实际存的指数是125,解析的时候指数为 125 − 127 = − 2 125-127=-2 125127=2, 尾数部分就存1.75,实际这些都是存储是二进制,尾数的二进制是1.11, 小数点前的1存储的时候不存储,解析的时候会加上,因为规格化后小数点前有且仅有一个1, 所以规定不存储,解析成浮点数的时候再把这个1加在小数点左边, 所以尾数就存11000…0 (23位)。
所以float从存储解析可以表示为
( − 1 ) 符号位 × 1. 尾数 × 2 指数 − 127 (−1)^{符号位}×1.尾数×2^{指数-127} (1)符号位×1.尾数×2

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大勇学

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值