计算机浮点数——修约

计算机存储浮点数,遵循IEEE754标准。对于保留小数位,遵循“修约”规则。
修约:四舍六入五凑偶。对于保留 nnn 位小数,则看第 n+1n+1n+1 位。

第n位={第n位,第n+1位≤4第n位+1,第n+1位≥6第n位+1,第n+1位=5,且∃第n+2位第n位+1,第n+1位=5,且∄第n+2位,第n−1位为奇数第n位,第n+1位=5,且∄第n+2位,第n−1位为偶数第n位=\begin{cases}第n位, & 第n+1位\le 4\\ 第n位+1, & 第n+1位\ge 6\\ 第n位+1, & 第n+1位=5,且 \exists 第n+2位\\ 第n位+1, & 第n+1位=5,且\nexists第n+2位,第n-1位为奇数\\ 第n位, & 第n+1位=5,且\nexists第n+2位,第n-1位为偶数\end{cases}n=n,n+1,n+1,n+1,n,n+14n+16n+1=5,n+2n+1=5,n+2,n1位为奇数n+1=5,n+2,n1位为偶数

并舍弃第 n+1n+1n+1 位及其之后的所有位。对于第n+1n+1n+1=5=5=5的情形可概括为:瞻前顾后,奇进偶舍

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值