为什么大部分小数在计算机中是不精确的

本文探讨计算机如何处理十进制小数转换为二进制时的精度问题,重点讲解了Float和Double类型在无限循环中导致的精度丢失,通过实例解析了12.25和12.615转换过程中的不精确性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

        计算机使用二进制运算,程序中的十进制数字先转换成二进制,再进行运算。Float和Double的小数部分在转换为二进制时容易产生无限循坏的情况,通常都是取无限接近于原值的近似值,所以导致出现精度丢失的情况。

例如:十进制小数转换为二进制小数:

                    十进制小数:12.25

                     二进制小数:(整数转整数,小数转小数)

                                              12转换为二进制为1100

                                               0.25转换为二进制        0.25*2=0.5

                                                                                    0.5*2=1.0

                      二进制小数:1100.01

例如:              十进制小数:12.615                     

                       二进制小数:(整数转整数,小数转小数)

                                              12转换为二进制为1100

                                               0.615转换为二进制        0.615*2=1.23

                                                                                      0.23*2=0.46

                                                                                      0.46*2=0.92

                                                                                      0.92*2=1.84

                                                                                      0.84*2=1.68

                                                                                      0.68*2=1.36   

                                                                                      1.36*2=0.72

                                                                                       0.72*2=1.44        .......

                        二进制小数:1100.10011101(保留了后八位)

                        在这种情况下的转换就是不精确的,产生了无限循坏的情况。

                                                                                   

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值