本文探讨了Python中浮点数表示的原理，由于十进制小数不能精确转换为二进制浮点数，导致计算结果可能出现不精确的情况。Python的浮点数运算存在舍入误差，这可以从浮点数的二进制表示和相关函数如`as_integer_ratio()`、`hex()`和`math.fsum()`中得到体现。对于需要精确计算的场景，建议使用decimal或fractions模块。
什么是浮点数？
浮点数在计算机硬件中表示为以2为基数（二进制）的小数。
举例而言，十进制的小数0.125等于 1/10 + 2/100 + 5/1000 ，同理，二进制的小数0.001等于0/2 + 0/4 + 1/8。这两个小数具有相同的值，唯一真正的区别是第一个是以10为基数的小数表示法，第二个则是2为基数。
十进制小数与二进制小数的转换
大多数的十进制小数都不能精确地表示为二进制小数。所以在大多数情况下，十进制浮点数都只能近似地以二进制浮点数形式储存在计算机中。
对于一个分数1/3 。它在十进制下的一个近似值是0.3，或者0.33以及0.333等。无论你在后面加上多少个3，它都永远不会等于1/3 ，只是更加接近1/3 。
同理，无论你使用多少位二进制数，十进制的0.1都无法精确地表示为一个以2为基数的小数。 在二进制中，1/10 是一个无限循环小数0.0001100110011001100110011001100110011001100110011...。
因此在大部分情况下，
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
