C++浮点数float转int精度丢失解决

在编程中,当需要将浮点数转换为整数并保持精度时,可能会遇到因浮点数精度限制导致的误差。本文通过一个实例展示了在传递65.533时,直接转换会得到65532而不是期望的65533。解决方案是使用round()函数进行四舍五入,确保转换后的整数正确。此问题涉及到浮点数的内存表示和类型转换的细节。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

我在开发时,遇到这样一种场景:
1.需要传递浮点数, 将浮点数转成int或者uint类型传输。(固定条件不能改)
2.例如传递65.533, 那么把这个数乘以1000,变成65533,然后再传输。

遇到的问题是,我用float类型保存65.533,结果他在内存中的保存形式为65.5329971, 乘以1000然后取整变成了65532!
解决方法:经过他人指导,采用round()函数,将变量四舍五入,然后在转成整数就可以了。

    float tt = 65.533;
    int ans = static_cast<int>(1000*tt);        //65532
    int ans2 = static_cast<int>(round(1000*tt));    //65533

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值