我是靠谱客的博主 落寞火车,这篇文章主要介绍float数据相减出现精度丢失问题,现在分享给大家,希望可以做个参考。

今天发现两个float数据相减出现精度丢失问题

复制代码
1
2
3
4
5
float newsw = 150f; float oldsw = 154.4f; float dv = oldsw - newsw; System.out.println(dv);

正常情况下应该输出4.4,结果却输出4.399994,经研究可以改成以下代码解决

复制代码
1
2
3
4
5
6
7
float newsw = 150f; float oldsw = 154.4f; BigDecimal newbd = new BigDecimal(String.valueOf(newsw)); BigDecimal oldbd = new BigDecimal(String.valueOf(oldsw)); float dv = oldbd.subtract(newbd).floatValue(); System.out.println(dv);



 

最后

以上就是落寞火车最近收集整理的关于float数据相减出现精度丢失问题的全部内容,更多相关float数据相减出现精度丢失问题内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(77)

评论列表共有 0 条评论

立即
投稿
返回
顶部