今天发现两个float数据相减出现精度丢失问题
复制代码
1
2
3
4
5float newsw = 150f; float oldsw = 154.4f; float dv = oldsw - newsw; System.out.println(dv);
正常情况下应该输出4.4,结果却输出4.399994,经研究可以改成以下代码解决
复制代码
1
2
3
4
5
6
7float newsw = 150f; float oldsw = 154.4f; BigDecimal newbd = new BigDecimal(String.valueOf(newsw)); BigDecimal oldbd = new BigDecimal(String.valueOf(oldsw)); float dv = oldbd.subtract(newbd).floatValue(); System.out.println(dv);
最后
以上就是落寞火车最近收集整理的关于float数据相减出现精度丢失问题的全部内容,更多相关float数据相减出现精度丢失问题内容请搜索靠谱客的其他文章。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复