float数据相减出现精度丢失问题

93 阅读 0 评论 62 点赞

我是靠谱客的博主落寞火车，最近开发中收集的这篇文章主要介绍float数据相减出现精度丢失问题，觉得挺不错的，现在分享给大家，希望可以做个参考。

概述

今天发现两个float数据相减出现精度丢失问题


float newsw = 150f;
float oldsw = 154.4f;
float dv = oldsw - newsw;
System.out.println(dv);

正常情况下应该输出4.4，结果却输出4.399994，经研究可以改成以下代码解决


float newsw = 150f;
float oldsw = 154.4f;
BigDecimal newbd = new BigDecimal(String.valueOf(newsw));
BigDecimal oldbd = new BigDecimal(String.valueOf(oldsw));
float dv = oldbd.subtract(newbd).floatValue();
System.out.println(dv);

最后

以上就是落寞火车为你收集整理的float数据相减出现精度丢失问题的全部内容，希望文章能够帮你解决float数据相减出现精度丢失问题所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。

本文分类：Other
浏览次数：93 次浏览
发布日期：2023-11-14 01:25:04
本文链接：https://www.kaopuke.com/article/k-p-k_13_u_23_o_14_fz_12__23__14_y.html

float数据相减出现精度丢失问题

概述

最后

评论列表共有 0 条评论

发表评论取消回复

float数据相减出现精度丢失问题

概述

最后

相关文章

评论列表共有 0 条评论

发表评论 取消回复

发表评论取消回复