我是靠谱客的博主 敏感绿茶,最近开发中收集的这篇文章主要介绍Java浮点数精度丢失及解决方法,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

 首先 众所周知 1-0.9 的结果为0.1

 但是由图可知道 实际结果并不为0.1

这是因为程序 中十进制数字优先转化为二进制,然后再进行运算,Float和Double 小数由于是IEEE754,而IEEE754是浮点数运算标准,为许多CPU与浮点运算器所采用。容易出现无限不循环的情况,导致精度丢失。

所以当我们在金融、工程。科学领域,对计算数值的精度要求较高时,为了避免计算结果不精确,往往采用BigInteger和BigDecimal+字符串来解决精度丢失的问题。

采用构造方法创建BigInteger和BigDecimal对象,当初始化时应该采用String,因为用double时为近似值。

当浮点数超出范围时(溢出时)结果为Infity(无穷)

 输出结果时,在IntValue,LongValue后加Exact,若产生溢出,则会抛出异常。BigInteger out of long range。

 

 

最后

以上就是敏感绿茶为你收集整理的Java浮点数精度丢失及解决方法的全部内容,希望文章能够帮你解决Java浮点数精度丢失及解决方法所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(75)

评论列表共有 0 条评论

立即
投稿
返回
顶部