我是靠谱客的博主 无私夏天,最近开发中收集的这篇文章主要介绍BigDecimal进行浮点数精确计算错误用法和正确用法前言发现问题分析原因拓展总结,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

前言

通常商业计算涉及到小数的,我们都会使用BigDecimal来完成加减乘除运算。但是利用BigDecimal进行浮点数精确运算时,需要注意使用正确的方法。如果方法选择不当,依旧会发生错误。

发现问题

在这里插入图片描述
测试BigDecimal的两种构造方法,发现浮点运算的结果不同。
利用BigDecimal.valueOf方法构造对象的方法,获得的浮点数发生了精度异常。
利用new BigDecimal(String val)方法,运算正确。

分析原因

查看BigDecimal.valueOf源码,我们可以发现问题。BigDecimal.valueOf(9.9f),实际调用的方法是:java.math.BigDecimal#valueOf(double)。如下图所示。
在这里插入图片描述
比我们想象的多了一步强制类型转换的动作。9.9f会被强制转换成double类型。测试这个强制转换,我们可以发现问题,其实出在强制转换这里。强制转换结果如下图所示。
在这里插入图片描述

拓展

假如参数是double类型,我们使用BigDecimal.valueOf(…)可以吗?
在这里插入图片描述
看结果是没问题的。但是,注意BigDecimal.valueOf(…)的源码,其内部依然是把入参转换了double数据对应的字符串。
假如直接使用new BigDecimal(double val)构造函数来进行运算,则会发现计算结果发生来精度异常。如下图所示。
在这里插入图片描述
可以看到jdk内部的注释,已经说明,new BigDecimal(double val)方法得到的结果是不可预知的。推荐使用入参类型为String的构造函数来进行浮点数的精确计算。
在这里插入图片描述

总结

1、在使用BigDecimal进行科学运算的时候,我们需要清楚,BigDecimal.valueOf(…)和new BigDecimal(…)的使用效果不同。当BigDecimal.valueOf(…)的入参是float类型时,BigDecimal会把入参强制转换成double类型。
2、使用new BigDecimal(String val)来获得浮点数对应的BigDecimal对象,进而完成浮点数精确运算。

最后

以上就是无私夏天为你收集整理的BigDecimal进行浮点数精确计算错误用法和正确用法前言发现问题分析原因拓展总结的全部内容,希望文章能够帮你解决BigDecimal进行浮点数精确计算错误用法和正确用法前言发现问题分析原因拓展总结所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(59)

评论列表共有 0 条评论

立即
投稿
返回
顶部