我是靠谱客的博主 喜悦篮球,最近开发中收集的这篇文章主要介绍关于BigDecimal的大坑,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

  • 背景:

判断金额为0情况下,不处理业务;

  • 问题

业务数据是一个快照(json格式存储),其中有一个金额为0.00,转换为对象中的某个属性(BigDecimal类型) 后 用

BigDecimal.ZERO.equals(amount)

判断 出问题,两者不等。

先看BigDecimal equals 源码:

@Override
public boolean equals(Object x) {
    if (!(x instanceof BigDecimal))
        return false;
    BigDecimal xDec = (BigDecimal) x;
    if (x == this)
        return true;
    if (scale != xDec.scale)
        return false;
    long s = this.intCompact;
    long xs = xDec.intCompact;
    if (s != INFLATED) {
        if (xs == INFLATED)
            xs = compactValFor(xDec.intVal);
        return xs == s;
    } else if (xs != INFLATED)
        return xs == compactValFor(this.intVal);

    return this.inflated().equals(xDec.inflated());
}

首先根据地址,然后根据精度判断。

再来看看下面几个判断:

113613_kw2N_2401092.png

debug 状态下比较:

114235_Trz1_2401092.png114309_g6XV_2401092.png

  • 解决方案:

用b.compareTo(BigDecimal.ZERO)==0,可以比较是否等于0

compareTo方法:

114547_tE3d_2401092.png

  • 结论:

对于BigDecimal的大小比较,用equals方法的话会不仅会比较值的大小,还会比较两个对象的精确度,而compareTo方法则不会比较精确度,只比较数值的大小

转载于:https://my.oschina.net/u/2401092/blog/1621562

最后

以上就是喜悦篮球为你收集整理的关于BigDecimal的大坑的全部内容,希望文章能够帮你解决关于BigDecimal的大坑所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(43)

评论列表共有 0 条评论

立即
投稿
返回
顶部