我是靠谱客的博主 刻苦小丸子,最近开发中收集的这篇文章主要介绍java BigDecimal 的 setScale() 方法的 BigDecimal.ROUND_DOWN 舍入模式的BUG,坑,觉得挺不错的,现在分享给大家,希望可以做个参考。
概述
因为项目使用到 BigDecimal.ROUND_DOWN 接近零的舍入模式 ,没想到有一个 使用的坑。 下面来例子说明:
String add = "67.80";
System.out.println(add.toString());
BigDecimal t = new BigDecimal(Double.valueOf(add));
System.out.println(t.toString());// 67.7999999999999971578290569595992565155029296875
System.out.println(t.setScale(2, BigDecimal.ROUND_DOWN));// 67.79
System.out.println(t.setScale(2, BigDecimal.ROUND_HALF_UP));// 67.80
可以看到 , 如果 BigDecimal 是由 double 来构造的,那么 使用 ROUND_DOWN 的时候,有时候会 发现 比实际的 值会小一点, 这就坑大了。 除非 是 值的小数点要比 直接 的小数位 多一些。 比如 String add = "67.802"; 这样的, 就可以。
如果是 使用 String 类型的就没有这样的问题。
String add = "67.80";
System.out.println(add);
BigDecimal t = new BigDecimal(add);
System.out.println(t.toString());// 67.80
System.out.println(t.setScale(2, BigDecimal.ROUND_DOWN));// 67.79
System.out.println(t.setScale(2, BigDecimal.ROUND_HALF_UP));// 67.80
如果要避免的话 double , 可以使用 Double.toString() 方法来构造 BigDecimal
String add = "67.80";
System.out.println(add.toString());
BigDecimal t = new BigDecimal(Double.toString(new Double(add)));
System.out.println(t.toString());// 67.80
System.out.println(t.setScale(2, BigDecimal.ROUND_DOWN));// 67.80
总结
BigDecimal 的问题的,避免不了,只能说 使用其他方式了,记在心上。 因此 构造 BigDecimal 尽量不要使用 double 了。
转载于:https://my.oschina.net/ouminzy/blog/1797915
最后
以上就是刻苦小丸子为你收集整理的java BigDecimal 的 setScale() 方法的 BigDecimal.ROUND_DOWN 舍入模式的BUG,坑的全部内容,希望文章能够帮你解决java BigDecimal 的 setScale() 方法的 BigDecimal.ROUND_DOWN 舍入模式的BUG,坑所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复