概述
背景
项目里最近新增了一个 Excel 导入功能,要求:保存 Excel 展示出来的数据。
原格式如下:
你以为所见即所得吗?不不不,我们看到的数据实际上是 Excel 做了显示隐藏的功能,程序读出来的确实原始数据,比如【76.3%】这个数据,实际长这样【0.763490452069129】。
实际格式如下:
为了实现业务的需求,同时保证字符串的处理精度,我们在业务层用 BigDecimal 函数对 EasyExcel 读到的数据做了一层预处理。
预处理代码如下:
private String dataFormat_2(String num) {
return new BigDecimal(num).setScale(3, BigDecimal.ROUND_UP) + "";
}
问题
从 Excel 的原始数据可以看出,业务方需要我们的处理格式为:四舍五入,保留3位小数。但是,使用上述手段的实际处理却没有达到预期,因为个别数据与与其不符。比如:数据【0.763490452069129】按要求应为【0.763】,实际转换结果为【0.764】。
后来仔细查询了 BigDecimal 的官方文档,明白是用错了方法导致的,希望小伙伴们不要犯同样的错误,真正的四舍五入应该用【ROUND_HALF_UP】:
private String dataFormat_1(String num) {
return new BigDecimal(num).setScale(3, BigDecimal.ROUND_HALF_UP) + "";
}
两种方法的导入结果做了对比:
总结
BigDecimal 的舍位运算 setScale(scale, roundingMode)方法中:scale表示精确位数,roundingMode表示舍入模式。其中,【舍入模式】常见的模式有四种:
- ROUND_UP:进位制,不管保留数字后面是大是小(0除外)都会进位;
- ROUND_DOWN:保留设置数字,后面所有直接去除;
- ROUND_HALF_UP:根据保留数字后一位进行四舍五入( >=5 进位);
- ROUND_HALF_DOWN:根据保留数字后一位进行四舍五入(>5进位)。
// 舍位运算
@Test
public void testCarry() {
BigDecimal bigNum = new BigDecimal("2.35");
//进位处理,2.31变成2.4
System.out.println("ROUND_UP:"+bigNum.setScale(1,BigDecimal.ROUND_UP));
//直接删除多余的小数位,如2.35会变成2.3
System.out.println("ROUND_DOWN:"+bigNum.setScale(1,BigDecimal.ROUND_DOWN));
//四舍五入,2.35变成2.4
System.out.println("ROUND_HALF_UP:"+bigNum.setScale(1,BigDecimal.ROUND_HALF_UP));
//五舍六入,2.35变成2.3
System.out.println("ROUND_HALF_DOWN:"+bigNum.setScale(1,BigDecimal.ROUND_HALF_DOWN));
//不建议使用的.setScale(1)方法
System.out.println("setScale:"+bigNum.setScale(2));
}
BigDecimal的详细用法,见博客:
Java中BigDecimal类的使用方法详解,常用最全系列!_Java Punk的博客-CSDN博客Java在java.math包中提供的API类BigDecimal,用来对超过16位有效位的数进行精确的运算。对于Double类型的运算,通常使用此类处理,来有效避免精度问题。我们从以下五个功能点,来细说使用方法和注意事项:正文:基本运算注意事项:BigDecimal的加减乘除操作,其实最终返回的都是一个新的BigDecimal对象,因为BigDecimal都是不可变的的(BigInte...https://blog.csdn.net/weixin_44259720/article/details/87001849希望可以帮到你 ~ ~ ~
最后
以上就是甜甜口红为你收集整理的由 BigDecimal 舍入算法引发的血案:ROUND_HALF_UP 与 ROUND_UP的全部内容,希望文章能够帮你解决由 BigDecimal 舍入算法引发的血案:ROUND_HALF_UP 与 ROUND_UP所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
发表评论 取消回复