文章目录
- 问题描述
- 解决方法
问题描述
浮点型运算在进行算术运算时与整数的算术运算结果有明显的差异。如：0.1+0.2=0.30000000000000004
原因在于浮点型数使用64位存储时，最多只能存储52位的小数位，对于一些存在无限循环的小数位浮点数，会截取前52位，从而丢失精度。
解决方法
将浮点数先乘以一定的数值转换为整数，通过整数进行运算，然后将结果除以相同的数值转换成浮点数后返回。
最后
以上就是妩媚砖头最近收集整理的关于基本数据类型 | 浮点型运算当中的运算精度问题问题描述解决方法的全部内容，更多相关基本数据类型内容请搜索靠谱客的其他文章。
本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
发表评论 取消回复