概述
文章目录
- 问题描述
- 解决方法
问题描述
浮点型运算在进行算术运算时与整数的算术运算结果有明显的差异。如：0.1+0.2=0.30000000000000004
原因在于浮点型数使用64位存储时，最多只能存储52位的小数位，对于一些存在无限循环的小数位浮点数，会截取前52位，从而丢失精度。
解决方法
将浮点数先乘以一定的数值转换为整数，通过整数进行运算，然后将结果除以相同的数值转换成浮点数后返回。
最后
以上就是妩媚砖头为你收集整理的基本数据类型 | 浮点型运算当中的运算精度问题问题描述解决方法的全部内容，希望文章能够帮你解决基本数据类型 | 浮点型运算当中的运算精度问题问题描述解决方法所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
发表评论 取消回复