英俊黑猫

文章
6
资源
0
加入时间
3年0月9天

double精度丢失总结1、double的结构2、double的存储原理3、精度丢失示例4、解决方法

这里写自定义目录标题1、double的结构2、double的存储原理3、精度丢失示例4、解决方法1、double的结构(1)双进度:1位符号位,11位指数,52位小数。(2)%19.2lf:17位整数,2位小数,加小数点总长20.2、double的存储原理(1)数据在内存中是以二进制形式存储的;(2)小数在存储时,小数部分采用乘2取整的方法进行计算。 例如: ○ 有穷尽数据: 0.125变成二进制为: 0.125*2=0.25 ......取整0 0.25*2=0.5