活泼苗条

文章
3
资源
0
加入时间
2年10月21天

为什么浮点型运算结果会有误差?

如var a=0.65; var b=0.6; console.log(a-b)==0.05???错 a-b=0.050000000000000044为什么?其根本原因在于计算机所使用的01代码无法准确地表示某些带小数的十进制数据。下面我们来分析下:  我们知道将一个十进制数值转换为二进制数值,需要通过下面的计算方法:  1. 整数部分:连续用...