论述:数值计算中的精度问题论述:数值计算中的精度问题
论述:数值计算中的精度问题更新历史20190323:首次发布(1−10÷9)(1-10\div9)(1−10÷9)等于多少?这个问题看上去很简单,我们可以很容易地得到:1−10÷9=1−1.11˙=−0.11˙1-10\div9 = 1-1.1\dot1 = -0.1\dot11−10÷9=1−1.11˙=−0.11˙可以看到,理论上的结果是一个无限循环的小数。如果...