浮点数的舍入处理 前言: 计算机在表示一个小数时,一般假定规格化前的数为 P+g 位,P时有效位字长,g是有效位字长之后的的代码长度.比如说 0.xxxxx|010100 在这里,红的表示P, 绿的表示g,1. 恒舍法顾名思义,就是把绿的全部抛弃. 这样处理好处很显然,简单嘛,不管三七二十一,扔了就完了.但是问题也很突出,就是精度有问题.这种方法误差是最大的,在精度有那么一丢丢要求的地发都会被嫌弃.... 体系结构 2023-06-08 46 点赞 0 评论 69 浏览
