老迟到黄豆

文章
6
资源
0
加入时间
2年10月21天

【小程序】解决浮点数精度损失问题

可以看到mathjs因为有更多科学计算的功能在里面,所以文件体积更大,而decimal.min.js甚至只有mathjs的1/20,所以如果只是做加减乘除的精确计算,强烈建议使用decimal.main.js。但在构建npm时发现mathjs出现非常多的问题,无法完成构建,即便构建完成了,在代码中导入时也出现了非常多的问题,因此不建议使用npm进行构建。查了一下,js自身没有decimal这样的库,查了一下,有博文说可以先将浮点数扩大至整数,计算完后再缩小至浮点数。看来没问题,开始在小程序中使用