我是靠谱客的博主 可耐灰狼,最近开发中收集的这篇文章主要介绍在小程序中关于js数字精度丢失的解决办法 使用:,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

我们在计算 0.1 + 0.1 正确结果是 0.2,但是计算 0.1 + 0.2 的结果并不是0.3,而是0.30000000000000004,0.58*100应该是58却显示57.999999999999999

这是由于JS 数字丢失精度的原因

方式一:

var aa=parseFloat((0.1 + 0.2).toPrecision(12))//12为保留几位小数
var bb=parseFloat((0.58 * 100).toPrecision(12))

    console.log(aa, 'aa')
    console.log(bb, 'bb')

 

方式二:(推荐)

 解决方式:把小数放到位整数(乘倍数),再缩小回原来倍数(除倍数)

//如: 0.1 + 0.2
(0.1*10 + 0.2*10) / 10 == 0.3 // true

我在utils文件夹下新建public_fun.js一个作为公用文件 

 

 public_fun.js内容如下

/*
 * 判断obj是否为一个整数
 */
function isInteger(obj) {
  return Math.floor(obj) === obj
}

/*
 * 将一个浮点数转成整数,返回整数和倍数。如 3.14 >> 314,倍数是 100
 * @param floatNum {number} 小数
 * @return {object}
 * {times:100, num: 314}
 */
function toInteger(floatNum) {
  var ret = { times: 0, num: 0 }
  if (isInteger(floatNum)) {
    ret.num = floatNum
    return ret
  }
  var strfi = floatNum + ''
  var dotPos = strfi.indexOf('.')
  var len = strfi.substr(dotPos + 1).length
  var times = Math.pow(10, len)
  var intNum = parseInt(floatNum * times + 0.5, 10)
  ret.times = times
  ret.num = intNum
  return ret
}

/*
 * 核心方法,实现加减乘除运算,确保不丢失精度
 * 思路:把小数放大为整数(乘),进行算术运算,再缩小为小数(除)
 *
 * @param a {number} 运算数1
 * @param b {number} 运算数2
 * @param digits {number} 精度,保留的小数点数,比如 2, 即保留为两位小数
 * @param op {string} 运算类型,有加减乘除(add/subtract/multiply/divide)
 *
 */
function operation(a, b, digits, op) {
  var o1 = toInteger(a)
  var o2 = toInteger(b)
  var max = o1.times > o2.times ? o1.times : o2.times
  var result = null
  switch (op) {
    case 'add':
      result = o1.num + o2.num
      break
    case 'subtract':
      result = o1.num - o2.num
      break
    case 'multiply':
      result = o1.num * o2.num
      break
    case 'divide':
      result = o1.num / o2.num
      break
  }
  return result / max
}

// 加减乘除的四个接口
function add(a, b, digits) {
  return operation(a, b, digits, 'add')
}
function subtract(a, b, digits) {
  return operation(a, b, digits, 'subtract')
}
function multiply(a, b, digits) {
  return operation(a, b, digits, 'multiply')
}
function divide(a, b, digits) {
  return operation(a, b, digits, 'divide')
}



export {
  add,
  subtract,
  multiply,
  divide
}

 

 使用:

 在需要用到的页面导入

import * as floatNum from '@/utils/public_fun'

使用 

结果 

 

 方式二:

最后

以上就是可耐灰狼为你收集整理的在小程序中关于js数字精度丢失的解决办法 使用:的全部内容,希望文章能够帮你解决在小程序中关于js数字精度丢失的解决办法 使用:所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(55)

评论列表共有 0 条评论

立即
投稿
返回
顶部