JS超出精度数字问题怎么办,处理思路是什么
Admin 2022-09-16 群英技术资讯 743 次浏览
这篇文章主要讲解了“JS超出精度数字问题怎么办,处理思路是什么”,文中的讲解内容简单、清晰、详细,对大家学习或是工作可能会有一定的帮助,希望大家阅读完这篇文章能有所收获。下面就请大家跟着小编的思路一起来学习一下吧。比如一个数 1÷3=0.33333333...... 大家都知道3会一直无限循环,数学可以表示,但是计算机要存储,方便下次取出来再使用,但0.333333...... 这个数 无限循环,你让计算机怎么存储?计算机再大的内存它也存不下,对吧! 所以不能存储一个相对于数学来说的值,只能存储一个近似值,所以当计算机存储后再取出来用时就会出现精度问题。
一、js 最大安全数字是 Math.pow(2,53) - 1,超出这个数字相加会出现精度丢失问题,可通过将数字转换为字符串操作的思路处理,如下:
// js 最大安全数字: Math.pow(2, 53)-1
let a = '123456444565456.889'
let b = '121231456.32'
// a + b = '123456565796913.209'
function addTwo(a, b) {
//1.比较两个数长度 然后短的一方前面补0
if (a.length > b.length) {
let arr = Array(a.length - b.length).fill(0);
b = arr.join('') + b
} else if (a.length < b.length) {
let arr = Array(b.length - a.length).fill(0);
a = arr.join('') + a
}
//2.反转两个数 (这里是因为人习惯从左往右加 而数字相加是从右到左 因此反转一下比较好理解)
a = a.split('').reverse();
b = b.split('').reverse();
//3.循环两个数组 并进行相加 如果和大于10 则 sign = 1,当前位置的值为(和%10)
let sign = 0;//标记 是否进位
let newVal = [];//用于存储最后的结果
for (let j = 0; j < a.length; j++) {
let val = a[j] / 1 + b[j] / 1 + sign; //除1是保证都为数字 这里也可以用Number()
if (val >= 10) {
sign = 1;
newVal.unshift(val % 10) //这里用unshift而不是push是因为可以省了使用reverse
} else {
sign = 0;
newVal.unshift(val)
}
}
// 最后一次相加需要向前补充一位数字 ‘1'
return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('')
}
// 参考其他朋友的精简写法
function addTwo(a,b) {
let temp = 0
let res = ''
a = a.split('')
b = b.split('')
while(a.length || b.length || temp) {
temp += Number(a.pop() || 0) + Number(b.pop() || 0)
res = (temp%10) + res
temp = temp > 9
}
return res.replace(/^0+/g, '')
}
二、当涉及到带有小数部分相加时,对上面方法进行一次封装,完整实现如下:
let a = '123456444565456.889'
let b = '121231456.32'
// a + b = '123456565796913.209'
function addTwo(a = '0',b = '0', isHasDecimal=false) {
//1.比较两个数长度 然后短的一方前面补0
if (a.length > b.length) {
let arr = Array(a.length - b.length).fill(0);
b = isHasDecimal && (b + arr.join('')) || arr.join('') + b
} else if (a.length < b.length) {
let arr = Array(b.length - a.length).fill(0);
a = isHasDecimal && (a + arr.join('')) || arr.join('') + a
}
//2.反转两个数 (这里是因为人习惯从左往右加 而数字相加是从右到左 因此反转一下比较好理解)
a = a.split('').reverse();
b = b.split('').reverse();
//3.循环两个数组 并进行相加 如果和大于10 则 sign = 1,当前位置的值为(和%10)
let sign = 0;//标记 是否进位
let newVal = [];//用于存储最后的结果
for (let j = 0; j < a.length; j++) {
let val = a[j] / 1 + b[j] / 1 + sign; //除1是保证都为数字 这里也可以用Number()
if (val >= 10) {
sign = 1;
newVal.unshift(val % 10) //这里用unshift而不是push是因为可以省了使用reverse
} else {
sign = 0;
newVal.unshift(val)
}
}
// 最后一次相加需要向前补充一位数字 ‘1'
return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('')
}
function add(a,b) {
let num1 = String(a).split('.')
let num2 = String(b).split('.')
let intSum = addTwo(num1[0], num2[0])
let res = intSum
if (num1.length>1 || num2.length > 1) {
let decimalSum = addTwo(num1[1], num2[1], true)
if (decimalSum.length > (num1[1]||'0').length && decimalSum.length > (num2[1]||'0').length) {
intSum = addTwo(intSum, decimalSum[0])
decimalSum = decimalSum.slice(1)
res = `${intSum}.${decimalSum}`
} else {
res = `${intSum}.${decimalSum}`
}
}
return res
}
console.log(add(a, b)) // 123456565796913.209
// console.log(add('325', '988')) // 1313
// 加法 =====================
0.1 + 0.2 = 0.30000000000000004
0.7 + 0.1 = 0.7999999999999999
0.2 + 0.4 = 0.6000000000000001
// 减法 =====================
1.5 - 1.2 = 0.30000000000000004
0.3 - 0.2 = 0.09999999999999998
// 乘法 =====================
19.9 * 100 = 1989.9999999999998
0.8 * 3 = 2.4000000000000004
35.41 * 100 = 3540.9999999999995
// 除法 =====================
0.3 / 0.1 = 2.9999999999999996
0.69 / 10 = 0.06899999999999999
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:mmqy2019@163.com进行举报,并提供相关证据,查实之后,将立刻删除涉嫌侵权内容。
猜你喜欢
这篇文章主要讲解JavaScript严格模式不支持八进制的问题,本文围绕JavaScript严格模式展开内容,详细介绍为什么JavaScript严格模式不支持八进制,下面来看看详细介绍,需要的朋友可以参考一下
Vue开发环境跨域访问问题,Vue开发环境跨域访问其他服务器或者本机其他端口,需要配置项目中config/index.js文件,修改如下
这篇文章主要介绍了nodejs将JSON字符串转化为JSON对象报错的解决方案,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
一、说一下连接不同的数据库需要安装相应的插件,此demo使用mysql数据库,需自行安装mysql数据库软件。新建数据库webapp,新建表users:二、直接开码npminstallmysql--save注释:安装mysql依赖包,保存在本项目1、测试尝试连接数据库,并查询表users在app.js中,随便找个位置添加如下测试代码,测
本篇文章给大家介绍一下javascript比较运算符(“===”和“==”)的匹配规则,以及if()条件的判断结果,希望对大家有所帮助!
成为群英会员,开启智能安全云计算之旅
立即注册Copyright © QY Network Company Ltd. All Rights Reserved. 2003-2020 群英 版权所有
增值电信经营许可证 : B1.B2-20140078 粤ICP备09006778号 域名注册商资质 粤 D3.1-20240008