素材巴巴 > 程序开发 >

js 处理小数的运算

程序开发 2023-09-06 11:28:44

首先要说明的是,不能正确处理小数的运算并不是 JavaScript
语言本身的设计错误,其它高级编程语言,如C,Java等,也是不能正确处理小数运算的。

//我们用计算器计算 21*0.9 = 18.9;
 //在控制台计算  21*0.9 = 18.900000000000002;
 /*我们都知道,用高级编程语言编写的程序需要经过解释、编译等操作转变成 CPU(Central Processing Unit) 可以识别的机器语言才能运行,而对 CPU 来说,它不识别数的十进制、八进制和十六进制等,我们在程序中声明的这些进制数都会被转成二进制数进行运算。
 */
 console.log(21*0.9);   //18.900000000000002
 //例如保留三位小数向上取整
 var item = Math.ceil(21*0.9*1000)/1000;
 console.log(item);  // 18.901
 //解决方法:
 var item1 = Math.ceil((21*10)*(0.9*10)/100*1000)/1000;
 console.log(item1);  // 18.9

说明:

计算内部使用二进制来计算,如果不想出现 21*0.9 = 18.900000000000002 这样的情况,我们需要在前端进行转换。
所以,解决方法就是进行转换 例如:(21*10)*(0.9*10)/100 = 18.9

这是我在控制台打印出来的:
这里写图片描述


标签:

素材巴巴 Copyright © 2013-2021 http://www.sucaibaba.com/. Some Rights Reserved. 备案号:备案中。