js 处理小数的运算
程序开发
2023-09-06 11:28:44
首先要说明的是,不能正确处理小数的运算并不是 JavaScript
语言本身的设计错误,其它高级编程语言,如C,Java等,也是不能正确处理小数运算的。
//我们用计算器计算 21*0.9 = 18.9;
//在控制台计算 21*0.9 = 18.900000000000002;
/*我们都知道,用高级编程语言编写的程序需要经过解释、编译等操作转变成 CPU(Central Processing Unit) 可以识别的机器语言才能运行,而对 CPU 来说,它不识别数的十进制、八进制和十六进制等,我们在程序中声明的这些进制数都会被转成二进制数进行运算。
*/
console.log(21*0.9); //18.900000000000002
//例如保留三位小数向上取整
var item = Math.ceil(21*0.9*1000)/1000;
console.log(item); // 18.901
//解决方法:
var item1 = Math.ceil((21*10)*(0.9*10)/100*1000)/1000;
console.log(item1); // 18.9
说明:
计算内部使用二进制来计算,如果不想出现 21*0.9 = 18.900000000000002 这样的情况,我们需要在前端进行转换。
所以,解决方法就是进行转换 例如:(21*10)*(0.9*10)/100 = 18.9
这是我在控制台打印出来的:
标签:
上一篇:
linux版本下的myeclips,myeclipse for linux离线包下载-MyEclipse 2017 CI 6 离线安装包for Linux 最新版 - 极光下载站...
下一篇:
相关文章
-
无相关信息