web前端入门到实战:JS浮点数值问题-创新互联
一、JS能够正确表示的整数
Math.pow(2,53) //即9007199254740996
"9007199254740996".length //16
9007199254740993 // 9007199254740992
备注:
成都创新互联公司专注于企业网络营销推广、网站重做改版、青山网站定制设计、自适应品牌网站建设、H5建站、购物商城网站建设、集团公司官网建设、成都外贸网站建设、高端网站制作、响应式网页设计等建站业务,价格优惠性价比高,为青山等各大城市提供网站开发制作服务。1. 2的53次方,并不是按数值长度设置的,
2. 总数量级为百万亿
3. 超出会显示,但是不正常(表现为max+1=max;输入16~21之间位数的9会直接往上+1等;)所以不能用于正常计算
4.21位会显示1e+21
安全值判断(ES6)Number.isSafeInteger(num):
Number.isSafeInteger(9007199254740993) // false (存在一个边界问题)
Number.isSafeInteger(990) // true
Number.isSafeInteger(9007199254740993 - 990) // true
9007199254740993 - 990
// 返回结果 9007199254740002
// 正确答案应该是 9007199254740003
二、浮点型数
9007199254700.3333 //9007199254700.334
"9007199254700.334".length //17(包含小数点)
.000001 //0.000001
.0000001 //1e-7
1.0000001 //1.0000001
9.0071992547409919 //9.007199254740993
备注:
1. 并不是两边都是2的53次方而是合在一起
2. 一起共16位,超出向上取整,
3. 如果小数位数超出,不一定是截断还是向上进,如上
3. 0.000001会显示1e-7,但前面带个整数就不会了
以上仅表示一些测试现象,留做注意和参考
三、位运算(32位)
JS里面尽管能够正确表示的数值量在2^53,但是位运算能够正常运算的范围却依然是32位,第一位为符号位,所以是2^31,转成10位的边界值是(2147483648)。
~~2147483647
2147483647
~~2147483648
-2147483648
~~2147483649
-2147483647
~~2147483650
-2147483646
备注:
1. JS的位移运算符有:(|,&,<<,>>,~,^) ,要特别注意使用时候的位数限制
2. 如上的按位取反运算可以看出,超出部分会变成负数往后减
四 、两位小数价格的处理方式
一般处理方式都是转整以后运算,再除以100,例如:
const priceMultiply=(a,b)=>(a*b*100+.5|0)/100; //乘法
priceMultiply(18.12,10) //181.2 //后面不带0的数字
(18.12*10).toFixed(2) //181.20 //后面带0的字符串
web前端开发学习Q-q-u-n:⑦⑧④-⑦⑧③-零①② ,分享学习的方法和需要注意的小细节,不停更新最新的教程和学习方法
(从零基础开始到前端项目实战教程,学习工具,职业规划)
备注:这里要注意toFixed()函数的语法:
NumberObject.toFixed(num)
所以写之前需要保证toFixed的对象是数字,否则会报错
//报错情况:
(null).toFixed(2)
(undefined).toFixed(2)
("222.333").toFixed(2)
//特殊:NaN是数字,但是无法取小数,也并不会报错
(NaN).toFixed(2) //"NaN"
另外有需要云服务器可以了解下创新互联cdcxhl.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
新闻名称:web前端入门到实战:JS浮点数值问题-创新互联
文章源于:http://pwwzsj.com/article/ccccpe.html