加入收藏 | 设为首页 | 会员中心 | 我要投稿 汽车网 (https://www.0577qiche.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 教程 > 正文

浮点数精度问题介绍

发布时间:2023-03-14 08:49:33 所属栏目:教程 来源:
导读:有关浮点数的精度是一个老生常谈的问题了。

面试题中这个知识点出现的频率非常高:

+ === // false
其中可以参阅 数字 章节。

这个问题很少会有面试官进一步的进行考察,如 “怎样让计算结果正确&
有关浮点数的精度是一个老生常谈的问题了。

面试题中这个知识点出现的频率非常高:

 +  ===  // false
其中可以参阅 数字 章节。

这个问题很少会有面试官进一步的进行考察,如 “怎样让计算结果正确”,最常见的解决方案有两个:

计算过程中将数字转成整数计算
使用第三方库
第一个方案很好理解,将 0.1 与 0.2 扩大 10 倍,相加后再相除就得到了正确的结果:

(( * ) + ( * )) /  ===  // true
如果存在两位小数,则同时放大 100倍,计算后再缩小 100倍 就可以了。

第二个方案可以有很多选择,这里列出了几个常用的第三方库:

bignumber.js
math.js
big.js

(编辑:汽车网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章