[转]浮点运算decimal.js

摘要:
在开发过程中,浮点运算是不可避免的。JavaScript浮点运算的精度会导致一些问题。JavaScript只有一种数字类型(number)。JavaScript采用IEEE754标准双精度浮点(64)。64位浮点数的符号为1位,指数为11位,存储52位浮点数。有时十进制在二进制中是无限的,因此它将从53位舍入(舍入规则为0到1),这导致了“浮点精度问题”(因为舍入规则有时大,有时小

开发过程中免不了有浮点运算,JavaScript浮点运算的精度问题会带来一些困扰

 JavaScript 只有一种数字类型 ( Number )

 JavaScript采用 IEEE 754 标准双精度浮点(64),64位中 1位浮点数中符号,11存储指数,52位存储浮点数的有效数字

 有时候小数在二进制中表示是无限的,所以从53位开始就会舍入(舍入规则是0舍1入),这样就造成了“浮点精度问题”(由于舍入规则有时大点,有时小点)

 下面用示例来看看

JavaScript加减乘除运算

  加法

 [转]浮点运算decimal.js第1张

[转]浮点运算decimal.js第2张 add.js 示例代码

  示例: 0.1 + 0.2 

  预期结果:0.3

  实际结果:0.30000000000000004

 减法

 [转]浮点运算decimal.js第3张

[转]浮点运算decimal.js第4张 sub.js示例代码

  示例: 1.0 - 0.7 

  预期结果:0.3

  实际结果:0.30000000000000004

 乘法

  [转]浮点运算decimal.js第5张

[转]浮点运算decimal.js第6张 mul.js示例代码

  示例: 1.01 * 1.003

  预期结果:1.01303

  实际结果:1.0130299999999999

 除法

 [转]浮点运算decimal.js第7张

[转]浮点运算decimal.js第8张 div.js示例代码

  示例: 0.029 / 10

  预期结果:0.0029

  实际结果:0.0029000000000000002

说明:以上加、减、乘、除示例分别演示了JavaScript运算结果(当然实际结果并不是我们想要的),为什么会出现这样的结果,前言中已经说明^_^!

decimal.js加减乘除运算

An arbitrary-precision Decimal type for JavaScript

      GITHUB:  https://github.com/MikeMcl/decimal.js

      API:  http://mikemcl.github.io/decimal.js/

      NPM:  https://www.npmjs.com/package/decimal.js

 先安装decimal.js

npm install --save decimal.js

 把上面的示例,用decimal.js运算一次,对比一下结果

 [转]浮点运算decimal.js第9张

转自:https://blog.csdn.net/qq3401247010/article/details/78784788

免责声明:文章转载自《[转]浮点运算decimal.js》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇阿里云直播服务 sdk demo phpatoi、stoi、strtoi区别下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

WKWebView和JS交互

 // 1.WKWebView的配置        WKUserContentController *userContentController = [[WKUserContentController alloc] init];        [userContentController addScriptMessageHandler:self name:...

Nodejs之路(一)—— Nodejs入门

不知不觉,现在已经习惯学一点东西,就写博客记录一下。这次学习Nodejs主要是在B站上看的视频教程,感觉讲的很是不错,所以我想把在看视频学习过程中的一些重要知识点记录下来方便以后自己快速查阅。 -----注:这系列博客记录的知识点主要来源于黑马程序员的Nodejs视频教程,博主只是简单手动进行了代码复现和知识点记录,侵删 一.Node是什么? 1.Node...

【Web前端开发最佳实践系列】前端代码推荐和建议

一、常用的前端文件的组织结构: 1、js (放置JavaScript代码)  lib(放置框架JavaScript文件)  custom.js 2、css(放置CSS样式代码)     lib(放置框架CSS文件)     images(放置用于样式中的背景图)     reset.css( 统一元素默认样式的样式文件)     custom.css...

Delphi float浮点值转换整型int 方法

Delphi float浮点值转换整型int 方法 Uses Math; var ff:Extended; begin ff:=5.16; ShowMessage(IntToStr(Trunc(aa))); //截取整数,小数不要 ShowMessage(IntToStr(Floor(aa)));...

Android使用WebView的简单使用

layout下 : webviewdemo.xml 文件 <?xml version="1.0" encoding="utf-8"?> <LinearLayout xmlns:android="http://schemas.android.com/apk/res/android" android:layout_width="fill_pa...

jQuery Mobile 1.3.0发布

jQuery基金会发布了旗下的JavaScript和HTML5/CSS框架jQuery Mobile 1.3.0。更新主要集中在响应式的web设计并新增了多个移动应用的widget。 响应式web设计(RWD)旨在提供最佳的用户浏览体验,不管使用的是什么设备、什么浏览器。RWD使用CSS媒体查询(media queries)语言在浏览器中动态适配页面布局,...