知识储备

栏目: JavaScript · 发布时间: 6年前

内容简介:浮点数的存储规则:
  1. Js的有7中内置类型,又分为6种基本类型和1个Object类型。6种基本类型是string、number、boolean、symbol、null、undefined。number类型是浮点类型,没有整型。浮点类型是基于IEEE754标准实现。NaN属于number,NaN不等于NaN。
  2. 0.1 + 0.2 = 0.30000000000000004 问题,参考链接: https://github.com/camsong/bl...

浮点数的存储规则:

知识储备

知识储备

知识储备

  • 符号位S:第 1 位是正负数符号位(sign),0代表正数,1代表负数
  • 指数位E:中间的 11 位存储指数(exponent - 1023),用来表示次方数
  • 尾数位M:最后的 52 位是尾数(mantissa),超出的部分自动进一舍零

展示精度问题的数据时:

function strip(num, precision = 12) {
  return +parseFloat(num.toPrecision(precision));
}
toPrecision
toFixed

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

数学模型选谈

数学模型选谈

华罗庚//王元 / 大连理工大学出版社 / 2011-5 / 25.00元

《走向数学丛书03-数学模型选谈》,本书主要介绍了关于在等高线图上计算矿藏储量与坡地面积的问题、挂轮问题、挂轮问题、优选法(单、多因素)、黄金数与数值积分和统筹方法等数学模型问题。一起来看看 《数学模型选谈》 这本书的介绍吧!

随机密码生成器
随机密码生成器

多种字符组合密码

SHA 加密
SHA 加密

SHA 加密工具

XML 在线格式化
XML 在线格式化

在线 XML 格式化压缩工具