浮点型精度分析

92 阅读 0 评论 61 点赞

我是靠谱客的博主贤惠芹菜，这篇文章主要介绍浮点型精度分析，现在分享给大家，希望可以做个参考。

科学计数法

复制代码

1
2
3
1.233E23，E大概是exponent指数，阶码。
分为三部分，整数部分为1的因数，E是进制阶数，后边是指数

二进制和十进制转换

二进制转10进制

复制代码

1
2
3
自然语言中以十进制为主，将十进制作为基坐标更加容易理解
例

复制代码

1
2
3
4
5
6
7
8
9
二进制
1.1 ===> 十进制
加权系数展开
//整数部分
1*2
//小数部分
1*2
//结果

10进制转二进制

复制代码

1
2
十进制和二进制转换分为小数部分和整数部分

复制代码

1
2
3
4
5
6
7
8
9
十进制2.5 ====>二进制
//整数部分,除2取余，逆序排列
2|2
---1
---
0
//小数部分，乘2取整，顺序排列
2*0.5 =1.0
----1

浮点数内存模型

复制代码

1
2
3
4
5
6
7
8
- 内存模型
符号位| 指数位 | 尾数部分
- 原理--单精度为例
- 仍以十进制为基坐标分析，先将十进制数据转换到二进制科学计数。如 1.0101*2^13.
- 23位尾数表示24位精度原理， 因为整数总是1，不用表示前面的整数1，表示精度的时候把他加上就24了。
- 然后十进制9的二进制表示是1001，大概4位二进制表示一位十进制有效数字，那么单精度大概可以表示十进制6位有效数字
- 指数位基数？？？