matlab工作空间显示精度,matlab中的显示精度

matlab中的显示精度问题

matlab中的显示精度问题

format：设置输出格式

对浮点性变量，缺省为format short.

format并不影响matlab如何计算和存储变量的值。对浮点型变量的计算，即单精度或双精度，按合适的浮点精度进行，而不论变量是如何显示的。对整型变量采用整型数据。整型变量总是根据不同的类(class)以合适的数据位显示，例如，3位数字显示显示int8范围 -128：127。format short, long不影响整型变量的显示。

format long 显示15位双精度，7为单精度(scaled fixed point)

format short 显示5位(scaled fixed point format with 5 digits)

format short eng   至少5位加3位指数

format long eng  16位加至少3位指数

format hex   十六进制

format bank  2个十进制位

format +     正、负或零

format rat   有理数近似

format short 缺省显示

format long g  对双精度，显示15位定点或浮点格式，对单精度，显示7位定点或浮点格式。

format short g  5位定点或浮点格式

format short e  5位浮点格式

format long e  双精度为15位浮点格式，单精度为7为浮点格式

int8 显示范围-128：127，stored integer为raw 二进制数

real-world value=2^(-fraction length)* stored integer,或者，等价的：

real-world value=(slope*stored integer)+bias

Operation

OutputRange

Output Type

Bytes per Element

Output Class

int8

-128 ~ 127

Signed 8-bit integer

1

int8

int16

-32,768 ~ 32,767

Signed 16-bit integer

2

int16

int32

-2,147,483,648 ~ 2,147,483,647

Signed 32-bit integer

4

int32

int64

-9,223,372,036,854,775,808~ 9,223,372,036,854,775,807

Signed 64-bit integer

8

int64