什么是单精度和双精度_单精度和双精度浮点数表示方法

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

什么是单精度和双精度_单精度和双精度浮点数表示方法

单精度是什么意思单精度数是指计算机表达实数近似值的一种方式。VB中Single(单精度浮点型)变量存储为IEEE 32 位(4 个字节)浮点数值的形式,它的范围在负数的时候是从-3.402823E38 到-1.401298E-45,而在正数的时候是从 1.401298E-45 到3.402823E38 。

双精度是什么意思在计算机里实数中的浮点数是以科学计数法存储,所以在存储和读取的时候需要考虑精度的问题,但是,由于数据的使用需要,也会有不同精度的需要,例如存储身高信息和存储卫星的飞行信息要求的精度必要是不一样的,再者,考虑存储信息的效率问题,同样大小的存储介质存储高精度的信息必然比低精度的信息要多,为了平衡,所有就有单精度float和双精度double,同样是61.1126537这个数,经过计算机处理后用float 存储和赌博了存储是不一样的。

浮点数的表示和精度如果a》0,那么1+a一定大于1吗?在数学上,答案是肯定的。但在计算机上,答案就与a的大小和浮点数的精度有关了。在matalb上,可以作以下计算:》》a=1/24

a =

2.220446049250313e-016

》》1+a》1

ans =

1

》》a=1/25

a =

1.110223024625157e-016

》》1+a》1

ans =

可见,当a等于1/25时,1+a》1是不成立的。

1 浮点数IEEE754定义了单精度浮点数和双精度数浮点数,即float和double。float有32bit,

相关文档
最新文档