当前位置:新励学网 > 秒知问答 > 浮点数有效位

浮点数有效位

发表时间:2024-07-27 23:38:44 来源:网友投稿

一个浮点数由三部分组成:符号位S、指数部分E(阶码)以及尾数部分M。

单精度浮点数(float)总共用32位来表示浮点数,其中尾数用23位存储,加上小数点前有一位隐藏的1(IEEE754规约数表示法);

2^(23+1) = 16777216。因为 10^7 < 16777216 < 10^8,所以说单精度浮点数的有效位数是7位。考虑到第7位可能的四舍五入问题,所以单精度最少有6位有效数字(最小尺寸)。

同样地:双精度浮点数(double)总共用64位来表示浮点数,其中尾数用52位存储,2^(52+1) = 9007199254740992,10^16 < 9007199254740992 < 10^17,所以双精度的有效位数是16位。

同样四舍五入,最少15位。

免责声明:本站发布的教育资讯(图片、视频和文字)以本站原创、转载和分享为主,文章观点不代表本网站立场。

如果本文侵犯了您的权益,请联系底部站长邮箱进行举报反馈,一经查实,我们将在第一时间处理,感谢您对本站的关注!