当前位置:新励学网 > 秒知问答 > 什么是单精度和双精度数据

什么是单精度和双精度数据

发表时间:2024-07-28 03:15:12 来源:网友投稿

含义:表明单精度和双精度精确的范围不一样。

单精度也即float,一般在计算机中存储占用4字节,也32位,有效位数为7位;

双精度(double)在计算机中存储占用8字节,64位,有效位数为16位。

原因:不管float还是double 在计算机上的存储都遵循IEEE规范,使用二进制科学计数法,都包含三个部分:符号位,指数位和尾数部分。其中float的符号位,指数位,尾数部分分别为1, 8, 23. 双精度分别为1, 11, 52。

精度主要取决于尾数部分的位数,float为23位,除去全部为0的情况以外,最小为2的-23次方,约等于1.19乘以10的-7次方,所以float小数部分只能精确到后面6位,加上小数点前的一位,即有效数字为7位。 类似,double 尾数部分52位,最小为2的-52次方,约为2.22乘以10的-16次方,所以精确到小数点后15位,有效位数为16位。

免责声明:本站发布的教育资讯(图片、视频和文字)以本站原创、转载和分享为主,文章观点不代表本网站立场。

如果本文侵犯了您的权益,请联系底部站长邮箱进行举报反馈,一经查实,我们将在第一时间处理,感谢您对本站的关注!