当前位置:新励学网 > 秒知问答 > 在关于有效数字运算规则中为什么加减法时,以小数点

在关于有效数字运算规则中为什么加减法时,以小数点

发表时间:2024-07-08 22:24:04 来源:网友投稿

加减法:在加减法运算中,保留有效数字的以小数点后位数最小的为准,即以绝对误差最大的为准,例如:0.0121+25.64+1.05782=?正确计算不正确计算0.010.012125.6425.64+1.06+1.05782——————————————26.7126.70992上例相加3个数字中,25.64中的“4”已是可疑数字,因此最后结果有效数字的保留应以此数为准,即保留有效数字的位数到小数点后面第二位.b.乘除法:乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对位数最大的为准.例如:0.012×25.64×1.05782=?以上3个数的乘积应为:0.0121×25.6×1.01=0.328在这个计算中3个数的相对误差分别为:E%=(±0.0001)/0.0121×100=±8E%=(±0.01)/25.64×100=±0.04E%=(±0.00001)/1.05782×100=±0.0009显然第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根据有效数字修约原则,保留3位有效数字,然后相乘即可.在乘除法运算过程中,经常会遇到第一个数字为8或9的数,如9.00,8.92等,他们与10.00相当接近,所以通常把这类数当成四位有效数字处理.是为了繁殖数据丢失.如9.81*16.24可把9.81看成四位数而把结果写成159.3.

免责声明:本站发布的教育资讯(图片、视频和文字)以本站原创、转载和分享为主,文章观点不代表本网站立场。

如果本文侵犯了您的权益,请联系底部站长邮箱进行举报反馈,一经查实,我们将在第一时间处理,感谢您对本站的关注!