||
10000.2与10000.20000的意义相同吗
张学文,2024 10 26
最近在核定一个统计表格上的数据。其合计值应当是各个分量代数和。但是各个分量的小数点位数不同。它们相加以后小数点前面的数值不小,而小数点后面的数据也是好几位。这导致合计值的数据的位数增加了。
于是我形成了疑问:
如数据1是100,数据2是0.001
它们相加从表面上看应当=1.001,可从数字的有效性看,相加以后的数据的有效位数增加了。这从测量精度的角度看我觉得是不合理的。
我觉得10000.2与10000.20000的意义(精度)是不相同!
不知道各位如何看待这个问题。
特此请教
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-11-21 18:36
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社