数学
大学物理实验 有效数字运算1.68.457+236.51—9.753=?是每步算好就有效数字保留(即答案为295.22);还是先总体看应该两位小数,整个算完再保留(即答案为295.21)?2.1/4*60.00^2*π+?π是无限不循环小数时怎么算有小数位,书上说保留到结果的后一位什么意思?最后答案为什么?

2020-04-29

大学物理实验 有效数字运算
1.68.457+236.51—9.753=?是每步算好就有效数字保留(即答案为295.22);还是先总体看应该两位小数,整个算完再保留(即答案为295.21)?
2.1/4*60.00^2*π+?π是无限不循环小数时怎么算有小数位,书上说保留到结果的后一位什么意思?最后答案为什么?
优质解答
(1)把握一个原则:先进行算数运算,后考虑结果的有效数字.
(2)π的精度视其他因子而定.显然根据因子60.00,本题最终结果应保留4位有效数字,因为π是精确的,因此运算时只要保证其对结果的四位有效数字准确即可,如取3.1415,故本题结果为2827.
(1)把握一个原则:先进行算数运算,后考虑结果的有效数字.
(2)π的精度视其他因子而定.显然根据因子60.00,本题最终结果应保留4位有效数字,因为π是精确的,因此运算时只要保证其对结果的四位有效数字准确即可,如取3.1415,故本题结果为2827.
相关问答