数学卷子里有这样一题：赵刚利用科学计算机计算0.15+0.27,虽然按键正确但结果总为0其原因是什么
2019-12-02
数学卷子里有这样一题：赵刚利用科学计算机计算0.15+0.27,虽然按键正确但结果总为0其原因是什么
优质解答
原因是他设定保留到整数位了,
0.15+0.27=0.42≈0
通过科学计算器的FIX功能可以设定保留几位小数的,如果设定保留0位小数,就会出现上面的情况,解决办法是,将保留小数的位数改成2到9的任何数字
原因是他设定保留到整数位了,
0.15+0.27=0.42≈0
通过科学计算器的FIX功能可以设定保留几位小数的,如果设定保留0位小数,就会出现上面的情况,解决办法是,将保留小数的位数改成2到9的任何数字