题目
根据有效数字运算规则,下列运算哪个不正确?A. 400 times 1500 / (12.60 - 11.6) = 6.0 times 10^5B. 0.0152 times 0.032 = 0.00049C. 16 , (cm) = 1.6 times 10^2 , (mm) = 1.6 times 10^5 , mu(m)D. 216.589 - 0.52 = 216.069
根据有效数字运算规则,下列运算哪个不正确?
A. $400 \times 1500 / (12.60 - 11.6) = 6.0 \times 10^5$
B. $0.0152 \times 0.032 = 0.00049$
C. $16 \, \text{cm} = 1.6 \times 10^2 \, \text{mm} = 1.6 \times 10^5 \, \mu\text{m}$
D. $216.589 - 0.52 = 216.069$
题目解答
答案
D. $216.589 - 0.52 = 216.069$
解析
本题考查有效数字运算规则,包括加减法、乘除法以及单位换算中的有效数字处理。解题思路是根据不同运算规则逐一分析每个选项。
选项A
- 先计算括号内的值:$12.60 - 11.6 = 0.99 + 0.01=1.0$,这里$12.60$有四位有效数字,$11.6$有三位有效数字,加减法以小数点后位数最少的为准,所以结果$1.0$有两位有效数字。
- 再计算乘除:$400\times1500\div1.0$,$400$和$1500$可看作有三位有效数字(因为它们是整数,末尾的零可能是有效数字),乘除运算以有效数字位数最少的为准,$1.0$有两位有效数字,所以结果应保留两位有效数字。
- $400\times1500 = 600000$,$600000\div1.0 = 6.0\times10^{5}$,该选项运算正确。
选项B
- 对于乘法运算$0.0152\times0.032$,$0.0152$有三位有效数字,$0.032$有两位有效数字,乘除运算以有效数字位数最少的为准,所以结果应保留两位有效数字。
- $0.0152\times0.032 = 0.0004864$,保留两位有效数字为$0.00049$,该选项运算正确。
选项C
- 长度单位换算:$1\mathrm{cm}=10\mathrm{mm}$,所以$16\mathrm{cm}=16\times10\mathrm{mm}=1.6\times10^{2}\mathrm{mm}$;$1\mathrm{mm}=10^{3}\mu\mathrm{m}$,则$1.6\times10^{2}\mathrm{mm}=1.6\times10^{2}\times10^{3}\mu\mathrm{m}=1.6\times10^{5}\mu\mathrm{m}$,该选项运算正确。
选项D
- 对于减法运算$216.589 - 0.52$,加减法以小数点后位数最少的为准,$216.589$小数点后有三位,$0.52$小数点后有两位,所以结果应保留到小数点后两位。
- $216.589 - 0.52 = 216.069$,保留到小数点后两位应为$216.07$,该选项运算不正确。