题目
已知光在真空中的传播速度为=2.99792458... times (10)^8 米 / 秒 ,若取其近似值 =2.99792458... times (10)^8米 / 秒 ,则=2.99792458... times (10)^8具有多少位有效数字? 误差限是多少?
已知光在真空中的传播速度为 米 / 秒 ,若取其近似值
米 / 秒 ,则
具有多少位有效数字? 误差限是多少?
题目解答
答案
对于一个近似数,从左边第一个不是0的数字起,到精确到的位数止,所有的数字都叫这个数的有效数字。
的有效数字是三位。
误差限是:
解析
步骤 1:确定有效数字
有效数字是指从左边第一个不是0的数字起,到精确到的位数止,所有的数字。对于近似值 ${c}^{*}=3.00\times {10}^{8}$ 米 / 秒,从左边第一个不是0的数字3开始,到最右边的0为止,共有3位有效数字。
步骤 2:计算误差限
误差限是指近似值与精确值之间的差的绝对值。精确值为 $c=2.99792458\cdots \times {10}^{8}$ 米 / 秒,近似值为 ${c}^{*}=3.00\times {10}^{8}$ 米 / 秒。误差限为:
$|c - c^{*}| = |2.99792458\cdots \times {10}^{8} - 3.00\times {10}^{8}| = |2.99792458\cdots - 3.00| \times {10}^{8} = 0.00207542\cdots \times {10}^{8} = 207542$ 米 / 秒。
有效数字是指从左边第一个不是0的数字起,到精确到的位数止,所有的数字。对于近似值 ${c}^{*}=3.00\times {10}^{8}$ 米 / 秒,从左边第一个不是0的数字3开始,到最右边的0为止,共有3位有效数字。
步骤 2:计算误差限
误差限是指近似值与精确值之间的差的绝对值。精确值为 $c=2.99792458\cdots \times {10}^{8}$ 米 / 秒,近似值为 ${c}^{*}=3.00\times {10}^{8}$ 米 / 秒。误差限为:
$|c - c^{*}| = |2.99792458\cdots \times {10}^{8} - 3.00\times {10}^{8}| = |2.99792458\cdots - 3.00| \times {10}^{8} = 0.00207542\cdots \times {10}^{8} = 207542$ 米 / 秒。