有效數(shù)字的處理
發(fā)布時間:2011/8/8 14:03:06 訪問次數(shù):2989
1.有效數(shù)字
所謂有效數(shù)字,是指在測量數(shù)值中,從最左邊第一個非零數(shù)字開始至右邊最后一個數(shù)字為止所包含的所有數(shù)字。在記錄或計算數(shù)據(jù)時,確定用幾位數(shù)字來表示測量或數(shù)據(jù)運算的結(jié)果,是一個很重要的問題。測量結(jié)果包含誤差,說明它是一個近似數(shù),其精度有一定限度,在記錄測量結(jié)果或進行數(shù)據(jù)運算時的取值多少,都應(yīng)該以測量所能達到的精度為依據(jù)。不能認為蒞一個數(shù)據(jù)中,小數(shù)點后面位數(shù)越多,這個數(shù)據(jù)就越準確;也不能認為在計算測量結(jié)果中,保留的位數(shù)越多,準確度就越高。因為測量數(shù)據(jù)都是近似值,是用有效數(shù)字來表示的。有效數(shù)字的位數(shù)不僅表達了被測量的大小,也表達了測量的精度。
例如,測得的信號電壓為0.0125V,它是由1、2、5這3個有效數(shù)字表示的,其左邊的兩個0不是有效數(shù)字,因為可以通過單位變換,將這個數(shù)字寫成12.5mV。其末位數(shù)字5,通常是在測量中估計出來的,因此稱它為欠準確數(shù)字,其左邊的各個有效數(shù)字是準確數(shù)字。準確數(shù)字和欠準確數(shù)字對測量結(jié)果都是必不可少的,它們都是有效數(shù)字。
2.有效數(shù)字的正確表示方法
(1)在有效數(shù)字中,應(yīng)保留一個欠準確數(shù)字
在記錄測量數(shù)據(jù)時,最后一位有效數(shù)字是欠準確數(shù)字,這樣記取的數(shù)字表明被測量可能在最后一位數(shù)字上變化±l單位。例如,用一個刻度為50分度(量程為50V)的電壓表,測得電壓為42.5V,則該電壓是用3位有效數(shù)字表示的,其中4和2是準確數(shù)字,而5則是欠準確數(shù)字,因為5是根據(jù)最小刻度估計出來的,它可能被估讀為4,也可能被估讀為6。所以,上述測量結(jié)果可以表示為(42.5±0.1)V。
(2)欠準確數(shù)字中,要特別注意“0”的情況
例如,測量某電阻值為23,400kΩ,表明前面2、3、4、0是準確數(shù)字,最后一位0是欠準確數(shù)字。如果寫成23.4kΩ,則表明2、3是準確數(shù)字,而4是欠準確數(shù)字。上述兩種數(shù)字的寫法,盡管表示的是同一數(shù)值,但實際上反映了不同的測量準確度。
如果用aXl0”的形式來表示一個數(shù)據(jù),可以從口含有幾個有效數(shù)字來確定近似數(shù)的有效位數(shù)。例如,2.3400x104Ω表示5位有效數(shù)字,而2,340xl04W則表示4位有效數(shù)字。
(3)舍入規(guī)則
對于很多的近似數(shù),當(dāng)有效位數(shù)確定以后,其后面的多余數(shù)字應(yīng)該舍去。如果對于測定的或通過計算獲得的數(shù)據(jù),只取,z位有效數(shù)字,那么第n+l位及其后的各位數(shù)字都應(yīng)該舍去。而對于第n+l位數(shù)字應(yīng)按下面的舍入規(guī)則進行處理。
①小于5舍去,即舍去部分的數(shù)值小于保留部分末位的半個單位,則末位不變。
②大于5進1,即舍去部分的數(shù)值大于保留部分末位的半個單位,則末位加1。
③等于5時取偶數(shù),即舍去部分的數(shù)值等于保留部分末位的半個單位,則末位湊成偶數(shù)。當(dāng)末位為偶數(shù)時,則末位不變;當(dāng)末位為奇數(shù)時,則末位加1。
例如,按上述舍入規(guī)則,將下面各個數(shù)據(jù)保留4位有效數(shù)宇進行湊整。
必須指出,上述舍入規(guī)則的第3條明確規(guī)定,被舍去的數(shù)字不是見5就入,所以這種因為數(shù)字舍入而引起的誤差屬于隨機誤差。在大量運算時,其舍入誤差的均值趨于零,這就避免了過去所采用的四舍五入規(guī)則時,由于舍入誤差的積累而產(chǎn)生系統(tǒng)誤差。
經(jīng)過舍入處理后的近似數(shù),中間的0和末位的0都是有效數(shù)字,不能隨意增加或刪減。多寫會放大測量的準確度,少寫則會放大誤差。但開頭的0不是有效數(shù)字,因為它們僅與選取的測量單位有關(guān)。
1.有效數(shù)字
所謂有效數(shù)字,是指在測量數(shù)值中,從最左邊第一個非零數(shù)字開始至右邊最后一個數(shù)字為止所包含的所有數(shù)字。在記錄或計算數(shù)據(jù)時,確定用幾位數(shù)字來表示測量或數(shù)據(jù)運算的結(jié)果,是一個很重要的問題。測量結(jié)果包含誤差,說明它是一個近似數(shù),其精度有一定限度,在記錄測量結(jié)果或進行數(shù)據(jù)運算時的取值多少,都應(yīng)該以測量所能達到的精度為依據(jù)。不能認為蒞一個數(shù)據(jù)中,小數(shù)點后面位數(shù)越多,這個數(shù)據(jù)就越準確;也不能認為在計算測量結(jié)果中,保留的位數(shù)越多,準確度就越高。因為測量數(shù)據(jù)都是近似值,是用有效數(shù)字來表示的。有效數(shù)字的位數(shù)不僅表達了被測量的大小,也表達了測量的精度。
例如,測得的信號電壓為0.0125V,它是由1、2、5這3個有效數(shù)字表示的,其左邊的兩個0不是有效數(shù)字,因為可以通過單位變換,將這個數(shù)字寫成12.5mV。其末位數(shù)字5,通常是在測量中估計出來的,因此稱它為欠準確數(shù)字,其左邊的各個有效數(shù)字是準確數(shù)字。準確數(shù)字和欠準確數(shù)字對測量結(jié)果都是必不可少的,它們都是有效數(shù)字。
2.有效數(shù)字的正確表示方法
(1)在有效數(shù)字中,應(yīng)保留一個欠準確數(shù)字
在記錄測量數(shù)據(jù)時,最后一位有效數(shù)字是欠準確數(shù)字,這樣記取的數(shù)字表明被測量可能在最后一位數(shù)字上變化±l單位。例如,用一個刻度為50分度(量程為50V)的電壓表,測得電壓為42.5V,則該電壓是用3位有效數(shù)字表示的,其中4和2是準確數(shù)字,而5則是欠準確數(shù)字,因為5是根據(jù)最小刻度估計出來的,它可能被估讀為4,也可能被估讀為6。所以,上述測量結(jié)果可以表示為(42.5±0.1)V。
(2)欠準確數(shù)字中,要特別注意“0”的情況
例如,測量某電阻值為23,400kΩ,表明前面2、3、4、0是準確數(shù)字,最后一位0是欠準確數(shù)字。如果寫成23.4kΩ,則表明2、3是準確數(shù)字,而4是欠準確數(shù)字。上述兩種數(shù)字的寫法,盡管表示的是同一數(shù)值,但實際上反映了不同的測量準確度。
如果用aXl0”的形式來表示一個數(shù)據(jù),可以從口含有幾個有效數(shù)字來確定近似數(shù)的有效位數(shù)。例如,2.3400x104Ω表示5位有效數(shù)字,而2,340xl04W則表示4位有效數(shù)字。
(3)舍入規(guī)則
對于很多的近似數(shù),當(dāng)有效位數(shù)確定以后,其后面的多余數(shù)字應(yīng)該舍去。如果對于測定的或通過計算獲得的數(shù)據(jù),只取,z位有效數(shù)字,那么第n+l位及其后的各位數(shù)字都應(yīng)該舍去。而對于第n+l位數(shù)字應(yīng)按下面的舍入規(guī)則進行處理。
①小于5舍去,即舍去部分的數(shù)值小于保留部分末位的半個單位,則末位不變。
②大于5進1,即舍去部分的數(shù)值大于保留部分末位的半個單位,則末位加1。
③等于5時取偶數(shù),即舍去部分的數(shù)值等于保留部分末位的半個單位,則末位湊成偶數(shù)。當(dāng)末位為偶數(shù)時,則末位不變;當(dāng)末位為奇數(shù)時,則末位加1。
例如,按上述舍入規(guī)則,將下面各個數(shù)據(jù)保留4位有效數(shù)宇進行湊整。
必須指出,上述舍入規(guī)則的第3條明確規(guī)定,被舍去的數(shù)字不是見5就入,所以這種因為數(shù)字舍入而引起的誤差屬于隨機誤差。在大量運算時,其舍入誤差的均值趨于零,這就避免了過去所采用的四舍五入規(guī)則時,由于舍入誤差的積累而產(chǎn)生系統(tǒng)誤差。
經(jīng)過舍入處理后的近似數(shù),中間的0和末位的0都是有效數(shù)字,不能隨意增加或刪減。多寫會放大測量的準確度,少寫則會放大誤差。但開頭的0不是有效數(shù)字,因為它們僅與選取的測量單位有關(guān)。
上一篇:測量誤差主要來源
熱門點擊
推薦技術(shù)資料
- 繪制印制電路板的過程
- 繪制印制電路板是相當(dāng)重要的過程,EPL2010新穎的理... [詳細]
- 低功耗14位180MSPS數(shù)模
- 直接數(shù)字頻率合成器(DDS)應(yīng)用分析
- 110V, 75A RMS 集
- 超精密電流感應(yīng)放大器產(chǎn)品介紹
- RJ、16 位定時器 KB 和 RTC應(yīng)用探
- RL78-S3 CPU 內(nèi)核&
- 多媒體協(xié)處理器SM501在嵌入式系統(tǒng)中的應(yīng)用
- 基于IEEE802.11b的EPA溫度變送器
- QUICCEngine新引擎推動IP網(wǎng)絡(luò)革新
- SoC面世八年后的產(chǎn)業(yè)機遇
- MPC8xx系列處理器的嵌入式系統(tǒng)電源設(shè)計
- dsPIC及其在交流變頻調(diào)速中的應(yīng)用研究