有效數(shù)字的處理
發(fā)布時間:2011/8/8 14:03:06 訪問次數(shù):2965
1.有效數(shù)字
所謂有效數(shù)字,是指在測量數(shù)值中,從最左邊第一個非零數(shù)字開始至右邊最后一個數(shù)字為止所包含的所有數(shù)字。在記錄或計算數(shù)據(jù)時,確定用幾位數(shù)字來表示測量或數(shù)據(jù)運(yùn)算的結(jié)果,是一個很重要的問題。測量結(jié)果包含誤差,說明它是一個近似數(shù),其精度有一定限度,在記錄測量結(jié)果或進(jìn)行數(shù)據(jù)運(yùn)算時的取值多少,都應(yīng)該以測量所能達(dá)到的精度為依據(jù)。不能認(rèn)為蒞一個數(shù)據(jù)中,小數(shù)點后面位數(shù)越多,這個數(shù)據(jù)就越準(zhǔn)確;也不能認(rèn)為在計算測量結(jié)果中,保留的位數(shù)越多,準(zhǔn)確度就越高。因為測量數(shù)據(jù)都是近似值,是用有效數(shù)字來表示的。有效數(shù)字的位數(shù)不僅表達(dá)了被測量的大小,也表達(dá)了測量的精度。
例如,測得的信號電壓為0.0125V,它是由1、2、5這3個有效數(shù)字表示的,其左邊的兩個0不是有效數(shù)字,因為可以通過單位變換,將這個數(shù)字寫成12.5mV。其末位數(shù)字5,通常是在測量中估計出來的,因此稱它為欠準(zhǔn)確數(shù)字,其左邊的各個有效數(shù)字是準(zhǔn)確數(shù)字。準(zhǔn)確數(shù)字和欠準(zhǔn)確數(shù)字對測量結(jié)果都是必不可少的,它們都是有效數(shù)字。
2.有效數(shù)字的正確表示方法
(1)在有效數(shù)字中,應(yīng)保留一個欠準(zhǔn)確數(shù)字
在記錄測量數(shù)據(jù)時,最后一位有效數(shù)字是欠準(zhǔn)確數(shù)字,這樣記取的數(shù)字表明被測量可能在最后一位數(shù)字上變化±l單位。例如,用一個刻度為50分度(量程為50V)的電壓表,測得電壓為42.5V,則該電壓是用3位有效數(shù)字表示的,其中4和2是準(zhǔn)確數(shù)字,而5則是欠準(zhǔn)確數(shù)字,因為5是根據(jù)最小刻度估計出來的,它可能被估讀為4,也可能被估讀為6。所以,上述測量結(jié)果可以表示為(42.5±0.1)V。
(2)欠準(zhǔn)確數(shù)字中,要特別注意“0”的情況
例如,測量某電阻值為23,400kΩ,表明前面2、3、4、0是準(zhǔn)確數(shù)字,最后一位0是欠準(zhǔn)確數(shù)字。如果寫成23.4kΩ,則表明2、3是準(zhǔn)確數(shù)字,而4是欠準(zhǔn)確數(shù)字。上述兩種數(shù)字的寫法,盡管表示的是同一數(shù)值,但實際上反映了不同的測量準(zhǔn)確度。
如果用aXl0”的形式來表示一個數(shù)據(jù),可以從口含有幾個有效數(shù)字來確定近似數(shù)的有效位數(shù)。例如,2.3400x104Ω表示5位有效數(shù)字,而2,340xl04W則表示4位有效數(shù)字。
(3)舍入規(guī)則
對于很多的近似數(shù),當(dāng)有效位數(shù)確定以后,其后面的多余數(shù)字應(yīng)該舍去。如果對于測定的或通過計算獲得的數(shù)據(jù),只取,z位有效數(shù)字,那么第n+l位及其后的各位數(shù)字都應(yīng)該舍去。而對于第n+l位數(shù)字應(yīng)按下面的舍入規(guī)則進(jìn)行處理。
①小于5舍去,即舍去部分的數(shù)值小于保留部分末位的半個單位,則末位不變。
②大于5進(jìn)1,即舍去部分的數(shù)值大于保留部分末位的半個單位,則末位加1。
③等于5時取偶數(shù),即舍去部分的數(shù)值等于保留部分末位的半個單位,則末位湊成偶數(shù)。當(dāng)末位為偶數(shù)時,則末位不變;當(dāng)末位為奇數(shù)時,則末位加1。
例如,按上述舍入規(guī)則,將下面各個數(shù)據(jù)保留4位有效數(shù)宇進(jìn)行湊整。
必須指出,上述舍入規(guī)則的第3條明確規(guī)定,被舍去的數(shù)字不是見5就入,所以這種因為數(shù)字舍入而引起的誤差屬于隨機(jī)誤差。在大量運(yùn)算時,其舍入誤差的均值趨于零,這就避免了過去所采用的四舍五入規(guī)則時,由于舍入誤差的積累而產(chǎn)生系統(tǒng)誤差。
經(jīng)過舍入處理后的近似數(shù),中間的0和末位的0都是有效數(shù)字,不能隨意增加或刪減。多寫會放大測量的準(zhǔn)確度,少寫則會放大誤差。但開頭的0不是有效數(shù)字,因為它們僅與選取的測量單位有關(guān)。
1.有效數(shù)字
所謂有效數(shù)字,是指在測量數(shù)值中,從最左邊第一個非零數(shù)字開始至右邊最后一個數(shù)字為止所包含的所有數(shù)字。在記錄或計算數(shù)據(jù)時,確定用幾位數(shù)字來表示測量或數(shù)據(jù)運(yùn)算的結(jié)果,是一個很重要的問題。測量結(jié)果包含誤差,說明它是一個近似數(shù),其精度有一定限度,在記錄測量結(jié)果或進(jìn)行數(shù)據(jù)運(yùn)算時的取值多少,都應(yīng)該以測量所能達(dá)到的精度為依據(jù)。不能認(rèn)為蒞一個數(shù)據(jù)中,小數(shù)點后面位數(shù)越多,這個數(shù)據(jù)就越準(zhǔn)確;也不能認(rèn)為在計算測量結(jié)果中,保留的位數(shù)越多,準(zhǔn)確度就越高。因為測量數(shù)據(jù)都是近似值,是用有效數(shù)字來表示的。有效數(shù)字的位數(shù)不僅表達(dá)了被測量的大小,也表達(dá)了測量的精度。
例如,測得的信號電壓為0.0125V,它是由1、2、5這3個有效數(shù)字表示的,其左邊的兩個0不是有效數(shù)字,因為可以通過單位變換,將這個數(shù)字寫成12.5mV。其末位數(shù)字5,通常是在測量中估計出來的,因此稱它為欠準(zhǔn)確數(shù)字,其左邊的各個有效數(shù)字是準(zhǔn)確數(shù)字。準(zhǔn)確數(shù)字和欠準(zhǔn)確數(shù)字對測量結(jié)果都是必不可少的,它們都是有效數(shù)字。
2.有效數(shù)字的正確表示方法
(1)在有效數(shù)字中,應(yīng)保留一個欠準(zhǔn)確數(shù)字
在記錄測量數(shù)據(jù)時,最后一位有效數(shù)字是欠準(zhǔn)確數(shù)字,這樣記取的數(shù)字表明被測量可能在最后一位數(shù)字上變化±l單位。例如,用一個刻度為50分度(量程為50V)的電壓表,測得電壓為42.5V,則該電壓是用3位有效數(shù)字表示的,其中4和2是準(zhǔn)確數(shù)字,而5則是欠準(zhǔn)確數(shù)字,因為5是根據(jù)最小刻度估計出來的,它可能被估讀為4,也可能被估讀為6。所以,上述測量結(jié)果可以表示為(42.5±0.1)V。
(2)欠準(zhǔn)確數(shù)字中,要特別注意“0”的情況
例如,測量某電阻值為23,400kΩ,表明前面2、3、4、0是準(zhǔn)確數(shù)字,最后一位0是欠準(zhǔn)確數(shù)字。如果寫成23.4kΩ,則表明2、3是準(zhǔn)確數(shù)字,而4是欠準(zhǔn)確數(shù)字。上述兩種數(shù)字的寫法,盡管表示的是同一數(shù)值,但實際上反映了不同的測量準(zhǔn)確度。
如果用aXl0”的形式來表示一個數(shù)據(jù),可以從口含有幾個有效數(shù)字來確定近似數(shù)的有效位數(shù)。例如,2.3400x104Ω表示5位有效數(shù)字,而2,340xl04W則表示4位有效數(shù)字。
(3)舍入規(guī)則
對于很多的近似數(shù),當(dāng)有效位數(shù)確定以后,其后面的多余數(shù)字應(yīng)該舍去。如果對于測定的或通過計算獲得的數(shù)據(jù),只取,z位有效數(shù)字,那么第n+l位及其后的各位數(shù)字都應(yīng)該舍去。而對于第n+l位數(shù)字應(yīng)按下面的舍入規(guī)則進(jìn)行處理。
①小于5舍去,即舍去部分的數(shù)值小于保留部分末位的半個單位,則末位不變。
②大于5進(jìn)1,即舍去部分的數(shù)值大于保留部分末位的半個單位,則末位加1。
③等于5時取偶數(shù),即舍去部分的數(shù)值等于保留部分末位的半個單位,則末位湊成偶數(shù)。當(dāng)末位為偶數(shù)時,則末位不變;當(dāng)末位為奇數(shù)時,則末位加1。
例如,按上述舍入規(guī)則,將下面各個數(shù)據(jù)保留4位有效數(shù)宇進(jìn)行湊整。
必須指出,上述舍入規(guī)則的第3條明確規(guī)定,被舍去的數(shù)字不是見5就入,所以這種因為數(shù)字舍入而引起的誤差屬于隨機(jī)誤差。在大量運(yùn)算時,其舍入誤差的均值趨于零,這就避免了過去所采用的四舍五入規(guī)則時,由于舍入誤差的積累而產(chǎn)生系統(tǒng)誤差。
經(jīng)過舍入處理后的近似數(shù),中間的0和末位的0都是有效數(shù)字,不能隨意增加或刪減。多寫會放大測量的準(zhǔn)確度,少寫則會放大誤差。但開頭的0不是有效數(shù)字,因為它們僅與選取的測量單位有關(guān)。
上一篇:測量誤差主要來源
熱門點擊
- 數(shù)字輸出型集成溫度傳感器
- 有效數(shù)字的處理
- 數(shù)字法實現(xiàn)峰值測量的原理
- AT73C202手機(jī)電源管理、PDF資料
- NJU8725用于數(shù)字音頻的D類放大器
推薦技術(shù)資料
- 繪制印制電路板的過程
- 繪制印制電路板是相當(dāng)重要的過程,EPL2010新穎的理... [詳細(xì)]
- CV/CC InnoSwitch3-AQ 開
- URF1DxxM-60WR3系
- 1-6W URA24xxN-x
- 閉環(huán)磁通門信號調(diào)節(jié)芯片NSDRV401
- SK-RiSC-SOM-H27X-V1.1應(yīng)
- RISC技術(shù)8位微控制器參數(shù)設(shè)
- 多媒體協(xié)處理器SM501在嵌入式系統(tǒng)中的應(yīng)用
- 基于IEEE802.11b的EPA溫度變送器
- QUICCEngine新引擎推動IP網(wǎng)絡(luò)革新
- SoC面世八年后的產(chǎn)業(yè)機(jī)遇
- MPC8xx系列處理器的嵌入式系統(tǒng)電源設(shè)計
- dsPIC及其在交流變頻調(diào)速中的應(yīng)用研究