有效數(shù)字的舍入規(guī)則
發(fā)布時間:2014/4/2 22:18:22 訪問次數(shù):954
(1)有效數(shù)字
由于存在著誤差,因此,LMBT3904LT1G測量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準(zhǔn)數(shù)字兩部分組成。例如,由電壓表測得的電壓是24.8 V,這是個近似數(shù),25是可靠數(shù)字,而末尾8為欠準(zhǔn)數(shù)字,即24.8為3位有效數(shù)字。對于有效值的正確表示,應(yīng)注意以下3點(diǎn):
①有效數(shù)字是指從左邊第一排非零的數(shù)字開始,直到右邊最后一個數(shù)字為止的所有字。例如,測得頻率為0.0158 MHz,它是由l、5、8這3個有效數(shù)字組成的頻率值,而左邊的兩個零不是有效數(shù)字,它可寫為1. 58×l0。2 MHz.也可寫為15.8 kHz,而不能寫15 800 Hz。
②如已知誤差,則有效值的位數(shù)應(yīng)與誤差相一致。例如,設(shè)儀表誤差為±0. 01 V,測得電壓為12. 354 V,其結(jié)果應(yīng)寫成12. 35 V。
③當(dāng)給出誤差有單位時,測量數(shù)據(jù)的寫法應(yīng)與其一致。
(2)數(shù)字的舍入規(guī)則
為使正、負(fù)舍入誤差的機(jī)會大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時取偶數(shù)”的辦法。
(1)有效數(shù)字
由于存在著誤差,因此,LMBT3904LT1G測量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準(zhǔn)數(shù)字兩部分組成。例如,由電壓表測得的電壓是24.8 V,這是個近似數(shù),25是可靠數(shù)字,而末尾8為欠準(zhǔn)數(shù)字,即24.8為3位有效數(shù)字。對于有效值的正確表示,應(yīng)注意以下3點(diǎn):
①有效數(shù)字是指從左邊第一排非零的數(shù)字開始,直到右邊最后一個數(shù)字為止的所有字。例如,測得頻率為0.0158 MHz,它是由l、5、8這3個有效數(shù)字組成的頻率值,而左邊的兩個零不是有效數(shù)字,它可寫為1. 58×l0。2 MHz.也可寫為15.8 kHz,而不能寫15 800 Hz。
②如已知誤差,則有效值的位數(shù)應(yīng)與誤差相一致。例如,設(shè)儀表誤差為±0. 01 V,測得電壓為12. 354 V,其結(jié)果應(yīng)寫成12. 35 V。
③當(dāng)給出誤差有單位時,測量數(shù)據(jù)的寫法應(yīng)與其一致。
(2)數(shù)字的舍入規(guī)則
為使正、負(fù)舍入誤差的機(jī)會大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時取偶數(shù)”的辦法。
熱門點(diǎn)擊
- 場效應(yīng)管轉(zhuǎn)移特性曲線
- 切斷電路板上銅箔線路方法
- 橋式整流、電容濾波電路故障檢修方法
- 單端輸入、雙端輸出式差分放大器負(fù)反饋電路故障
- 交流負(fù)反饋
- 檢查本振是否起振
- 消磁電阻器檢測方法
- 萬用表檢修BTL功放集成電路故障
- 錄放開關(guān)故障特征和修配方法
- 組合音響整機(jī)方框圖和單元電路作用
推薦技術(shù)資料
- 頻譜儀的解調(diào)功能
- 現(xiàn)代頻譜儀在跟蹤源模式下也可以使用Maker和△Mak... [詳細(xì)]
- CV/CC InnoSwitch3-AQ 開
- URF1DxxM-60WR3系
- 1-6W URA24xxN-x
- 閉環(huán)磁通門信號調(diào)節(jié)芯片NSDRV401
- SK-RiSC-SOM-H27X-V1.1應(yīng)
- RISC技術(shù)8位微控制器參數(shù)設(shè)
- 多媒體協(xié)處理器SM501在嵌入式系統(tǒng)中的應(yīng)用
- 基于IEEE802.11b的EPA溫度變送器
- QUICCEngine新引擎推動IP網(wǎng)絡(luò)革新
- SoC面世八年后的產(chǎn)業(yè)機(jī)遇
- MPC8xx系列處理器的嵌入式系統(tǒng)電源設(shè)計
- dsPIC及其在交流變頻調(diào)速中的應(yīng)用研究