數(shù)字的舍入規(guī)則
發(fā)布時(shí)間:2014/1/29 21:19:17 訪問(wèn)次數(shù):2220
測(cè)量數(shù)據(jù)的處理就是從測(cè)量所得的原始OP07CDR數(shù)據(jù)中求出被測(cè)量的最佳估計(jì)值,并計(jì)算其精確程度。必要時(shí),還要把測(cè)量的數(shù)據(jù)繪制成曲線(xiàn)或歸納成經(jīng)驗(yàn)公式,以便得出更加清晰的結(jié)論。
有效數(shù)字的舍入規(guī)則。由于存在著誤差,因此,測(cè)量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準(zhǔn)數(shù)字兩部分組成。例如,由電壓表測(cè)得的電壓是24.8 V,這是個(gè)近似數(shù),25是可靠數(shù)字,而末尾8為欠準(zhǔn)數(shù)字,即24.8為3位有效數(shù)字。對(duì)于有效值的正確表示,應(yīng)注意以下3點(diǎn):
有效數(shù)字是指從左邊第一排非零的數(shù)字開(kāi)始,直到右邊最后一個(gè)數(shù)字為止的所有字。例如,測(cè)得頻率為0.0158 MHz,它是由l、5、8這3個(gè)有效數(shù)字組成的頻率值,而左邊的兩個(gè)零不是有效數(shù)字,它可寫(xiě)為2 MHz.也可寫(xiě)為15.8 kHz,而不能寫(xiě)為15 800 Hz。
如已知誤差,則有效值的位數(shù)應(yīng)與誤差相一致。例如,設(shè)儀表誤差為±0. 01 V,測(cè)得電壓為12. 354 V,其結(jié)果應(yīng)寫(xiě)成12. 35 V。
當(dāng)給出誤差有單位時(shí),測(cè)量數(shù)據(jù)的寫(xiě)法應(yīng)與其一致。
數(shù)字的舍入規(guī)則。為使正、負(fù)舍入誤差的機(jī)會(huì)大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時(shí)取偶數(shù)”的辦法。
數(shù)據(jù)運(yùn)算規(guī)則。幾個(gè)準(zhǔn)確度不同的數(shù)據(jù)相加、相減時(shí),按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡(jiǎn)化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù),然后計(jì)算,計(jì)算結(jié)果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
乘除運(yùn)算規(guī)則。兩個(gè)有效位數(shù)不同的數(shù)相乘或相除時(shí),將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個(gè)數(shù)多一位,然后進(jìn)行計(jì)算,求得的積或商的有效位數(shù),應(yīng)根據(jù)舍入規(guī)則保留與原有效數(shù)字位數(shù)少的數(shù)相同。
為了保證必要的精度,參與乘除運(yùn)算的各數(shù)及最終運(yùn)算結(jié)果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
測(cè)量數(shù)據(jù)的處理就是從測(cè)量所得的原始OP07CDR數(shù)據(jù)中求出被測(cè)量的最佳估計(jì)值,并計(jì)算其精確程度。必要時(shí),還要把測(cè)量的數(shù)據(jù)繪制成曲線(xiàn)或歸納成經(jīng)驗(yàn)公式,以便得出更加清晰的結(jié)論。
有效數(shù)字的舍入規(guī)則。由于存在著誤差,因此,測(cè)量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準(zhǔn)數(shù)字兩部分組成。例如,由電壓表測(cè)得的電壓是24.8 V,這是個(gè)近似數(shù),25是可靠數(shù)字,而末尾8為欠準(zhǔn)數(shù)字,即24.8為3位有效數(shù)字。對(duì)于有效值的正確表示,應(yīng)注意以下3點(diǎn):
有效數(shù)字是指從左邊第一排非零的數(shù)字開(kāi)始,直到右邊最后一個(gè)數(shù)字為止的所有字。例如,測(cè)得頻率為0.0158 MHz,它是由l、5、8這3個(gè)有效數(shù)字組成的頻率值,而左邊的兩個(gè)零不是有效數(shù)字,它可寫(xiě)為2 MHz.也可寫(xiě)為15.8 kHz,而不能寫(xiě)為15 800 Hz。
如已知誤差,則有效值的位數(shù)應(yīng)與誤差相一致。例如,設(shè)儀表誤差為±0. 01 V,測(cè)得電壓為12. 354 V,其結(jié)果應(yīng)寫(xiě)成12. 35 V。
當(dāng)給出誤差有單位時(shí),測(cè)量數(shù)據(jù)的寫(xiě)法應(yīng)與其一致。
數(shù)字的舍入規(guī)則。為使正、負(fù)舍入誤差的機(jī)會(huì)大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時(shí)取偶數(shù)”的辦法。
數(shù)據(jù)運(yùn)算規(guī)則。幾個(gè)準(zhǔn)確度不同的數(shù)據(jù)相加、相減時(shí),按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡(jiǎn)化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù),然后計(jì)算,計(jì)算結(jié)果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
乘除運(yùn)算規(guī)則。兩個(gè)有效位數(shù)不同的數(shù)相乘或相除時(shí),將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個(gè)數(shù)多一位,然后進(jìn)行計(jì)算,求得的積或商的有效位數(shù),應(yīng)根據(jù)舍入規(guī)則保留與原有效數(shù)字位數(shù)少的數(shù)相同。
為了保證必要的精度,參與乘除運(yùn)算的各數(shù)及最終運(yùn)算結(jié)果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
熱門(mén)點(diǎn)擊
- 三極管工作在截止區(qū)需要滿(mǎn)足下列條件
- 異步集成計(jì)數(shù)器74LS90
- 怎樣區(qū)分是硅管還是鍺管
- 變?nèi)荻䴓O管的特性和作用
- 紅外發(fā)射管、接收管
- 小型開(kāi)關(guān)電源的電路原理圖如何
- 數(shù)字的舍入規(guī)則
- 光電二極管的作用及特性
- 穩(wěn)壓二極管的伏安特性如何
- 元器件裝配到印制電路板之前如何進(jìn)行引腳成形
推薦技術(shù)資料
- 自制智能型ICL7135
- 表頭使ff11CL7135作為ADC,ICL7135是... [詳細(xì)]
- CV/CC InnoSwitch3-AQ 開(kāi)
- URF1DxxM-60WR3系
- 1-6W URA24xxN-x
- 閉環(huán)磁通門(mén)信號(hào)調(diào)節(jié)芯片NSDRV401
- SK-RiSC-SOM-H27X-V1.1應(yīng)
- RISC技術(shù)8位微控制器參數(shù)設(shè)
- 多媒體協(xié)處理器SM501在嵌入式系統(tǒng)中的應(yīng)用
- 基于IEEE802.11b的EPA溫度變送器
- QUICCEngine新引擎推動(dòng)IP網(wǎng)絡(luò)革新
- SoC面世八年后的產(chǎn)業(yè)機(jī)遇
- MPC8xx系列處理器的嵌入式系統(tǒng)電源設(shè)計(jì)
- dsPIC及其在交流變頻調(diào)速中的應(yīng)用研究