測量誤差數(shù)據(jù)的舍入規(guī)則
發(fā)布時(shí)間:2008/9/16 0:00:00 訪問次數(shù):1655
實(shí)驗(yàn)中所得到測量數(shù)據(jù)都是近似數(shù),在進(jìn)行數(shù)據(jù)處理時(shí)會(huì)遇到近似數(shù)的計(jì)算問題。對(duì)于位數(shù)不等的數(shù)據(jù),為了使計(jì)算簡化,又不影響測量結(jié)果的精確程度,進(jìn)行數(shù)據(jù)處理時(shí)所用的舍入處理規(guī)則為尾數(shù)小于5者舍,大于5者入,等于5者按偶數(shù)法則處理。所謂偶數(shù)法則,就是當(dāng)尾數(shù)為5,尾數(shù)的前一位為奇數(shù)時(shí),該尾數(shù)進(jìn)位,尾數(shù)的前一位為偶數(shù)時(shí)(含“o”),該尾數(shù)舍棄。也就是說,偶數(shù)法則是在尾數(shù)為5時(shí),把尾數(shù)前面的那位數(shù)變?yōu)榕紨?shù),這樣能使等于5的尾數(shù)舍入機(jī)會(huì)均等,從而減小舍入誤差。
需要指出的是,尾數(shù)大于5包括尾數(shù)的第一位為5,而其后的數(shù)位中還有大于零的數(shù),尾數(shù)等于5的尾數(shù)的第一位為5,而其后各位數(shù)值均為零。
例如,將下列數(shù)據(jù)舍入到小數(shù)的第三位,各數(shù)分別為
4.580 499 →4.580 5.173 53 →5.174
1.732 501 →1.732 3.592 52 →3.592
8.365 501 →8.366 6.870 54 →6.870
以上幾個(gè)數(shù)據(jù)均按舍入處理,舍入后所得數(shù)據(jù)的末位數(shù)為欠準(zhǔn)數(shù)字,其舍入誤差大于舍入后所得數(shù)據(jù)末位單位的0.5。
歡迎轉(zhuǎn)載,信息來自維庫電子市場網(wǎng)(www.dzsc.com)
實(shí)驗(yàn)中所得到測量數(shù)據(jù)都是近似數(shù),在進(jìn)行數(shù)據(jù)處理時(shí)會(huì)遇到近似數(shù)的計(jì)算問題。對(duì)于位數(shù)不等的數(shù)據(jù),為了使計(jì)算簡化,又不影響測量結(jié)果的精確程度,進(jìn)行數(shù)據(jù)處理時(shí)所用的舍入處理規(guī)則為尾數(shù)小于5者舍,大于5者入,等于5者按偶數(shù)法則處理。所謂偶數(shù)法則,就是當(dāng)尾數(shù)為5,尾數(shù)的前一位為奇數(shù)時(shí),該尾數(shù)進(jìn)位,尾數(shù)的前一位為偶數(shù)時(shí)(含“o”),該尾數(shù)舍棄。也就是說,偶數(shù)法則是在尾數(shù)為5時(shí),把尾數(shù)前面的那位數(shù)變?yōu)榕紨?shù),這樣能使等于5的尾數(shù)舍入機(jī)會(huì)均等,從而減小舍入誤差。
需要指出的是,尾數(shù)大于5包括尾數(shù)的第一位為5,而其后的數(shù)位中還有大于零的數(shù),尾數(shù)等于5的尾數(shù)的第一位為5,而其后各位數(shù)值均為零。
例如,將下列數(shù)據(jù)舍入到小數(shù)的第三位,各數(shù)分別為
4.580 499 →4.580 5.173 53 →5.174
1.732 501 →1.732 3.592 52 →3.592
8.365 501 →8.366 6.870 54 →6.870
以上幾個(gè)數(shù)據(jù)均按舍入處理,舍入后所得數(shù)據(jù)的末位數(shù)為欠準(zhǔn)數(shù)字,其舍入誤差大于舍入后所得數(shù)據(jù)末位單位的0.5。
歡迎轉(zhuǎn)載,信息來自維庫電子市場網(wǎng)(www.dzsc.com)
熱門點(diǎn)擊
- 交流電路參數(shù)的測定三表法的實(shí)驗(yàn)原理
- RC一階電路的過渡過程實(shí)驗(yàn)原理
- RLC元件的阻抗特性實(shí)驗(yàn)原理
- RC選頻網(wǎng)絡(luò)特性測試實(shí)驗(yàn)原理
- 戴維南定理和諾頓定理實(shí)驗(yàn)注意事項(xiàng)
- 受控源的實(shí)驗(yàn)研究內(nèi)容
- 受控源的實(shí)驗(yàn)研究實(shí)驗(yàn)原理
- RC一階電路的過渡過程實(shí)驗(yàn)注意事項(xiàng)
- RLC串聯(lián)電路的諧振實(shí)驗(yàn)原理
- 基爾霍夫定律和疊加原理的實(shí)驗(yàn)原理
推薦技術(shù)資料
- FU-19推挽功放制作
- FU-19是國產(chǎn)大功率發(fā)射雙四極功率電二管,EPL20... [詳細(xì)]
- 高效率降壓 DC/DC 變換器
- 集成隔離電源 3kVRMS多
- 隔離式、雙輸入控制、高/低端半
- 隔離式、獨(dú)立雙通道柵極驅(qū)動(dòng)器
- Virtual Bench P
- 雙路輸出、數(shù)字、16 相控制器
- 多媒體協(xié)處理器SM501在嵌入式系統(tǒng)中的應(yīng)用
- 基于IEEE802.11b的EPA溫度變送器
- QUICCEngine新引擎推動(dòng)IP網(wǎng)絡(luò)革新
- SoC面世八年后的產(chǎn)業(yè)機(jī)遇
- MPC8xx系列處理器的嵌入式系統(tǒng)電源設(shè)計(jì)
- dsPIC及其在交流變頻調(diào)速中的應(yīng)用研究