有效數(shù)字的舍入規(guī)則
發(fā)布時間:2014/8/18 21:13:10 訪問次數(shù):1671
由于存在著誤差,因此,K4M513233C-DN75測量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準數(shù)字兩部分組成。例如,由電壓表測得的電壓是24.8 V,這是個近似數(shù),25是可靠數(shù)字,而末尾8為欠準數(shù)字,即24.8為3位有效數(shù)字。對于有效值的正確表示,應注意以下3點:
①有效數(shù)字是指從左邊第一排非零的數(shù)字開始,直到右邊最后一個數(shù)字為止的所有字。例如,測得頻率為0.0158 MHz,它是由l、5、8這3個有效數(shù)字組成的頻率值,而左邊的兩個零不是有效數(shù)字,它可寫為1. 58×l0。2 MHz.也可寫為15.8 kHz,而不能寫為15 800 Hz。
②如已知誤差,則有效值的位數(shù)應與誤差相一致。例如,設儀表誤差為±0. 01 V,測得電壓為12. 354 V,其結(jié)果應寫成12. 35 V。
③當給出誤差有單位時,測量數(shù)據(jù)的寫法應與其一致。
數(shù)字的舍入規(guī)則
為使正、負舍入誤差的機會大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時取偶數(shù)”的辦法。
(1)加減法運算規(guī)則
幾個準確度不同的數(shù)據(jù)相加、相減時,按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù),然后計算,計算結(jié)果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
(2)乘除運算規(guī)則
兩個有效位數(shù)不同的數(shù)相乘或相除時,將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個數(shù)多一位,然后進行計算,求得的積或商的有效位數(shù),應根據(jù)舍入規(guī)則保留與原有效數(shù)字位數(shù)的數(shù)相同。
為了保證必要的精度,參與乘除運算的各數(shù)及最終運算結(jié)果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
由于存在著誤差,因此,K4M513233C-DN75測量的數(shù)據(jù)總是近似值,它通常由可靠數(shù)字和欠準數(shù)字兩部分組成。例如,由電壓表測得的電壓是24.8 V,這是個近似數(shù),25是可靠數(shù)字,而末尾8為欠準數(shù)字,即24.8為3位有效數(shù)字。對于有效值的正確表示,應注意以下3點:
①有效數(shù)字是指從左邊第一排非零的數(shù)字開始,直到右邊最后一個數(shù)字為止的所有字。例如,測得頻率為0.0158 MHz,它是由l、5、8這3個有效數(shù)字組成的頻率值,而左邊的兩個零不是有效數(shù)字,它可寫為1. 58×l0。2 MHz.也可寫為15.8 kHz,而不能寫為15 800 Hz。
②如已知誤差,則有效值的位數(shù)應與誤差相一致。例如,設儀表誤差為±0. 01 V,測得電壓為12. 354 V,其結(jié)果應寫成12. 35 V。
③當給出誤差有單位時,測量數(shù)據(jù)的寫法應與其一致。
數(shù)字的舍入規(guī)則
為使正、負舍入誤差的機會大致相等,傳統(tǒng)的方法足采用四舍五人的辦法,現(xiàn)已廣泛采用“小于5舍,大于5人,等于5時取偶數(shù)”的辦法。
(1)加減法運算規(guī)則
幾個準確度不同的數(shù)據(jù)相加、相減時,按取舍規(guī)則,將小數(shù)位數(shù)較多的數(shù)簡化為比小數(shù)位數(shù)最少的數(shù)只多一位數(shù)字的數(shù),然后計算,計算結(jié)果的小數(shù)位數(shù),取至與原小數(shù)位數(shù)最少的數(shù)相同。
(2)乘除運算規(guī)則
兩個有效位數(shù)不同的數(shù)相乘或相除時,將有效數(shù)字位數(shù)較多的數(shù)的位數(shù)取為比另一個數(shù)多一位,然后進行計算,求得的積或商的有效位數(shù),應根據(jù)舍入規(guī)則保留與原有效數(shù)字位數(shù)的數(shù)相同。
為了保證必要的精度,參與乘除運算的各數(shù)及最終運算結(jié)果也可比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字。
上一篇:等精度測量結(jié)果的處理
熱門點擊
- 查表法
- 擴充響應曲線法
- 計算機網(wǎng)絡在我國的發(fā)展
- 直線插補計算的程序?qū)崿F(xiàn)
- 按網(wǎng)絡的作用范圍進行分類
- 集成單穩(wěn)態(tài)觸發(fā)器及其應用
- 因特網(wǎng)發(fā)展的三個階段
- 采用自頂向下方法的優(yōu)點
- 逐點比較法插補原理
- 用CD4017設計電子密碼鎖
推薦技術(shù)資料
- 單片機版光立方的制作
- N視頻: http://v.youku.comN_sh... [詳細]