正確處理測量數(shù)據(jù)
發(fā)布時間:2013/9/10 20:31:49 訪問次數(shù):889
測量結(jié)果可以是數(shù)字，也可以是圖形。NT71671FG-00033以數(shù)字方式表示的測量結(jié)果就是數(shù)據(jù)。測量數(shù)據(jù)的處理，就是從測量中得到的原始數(shù)據(jù)中求出被測量的最佳估計值，并計算精確程度。
1)有效數(shù)字
有效數(shù)字為組成數(shù)據(jù)的每個必要數(shù)字，即從左邊第1個非零數(shù)字開始，直至右邊最后1個數(shù)字為止的所有數(shù)字。例如0. 0436，4、3、6是有效數(shù)字，0.0436是3位有效數(shù)字；又如0.0075010，7前面的3個O不是有效數(shù)字，7及后面的數(shù)字都是有效數(shù)字，0.0075010是5位有效數(shù)字；再如，6 300是4位有效數(shù)字，63×102是2位有效數(shù)字。
在數(shù)字中間或末尾的0都是有效數(shù)字，而在第1個非零數(shù)字前面的O都不是有效數(shù)字。有效數(shù)字末尾的O表示準確程度。如5. 80表示測量結(jié)果準確到百分位，最大絕對誤差不大于0.005；5.8表示測量結(jié)果準確到十分位，最大絕對誤差不大于0.05。
2)有效數(shù)字的處理
在測量時，往往要對測量結(jié)果的幾個有效數(shù)據(jù)進行處理與運算，這樣就存在有效數(shù)字的位數(shù)的取舍問題。
取舍原則是：運算過程中有效數(shù)字的位數(shù)根據(jù)其中準確度最差的數(shù)據(jù)的有效數(shù)字進行取舍。
對有效數(shù)字舍入時，應盡量減小舍人造成的誤差，有效數(shù)字的舍人規(guī)則如下：
>刪略部分最高位數(shù)字大于5時，向前進1。
》刪略部分最高位數(shù)字小于5時，舍去。
>刪略部分最高位數(shù)字等于5時，5后面只要有非零數(shù)字，去5進1。如果5后面全是0或無教字，當5前面一位數(shù)是奇數(shù)時，去5進1；當5前面一位數(shù)是偶數(shù)時，去5不進1。
3)有效數(shù)字的運算
對于加、減運算，有效數(shù)字的取舍以小數(shù)點后有效數(shù)字位數(shù)最少的項為準；對于乘、除運算，有效數(shù)字的取舍決定于有效數(shù)字最少的一項數(shù)據(jù)，而與小數(shù)點無關。
1)有效數(shù)字
有效數(shù)字為組成數(shù)據(jù)的每個必要數(shù)字，即從左邊第1個非零數(shù)字開始，直至右邊最后1個數(shù)字為止的所有數(shù)字。例如0. 0436，4、3、6是有效數(shù)字，0.0436是3位有效數(shù)字；又如0.0075010，7前面的3個O不是有效數(shù)字，7及后面的數(shù)字都是有效數(shù)字，0.0075010是5位有效數(shù)字；再如，6 300是4位有效數(shù)字，63×102是2位有效數(shù)字。
在數(shù)字中間或末尾的0都是有效數(shù)字，而在第1個非零數(shù)字前面的O都不是有效數(shù)字。有效數(shù)字末尾的O表示準確程度。如5. 80表示測量結(jié)果準確到百分位，最大絕對誤差不大于0.005；5.8表示測量結(jié)果準確到十分位，最大絕對誤差不大于0.05。
2)有效數(shù)字的處理
在測量時，往往要對測量結(jié)果的幾個有效數(shù)據(jù)進行處理與運算，這樣就存在有效數(shù)字的位數(shù)的取舍問題。
取舍原則是：運算過程中有效數(shù)字的位數(shù)根據(jù)其中準確度最差的數(shù)據(jù)的有效數(shù)字進行取舍。
對有效數(shù)字舍入時，應盡量減小舍人造成的誤差，有效數(shù)字的舍人規(guī)則如下：
>刪略部分最高位數(shù)字大于5時，向前進1。
》刪略部分最高位數(shù)字小于5時，舍去。
>刪略部分最高位數(shù)字等于5時，5后面只要有非零數(shù)字，去5進1。如果5后面全是0或無教字，當5前面一位數(shù)是奇數(shù)時，去5進1；當5前面一位數(shù)是偶數(shù)時，去5不進1。
3)有效數(shù)字的運算
對于加、減運算，有效數(shù)字的取舍以小數(shù)點后有效數(shù)字位數(shù)最少的項為準；對于乘、除運算，有效數(shù)字的取舍決定于有效數(shù)字最少的一項數(shù)據(jù)，而與小數(shù)點無關。
測量結(jié)果可以是數(shù)字，也可以是圖形。NT71671FG-00033以數(shù)字方式表示的測量結(jié)果就是數(shù)據(jù)。測量數(shù)據(jù)的處理，就是從測量中得到的原始數(shù)據(jù)中求出被測量的最佳估計值，并計算精確程度。
1)有效數(shù)字
有效數(shù)字為組成數(shù)據(jù)的每個必要數(shù)字，即從左邊第1個非零數(shù)字開始，直至右邊最后1個數(shù)字為止的所有數(shù)字。例如0. 0436，4、3、6是有效數(shù)字，0.0436是3位有效數(shù)字；又如0.0075010，7前面的3個O不是有效數(shù)字，7及后面的數(shù)字都是有效數(shù)字，0.0075010是5位有效數(shù)字；再如，6 300是4位有效數(shù)字，63×102是2位有效數(shù)字。
在數(shù)字中間或末尾的0都是有效數(shù)字，而在第1個非零數(shù)字前面的O都不是有效數(shù)字。有效數(shù)字末尾的O表示準確程度。如5. 80表示測量結(jié)果準確到百分位，最大絕對誤差不大于0.005；5.8表示測量結(jié)果準確到十分位，最大絕對誤差不大于0.05。
2)有效數(shù)字的處理
在測量時，往往要對測量結(jié)果的幾個有效數(shù)據(jù)進行處理與運算，這樣就存在有效數(shù)字的位數(shù)的取舍問題。
取舍原則是：運算過程中有效數(shù)字的位數(shù)根據(jù)其中準確度最差的數(shù)據(jù)的有效數(shù)字進行取舍。
對有效數(shù)字舍入時，應盡量減小舍人造成的誤差，有效數(shù)字的舍人規(guī)則如下：
>刪略部分最高位數(shù)字大于5時，向前進1。
》刪略部分最高位數(shù)字小于5時，舍去。
>刪略部分最高位數(shù)字等于5時，5后面只要有非零數(shù)字，去5進1。如果5后面全是0或無教字，當5前面一位數(shù)是奇數(shù)時，去5進1；當5前面一位數(shù)是偶數(shù)時，去5不進1。
3)有效數(shù)字的運算
對于加、減運算，有效數(shù)字的取舍以小數(shù)點后有效數(shù)字位數(shù)最少的項為準；對于乘、除運算，有效數(shù)字的取舍決定于有效數(shù)字最少的一項數(shù)據(jù)，而與小數(shù)點無關。
1)有效數(shù)字
有效數(shù)字為組成數(shù)據(jù)的每個必要數(shù)字，即從左邊第1個非零數(shù)字開始，直至右邊最后1個數(shù)字為止的所有數(shù)字。例如0. 0436，4、3、6是有效數(shù)字，0.0436是3位有效數(shù)字；又如0.0075010，7前面的3個O不是有效數(shù)字，7及后面的數(shù)字都是有效數(shù)字，0.0075010是5位有效數(shù)字；再如，6 300是4位有效數(shù)字，63×102是2位有效數(shù)字。
在數(shù)字中間或末尾的0都是有效數(shù)字，而在第1個非零數(shù)字前面的O都不是有效數(shù)字。有效數(shù)字末尾的O表示準確程度。如5. 80表示測量結(jié)果準確到百分位，最大絕對誤差不大于0.005；5.8表示測量結(jié)果準確到十分位，最大絕對誤差不大于0.05。
2)有效數(shù)字的處理
在測量時，往往要對測量結(jié)果的幾個有效數(shù)據(jù)進行處理與運算，這樣就存在有效數(shù)字的位數(shù)的取舍問題。
取舍原則是：運算過程中有效數(shù)字的位數(shù)根據(jù)其中準確度最差的數(shù)據(jù)的有效數(shù)字進行取舍。
對有效數(shù)字舍入時，應盡量減小舍人造成的誤差，有效數(shù)字的舍人規(guī)則如下：
>刪略部分最高位數(shù)字大于5時，向前進1。
》刪略部分最高位數(shù)字小于5時，舍去。
>刪略部分最高位數(shù)字等于5時，5后面只要有非零數(shù)字，去5進1。如果5后面全是0或無教字，當5前面一位數(shù)是奇數(shù)時，去5進1；當5前面一位數(shù)是偶數(shù)時，去5不進1。
3)有效數(shù)字的運算
對于加、減運算，有效數(shù)字的取舍以小數(shù)點后有效數(shù)字位數(shù)最少的項為準；對于乘、除運算，有效數(shù)字的取舍決定于有效數(shù)字最少的一項數(shù)據(jù)，而與小數(shù)點無關。
上一篇：減小測量誤差的方法
上一篇：測量結(jié)果的評價
相關技術資料- 9-10正確處理測量數(shù)據(jù)
熱門點擊
- 穩(wěn)壓二極管電流方向解說
- 三極管基極電壓解說
- 電容兩端電壓不能突變特性解說
- 典型的發(fā)射極旁路電容電路分析
- 鑷子拆焊方法
- 電話機振鈴電路的識圖方法
- 簡單的麥克風前置放大器電路
- 兩條粗細不同導線的連接
- 通話電路的特點
- 順序功能圖的結(jié)構
推薦技術資料
- 驅(qū)動板的原理分析
- 先來看看原理圖。圖8所示為底板及其驅(qū)動示意圖，F(xiàn)M08... [詳細]
公網(wǎng)安備44030402000607
