如果我們已正確地為被834-1A-B-C 24v測對象設(shè)定量程，那么，我們測量的精度，將由可供使用的量化級( quanta)總數(shù)決定。
    將一個可以連續(xù)變化的模擬量與一組固定的電平值進(jìn)行比較，然后找到與模擬量最為接近的電平值，這個過程稱為量化( quantization)。量化的結(jié)果是得到一個數(shù)字，它通常稱為數(shù)字的“字”( word)，以此作為這個輸入電壓的編碼。正因為這樣，有時候也把這個過程稱為脈沖編碼調(diào)制( Pulse Code modulation)，即PCM。
    經(jīng)量化后，我們現(xiàn)在有了按固定時間間隔出現(xiàn)、連續(xù)不斷的一串?dāng)?shù)字（編碼），這些數(shù)字接著被寫進(jìn)一個稱為波形記錄( waveform record)的數(shù)字存儲器中。
    計算機以0和1組成的二進(jìn)制( binary)來計數(shù)，不同于人們?nèi)粘Ｉ钏玫腛至9組成的十進(jìn)制( denary)。這看似會對計數(shù)產(chǎn)生了限制——因為計算機只能數(shù)到1，而我們雖能數(shù)到9，但也不能數(shù)到很大的數(shù)。要解決大數(shù)問題，兩種進(jìn)制都要設(shè)立計數(shù)的進(jìn)位標(biāo)度系統(tǒng)。每次我們數(shù)到9之后，再要加上1時，我們對這傘新的數(shù)值，會以標(biāo)度為1來作記錄。但敘述起來不方便，因此，我們稱這個數(shù)為“十”。同樣地，對于其他數(shù)值的情況，我們沒有任何理由，不去使用這種用于“十”的標(biāo)度方法。所以，在小學(xué)學(xué)習(xí)加法的時候，你可能就已記住了那些“個”、“十”、“百”等詞。下表列出了十進(jìn)制的正規(guī)標(biāo)度方法：