רזולוציה של מודד דיגיטלי

ההחלטה היא לשפוט את איכות תוצאות המדידה של שעון. ידיעת הרזולוציה של מד מאפשרת לך לדעת אם אתה יכול לראות שינויים קטנים באות הנמדד. לדוגמה, אם ל-DMM יש רזולוציה של 1mV בטווח של 4V, ניתן לראות שינוי זעיר של 1mV (1/1000 של וולט) בעת מדידת אות 1V

If you're measuring less than 1/4 inch (or 1mm) in length, you're definitely not going to use a ruler with the smallest units in inches (or centimeters). If the temperature is 98.6 degree F, it's useless to measure with a thermometer that only has integer marks. You need a thermometer with a resolution of 0.1 degree F.

מספר הספרות והמילים משמשים לתיאור הרזולוציה של הטבלה. מולטימטרים מסווגים לפי מספר הספרות והמילים שהם יכולים להציג.

A 3-and-a-half-digit meter can display three full-digit digits from 0 to 9, and one half-digit (only 1 or no display). A 3½-digit digital meter can achieve a resolution of 1999 words. A 4½-digit digital meter can achieve a resolution of 19999 words.

The resolution of digital tables is better in words than in bits, and the resolution of 3½-digit tables has been increased to 3200 or 4000 words.

The 3200-word digital meter provides better resolution for some measurements. For example, a 1999 word meter, when measuring voltages greater than 200V, you can't display 0.1V. The 3200-character digital meter can still display 0.1V when measuring the voltage of 320V. When the measured voltage is higher than 320V and the resolution of 0.1V is to be achieved, an expensive 20,000-character digital meter should be used.