תחילת העבודה עם רזולוציית מודד דיגיטלית
ערך המתח המתאים לספרה האחרונה של טווח המתח הנמוך ביותר של מולטימטר דיגיטלי נקרא רזולוציה, המשקפת את רגישות המכשיר. הרזולוציה של מכשירים דיגיטליים עולה עם מספר הספרות המוצגות. אינדקס הרזולוציה המקסימלית שניתן להשיג על ידי מולטימטר דיגיטלי בעל ספרות שונות שונה.
ניתן להציג את מחוון הרזולוציה של מולטימטר דיגיטלי גם באמצעות רזולוציה. רזולוציה מתייחסת לאחוז המספר המינימלי (לא כולל אפס) והמספר המקסימלי שמכשיר יכול להציג.
יש לציין שרזולוציה ודיוק שייכים לשני מושגים שונים. הראשון מייצג את ה"רגישות" של המכשיר, כלומר את היכולת "לזהות" מתחים קטנים; האחרון משקף את "דיוק" המדידה, כלומר את מידת העקביות בין תוצאות המדידה לערכים האמיתיים. אין קשר הכרחי בין השניים, כך שלא ניתן לבלבל ביניהם, ואין לטעות ברזולוציה (או ברזולוציה) לדיוק, התלוי בשגיאה המקיפה ובשגיאת הקוונטיזציה של ממיר ה-A/D הפנימי והממיר הפונקציונלי של המכשיר. . מנקודת מבט של מדידה, הרזולוציה היא המדד ה"וירטואלי" (ללא תלות בטעות המדידה), בעוד שהדיוק הוא המדד ה"אמיתי" (הקובע את גודל שגיאת המדידה). לכן, לא ניתן להגדיל את מספר סיביות התצוגה באופן שרירותי כדי לשפר את הרזולוציה של המכשיר.
