La résolution est de juger de la qualité des résultats de mesure d’une montre. Connaître la résolution d’un compteur vous permet de savoir si vous pouvez voir de petits changements dans le signal mesuré. Par exemple, si le DMM a une résolution de 1mV sur une plage de 4V, vous pouvez voir un petit changement de 1mV (1/1000 de volt) lors de la mesure d’un signal 1V
Si vous mesurez moins de 1/4 de pouce (ou 1 mm) de longueur, vous n’utiliserez certainement pas une règle avec les plus petites unités en pouces (ou centimètres). Si la température est de 98,6 ° F, il est inutile de mesurer avec un thermomètre qui n’a que des marques entières. Vous avez besoin d’un thermomètre avec une résolution de 0,1 ° F.
Le nombre de chiffres et de mots est utilisé pour décrire la résolution du tableau. Les multimètres sont classés en fonction du nombre de chiffres et de mots qu’ils peuvent afficher.
Un compteur à 3 chiffres et demi peut afficher trois chiffres complets de 0 à 9 et un demi-chiffre (seulement 1 ou aucun affichage). Un compteur numérique à 31/2 chiffres peut atteindre une résolution de 1999 mots. Un compteur numérique à 41/2 chiffres peut atteindre une résolution de 19999 mots.
La résolution des tables numériques est meilleure en mots qu’en bits, et la résolution des tables à 31/2 chiffres a été augmentée à 3200 ou 4000 mots.
Le compteur numérique de 3200 mots offre une meilleure résolution pour certaines mesures. Par exemple, un compteur de mots de 1999, lorsque vous mesurez des tensions supérieures à 200 V, vous ne pouvez pas afficher 0,1 V. Le compteur numérique de 3200 caractères peut toujours afficher 0,1 V lors de la mesure de la tension de 320 V. Lorsque la tension mesurée est supérieure à 320 V et que la résolution de 0,1 V doit être atteinte, un compteur numérique coûteux de 20 000 caractères doit être utilisé.