38
Tableau 12. Données techniques et incertitudes de mesure
Fonction
V
mV
Ω
nS
1.
Voir partie 1 dans le tableau 11 pour l'explication complète de l'évaluation de la précision.
2.
En utilisant la fonction REL pour la comparaison par substitution.
Gamme
Résolution
4,000 V
0,001 V
40,00 V
0,01 V
400,0 V
0,1 V
1000 V
1 V
400,0 mV
0,1 mV
400,0 Ω
0,1 Ω
4,000 kΩ
0,001 kΩ
40,00 kΩ
0,01 kΩ
400,0 kΩ
0,1 kΩ
4,000 MΩ
0,001 MΩ
40,
00 MΩ
0,
40,00 nS
0,01 nS
1
Précision
±(0,05% + 1)
±(0,05% + 1)
±(0,05% + 1)
±(0,05% + 1)
±(0,1% + 1)
±(0,2% + 2)
2
±(0,2% + 1)
±(0,2% + 1)
±(0,6% + 1)
±(0,6% + 1)
±
01 MΩ
(1,0% + 3)
non spécifée