Hioki IM3536 Manuel D'instructions page 216

Gamme et précision de mesure
(2) Calculez la précision de base pour la capacité Cs=160 nF.
(Si les conditions de mesure correspondent à une fréquence de mesure de 1 kHz et à une vitesse
de mesure de SLOW2)
Extrait de « Précision de base » (p. 207).
Gamme
100 kΩ
10 kΩ
1 kΩ
1
Mesurez les valeurs
Supposez que les valeurs Z et
Z
=1,0144 k
Z
Comme est 1,0144 kΩ, la gamme de mesure 10 kΩ sera utilisée.
2
Recherchez la cellule à l'intersection de la ligne de la gamme 10 k
1,0000 kHz à 10,000 kHz (car la fréquence de mesure est de 1 kHz) dans « Précision de
base » (p. 207).
3
Calculez la précision de base pour
Selon le graphique de précision, coefficient t A = 0,05 et coefficient B = 0,02
Insérez les valeurs de la gamme 1 k
tion suivante :
Z
Précision
4
De la même manière, calculez la précision de base de
Le tableau de précision produit les valeurs A=0,03 et B=0,02
En utilisant la formule de la précision de base de « Précision de base » (p. 207) pour
« 1 k±min. ».
Précision θ =
5
Calculez la gamme dans laquelle les valeurs
précision de base.
Z
min 1,0144 =
Z max 1,0144 =
θ
min = − 78,69 0,03
θ
max = − 78,69 0,03
6
Calculez la gamme dans laquelle les valeurs Cs peuvent être acquises en fonction des
Z
gammes
Pour plus d'informations concernant la formule de calcul Cs, consultez « Annexe. 1 Para-
mètres de mesure et formule de calcul » (p. Annexe.1).)
Cs min =
ϖ ×Z max×sin min
Cs max =
ϖ
ϖ π f
= × × 2
f
est la fréquence [Hz].
Par conséquent, la précision de base de Cs est de ±0,0625% lec.
210
1,0000 kHz à
10,000 kHz
A= 0,05 B=0,02
A= 0,03 B=0,02
Z
θ
et de l'échantillon à l'aide de la gamme automatique.
θ
mesurées sont les suivantes :
θ
Ω
, =-78,69°
 10 10,144 ×
± 0,05 0,02 + ×

=
10 kΩ

 10 10,144 ×
± 0,03 0,02 + ×

10 kΩ

0,05
 
k
Ω × 1 − 1,0139
≒
 
100
 
0,05
 
k Ω × 1 + 1,0149
≒
 
100
 
− = − 78,72 °
+ = − 78,66 °
θ
et .
1
159,90nF
≒
θ
1
160,10nF
≒
θ
×Z min×sin max
Z
θ
Z
en utilisant les coefficients
Ω
dans « Précision de base » (p. 207) dans l'équa-
k Ω 
− 1

0,05% lec.

θ
k Ω 
±0,03°
− 1


Z θ
et peuvent être acquises à partir de la
k
Ω
k Ω
... 0,0625% rdg. −
... 0,0625% rdg.
Ω
et de la colonne
Z
A et B.
.