Plages, nombre de chiffres et
précision des calculs
La plage de calcul, le nombre de chiffres utilisés pour le calcul en interne
et la précision de calcul dépendent du type de calcul que vous effectuez.
Plage et précision des calculs
Plage de calcul
Nombre de chiffres
pour le calcul en
interne
Précision
Plages de saisie et précision des calculs de
fonctions
Fonctions
√ x
2
x
-1
x
y
x
b
a +
/
c
-99
±1 × 10
à ±9,999999999 × 10
15 chiffres
En général, ±1 dans le 10ème chiffre pour un
calcul unique. La précision pour l'affichage
exponentiel est ±1 dans le chiffre moins
significatif. Les erreurs s'accumulent en cas de
calculs consécutifs.
Plage de saisie
0 ≦ x < 1 × 10
100
50
| x | < 1 × 10
100
| x | < 1 × 10
; x ≠ 0
100
x > 0 : -1 × 10
< y log x < 100
x = 0 : y > 0
1
x < 0 : y = n ,
2 n +1
Cependant : -1 × 10
Le total de l'entier, du numérateur et du
dénominateur doit être de 10 caractères au
maximum (signes de division compris).
22
99
ou 0
( n est un entier)
100
< y log | x | < 100