Table des Matières
Publicité
k Plages, nombre de chiffres et
précision des calculs
La plage de calcul, le nombre de chiffres utilisés pour les
calculs internes et la précision des calculs dépendent du
type de calcul que vous effectuez.
Plage et précision des calculs
Plage de calcul
Nombre de chiffres
pour le calcul interne
Précision
Plages de saisie et précision des calculs de fonctions
Fonctions
x
DEG 0
sin
RAD 0
GRA 0
x
DEG 0
cos
RAD 0
GRA 0
x
DEG Identique à sin
tan
RAD Identique à sin
GRA Identique à sin
–1
x
sin
0
–1
x
cos
–1
x
tan
0
x
sinh
0
x
cosh
±1 × 10
10
99
15 chiffres
En règle générale, ±1 au 10
chiffre pour un seul calcul. La
précision pour l'affichage
exponentiel est de ±1 au chiffre
le moins significatif. Les erreurs
sont cumulées dans le cas de
calculs consécutifs.
x
9 10
x
157079632,7
x
1 10
x
9 10
x
157079632,7
x
1 10
x
n
= (2
–1) 90.
–1) π/2.
x
n
= (2
x
n
= (2
–1) 100.
x
1
x
9,999999999 10
x
230,2585092
F-138
à ±9,999999999 ×
–99
ou 0
Plage de saisie
9
10
9
10
x
, sauf lorsque
x
, sauf lorsque
x
, sauf lorsque
99
e
Publicité
Table des Matières
