Plages De Calcul, Nombre De Chiffres Et Précision; Plage De Calculs Et Précision; Gammes D'entrée De Calcul De Fonction Et Précision - HP 300s+ Guide De L'utilisateur

Masquer les pouces Voir aussi pour 300s+:
Table des Matières

Publicité

Empilement numérique
(1)
(2)
(3)
(4)
(5)
Une ERREUR d'empilement se produit lorsque le calcul que
vous effectuez dépasse la capacité de la la mémoire en pile.
Plages de calcul, nombre de chiffres et
précision
La plage de calcul, le nombre de chiffres utilisés pour le calcul
interne, et la précision du calcul dépend du type de calcul que
vous effectuez.
Plage de calculs et précision
Plage de calculs
Nombre de chiffres pour
les calculs internes
Précision
Gammes d'entrée de calcul de fonction et
précision
Fonctions
x
sin
2
3
4
5
4
±1✕10
15 chiffres
En général, ±1 au 10ème chiffre pour un
seul calcul. La précision pour l'affichage
exponentiel est de ±1 au chiffre le moins
significatif. Les erreurs sont cumulées
dans le cas de calculs consécutifs.
DEG
0 ≦
RAD
0 ≦
GRA
0 ≦
Commande d'empilement
-99
to ±9,9999999✕10
Plage de saisie
9
< 9 ✕ 10
x
< 157079632.7
x
10
< 1 ✕ 10
x
85
(1)
(2)
(
(3)
(
(4)
+
(5)
(6)
(
(7)
+
-99
or 0

Publicité

Table des Matières
loading

Table des Matières