100 ÷ 6 = 16,66666666...
Exemple 1
Condition
4 décimales
5 chiffres significatifs
Annule la spécification
1
*
Les valeurs affichées sont arrondies à la décimale spécifiée.
200 ÷ 7 × 14 = 400
Exemple 2
Condition
3 décimales
Le calcul continue en
utilisant l'affichage de 10
chiffres.
• Si le même calcul est effectué avec le nombre de chiffres spécifié :
La valeur enregistrée est
arrondie au nombre de
décimales spécifié sur
l'écran de configuration.
Vous pouvez aussi spécifier
le nombre de décimales pour
l'arrondi des valeurs internes
pour un calcul particulier.
(Exemple : Spécifier un
arrondi à deux décimales)
• Vous ne pouvez pas utiliser d'expression avec calcul de première dérivée, deuxième dérivée,
intégrale, Σ , valeur maximale/minimale, résolution, RndFix ou log
du calcul de RndFix.
Opération
!m(SET UP) ff
1(Fix) ewJw
!m(SET UP) ff
2(Sci) fwJw
!m(SET UP) ff
Opération
!m(SET UP) ff
1(Fix) dwJw
K6( g) 4(NUMERIC) 4(Rnd) w
6( g) 1(RndFix) !-(Ans) ,2 )
2-2
100 /6 w
3(Norm) Jw
200 /7 *14 w
200 /7 w
*
14 w
200 /7 w
*
14 w
200 /7 w
w
*
14 w
b à l'intérieur d'un terme
a
Affichage
16.66666667
1
*
16.6667
1
*
1.6667
+01
E
16.66666667
Affichage
400
400.000
28.571
Ans × I
400.000
28.571
28.571
Ans × I
399.994
28.571
RndFix(Ans,2)
28.570
Ans × I
399.980