Table des Matières
Publicité
Plages, nombre de chiffres et
précision des calculs
La plage de calcul, le nombre de chiffres utilisés pour le calcul en interne
et la précision des calculs dépendent du type de calcul que vous êtes en
train d'effectuer.
Plage et précision des calculs
Plage de calcul
Nombre de chiffres pour le
calcul en interne
Précision
Plages de saisie et précision des calculs de fonctions
Fonctions
x
10
'
x
x
2
x
–1
°' "
y
x
b
a
/
c
a
b
RanInt#(
,
)
n
Simp
•
La précision est en principe comme indiqué dans « Plage et précision des
calculs » ci-dessus.
•
La fonction de type
entraîner l'accumulation des erreurs associées à chaque étape du calcul.
•
L'erreur est cumulative et a la tendance à devenir très grande dans
le voisinage de certains points singuliers et au point d'inflexion d'une
fonction.
La plage des résultats de calcul pouvant être affichés sous la forme π est
•
6
x
|
|
10
. Notez toutefois qu'une erreur de calcul interne peut empêcher
l'affichage des résultats de calcul sous la forme π. Elle peut aussi entraîner
l'affichage sous la forme π de résultats de calcul au lieu de la forme
décimale attendu.
±1 × 10
15 chiffres
En général, ± 1 dans le 10ème chiffre
pour un calcul unique. La précision pour
l'affichage exponentiel est ± 1 dans le
chiffre moins significatif. Les erreurs
s'accumulent en cas de calculs consécutifs.
–9,999999999 × 10
1 × 10
x
0
|
|
1 × 10
x
50
|
|
1 × 10
x
100
;
|
|,
1 × 10
a
b
c
,
L'affichage valeur des secondes est sujet à une erreur
de ±1 à la deuxième position décimale.
0 : –1 × 10
x
x
y
= 0 :
0
x
y
n
0 :
=
,
2
Toutefois : –1 × 10
Le total du entier, du numérateur et du dénominateur
doit être 10 chiffres ou moins (y compris les signes de
division).
; |
| , |
|
a
b
a
b
n
1
9999 (
y
x
exige des calculs internes consécutifs, ce qui peut
à ±9,999999999 × 10
–99
Plage de saisie
x
99
99,99999999
100
G 0
x
b
c
100
; 0
,
y
x
100
log
100
m
m
n
(
,
sont des entiers)
n
+1
log |
y
x
100
1 × 10
b
10
;
–
n
est un entier)
F-15
|
100
1 × 10
a
10
99
ou 0
Publicité
Table des Matières
