Table des Matières
Publicité
4 Nombre de chiffres et précision
k Nombre de chiffres
Mode standard
Les conditions suivantes s'appliquent lorsque la case « Decimal Calculation » dans la boîte
de dialogue du format de base n'est pas cochée.
• 611 chiffres au maximum sont sauvegardés dans la mémoire comme entiers.
• Des valeurs décimales de 15 chiffres au maximum sont converties en fraction et
sauvegardées dans la mémoire. S'il n'est pas possible de convertir une expression
mathématique en fraction, le résultat est affiché sous forme décimale.
• Les valeurs sauvegardées dans la mémoire sont affichées telles quelles, quels que soient
les réglages de [Display] (Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) (sauf lorsqu'une valeur
décimale est affichée).
Mode décimal
Les conditions suivantes s'appliquent lorsque la case « Decimal Calculation » dans la boîte
de dialogue du format de base est cochée.
• Les valeurs mémorisées dans la mémoire du dernier résultat ont le même nombre de
chiffres que les valeurs affichées. Une valeur affectée à une variable a le nombre de
chiffres défini pour les valeurs du mode standard.
• Les valeurs sont affichées selon les réglages de [Display] (Normal 1, Normal 2, Fix 0 – 9,
Sci 0 – 9).
• Les valeurs affichées sont arrondies au nombre de décimales approprié.
• Certaines applications mémorisent les valeurs avec une mantisse de 15 chiffres et un
exposant de 3 chiffres.
k Précision
• Les calculs internes sont effectués avec 15 chiffres.
• L'erreur est de ±1 au 10
dans le mode décimal). Dans le cas de l'affichage exponentiel, l'erreur de calcul est de ±1
au chiffre le moins significatif. Notez que l'exécution de calculs consécutifs entraîne un
cumul d'erreurs. Il y a aussi cumul d'erreurs lors des calculs consécutifs internes de : ^(
x
x
n
r
n
,
!,
P
,
C
• L'erreur est cumulative et tend à devenir plus importante aux alentours du ou des points
singuliers ou du ou des points d'inflexion d'une fonction, et aux alentours de zéro. Par
exemple, avec sinh(
de ce point, il y cumul d'erreurs et la précision est faible.
Nombre de chiffres et précision
e
chiffre pour une seule expression mathématique (erreur de calcul
r
, etc.
x
x
) et tanh(
), le point d'inflexion se produit lorsque
α
-4-1
20030101
y
x
),
x
= 0. Aux alentours
Publicité
Table des Matières
