Publicité
Mélange de valeurs en simple et en double précision
Si un calcul comporte des variables en double précision, l'ordinateur choisit automa-
tk1uement ce mode de fonctionnement au moment voulu.
La double précision est automatique dans les cas
suivants:
Les calculs sont effectués sur des valeurs comportant au moins Il chiffres
significatifs.
Ex. 1234567891234
x
5
La
lettre D est employée pour définir un exposant.
Ex.
TAN 7.43D05
Les valeurs introduites sont identifiées par le dièse
(#):
Ex.
4#
/
7
Vous employez des variables en double précision:
Ex. AB#
+
BC
Vous avez utilisé l'instruction DEFDBL:
Ex. En mode RUN, tapez DEFDBL. L'indication DBL s'affiche sur la ligne
d'état.
OEFDBL
1. ' 1
OEFOBL
>
O
EFOBL
5/
9
5
.
555
55555555 555555560-
01
Si l'expression contient des valeurs en simple et en double précision, chaque calcul
individuel est effectué avec la précision
correspondante.
Exemple:
6
*
5
+
4#17
Simple précision
Double précision
- -
--
--
Double précision
Lorsqu'une valeur en double précision est transformée en simple précision
,
elle est
arrondie et ne comporte
plus
que 10 chiffres
significatifs.
Exemple:
[@]AB
' - 1
S=HIF=T
1
+
1
• 1
Cl
AB#=5
VL
5
1
SHIFT
1
+
1 •
11
-7'/
1
9
ABt=5:
/
9
5
.
55555555555555555560-01
173
Publicité
