Appendice D
Fonction
Calcul
Les valeurs rentrent dans les plages suivantes après la conversion:
binaire,
DEC: –2147483648 <
octal,
BIN: 1000000000000000 <
décimal,
hexadécimal
OCT: 20000000000 <
HEX: 80000000 <
* Pour un calcul simple, l'erreur de calcul est de ±1 au 10
exponentiel, l'erreur de calcul est de ±1 au dernier chiffre significatif.) Dans le cas de calculs
consécutifs, les erreurs sont cumulées et peuvent donc être importantes. (Ceci est également
valable dans le cas de calculs consécutifs internes effectués pour ^(x
Dans le voisinage d'un point particulier d'une fonction et d'un point d'inflexion, les erreurs sont cumulées
et peuvent donc être importantes.
440
440
Plages d'introduction
x
< 2147483647
< 1111111111111111 (négative)
0 <
x
< 0111111111111111 (0, positive)
x
< 37777777777 (négative)
x
0 <
< 17777777777 (0, positive)
x
< FFFFFFFF (négative)
x
0 <
< 7FFFFFFF (0, positive)
Plage d'introduction
x
e
chiffre. (Dans le cas de l'affichage
x
y
x
y
3
),
, x!,
, nPr, nCr, etc.)