• Une Math ERROR se produit lorsqu'un résultat de calcul se situe en dehors de la
plage applicable au système de numération utilisé.
Spécifier le mode numérique d'une valeur d'entrée
particulière
Vous pouvez saisir une commande spéciale immédiatement avant une
valeur pour spécifier le mode numérique de cette valeur. Les commandes
spéciales sont : d (décimal), h (hexadécimal), b (binaire) et o (octal).
Exemple 3 :
pour calculer 10
sous forme de valeur décimale
1. Utilisez
pour passer le mode numérique en [Decimal].
2. Effectuez le calcul 10
– [Base Prefix] > [Decimal(d)] 10
– [Base Prefix] > [Hexadecimal(h)] 10
– [Base Prefix] > [Binary(b)] 10
– [Base Prefix] > [Octal(o)] 10
Conversion d'un résultat de calcul en un autre
type de valeur
Vous pouvez utiliser
autre type de valeur.
Exemple 4 :
pour calculer 15
résultat en hexadécimal
1. Utilisez
pour passer le mode numérique en [Decimal].
2. Effectuez le calcul 15
3. Utilisez
pour changer le mode numérique en [Hexadecimal].
Opérations logiques et de négation
Les opérations logiques et de négation sont effectuées en appuyant
sur
et en sélectionnant [Logic Operation], puis en sélectionnant la
commande souhaitée (Neg, Not, and, or, xor, xnor) dans le menu qui
s'affiche. Tous les exemples ci-dessous sont réalisés en mode binaire.
+ 10
+ 10
10
16
2
+ 10
+ 10
+ 10
10
16
2
pour convertir le résultat du calcul affiché en un
× 37
en mode décimal, puis convertir le
10
10
× 37
.
10
10
15
121
+ 10
et afficher le résultat
8
.
8
37