Algorithmes De Calcul Dans 877 Titrino Plus - Metrohm 877 Titrino plus Mode D'emploi

Masquer les pouces Voir aussi pour 877 Titrino plus:
Table des Matières

Publicité

■■■■■■■■■■■■■■■■■■■■■■
Réponse de l'appareil
OK
E1
E2
E3
9.8

Algorithmes de calcul dans 877 Titrino plus

877 Titrino plus
Commentaire
Fonction exécutée
Méthode non trouvée
Variable non valide
Fonction non valide
Format numérique
Le logiciel du 877 Titrino plus se conforme à la norme répandue IEEE 754
(IEEE Standard for Binary Floating-Point Arithmetic for Microprocessor Sys-
tems) pour ses calculs. En d'autres termes, les nombres sont utilisés sous la
forme de « double précision » (64 bits) dans les calculs. Les nombres déci-
maux sont convertis en nombres binaires en interne et utilisés sous cette
forme pour les calculs. Leur affichage à l'écran et dans les rapports fait de
nouveau appel aux nombres décimaux, autrement dit les nombres binaires
sont à nouveau convertis en nombres décimaux. Pour pouvoir vérifier soi-
même si les calculs réalisés en interne sont bien conformes à la norme IEEE
754, les nombres sont présentés à la précision exacte dans les rapports de
calcul. Un écart minimal peut apparaître entre un nombre saisi au départ
sous la forme décimale et sa représentation interne à la précision exacte,
et ce au niveau des dernières décimales. Cet écart provient de l'absence
de correspondance binaire exacte pour tout nombre décimal. Si par ex.,
vous saisissez la prise d'essai 50,3 mg, le rapport de calcul en « double
précision » présentera le nombre 5,02999999999999E+01.
Méthode d'arrondissage
Les valeurs mesurées et les résultats sont arrondis à un nombre défini de
décimales (arrondi commercial, conforme au guide de la pharmacopée
américaine USP). Si le chiffre occupant la première décimale appelée à dis-
paraître est 1, 2, 3 ou 4, le nombre est arrondi vers le bas tandis que s'il
s'agit de 5, 6, 7, 8 ou 9, le nombre est arrondi vers le haut. Les nombres
négatifs sont arrondis d'après leur montant, en s'éloignant de zéro.
Exemples :
2,33 devient 2,3
2,35 devient 2,4
2,47 devient 2,5
–2,38 devient –2,4
–2,45 devient –2,5
9 Annexe
■■■■■■■■
115

Publicité

Table des Matières
loading

Table des Matières