Publicité
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
1234,568 mg/L.
￭
Si le même résultat est exprimé en g/L (1.23456789158763 g/L) et
aussi arrondi à trois décimales, on obtient
1,235 g/L.
￭
En d'autres termes, vous obtenez le plus faible niveau de perte de préci-
sion dû à l'arrondi si vous configurez l'application et le format numérique
de façon à ce que les nombres affichés possèdent le plus de chiffres avant
la virgule.
Des écarts peuvent être observés en recalculant l'ensemble des statistiques
en utilisant une calculatrice ou un tableur PC. Ceci est lié aux différents
formats numériques binaires utilisés par ces calculateurs.
Les pertes de précision évoquées et dues à l'arrondi que l'on
observe au niveau de la mantisse restent du domaine théorique. La
plupart du temps, elles sont en-deçà de l'ordre de grandeur de l'in-
certitude de mesure (erreur de balance, de dosage, de mesure).
Description fonctionnelle
23
￭￭￭￭￭￭￭￭
Publicité
