Algorithmes de calcul
22
■■■■■■■■
paraître est 1, 2, 3 ou 4, le nombre est arrondi vers le bas tandis que s'il
s'agit de 5, 6, 7, 8 ou 9, le nombre est arrondi vers le haut. Les nombres
négatifs sont arrondis d'après leur montant, en s'éloignant de zéro.
Exemples :
2,33 devient 2,3
2,35 devient 2,4
2,47 devient 2,5
–2,38 devient –2,4
–2,45 devient –2,5
Statistiques
La moyenne arithmétique tout comme les écarts-types absolu et relatif des
résultats sont calculés :
Il est possible d'exploiter au maximum cinq résultats provenant d'une
détermination (1 ≤ k ≤ 5) sur le plan statistique. Une série statistique ne
peut contenir que 20 déterminations au maximum (1 ≤ n ≤ 20).
La convention suivante s'applique aux formules présentées ci-dessous :
1 ≤ n ≤ 20 et 1 ≤ k ≤ 5.
Valeur moyenne :
Écart-type absolu :
Écart-type relatif (en %) :
Explications
Le calcul statistique est réalisé sur la base des valeurs mathématiques exac-
tes.
En format numérique 64 bits, la mantisse de nombres à virgule flottante
s'étend à 15 chiffres après la virgule en représentation décimale.
La précision peut être définie en sélectionnant le préfixe de l'unité (milli,
micro) et le nombre de chiffres après la virgule.
Exemple
Le résultat affiché 1234.56789158763 mg/L possède une mantisse à
15 chiffres. Il faut l'arrondir à trois chiffres après la virgule en application
de la méthode d'arrondissage :
■■■■■■■■■■■■■■■■■■■■■■