Limitations Sur La Précision Des Données - HP 33s Guide De L'utilisateur

Limitations sur la précision des données
Du fait que la calculatrice possède une précision limitée (12 à 15 chiffres), cela
engendre des limitations de calculs dues aux arrondis . En voici deux exemples :
Nombres importants, proches et normés
La calculatrice peut être incapable de calculer un écart–type et une régression
linéaire pour une variable dont les données diffèrent de très peu. Afin d'éviter cela,
normaliser les données en entrant chaque valeur comme la différence par rapport
à une valeur centrale (telle que la moyenne). Pour chaque valeur normalisée x, la
y ˆ
x x ˆ
différence doit alors être ajoutée pour le calcul de et et et b devrait
également être ajusté. Par exemple, si vos valeurs x sont 7776999, 7777000 et
7777001, vous devrez entrer les données comme –1, 0 et 1, puis ajouter
y ˆ
x x ˆ
7777000 à et . Pour b, ajoutez 7777000 x m. Pour calculer , vérifiez de
fournir une valeur de x inférieure à 7777000.
Des inexactitudes similaires peuvent survenir si vos valeurs de x et y sont très
différentes. De même, un échelonnage des données peut éviter ce problème.
Effet des données effacées
Exécuter n'efface pas les erreurs d'arrondis qui ont pu être générées
dans les registres statistiques par les valeurs originales des données. Cette
différence n'est pas importante à moins que la donnée incorrecte possède une
différence qui est énorme comparée à la donnée corrigée ; dans un tel cas, il
serait prudent d'effacer et de ré–entrer toutes les données.
11–11
Opérations statistiques