La précision d'une valeur numérique décrit le nombre de chiffres qui sont utilisés pour indiquer cette valeur. Dans un contexte scientifique, il s'agit du nombre total de chiffres (parfois appelés chiffres significatifs ou chiffres significatifs) ou, moins souvent, du nombre de chiffres fractionnaires ou de décimales (le nombre de chiffres suivant la virgule). Cette deuxième définition est utile dans les applications financières et d'ingénierie où le nombre de chiffres de la partie fractionnaire a une importance particulière.
Dans les deux cas, le terme "précision" peut être utilisé pour décrire la position à laquelle un résultat inexact sera arrondi. Par exemple, en arithmétique à virgule flottante, un résultat est arrondi à une précision donnée ou fixe, qui est la longueur du significand résultant. Dans les calculs financiers, un nombre est souvent arrondi à un nombre donné de positions (par exemple, à deux positions après le séparateur décimal pour de nombreuses devises mondiales).
Par exemple, la quantité décimale 12,345 peut être exprimée avec différents nombres de chiffres significatifs ou de décimales. Si la précision disponible est insuffisante, le nombre est arrondi d'une manière ou d'une autre pour correspondre à la précision disponible. Le tableau suivant montre les résultats pour diverses précisions totales et décimales arrondies à la valeur la plus proche en utilisant la méthode de l'arrondi au pair.
Notez qu'il n'est souvent pas approprié d'afficher un chiffre avec plus de chiffres que celui qui peut être mesuré. Par exemple, si un appareil mesure au gramme près et donne une lecture de 12,345 kg, il créerait une fausse précision si la mesure était exprimée "12,34500 kg" avec 2 zéros supplémentaires ("00") à la fin.
La représentation d'un nombre positif x à une précision de p chiffres significatifs a une valeur numérique qui est donnée par la formule
Pour un nombre négatif, la valeur numérique est moins celle de la valeur absolue. Le nombre 0, quelle que soit la précision, peut être considéré comme 0.
Pages connexes
Précision
Questions et réponses
Q : Qu'est-ce que la précision dans une valeur numérique ?
R : La précision d'une valeur numérique décrit le nombre de chiffres utilisés pour représenter cette valeur.
Q : Comment la précision peut-elle être utilisée pour décrire la position à laquelle un résultat inexact sera arrondi ?
R : La précision peut être utilisée pour décrire la position à laquelle un résultat inexact sera arrondi en définissant une précision donnée ou fixe, qui est la longueur du significande résultant. Dans les calculs financiers, un nombre est souvent arrondi à un nombre donné de places (par exemple, deux places après le séparateur décimal pour de nombreuses devises mondiales).
Q : Comment peut-on exprimer 12,345 avec différents nombres de chiffres significatifs ou de décimales ?
R : 12,345 peut être exprimé avec différents nombres de chiffres significatifs ou de décimales en l'arrondissant pour l'adapter à la précision disponible à l'aide de la méthode round-to-even.
Q : Que se passe-t-il lorsque la précision disponible est insuffisante ?
R : Lorsque la précision disponible est insuffisante, le nombre est arrondi d'une manière ou d'une autre pour s'adapter à la précision disponible.
Q : Est-il approprié d'afficher un chiffre avec plus de chiffres que ce qui peut être mesuré ?
R : Non, il n'est pas approprié d'afficher un chiffre avec plus de chiffres que ce qui peut être mesuré, car cela crée une fausse précision. Par exemple, si un appareil mesure au gramme près et donne une lecture de 12,345 kg, cela créerait une fausse précision si la mesure était exprimée "12,34500 kg" avec 2 zéros supplémentaires ("00") à la fin.
Q : Quelle formule représente les nombres positifs x avec une précision de p chiffres significatifs ?
R : La formule représentant les nombres positifs x avec une précision de p chiffres significatifs a une valeur numérique donnée par round(10-n-x)-10n où n = floor(log10 x) + 1 - p . Pour les nombres négatifs, la valeur numérique est moins que celle de sa valeur absolue et 0 a toute précison prise comme 0
