Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
1362 connectés 

  FORUM HardWare.fr
  Windows & Software
  Win NT/2K/XP

  Problème avec nombres décimaux : 1.2 -> 1.19999384148789

 


 Mot :   Pseudo :  
 
Bas de page
Auteur Sujet :

Problème avec nombres décimaux : 1.2 -> 1.19999384148789

n°1171049
Le Castor
Neurasténique...
Posté le 25-05-2003 à 15:49:05  profilanswer
 

C'est sur l'ordi de ma mère.
 
Partout où il y a des nombres décimaux, ils ne s'affichent pas bien : genre dans Excel, quand je tape 1.2, il s'affiche "1.19999384148789". Pareil dans Internet Explorer, quand je télécharge un truc, il m'écrit pas "460.7 Ko", mais "460.69999767887 Ko"...
 
J'ai formaté le bordel, tout réinstallé, mais ça ne change rien.
 
HEEEELP ! D'où ça vient ? Est-ce le processeur qu'est grillé (un XP2000+ qui tourne à 70° est étrange...) ?
 
Thanx !

mood
Publicité
Posté le 25-05-2003 à 15:49:05  profilanswer
 

n°1171059
mrbebert
Posté le 25-05-2003 à 16:06:22  profilanswer
 

J'imagine que ca a un rapport avec les "options régionales" (là où on choisit la monnaie, le format de la date...)

n°1171314
Le Castor
Neurasténique...
Posté le 25-05-2003 à 20:10:34  profilanswer
 

mrBebert a écrit :

J'imagine que ca a un rapport avec les "options régionales" (là où on choisit la monnaie, le format de la date...)


 
Ca viens pas de ça, déjà vérifié. Le plus étrange c'est que après formatage, ça fait pareil...

n°1171334
Requin
Posté le 25-05-2003 à 20:22:28  profilanswer
 

Féllicitations ! Tu viens de découvrir par toi même qu'un nombre décimal ne peut être représenté de manière exacte sur un processeur.
 
Un nombre décimal est représenté en mémoire par un nombre fini de bits, par conséquent une représentation exacte n'est pas possible. Seuls les entiers peuvent avoir une représentation exacte.
 
Les nombres décimaux sont représentés généralement sur 32, 94 voir 96 bits suivant la précision ou plage de valeurs souhaitée.
 
Toutefois la plus part du temps le nombre est arrondi à quelques décimales et la valeur est suffisament précise pourq ue même après plusieurs calculs l'erreur reste acceptable. Pourquoi tu n'as plus cet arrondi cela est un mystère ;)

n°1171365
Le Castor
Neurasténique...
Posté le 25-05-2003 à 20:41:54  profilanswer
 

Merci, tu viens de me ré-apprendre ce que je sais déjà... enfin bon !
 
 
C'est clair que c'est mystérieux tout-ça... Et pis ça apparaît partout. Genre une animation Flash qui affiche le nombre d'octets déjà chargés souffre du même symptôme, sous excel, dans un logiciel de compta, parout... sauf la calculatrice windows qui est épargnée...

n°1171380
blazkowicz
Posté le 25-05-2003 à 20:53:14  profilanswer
 

c'est le bug du pentium? :lol:

n°1171382
Le Castor
Neurasténique...
Posté le 25-05-2003 à 20:54:21  profilanswer
 

Blazkowicz a écrit :

c'est le bug du pentium? :lol:


 
 :lol:  
 
C'est un athlon XP2000+  :pt1cable:  :pt1cable:

n°1171386
blazkowicz
Posté le 25-05-2003 à 20:59:03  profilanswer
 

oops j'avais pas vu  :pt1cable:  
je me suis dit : ordi de ta mère, donc vieux PC pour word et le solitaire :o

n°1171499
sanpellegr​ino
Posté le 25-05-2003 à 23:08:06  profilanswer
 

Requin a écrit :

Féllicitations ! Tu viens de découvrir par toi même qu'un nombre décimal ne peut être représenté de manière exacte sur un processeur.
 
Un nombre décimal est représenté en mémoire par un nombre fini de bits, par conséquent une représentation exacte n'est pas possible. Seuls les entiers peuvent avoir une représentation exacte.
 
Les nombres décimaux sont représentés généralement sur 32, 94 voir 96 bits suivant la précision ou plage de valeurs souhaitée.
 
Toutefois la plus part du temps le nombre est arrondi à quelques décimales et la valeur est suffisament précise pourq ue même après plusieurs calculs l'erreur reste acceptable. Pourquoi tu n'as plus cet arrondi cela est un mystère ;)


Merci pour la leçon ! Mais pourquoi ça fait ça uniquement chez lui ?

n°1171559
stilgars
Posté le 26-05-2003 à 00:45:10  profilanswer
 

Requin a écrit :

Féllicitations ! Tu viens de découvrir par toi même qu'un nombre décimal ne peut être représenté de manière exacte sur un processeur.
 
Un nombre décimal est représenté en mémoire par un nombre fini de bits, par conséquent une représentation exacte n'est pas possible. Seuls les entiers peuvent avoir une représentation exacte.
 
Les nombres décimaux sont représentés généralement sur 32, 94 voir 96 bits suivant la précision ou plage de valeurs souhaitée.
 
Toutefois la plus part du temps le nombre est arrondi à quelques décimales et la valeur est suffisament précise pourq ue même après plusieurs calculs l'erreur reste acceptable. Pourquoi tu n'as plus cet arrondi cela est un mystère ;)


 
 
Menfin bon, le nombre "1.2" est parfaitement stockable tel quel en single precision fp sans arrondi aucun  :sarcastic: avec une précision de 2 (.12) pour la fraction et l'exposant=1. Si la précision requise dépasse la magnitude d'un nombre fp en 32 bits, alors là effectivement il y a des arrondis ...
 
Ton proc a un pb clairement avec les nombre en virgule flottante, il est sans doute défectueux pour 1 raison X ou Y :/
 
EDIT : j'ai mis en gras la partie erronée de ton post, ce n'est valable que pour les nombres flottants dont la magnitude depassé celle de l'unité de stockage (par exemple c'est 23 pour un 32 bits flottant)
 
D'autant plus que le terme "nombres décimaux" est plutôt incorrect, on utilise le terme de flottants.


Message édité par stilgars le 26-05-2003 à 00:59:50
mood
Publicité
Posté le 26-05-2003 à 00:45:10  profilanswer
 

n°1171608
sanpellegr​ino
Posté le 26-05-2003 à 08:47:32  profilanswer
 

:jap:

n°1171611
Le Castor
Neurasténique...
Posté le 26-05-2003 à 08:49:46  profilanswer
 

J'vous parie que c'est la FPU qu'a grillé méchamment...

n°1171803
Le Castor
Neurasténique...
Posté le 26-05-2003 à 12:55:50  profilanswer
 

:bounce:


Aller à :
Ajouter une réponse
  FORUM HardWare.fr
  Windows & Software
  Win NT/2K/XP

  Problème avec nombres décimaux : 1.2 -> 1.19999384148789

 

Sujets relatifs
probleme avec outlook 2002Problème avec mon hub..........
PRobleme avec mon APACHE + PHPServeur Counter, routeur et probleme IP sur le net
HELP ! probleme inexplicable pour visionner mes photos !!!probleme de gravure de DVD : nero + mpg de +2Go
Serveur apache problemeProblème de lecture avec MPlayer 9 -> "class factory"
[Probleme RESOLU] Installation d'un nouveau HD S-ATA 160Go...Problème de commande xcopy et de chemin trop long dans un batch
Plus de sujets relatifs à : Problème avec nombres décimaux : 1.2 -> 1.19999384148789


Copyright © 1997-2022 Hardware.fr SARL (Signaler un contenu illicite / Données personnelles) / Groupe LDLC / Shop HFR