|
Bas de page | |
---|---|
Auteur | Sujet : [résolu] calcul faux |
Publicité | Posté le 18-09-2006 à 11:08:21 |
flo850 moi je | les nombres décimaux sont rarement stockés sous leur forme exact , mais sous une valeur approchée ( d'assez pres ) |
gocho | utilises des doubles au lieu des floats et tu auras le resultat que tu veux
--------------- Mon feedback |
jagstang Pa Capona ಠ_ಠ |
--------------- What if I were smiling and running into your arms? Would you see then what I see now? |
moustik510 Enfin en travaux ! |
|
jagstang Pa Capona ಠ_ಠ |
--------------- What if I were smiling and running into your arms? Would you see then what I see now? |
jagstang Pa Capona ಠ_ಠ | une solution con aussi : calculer en centimes (avec des entiers donc) --------------- What if I were smiling and running into your arms? Would you see then what I see now? |
Publicité | Posté le 18-09-2006 à 11:29:59 |
Taz bisounours-codeur | dès que tu fais du monétaire il __faut__ travailler avec des types entiers (j'ai pas dit int, j'ai dit type entier, arithmétique entière). Si t'as un flottant dans le tas, c'est foutu. |
flo850 moi je |
|
masklinn í dag viðrar vel til loftárása |
--------------- Stick a parrot in a Call of Duty lobby, and you're gonna get a racist parrot. — Cody |
moustik510 Enfin en travaux ! |
|
jagstang Pa Capona ಠ_ಠ | edit ton premier post --------------- What if I were smiling and running into your arms? Would you see then what I see now? |
Taz bisounours-codeur |
moustik510 Enfin en travaux ! |
|
MagicBuzz | Decimal tout court doit faire l'affaire logiquement. A moins qu'e Java Decimal soit un alias de Float, il utilise une précision fixe, et donc ne pose pas ces problèmes d'approximation (si ?)
Message cité 1 fois Message édité par MagicBuzz le 18-09-2006 à 15:22:40 |
Taz bisounours-codeur |
|
MagicBuzz | Ma question était : est-ce que Decimal en Java est comme le Decimal en SQL, c'est à dire TOUT SAUF UN FLOAT. (en réalité, une chaîne de caractères d'un nombre fixe de chiffres).
Message édité par MagicBuzz le 18-09-2006 à 15:56:43 |
Taz bisounours-codeur | Je reprécise : BigDecimal c'est bien mieux que des int parce que dans ta compta, tu as des multiplication avec des fractions, et le temps de l'opération, tu as besoin (obligatoire) de précision supplémentaire. C'est vraiment important quand le calcul doit être exact.
|
flo850 moi je |
|
Taz bisounours-codeur | oui BigDecimal c'est comme celui du SQL.
|
MagicBuzz | A priori, y'a pas de raison pour que Decimal ne soit pas pareil que BigDecimal donc
Message édité par MagicBuzz le 18-09-2006 à 16:01:49 |
souk Tourist | sauf que Decimal en java ca n'existe pas |
MagicBuzz | Ben forcément
|
Taz bisounours-codeur | c'est pour avoir la plus grosse |
rom1v |
|
Taz bisounours-codeur |
tu as raison, c'est toujours pire que linéaire.
|
rom1v | Petite correction par rapport à ce que j'ai dit, le nombre de chiffres significatifs est la taille de la mantisse + 1 (car il y a un 1 implicite), et donc pour un float, 23 chiffres significatifs en base 2, et en double 53... |
Publicité | Posté le |
Sujets relatifs | |
---|---|
Comportement Bizare de mon COOKIE [RESOLU] | [Resolu] Addition de deux elements de deux vecteurs |
[Résolu] [C#] String et Split | [résolu][c#] ajout d un element à un tableau |
suppression ou cacher ligne sur bouble infini[résolu] | [Résolu][Qt] QProcess lancés en boucle - started() et finished() |
Récupérer le Full Name d'un utilisateur réseau en VBA [Résolu] | selection Listbox avec multiselected [résolu] |
[RESOLU] Evénement onclick() | [Résolu] Mon script d'ouverture de pop-up ne doit pas être bon ! |
Plus de sujets relatifs à : [résolu] calcul faux |