isaomi
Messages postés18Date d'inscriptionmardi 28 octobre 2003StatutMembreDernière intervention15 juin 2006
-
15 juin 2006 à 18:40
cs_DARKSIDIOUS
Messages postés15814Date d'inscriptionjeudi 8 août 2002StatutMembreDernière intervention 4 mars 2013
-
15 juin 2006 à 18:54
Bonjour,
Je travaille en vb6
J'ai un probleme de résultat de soustraction.
Lorsque je soustrait 2 valeus à 2 décimales le résultat obtenu dans ma variable (déclarée en single) contient + de 2 décimales.
expl : 265.80 -166.80 me donne 98.99998
Du coup tout mes calculs sont faux
cs_DARKSIDIOUS
Messages postés15814Date d'inscriptionjeudi 8 août 2002StatutMembreDernière intervention 4 mars 2013130 15 juin 2006 à 18:54
Et oui, vive le complément à 2 des ordinateurs ! Certains nombres à virgules ne peuvent pas être représentés correctement en mémoire, d'où cette imprécision. Mais pour un calcul aussi simple, il suffit d'arrondir au supérieur...