Problèmen de soustraction résultat zéro

Petitoui Messages postés 7 Date d'inscription lundi 26 janvier 2009 Statut Membre Dernière intervention 9 décembre 2010 - 1 juin 2010 à 23:26
cs_Julien39 Messages postés 6414 Date d'inscription mardi 8 mars 2005 Statut Modérateur Dernière intervention 29 juillet 2020 - 2 juin 2010 à 18:16
voici ma formule

tauxl24.Caption = Val(frmtaux.mtl24.text) - (Val(nombre_depot.text) * Val(frmtaux.rab_depot.text))

frmtaux.mtl24.text = 1.8
nombre_depot.text = 9
frmtaux.rab_depot.text = .02

donc le réultat devrait-être 1.8 -(9*.02) donc 0

mais j'ai comme réponse le nombre suivant
-5.551123.......E-17

Pourquoi ???

5 réponses

LIBRE_MAX Messages postés 1402 Date d'inscription mardi 1 mai 2007 Statut Membre Dernière intervention 7 octobre 2012 6
2 juin 2010 à 00:47
Salut,
Non !
1.8 -(9*.02)= 1.62

Par contre
1.8 -(9*. 2 ) =-5.551123.......E-17

t' es sûr de ton .02 ?
[] Ce qui va sans dire. va mieux en le disant.
0
Petitoui Messages postés 7 Date d'inscription lundi 26 janvier 2009 Statut Membre Dernière intervention 9 décembre 2010
2 juin 2010 à 00:58
Faute de frappe c'est vraiement 0.2 que j'utilise

Explication ?
0
LIBRE_MAX Messages postés 1402 Date d'inscription mardi 1 mai 2007 Statut Membre Dernière intervention 7 octobre 2012 6
2 juin 2010 à 01:05
Autre par contre..
c' est 1.8 - (0.9 * 2) qui donnerait 0

[] Ce qui va sans dire. va mieux en le disant.
0
Petitoui Messages postés 7 Date d'inscription lundi 26 janvier 2009 Statut Membre Dernière intervention 9 décembre 2010
2 juin 2010 à 02:10
J'ai trouvé...

faut remplacer mes textbox de mes formules par des variables numériques...

A +

Louis
0

Vous n’avez pas trouvé la réponse que vous recherchez ?

Posez votre question
cs_Julien39 Messages postés 6414 Date d'inscription mardi 8 mars 2005 Statut Modérateur Dernière intervention 29 juillet 2020 371
2 juin 2010 à 18:16
Oui, ca ca marchera, ca vient du fait que comme tes variables ne sont pas déclarées, VB les déclare tout seul et si il décide que ton résulat est un entier il te fait des arrondis, et quand c'est lui qui fait les arrondis, il les fait directement sur le binaire ce qui donne un résultat très approximatif :)
0
Rejoignez-nous