[urgent] Soustraction par VB incorrecte?Résolu

Question

Bonjour,

Voilà j'ai un problème assez énervant en faisant des calculs pour générer des fiches de paie.

Le mieux c'est que je montre directement je pense :

heures_base = s_nb_h.Text
salaire_base = s_sal_base.Text
taux_horaire = salaire_base / heures_base

h_abs_css = s_css.Text
abs_css = h_abs_css * taux_horaire

total_brut = salaire_base - abs_css

Toutes les variables sont de type double et on a en saisie :

s_nb_h : 10
s_sal_base : 82.7
s_css : 10
La traçage des variables m'indique bien que salaire_base 82.7 et que abs_css 82.7

Alors est ce que qqun saurait m'expliquer pourquoi VB me donne comme résultat : total_brut = 1.4210854715202E-14

C'est certainement lié au type des variables mais je n'arrive pas à trouver une solution sachant que je ne veux pas arrondir a cause des calculs qui suivent... J'ai essayé de bidouiller mais de trucs mais sans succès et là je suis un peu à cours d'idées...

Please... Help...

cs_DARKSIDIOUS · Accepted Answer

Comme je le dit, c'est un problème du complèment à 2 :
1.4210854715202E-14 = 0.000000000000001421085...

Bref, c'est égal à 0, MAIS à cause du système de chiffrement en binaire des nombres, il se peut qu'il y ai un léger reste à cause du codage des nombres intervenant dans la soustraction, ce qui donne au final un résultat très légérement faux.

Essaye donc ceci :
heures_base = CDbl(s_nb_h.Text)
salaire_base = CDbl(s_sal_base.Text)
taux_horaire = Format(salaire_base / heures_base, "0.000000")

h_abs_css = CDbl(s_css.Text)
abs_css = format(h_abs_css * taux_horaire, "0.000000")

total_brut = salaire_base - abs_css

Logiquement ca devrait mieux passer, avec une très légère perte de précision.

mortalino · Answer

Salut,

heures_base = CDbl(s_nb_h.Text)
salaire_base = CDbl(s_sal_base.Text)
taux_horaire = salaire_base / heures_base

h_abs_css = CDbl(s_css.Text)
abs_css = h_abs_css * taux_horaire

total_brut = salaire_base - abs_css

++

drikce06 · Answer

Salut!


Je pense que le problème vient du fait que tu récupère des string, donc il faut faire la conversion!


essaie:

heures_base = CDbl(s_nb_h.Text)
salaire_base = CDbl(
s_sal_base.Text)
taux_horaire = salaire_base / heures_base

 Drikce 06

drikce06 · Answer

Trop rapide mortalino!!!!!! lol!!!!

 Drikce 06

jrivet · Answer

Salut,
En effet c'est bizarre, je viens de teste et j'ai exactement la meme chose.
Meme en convertissant En Double avec CDbl....

Rassure moi  mr_saturne le résultat attendu est bien 0?

@+,   Ju£i?n

drikce06 · Answer

mais non c'est 1!!! 82.7/82.7=1


Reprends un café lol! t'es pas réveillé! lol!

 Drikce 06

cs_casy · Answer

Drikce, qui c'est qui n'est pas réveiller ??
total_brut salaire_base - abs_css 82.7 - 82.7 = 0

---- Sevyc64  (alias Casy) ----<hr size="2" width="100%" /># LE PARTAGE EST NOTRE FORCE #

mr_saturne · Answer

Arf... Pour simplifier je l'ai pas mis pour simplifier mais en fait la version de base c'est :

heures_base = CDbl(Replace(s_nb_h.Text, ",", "."))
salaire_base = CDbl(Replace(s_sal_base.Text, ",", "."))
h_abs_css = CDbl(Replace(s_css.Text, ",", "."))

De toutes facons j'ai un peu tout essayé, le problème n'est pas si simple...

Effectivement jrivet, j'aimerais bien que 82.7 - 82.7 me retourne 0 et au lieu de ca VB me renvoi cette valeur extrèmement proche de 0 mais qui fausse tous les calculs suivants...

D'ailleurs si par la suite si j'essai d'arrondir j'ai encore un truc bizarre :

Round(total_brut, 2) = 0.01
Round(total_brut, 6) = 0.000001

I love Microsoft!

cs_DARKSIDIOUS · Answer

problème du complément à 2 ??? Certains nombres ne peuvent pas être codé sur les bits d'un double => la plupart des langages de prog doivent arrondir au nombre s'y approchant le plus...

C'est sûrement le cas ici

drikce06 · Answer

avec textbox1 et 2 = 82.7 j'obtiens bien 1 mais peut etre que c'est parce que je suis en vb2005 mais meme vb6 ça m'étonnerai qu'il plante sur ça!



Dim
 a 

As



Double

a = (




CDbl
(TextBox1.Text) / 

CDbl
(TextBox2.Text))MsgBox(a)






 Drikce 06

drikce06 · Answer

>casy en fait tout dépend si tu prends la division ou la soustraction! tout le monde est réveillé en fait! lol!

 Drikce 06

cs_casy · Answer

Ok mais je ne vois pas comment tu obtient 82.7/82.7, pour moi il n'apparait pas dans le calcul. Par contre j'ai 82.7/10

---- Sevyc64  (alias Casy) ----<hr size="2" width="100%" /># LE PARTAGE EST NOTRE FORCE #

mr_saturne · Answer

Effectivement je pencherais plus pour un problème de complément à 2 comme le dis Darksidious...

Mais je fais comment pour résoudre mon problème? Je pleure très fort?

drikce06 · Answer

ça marche aussi!



Dim
 a 

As



Double

a = (




CDbl
(Replace(TextBox1.Text, 

","
, 

"."
)) / 

CDbl
(Replace(TextBox2.Text, 

","
, 

"."
)))MsgBox(a)






 Drikce 06

drikce06 · Answer

casy> Ah oui! Je vais prendre un café! je reviens dans 5 min!!!!

 Drikce 06

mortalino · Answer

Et oui, attention aux paramètres régionaux (bien vu Drikce).
La virgule, dans un textbox, est interprété par VB comme séparateur de milliers !

++

cs_casy · Answer

Parcontre mr_saturne, chez moi le Ronud marche très bien

Round(total_brut, 13) = 0

---- Sevyc64  (alias Casy) ----<hr size="2" width="100%" /># LE PARTAGE EST NOTRE FORCE #

drikce06 · Answer

Normalement tout fonctionne très bien, ça doit venir d'un bout de ton code qui met la.........! Met tout ton code avec les déclarations etc.... Car moi je pense que ça vient forcément de là! Car 82.7/10 ou des calculs équivalent c'est pas la mer à boire pour VB comme même! Sinon c'est inquiétant!

 Drikce 06

mr_saturne · Answer

Arf...

Le truc c'est que j'avais déjà trouvé que la fonction Round de VB était buggée (Round(0.125, 2)=0.13 mais Round(0.135, 2)=0.13, ou qqchose de ce genre) donc j'utilise une fonction spéciale pour arrondir qui me donne les résultats que j'ai mis plus haut...

De toutes facons le problème c'est que je veux pas arrondir car si le résultat est différent de zéro j'ai besoin du résultat exact pour la suite des calculs...

Par contre si mon problème vient effectivement du type Double est ce que je peux en utiliser un autre qui marcherais? Si oui lequel?

Je montre ma fonction d'arrondi quand même, juste pour le pricipe :

Public Function ReyRound(Value, Optional Size) As Double

Dim Factor As Long
Dim Unit As Double
Dim Resultat As Double

If Not IsNumeric(Value) Then
    If IsNull(Value) Then
        Value = 0
    Else
        Value = Val(Value)
    End If
End If

If IsMissing(Size) Then
    Factor = 1
    Unit = 0
Else
    Factor = Val("1" & String(Size, "0"))
    Unit = Val("0." & String(Size - 1, "0") & "1")
End If

Resultat = (Val(Value * Factor) / Factor)

If CDbl(Resultat & "5") <= Value Then
    ReyRound = Resultat + Unit
Else
    ReyRound = Resultat
End If

End Function

mr_saturne · Answer

Drikce06, le problème c'est pas la division c'est uniquement la soustraction.

J'ai vraiment VB qui me dit :

salaire_base = 82.7
abs_css = 82.7
salaire_base - abs_css = 1.4210854715202E-14

Et oui moi je touve ca assez inquiétant, mais avec VB je m'étonnes plu de rien maintenant...

[urgent] Soustraction par VB incorrecte?

27 réponses

Votre réponse

Discussions similaires