Multiplier 2 valeurs hexa qui donne un résultat à plus de 8 caractéresRésolu

Question

bonjour encore une fois! 
je suis entrain de cartonner au niveau question sur le forum l&#224;!
bref, en faite j'aimerais effectuer un calcul: multiplier deux valeurs hexa
multiplier 51EB851F par 32C2CE
et avoir un r&#233;sultat.
si j'utilise la calculette windows je trouve = 103E5666749CF2
ici 14 caract&#233;res, et quand j'esseye de le faire avec VB  il me sort D&#233;passement de capacit&#233;!
merci de bien vouloir y r&#233;flichir!
aurevoir!

&#161; lokitto !

cs_Jack · Accepted Answer

Re
En cherchant un peu, j'ai trouv&#233; cette simple fonction qui semble fonctionner :
Public Function BigDecToHex(ByVal DecNum) As String
    ' This function is 100% accurate untill
    '     15,000,000,000,000,000 (1.5E+16)
    Dim NextHexDigit As Double
    Dim HexNum As String
    HexNum = ""
    While DecNum <> 0
        NextHexDigit = DecNum - (Int(DecNum / 16) * 16)
        If NextHexDigit < 10 Then
            HexNum = Chr(Asc(NextHexDigit)) & HexNum
        Else
            HexNum = Chr(Asc("A") + NextHexDigit - 10) & HexNum
        End If
        DecNum = Int(DecNum / 16)
    Wend    If HexNum "" Then HexNum "0"
    BigDecToHex = HexNum
End Function

Ouf, j'ai failli perdre la face 

Vala
Jack, MVP VB
NB : Je ne r&#233;pondrai pas aux messages priv&#233;s 

Champion du monde de boule de cristal - 2005
Le savoir est la seule mati&#232;re qui s'accroit quand on le partage (Socrate)

cs_Jack · Answer

Salut
Et tu ne nous dis pas comment tu as fait, sinon, on aurait pu te dire ce qui n'allait pas ...
Mais comme je suis champion du monde de boule cristal 2005, je consulte ... (30 sec)
Bon, alors, comme tu n'as pas pu multiplier directement tes nombres sous forme Hexa, tu les donc convertis en d&#233;cimal.
Ton 1er nombre = 1.374.389.535 d&#233;cimal --> Dans un Long, pas de probl&#232;me
Le 2eme nombre = 3.326.670 d&#233;cimal : Idem
Par contre, le r&#233;sultat donne 4.572.140.434.398.450
Or, les variables de type Long ne peuvent aller que jusqu'&#224; 2.147.483.647
D'o&#249; l'erreur de d&#233;passement de capacit&#233;.
Change donc les types de tes variables --> Decimal
Mais ce type n'est pas g&#233;r&#233; directement par VB car c'est une suite d'entiers.
Comme expliqu&#233; dans l'aide , il faut dimensionner tes variables en type Variant puis utiliser les fonctions de conversion :
Dim r As Variant
Dim Var1 As Variant
Dim Var2 As Variant
Var1 = CDec(1374389535)
Var2 = CDec(3326670)
r = CDec(Var1 * Var2)

Vala
Jack, MVP VB
NB : Je ne r&#233;pondrai pas aux messages priv&#233;s 

Champion du monde de boule de cristal - 2005
Le savoir est la seule mati&#232;re qui s'accroit quand on le partage (Socrate)

cs_Jack · Answer

lol, je rigole moins :
Ton histoire de conversion d'hexa ... coton, je n'avais pas &#233;t&#233; assez loin.
Je bosse dessus ... je reviens

rvblog · Answer

Salut i lokitto, et salut à tous, m'en veux pas i lokitto! Et bien vu Jack, Pourquoi je suis là? Je voulais juste préciser à i lokitto que s'il veut, il existe un code hallucinant (pas qu'un, mais j'aime bien celui là, sinon, cherches "grand nombres") d'opérations sur les grands nombres, réalisé par DHKold, ici : http://www.vbfrance.com/codes/ENSEMBLE-FONCTION-MATHEMATIQUE-POUR-TRES-GRAND-NOMBRES_7338.aspx Et aussi préciser aux utilisateurs d'NT 4.0 ou plutôt de calc.exe(v.4.0), qu'elle n'est pas en mesure d'effectuer ce "petit calcul", enfin spécifié par lokitto, il faut attendre la version 5.0 (W2k). à+, rvblogn^{Je veux ton bien... et je l'aurais}

Multiplier 2 valeurs hexa qui donne un résultat à plus de 8 caractéres

4 réponses

Discussions similaires