Trop Urgent!!! Pourkoi Double sur 14 chiffres apres la virgule et non 15 !!!!
charmout
Messages postés5Date d'inscriptionvendredi 20 décembre 2002StatutMembreDernière intervention10 octobre 2003
-
3 janv. 2003 à 12:08
charmout
Messages postés5Date d'inscriptionvendredi 20 décembre 2002StatutMembreDernière intervention10 octobre 2003
-
3 janv. 2003 à 23:09
Salut,
Je recupere un polynome (format texte) via un certain systeme de regression non-lineaire (ecrit en C). Les coeffcients du polynome sont representes en double precision (donc avec 15 chiffres apres la virgule).
Le probleme est que quand je recopie ce polynome dans un module VB, ce con m'arrondit les coefficients à 14 chiffres apres la virgule!!!
Ce qui me fait rellement chier (j'ai vrmt besoin des 15!!)
Alors, qq'un sait pourkoi (surtout qu'a priori on dit ke dans vb le double est code sur 8octets comme dans le C).
merci d'avance
Charmout
Simply the best
A voir également:
Trop Urgent!!! Pourkoi Double sur 14 chiffres apres la virgule et non 15 !!!!
cs_DARKSIDIOUS
Messages postés15814Date d'inscriptionjeudi 8 août 2002StatutMembreDernière intervention 4 mars 2013130 3 janv. 2003 à 12:22
En effet, les nombres Double sont codés sur 8 octets, tout comme en C, mais VB ne prend en compte que 14 chiffres après la virgule. (15 chiffres significatifs en fait)
Si tu veux récupérer les 15 chiffres, il faut récupérer tes paramètres en Décimal et non en Double