Extended et souci passé un certain nombre de chiffresRésolu

Question

Bonjour,

Voilà, je bute sur un truc tout bête 

var
  a, b: Extended;
begin
  a := 1234567890123456; // 16 chiffres
  b := 2;

  ShowMessage(FloatToStr(a * b)); // Résultat = 2,46913578024691E15

  // Extended =	19 chiffres à virgule flottante sur 10 octets
end;

2,46913578024691E15 pour le résultat de cette multiplication, là j'ai encore loupé un truc par rapport à l'extended.

L'autre fois ici, j'avais lu pareil souci, mais je ne retrouve plus ce post. J'ai passé du temps à chercher et que dalle, sniffff alors.

Merci d'avance de votre lumière

Cirec · Accepted Answer

Salut,

c'est la méthode de conversion qui fait la différence :
[hr][b]var
  /ba, b, res: Extended;
  resstr: string;
[b]begin
  /ba :=  1234567890123456;  // 16 chiffres 
  b : = 2;
  res :=  a * b;
  Str(res:18:2, resstr);
  ShowMessage(resstr);  // Résultat = 2469135780246912.00 
  // Extended  =	19 chiffres à virgule flottante sur 10 octets
end;



[hr]@+Cirec
[hr]

Francky23012301 · Answer

Salut Jean-Pierre

 je ne vois pas ce qui te gène dans ton résultat : Si je me trompe 1234567890123456 en écriture scientifique ca donne 1,234567890123456E15. Je ne vois pas ce qui te chiffonne

f0xi · Answer

var 
  A, B : Int64; // UInt64
begin
  A := 1234567890123456;
  B := 2;

  ShowMessage( format('%.0n or %d',[A * B + 0.0, A*B]) );
end;
________________________________________________________
besoin de câbles audio, vidèo, informatique pas cher ?

cs_Jean-Pierre · Answer

Un grand merci à vous deux, sans oublier Francky.

fOxy ne souhaitant pas être en reste et me donne en prime un feu d'artifice complémentaire

Ah ce format() tant négligé... En tous les cas, j'en ai encore appris une, enfin plusieurs 

Oufff, ça me dépanne un max

Extended et souci passé un certain nombre de chiffres

4 réponses

Votre réponse

Discussions similaires