Problème calcul

Signaler
Messages postés
7
Date d'inscription
mardi 19 novembre 2002
Statut
Membre
Dernière intervention
30 juin 2003
-
Messages postés
20
Date d'inscription
jeudi 20 juin 2002
Statut
Membre
Dernière intervention
7 janvier 2003
-
Bonjour,

J'ai réalisé un prog qui trace des courbes et qui calcul son mini., son maxi., et sa déviation qui elle me pose problème.
Pour sa j'ai pompé la formule de calcul d'Excel ("ECARTYPEP").

J'utilise une variable DblTotalCarre qui contient le total des carrés de mes n valeurs,
une variable DblTotal qui contient le total de mes n
Puis je fais "le simple" calcul suivant qui me complique bien la vie..... :
(n * DblTotalCarre - (DblTotal ^ 2))
Au lieu de me retourner 0 sa me renvoie un nombre négatif à 10 puissance -16
-> Faites le test avec 21 valeurs à 0,03.

Je me suis renseigné auprès de polytechniciens qui m'ont confirmé que le signe de cette formule ne pouvait pas être négatif.

J'aimerai effectuer ce calcul en valeur exacte, mais je vois pas comment esquiver ce problème...?

Merci d'avance,
Bob.

Be cool....

4 réponses

Messages postés
7
Date d'inscription
mardi 19 novembre 2002
Statut
Membre
Dernière intervention
30 juin 2003
1
Précisions :

Quand j'affiche le contenu des mes variables et même des bouts de mes calculs (n * DblTotalCarre) et (DblTotal ^ 2) ce ne sont que des valeurs exactes... Alors je sais pas du tout qu'est ce qui merde.
J'utilise le type Double.

Please, help
Bob.

Be cool....
0
Messages postés
1858
Date d'inscription
samedi 29 juin 2002
Statut
Membre
Dernière intervention
17 octobre 2013
10
Problème de précision des calculs effectués par l'ordinateur !
-1 x 10 ^-16 = -0,000 000 000 000 000 1, c'est pratiquement zéro !
Une solution : dire que si l'écart type est infériur à 10^-15 alors il vaut 0.
0
Messages postés
7
Date d'inscription
mardi 19 novembre 2002
Statut
Membre
Dernière intervention
30 juin 2003
1
Effectivement, c'est la conclusion à laquelle j'étais arrivé. Le truc c'est que je fais la connerie d'en parler à un technicien de l'entreprise pour laquelle j'ai effectué le développement et j'arrive pas à le persuader que le problème ne vient pas de la formule.
J'avais "corrigé" le bug en testant le signe de ce bout de formule qui merdouille, quand il est négatif je colle un zéro à la place mais sa fait bidouillage...

Y a vraiment aucun moyen de tomber pile sur zéro sans tronquer de valeurs ???
Je crois que je vais devoir faire appel directement à la formule Excel, même si Excel est réputé pour faire des petites erreurs de calcul de temps en temps...

Merci René !

Be cool....
0
Messages postés
20
Date d'inscription
jeudi 20 juin 2002
Statut
Membre
Dernière intervention
7 janvier 2003

La formule d'excel fait surement la meme chose, c'est juste que tu vois pas comment elle calcule :)

Greedo
0