Est-il possible d'obtenir une valeur "exacte" ? - page 5

Nouveau commentaire
 
WePlexus:
Oui, et la calculatrice dit 0,09*5=0,45. :)

a juste besoin d'être normalisé :

//double d=0.019999999999999999;
double d=NormalizeDouble(0.09*5,2);
double e=(int)(d*100)/100.0;
Print("e=",e);
 
abolk:

Eh bien, Sanyok, tu es un menteur.

Ma fonction :

=0.44.
Je n'ai pas vérifié les vôtres.)
 
abolk:

Il ne reste plus qu'à procéder à la normalisation :

également une option ))))

et c'est quoi ce numéro ? )))

0.01999999999999999999
 
sanyooooook:

également une option ))))

et c'est quoi ce numéro ? )))

c'est le nombre maximum avec lequel la normalisation fonctionne :

double d=NormalizeDouble(0.01999999,18);
double e=(int)(d*100)/100.0;
Print("e=",e);

si tu prends un 9 de plus, c'est normalisé à 0,02.

 
abolk:

est le nombre maximal avec lequel la normalisation a lieu :

Si vous prenez un 9 de plus, ça se normalisera à 0,02.
ne le coupez pas.)
 
sanyooooook:
ne pas tronquer le nombre).
whatever -- Le format de précision de NormalizeDouble() est 0-8
 
abolk:
so sideways -- le format de la précision dans NormalizeDouble() -- 0-8
donc c'est déjà de côté))
 
sanyooooook:
donc c'est ça, c'est tout pareil))

nous sommes déjà au "coeur du problème", c'est pourquoi "déjà"...

d'abord la décomposition du problème -- puis la composition du problème

ou il y a encore des détails à régler ?

 
abolk:

nous sommes déjà au "coeur du problème", c'est pourquoi "déjà"...

d'abord la décomposition du problème -- puis la composition du problème

ou y a-t-il encore des points inexpliqués ?

oui )

comment utiliser la même fonction (disons, celle que vous avez écrite) pour tronquer n'importe quel nombre d'entrée au bon nombre de chiffres :

même si c'est ça :

0.01999999999999999999

ou ceci :

0.09*5
 
sanyooooook:

oui )

comment tronquer n'importe quel nombre d'entrée au bon nombre de chiffres en utilisant la même fonction :

même si c'est ça :

ou ceci :

Pour résoudre ce problème, 0,09*5 doit être =0,45, et non =0,44999999999999999.

et si une telle chose n'existe pas, alors le problème est insoluble.

1234567
Nouveau commentaire