正確な」値を得ることは可能でしょうか? - ページ 4

 
sanyooooook:

どの機能のことを指しているのでしょうか?

ファースト・スルー・ラインかNLか?

NL機能。

もしそうなら。

NL (2, 0.09 * 5); // 0.44

0.45ではなく、0.44が出ます。

 
WePlexus:

NL機能。

もしそうなら。

0.45ではなく、0.44が出ます。


   Print(NL(DIGITS,0.45));
2014.10.04 13:13:03.089 normalize EURUSD,H4: 0.45
 
WePlexus:

NL機能。

もしそうなら。

0.45ではなく、0.44になるんですね。

というのもあります。MathFloor(値/ステップ)=44

入力は 44.9999999999 で、この関数は下から順に最も近い整数を返します。

なぜかというと、値/ステップ(0.45/0.01)=44.9999999999は、私の質問ではない )

 
sanyooooook:

は、その事実からです。MathFloor(値/ステップ)=44

入力値は 44.9999999999 で、この関数は下から順に最も近い整数を返します。

why: value/step(0.45*100)=44.9999999999 は私の質問ではありません)。

ありがとうございます。:)
 
WePlexus:
ありがとうございます。:)
誤記訂正
 
WePlexus:
ありがとうございます。:)

つまり、この機能はより正しいということです )

ちなみに、この場合、私の関数以外はすべて0.45を出す ))

 
これは、ある関数を使う前に、入力データをチェックし、その数字に応じて、どちらかの関数を選択しなければならないことを意味します)
 
sanyooooook:

ということで、この関数の方が正しいです )

ちなみにこの場合、私の関数以外はすべて0.45となります ))

まあ、サンヨク、お前は嘘つきだ。

私の機能

//double d=0.019999999999999999;
double d=0.09*5;
double e=(int)(d*100)/100.0;
Print("e=",e);
=0.44
 
abolk:

わたくしのかんすう

は=0.44である。
ええ、でも電卓では0.09*5=0.45と 表示されます。:)
 
WePlexus:
そう、そして電卓の結果は0.45。:)

そうなんですね、最初は気にしていなかったんです。