エラー、バグ、質問

Nikolai Semko 2021.01.13 01:23 #29381

x572intraday:
価格はすべて小数点以下5桁まで表示され、同じリストの中の1つはなぜかこのように受け取られる：なぜ？エラーなのか、それとも私の出力が同じに見えるように調整すべきなのか。まあ、仮にPrintFormatやfprintで梳くとして、原理的に数値の表現として間違ってはいないのでしょうか。

トレーディング、自動売買システム、トレーディング戦略のテストに関するフォーラム

バグ、バグ、質問

ニコライ・セムコさん 2020.01.05 21:41

私はいつもこの疑問を抱いています。
常にすべての IEEE 規格 754についての話が、人々はしばしば、彼らはウィキペディアに行くとき - 複雑さのために、または怠惰のためかどうか規格の意味を理解せずに残します。

この投稿をさらに参考にしていただくために、少し時間をかけて、この規格をできるだけ簡潔に、わかりやすい言葉で説明することを心がけたいと思います。

つまり、double型は8バイト＝64ビットで構成されています。(float 4バイト＝32ビット)

また、double および float の数値表現は、符号、指数、仮数の 3つの要素から構成されています。

DOUBLE（ダブル）。

フロートです。

当然ながら、このフォーマットでは10進数表現はなく、2進数表現のみとなる。

符号は1ビットです。0なら＋（プラス）、1なら-（マイナス）です。
指数は、数 2 の次数を格納する。floatの場合は-12610～12710，doubleの場合は-102210～102310の範囲で指定可能です。
仮数は、2進数の数値そのものの分数部分を、その最初の単位に関係なく、最初の単位の後にコンマが立つ形に縮小したもので、コンマ

数字の2進数表現と10進数との関係を少し理解していること。

2⁴= 100002 = 1610

2³= 10002 = 810

2²= 1002 = 4

2¹=102= 2

2⁰=12=110

2^-1= 0.12=(1/2)10= 0.510

2^-2= 0.012 = (1/4)10= 0.2510

2^-3= 0.0012 = (1/8)10= 0.12510

2^-4= 0.00012 = (1/16)10= 0.062510

2^-5= 0.000012 = (1/32)10= 0.0312510

2^-6= 0.0000012 = (1/64)10= 0.01562510

2^-7= 0.00000012 = (1/128)10= 0.007812510

2^-8= 0.000000012 = (1/256)10= 0.0039062510

2^-9= 0.0000000012 = (1/512)10= 0.00195312510

2^- ¹⁰= 0.00000000012 = (1/1024)10= 0.000976562510

2^- ¹¹= 0.000000000012 = (1/2048)10= 0.0004882812510

2^- ¹²= 0.0000000000012 = (1/4096)10= 0.00024414062510

2^- ¹³= 0.00000000000012 = (1/8192)10= 0.000122070312510

ダブルの例をおさらいして おきましょう。

例1

891677.4025191という10進数の数字があります。

この数字は2進数で表すことができる。

11011001101100011101.01100111000010110111110110001000001111111010001110
(確認したい人はどうぞ)))

与えられた数値の仮数を取り出すには、コンマを19桁左に移動させ（この場合）、最初の単位の後に来るようにすればよいのです。

1.1011001101100011101011001110000101101111101111000101000001111101110001110* 2¹⁹

でも、仮数は52ビットしかないんです。そこで、最初の52個の有効ビットを取ります

Мантисса =1011001101100011101011001110000101101111101111000101

指数＝(19+1023)10＝100000100102（指数は符号付き数字で、指数が負になることもあるので（例えば0.0000042132なら）、1023を10に足す（0111111112）、0111111112はゼロ、それ以上は正、それ以下は負になります）。つまり、指数の逆数を求めるには、指数の11ビットの値から1023を引けばよい。

合計すると、私たちの番号891677.4025191は、タイプダブルでは次のようになります。

0100000100101011001101100011101011001110000101101111101111000101

しかし、これは2進数表現なので、正確に10進数に変換してみよう。

ということは、891677.4025190999964252114295947265625となります。

例2

0.00000145258556224114という10進数の数値があります。

この数字は2進数で表すことができる。

-0.000000000000000000011000010111101100111010110111010011010101001111001110

この数値の仮数を選択するには、コンマを20桁右に移動して、最初の単位の後にあるようにすればよい。

1.1000010111101100111010110111010011010101001111001110* 2^-20

Мантисса =1000010111101100111010110111010011010101001111001110

指数 = (-20+1023)10=011111010112

マイナス符号なので、最初のビットは1です。

私たちの合計数-0.00000145258556224114は、ダブルタイプでは次のようになります。

1011111010111000010111101100111010110111010011010101001111001110

10進数に正確に変換します。

это будет-0.00000145258556224113991124017968015191826225418481044471263885498046875

この場合、0.01という数値は、複式で表現されるため、問題が発生します。

0 01111111000 0100011110101110000101000111101011100001010001111011

であり、10進数表記に換算すると、0.0100000000002081668171172168513294309377670288085937510に等しくなる。

一方、表現では

310= 1.5*2 = 1.12*2 ¹

510= 2.5*2 = 10.12*2 ¹

610= 1.5*4 = 1.12*2 ²

710 = 3.5*2 = 11.12*2 ¹

問題ありません。

なぜ、倍の0.01という数字が本当に大きいのか？

その理由はこうです。

0 011111000 01000111101101010010111101110100101111011 - 0.01000000000000000020816681711721685132943093776702880859375 エラー = 0.000 000 000 000 000 000 208166817...

0 011111000 0100011110111000010101111010 - 0.009999999999984747344334119407569175064563751220703125 error = - 0.000 000 000 000 001 5265566...

このプロセスケミストリーを理解するために、以下の計算機で遊んでみてください：
https://babbage.cs.qc.cuny.edu/IEEE-754.old/Decimal.html

https://baseconvert.com/ieee-754-floating-point