NSの入力値を正しく形成する方法。

 

NSの入力の正しい値についての質問が、フォーラムで次々と出てきます。しかし、残念ながらこの疑問にはまだ十分な答えが得られていない。私は最近NSを始めたばかりですが、この質問の重要性がよくわかりました。研究所で理論を教わり、この知識を持っている人たちがうらやましいです。

そこで、この枝では、RIGHTの価値とその種類についての問題をできるだけ全面的に開陳することにしよう。

ただ、具体的な話(近隣の物価の差を取るなど)には着手しないでほしい。そもそも、入力値に対する一般的な要件についての理論が望まれる。そして、うまくいけば実例も可能です。

 
            |               *      *
            |          *
            |      * 
            |    *
            |  *
            | *
            |*
-----------------------1---------------
           *|
          * |
         *  |
       *    |
     *      |
  *         |
入力値1でシグモイドが飽和状態になると、入力値が2でも3でも結果は同じぐらいになる。入力値が1以内であること、同じ入力値で異なる出力値という矛盾したサンプルがあってはならない。
 
ご参考になれば幸いです
ファイル:
bfgzk.zip  201 kb
 
sergeev писал (а)>>

...大学で理論を教わった人で、この知識を持っている人はうらやましいですね。


>> この辺は羨ましい限りです。私も前世紀に大学で勉強しましたが、その前の科目はソ連用語でもっと控えめに、せいぜいTAP...と呼ばれていました。

彼ら/教師は、何時間も読むために耳から麺を作るだろう...彼らは 一般的な教科書の各セクションの2-3ページより先に進まないだろう!!!

 

2 StatBars 記事をどうもありがとうございました。


Integer писал (а) >>

入力値1のシグモイドが飽和状態になれば、入力に値2でも値3でも違いはなく、結果はほぼ同じになる。入力値が1以内であること、入力が同じ値で出力が異なるという矛盾したサンプルがないこと。

1に正規化されていない入力はどうするのか?シグモイドは使えるのか、それとも他の関数が必要なのか?

 

Integer писал (а) >>
Конфликтных образцов не должно быть - одинковых значений на входе с разным значением на выходе.


その結果、出力に複数の値を持たせるのがベストであることがわかった(つまり、市場を単に上か下かで分類するのではなく、いくつかの中間状態を持たせる)。そして、入力の詳細。

 
入力データを正規化する必要があります。例えば、最大レンジのサンプルを見つけて、それを使って正規化し、定数成分を除去します。例えば、MAや回帰線に対する相対的な値を計算し、それを正規化することも可能です。また、各試料を個別に、その最大範囲に対して正規化することも可能です。
 
Integer писал (а)>>
入力を正規化する必要があります。例えば、最大レンジのサンプルを見つけて正規化したり、定数成分を取り除いたりすることです。例えば、МАとの相対値や回帰直線との相対値を計算し、正規化するなど、工夫の余地は広い。また、各サンプルを個別に、その最大範囲に対して、正規化することも可能です。

そうそう、ところで、この話を持ち出したのはいいことだ。1つのサンプル単体で、あるいはすべてのサンプルで、どのようにレーションを行うのが正しいのか(あなたの経験上)、ずっと疑問に思っています。


ブランチの名前を変更することにしました。

 
レーションについては、サンプル全体との関係で考えただけです。この方がいいと思います。ネットワークは、形だけでなく、サンプルの絶対的な大きさを考慮するようになりますが、おそらく学習には時間がかかるでしょう。
 

私もこの結論に達することがあります。データを圧縮するだけで、正規化されていないデータの問題は解消されることがわかりました。

また、ウエイトが入力値ゼロにぶつかるという問題もある。トレーニングに参加しない...。

 
sergeev писал (а)>>

また、入力値ゼロに当たる重みの問題もある。トレーニングには参加しない...。

はい、1つの入力が必ず0になることがわかりました(最初の1つで)。すべてのサンプルから最初の要素を完全に削除し、最後にもう1つ追加することができます。

理由: