sinir ağı ve girişler - sayfa 10

 
Figar0 :
NS karmaşıktır.

1) Herkes girişlere "ulaşır" (birisi onları gri toplara ayırır),

2) bazıları çıkış hakkında düşünür, ağ görevini, türünü ve mimarisini seçer,

3) ağın eğitimine ciddi şekilde "dalın" - birkaçı.

Ve Ulusal Meclis'te ikincil hiçbir şey yoktur, bu nedenle sonuç eksikliği


  1. Girdileri, fiyat tekliflerinin ve hindilerin artışlarından FFT dönüşümüne ve spektral bileşenlerin tedarikine kadar farklı şekillerde sıraladım. Eğitimli Kohonen kartlarından servis yapmaya çalıştım.
  2. Mimari, hiperbolik tanjant aktivasyon fonksiyonuna sahip çok katmanlı bir peceptrondur.
  3. Basit bir Back Prop'dan Hessasian'ın kesin hesaplanmasıyla Levenberg - Marquardt algoritmasına kadar çeşitli algoritmalar .
 
TimeMaster :
  1. Basit bir Back Prop'dan Hessasian'ın kesin hesaplanmasıyla Levenberg - Marquardt algoritmasına kadar çeşitli algoritmalar .
Gen algoritması olsa bile öğrenme algoritması umurumda değil)
 
TheXpert :
Gen algoritması olsa bile öğrenme algoritması umurumda değil)


Kabul ediyorum. Fark sadece öğrenme hızındadır. MSE'de 6-7 ondalık basamağı "yakalamanın" mantığını göremiyorum, bu yüzden genellikle üç örnekle basit bir Back Prop kullanırım. Eğitim, geçerli ve test. Geçerli olanı farklı şekillerde seçerim, ya zaman aralığına göre eğitimden hemen sonra geçerli seçilir ya da eğitim örneğinden örneklerin çıkarılmasıyla sırasıyla eğitimden rastgele örnekler "alırım".
 

Gen algoritmalarına gelince...

10.000'den fazla sinaps içeren sinir ağlarında kullanmanın "faydasını" görmek zordur. Hız açısından "vızıltı" olmayan yaklaşık 10000 * 1000 kişilik bir popülasyon gereklidir. Dönemlerden bahsetmiyorum...

 

örneğin, ağı 5 veya 6 veya 7 değil 2*2 =4 şeklinde eğitmek istersem. O zaman ben de ona ne öğreteceğimi açıkça anlamalıyım . Ve öyle değil ki bazen 2*2=4, bazen 5...

Problem ifadesi genel olarak önemlidir. İstediğim ? Vb.


Piyasadaki değişim göz önüne alındığında, "2*2" her zaman 4'e eşit değildir, yani sorun bu. Piyasa değişir, koşullar değişir. Eğitim örnekleri çelişkili veriler içermeye başlar. Ağ öğrenmiyor. Örnekleri yalnızca mevcut durumu "yakalamak" için küçültürseniz, örneklerin boyutuyla karşılaşırsınız - az ya da çok hacimli bir sinir ağını eğitmek için küçüktür. Yeniden eğitim var. Basit sinir ağlarını kullanmak da bir seçenek değildir, (giriş) küçük olduğu için yararlı verileri girdiye "zorlamak" ÇOK zordur.
 
TimeMaster :

Gen algoritmalarına gelince...

10.000'den fazla sinaps içeren sinir ağlarında kullanmanın "faydasını" görmek zordur. Hız açısından "vızıltı" olmayan yaklaşık 10000 * 1000 kişilik bir popülasyon gereklidir. Dönemlerden bahsetmiyorum...

Geçen yıl baykuşun içinde 4-ke genetik optimizasyonu üzerine yazmıştım. Hohma için 0...200 aralığında 88 giriş parametresi girdim. 2 hafta ~ 20 dk (P-4 3GHz, 2GB) içinde 15 dakikalık eğitim. Bir süzgecim var - strateji yoktu, sadece bir deneydi. İlgilenirsen sana söyleyebilirim.

 
icas :

Geçen yıl baykuşun içinde 4-ke genetik optimizasyonu üzerine yazmıştım. Hohma için 0...200 aralığında 88 giriş parametresi girdim. 2 hafta ~ 20 dk (P-4 3GHz, 2GB) içinde 15 dakikalık eğitim. Bir süzgecim var - strateji yoktu, sadece bir deneydi. İlgilenirsen sana söyleyebilirim.


Ve 10000 giriş parametresi varsa, EN İYİ YOLDA görev sırasıyla 10000/88 kat daha karmaşık hale gelecektir, ~ 20dk * 100 = 2000dk ....

Yani yaklaşık bir buçuk gün...

Genetik kuralları, milyarlarca yıl varken aynada kendinize bakabilirsiniz. :-)

 
solar :
bu nedenle veri toplama, veri hazırlama, gürültü beyazlatma, normalleştirme vb. işlemlerin yapılması gerekmektedir. Piyasanın durağan olmaması bu şekilde savaşır. (Teoride ))) )


Haberin veri toplaması incelendi, "iyi" alıntıların geçmişini indirebileceğiniz yollar ve yerler var.

Veri hazırlama, ayrıca iyi çalışılmış. Girdi vektöründen her boyuta bock cox dönüşümü uygulamak bile veri tutarsızlığı sorununu ortadan kaldırmaz diyebilirim.

Gürültülerle daha zor, burada tahmin ettiğiniz aralık ÖNEMLİ, haftalara göre dakikalar doğal olarak “gürültü yapar”, ancak 15 dakika ila saat - kazmanız gerekir ...

Normalleştirme de önemsiz bir konudur.

 
TimeMaster :

Gen algoritmalarına gelince... 10.000'den fazla sinaps içeren sinir ağlarında kullanmanın "faydasını" görmek zor. Hız açısından "vızıltı" olmayan yaklaşık 10000 * 1000 kişilik bir popülasyon gereklidir. Dönemlerden bahsetmiyorum...

10.000 sinaps? IMHO bu ciddi bir baskın, maksimum 500-700 kullandım. Daha fazlasına gerek yoktu. Bu arada, NS'ye tam olarak GA öğretiyorum. Evet, yavaş ama benim için daha uygun ve avantajları var.
zaman ustası :

Piyasadaki değişim göz önüne alındığında, "2 * 2" her zaman 4'e eşit değildir, yani sorun budur. Piyasa değişir, koşullar değişir. Eğitim örnekleri çelişkili veriler içermeye başlar. Ağ öğrenmiyor. Örnekleri yalnızca mevcut durumu "yakalamak" için küçültürseniz, örneklerin boyutuyla karşılaşırsınız - az ya da çok hacimli bir sinir ağını eğitmek için küçüktür.

2*2 her zaman 4 değil midir? Benim için oldukça yeterli, örneğin, vakaların% 70'inde ve 2 * 2'nin 4'e eşit olmadığı örneklerin kalan% 30'unda filtreleme bile yapmıyorum. Ağın kendisi bununla mükemmel bir iş çıkarıyor ... Durumların% 50'sinde 2 * 2 4'e eşitse, bir şeyi değiştirmeye çalışmanız gerekir, örneğin girdiler .... Sanırım ifade etme fikrim var )

icas :

Geçen yıl baykuşun içinde 4-ke genetik optimizasyonu üzerine yazmıştım. Hohma için 0...200 aralığında 88 giriş parametresi girdim. 2 hafta ~ 20 dk (P-4 3GHz, 2GB) içinde 15 dakikalık eğitim. Bir süzgecim var - strateji yoktu, sadece bir deneydi. İlgilenirsen sana söyleyebilirim.

Söyle bana, tabii ki ilginç.
 
Figar0 :
10.000 sinaps? IMHO bu ciddi bir baskın, maksimum 500-700 kullandım. Daha fazlasına gerek yoktu. Bu arada, NS'ye tam olarak GA öğretiyorum. Evet, yavaş ama benim için daha uygun ve avantajları var.

2*2 her zaman 4 değil midir? Benim için oldukça yeterli, örneğin, vakaların% 70'inde ve 2 * 2'nin 4'e eşit olmadığı örneklerin kalan% 30'unda filtreleme bile yapmıyorum. Ağın kendisi bununla mükemmel bir iş çıkarıyor ... Durumların% 50'sinde 2 * 2 4'e eşitse, bir şeyi değiştirmeye çalışmanız gerekir, örneğin girdiler .... Sanırım ifade etme fikrim var )

Söyle bana, tabii ki ilginç.

2*2'nin 4'e eşit olmadığı duruma bir örnek verebilir misiniz?

Sadece bunu literatürde sık sık okudum, ama ne yazık ki orada verilen hiçbir örnek yoktu.