Hybride neuronale Netze. - Seite 2

 
Sie meinen, es gibt viele Skalen im Netz und deshalb dauert es so lange, bis man es gelernt hat? Wie viele Skalen? Wie lange dauert das Lernen?
 
joo >> :
Sie meinen, es gibt viele Skalen im Netz und deshalb dauert es so lange, sie zu lernen? Wie viele Skalen? Wie lange dauert das Lernen?


Oh ja, das Netz ist in den ersten Stufen vollverknüpft, oder wie Faltungsnetze, aber es gibt eine Menge Schichten). Und all dieses Glück wird mit 10 multipliziert und beginnt sich zu paaren. Jeder von ihnen muss verarbeitet werden, d.h. wir haben 10x. Und wenn man eine Idee hat, wie man einen gewinnbringenden Trick beibringen kann, dann muss ich das gesamte Zeitintervall für jede Generation berechnen und es durch alle Nachkommen laufen lassen. Dieser Vorgang hat mich durch seine Ressourcenintensität völlig umgehauen, und ich komme auf meine ursprüngliche Frage zurück.
 
IlyaA писал(а) >>

Ach ja, das Netz ist in der ersten Phase vollverknüpft, oder wie Faltungsnetze, aber mit vielen Schichten). Er wird also mit 10 multipliziert und beginnt sich zu paaren. Jeder von ihnen muss verarbeitet werden, d.h. wir haben 10x. Und wenn man eine Idee hat, wie man einen gewinnbringenden Trick beibringen kann, dann muss ich das gesamte Zeitintervall für jede Generation berechnen und es durch alle Nachkommen laufen lassen. Dieser Vorgang hat mich mit seiner Ressourcenintensität völlig erschlagen, und ich komme auf meine ursprüngliche Frage zurück.

Anzahl der Schichten?

 
gumgum >> :

Anzahl der Schichten?


Das altmodische [50]-60-39-2. Vollmundig.
 
IlyaA писал(а) >>

Das altmodische [50]-60-39-2. Voller Einsatz.

Und was den genetischen Code angeht, schauen Sie in die private Leitung.

 

Sie haben immer noch nicht meine Frage beantwortet: "Wie viele Waagen? Wie lang ist die Ausbildungszeit?"

Soweit ich weiß, gibt es aber nur 10 Individuen in der Kolonie. Das sind nur sehr wenige. Und Sie verschwenden Ihre Zeit, wenn Sie zulassen, dass sich alle Mitglieder der Bevölkerung untereinander vermehren. Das ist nicht effizient.

Offenbar stimmt auch mit dem Algorithmus etwas nicht, denn es dauert so lange, bis er funktioniert.

Ich gehe von einer Population von 200 Individuen aus. Jeder Mensch hat bis zu 300.000 Gene. Das Lernen dauert 10 Minuten.

Versuchen Sie zunächst, eine einfache Funktion mit zwei Variablen auszuführen, etwa so:

F=MathPow(MathCos(2*x*x)-1.1,2)+MathPow(MathSin(0.5*x)-1.2,2)-MathPow(MathCos(2*y*y)-1.1,2)+MathPow(MathSin(0.5*y)-1.2,2)

mit einem Suchbereich von -5 bis 5. In diesem Bereich der Variablen hat die Funktion ein globales Maximum (x=-3.315699...; y=-3.072485...) und ein globales Minimum (x=3.0702175...; y=3.3159335...)

Ich habe einen Genetiker, der das Minimum in 380 Millisekunden sucht. Und für dieselbe Zeitspanne das Maximum.

Optimieren Sie den Algorithmus für einfache Funktionen. Dann beginnen Sie mit dem Training neuronaler Netze.

 

Gestern habe ich ein 10-15-10-1-Raster geschrieben

Weiter geht's...

 
joo >> :

Soweit ich weiß, gibt es aber nur 10 Individuen in der Kolonie. Das sind nur sehr wenige. Und man sollte nicht zulassen, dass sich jeder in der Population kreuzt. Das ist nicht effizient.

Ich verwende eine Population von 200 Individuen. Jedes Individuum hat bis zu 300000 Gene. Es dauert 10 Minuten, um es zu lernen.

Wo habe ich geschrieben, dass ich sie alle miteinander kreuzen lasse? Natürlich nicht der Korridor von 80 % bis 20 %.

Haben Sie nicht über XOR oder so etwas gelesen?

Legen Sie die Struktur des Gitters (mit jeweils 200 Exemplaren) offen.

Empfehlen Sie eine Erhöhung der Bevölkerungszahl? Wenn es Ihnen nichts ausmacht, machen Sie ein kleines Experiment. Wie lange wird es dauern, eine einfache Aufgabe (Zeit, Anzahl der Populationen) für 200 Personen und für 25 Personen zu trainieren. Den Rest lassen wir unverändert. Ich habe zu diesem Zeitpunkt noch gar nicht experimentiert.

 

Optimierungsparameter:

1. Fortführungswahrscheinlichkeitskorridor 80-20%

2. Gewichtsstufe 0,1-0,001

3. Genmutationswahrscheinlichkeit 20-50%

 
gumgum >> :

Gestern habe ich ein 10-15-10-1-Raster geschrieben

>> weiter...


schön. Zwei eingehende Bars?