Reti neurali ibride. - pagina 2

 
Vuoi dire che ci sono molte scale sulla rete ed è per questo che ci vuole molto tempo per imparare? Quante scale? Quanto tempo ci vuole per imparare?
 
joo >> :
Vuoi dire che ci sono molte scale in rete ed è per questo che ci vuole molto tempo per imparare? Quante scale? Quanto tempo ci vuole per imparare?


Oh sì, la rete ai primi stadi è full-bonded, o come le reti di convoluzione, ma ci sono molti strati). E tutta questa felicità viene moltiplicata per 10 e inizia ad accoppiarsi. Ognuno di loro deve essere elaborato, cioè abbiamo 10x. E se avete un'idea per insegnare un trucco redditizio, allora devo calcolare tutto l'intervallo di tempo per ogni generazione e farlo passare attraverso ogni progenie. Questa operazione mi ha completamente ucciso con la sua intensità di risorse e torno alla mia domanda originale.
 
IlyaA писал(а) >>

Oh sì, la rete nelle prime fasi è full-bonded, o come le reti convoluzionali, ma con molti strati). Quindi viene moltiplicato per 10 e inizia l'accoppiamento. Ognuno di loro deve essere elaborato, cioè abbiamo 10x. E se avete un'idea per insegnare un trucco redditizio, allora devo calcolare tutto l'intervallo di tempo per ogni generazione e farlo passare attraverso ogni progenie. Questa operazione mi ha completamente ucciso con la sua intensità di risorse e torno alla mia domanda originale.

Numero di strati?

 
gumgum >> :

Numero di strati?


Il vecchio stile [50]-60-39-2. Corposo.
 
IlyaA писал(а) >>

Il vecchio stile [50]-60-39-2. A tutto tondo.

E per quanto riguarda il codice genetico, guarda nella linea privata.

 

Non hai ancora risposto alla mia domanda: "Quante bilance? Quanto dura l'allenamento?".

Ma la mia comprensione è che ci sono solo 10 individui nella colonia. Sono molto pochi. E tu stai perdendo il tuo tempo permettendo a tutti i membri della popolazione di incrociarsi. Non è efficiente.

A quanto pare c'è qualcosa di sbagliato anche nell'algoritmo, visto che ci sta mettendo così tanto a funzionare.

Sto usando una popolazione di 200 individui. Ogni individuo ha fino a 300.000 geni. L'apprendimento richiede 10 minuti.

Provate ad eseguire prima una semplice funzione con due variabili, come questa:

F=MathPow(MathCos(2*x*x)-1.1,2)+MathPow(MathSin(0.5*x)-1.2,2)-MathPow(MathCos(2*y*y)-1.1,2)+MathPow(MathSin(0.5*y)-1.2,2)

con una gamma di ricerca da -5 a 5. In questo intervallo di variabili la funzione ha 1 massimo globale (x=-3.315699...; y=-3.072485...) e un minimo globale (x=3.0702175...; y=3.3159335...)

Ho un genetista che cerca il minimo in 380 millisecondi. E nella stessa quantità di tempo il massimo.

Ottimizzare l'algoritmo su funzioni semplici. Poi inizia ad addestrare le reti neurali.

 

Ieri ho scritto una griglia 10-15-10-1

andando avanti...

 
joo >> :

Ma per quanto ho capito, ci sono solo 10 individui nella colonia. Sono molto pochi. E non si dovrebbe permettere a tutti i membri della popolazione di incrociarsi. Non è efficiente.

Sto usando una popolazione di 200 individui. Ogni individuo ha fino a 300000 geni. Ci vogliono 10 minuti per imparare.

Dove ho scritto che li ho fatti incrociare tutti? Naturalmente non il corridoio 80%-20%.

Non hai letto di XOR o qualcosa del genere?

Rivela la struttura della griglia (che è di 200 esemplari ciascuno).

Raccomanda di aumentare la popolazione? Se non ti dispiace, organizza un piccolo esperimento. Quanto tempo ci vorrà per addestrare un compito semplice (tempo, numero di popolazioni) per 200 individui e per 25 individui. Lasciamo il resto invariato. A questo punto non ho sperimentato affatto.

 

Parametri di ottimizzazione:

1. Corridoio di probabilità di continuazione 80-20%

2. passo di peso 0,1-0,001

3. Probabilità di mutazione genica 20-50%

 
gumgum >> :

Ieri ho scritto una griglia 10-15-10-1

>> andare avanti...


bello. Due barre in arrivo?