"New Neural" è un progetto di motore di rete neurale Open Source per la piattaforma MetaTrader 5. - pagina 80

 
Urain:

Per quanto riguarda la sparsità (ho scritto sopra), è possibile creare un array di indici per ogni neurone basato sulla maschera, che dopo il conteggio indicherà dove posizionare le uscite.

Sembrerebbe più logico prendere gli input da dove, e lasciare che chi vuole prenda gli output.
 

Sì!!! l'argomento è molto interessante. Vorrei trattare l'argomento dell'ottimizzazione delle reti neurali utilizzando algoritmi naturali, usando uno sciame di api o di particelle come esempio. Quando ho letto l'articolo su questo metodo ho avuto un pensiero a cosa assomiglia, non è niente di simile a OpenCL ma direttamente applicabile a neuronc quindi perché non provare a implementarlo con ulteriori DDL grafici OpenGL per esempio, soprattutto perché tester permette. Se qualcuno è interessato posso dare un link a un articolo interessante, c'è anche un link al codice sorgente.

 
MetaDriver:
Ma questo approccio non contiene nemmeno il germe per cercare di incrociare geneticamente le topologie.

Non ho mai sentito parlare di una cosa del genere. L'incrocio di topologie diverse porterebbe a qualcosa di meglio dell'evoluzione della stessa topologia?

 
gpwr:

Non ho mai sentito parlare di una cosa del genere. L'incrocio di topologie diverse porterebbe a qualcosa di meglio dell'evoluzione della stessa topologia?

I muli e i cavalli sono più adatti per alcune attività che gli asini e i cavalli. È solo un'idea, l'idea è ancora in corso.
 
gpwr:

Non ho mai sentito parlare di una cosa del genere. L'incrocio di topologie diverse porterebbe a qualcosa di meglio dell'evoluzione della stessa topologia?

Succede. Per esempio un cochonen con un perseptron.
 
lei.umana:
Sembra più logico prendere gli input da dove, e lasciare che chi vuole prenda gli output.

Si può fare così, ma non cambia l'essenza del modello. Anche se è necessario verificare la velocità di quale opzione sarà più veloce.

gpwr:
Gli strati sono necessari perché in alcune reti diversi strati hanno una diversa elaborazione degli input e diverse connessioni dei neuroni tra loro all'interno di uno strato. In realtà, non capisco la praticità dell'obiettivo di costruire una rete universale. Ci sono molte reti con le loro sfumature (funzioni dei neuroni nei diversi strati, la loro connessione, la formazione dei pesi, ecc.) Descriverli tutti in un modello mi sembra impossibile o inefficiente. Perché non creare una libreria di reti diverse?

Ogni neurone può essere definito dal proprio tipo (per non parlare del livello), che sarà impostato da funzionalità estensibili di discendenti della classe base CProcessing. A proposito, ho concepito l'idea, ma l'implementazione la sto lavorando per conto mio. Volevo discuterne, e poi implementare qualcosa di già pensato. Pensavo fosse chiaro che in CProcessing ci dovrebbe essere una funzione Trening, e per ogni tipo di neurone può essere diversa, a seconda della derivata e Dio sa cos'altro. E ci può essere sia una propagazione in avanti che all'indietro del Trening.

Insieme alla topologia universale otteniamo uno schema di apprendimento universale, ciò che deve essere fatto con un neurone per imparare è descritto nel neurone stesso e l'elaborazione dell'apprendimento è una singola progressione standardizzata attraverso la rete.

Avete visto da qualche parte, per esempio in MLP ci sono neuroni a base radiale incorporati, e tutto è stato appreso normalmente? Qui è realizzabile.

 

L'idea di una descrizione universale (compresa una descrizione esaustiva della topologia) è promettente almeno perché sarà possibile (finalmente!) astrarre dal "tipo di griglia" stesso - un concetto piuttosto artificiale, se lo si capisce.

Non sono contrario a dare ad alcune topologie specifiche nomi specifici (puramente per comodità). Ma solo fino a quando quei nomi non cominciano a ipnotizzare e a creare barriere di percezione dell'essenza, e a interferire con l'incrocio delle idee tra di loro. E questo si osserva a ogni passo in tutti i settori dell'attività della vita.

 

Leggendo i vostri commenti sull'argomento sono arrivato alla conclusione - vorrei vedere il progetto beta quando sarà? e un articolo con una descrizione dettagliata.

 
Urain:
...
Quindi potrebbe esserci, da qualche parte, un ciclo di feedback?
 
GKS:

Leggendo i vostri commenti sull'argomento sono giunto a una conclusione - vorrei vedere una beta del progetto quando sarà? e un articolo con una descrizione dettagliata.

Mentre la discussione di lavoro, il tempo lo dirà.

MetaDriver:

L'idea di una descrizione universale (compresa una descrizione completa della topologia) è promettente almeno perché sarà possibile (finalmente!) astrarre dal "tipo di griglia" stesso - un concetto piuttosto artificiale, se lo si capisce.

Non sono contrario a dare ad alcune topologie specifiche nomi specifici (puramente per comodità). Ma solo fino a quando quei nomi non cominciano a ipnotizzare e a creare barriere alla percezione dell'essenza, e interferiscono con l'incrocio delle idee tra loro. E questo si osserva ad ogni passo in tutti i settori della vita.

Sarebbe possibile fare dei modelli di bootstrap per nome, ad esempio il modello "MLP" indica i tipi di tutti i neuroni con "perseptrons".