"New Neural" est un projet de moteur de réseau neuronal Open Source pour la plateforme MetaTrader 5. - page 9

 
LeXpert:

Ça ne peut pas être comme ça. Différents types dans différentes couches. Je te le dis, tu pourrais même faire de chaque neurone une couche séparée.

À propos du tampon, laissez-moi vous donner un exemple. Laissez-moi rentrer chez moi.

Une couche est une union de neurones indépendants les uns des autres dans une itération.

Qui dit que ce n'est pas possible, mais j'en ai envie, mais vous me coupez les ailes :o)

On ne sait jamais ce que les gens peuvent inventer, et dites-leur que tous les neurones d'une couche doivent avoir le même nombre d'entrées.

Elles doivent toutes être différentes, même pour les neurones d'une même couche, sinon nous n'obtiendrons qu'un tas d'algorithmes (il y en a beaucoup sur Internet) qu'il faut ombrer afin de lier quelque chose ensemble.

SZY Combien plus difficile serait l'algorithme si chaque neurone avait une couche séparée ?

 
LeXpert:
Qui peut me conseiller un logiciel de dessin en ligne pour les diagrammes et autres ?

Google Docs dispose de dessins, vous pouvez les partager.

Je peux faire du dessin à temps partiel, à condition que ce ne soit pas plus d'une heure par jour.

 
LeXpert:

OK, pour moi, 4 des réseaux mis en œuvre sont intéressants

1. Réseaux de Kohonen, y compris SOM. Bon à utiliser pour le partitionnement de clusters où il n'est pas évident de savoir ce qu'il faut rechercher. Je pense que la topologie est bien connue : vecteur en entrée, vecteur en sortie ou autres sorties groupées. L'apprentissage peut se faire avec ou sans professeur.

2. MLP , dans sa forme la plus générale, c'est-à-dire avec un ensemble arbitraire de couches organisées comme un graphe avec des rétroactions. Utilisé très largement.

3. Réseau de recirculation. Pour être franc, je n'ai jamais vu une mise en œuvre non linéaire qui fonctionne bien. Il est utilisé pour la compression de l'information et l'extraction de composantes principales (PCA). Dans sa forme linéaire la plus simple, il est représenté comme un réseau linéaire à deux couches dans lequel le signal peut être propagé des deux côtés (ou à trois couches dans sa forme dépliée).

4.Réseau Echo. Similaire dans son principe à MLP, appliqué là aussi. Mais totalement différent dans son organisation et possède un temps d'apprentissage bien défini (enfin, et produit toujours un minimum global, à la différence).

5. PNN -- Je ne l'ai pas utilisé, je ne sais pas comment. Mais je pense que je vais trouver quelqu'un qui le fait.

6. Modèles pour la logique floue (à ne pas confondre avec les réseaux probabilistes). Non mis en œuvre. Mais peut être utile. Si quelqu'un trouve des informations, lancez-les s'il vous plaît. Presque tous les modèles sont d'origine japonaise. Presque toutes sont construites manuellement, mais s'il était possible d'automatiser la construction de topologies par expression logique(si je me souviens bien de tout), ce serait irréellement cool.


+ réseaux avec une augmentation évolutive du nombre de neurones ou vice versa.

+ alorythmes génétiques + méthodes d'accélération de l'apprentissage.

J'ai trouvé une petite classification comme celle-ci

 
sergeev:

+ alorythmes génétiques

La génétique, c'est beaucoup de ressources supplémentaires. Les algorithmes de gradient sont meilleurs.
 
LeXpert:
La génétique engloutit beaucoup de ressources supplémentaires. Les algorithmes de gradient sont meilleurs.

Pourquoi décider à la place des utilisateurs de ce dont ils ont besoin ? Vous devez leur donner le choix. Le PNN, par exemple, consomme également beaucoup de ressources.

La bibliothèque doit être universelle et vaste, permettant de trouver des variantes de solutions et non dans un ensemble standard de rétropropagation, que l'on peut trouver sur le web.

 
Urain:

Une couche est une union de neurones indépendants les uns des autres dans une itération.

Quel est le but de tout ça ?

On ne sait jamais ce que les gens peuvent inventer, et dites-leur que tous les neurones de la couche doivent avoir le même nombre d'entrées.

Hmm. Chaque neurone a une entrée et une sortie.

Tous les types et toutes les connexions peuvent être différents, même pour les neurones d'une même couche, il faut en tenir compte, sinon nous n'obtiendrons qu'un tas d'algorithmes (il y en a beaucoup sur Internet), qui doivent être façonnés afin de connecter quelque chose.

Tout d'abord, je n'ai pas fini. Deuxièmement, consultez les règles. Critique plus tard. Vous ne voyez pas le modèle dans son ensemble et vous commencez à critiquer. Ce n'est pas bon.

SZY Combien plus difficile serait l'algorithme si chaque neurone avait une couche séparée ?

Algorithme pour quoi ? Cela ne ferait que ralentir l'apprentissage et le fonctionnement.

Urain:

Et qu'est-ce qu'une entité "tampon", exactement ?

Le tampon est l'entité par laquelle les synapses et les neurones communiquent. Encore une fois, mon modèle est très différent d'un modèle biologique.

_____________________

Désolé de ne pas l'avoir terminé hier. J'ai oublié de payer pour l'internet, ça a été coupé :)

 
Urain:

Une couche est une union de neurones indépendants les uns des autres dans une même itération.

Qui dit que ce n'est pas possible, mais j'en ai envie, mais vous me coupez les ailes :o)

Je ne sais pas ce que les gens peuvent inventer, on peut dire que tous les neurones d'une couche doivent avoir le même nombre d'entrées.

Et les types et les connexions peuvent tous être différents, même pour les neurones d'une même couche. C'est sur cela que nous devons nous appuyer, sinon nous n'obtiendrons qu'un tas d'algorithmes (il y en a beaucoup sur Internet) dont nous devons chercher quelque chose à connecter.

SZY Combien plus difficile serait l'algorithme si chaque neurone avait une couche séparée ?

En théorie, c'est probablement possible, mais dans la pratique, je n'ai pas rencontré une telle chose. Même avec l'idée pour la première fois.

Je pense que, purement à des fins expérimentales, vous pouvez penser à sa mise en œuvre, dans le cadre du projet de mise en œuvre d'une couche "hétéroclite" n'est probablement pas la meilleure idée en termes de coûts de main-d'œuvre et l'efficacité de la mise en œuvre.

Bien que j'aime personnellement l'idée, une telle possibilité mérite au moins d'être discutée.

 
sergeev:

Pourquoi décider à la place des utilisateurs de ce dont ils ont besoin ?

? La génétique est une méthode d'apprentissage. La bonne chose à faire, à mon avis, est de cacher les algorithmes d'apprentissage, en choisissant d'abord le meilleur.

 
LeXpert:

? La génétique est une méthode d'apprentissage. Le plus correct, à mon avis, est d'enterrer les algorithmes d'apprentissage, en présélectionnant l'algorithme optimal.

Travailler avec le NS consiste-t-il uniquement à choisir sa topologie ? La méthode de formation joue également un rôle important. La topologie et l'apprentissage sont étroitement liés.

Tous les utilisateurs ont leur propre opinion, vous ne pouvez donc pas leur retirer la moitié du pouvoir de décision.

Nous devons créerun constructeur de réseau qui ne soit limité par aucun préréglage. Et aussi universel que possible.

 

sergeev:

La bibliothèque doit être universelle et vaste, ouvrant la porte à des variantes de solutions, qui ne figurent pas dans l'ensemble standard de la rétropropagation, que l'on trouve de toute façon sur le web.

sergeev:

Travailler avec le NS consiste-t-il uniquement à choisir sa topologie ? La méthode de formation joue également un rôle important. La topologie et l'apprentissage sont étroitement liés.

Tous les utilisateurs ont leur propre opinion, vous ne pouvez donc pas prendre la moitié de la décision sur vous.

Nous devons créerun constructeur de réseau qui ne soit limité à aucun préréglage. Et aussi universel que possible.

Je suis tout à fait d'accord avec cela.