Discussão do artigo "Técnicas do MQL5 Wizard que você deve conhecer (Parte 34): Embedding de Preços com um RBM Não Convencional"

[MetaQuotes]

Novo artigo Técnicas do MQL5 Wizard que você deve conhecer (Parte 34): Embedding de Preços com um RBM Não Convencional foi publicado:

Máquinas de Boltzmann Restritas são uma forma de rede neural que foi desenvolvida no meio da década de 1980, numa época em que os recursos computacionais eram extremamente caros. No início, ela dependia de Gibbs Sampling e Divergência Contrastiva para reduzir a dimensionalidade ou capturar as probabilidades/propriedades ocultas sobre os conjuntos de dados de treinamento de entrada. Examinamos como o Backpropagation pode realizar de forma similar quando o RBM 'embebe' os preços para um Multi-Layer-Perceptron de previsão.

Price-Embedding é usado no contexto deste artigo como um processo muito semelhante ao word embedding; e isso, como alguns leitores podem saber, é a etapa pré-requisita para redes transformer de grandes modelos de linguagem. O word embedding, que pode ser definido como a numeração das palavras, quando emparelhado com self-attention, ajuda a converter grande parte do material escrito disponível online em um formato que as redes neurais podem entender. Estamos de forma similar pegando uma folha dessa abordagem, presumindo que, por padrão, os dados de preços de segurança (mesmo sendo numéricos) não podem ser facilmente ‘entendidos’ pelas redes neurais diretamente. E nossa abordagem para tornar isso mais compreensível é usando um RBM treinado com backpropagation.

Agora, a conversão de palavras em números não é simplesmente sobre atribuir um número a uma palavra ou letra, mas sim um processo intricado que envolve self-attention, como já mencionado acima. Paralelos disso, acredito, podem ser traçados para os RBMs quando se considera seu design de grafo bipartido.

Embora não haja conexões diretas de neurônio para neurônio dentro de uma camada de um RBM, essas conexões, que podem ser chave para capturar o componente de self-attention de qualquer dado de entrada, são feitas através da camada oculta. Com essa tese, a camada oculta não apenas registra o que cada neurônio poderia ser redesenhado, mas também qual a significância de suas relações com os outros neurônios.

Como sempre, no que diz respeito aos traders, a prova está no resultado e, portanto, os benefícios desse price-embedding só podem ser comprovados pelos resultados do trading. E vamos chegar à primeira parte desse processo, no entanto, pode ser interessante destacar que a escala de recompensas que obtemos do embedding de palavra para número não pode ser comparada com as que estamos olhando no embedding de número para número, isso porque o que estamos fazendo aqui não é nem de perto tão transformacional. Com isso, vamos agora considerar como reconstruímos um RBM com backpropagation.

Autor: Stephen Njuki