Обсуждение статьи "Нейросети в трейдинге: Пространственно-временная нейронная сеть (STNN)"

 

Опубликована статья Нейросети в трейдинге: Пространственно-временная нейронная сеть (STNN):

В данной статье мы поговорим об использовании пространственно-временных преобразований для эффективного прогнозирования предстоящего ценового движения. Для повышения точности численного прогнозирования в STNN был предложен механизм непрерывного внимания, который позволяет модели лучше учитывать важные аспекты данных.

Для исследования многомерной информации было разработано уравнение преобразования пространственно-временной информации (STI) на основе теоремы вложения с задержкой. STI преобразует пространственную информацию многомерных переменных в будущую временную информацию целевой переменной, что эквивалентно увеличению размера выборки и решает проблему краткосрочных данных.

Уже знакомые нам модели на основе архитектуры Transformer обрабатывают последовательность данных и изучают информацию при помощи механизма Self-Attention, моделируя взаимосвязь переменных без учета расстояния между ними. Механизмы внимания могут улавливать глобальную информацию и фокусироваться на важном содержимом, что помогает смягчить проклятие размерности.

Для решения задач прогнозирования временных рядов в статье "Spatiotemporal Transformer Neural Network for Time-Series Forecasting" была предложена модель пространственно-временного Transformer (STNN) для эффективного многоступенчатого прогнозирования многомерных краткосрочных временных рядов, используя преимущества уравнения STI и структуры Transformer.


Авторы метода выделяют следующие преимущества, предложенных подходов:

  1. STNN использует уравнение STI для преобразования пространственной информации многомерных переменных в информацию о временной эволюции целевой переменной, что эквивалентно увеличению размера выборки.
  2. Предложен механизм непрерывного внимания для повышения точности численного прогнозирования.
  3. Пространственная структура Self-Attention в STNN собирает эффективную пространственную информацию многомерных переменных, временная структура Self-Attention используется для сбора информации о временной эволюции, а структура Transformer объединяет пространственную и временную информацию.
  4. Модель STNN может реконструировать фазовое пространство динамической системы для прогнозирования временных рядов.

Автор: Dmitriy Gizlyk