Обсуждение статьи "Нейросети — это просто (Часть 82): Модели Обыкновенных Дифференциальных Уравнений (NeuralODE)"

 

Опубликована статья Нейросети — это просто (Часть 82): Модели Обыкновенных Дифференциальных Уравнений (NeuralODE):

В данной статье я предлагаю познакомиться Вас с еще одним типом моделей, которые направлены на изучение динамики состояния окружающей среды.

Предлагаю познакомиться с новым семейством моделей обыкновенных дифференциальных уравнений. Вместо указания дискретной последовательности скрытых слоев они параметризируют производную скрытого состояния с помощью нейронной сети. Результаты работы модели вычисляются с помощью "черного ящика" — решателя дифференциальных уравнений. Эти модели с непрерывной глубиной используют постоянный объем памяти и адаптируют свою стратегию оценки к каждому входному сигналу. Впервые подобные модели были предложены в статье "Neural Ordinary Differential Equations". В которой авторы метода демонстрируют возможности масштабирования обратного распространение ошибки с помощью любого решателя Обычных Дифференциальных Уравнений (ОДУ) без доступа к его внутренним операциям. Что позволяет осуществлять сквозное обучение ОДУ в рамках более крупных моделей.

Автор: Dmitriy Gizlyk

Причина обращения: