Обсуждение статьи "Нейросети — это просто (Часть 25): Практикум Transfer Learning"

 

Опубликована статья Нейросети — это просто (Часть 25): Практикум Transfer Learning:

В последних двух статьях мы создали инструмент, позволяющий создавать и редактировать модели нейронных сетей. И теперь пришло время оценить потенциальные возможности использования технологии Transfer Learning на практических примерах.

Результаты тестирования представлены на графике ниже. Как можно заметить, предварительно обученная модель стартовала с меньшей ошибкой. Но вскоре обе модели выровнялись и далее их значения были довольно близки. Это подтверждает сделанный ранее вывод, что архитектура энкодера оказывает значительное влияние на результативность всей модели.

Сравнение динамики обучения рекуррентных моделейй

Также стоит отметить и скорость обучения. В процессе тестирования предварительно обученная модель показала в 6 раз меньшее время на прохождение одной эпохи. Конечно, здесь мы учитывали чистое время без учета затрат на обучение автоэнкодера.

Автор: Dmitriy Gizlyk