Чернодуб А. М. Навчання динамічних нейронних мереж на задачах довгострокового прогнозування

Дисертаційну роботу присвячено проблемі навчання динамічних нейронних мереж для задач прогнозування часових рядів і керування динамічними об'єктами. Проведено аналіз існуючих архітектур і методів навчання динамічних нейромереж і методів нейроуправління, в результаті чого запропоновано способи вдосконалення виявлення довгострокових залежностей у навчальній вибірці для нейромереж прямого поширення з лінією затримок на вході і рекурентних нейромереж. Для нейромереж прямого поширення розроблено метод навчання "прогнозуюче поширення в часі", що дозволяє збільшити точність багатокрокових прогнозів. Для рекурентних нейромереж розроблено метод псевдорегуляризації градієнтів для керування нормою сигналу зворотного поширення у часі, що дозволяє зменшити ефект зникнення градієнтів і збільшити точність довгострокових прогнозів. Розроблений метод псевдорегуляризації градієнтів було адаптовано для задач нейроуправління. Розроблено метод керування нормою градієнтів під час навчання нейроемуляторів, що дозволяє підвищити якість навчання нейроконтролерів за рахунок подолання проблеми зникнення градієнтів у зв'язці "нейроконтролер + нейроемулятор", що представляє собою глибоку нейронну мережу.