Хабарлак К. С. Методи класифікації та сегментації зображень на основі змінюваних згорткових мереж

English version

Дисертація на здобуття ступеня доктора філософії

Державний реєстраційний номер

0823U101287

Здобувач

Спеціальність

  • 122 - Комп’ютерні науки

25-10-2023

Спеціалізована вчена рада

ДФ 08.080.021

Національний технічний університет "Дніпровська політехніка"

Анотація

Згорткові нейронні мережі показують високу якість у розв’язанні задач комп’ютерного зору. Суттєва кількість досліджень присвячена розробці нейронних мереж для їх виконання на потужних серверах, однак в ряді випадків їх використання ускладнюється з таких причин: коли інтернет з’єднання є нестабільним або відсутнє взагалі, коли користувач не погоджується передавати приватні дані із свого пристрою, коли загальний об’єм даних надто великий для передачі з усіх пристроїв на сервер тощо. У разі необхідності обробки зображень на мобільному або малопотужному пристрої виникає цілий ряд проблем: — такі пристрої мають обмежені обчислювальні ресурси, і мережа на них може виконуватись за неприпустимо довгий для цільової задачі час. А отже, архітектури глибоких згорткових нейронних мереж із великою кількістю параметрів, що показують високу якість на серверах, мають зазнати змін для застосування на мобільних пристроях; — робота від батареї передбачає мінімізацію кількості обчислень. Через це великий інтерес наукової спільноти спрямований на розробку архітектур мобільних нейронних мереж, що враховують характеристики пристроїв на етапі проектування. Проблемою таких нейронних мереж є необхідність остаточного визначення їх конфігурації до початку процедури навчання, що ви- 3 магає повтору довгої процедури навчання після кожної корекції конфігурації мережі; — якщо застосунок необхідно встановити на пристрій Інтернету речей, це додає ще одну категорію пристроїв із меншою обчислювальною потужністю і ставить розробника нейронної мережі перед вибором: або навчити одну мережу, яка буде достатньо швидкою для всіх пристроїв, але потенційно матиме невисоку якість виконання; або ж навчати окрему мережу для кожної категорії пристроїв, що, враховуючи довгий час навчання глибоких нейронних мереж, значно збільшить витрати на розробку системи. Метою роботи є прискорення навчання і виконання згорткових нейронних мереж для задач класифікації та сегментації зображень без втрат (або з якомога меншими втратами) якості розпізнавання за рахунок розробки змінюваних нейронних мереж і методів їх навчання. Під змінюваною нейронною мережею будемо розуміти згорткову мережу із змінною складністю. Наукова новизна одержаних результатів: — вперше для задач класифікації та сегментації зображень розроблені змінювані згорткові нейронні мережі та метод їх навчання, які, на відміну від існуючих, дозволяють обирати одну з конфігурацій із різними обчислювальними складностями під час або після навчання. На наборі даних ImageNet розроблена мережа за ефективністю (в сенсі співвідношення якість розпізнавання/час виконання) зайняла п’яте місце серед 17 провідних архітектур мереж, а на CamVid прискорення виконання склало понад 6 % без втрат якості; — вперше розроблено метод Λ-шаблонів прискорення оптимізаційного мета-навчання, який, на відміну від існуючих, дозволяє за рахунок зміни складності нейронної мережі зменшити кількість обчислень під час навчання, та таким чином пришвидшити адаптацію мережі до нових класів за малою кількістю прикладів на 7,5 % при втратах якості менше 0,4 %.

Публікації

Khabarlak K., Koriashkina L. Fast Facial Landmark Detection and Applications: A Survey // Journal of Computer Science and Technology. 2022. Квіт. Т. 22, № 1. С. 12–41.

Khabarlak K. S. Faster Optimization-Based Meta-Learning Adaptation Phase // Radio Electronics, Computer Science, Control. 2022. Квіт. № 1. С. 82–92.

Khabarlak K. S., Koriashkina L. S. Scoping Adversarial Attack for Improving Its Quality // Radio Electronics, Computer Science, Control. 2019. Трав. № 2. С. 108–118

Khabarlak K. S., Koriashkina L. S. Mobile Access Control System Based on RFID Tags and Facial Information // Bulletin of National Technical University ”KhPI”. Series: System Analysis, Control and Information Technologies. 2020. Т. 2, № 4. С. 69–74

Хабарлак К. С. Особливості роботи методів пошуку облич на мобільних пристроях // System Technologies. 2021. Т. 6, № 137. С. 34 – 45.

Khabarlak K. Post-Train Adaptive U-Net for Image Segmentation // Information Technology: Computer Science, Software Engineering and Cyber Security. 2022. № 2. С. 73–78.

Комп’ютерна програма «Мобільна нейромережева система пошуку облич із анті-спуфінгом» : авт. свід. України №110917 / К. С. Хабарлак. 11.01.2022

Khabarlak K. Post-Train Adaptive MobileNet for Fast Anti-Spoofing // Proceedings of the 3rd International Workshop on Intelligent Information Technologies & Systems of Information Security, Khmelnytskyi, Ukraine, March 23–25. Т. 3156. CEUR-WS.org, 2022. С. 44–53.

Хабарлак К. С., Коряшкіна Л. С. Деякі особливості гіперпараметрів глибоких нейронних мереж // III Всеукраїнська Інтернет-конференція здобувачів вищої освіти і молодих учених «Інформаційні технології: теорія і практика». Харків, 03.2020. С. 98–99

Khabarlak K., Koriashkina L. Top image classification accuracy through hyperparameter search // 15th International Forum for Students and Young Researchers “Widening our horizons”. Dnipro, 05.2020. С. 271–274

Khabarlak K. Mobile Application for RFID Access Control System // V міжнародна науково-практична конференція «Прикладні науково-технічні дослідження». Івано-Франківськ, 04.2021. С. 99–100

Хабарлак К. С. Анти-спуфінг для системи контролю доступу із RFID мітками // Збірник матеріалів III Всеукраїнської конференції «Теоретико-практичні проблеми використання математичних методів і комп’ютерно-орієнтованих технологій в освіті та науці». Київ, 04.2021. С. 141–142

Хабарлак К. С. On Face Detection and Anti-Spoofing in Mobile Access Control // Тези доповідей VIII Міжнародної науково-практичної конференції «Інформаційні технології в освіті, науці і виробництві (ІТОНВ-2021)». Луцьк, 05.2021. С. 181–183

Хабарлак К. С., Коряшкіна Л. С. Тестування швидкості виконання алгоритмів пошуку обличчь для системи контролю доступу // VII Всеукраїнська науково-технічна конференція молодих учених, аспірантів та студентів «Автоматизація, контроль та управління: пошук ідей та рішень» (АКУ-2021). Покровськ, 05.2021. С. 60–61

Хабарлак К. С. Про адаптацію мета-навчання нейронних мереж // Матеріали міжнародної конференції II International Scientific Symposium “Intelligent Solutions-S”. Ужгород, 09.2021. С. 81

Хабарлак К. С. Адаптація мета-навчання на частковому шаблоні // Матеріали VII міжнародної науково-технічної конференції Комп’ютерне моделювання та оптимізація складних систем. Дніпро, 11.2021. С. 121–122

Хабарлак К. С. Аналіз шаблонів адаптації мета-навчання // Матеріали IX Всеукраїнської науково-технічної конференції студентів, аспірантів та молодих вчених «Молодь: наука та інновації». Дніпро, 11.2021. С. 328–329

Хабарлак К. С. Прискорене навчання нейронної мережі за декількома прикладами // XVI Міжнародна конференція з проблем використання інформаційних технологій в освіті, науці та промисловості. Дніпро, 12.2021. С. 62–64

Хабарлак К. С. Зміна архітектури нейронної мережі після навчання // Тези дев’ятої міжнародної науково-технічної конференції Інформатика, управління та штучний інтелект. Харків – Краматорськ, 05.2022. С. 135

Хабарлак К. С. Нейромережний пошук об’єктів на мобільних пристроях // Матеріали XII Всеукраїнської науково-технічної конференції студентів, аспірантів та молодих вчених «Наукова весна». Дніпро, 05.2022. С. 171

Хабарлак К. С. Адаптивна після навчання нейронна мережа // Тези V Всеукраїнської Інтернет-конференції здобувачів вищої освіти і молодих учених Інформаційні технології: теорія і практика. Запоріжжя, 06.2022. С. 20–21

Хабарлак К. С. Нейро-мережева система класифікації із конфігурацією після навчання // Матеріали X Міжнародної науково-технічної конференції студентів, аспірантів і молодих вчених «Молодь: наука та інновації». Дніпро, 11.2022. С. 383

Khabarlak K. Semantic segmentation with Post-Train Adaptive Neural Network // Тези XI міжнародної науково-практичної конференції «Сучасні проблеми і досягнення в галузі радіотехніки, телекомунікацій та інформаційних технологій». Запоріжжя, 12.2022. С. 124–125

Хабарлак К. С. Конфігурація після навчання нейронної мережі для сегментації зображень // Матеріали XIII Міжнародної науково-технічної конференції аспірантів та молодих вчених «Наукова весна». Дніпро, 03.2023. С. 194–195

Хабарлак К. С. Проблеми нейронних мереж для розпізнавання на пристроях із різними обчислювальними можливостями // Тези VI Всеукраїнської науково-практичної Інтернет-конференції здобувачів вищої освіти і молодих учених Інформаційні технології: теорія і практика. Харків, 03.2023. С. 101–102

Файли

Схожі дисертації