Порівняльна характеристика здатності згорткових нейронних мереж до концепції трансферного навчання

Анотація

Об'єктом дослідження є здатність комбінувати попередньо навчену модель глибинної нейронної мережі прямого поширення з даними користувача при їх використанні в задачах визначення класу одного об'єкта на зображенні. Тобто розглянуто процеси трансферного навчання в згорткових нейронних мережах в задачах класифікації. Проведені дослідження базуються на застосуванні методу порівняння теоретичних та практичних результатів, отриманих при навчанні згорткових нейронних мереж. Основним завданням даного дослідження було провести два різних процеси навчання. Традиційне навчання, під час якого на кожному етапі навчання відбувається коригування значень всіх ваг кожного шару мережі, після чого відбувається процес навчання нейронної мережі на вибірці даних, представлених зображеннями. Другим процесом є навчання з використанням методів трансферного навчання, коли при ініціалізації наперед навченої мережі «заморожують» ваги всіх її шарів за винятком останнього повнозв’язного шару. Цей шар буде замінено на новий з числом виходів, що повинно дорівнювати кількості класів у досліджуваній вибірці. Після чого ініціалізувати його параметри випадковими значеннями, розподіленими за нормальним законом. І тоді провести навчання такої згорткової нейронної мережі на заданій вибірці. Коли навчання було проведено – отримані результати пройшли процес порівняння. Як висновок, навчання згорткової нейронної мережі із застосуванням методів трансферного навчання може бути застосовано до різних завдань класифікації, починаючи з цифр та закінчуючи космічними об’єктами (зорями та квазарами). Причому такий вид навчання є більш ефективним при значно менших часових витратах. Досить важливим є також обсяг комп'ютерних ресурсів, що витрачаються на дослідження. Так як не всяку модель згорткової нейронної мережі можна повністю навчити, не маючи при цьому потужних комп’ютерних систем та великої кількості зображень в навчальній вибірці.