Разработка алгоритмов обучения и исполнения нейронных сетей с использованием разреженного представления для задач оценки позы человека: магистерская диссертация / Никита Валерьевич Мищенко; БГУ, Факультет прикладной математики и информатики, Кафедра дискретной математики и алгоритмики; науч. рук. Белоцерковский А. М., Калиновский А. А.

Abstract

Магистерская диссертация, 46 с., 25 рис., 5 таб., 2 ф., 18 источников. МАШИННОЕ ОБУЧЕНИЕ, КОМПЬЮТЕРНОЕ ЗРЕНИЕ, СВЕРТОЧНАЯ НЕЙРОННАЯ СЕТЬ, ОПТИМИЗАЦИЯ ВЕСОВ, РАЗРЕЖЕННОЕ ПРЕДСТАВЛЕНИЕ ВЕСОВ, ИСПОЛНЕНИЕ НА МОБИЛЬНЫХ УСТРОЙСТВАХ. Объект исследования – проблема исполнения сложных сверточных нейронных сетей на мобильных устройствах. В частности, исследуются влияние использования разреженного представления весов в задачах машинного зрения. Цель работы – изучить влияние разных способов прореживания весов сверточной нейронной сети на точность распознавания алгоритмов машинного зрения и на время работы сверточной сети на мобильном устройстве. Методы проведения работы – изучение существующих методов оптимизаций обучения и исполнения сверточных нейронных сетей на мобильных устройствах. Разработка алгоритмов по минимизации количества весов сети разными стратегиями, а также разработка алгоритмов для быстрого исполнения слоев свертки. Проведение экспериментов на разработанном ПО, сравнительный анализ с обычным способом обучения и исполнения. Результаты – новый способ оптимизации исполнения сверточных нейронных сетей на мобильных устройствам, позволяющий более чем в два раза улучшить производительность, почти не потеряв в точности решения задачи. Разработаны и реализованы на языке программирования Python алгоритмы по прореживанию весов сверточных слоев разными стратегиями. Разработаны и реализованы на языке программирования Metal и Swift алгоритмы по занулению одной стратегией весов сверточного слоя. Область применения – различные задачи компьютерного зрения на мобильных устройствах, использующие нейронные сверточные сети.