Аннотация:
Работа посвящена оптимизации структуры нейронной сети.
Предполагается, что число параметров нейросети можно существенно снизить без
значимой потери качества и значимого повышения дисперсии функции ошибки.
Предлагается метод прореживания параметров нейронной сети, основанный на
автоматическом определении релевантности параметров. Для определения
релевантности параметров предлагается проанализировать ковариационную матрицу
апостериорного распределения параметров и удалить из нейросети
мультикоррелирующие параметры. Для определения мультикорреляции используется
метод Белсли. Для анализа качества представленного алгоритма проводятся
эксперименты на выборке Boston Housing, а также на синтетических данных.
Работа выполнена
при поддержке РФФИ (проект 19-07-0875) и Правительства РФ (соглашение
05.Y09.21.0018). Настоящая статья содержит результаты проекта «Статистические
методы машинного обучения», выполняемого в рамках реализации Программы Центра
компетенций Национальной технологической инициативы «Центр хранения и анализа
больших данных», поддерживаемого Министерством науки и высшего образования
Российской Федерации по Договору МГУ им. М. В. Ломоносова с Фондом поддержки
проектов Национальной технологической инициативы от 11.12.2018 № 13/1251/2018.
Поступила в редакцию: 31.10.2018
Реферативные базы данных:
Тип публикации:
Статья
Образец цитирования:
А. В. Грабовой, О. Ю. Бахтеев, В. В. Стрижов, “Определение релевантности параметров нейросети”, Информ. и её примен., 13:2 (2019), 62–70
А. В. Грабовой, О. Ю. Бахтеев, В. В. Стрижов, “Введение отношения порядка на множестве параметров аппроксимирующих моделей”, Информ. и её примен., 14:2 (2020), 58–65