Аннотация:
Принцип максимальной энтропии (МЭ) обладает рядом преимуществ, позволяющих применять его в машинном обучении. Плотность распределения максимальной энтропии (ПРМЭ) требует решения задачи вариационного исчисления на априорном распределении, где в качестве параметра может быть использована центральная тенденция, которая в пространстве Лебега описывается обобщенным средним по Гельдеру. В работе показана эволюция плотности распределения МЭ в зависимости от заданной нормы среднего. Минимум расхождения Кульбака — Лейблера между ПРМЭ и априорной плотностью достигается на гармоническом среднем, что эффективно для сокращения размерности обучающей выборки. В то же время это приводит к ухудшению функции потерь в условиях машинного обучения по прецедентам.
Образец цитирования:
А. В. Кваснов, А. А. Бараненко, Е. Ю. Бутырский, У. П. Зараник, “О влиянии центральной тенденции на характер плотности распределения максимальной энтропии в машинном обучении”, Вестн. С.-Петербург. ун-та. Сер. 10. Прикл. матем. Информ. Проц. упр., 19:2 (2023), 176–184
\RBibitem{KvaBarBut23}
\by А.~В.~Кваснов, А.~А.~Бараненко, Е.~Ю.~Бутырский, У.~П.~Зараник
\paper О влиянии центральной тенденции на характер плотности распределения максимальной энтропии в~машинном обучении
\jour Вестн. С.-Петербург. ун-та. Сер. 10. Прикл. матем. Информ. Проц. упр.
\yr 2023
\vol 19
\issue 2
\pages 176--184
\mathnet{http://mi.mathnet.ru/vspui575}
\crossref{https://doi.org/10.21638/11701/spbu10.2023.204}
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/vspui575
https://www.mathnet.ru/rus/vspui/v19/i2/p176
Эта публикация цитируется в следующих 1 статьяx:
A. V. Kvasnov, “Evaluation of the Distance to Thermal Objects by Passive MWIR Sensors: A Multidimensional Regression Approach”, Optoelectron.Instrument.Proc., 60:6 (2024), 780