Использование принципа максимальной энтропии для конструирования робастных оценок при байесовском точечном засорении. Часть II

Аннотация


Рассматривается развитие теории робастного оценивания параметров статистических моделей с привлечением аппарата теории информации. Анализируется подход А.М. Шурыгина, основанный на модели серии выборок со случайным точечным засорением (модели байесовского точечного засорения). В первой части нашей работы описан непараметрический способ выбора распределения засоряющей точки – посредством максимизации энтропии Шеннона или перекрестной энтропии в окрестности модельного распределения, ограниченной величиной дивергенции Кульбака – Лейблера. Такой способ нахождения плотности распределения засоряющей точки позволяет рассматривать получаемые оценки как робастные, причем обладающие свойством оптимальности. Полученные оценки мы называем обобщенными радикальными, поскольку их частным случаем являются радикальные оценки А.М. Шурыгина.Во второй части работы получено другое оптимальное решение на основе формализма А. Реньи (или эквивалентного с точки зрения нашей задачи формализма К. Цаллиса), дающее новое семейство оценок, частными случаями которого также являются некоторые известные оценки. Для выбора одной оценки из семейства, определяемого разными ограничениями на дивергенцию, предложен оптимизационный подход. Основные теоретические результаты, полученные в работе, иллюстрируются на примере оценивания параметра сдвига косинусного распределения.

Полный текст

2

Об авторах

Д. В Лисицин

Новосибирский государственный технический университет

К. В Гаврилов

Новосибирский государственный технический университет

Список литературы

  1. Шурыгин, А.М. Математические методы прогнозирования: учебное пособие для вузов / А.М. Шурыгин. – М.: Горячая линия – Телеком, 2009. – 180 с.
  2. Rényi, A. On measure of entropy and information / A. Rényi // Proceedings of the Fourth Berkeley Symposium on Mathematical Statistics and Probability. – 1961. – Vol. 1. – P. 547–561.
  3. Principe, J.C. Information theoretic learning: Renyi’s entropy and kernel perspectives / J.C. Principe. – Springer: Information Science and Statistics. – 2010. – 515 p. doi: 10.1007/978-1-4419-1570-2
  4. Tsallis, C. Introduction to nonextensive statistical mechanics: approaching a complex world / C. Tsallis. – N.Y.: Springer, 2009. – 382 p. doi: 10.1007/978-0-387-85359-8
  5. Cichocki, A. Families of alpha- beta- and gamma-divergences: flexible and robust measures of similarities / A. Cichocki, S.-I. Amari // Entropy. – 2010. – Vol. 12, no. 6. – P. 1532–1568. doi: 10.3390/e12061532
  6. Боровков, А.А. Математическая статистика / А.А. Боровков. – СПб.: Издательство «Лань», 2021. – 704 с.
  7. Лисицин, Д.В. О свойствах условно оптимальных оценок / Д.В. Лисицин, К.В. Гаврилов // Научный вестник НГТУ. – 2015. – № 1(58). – С. 76–93. doi: 10.17212/1814-1196-2015-1-76-93
  8. Хьюбер, П. Робастность в статистике / П. Хьюбер. – М.: Мир, 1984. – 303 с.
  9. Робастность в статистике: подход на основе функций влияния / Ф. Хампель, Э. Рончетти, П. Рауссеу, В. Штаэль. – М.: Мир, 1989. – 512 с.
  10. Лисицин, Д.В. Исследование стойких оценок параметров распределения минимального значения / Д.В. Лисицин, Д.А. Грюнер // Доклады АН ВШ РФ. – 2010. – № 1(14). – С. 6–17.
  11. Лисицин, Д.В. Исследование устойчивых оценок параметров распределения минимальных значений / Д.В. Лисицин, Д.А. Грюнер // Научный вестник НГТУ. – 2010. – № 2(39). – С. 21–30.
  12. Cartwright, D.E. The use of directional spectra in studying the output of a wave recorder on a moving ship / D.E. Cartwright // Ocean Wave Spectra: Proc. of Conf. – New Jersey: Prentice Hall, 1963. – P. 203–218.
  13. Лисицин, Д.В. Оценивание параметров распределения ограниченной случайной величины, робастное к нарушению границ / Д.В. Лисицин, К.В. Гаврилов // Научный вестник НГТУ. – 2016. – № 2(63). – С. 70–89. doi: 10.17212/1814-1196-2016-2-70-89
  14. Цыпкин, Я.З. Основы информационной теории идентификации / Я.З. Цыпкин. – М.: Наука, 1984. – 320 с.
  15. Robust and efficient estimation by minimizing a density power divergence / A. Basu, I.R. Harris, N.L. Hjort, M.C. Jones // Biometrika. – 1998. – Vol. 85. – P. 549–559. doi: 10.1093/BIOMET/85.3.549
  16. Демиденко, Е.З. Линейная и нелинейная регрессии / Е.З. Демиденко. – М.: Финансы и статистика, 1981. – 302 с.
  17. Лисицин, Д.В. Устойчивое оценивание параметров модели по многомерным неоднородным неполным данным / Д.В. Лисицин // Научный вестник НГТУ. – 2013. – № 1(50). – С. 17–30.

Статистика

Просмотры

Аннотация - 5

PDF (Russian) - 3

Ссылки

  • Ссылки не определены.

Данный сайт использует cookie-файлы

Продолжая использовать наш сайт, вы даете согласие на обработку файлов cookie, которые обеспечивают правильную работу сайта.

О куки-файлах