ИССЛЕДОВАНИЕ ТОЧНОСТИ НАХОЖДЕНИЯ НЕИЗВЕСТНЫХ ПАРАМЕТРОВ РЕГРЕССИИ МЕТОДАМИ МНК, М-ОЦЕНКИ, LTS И ИХ МОДИФИКАЦИЙ ПРИ РАЗЛИЧНЫХ УСЛОВИЯХ ПРОВЕДЕНИЯ ЭКСПЕРИМЕНТА

В регрессионный анализ входит множество различных подходов к моделированию или анализу отношений между зависимыми и независимыми переменными. Существуют методы, которые позволяют находить неизвестные параметры регрессионных моделей. Одни из самых распространённых методов — это метод наименьших квадратов (МНК). Для того, чтобы в условиях появления в выборке выбросов, можно было получать корректные результаты оценивания параметров, ученые разработали методы, которые устойчивы к появлению выбросов. Были разработаны такие методы, как метод наименьшей медианы квадратов, М-оценки, метод наименьших уравновешенных квадратов (LTS) и другие. В данной работе подробно будут рассмотрены методы LTS м М-оценки. Эти методы оценивают параметры регрессионных зависимостей по максимально информативным наблюдениям, и, как следствие, получают устойчивые к выбросам оценки параметров регрессионных моделей.

Рассмотрим случай присутствия долей выбросов. С дисперсией наблюдений равной 0.01 и дисперсией ошибок 0.5. Размер подмножества (1- m)n . В таблице 1 представлены результаты оценивания

Таблица 1.

Оценка точности при различных долях выбросах  = 0.5

Все данные показывают, что при увеличении доли выбросов LTS наилучший в оценке неизвестных параметров и он выигрывают в точности у МНК и М-оценки, это связано с тем, что LTS проводит оценку по наиболее информативным наблюдениям. Разница между методами определения выбросов невелика.

Рассмотрим случай присутствия долей выбросов. С дисперсией наблюдений равной 0.01 и различными значениями дисперсией ошибок. Размерность подмножества h = (1- m)n. В таблицах 1-3 представлены результаты оценивания.

Таблица 2.

Оценка точности при различных долях выбросах  = 0.5

Таблица 2.

Оценка точности при различных долях выбросах  = 1

Таблица 3.

Оценка точности при различных долях выбросах  = 2

Провели сравнение алгоритмов метода наименьших квадратов, метода наименьших уравновешенных квадратов и М-оценки. М-оценки и LTS показали результаты, приближенные к истинному значению. МНК же начал отдаляться от истинного значения с появлением выбросов. В случае нормальнораспредленных ошибок точность оценки LTS и М-оценки значительно отличаются. Однако, МНК оценивает неизвестные параметры регрессионных уравнений более точно.

При появлении в выборке аномальных наблюдений методы М-оценки и LTS показывают более приближенные результаты к истинным значениям. МНК проигрывает в точности из-за отклонения от нормального закона распределения ошибок наблюдений.

Также провели исследование влияния дисперсии выброса на оценку неизвестных параметров. При увеличении дисперсии выбросов М-оценки и LTS также показали более точные результаты по сравнению с методом наименьших квадратов.При изменении размера оценочного подмножества метод LTS показывает наилучшие оценки. Наиболее точные оценки LTS показывает при размере подмножества равным . Это связано с тем, что данный метод производит оценку по наиболее информативным наблюдениям.