Задача 1
По 15 наблюдениям получены следующие результаты:
120,
1240,
104,
1004,
590,
936,
5732,
4841,
27468,
30.
1. Оцените коэффициенты линейной регрессии
.
2. Определите стандартные ошибки коэффициентов.
3. Вычислите
и
.
4. Оцените статистическую значимость коэффициентов регрессии и детерминации при уровне значимости
=0,05.
Решение:
Находим коэффициенты линейной регрессии методом наименьших квадратов.
Число наблюдений ![]()




;
;
![]()
Получили линейную регрессию

2)
Записываем матрицу

Обращаем её

Находим дисперсию регрессии

Здесь
- число объясняющих параметров
Стандартные ошибки коэффициентов регрессии:

Здесь
- диагональный элемент обратной матрицы (строки и столбцы нумеруем с нуля).


3)
Общая сумма квадратов

Остаточная сумма квадратов:


Под
понимают исправленный коэффициент детерминации

4)
Оцениваем статистическую значимость коэффициентов регрессии. Соответственно проверяем гипотезы
против альтернативы
на уровне значимости ![]()
Статистика критерия:

. Здесь
-найденные во втором пункте стандартные ошибки коэффициентов регрессии. При нулевой гипотезе она имеет распределение Стьюдента с числом степеней свободы
.
Гипотезу отвергаем при
![]()
-критическая точка соответствующего распределения Стьюдента.
Наблюденные значения



Нулевая гипотеза везде отвергается. То есть, все коэффициенты регрессии значимы.
Проверяем гипотезу статистической значимости коэффициента детерминации
против альтернативы ![]()
Вычисляем
-статистику

При выполнении предпосылок метода наименьших квадратов и при гипотезе
эта статистика имеет распределение Фишера. Критическое значение
(нашли в литературе).
, нулевая гипотеза отвергается,
статистически значим.
Задача 2
Пусть определена регрессия
, причем
. При отбрасывании переменной
и оценке регрессии
коэффициент
оказался отрицательным
. Возможно ли это? Если да, тогда при каких обстоятельствах?
Решение:
Такое возможно, если переменная
не значима для объяснения
. Критерий:
Гипотеза
не отвергается (при некотором разумном уровне значимости). При этом
объясняется переменной
, или вовсе не зависит от значений
и ![]()
Задача 3
Докажите, что график уравнения парной линейной регрессии всегда проходит через точку с координатами
, где
- средние значения переменных.
Решение:
Коэффициенты уравнения парной линейной регрессии
, получаемые методом наименьших квадратов находятся как решение системы, первое уравнение которой

Поделив на
, получим:
![]()
Что и означает доказываемое.


