Задача 1

       По 15 наблюдениям получены следующие результаты:

120, 1240, 104, 1004, 590, 936, 5732, 4841, 27468, 30.

1. Оцените коэффициенты линейной регрессии .

2. Определите стандартные ошибки коэффициентов.

3. Вычислите и .

4. Оцените статистическую значимость коэффициентов регрессии и детерминации при уровне значимости =0,05.

Решение:

Находим коэффициенты линейной регрессии методом наименьших квадратов.

Число наблюдений

;

;

Получили линейную регрессию

2)

Записываем матрицу

Обращаем её

Находим дисперсию регрессии

Здесь - число объясняющих параметров

Стандартные ошибки коэффициентов регрессии:

Здесь - диагональный элемент обратной матрицы (строки и столбцы нумеруем с нуля).

3)

Общая сумма квадратов

Остаточная сумма квадратов:

Под понимают исправленный коэффициент детерминации

4)

Оцениваем статистическую значимость коэффициентов регрессии. Соответственно проверяем гипотезы

против альтернативы  на уровне значимости 

Статистика критерия:

. Здесь -найденные во втором пункте стандартные ошибки коэффициентов регрессии. При нулевой гипотезе она имеет распределение Стьюдента с числом степеней свободы .

Гипотезу отвергаем при

-критическая точка соответствующего распределения Стьюдента.

Наблюденные значения

Нулевая гипотеза везде отвергается. То есть, все коэффициенты регрессии значимы.

Проверяем гипотезу статистической значимости  коэффициента детерминации

против альтернативы

Вычисляем -статистику

При выполнении предпосылок метода наименьших квадратов и при гипотезе эта статистика имеет распределение Фишера. Критическое значение

(нашли в литературе).

, нулевая гипотеза отвергается, статистически значим.

Задача 2

        Пусть определена регрессия , причем . При отбрасывании переменной и оценке регрессии коэффициент оказался отрицательным . Возможно ли это? Если да, тогда при каких обстоятельствах?

Решение:

Такое возможно, если переменная не значима для объяснения . Критерий:

Гипотеза  не отвергается (при некотором разумном уровне значимости). При этом объясняется переменной , или вовсе не зависит от значений и

Задача 3

       Докажите, что график уравнения парной линейной регрессии всегда проходит через точку с координатами , где - средние значения переменных.

Решение:

Коэффициенты уравнения парной линейной регрессии

, получаемые  методом наименьших квадратов находятся как решение системы, первое уравнение которой

Поделив на ,  получим:

Что и означает доказываемое.