Глава 6 Прикладной регрессионный анализ (стр. 4 )

Эти результаты позволяют сформировать систем линейных уравнений, решениями которых являются значения всех коэффициентов в выражении (6.21).

Действительно, в каждом из экспериментов неизвестные коэффициенты одномерной полиномиальной регрессии степени от переменной определяются следующим образом: необходимо из всех членов выражения (содержащих переменную в степени ) вынести . Полученное выражение для содержит только неизвестных коэффициентов вида , так как в каждом ‑м эксперименте при изменении значений переменной переменные принимают одно и то же фиксированное значение (). Таким образом, для построения системы линейных уравнений для нахождения коэффициентов вида надо использовать чисел (они имеют наименьшую дисперсию).

Для определения верхних статистических оценок точности нахождения коэффициента вида , полученную систему линейных уравнений условно запишем так:

(6.23)

где – переменные (соответствующие переменным вида ).

Пусть оценки , с заданной статистически значимой вероятностью оценивают с погрешностью, по модулю не превышающей чисел . Тогда с вероятностью максимальная погрешность нахождения точных значений соответствующих коэффициентов вида имеет вид

, (6.24)

где берется по всем , для которых берется по всем , для которых – -й элемент матрицы .

Как указывалось выше, предполагается, что выбраны так, что матрица существует.

Аналогично строятся все остальные системы линейных уравнений (правыми частями которых являются столбцы ) для нахождения всех остальных коэффициентов из выражения (6.21). Аналогично строятся все оценки вида (6.24).

Процедуры нахождения всех неизвестных коэффициентов из выражений (6.22) для полностью повторяют процедуру, изложенную для выражения (6.21).

Оценка константы в выражении (6.19) может быть получена как среднее арифметическое по всем проведенным испытаниям разностей где – значение выходной переменной модели, когда на вход подается векторное значение , а выражение – это значение выражения (6.20) для , из которого исключен коэффициент и вместо коэффициентов подставлены полученные их оценки.

Если верхняя оценка неизвестна, то ее можно эффективно оценить как среднее арифметическое оценок (6.11) по всем одномерным регрессиям.

Дополнения к параграфу.

В отдельных случаях предложенная процедура нахожде­ния многомерной регрессии по избыточному описанию может быть не эф­фективной, если ранее найденные коэффициенты многократно используются в последовательно конструируемых системах линейных равенств для нахождения коэффициентов в выражениях (6.22), . В этом случае наблюдается существенный рост результирующих ошибок при нахо­ждении оценок коэффициентов в результате решения последних систем линейных равенств в следствии последовательного накопления ошибок. Преимущество описанного метода в использовании минимально необходимого числа экспе­риментов в схеме с фиксацией значений всех переменных кроме одной.

От последовательного накопления ошибок можно избавиться следующим образом: в выражениях (6.22) сохранить все члены и соответственно коэффициенты, найденные на предыдущих этапах .

Для каждой переменной нахождение коэффи­ци­ен­­тов в выражениях (6.22) полностью идентичны алгоритмической процедуре приведенной для переменной (необходимо лишь везде индекс 1 заменить на индекс , ).

Недостаток модифицированного метода заключается в увеличении необ­ходимого числа экспериментов, повторной оценке коэффициентов слагаемых, присутствующих в выражениях (6.22), которые были найдены на предыдущих этапах.

Преимущество заключается в отсутствии последовательного накопления ошибок и появлении косвенного критерия эффективного восстановления многомерной регрессии: практическое совпадение оценок повторяющихся коэффициентов многомерной регрессии в результате решения разных систем линейных равенств.

Изложенные выше методики требуют избыточное число экспериментов для практически точного нахождения коэффициентов в слогаемых полинома вида . Так при фиксации значений всех переменных кроме одной получаем слогаемое первой степени относительно скалярной переменной. В этом случае удобен следующий прием:

кладем , а значения фиксируются; либо . Тогда в одномерных регрессиях соответствующие члены имеют вид , (фиксированные числа), либо . В этом случае одно и тоже количество экспериментов приводит на порядки более точному нахождению коэффициентов при либо в одномерных регрессиях и следовательно решение соответствующих систем линейных равенств приводит к качественно более точным оценкам коэффициентов . Представление независимых переменных в одном из двух приведенных выше видов определяется структурой избыточного полиномиального описания многомерной регрессии и как следствие требованиями к системам линейных равенств для оценки неизвестных коэффициентов линии регрессии. Из анализа решения конкретных примеров следует что приведенный прием может приводить к построении существенно меньшего количества одномерных регрессий.