Глава 6 Прикладной регрессионный анализ (стр. 3 )

1. Приведенные значения дисперсий , , становятся конструктивными, если известна верхняя оценка дисперсии Е. Порядок можно определить по реализации случайной величины [9]:

, так как

Далее будет показано, что истинное значение r находят очевидным образом.

2. Чем больше , тем меньше при фиксированном . Действительно, при т. е. с увеличением значение уменьшается на порядок. Из этого вытекает следующий результат.

3. По минимальному количеству испытаний можно определить истинную степень полинома линии регрессии в случае, когда неизвестные ненулевые коэффициенты не являются малыми по абсолютной величине числами. В нашем примере при дисперсия оценки коэффициента при уже равна , т. е. если истинная линия регрессии прямая, то реально оценками будут нули с точностью до соответствующих знаков после запятой (закон трех сигм для нормального распределения и использование неравенства Чебышева в общем случае).

4. Необходимое количество испытаний определяется заданной точностью для нахождения с наименьшим Если эксперименты являются дорогими, то реально эффективно оценивать нужно, начиная с (из анализа табл. 6.1 видно, что значения дисперсий и одного порядка достигаются на числе экспериментов отличающихся на два порядка).

Таким образом, точность оценки необходимо связывать с полученной числовой оценкой (чем больше по модулю это значение, тем достовернее полученный результат). Если оценка оказывается недостаточно точной, то полученное выражение для линии регрессии необходимо использовать в тех задачах, для решения которых величина не имеет значения (например, сравнение значений линии регрессии для различных значений ее аргумента).

В некоторых задачах массив , может быть задан заранее и экспериментатор не может его изменить. Тогда до проведения эксперимента по формулам (6.7), (6.8), (6.18) можно найти дисперсии (r можно задать избыточным) и провести предварительный анализ будущих результатов эксперимента.

6.1.2  Построение многомерной полиномиальной регрессии

Возможность для одномерного случая практически гарантированно находить степень полинома линии регрессии, вычислять с допустимой вероятностью с заданной погрешностью коэффициенты этого полинома позволяет предложить достаточно эффективную процедуру восстановления многомерной полиномиальной линии регрессии (при условии реализации активного эксперимента).

Пусть многомерная модель задается в виде

(6.19)

где – детерминированный вектор входных переменных, -тая компонента вектора – неизвестные коэффициенты, натуральные числа; натуральные индексы из множества – случайная величина с нулевым математическим ожиданием и ограниченной неизвестной дисперсией (как и в одномерном случае может быть известна верхняя оценка ).

Модель (6.19) является избыточной – возможно, некоторые из коэффициентов равны нулю. Для удобства дальнейшего изложения линию регрессии модели (6.19) представим иначе:

(6.20)

Составляющие

(6.21)

содержат все слагаемые из (6.19), в каждую из которых входит компонента Составляющие

(6.22)

содержат все слагаемые из (6.19), в каждую из которых входит компонента , за исключением тех составляющих, которые вошли в (6.21) и (6.22) для

Рассмотрим составляющую (6.21). Обозначим через , количество слагаемых, каждая из которых содержит в -й степени; , – максимальная степень полинома от переменной .

Фиксируем наборов значений компонент На числа , накладывается единственное условие – определенные ниже квадратные матрицы должны быть невырожденными.

Реализуем экспериментов, в каждом из которых (-м, ) переменные принимают фиксированные значения , а переменная изменяется как при построении одномерной полиномиальной регрессии. При фиксированных значениях переменных в -м эксперименте многомерная линия регрессии превращается в полином от переменной степени .

Для каждого -го эксперимента находим значения дисперсий (по выражению (6.18)), , и эти числа ранжируем по возрастанию их значений при фиксированном . Получим проранжированных последовательностей оценок коэффициентов .