, (2.1.19)
где b — любое положительное число.
Рассмотренная рекуррентная процедура (2.1.17) позволяет найти состоятельную оценку скалярного параметра с. Для состоятельной оценки векторного параметра
была впоследствии предложена модификация метода стохастической аппроксимации, которая легла в основу рекуррентных методов идентификации параметров объектов.
2.1.2. Обобщение метода стохастической аппроксимации
для решения задач идентификации
Рассмотрим, в общем случае, нелинейный объект, описание которого представлено в форме «вход-выход»:
, (2.1.20)
,
,
соответствующее уравнение модели имеет вид
. (2.1.21)
Рассмотрим некоторую четную функцию
— аналог функции потерь, которая достигает минимума при
.
Тогда
является корнем стохастического векторного уравнения:
. (2.1.22)
Принципиально векторное уравнение (2.1.22) ничем не отличается от стохастического скалярного уравнения (2.1.1). Причем, по крайней мере для линейных систем, уравнение (2.1.22) — монотонно возрастающее.
По аналогии с решением скалярных уравнений, составим рекуррентную последовательность для решения векторного уравнения (2.1.22):
. (2.1.23)
Так как выражение
представляет собой невязку
между выходом модели и объекта, то можно записать:
, (2.1.24)
где
— матрица коэффициентов усиления, диагональные элементы которой удовлетворяют условиям:
1)
,
;
2)
,
;
3)
,
.

Одним из возможных видов матричной последовательности
, удовлетворяющей условию (2.1.24), является матричный ряд
, (2.1.26)
где В — некоторая положительно определенная матрица.
2.1.3. Асимптотическая скорость сходимости
рекуррентных алгоритмов
Рассмотрим след ковариационной матрицы ошибки оценки на i-м шаге рекуррентного процесса оценивания:
.
В предыдущем разделе было показано, что при правильно выбранной матрице
оценка будет состоятельной:
.
При этом могут быть различные способы задания матрицы
. Кроме того, не накладывалось никаких дополнительных условий (кроме условия четности) на функцию потерь
. Однако различные способы задания матрицы
и различные функции потерь
будут давать различные скорости сходимости оценок к истинным значениям параметра.
В качестве меры скорости сходимости алгоритмов в теории оценивания принято использовать асимптотическую матрицу ковариаций ошибок оценки (АМКО) [3]:
![]()
. (2.1.27)
Очевидно, чем меньше АМКО, тем быстрее скорость сходимости алгоритма. Так как
функционально зависит от вида функции потерь
и от вида матрицы
, то и АМКО является функционалом от
и
.
В дальнейшем несколько упростим задачу и будем задавать
в виде
, (2.1.28)
где В, как указывалось ранее, некоторая положительно определенная матрица. Поставим себе целью найти такую матрицу
и такую функцию потерь
, которые обеспечивают минимум АМКО. При этом будем считать, что известна плотность распределения помехи
. Вначале найдем оптимальную матрицу
, такие алгоритмы будем называть оптимальными [3]. Затем найдем оптимальную функцию потерь
— абсолютно оптимальные алгоритмы.
Найдем уравнение, которому удовлетворяет АМКО. Приводимый далее вывод этого уравнения носит эвристический характер и не претендует на строгость. Запишем рекуррентный алгоритм (2.1.24), используя в качестве матрицы
формулу (2.1.28):
. (2.1.29)
Запишем это выражение относительно ошибки
:
. (2.1.30)
Разложим
в ряд Тейлора относительно истинного значения параметра:
.
Подставляя последнее выражение в формулу для ошибки (2.1.30), получим:
.
Перепишем последнее выражение в виде:
.
Домножим обе части этого уравнения на
и введем обозначения:
;
;
.
При достаточно больших i выражение
,тогда, пренебрегая членами высшего порядка малости, можно записать:
. (2.1.31)
Обращаясь к формуле (2.1.27) для АМКО, нетрудно заметить, что
, (2.1.32)
где
. (2.1.33)
Подставляя (2.1.31) в формулу (2.1.33) и производя кропотливые, но несложные преобразования, получим рекуррентную формулу для нахождения
[3]:

, (2.1.34)
где
.
Рассмотрим более подробно матрицу
. Так как функция потерь является сложной функцией, то, применяя правила дифференцирования сложных функций, можно записать:
|
Из за большого объема этот материал размещен на нескольких страницах:
1 2 3 4 5 |


