Информациология. ОБЩАЯ ТЕОРИЯ ИНФОРМАЦИИ (стр. 44 )

При известной функции плотности вероятностей вероятность реализации значения X(ti) в произвольном интервале значений [a, b] вычисляется по формуле:

P(a<X(ti)≤b) =p(x, ti) dx.

       Функция плотности вероятностей должна быть нормирована к 1, т. к. случайная величина обязана принимать какое-либо значение из числа возможных, образующих полное пространство случайных величин:

p(x, ti) dx =1.

Плотность распределения вероятностей, соответственно, определяет функцию распределения вероятностей: 

  F(x, ti) =p(x, ti) dx.

По известной плотности распределения вероятностей могут быть вычислены функции моментов случайного процесса, которые представляют собой математические ожидания соответствующих степеней (порядка) значений случайного процесса (начальные моменты) и значений флюктуационных составляющих процесса (центральные моменты, моменты относительно центров распределения случайных величин):

M{xn(t)} =xn(t) p(x, t) dx,

M0{xn(t)} = M{[x(t)-M{x(t)}]n} =[(x(t)- M{x(t)}]n p(x, t) dx,

       Функции моментов являются основными статистическими характеристиками случайного процесса. Они представляют собой неслучайные функции, но полностью и однозначно определяют случайный процесс, как и плотность распределения вероятностей, при определенном количестве порядков в зависимости от характера процесса. Минимальное число порядков, которое полностью определяет гауссово распределение плотности вероятностей, равно 2. 

В практике анализа случайных процессов используются, в основном, начальные моменты первого порядка и центральные моменты второго порядка.

Математическое ожидание (mean value) является первым начальным моментом случайного процесса и представляет собой статистическое усреднение случайной величины X(ti) в каком либо фиксированном сечении ti случайного процесса. Соответственно, полная функция математического ожидания является теоретической оценкой среднего взвешенного значения случайного процесса по временной оси:

mx(t) ≡ M{Х(t)}≡ =x p(x; t) dx,  (20.2)

       Математическое ожидание mx(t) представляет собой неслучайную составляющую случайного процесса X(t). На рис. 20.1. и 20.2 неслучайные составляющие m(t) модели случайного процесса X(t) выделены пунктиром и соответствуют выборкам N → ∞.

       Второй начальный момент случайного процесса определяет его среднюю мощность:

wx(t) ≡ M{Х2(t)}≡ =x2 p(x; t) dx,  (20.3)

Функция дисперсии (variance, function of a dispersion) случайного процесса. При анализе случайных процессов особый интерес представляет флуктуационная составляющая процесса, которая определяется разностью Х(t)-mx(t). Функция дисперсии является теоретической оценкой среднего взвешенного значения разности Х(t)-mx(t)2, т. е. является вторым центральным моментом процесса, и определяет мощность его флуктуационной составляющей:

Dx(t) = M{[Х(t)-mx(t)]2} = M{X2(t)} - mx2(t) =[xo(t)]2 p(x; t)dx, (20.4)

где xo(t) = x(t)-mx(t).

Функция среднего квадратического отклонения (standard deviation) служит амплитудной мерой разброса значений случайного процесса по временной оси относительно математического ожидания процесса:

σx(t) =.  (20.5)

Рис. 20.4.

       Учитывая последнее выражение, дисперсия случайной величины обычно обозначается индексом σ2.

       На рис. 9.1.4 приведен пример флюктуационной составляющей процесса X(t) (рис. 20.1) в одной из реализаций в сопоставлении со средним квадратическим отклонением  ±σ случайных величин от математического ожидания m(t).

Одномерные законы плотности распределения вероятностей случайных процессов не несут каких-либо характеристик связи между значениями случайных величин для различных значений аргументов.

Двумерная плотность распределения вероятностей  p(x1,t1; x2,t2) определяет вероятность совместной реализации значений случайных величин Х(t1) и Х(t2) в произвольные моменты времени t1 и t2, что характеризует взаимосвязь случайного процесса в различные моменты времени и дает возможность определить характер изменения случайного процесса, т. е. динамику развития процесса во времени. Распределение описывает двумерную случайную величину {X(ti), X(tj)} в виде функции вероятности реализации случайной величины X(ti) в бесконечно малом интервале dxi в окрестностях xi в момент времени ti при условии, что в момент времени tj значение X(tj) будет реализовано в бесконечно малом интервале dxj в окрестностях xj:

p(x1,t1; x2,t2) = P{x1 ≤ x(t1) ≤ x1+dx1 ∩ x2 ≤ x(t2) ≤ x2+dx2 }.

С помощью двумерной плотности распределения вероятностей можно определить корреляционные функции процесса.

Корреляционные функции случайных процессов. Характеристикой динамики изменения случайной величины X(ti) является корреляционная функция, которая описывает случайный процесс в целом:

RX(ti, tj) = M{X(t1) X(t2)}.

       Корреляционная функция представляет собой статистически усредненное произведение значений случайного процесса X(t) в моменты времени ti и tj по всем значениям временных осей ti и tj, а, следовательно, тоже является двумерной функцией. В терминах теории вероятностей корреляционная функция является вторым начальным моментом случайного процесса.

На рис. 20.5 приведены примеры реализаций двух случайных процессов, которые характеризуются одной и той же функцией математического ожидания и дисперсии.

Рис. 20.5.

На рисунке видно, что хотя пространство состояний обоих процессов практически одно и то же, динамика развития процессов в реализациях существенно различается. Единичные реализации коррелированных процессов в произвольный момент времени могут быть такими же случайными, как и некоррелированных, а в пределе, во всех сечениях оба процесса могут иметь один и тот же закон распределения случайных величин. Однако динамика развития по координате t (или любой другой независимой переменной) единичной реализации коррелированного процесса по сравнению с некоррелированным является более плавной, а, следовательно, в коррелированном процессе имеется определенная связь между последовательными значениями случайных величин. Оценка степени статистической зависимости мгновенных значений какого-либо процесса Х(t) в произвольные моменты времени t1 и t2 и производится функцией корреляции. По всему пространству значений случайного процесса X(t) корреляционная функция определяется выражением:

RX(ti, tj) =x(ti)x(tj) p(xi, tj; xi, tj) dxi dxj,  (20.6)

При анализе случайных процессов второй момент времени tj удобно задавать величиной сдвига τ относительно первого момента, который при этом может быть задан в виде координатной переменной:

RX(t, t+τ) = M{Х(t)Х(t+τ)}.  (20.7)

       Функция, задаваемая этим выражением, обычно называется автокорреляционной функцией случайного процесса.

Ковариационные функции. Частным случаем корреляционной функции является функция автоковариации (ФАК), которая широко используется при анализе сигналов. Она представляет собой статистически усредненное произведение значений центрированной случайной функции X(t)-mx(t) в моменты времени ti и tj и характеризует флюктуационную составляющую процесса:

KХ(ti, tj) =(x(ti)-mx(ti)) (x(tj)-mx(tj)) p(xi, tj; xi, tj) dxi dxj,  (20.8)

В терминах теории вероятностей ковариационная функция является вторым центральным моментом случайного процесса. Для центрированных случайных процессов ФАК тождественна функции автокорреляции. При произвольных значениях mx ковариационные и корреляционные функции связаны соотношением:

KX(t, t+τ) = RX(t, t+τ) - mx2(t).

Нормированная функция автоковариации (функция корреляционных коэффициентов):

ρХ(t, t+τ) = KX(t, t+τ)/[σ(t)σ(t+τ)].  (20.9)

Функция корреляционных коэффициентов может принимать значения от +1 (полная статистическая корреляция случайных процессов на интервалах t и t+τ) до -1 (полная статистическая противоположность процессов на этих интервалах). Попутно отметим, что в математической статистике, а также довольно часто и в технической литературе, эту функцию называют функцией корреляции. При τ = 0 значение ρХ равно 1, а ФАК вырождается в дисперсию случайного процесса:

KX(t) = DX(t).

Отсюда следует, что для случайных процессов и функций основными характеристиками являются функции математического ожидания и корреляции (ковариации). Особой необходимости в отдельной функции дисперсии не имеется.