что на предыдущем (k – 1) - м шаге она была в состоянии .

Обозначим такую вероятность следующим образом:

(7.2)

Вероятности называются вероятностями перехода цепи Маркова на

k - м шаге. Вероятности перехода можно записать в виде матрицы перехода π размерности n × n:

(7.3)

Цепь Маркова называется однородной, если не зависят от номера

шага k: . Соотношение (7.3) примет вид:

(7.4)

Матрица безусловных вероятностей состояний на шаге k определяется

соотношением:

(7.5)

Для справедливо соотношение:

(7.6)

Из (7.6) имеем:

(7.7)

Матрица финальных вероятностей Т вида:

(7.8)

может быть определена путем решения системы алгебраических уравнений:

(7.9)

Здесь

– финальные вероятности.

Решение типовых задач

Задача 7.1. Система представляет собой техническое устройство, состоящее из m узлов (m = 3) и время от времени (в моменты t1 , t 2 ,..., t k ) подвергается профилактическому осмотру и ремонту. После каждого шага

(момент осмотра и ремонта) система может оказаться в одном из следую-

щих состояний:

·  x1 – все узлы исправны;

·  x2 – один узел заменен новым, остальные исправны;

·  x3 – два узла заменены новыми, остальные исправны;

·  x4 – все три узла заменены новыми.

Рассматривая состояния системы как марковскую цепь, вычислить вероятности состояний после трех шагов, т. е.

В начальный момент времени все узлы исправны. Мат-

рица перехода π имеет вид:

Таким образом:

Решение. Определим матрицу :

Так как в начальный момент времени система находится в состоянии ,

то:

.

Из (7.7) имеем:

Задача 7.2. Пусть задана матрица перехода π вида:

Найти матрицу финальных вероятностей Т вида:

Решение. Из (7.9) имеем для n = 3:

или

(7.10)

Из (7.10) имеем

(7.11)

Из (7.11) имеем

или

(7.12)

Решим систему уравнений (7.12), используя правило Крамера. Найдем определители матрицы:

Из за большого объема этот материал размещен на нескольких страницах:
1 2 3 4 5 6 7 8 9 10 11 12 13