что на предыдущем (k – 1) - м шаге она была в состоянии
.
Обозначим такую вероятность следующим образом:
| (7.2) |
Вероятности
называются вероятностями перехода цепи Маркова на
k - м шаге. Вероятности перехода можно записать в виде матрицы перехода π размерности n × n:
| (7.3) |
Цепь Маркова называется однородной, если
не зависят от номера
шага k:
. Соотношение (7.3) примет вид:
| (7.4) |
Матрица безусловных вероятностей состояний на шаге k определяется
соотношением:
| (7.5) |
Для
справедливо соотношение:
| (7.6) |
Из (7.6) имеем:
| (7.7) |
Матрица финальных вероятностей Т вида:
| (7.8) |
может быть определена путем решения системы алгебраических уравнений:
| (7.9) |
Здесь ![]()

– финальные вероятности.
Решение типовых задач
Задача 7.1. Система представляет собой техническое устройство, состоящее из m узлов (m = 3) и время от времени (в моменты t1 , t 2 ,..., t k ) подвергается профилактическому осмотру и ремонту. После каждого шага
(момент осмотра и ремонта) система может оказаться в одном из следую-
щих состояний:
· x1 – все узлы исправны;
· x2 – один узел заменен новым, остальные исправны;
· x3 – два узла заменены новыми, остальные исправны;
· x4 – все три узла заменены новыми.
Рассматривая состояния системы как марковскую цепь, вычислить вероятности состояний после трех шагов, т. е.
![]()
В начальный момент времени все узлы исправны. Мат-
рица перехода π имеет вид:
|
Таким образом:
![]()
Решение. Определим матрицу
:
![]()
Так как в начальный момент времени система находится в состоянии
,
то:
.
Из (7.7) имеем:
![]()



Задача 7.2. Пусть задана матрица перехода π вида:

Найти матрицу финальных вероятностей Т вида:

Решение. Из (7.9) имеем для n = 3:

или
| (7.10) |
Из (7.10) имеем
| (7.11) |
Из (7.11) имеем

или
| (7.12) |
Решим систему уравнений (7.12), используя правило Крамера. Найдем определители матрицы:
|
Из за большого объема этот материал размещен на нескольких страницах:
1 2 3 4 5 6 7 8 9 10 11 12 13 |











