Контрольная работа по теории информации

Контрольная работа по теории информации

1. Вычислить энтропию Шеннона последовательности букв ФИО. Для оценки вероятностей букв использовать частоты вхождения букв в ФИО.

2. Построить равномерный двоичный код с наименьшей длиной кодового слова для букв, входящих в ФИО.

3. Закодировать последовательность из 10 букв ФИО адаптивным кодом Хаффмана.

4. Закодировать первые пять букв своего ФИО арифметическим кодом. Использовать частоты вхождения букв из п.1.

5. Последовательность букв ФИО преобразовать следующим образом: буквы от ‘А’ до ‘З’ заменить символом а, буквы от ‘И’ до ‘Т’ заменить символом b, остальные буквы – символом c. Закодировать полученную последовательность словарными методами LZ77, LZ78, LZSS и LZW.

6. По заданной матрице совместных вероятностей появления сообщений зависимых источников информации и вычислить величины , , , , . (Вариант выбирается по последней цифре номера из журнала)

0.

Y X	y1	y2	y3
x1	0	0.14	0
x2	0.08	0	0.22
x3	0.03	0.05	0.16
x4	0.13	0	0.19

1.

Y X	y1	y2	y3
x1	0.3	0.1	0
x2	0.05	0.2	0.05
x3	0	0.3	0

2.

Y X	y1	y2	y3	y4
x1	0.28	0.1	0	0.37
x2	0	0.2	0.05	0

3.

Y X	y1	y2	y3
x1	0.15	0.05	0
x2	0	0.6	0.05
x3	0.05	0	0.1

4.

Y X	y1	y2	y3
x1	0	0.05	0
x2	0	0.37	0
x3	0.05	0	0.18
x4	0.13	0	0.22

5.

Y X	y1	y2	y3	y4
x1	0.12	0.05	0	0
x2	0	0.06	0.4	0.05
x3	0.05	0	0	0.27

6.

Y X	y1	y2	y3
x1	0.27	0.13	0
x2	003	0.26	0.01
x3	0	0	0.3

7.

Y X	y1	y2	y3	y4
x1	0	0.11	0	0.07
x2	0.33	0	0.05	0.440

8.

Y X	y1	y2	y3
x1	0	0.14	0.36
x2	0.05	0	0
x3	0	0.05	0.18
x4	0.13	0	0.09

9.

Y X	y1	y2	y3	y4	y5
x1	0	0.16	0	0.07	0.01
x2	0.28	0	0.05	0.26	0.17