Қазақстан Республикасының        Министерство

Білім және ғылым        образования и науки

министрлігі        Республики Казахстан

Д. Серікбаев атындағы        ВКГТУ

ШҚМТУ        им. Д. Серикбаева

УТВЕРЖДАЮ

декан факультета ИТЭ

________Г. Мухамедиев

___________________2013 г.



АҚПАРАТ ТЕОРИЯСЫ

Силлабус

ТЕОРИЯ ИНФОРМАЦИИ

Силлабус 

Специальность: 5В070400 «Вычислительная техника и программное обеспечение»

Форма обучения: очная

Курс:                                        2 (1 на базе СПО)

Семестр:                                        4 (2 на базе СПО)

Кол-во кредитов:                                3

Кол-во часов:                                135

Лекции                                        15

Лабораторные работы:                        30

СРСП:                                        30

НЕ нашли? Не то? Что вы ищете?

СРС:                                                60

Экзамен:                                        4 семестр (2 на базе СПО)

Өскемен

Усть-Каменогорск

2013

Силлабус разработан на кафедре «Информационные системы» на основании Государственного общеобязательного стандарта образования для студентов  специальности 5В070400 «Вычислительная техника и программное обеспечение».

Обсуждено  на заседании кафедры «Информационные системы»

Зав. кафедрой        Н. Денисова

Протокол №____  от ____________________г.

Одобрено учебно-методическим советом  факультета ИТиЭ

Председатель  Т. Абдрахманова

Протокол №____ от______________________г.

Разработал 

ст. преподаватель  А. Уркумбаева

Нормоконтролер        Т. Тютюнькова

СВЕДЕНИЯ О ПРЕПОДАВАТЕЛЕ И КОНТАКТНАЯ ИНФОРМАЦИЯ

Кафедра «Информационные системы», факультет информационных технологий и энергетики, ауд. Г3-310 

Преподаватель, ведущий занятия: ст. преподаватель, к. т.н.

Телефон рабочий:  540-356

Аудиторные часы и время для консультаций: по расписанию занятий и  графику работы преподавателя.

1 ХАРАКТЕРИСТИКА ДИСЦИПЛИНЫ, ЕЁ МЕСТО В  УЧЕБНОМ ПРОЦЕССЕ

1.1 Цель изучения дисциплины

Предметом курса «Теория информации» является изучение современных методов и моделей восприятия, преобразования, передачи, обработки, хранения и представления информации, используемых при разработке вычислительной техники и программного обеспечения.

1.2 Задачи изучения дисциплины

Основными задачами изучения дисциплины являются изучение студентами теоретических основ измерения информации, передачи информации, дискретизации и квантирования информации, представления информации в человеко-машинных системах.

1.2 Результаты изучения дисциплины

В результате освоения дисциплины студент должен:

знать: основы теории информации, методы эффективного и помехоустойчивого кодирования информации, методы аналого-цифрового преобразования сигналов, методы сжатия цифровых данных;

уметь: производить подсчет количества информации в сообщениях, кодировать цифровые данные;

владеть: методикой эффективного и помехоустойчивого кодирования.

1.3 Пререквизиты

Дисциплина «Теория информации» предполагает использование знаний, полученных при изучении дисциплин «Математический анализ», «Информатика».

1.4 Постреквизиты

Знания и навыки, полученные студентами по курсу «Теория информации», могут быть использованы в дисциплине «Защита информации».

2 СОДЕРЖАНИЕ ДИСЦИПЛИНЫ

2.1 Тематический план


Наименование темы, ее содержание

Трудоем-кость, ч

Рекомендуемая литература

1

2

3

Лекционные занятия

Сообщения и информация. Меры информации. Система передачи информации (основные понятия и определения)

1

3.1.1, 3.2.3, 3.1.9, 3.1.15, 3.2.9

Определение энтропии, основные свойства энтропии.

1

3.1.9, 3.1.15, 3.2.1, 3.2.7

Передача информации по каналу без помех. Виды каналов передачи информации. Информационная модель канала Теорема Шеннона о кодировании.

2

3.1.3, 3.1.5, 3.1.6, 3.2.7

Эффективное кодирование. Алгоритмы сжатия

2

3.1.8, 3.1.9

Передача информации по каналу с помехами. Дискретный канал с помехами.

2

3.1.3, 3.1.5, 3.1.12

Помехоустойчивое кодирование

2

3.1.2,3.1.6

Преобразование сигналов. Квантование сигналов. Модуляция сигналов. Математические модели сигнала

2

3.1.6, 3.1.12, 3.2.5

Информационные системы  - объект применения основных принципов и методов теории информации

1

3.1.12, 3.2.2

Классификация и кодирование информации

2

3.1.4, 3.2.2

1

2

3

Лабораторные занятия

Измерение информации. Энтропия

4

3.1.9, 3.1.15

Эффективные методы сжатия

6

3.1.8, 3.1.9

Словарноориентированные методы сжатия

4

3.1.9, 3.1.16

Помехоустойчивое кодирование.  Линейные коды

5

3.1.2,3.1.6, 3.1.11

Помехоустойчивое кодирование. Групповой код

5

3.1.2, 3.1.11

Помехоустойчивое кодирование. Циклические коды

6

3.1.2, 3.1.11

Самостоятельная работа студентов под руководством преподавателя

Измерение информации. Энтропия

4

3.1.9, 3.1.15

Эффективные методы сжатия

6

3.1.8, 3.1.10

Словарноориентированные методы сжатия

5

3.1.9, 3.1.16

Помехоустойчивое кодирование

15

3.1.2,3.1.6


2.2 Задания для самостоятельной работы студента


Тема

Цель и содержание задания

Рекомендуемая литература

Продолжительность выполнения

Форма контроля

Срок сдачи

1

2

3

4

5

6

Вероятностно-статистические характеристики источника сообщений

Изучить

3.3, 3.5, 3.13, 3.22, 3.26

2

тест

8

Информационные характеристики источника сообщения и канала связи.

Изучить

3.6, 3.9, 3.20

2

тест

8

Количество информации. Энтропия случайной величины.

Научиться решать задачи

3.1.9, 3.2.1, 3.2.7, 3.2.9

4

тест

8

Принципы и модели передачи информации. Каналы связи и их классификация. Виды каналов передачи информации

Изучить

3.6, 3.9, 3.10, 3.14

4

тест

8

1

2

3

4

5

6

Основные понятия теории кодирования. Принципы кодирования в каналах без помех

научиться кодировать

3.1.1,3.2.1, 3.1.7, 3.1.8

4

тест

8

Основные понятия теории кодирования. Принципы кодирования в каналах с помехами

научиться кодировать

3.1.1, 3.1.2, 3.1.3,3.1.12

4

тест

8

Алгоритмы сжатия исключением повторов, JPEG

Изучить,

научиться кодировать

3.1.1,3.2.1, 3.1.7, 3.1.8

10

тест

8

Код Боуза-Чоудхури-Хоквингема. Коды для передачи информации по последовательным каналам связи (компьютерным сетям): Манчестер-II, AMI, BNZS, HDB3

Изучить алгоритмы

3.1.1, 3.1.2, 3.1.3,

3.1.12

10

тест

15

Методы формирования цветных изображений. Основные системы цветообразования. Технические средства отображения информации.

изучить

3.25

10

реферат

15

Онтологический и семиотический аспекты информации

изучить

3.1.4, 3.2.6

10

реферат

15


2.3 График выполнения и сдачи задания по дисциплине


Вид контроля

Академический период обучения, неделя

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

Зашита лабораторных работ

*

*

*

*

*

*

Рубежный контроль

*

*

Всего

1

1

2

1

1

2

3 СПИСОК РЕКОМЕНДУЕМОЙ ЛИТЕРАТУРЫ

3.1 Основная литература

3.1.1 лгебраическая теория кодирования. – М.: Мир, 1971.

3.1.2 еория и практика кодов, контролирующих ошибки. М.: Мир, 1986

3.1.3 еория информации и надежная связь. – М.: Советское радио, 1974

3.1.4 Теория хранения и поиска информации, 2002 г.

3.1.5 Прикладная теория информации. М.: Высшая школа, 1989г.

3.1.6 Теория информации и передачи сигналов. Учебник. М.: Радио  и связь, 1991.

3.1.7 Теория информации и теория алгоритмов. М.: Наука, 1987.

3.1.8 Основы теории информации и кодирования, 1986 г.

3.1.9 Теория информации. – Москва: Компания спутник, 2004г.

3.1.10 лгоритмы сжатия информации. “Монитор” 7/93–6/94

3.1.11 , Теория информации в упражнениях и задачах. – М.: Высшая школа, 1976.

3.1.12 , Прием и обработка сигналов. Учебное пособие. М.: АКАДЕМА, 2004г.

3.1.13 Теория информации. – Л.: Изд-во ЛГУ, 1987.

3.1.14 Теория информации. – М.: Советское радио, 1975.

3.1.15 Теория передачи информации: Терминология. Вып. 101. М.: Наука, 1984.

3.1.16 еория информации. М.: Мир, 1985


3.2 Дополнительная литература

3.2.1 , , Элементы теории информации. – Минск: Изд-во БГУ, 1974.

3.2.2 орматы данных. Киев: Торгово-издательское бюро BHV, 1995

3.2.3 ибернетика. М.: Наука, 1983.

3.2.4 сновы кибернетики. М.: Радио и Связь, 1984

3.2.5 Основы статистической радиотехники, теории информации и кодирования. М.: Советское радио, 1978г.

3.2.6 ачественная теория информации. – М.: Мир, 1974

3.2.7 аботы по теории информации и кибернетики. М.: Издательство иностранной литературы, 1963

3.2.8 Цифровая обработка цветных изображений. - М., Издательство ЭКОМ, 1997.

3.2.9 ероятность и информация. М.: Наука, 1973

4 ОЦЕНКА ЗНАНИЙ

4.1 Требования преподавателя

Требования преподавателя:

- посещение лекционных и практических занятий по расписанию;

- присутствие студентов на занятиях проверяется в начале занятий. В случае опоздания студент должен бесшумно войти в аудиторию и включиться в работу; 

- оцениваемые в баллах работы следует сдавать в установленные сроки. За несвоевременную сдачу работ количество баллов снижается;

- повторное прохождение студентом рубежного контроля, в случае получения неудовлетворительной оценки, не допускается;

- студенты, получившие средний рейтинг Рср  = (Р 1  + Р2)/2 менее 50%, к экзамену не допускаются; 

- в течение  занятий мобильные телефоны должны быть отключены; 

- студент обязан приходить на занятия в деловой одежде. 

4.2 Критерии оценки

Текущий контроль проводится согласно пункту 2.3.

Рубежный контроль знаний проводится на 8 и 15 неделях семестра в форме тестирования. Рейтинг  складывается, исходя из следующих видов контроля


Аттестационный период

Вид контроля, удельный вес, %

Защита 1-ой лабораторной работы

Защита 2-ой лабораторной работы

Защита 3-ей лабораторной работы

Рубежное тестирование

Защита 4-ой лабораторной работы

Защита 5-ой лабораторной работы

Защита 6-ой лабораторной работы

Рубежное тестирование

Всего

Рейтинг 1

25

25

25

25

100

Рейтинг 2

25

25

25

25

100

Экзамен по дисциплине проходит во время экзаменационной сессии в форме тестирования. 

Итоговая оценка знаний студента по дисциплине включает:

- 40% результата, полученного на экзамене;

- 60% результатов текущей успеваемости.

Формула подсчета итоговой оценки:

где Р1 , Р2 – цифровые эквиваленты оценок первого, второго рейтингов соответстве н-но;

Э  – цифровой эквивалент оценки на экзамене.

Итоговая буквенная оценка и ее цифровой эквивалент в баллах:


Оценка по буквенной системе

Цифровой

эквивалент

баллов

Процентное

содержание

Оценка по традиционной системе

1

2

3

4

А

А-

4,0

3,67

95 – 100

90 – 94

Отлично

В+

В

В-

3,33

3,0

2,67

85 – 89

80 – 84

75 – 79

Хорошо

С+

С

С-

D+

D

2,33

2,0

1,67

1,33

1,0

70 – 74

65 – 69

60 – 64

55 – 59

50 – 54

Удовлетворительно

F

0

0 – 49

Неудовлетворительно


4.3 Материалы для итогового контроля

Аналоговая информация характеризуется:

A) последовательными точными значениями некоторой величины

B) непрерывным процессом изменения некоторой величины

C) повторными процессами распределения случайной величины

D) параллельными значениями некоторой случайной величины

E) дискретным процессом изменения некоторой величины

Какой аспект информации связан с возможностью достижения поставленной цели с использованием получаемой информации?

a) прагматический;

b) семантический;

с) синтаксический;

d) орфографический

e) кодированный

Дискретная случайная величина X равна количеству "гербов", выпавших на двух идеальных монетках. Найти энтропию X:

a)HX=1.5 бит/сим

b) HX=2.5 бит/сим

c) HX=1.8 бит/сим

d) HX=0.5 бит/сим

e) HX=1 бит/сим

Дискретные случайные величины X1 и X2 определяются подбрасыванием двух идеальных тетраэдров, грани которых помечены числами от 1 до 4. Дискретная случайная величина Y равна произведению чисел, выпавших при подбрасывании этих тетраэдров, т. е. Y=X1*X2. Вычислить сколько информации об X1 содержится в Y:

a) I(Y, X1) ≈ 0,1 бит/сим

b) I(Y, X1) ≈ 1,08 бит/сим

c) I(Y, X1) ≈ 2 бит/сим

d) I(Y, X1) ≈ 2,5 бит/сим

e) I(Y, X1) ≈ 3,08 бит/сим

Составить код  Шеннона-Фэно для сообщения А, полученного от д. с.в. со следующим распределением вероятностей Р(А)= 0,08, Р(В)=0,18, Р(С)=0,09, Р(D)=0,15, Р(E)=0,2, Р(F)=0,25, Р(G)=0,05. (При кодировании «1» - присваивается левой (или верхней) части массива сообщений, «0»-присваивается правой (или нижней) части).

a) 100

b) 0000

c) 0001

d) 011

e) 0011

Составить код Хаффмена для сообщения B, полученного от д. с.в. со следующим распределением вероятностей Р(А)=0,4, Р(В)=0,1, Р(С)=0,3, Р(D)=0,05, Р(E)=0,15.

a) 1010

b) 1001

c) 1100

d) 1101

e) 1011

Составить арифметический код для сообщения AА, полученного от д. с.в. со следующим распределением вероятностей Р(А)=3/5, Р(В)=2/5.  (При построении кода интервалы А(2/5;1), В(0;2/5)).

a) 10                b) 11                c) 01                d) 001                e) 101

В каких единицах измеряется скорость передачи информации

a) в бодах

b) в байтах

c) сек / м

d) сек / бит

e) в битах

По теореме Шеннона основным свойством помехоустойчивых кодов является:

a) наличие избыточности

b) равномерность кодов

c) минимальные кодовые комбинации

d) проверочность разрядов кода

e) их обратимость

Построить кодовую комбинацию (код Хэмминга) для nи=10000.

a) 001101011

b) 111000000

c) 011001010

d) 11100000

e) 101110011

Совокупность единой системы классификации и кодирования информации, унифицированных систем документации, схем информационных потоков, методология построения баз данных – это

техническое обеспечение ИС; математическое обеспечение ИС; программное обеспечение ИС; информационное обеспечение ИС; функциональное обеспечение ИС.