Министерство образования и науки Российской Федерации
Государственное образовательное учреждение
высшего профессионального образования
«Нижегородский государственный лингвистический университет
им. »
|
У Ч Е Б Н А Я П Р О Г Р А М М А
Дисциплина: ЕН. В. 02 - АКТУАЛЬНЫЕ ЭЛЕМЕНТЫ
ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ
Специальность: 090103 – Организация и технология защиты информации
Квалификация: Специалист по защите информации
Нижний Новгород
2010 г.
Факультет международных отношений, экономики и управления
Кафедра математики и информатики
по дисциплине: "Актуальные элементы теории случайных процессов"
Специальность:- 090103 Организация и технология защиты информации
Квалификация: Специалист по защите информации
Общий объем дисциплины по учебному плану – 200 часов.
Из них аудиторных часов – 72 часа.
В том числе:
лекций – 32,
семинарских занятий – 40 часов.
Самостоятельная работа – 128 часов.
Контроль: зачёты – 3,4 семестры.
1. ЦЕЛЬ И ЗАДАЧИ ДИСЦИПЛИНЫ
Целью преподавания дисциплины является изучение математических методов и моделей теории случайных процессов, непосредственно относящихся к будущей профессиональной деятельности студентов специальности 090103 Организация и технология защиты информации, формирование у них навыков теоретико-информационного подхода и развитие общей математической культуры при решении актуальных с точки зрения защиты информации задач.
В результате изучения курса студенты должны знать основные положения математической теории связи, современные методы анализа сложных информационных процессов и систем.
Данная учебная дисциплина завершает в основном математическое образование студентов по направлению математических методов и моделей обработки информации и предполагает предварительное изучение студентами курса высшей математики, теории вероятностей и теории информации в объеме требований ГОС по данной специальности.
2. Содержание
Модель случайного процесса в задачах обработки информации.
Случайный процесс и его основные статистические характеристики.
Энтропия случайного процесса и ее свойства. Определение удельной энтропии.
Случайный гауссовский процесс и его энтропия. Вычисление энтропии по спектральной плотности мощности.
Понятие взаимной энтропии или информационного рассогласования двух случайных процессов в метрике Кульбака-Лейблера. Пример вычислений в случае гауссовского распределения.
Случайный гауссовский процесс.
Многомерный гауссовский закон распределения. Автокорреляционная матрица. Энтропия гауссовского случайного процесса. Расчет энтропии через спектральную плотность мощности. Статистические оценки гауссовского процесса. Особая роль гауссовского распределения.
Теоретико-информационный подход в задаче оптимального прогнозирования.
Математическая постановка оптимизационной задачи. Вывод формулы условного математического ожидания Проблема априорной неопределенности.
Линейная оценка прогнозирования. Ее связь с авторегрессионной моделью наблюдений. Проблема ее оптимальности (адекватности).
Теоретико-информационный подход к задаче оптимизации линейной оценки прогнозирования. Критерий минимума взаимной энтропии.
Синтез адаптивного алгоритма. Его информационный показатель эффективности в метрике Кульбака-Лейблера.
Оптимальное оценивание плотностей случайных временных рядов на основе принципа максимума энтропии.
Задача восстановления (оценивания) неизвестной спектральной плотности мощности. Критерий максимума удельной энтропии. Синтез адаптивного алгоритма.
Оценивание многомерной плотности вероятности. Принцип максимума энтропии Синтез оптимального алгоритма.
Теоретико-информационный подход в задаче автоматического распознавания речи.
Модель случайного гауссовского процесса при анализе речи.
Взаимная энтропия двух гауссовских процессов.
Критерий минимального информационного рассогласования. Синтез оптимального алгоритма и его программная реализация.
Модель АР-процесса и метод обеляющего фильтра.
3. ТЕМАТИЧЕСКИЙ ПЛАН
№№ п/п | Тема (раздел) | Всего час. | В том числе, час. | ||
Лекции | Семинары | Самост работа | |||
1 | Модель случайного процесса в задачах обработки информации. | 50 | 6 | 6 | 20 |
2 | Случайный гауссовский процесс и его распределение вероятностей | 50 | 6 | 6 | 22 |
3 | Теоретико-информационный подход в задаче оптимального прогнозирования. | 60 | 6 | 8 | 32 |
4 | Оптимальное оценивание плотностей случайных временных рядов на основе принципа максимума энтропии. | 60 | 6 | 8 | 32 |
5 | Теоретико-информационный подход в задаче автоматического распознавания речи. | 50 | 8 | 12 | 22 |
Всего | 200 | 32 | 40 | 128 |
4. Виды учебно-научной работы
Программой предусмотрена учебно-исследовательская работа (УИРС) по направлению типовых задач, рассматриваемых по плану практических занятий.
5. Контроль изучения дисциплины
Примерные вопросы к зачётам
1. Случайный процесс и его основные статистические характеристики.
2. Энтропия случайного процесса и ее свойства. Определение удельной энтропии.
3. Случайный гауссовский процесс и его энтропия. Вычисление энтропии по спектральной плотности мощности.
4. Понятие взаимной энтропии или информационного рассогласования двух случайных процессов в метрике Кульбака-Лейблера. Пример вычислений в случае гауссовского распределения.
5. Многомерный гауссовский закон распределения. Автокорреляционная матрица. Энтропия гауссовского случайного процесса. Расче энтропии через спектральную плотность мощности. Статистические оценки гауссовского процесса. Особая роль гауссовского распределения.
6. Математическая постановка задачи прогнозирования. Вывод формулы условного математического ожидания Проблема априорной неопределенности.
7. Линейная оценка прогнозирования. Ее связь с авторегрессионной моделью наблюдений. Проблема ее оптимальности (адекватности).
8. Теоретико-информационный подход к задаче оптимизации линейной оценки прогнозирования. Критерий минимума взаимной энтропии.
9. Синтез адаптивного алгоритма. Его информационный показатель эффективности в метрике Кульбака-Лейблера.
10. Модель случайного гауссовского процесса при анализе речи.
11. Взаимная энтропия двух гауссовских процессов.
12. Критерий минимального информационного рассогласования. Синтез оптимального алгоритма и его программная реализация.
13. Модель АР-процесса и метод обеляющего фильтра.
14. Задача восстановления (оценивания) неизвестной спектральной плотности мощности. Критерий максимума удельной энтропии. Синтез адаптивного алгоритма.
15. Оценивание многомерной плотности вероятности. Принцип максимума энтропии Синтез оптимального алгоритма.
6. Учебно-методическое обеспечение дисциплины
Основная литература
1. Савченко вероятностей и математическая статистика: Конспект лекций. – Н. Новгород: НГЛУ, 2007.
2. Вентцель вероятностей. М.: ВШ, 2006
3. , . Сборник задач по теории вероятности и математической статистике. Н. Новгород: НГЛУ, 2007.
Дополнительная литература
4.Савченко минимакса энтропии в задаче многомерного спектрального анализа.// Радиотехника и электроника(издние РАН),1990, № 8.
5. Савченко минимакса энтропии в задачах статистических решений// Радиотехника и электроника (издние РАН),1990, № 9.
6. Савченко метод восстановления многомерного закона распределения по принципу ММЭ // Известия вузов. Радиофизика,1991, № 3.
Интернет-ресурсы
http://www. math. ru/lib/
http://apgolub. chat. ru/kmsites. htm#par6
http://xplusy. narod. ru
http://www. mathtest. ru
http://euclid. math. fsu. edu/Science/math. html
http://www. fmo. lunn. ru/matinf/index. php? num=24
С О Д Е Р Ж А Н И Е
1. Цели и задачи дисциплины ……………………………………………….…3
2. Содержание ………………..………………………………..…………….….3
3. Тематический план………………….. …………………….…………..…....4
4. Виды учебно-научной работы………………………………………………5
5. Контроль изучения дисциплины ……………………………………………5
6. Учебно-методическое обеспечение дисциплины ………………………….6
Программу составил д. т.н., проф.
Программа обсуждена и одобрена на заседании кафедры математики и информатики от 01.01.2001, протокол № 1.
Зав. кафедрой математики и информатики
Программа утверждена ________________________
(дата)
Первый проректор
