2) Для 
существует, по крайней мере, 
типичных текстов.
3) Множество нетипичных текстов имеет вероятность 
.
Таким образом, можно осуществить эффективное кодирование данных, используя все двоичные последовательности длины 
, чтобы закодировать все 
- типичные тексты и отбросить нетипичные. Вероятность ошибки при таком кодировании будет не больше 
. Обратно, любой код, использующий двоичные последовательности длины 
, имеет асимптотически не исчезающую вероятность ошибки, стремящуюся к единице при 
.
Функцию 
, которую можно проинтерпретировать как меру количества информации (в битах на передаваемый символ) в случайном тексте, называют энтропией. 
характеризует меру неопределённости случайного текста. Ясно, что для 
= 
энтропия максимальна 
и эффективное кодирование невозможно.
Задача 26. До проведения схемы испытаний Бернулли разыгрывается с. в. 
имеющая равномерное распределение на отрезке 
(результаты розыгрыша нам неизвестны). После того как эта с. в. была разыграна, начинают проводиться опыты по схеме Бернулли (независимо 
раз подкидывается монетка) с вероятность успеха (выпадения “орла”) в каждом опыте равной 
(после того как с. в. была разыграна, она уже приняла какое-то значения из отрезка и рассматривается в серии опытов Бернулли уже как число, причем не меняющееся от опыта к опыту). В результате опыта было посчитано значение числа успехов 
. Определите апостериорное распределение с. в. , т. е. найдите условную плотность распределения 
. Оцените, как изменится ответ, если точное значение числа успехов нам неизвестно. Известно только, что 
. Т. е. посчитайте условную плотность вероятности 
.
Задача 27. Показать, что при бросании симметричной монеты 
раз отношения числа выпадений герба к числу выпадений решки почти наверное стремится к 1 при , а вероятность того, что число выпадений герба в точности равняется числу выпадений решки, при четном числе бросаний, стремится к 0 при .
Указание. Первое утверждение следует из у. з.б. ч.. Для доказательства второго достаточно заметить, что упоминавшаяся в условиях задачи вероятность равна 
. Последнее приближенное равенство следует из формулы Стирлинга 
.
Задача 28. Пусть с. в. 
. Покажите, что из ц. п.т. следует
.
Найдите 
, 
.
Задача 29* (лемма Пуанкаре). Пусть 
случайный вектор с равномерным распределением на единичной сфере в 
. Равномерное распределение характеризуется тем, что оно инвариантно относительно группы ортогональных преобразований. Пусть 
- обозначает первую координату . Докажите, что 
. Заметим, что в статистической физике с помощью утверждения этой задачи получался закон распределения Максвелла скоростей частиц одномерного идеального газа.
Указание. Пусть 
, 
, …, 
- независимые в совокупности с. в., имеющие одинаковое распределение 
. Положим 
. Тогда, 
, где 
- единичная матрица размера . Пусть 
- ортогональное преобразование пространства . Покажите, что тогда 
. Как было отмечено в условии задачи, равномерное распределение характеризуется тем, что оно инвариантно относительно группы ортогональных преобразований. Поэтому 
(обоснуйте эту формулу), т. е. и 
- одинаково распределенные с. в.. Следовательно,
.
Из у. з.б. ч. следует, что 
, поэтому .
Для решения следующей задачи можно рекомендовать книгу “Вероятность”, МЦНМО 2004, Т. 2, стр. 531.
Задача 30** (закон “0 или 1” ). С помощью задачи 12 докажите справедливость следующего утверждения:
Пусть , ,… - последовательность независимых в совокупности с. в. и 
(событие 
принадлежит “хвостовой” 
-алгебр). Тогда 
может принимать лишь два значения 0 или 1.
Пояснение. Пусть 
- вероятностное пространство, , ,… - некоторая последовательность с. в.. Обозначим 
- -алгебру, порожденную с. в. , 
,… и пусть
.
Поскольку пересечение -алгебр есть снова -алгебра, то 
- есть -алгебра. Эту -алгебру будем называть “хвостовой” или “остаточной”, в связи с тем, что всякое событие не зависит от значений с. в. , ,… при любом конечном , а определяется лишь “поведением бесконечно далеких значений последовательности , ,…”.
Задача 31*. Пусть 
- последовательность независимых с. в., сходящаяся по вероятности к с. в. 
: 
. Докажите, что с. в. вырождена, т. е. 
, где 
- некоторое число.
Указание. Из курса функционального анализа известно, что из любой сходящейся по мере (в частности по вероятностной) последовательности измеримых функций (с. в.) можно выделить подпоследовательность сходящуюся почти всюду (п. н.).
.
Теперь утверждение задачи есть следствие закона Колмогорова 0-1.
Для решения следующей задачи можно рекомендовать книгу Введение в эргодическую теорию, М.: ФАЗИС 1996, стр. 71.
Задача 32. Число 
из отрезка 
назовем нормально приближаемым рациональными числами, если найдутся 
, 
такие, что при любом натуральном 
.
Используя лемму Бореля - Кантелли докажите, что множество нормально приближаемых чисел на отрезка имеет Лебегову меру 1.
Указание. Зафиксируем , и рассмотрим множество
.
Покажите, что 
. Таким образом, ряд 
сходится. В силу леммы Бореля-Кантелли отсюда следует нужное утверждение.
Заметим, что эта задача пришла из теории динамических систем на двумерном торе. Подобного же рода задачи возникают и в КАМ теории.
В связи с полученным результатом, будет интересно заметить, что существует такая бесконечная последовательность 
и соответствующая ей последовательность 
, что
.
В теории цепных дробей показывается, что последовательность 
- будет подпоследовательностью последовательности подходящих дробей для числа . Заметим также, что константу 
в неравенстве уменьшить нельзя.
Контрольная работа по теории вероятностей
ФУПМ МФТИ
24.10.2008 г. (длительность 60 мин.)
Задача 1 (распространение гена). В колонию зайцев внесли зайца с необычным геном. Обозначим через - вероятность того, что в потомстве этого зайца ровно k зайчат унаследуют этот ген (
). Это же распределение вероятностей характеризует всех последующих потомков, унаследовавших необычный ген. Будем считать, что каждый заяц дает потомство один раз в жизни в возрасте одного года (как раз в этом возрасте находился самый первый заяц с необычным геном в момент попадания в колонию).
Обозначим через 
- производящую функцию распределения , , т. е. 
. Пусть - количество зайцев в возрасте одного года с необычным геном спустя n лет после попадания в колонию первого такого зайца. Производящую функцию с. в. обозначим 
.
1) Получите уравнение, связывающее 
с 
посредством .
Указание. Покажите, что 
. Затем возьмите математическое ожидание от обеих частей равенства.
2) Покажите, что вероятность вырождения гена 
. Существует ли предел 
? Если существует, то найдите его.
Указание. Легко видеть, что функция - выпуклая. Уравнение 
имеет два корня: один в любом случае равен 1, другой 
. Если 
, то 
. Если 
, то 
.
Задача 2 (о несимметричной монетке). 1) Имеется монетка (несимметричная). Несимметричность монетки заключается в том, что либо орел выпадает в два раза чаще решки; либо наоборот (априорно (до проведения опытов) оба варианта считаются равновероятными). Монетку бросили 10 раз. Орел выпал 7 раз. Определите апостериорную вероятность того, что орел выпадает в два раза чаще решки (апостериорная вероятность считается с учетом проведенных опытов (иначе говоря, это просто условная вероятность)).
2) Определите апостериорную вероятность того, что орел выпадает не менее чем в два раза чаще решки. Если несимметричность монетки заключается в том, что либо орел выпадает не менее чем в два раза чаще решки; либо наоборот (априорно оба варианта считаются равновероятными).
Указание. Условия задачи 2) можно понимать, например, следующим образом. Рассмотрим два события 
и 
, где - вероятность выпадения орла, запись 
- означает, что с. в. имеет равномерное распределение на отрезке 
. По условию 
. Нужно найти 
, где 
. Заметим, что
.
Задача 3 (о кинотеатре). Восемь мальчиков и семь девочек купили билеты в кинотеатр на 15 подряд идущих сидячих мест. Предположим, что все 
возможных способов сесть равновероятны. Вычислите среднее число пар рядом сидящих мальчика и девочки. Например, м, м, м, м, м, м, ж, м, ж, ж, ж, ж, ж, ж содержит три такие пары.
Указание. Пусть , 
- индикатор события, что на -ом и 
-ом месте сидят мальчик и девочка (неважно в каком порядке). Тогда, 
. Искомое среднее число пар равно 
.
ПРИНЯТЫЕ ОБОЗНАЧЕНИЯ
È, Ú – объединение множеств, дизъюнкция событий;
Ç, Ù – пересечение множеств, конъюнкция событий;
– дополнение множества A, отрицание события A;
Δ – симметричная разность множеств, строгое «или» для событий;
\ – разность множеств (событий);
- мощность множества (число элементов в )
- наибольшее целое, не превосходящее 
(
)
<W, F,P> – вероятностное пространство (W – множество исходов, F – s-алгебра, P – вероятностная мера);
MX = EX – математическое ожидание случайной величины X;
DX – дисперсия случайной величины X;
N(m,s2) – нормальное распределение с параметрами: m (математическое ожидание) и s2 (дисперсия);
Po(l) – распределение Пуассона с параметром (интенсивностью) l;
Be(p) – распределение Бернулли с параметром (вероятностью успеха) p;
R[a, b] – равномерное распределение на отрезке [a, b];
F*(×) – функция распределения стандартного нормального распределения N(0,1);
– сходимость по вероятности;
= 
– сходимость почти наверное или с вероятностью 1 (almost significant);
– сходимость в среднем (в смысле 
);
= 
– сходимость в среднем квадратичном (в смысле 
);
– сходимость по распределению;
с. в. – случайная величина;
з. б.ч. – закон больших чисел;
у. з.б. ч. – усиленный з. б.ч.;
ц. п.т. – центральная предельная теорема;
л. п.т. – локальная предельная теорема.
|
Из за большого объема этот материал размещен на нескольких страницах:
1 2 3 4 5 |
Проекты по теме:
Основные порталы (построено редакторами)