Теория вероятностей (стр. 3 )

Действительно, первые k-1 опытов должны закончиться неудачей (вероятность неудачи 1-p ), а последнее, к-тое, успехом (вероятность p).

Заметим, что в данном случае, мы не строим вероятностное пространство, полностью описывающее схему испытаний до первого успеха. Причиной этого является то, что в качестве пространства элементарных исходов в этом случае естественно, по аналогии со схемой Бернулли, рассмотреть множество бесконечных двоичных последовательностей (ведь неизвестно, когда наступит первый успех). Однако, это множество несчетно и задать на нем вероятность, оставаясь в рамках данной главы, невозможно.

Распределение Паскаля – испытания до m-того успеха

Покажите, что таким образом заданная функция является распределением

Распределение на пространстве натуральных чисел называется распределение Паскаля , если Здесь m – произвольное натуральное число.

Указанное распределение возникает в следующей вероятностной схеме, называемой схема испытаний до m-того успеха.

Рассмотрим последовательность из независимых (с точки зрения здравого или физического смысла) опытов, в каждом из которых может произойти или не произойти некоторое событие A (“успех”). Пусть нам известна вероятность p, того что событие А произойдет в одном опыте. Вероятность того, что в m – тый раз событие A произойдет в k – том опыте дается формулой

Действительно, в первых k-1 опытах должен быть ровно m-1 успех и в последнем, к-том, обязательно успех.

Пуассоновское распределение - теорема Пуассона

Пусть

некоторый параметр.

Распределение на пространстве неотрицательных целых чисел называется пуассоновское распределение (распределение Пуассона), если

Распределение Пуассона является предельным случаем биномиального распределения при специальном поведении параметров (n, p) биномиального распределения Это будет показано в дальнейшем. Заметим, что биномиальное распределение можно рассматривать как распределение на пространстве неотрицательных целых чисел, положив

Определим на сигма-алгебре всех подмножеств неотрицательных целых чисел две вероятности P и Pn,, соответствующие пуассоновскому и биномиальному распределениям :

Теорема Пуассона.

Пусть параметры биномиального распределения изменяются следующим образом

Тогда

т. е. биномиальная вероятность стремится к пуассоновской вероятности.

Доказательство.

Действительно, сгруппировав множители входящие в pk, n следующим образом

получим

Доказательство завершено.

При больших k рассчитать пуассоновскую вероятность гораздо легче, биномиальную. Пуассоновское распределение используется для приближения биномиального распределения в тех случаях, когда количество испытаний в схеме Бернулли велико, а вероятность успеха мала.

Независимость событий и условная вероятность. Построение моделей.

При построении дискретных вероятностных моделей достаточно определить распределение на множестве элементарных исходов. Для того, чтобы определить вероятность элементарного исхода часто используют понятие независимости и понятие условной вероятности.

Независимость

Различие между независимостью попарно и в совокупности. Пример Бернштейна

Данный пример показывает, что существуют попарно независимые события, которые не являются независимыми в совокупности.

Рассмотрим тетраэдр, грани которого покрашены в три цвета следующим образом:

1 грань – синяя

2 грань – зеленая

3 грань – желтая

4 грань разделена на три сектора – синий, зеленый и желтый.

Опыт состоит в бросании тетраэдра и наблюдении цвета выпавшей (нижней) грани.

Обозначим события

A – на грани есть синий цвет

B – на грани есть зеленый цвет

C – на грани есть желтый цвет

Тогда, используя симетричность тетраэдра и классическую вероятностную модель получим:

Для исключения неоднозначности при интерпретации понятия независимости в теории вероятностей при построении моделей используется, в основном, независимость в совокупности, как более сильная. В дальнейшем говоря о независимости мы, если не указано противное, будем подразумевать независимость в совокупности.

Использование понятия независимости для построения моделей. Произведение вероятностных пространств.

Во многих практических задачах априори ясно, что некоторые случайные события в эксперименте независимы. Естественно требовать, чтобы эти же события были независимы и в математической модели, описывающей данный эксперимент. Определение независимости в теории вероятностей имеет аналитический характер и, следовательно, требование независимости событий в модели, приводит к ограничениям на используемую вероятность. Эти ограничения вместе с дополнительными качественными (симметричность) или количественными требованиями часто позволяют однозначно определить подходящую вероятность.

Рассмотрим, например, эксперимент, описываемый элементарным исходом вида

где первая координата описывает одну случайную компоненту, а вторая другую случайную компоненту опыта.

Если предположить N1 вариантов у первой компоненты и N2 – у второй, то для того, чтобы задать вероятность, необходимо в общем случае N1*N2 –1 вероятностей элементарных исходов (столько, сколько всего пар минус одна – мы знаем, что сумма всех вероятностей пар должна быть равна 1).

Если заранее известно, что компоненты независимы, то количество вероятностей событий, которые мы должны задать, чтобы однозначно определить вероятность, уменьшается до N1 +N2 –2 (N1 –1 на первую и N2 –1 на вторую компоненту). Далее, вероятность элементарного исхода определяется как произведение вероятностей значений его компонент.

Подобный прием мы использовали при построении моделей для схемы Бернулли и мультиномиальной схемы.

В общем случае пусть элементарный исход некоторого эксперимента представляется в виде вектора с n координатами.

Пусть известно, что координаты вектора описывают независимые компоненты, т. е. все события вида

должны быть независимы. Тогда, если для описания i-той компоненты использовать вероятностное пространство

с соответствующими распределениями

то для описания всего эксперимента естественно использовать следующее вероятностное пространство

где

т. е.

т. е. сигма-алгебра, содержащая все события, описывающие поведение компонент.

Распределение в результирующем пространстве определяется по формуле

Так построенное вероятностное пространство называется произведением вероятностных пространств

а его составляющие, соответственно, произведениями пространств элементарных исходов, произведением сигма-алгебр и произведением вероятностных мер.

Примеры построения моделей.

Ранее были рассмотрены два примера построения моделей с использованием понятия независимости – схема Бернулли и мультиномиальная схема. Приведем еще несколько примеров.

Расчет надежности при параллельном соединении элементов.

Для повышения надежности ответственной системы обычно применяют резервирование ее элементов, т. е. дублируют важные части системы. Вместо одного элемента включают одновременно несколько элементов для того, чтобы при отказе одного из них система на прекращала работу.

Предположим, что вероятность отказа основного элемента (за некоторый промежуток времени – период работы) равна 0,1. Нас интересует надежность системы, составленной из параллельно подключенных 4 одинаковых элементов. Если предположить, что отказы элементов вызываются внутренними (брак при изготовлении, усталость материала, износ и т. п.), а не внешними (повышение напряжения питания, физическое разрушение при аварии) причинами, то естественно ( в первом приближении) считать отказы разных элементов независимыми.

В качестве элементарного исхода рассмотрим двоичный вектор

имеющий 4 координаты – соответственно состоянию каждого элемента в конце заданного промежутка времени ( 1 – исправен, 0 - отказ). Из условия задачи следует, что события, связанные с разными координатами должны быть независимы, следовательно, используя формулу

в нашем случае получаем

и т. д.

Система будет работоспособной весь период времени, если не отказал хотя бы один из ее элементов. Этому условию удовлетворяют все элементарные исходы, кроме одного

Сообразите, как рассчитать надежность такой системы при неодинаково надежных, но независимых элементах	Таким образом, вероятность отказа всей системы равна а вероятность безотказной работы (надежность)
Покажите, что это действительно можно делать, если отказы элементов независимы в совокупности	Заметим, что если рассматриваемая система является частью более сложной системы, то можно при расчетах надежности заменить эти четыре элемента одним, с вероятностью отказа 0,0001.

Расчет надежности при последовательном соединении элементов

Системой с последовательным соединением элементов назовем такую систему из n элементов, в которой отказ любого из этих элементов приводит к отказу всей системы.

Рассчитаем надежность системы, составленной из 3 последовательно соединенных одинаковых независимых элементов (вероятность отказа каждого - 0,1)

Действуя по аналогии с предыдущим примером, построим пространство элементарных исходов и определим их вероятности. Отказ системы возникает при всех исходах кроме одного

Таким образом, вероятность безотказной работы этой системы равна

что значительно меньше чем вероятность безотказной работы одного элемента.

Заметим, что если рассматриваемая система является частью более сложной системы, то можно при расчетах надежности заменить эти три элемента одним, с вероятностью отказа 0,271.

Расчет надежности сложной системы.

Если сложную систему удается представить в виде последовательно-параллельного соединения элементов, то ее надежность можно рассчитать последовательно рассчитывая надежности ее частей и заменяя каждую часть элементов одним элементом.

На рисунке приведене пример такой системы. На элементах указаны вероятности их отказа.

Заменим три последовательно соединенных верхних элемента одним, с вероятностью отказа 0,352 = 1-(1-0,1)*(1-0,2)*(1-0,1), а два параллельных внизу одним с вероятностью отказа 0,09=0,3*0,3. Тогда получим следующую схему

Заменяя сначала последовательно соединенные элементы одним с вероятностью отказа 0,0991=,09)*(1-0,01), затем получившиеся параллельно соединенные элементы одним с вероятностью 0,0348832 =0,352 * 0,0991 получим

Таким образом вероятность безоказной работы системы равна 1-0,0348832 =0,9651168.

Замечания к примерам.

1. В предыдущих примерах элементарный исход представлял собой вектор, координаты которого были однородны – принимали значения из одного и того же множества. Нет никаких ограничений при построении вероятностных пространств с использованием понятия независимости для объединения разнородных опытов – например бросания несимметричной монеты и симметричной игральной кости одновременно. В этом случае первая координата имеет два значения (1 – герб) , вторая - шесть и

Здесь p – вероятность выпадения герба.

2. Замена параллельно или последовательно соединенных элементов одним является частным случаем т. н. отображения вероятностных пространств. Действительно, для расчета вероятностей отказа нам пришлось описать исходную систему с n элементами элементарным исходом с n двоичными координатами ( по числу элементов). При этом число возможных состояний системы равно

С другой стороны с точки зрения надежности система может находится только в двух состояниях – исправна или неисправна (отказ). Поэтому для описания надежности системы достаточно двух элементарных исходов – 0,1. Еще раз заметим, что один опыт, с разной степенью детальности может быть описан разными пространствами элементарных исходов.

Каждому элементарному исходу (состояниям элементов) в первом пространстве соответствует либо 0 (отказ системы) либо 1 (исправность системы) во втором пространстве.

Таким образом мы имеем два вероятностных пространства, основное

на котором мы задали вероятность с использованием детальных представлений об опыте и второе (пространство значений)

,

B – наибольшая сигма-алгебра.

Во втором пространстве мы определили вероятность с помощью отображения (функции )

которая каждому элементарному исходу первого опыта ставит в соответствие элементарный исход второго опыта.

Замена сложной системы одним элементом равносильна указанному отображению пространств. Вероятность на втором пространстве не определяется независимо, а вычисляется с использованием вероятности, заданной на основном пространстве и отображения

Если изменить вероятность на основном пространстве или отображение, то изменится и вероятность на пространстве значений. Например, при изменении надежности отдельных элементов изменится вероятность P, при изменении схемы соединения – отображение.

Для того чтобы отметить зависимость вероятности на пространстве значении от основной вероятности и отображения ее обозначают

например

Условная вероятность

Часто случайные компоненты в опыте и соответственно координаты элементарного исхода являются зависимыми. В этом случае для определения распределения используют понятие условной вероятности.

Урновая схема

Рассмотрим, например, эксперимент, описывающий выбор двух шаров из урны, содержащей 20 черных и 10 белых шаров, без возвращения. Элементарным исходом будет вектор

из нулей и единиц (1 – черный шар, 0 - белый), где первая координата описывает цвет второго извлеченного шара, а вторая цвет первого извлеченного шара.

Как задать вероятность элементарного исхода?

Ясно, что событие «На первом шаге вынут черный шар» должно иметь вероятность

Ясно также, что если бы мы знали цвет извлеченного на первом шаге шара, то точно также могли бы определить вероятность извлечения черного шара на втором шаге. Именно, если первый шар белый, то (при этом условии) вероятность извлечь черный шар на втором шаге равна

Если первый шар черный, то

Тогда естественно определить вероятность исхода (1,1) так чтобы выполнялась формула условной вероятности

т. е.

и

Аналогично определяются вероятности остальных элементарных исходов

Теперь нетрудно, например, вычислить вероятность того, что второй извлеченный шар будет черным. Она равна

Покажите, что нас самом деле вероятность вытащить черный шар одинакова не только для первого и второго, но и для любого другого шага выбора (пока она не станет равной, естественно, нулю – когда кончатся черные шары)

Заметим, что данный результат в применении к задаче о студенте на экзамене означает, что студенту все равно каким идти – первым или вторым.

Марковская зависимость

Легко распространить изложенное выше на случай элементарного исхода с n целочисленными координатами.

Особенно просто записывается вероятность элементарного исхода когда имеет место марковская зависимость координат, т. е. когда распределение следующей координаты зависит только от значения предыдущей координаты

В этом случае последовательные переходы от координаты к координате и т. д. называются шагами, а вероятности

называются переходными вероятностями (за один шаг).

Если каждая координата вектора принимает значения в одном и том же конечном множестве (множестве состояний) и переходные вероятности не зависят от n, то последовательность называется конечной цепью Маркова. В этом случае вероятность элементарного исхода можно записать так

где

- количество переходов из состояния i в состояние j

Подробно марковские зависимости исследуются в теории случайных процессов.

Формула полной вероятности и формула Байеса

Часто при решении простых задач теории вероятностей формально не вводят вероятностное пространство, а сразу выделяют полную группу случайных событий (условий), вероятности которых легко определить из условий задачи и вероятность интересующего события находят по формуле полной вероятности

Например, рассмотрим следующую задачу.

В ящике содержатся детали, поступившие с трех разных заводов.

Доля брака среди деталей первого завода – 0,1, второго - 0,2, третьего - 0,4.

Количество деталей первого завода в ящике - 20, второго –30, третьего – 50. Найти вероятность того, что наудачу выбранная из ящика деталь окажется бракованной (событие A).

Решение. При формальном определении, в качестве элементарного исхода следует взять вектор с двумя координатами. Первая указывет номер завода, с которого поступила наудачу выбранная деталь, вторая - бракована эта деталь или нет. Далее действуя в духе предыдущего пункта легко определить вероятности всех элементарных исходов и соответственно, вероятность любого события A по формуле

С другой стороны обозначив B1, B2, B3 – события, заключающиеся в том, что деталь поступила, соотвественно, с первого, второго, третьего завода, и применив формулу полной вероятности, получим

Различие в двух подходах к решению данной задачи состоит в том, что в первом случае полностью определяется вероятностное пространство и можно найти вероятность любого события по одной и той же формуле, во втором модель полностью не строится и мы (по существу) определяем вероятности только тех элементарных исходов, которые входят в интересующее нас событие.

С формулой полной вероятности тесно связана формула Байеса.

Она позволяет найти, как, иногда, говорят инженеры, обратные вероятности, т. е. вероятности событий полной группы при условии, что произошло событие A.

Например, пусть в условиях предыдущей задачи известо, что из ящика извлечена бракованная деталь и требуется найти вероятность того, что она выпущена вторым заводом. Тогда по формуле Байеса имеем

Заметим, однако принципиальную разницу этих формул. Формула полной вероятности является просто следствием свойства счетной аддитивности вероятности и ее применение часто означает, что мы неявно строим вероятностное пространство. Формула Байеса действительно расчетная – для ее применения требуется, чтобы вероятностное пространство уже было определено.

Случайные величины

В данной главе рассматриваются отображения одного вероятностного пространства в другое. Важнейшим случаем такого отображения является отображение основного пространства в пространство действительных чисел или векторов. Возникающие при этом случайные величины, случайные вектора и их распределения являются одними из основных понятий теории вероятностей.

Отображения вероятностных пространств

Дадим формальное определение отображения вероятностного пространства в измеримое пространство

Пусть

основное вероятностное пространство

измеримое пространство (т. е пара множество и сигма-алгебра)

поточечное отображение (функция), ставящее в соответствие каждому элементарному исходу основного пространства точку x пространства X.

Отображение

называется измеримое отображение, если

множество (прообраз B)

Покажите, что так определенная функция будет вероятностью

Измеримость отображения гарантирует, что функция

определенная на сигма-алгебре

по формуле

будет вероятностью.

Эта функция называется распределение, индуцированное отображением

или просто распределение

Таким образом с каждым отображением

связано новое вероятностное пространство

.

Случайная величина

Случайной величиной называется измеримое отображение основного вероятностного пространства в множество действительных чисел. С практической точки зрения случайная величина это числовая характеристика эксперимента. Чтобы дать корректное определение случайной величины, необходимо указать подходящую сигма-алгебру на пространстве действительных чисел. В дальнейшем пространство действительных чисел будем обозначать

а пространство векторов с n действительными координатами

Борелевская сигма-алгебра

Так как сигма-алгебра на пространстве действительных чисел нужна нам для того, чтобы определить на ней вероятность, то естественно включить в эту сигма-алгебру побольше практически важных множеств. Обозначим

минимальную (которая содержится во всех других) сигма-алгебру, содержащую всевозможные интервалы вида

Эта сигма-алгебра называется борелевская сигма-алгебра). Она содержит все практически важные множества действительной прямой. Множество, принадлежащее борелевской сигма-алгебре называется борелевское множество.

Определение случайной величины

Пусть

основное вероятностное пространство

действительная прямая с борелевской сигма-алгеброй

поточечное измеримое отображение, ставящее в соответствие каждому элементарному исходу основного пространства действительное число. Это отображение называется случайная величина.

Вероятностная мера, определенная на борелевской сигма-алгебре по формуле

называется распределение случайной величины.

Борелевская функция

Заметим, что в определении случайной величины не участвует вероятность. Поэтому в этом определении не требуется указывать, какая вероятность действует на основном пространстве.

Случайная величина, заданная на основном пространстве, которое является действительной прямой с борелевской сигма-алгеброй, называется борелевская функция.

Примеры борелевских функций

Любая непрерывная функция является борелевской.

Функции

тоже являются борелевскими.

Если f и g – две борелевские функции, то

тоже борелевские, т. к.

Примеры случайных величин

Индикатор события

Пусть A – случайное событие. Тогда функция

является случайной величиной и называется индикатор события A

Верно и обратное – любая случайная величина принимающая значения 0 или 1 является индикатором некоторого события A.

Часто, для краткости, будем пользоваться обозначением

Простая случайная величина

Пусть

полная группа событий.

Случайная величина

называется простая случайная величина.

Верно и обратное – любая случайная величина принимающая конечное число значений

является простой.

Дискретная случайная величина

Пусть

полная группа событий.

Случайная величина

называется дискретная случайная величина.

Верно и обратное – любая случайная величина принимающая конечное или счетное число значений является дискретной.

Случайный вектор

Аналогично одномерному случаю можно определить соответствующие понятия для пространства векторов размерности n. Следует только заменить интервалы на действительной оси прямоугольниками (произведениями интервалов) в пространстве векторов. Получающаяся при этом сигма-алгебра