Элементы теории вероятностей и математической статистики (стр. 3 )

Корень квадратный из дисперсии называется среднее квадратическое отклонение случайной величины. Его мы будем обозначать символом .

Если дисперсия — это характеристика рассеяния, то математическое ожидание — это характеристика положения значений случайной величины на числовой оси. Значения случайной величины группируются около ее математического ожидания с каким-то рассеянием, определяемым дисперсией случайной величины.

Математическое ожидание не единственная характеристика положения случайной величины.

Модой случайной величины x называется ее наиболее вероятное значение (то значение x, для которого плотность распределения достигает максимума).

Медианой случайной величины x называется величина , для которой выполняется равенство: .

Рассмотрим как находить математические ожидания функций от случайной величины для дискретных случайных величин.

Пусть x дискретная случайная величина, принимающая значения с вероятностями .

Тогда, .

Таким образом, для дискретных случайных величин математическое ожидание и дисперсия вычисляются по формулам:

.

Нетрудно найти другое выражение для дисперсии, если в ее определении раскрыть скобки:

.

Найдем математическое ожидание и дисперсию рассмотренных ранее случайных величин.

Бернуллиевская случайная величина

.

.

Равномерно распределенная случайная величина

.

.

Экспоненциальная случайная величина

.

.

Гауссовская случайная величина

.

Здесь первый интеграл равен нулю, как интеграл от нечетной функции в симметричных пределах. Второй интеграл равен единице по условию нормировки плотности распределения гауссовской случайной величины с параметрами .

Таким образом, параметр распределения - это математическое ожидание гауссовской случайной величины.

.

Последний интеграл возьмем по частям, положив

Тогда окончательно получим: .

Параметр распределения — есть дисперсия гауссовской случайной величины.

Таким образом, плотность распределения гауссовской случайной величины зависит от двух параметров: математического ожидания и дисперсии .

2.5. Характеристическая функция случайной величины

Определение. Характеристической функцией случайной величины x называется комплексно-значная функция .

Здесь j — мнимая единица.

Из этого определения следует, что характеристическая функция по существу представляет собой преобразование Фурье плотности распределения случайной величины x.

Если известна характеристическая функция случайной величины x, то плотность распределения можно найти с помощью обратного преобразования Фурье:

.

Таким образом, характеристическая функция, как и плотность распределения, полностью определяет случайную величину и позволяет найти вероятности любых событий, связанных со случайной величиной.

В теории вероятностей очень часто пользуются термином «закон распределения случайной величины».

Задать закон распределения случайной величины — это или задать ее функцию распределения, или плотность распределения, или ряд распределения (для дискретных случайных величин), или характеристическую функцию.

Свойства характеристической функции вытекают из ее определения:

1.  Если , то .

2.  .

Свойство 2 позволяет достаточно просто по характеристической функции вычислять математическое ожидание и дисперсию случайной величины, заменяя интегрирование, более простой операцией — дифференцированием:

, .

Найдем характеристическую функцию бернуллиевской случайной величины, ее математическое ожидание и дисперсию.

.

;

.

Вычислить математическое ожидание и дисперсию биномиальной случайной величины с помощью ряда распределения довольно затруднительно. А вот с помощью характеристической функции это очень просто.

.

В соответствии с формулой , которая называется бином Ньютона, получим: .

.

.

Найдем характеристическую функцию равномерно распределенной случайной величины.

.

Характеристическая функция экспоненциальной случайной величины имеет вид:

.

Вычислим характеристическую функцию гауссовской случайной величины. Методика ее вычисления пригодится нам и в дальнейшем.

Итак, характеристическая функция гауссовской случайной величины вычисляется по формуле:

. (1)

Для вычисления характеристической функции используется соотношение:

, (2)

справедливое при любом а.

Приведем выражение в интеграле (1) к полному квадрату:

=

.

Тогда, используя условие нормировки (2), получим:

.

Таким образом, характеристическая функция гауссовской случайной величины равна:

.

2.6. Функциональные преобразования случайных величин

В инженерных приложениях теории вероятностей часто возникает необходимость определения законов распределения функций от случайных величин. Этому вопросу и посвящен данный параграф.

Пусть - строго монотонная функция. - область определения функции, D – область ее значений. В этом случае существует функция, обратная , которую будем обозначать . Областью определения обратной функции является D, а областью значений множество Q. Для прямой и обратной функции справедливы соотношения:

.

Обратная функция также является строго монотонной. Причем, если – монотонно возрастающая, то и - также монотонно возрастающая. Если - монотонно убывающая, то и - монотонно убывающая.

Итак, пусть - монотонно возрастающая функция, - случайная величина с функцией распределения и плотностью распределения . Найдем плотность распределения случайной величины .

По определению функция распределения случайной величины равна: .

Решим неравенство относительно случайной величины , получим:

.

Таким образом, функция распределения случайной величины получена. Дифференцируя ее по x, получим плотность распределения:

.

Теперь пусть - монотонно убывающая. Тогда функция распределения случайной величины равна:

.

Решая неравенство относительно случайной величины , необходимо учесть, что, применяя к обеим частям неравенства монотонно убывающее преобразование, знак неравенства необходимо сменить на противоположный:

.

Заметим, что .

Таким образом, для функции распределения случайной величины получим:

.

Дифференцируя это равенство по x (в обобщенном смысле), получим:

.

Если учесть, что производная монотонно убывающей функции отрицательна, для любого монотонного преобразования получим:

.

Пусть не является монотонной функцией, но может быть разбита на строго монотонные участки точками x1, x2, …,xn (рис. 13)

Рис. 13

Тогда на каждом из участков функция строго монотонна и, следовательно, имеет обратную. Обратные функции обозначим . Не ограничивая общности, предположим, что — возрастающая функция. Тогда — убывающая, — возрастающая и т. д. (см. рис. 13).

Для функции распределения случайной величины получим:

Суммируемые события вида - несовместны, следовательно, на основании аксиомы вероятности, получим:

Указанные вероятности можно вычислить через плотность вероятности случайной величины x:

.

Дифференцируя функцию распределения случайной величины , получим плотность распределения:

.

Учитывая, что производная монотонно убывающей функции отрицательна, окончательно получим:

 

(3)

Рассмотрим особые случаи преобразования случайных величин.

1. Пусть на каком-либо участке области определения функции эта функция постоянна (). Ясно, что обратной функции на этом участке не существует. Тогда:

.

Введя функцию Хевисайда это выражение можно записать в виде:

.

Выполнив обобщенное дифференцирование, для соответствующего слагаемого плотности распределения в сумме (3), получим:

.

2. Пусть на каком-либо участке монотонности функция имеет разрыв первого рода в точке () (рис. 14). Для определенности будем полагать эту функцию монотонно возрастающей. Тогда обратная функция будет иметь три ветви (рис. 15)

Рис. 14 Рис. 15

Здесь функция

Тогда:

Здесь .

Выполнив обобщенное дифференцирование, для соответствующего слагаемого плотности распределения в сумме (1), получим:

.

Рассмотрим примеры функциональных преобразований случайной величины.

Пример 1

Линейное преобразование случайной величины.

Пусть , где и b не случайные величины.

В данном случае . Это преобразование монотонно и обратное преобразование имеет вид:

Таким образом, , и плотность распределения случайной величины равна:

Математическое ожидание, дисперсия и характеристическая функция линейного преобразования случайной величины равны:

.

Пример 2

Пусть . Найти плотность распределения случайной величины

Если воспользоваться описанной выше методикой, то получим:

.

Пример 3

Случайная величина подвергается нелинейному преобразованию вида:. Найти плотность распределения случайной величины

Преобразование вида не монотонно, но можно определить монотонные ветви на отрезках и . Соответствующие этим ветвям обратные функции равны:

и .

В соответствии с выражением (3) для плотности распределения случайной величины получим:

.

То же самое можно получить, если воспользоваться методикой вычисления функции распределения:

.

Вычисляя обобщенную производную, получим:

.

Пример 4

Случайная величина . Найти плотность распределения случайной величины .

Воспользуемся методикой вычисления функции распределения. Для :

.

Вычисляя производную, получим:

.

Пример 5

Пусть - случайная величина с функцией распределения . Случайная величина получается из с помощью преобразования: . Найти плотность распределения случайной величины .

Пусть - непрерывная возрастающая функция. Тогда существует монотонно возрастающая обратная функция . Областью определения этой функции является отрезок [0,1], а областью значений - числовая ось.

.

Таким образом, плотность распределения случайной величины является равномерной: .

Пример 6

Пусть - случайная величина, равномерно распределенная в отрезке [0,1] . Найти такое преобразование случайной величины , чтобы получить случайную величину с заданной функцией распределения .

Пусть - произвольная монотонно возрастающая функция.

Тогда, используя свойства функции распределения равномерно распределенной случайной величины, получим:

.

Нетрудно видеть, что желаемый результат получится, если положить

Таким образом, для получения случайной величины с заданным законом распределения из равномерно распределенной в отрезке [0,1] случайной величины, необходимо выполнить следующее преобразование:

Эта формула широко используется при моделировании на ЭВМ случайных величин с заданным законом распределения. Например, для получения экспоненциально распределенной случайной величины с плотностью распределения необходимо выполнить следующее преобразование равномерно распределенной случайной величины: .

3. Случайные векторы

3.1. Векторы и матрицы

Напомним некоторые понятия из линейной алгебры.

Определение. Пусть А и В два множества. Под прямым произведением множеств А и В понимают совокупность пар .

Аналогичным образом можно определить прямое произведение конечного числа множеств.

Для элементов произведения принята запись в виде n-членных последовательностей (n-нок) , где на k-том месте стоит элемент k-го множества: . Если все множества прямого произведения одинаковы , вместо пишут .

В частности, если множество А есть множество вещественных чисел R, то есть множество (n-нок) вещественных чисел. Его элементы принято называть точками, а числа координатами точки .

Определение. Множество называется линейным (векторным) пространством, если выполняются следующие аксиомы:

1.  Если (для каждых двух его элементов x и y определена их сумма x+y, принадлежащая этому же множеству).

2.  Для любого вещественного числа определено произведение .

3.  - ассоциативность сложения;

4.  - коммутативность сложения;

5.  В существует нулевой элемент, такой, что для любого .

6.  .

7.  .

8.  .

9.  .

Элементы пространства называются векторами, а элементы пространства называются скалярами.

В дальнейшем будем предполагать, что каждый вектор x записывается в виде столбца: .

Введем операцию транспонирования векторов: - координаты вектора записываются в строку.

Определение. Скалярным произведением векторов в пространстве называют функцию, которая каждой паре векторов из ставит в соответствие вещественное число. Скалярное произведение векторов вычисляется по формуле: .

Свойства скалярного произведения

1. Из определения скалярного произведения следует, что . Если .

2. Для любых двух скаляров и справедливо: , .

3..

4. — неравенство Коши-Буняковского.

Докажем неравенство Коши-Буняковского.

Из свойства 1) следует, что . Из свойства 2) получим: . Так как это неравенство справедливо для любого , положим . Подставляя это выражение, получим неравенство Коши-Буняковского.

Определение. Пусть и два векторных пространства. Линейным оператором из в называется отображение вида , где . В этом случае говорят, что линейный оператор задается матрицей А размера вида: .

Если А исходная матрица, то транспонированной называется матрица вида:

.

Очевидно, что если А действует из в , то действует из в : .

Квадратная матрица, на главной диагонали которой стоят единицы, а остальные элементы равны нулю, называется единичной матрицей: . Здесь — символ Кронекера.

Пусть А линейный оператор из в , .

Найдем скалярное произведение векторов y и z:

.

Таким образом, справедливо соотношение: