Введение в анализ временных рядов

Введение в анализ временных рядов.

Временной ряд можно рассматривать как некий случайный процесс, поэтому для анализа временных рядов применяется аппарат теории вероятностей, математической статистики и случайных процессов.

Случайные процессы.

Случайный процесс (СП) – это любой процесс, зависящий от времени и описываемый вероятностными законами. Например, число заявок, поступающих в единицу времени на станцию сотового оператора, есть величина случайная, но зависящая еще и от времени.

Пусть некоторое вероятностное пространство. Случайным (стохастическим) процессом называется семейство случайных величин (с. в.), зависящих от параметра t, значения которого принадлежат некоторому множество T. При этом параметр t интерпретируется как время. Значения с. в. Х(t), tТ, принадлежат измеримому пространству , n1, В - у-алгебра борелевских множеств из . Следовательно, СП - это функция времени, значение которой есть случайная величина. Если t интерпретировать не как время, то СП называют случайной функцией (СФ).

Таким образом, при каждом фиксированном tТ Х(t) – с. в., которую везде далее будем обозначать, как и называть сечением СП. Итак, при фиксированном tТ, :→. Множество значений, которые может принимать с. величина , tТ, называется пространством состояний СП, обозначать это множество будем буквой Ч.

В теории случайных процессов полной характеристикой СП является множество конечномерных функций распределения, и связанные с ними плотности распределения.

Зафиксируем некоторое значение параметра , тогда получим с. в. . Функция распределения этой с. в. носит название одномерной функции распределения СП X(t), . Если зафиксировать два различных момента времени ,, то совместная функция распределения с. в. Х, F(x,;x,)=P{< x,< x} называется двумерной функцией распределения СП X(t), . Если зафиксировать произвольное количество значений , то совместная функция распределения случайных величин - =P{< x,…,X< x} называется N-мерной функцией распределения СП X(t), .

Основные признаки, по которым классифицируются СП, относятся к структуре пространства состояний Х, временного параметра tТ и отношений зависимости между с. величинами Х.

Если Х={0,1,…}, конечно, или счетно, то СП относят к классу целочисленных процессов, или их называют дискретными случайными процессами, поскольку любое сечение Х есть дискретная с. величина. Если Х=R, то такой СП называют действительным СП. Если Х=, то СП является n-мерным СП. Множество Х может совпадать и с комплексной плоскостью С, но такие процессы мы рассматривать не будем.

Если Т={0,1,…},то говорят, что СП X(t), , есть процесс с дискретным временем. Чаще всего в этом случае его обозначают в виде Х и называют случайной последовательностью. Если Т=, то СП X(t), , называют процессом с непрерывным временем.

Характер зависимости между с. в. Х,, определяется заданием совместных распределений для каждого конечного набора с. величин .

С точки зрения математической общности, естественно рассматривать СП X(t), , как всю совокупность случайных величин Х. Но в общем случае это множество с. в. может быть несчетным и невозможно построить для всех его сечений совместный закон распределения. При решении практических задач чаще всего достаточно применения одно - и двумерных законов распределения и связанных с ними моментов первого и второго порядков, ( если они существуют).

Моментом k-го порядка СП X(t) называется k-ый момент его сечений .

Математическим ожиданием (м. о.) СП X(t),, называют неслучайную функцию переменной , которая при всех равна математическому ожиданию с. величин – сечений СП X(t).

Итак, , при этом , .

Функцию , , интерпретируют как усредненную реализацию процесса X(t).

Ковариационной функцией СП X(t), , называют функцию переменных , значения которой при любых фиксированных равно ковариации двух с. в. и :

при этом и

– двумерная плотность распределения СП X(t), .

       

При фиксированных элементами матрицы являются ковариации с. величин и , .

При , ковариационная функция называется дисперсией СП X(t) и обозначаются Kx(t, t)=Dx(t).

Примеры случайных процессов.

Процесс белого шума.

СП X(t), , с нулевым м. о. и ковариационной функцией называется белым шумом. Множитель называется интенсивностью белого шума.

Дисперсия Dx(t) белого шума бесконечна, т. к.  , а его значения в двух сколь угодно близких точках не коррелированны.

В чистом виде белый шум не может существовать физически, для его реализации необходима бесконечная мощность. Поэтому понятие белого шума является математической абстракцией, удобной для построения теории. Практически можно говорить о большей или меньшей степени приближения случайной функции к белому шуму. Это можно сделать только в том случае, когда наименьший интервал между значениями аргумента, при которых значения случайной функции практически не коррелированны, называемый интервалом корреляции, достаточно мал. Если для скалярного СП X(t) можно считать практически равной 0 при и величина достаточно мала, то СП X(t) можно считать белым шумом интенсивности .

Винеровский процесс.

Винеровским процессом, называется СП W(t),, обладающий следующими свойствами:

1. Все реализации процесса W(t) непрерывны и ;

2.Для любого p=1,2,... и любых значений параметров его приращения , ,..., независимы;

3. Случайная величина имеет нормальное распределение с параметрами , где - коэффициент диффузии винеровского процесса или его интенсивность.

Таким образом, плотность распределения с. величины , , равна , .

В определении винеровского процесса можно условие заменить на условие и тогда получим определение винеровского процесса, выходящего из точки x. Можно рассматривать винеровский процесс, выходящий из случайной точки.

Винеровский процесс называют еще процессом броуновского движения; он имел большое значение при разработке теории СП. Многие распределения, используемые в теории управления, можно моделировать процессами, порождаемыми винеровскими процессами

Марковские процессы.

СП X(t), , называется марковским СП (МП) если для всех n>1 и любых его условное распределение в момент времени не зависит от значений процесса в моменты , а определяется значением процесса в момент времени , то есть .

Винеровский процесс является марковским процессом.

Временные ряды.

Пусть и Т состоит из конечного числа элементов. Элементы множества Т будем называть моментами времени. Чаще всего принимается Т = { 0, 1 2, 3, ...Т}. Пусть каждому поставлено в соответствие число , тогда такой набор чисел называется временным рядом.

Модель, нужная для прогнозирования, интерпретации и проверки гипотез, которая строится для данного временного ряда, - это случайный процесс Xt, где t принадлежит некоторому множеству Т. Если такая модель построена, то временной ряд рассматривается, как реализация (траектория) данного случайного процесса

Стационарные процессы.

СП Х(t) ,, называется стационарным в узком смысле, если совместное распределение с. в. и одинаковы при всех h и всех,. Это условие означает, что процесс находится в вероятностном равновесии и момент начала наблюдения за ним не имеет значения. В частности, любое конечномерное распределение с. в. одно и то же при всех t. Формально условие стационарности СП в узком смысле можно записать так:

                       (1)

или, что то же самое, .

При n=1 это условие имеет вид: . Полагая, получим , т. е. одномерное распределение стационарного СП не зависит от времени. Поскольку по одномерному распределению СП можно определить математическое ожидание СП, получаем,

                                       (2)

При n=2 из условия стационарности (1) следует:

.

Полагаем h=-t1, имеем , т. е. двумерное распределение стационарного СП зависит только от разности . Но тогда и ковариационная функция СП есть функция одного параметра ф:

.                                 (3)

Условия (2),(3) часто проверить легче, чем условие (1).

СП Х(t) ,, называют стационарным в широком смысле, если он обладает конечными вторыми моментами (а первыми тем более), и его математическое ожидание не зависит от времени, а ковариационная функция зависит только от разности .

Другими словами, СП Х(t) ,, является стационарным в широком смысле, если для него выполнены условия (2),(3).

Из стационарности в узком смысле следует стационарность в широком смысле (что и было показано выше).

Простым примером стационарного процесса является любой процесс, состоящий из независимых одинаково распределенных случайных величин.

Пример. Пусть СП X(t) имеет вид ,, и - положительные с. в. с плотностю распределения , с. в. не зависит от и и распределена по равномерному закону на отрезке . Покажем, что СП X(t) является стационарным.

Начнем с его одномерного распределения. Фиксируем . Сечением процесса будет с. величина . Плотность распределения сечения можно найти в два этапа. Сначала найдем совместную плотность распределения с. величин и , затем искомую плотность распределения с. величины . Для этого запишем соотношение для реализаций случайных величин:

       

u=

v= - вели новые переменные,

.Согласно теории построения законов распределения функций случайных величин, находим:

Полученное выражение показывает, что одномерная плотность распределения не зависит от t.

Для фиксируем точки , определяем закон распределения N-мерного с. вектора с компонентами , , остается показать, что .

Автокорреляционные функции.

Для стационарного в широком смысле случайного процесса будем использовать обозначения:

       

Величину называют автокорреляцией между и . Заметим, что . Отметим, что для любого стационарного в слабом смысле процесса .

Понятие об основных моделях и методах анализа временных рядов.

Характерной особенностью временных рядов является проведение наблюдений за некоторым объектом последовательно во времени. Например, температура воздуха в середине каждого часа суток, ежегодная урожайность зерновых, ежедневный объем продаж какого-нибудь товара, стоимость акции предприятия, уровень инфляции, обменный курс валют - все это примеры временных рядов.

Вне зависимости от природы каждого временного ряда, можно выделить следующие основные типы задач, которые обычно решают при проведении анализа исходных данных.

На первом этапе делается предварительный анализ данных (в том числе графическими методами), затем пытаются построить простую математическую систему или модель, описывающую поведение временного ряда в компактном виде. Затем делается попытка объяснить его поведение с помощью некоторых других переменных, выбрать значимые факторы, а также выяснить степень связи как между наблюдениями в разные моменты времени одного ряда, так и между разными рядами; Полученные результаты используют для прогнозирования временного ряда; Часто возникает необходимость контроля и управления некоторым временным рядом. Разработкой определенных индикаторов, предупреждающих о тех или иных нежелательных последствиях.

Исходя из целей исследования, каждый временной ряд можно рассматривать как совокупность нескольких компонент.

Тренд (долгосрочная тенденция) в развитии ряда (Рис 1). Сезонная (периодическая) компонента, другими словами, некоторый эффект в динамике ряда, который повторяется через вполне определенный период. Например, при измерении температуры воздуха ночью холоднее, чем днем или увеличение пассажиропотока в утренние часы и в конце рабочего дня. Сезонную составляющую достаточно просто обнаружить при графическом анализе (Рис. 2).

Рис. 1                                        Рис. 2

Выбросы. Под выбросами (интервенциями) понимаются резкие изменения характера поведения процесса под воздействием каких-либо (однократных, обычно внешних) причин. Например, взрыв на Чернобыльской АЭС резко изменил фоновый уровень радиации, "черный" вторник на валютной бирже, появление на рынке крупной партии товара, и т. д.. На Рис. 3 изображен график уровня безработицы в США и модель интервенции, вызванная энергетическим кризисом в 1975 году. Циклическая компонента. Более или менее регулярные колебания относительно тренда. Эти колебания (в отличие от сезонных) обычно имеют более долговременный характер, неизвестный в начале исследования период, и целью исследования как раз и является выявление таких периодичностей. Случайная (стохастическая) составляющая - несистематический случайный эффект.

Разделение данных и динамики временного ряда на вышеуказанные компоненты определяет и группы математических методов, которые применяются для анализа соответствующей компоненты.

Так, для выявления и анализа тренда используют аппарат регрессионного анализа и скользящих средних. Для анализа сезонного эффекта, применяются специальные модели гармонической регресии, сезонного сглаживания и сезонной авторегрессии. Специальный класс моделей предназначен для выявления выбросов, построения и прогнозирования последствий интервенций. Для подобного класса используется спектральный анализ временных рядов.