<< Пред. стр. 9 (из 9) След. >>
(VR - variance ratio), где
.
Если xt ? случайное блуждание, то тогда , а если xt ? процесс, стационарный относительно линейного тренда (или просто стационарный), то тогда при k ? ?.
При работе с реальными данными дисперсии заменяются их состоятельными оценками, и полученное отношение умножается еще на T / (T ? k + 1) для достижения несмещенности полученной оценки для . Затем строится график значений полученных оценок для при различных k = 1,..., K и по поведению этого графика делаются выводы о принадлежности ряда классу TS или DS, имея в виду различия в поведении этого графика для этих двух классов временных рядов.
Другой вариант работы с реальными данными состоит в использовании равносильного представления статистики отношения дисперсий :
,
где rj ? значение автокорреляционной функции ряда разностей .
П1.9. Коррекция сезонности
В рассмотренных выше процедурах никак не затрагивался вопрос о коррекции сезонного поведения ряда, не снимаемого ни введением в модель линейного тренда ни путем дифференцирования ряда. Разумеется, данные, поступающие в распоряжение исследователя, уже могли быть подвергнуты сезонной коррекции соответствующими статистическими агентствами. Более того, во многих странах сырые (не скорректированные на сезонность) данные просто недоступны. В то же время, при анализе данных, подвергшихся сезонному сглаживанию с использованием фильтров или с использованием специфических методик правительственных агентств, существенно больше шансов классифицировать исследуемый ряд как DS (см., например, [Ghysels, Perron (1993)]), чем при анализе сырых данных. Поэтому некоторые авторы рекомендуют по возможности вообще избегать использования сезонно-сглаженных данных ([Davidson, MacKinnon (1993)]). Более предпочтительным является использование сырых данных и устранение из них сезонности путем оценивания регрессии сырого ряда на сезонные фиктивные (dummy) переменные D1,..., D12 (если данные месячные) или D1,..., D4 (если данные квартальные). Остатки от оцененной регрессии образуют очищенный ряд, к которому можно применять изложенные выше методы. Теоретическое оправдание такого подхода при применении критерия Дики-Фуллера дано в работе [Dickey, Bell, Miller (1986)], где показано, что асимптотическое распределение статистики t? не изменяется при исключении из ряда детерминированных сезонных компонент.
П1.10. Процедура Дики-Пантулы
Для ситуаций, когда предполагаемая модель авторегрессии для анализируемого ряда может иметь порядок р выше первого, в работе [Dickey, Pantula (1987)] предложена процедура последовательной проверки гипотез о количестве единичных корней характеристического уравнения, построенная по принципу "от общего к частному". Сначала проверяется гипотеза о том, что все р корней характеристического многочлена единичные; при ее отвержении проверяется гипотеза о наличии р - 1 единичных корней и т.д.
П1.11. Протяженность ряда и мощность критерия.
Следует иметь в виду, что мощность критериев единичного корня зависит, в первую очередь, от фактической протяженности ряда во времени, а не от частоты, с которой производятся наблюдения. Соответственно, имея значения ряда за десятилетний период, мы не получаем выигрыша в мощности, анализируя месячные данные, а не квартальные или годовые. Результаты исследований в этом направлении можно найти, например, в статьях [Shiller, Perron (1985)] и [Perron (1989b)].
П2. Проблема анализа временных рядов
П2.1. Стационарные временные ряды и их основные характеристики
Поиск модели, адекватно описывающей поведение случайных остатков ?t анализируемого временного ряда xt, производят, как правило, в рамках класса стационарных временных рядов.
Определение П2.1. Ряд xt называется строго стационарным (или стационарным в узком смысле), если совместное распределение вероятностей m наблюдений такое же, как и для m наблюдений , при любых ?, и t1,..., tm.
Другими словами, свойства строго стационарного временного ряда не меняются при изменении начала отсчета времени. В частности, при m = 1 из предположения о строгой стационарности временного ряда xt следует, что закон распределения вероятностей случайной величины xt не зависит от t, а значит, не зависят от t и все его основные числовые характеристики, в том числе: среднее значение Ext = ? и дисперсия Dxt = ?2.
Очевидно, значение ? определяет постоянный уровень, относительно которого колеблется анализируемый временной ряд xt, а постоянная величина ? характеризует размах этих колебаний. Поскольку закон распределения вероятностей случайной величины xt одинаков при всех t, то он сам и его основные числовые характеристики могут быть оценены по наблюдениям x1,..., xT. В частности:
? оценка среднего значения, ? оценка дисперсии. (П2.1)
Автоковариационная функция ?(?). Значения автоковариационной функции статистически оцениваются по имеющимся наблюдениям временного ряда по формуле
где ? = 1,... T ? 1, а вычислено по формуле (П2.1).
Очевидно, значение автоковариационной функции при ? = 0 есть не что иное, как дисперсия временного ряда, и, соответственно,
(П2.2)
Автокорреляционная функция r(?). Одно из главных отличий последовательности наблюдений, образующих временной ряд, от случайной выборки заключается в том, что члены временного ряда являются, вообще говоря, статистически взаимозависимыми. Степень тесноты статистической связи между двумя случайными величинами может быть измерена парным коэффициентом корреляции. Поскольку в нашем случае коэффициент измеряет корреляцию, существующую между членами одного и того же временного ряда, его принято называть коэффициентом автокорреляции. При анализе изменения величины r(?) в зависимости от значения ? принято говорить об автокорреляционной функции r(?). График автокорреляционной функции иногда называют коррелограммой. Автокорреляционная функция (в отличие от автоковариационной) безразмерна, т.е. не зависит от масштаба измерения анализируемого временного ряда. Ее значения, по определению, могут колебаться от ?1 до +1. Кроме того, из стационарности следует, что r(?) = r(??), так что при анализе поведения автокорреляционных функций ограничиваются рассмотрением только положительных значений ?.
Выборочный аналог автокорреляционной функции определяется формулой
(П2.3)
Существуют общие характерные особенности, отличающие поведение автокорреляционной функции стационарного временного ряда. Другими словами, можно описать в общих чертах схематичный вид коррелограммы стационарного временного ряда. Это обусловлено следующим общим соображением: очевидно, чем больше разнесены во времени члены временного ряда xt и xt+?, тем слабее взаимосвязь этих членов и, соответственно, тем меньше должно быть по абсолютной величине значение r(?). При этом в ряде случаев существует такое пороговое значение r0, начиная с которого все значения будут тождественно равны нулю.
Частная автокорреляционная функция rчаст(?). С помощью этой функции реализуется идея измерения автокорреляции, существующей между разделенными ? тактами времени членами временного ряда xt и xt+?, при устраненном опосредованном влиянии на эту взаимозависимость всех промежуточных членов этого временного ряда. Частная автокорреляция 1-го порядка может быть подсчитана с использованием соотношения:
(П2.4)
где ? ? среднее значение анализируемого стационарного процесса.
Частные автокорреляции более высоких порядков могут быть подсчитаны аналогичным образом по элементам общей корреляционной матрицы R = ||rij||, в которой rij = = r(xi, xj) = r(|i ? j|), где i, j = 1,..., T и r(0) = 1. Так, например, частная автокорреляция 2-го порядка определяется по формуле:
(П2.5)
Эмпирические (выборочные) версии автокорреляционных функций получаются с помощью тех же соотношений (П2.4), (П2.5) при замене участвующих в них теоретических значений автокорреляций r(?) их статистическими оценками .
Полученные таким образом частные автокорреляции rчаст(1),rчаст (2),... можно нанести на график, в котором роль абсциссы выполняет величина сдвига ?.
Знание автокорреляционных функций r(?) и rчаст(?) оказывает существенную помощь в решении задачи подбора и идентификации модели анализируемого временного ряда.
Спектральная плотность p(?). Спектральную плотность стационарного временного ряда определяется через его автокорреляционную функцию соотношением
где . Так как r(?) = r(??), спектральная плотность может быть записана в виде
Следовательно, функция p(?) является гармонической с периодом 2?. График спектральной плотности, называемый спектром, симметричен относительно ? = ?. Поэтому при анализе поведения p(?) ограничиваются значениями 0 ? ? ? ?. Спектральная плотность принимает только неотрицательные значения.
Использование свойств этой функции в прикладном анализе временных рядов определяется как "спектральный анализ временных рядов". Достаточно полное описание этого подхода приведено, например, в [Дженкинс, Ватс (1971, 1972)] и [Ллойд, Ледерман (1990)]. Применительно к статистическому анализу экономических рядов динамики этот подход не получил широкого распространения, т.к. эмпирический анализ спектральной плотности требует в качестве своей информационной базы либо достаточно длинных стационарных временных рядов, либо нескольких траекторий анализируемого временного ряда (и та и другая ситуация весьма редки в практике статистического анализа экономических рядов динамики).
Для содержательного анализа важно, что величина спектральной плотности характеризует силу взаимосвязи, существующей между временным рядом xt и гармоникой с периодом 2?/?. Это позволяет использовать спектр как средство улавливания периодичностей в анализируемом временном ряду: совокупность пиков спектра определяет набор гармонических компонентов в разложении (1.1.1). Если в ряде содержится скрытая гармоника частоты ?, то в нем присутствуют также периодические члены с частотами ?/2, ?/3 и т.д. Это так называемое "эхо", повторяемое спектром на низких частотах. Эффект "эха" анализировался в статье [Granger (1963)] на примере ряда ежемесячных безналичных расчетов между банками США за 1875-1958 гг.
Можно несколько расширить класс моделей стационарных временных рядов, используемых при анализе конкретных рядов экономической динамики.
Определение 2.2. Ряд называется слабо стационарным (или стационарным в широком смысле), если его среднее значение, дисперсия и ковариации не зависят от t.
П2.2. Неслучайная составляющая временного ряда и методы его сглаживания
Существенную роль в решении задач выявления и оценивания трендовой, сезонной и циклической составляющих в разложении (1.1.1) играет начальный этап анализа, на котором:
* выявляется сам факт наличия/отсутствия неслучайной (и зависящей от времени t) составляющей в разложении (1.1.1); по существу, речь идет о статистической проверке гипотезы
H0: Ext = ? = const (П2.6)
(включая утверждение о взаимной статистической независимости членов исследуемого временного ряда) при различных вариантах конкретизации альтернативных гипотез типа
HА: Ext ? const;
* строится оценка (аппроксимация) для неизвестной интегральной неслучайной составляющей f(t) = ?1fтр(t) + ?2?(t) +?3?(t), т.е. решается задача сглаживания (элиминирования случайных остатков ?t) анализируемого временного ряда xt.
П2.2.1. Проверка гипотезы о неизменности среднего значения временного ряда
Критерий серий, основанный на медиане. Расположим члены анализируемого временного ряда в порядке возрастания, т.е. образуем по наблюдениям вариационный ряд:
x(1), x(2),..., x(T).
Определим выборочную медиану по формуле
После этого мы образуем "серии" из плюсов и минусов, на статистическом анализе которых основана процедура проверки гипотезы (П2.6). По исходному временному ряду, построим последовательность из плюсов и минусов следующим образом: вместо xt ставится "+", если , и "?", если (члены временного ряда, равные , в полученной таким образом последовательности плюсов и минусов не учитываются).
Образованная последовательность плюсов и минусов характеризуется общим числом серий ?(Т) и протяженностью самой длинной серии ?(Т). При этом под "серией" понимается последовательность подряд идущих плюсов и подряд идущих минусов. Если исследуемый ряд состоит из статистически независимых наблюдений, случайно варьирующих около некоторого постоянного уровня (т.е. справедлива гипотеза (П2.6)), то чередование "+" и "?" в построенной последовательности должно быть случайным, т.е. эта последовательность не должна содержать слишком длинных серий подряд идущих "+" или "?", и, соответственно, общее число серий не должно быть слишком малым. Так что в данном критерии целесообразно рассматривать одновременно пару критических статистик (?(Т); ?(Т)).
Справедлив следующий приближенный статистический критерия проверки гипотезы Н0, выраженной соотношением (П2.6): если хотя бы одно из неравенств окажется нарушенным, то гипотеза (П2.6) отвергается с вероятностью ошибки ?, такой, что 0,05 < ? < 0,0975 и, тем самым, подтверждается наличие зависящей от времени неслучайной составляющей в разложении (1.1.1).
Критерий "восходящих" и "нисходящих" серий. Этот критерий "улавливает" постепенное смещение среднего значения в исследуемом распределении не только монотонного, но и более общего, например, периодического характера.
Так же, как и в предыдущем критерии, исследуется последовательность знаков ? плюсов и минусов, однако правило образования этой последовательности в данном критерии иное. Здесь на i-ом месте вспомогательной последовательности ставится "+", если xi+1 ? xi > 0, и "?"с, если xi+1 ? xi < 0 (если два или несколько следующих друг за другом наблюдений равны между собой, то принимается во внимание только одно из них). Последовательность подряд идущих "+" (восходящая серия) будет соответствовать возрастанию результатов наблюдения, а последовательность "?" (нисходящая серия) ? их убыванию. Критерий основан на том же соображении, что и предыдущий: если выборка случайна, то в образованной последовательности знаков общее число серий не может быть слишком малым, а их протяженность ? слишком большой.
При уровне значимости 0,05 < ? < 0,0975 критерий вид:
(П2.7)
где величина ?0(Т) определяется следующим образом:
Т Т ? 26 26 < Т ? 153 153 < Т ? 1170 ?0(Т) ?0 = 5 ?0 = 6 ?0 = 7 Если хотя бы одно из неравенств (П2.7) окажется нарушенным, то гипотезу (П2.6) следует отвергнуть.
Критерий квадратов последовательных разностей (критерий Аббе). Если есть основания полагать, что случайный разброс наблюдений x(t) относительно своих средних значений подчиняется нормальному закону распределения вероятностей, то для выяснения вопроса о возможном систематическом смещении среднего в ходе выборочного обследования целесообразно воспользоваться критерием Аббе, являющимся в этом случае более мощным.
Для проверки гипотезы (П2.6) с помощью данного критерия подсчитывают величину , где Если то гипотеза (П2.6) отвергается. При этом величина для T > 60 подсчитывается как где u? ? ?-квантиль нормированного нормального распределения. Величины при T ? ? 60 для трех наиболее употребительных значений уровня значимости приведены в табл. 4.9 книги [Большев, Смирнов (1965)].
П2.2.2. Методы сглаживания временного ряда (выделение неслучайной составляющей)
Методы выделения неслучайной составляющей в траектории, отражающей поведение временного ряда, подразделяются на два типа.
Методы первого типа (аналитические) основаны на допущении, что известен общий вид неслучайной составляющей в разложении (1.1.1)
f(t) = ?1fтр(t) + ?2?(t) +?3?(t). (П2.8)
Например, если известно, что неслучайная составляющая временного ряда описывается линейной функцией времени f(t) = ?0 + ?1t, где ?0 и ?1 ? некоторые неизвестные параметры модели, то задача ее выделения (задача элиминирования случайных остатков или задача сглаживания временного ряда) сводится к задаче построения хороших оценок и для параметров модели.
Методы второго типа (алгоритмические) не связаны ограничительным допущением о том, что общий аналитический вид искомой функции (П2.8) известен исследователю. В этом смысле они являются более гибкими, более привлекательными. Однако "на выходе" задачи они предлагают исследователю лишь алгоритм расчета оценки для искомой функции f(t) в любой наперед заданной точке t и не претендуют на аналитическое представление функции (П2.8).
Аналитические методы выделения (оценки) неслучайной составляющей временного ряда. Эти методы реализуются в рамках моделей регрессии, в которых в роли зависимой переменной выступает переменная xt, а в роли единственной объясняющей переменной ? время t. Таким образом, рассматривается модель регрессии вида
xt = f(t, ?) + ?t, t = 1,..., T,
в которой общий вид функции f(t, ?) известен, но неизвестны значения параметров ? = (?0, ?1,..., ?m). Оценки параметров строятся по наблюдениям . Выбор метода оценивания зависит от гипотетического вида функции f(t, ?) и стохастической природы случайных регрессионных остатков ?t.
Алгоритмические методы выделения неслучайной составляющей временного ряда (методы скользящего среднего). В основе этих методов элиминирования случайных флуктуаций в поведении анализируемого временного ряда лежит простая идея: если "индивидуальный" разброс значений члена временного ряда xt около своего среднего (сглаженного) значения a характеризуется дисперсией ?2, то разброс среднего из N членов временного ряда (x1 + x2 +...+ xT) / N около того же значения a будет характеризоваться гораздо меньшей величиной дисперсии, а именно дисперсией, равной ?2 / N. А уменьшение меры случайного разброса (дисперсии) и означает как раз сглаживание соответствующей траектории. Поэтому выбирают некоторую нечетную "длину усреднения" N = 2m + 1, измеренную в числе подряд идущих членов анализируемого временного ряда. А затем сглаженное значение временного ряда xt вычисляют по значениям xt?m, xt?m+1,..., xt, xt+1,..., xt+m по формуле
(П2.9)
где wk (k = ?m, ?m + 1,..., m) ? некоторые положительные "весовые" коэффициенты, в сумме равные единице, т.е. wk > 0 и . Поскольку, изменяя t от m + 1 до T ? m, мы как бы "скользим" по оси времени, то и методы, основанные на формуле (П2.9), принято называть методами скользящей средней (МСС).
Очевидно, один МСС отличается от другого выбором параметров m и wk.
Определение параметров wk основано на следующей процедуре. В соответствии с теоремой Вейерштрасса любая гладкая функция f(x) при самых общих допущениях может быть локально представлена алгебраическим полиномом подходящей степени p. Поэтому берем первые 2m + 1 членов временного ряда x1,..., x2m+1, строим с помощью МНК полином степени p, аппроксимирующий поведение этой начальной части траектории временного ряда, и используем этот полином для определения оценки сглаженного значения f(t) временного ряда в средней (т.е. (m + 1)-й) точке этого отрезка ряда, т.е. полагаем . Затем "скользим" по оси времени на один такт и таким же способом подбираем полином той же степени p к отрезку временного ряда x2,..., xm+2 и определяем оценку сглаженного значения временного ряда в средней точке сдвинутого на единицу отрезка временного ряда, т.е. , и т.д.
В результате мы найдем оценки для сглаженных значений анализируемого временного ряда при всех t, кроме t = 1,..., m и t = T,... T ? m + 1.
Подбор наилучшего (в смысле критерия МНК) аппроксимирующего полинома к траектории анализируемого временного ряда приводит к формуле вида (П2.9), причем результат не зависит от того, для какого именно из "скользящих" временных интервалов был осуществлен этот подбор.
Метод экспоненциально взвешенного скользящего среднего (метод Брауна [Brown (1963)]). В соответствии с этим методом оценка сглаженного значения в точке t определяется как решение оптимизационной задачи вида
(П2.10)
где 0 < ? < 1. Следовательно, веса ?k в критерии Q(f) обобщенного ("взвешенного") МНК уменьшаются экспоненциально по мере удаления наблюдений xt?k в прошлое.
Решение оптимизационной задачи (П2.10) дает:
(П2.11)
В отличие от обычного МСС здесь скользит только правый конец интервала усреднения и, кроме того, веса экспоненциально уменьшаются по мере удаления в прошлое. Формула (П2.11) дает оценку сглаженного значения временного ряда не в средней, а в правой конечной точке интервала усреднения.
П2.2.3. Подбор порядка аппроксимирующего полинома с помощью метода последовательных разностей
Реализация алгоритмических методов выделения неслучайной составляющей временного ряда связана с необходимостью подбора порядка p локально-аппроксимирующего полинома. Эта же задача возникает и при реализации аналитических методов выделения неслучайной составляющей. При решении этой задачи широко используется так называемый метод последовательных разностей членов анализируемого временного ряда, который основан на следующем математическом факте: если анализируемый временной ряд xt содержит в качестве своей неслучайной составляющей алгебраический полином f(t) = ?0 + ?1t + ?ptp порядка p, то переход к последовательным разностям порядка p + 1, исключает неслучайную составляющую, оставляя элементы, выражающиеся только через остаточную случайную компоненту ?t.
Обсудим способ подбора порядка p полинома, представляющего собой неслучайную составляющую f(t) в разложении анализируемого временного ряда xt. Заметим, прежде всего, что если мы знаем, что среднее значение наблюдаемой случайной величины ? равно нулю (E? = 0), то выборочным аналогом ее дисперсии является величина , где ?I, i = 1, 2,..., T ? наблюденные значения этой случайной величины. Если же E? ? 0, то выборочным аналогом дисперсии будет статистика , так что величина будет давать в этом случае существенно завышенные оценки для D?. Возвращаясь к последовательному переходу к разностям ?kxt, k = 1, 2,..., p + 1, отметим, что при всех k < p + 1 средние значения этих разностей будут отличны от нуля, так как будут выражаться не только через остатки ?t, но и через коэффициенты ?0, ?1,..., ?p и степени t. И только для k ? p + 1 можно утверждать, что:
E(?kxt) = 0 и .
С учетом этих замечаний можно сформулировать следующее правило подбора порядка сглаживающего полинома p, называемое методом последовательных разностей.
Последовательно для k = 1, 2,... вычисляем разности ?kxt (t = 1,..., T ? k), а также величины
(П2.12)
Анализируем поведение величины в зависимости от k. Величина как функция k будет демонстрировать явную тенденцию к убыванию до тех пор, пока k не достигнет величины p + 1. Начиная с этого момента величина (П2.12) стабилизируется, оставаясь (при дальнейшем увеличении p) приблизительно на одном уровне. Поэтому значение k = k0, начиная с которого величина стабилизируется, и будет давать завышенный на единицу искомый порядок сглаживающего полинома, т.е. p = k0 ? 1.
Этот метод привлекателен своей простотой, но его практическое применение требует определенной осторожности. Последовательные значения не являются независимыми, и часто обнаруживается тенденция их медленного убывания (а иногда возрастания) без видимой сходимости к постоянному значению. Кроме того, процесс перехода к разностям имеет тенденцию уменьшать относительное значение любого систематического движения, кроме сезонных эффектов с периодом, близким к временному интервалу, так что сходимость отношения не доказывает, что ряд первоначально состоял из полинома плюс случайный остаток, а только то, что он может быть приближенно представлен таким образом. Однако для нас этот метод ценен лишь тем, что он дает верхний предел порядка полинома p, который целесообразно использовать для элиминирования неслучайной составляющей.
П2.3. Модели стационарных временных рядов и их идентификация
В П2.2 рассматривался класс стационарных временных рядов, в рамках которого подбирается модель, пригодная для описания поведения случайных остатков исследуемого временного ряда (1.1.1). Здесь рассматривается набор линейных параметрических моделей из этого класса и методы их идентификации. Таким образом, речь здесь идет не о моделировании временных рядов, а о моделировании их случайных остатков ?t, получающихся после элиминирования из исходного временного ряда xt его неслучайной составляющей (П2.8). Следовательно, в отличие от прогноза, основанного на регрессионной модели, игнорирующего значения случайных остатков, в прогнозе временных рядов существенно используется взаимозависимость и прогноз самих случайных остатков.
Введем обозначения. Так как здесь описывается поведение случайных остатков, то моделируемый временной ряд обозначим ?t, и будем полагать, что при всех t его математическое ожидание равно нулю, т.е. E?t, ? 0. Временные последовательности, образующие "белый шум", обозначим ?t.
Описание и анализ, рассматриваемых ниже моделей, формулируется в терминах общего линейного процесса, представимого в виде взвешенной суммы настоящего и прошлых значений белого шума, а именно:
(П2.13)
где ?0 = 1 и .
Таким образом, белый шум представляет собой серию импульсов, в широком классе реальных ситуаций генерирующих случайные остатки исследуемого временного ряда.
Временной ряд ?t можно представить в эквивалентном (П2.13) виде, при котором он получается в виде классической линейной модели множественной регрессии, в которой в качестве объясняющих переменных выступают его собственные значения во все прошлые моменты времени:
(П2.14)
При этом весовые коэффициенты ?1, ?2,... связаны определенными условиями, обеспечивающими стационарность ряда ?t. Переход от (П2.14) к (П2.13) осуществляется с помощью последовательной подстановки в правую часть (П2.14) вместо ?t?1, ?t?2,... их выражений, вычисленных в соответствии с (П2.14) для моментов времени t ? 1, t ? 2 и т.д.
Рассмотрим также процесс смешанного типа, в котором присутствуют как авторегрессионные члены самого процесса, так и скользящее суммирование элементов белого шума:
Будем подразумевать, что p и q могут принимать и бесконечные значения, а также то, что в частных случаях некоторые (или даже все) коэффициенты ? или ? равны нулю.
П2.3.1. Модели авторегрессии порядка p (AR(p)-модели)
Рассмотрим сначала простейшие частные случаи.
Модель авторегрессии 1-го порядка ? AR(1) (марковский процесс). Эта модель представляет собой простейший вариант авторегрессионного процесса типа (П2.14), когда все коэффициенты кроме первого равны нулю. Соответственно, она может быть определена выражением
?t = ??t?1 + ?t, (П2.15)
где ? ? некоторый числовой коэффициент, не превосходящий по абсолютной величине единицу (|?| < 1), а ?t ? последовательность случайных величин, образующая белый шум. При этом ?t зависит от ?t и всех предшествующих ?, но не зависит от будущих значений ?. Соответственно, в уравнении (П2.15) ?t не зависит от ?t?1 и более ранних значений ?. В связи с этим, ?t называют инновацией (обновлением).
Последовательности ?, удовлетворяющие соотношению (П2.15), часто называют также марковскими процессами. Это означает, что
E?t ? 0, (П2.16)
r(?t, ?t?k) = ?k, (П2.17)
D?t = , (П2.18)
cov(?t, ?t?k) = ?kD?t. (П2.19)
Одно важное следствие (П2.19) состоит в том, что если величина |?| близка к единице, то дисперсия ?t будет намного больше дисперсии ?. А это значит, что если соседние значения ряда ?t сильно коррелированы, то ряд довольно слабых возмущений ?t будет порождать размашистые колебания остатков ?t.
Основные характеристики процесса авторегрессии 1-го порядка следующие.
Условие стационарности ряда (П2.15) определяется требованием к коэффициенту ?:
|?| < 1,
или, что то же, корень z0 уравнения 1 ? ?z = 0 должен быть по абсолютной величине больше единицы.
Автокорреляционная функция марковского процесса определяется соотношением (П2.17):
r(?) = r(?t, ?t??) = ??. (П2.20)
Отсюда же, в частности, следует простая вероятностная интерпретация параметра ?:
? = r(?t, ?t?1),
т.е. значение ? определяет величину корреляции между двумя соседними членами ряда ?t.
Из (П2.20) видно, что степень тесноты корреляционной связи между членами последовательности (П2.15) экспоненциально убывает по мере их взаимного удаления друг от друга во времени.
Частная автокорреляционная функция rчаст(?) = r(?t, ?t+? | ?t+1 = ?t+2 =...= ?t+??1 = 0) может быть подсчитана с помощью формул (П2.4)-(П2.5). Непосредственное вычисление по этим формулам дает следующий простой результат: значения частной корреляционной функции rчаст(?) равны нулю для всех ? = 2, 3,.... Это свойство может быть использовано при подборе модели: если вычисленные выборочные частные корреляции статистически незначимо отличаются от нуля при ? = 2, 3,..., то использование модели авторегрессии 1-го порядка для описания поведения случайных остатков временного ряда не противоречит исходным статистическим данным.
Спектральная плотность марковского процесса (П2.15) может быть подсчитана с учетом известного вида автокорреляционной функции (П2.20):
.
В случае значения параметра ? близкого к 1, соседние значения ряда ?t близки друг к другу по величине, автокорреляционная функция экспоненциально убывает оставаясь положительной, а в спектре преобладают низкие частоты, что означает достаточно большое среднее расстояние между пиками ряда ?t. При значении параметра ? близком к -1, ряд быстро осциллирует (в спектре преобладают высокие частоты), а график автокорреляционной функции экспоненциально спадает до нуля с попеременным изменением знака.
Идентификация модели, т.е. статистическое оценивание ее параметров ? и по имеющейся реализации временного ряда xt (а не его остатков, которые являются ненаблюдаемыми), основана на соотношениях (П2.16)?(П2.19) и может быть осуществлена с помощью метода моментов. Для этого следует предварительно решить задачу выделения неслучайной составляющей , что позволит оперировать в дальнейшем остатками
(П2.21)
Затем подсчитывается выборочная дисперсия остатков по формуле
где , а "невязки" (остатки) вычислены по формуле (П2.21).
Оценку параметра ? получаем с помощью формулы (П2.18), подставляя в нее вместо коэффициента корреляции его выборочное значение, т.е. .
Наконец, оценка параметра основана на соотношении (П2.19), в котором величины D?t и ? заменяются оценками, соответственно, и :
Модели авторегрессии 2-го порядка - AR(2) (процессы Юла). Эта модель, как и AR(1), представляет собой частный случай авторегрессионного процесса, когда все коэффициенты ?j в правой части (П2.14) кроме первых двух, равны нулю. Соответственно, она может быть определена выражением
?t = ?1?t?1 + ?2?t?2 + ?t, (П2.22)
где последовательность ?1, ?2,... образует белый шум.
Условия стационарности ряда (П2.22) (необходимые и достаточные) определяются как:
В рамках общей теории моделей те же самые условия стационарности получаются из требования, чтобы все корни соответствующего характеристического уравнения лежали бы вне единичного круга. Характеристическое уравнение для модели авторегрессии 2-го порядка имеет вид:
Автокорреляционная функция процесса Юла подсчитывается следующим образом. Два первых значения r(1) и r(2) определены соотношениями
а значения для r(?), ? = 3, 4,... вычисляются с помощью рекуррентного соотношения
r(?) = ?1r(? ? 1) + ?2r(? ? 2).
Частная автокорреляционная функция временного ряда, сгенерированного моделью авторегрессии 2-го порядка, обладает следующим отличительным свойством:
rчаст(?) = 0 при всех ? = 3, 4,...
Спектральная плотность процесса Юла может быть вычислена с помощью формулы:
Идентификация модели авторегрессии 2-го порядка основана на соотношениях, связывающих между собой неизвестные параметры модели ?1, ?2 и со значениями различных моментов "наблюдаемого" временного ряда ?t.
По значениям вычисляются оценки и , соответственно, дисперсии D?t и автокорреляций r(1) и r(2). Это делается с помощью соотношений (П2.2) и (П2.3):
После этого можно получить оценки и из соотношений
Наконец, оценку параметра получаем с помощью
Модели авторегрессии p-го порядка - AR(p) (p ? 3). Эти модели, образуя подмножество в классе общих линейных моделей, сами составляют достаточно широкий класс моделей. Если в общей линейной модели (П2.14) полагать все параметры ?j, кроме первых p коэффициентов, равными нулю, то мы приходим к определению AR(p)-модели:
(П2.23)
где последовательность случайных величин ?1, ?2,... образует белый шум.
Условия стационарности процесса, генерируемого моделью (П2.23), также формулируются в терминах корней его характеристического уравнения
1 ? ?1z ? ?2z2 ?...? ?pzp = 0.
Для стационарности процесса необходимо и достаточно, чтобы все корни характеристического уравнения лежали бы вне единичного круга, т.е. превосходили бы по модулю единицу.
Автокорреляционная функция процесса (П2.23) может быть вычислена с помощью рекуррентного соотношения по первым p ее значениям r(1),..., r(p). Это соотношение имеет вид:
r (?) = ?1r(? ? 1) + ?2r(? ? 2) +...+ ?pr(? ? p), ? = p + 1, p + 2,... (П2.24)
Частная автокорреляционная функция процесса (П2.23) будет иметь ненулевые значения лишь при ? ? p; все значения rчаст(p) при ? > p будут нулевыми (см., например, [Бокс, Дженкинс (1974)]). Это свойство частной автокорреляционной функции AR(p)-процесса используется, в частности, при подборе порядка в модели авторегрессии для конкретных анализируемых временных рядов. Если, например, все частные коэффициенты автокорреляции, начиная с порядка k, статистически незначимо отличаются от нуля, то порядок модели авторегрессии естественно определить равным p = k ? 1.
Спектральная плотность процесса авторегрессии p-го порядка определяется с помощью формулы:
Идентификация модели авторегрессии p-го порядка основана на соотношениях, связывающих между собой неизвестные параметры модели и автокорреляции исследуемого временного ряда. Для вывода этих соотношений последовательно подставляются в (П2.24) значения ? = 1, 2,..., p. Получается система линейных уравнений относительно ?1, ?2,..., ?p:
(П2.25)
называемая уравнениями Юла-Уокера [Yule (1927)], [Walker (1931)]. Оценки для параметров ?k получим, заменив теоретические значения автокорреляций r(k) их оценками и решив полученную таким образом систему уравнений.
Оценка параметра получается из соотношения
заменой всех участвующих в правой части величин их оценками.
П2.3.2. Модели скользящего среднего порядка q (МА(q)-модели)
Рассмотрим частный случай общего линейного процесса (П2.13), когда только первые q из весовых коэффициентов ?j ненулевые. В это случае процесс имеет вид
?t = ?t ? ?1?t?1 ? ?2?t?2 ?...? ?q?t?q, (П2.26)
где символы ??1,..., ?q используются для обозначения конечного набора параметров ?, участвующих в (П2.13). Процесс (П2.26) называется моделью скользящего среднего порядка q (МА(q)).
Двойственность в представлении AR- и МА-моделей и понятие обратимости МА-модели. Из (П2.13) и (П2.14) видно, что один и тот же общий линейный процесс может быть представлен либо в виде AR-модели бесконечного порядка, либо в виде МА-модели бесконечного порядка.
Соотношение (П2.26) может быть переписано в виде
?t =?t + ?1?t?1 + ?2?t?2 +...+ ?q?t?q.
Откуда
?t = ?t ? ?1?t?1 ? ?2?t?2 ?..., (П2.27)
где коэффициенты ?j (j = 1, 2,...) определенным образом выражаются через параметры ?1,..., ?q. Соотношение (П2.27) может быть записано в виде модели авторегрессии бесконечного порядка (т.е. в виде обращенного разложения)
Известно (см., например, [Бокс, Дженкинс, (1974)]), что условие обратимости МА(q)-модели (т.е. условие сходимости ряда ) формулируется в терминах характеристического уравнения модели (П2.26) следующим образом:
Все корни характеристического уравнения должны лежать вне единичного круга, т.е. |zj| > 1 для всех j = 1, 2,..., q.
Основные характеристики процесса МА(q). Справедливо следующее выражение для ковариаций:
(П2.28)
Автокорреляционная функция процесса МА(q) получается непосредственно из (П2.28):
(П2.29)
Таким образом, автокорреляционная функция r(?) процесса МА(q) равна нулю для всех значений ?, больших порядка процесса q. Это важное свойство используется при подборе порядка МА(q)-модели по экспериментальным данным.
Спектральная плотность процесса МА(q) может быть вычислена с помощью соотношения:
Идентификация модели МА(q) производится на базе соотношений (П2.29), а именно: 1) по значениям с помощью формулы
подсчитываются значения ; 2) в соотношения (П2.29) последовательно подставляются значения ? = 1,..., q с заменой в левой их части величин r(?) полученными ранее оценками ; 3) полученная таким образом система из q уравнений разрешается относительно неизвестных значений ?1,..., ?q; решения этой системы и дадут оценки неизвестных параметров модели; 4) оценка параметра может быть получена с помощью первого из соотношений (П2.28) подстановкой в него вместо ?(0), ?1,..., ?q их оценок.
Заметим, что в отличие от системы уравнений Юла?Уокера (П2.25), уравнения для определения оценок параметров МА(q)-модели нелинейны. Поэтому эти уравнения приходится решать с помощью итерационных процедур (см., например, [Бокс, Дженкинс (1974)]).
Взаимосвязь процессов AR(q) и МА(q). Сделаем ряд замечаний о взаимосвязях между процессами авторегрессии и скользящего среднего.
1. Для конечного процесса авторегрессии порядка p ?t может быть представлено как конечная взвешенная сумма предшествующих ?, или ?t может быть представлено как бесконечная сумма предшествующих ?. В то же время, в конечном процессе скользящего среднего порядка q ?t может быть представлено как конечная взвешенная сумма предшествующих ? или ?t ? как бесконечная взвешенная сумма предшествующих ?.
2. Конечный процесс МА имеет автокорреляционную функцию, обращающуюся в нуль после некоторой точки, но так как он эквивалентен бесконечному процессу AR, его частная автокорреляционная функция бесконечно протяженная. Главную роль в ней играют затухающие экспоненты и (или) затухающие синусоиды. И наоборот, процесс AR имеет частную автокорреляционную функцию, обращающуюся в нуль после некоторой точки, но его автокорреляционная функция имеет бесконечную протяженность и состоит из совокупности затухающих экспонент и или затухающих синусоид.
3. Параметры процесса авторегрессии конечного порядка не должны удовлетворять каким-нибудь условиям для того, чтобы процесс был стационарным. Однако для того чтобы процесс МА был обратимым, корни его характеристического уравнения должны лежать вне единичного круга.
4. Спектр процесса скользящего среднего является обратным к спектру соответствующего процесса авторегрессии.
П2.3.3. Авторегрессионные модели со скользящими средними в остатках (ARMA(p, q)-модели)
Представление процесса типа МА в виде процесса авторегрессии неэкономично с точки зрения его параметризации. Аналогично процесс AR не может быть экономично представлен с помощью модели скользящего среднего. Поэтому для получения экономичной параметризации иногда бывает целесообразно включить в модель как члены, описывающие авторегрессию, так и члены, моделирующие остаток в виде скользящего среднего. Такие линейные процессы имеют вид
?t = ?1?t?1 +...+ ?p?t?p + ?t ? ?1?t?1 ?...? ?q?t?q (П2.30)
и называются процессами авторегрессии ? скользящего среднего порядка (p, q)(ARMA(p, q)).
Стационарность и обратимость ARMA(p, q)-процессов. Записывая процесс (П2.30) в виде
<< Пред. стр. 9 (из 9) След. >>