1 АВТОКОРРЕЛЯЦИЯ Третье условие теоремы Гаусса-Маркова – независимость случайных возмущений друг от друга. На диаграмме видно, что это условие нарушено. За положительными отклонениями следуют положительные. То же для отрицательных. Это пример положительной автокорреляции. y x y = + x

2 АВТОКОРЕЛЛЯЦИЯ 3 Пример отрицательной автокорреляции. За положительными чаще всего слуедуют отрицательные значения и наоборот. y y = + x x

3 Авторегрессия 1-го порядка: AR(1) АВТОКОРЕЛЛЯЦИЯ 4 Наиболее распространена автокорреляция 1-го порядка обычно обозначаемая AR(1). Здесь u t определяется значениями той же самой величины с добавлением нового элемента случайности ε t ( инновации)

4 Авторегрессия 1-го порядка : AR(1) Авторегрессия 5-го порядка : AR(5) Авторкорреляция скользящих средних 3-го порядка: MA(5) АВТОКОРЕЛЛЯЦИЯ 6 Примеры более сложных авторегрессионных корреляций.

5 АВТОКОРЕЛЛЯЦИЯ 9 Рассмотрим на качественном уровне примеры автокорреляции типа AR(1). Имитационное моделирование автокорреляции: t – распределена по стандартному нормальному закону с 0 средним и дисперсией 1, меняется.

6 АВТОКОРЕЛЛЯЦИЯ 11 = 0, т.е автокорреляция отсутствует. Процесс - нормальная случайная величина.

7 АВТОКОРЕЛЛЯЦИЯ 12

8 АВТОКОРЕЛЛЯЦИЯ 13

9 АВТОКОРЕЛЛЯЦИЯ 14 При = 0.3, начинает проявляться небольшая положительная автокорреляция.

10 АВТОКОРЕЛЛЯЦИЯ 15

11 АВТОКОРЕЛЛЯЦИЯ 16

12 АВТОКОРЕЛЛЯЦИЯ 17 С = 0.6, очевидно, что u подвержена положительной автокорреляции. Положительные значения чаще следуют за положительными, а отрицательные за отрицательными.

13 АВТОКОРЕЛЛЯЦИЯ 18

14 АВТОКОРЕЛЛЯЦИЯ 19

15 АВТОКОРЕЛЛЯЦИЯ 20 С = 0.9 последовательность значений с одним знаком становится длинной, а тенденция возврата к 0 слабой.

16 АВТОКОРЕЛЛЯЦИЯ 21 При больших процесс становится нестационарным, приближаясь к случайному блужданию.

17 АВТОКОРЕЛЛЯЦИЯ 22 Рассмотрим примеры отрицательной автокорреляции для тех же значений t.

18 АВТОКОРЕЛЛЯЦИЯ 23

19 АВТОКОРЕЛЛЯЦИЯ 24 С = 0.6 можно видеть что положительные значения имеют тенденцию следовать за отрицательными и наоборот. Отрицательная автокорреляция становится очевидной.

20 АВТОКОРЕЛЛЯЦИЯ 25

21 = ============================================================ Dependent Variable: LGFOOD Method: Least Squares Sample: Included observations: 36 ============================================================= Variable Coefficient Std. Error t-Statistic Prob. ============================================================= C LGDPI LGPRFOOD ============================================================= R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criter Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) ============================================================= АВТОКОРЕЛЛЯЦИЯ 26 Рассмотрим остатки логарифмической зависимости расходов на продовольствие в зависимости от дохода и относительной цены в пакете EViews.

22 АВТОКОРЕЛЛЯЦИЯ 27 На графике видно, что случайные возмущения подвержены положительной автокорреляции. Сравнивая с примерами имитационного моделирования можно предполагать, что коэффициент корреляции не ниже 0.6.

23 1 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Стандартный тест на автокорреляцию типа AR(1) основан на d статистике Дарбина- Уотсона. Сравнивается среднеквадратичная разность соседних значений с дисперсией остатков.

24 Для больших выборок Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ При отсутствии автокорреляции близко к 0, а d близко к 2. Для положительной автокорреляции близко к 1, а d близко к 0. Соответственно для отрицательной автокорреляции близко к -1, а d близко к 4.

25 6 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Рисунок иллюстрирует поведение d графически. Поскольку d имеет вероятностное распределение то необходимо оценить доверительный интервал значимости оценки Положительная автокорреляция Отрицательная автокорреляция Нет автокорреляции

26 Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция 10 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нулевая гипотеза H0: = 0 (нет автокорреляции). Если d лежит в доверительном интервале 2 ± d cr то гипотеза не отвергается с заданной вероятностью. К сожалению d cr зависит от конкретных данных выборки, но Дарбин и Уотсон дали значения для оценки интервалов, в которых лежат критические значения, d U и d L, не зависящие от данных. Интервалы расположены симметрично относительно dLdL dUdU d crit положительная автокорреляция отрицательная автокорреляция нет автокорреляции d crit

27 Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция 10 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Если d меньше d L, то то нулевая гипотеза отвергается, автокорреляция положительная dLdL dUdU d crit положительная автокорреляция отрицательная автокорреляция нет автокорреляции d crit

28 Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция 10 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Если d больше d U, то нулевая гипотеза не отвергается, но необходимо проверить модель на отрицательную автокорреляцию. Если d лежит в интервале [d L, d U ], то тест не дает определенной оценки dLdL dUdU d crit положительная автокорреляция отрицательная автокорреляция нет автокорреляции d crit

29 Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция 10 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ На рисунке приведены значения d L и d U для для модели с 2-мя объясняющими переменными построенной по 35 наблюдениям при 5% пороге значимости. При d=0,63, как в данном примере, 0,63 < 1,35, то нулевая гипотеза отвергается с 95% вероятностью, автокорреляция остатков положительна dLdL dUdU d crit положительная автокорреляция отрицательная автокорреляция нет автокорреляции d crit d=0,63

30 Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция 10 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ При d=1,42, большим 1,35 и меньшим 1,59, тест не дает определенной оценки dLdL dUdU d crit положительная автокорреляция отрицательная автокорреляция нет автокорреляции d crit d=0,63

31 Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция 10 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Если 1.59 < d < 2.41, нулевая гипотеза не отвергается и можно утверждать, что автокорреляция остатков отсутствует dLdL dUdU d crit положительная автокорреляция отрицательная автокорреляция нет автокорреляции d crit d=0,63

32 Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция 10 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Если 2.41 < d < 2.65, тест не дает однозначной оценки dLdL dUdU d crit положительная автокорреляция отрицательная автокорреляция нет автокорреляции d crit d=0,63

33 Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция 10 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Если 2.65 < d < 4, нулевая гипотеза отвергается и можно утверждать, что имеется отрицательная автокорреляция остатков dLdL dUdU d crit положительная автокорреляция отрицательная автокорреляция нет автокорреляции d crit d=0,63

34 Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция 10 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Интервалы оценки гипотез при 1% пороге значимости dLdL dUdU d crit положительная автокорреляция отрицательная автокорреляция нет автокорреляции d crit d=0,63

35 22 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Диаграмма зависимости для логарифмической регрессии трат на продовольствие показывает сильную положительную автокорреляцию.

36 = ============================================================ Dependent Variable: LGFOOD Method: Least Squares Sample: Included observations: 36 ============================================================= Variable Coefficient Std. Error t-Statistic Prob. ============================================================= C LGDPI LGPRFOOD ============================================================= R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criter Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) ============================================================= 23 ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Значение d статистики очень низкое, ниже d L для 1% теста значимости (1.15), поэтому можно отвергнуть нулевую гипотезу об отстутствии автокорреляции.

37 УСТРАНЕНИЕ AR(1) АВТОКОРРЕЛЯЦИИ 4 Автокорреляция AR(1) может быть устранена в лаговых моделях. Для этого нужно множить уравнение для y t-1 на ρ и вычесть из y t. Случайный член t, (инновация) не является автокоррелированным. Проблема автокорреляции устранена. Есть только одна проблема: нелинейность лаговой модели относительно x t-2. В силу этого обычный МНК не применим из за конфликта параметров (0,5*0,8 0,6). Проблема может быть решена численными методами подбора параметров.

38 УСТРАНЕНИЕ AR(1) АВТОКОРРЕЛЯЦИИ 11 Аналогично устраняется влияние автокорреляции в множественной регрессионной модели. Вновь получаем нелинейную лаговую модель свободную от автокорреляции.

39 ============================================================= Dependent Variable: LGHOUS Method: Least Squares Sample(adjusted): LGHOUS=C(1)*(1-C(2))+C(2)*LGHOUS(-1)+C(3)*LGDPI-C(2)*C(3) *LGDPI(-1)+C(4)*LGPRHOUS-C(2)*C(4)*LGPRHOUS(-1) ============================================================= Coefficient Std. Error t-Statistic Prob. ============================================================= C(1) C(2) C(3) C(4) ============================================================= R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criter Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) ============================================================= 14 УСТРАНЕНИЕ AR(1) АВТОКОРРЕЛЯЦИИ Пример расчета нелинейной лаговой регрессионной модели зависимости спроса на жилье в зависимости от дохода и цен на жилье для AR(1) процесса автокорреляции, используя пакет EViews.

40 4 Метод решения состоит в оценке и последовательном уточнении коэффициента корреляции. Модель может быть преобразована к (*) нелинейной свободной от автокорреляции модели. Если автокорреляция AR(1)типа, то CORR( e t,e t-1 ) CORR(u t,u t-1 ). Используя это ρ, можно вычислить коэффициенты α и β для модели (*) и вновь провести оценку ρ. ИТЕРАТИВНАЯ ПРОЦЕДУРА КОКРАНА - ОРКАТТА

41 1.Построить регрессию y t от x t используя МНК 2.Вычислить e t = y t - a - bx t и найти с помощью регрессии e t от e t-1 оценку. 3.Вычислить y t и x t и найти регрессию y t от x t по которой определить оценки для a и b. Повторить с шага 2 до выполнения сходимости. Сходимость алгоритма достигается когда оценка коэффициента корреляции будет изменяться на величину меньшую заданной точности. ИТЕРАТИВНАЯ ПРОЦЕДУРА КОКРАНА - ОРКАТТА ~~~~