Лекция 11 Тестирование автокорреляции Обобщенный метод наименьших квадратов

1.Делать спецификацию модели 2. Подбирать данные для оценки параметров модели 3. Оценивать модель и анализировать результаты: 3.1. Процедура МНК (теорема Гаусса-Маркова) 3.2. Оценка качества спецификации модели - коэффициент детерминации R2, F-тест - статистическая значимость факторов (регрессоров) - наличие мультиколлинеарности 3.3. Тестирование качества оценок параметров модели - тестирование модели на гетероскедастичность - тестирование автокоррелируемости случайных возмущений

Модель называется автокоррелированной, если не выполняется третья предпосылка теоремы Гаусса- Маркова: Cov(u i,u j )0 при ij Автокорреляция чаще всего появляется в моделях временных рядов и моделировании циклических процессов Причина – неправильный выбор спецификации модели. Последствия автокорреляции - оценки коэффициентов теряют эффективность; - стандартные ошибки коэффициентов занижены

Диаграмма рассеяния с положительной автокорреляцией Признак – чередование зон с повышенными и заниженными значениями по отношению к тренду

Пример отрицательной автокорреляции случайных возмущений Признак – наблюдения действуют друг на друга по принципу «маятника»

Модели с автокоррелированными остатками называются авторегрессионными Рассматриваем модель парной регрессии Авторегрессия 1-го порядка : AR(1) Авторегрессия 5-го порядка : AR(5) Авторкорреляция скользящих средних 3-го порядка:

1. Предпосылки теста Случайные возмущения распределены по нормальному закону Имеет место авторегрессия первого порядка: 2. Статистика для проверки гипотезы:

3. Свойства статистики DW где: r- коэффициент корреляции между случайными возмущениями Из этого выражения следует: DW изменятся в пределах (0 – 4) При этомесли r = 1, DW=0- положительная корреляция если r = 0, DW=2-; отсутствие корреляции если r=-1, DW=4- отрицательная корреляция

Особенности статистики DW: Для статистики DW не возможно найти критическое значение, т.к. оно зависит не только от Р дов и степеней свободы k и n, но и от абсолютных значений регрессоров Возможно определить границы интервала D L и D u внутри которого критическое значение DW кр находится: D L DW кр D u Значения D u и D L находятся по таблицам

24 0 dLdL dUdU d crit положительная автокорреляция нет автокорреляции отрицательная автокорреляция Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция Интервалы (D L, D u ) и (4-D L, 4-D u ) зоны неопределенности 4-d u 4-d L

Государственные расходы на образование в различных странах Расхо-ВВП U=Y-Ui-U i-1 (U i -U i-1 ) 2 Расхо-ВВП U=Y-Ui-U i-1 (U i -U i-1 ) 2 ды (Y)(X) ды (Y)(X) 0,345,67-1,92,28 5,31101,654,480,83 0,2210,13-1,61,86-0,420,186,4115,975,440,96-0,130,02 0,3211,34-1,61,880,020,007,15119,495,671,48-0,510,26 1,2318,88-1,12,290,410,1611,22124,155,985,24-3,7614,12 1,8120,94-0,92,730,440,208,66140,987,111,553,6913,58 1,0222,16-0,81,86-0,870,765,56153,857,97-2,413,9615,69 1,2723,83-0,72,000,140,0213,41169,389,014,40-6,8146,39 1,0724,67-0,71,74-0,260,075,46186,3310,14-4,689,0882,52 0,6727,56-0,51,15-0,590,354,79211,7811,85-7,062,375,63 1,2527,57-0,51,730,580,348,92249,7214,38-5,46-1,592,53 0,7540,150,40,38-1,341,8018,9261,4115,173,73-9,2084,60 2,851,621,11,671,281,6515,95395,5224,14-8,1911,92142,10 4,957,711,53,361,692,8729,9534,9733,46-3,56-4,6221,36 3,563,031,91,60-1,763,0833,59655,2941,51-7,924,3618,99 4,4566,322,12,330,730,5338, ,20-13,585,6531,96 1,666,972,2-0,56-2,898,3761,611040,567,28-5,67-7,9162,56 4,2676,882,81,442,003,99181,32586,4170,6910,61-16,28265,03

Результаты расчетов: Модель: Границы интервала – d L =1.35; d u =1.49 DW< d L Вывод: модель автокоррелирована

Y/ВВП1/ВВПY*прUU i -U i-1 (U i -U i-1 ) 2 Y/ВВП1/ВВПY*прUU i -U i-1 (U i -U i-1 ) 2 0,0600,17640,0420,0183 0,0520,00980, , ,003380, ,0220,09870,047-0,0250-0,04330,001880,0550,00860,052640,002550,002870, ,0280,08820,047-0,01920,00580,000030,0600,00840,052650,007180,004630, ,0650,05300,0500,01540,03460,001200,0900,00810,052680,037700,030520, ,0860,04780,0500,03640,02090,000440,0610,00710,052740, ,029010, ,0460,04510,050-0,0042-0,04060,001650,0360,00650, , ,025330, ,0530,04200,0500,00280,00710,000050,0790,00590,052820,026350,042990, ,0430,04050,051-0,0072-0,01000,000100,0290,00540, , ,049900, ,0240,03630,051-0,0265-0,01930,000370,0230,00470, , ,006730, ,0450,03630,051-0,00550,02100,000440,0360,00400, ,017220,013060, ,0190,02490,052-0,0329-0,02740,000750,0720,00380,052950,019350,036570, ,0540,01940,0520,00230,03520,001240,0400,00250, , ,032060, ,0850,01730,0520,03280,03050,000930,0560,00190,053080,002810,015520, ,0560,01590,0520,0034-0,02950,000870,0510,00150, , ,004650, ,0670,01510,0520,01490,01150,000130,0470,00120, , ,003890, ,0240,01490,052-0,0283-0,04320,001870,0590,00100,053140,006070,011810, ,0550,01300,0520,00310,03140,000990,0700,00040,053180,016920,010840,00012 Относительные расходы на образование в различных странах

Результаты построения модели: Границы интервала – d L =1.35; d u =1.49 d u

Рассматривается случай авторегрессии первого порядка: Тогда: Cov(ε t,U t-1 )=0, т.к. переменные независимые Следовательно: (11.1)

Т.к. U 0 отсутствует, полагаем, что σ 2 (U 1 ) =σ 2 (U 0 ) Тогда из (11.1) следует: (11.2) Множитель (1-ρ 2 ) обеспечивает стационарность σ 2 (U t ), т.е. постоянство σ 2 (U t ) Выражение (11.2) – начальное условие для σ 2 (U 0 ) Из выражения (11.1) с учетом (11.2) вытекает :

Для произвольного наблюдения t в силу рекурентности (11.1) имеем: (11.3) Вывод: введение корректирующего множителя (1-ρ 2 ) обеспечивает постоянство σ 2 (U) во всех наблюдениях и, следовательно, отсутствие автокорреляции между случайными возмущениями

Рассмотрим два последовательных уравнения наблюдения (11.4) (11.5) Умножим уравнение (11.5) на ρ и вычтем из (11.4) Учитывая, что u t -ρu t-1 =ε t и делая замену переменных: получим систему уравнений, в которых дисперсия случайных возмущений постоянна (11.6) (11.5-1)

Параметры уравнения (11.6) можно оценить с помощью МНК Если значение ρ известно, то решение окончено Замечание. Уравнения (11.6) имеют смысл при t=2, т.к. при t=1 оно не может быть получено Для включения первого уравнения наблюдений в систему (11.6) его умножают на (1-ρ) ½ Этот множитель (поправка Прайса-Уинстона) беспечивает уменьшение влияния первого уравнения на все остальные при ρ близких к единице Тогда окончательно система уравнений наблюдений принимает вид: (11.7)

Процедура Кохрейна-Оркатта Шаг 1. Получают МНК оценки исходной модели (11.4) и вычисляются значения u i для каждого уравнения наблюдений Шаг2. Формируется схема Гаусса-Маркова для модели (11.8) и оценивается МНК значение ρ 1 Шаг 3. С найденной оценкой ρ 1 производят преобразо- вание исходной модели (11.4) по правилу: (11.7) (11.7)

Шаг 4. Находятся МНК оценки параметров модели (11.4) по уравнениям наблюдений (11.7) Шаг 5. Вычисляются новые значения случайных возмущений U i и строится схема Гаусса-Маркова для оценки модели (11.8) Шаг 6. Находится очередная МНК оценка коэффициента ρ 2 Шаг 7. Проверяется условие отсутствия автокорреляции и и условие ρ

Метод Дарбина Уравнение (11.5-1) переписывается следующим образом (11.9) В уравнение регрессии включается лаговое значение эндогенной переменной и производится оценка, входящих в него параметров: Полученные значения параметров ρ, b i, a i, позволяют полностьюопределить исходную модель

В общем случае, когда не выполняются предпосылки теоремы гаусса-Маркова 2 и 3, тогда: (11.9)

Теорема Эйткена. Если матрица Х коэффициентов уравнения наблюдений имеет полный ранг, М(u i )=0, а матрица ковариаций случайных возмущений имеет вид (11.9), то наилучшие оценки параметров линейной модели множественной регрессии дает процедура: Если: Ω=E, то (11.10) превращается в МНК p i Const, а C ij =0 – (11.10) превращается в ВМНК (11.10)

Выводы: 1. Приводит к потере эффективности оценок параметров модели множественной регрессии 2. Тест Дарбина Уотсона позволяет оценить наличие автокорреляции 3. Обобщенный метод наименьших квадратов (ОМНК) позволяет получать наилучшие оценки параметров линейной модели множественной регрессии в случае наличия гетероскедастичности и автокорреляции