Эконометрика

Эконометрика и эконометрическое моделирование: основные понятия и определения

Под экономическим объектом будем понимать любой элемент экономики (микроуровень: фирмы, семьи, предприятия; мезоуровень: регионы, отдельный сектор экономики, отрасли, корпорации; макроуровень: экономика страны в целом). Экономические переменные это набор количественных характеристик, описывающий деятельность экономического объекта.

Эконометрика это научная дисциплина, объединяющая совокупность тео­ретических результатов, приемов, методов и моделей, предназначенная для того, чтобы на базе: экономической теории, экономической статистики и экономических измерений, математико-статистического инструментария придавать конкретное ко­личественное выражение общим (качественным) закономерностям, обусловленным экономической теорией).

Эконометрика является одним из разделов математического модели­рования экономических процессов, который базируется: на экономической теории; экономической статистике и экономических измерениях; математико-статистическом инструментарии, и предназначена для построения эконометрических моделей, которые ис­пользуются для оценивания и прогнозирования значений экономических переменных, недоступных для измерения.

Этапы построения эконометрических моделей и принципы спецификации

Построение эконометрических моделей (как и экономико-математических) выполняется в несколько этапов: 1) спецификация модели; 2) сбор статистической информации об объекте исследования; 3) оценка параметров модели (параметризация, настройка); 4) проверка адекватности модели (верификация).

Экономико-математическая модель объекта (математическая модель экономического объекта) представляет собой математически выраженную связь между его экономическими переменными. Это либо набор графиков или таблиц, либо система математических уравнений (алгебраических, конечно-разностных, дифференциальных, инте­ральных и т. д.) и, возможно, неравенств, связывающих воедино экономические переменные объекта.

По отношению к выбранной спецификации все экономические переменные объекта подразделяются на два типа: эндогенные экзогенные.

Определение Экзогенными (независимыми) называются экономические переменные, значения которых определяются вне данной модели.

Эндогенными (зависимыми) называются экономические переменные, значения которых определяются (объясняются) внутри модели в результате одновременного взаимодействия соотношений, образующих модель.

Определение При наличии хотя бы одной экзогенной переменной модель называется открытой, в противном случае замкнутой.

Первый принцип спецификации Экономико-математическая модель строится по результатам математической формализации закономерностей общей экономической теории.

Второй принцип спецификации В правильно составленной спецификации содержится столько уравнений, сколько эндогенных переменных включается в модель

Третий принцип спецификации Учет фактора времени в экономических моделях, или датирование экономических переменных.

Определение Переменные модели называются датированными, если обозначена их зависимость от времени.

Если экономические утверждения отражают статическую (относящуюся к одному периоду времени) взаимосвязь всех включённых в модель переменных, то значения таких переменных принято называть пространственными данными. И надобности в их датитровании нет.

Если экономические утверждения отражают динамическую (зависящую от фактора времени) взаимосвязь включённых в модель переменных, то значения таких перемен­ных датируют и называют динамическими или временными рядами

Определение Лаговыми называются экзогенные или эндогенные переменные экономической модели, датированные предыдущими момен­тами времени и находящиеся в уравнении с текущими переменными.

Модели, включающие лаговые переменные, относятся к классу динамических моделей.

Определение Предопределёнными называются лаговые и текущие экзогенные переменные, а также лаговые эндогенные переменные.

Четвертый принцип спецификации Включение случайных возмущений в спецификацию экономической модели.

Экономические модели со случайными возмущениями принято называть эконометрическими.

На первом этапе построения эконометрических моделей, то есть спецификации модели привлекается общая экономическая теория и математика и не содержат информацию о конкретных значениях параметров модели.

Поэтому для построения оценок (или прогнозов) значений эндогенных переменных необходимо привлечь результаты статистических наблюдений за данным экономическим объектом, полученные на втором этапе построения модели.

Далее, на основании статистической информации при помощи статистических методов (как правило, методов регрессионного анализа) выполняется оценка параметров модели третий этап построения модели (этап настройки).

Таким образом, на втором и третьем этапах привлекается третья составляющая эконометрики статистика (теория статистических измерений и математическая статистика).

Следующий этап построения эконометрической модели верификация (проверка адекватности модели). На данном этапе проверяется соответствие модели эмпирическим данным.

Структурная и приведенная формы эконометрических моделей Для построения прогнозов эндогенных переменных необходимо выразить текущие эндогенные переменные модели в виде явных функ­ций предопределённых переменных. Последняя спецификация, полученная путем включе­ния случайных возмущений получена в результате математической формализации экономических закономер­ностей. Такая форма спецификации называется структурной. В общем случае в структурной спецификации эндогенные переменные не выра­жены в явном виде через предопределенные.

В модели равновесного рынка только переменная предложения выражена в явном виде через предопределенную переменную, поэтому для представления эндогенных переменных через предопределенные необходимо выполнить некоторые преобразования структурной формы. Решим систему урав­нений для последний спецификации относительно эндогенных переменных.

Получим Y t d =a 0 +a 1 p t +a 2 x t +u t, a 1 0, Y s =b 0 +b 1 p t-1 +v t, b 1 >0 Y t d =Y t s

Подставим первое и второе урав­нения в третье, а 0 + а 1 p t +а 2 х t +u t =b 0 +b 1 p t-1 + v t, и выразим текущее значение цены равновесия через предопределенные переменные:

Окончательно получим выраже­ние спроса через предопределенные переменные: Таким образом, после преобразований спецификация модели принимает следующий вид: Y t d =b 0 +b 1 p t-1 +v t, Y s =b 0 +b 1 p t-1 +v t, p t =c 0 + c 1 p t-1 +c 2 x t +ε t, с 1 0, b 1 >0

Таким образом, эндогенные переменные модели выражены в явном виде через предопределенные переменные. Такая форма спецификации получила название приведенной. В частном случае структурная и приведённая фор­мы модели могут совпадать. При правильной спецификации модели пере­ ход от структурной к приведённой форме всегда возможен, обратный пе­реход возможен не всегда.

Матричная запись структурной и приведенной форм моделей Введем следующие обозначения: Y t вектор-столбец текущих значений эндогенных переменных; X t расширенный вектор-столбец предопределённых переменных, значения которых известны к моменту t; А и В матрицы коэффициентов структурной формы модели (струк­турные коэффициенты); V t вектор-столбец текущих возмущений. С учетом данных обозначений матричная запись структурной формы эконометрической модели принимает вид A Y t +B X t =V t.

Представим спецификацию модели равновесного рынка в матричной фор­ме. Для этого предварительно в каждом уравнении системы перене­сем все члены (кроме случайных возмущений) в левую часть: Y t d – a 0 – a 1 p t – a 2 x t =u t, a 1 0, Y s – b 0 – b 1 p t-1 =v t, b 1 >0 Y t d – Y t s = 0 Элементы вектора эндогенных переменных следующие: Y t =(Y t d,Y t s,p t ) T

Предопределенные переменные модели: лаговое значение цены товара; текущий доход потребителя. Расширенный век­тор X, включает три элемента: X t =(1, p t-1, x t ) T Элементами вектора V t в модели являются текущие возмущения соответствующих поведенческих уравнений и нулевой элемент правая часть уравнения тождества V t =( u t, v t, 0) T. Матрицы структурных коэффициентов А и В состоят из следующих элементов:

Матричное представление приведённой формы спецификации сле­дующее: Y t =M X t +U t, где М матрица приведенных коэффициентов, то есть М = –А -1 В. Или Окончательно получим

Вектор случайных возмущений в приведённой форме получается в результате преобразования U t = A -1 V t

Или в координатной форме

Пример. Модель формирования национального дохода (Дж. М. Кейнс)

Исследуемым экономическим объектом является закрытая национальная экономика без государственного вмешательства. Экономические переменные модели: Y, С, I, где Y уровень совокупного выпуска (национальный доход), С объём потребления, I величина инвестиций. I.

Требуется: A. Составить спецификацию макромодели, позволяющей объяснять величины Y (национального дохода) и С (объем потребления) уровнем инвестиций

При составлении спецификации модели воспользоваться следующими утверждениями экономической теории: 1) потребление возрастает с увеличением совокупного выпуска, причём рост потребления происходит медленнее роста совокупного выпуска; 2) в закрытой экономике без государственного вмешательства потребление и инвестиции в сумме равны совокупному выпуску (тождество системы национальных счетов).

Б. Уточнить спецификацию путем датирования переменных. При да­ титровании экономических переменных данной модели следует учесть еще один факт экономической теории: текущее потребление зависит от сово­купного выпуска предыдущего периода.

B. Уточнить спецификацию включением случайного возмущения. Г. Составить приведенную форму спецификации. Д. Записать структурную и приведенную формы в матричном виде.

Решение. Воспользуемся первым принципом спецификации и формализуем экономические законы, характеризующие данный экономический объект.

А. Исходя из первой закономерности экономической теории, имеем: C = a+bY, 0 0, где а базовое потребление, b предельное потребление в зависимости от дохода (склонность к потреблению).

Из второй предпосылки следует тождество Y = C + I. Таким образом, структурная форма модели, полученная в результа­те формализации экономических закономерностей, имеет вид C = a + bY, 0 0, Y = C + I.

Вывод Спецификация составлена правильно, так как в структурной форме, в соответствии со вторым принципом, должно быть два уравнения модель включает две эндогенные переменные модели: уровень дохода Y; уровень потребления С. Экзогенной переменной является I уровень инвестиций.

Б. Третий принцип спецификации датирование переменных. Необходимо уточнить спецификацию: датировать экономические переменные, т. е. учесть их зависимость от фактора времени.

При датитровании экономических переменных данной модели следует учесть тот факт, что текущее потребление зависит от совокупного выпуска предыдущего периода, поэтому уточненная датированная структурная спецификация принимает вид: C t =a+bY t-1 0 0, Y t = C t +I t.

В. Уточним спецификацию включением случайного возмущения, г. с. перейдем от экономической модели к эконометрической. Случайные в озмущения включаются в поведенческие уравнения системы и не включаются в уравнения тождества.

В спецификации поведенческим урав­ нением является первое, таким образом, спецификация эконометрической модели, составленная с использованием четырех принципов, следующая: С t =a+b Y t-1 + ε t, 0 0, Y t = С t +I t где ε t случайное возмущение, учитывающее влияние не включенных н данное уравнение факторов.

Г. Составим приведенную форму спецификации. Решим систему и выразим эндогенные переменные модели через предопределенные и явном виде. В первом уравнении системы эндогенная переменная уже явно выражена через предопределенную (лаговое значение эндоген­ной переменной Y t-1 ), поэтому оставим его без изменения. Подставим первое уравнение системы во второе и выразим текущую эндогенную переменную Y t через предопределенные переменные модели (Y t-1, I t ): Y t = a + bY t-1 +I t + ε t. Таким образом, приведенная форма модели принимает вид: С t =a + bY t-1 + ε t, Y t =a + bY t-1 + I t + ε t.

Д. Матричный вид структурной и приведенной форм спецификации. Сформируем векторы эндогенных и предопределенных переменных модели. Вектор-столбец эндогенных переменных модели: Y t =(C t,Y t ) T ; расширенный вектор-столбец предопределенных переменных модели: X t =(1, Y t-1, I t ) T.

Запишем уравнения структурной формы в следующем виде: С t – a bY t-1 = ε t, Y t – C t – I t =0. тогда матричный вид структурной формы следующий

Решим матричное уравнение относительно вектора эндогенных переменных Y t =–A -1 B X t +A -1 V t = M X t + U t, где U t = A -1 V t. Обратим матрицу А, выразим элементы матрицы М через структур­ные коэффициенты, а вектор возмущений приведенной формы через век­тор возмущений структурной формы:

Приведенная форма модели принимает вид

Парная линейная регрессия Сущность регрессионного анализа

Функция регрессии Y на X. M(Yx) = f(x), Где X - независимая (объясняющая) переменная (регрессор), Y зависимая (объясняемая) переменная Множественная регрессия M(Yx1, x2,..., хт) =f(x1, х 2,..., хт),

Регрессионные модели (уравнения) Y = M(Yx) + ε, Y = M(Yx1, x2,...,xm) + ε,

Причины обязательного присутствия в регрессионных моделях случайного фактора (отклонения) 1. Невключение в модель всех объясняющих переменных. 2. Неправильный выбор функциональной формы модели. 3. Агрегирование переменных. 4. Ошибки измерений. 5. Ограниченность статистических данных. 6. Непредсказуемость человеческого фактора.

Этапы построения уравнения регрессии 1) выбор формулы уравнения регрессии; 2) определение параметров выбранного уравнения; 3) анализ качества уравнения и проверка адекватности урав­нения эмпирическим данным, совершенствование уравнения.

Корреляционное поле (диаграмма рассеивания)

Парная линейная регрессия Модель Кейнса I = С = С 0 + bI, где С 0 величина автономного потребления, b (0 < b < 1) предельная склонность к потреблению

линейная регрессия (теоретическое линейное уравнение регрессии) М(Y|х = x i )=β 0 + β 1 x i, Или со случайным параметром ε y i = M(YX=x i ) + ε i = β 0 + β 1 x i + ε i. где β 0 и β 1 теоретические параметры регрессии; ε i случайное отклонение.

Задачи линейного регрессионного анализа 1. По имеющимся статистическим данным (x i, y i ), i = 1, 2,..., n, для переменных X и Y; а) получить наилучшие оценки неизвестных параметров β 0 и β 1 ; б) проверить статистические гипотезы о параметрах модели; в) проверить, достаточно ли хорошо модель согласуется со статистическими данными (адекватность модели данным наблюдений).

Эмпирическое уравнение регрессии =b 0 + b 1 x 1, где оценка условного математического ожидания M(Y X = x i ); b 0 и b 1 оценки неизвестных параметров β 0 и β 1, называемые эмпирическими коэффициентами регрессии. Тогда y i = b 0 + b 1 x i + e i. где отклонение e i оценка теоретического случайного отклонения ε i.

Оценка тесноты связи Мерой линейной зависимости двух случайных величин является ковариация этих величин, определяемая выражением

Нахождение коэффициентов b 0 и b 1 эмпирического уравнения регрессии

Возможные методы нахождения коэффициентов b 0 и b 1 эмпирического уравнения регрессии метод наименьших модулей (МНМ). метод наименьших квадратов (МНК) метод моментов (ММ) метод максимального правдоподобия (ММП)

Метод наименьших квадратов

Если, кроме уравнения регрессии Y на X (Y = b 0 + b 1 Х), для тех же эмпирических данных найдено уравнение регрес­сии X на Y (X = с 0 + b y Y), то произведение коэффициентов b х и b y равно r 2 ху :

Выводы 1. Оценки МНК являются функциями от выборки, что по­зволяет их легко рассчитывать. 2. Оценки МНК являются точечными оценками теоретиче­ских коэффициентов регрессии. 3. Эмпириче­ская прямая регрессии обязательно проходит через точку. 4. Эмпирическое уравнение регрессии построено таким об­разом, что сумма отклонений, а также среднее значение от­клонения равны нулю.

5. П Случайные отклонения e i не коррелированы с наблю­даемыми значениями y i зависимой переменной Y. 6. Случайные отклонения е i не коррелированы с наблюдае­мыми значениями x i независимой переменной X.

Пример Для анализа зависимости объема потребления Y(у.е.) домохозяйства от располагаемого дохода X(у.е.) отобрана вы­борка объема п = 12 (помесячно в течение года), результаты которой приведены в таблице. Необходимо определить вид зависимости; по МНК оценить параметры уравнения регрессии У на X; оценить силу линейной зависимости между X и Y; спрогнозировать потребление при доходе X = 160.

Исходные данные i xixi yiyi

Поле корреляции

Выводы Прогнозируемое потребление при располагаемом доходе х = 160 по данной модели составит y(160) 153,12. коэффициент b 1 может трактоваться как предельная склонность к потреблению (МРС 0,9339). Фактически он показывает, на какую величину изменится объем потребления, если располагаемый доход возрастает на одну единицу.

На графике коэффициент b 1 определяет тангенс угла наклона прямой регрессии относительно положительного направления оси абсцисс (объясняющей переменной). Поэтому часто он называется угловым коэффициентом. Свободный член y 0 уравнения регрессии определяет прогно­зируемое значение Y при величине располагаемого дохода X, равной нулю (т.е. автономное потребление).

Очень важно, насколько далеко данные наблю­ дений за объясняющей переменной отстоят от оси ординат (зависимой переменной), так как даже при удачном подборе уравнения регрессии для интервала наблюдений нет гарантии, что оно останется таковым и вдали от выборки. В нашем случае значение b 0 = 3,699 говорит о том, что при нулевом располагаемом доходе расходы на потребление соста­вят в среднем 3,699 у.е.

Этот факт можно объяснить для отдельного домохозяйства (оно может тратить накопленные или одолженные средства), но для совокупности домохозяйств он теряет смысл. В любом случае значение коэффициента b 0 определяет точку пересечения прямой регрессии с осью ординат и характеризует сдвиг линии регрессии вдоль оси У.

Следует помнить, что эмпирические коэффициенты регрес­сии b 0 и b 1 являются лишь оценками теоретических коэффи­циентов β 0 и β 1, а само уравнение отражает лишь общую тен­денцию в поведении рассматриваемых переменных. Индивидуаль­ные значения переменных в силу различных причин могут отклоняться от модельных значений. В нашем примере эти отклонения выражены через значения е i которые являются оценками отклонений ε i для генеральной совокупности.

Однако при определенных условиях уравнение регрессии служит незаменимым и очень качественным инструментом ана­лиза и прогнозирования. Обсуждение этих условий будет прове­дено в последующих главах. После интерпретации результатов закономерен вопрос о ка­честве оценок и самого уравнения в целом.

ПРОВЕРКА КАЧЕСТВА УРАВНЕНИЯ РЕГРЕССИИ Классическая линейная регрессионная модель

Рассмотрим модель парной линейной регрессии Y = β 0 + β 1 X + ε.

Предпосылки метода наименьших квадратов 1. Математическое ожидание случайного отклонения ε i равно нулю: M(ε i ) = 0 для всех наблюдений. Данное условие означает, что случайное отклонение в сред­нем не оказывает влияния на зависимую переменную. В каждом конкретном наблюдении случайный член может быть либо положительным, либо отрицательным, но он не должен иметь систе­матического смещения. Отметим, что выполнимость M(ε i ) =0 влечет выполнимость M(Y X = x i ) = β 0 + β 1 x i.

2. Дисперсия случайных отклонений, постоянна: D(ε i ) = D(ε j ) =σ 2 для любых наблюдений i и j. Данное условие подразумевает, что несмотря на то, что при каждом конкретном наблюдении случайное отклонение может быть либо большим, либо меньшим, не должно быть некой априорной причины, вызывающей большую ошибку (отклонение). Выполнимость данной предпосылки называется гомоскедастичностъю (постоянством дисперсии отклонений). Невыпол­нимость данной предпосылки называется гетероскедастичностъю (непостоянством дисперсий отклонений).

3. Случайные отклонения ε i и ε j являются независимыми друг от друга для i j. Выполнимость данной предпосылки предполагает, что от­сутствует систематическая связь между любыми случайными отклонениями. Другими словами, величина и определенный знак любого случайного отклонения не должны быть причина­ми величины и знака любого другого отклонения.

4. Случайное отклонение должно быть независимо от объясняющих переменных. Обычно это условие выполняется автоматически, если объяс­няющие переменные не являются случайными в данной модели. 5. Модель является линейной относительно параметров.

Теорема Гаусса-Маркова Если предпосылки 1 5 вы­полнены, то оценки, полученные по МНК, обладают следующи­ми свойствами: 1. Оценки являются несмещенными, т.е. М(b 0 ) = β 0, М(b 1 ) = β 1. Это вытекает из того, что М(ε i ) = 0, и говорит об отсутст­вии систематической ошибки в определении положения линии регрессии.

2. Оценки состоятельны, так как дисперсия оценок пара­метров при возрастании числа п наблюдений стремится к нулю. Другими словами, при увеличении объема выборки надежность оценок увеличивает­ся (b 0 наверняка близко к β 0, b 1 близко к β 1 ). 3. Оценки эффективны, т.е. они имеют наименьшую дис­персию по сравнению с любыми другими оценками данных па­ раметров, линейными относительно величин y i.

Анализ точности определения оценок коэффициентов регрессии Модель парной линейной регрессии Y = β 0 + β 1 X + ε. Пусть на основе выборки из n наблюдений оценивается ре­грессия

где То есть коэффициент b 1 также является случайным, так как значение выборочной ковариации S xy зависит от того, какие значения принимают Х и Y. Если X можно рассмат­ривать как экзогенный фактор, значения которого известны, то значения Y зависят от случайной составляющей ε i.

Теоретиче­ски коэффициент b 1 можно разложить на неслучайную и слу­чайную составляющие. S xy = cov (X, β 0 + β 1 X +ε) = cov(X, β 0 ) + cov (X, β 1 X) + cov (X, ε) => S xy = β 1 + cov (X, ε). Здесь использовались правила вычисления ковариации: cov(X, β 0 ) = 0, так как β 0 = const, cov(X, β 1 X) = β 1 cov(X, X) =.

Следовательно, Здесь β 1 постоянная величина (истинное значение коэф­фициента регрессии); случайная компонента. Аналогичный результат можно получить и для коэффициента b 0.

Вывод На практике такое разложение осуществить невоз­ можно, поскольку неизвестны истинные значения β 0 и β 1, а так­же значения отклонений для всей генеральной совокупности.

Найдем формулы связи дисперсий коэффициентов D(b 0 ) и D(b 1 ) с дисперсией σ 2 случайных отклонений ε i. Для этого представим формулы определения коэффициентов b 0 и b 1 в виде линейных функций относительно значений Y:

имеем: где

выводы Дисперсий b 0 и b 1 прямо пропорциональны дисперсии случайного отклонения σ 2. Следовательно, чем больше фактор случайности, тем менее точными будут оценки. Чем больше число n наблюдений, тем меньше дисперсии оценок. Это вполне логично, так как чем большим числом данных мы располагаем, тем вероятнее получение более точных оценок.

Чем больше дисперсия (разброс значений ) объясняющей переменной, тем меньше дисперсия оценок ко­эффициентов. Другими словами, чем шире область изменений объясняющей переменной, тем точнее будут оценки (тем мень­ше доля случайности в их определении).

В силу того что случайные отклонения ε i по выборке опреде­лены быть не могут, при анализе надежности оценок коэффици­ентов регрессии они заменяются отклонениями e i = y i b 0 b 1 x i значений y i переменной Y от оцененной линии регрессии.

Диcперсия случайных отклонений D(ε i ) = σ 2 заменяется ее несме­щенной оценкой Тогда

Где - необъясненная дисперсия (мера разброса зависимой переменной вокруг линии регрессии). Корень квадратный из необъясненной дисперсии на­зывается стандартной ошибкой оценки (стандартной ошиб­кой регрессии). стандартные отклонения случай­ных величин b 0 и b 1, называемые стандартными ошибками коэффициентов регрессии.

Графическая интерпретация Коэффициент b 1 определяет наклон прямой регрессии. Чем больше разброс значений Y вокруг линии регрессии, тем больше (в среднем) ошибка определения наклона прямой регрессии.

Например, на рис. а все наблюдаемые точки лежат на одной прямой. Тогда через любой набор точек проводится одна и та же прямая. На рис. б точки не лежат на одной прямой, но для трех точек прямая регрессии будет такой же (хотя откло­нения от линии регрессии существенны), как и на рис. а. Однако при исключении из рассмотрения любой из указанных трех точек прямые регрессии будут существенно отличаться друг от друга ((1, 2), (1, 3), (2, 3)). Следовательно, значительно различаются их углы наклона, а значит, стандартная ошибка коэффициента регрессии будет существенной.

В выражении, определяющим значение стандартной ошибки коэффициента регрессии b 1, стоит сумма квадратов отклонений x i от среднего значения. Эта сумма велика (а следовательно, вся дробь мала, и дисперсия оценки меньше), если регрессия определяется на широком диапазоне зна­чений переменной X.

Например, на рис. через пары точек (1, 3) и (2, 3) прове­дена одна и та же прямая. Но диапазон (1, 3) шире диапазона (2, 3). Если вместо точки 3 рассмотреть либо точку 3 а, либо 3 б (т.е. при случайном изменении выборки), то наклон прямой для пары (1, 3) изменится значительно меньше, чем для пары (2, 3).

Дисперсия свободного члена уравнения регрессии пропорциональна дисперсии коэффициента регрессии. Действительно, чем сильнее меняется наклон прямой, проведенной через данную точку, тем большее разброс зна­чений свободного члена, характеризующего точку пересечения этой прямой с осью 0Y.

На рис. через пары точек (1, 2) и (3, 4) проходит одна и та же прямая, пересекающая ось ОY в точке (0, b 0 ). Для второй из этих пар значения переменной X больше по абсолютной ве­личине (при одинаковом диапазоне изменений X и Y), чем для первой. Если в этих парах точки 1 и 3 изменить на одну и ту же величину (новые точки 1 а, 3 а ), то углы наклона новых прямых (1 a, 2) и (3 а, 4) будут одинаковы. Но свободный член b 01 для пер­вой прямой будет существенно меньше отличаться от b 0, чем свободный член b 02 для второй прямой.

Проверка гипотез относительно коэффициентов линейного уравнения регрессии Эмпирическое уравнение регрессии определяется на основе конечного числа статистических данных. Поэтому коэффици­енты эмпирического уравнения регрессии являются СВ, изме­няющимися от выборки к выборке.

При проведении статисти­ческого анализа перед исследователем зачастую возникает необходимость сравнения эмпирических коэффициентов регрес­сии b 0 и b 1 с некоторыми теоретически ожидаемыми значения­ми β 0 и β 1 этих коэффициентов. Данный анализ осуществляется по схеме статистической проверки гипотез.

Статистической называют гипотезу о виде закона распре­деления или о параметрах известного распределения. В первом случае гипотеза называется непараметрической, а во втором параметрической. Гипотеза Н 0, подлежащая проверке, называется нулевой (основной). Наряду с нулевой рассматривают гипотезу Н 1, кото­рая будет приниматься, если отклоняется Н 0. Такая гипотеза называется альтернативной (конкурирующей).

Например, если проверяется гипотеза о равенстве параметра θ некоторому зна­чению θ 0, т.е. Н 0 : θ = θ 0, то в качестве альтернативной могут рассматриваться следующие гипотезы:

Гипотезу называют простой, если она содержит одно кон­кретное предположение Гипотезу на­зывают сложной, если она состоит из конечного или беско­нечного числа простых гипотез

При проверке гипотезы выборочные данные могут противо­речить гипотезе Н 0. Тогда она отклоняется. Если же статисти­ческие данные согласуются с выдвинутой гипотезой, то она не отклоняется. В последнем случае часто говорят, что нулевая гипотеза принимается (такая формулировка не совсем точна, однако она широко распространена). Статистическая проверка гипотез на основании выборочных данных неизбежно связана с риском принятия ложного решения.

При этом возможны ошиб­ки двух родов: Ошибка первого рода состоит в том, что будет отвергнута правильная нулевая гипотеза. Ошибка второго рода состоит в том, что будет принята ну­левая гипотеза, в то время как в действительности верна аль­ тернативная гипотеза.

результаты статистических выводов Результаты проверки гипотезы Возможные состояния гипотезы верна Н 0 верна H 1 Гипотеза Н отклоня­ется Ошибка первого рода Правильный вывод Гипотеза Н 0 не отклоня­ется Правильный вывод Ошибка второго рода

Вероятность совершить ошибку первого рода принято обо­значать буквой α, и ее называют уровнем значимости. Вероят­ность совершить ошибку второго рода обозначают β. Тогда веро­ ятность не совершить ошибку второго рода (1 β) называется мощностью критерия. Проверку статистической гипотезы осуществляют на осно­вании данных выборки. Для этого используют специально по­добранную случайную величину (статистику, критерий), точное или приближен­ное значение которой известно.

Наиболее известные случайные величины (статистики, критерии) U (или Z) стандартизированное нор­мальное распределение; Т если она распределена по закону Стьюдента; если она распределена по закону ; F если она имеет распределение Фишера.

В целях общности будем обозначать та­кую случайную величину через К. Основной принцип проверки статистических гипотез можно сформулировать так: если наблюдаемое значение крите­рия К (вычисленное по выборке) принадлежит критической об­ласти, то нулевую гипотезу отклоняют. Если же наблюдаемое значение критерия К принадлежит области принятия гипоте­зы, то нулевую гипотезу не отклоняют (принимают). Точки, разделяющие критическую область и область при­нятия гипотезы, называют критическими.

Вероятность того, что случайная величина К по­ падет в произвольный интервал ( ), можно найти по формуле Зададим эту вероятность равной 1 α и вычислим критиче­ские точки (квантили) K- распределения

Следовательно

дву­сторонней критической областью

односторонняя критическая область правосторонняя или левосторонняя

Общая схема проверки гипотез 1. Формулировка проверяемой (нулевой Н 0 ) и альтерна­тивной (H 1 ) гипотез. 2. Выбор соответствующего уровня значимости α. 3. Определение объема выборки п. 4. Выбор критерия К для проверки Н Определение критической области и области приня­тия гипотезы. 6. Вычисление наблюдаемого значения критерия К набл. 7. Принятие статистического решения.

Проверка гипотез и доверительные интервалы Для проверки гипотезы H 0 : b 1 = β 1, H 1 : b 1 β 1, используется статистика которая при справедливости H 0 имеет распределение Стьюдента с числом степеней свободы v = п 2, где п объем выборки.

Следовательно, H 0 : b 1 = β 1 отклоняется на основании данного критерия, если где α требуемый уровень значимости. При невыполнении этого соотношения считается, что нет оснований для отклонения Н 0.

Наиболее важной на начальном этапе статистического анализа построенной модели все же является задача установле­ния наличия линейной зависимости между Y и X. Эта проблема может быть решена по той же схеме: Н 0 : b 1 = 0, Н 1 : b 1 0. Гипотеза в такой постановке обычно называется гипотезой о статистической значимости коэффициента регрессии. При этом, если Н 0 принимается, то есть основания считать, что ве­ личина Y не зависит от X.

В этом случае говорят, что коэффи­циент b 1 статистически незначим (он слишком близок к нулю). При отклонении Н 0 коэффициент b 1 считается стати­стически значимым, что указывает на наличие определенной линейной зависимости между Y и X. В данном случае рассмат­ривается двусторонняя критическая область, так как важным является именно отличие от нуля коэффициента регрессии, и он может быть как положительным, так и отрицательным.

Поскольку полагается, что β 1 = 0, то формально значимость оцененного коэффициента регрессии b 1 проверяется с помощью анализа отношения его величины к его стандартной ошибке. При выполнении исходных предпосылок модели эта дробь имеет распределение Стьюдента с числом степеней свобо­ды v = п 2, где n число наблюдений. Данное отношение называется t- статистикой:

Для t-статистики проверяется нулевая гипотеза о равенстве ее нулю. Очевидно, t = 0 равнозначно b 1 = 0, поскольку t пропорциональна b 1. Фактически это свидетельствует об отсутствии линейной связи между X и Y.

Гетероскедастичность Предпосылки МНК (условия Гаусса Маркова) 2°. Дисперсия случайных отклонений ε­i постоянна: D(ε­i) = D(ε­j) = а для любых наблюдений i и j.

Выполнимость данной предпосылки называется гомоскедастичностъю (постоянством дисперсии отклонений). Невыполнимость данной предпосылки называется гетероскедастичностью (непостоянством дисперсий отклонений).

Данное условие подразумевает, что, несмотря на то, что при каждом конкретном наблюдении случайное отклонение может быть большим либо маленьким, положительным либо отрицательным, не должно быть априорной причины, вызывающей большую ошибку (отклонение) при одних наблюдениях и меньшую при других.

Последствия гетероскедастичности При гетероскедастичности последствия применения МНК будут следующими. 1. Оценки коэффициентов по-прежнему останутся несме­щенными и линейными. 2. Оценки не будут эффективными (т.е. они не будут иметь наименьшую дисперсию по сравнению с другими оценками дан­ного параметра). Они не будут даже асимптотически эффектив­ными. Увеличение дисперсии оценок снижает вероятность по­лучения максимально точных оценок.

3. Дисперсии оценок будут рассчитываться со смещением. Смещенность появляется вследствие того, что не объясненная уравнением регрессии дисперсия, которая используется при вычисле­нии оценок дисперсий всех коэффициентов, не является более несмещенной.

4. Вследствие вышесказанного все выводы, получаемые на основе соответствующих t- и F- статистик, а также интерваль­ные оценки будут ненадежными. Следовательно, статистиче­ские выводы, получаемые при стандартных проверках качества оценок, могут быть ошибочными и приводить к неверным за­ ключениям по построенной модели. Вполне вероятно, что стан­дартные ошибки коэффициентов будут занижены, а следова­ тельно, t-статистики будут завышены. Это может привести к признанию статистически значимыми коэффициентов, таковы­ми на самом деле не являющихся.

Причина неэффективности оценок МНК при гетероскедастичности

Обнаружение гетероскедастичности Не существует какого-либо однозначного метода определения гетероскедастичности. Рассмотрим наиболее популярные и наглядные: графический анализ отклонений, тест ранговой корреляции Спирмена, тест Парка, тест Глейзера, тест Голдфелда Квандта.

Графическое представление отклонений по оси абсцисс откладываются значения (х i ) объясняющей переменной X (либо линейной комбинации объясняющих переменных Y = b 0 + b 1 X b m Х m, а по оси ординат либо отклонения е i, либо их квадраты e i 2, i = 1, 2,..., п.

На рис. а все отклонения e i 2 находятся внутри полуполосы постоянной ширины, параллельной оси абсцисс. Это говорит о независимости дисперсий e i 2 от значений переменной X и их постоянстве, т.е. в этом случае выполняются условия гомоскедастичности. На рис. бд наблюдаются некоторые систематические изменения в соотношениях между значениями переменной X и квадратами отклонений. e i 2 Cитуации, представленные на рис. б д, отражают большую вероятность наличия гетероскедастичности для рассматриваемых статистических данных.

Тест ранговой корреляции Спирмена Предположение Дис­персия отклонения будет либо увеличиваться, либо уменьшать­ся с увеличением значений X. Поэтому для регрессии, постро­енной по МНК, абсолютные величины отклонений е i и значения x i случайной величины X будут коррелированы.

Ранжируем, то есть упорядочиваем по величинам значения x i и е i. Определяем коэффи­циент ранговой корреляции: где d i разность между рангами x i и е i, i = 1, 2,..., n; n число наблюдений.

Если коэффициент корреляции r хe для гене­ ральной совокупности равен нулю, то статистика имеет распределение Стьюдента с числом степеней свободы v=n-2.

Следовательно, если наблюдаемое значение t- статистики, превышает t кp = t a/2,n-2 (определяемое по таблице критических точек распределения Стьюден­та), то необходимо отклонить гипотезу о равенстве нулю коэф­ фициента корреляции r xie, а следовательно, и об отсутствии ге­тероскедастичности. В противном случае гипотеза об отсутствии гетероскедастичности принимается.

Если в модели регрессии больше чем одна объясняющая пе­ременная, то проверка гипотезы может осуществляться с помо­щью i-статистики для каждой из них отдельно

Тест Парка Критерий Парка дополняет графический метод некоторыми формальными зависимостями. Предполагается, что дисперсия σ i 2 = σ 2 (e i ) является функцией i-ro значения х i объясняющей переменной. Парк предложил следующую функциональную зависимость: σ i 2 = σ 2 х i β e vi

Прологарифмировав это выражение, получим: lnσ i 2 = lnσ 2 +βlnх i +v i. Так как дисперсии σ i 2 обычно неизвестны, то их заменяют оценками квадратов отклонений e i 2.

Критерий Парка включает следующие этапы: 1. Строится уравнение регрессии y i = b 0 + b 1 x i + e i. 2. Для каждого наблюдения определяются lnе i 2 = ln(y i – ) Строится регрессия lnе i 2 = α + βlnх i +v i, где α = ln σ 2. В случае множественной регрессии такая зависимость стро­ится для каждой объясняющей переменной.

4. Проверяется статистическая значимость коэффициента β уравнения регрессии на основе t- статистики. Если коэффициент β статистически значим, то это означает наличие связи между lne i 2 и lnх i, т.е. гетероскедастичности в статистических данных.

Отметим, что использование в критерии Парка конкретной функциональной зависимости может привести к необосно­ванным выводам (например, коэффициент β статистически не­ значим, а гетероскедастичность имеет место). Возможна еще одна проблема. Для случайного отклонения v i в свою очередь может иметь место гетероскедастичность. Поэтому критерий Парка дополняется другими тестами.

Тест Глейзера Тест Глейзера по своей сути аналогичен тесту Парка и дополняет его анализом других (возможно, более подходящих) зависимостей между дисперсиями отклонений σ i и значениями переменной х i. По данному методу оценивается регрессионная зависимость модулей отклонений |е i | (тесно связанных с σ i ) от х i.

Зависимость моделируется следую­щим уравнением регрессии: Изменяя значения k, можно построить различные регрес­сии. Обычно k =..., -1, -0,5, 0,5, 1,... Статистическая значи­мость коэффициента β в каждом конкретном случае фактиче­ски означает наличие гетероскедастичности. Если для не­ скольких регрессий коэффициент β оказывается статисти­чески значимым, то при определении характера зависимости обычно ориентируются на лучшую из них.

Тест Голдфелда Квандта Стандартное отклонение σ i = σ i (ε i ) пропорционально значению x i перемен­ной X в этом наблюдении, т.е., i = 1, 2,...,n. Предпо­ лагается, что ε i имеет нормальное распределение и отсутствует автокорреляция остатков. Тест Голдфелда Квандта состоит в следующем: 1. Все n наблюдений упорядочиваются по величине X.

2. Вся упорядоченная выборка после этого разбивается на три подвыборки размерностей k, (п - 2k), k соответственно. 3. Оцениваются отдельные регрессии для первой подвыбор­ки (k первых наблюдений) и для третьей подвыборки (k послед­них наблюдений). Если предположение о пропорциональности дисперсий отклонений значениям X верно, то дисперсия рег­рессии по первой подвыборке будет существенно меньше дисперсии регрессии по третьей подвыборке.

4. Для сравнения соответствующих дисперсий строится следующая F-статистика: Здесь (k - т - 1) число степеней свободы соответствующих выборочных дисперсий (т количество объясняющих пере­менных в уравнении регрессии).

При сделанных предположениях относительно случайных отклонений построенная F- статистика имеет распределение Фишера с числами степеней свободы v 1 = v 2 = k - т Если F набл > F табл, то гипотеза об отсутствии гетероскедастичности отклоняется при выбранном уро­вне значимости α.

Методы смягчения проблемы гетероскедастичности Метод взвешенных наименьших квадратов (ВНК)

Данный метод применяется при известных для каждого наблюдения значениях дисперсии случайных отклонений. В этом случае можно устранить гетеро­скедастичностъ, разделив каждое наблюдаемое значение на со­ ответствующее ему значение среднего квадратического откло­нения. В этом суть метода взвешенных наименьших квадратов.

Имеем уравнение парной регрессии Разделим обе части этого уравнения на известное Обозначив получим

При этом для v i выполняется условие гомоскедастичности. Следовательно, для преобразованной модели выпол­няются предпосылки МНК. В этом случае оценки, полученные по МНК, будут наилучшими линейными несме­щенными оценками.

Этапы ВНК 1. Значения каждой пары наблюдений (х i, y i ) делят на из­вестную величину среднего квадратического откло­нения. Тем самым наблюдениям с наименьшими дисперсиями придаются наибольшие «веса», а с максимальны­ми дисперсиями наименьшие «веса».

Действительно, наблю­дения с меньшими дисперсиями отклонений будут более значи­ мыми при оценке коэффициентов регрессии, чем наблюдения с большими дисперсиями. Учет этого факта увеличивает вероят­ность получения более точных оценок. 2. По МНК для преобразованных значений строится уравнение регрессии без свободного члена с гаранти­рованными качествами оценок.

Дисперсии отклонений неизвестны Для применения ВНК необходимо знать фактические зна­чения дисперсий σ i 2 отклонений. На практике такие значения известны крайне редко. Следовательно, чтобы применить ВНК, необходимо сделать реалистические предположения о значениях σ i 2.

Например, может оказаться целесообразным предполо­жить, что дисперсии σ i 2 отклонений ε i ; пропорциональны значе­ниям x i или значениям x i 2 1. Дисперсии σ i 2 пропорциональны x t : σ i 2 = σ 2 x i где σ 2 коэффициент пропорциональности). Тогда уравнение регрессии преобразуется делением его левой и правой

Для случайных отклонений v i выполняется условие гомоскедастичности. Следовательно, для принятого уравнения регрессии применим обычный МНК. Таким образом, оценив для последнего уравнения по МНК коэффициенты β 0 и β 1 затем возвращаются к исходному уравнению регрес­ сии.

Дисперсии σ i 2 пропорциональны х 2 В случае, если зависимость σ i 2 от х i целесообразнее выразить не линейной функцией, а квадратичной, то соответствующим преобразованием будет деление уравнения регрессии на х i :

Для отклонений v i будет выполняться условие гомоскедастичности. После определения по МНК оценок коэффициентов β 0 и β 1 для преобразованного уравнения возвращаются к исходному уравне­ нию.

Для применения описанных выше преобразова­ ний весьма значимы знания об истинных значениях дисперсий отклонений σ i 2, либо предположения, какими эти дисперсии могут быть. Во многих случаях дисперсии отклонений зависят не от включенных в уравнение регрессии объясняющих пере­менных, а от тех, которые не включены в модель, но играют существенную роль в исследуемой зависимости. В этом случае они должны быть включены в модель. В ряде случаев для устранения гетероскедастичности необходимо изменить специ­фикацию модели.