ЧТО ДАЛЬШЕ?

В предыдущих главах было предложено краткое упрощенное рассмотрение базовых вопросов эконометрики. Однако при этом осталось несколько очевидных пробелов. Наиболее заметный из них — то, что различные проблемы, которые могли быть связаны, рассматривались раздельно.

Пришло, однако, время остановиться, и для этого есть три причины. Во- первых, существует предел объема материала, который может рассматриваться во вводном учебнике. Во-вторых, более глубокое изложение предъявляет свои технические требования, для него нужна более сложная математика и потребовалось бы переключиться на матричную алгебру. В-третьих, здесь необходимо было бы сделать два изменения в организации изложения. Мы должны были бы заменить метод наименьших квадратов как принцип, лежащий в основе получения оценок, на метод максимума правдоподобия и перейти от конструирования специальной модели для каждого конкретного случая к более систематическому подходу. В данной главе коротко рассматриваются оба этих направления анализа.

1. Метод максимального правдоподобия (ММП)

В классической модели линейной регрессии, где случайный член удовлетворяет условиям Гаусса—Маркова и отсутствуют другие сложности, базовым критерием для получения оценок коэффициентов является минимизация суммы квадратов отклонений. Этот выбор не был произвольным. Теорема Гаусса—Маркова гласит, что оценки, полученные методом наименьших квадратов, будут несмещенными и эффективными как на больших выборках, так и на малых, в случае если выполняются условия Гаусса—Маркова.

Тем не менее в последних четырех главах модель регрессии постепенно теряла связь с условиями Гаусса—Маркова и удалялась от своих первоначальных предпосылок.

К сожалению, для любителей простой жизни в тех случаях, когда нарушаются, условия Гаусса—Маркова и мы вынуждены искать замену МНК, редко появляется единственный приемлемый вариант. Обычно различные исследователи могут предложить несколько конкурирующих оценок, каждая из которых является состоятельной. Например, в случае автокорреляции первого порядка состоятельные оценки дают как метод Кокрана—Оркатта, так и данный метод с поправкой Прайса—Уинстена. Если бы нам пришлось выбирать между двумя этими методами (хотя в действительности имеются и другие альтернативы, не упомянутые в главе 7), то как осуществить выбор? Привлекательным было бы выбрать асимптотически эффективную оценку. Причина, по которой метод Кокрана—Оркатта с поправкой Прайса—Уинстена оказался предпочтительнее метода Кокрана—Оркатта (и это подтверждено экспериментами по методу Монте-Карло), заключается в том, что на больших выборках его оценки параметров имеют меньшие стандартные ошибки.

Здесь наступает момент перехода к оценкам методом максимального правдоподобия (ММП). Они обычно не предъявляют требований к желательным свойствам малых выборок, но в случае корректной спецификации модели и при выполнении некоторых условий обеспечивают асимптотическую несмещенность, состоятельность и асимптотическую эффективность. Более того, они предоставляют возможность для проведения тестов, которые не могли использоваться в случае МНК.

Что такое оценивание на основе ММП? Оно может быть проиллюстрировано на простом примере. Предположим, что имеется непрерывная случайная переменная с неизвестным средним значением р и (для простоты) известным стандартным отклонением, равным единице. Допустим также, что есть основания считать, что переменная имеет нормальное распределение. Предположим, наконец, что у вас имеются две альтернативные гипотезы: р = р0 и р = р, и одно наблюдение х,, как это показано на рис. 12.1. Какую из гипотез вы выберете? Принцип максимального правдоподобия утверждает, что следует выбрать ту из гипотез, которая обеспечивает наибольшую вероятность появлениях,. Посколькух — непрерывная случайная величина, вероятность появления какого-либо отдельного ее значения является бесконечно малой. Вместо этого мы сравниваем величину плотности вероятности в точке х, для двух гипотез, представленную высотой графика функции ПЛОТНОСТИ вероятности. Очевидно, ЧТО на рис. 12.1 функция с Р = Pq имеет более высокое значение плотности вероятности в точке X,.

Следующий шаг — обобщение. Мы будем рассматривать все возможные значения р и выберем то из них, которое дает максимальное значение плотности вероятности в точке X,.

Функция плотности вероятности переменной х с заданным р имеет вид:

/(*1 цgt; = ^lt;? 2lt;Л Ю \' (12.1)

Зададимся теперь вопросом: какое значение р максимизирует плотность вероятности для заданного наблюдения х,? Графически очевидный ответ: р = х,,

Плотность вероятности величины X,

4 Знвчение плотности вероятности в точке х= х, в условиях Н0: р = р0

і

; Значение плотности вероятности в ; точке х= х, в условиях Нх: ц = ц,

Рис. 12.1. Вероятность появления х, в условиях истинности Н0 и //,

й„ *1 М,

х

поскольку в этом случае распределение будет расположено вокруг х,, и плотность вероятности окажется максимальной в центре распределения.

Прежде всего заметим, что в решаемой задаче значениех, задано, ац рассматривается как переменная величина. Как следствие мы можем рассматривать функцию плотности вероятности как функцию от ц при заданном х,. В дальнейшем мы так и сделаем, а также дадим ей другое название — функция правдоподобия и, чтобы подчеркнуть происшедшие изменения, будем обозначать ее как L:

(12.2)

Отметим, во-вторых, что log L (ц) будет иметь максимум при том же значении ц, которое максимизирует L (ц), поскольку логарифм от любой переменной возрастает или уменьшается с ростом или уменьшением значения переменной. Удобнее и математически проще найти максимум функции log L (ц) (которая известна также под названием логарифмическая функция правдоподобия):

(12.3)

log ?(ц) = - log -Лл - j (х, - ц)2.

(12.4)

Продифференцировав это выражение по ц, мы получим:

Х| - ц = О,

поэтому оценка ц по ММП равна х,. Вторая производная имеет отрицательное значение, и это подтверждает, что мы нашли максимум функции.

Все это, конечно, тривиально. Предположим теперь, что имеются два независимо распределенных наблюдения (х,) и (х2), и мы хотим оценить ц. Процедура оценивания по ММП заключается в нахождении значения ц, которое максимизирует совместную функцию плотности вероятности, определяемую произведением частных функций плотности вероятности:

/

(12.5)

\'jbz

¦Jin

/(*1,х2|р) =

Это выражение может быть преобразовано в логарифмическую функцию правдоподобия для р при заданных х, и х2, и мы максимизируем его, максимизировав, как и прежде, логарифмическую функцию правдоподобия:

logZ,(p) = -21ogV2T:-^(x1 -р)2-^(х2 -р)2.              (12.6)

Из этого выражения можно получить условие первого порядка:

(х,-р) + (х2-р) = 0,              (12.7)

откуда следует, что оценкар по ММП равна (х, + х2)/2.

Если мы применим ММП в классической модели линейной регрессии, предполагая нормальное распределение случайного члена, то оценки всех коэффициентов (но не дисперсия случайного члена) будут равны оценкам, полученным с помощью МНК. Поэтому переход от метода наименьших квадратов к ММП в данном контексте является скорее эволюцией, чем радикальным преобразованием.

В настоящее время максимизируемая логарифмическая функция правдоподобия выдается почти всеми регрессионными пакетами диагностической статистики, сопровождающей результаты расчета регрессии. Ее можно использовать для проведения теста на отношение правдоподобия. Этот тест заключается в следующем. Пусть имеется две версии модели, и одна из них — версия другой с добавлением ограничений. Статистика 2(LLU — LLR), где LLU и LLR — логарифмические функции правдоподобия неограниченной и ограниченной версии модели, соответственно, на больших выборках подчиняется распределению X2 с s степенями свободы в случае принятия нулевой гипотезы о корректности ограниченной версии, где s — число наложенных ограничений. (Для дальнейшего обсуждения этого теста и двух других групп тестов, разработанных в рамках максимизации правдоподобия [тестов Вальда и тестов множителей Лагранжа] рекомендуется работа П. Кеннеди [Kennedy, 1985, pp. 58— 59].)

Однако и помимо теоретических свойств принцип оценивания параметров, максимизирующих вероятность появления данной выборки, обладает большой привлекательностью для эконометристов. Принцип наименьших квадратов имеет, конечно, свои достоинства в случае выполнения условий Гаусса—Маркова, но все эти достоинства быстро теряются в противном случае.

Если ММП столь эффективен и привлекателен и если он столь приспособлен для проведения тестов, почему бы не использовать его все время? Существуют четыре причины для осторожности.

Четвертый аргумент против применения ММП долгое время был, возможно, единственным важным препятствием на пути его широкого распространения, однако проблема быстро упрощается, и с удешевлением компьютерного времени оценки по ММП активно встраиваются в статистические пакеты. Например, оценка по ММП автокорреляции в авторегрессионной модели первого порядка, разработанная Ч. Бичем и Дж. Маккинноном (Beach, MacKinnon, 1978), теперь является стандартной принадлежностью статистических пакетов. Дж. Крамер (Cramer, 1986) полагает, что с расширением возможностей ММП до их пределов этот метод «в большой степени вытеснит линейный регрессионный анализ как главный инструмент прикладной эконометрики». Возможно, он прав. Тем не менее поскольку оценки по ММП и МНК совпадают (кроме оценки lt;т2) при выполнении условий Гаусса—Маркова, вполне вероятно, что МНК останется исходным пунктом вводных курсов эконометрики.