Регрессии с неодинаковой дисперсией и тестирование гетероскедастичности
Обобщенный метод наименьших квадратов имеет много применений. Его частным случаем является взвешенный метод наименьших квадратов, позволяющий оценивать регрессии с гетероскедастичной ошибкой.
Гетероске- дастичность означает, что хотя матрица ковариаций ошибок диагональная, но дисперсии (стоящие по диагонали) разные.Пусть ошибки независимы и i-я ошибка имеет дисперсию а2 = а2 wr. В данном случае матрица W — диагональная с типичным диагональным элементом w. Матрица T — тоже диагональная с типичным элементом yfw,, а
_i 1 T — диагональная с типичным элементом ~j=. Переменные во вспомога-
VWi
тельной регрессии будут иметь вид:
Y*= Y= X*= ¦Xi
yJWi\' j Л^і\'
Такую регрессию называют взвешенной регрессией.
Если веса зависят от неизвестных параметров wt = wi(f), то следует воспользоваться методом максимального правдоподобия. Логарифмическая функция правдоподобия равна
N 2 1 v 1 ^ 1 2
1 = - у ln(2na2) - 1 I.ln wY - 2~21 j Y -XPf
Концентрируем функцию правдоподобия по а :
1 с = - 2 Iln( w1-) (Yi - Xi P)2) - 2 Zjln w(f) + const.
Максимизация функции правдоподобия эквивалентна минимизации суммы квадратов остатков взвешенной регрессии по в и у„ если взять нормированные веса:
Y n= Yi X n= ¦ Xi
1 ^lwln(rf 1 ^lw-(f)
Здесь w"(y) = W\'(Y), WW(Y) — среднее геометрическое весов (WW = П W/n). i W (y) i
Важно, что используются нормированные веса, в противном случае минимизация суммы квадратов привела бы к неправильному результату.
Такой метод малопригоден для вычислений. Ниже рассматривается более удобный метод, который годится в частном случае линейной мультипли-кативной гетероскедастичности.