Регрессия с MA-ошибкой

Будем рассматривать регрессию Y = X в + є с МА(1)-процессом в ошиб

ке:

4 ~N(0, с2)

Єі = 4 i + ц?і-1 о2 = уаг(Єі) = (1 + ju2)®2

2 2

Ковариационная матрица ошибок є І имеет вид V(o , ju) = о W(jj.

O

u

1 + u2

1 + u

j

W=

= (1 + u2) I + цФ ,

0 1 1 0

O

1 + u u

2

u 1 + u J

O

где Ф =

O

0 1 1 0 J

Симметричную положительно определенную матрицу можно представить в виде W = H 1 лн , где H — ортогональная матрица собственных векторов (H T = H-1), а Л — диагональная матрица, диагональ которой состоит

из соответствующих собственных чисел.

k l n I 2 Hki = sm( N+1 ) VN+r

Типичный диагональный элемент матрицы л (собственное число) равен

4 = u2 + 2 ucos( N+1 ) + 1.

, 2n N+1

Матрица W такова, что

W -1 = H Л1 H. Несложно также найти определитель матрицы W:

-I 2N + 2

IW = І-Juг-

1- u2

* * /

Обозначим Y = DHY, X = DHX, где D = Л 12 — диагональная матрица.

*

Пусть e (u) — остатки из вспомогательной регрессии, p(u) — оценки коэффициентов из этой регрессии. Тогда

(Y - X в (u))T W (u)-1 (Y - X fi(u)) = e*(u) Te*(u).

Концентрированная функция правдоподобия после исключения параметров о и в приобретет вид

1c(u) = - 2 (ln(1- u2N + 2) - ln(1- u2)) - N ln(e*(u) Te*(u)) + const.

Остается с помощью одномерного поиска максимизировать концентрированную функцию правдоподобия по u на отрезке [-1, 1]. В максимуме функции правдоподобия можно с ненулевой вероятностью получить u= 1 или u = -1.

Можно предложить и другую вспомогательную регрессию, которая применима и в общем случае МА(1)-процесса. Обозначим п = 40. Тогда модель можно преобразовать к виду

0 = -п+ 4о,

71 = X1e+ un+ 41, Y2 - uY1 = (X2 - uX1)e- u п+ 42, и так далее для i =3,...,N.

Более компактно это можно записать как уравнение регрессии:

Y=Xe+ Zn + 4

Здесь Y, X и Z имеют по N+1 наблюдению и вычисляются по рекуррентным формулам:

Y = Y - uYi-1, Y0 = 0,

Xi=Xj - 1X-1, X0=0,

Zi = - iZj-1, Z0 = -1. Пусть gH — остатки из вспомогательной регрессии, в(1) — оценки коэффициентов в из этой регрессии. Тогда можно показать, что (Y -

Xe(l))TW (i)-1(Y - X в(і)) = ?(i)Tg(i). Соответственно, концентрированная функция правдоподобия равна

1С(1) = - 2 (ln(1- 1N + 2) - ln(1- 12)) - N ln(i(1Ji(1) + const.