Несмещенность коэффициентов регрессии

На основании уравнения (3.6) можно показать, что b будет несмещенной оценкой р, если выполняется 4-е условие Гаусса—Маркова:

Е{Ь} = Е

Cov(x.y)]              [Соу(х,и)|

Р+ Var(x) ГР + Л| Var(x) J’              lt;ЗЛ7gt;

так как р — константа.

?W = P+vkrW?{Cov(x,Ilt;)}\'              lt;ЗЛ8)

Далее, если х — неслучайная величина, то Е {Cov (х, и)} = 0 и, следовательно,

?{А} = р.              (3.19)

Таким образом, b — несмещенная оценка р. Можно получить тот же результат со слабой формой 4-го условия Гаусса—Маркова (которая допускает, что переменная х имеет случайную ошибку, но предполагает, что она распределена независимо от и); это показано в главе 8.

За исключением того случая, когда случайные факторы в п наблюдениях в точности «гасят» друг друга, что может произойти лишь при случайном совпадении, b будет отличаться от р в каждом конкретном эксперименте. Однако с учетом соотношения (3.19) не будет систематической ошибки, завышающей или занижающей оценку. То же самое справедливо и для коэффициента а. Используем уравнение (2.35):

а = у -Ьх.              (3.20)

Следовательно,

Поскольку у определяется уравнением (3.1),

Е{у/) = а + рх,- + E{uj) = а + рх,,

(3.23)

так как Е{и) = 0, если выполнено 1-е условие Гаусса—Маркова. Следовательно,

Е{у] = а + рх.

(3.24)

Подставив это выражение в (3.21) и воспользовавшись тем, что E{b} = Р, получим:

Е{а} = (а + рх) - Рх = а.

Таким образом, а — это несмещенная оценка а при условии выполнения 1-го и 4-го условий Гаусса—Маркова. Безусловно, для любой конкретной выборки фактор случайности приведет к расхождению оценки и истинного значения.