Вывод и интерпретация коэффициентов множественной регрессии

Как и в случае парной регрессии, мы так выбираем значения коэффициентов регрессии, чтобы обеспечить наилучшее соответствие наблюдениям в надежде получить оптимальные оценки для неизвестных истинных значений параметров.

S=e2+...+e2,              (5.4)

где е( является остатком в наблюдении /, разницей между фактическим значением у в этом наблюдении и значением у, прогнозируемым по уравнению регрессии:

у-, = a + Ьхххі + bjX2p              (5.5)

еі =Уі ~Уі =Уі~а- bxxu - bjXy.              (5.6)

Используя уравнение              (5.6), мы можем записать:

S = Ze2 = 1CУ, -а- Ьххи - Ьрс21)2.              (5.7)

Необходимые              условия              первого порядка для минимума, то есть dS/da = 0,

Э5/ЭЛ, = 0 и ЭS/db2 = 0, дают следующие уравнения:

dS/da = —21 (у, — а — bxxu — bpc2) = 0;              (5.8)

dS/dbj = -2 Z х„Су, -a- b{xu - bpc2l) = 0;              (5.9)

3S/db2 = -2 I x2i(yi -a - b{xXi - bjc2j) = 0.              (5.10)

Следовательно, мы имеем три уравнения с тремя неизвестными: а, /gt;, и Ь2. Первое уравнение можно легко перегруппировать для выражения величины а через Ь2 и данные наблюдений для х и у:

Используя это выражение и два других уравнения, путем некоторых преобразований можно получить следующее выражение для Ьх:

ь _ Соу(.Х) , у)Уаг(х2) - Cov(x2, у)Соу(х,, х2)

\' Var(x1)Var(x2)-{Cov(xJ,x2)}2              (5Л2)

Аналогичное выражение для Ъ2 можно получить путем перестановки х, и Xj в уравнении (5.12).

Цель данного обсуждения состоит в выделении двух основных моментов. Во-первых, принципы, лежащие в основе вычисления коэффициентов регрессии, в случаях множественной и парной регрессии не различаются. Во-вторых, используемые при этом формулы будут разными, поэтому не следует пытаться использовать выражения, выведенные для парной регрессии, в случае множественной регрессии. Отметим также, что вычисление формул регрессии при двух независимых переменных является более трудоемкой задачей, чем при одной переменной, и вам придется использовать компьютер.