F-тест на качество оценивания

Даже если между у и х отсутствует зависимость, по любой данной выборке наблюдений может показаться, что такая зависимость существует, возможно и слабая. Только по случайному стечению обстоятельств выборочная ковариация будет в точности равна нулю.

Это представляет для нас проблему. Как узнать, действительно ли полученное при оценке регрессии значение коэффициента R2 отражает истинную зависимость или оно появилось случайно?

В принципе можно было бы принять следующую процедуру. Сформулируем в качестве нулевой гипотезы утверждение, что связь между у их отсутствует, и найдем значение коэффициента, которое может быть превышено в 5% случаев. Затем используем эту цифру в качестве критического значения для проверки гипотезы при 5-процентном уровне значимости. Если этот уровень превышается, то мы отклоняем нулевую гипотезу. Если он не превышен, то эта гипотеза принимается.

Такая проверка, подобно /-тесту для коэффициента регрессии, не служит доказательством. Действительно, при 5-процентном уровне значимости имеется риск допущения ошибки I рода (отклонения нулевой гипотезы, когда она истинна) в 5% случаев, но можно, конечно, снизить этот риск за счет использования более высокого уровня значимости, например в 1%. Тогда критическое значение может быть случайно превышено только в 1 % случаев, поэтому оно выше критического значения для проверки гипотезы при 5-про- центном уровне значимости.

Каким образом можно определить критическое значение коэффициента R2 при любом уровне значимости? Здесь возникает небольшая проблема. У нас нет таблицы критических значений коэффициента R2. Традиционная процедура состоит в использовании косвенного подхода и выполнения так называемого F-теста, основанного на анализе дисперсии (теория, лежащая в основе этого подхода, описывается в работе А.

Предположим, что, как и прежде, можно разложить дисперсию зависимой переменной на «объясненную» и «необъясненную» составляющие, воспользовавшись уравнением (2.45):

Var (у) = Var (у) + Var (е).              (3.56)

Используя определение выборочной дисперсии и умножив на п обе части уравнения (3.56), можно представить его следующим образом:

10gt;-у)2=1(у-у)2 + 1е2.              (3.57)

(Напомним, что е = 0 и выборочное среднее значение р равняется выборочному среднему у.)

Левая часть уравнения представляет собой обшую сумму квадратов отклонений (TSS) зависимой переменной от ее выборочного среднего значения. Первый член в правой части уравнения является объясненной суммой квадратов (ESS), а второй член — необъясненной суммой квадратов отклонений (RSS), который может быть просто назван S:

TSS = ESS + RSS.              (3.58)

F-статистика для проверки качества оценивания регрессии записывается как отношение объясненной суммы квадратов (в расчете на одну независимую переменную к остаточной сумме квадратов) в расчете на одну степень свободы:

ESS

F =

RSS •              (3.59)

n-k-l

где k — число независимых переменных.

После деления на TSS числителя и знаменателя соотношения (3.59) F-статистика может быть эквивалентно выражена на основе коэффициента R2:

(ESS /TSS)/к _ R2 / к (RSS/TSS)/(n-k-l) (I - R2) / (n - к ~l)              (360)

В данном контексте k = 1 и, таким образом, уравнение (3.60) принимает вид:

F ~ (\\-R2)/(n-2)\'              (3-61)

После вычисления критерия F по значению коэффициента R2 вы отыскиваете величину FKpum — критическое значение Fв соответствующей таблице. Если F gt; F т, то вы отклоняете нулевую гипотезу и делаете вывод о том, что имеющееся «объяснение» поведения величины у лучше, чем можно было бы получить чисто^ случайно.

В табл. А.З представлены критические значения Fnpn уровнях значимости в 5 и 1%.

В примере с расходами на питание коэффициент/?2 составил 0,9775. Поскольку было 25 наблюдений, F-статистика равняется:

R2 / {(1 - R2) / 23} = 0,9775 / (0,0225 / 23) = 999,2.

При однопроцентном уровне значимости критическое значение критерия F (первая колонка, ряд 23) составляет 7,88. Поэтому в данном конкретном примере у нас не остается никаких сомнений относительно того, что нулевую гипотезу следует отклонить. Другими словами, полученное значение коэффициента R2 столь высоко, что мы отклоняем предположение о том, что оно могло появиться случайно. На практике F-статистика всегда вычисляется вместе с коэффициентом R2, поэтому нет необходимости использовать уравнение (3.60).

Какие же проблемы возникают при использовании этого косвенного подхода? Почему бы не иметь таблицу критических значений коэффициента Л2? Ответ заключается в том, что таблица значений критерия ? является полезной для многих способов проверки дисперсии, одним из которых выступает расчет коэффициента R2. Вместо специализированной таблицы для каждого конкретного случая намного удобнее (или, по меньшей мере, экономнее) иметь одну обобщенную таблицу, делая при необходимости преобразования типа (3.60).

Конечно, при необходимости можно вывести и критические значения R2. Критическое значение R2 связано с критическим значением ? следующим уравнением:

lt;3-62)

Л2крит / к

из которого следует, что

„2 —              kFKpUm

lt;3-63gt;

В примере с расходами на питание критическое значение ? при уровне значимости в 1% составило 7,88. Следовательно, в этом случае при к = 1

R2,cpum = im= °’26\'              (3’64)

В нашем примере величина R2 намного выше 0,26, поэтому непосредственное сравнение величины R2 с его критическим значением подтверждает вывод о том, что в результате ?-теста мы должны отклонить нулевую гипотезу.

Упражнения

21. В упражнении 3.12 значение коэффициента Л2 в модели регрессии между расходами на коммунальные услуги и располагаемым личным доходом составило (с точностью до четырех десятичных разрядов) 0,9875. Вычислите соответствующую ?-статистику и проверьте, что она равна 1814,7, т. е. результату, выданному компьютером. Выполните ?-тест при уровнях значимости в 5 и 1%. Есть ли необходимость представлять результаты проверки на обоих уровнях?
22. Аналогичным образом, используя результат упражнения 2.4, вычислите ?-статистику на основе значения коэффициента R2 и проверьте, что она не противоречит расчетам, выполненным на компьютере. Проведите соответствующий ?- тест.