Характеристика ММП.

Метод наименьших квадратов.

(Обобщенный) метод моментов.

Метод максимального правдоподобия.

Интересно сравнить ММП с двумя другими методами.

Условия, при которых можно использовать ММП более ограничительны.

С другой стороны, ММП более универсален. Его можно использовать для любых моделей, задающих вид распределения наблюдаемых переменных. Два другие метода можно использовать лишь тогда, когда распределение переменных можно представить в определенном виде. Если есть гипотеза о точном виде распределения, то всегда понятно, как получать оценки пара-

метров, распределений параметров и различных статистик, как проверять гипотезы, хотя сами расчеты могут быть сложными.

Еще одно свойство — инвариантность по отношению к переобозначению параметров. Пусть р(.): Mk^Mk однозначная обратимая функция. Можно подставить в функцию правдоподобия вместо O величину р(т), где т — новый вектор параметров, т є p_1(O). При этом, если т— оценка МП в новой

задаче, то O — оценка МП в старой задаче.

Из инвариантности следует, что оценка МП как правило не может быть

несмещенной. Пусть, например, E(O)—Oo, где O0 — истинное значение параметра. Тогда оценка т, полученная нелинейным преобразованием O —Пр(т)

будет смещенной: E(^ Ф т0, где т0 — E(p_1(O)).

Если правильно выбрать параметризацию, то распределение оценок в малых выборках может быть близко к асимптотическому, если неправильно, то асимптотическое распределение будет очень плохой аппроксимацией.

ММП получил широкое распространение благодаря своим хорошим асимптотическим свойствам:

состоятельность,

асимптотическая нормальность,

асимптотическая эффективность.

С точки зрения эффективности сильные предположения о виде распределения, которые приходится делать, применяя ММП, окупаются (в большей или меньшей степени). Поскольку мы делаем очень ограничительные предположения, то можем доказать более сильные утверждения.