Эксперимент по методу Монте-Карло

По-видимому, никто точно не знает, почему эксперимент по методу Монте-Карло называется именно так. Возможно, это название имеет какое-то отношение к известному казино как символу действия законов случайности.

Основное понятие будет объяснено посредством аналогии. Предположим, что свинья обучена находить трюфели. Это дикорастущие земляные грибы, встречающиеся во Франции и Италии и считающиеся деликатесом. Они дороги, так как их трудно найти, и хорошая свинья, обученная поиску трюфелей, стоит дорого. Проблема состоит в том, чтобы узнать, насколько хорошо свинья ищет трюфели. Она может находить их время от времени, но возможно также, что большое количество трюфелей она пропускает. В случае действительной заинтересованности вы могли бы выбрать участок земли, закопать трюфели в нескольких местах, отпустить свинью и посмотреть, сколько грибов она обнаружит. Посредством такого контролируемого эксперимента можно было бы непосредственно оценить степень успешности поиска.

Какое отношение это имеет к регрессионному анализу? Проблема в том, что мы никогда не знаем истинных значений аир (иначе зачем бы мы использовали регрессионный анализ для их оценки?). Поэтому мы не можем сказать, хорошие или плохие оценки дает наш метод. Эксперимент по методу Монте-Карло — это искусственный контролируемый эксперимент, дающий возможность такой проверки. Простейший возможный эксперимент по методу Монте-Карло состоит из трех частей. Во-первых:

1. выбираются истинные значения а и Р;
2. в каждом наблюдении выбирается значение х;
3. используется некоторый процесс генерации случайных чисел (или берется последовательность из таблицы случайных чисел) для получения значений случайного фактора и в каждом из наблюдений.

Во-вторых, в каждом наблюдении генерируется значение у с использованием соотношения (3.1) и значений а, р, х и и.

В-третьих, применяется регрессионный анализ для оценивания параметров а и b с использованием только полученных указанным образом значений у и данных для х. При этом вы можете видеть, являются ли а и Ъ хорошими оценками а и р, и это позволит почувствовать пригодность метода построения регрессии.

На первых двух шагах проводится подготовка к применению регрессионного метода. Мы полностью контролируем модель, которую создаем, и знаем истина" ные значения параметров, потому что сами их определили. На третьем этапе мы определяем, может ли поставленная нами задача решаться с помощью метода регрессии, т. е. могут ли быть получены хорошие оценки для аир при использовании только данных об у и х. Заметим, что проблема возникает вследствие включения случайного фактора в процесс получения у. Если бы этот фактор отсутствовал, то точки, соответствующие значениям каждого наблюдения, лежали бы точно на прямой (3.1) и точные значения аир можно было бы очень просто определить по значениям у их.

Произвольно положим а = 2 и р = 0,5, так что истинная зависимость имеет вид:

у = 2 + 0,5х + ы.              (3.7)

Предположим для простоты, что имеется 20 наблюдений и что х принимает значения от 1 до 20. Для случайной остаточной составляющей и будем использовать случайные числа, взятые из нормально распределенной совокупности с нулевым средним и единичной дисперсией. Нам потребуется набор из 20 значений, обозначим их т   гл20. Случайный член и, в первом наблюдении просто равен ги, и т. д.

Зная значения х и и в каждом наблюдении, можно вычислить значения у, используя уравнение (3.7); это сделано в табл. 3.1. Теперь при оценивании регрессионной зависимости-у от х получим:

у= 1,63 + 0,54*.              (3.8)

В данном случае оценка а приняла меньшее значение (1,63) по сравнению с а (2,00), a b немного выше (3 (0,54 по сравнению с 0,50). Расхождения вызваны совместным влиянием случайных членов в 20 наблюдениях.

Очевидно, что одного эксперимента такого типа едва ли достаточно для оценки качества метода регрессии.

В целях экономии места таблица с новыми значениями и и у не приводится. Вот результат оценивания регрессии между новыми значениями у их:

у = 2,52 + 0,48х.              (3.9)

Второй эксперимент также был успешным. Теперь а оказалось больше a, a b — несколько меньше р. В табл. 3.2 приведены оценки а и Ъ при 10-кратном повторении эксперимента с использованием разных наборов случайных чисел в каждом варианте.

Можно заметить, что, несмотря на то что в одних случаях оценки принимают заниженные значения, а в других — завышенные, в целом значения а и

Ь группируются вокруг истинных значений аир, равных соответственно 2,00 и 0,50. При этом хороших оценок получено больше, чем плохих. Например, фиксируя значения b при очень большом числе повторений эксперимента, можно построить таблицу частот и получить аппроксимацию функции плотности вероятности, показанную на рис. 3.1. Это нормальное распределение со средним 0,50 и стандартным отклонением 0,0388.

Функция плотности вероятности для b

Рис. 3.1. Распределение b в эксперименте по методу Монте-Карло

Выше говорилось, что расхождения между коэффициентами регрессии и истинными значениями параметров вызваны случайным членом и. Отсюда следует, что чем больше элемент случайности, тем, вообще говоря, менее точными являются оценки.

Этот вывод будет проиллюстрирован с помощью второй серии экспериментов по методу Монте-Карло, связанной с первой. Мы будем использовать те же значения аир, что и раньше, те же значения х и тот же источник случайных чисел для генерирования случайного члена, но теперь будем брать

значения случайного члена в каждом наблюдении.

«\