В.П.ЧИСТЯКОВ
Курс
теории
вероятностей
Издание третье, исправленное
Допущено Министерством высшего
и среднего специального образования СССР
в качестве учебника для студентов
высших технических учебных заведении
МОСКВА «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
1987
ББК 22.171
4.68
УДК 519.21 (075.8)
Чистяков В. П. Курс теории вероятностей: Учеб.— 3-е
изд., испр.— М.: Наука. Гл. ред. физ.-мат. лит.— 1987.— 240 с.
В основу положен материал полугодового курса лекций, читав-
шегося автором в течение ряда лет в МИФИ. Рассматриваемые
тэмы обычны для начального курса теории вероятностей. В конце
глав приводятся задачи для практических занятий; имеются зада-
чи, в которых требуется моделировать различные случайные явле-
ния.
Расширенные разделы «Математическая статистика» и «Элемен-
ты теории случайных процессов» позволяют использовать книгу
в вузах, в которых на изучение теории вероятностей отводится более
одного семестра. Предполагается знакомство читателей с курсом
математического анализа в объеме программ технических вузов,
Ил. 1. Библиогр. 21 назв.
Рецензент
доктор технических наук профессор Г, П. Башарин
Владимир Павлович Чистяков
КУРС ТЕОРИИ ВЕРОЯТНОСТЕЙ
Редактор И. Е. Морозова.
Художественный редактор Г. М. Коровина
Технический редактор Е. В. Морозова.
Корректоры О. М, Березина, М. Л. Медведская
ИБ № 32402
Сдано в набор 12.12.86. Подписано к печати 27.05 87.
Формат 84X108/32. Бумага тип. № 2.
Гарнитура обыкновенная. Печать высокая. Усл. печ. л. 12,6.
Усл. кр.-отт. 12,81. Уч.-изд. л. 14,01. Тираж 52 500 экз.
Заказ № 115. Цена 60 коп.
Ордена Трудового Красного Знамени издательство «Наука»
Главная редакция физико-математической литературы
117071 Москва В-71, Ленинский проспект, 15
2-я типография издательства «Наука»
121099 Москва Г-99, Шубинский пер., 6
1702060000-131
053(02)-87	67-87
© Издательство «Наука».
Главная редакция
физико-математической
литературы, 1978;
с изменениями 1982гу|387
Предисловие к третьему изданию
Третье издание отличается от второго лишь исправле-
нием замеченных опечаток и частичным сокращением та-
блиц случайных чисел. Поэтому остановимся на основных
изменениях, внесенных во второе издание, которое по
сравнению с первым было существенно переработано и
дополнено.
Во многих технических вузах на основе обязательного
курса теории вероятностей читаются полугодовые курсы
математической статистики» Автор предполагал,; что
«Курс теории вероятностей», вышедший в 1978 г,,: обес-
печит, с привлечением дополнительной литературы^ по-
требности курса математической статистики. Однако,;
как выяснилось из отзывов, многим читателям удобнее
пользоваться учебником, в котором оба курса излагаются
с единой точки зрения и с едиными обозначениями. В свя-
зи с этим глава «Элементы математической статистики»
для второго издания была написана заново. В ней изло-
жены основные вопросы, включаемые обычно в полуго-
довой курс математической статистики для технических
вузов. Однако не надо считать, что эта глава может заме-
нить специальные учебники математической статистики,
в которых изложение ведется более широко и подробно.
В главу «Элементы теории случайных процессов», до-
бавлены сведения о процессах гибели и размножения и их
приложения к задачам массового обслуживания,; расши-
рено изложение ветвящихся процессов.
Подробнее чем прежде рассматривается многомерное
нормальное распределение. В главу «Предельные теоре-
мы» включено обоснование известного в прикладных за-
дачах метода линеаризации.
Во втором издании исключен параграф, относящийся
к обоснованию построения вероятности для бесконечных
последовательностей независимых испытаний. Понятия
а-алгебры и борелевских множеств в основном тексте в
яййом виде практически не используются.
Ь	ИЗ ПРЕДИСЛОВИЯ К ПЕРВОМУ ИЗДАНИЮ
Задачи значительно обновлены; при их подборе су-
щественно использовался задачник [16].
В связи с интенсивным развитием вычислительной
техники и доступностью больших и малых ЭВМ появилась
возможность существенно использовать в процессе обу-
чения задачи е моделированием тех или иных случайных
явлений. Решая эти задачи, учащиеся получают возмож-
ность сравнивать выводы теории с численными резуль-
татами проведенного ими моделирования, что способству-
ет более глубокому усвоению теории.
Во втором издании увеличено число задач, связан-
ных с моделированием. Понятие о случайных числах
введено сразу после классического определения вероят-
ности. Далее регулярно даются задачи с моделированием,;
иллюстрирующие вновь вводимые понятия.
Отметим в заключение, что предлагаемый учебник
фактически объединяет в себе учебник по начальному
курсу теории вероятностей, учебник по элементарному
курсу математической статистики и задачник.
Автор благодарен всем читателям^ сообщившим свои
замечания,
Из предисловия к первому изданию
В книге дается математическое изложение некоторых
разделов теории вероятностей, основанное на обычном
курсе математического анализа технических вузов. Тео-
рия меры, интегралы Лебега и Стилтьеса не использу-
ются. В связи с этим рассматриваются вероятностные
пространства, в которых при задании вероятности ис-
пользуются ряды, интегралы Римана и несобственные
интегралы. К таким пространствам относятся конечные
и дискретные, а также вероятностные пространства, в
которых вероятность событий определяется как интеграл
Римана от некоторой положительной функции. Послед-
ние для удобства ссылок названы абсолютно непрерыв-
ными (термин не является общепринятым). Этих про-
странств достаточно для изучения тем, которые обычно
включаются в курс теории вероятностей: «классические»
ИЗ ПРЕДИСЛОВИЯ К ПЕРВОМУ ИЗДАНИЮ
5
и «геометрические» вероятности; конечные последова-
тельности испытаний (в частности, цепи Маркова, неза-
висимые испытания, схема Бернулли); случайные вели-
чины и т. д.
Однако в ряде интересных задач нельзя обойтись ука-
занными выше вероятностными пространствами. В задаче
р разорении игрока, при изучении времени до первого
успеха в схеме Бернулли, в ряде задач, связанных с при-
ложениями формулы полной вероятности, требуется вве-
дение более сложных вероятностных пространств. Такие
задачи рассматриваются в предположении, что подхо-
дящие вероятностные пространства существуют.
Курс предлагаемого типа автор читал много лет* В
зависимости от математической подготовки слушателей
менялся только объем излагаемого материала и подбор
задач; аксиоматическое изложение сохранялось в любом
случае.
Другой подход к способу изложения теории вероят-
ностей в технических вузах состоит в использовании ин-
туитивных представлений о вероятности, независимости,;
случайной величине вместо их точных определений.
Это приводит к замене теории вероятностей решением
разрозненных задач из анализа. Точную характеристику
подхода такого типа дает Феллер в предисловии к своей
книге [18]: «При преподавании теории вероятностей су-
ществует тенденция возможно быстрее сводить вероятно-
стные задачи к задачам чистого анализа, избегая специ-
фических особенностей самой теории вероятностей. Такое
изложение основывается на плохо определяемом понятии
случайной величины, вводимом обычно вначале. В про-
тивоположность этому настоящая книга строится на по-
нятии пространства элементарных событий, без которого
случайные величины остаются искусственной выдумкой».
Следует отметить, что аналогичные вопросы в препо-
давании математического анализа давно решены. Обычно
не возникают сомнения в том, что нужно давать точное
определение предела па языке «е — б», хотя оно не очень
легко согласуется с интуитивным представлением о пре-
деле. Теория вероятностей даже в кратком изложении
должна оставаться математической дисциплиной.
По ходу изложения «Курса теории вероятностей» дает-
ся решение некоторого количества задач. Это не устра-
няет необходимости в самостоятельном решении задач,
которые приведены в конце глав. Некоторые из задач
&	ИЗ ПРЕДИСЛОВИЯ К ПЕРВОМУ ИЗДАНИЮ
являются существенным дополнением к изложенному
в основном тексте.
При подборе задач были использованы многие задач-
ники, учебники и монографии (в частности, [4], [7], [9],
HUf [18], [19]). Приведенный набор задач желательно
пополнить задачами, отражающими специфику вуза.
В каждой главе принята своя нумерация формул.
При ссылке на формулу из другой главы к номеру добав-
ляется номер главы.
Я пользуюсь случаем, чтобы поблагодарить сотрудни-
ков Математического института, с которыми неоднократно
обсуждались вопросы преподавания теории вероятностей.
Особенно интенсивными были беседы с Л. Н. Болыпевым,
В. К. Захаровым, О. В. Висковым во время работы по
составлению новой программы курса теории вероятностей.
Мне были очень полезны критические замечания и
советы Б, А. Севастьянова и В. Ф. Колчина, сделанные
ими при многочисленных обсуждениях различных раз-
делов курса лекций по теории вероятностей, а также
их замечания,; связанные непосредственно с рукописью
данной книги.
Введение
1. Случайные явления. До возникновения теории веро-
ятностей объектом исследования науки были явления
или опыты,: в которых условия практически однозначно
определяют исход, Так^ например^ если на материальную
точку действует сила тяжести и в некоторый момент заданы
положение и скорость материальной точки€ то ее даль-
нейшее движение определяется соответствующим диффе-
ренциальным уравнением однозначно, Однако Зт$ ме-
ханическая модель не всегда удовлетворительно описы-
вает реальные физические явления, Если,; напримерf
рассматривать движение нули,; то ее траектория практи-
чески уже не будет определяться однозначно; начальная
скорость пули по многим причинам не остается постоянной
при различных выстрелах и, следовательно, окажет влия-
ние на неоднозначность исхода всего опыта,
Если колебания значений начальной скорости невели-
ки (например,; меньше погрешности при численном интег-
рировании уравнения), то можно использовать детерми-
нированную механическую модель, в которой движение
однозначно определяется начальными условиями.
Неоднозначность исхода при сохранении основных
условий опыта наблюдается для широкого круга явлений.
При подбрасывании монеты мы не можем предсказать
исход: упадет монета гербом вверх или нет.
Результаты нескольких измерений одной и той же
величины, полученных одним и тем же прибором в одних
и тех же условиях, различны. Влияние очень большого
числа разнообразных причин, каждая из которых в отдель-
ности не может повлиять на результат опыта, приводит
к тому, что результат опыта не определяется заранее одно-
значно; говорят, что результат такого опыта случаен.
Примеры случайных явлений можно указать во мно-
гих областях науки и техники (например, в физике, био-
логии, демографии,: в массовом производстве^ в системах
автоматического управления и т, д.).
8
ВВЕДЕНИЕ
2. Вероятность и частота. В повседневной речи мы
часто используем слова «вероятность», «случай», «собы-
тие». Интуитивно вероятность некоторого события вос-
принимается как объективная характеристика возмож-
ности его появления.
Экспериментально установлено, что с ростом числа
опытов N, проводимых в одинаковых условиях, частота
появления некоторого случайного события А (отношение
числа опытов Na, в которых событие А появилось, к об-
щему числу опытов N) становится почти постоянной.
Таким образом, можно попытаться с каждым случайным
событием связать некоторое число Р, к которому прибли-
жается частота, и считать это число вероятностью собы-
тия. Очевидно, что приведенные соображения нельзя
считать удовлетворительным математическим опреде-
лением вероятности. Попытки выбирать число Р по раз-
ным сериям опытов будут приводить обычно к разным,
хотя и близким значениям Р.
В простейших случаях интуитивные представления
о вероятности часто приводят к однозначному ответу.
Так, например, никто не сомневается в том, что вероят-
1
ность выпадения героа при подбрасывании монеты равна у.
Объяснения обычно приводятся достаточно убедительные:
1) возможны два события — выпал герб, выпала ре-
шетка; ни одному из них нельзя отдать предпочтения,;
так как монета симметрична;
2) при многократном повторении опыта частота по-
- * 1
явления герба близка к у •
Первая часть этого объяснения является попыткой
построить модель случайного явления; вторая часть — эк-
спериментальная проверка соответствия модели реальному
явлению.
Однако при незначительном усложнении опыта «по-
вседневная интуиция» или «здравый смысл» могут под-
водить. Представим себе, что при каждом из 10 подбра-
сываний монеты выпал герб. Предлагается угадать, какой
стороной упадет монета в следующий раз. Довольно рас-
пространено мнение, что выпадение решетки более ве-
роятно. Этот «вывод» делается примерно следующим обра-
зом: длинные серии подряд идущих гербов встречаются
не часто, а если известно, что длинная серия начинает
появляться., то она должна быстрее кончиться, и, следа-
ВВЕДЕНИЕ
9
вательно, появление решетки более вероятно. Отсутствие
длинных серий гербов нетрудно заметить^ даже если
не записывать результаты опытов. Однако эксперимен-
тальная оценка вероятности появления решетки после
10 гербов требует уже фиксирования результатов опыта.
Нужно отобрать все цепочки из 10 гербов и посмотреть,
сколько раз следующим результатом будет герб и сколько
'	ГК	1	*
раз — решетка. Ответ в этом более сложном опыте
свидетельствует о более развитой интуиции.
В качестве примера совсем неприемлемого рассуж-
дения можно привести следующий: я не знаю$ пойдет
1
сегодня дождь или нет, следовательно,; его вероятность у «
Эта «модель» к дождю вряд ли имеет какое-либо отноше-
ние. Отметим для сравнения, что в примере с монетой
учитывалась ее объективная характеристика — симмет-
ричность.
Многообразие и сложность задач, встречающихся в
приложениях, требуют четкого определения понятий,;
связанных со случайными явлениями.
3. Математическая модель. Теория вероятностей, так
же как и другие разделы математики,; имеет дело не с
явлениями окружающего мира непосредственно,; а с их
математическими моделями.
В математической модели должны быть правильно
переданы существенные стороны изучаемого явления,
а несущественные — отброшены. Слишком подробное опи-
сание изучаемого явления приводит к усложнению ма-
тематической модели и может значительно затруднить
исследование. Излишнее упрощение модели может при-
вести к неверным выводам. Насколько удачно введена
модель, можно судить по согласованности теоретических
выводов с опытом.
В математических моделях случайных явлений веро-
ятность рассматривается как функция от случайного собы-
тия. В курсах математического анализа прежде, чем при-
ступить к изучению функции, довольно много внимания
уделяется изучению ее аргумента — действительного числа.
Аргументом вероятности является случайное событие.
Поэтому в гл. 1 мы прежде всего займемся уточнением
интуитивного понятия случайного события, а затем введем
Понятие вероятности.
Ю	ВВВДВНИВ
Аксиоматический подход построения теории вероят-
ностей, предложенный А. Н. Колмогоровым в книге
«Основные понятия теории вероятностей», сделал теорию
вероятностей математической наукой. Ее аксиомы и тео-
ремы в абстрактной форме отражают закономерности^
присущие случайным явлениям. В настоящее время ак-
сиоматический подход является общепринятым.
В других разделах математики аксиоматический под-
ход был принят значительно раныпеЛ чем в теории веро-
ятностей»
ГЛАВА 1
Вероятностное пространство
Для избежания неясностей при описании случайных
явлений^ результатов опыта или наблюдений необходимо
формализовать эти описания, С этой целью вводится мно-
жество Q элементарных исходов эксперимента (простран-
ство элементарных событий); выделяется класс событий
31 (алгебра или о-алгебра событий); рассмотрением кото-
рого можно ограничиться в данной задаче; на множестве
событий 51 задается" функция Р (вероятность), удовлетво-
ряющая некоторым условиям, Тройку (Q, 3f5 P)f которая
вводится при формализации любой вероятностной задали,;
называют вероятностным пространством t Дадим теперь
формальное определение вероятностного пространства
и покажем на примерах,: как проводится формализация
реальной задачи.
§ 1. Пространство элементарных событий
Произвольное множество Q назовем пространством
элементарных событий, Элементы со этого множества
Q будем называть элементарными событиями. Эти поня-
тия являются первоначальными. В реальном опыте эле-
ментарным событиям соответствуют взаимоисключающие
исходы. Ввиду большого разнообразия случайных явлений
нельзя дать более конкретное определение множества
элементарных событий, Для описания каждой реальной
задачи множество Q выбирается наиболее подходящим
образом. Рассмотрим ряд примеров, поясняющих выбор
множества Q.
1.	Подбрасывание монеты один
раз. Возможными исходами в этом опыте будут: выпа-
дение монеты гербом вверх (или просто выпадение герба),,
выпадение решетки. Кроме того, монета, возможно, вста-
нет на ребро, укатится куда-нибудь и т. д. Можно пере-
числить ряд исключающих друг друга событий, которые
могут произойти с реальной монетой. При математиче-
12
ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО
[ГЛ. 1
ском описании этого опыта естественно отвлечься от ряда
несущественных исходов и ограничиться только двумя:
выпадение герба (можно обозначить это событие Г,
или сор), выпадение решетки (Р, со2 или сир). Таким обра-
зом, при описании этого опыта мы полагаем
Q = {Г, Р}, Q = {(Di, со2} или й = {©г, сор},
2.	Подбрасывание игра ль ной ко-
сти один раз. В этом опыте естественно выбрать
й = {(оп со2, со3, со4, (об, со6}, где обозначен исход
опыта, заключающийся в выпадении к очков. Имеем шесть
исключающих друг друга исходов.
3.	Подбрасывание монеты п раз»
Каждому исходу опыта естественно поставить в соответст-
вие последовательность длины п по следующему правилу:
если при &-м подбрасывании монеты выпал герб, то на Л-м
месте последовательности пишем Г, а при выпадении ре-
шетки — Р. Так, последовательность ГГГ...ГГ обозначает
исход опыта, заключающийся в том, что каждый раз вы-
падал герб. При небольших значениях п все элементар-
ные события нетрудно выписать. Например, при п = 3
й = {ГГГ, ГГР,; ГРГ, РГГ, РРГ, РГР, ГРР, РРР}.
Нетрудно проверить, что число элементарных событий
при любом п равно 2П* Действительно, по первому знаку
последовательности множество Й можно разбить на две
группы цепочек вида
{Г...},
Каждую из этих групп, фиксируя второй знак последо-
вательности, можно снова разбить на две группы. Полу-
чим 2-2 групп:
{ГГ...}, {ГР...}, {РГ...}, {РР...}.
Фиксируя третий знак, получим 2*2-2 групп. Продол-
жив этот процесс до фиксирования п знаков, мы получим
2п групп, каждая из которых состоит из одной последо-
вательности.
4.	Работа телефонной станции. Пред-
положим, что мы наблюдаем работу телефонной станции
в течение четверти часа и нас интересует число поступив-
ших вызовов. Если телефонная станция обслуживает не-
значительное количество абонентов, то за время наблю-
дения может не поступить пи одного вызова, может постук
§ 1]	ПРОСТРАНСТВО ЭЛЕМЕНТАРНЫХ СОБЫТИЙ
13
пить один вызов, два вызова и т. д. Достаточно ясно, что
число вызовов будет всегда конечно. Однако разумно
установить верхнюю границу числа вызовов довольно за-
труднительно. Проще не ограничивать возможное число
вызовов и считать возможными исходами 0 и все натураль-
ные числа: Q = {0, 1, 2, ...}. Это предположение про-
ще, чем довольно искусственный подбор верхней границы
числа вызовов. Предположение о возможности любого
числа вызовов кажется абсурдным. Однако если окажется,
что очень большое число вызовов происходит с очень ма-
лой вероятностью, то это будет совместимо с нашим прак-
тическим понятием невозможности. Подобные ситуации
возникают довольно часто. Например, в страховом деле
при расчетах не ограничивается максимальный возраст;
при измерении довольно часто предполагается, что вели-
чина ошибки может принимать любые значения. Если
в рассматриваемой задаче с работой телефонной станции нас
интересует не только общее число поступивших вызоврв,;
но и моменты их поступления, то пространство элементар-
ных событий нужно выбрать более детализированном.
Можно, например, исход нашего наблюдения описать
ступенчатой функцией, постоянной между моментами по-
ступления вызовов и имеющей скачки в моменты посту-
пления вызовов. В этом случае Q — множество ступенча-
тых функций.
5.	Стрельба по плоской мишени.
Введем в плоскости мишени прямоугольную систему коор-
динат uOv и каждому исходу опыта (попадание в опреде-
ленную точку плоскости) поставим в соответствие коорди-
наты, этой точки. Тогда множеством Q является вся пло-
скость или множество всех упорядоченных пар действи-
тельных чисел. Этот факт мы запишем следующим образом:
Q = {(и, и): — оо < и < оо, — оо < и < оо},
где и, v — действительные числа. В дальнейшем мы будем
часто пользоваться такими обозначениями для различных
множеств. Например, множество точек замкнутого еди-
ничного круга с центром в начале координат будем запи-
сывать в виде
{(и, и): и2 + v2 1}.
6.	Броуновское движение. В микроскоп
наблюдается движение малой частицы, подвергающейся
большому числу ударов со стороны молекул. Наб люде-
14	ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	[ГЛ. 1
ние проводится в промежутке времени [О, Г]. Исходом
этого опыта будет определенная траектория движения
частицы. Если интересоваться перемещением частицы
вдоль заданного направления, то в каждый момент вре-
мени ME [О, Г], положение ее проекции на заданное
направление будет определяться координатой х (t).
В этом случае Q = {#(£)} —множество непрерывных
действительных функций, определенных на отрезке [О, Г].
§ 2. Алгебра событий
В реальном опыте кроме взаимоисключающих исходов
можно указать много других случайных событий. В при-
мере 2 из § 1 перечислены элементарные исходы для
одного бросания игральной кости. В этом же опыте можно
говорить, например, о случайном событии, состоящем
в том, что выпало четное число очков. Это событие проис-
ходит только в том случае, когда происходит одно из трех
элементарных событий: со2» или <ов. Выпадению нечет-
ного числа очков соответствуют элементарные события
<01, со3, (об. Представляется естественным каждое реальное
событие А' в математической модели рассматривать как
некоторое подмножество А множества Q, включив в А те
и только те элементарные события, при которых происхо-
дит А'.
Случайным событием или просто событием будем на-
зывать любое подмножество множества Q, если Q конечно
или счетно:
Q = {<ох, (о2, . . .т con}или Q = {<ох, со2, • » <оп, » >
В случае произвольного Q событиями будем называть
только подмножества из некоторого класса 91 подмноже-
жеств Q, который будет определен после введения опе-
раций над событиями, совпадающих с операциями над
множествами.
Суммой двух событий А и В назовем событие А + В
(или A (J 5), состоящее из всех элементарных событий,
принадлежащих по крайней мере одному из событий А
или В. Можно сказать, что в реальном опыте событие,
соответствующее А + Bf состоит в том, что произошло
по крайней мере одно из событий А или В. Пусть в при-
мере 5 из § 1 событиями А л В являются попадания
соответственно в большой и малый круг (рис. 1) • Тогда
§2]
АЛГЕБРА СОБЫТИЙ
15
событием А + В является заштрихованная область на
рис. 1, а.
Произведением АВ (или A Q В) называется событие,
состоящее из элементарных событий, принадлежащих
и Л и В. Событие АВ происходит тогда и только тогда,
когда происходит и А и В. Для примера 5 событие АВ
изображено заштрихованной фигурой на рис* 1, б*
Разностью А \ В называется событие, состоящее из
элементов множества А, не принадлежащих В (см. рис. 11 в)*
Событие А \ В состоит в том, что А произошло^ а В не
произошло.
Событие Q назовем достоверным', пустое множество 0
назовем невозможным событием. Событие Д == Q \ Д
называется противоположным событию А (см. рис* а)*
Событие А означает, что А не произошло.
События А и В несовместны, если АВ = 0, Тот факт,}
что А является подмножеством В, будем записывать так:
A CZ В (или В Z) Д). Это значит, что из наступления собы-
тия А следует наступление Вt В примере 5,: если A CZ В,,
то попадание в область Д? содержащуюся в В, означает
также попадание в В, Принадлежность элемента множе-
ству обозначается символом ЕЕ. Например, g)E Q.
Понятия произведения и суммы событий переносятся
на бесконечные последовательности событий, Событие
А1 + Дг + ♦ • ♦ + Ап + ..*=* U Ап
состоит из элементарных событий, принадлежащих хотя
оо
бы одному из событий Ап, n = 1, 2, , » * Событие П Дп ==
71—1
= ДХД2 ж Ап 9 9 » состоит из элементарных событий^,
рринадлежащих каждому событию ДП1 » » 1х2, , , .
16	ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	[ГЛ. 1
Для произвольных событий непосредственно из опре-
деления легко проверить, что
АА = А, А + А = А, АА = 0.
Часто оказываются полезными следующие равенства:
А + В = АВ,
(А + В) С = АС + ВС.
Докажем, например, второе. Нужно убедиться, что
множества, стоящие в обеих частях равенства, состоят
из одних и тех же элементов. Пусть произвольное (о Е
е (Л + В) с. Тогда ©ел+ВишеС. Изшелн-
+ В следует, что со принадлежит хотя бы одному слагае-
мому. Пусть, например, ШЕЛ. Из со Е А и со Е С
следует по определению произведения событий, что <о Е
Е АС, и, следовательно, со Е АС + ВС. Таким образом,
любой элемент множества (Л + В) С является элементом
множества АС + ВС, т. е. (Л + В) С Е АС + ВС.
Предположив, что <о Е АС + ВС, мы, используя рас-
суждения, аналогичные приведенным выше, покажем, что
любой элемент АС + ВС является элементом (Л + В) С.
Отсюда следует доказываемое равенство, так как множест-
ва его левой и правой частей состоят из одних и тех же
элементов. До проведения доказательства равенств полез-
но, считая А, В, С множествами на плоскости, сделать
рисунки множеств, стоящих в левой и правой частях до-
казываемых равенств.
Перейдем теперь к определению некоторых классов
подмножеств множества Q. В начале главы было отмечено,
что вероятность будет рассматриваться как функция от
события. Для любых подмножеств множества Q вероятность
не всегда удается определить. В тех случаях, когда класс
подмножеств приходится ограничивать, мы будем требо-
вать от него замкнутости относительно введенных выше
операций над событиями.
Пусть Q — произвольное пространство элементарных
событий, а 9( — некоторый класс подмножеств множества Q.
Класс подмножеств 91 называется алгеброй событий,
если Q Е 91 и если АВ Е 91, А + В Е 9(, Л \ В Е 91
при любых Л Е 91, В Е 9L Отсюда следует, что 0 =
= Q \ Q Е 91. Наименьшей системой подмножеств, яв-
ляющейся алгеброй, очевидно является система 91 =
= {0, Q}. Нетрудно провермть следующее утверждение^
§ 2]
АЛГЕБРА СОБЫТИЙ
17
Если 31 — система всех подмножеств множества Q, то
31 — алгебра. Если Q — конечное множество, то система
всех подмножеств будет также конечным множеством.
Для Q из примера 2 § 1 можно выписать все события ал-
гебры Э(, состоящей из всех подмножеств Q:
0; {coj, {со2}, . .	{<»«};
{©!, <02}, {©!, ®з}, . .	{<О5, фв}; {й)1, (02, <О3}, . , ,1
{(!>!, (О2, (О3, <о4, (О5, <ов} = Q.
В этом примере алгебра 31 состоит из 26 = 64 событий.
Если множество Q состоит из N элементов, то число всех
подмножеств равно 2N, Действительно, число последова-
тельностей из 0 и 1 длины N равно 2N, а между такими
последовательностями и подмножествами Q можно уста-
новить взаимно однозначное соответствие по следующему
правилу: элемент с номером i из множества Q включается
в подмножество, соответствующее данной последователь-
ности, если на г-м месте последовательности стоит 1.
Приведем еще один пример алгебры событий. Пусть
Q = {(и, г?): О < и < 1, 0 < v < 1} — единичный квад-
рат в плоскости. В курсе-*анализа доказано, что объе-
динение, пересечение и разность квадрируемых фигур
являются квадрируемыми фигурами. Следовательно, си-
стема 31 квадрируемых подмножеств квадрата Q образует
алгебру событий.
Алгебра событий 31 называется (5-алгеброй или борелевской ал-
геброй, если пз того, что Ап е 31, п = 1, 2, . . ., следует
U Апе31, П
П=1	П=1
Рассмотрим следующий пример. Пусть Q = {и: — оо < и <
< оо} — числовая прямая. Определим систему множеств 310» со~
стоящую из конечных и бесконечных отрезков, интервалов и полу-
интервалов:
[«!, и2] = {и: Uj < и < и2}, (иь и2] = {и: щ < и и2},
(их, и2) = {и: Uj и <Z w2}, (мп u2) = {и: uv и u2},
где u2 — действительные числа (иг u2) и, кроме того, в стро-
гих неравенствах иъ и2 можно заменять на — оо, оо. Эта система
310 не является алгеброй; например, сумма множеств (— оо,
— 1) U (1, оо) не входит в 310, хотя каждое слагаемое принадлежит
310. Дополним 310 всеми конечными суммами множеств из 310. Но-
вая, более широкая система множеств 31 является алгеброй.
Назовем а-алгебру 31* минимальной о-алгеброй, порожденной
31» если любая другая о-алгебра, содержащая множества из 31, со-
18	ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	[ГЛ. 1
держит также все множества из &*. Множества из минимальной
о-алгебры рассматриваемого примера называются борелевсяили.
В частности, борелевским множеством является каждая точка чис-
ловой прямой (вырожденный отрезок {mJ = [ub uj). Так как мно-
жество рациональных чисел R счетно, то их можно перенумеровать:
R = {ri> г2, • • •» Г7П’ • • Тогда R = и {rw} и, следовательно,
т=1
R является борелевским множеством. Из Q е ЭД* и 1? е ЭД* сле-
дует, что множество иррациональных чисел Q \ Я е 51*, т.е.
тоже является борелевским.
Аналогично определяются борелевская алгебра и борелевские
множества на плоскости и в пространстве.
В дальнейшем мы обычно будем рассматривать те задачи, в ко-
торых можно ограничиться алгеброй событий.
§ 3. Вероятность
Теперь мы можем ввести понятие вероятности события.
Числовая функция Р, определенная на классе событий %,
называется вероятностью,- если выполнены следующие
условия:
А1« 91 является алгеброй событий,
А2« Р (А) > О для любого A Ez %.
АЗ, Р (Q) == 1.
А4 (аксиома конечной аддитивности). Если А и В не-
совместны^ то
Р (А + В) == Р (А) + Р (В).
Для решения задач, связанных с бесконечными по-
следовательностями событий, требуется дополнить при-
веденные аксиомы следующей аксиомой непрерывности:
А5. Для любой убывающей последовательности
. Z)An D . . .	(3.1)
событий из 91 такой, что
ДАп = 0,	(3.2)
имеет место равенство
limP(An) = 0.	(3.3)
П-*О0
Тройку (Q, 91, Р), в которой Р удовлетворяет А2 —
А5, а множество 9( не только является алгеброй событий,;
по еще и замкнуто относительно счетных сумм и произве^
ВЕРОЯТНОСТЬ
19
§ 3]
дений (т. е. 91 является о-алгеброй)х называют вероят-
ностным пространством,
В дальнейшем мы почти не будем использовать А5 и
дополнительное предположение о замкнутости 91 относи-
тельно операций в счетном числе,
Если вероятность Р удовлетворяет Al—А5 и алгебра 91 не
является а-алгеброй, то функцию Р можно доопределить на множе-
ствах из минимальной о-алгебры 91*, порожденной 91. Приведем
без доказательства следующую теорему.
Теорема о продолжении вероятности.
Пусть вероятность Р удовлетворяет А1—А5 и 91* — минималь-
ная а-алгебра, порожденная 91. Тогда существует, и притом един-
ственная, функция Р* (А), которая определена на 91*, удовлетворя-
ет А2—А5 и совпадает с Р (А), когда А е 91.
Таким образом, можно сразу считать, что в А1 система 91 яв-
ляется о-алгеброй.
Понятие вероятностного пространства содержит лишь
самые общие требования, предъявляемые к математиче-
ской модели случайного явления, и не определяет вероят-
ность однозначно. Дальнейшая конкретизация определе-
ния проводится применительно к рассматриваемой реаль-
ной задаче.
Рассмотрим два простых примера, которые дают не-
которое представление о выборе вероятностной модели
на основе понятия вероятностного пространства.
Пусть брошена один раз игральная кость. Для этого
опыта в примере 2 § 1 было выбрано Q =	<о2, • • •
. . ., <ов}. Алгебра событий 91 в данном случае состоит из
всех подмножеств А = {со/11	» ., CZ Q (к = 1Х , ..
• •	6; г’1 <	< • » » < hf Ч == 1, 2, . . >, 6) и пустого
множества 0. Пусть pt О, i = 1,. , „ ., 6,— любые числа,
‘	в
для которых 2 Pi = !• Положим
1=1
Р (А) = ph + pit 4- , . .+ pik*	(3.4)
Отсюда, в частности, получаем
P({<oJ)=Pb г = 1,2,...,6.	(3.5)
Нетрудно проверить,; что функция Р (А), определен-
ная формулой (3.4), удовлетворяет аксиомам А2—А4.
При различных наборах чисел \р±, р^ . • ., р6) мы будем
получать разные определения вероятности. Очевидно,; что
посредством математических рассуждений из этого мно-
жества определений выбрать нужное мы не сможем.
20	ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	[ГЛ. 1
Если кость симметрична, то представляется естествен-
ным дополнительное предположение о равновероятности
выпадения различных граней. Тогда из формул (3.5)
заключаем, что = р2 = . . . = р6 = 1/6, и, следова-
тельно, вероятность Р (Л) определяется однозначно. Окон-
чательное заключение о качестве выбранной модели може!
быть сделано после экспериментальной проверки.
Если кость несимметрична, то в подходящей моделй
некоторые или всеpt должны быть отличны от 1/6. Пусть,
например, кубик игральной кости склеен из плотной
бумаги и к грани, противоположной грани с «6», при-
креплен груз. В этом случае будет выпадать всегда «6».
В формуле (3.4) нужно положить р6 = 1, рг = р2 = . . .
. . . =	= 0.
Рассмотрим еще две математические модели опыта,
заключающегося в подбрасывании двух одинаковых монет.
Модель 1. Положим Q = {<£>!, со2, со3}, где элементар-
ное событие (Oi означает, что обе монеты выпали гербами
вверх, со2 — обе монеты выпали решетками вверх, со3 —
монеты выпали разными сторонами. Если считать элемен-
тарные события равновероятными, то вероятность события
Л = {«i, со2}, состоящего в том, что монеты выпали оди-
наковыми сторонами, равна Рх (Л) = 2/3.
Модель 2. Пусть Q = {ГГ, ГР, РГ, РР}, где знак Г
па первом или втором месте в обозначении элементарного
события означает, что на первой или на второй монете
выпал герб; Р аналогично связано с выпадением решетки.
Считая элементарные события равновероятными, для
события Л = {ГГ, РР} получим Р2 (Л) = 2/4 = 1/2.
Получили две разные вероятности одного и того же
события. Экспериментальный выбор подходящей модели
может быть проведен следующим образом. Подбросим N
раз (N — достаточно большое) пару монет; пусть Na раз
произошло событие Л. Если частота Na/N 2/3, то счи-
таем подходящей модель 1; если Na/N ~ 1/2, то выбираем
модель 2. Эта задача выбора из двух моделей (или двух
гипотез) является одной из задач математической
статистики. Более подробно она будет рассмотрена
в § 6 гл. 9.
В задачах, подобных задаче о подбрасывании двух
монет, практически всегда правильный выбор может быть
сделан из соображений симметрии. Подбрасываются две
физически различные монеты, поэтому естественно счи-
тать множество Q состоящим из четырех элементарных
ВЕРОЯТНОСТЬ
21
§ 3]
событий, которым естественно приписать одинаковые
вероятности. Модель 1 казалась бы более естёствённой^
если бы можно было себе представить монеты физически
неразличимыми. Опыт показывает, что в действительности
монеты ведут себя как различимые. Однако этот достаточ-
но очевидный факт для монет оказывается неверным для
некоторых типов частиц. Бозе и Эйнштейн показали^ что
некоторые типы частиц ведут себя как неразличимые *)<
Рассмотренный пример показывает^ что нельзя слиш-
ком полагаться на интуицию; подходящей моделью может
оказаться совершенно неожиданная»
Укажем несколько простых свойств вероятности^ ко-
торые непосредственно следуют из аксиом А2 —Ait Из
аксиом A3f А4 и равенства А + А «== Q следуетд что
Р (Л?) = 1 -Р(А).	(3.6)
Полагая здесь А = получим Р (0) =» 0г Для любых
событий А и В имеет место формула
Р (А + В) = Р (Л) + Р (В) - Р (АВ).	(3.7)
Действительно^ представим события А 4- В и В в виде
А + В = А + В А и В = В А -|- В А. События в правых
частях этих равенств несовместны,: и,; следовательно^
Р (А + В) = Р (А) + Р (ВА),
Р (В) = Р (BA) + Р (АВ).
Отсюда легко следует (3.7).
Непосредственно из (3.7) для любых А и В получаем
Р (А + В) < Р (А) + Р (В).	(3.8)
Нетрудно проверить следующее свойство: если A Q В, то
Р (А) < Р (В).	(3.9)
Можно показать (см. [2], гл. 2, § 1, стр. 30—31), что
аксиомы А4 и А5 эквивалентны следующему свойству
счетной аддитивности вероятности: если в последователь-
ности А1,А2,...,Ап,... события попарно несовместны
(т. е. AtAj = 0 при i Ф /) и A — U AneE9li то
Р(Л)=5р(Л„).	(3,10)
71=1
♦) Подробнее см. [18], § 5 гл. 2.
22
ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО
[ГЛ. I
Отметим без доказательства еще одно свойство, связанное
с аксиомой непрерывности А5.
Если
•4iCZZ Л.2 CZ • • • CZ Ап CZ A-n+i CZ »•» и А = (J Ап
или
Ai ZD Аъ ZD t * 9 ZD An ZD An+i ZD • i л и A = f] An$
n=i
mo
P(4) = limP(4n).	(3.11)
n-»OQ
Несколько важных частных случаев вероятностных про-
странств рассматриваются в гл. 2, В дальнейшем вновь
вводимые теоретико-вероятностные понятия позволят нам
расширить набор частных случаев вероятностных про-
странств и приемов их построения«
Задачи к главе £
1.	Проверить следующие соотношения между событиями:
1)	А \ В = АВ;
2)	А \ В = А \ АВ = (4 + В) \ В;
3)	(4 + В) = АВ, АВ = А + В; -
4)	А (В\С) = АВ\АС.
2.	Установить, какие из следующих соотношении правильны:
1)	А \ (В \ С) = (А \ В) + С;
2)	А \ (В \ С) = (4 \ В) + АС;
3)	(А + В) \ С = (4 \ С) + (В \ С);
4)	(4 + В) \ С = А + (В \ С);
5)	4BCG4 + В;
б)	(4 \ В) (С \ D) = AC \ BD.
3.	Упростить следующие выражения:
1)	4 + АВ; 3) (4 \ С) (В \ С);
2)	(4 + В) (4 + В); 4) (4 + В) (А + В) (А + В).
4. Пусть
Лп = {х: a<;r<a + lj
В = (х: а < х < b — 2J
1	л
Для событий
4= П Ап, В= U Вп
ЗАДАЧИ К ГЛАВЕ 1
найти более простые выражения,
5. Какие подмножества множества Q в примере 3 из § 1 при
п = 3 соответствуют событиям, состоящим в том, что
1)	при первом подбрасывании выпал герб;
2)	всего выпало ровно два герба;
3)	выпало не более одного герба?
6.	Пусть А, В, С — три произвольных события. Найти выра-
жения для событий, состоящих в том, что из А, В, С
1)	произошло только А;
2)	произошли А и В, С не произошло;
3)	все три события произошли;
4)	произошло по крайней мере одно из событий;
5)	произошло одно и только одно событие;
6)	ни одно событие не произошло;
7)	произошло не более двух событий.
7.	Пусть в примере 3 из § 1 п = 3. Является ли алгеброй сле-
дующая система подмножеств:
0, Й (ГГГ, ГРГ, ГГР, ГРР), (РГГ, РРГ3 РГР, РРР)?
ГЛАВА 2
Простейшие вероятностные схемы
и их обобщения
§ 1. Классическое определение вероятности
Пусть Q = {со1? . . со5} —пространство элементар-
ных событий, а 91 — алгебра событий, содержащая все 2s
подмножеств А = {со^< . . colR} множества £2. В клас-
сическом определении вероятности полагают^ что Р (cof) =
= 1/s, i = 1, 2, . . ., s; поэтому вероятность Р (Л) собы-
тия А = {сой,;.. .,coiR} равна отношению числа элемен-
тарных событий сог, входящих в Л, к общему числу эле-
ментарных событий в Q:
Р<л>=-ЩГ = ^--	<1Л>
Здесь и в дальнейшем число элементов любого конечного
множества М будем обозначать | М |.
Определенная равенством (1.1) функция Р (Л) удов-
летворяет всем аксиомам Al—А5. Действительно,; для
любого множества Q система всех его подмножеств являет-
ся алгеброй. Аксиомы А2 —А4 непосредственно следуют
из (1.1).
Аксиома А5 для конечных 91 следует из предыдущих
аксиом, поскольку в этом случае в (1.3.1) все события,
начиная с некоторого п, совпадут с 0, а Р (0) = 0.
Таким образом, введенная формулой (1.1) функция
Р(Л) является вероятностью*
Классическое определение вероятности служит хоро-
шей математической моделью тех случайных явлений, для
которых исходы опыта в каком-либо смысле симметричны
и поэтому представляется естественным предположение
об их равновозможности. Обычно это предположение
оправдано в задачах из области азартных игр, лотерей
и т. д. Это объясняется тем, что при изготовлении играль-
ных костей, карт и организации лотерей заботятся
о соблюдении равновозможности различных исходов. Та-
кие же требования предъявляются к организации выбь-
КЛАССИЧЕСКОЕ ОПРЕДЕЛЕНИЕ ВЕРОЯТНОСТИ
25
§ И
рочного контроля и выборочных статистических исследо-
ваний.
Дадим описание некоторых часто встречающихся ве-
роятностных схем, в которых детализируется общее клас-
сическое определение.
Обозначим Л множество из N чисел: Л = {1, 2,;.* .
. . ., 7V}; пусть со = (ix, i2, . . ., in) — упорядоченный на-
бор из п элементов множества <Л. Вероятностную схему,
в которой
Q = {со = (гх, . . ., ?n): ik€E Л. к = 1, 2, , . п} (1.2)
и все элементарные события со равновероятны, называют
схемой случайного выбора с возвращением.
Схемой случайного выбора без возвращения называют
вероятностную схему, в которой
й = {о =	/п): Е Л к = 1, . . ., п,
?х, . . ., in различны} (1.3)
и элементарные события со равновероятны.
Эти две схемы, (1.2) и (1.3), можно интерпретировать
следующим образом. Пусть в урне имеется N одинаковых
шаров, занумерованных числами множества Л. Из урны
по одному выбирается п шаров, и записываются их но-
мера. ?Х, ?2 f * * •,
Если каждый вынутый шар сразу возвращается в ур-
ну, то для обозначения множества исходов Q использует-
ся множество (1.2). Если вынимаемые шары в урну не воз-
вращаются, то множеством исходов является (1.3). В слу-
чае выбора без возвращения иногда удобнее считать, что
шары извлекаются не по одному, а сразу все. В этом
слу1 ie не нужно учитывать порядок извлекаемых шаров.
В (1.3) произойдет «укрупнение» элементарных событий:
все события со = (jx, . . ., ?п), отличающиеся друг от дру-
га только расположением номеров . . ., in, объеди-
няются в одно событие й>. В результате такого объедине-
ния получится более «бедное», чем (1.3), пространство эле-
ментарных событий:
Q = {со = (?;, . . Q; (= Л,
к = 1, . . ., п, гг < . . . < in}. (1.4)
Используя формулу (1.1), нетрудно показать, что любое
реальное событие, которое можно описать в обеих схе-
мах (1.3) и (1.4), имеет в этих схемах одинаковые вероят-
ности.
26	ПРОСТЕЙШИЕ ВЕРОЯТНОСТНЫЕ СХЕМЫ (ГЛ. 2
В формулировках задач по теории вероятностей^ пред-
назначенных для упражнений, довольно часто приводится
только описание опыта или явления, а полная матема-
тическая формулировка не дается. Предполагается^ что
решение должно состоять из двух частей: 1) выбор под-
ходящей модели для описания данного в условии задачи
опыта и математическая формулировка задачи; 2) реше-
ние Математической задачи.
Рассмотрим несколько примеров.
Пример 1. Из урныл содержащей М белых и
N ~М черных шаров, наудачу извлекается сразу п ша-
ров. Какова вероятность того, что среди выбранных п
шаров окажется ровно т белых?
Решение. Слово «наудачу» в описаниях опыта встре-
чается довольно часто, В данной задаче предполагается^
что шары были хорошо перемешаны, что все они одного
радиуса, одинаково гладкие и отличаются только цветом;
выбирающий шаров не видит, В таком случае разумно
предположить, что все элементарные исходы опыта равно-
вероятны, и, следовательно, можно воспользоваться клас-
сической схемой.
За элементарные события естественно принять любые
подмножества по п элементов, выбранные из множества N
шаров. Из школьного курса математики известно,; что
число таких подмножеств равно Таким образом
в формуле (1.1) нужно положить s == 0$. Каждый набор
шаров, входящий в интересующее нас событие (обозна-
чим его Лт), состоит из двух частей: 1) т белых шаров
и 2) п — т черных шаров. Все такие наборы можно по-
лучить следующим образом. Сначала выберем части набо-
ров из белых шаров; число таких частей См\ затем отдель-
но составим части наборов из черных шаров; число таких
частей	Объединение любой части набора из
белых шаров с любой частью набора из черных шаров дает
полный набор шаров, принадлежащий Лт. Следователь-
но, число элементарных событий в Ат равно к = C'mC’Srm
и по формуле (1.1)
Р(Лт) = Рп(т,N,М) = - м *-м-,	(1,5)
bN
т = m0, m0 + 1,;а,	mVj
где m0 = max (О, М — N + п), /пх = min (Л/, п).
§ 1]	КЛАССИЧЕСКОЕ ОПРЕДЕЛЕНИЕ ВЕРОЯТНОСТИ	27
Набор чисел (1.5) называют гипергеометрическим рас-
пределением.
В приложениях к задачам выборочного контроля роль
шаров играют N изделий проверяемой партии. Число М
бракованных изделий (белых шаров) неизвестно, Может
оказаться, что сплошь все изделия проверить нельзя! их
слишком много, или проверка приводит к уничтожению
изделия (например, потребуется при проверке установить
срок службы лампочки). Тогда из всей партии изделий
отбирают для проверки небольшую часть из п изделий.
Если среди выбранных изделий оказалось т бракован-
ных, то полагают ж . Формула (1.5) используется
т М г.
при оценке отклонения — от -у-. В рассмотренной ситуа-
ции неизвестным параметром является число М,
Рассмотрим пример, когда требуется оценить неизвест-
ный параметр N. Пусть N — неизвестное число рыб в не-
котором водоеме. Можно провести отлов М рыб, пометить
их и пустить обратно. По числу т помеченных рыб
в повторном отлове из п рыб можно делать заключания
о величине N.
Оценим по формуле (1.5) вероятность получения
какого-либо выигрыша в «Спортлото» по одной карточке.
Участник лотереи из 49 номеров отмечает 6 (49 шаров,
среди которых 6 белых; N = 49, М = 6). После того как
участник сдал карточку, проводится выборка п = 6 но-
меров. Если число т номеров, отмеченных участником и
попавших в выборку, оказалось больше 2, то участник
получает какой-либо выигрыш. Если событие А — полу-
чение выигрыша. то А = Ао + Аг + А2. По формуле
(1.5) находим:
- Р (40)	= 0,435965,	Р (4Х)	=	0,413019.
Р (42)	= 0,132378,	Р (43)	=	0,017650,;
Р (44)	= 0,000969.	Р (4 б)	=	0,000018.
Р (4в) = 0,00000007151.
Отсюда
Р (4) = Р (40) + Р (4г) +Р (А2) = 0,981362.
Искомую вероятность находим по формуле (1.3.6):
Р (4) = 1 - Р (4) = 0.018638.
28
ПРОСТЕЙШИЕ ВЕРОЯТНОСТНЫЕ СХЕМЫ
[ГЛ. 2
Пример 2. Ребенок, играя десятью кубиками, на
которых написаны буквы М, М, Т, Т, А, А, А, К, И, Е,
сложил слово «МАТЕМАТИКА». Можно ли считать, что
ребенок грамотный?
Решение. Сначала дадим математическую форму-
лировку задачи. Если допустить, что ребенок неграмот-
ный и родители не научили его складывать единственное
слово, то естественно предположить, что расположение
кубиков «математика» не более привлекательно по срав-
нению с остальными. В таком случае можно ожидать,;
что классическая схема окажется достаточно подходящей.
Оценим вероятность события Л , состоящего в расположе-
нии кубиков «матаматика». Пространством элементарных
событий являются всевозможные перестановки 10 куби-
ков. Таких перестановок 10!< При этом кубики с одина-
ковыми буквами мы считали различными. Подсчитаем,
сколько элементарных событий входит в А. Кубики
с буквами, отличными от М, Т, А, должны стоять на
определенных местах, 3 кубика с буквой А можно рас-
положить на трех местах 3! = 6 способами; кубики с бук-
вой М располагаются двумя способами и с буквой Т тоже
двумя. Сочетая каждое расположение с каждым, получим,
что А состоит из 2*2’6 = 24 элементарных событий. По
формуле (1.1)
р м) = 24 —	1
10!	15120 •
Эта вероятность очень мала, и событие А можно счи-
тать практически невозможным. Если же оно осуществи-
лось, то следует считать нашу гипотезу о неграмотности
ребенка неверной. Однако при большом числе испытаний
по данной «программе» даже неграмотный может сложить
слово «математика»; в среднем из 15 120 неграмотных
1 будет ошибочно считаться грамотным.
Пример 3. У человека в кармане п ключей, из
которых только один подходит к его двери. Ключи по-
следовательно извлекаются (без возвращания) до тех пор,
пока не появится нужный ключ. Найти вероятность того,
что нужный ключ появится при А-м извлечении.
Решение. Будем продолжать извлекать ключи,
после появления нужного ключа, до конца. За множество
элементарных событий примем всевозможные последова-
тельности из п ключей. Таких последовательностей п!.
Последовательностей, у которых нужный ключ находится
§ 3]	ГЕОМЕТРИЧЕСКИЕ ВЕРОЯТНОСТИ	29
на определенном месте, очевидно, (п —1)!, так как одно
место занято нужным ключом, а остальные п — 1 ключей
можно на п — 1 месте расставить (п — 1)! способами.
Таким образом, искомая вероятность равна (п — 1)!/п! =
= 1/тг.
§ 2.	Дискретные вероятностные пространства
Пусть Q = {(Oi, со2, . . ., (оп, . .	— счетное множе-
ство,?!— набор всех подмножеств Q. Пусть рп1 п = 1, 2, ..
— неотрицательные числа, удовлетворяющие условию
оо
2J рп=1. Для любого события A GE 9! положим
п=1
Р(Л)=	3 рп.	(2.1)
пе{п:сопеА}
Нетрудно показать, что функция Р (А), определенная
(2.1), удовлетворяет аксиомам А2—А4.
Проверим А5. События Ап в последовательности (1.3.1) запи-
шем в виде
Ап =	°z2(n), • • •)>
где It (и) < 12 (п) < . в ., причем при любом п > 1 последователь-
ность индексов элементарных событий из Ап является подпоследо-
вательностью соответствующей последовательности из An-f, Из
условия (1.3.2) следует, что If (и) —* оо при п оо. Если бы это бы-
ло не так, то произведение в (1.3.2) не было бы пусто. По формуле
(2.1) находим
р(лп)= 5 ^(п>< 5 р,-
к—1	s=Zi(n)
Отсюда при п —* оо следует (1.3.3), так как правая часть последнего
неравенства является остатком сходящегося ряда. Из свойства счет-
ной аддитивности (1.3.11) следует, что для дискретных вероятност-
ных пространств вероятность Р (А) однозначно определяется ее
значениями рп = Р (con), п = 1, 2, . . .
Отметим, что при рп = 0 с п > N можно ограничиться
конечным пространством элементарных событий Й =
= {(ох, . . ., con}. В случае рг = р2 = . t , =pN= i/N
получаем классическое определение вероятности.
§ 3.	Геометрические вероятности
Классическое определение вероятности нельзя приме-
нить к опыту с бесконечным числом «равновероятных»
исходов. К описанию такой ситуации приспособлено гео-
?метрическое определение вероятности.
30	ПРОСТЕЙШИЕ ВЕРОЯТНОСТНЫЕ СХЕМЫ	(ГЛ. 2
Пусть Q — ограниченное множество «-мерного евкли-
дова пространства. Будем предполагать, что Q имеет
объем *). Рассмотрим систему 91 подмножеств множества
Q, имеющих объем. Для любого А ЕЕ 91 положим
р<л)=Ш’	<31>
где р (С) — объем множества С 9L
В формулировках задач мы часто будем использовать
выражение: «точка равномерно распределена на мно-
жестве Q». Это выражение означает, что вероятность
попадания точки в подмножество А нужно вычислять по
формуле (3.1).
Отметим, что в двух предыдущих классах вероятност-
ных пространств (§§ 1, 2) в систему 91 входили все под-
множества Q. При геометрическом определении вероят-
ности в качестве 91 уже нельзя взять все подмножества £2,
так как некоторые подмножества не имеют площади или
объема.
В схеме геометрических вероятностей выбор модели,,
подходящей для описания реального явления, менее оче-
виден, чем в классической схеме. В разных моделях для
одного и того же реального события можно получить
разные вероятности. На выборе разных математических
моделей основан известный парадокс Бертрана (см. за-
дачу 20; более подробно см. [4], гл. I, § 6, стр. 36—37).
Для иллюстрации схемы геометрических вероятностей
рассмотрим следующую задачу.
Задача Бюффона. Плоскость расчерчена па-
раллельными прямыми, расстояние между которыми рав-
но 2а. На плоскость наудачу брошена игла длины 21 (I <
< а). Найти вероятность того, что игла пересечет какую-
нибудь прямую.
Решение. Дадим сначала определение подходящего
пространства элементарных событий. Пусть и — расстоя-
ние от центра иглы до ближайшей прямой, а <р — угол,
составленный иглой с этой прямой. Пара чисел (ф, и)
задает положение иглы с точностью до выбора конкрет-
♦) Если под объемом множества понимать его меру Лебега, то
система 21 окажется о-алгеброй, и тогда функция Р (Л), определен-
ная формулой (3.1), будет удовлетворять и аксиоме А5. Отметим,
что система 21 содержит, в частности, все подмножества множества
Q, являющиеся обычными квадрируемыми или кубируемыми фигу-
рами, которые изучаются в любом курсе анализа,	>
§ 4) НЕПРЕРЫВНЫЕ ВЕРОЯТНОСТНЫЕ ПРОСТРАНСТВА 31
ной прямой. Поскольку нас интересует только взаимное
расположение иглы и ближайшей прямой, то можно в ка-
честве £2 выбрать прямоугольник
£2 = {(ср, и): 0 ф л, О и а}.
Пересечение иглы с прямой происходит в том и только
в том случае, когда и I sin ф. Таким образом, интере-
сующее нас событие имеет вид
Л = {(ф, и): 0 < u < Z sin ф, 0 ф л}.
Так как
71
р (Л) = Z s*n Ф и (^)~ азт«
О
то по формуле (3.1) находим
Р (Л) = 21/ал.	(3.2)
О соответствии математической модели опыту можно
судить по результатам экспериментов. Пусть игла была
брошена п раз и т раз произошло пересечение. При
больших п частота ~ Р (Л)= Отсюда можно полу-
чить экспериментальную оценку числа л 2	. При-
ведем результаты некоторых экспериментов с бросанием
иглы, заимствованные из книги [6].
Экслер иментатор	1/а	п	т	Оценка л
Вольф, 1850 г. Рейна, 1925 г.	0,8 0,5419	5000 2520	2532 859	3,1598 3,1795
Схема геометрических вероятностей успешно приме-
няется в астрономии, атомной физике^ биологии^ кристал-
лографии.
§ 4.	Абсолютна непрерывные вероятностные
пространства
Пусть £2 = {(Ui, u2, * • *, ип)} — и-мерное действи-
тельное евклидово пространство, л (и^	ип) —
неотрицательная функция, интегрируемая по Роману по
любой квадрируемой области из £h Будем предполагать£
32	ПРОСТЕЙШИЕ ВЕРОЯТНОСТНЫЕ СХЕМЫ	[ГЛ. 2
что существует несобственный интеграл по £2 от функции
я (ult u2, . . ип) и
\ . . . \ л (и£,...» ип) dui . . . dun — 1.
Обозначим 91 алгебру, порожденную квадрируемыми
областями в £2. Для любого А ЕЕ 91 положим
Р(Л)= \	\ л (ui,. .. , un)dui. ,. dun. (4.1)
d A
Можно рассмотреть более общий случай, когда функция
л (и1т . . ., ип) не ограничена в конечном числе точек £2.
Тогда интегралы в (4.1) по множествам Л, содержащим
такие точки, нужно понимать как несобственные. Не-
трудно проверить, что функция Р (Л), определенная со-
отношением (4.1), удовлетворяет аксиомам А2—А5 *).,
Таким образом, мы определили вероятностное простран-
ство. Построенное вероятностное пространство будем на-
зывать n-мерным абсолютно непрерывным вероятностным
пространством.
Отметим, что рассмотренная выше схема геометри-
ческих вероятностей является двумерным абсолютно не-
прерывным вероятностным пространством с л (wx, и2) =
= 1/р (£2), если (wx, zz2) EQ, £2 — квадрируемая фигу-
ра, и л (их, и2) = 0, если (u1? и2)	£2.
§ 5.	Случайные числа
Рассмотрим один важный частный случай схемы вы-
бора с возвращением (1.2). Пусть Л = {0, 1, 2, 3, 4, 5Я
6, 7, 8, 9}. Тогда множеством £2 в (1.2) является множество
всех цифровых последовательностей длины п. Так как
число элементов множества £2 равно | £2 | = 10п, то ве-
роятность любой фиксированной последовательности со =
=	. in) равна 10“п.
Случайными (равномерно распределенными) числами
называют цифровую последовательность (ZXZ2. . . in), полу-
ченную в результате проведения реального опыта, кото-
рый хорошо описывается рассматриваемой схемой. Такого
♦) Из теоремы о продолжении вероятности следует, что форму-
ла (4.1) позволяет определить вероятность на минимальной (7-ал-
гебре 91*, порожденной алгеброй Й.
ЗАДАЧИ К ГЛАВЕ 2
33
типа опыты проводят, например, при разыгрывании но-
меров в «Спортлото». Оценка близости реального опыта
и его математической модели является одной из задач
математической статистики.
Последовательности случайных чисел можно исполь-
зовать для получения реализаций различных случайных
процессов. Если, например, в последовательности слу-
чайных чисел . in) четные цифры заменить буквой
Г, а нечетные — Р, то полученную последовательность
из букв Г и Р можно рассматривать как реализацию
опыта, состоящего в n-кратном подбрасывании симмет-
ричной монеты. Действительно, каждая последователь-
ность, состоящая из букв Г и Р, может быть получена
из одинакового числа равновероятных цифровых после-
довательностей, и, следовательно, новые последователь-
ности равновероятны.
При расчетах методом Монте-Карло (см. [5]) тре-
буются длинные последовательности случайных чисел,
которые в процессе вычислений можно непрерывно вво-
дить в ЭВМ. Методы получения случайных чисел, ос-
нованные на реальном извлечении шаров из урны, для
этой цели непригодны. Поэтому в практических вычис-
лениях пользуются какими-либо алгоритмами получения
последовательности псевдослучайных чисел, близкой по
свойствам к последовательности случайных чисел. Если
в экспериментах со случайными числами требуется не
очень много чисел, то можно воспользоваться таблицами
случайных чисел (например, табл. 7). Эксперименты с
небольшими массивами случайных чисел часто исполь-
зуются для иллюстрации различных выводов теории*
Задачи к главе 2
1.	Брошено две игральных кости. Предполагая, что элементар-
ные события равновероятны, найти вероятности событий:
А = {на 1-й кости выпала «1»}, А,
В = {выпала хотя бы одна «6»}, А Б,
2.	На полке в случайном порядке расставлено п книг, среди
которых находится двухтомник Д. Лондона. Предполагая, что раз-
личные расположения книг равновероятны, найти вероятность то-
го, что оба тома двухтомника расположены рядом.
3.	Числа 1, 2, . . ., п расставлены случайным образом. Пред-
полагая, что различные расположения чисел равновероятны, найти
вероятность того, что числа 1, 2, 3 расположены в порядке возрас-
тания, но не обязательно рядом*
34	ПРОСТЕЙШИЕ ВЕРОЯТНОСТНЫЕ СХЕМЫ	[ГЛ. 2
4.	Выписано три случайных числа (см. § 5). Найти вероятности
событий:
А = {все выписанные числа одинаковы},
В = {все выписанные числа различны},
С = {среди выписанных чисел ровно два совпадают}<
5.	Выписана последовательность из п случайных чисел. Найти
вероятности событий:
Л = {1-е число — четное},
В = {среди п чисел ровно т делятся на 3},
С = {среди п чисел ровно т + 2 делятся на 3, и два из них распо-
ложены на концах последовательности}.
6.	Сравнить вероятности событий:
А = {при одновременном бросании четырех костей
выпала хотя бы одна «1»},
В = {при 24 бросаниях двух костей выпали
хотя бы один раз две «1»}.
7.	В чулане п пар ботинок. Из них случайно выбирается 2г
ботинок (2г <п). Найти вероятность того, что среди выбранных
ботинок: а) нет парных; б) имеется ровно одна пара.
8.	В партии изделий 90 исправных и 10 бракованных. Найти
вероятность того, что среди 10 проданных изделий: а) ровно одно
бракованное; б) нет бракованных.
9.	По некоторому участку железной дороги за N интервалов
времени проходит заданное количество поездов, среди которых М
тяжелых. Каждый интервал времени может быть свободен или за-
нят одним поездом. Любое расположение тяжелых поездов по ин-
тервалам времени имеет одну и ту же вероятность. Прохождение тя-
желых поездов в соседних интервалах времени нежелательно. Оце-
нить сверху вероятность появления хотя бы одной пары соседних
интервалов, занятых тяжелыми поездами, если N = 1000, М =
= 10.
Указание. В качестве математической модели взять схему
случайного выбора без возвращения. Воспользоваться неравенст-
вом
Р (Af + Л2 + . . . + Л999) < Р (Лх) + . . . + Р (Л999),
где Ак = {к-й и (к + 1)-й интервалы заняты тяжелыми поездами}.
10.	В купейный вагон (9 купе по 4 места) семи пассажирам про-
дано семь билетов. Найти вероятности событий:
Л = {пассажиры попали в два купе},
В = {пассажиры попали в три купе}.
Рассмотреть два случая:
1)	пассажиры покупают билеты в разное время независимо друг
от друга (воспользоваться схемой случайного выбора без возвраще-
ния);
ЗАДАЧИ К ГЛАВЕ 2
35
2)	пассажиры едут вместе, и один покупает билеты всей группе
(предположить, что номера проданных пассажиру мест идут подряд,
а наименьший номер места выбирается случайно из множества номе-
ров {1, 2, . .	30}).
И.	Из множества чисел {—л, — п + 1, , , ., —1, 0, 1, . . ,,’л}
по схеме случайного выбора с возвращением выбирается два числа
х и у. Пусть рп — вероятность того, что х2 + у2 л2. Найти lim рп<
П-»оо
12.	Найти вероятность того, что дни рождения 12 человек при-
дутся на разные месяцы года.
13.	Равновероятной схемой размещения частиц по ячейкам
называют схему размещения, в которой номера ячеек, последова-
тельно занимаемых частицами, получают посредством случайного
выбора с возвращением.
Обозначим |ir = |ir (л, N) число ячеек, содержащих ровно по г
частиц после размещения л частиц по N ячейкам. Найти вероятнос-
ти событий:
1) Но N)>0 (при л = N);
2) ро 6*, N) = i (при п = N).
14.	Найти вероятность того, что на две карточки «Спортлото»
с отмеченными номерами (4, 12, 38, 20, 41, 46) и (4, 12, 38, 20, 41,
49) будет получено по одному минимальному выигрышу (т. еа уга-
дано ровно по три числа).
15.	На отрезок [0, 1] наудачу брошена' точка. Предположив,
что ее координата £ равномерно распределена на [0, 1], найти функ-
ции F (х) = Р (g < я), Рг (х) (— °° < х < оо).
16.	Случайная точка А с координатами (gi, g2) равномерно рас-
пределена в квадрате Q = {(^i, х2): 0 х\ < 1, i = 1, 2}, Найти
функции F (х) = Р (Bi + g2 < х), F' (я) (— оо < я < оо).
17.	На отрезок [0, 1] наудачу брошены 2 точки, разбившие его
на 3 отрезка. Какова вероятность того, что из этих отрезков можно
построить треугольник? За множество Q принять значения пары
чисел (li, g2), являющихся координатами точек на отрезке [0, 1];
предположить, что точка (gi, g2) равномерно распределена на квад-
рате Q.
18.	На бесконечную шахматную доску со стороной квадрата а
бросается наудачу монета радиуса г, 2г < а. Найти вероятность
того, что: 1) монета целиком попадет внутрь одного квадрата; 2) пе-
ресечет не более одной стороны квадрата.
19.	Двое договорились встретиться в отрезке времени [0, Г].
Первый пришедший ждет второго в течение времени 2, I < Г. Най-
ти вероятность того, что встреча произойдет. За множество Q при-
нять точки квадрата {(^, f2): 0 < tt < Т, i = 1, 2}, где t* и t2 —
моменты прихода встречающихся.
20.	Парадокс Бертрана. В круге радиуса R случайно проводит-
ся хорда. Обозначим g ее длину. Найти вероятность Р (g > R) того,
что длина хорды больше стороны правильного вписанного шести-
угольника, если: а) середина хорды равномерно распределена в кру-
ге; б) направление хорды задано, а ее середина равномерно распре-
делена на диаметре, перпендикулярном ее направлению; в) один
конец хорды закреплен, а другой равномерно распределен на
окружности.
Вероятность P(g > R) зависит от интерпретации слова
«случайно», и ее числовые значения различны в случаях а),
б), В),
36 ПРОСТЕЙШИЕ ВЕРОЯТНОСТНЫЕ СХЕМЫ	[ГЛ. 2
21.	В урне М белых и N—M черных шаров. По схеме случай-
ного выбора с возвращением из урны извлекается п шаров. Найти
вероятности событий:
А = {при /с-м извлечении появился белый шар},
В = {при /с-м и Z-м извлечениях появились белые шары},
С = {среди п извлеченных шаров ровно т белых}.
22.	Решить задачу 21 в случае выбора без возвращения.
23.	Пусть g/f — /с-е (к = 1,2, . . ., п) число последовательнос-
ти из п случайных чисел. Найти вероятности событий:
a)	{Ik = i}, к = 1, . . ., п; i = 0, 1, . . 9;
б)	Ш = i, & = /}, к, I = 1, . . ., п; г, / = 0, 1, . .	9.
24.	Используя таблицу случайных чисел, получить реализацию
опыта, описанного в задаче 21, если: a) N = 10, М = 3, п = 20;
б) N = 100, М = 35, п — 20. В обоих случаях по полученным реа-
лизациям найти частоту появления белого шара (отношение числа
белых шаров в полученной последовательности к общему числу
п извлеченных шаров),
ГЛАВА 3
Условные вероятности. Независимость
событий
§ 1. Условные вероятности
При изучении реальных случайных явлений иногда
возникает или искусственно создается ситуация, когда
мы получаем дополнительную информацию о возможных
исходах опыта £2. Например, при исследовании превра-
щений частиц мы можем сначала ограничиться рассмот-
рением только результатов опыта с превращениями оп-
ределенного типа.
Остановимся более подробно на следующем примере
иллюстративного характера. Допустим, что студент из
30 билетов успел выучить билеты с 1-го по 3-й и с 28-го
по 30-й. На экзамен он пришел одиннадцатым, и оказа-
лось, что к его приходу остались только билеты с 1-го
по 20-й (событие Л). Вероятность события
В — {студент получил выученный билет}
без дополнительной информации о том, что событие А
произошло, может быть вычислена по классическому оп-
ределению с £2 = {1, 2, .
имеем Р (В) =	~ .
| йй I	U
. ., 30}. Согласно формуле (2.1.1)
При дополнительной информации
(событие А произошло) множество возможных исходов А
состоит из | А | = 20 элементарных исходов, а событие
В вместе с А наступает в | АВ | = 3 случаях. Следо-
вательно, в рассматриваемом примере естественно опре-
делить условную вероятность Р (В | А) события В при
условии, что А произошло, формулой Р (В | А) =
= | АВ |/| А | = 3/20. Отсюда, поделив числитель и зна-
менатель на | £2 |, получим
р(2?м)=4$р-.	(1Л>
так как согласно классическому определению Р (АВ) =
= | АВ |/| Q | и Р (Л) = | А |/| Q |. Формула (1.1) при-
нимается за общее определение условной вероятности.
Пусть (й2 91л Р) — произвольное вероятностное прост-
38
УСЛОВНЫЕ ВЕРОЯТНОСТИ ,
[гл: з
ранство. Если А, В GE 91, Р (Л) О, то условная вероят-
ность события В при условии, что событие А произошло,
определяется формулой (1.1), в правой части которой
символ Р понимается как вероятность в рассматривае-
мом вероятностном пространстве.
Пусть теперь некоторое событие А с Р (Л)	0 фик-
сировано. Нетрудно проверить, что функция Рд (В) =
= Р (АВ | Л) = Р (АВ)/Р (Л), определенная для всех
В ЕЕ 91, удовлетворяет аксиомам А2—А4. Таким обра-
зом, для Рд (В) справедливы все следствия (1.3.6)—
(1.3.11), полученные в § 3 гл, 1 непосредственно из ак-
сиом.
Понятие условной вероятности позволяет естественным
образом определить независимость событий. Равенство
Р (5 | Л) =^Р(Я)г	Р(Л)>0,	(1.2)
легко согласуется с интуитивным представлением о не-
зависимости события В от Л. Если Р (В)	0, то из ра-
венства (1.2), используя (1.1), нетрудно получить, что
Р (Л | В) = Р (Л). За определение независимости двух
событий А и В принимается более симметричное условие:
Р(Л5) = Р(Л).Р(В),	(1-3)
эквивалентное (1,2)2 если Р (Л) > О»
§ 2. Вероятность произведения событий
Равенство (1.1) можно записать в виде «теоремы ум-
ножения»
Р (АВ) = Р(Л)Р(Я|Л),	(2.1)
По индукции из (2Л) легко получить более общую фор-
мулу
Р (ЛХЛ2. « . Лп) = Р (Лх) Р (Л2 | Лх) s * »
• > » Р (Лп | Лх , 4 » Л^). (2.2)
При п = 2 формула (2.2) совпадает с (2.1), Пусть
(2.2) доказано для п — 1 сомножителей. Тогда для п
сомножителей (2.2) следует из предположения индукции
и равенства (2.1), в котором нужно положить Л = Лх. . .
• « * ^п-1л	=
Если события Л и В независимы,; то условную вероят-
ность Р (В | Л) в формуле (2.1) можно заменить на
безусловную Р (В), В результате получим (1.3). Возмож-
§ 2J	ВЕРОЯТНОСТЬ ПРОИЗВЕДЕНИЯ СОБЫТИЙ
39
ность замены условных вероятностей безусловными в
(2.2) связана с новым свойством совокупности событий
А2, . . Ап. События А19 . , ., Ап будем называть
взаимно независимыми (или независимыми в совокупности,
или просто независимыми), если для всех комбинаций
индексов 1	< • ф . < п (к = 2, • , . , п) имеем
Р (AitAit . . . Alk) = Р (AJ Р Щ). . . Р (Л<к). (2.3)
Если (2.3) выполнено только при А: = 2, то события назы-
ваются попарно независимыми. Отметим, что из попарной
независимости не следует взаимная независимость (см.
задачу 7).
Формулы (2.1), (2.2), очевидно, не пригодны для вы-
числения вероятностей произведений событий, так как
правые части этих формул содержат условные вероят-
ности, для вычисления которых нужно знать вероятности
произведений. Полезность формул (2.1) и (2.2) обнару-
живается при построении математических моделей серий
опытов, которые будут рассмотрены в следующей главе*
Здесь мы ограничимся разбором отдельных примеров.
В классическом и геометрическом определениях веро-
ятности (см. §§ 1, 3 гл. 2) предполагалась «равновоз-
можность» исходов опыта. Теперь мы обратимся к при-
мерам вероятностных пространств, построение которых
основано на знании значений условных вероятностей или
знании независимости некоторых событий.
В приложениях часто оказывается, что условные ве-
роятности естественно задаются условиями опыта или
определяются приближенно из дополнительных опытов.
Например, при превращениях частиц в химических или
ядерных реакциях частоты превращений различных типов
можно принять за приближенные значения соответст-
вующих условных вероятностей, В сериях опытов с
перекладыванием или извлечением шаров из урн можно
естественно задать условные вероятности получения вы-
борки определенного типа из данной урны, если состав
шаров в ней известен из предыдущих опытов. Отправляясь
от заданных значений условных вероятностей^ можно
вычислить вероятности элементарных событий.
Пусть, например, заданы вероятности
Р (А) = Р (В | А) = aU) Р (В | 4) = а21.	(2.4)
Требуется построить такое вероятностное пространство
(Q,	Р)2 что для событий 4г В выцолнены равенства (2,4.),
40	УСЛОВНЫЕ ВЕРОЯТНОСТИ	[ГЛ. 3
Из равенств (2.4) следует, что*]
Р (А) = 1 —	= а2, Р (В | А) = 1 — ап = a12f
Р (В | А) = 1	6^21 “ ^22*
Положим £2 = {сох, <о2, Юз, Событиями А и В на-
зовем подмножества А = {со19 (о3}, В = {(о1? со2}. Тогда
А В = {(01}. Нетрудно проверить, что
{со2} = АВ, {со3} = АВ, {со4} = АВ,
Если подходить к определению Q менее формально2 то
можно сразу положить
Q - {АВ, АВ, АВ, АВ}.
Распределение вероятностей на всех подмножествах ко-
нечного множества однозначно определяется заданием
вероятностей всех подмножеств, состоящих из одного
элементарного события. Положим
Р(Л5) = Р(Л)Р(2?|Л) =а1в11,;
Р (АВ) = Р	(Л) Р	(В | Л)	=	а2а21>)	(2.5)
Р (АВ) = Р	(Л) Р	(В | Л)	=	а1а12,;
Р (АВ) = Р	(Л) Р	(В | Л)	=	а2а22.
Правые части этих равенств	неотрицательны и в сумме
дают единицу. Распределение вероятностей задано. От-
правляясь от заданного распределения вероятностей^ най-
дем
Р (Л) = Р (АВ) + Р (АВ) = arau + аха12 =
D/OI Л\__ Р (Л2?) _ Л1а11
Р(В|Л) —~а11ъ
D/pi ____ Р(4В)	«2^21	„
р(51л)-“рЦГ==‘Т32ЧГ==а21-
Таким образом, мы нашли распределение вероятностей,
удовлетворяющее условию (2.3).
Построение вероятностного пространства по условным
вероятностям в более общем случае будет рассмотрено
в следующей главе.
В примерах, рассматриваемых в этой главе, обычно
предполагается, что соответствующие условные вероят-
ности заданы. Построение по ним вероятностного прост-
ранства может быть проведено так же2 как в рассмотрен-
ном выше примере,
§3]
ФОРМУЛА ПОЛНОЙ ВЕРОЯТНОСТИ
41
Дадим теперь еще одно решение задачи о ключах
(см. пример 3 § 1 гл. 2), основанное на использовании
понятия условной вероятности. Предлагаемое здесь ре-
шение является частичным построением другого вероят-
ностного пространства, описывающего последовательное
извлечение ключей. Вероятностные пространства, удоб-
ные для описания последовательности испытаний, будут
подробно рассмотрены в следующей главе. Событие Ак1
состоящее в том, что нужный ключ появится в к-м ис-
пытании, можно представить в виде произведения
А^ = Л1А2. » , Aj^-iAj^,
Отсюда, используя формулу (2.2), получим
Р (Ак) = Р (А) Р (Л I AJ . . . Р (А, I ЛХЛ2 . , . Л-i).
Значения сомножителей можно считать заданными в ус-
ловиях задачи. Действительно, из п ключей только один
подходит и п — 1 не подходят. Следовательног Р(Л£) =
== п • Если произошло событие Лх, то осталось п — 1
ключей, среди которых один подходит и п — 2 не под-
ходят. Отсюда Р (Л21 Лх) = и т. д. Чтобы приписать
вероятности Р (Л^ | Лх ♦ ♦, Л^) определенное значе-
ниех нужно иметь в виду, что к fc-му извлечению оста-
лось п — к + 1 ключей^ из которых один подходит к
двери. Тогда естественно положить Р (Л^ | Лх «,. Л^) — * * * §
*	. Окончательно получаем
п — 2	п — А: + 1	1	1
п — 1 • • • • * п — fc 2 •	1	"7Г •
Результат получился такой же, как в § 1 гл. 2. рели
отправляться от распределения вероятностей^ введенного
для этой задачи в § 1 гл. 2, то можно по формуле (1.1)
вычислить условные вероятности
r/	Р И2 I ^1)% Р Из I ^1^2)2: • • »
Их числовые значения совпадут со значениями^ которые
были использованы в этом параграфе.
п — к + 1
Р(А)=-^
§ 3. Формула полной вероятности
Пусть Л — произвольное событие, события $х, B2i» • »
• » Вп попарно несовместны, Р (В*) > 0, к = 1, . , ., п%
и Л (3 Вг + В% -j- , . s + Вп. Тогда имеет место следующая
42
УСЛОВНЫЕ ВЕРОЯТНОСТИ
(ГЛ. 3
формула (формула полной вероятности):
Р(Л)= 3 Р(Л0Р(4|ЛК).	(3.1)
к=1
Для доказательства этой формулы заметим^ что А
можно представить в виде следующей суммы попарно
несовместных событий:
А = АВ± + АВ2 Ч- « ® 1 + АВп*
Отсюда, воспользовавшись аксиомой А4 и формулой (2Д)Э
получим формулу (3.1):
Р(4)= 3 Р(4Як)=3 Р (В.) Р (А | BJ.
к=1	к=1
Используя (1.3.10), формулу (3.1) можно распространить
на случай счетной системы попарно несовместных собы-
тий Вк1 к = 1, 2, » . п, < , «
Заменив в равенстве
р/д .	Р(ЛВ*)
Р(^|А)— р(Л) — р(Л)
вероятность Р (А) по формуле (3.1)г получим формулу
Байеса:
2 Р(В.)Р(4|В.)
i=l
Формула полной вероятности, так же как формулы
(2.1), (2.2),; может быть использована для построения
подходящего вероятностного пространства по заданным
условным вероятностям. Ниже рассматриваются два при-
мера, в которых условные вероятности естественно счи-
тать заданными.
Пр и м е р 1. На фабрикег изготовляющей болты,,
первая машина производит 25% , вторая — 35 % t третья—
40% всех изделий» Брак в их продукции составляет
соответственно 5%, 4%, 2%.
а)	Какова вероятность тогоА что случайно выбранный
болт оказался дефектным?
б)	Какова вероятность того, что случайно выбранный
болт произведен первой, второй и третьей машинами,;
если он оказался дефектным?
§ 3]	ФОРМУЛА ПОЛНОЙ ВЕРОЯТНОСТИ	43
Решение, а) Обозначим через А событие, состоя-
щее в том, что случайно выбранный болт — дефектный,;
а через Blv В2, В3 — события, состоящие в том, что этот
болт произведен соответственно первой, второй и третьей
машинами. Очевидно, что формула (3.1) применима. Таким
образом, используя условие задачи, получим
Р(Л) =
= Р (Z?J Р (А | В.) + Р (52) Р (А | В2) + Р (53)Р (Л | 53)=
- 0,25-0,05 + 0,35-0,04 + 0,40-0,02 = 0,0345,
б) К тем же событиям можно применить формулу
Байеса (3.2) при п = 3 для к — 1, 2, 3:
Р(Я11 Л) =	0,25.0,05 0,0345	125 345 ’
Р(53| А) =	0,35-0,04 "	0,0345	140 345 ’
Р(^з| А) =	0,40-0,02 0,0345	80 345 ’
Пример 2. Из урны, содержавшей М белых и
N — М черных шаров, один шар неизвестного цвета уте-
рян. Какова вероятность извлечь наудачу из урны белый
шар?
Решение. Пусть В^ — событие, состоящее в том,;
что утеряно к белых шаров (к — 0, 1); А — событие,;
состоящее в том, что шар, извлеченный из оставшихся
шаров, оказался белым. Положим
Р(Яо) = ^^-, P(2?i)=^-,
P(A|5»)=-^r, P(A|5!)=-f^l;.
По формуле полной вероятности
p/dx_ N — M М М М — 1__М
N	• м — 1 + N ‘ N — i ~ N 9
Отметим, что вероятность извлечения белого шара из
урны до утери шара тоже равна MIN.
Рассмотрим еще один пример, который дает некоторое
представление об использовании формулы полной вероят-
ности при исследовании случайных процессов с непре-
рывным временем*
44	УСЛОВНЫЕ ВЕРОЯТНОСТИ	[ГЛ. 3
Пример 3. Вероятность поступления на телефон-
ную линию одного вызова за время (t, t + h) равна afe +
+ о (h), h 0 вероятность того, что ни один вызов за
время (t, t + h) не поступит, равна 1 — ah + о (h). Если
линия занята, то вызов теряется. Если в момент t еще
продолжается разговор, то за время (t, t + h) он окон-
чится с вероятностью 0Л + о (fe), h -> 0. Вызовы посту-
пают независимо друг от друга. Найти Ро (0 — вероят-
ность того, что линия в момент t свободна, и вероятность
Р± (0 того, что линия занята.
Решение. Предположим сразу, что подходящее
вероятностное пространство существует и что для инте-
ресующих нас событий
= {линия в момент t свободна}^
В^ = {линия в момент t занята}
при каждом t вероятности Ро (0 = Р (В^)^ Рг (0 =5
= Р (В(Р) определены и непрерывны по t. Так как
Мо) + в?} = Q, В^Вф =
то по формуле полной вероятности (3.1)
Р (в№)= Р (ДГ) р | ^0))+ Р (£?>) Р |В|Х>). (3.3)
Свободная в момент времени t линия останется свободной
в момент t -f- Л, если за время (0 t + h) вызовов не будет.
Так как другие события, при которых линия останется
свободной в момент t + h} имеют вероятность о (Л)х то
Р Ж | В^) = 1 - ah + о (Л).
Занятая в момент t линия будет свободной к моменту
t + h, если закончится разговор и за время (0 t + h)
новых вызовов не будет. Вероятность этого события равна
(₽fc + о (h)) (1 - ah + о (fe)) =	+ о (h).
Эта вероятность вносит основной вклад в Р | 5ех)).
Сумма остальных слагаемых равна о (Л). Таким образом,
р (s(t°A | в^) = рл + о (h).
Подставляя найденные условные вероятностив (3,3) и
ФОРМУЛА ПОЛНОЙ ВЕРОЯТНОСТИ
45
131
используя обозначения Ро (0,	(0, получим
Ро (t + h) = (1 - a/0Po (0 + рьл (0 + О (К).
Отсюда
P0(f + fe)-?„(<) = _ аРо (<) + W +	.
Переходя к пределу при h -> 0, получим ♦)
- - аРо (0 + ₽Рх (0.	(3.4)
Аналогично найдем уравнение для Р± (0:
^Н = аро(0_рр1(0.	(3.5)
Полагая Ро (0) = 1, Рх (0) = 0, найдем решение системы
(3.4)—(3.5):
При t -> оо вероятность Pr (t) стремится к величине
а/(а + 0). Естественно, что с ростом интенсивности по-
ступления вызовов а вероятность занятости линии уве-
личивается.
Из формул (3.6) следует, что решение (Ро (t)fi Рг (0)
системы (3.4)—(3.5) удовлетворяет равенству Ро (t) +
+ Pi (0 = 1 • Это же равенство следует из предположения
о существовании вероятностного пространства,; в котором
определены вероятности Ро (0 и Рг (t) противоположных
событий. Если подставить Р± (t) = 1 — Ро (t) в уравне-
ние (3.4), то вместо системы можно решить одно уравне-
ние для Ро (t).
К предположениям о существовании подходящего ве-
роятностного пространства, в котором определены вероят-
ности нужных нам событий, нужно относиться с извест-
ной осторожностью. Рассмотрим следующий пример. Пусть
состояниями частицы являются числа 0f 1,: 2, . . . При
t = 0 частица находится в состоянии 0. Если частица
в момент t находится в состоянии к, то к моменту t + h
♦) Из существования предела при h —> 0 следует существова-
ние только левосторонних производных в (3.4) и (3.5). Заменив в
предыдущих рассуждениях t и f на и получим выра-
жения для правосторонних производных, совпадающие с (3.4) и
(3.5).
46
УСЛОВНЫЕ ВЕРОЯТНОСТИ
[ГЛ. 3
останется в этом состоянии с вероятностью 1 — akh + о (Л),
h 0, и перейдет в состояние к + 1 с вероятностью
a*h + о (h). Пусть (t) — вероятность того, что час-
тица в момент t находится в состоянии к. Рассуждая
так же, как в рассмотренном выше примере, для функ-
ций P/f (0, к — 0, 1, 2, . , можно получить бесконеч-
ную систему дифференциальных уравнений. Естественно
было ожидать, что (t) = i. Однако если быстро
к—о
оо
увеличиваются с ростом к, то 2 Рц (0 < !• Более под-
К=0
робно этот пример рассмотрен в книге [18], § 4 гл. 17.
Оказывается, что частица за конечное время с поло-
жительной вероятностью может пройти по всем состоя-
ниям. В этом случае набор чисел {ак} уже не опреде-
ляет процесс при всех t > О,
Задачи к главе 3
1.	Брошено две игральных кости. Какова вероятность того, что
выпало две «3», если известно, что сумма выпавших очков делится
на три?
2.	Известно, что при бросании 10 игральных костей появилась
по крайней мере одна «1». Какова вероятность того, что появилось
две «1» или более?
3.	Из множества чисел {1,2,..., N} по схеме случайного вы-
бора без возвращения выбираются три числа. Найти условную ве-
роятность того, что третье число попадет в интервал, образованный
первыми двумя, если известно, что первое число меньше второго.
4.	Из урны, содержащей 3 белых и 5 черных шаров, последова-
тельно без возвращения извлекают 8 шаров. Пусть Л (Л}1^) —
событие, состоящее в том, что i-й шар был черный (белый). Найти
условные вероятности:
1) Р (4<6> | А<»А<2>А
2) Р (А<*> | А^А<»), (аь а2, а3) = (0, 0,1), (0,1, 0), (1, 0, 0).
5.	Доказать, что события Л и В независимы, если независимы
события Л и В.
6.	Случайная точка (gi, g2) имеет равномерное распределение в
квадрате {(хь х2): 0 < xt < 1, 0 < х2 1}. При каких значениях
г независимы события
Лг = {Ri - I > г}, Вг = {gi + g2 < 3r}?
7.	Пусть
где Ех, £2 определены в задаче 6, Показать, что события С2, С3
ЗАДАЧИ К ГЛАВЕ 3	47
попарно неависимы. Являются ли события С2, С3 взаимно не-
зависимыми? Зависимы ли события С±С2 и С3?
8.	События А 2, Л3, Л4 взаимно независимы. Доказать вза-
имную независимость событий АгА2 и Л3Л4.
9.	События Ль Л2, Л3, Л4 взаимно независимы: Р (Л&) = р^,
к = 1, 2, 3, 4. Найти вероятности событий: 1) AiA^Aa; 2) At + Л2;
3) (Л£ +Л2) (Л3 + Л4).
10.	Электрическая цепь составлена из элементов Л&, к = 1, 2, 3
(элементы Лх и Л2 соединены параллельно, а Л3 присоединен к ним
последовательно). При выходе из строя любого элемента цепь в мес-
те его включения разрывается. Вероятность выхода из строя за дан-
ный период элемента Л& равна р^, к — 1, 2, 3. Предполагается, что
элементы выходят или не выходят из строя независимо друг от дру-
га. Найти вероятность того, что за рассматриваемый период по це-
пи будет проходить ток.
11.	Из урны, содержащей 3 белых и 5 черных шаров, два игро-
ка по очереди вытащили по одному шару. Положим Л = {А-й игрок
вытащил белый шар}. Найти вероятности событий: Лх, Л2, ЛХЛ2.
Указание. Выбрать подходящим образом числовые зна-
чения вероятностей Р (Лх), Р (Л2 | Лх), Р (Л2 | Лх). Воспользовать-
ся формулами (2.5).
12.	Упрощенная система контроля изделий состоит из двух не-
зависимых проверок. В результате fc-й проверки (к = 1,2) изделие,
удовлетворяющее стандарту, отбраковывается с вероятностью Р^,
а бракованное изделие принимается с вероятностью а^. Изделие
принимается, если оно прошло обе проверки. Найти вероятности со-
бытий:
1) бракованное изделие будет принято;
2) изделие, удовлетворяющее стандарту, будет отбраковано.
13. В первой урне 2 белых и 4 черных шара, а во второй —
3 белых и 1 черный шар. Из первой урны переложили во вторую
два шара. Найти вероятность того, что шар, вынутый из второй ур-
ны после перекладывания, окажется белым.
14. Изделия поступают на проверку, описанную в задаче 12.
Предполагая, что каждое изделие удовлетворяет стандарту с ве-
роятностью р, найти следующие вероятности:
1) вероятность того, что поступившее на проверку изделие не
будет отбраковано;
2) вероятность того, что неотбракованное изделие удовлетво-
ряет стандарту.
15.	Предположим, что 5% всех мужчин и 0,25% всех женщин —
дальтоники. Наугад выбранное лицо оказалось дальтоником. Ка-
кова вероятность, что это мужчина? (Считать, что количество муж-
чин и женщин одинаково.)
16.	По каналу связи может быть передана одна из трех после-
довательностей букв: А А А А, ВВВВ, СССС; известно, что вероят-
ности каждой из последовательностей равны соответственно 0,3;
0,4; 0,3. В результате шумов буква принимается правильно с ве-
роятностью 0,6. Вероятности приема переданной буквы за две дру-
гие равны 0,2 и 0,2. Предполагается, что буквы искажаются незави-
симо друг от друга. Найти вероятность того, что передано АААА,
если на приемном устройстве получено АВСА.
17.	Вероятность того, что молекула, испытавшая в момент
t = 0 столкновение с другой молекулой и не имевшая других столк-
новений до момента испытает столкновение в промежуток време*
48	УСЛОВНЫЕ ВЕРОЯТНОСТИ	[ГЛ. 3
ни (t, t + h), равна ХЛ + о (h), h -♦ 0. Найти вероятность того, что
время свободного пробега будет больше t.
18.	На одну телефонную линию могут поступать вызовы двух
типов: срочные и простые. При поступлении срочного вызова разго-
вор по простому вызову прекращается. Вероятности поступления
за время (1, t + h) срочного и обычного вызовов равны соответствен-
но a^h + о (Л), a2h + о (Л), h -♦ 0; вероятность прекращения лю-
бого разговора за время (Z, t + h) равна $h + о (h). Пусть Ро ($),
Pi (t), Р2 (t) — вероятности того, что в момент t линия свободна,
занята срочным вызовом, занята простым вызовом. Написать для
Рк (i) дифференциальные уравнения и найти lim Р^ (<) = л&, к =
t—oo
= о, 1, 2.
19.	Изменим условия работы телефонной линии, описанной
в примере 3 из § 3. Будем считать, что при занятой линии вызовы
не теряются, а становятся в очередь. Обозначим Pr (t) вероятность
того, что в момент t один вызов обслуживается и к — 1 образуют
очередь (Л > 1; Ро (t) — вероятность того, что линия свободна).
Составить для Pr (t) дифференциальные уравнения. Найти
lim Ръ (0 = л^, если 0 = а/р < 1.
-*ОО
ГЛАВА 4
Последовательности испытаний
§ 1. Общее определение последовательности
испытаний
Дадим сначала описание реальных испытаний в опыте
с перекладыванием шаров в урнах, а затем построим
математическую модель этих испытаний.
Пусть имеется три урны, содержащих белые и черные
шары, одинаковые по форме. Состав шаров в первой урне:
2 белых и 3 черных; во второй — 2 белых и 2 черных;
в третьей — 3 белых и 1 черный. Из первой урны слу-
чайно выбирается один шар и перекладывается во вто-
рую. После этого из второй урны также случайно один
шар перекладывается в третью урну и, наконец, из тре-
тьей какой-то из шаров перекладывается в первую. Та-
ким образом, мы имеем три испытания, состоящих в
извлечении шаров из трех урн. Предположим, что нас
интересует, какой состав шаров в первой урне после
перекладываний наиболее вероятен, а также — что ве-
роятнее: изменение состава шаров в первой урне или
сохранение.
Построим математическую модель этого опыта. Обо-
значим Ак реальное событие, состоящее в том, что при
к-м перекладывании (к = 1, 2, 3) был переложен белый
шар. Положим
й = {AjA2A3, А1А2А39 А1А2А3, AjA2A 3, А}А2А зг
Л1Л2Л3, Л1Л2Лз, AjA2A3).
Здесь, например, символом А^^Аз обозначено элемен-
тарное событие, соответствующее в реальном опыте пере-
кладыванию из первой урны белого шара, а из двух
других — черного. Событию At реального опыта соот-
ветствует в математической модели следующее подмно-
жество й:
Ai — {?11А2Аз1 А1Я2Аз1 ^iA2A 31 Л]А2А
50
ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ
(ГЛ. 4
Аналогично определяются события Ait Ai9 соответствую-
щие реальным событиям Ai9 Az. Ниже мы не будем ис-
пользовать разные обозначения для реального события
и соответствующего ему события модели, т. е. положим
At = Ар Тогда на введенные формально обозначения
для элементарных событий можно смотреть как на про-
изведения соответствующих событий. Если состав шаров
в данной урне известен, то мы легко можем задать ве-
роятность события, состоящего в извлечении из этой урны
шара определенного цвета. В рассматриваемой задаче
состав шаров в урне становится известным, если извест-
но, какой шар в данную урну был переложен. Таким
образом, мы можем считать, что заданы вероятности
р (-41)1 Р Mi)» Р (Аг I ^1)>. Р Мз I А1Аг) и т. д. Напри-
мер,
Р(Л1) = 4-, Р(Л3|Л1) = 4’ РМз|ЛМ2) = 4-. (1.1)
При определении второй и третьей вероятностей мы ис-
пользовали то, что во вторую и третью урны был пере-
ложен белый шар и их состав стал соответственно:
3 белых, 2 черных; 4 белых, 1 черный. Аналогично можно
приписать значения другим условным вероятностям. По
заданным условным вероятностям так же, как в § 2 гл. 3
(см. (3.2.5)), мы можем полностью восстановить распре-
деление вероятностей на подмножествах Q. По формулам
(3.2.2) и (1,1) находим
Р (4i4243) = Р (41) Р (421 4i) Р (431 4г4а) = -f- .	• 4" •
Аналогично приписываются вероятности другим элемен-
тарным событиям. Окончательно получим
Р (А1А?Аз) = -|2У »	Р (А1А2А3)	=	,
Р (4x4243) = -^-,	Р (414г43)	=	.
12	к (1.2)
Р (А1А2Аз) = |25" »	Р (А1А2А3)	— j25~ »
Р (А1А2А3) = -^25“ 1	Р (AiA2Аз)	=	,
По этим вероятностям однозначно определяется вероят-
ность любого события,
§ 1]	ОБЩЕЕ ОПРЕДЕЛЕНИЕ	51
Пусть, например,
Bi = {после перекладываний в первой урне оказалось
I белых шаров},
I = 1, 2, 3. Тогда
^1 = {^41^2^3» ^1^2^ з}$
®2 = {/^1^2^31 -414-2-4 з}»'
#з = {4i-42-43, А1А2А3, А 1-^4 2^4 з». 41Л2Л3}
и
р<а)=-й-, f(s.>=-S-,
Дадим определение последовательности испытаний.
Пусть множеством элементарных событий является мно-
жество
Qn = {(г1^2 * » • гп)* ik ~	2, . » ., N*, к = 1, 2, « «•$ п}.
(1.3)
Элементарное событие со = (гхг2 > • . in) интерпретируется
как цепочка исходов в п последовательных испытаниях,
каждое из которых имеет N несовместных исходов:
1, 2Д . , ,д Nt Положим
Р (®) = р {h)p (г21 h). . , р (in | г\ , . . fn-i)i (1Л)
где р (is I г\. . . i’s-j) > О,;
N
2 p(isUi... is-i) = lf 8=1л.,,1«л	(1.5)
Sr1
= 1ж t , ,, Nx 1 < к < п№
Тогда на подмножествах однозначно определяется ве-
роятность:
Р(Л)= 2 р(®х AciQn-	(1.6)
соеА
Нужно только проверить (см. § 2 гл. 2)д что
3 Р(®) = 1.	(1,7)
52	ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ	[ГЛ; 4
Для доказательства (1.7) заметим, что
2 Р (“) =	3 Р (й) Р (h I ii). . . р (in I ii • • • in-1) =
azQ	i.... in=l
N	N
= . .2 P(ii)- • • P(«n-i| ii • • • in-г) .2	• • *n-i) =
Ч-гп-1—1	гп~1
N
= . 2 P(ii)P(i2\ii) •  .P(in\H--in-i)t
*!>•••» 4-1
N
так как У p (in | ir. . , г^) = 1 согласно (1.5). Далее
мы можем выделить сумму по 1п-.1 и вновь воспользо-
ваться (1.5). Повторив этот процесс п раз, получим (1.7).
Таким образом, мы определили вероятностное простран-
ство , являющееся математической моделью последователь-
ности из п испытаний. Нетрудно проверить, что число
р (iK pi . . . ^-х) является условной вероятностью по-
явления в fc-м испытании исхода 1К при условии, что
до этого была получена цепочка исходов (^ . . . h-i)-
Схему случайного выбора без возвращения, введен-
ную в § 1 гл. 2, естественно определять как последова-
тельность испытаний. Для этого условные вероятности
р (is pi. . . ig-i) нужно задать следующим образом: если
известен результат первых s — 1 испытаний, то при $-м
испытании с равными вероятностями может быть полу-
чено любое из оставшихся чисел. Модель случайного
выбора без возвращения, сформулированная в терминах
условных вероятностей, совпадает с классическим опре-
делением из § 1 гл. 2.
Решенная в начале параграфа задача является част-
ным случаем общей схемы испытаний с п — 3, 7V = 2,
р (1) = р (2 | 1) = р (112) = р (2112) = р (2 | 22) = 2/5,:
р(2) =р(1|1) = р (2| 2) = р (1112) = р (1122) = 3/5,;
р (1 | 11) = р (1 | 21) = 4/5, р (2 | И) = р (2 | 21) = 1/5^
где исходы «1» и «2» соответствуют извлечению белого
и черного шара.
В данной задаче оказалось, что вероятности р (i | jk)
не зависят от /. Это естественно, так как на состав по-
следней урны влияет только цвет шара, переложенного
из второй урны, и если этот цвет уже известен, то не-
важно! что было переложено во вторую урну из первой.,
$ 2] ПОСЛЕДОВАТЕЛЬНОСТЬ НЕЗАВИСИМЫХ ИСПЫТАНИЙ 53
Последовательность испытаний, в которой условные ве-
роятности р (lt | Zv . . It-j) не зависят от Zlt * . ., Z^2,
Р (It Hi* • • lt-i) = Pl^lp
называется цепью Маркова. Более подробно такие испы-
тания будут рассмотрены в гл. 8. В случае, цогда
р (lt | 11. . . Zt_x) не зависят от Zn . . ., Z^, последова-
тельность испытаний называется последовательностью не-
зависимых испытаний.
§ 2. Последовательность независимых испытаний
По определению, данному в конце § 1, в случае не-
зависимых испытаний условные вероятности р (I | Zr . .
. . . не зависят от Zn . * ., Zw, но могут зависеть
от t. Если зависимость от t есть, то независимые испытания
называют неоднородными^ а в противном случае — одно-
родными. Таким образом, последовательность независи-
мых однородных испытаний определяется равенствами
(1.3), (1.6) и формулой
Р (<») = PhPh-  • Pin’.1 < h < N.’. & = Iji . . na (2.1)
N
где 2j Pi = Pi > I = 1,
1=1
Последовательность однородных независимых испы-
таний является математической моделью серии опытов,;
повторяющихся в одинаковых условиях. Вероятностную
модель, определенную формулами (1.3), (1.6), (2.1), на-
зывают также полиномиальной схемой. Частный случай
полиномиальной схемы с N = 2 называют схемой Бер-
нулли или испытаниями Бернулли^ Два исхода каждого
испытания схемы Бернулли будем обозначать символами
1 и 0 или называть «успехом» и «неудачей», а соответст-
вующие им вероятности в одном испытании обозначим
буквами р и q = 1 — р.
Покажем, что любые события, связанные с разными
испытаниями полиномиальной схемы, взаимно независимы.
Пусть St (t = 1, . . ., п) — подмножества множества ис-
ходов отдельного испытания {1, 2, . < ., N}. Обозначим
Bgj событие, состоящее в том, что исход Z-ro испытания
принадлежит множеству St.
Теорема 2.1. При любых St, t = 1, » . ., п,
р	, В%) = Р (Bty р (Bty„.Р (В§). (2,2)
54	ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ	[ГЛ.Ч
N
Доказательство, Так как pj =
= {(Мг- • • *п): Ч £= 5J,
Bs[Bs\. . • Bs^ = {(hh> • • *п): Ч €= Slt , . ., in G= 5п}и
то из формул (1.5) и (2.1) получим
Р (В^г.. •	= 3 3 ..» 3 pm t^Pin=
П i,eS, ixGS, inESn
~.3 Pi, 3 Pi„-.« 3 Pin>
iz^S2	in^.Sa
p(b^)= 3 ₽<, 3 Pi,.-. 3 Pt„= 3 Pi,.
iieSt i2=l	in=l	heSt
Аналогично проверяется,; что при любых B<st
Р(в£)= 3 Pi.	(2,3)
1	1с=^.Ч
Из доказанных равенств следует утверждение теоремы.
Положим St = {/} в формуле (2.3). Тогда в (2.3)
сумма сведется к одному слагаемому рг, которое оказы-
вается вероятностью l-то исхода в t-м испытании. Если
в (2.2) положить S3 == S. = . , . = Sn = {1, 2, . . TV},;
то получим равенство Р (В^В^) = Р (В^) Р (В^,; так
как В% - . . . =	= Й и B(S»B(S2>. . . Bg = Bg>B^>.
Аналогично проверяется^ что при любых 1 <1	< t2 <
< . . . < t* п имеем
Р (ВЙ> ... в5£) = Р (в$)... р (В^).	(2.4)
Таким образом^ мы показали^ что при любых Slt t Sn
события Вя\ . , взаимно независимы.
1	п
Во многих задачах мы часто каждому элементарному
событию ставим в соответствие определенное действитель-
ное число, например: величину выигрыша, число исходов
данного типа в полиномиальной схеме, число успехов
в п испытаниях схемы Бернулли и т. д. Пусть (Q, 9(г Р) —
вероятностное пространство. Назовем случайной величи-
ной действительную функцию от элементарного события:
g = g (со), со ЕЕ £2. Для дискретных вероятностных про-
странств случайной величиной мы будем называть произ-
5 2] ПОСЛЕДОВАТЕЛЬНОСТЬ НЕЗАВИСИМЫХ ИСПЫТАНИЙ 55
вольную функцию от со, а в общем случае, рассматривае-
мом в гл. 5, на функцию £ (со) будут налагаться допол-
нительные условия.
Для п испытаний схемы Бернулли элементарные со-
бытия удобно обозначать цепочками длины п, состав-
ленными из букв У и Н: со = УУН. , .ННУ. Обозначим
М'п = Нп (УУН. . .ННУ) случайную величину, равную
числу успехов в первых п испытаниях Бернулли. Такл
например, при п = 4 имеем
щ щ (УУНУ) = 3,	(НННН) = О
и т. д. Найдем вероятность событий
{рп = т} = {(УУН. . . У). (УУН. , , У) = т}< (2.5)
Теорема 2.2. Если рп — число успехов в п испы-
таниях Бернулли, то
Р (Ип = т) = Рп (т) = Спртдп~тц (2.6)
где т = 0, 1, 2,, • , ., п, q = 1 — р, р — вероятность ус-
пеха в отдельном испытании.
Доказательство. Каждая цепочка исходов,;
входящая в (2.5), содержит ровно т успехов и п — т
неудач. Тогда, воспользовавшись формулой (2.1) с N = 2,;
Pi = Pi Ръ ~ мы получим, что любая цепочка из мно-
жества (2.5) имеет одну и ту же вероятность pmqn~m.
Различные цепочки в (2.5) отличаются только располо-
жением успехов и неудач, так как общее число успехов
фиксированно. Расположение успехов и неудач одно-
значно определяется выбором из п мест т мест для ус-
пехов. Это можно сделать С™ способами. Отсюда и из
формулы (2.5) следует утверждение теоремы,: так как
каждая цепочка в (2.5) имеет вероятность pmqn~m.
Для полиномиальной схемы с произвольным N вве-
дем случайные величины равные числам исходов
к, к = 1, 2, , . ., N, Покажем, что
Р (Ь=т„	Р?... Р”»,
(2.7)
где7пх, тп2, * • • ,	— неотрицательные целые числаА удов-
летворяющие условию т± + Wg + <« * + я? п, Для
остальных значений тн левая часть (2.7) равна CL
В каждой цепочке (/х/2. » * ln)j, удовлетворяющей условию
56	ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ	[ГЛ. 4
(^ = g2 = тп2, •	= тп^у), «1» встречается т1 раз,
«2» — т2 раз, . . «ТУ» — mN раз. Следовательно, ве-
роятность каждой такой цепочки равна р™'р™2 . . . Pnn-
Число цепочек заданного вида можно найти следующим
образом: С™1 способами можно выбрать из п мест т1
мест для «1»; из оставшихся п — т1 мест можно выбрать
Сп^т. способами места для «2» и т. д. Отсюда общее число
цепочек нужного нам вида равно
г,туГ1т2	__ п!
Из приведенных рассуждений следует формула (2,7).
При N = 2 формула (2.7) совпадает с (2.6).
Обозначим событие, состоящее в том, что в £-м
испытании полиномиальной схемы появился исход N, и
Af? = Тогда, полагая сначала St = {N}, а затем
St = {12 2, . . ., N — 1}х по формуле (2.3) найдем
Р (А^) = pN, Р (Aq}) = Pi + < . . + Pn-i = 1 —
Отсюда и из (2.2) получим
Р (Ле1/4® ... 4© = р% (1 - pN)n~m> 8Z = 0, ls
если + е2 + • • • +	= т- Таким образом, цепочки
. А^ можно принять за «элементарные собы-
тия» в схеме Бернулли с pN = р и й + • • • + Pn-i Q*
При п подбрасываниях игральной кости мы имеем
полиномиальную схему с N = 6 и рг = р2 = ... = рв =
= 1/6. Если теперь «укрупнить» элементарные события,
например различать в цепочках исходов в каждом испыта-
нии только «6» и «не 6», то получим схему Бернулли с р =
= 1/6л q = 5/6. Отправляясь от полиномиальной схемы
с N исходами, можно при более мелком укрупнении полу-
чить новую полиномиальную схему с меньшим числом
исходов.
Отметим еще^ что полиномиальная схема с = р2 =
=?	= Pn = 1/7У совпадает со схемой случайного выбора
с возвращением^ определенной в § 1 гл. 2 на основе клас-
сического определения. Таким образом, определенные
в § 5 гл, 2 случайные числа можно также рассматривать
как реализацию испытаний полиномиальной схемы с рав-
новероятными исходами 02 12 22. . ,2 9&
§ 3] ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ В СХЕМЕ БЕРНУЛЛИ	57
§ 3. Предельные теоремы в схеме Бернулли
В приложениях часто приходится вычислять вероят-
ности различных событий, связанных с числом успехов
в п испытаниях схемы Бернулли при больших значениях п.
В этом случае вычисления по формуле (2.6) становятся
затруднительными. Трудности возрастают, когда прихо-
дится еще суммировать вероятности (2.6). К суммирова-
нию (2.6) сводится вычисление вероятностей событий вида
{а < рп < Ь}. Действительно,
р(«<Нп<6)= S Р(Вп = яг)= Рп(т). (3.1)
а<т<&	а<т<Ъ
Затруднения при вычислениях возникают также при
малых значениях р или q.
Иногда при больших п удается заменить формулу (2.6)
какой-либо приближенной асимптотической формулой.
Приведем три предельные теоремы, содержащие асимп-
тотические формулы для вероятностей (2.6) и (3.1) при
п —> оо.
Теорема 3.1 (теорема Пуассона). Если п-+ оо и
р -> О так, что пр -> X, 0 < X < оо , то
Р (Цп = т) = CnPmqn~m Рт (М =	е~%
при любом постоянном т, т = 0, 1, 2, . . t
Доказательство. Положив пр — Хп, предста-
вим вероятность Р (рп = т) в виде
Отсюда при п -> оо получим утверждение теоремы,
Таким образом, при больших п и малых р мы можем
воспользоваться приближенной формулой
=	К=пр. (3.2)
58
ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ
[ГЛ. 4
Известно (см. [2], гл. 5, § 4, теорема 8, стр. 116), что
при любом множестве В CZ {О, 1х 2, ♦ .
|Р(цпеЯ)— 3 Ап(гар)|<«р2*
тев
Приведенное неравенство верно для любых множеств В.
При использовании приближенной формулы для индиви-
дуальных вероятностей ошибки могут быть значительно
меньше. Для сравнения точных и приближенных значений
приведем следующую табличку:
т	0	1	2	3	4	5
Рт (»Р) Р {ц10 = т} Р {р,100 = т}	0,1353 0,1074 0,1326	0,2707 0,2684 0,2707	0,2707 0,3020 0,2734	0,1805 0,2013 0,1823	0,0902 0,0880 0,0902	0,0361 0,0264 0,0353
При п = 10 вероятности Р {р,10 = т} вычислены для
р — 1/5 (пр2 = 0А4)А а при п = 100 — для р — 1/50
(пр2 = 0,04).
Если мало значение д, то пуассоновским приближением
можно воспользоваться для числа неудач. В случае,
когда оба параметра р и q заметно отличны от 0, исполь-
зуются теоремы Муавра — Лапласа (локальная и интег-
ральная).
Введем функции <р(х)иФ (х) следующими равенствами^
ф(я)
X2
— е а
X
ф(х)= ф(п)йп#
—оо
Теорема 3.2 (локальная теорема Муавра — Ла-
пласа). Если п-> оо,р (0 < р < 1) постоянновеличина
хт = (т —пр)/уnpq ограничена равномерно по т и п
(—	+ оо), то
Р (н„= т)= <р (хт) (1 + an (m))/Ynpqs
где | ап | < С/^п при хт GE 1а^ Ь]ъ С 0 — постоянная*
Доказательство, Коэффициент С™ в (2,6) за-
пишем в виде
" «= 15!^^	(3.3)
§ 3J ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ В СХЕМЕ БЕРНУЛЛИ	59
Так как
т = пр х^Уnpq, п — т = nq — хтУnpqt
TOj воспользовавшись формулой Стирлинга
In п\ = In У2пп + п In п — п + О ,	(3.4)
получим
In т\ = In У 2лтп + (пр + хт Уnpq) In (пр + хт Уnpq) —
— пр — xmynpq + О(-М*
________________________ V п ' (3,5)
In (п — т)\ = In 2л (п — т) +
+ (nq — хтУnpq) In (nq — хт Уnpq) —
— nq + хт yTtpq +	.
Логарифмы в (3.5) при помощи формулы In (1 + х) =
s= х — хЧ2 + О (з?) запишем в виде
In (пр + хт Уnpq) = In пр + In
In (nq — хтУnpq) =
Утверждение теоремы следует из (2.6), (3.3) — (3.6),
При качественной оценке условий применимости при-
ближенной формулы
Р(Рп = т)~ф(^т)//«Р?	(3,7)
нужно оценить величину остаточных членов в (3.6), При
п —»оо сумма остаточных членов стремится к 0 при любых
фиксированных р и g, 0<р< 1. Однако при конечных
значениях п сумма остаточных членов может быть очень
большой, если р или q малы. Хорошие приближения
формула (3.7) дает при р = q = 1/2. Если в этом случае
провести более точную оценку остаточного члена, то в
формулировке теоремы можно заменить | ап | <; С/Уп на
I ап | < С/п» Формулу (3.7) часто используют при п 100
и npq > 20, Указания о границах применимости формул
60
ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ [ГЛ. 4
(3.2) и (3.7) являются очень приближенными и носят
скорее качественный характер; к ним следует относиться
с осторожностью.
Отметим еще, что в условиях теоремы 3.2 из того, что
п-> оо, следует стремление к бесконечности тп. Значение
m не должно отклоняться от пр очень сильно; например,
для Р (рп = 0) локальная теорема дает плохое прибли-
жение.
Теорема 3.3 (интегральная теорема Муавра—
Лапласа). Если рх 0 < р <Z 1, постоянно, то при п-> оо
Р а
\fnpq
Ъ х2
с 2 ^ —> 0
1
равномерно по а, Ь, — оо^а^Ь^ + оо.
Доказательство. Докажем теорему сначала
при фиксированных а, Ь, —oo<za^b<z + oo. Очевид-
*	( Рп~пР Л
но, что вероятность события I а	Ъ I можно пред-
\ у npq /
ставить в виде
Р (а<^^<М=Рп(М) = V Р(Ип = /п), (3.8)
т — пр
где хт =—- и суммирование распространяется на зна-
V nPQ
чения т, для которых хт ЕЕ [и, Ь]. Применяя к слагаемым
(3.8) локальную теорему, получим
где
Рп Ь) = Sn + Тп.
(3.9)
8п= У ф(хто) ,
L	у npq
xme[a.b)	v
тп= У ап(т)(((хт)-у^=г
*J..	V пря
хт^[а,Ь]
Так как

Аг — г	г — т + 1 — пр т — пр
— ^т+1	>-- г----------
V npq	]/ npq
4
V npq
§ 31	- ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ В СХЕМЕ БЕРНУЛЛИ	61
то Sn можно записать в виде суммы
===	3 Ф (хт)
которая отличается не более чем двумя слагаемыми от под-
ходящим образом выбранной интегральной суммы, со-
ъ
ответствующей интегралу ср (x)dx. Следовательно^
а
b
lim 5П —	(х) dx.	(3.10)
Используя оценку для ап (т) из локальной теоремы^
получим
I Т п I	Ф (#т)	| I г—
хт^[а,Ь]	* П
Таким образом, при п -> оо
Гп->0.
(З.И)
Утверждение теоремы для постоянных а, b следует из
формул (3.8)—(3.11).
Из доказанного и из теоремы 2.4 гл. 7 следует равно-
мерная сходимость. Приближенная формула
ь
Р fa< < ft) ( <р(х)dx = Ф (Ь) - Ф (а)	(3,12)
\ VW J J
используется в тех случаях, когда возможно использо-
вание (3.7). Численное значение интеграла можно найти,
если воспользоваться таблицей 2 для функции

X U2
е 2 du*
о
(3.13)
При небольших значениях npq приближенную формулу
(3.12) нужно заменить следующей формулой (см. [18],
гл. 7, § 2, стр. 189):
р(а< |Х”^-<ь)^ф(б+—-Ф(«
\	]/ npq	J \	2 \/ npq /	\
1 \
2 \[npq /
(3.14)
62
ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ
[ГЛ. 4
Приведем таблички точных и приближенных значений
вероятностей событий {тг	тп2}. Положим
Р (ТП1, т2) = р {mi <	< т2} = Р 5 <

Ро m2) = Ф (я2) — Ф fo).
Pi(mi, тп2) = Ф^2 +	—• ф(я£-----g-
где h == i/Уnpq, xt = (mt — np)h, x2 = (тп2 — np) h*
Используя таблицу 2 для Фо (х) и формулу (2.6), получим:
а) п = 10
р	771ц ти3	0) 2	3; 5	6; 8	9| 10
0,2	Р (/Пь т2) Ро (^1, т2) Pi (mi, т2)	0,6778 0,4429 0,6316	0,3158 0,2059 0,3455	0,0064 0,0007 0,0029	0,0000 0,0000 0,0000
0,5	Р (т±, т2) Ро	™г) Pi (mi, т2)	0,0547 0,0277 0,0558	0,5684 0,3980 0,5696	0,3662 0,2356 0,3651	0,0107 0,0057 0,0133
б) п = 100, р = 0,2
mlt тг	0$ 9	10| 15	16; 20	2Ц 25	26; 30	31; 40
Р (mi, т2) Ро (mi, т2) Pi (mi, т2)	0,0023 0,0030 0,0020	0,1262 0,0994 0,1250	0,4310 0,3413 0,4223	0,3531 0,2957 0,3480	0,0814 0,0606 0,0795	0,0061 0,0030 0,0043
в) п = 100, р = 0,5
nij, пг2	30; 35	36; 40	41; 45	46; 50
Р (mi, т2) Pq (mi, т2) Pi (mi, т2)	0,0017 0,0013 0,0018	0,0267 0,0202 0,0269	0,1557 0,1227 0,1563	0,3557 0,2881 0,3558
§ 3] ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ В СХЕМЕ БЕРНУЛЛИ	63
Формула (3.12) позволяет оценить близость частоты
и вероятности. Пусть р — вероятность успеха в схеме
Бернулли и (in - общее число успехов. Частотой успеха
называют отношение рп/п. Оценим вероятность события
( —-----р < Д I • Если п достаточно велико^ то можно
воспользоваться формулой (3.12). Тогда
(ЗЛ5)
так как функция 2 четная. Значение Фо ^Др^
находится по таблице в конце книги.
Часто возникает обратная задача: сколько нужно
провести испытаний, чтобы частота р,п/п отличалась от
вероятности р не больше чем на Д с вероятностью 1—2а
(а мало)? Такого типа задачи возникают при использо-
вании метода Монте-Карло (метод статистических испы-
таний). Идея метода заключается в моделировании слу-
чайного процесса или последовательности испытаний,;
вероятностные характеристики которых просто связаны
с подлежащими вычислению величинами. Если много раз
бросать иглу, как описано в задаче Бюффона (см. § 3
гл. 2), то частота рп/п будет мало отличаться от вероятно-
сти р пересечения иглой какой-либо линии. Зная величину
отклонения рп/п от р, можно оценить ошибку в опреде-
лении числа л. В таких задачах естественно считать р
неизвестным. Тогда, чтобы подобрать наименьшее и,; при
котором вероятность отклонения будет равна 1—2ал
нужнол согласно (3.14)2 решить уравнение
2ф0 (д 1/—) =
1 — 2а.
Решение будет зависеть от неизвестного р. От этой зави-
симости можно избавиться, если потребовать, чтобы
Р (|-^--р|<д)>1-2а,
64	ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ	(ГЛ. 4
Тогда из (3.15), используя неравенство pq 1/4, получим
р(|_!к _р| <д) ~2Ф0 (Д ]/-£-) >2Ф0(2ДУп)=1-2а
и для определения п будем иметь уравнение Фо (2Д У п) =
= (1—2а)/2. По таблице 3 можно найти иа, для которых
Фо (wa) = (1—2a)/2. Тогда 2Д У п = иа и п > ы^Д2-
Довольно часто используются значения 2a, равные 0,05
и 0,01. Для этих значений соответствующие иа равны
1,960 и 2,576.
В задаче с иглой вовсе не обязательно проводить ре-
альные подбрасывания иглы. Можно этот процесс моде-
лировать; например, используя случайные или псевдо-
случайные числа, получить на ЭВМ последовательность
величин (фкг, xfc), к = 1, 2, . . .А п (см. § 3 гл. 2), задающих
положение иглы, и вычислить частоту пересечений*
§ 4. Бесконечные последовательности
независимых испытаний
Во многих интересных задачах приходится рассматривать бес-
конечные последовательности испытаний. Ограничимся рассмот-
рением последовательности испытаний Бернулли. Успехи и неудачи
мы будем обозначать 1 и 0 соответственно. Положим
Q = {(^2 . . ^п. • •): ik е {0; 1}, к = 1, 2,. . .}.	(4.1)
Обозначим $1 минимальную a-алгебру событий, порождаемую собы-
тиями вида
Ле"1" =	iti = ег> itn = en}.	(4.2)
В случае независимых испытаний
Р (4‘”'.е”) =	-Ргп’	(4-3)
где Ро» Pi —* вероятности исходов 0 и 1 в отдельном испытании
(Ро> Pi > 9, р0 + pj = 1). Отметим без доказательства ♦), что равен-
ства (4.3) однозначно определяют вероятность на рассматриваемой
о-алгебре $1, порожденной множествами (4.2). Таким образом, ут-
верждается лишь существование вероятности; явной формулы,
♦) Построение вероятностных пространств для простейших схем
было проведено в гл. 2. Для бесконечных последовательностей
соответствующие построения являются более сложными (см.
А. Н. Колмогоров [8])*
§ 4]	БЕСКОНЕЧНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ	65
подобной формулам гл. 2, для вычисления вероятности произволь-
ного события в рассматриваемом случае нет. Вероятности событий
А П1 наступление которых определяется не более чем за п испытаний
(п = 1, 2, 3,. . .), можно вычислять по формуле (4.3). Вероятности
событий, которые можно представить через монотонные последова-
тельности событий АП1 вычисляются по формуле (3.11).
Рассмотрим задачу о случайном блуждании, связанную с бес-
конечными последовательностями испытаний. Пусть по целым точ-
кам отрезка [0, п] движется частица. Обозначим |z ее координату
в момент времени t (t — 0, 1, 2,. . .). Движением частицы управляет
бесконечная последовательность независимых испытаний с двумя
исходами 1 и —1. Положим
{£f + 1, если в t-м. испытании появилась 1	и^<«;
— 1, если в z-м испытании появилась —1	и ^>0.
Если = 0 или = п при некотором t, то частица навсегда остает-
ся в этих точках. Будем предполагать, что £0 = к.
Обозначим р и q вероятности исходов 1 и —1 соответственно.
Пусть А — событие, состоящее в том, что частица когда-нибудь
попадет в точку п. Нас будет интересовать вероятность Я£П = Р (А).
Сформулированную задачу можно интерпретировать как задачу
о разорении игрока. Пусть в начале игры 1-й игрок имеет к рублей,
а второй игрок — п — к рублей. Если при бросании монеты (или
кости) выпал герб (или «6»), то первый игрок получает 1 рубль (это
соответствует движению частицы вправо), а в противном cnjniae
отдает 1 рубль (движение частицы влево). Поглощению частицы на
правом конце соответствует выигрыш первого игрока.
Положим Л£П (t) = Р (£f = и). Для рассматриваемого блужда-
ния довольно очевидно, что условная вероятность события {£#+i =
= nj при условии, что первым переходом частицы был переход из
к в к + 1, равна безусловной вероятности события = п} в схеме
блуждания, начинающейся из точки к + 1, т. е.
Р (Ui = п | ^ = * + 1) = nk+lin (0,	(4.4)
и, аналогично,
Р (Ui = * | 11 = к - 1) = п (0.	(4.5)
Докажем, например, равенство (4.4). Обозначим В (е182 . . . еt)
событие, состоящее в том, что 81? 82, . . 8Z являются исходами
первых t испытаний (е8 = —1; 1, s = 1, . . .,0. Положим р (8S) = р,
если 8S = 1, р (es) = g, если es = — 1. Пусть частица начинает блуж-
дание из точки к. Обозначим С (Z, и) множество последовательностей
щ, м2, . . ., uv, удовлетворяющих условиям: 1) щ — —1 или щ = 1
(i = 1,. . ., о); 2) существует s, 1 р, такое, что I + их + • • •
. . . + us = п и 0 < I + иг + . . . + usi < п (1 < «1 < s).
В момент времени t частица окажется в точке п, если (е^, 82, ...
. . ., ez) t= С (к, 0. Отметим еще, что Р (B(8i. . . г,)) = Ц р (es).
8=1
Используя сделанные замечания, для частицы, начинающей
66	ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ	[ГЛ. 4
блуждания из точки к, получим
*+1
р {(5<+1 = ") Л (51 = * + 1)} = 2* Р (В (et.. .Ft+1)) = р 2* П Р («.>.
8=2
Р{£1 = Л+1} = Р (Я(1)} = Р,	(4.6)
t+i
Р{5(+1=и|51 = Л + 1}=2* П ?(«,).
8=2
Здесь символом 2* обозначено суммирование по всем цепочкам
(е2, . . ., ег+х) е С (к + 1, t). Если частица начинает блуждание из
к + 1, то
t
«»+1, п (о = Р {5t = П} = 2** П р (*Л	<4-7)
8=1
где символом 2** обозначено суммирование по всем (8$, . . ., 8/) е
е С (к + 1» 0- Очевидно, что правые части (4.6) и (4.7) совпадают.
Равенство (4.4) доказано.
По формуле полной вероятности
р а<+1 =«) = р & = к +1) р (g/+1 = п|^ = & + 1) +
+ Р (51 = * — 1) р (5/+1 = п I 51 = к - 1). (4.8)
Так как 5# = к, то P(5i = к + i) = р, Р (51 = к — 1) = q. Исполь-
зуя эти равенства и равенства (4.4), (4.5), запишем (4.8) в виде
я»п (»+!) = pnt+i,n (0 +вл8.+11 п(0, к = 1, 2,. . ., п — 1. (4.9)
Заметим, что
(51 = n) С (5а = n) С ... С (5t = n) С (5<+1 = «) CZ . . .
ОО
и А = (J (gt = и). Таким образом, по формуле (1.3.11)
-I
якп = Р И) = lira Р (5t = ») = lim nkn (0.
I—*ОО	I—»oo
Переходя к пределу при t —> оо в (4.9), получим
Jlfrn = Ря£+1,п +	=	п 1.
Так как льп — вероятность поглощения на правом конце в процессе»
начавшемся из точки к, то Лоп = 0, Лпп = 1. Таким образом, ве-
роятность л&п, рассматриваемая как функция от к. является реше-
нием линейного однородного уравнения в конечных разностях с по-
стоянными коэффициентами
p/it+i — fk + g/it-i = 0,	<4.10)
удовлетворяющим граничным условиям /о=0, /1=1. Теория та-
ких уравнений (см. А. О. Гельфонд [3]) во многом аналогична теории
линейных дифференциальных уравнений с постоянными коэффициен-
тами.
Пусть сначала р =/= q. Подставив /к = X? в уравнение (4.10),
получим рАЛ+£ — АЛ 4*	= 0 или рАЛ X + q = 0. Корнями
ЗАДАЧИ К ГЛАВЕ 4
67
этого уравнения являются If = 1, Х2 = q/p. Следовательно, функ-
ции %* и 1* удовлетворяют (4.10). Линейная комбинация
(4.11)
при любых Cf, С2 тоже является решением. Используя условия
/0 = 0 и /х = 1, из (4.11) при к = 0 и к = п получим
Ci + С2 = 0, Ci + (q/p)nC2 = 1.
Отсюда и из (4.11) находим
«ь = (1 - (<?/p)"r)/(l - (g/p)n).	(4.12)
Вероятности поглощения на левом конце тоже удовлетворяют
(4.10), но из общего решения (4.11) нужно выделить решение
с/0 = 1 и/п = 0. Определяя из этих условий Ci и С2, получим
= ((д/р)к — (<цр)п1 (1 — (д/д)п).
Так как л^п + л&0 = 1, то блуждание закончится с вероятностью 1.
Пусть теперь р = q = 1/2. В этом случае Xf = Х2 = 1 и решение
(4.10) нужно искать в виде
fk = G + кС2.
Используя граничные условия, получим
"*«=£• "АО =1-4-	(4.13)
В схеме блуждания по целым точкам прямой с поглощением
только в нуле (в п поглощение не происходит) вероятность попасть
когда-нибудь в п равна вероятности л^п, вычисленной для схемы
с поглощением в нуле и в и. Вероятность того, что частица побы-
вает во всех точках правее к, равна
0, если # > р,
к
1 — (q/p) j если q < р.
Этот результат не противоречит интуитивным представлениям. Если
движение вправо более вероятно, чем влево, то с положительной
вероятностью частица может уйти вправо; в противном случае с ве-
роятностью 1 колебания, ограничены и происходит поглощение
в нуле.
Задачи к главе 4
1.	Два игрока поочередно извлекают шары (без возвращения)
из урны, содержащей 2 белых и 4 черных шара. Выигрывает тот,
кто первым вынет белый шар. Найти вероятность выигрыша участ-
ника, начавшего игру.
2.	Два игрока поочередно извлекают шары (без возвращения)
из урны, содержащей 2 белых шара, 4 черных и 1 красный. Выиг-
рывает тот, кто первым вынет белый шар. Если появляется красный
шар, то объявляется ничья. Пусть Лх = {выиграет игрок, начав
ший игру}, А2 = {выиграет второй участник}, В = {игра закон-
чится вничью}. Найти Р (Л^, Р (Л2), Р (В).
71—<х>
68	ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ	[ГЛ. 4
3.	Из урны, содержащей М белых и N — М черных шаров, по
одному без возвращения извлекают все шары. Найти вероятности
событий:
А к = {Zc-й шар белый},
г = {fc-й и Z-й шары белые},
i — {Л-й шар черный, а Z-й — белый}.
Указание. Пусть 4^ (4^) — событие, состоящее в том,
что 1-й шар черный (белый). Из равновероятности элементарных
событий 4 <44 <2) ... А^ (£1 + ... + eN =	= 0, 1) следует, что
Р (4^) = Р (4i), Р = Р (Blj2), Р (£fc,z) = Р (^i,2)« Восполь-
зоваться равенствами Z?1?2 = 4<Ч4<2\ С1?2 = 4j>1)4<2) и определени-
ем случайного выбора в терминах условных вероятностей (см. § 1).
4.	Проведено 10 независимых испытаний, каждое из которых
заключается в одновременном подбрасывании трех игральных ко-
стей. Найти вероятность того, что в четырех испытаниях появятся
в точности по две «6».
5.	При передаче сообщения вероятность искажения одного зна-
ка равна 1/100. В предположении независимости искажения знаков
найти вероятность того, что сообщение из 5 знаков: а) не будет
искажено; б) содержит ровно одно искажение; в) содержит хотя бы
два искажения.
6.	Сколько нужно взять случайных чисел, чтобы число «6»
появилось хотя бы один раз с вероятностью, не меньшей а) 0,7;
б) 0,9?
7.	В некоторой лотерее вероятность выигрыша на один билет
равна 1/5. Предполагая, что выигрыши на различные билеты неза-
висимы, определить число билетов п, которое нужно купить, чтобы
вероятность Q (п) получения хотя бы одного выигрыша была не
меньше а) 0,65; б) 0,9; в) 0,99.
Найти также Q (п) в этих случаях.
8.	Среди 5Af билетов М выигрышных. Найти вероятность Q (п)
того, что среди п купленных билетов есть хотя бы один выигрыш-
ный. Вычислить Q (п) при 1) М = 3; 2) М = 10 для и, определенных
в задаче 7 в случаях а), б), в).
9.	Найти вероятность того, что в п испытаниях схемы Бернулли
с вероятностью успеха р появятся т 4- I успехов, причем I успехов
появятся в I последних испытаниях.
10.	Двое бросают монету по п раз. Найти вероятность того, что
у них выпадет одинаковое число гербов.
И. Из множества S — {1, 2,. . ., п} выбирается подмножество
j&i так, что каждый элемент из S независимо от остальных с вероят-
ностью р включается в множество и с вероятностью q — 1 — р
не включается. Аналогичным образом независимо от выбирается
подмножество Найти вероятности событий: a) П — 05
б) множество П состоит из к (к = 0, 1, 2,. . ., п) элементов
(т. е. | П «^2 I = й)5 в) I I > I «7^2 I ПРИ Р = 7 = 1/2.
Указание, в) Найти Р {|	| = | «т#2 I}.
12.	На отрезок [0, 10] наудачу брошено 5 точек. Найти вероят-
ность того, что две точки попадут в [0, 2], одна — в [2, 3], две —
в 13, 10].
ЗАДАЧИ К ГЛАВЕ 4
69
13.	В круг вписан квадрат. Какова вероятность того, что из
10 точек, брошенных наудачу в круг, четыре попадут в квадрат,
три — в один сегмент и по одной — в оставшиеся три сегмента?
14.	Пусть — число появлений исхода к в п испытаниях поли-
номиальной схемы. Найти: 1) Р (gx —	2) Р (?2 = т2,. . .,	=
— mN | ?! = zni), если к — 1, . . ., N,— вероятность появления
исхода к в одном испытании.
Указание. 1) Просуммировать (2.7) или использовать
взаимную независимость событий Вг^, , . . ., где = 0, 1,
= {в 1-м испытании появился исход 1},
В^1> = {в l-м испытании исход 1 не появился},
2) Использовать 1) и формулу (2.7).
15.	Из множества S = {1, 2,. . ., п} выбираются два подмноже-
ства и ст£2 так, что каждый элемент из S независимо от осталь-
ных с вероятностью рг включается только в с вероятностью
р2 — в оба подмножества, с вероятностью р3 — только в и с ве-
роятностью р4 = 1 — pi —- р2 — р3 не включается ни в одно из
подмножеств. Найти вероятности событий: а) €7^1 П €7^2 — 0;
б) I П <7^2 I = Л; в) I I = I 2 I “ •
16.	В таблице случайных чисел цифры сгруппировали по две.
Найти приближенное значение вероятности того, что среди 200 пар
пара 01 встретится не менее трех раз.
17.	Брошено 6 правильных игральных костей. Какова вероят-
ность выпадения: 1) хотя бы одной; 2) ровно одной; 3) ровно двух
единиц? Найти точные значения и сравнить их со значениями, вы-
численными по формуле Пуассона.
18.	Сколько изюма должна в среднем содержать булочка, чтобы
вероятность иметь хотя бы одну изюмину в булочке была не ме-
нее 0,99?
19.	Вероятность попадания в цель при каждом выстреле равна
0,001. Найти вероятность попадания в цель двумя и более выстре-
лами при залпе в 5000 выстрелов.
20.	Найти приближенное выражение того, что число выпадений
«1» при 12 000 бросаний игральной кости заключено между 1900 и
2150.
21.	В поселке А 2500 жителей. Каждый из них примерно 6 раз
в месяц ездит на поезде в город В, выбирая дни поездок по случай-
ным мотивам независимо от остальных жителей. Какой наименьшей
вместительностью должен обладать поезд, чтобы он переполнялся
в среднем не чаще одного раза в 100 дней? (Поезд идет раз в сутки.)
22.	Из таблицы случайных чисел отбирают числа, делящиеся
на 4, до тех пор, пока не наберется 588. Найти приближенное зна-
чение вероятности того, что потребуется таблица, содержащая не
меньше 2100 чисел.
Указание. Пусть v — число чисел в требуемой таблице;
— число чисел, делящихся на 4, среди п чисел таблицы (п =
= 2100). Использовать равенство Р (v п) = Р (рп < 588) .
23.	Рыбак забросил спиннинг 100 раз. Какова вероятность того,
что он поймал хотя бы одну рыбу, если одна рыба приходится в сред-
нем на 200 забрасываний?
70
ПОСЛЕДОВАТЕЛЬНОСТИ ИСПЫТАНИЙ
(ГЛ. 4
24.	Две монеты бросают до тех пор, пока не выпадет герб хотя
бы на одной из них. Найти вероятность того, что будет проведено п
бросаний (n= 1, 2,. . .).
25.	Монету бросают до тех пор, пока два раза подряд она не
выпадет одной и той же стороной. Найти вероятности событий:
1) опыт закончится не более чем за 4 бросания; 2) опыт закончится
за четное число бросаний.
26.	Две игральные кости бросаются до тех пор, пока впервые
на двух костях не выпадет сумма очков, меньшая шести. Какова ве-
роятность того, что при последнем бросании сумма очков не меньше
трех?
27.	Используя табл. 7, выписать реализацию бросаний сим-
метричной монеты. Длину реализации п подобрать так, чтобы часто-
та выпадений герба отличалась от 1/2 не более чем на Д = 0,1 с ве-
роятностью, примерно равной 0,9. По реализации вычислить часто-
ту выпадений герба.
28.	Используя табл. 7, выписать N реализаций блуждания
частицы (см. § 4) по целым точкам отрезка {0, п] до ее поглощения
в 0 или в п. Величины N, п, к •— начальное положение частицы,
р — вероятность перехода вправо, q — 1 — р выбрать равными:
a)	N = 10, п = 6, р = 1/6, к = 1;
б)	N = 10, п = 6, р = 1/2, к = 1.
Вычислить частоту поглощения частицы в 0 и в п; сравнить с вероят-
ностями соответствующих поглощений (см. (4.12), (4.13)).
ГЛАВА 5
Случайные величины
§ 1. Определения и примеры
В § 2 гл. 4 было дано определение случайной вели-
чины для дискретных вероятностных пространств. Пусть
теперь (Q, 91, Р) — произвольное вероятностное простран-
ство. Случайной величиной £ назовем действительную
функцию £ = £ (<о), © Е= Q, такую, что при любом дей-
ствительном х
{со: g(®) <*}(=*<	(1.1)
Если в 9( включаются все подмножества Q, то (1.1) оче-
видно выполняется. Событие в (1.1) более коротко иногда
будем записывать в виде (£ < х). Так как операции над
событиями из 91 не выводят за пределы 91 s то из (1.1)
следует, что
(g > х) = а < х) е 91,
(^ < I < х2) = (g < х2) \ (В < Х1) е 91,;	(1.2)
(? = х) =Jj (х < В < х +

Таким образом, вероятности этих событий определены*
Для вычисления вероятностей событий вида (1.2) доста-
точно при любом х знать вероятность
(х) = Р (? < х).
(1-3)
Функция (х) действительной переменной я, — оо <
< х < оо, называется функцией распределения случайной
величины £. Так как
(В С ^г) = (*^1 В < ^2) 4” (В #i)fl
то согласно аксиоме А4
Р (£ < х2) = Р (Xi < g < х2) + Р (g < ^)-
Отсюда и из (1.3) находим
Р (*i < £ < х2) = Ft (х2) - Fi (sj. (1.4)
12
СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
[ГЛ. 5
По формуле (1.3.6) P(g > х) = 1 -	(х). Из (1.3.11),
(1.4) и (1.2) получим
Р (§ = я) = Ит(/^(я +
П—ОО \	'
v) - F‘ w) =

(1-5)
По функции распределения можно вычислить вероятности
любых событий вида (1.2).
Иногда вместо (х) будем писать просто F (х).
Пример 1. Два игрока подбрасывают монету. Если
при данном подбрасывании выпал «герб», то первый игрок
получает 1 рубль, а если выпала «решетка», то отдает
1 рубль. Для описания данной игры естественно положить
Q = {Г, Р} и Р ({Г}) = Р ({Р}) = 1/2. Случайная величина Е,
равная выигрышу первого игрока, определяется следую-
щим образом: £ = £ (Г) = 1, g = g (Р) = —1.
Легко вычисляется функция распределения F% (х) ве-
личины Если х — 1, то множество {£ < х} является
пустым и его вероятность равна 0. Если — 1<^я<^1, то
{£ < я} = {Р} и, следовательно, F^ (х) = Р (£ < х) =
— 1/2. При х > 1 имеем {£ < х} = {Г, Р} и Р (£ < х) =
= 1. Таким образом,

0, если
1/2, если
1г если
• 1,
1 х 1 ,j
х> 1.
Пример 2. Пусть точка А равномерно распределена
в квадрате й = {(u, v): 0 и 1, 0 v 1}. Элементар-
ными событиями о) являются точки квадрата Q; множе-
ство событий 91 здесь порождается квадрируемыми под-
множествами квадрата. Вероятность события, являюще-
гося квадрируемым подмножеством, равна его площади.
Случайными величинами являются, например, функции
£ = £ (со) = У и2 + v2 — расстояние брошенной точки
от начала координат, ц = rj (u, v) = и — первая коорди-
ната брошенной точки и т. д. Найдем функцию распреде-
ления величины г). При 0 < х < 1 имеем
{(u, р): £ (и, v) <Z х} = {(и, р): и < х}.
Стороны этого прямоугольника равны 1 и х. Таким
§ 1]
ОПРЕДЕЛЕНИЯ И ПРИМЕРЫ
73
образом,
и
Р ({(и, v): и < я}) = х
О, если
х, если
1, если
Fx\ (х) =
х О,
О < х 1,
1.
Пример 3. Рассмотрим следующий опыт. Пусть
один раз подбрасывается монета. Если выпал «герб»^ то
на этом опыт заканчивается. Если выпала «решетка»^ то
на отрезок [0, 1] наудачу бросается точка. Для описания
этого опыта введем следующее пространство элементар-
ных событий:
Й = {Г; (Р, и)},
где 0 и < 1; о-алгебра 91 пусть порождается событиями
{Г}; {(Р, u): a<u<bh
где 0 а b 1. Положим
Р({Г}) = 4’ р(«р’“):	.
По вероятностям этих событий однозначно определяется
вероятность на 91. Рассмотрим случайную величину
определяемую равенствами
Так	как	£ = ИГ) = -1,	С = ИРх	и) ил
(?<	» = '	0, {Г},		если х — 1, если — 1 < х 04
		{Г} + {(Р, и): о< ' о, 1 , "2” ’ адИ х+1 2	’ ‘ 1.	и х}, если если — если если	если х — 1, 1 о<оу 1.
74
СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
[ГЛ. 5
§ 2. Свойства функции распределения
Пусть F (х) — функция распределения некоторой слу-
чайной величины f. Формула (1.3) определяет F (х) при
любом действительном х. При х = + оо и при х = — оо
положим F (-—оо) — О, F (+ оо) = 1.
Теорема 2.1. Функция распределения F (х) обла-
дает следующими свойствами'.
1.	Если х± х2, то F (х^ < F (х2).
2.	lim F (х) — F(—оо) = 0; lim F (x) = F (+ oo) = 1.
X-»—oo	x-*-|-oo
3.	lim F (x) = F (x$) (непрерывность слева),
x— х,—о
Доказательство.
1.	Так как (5 < х±) CZ (В < х2) при хг х2, то нера-
венство F (xy) F (х2) следует из (1.3.9).
2.	Так как последовательность событий {Н < — n}f
п = 1, 2, • . ., монотонно убывает (т. е. {£ < — и} ZD
ZD{B<-n-l}, п = 1,2, ...)и П а<~п} = 0гто
п=1
по формуле (1.3.3) получим
lim F(—n)= lim Р(£< — n) = P(0) = O,
7l-» + OO	72_4-oo
Отсюда с учетом доказанной монотонности функции F (х)
получаем, что lim F (х) — 0. Второе соотношение во
X-* — оо
втором свойстве доказывается аналогично с использова-
нием монотонной последовательности (£< n), п = 1, 2, ...
3.	Пусть числовая последовательность уп возрастает
и lim уп = xQ. Тогда
П— оо
(в < Уп) с( в <у„+1), и а < Уп)=(в < го)
п=1
и по формуле (1.3.11)
limP(g<yn) = P(BOo).
Пг-*ОО
Отсюда с учетом монотонности F (х) получим третье
свойство. Теорема доказана.
Иногда, вместо (1.3), функцию F (х) определяют по
формуле F (х) = Р (£	х). При таком определении функ-
ция F (х) непрерывна справа: lim F (х) = F (ж0).
Любая функция G (х), обладающая тремя свойствами,
указанными в теореме 2.1, является функцией распреде-
ДИСКРЕТНЫЕ И НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ
75
§ 3]
ления некоторой случайной величины, т. е. можно по-
строить вероятностное пространство (Q, 9(, Р) и опреде-
лить на нем случайную величину £ такую, что F% (х) =
= G (я). Положим Q «= {и: — оо < и< оо). Обозначим
9Г0 алгебру, порожденную полуинтервалами [ux, и2)<
На этих полуинтервалах зададим вероятность с помощью
равенства
Р (Кг ««)) = G (iQ - G (uj.	(2.1)
Эта формула однозначно определяет вероятность на ал-
гебре 910*)- Если мы теперь положим £ = £ (и) = и, то
(х) = Р (| < х) = Р {(-оо, х)} = lim [G (х) - G (-n)J =
П—СЮ
= G (х). При изучении отдельной случайной величины
можно заменить исходное вероятностное пространство
(Q, 9(, Р) на вероятностное пространство, в котором
множеством элементарных событий является числовая
прямая Q (т. е. множество значений случайной величины),
а вероятность Р на подмножествах Q определяется фор-
мулой (2.1) с G (х) =	(х). Вероятность Р называется
законом распределения случайной величины или просто
распределением £.
В приложениях иногда оказывается удобным описывать
результаты опытов или измерений в терминах случайных
величин. В этом случае при построении математической
модели в качестве пространства элементарных событий
можно выбрать множество значений случайной величины,
и если случайная величина одна, то, как было отмечено
выше, достаточно задать ее функцию распределения.
§ 3. Дискретные и абсолютно непрерывные
распределения
Отметим два важных частных случая законов распре-
делений. Закон распределения случайной величины £
называется дискретным, если существует конечное или
счетное множество чисел хг, х2, . . хп . . . (без точек на-
копления) таких, что
оо
Р (g = хп) = рп > 0, п = 1, 2, . . 2J рп = 1.
П=1
♦) По теореме о продолжении вероятности мы можем единст-
венным образом продолжить заданную на $0 вероятность на ми-
нимальную о-алгебру Ж, порожденную $(0.
76
СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
[ГЛ. 5
Дискретный закон распределения полностью определяется
указанием значений хп, п = 1, 2, . . ., и вероятностей рп,
с которыми эти значения принимает случайная величина.
Случайная величина, имеющая дискретный закон распре-
деления, тоже называется дискретной. Отметим также,
что для любого конечного или счетного набора пар
(#п, лп), п = 1, 2, . . ., где хп — попарно различные дей-
ствительные числа и
оо
Яд > 0, n = 1, 2, . . 2J яп= 1,?
п=1
можно указать дискретную случайную величину В такую,
что Р (В = хп) = лп.
Действительно, пусть Q — {хъ х2, . . хп, • • •}• Для
любого подмножества A GZ Q положим Р(Л)= 3 лп.
п: хпеА
Тогда для В = В (хп) = хп имеем Р (В = хп) = лп.
Закон распределения случайной величины В назы-
вается абсолютно непрерывным, если существует неотри-
цательная функция р% (х) такая, что при любом х
х
Pi (я) = р (I О) = $ Pi (и) du.
—оо
Случайная величина, имеющая абсолютно непрерывное
распределение, называется абсолютно непрерывной.
Ниже мы будем всегда предполагать, что р^ (х) непре-
рывна всюду, за исключением конечного числа точек.
Функция pi (х) называется плотностью распределения ве-
роятностей, Очевидно,
ь
Р (а <С = $ Pi(x) dx,
(3.1)
а-Н/п
Р (В = a)— lira Р (а	В <С а + —) = lim	Pl (x)dx = 0.
П—оо \	п /	П--»оо J
а
Отсюда следует, что для абсолютно непрерывных величин
P(a<B<6) = P(a<i<£>)=P(a<g<t) =
= P(a<g<6).
Если х является точкой непрерывности pt (х), то при
Дх->0
Р (х < | < х + Аж) — р% (х) &х + о (Ах).
§ 3] ДИСКРЕТНЫЕ И НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ 77
Эго равенство следует из (3.1). Плотность распределения,
обладает следующими свойствами:
1)	Ps (я)	0, — оо < х < оо;
2)	p^(x)dx=l\
3)	(х) = р% (х) в точках непрерывности р% (х).
Плотность распределения полностью определяет рас-
пределение случайной величины. Функция распределения
абсолютно непрерывной величины, очевидно, непрерывна.
Пример 3 из § 1 показывает, что существуют распре-
деления, не принадлежащие ни одному из указанных ти-
пов.
Нетрудно проверить, что любая неотрицательная функ-
ция р (х), интеграл от которой по всей числовой прямой
равен 1, является плотностью распределения некоторой
случайной величины. Действительно, если в определении
абсолютно непрерывного вероятностного пространства
(см. § 4 гл. 2) положить п — 1, л (их) *=* р (их), то плот-
ность распределения случайной величины § = § (их) ut
совпадает с р (ж).
Приведем несколько часто встречающихся законов
распределения. Сначала перечислим некоторые дискрет-
ные распределения.
1,	Вырожденное распределение.
Р (£ = а) = 1, а — постоянная.
2.	Гипергеометрическое распределение (ДГХ М, п — нату-
ральные числа, М TV, п N):
Р (£ = т) = СмОй, m = 0, 1, . . ., min (М, п).
3.	Биномиальное распределение (п — натуральное чис-
ло, 0 < р <, 1):
Р (£ = /с) = CnPk (1 - р)п-\ к = 0, 1, . . п.
4.	Распределение Пуассона с параметром К > 0;
Р(| =	* = 0,1,2,...
5.	Геометрическое распределение (0 < р < 1):
Р (| = fe) = (1 - p)*-i р,к = 1,2,...
Перечислим теперь некоторые абсолютно непрерывные
распределения, указав их плотность р(х).
78
случайные величины
[ГЛ. 5
1.	Равномерное распределение на отрезке [а, Ы, а < Ь:
Р(*) =
д'**
0,;	х&[а,Ь\.
2.	Нормальное (или гауссовское) распределение с пара-
метрами (а1 а2) (а > О, — оо < а < оо):
1	(х~а)2
р (х) =	 е 202 .
' '	1<2лз
Нормальное распределение с параметрами (О, 1) называют
стандартным нормальным распределением.
3.	Показательное распределение с параметром X > 0:
Г ’ке~ь,хх х 0,
р(ж)=|_о,.	х<0.
Случайные величины с указанными выше распределе-
ниями часто появляются естественным образом в разных
задачах. Так, в примере 1 (см. § 1 гл. 2) случайная
величина, равная числу шаров в выборке, имеет гипер-
геометрическое распределение (см. (2.1.5)). В § 2 гл. 4
была введена случайная величина щ, равная числу успе-
хов в п первых испытаниях схемы Бернулли. Эта вели-
чина имеет биномиальное распределение (см. (4.2.6))<
Для бесконечной последовательности испытаний Бер-
нулли (см. § 4 гл. 4, (4.4.1)—(4.4.3)) определим случай-
ную величину т, равную числу испытаний до первого
успеха (или до первого исхода 1) включительно. Тогда
(т = k) = А^А^ . , . Ло*”1)Л1Л), где события Л^ опреде-
лены формулой (4.4.2). Отсюда и из формулы (4.4.3)
получим Р (т = к) = (1 — р)*"1 р. Таким образом, вели-
чина т имеет геометрическое распределение.
Нормальное распределение и распределение Пуассона
в § 3 гл. 4 были использованы в качестве распределений,,
приближающих биномиальное распределение.
§	4. Совместные распределения нескольких
случайных величин
Пусть на вероятностном пространстве (Q, 51, Р) заданы
случайные величины Si
Si = Si (®)i	= £2 (©)> • • • Лг =	(®). ©ей.
§ 4]
СОВМЕСТНЫЕ РАСПРЕДЕЛЕНИЯ
79
Каждому со эти величины ставят в соответствие г-мерный
вектор. Совместной функцией распределения (или много-
мерной функцией распределения) величин о • *, (или
случайного вектора 5 = (5к « *	5г)) называется ве-
роятность
Р% (Х)	^1* •	(*^1» * ‘ ‘ » Хг) ----- Р (51 < Х1> * 6 Ч 5г < Xr)l
рассматриваемая как функция точки х = (х1? . . *,хг)
r-мерного евклидова пространства Rr. Функция распре-
деления F% (х) однозначно определяет вероятности Р (£ е
ЕЕ В) для любых параллелепипедов В CZ Дг, а следователь-
но, и для достаточно широкого класса подмножеств Rr. Так,:
при г = 2 и В = {(х^ х2):	x±<Z a2i Ьг х2 < &2}
р {(5и 52) е в} =
= F (а2, b2) - F (а1? b2) - F (а2, bj + F (аь Ьх), (4.1)
где F (хъ х2) = F^ (хх, х2). Действительног по формуле
(1.3.7)
Р {(51 < «и g2 < b2) U (51 < «2, 52 < bi)} =
= Р {5х < «и < М + Р {Si < «2, 52 < bi} -
- Р {51 < «1, 52 < М = Р («ьА) + Р («2, М - Р (<*Н
Отсюда и из равенства
{51 < «21 52 < Ъ2} = {(gu В2) е В} и
U (51 < «и 52 < Ь2} U {51 < «2, 52 <
следует (4.1).
По многомерным функциям распределения можно най-
ти одномерные распределения отдельных координат. На-
пример, так же, как в доказательстве теоремы 2.1г прове-
ряется2 что
lim у) =	(*> +°°) = (*)«
у—+оо
lim (уг х) =	(+°о, Я) =	(х).
у-^ +ОО
Аналогично одномерному случаю определяется г-мер-
ное дискретное распределение. Случайный вектор £ =
= (|х, . . ., |г) называется дискретным, если существует
множество {х (1)г х (2)г t , .х х {к)х 9 > .}г х (к) е В\ не
80
СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
[ГЛ. 5
имеющее точек накопления, такое, что
Р(£ = х (Л)} = р* > 0, 5lPll- = l.
к=1
Тогда для любого множества В CZ Rr
x(fr)GB
(4.2)
Случайный вектор называется абсолютно непрерывным,
если существует такая неотрицательная функция р^ (х) =
—	(^i, . . хг), называемая совместной (или г-мер-
ной) плотностью распределения, что для любого паралле-
лепипеда В
р {£ GE В} = У , . . f р* (xt, . . ., xr) dxt . . . dxr. (4.3)
В
Формула (4.3) сохраняется для любых квадрируемых или
кубируемых множеств В CZ Rr- Из формулы (4.3) следует,
что интеграл от плотности р% (х) по всему пространству
Rr равен 1.
Найдем одномерные распределения для двумерных
абсолютно непрерывных и дискретных векторов. Анало-
гичные формулы могут быть получены для векторов про-
извольной размерности.
Пусть (|ь £2) — абсолютно непрерывный вектор. Тогда4
полагая в (4.3) г = 2 и
В = {(и, v): — оо < и < х, — oo<p<oo}?j
получим
х оо	х
fg,(*) = $ ($ PteAu’v)dv]du = $ р^(и)Ли,
—оо —оо	—оо
где
оо
РМ = $ P^A*’V)dv
—оо
— плотность распределения величины
находим, что
оо
Рь(^) = $ Pt&(u’X)du.
—00
(4.4)
Аналогично
(4.5)
§ 4]	СОВМЕСТНЫЕ РАСПРЕДЕЛЕНИЯ	81
Пусть (£и £2) — дискретный вектор и
Р (£1 = S2 = x2j} = Рц 0;	/ = 1, 2, . .
§ Pv=l-	(4.6)
i, 7=1
Тогда
р &=Xli} = § р & = Xli, н2=x.2j} = 5 Pij.
j=l	j=l
Пусть
Pi-=%Pij- P-i=iiPu-	(4.7)
;=1	i=i
В этих обозначениях
p {Si = *n} = Pi-, P {S2 = ^21} = Рч- (4-8)
Рассмотрим два примера, показывающих, что по од-
номерным распределениям (4.7) без дополнительной ин-
формации нельзя восстановить совместное распределение
случайных величин (4.6).
Пример 1. Пусть й = {(1, 1), (—1, 1), (1, —1)1:
(—1, —1)} и все элементарные события равновероятны.
Положим
S1 = S1 (i, j) = i, S2 = S2 (i, /) = 7, i,. j = —1, 1-
Очевидно, при любой паре (г, /)
Р {Si = i, S2 = j} = 1/4	(4.9)
И
Р {11 = 0 = Р (Si = i, S2 = - 1} +
+ р {Si = i, S2 = 1} = 1/4 + 1/4 = 1/2, г = -1, 1.
Аналогично получим Р {£2 = /} = 1/2, / = —1, 1.
Пример 2. Пусть й, и £2 такие же, как в при-
мере 1, а
Р {(1, DI = р {(-1, —1)} = 1/2,
Р {(-1, 1)} = Р {(1, -1)} = 0.
Тогда, например, Р = —1,	= 1} = 0, и, следова-
тельно, совместное распределение |х, не совпадает с (4.9).
Одномерные распределения
Р {S1 = -1} = Р {^ = -1, g2 = -1} = 1/2,;
Р {Si = 1} = Р {Bi = 1, S2 = 1} = 1/2
82
СЛЗ^ЧАИНЫЕ вели чипы
[ГЛ. 5
Р & = -О = Р {|2 = 1} = 1/2
совпадают с соответствующими распределениями преды-
дущего примера.
§ 5. Независимость случайных величин
Случайные величины |х, £2, . . ., называются неза-
висимыми^ если для любых действительных xt, х2, . . хг
&1, • • xr) = Fkl (xj . . . Fir (xr).	(5.1)
Часто удобнее использовать следующее эквивалентное
определение независимости: для любых событий ЕЕ Br},j
к = 1, . . ., г, где В±, . . ., Вг — подмножества числовой
прямой,; имеет место равенство
р {ii е въ..., ь е 5Г} = р е . р {£г е вт}. (5.2)
Если положить В* = (—оо, хк), то (5.1) следует из (5.2).
Покажем, что при г = 2 из (5.1) следует (5.2) для любых
полуинтервалов Вг = [аь а2), В2 = [&1т Ь2).
Теор е м а 5.1. Если при любых х^ х2
Ръъ (*i, *2) = Ри (*1) Ръ	(5-3)
то при любых аг < а2, Ьх < Ь2
р {?! е («1, а2), ?2 е [ft,, ь2)} =*
= Р {?! G k, а2)} Р {S2 G Ь2)}. (5.4)
Доказательство, Заменим в правой части фор-
мулы (4.1) совместные функции распределения по фор-
муле (5.3): Fitb (а4, b}) = F^ (а;)	(b})f i, j = 1, 2. Раз-
ложив полученное выражение на множители, найдем
Р {?1	Дг).г ^2	^2)} =
= Ша2) - Fit (aj) (F^ (b2) - F^ (fej).
Отсюда и из формулы (4.1) следует (5.1). Теорема дока-
зана.
Можно показать*), что из равенства (5.4), доказанного
для полуинтервалов, следует равенство (5.2) при г = 2
для любых событий 6= Br}, к = 1, 2.
♦) Для этого нужно воспользоваться теоремой о продолжении
вероятности (см., § 3 гл. 1).
§ 51
НЕЗАВИСИМОСМ» СЛУЧАЙНЫХ ВЕЛИЧИН
83
Условие независимости (5.4) удобно использовать для
установления условий независимости дискретных и абсо-
лютно непрерывных распределений. Ограничимся уста-
новлением условий независимости в двух частных случаях.
Теорема 5.2. Пусть распределение величин Вь Вг
со
дискретно, P{£i = хПч. £2 “ x2j} = 1 и множества
г,
(xiif xi2i * * и (х21, х22,* • >) не имеют предельных точек на
числовой прямой. Случайные величины В1? Вг независимы
тогда и только тогда, когда при любых i, 7
Р {В1 = Вг = X2j} ~ Р {£1 = Xli} Р {^2 =* Х2]}* (5-5)
Доказательство. Необходимость. Пусть для
величин Вг выполняется условие (5.4). Для каждой
точки (xyt, x2j) выберем прямоугольник {(хи х2): а± <
< хг < а[, bj < х2< b'j} такой, что х^ЕЕ (aif а'г), х2; ЕЕ
е (bj, bj), а другие значения величин Вь. Вг не входят в эти
интервалы. Тогда из условия (5.4) следует (5.5), так как
Р (ai	bj Вг <С bj} = Р {Bl = Xtf, Вг = %2j}i
Р {<h < Bi < а[} = Р = ^}, Р {bj < В2 < bj} = Р {Ва =
~ X2j }*
Достаточность. Пусть выполнено условие (5.5).
В полуинтервалы [аь а2) и [Ьх, Ь2) попадут некоторые из
чисел {хп, х12,. . .}, {я21, х22,. . .}. Положим
Xi = {г: Хц ЕЕ Uh, #2)}» Х2 = {r. x2i ЕЕ [Ьц, Ь2)}„
Из формулы (4.2), используя условие (5.5), получим
Р {Bi ЕЕ [fli> ^2)7 В2 ЕЕ [bi, Ьг)} —
=	3 Р {Bl = ^li7 B2 = ^2j} =
isXi,
= S P {£1 = xli} P {Ь = Xtj) ~
iEX„ )<=Хг
= 3 P{Bl=*li},3 P(?2 = ^j} =
j^X^
= P {Bi EE [#i7 0,2)} P {B2 GE [bi? &2)h
т. e. выполнено общее достаточное условие независимости
(5.4). Теорема доказана.
В примере 1 из § 4 случайные величины незави-
симы, так как равенства Р {Bi — i, В2 — /} = Р {£1 = О
Р {g2 == j} выполняются при любых i, j. В примере 2
того же параграфа величины Вх» £2 зависимы^ так как,3
84
СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
[ГЛ. 5
например,
О = р {|х = 1Л2 = -1} ¥= р Ux = 1} Р {?2 = -1) = |.
Теорема 5.3. Пусть р^2 (хъ х2) — плотность рас-
пределения случайных величин |2. Случайные величины
£i, £2 независимы тогда и только тогда, когда во всех точ-
ках непрерывности функций р^2 (хъ х2), р^ (х^, р^2 (х2)
имеем
Pi& (*1, *2) = Pi, (*1) Рь W- (5-6)
Доказательство. Необходимость. Пусть вы-
полнено условие (5.4). Выражая левую и правую части
(5.4) через плотности распределения вероятностей, при
любом В = {(xt, х2): аг х± < а2, b± С х2 < Ъ2} получим
0^2	^2
й	(жь #а) dxidx* = Pi, (X1) dxi \ P$2 (*«) dx2- (5-7)
в
Так как
Cl?	^2
$ pit (жх) dxl Ръ (х2) dx2 = 5$ Рь (#1) Ръ (^2) dxt dx2t
at	Ъ,	В
то из (5.7) найдем
S $ IPiA, (*ь хг) — Pi, (*i) Pi. (жа)] dx! dx2 = 0.	(5.8)
В
Пусть (хъ х2), х1ч х2 — точки непрерывности функций
РЫг (^1> хг)> Р%ЛХ1)' Р^(х2)- Нужно показать, что в точ-
ке (xv х2) имеет место (5.6). Пусть это не так. Тогда
в силу непрерывности подынтегральной функции в (5.8)
найдется окрестность точки (х1? х2), в которой функция
отлична от нуля и сохраняет знак. Выбрав прямоуголь-
ник В, целиком лежащий внутри этой окрестности, полу-
чим противоречие с (5.8).
Достаточность. Пусть выполнено (5.6). Тогда при
любом В верно (5.8) и, следовательно, имеют место (5.7)
и (5.4). Теорема доказана.
В случае нескольких величин можно проверить, что
определению независимости (5.1) или (5.2) равносильны
следующие условия:
НЕЗАВИСИМОСТЬ СЛУЧАЙНЫХ ВЕЛИЧИН
85
§ 5]
1) Абсолютно непрерывные распределения. Для любых
Я = (^11 • • -Л #r) Rr
г
p^...ir (xi,. .xr) = п plk (xk).	(5.9)
fr=l
2) Дискретные распределения. Для любых х = (хи . . .
*. ., xr) е Rr
Р{£1 = *Ь • • -,£г = ^г}=Г1 Р{Вк = ^}-	(5.10)
А'=1
Таким образом, если известны одномерные распреде-
ления величин	и известно, что эти величины
независимы, то по каким-либо из формул (5.1), (5.2),
(5.9), (5.10) можно найти совместное распределение этих
величин.
Будем говорить, что независимые случайные величины
. . ., Нг имеют многомерное нормальное распределение,
если каждая из этих величин имеет одномерное нормаль-
ное распределение. Пусть, например, k = 1,. . ., г,
имеют нормальное распределение с параметрами (а^, о?).
Тогда по формуле (5.10), используя формулу плотности
одномерного распределения, получим
,	ч	1	(	1 V ~ ait)a 1
(1‘-	1“Z)•
(5.11)
Общее определение нормального распределения будет
дано в § 7 гл. 6.
Рассмотрим еще один пример независимых величин.
Индикатором произвольного события А называется слу-
чайная величина
{1, если со ЕЕ Л,
п	а (5.12)
О, если со^Л, v '
Число успехов в п первых испытаниях схемы Бернулли
можно представить в виде
Ип = 11 + ^2 + . . . + In, (5.13)
где	= 1» 2, . . ., п, = {испытание с но-
мером t закончилось успехом}. Покажем, что индикаторы
86	СЛУЧАЙНЫЕ ВЕЛИЧИНЫ	[ГЛ. 5
независимы. Из определения индикатора (5.12) следует,
что = 1} = t = 1, . . ., п. Положим А^ =
Выбирая в теореме 2.1 § 2 гл. 4 в качестве событий
. ,, B(s^ события
= ei>- • • •>= м
при любых ек = 0, 1, к = 1, . . п, получим равенство
Р{В1 = еХ) . .	= en} = Р {?, = е1} . . . Р{£„ = 8П},
равносильное определению независимости дискретных ве-
личин £х, . . ., (см. (5.10)). Таким образом, в равенстве
(5.13) слагаемые независимы. Представление (5.13) будет
в дальнейшем часто использоваться.
Рассмотрим теперь последовательность индикаторов,
связанную с выбором п шаров по схеме случайного вы-
бора без возвращения из урны, содержащей М белых
и N — М черных шаров (см. § 2 гл. 2). Положим =
= где Ак — событие, состоящее в том, что fc-й шар вы-
борки оказался белым. Случайные величины • • ч £п
не являются независимыми, так как, например,
р^=12==...=вп=1}=^¥=^-=П p&=i}.
§ 6. Функции от случайных величин
Пусть (Q, Э(, Р) — произвольное вероятностное про-
странство и £• = | (о), о) Е й, — некоторая случайная
величина. Суперпозицией действительной функции
заданной на Q, и функции ср (ж), заданной на действитель-
ной прямой^ является функция у) = <р [£• (со)] = у) (о),
заданная на Q. Для дискретных вероятностных прост-
ранств функция у) является случайной величиной, так
как никаких ограничений на функцию у) (<о) не налага-
ется. Для произвольных вероятностных пространств тре-
буется, чтобы
(т) < X) е 31	(6.1)
при любом X *).
♦) При произвольной функции ф условие (6.1) может оказать-
ся невыполненным. Однако можно показать, что (6.1) имеет место,
если при любом борелевском множестве В множество {и: ф (и) е
е 5) является борелевским множеством на числовой прямой (т. е.
полный прообраз ф~£ (В) множества В при отображении, осуществ-
ляемом функцией ф, является борелевским множеством). Этим свой-
§ 6]	ФУНКЦИИ ОТ СЛУЧАЙНЫХ ВЕЛИЧИН	87
Справедлива следующая теорема.
Теорема 6.1. Если случайные величины и £а
независимы, то независимы и случайные величины у)г =
= <Р1 (11), Т]2 = <₽2 (Вг)«
Доказательство. Пусть т]! ЕЕ Вг, ц2 ЕЕ В2 (Blf
В2 — подмножества числовой прямой) — произвольные со-
бытия. Тогда
Р {т]1 Bn т)2 £= В2} = Р {фх (gx) ЕЕ Ви <р2 (|2) ЕЕ В2} =
= Р {В1 е фГ1 (5i), и е= ф;1 (В2)}. (6.2)
Так как случайные величины и g2 независимы, то сог-
ласно определению независимости в форме (5.2) имеем
Р (11 е фГ1 (Вх), Ъ е ф!1 (В2)) =
= р (h е фГ1 (Bi)) р (Ъ g ф!1 (В2))е (6.3)
Очевидно, что
(L- е фГ1 (Bf)) = (Фг. (L) е во = (Л/ е вг)<
Отсюда и из равенств (5.2) и (5.3) получаем
Р (т]1 G В1г т]2 Е В2) = Р (т)х е Вх) Р (т]2 G В2)
для любых событий Di ЕЕ Вхт т)2 S В2. Теорема доказана.
Если на исходном вероятностном пространстве задано
несколько случайных величин (£п |2, . . ., 1-п), то слож-
ная функция т) = Ф (£i, • •	|л) также является случай-
ной величиной для достаточно «хороших» функций
Ф (^1, и2, . . ., ип); например, достаточно потребовать,
чтобы ф (ui, и2, . - », ип) была непрерывной. Можно до-
казать следующее утверждение, обобщающее теорему 6.1:
если gx, g2, . . ., gn, у]1? т)2, . . ., чт]т ~ независимые слу-
чайные величины, то случайные величины
£1 ~ Ф1 (11 у • *	£2 ~ Фг (Лн • » *1 Лт)
независимы.
Закон распределения новых случайных величину яв-
ляющихся функциями от старых, очевидно, определен,
так как они заданы на том же вероятностном пространстве.
Можно найти функцию распределения новой случайной
ством обладают, например, функции с конечным числом точек раз-
рыва. Таким образом, в практически важных случаях условие (6.1)
оказывается выполненным. В дальнейшем мы будем использовать
выражения типа «случайная величина т] = ф (5)», не оговаривая
каждый раз, что ф (х) удовлетворяет условию (6.1).
88	СЛУЧАЙНЫЕ ВЕЛИЧИНЫ	[ГЛ. 5
величины ц = ф (£). Для этого достаточно знать только
функцию распределения Действительно,
Рп (*) = Р {ф (I) < 4 = р {5 е ф-1 (- оо, ж)}. (6.4)
Вероятность в правой части (6.4) может быть вычислена
по (х). Аналогично находится функция распределения
или плотность распределения (если она существует) вели-
чины т] = g (gn . .	%г). Рассмотрим один важный част-
ный случай.
Теорема 6.2. Пусть ц = (т]1? . > т]г) = g(£), где
% = (£х, . . ., %г)—случайный абсолютно непрерывный век-
тор с непрерывной плотностью распределения р% (х), х =
= (х1ч . . ., xr), g (х) = (gt (х), . . ., gr (х)). Если отобра-
жение у = g (х) взаимно однозначно, непрерывно диффе-
ренцируемо и якобиан
_ D(gl, ...,gr)
— D(X1,...,Xr)	«
то распределение вектора Т) абсолютно непрерывно и
Рп (*) = Pl (g-1 И) I J (g-1 (*)) Г\ (6.5)
где g-1 (х) — прообраз х.
Д о к а з а т е л ь с т в о. Пусть В — произвольная
область пространства Rr с кусочно-гладкой границей.
Тогда
Р {Г] е В} = Р {В G g'1 (В)} = 5 • • • $ Pl О) dxi. .. dxr,
g~'B
Переходя в последнем интеграле к новым переменным
У — g (я), получим
р {Г) е В} = $... $ рг (g-1 (у)) I / (g-‘ (у)) |-‘ dy.
в
Отсюда согласно определению (4.3) следует, что подынтег-
ральная функция является плотностью распределения
вектора ц, так как область В может быть, в частности, лю-
бым параллелепипедом. Теорема доказана.
Отметим, что в доказанной теореме требования непре-
рывности pg (х) и дифференцируемости g (х) являются
лишними. Они были необходимы только для того, чтобы
воспользоваться теоремой о замене переменных, извест-
ной из курса математического анализа.
§ 6]
ФУНКЦИИ ОТ СЛУЧАЙНЫХ ВЕЛИЧИН
89
Приведем две теоремы, в которых устанавливается
закон распределения функции от случайных величин в
двух часто встречающихся случаях.
Теорема 6.3. Если случайная величина % имеет
нормальное распределение с параметрами (а, о2), то слу-
чайная величина т] =	+ 5, А =^= О, имеет нормальное
распределение с параметрами (Аа + 5, Л2о2).
Доказательство. Пусть сначала А > 0. Тогда
(х-В)/А
Fn(z) = P(4£ + B<x) = P(&<^=-^)= jj Pt(u)du.
—оо
Отсюда, так как р^ (х) непрерывна при любом х, следуетг
что существует
(«)=a w=РЕ	=а п . (б.б>
Если А < 0, то
—|-ОО
£я(а;) = Р(Л5 + S<X) = P	= jj Pi(u)dU
(х—Н)/А
И
Объединяя последнюю формулу с (6.6) и используя фор-
мулу плотности нормального распределения, получим
/\	* Iх — & \
Рп (ж) — р-р Pi ( в ) —
,	___ _______ Q	_______ Q
I А I (5	1^2л С51	’
где аг = Аа + В, о^ = | А | о.
Теорема 6.4. Если случайные величины и £2
абсолютно непрерывны и независимы, то случайная вели-
чина + ^2 тоже абсолютно непрерывна и ее плотность
распределения определяется по формуле
оо
Pi,+iAx)= $ Pi' («) Ръ (х — “)du- (6-7)
Доказательство. Найдем сначала
(*) = Р (51 + 52 < х) = Р ((51,52) е Dx)(
90
СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
[ГЛ. 5
где Dx = {(и, v): и + v < х}. Так как по условию тео-
ремы величины и £2 независимы, то их плотность сов-
местного распределения согласно (5.6) равна
РЫ. 0 = РЬ («) РЬ (у)>
и, следовательно, по формуле (4.3) найдем
л.+6.(а:)=
оо	— U-J-X
=$S^.(w)Pi,(v)dudv= $ pg.(“)( $ pi,(v)dv)du-
Dx	—oo	—oo
Отсюда, полагая v = z — и, получим
oo	X
?Ь+ъ(х) = $ PMdu $ Pfe(z —U)dz =
— oo	—oo
X OO
= $ (S Ръ(и)Ръ(г~ u)dujdz —
X
$ Pgi+5. (z) dz$
—00
где
oo
p^iAx) = $ PiAu>PiAx~ u)d“>
Теорема доказана.
Отметим^ что вместе с (6.7) верна формула
Ph+t,(x) = Pt,(x~ u)Pi,(u)du.
Используя формулу (6.7),; можно показать, что сумма
независимых нормально распределенных случайных ве-
личин имеет нормальное распределение. В гл. 7 этот факт
будет установлен при помощи характеристических
функций.
Рассмотрим следующий пример.
Пример 1. Пусть случайные величины и |2
независимы и имеют распределения соответственно рав-
номерное и показательное:
{1, если я: ЕЕ [0,1],,
О, если я 5= [0,1],
(е~х, если х^О,
0t если х < 0„
Требуется найти р$1+£, (х)*
ЗАДАЧИ К ГЛАВЕ 5
91
По формуле (6.7) получим
ОО	1
Рь+ь(*)= $ Рб. (“) ft, (х — «) du = J pg, (х — и) du.
—оо	о
Подынтегральная функция (х — и) > 0, если 0 <
< и < х, и (х — и) = 0 в остальных случаях. Таким
образом, при 0 < х 1
х
(х) = du = 1 — е~х
о
и при X > 1
1
Pt.+t, (х) = $e-(x-u) du = (е — 1) е~х"
о
Окончательно получим
О, если х О,
PWb(x) =
1 — е~х,
(е — 1) е~хг
если 0 < х <1 15
если х>1.
Задачи к главе 5
1.	Плотность распределения § задана формулами
Pg (х) = С/х4 (х > 1), pg (х) = 0 (х < 1).
Найти постоянную С, плотность распределения величины т) = In g,
Р(0,5<т]<0,75)Л
2.	Случайная величина £ равномерно распределена на отрезке
[О, 1]. Найти плотности распределения величин: a) r)i = 2g + 1;
б) т)2 = - In (1 - g).
3.	Случайная величина g имеет показательное распределение
с плотностью распределения pg (х) = ае~<сх(х > 0). Найти плотности
распределения случайных величин: a) tji = l/g; б) = ga; в) ife =
= — In g; г) = 1 — e^.
4.	Случайная величина g распределена нормально с параметрами
а = 0, о2 = 1. Найти плотности распределения величин: а) = g2;
б) Яг = (логарифмически нормальное распределение).
5.	Точка Р равномерно распределена на единичном квадрате
А В CD. Найти плотность распределения площади g прямоугольника
AB'PD', где В' и D' — основания перпендикуляров, опущенных из
точки Р на стороны АВ и AD соответственно.
6.	Функция распределения F (х) величины g строго монотонна
и непрерывна. Найти закон распределения величины т£= F (g).
92	СЛУЧАЙНЫЕ ВЕЛИЧИНЫ	(ГЛ. 5
7.	Случайные величины и g2 независимы и имеют равномерное
распределение на отрезке [О, 1]. Найти плотности распределения
величин: a) gf + g2; б) gx — g2; в) gi/g2.
8.	Случайные величины gj и g2 независимы, одинаково распре-
делены и имеют показательное распределение: (х) = р (х) =
= ae~axt х > 0. Найти плотность распределения их суммы.
9.	Случайные величины gx и g2 независимы и нормально ра с-
пределены с параметрами (0, 1). Найти плотности распределения
величин: a) T]i= g2 + g2; б) r|2 = arctgg1/g2; в) совместную плотность
распределения (t]i, th)-	______
10.	Найти совместное распределение величин rji =	— 2 Ing! X
X cos (2ng2), n2 = Vе — 2 In gj sin (2ftg2), где gx и g2 распределены
так же, как в задаче 7.
И. Совместное распределение случайных величин gt, g2 задано
таблицей
	-1	0	1
—1	1/8	1/12	/24
1	5/24	1/6	1/8
в которой на пересечении i-й строки и /-го столбца (I =	1, 1, / =
= —1, 0, 1) приведена вероятность ру — Р {gj — i, g2 = /}. Найти:
а) одномерные законы распределения и g2; б) закон распределения
П1 =	в) закон распределения р2 = g2; г) Р (t)i = 0, т)2 = 1).
12.	Величины gi и g2 независимы; Р {gi — 0} = Р {g2 = 1} —
— 1/2; g2 равномерно распределена на отрезке [0, 1]. Найти закон
распределения g, + g2.
13.	Найти закон распределения суммы двух независимых слу-
чайных величин gx и g2, каждая из которых имеет распределение
Пуассона с параметром и Х2 соответственно.
14.	Обозначим т число испытаний в схеме Бернулли до появле-
ния первого успеха включительно. Найти закон распределения т.
15.	Величина т(1) равна числу испытаний в схеме Бернулли до
первого успеха включительно, т(2) — число испытаний, прошедших
после первого успеха до второго успеха. Найти совместное распре-
деление т<2). Являются ли т(1) и т(2) независимыми?
16.	Найти закон распределения величины т(гп), равной числу
испытаний в схеме Бернулли до появления m-го успеха.
17.	Игральная кость бросается до тех пор, пока впервые не вы-
падет меньше пяти очков. Обозначим 0 число очков, выпавших при
последнем бросании игральной кости, и через v — число бросаний
кости. Найти совместное распределение 0 и v. Являются ли 0 и v
независимыми?
18.	На п станках одновременно началась обработка п деталей.
Предполагая, что времена обработки деталей независимы и имеют
ЗАДАЧИ К ГЛАВЕ 5
93
показательные распределения с параметром а, найти распределение
времени: а) до получения первой обработанной детали; б) до окон-
чания обработки всех деталей.
19.	Пусть gj, ^2, . . .,	— независимые, одинаково распреде-
ленные, абсолютно непрерывные случайные величины; Р < х} —
= F (x), F' (х) = р (х). При каждом (о расположим числа (со),
&=1,2, ..., п,в порядке возрастания и перенумеруем:
. . . < т)п* Таким образом, (со) является наименьшим из чисел
(Si (w), • • •, 5п (ю)), Лп (w) — наибольшим из тех же чисел и т. д.
Найти плотностп распределений: 1) rjj; 2) т)п; 3) T)w, 1 < т < и;
4) (л™, Л*)-
20.	Машина состоит из 10 000 деталей. Каждая деталь незави-
симо от других оказывается неисправной с вероятностью причем
для п± = 1000 деталей pf = 0,0003; для п2 — 2000 деталей р2 —
= 0,0005 и для п3 — 7000 деталей р3 — 0,0001. Машина не рабо-
тает, если в ней неисправны хотя бы две детали. Найти приближен-
ное значение вероятности того, что машина не будет работать.
Указание. Воспользоваться теоремой Пуассона.
21.	Совместное распределение величин |2 является равно-
мерным в круге {(□?!, х2):	< U- Найти вероятность
р (|^к-4=. i52i <4=1-
(	/2	|/Т]
Являются ли величины 5i, £2 независимыми?
22.	Случайная величина £ с равномерным распределением на
[0, 1] записывается в виде бесконечной десятичной дроби:
оо
5=2	Найти совместные и одномерные
распределения величин gj, £2. Являются ли glt g2 независимыми?
23.	Используя табл. 7 выписать 10 реализаций испытаний, опи-
санных в задаче 17. Найти частоты событий: {0 = к}, к = 1,2, 3, 4;
{v = I}, 1= 1, 2, 3,. . .
24	Используя табл. 7, выписать реализацию 50 независимых
случайных величин, равномерно распределенных на отрезке [0, 1].
Числовые значения взять с точностью до 10-3.
25.	Пусть F (х) — непрерывная строго возрастающая функция
распределения и F~1 (х) — обратная к ней функция. Показать, что
случайная величина ц’= F~l (£), где 5 равномерно распределена на
отрезке [0, 1], имеет своей функцией распределения F (х). Указан-
ное свойство позволяет из реализаций равномерно распределенных
величин получать реализации величин с функцией распределения
F (х). (См. также задачу 10, в которой содержится метод получения
нормально распределенных величин.)
ГЛАВА 6
Математическое ожидание
§ 1. Определения
Функция распределения полностью определяет закон
распределения случайной величины. Однако часто можно
ограничиться более простой характеристикой. Одной из
важнейших характеристик случайной величины является
ее среднее значение, или математическое ожидание. Ма-
тематическое ожидание легко вычисляется и обладает
полезным свойством: арифметическое среднее одинаково
распределенных случайных величин близко к математиче-
скому ожиданию. Определение математического ожидания
связано4 с обычным понятием о среднем значении. Пусть,
например, Q = {colf со2ц • • cojv}; Р (ю0 = 1^» & =
= 1У > . ., TV; £ = (cojc) = Тогда математическое ожи-
дание Mg случайной величины g определяется формулой
1 1
Mg = (tfi + ,., + Xtf)/W=-^xi +	+-^-^.Если веро-
ятности Р (©к) = рк отличны от 1/7V, то среднее значение g
естественно вычислять по формуле Mg= ргхг + р%х2 +• • •
• > * + PN&N*
Наиболее удобное и простое определение математиче-
ского ожидания произвольной случайной величины вво-
дится при помощи интеграла Лебега,
Математическим ожиданием случайной величины g,
заданной на вероятностном пространстве (Q, 91 д Р), на-
зывается число
Mg=$B(®)P(d®),	(1.1)
Q
если интеграл Лебега, стоящий в правой части равенства»
существует (см. [2], стр. 74, 319—324).
Мы не будем пользоваться теорией интеграла Лебега
и ограничимся определением математического ожидания
для случайных величин, заданных на дискретном и аб-
солютно непрерывном вероятностных пространствах (см.
§§ 2а 4 гл. 2). Чтобы получить интересующие нас опреде-
ОПРЕДЕЛЕНИЯ
95
§ И
ления для указанных пространств, нужно в дискретном
случае заменить в (1.1) символ J на 2»: а и Р (йю) на u)fc
и в абсолютно непрерывном случае нужно в (1.1) по-
ложить Р (dco) = л (ult * • о ип) dulr . • .х dun, со =
= (UX, . ♦ ., Un).
Приведем полные формулировки определений.
Математическим ожиданием МВ случайной величины
В = В (<jDfe), заданной на дискретном вероятностном про-
странстве с Q = {сох, со2, • • •»	• • • }, Р ((Ofc) ==
ft = 14 < . u ♦ (см. § 2 гл. 2), называется число
Mg=	(1.2)
fc=l
если ряд абсолютно сходится. Если же ряд (1.2) не схо-
дится абсолютно, то говорят, что математическое ожида-
ние случайной величины В не существует.
Математическим ожиданием МВ случайной величины
В = В (^i, u2, ж * ., un), заданной на абсолютно непрерыв-
ном вероятностном пространстве (Q, 21, Р) (см. § 2
глв 2), называется число
М£ = $...$£ (м£,„ U„) л (ui,.. ип) dui. ., dun, (1.3)
Q
если интеграл абсолютно сходится.
Если интеграл (1.3) не сходится абсолютно, то гово-
рят, что математическое ожидание случайной величины В
не существует.
Пример 1< Найдем математическое ожидание вы-
игрыша первого игрока в примере 1 § 1 гл, 5, В этом
примере
Й = {Г, Р}, Р ({Г}) = Р ({Р}) = 1/2,
?(Г) = 1, g(P) = -l.
По формуле (1.2)
Mg=g(r)P(r) + g(P)P(P)=A.n_±.(_i)=0,
Пример 2. Пусть в дискретном вероятностном
пространстве Q = {1, 2, , . А, . . .} и Р (к) = рк =*
=1!к (к 4- 1). Непосредственно проверяется, что
£₽.=1(т-Нт)='.
fr=l	fr=l
96
МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ
[ГЛ. 6
Положим gi «= £х (к) = (—1)\ g2 = g2 (к) = (—1)* к. Так
оо
как ряд 3 (—i)h/k (к + 1) сходится абсолютно, то
к=1
существует. По формуле (1.2)
оо	оо
МЬ=£ Ь (Ч л = X <- *)‘ (4 - т|т) “
к=1	А'=1	К=1
Отсюда, используя разложение —In (1 + х) =
оо
= 3 (—•!)* при х = 1, получим = 1 — 2 In 2.
А'=1
Однако Mg2 по определению не существует, так как ряд
оо
У, I (— !)* к I -fe (fc1+1) расходится.
fr=l
Пример 3. Пусть в абсолютно непрерывном ве-
роятностном пространстве (Q, 91, Р) (см. § 4 гл. 2) п = l,j
й = {и: 0 и 1}, л (и) = 1 (0 и 1).
Рассмотрим случайные величины: £х (и) = и (0 и
< 1); g2 (u) = *(JL=1L<u<-L), к = 1,2,3; ?3 (и) = и2
(О < и < 1/2), £3 (и) = 1 (1/2 и 1). По формуле (1.3)
M£z = § (и) л (и) du. Отсюда
Q
1	1/3	2/3	1
MEi = udu = -^- J М£2 = du + 2 du +	3 du = 2;
О	0	1/3	2/3
1/2	1
М£з= $ u*du+ $ du = 13/24.
О	1/2
Отметим, что в данном примере величина £х абсолютно
непрерывна, £2 — дискретна, а £3 — смешанного типа.
Если известна плотность распределения случайной
величины или заданы вероятности значений дискретной
величины, то может оказаться, что математическое ожи-
дание удобнее вычислять не по сформулированным выше
определениям, а по формулам, которые мы получим в
качестве частных случаев следующих двух теорем.
g 1]'	ОПРЕДЕЛЕНИЯ	97
Теорема 1.1. Пусть £ = (g„ ga, . .	£r) — ди-
скретный случайный вектор, для которого
Р = х (к)} =	> 0, х (к) = (хк1, . . ., xkr) е Rt
S/>» = !•
fc=l
оо
Если ряд 2 | g (х (Л) | ръ сходится, то случайная вели-
ко
чина т) = g (£) = g (£х, . .	£г) имеет математическое
ожидание
оо
Мт] = 5 g (хк1,.. ., хкг) рк.	(1,4)
К=1
Теорема 1.2. Пусть % = (£п . . ., £г) — абсолют-
но непрерывный случайный вектор с плотностью распреде-
ления р% (х) = р^(хг, . . ., хг). Если интеграл
$ ... $ I g (xi,..xr) I Pt (Xi,..., xr) dxi... dxr
Rr
сходится, то математическое ожидание случайной вели-
чины *Н = g (£i, . . ., £г) существует и
Мт) = § . . . g (хх,. . .,хг)р^ (хх,. . ., xr) dxi.. . dxr. (1.5)
Rr
Отсюда, полагая п = 1 и g (х) = х, получим формулы
для вычисления математического ожидания случайной
величины по плотности распределения или по вероятно-
стям значений дискретной случайной величины,
оо
Если 2! Р (? = хк) — 1, то из формулы (1.4) полу-
»=1
чим
МВ = 2 а*Р (£ = *»)•	(1-6)
К=1
Если р% (х) — плотность распределения то из фор-
мулы (1.5) следует, что *)
оо
М|= xpt(x)dx.	(1.7)
—оо
♦) Используя интеграл Стилтьеса, можно записать общую
формулу для вычисления М£, аналогичную (1.6) и (1.7), в виде
оо
( xdFfc (х).
98	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	[ГЛ. 6
Доказательство теоремы 1.1. Проведем
доказательство для случая, когда случайные величины
£1, £2» • * •, 1г заданы на дискретном вероятностном прост-
ранстве (Q, ?(, Р) (см. § 2 гл. 2). По определению случай-
ный вектор называется дискретным, если существует та-
кое множество точек х (к) = (xkll хк21 • • Xjcr)i к ~ Ъ
2, . , что
ЗР(Ь = ®П<...Лг = ^г) = 1.	(1.8)
fc=l
Записывая математическое ожидание случайной величины
П = П (“m) = g (Bl (0>т)г • . м. Br (®т)) ПО формуле (1.2),
получим
Мт] = 2 g (5i (®m),..1т м P (®m).	(1.9)
m=i
Преобразование (1.9) к виду (1.4) основано на «приведении
подобных членов». Введем множества
А = {т: £ (®т) = х (к)}.	(1.10)
Очевидно, что любая пара и (I =/= к) не имеет общих
элементов и что |J Ак = {1, 2, 3, . . ., тп, . . .}. Если Мт,
fc=i
существует, то ряд (1.9) сходится абсолютно и его члены
можно произвольно переставлять. Тогда (1.9) можно за-
писать в виде
МТ| = 2 3 g (В (®m)) Р (®т)->
fc=l
Отсюда, учитывая (1.10), находим
МЯ= 2 (?(*(*)) 3 P(®m)).
?i=l
В предположении существования Мт, формула (1.4) дока-
зана, так как 2 Р (®т) = Р (В = я (к)) — рк. Если
абсолютно сходится ряд в (1.4), то, начав с (1.4), можно
аналогичными рассуждениями получить формулу для Мт,
в виде (1.9). Теорема 1.1 доказана в случае, когда вектор
£ задан на дискретном вероятностном пространстве.
Доказательство (1.4) для случая, когда дискретный
случайный вектор задан на абсолютно непрерывном ве-
6 i]
ОПРЕДЕЛЕНИЯ
роятностном пространстве, а также доказательство тео-
ремы 1.2 приведены не будут. Эти доказательства при
условии использования только фактов из курса обычного
анализа потребовали бы введения дополнительных лиш-
них ограничений на рассматриваемые случайные величи-
ны. Приведенное для дискретных пространств доказа-
тельство дает достаточно хорошее представление о связи
формул (1.2), (1.3) с (1.4), (1.5).
Воспользуемся формулами (1.6) и (1.7) для вычисле-
ния математических ожиданий случайных величин, имею-
щих распределения, приведенные в § 3 гл. 5.
1.	Нормальное распределение. Подставляя в формулу
(1.7) плотность нормального распределения, получим
М| = \ х —=— е 2°г dx =
J 1/2л б
— оо
р _ .el	? — —
— —?=- \ ие 2 du А----%=- \ е 2 du,
д № А
1 _vL
Так как функция уе 2 нечетная, а • е 2 является
у/ 2л
плотностью нормального распределения с параметрами
(О, 1), то первое слагаемое в правой части последнего ра-
венства равно 0, а второе а. Таким образом, если случай-
ная величина £ распределена нормально с параметрами
(а, о2), то М| = а.
2.	Показательное распределение:
оо	оо
SC	1
хр^(х) dx—\ ахе~^хdx = — *
—оо	О
3.	Равномерное распределение:
ъ
1 С J а-\-Ь
ME = -г--- \ х dx = —к— г
° Ъ — a J	2
а
Найдем теперь по формуле (1.6) математические ожи-
дания некоторых дискретных случайных величин^
4.	Биномиальное распределение. Из формулы
3 rnCnPm(i-P)n-m>
m=0
100	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	[ГЙ. 6
воспользовавшись равенством тС™ = получим
ЛЦ = пр 3 СГ/р"1-1 (1 - Р)п~т = пр (Р + (1 - р))"-1.
т=1
Таким образом, Mg = пр.
5.	Пуассоновское распределение. Так как
П	оо
Лт	VI	1ТП—1
т-^Ге~К:=Ке~КХ (т-1)!
т=о	т=1
Т0 Mg = X.
§ 2.	Свойства математического ожидания
Приведем основные свойства математического ожида-
ния.
Теорема 2.1.
1°. Если С — постоянная, то ЬКС = С.
2°. Если С — постоянная, то М (Cg) = CMg.
3°. Для любых величин g
|Mg|<M| £|.
4°. Для любых случайных величин gx и g2
м (gt + g2) = Mgj + Mg2.
Если из участвующих в равенстве математических ожи-
даний какие-нибудь два существуют, то существует
третье.
5°. Если случайные величины gx и g2 независимы, то
Mgjg2 = MgrMg2. Из существования любых двух матема-
тических ожиданий следует существование третьего.
Доказательство. Свойства 1°—4° следуют из
соответствующих свойств интеграла или ряда. Докажем,
например, свойство 4° для величин, определенных в аб-
солютном непрерывном вероятностном пространстве (см.
§ 4 гл. 2). Пусть gx, g2 заданы на вероятностном прост-
ранстве (Q, 91, Р). Тогда сумма gt + g2 также является
случайной величиной, определенной на том же вероят-
ностном пространстве, и по формуле (1.3)
М (& + &)= $ ... $ (?1 (и) + £2 (и)) П (и) dui. .. dur =
Q
§ gi (и) л (и) dui... dur + § • • • §£2 (и)л(и) dui... dur=
о J	о
= Mgi + MEa (и = («1,.. иг)).
§ 2]	СВОЙСТВА МАТЕМАТИЧЕСКОГО ОЖИДАНИЯ	101
Здесь мы воспользовались тем, что интеграл от суммы двух
функций равен сумме интегралов.
Докажем свойство 5°. Пусть, например, и |2 - аб-
солютно непрерывные величины и p^t (u, v) — их плот-
ность распределения. Так как gx и g2 независимы, то
р^ (и, v) = Ph (и) Ph (v)- По формуле (1.7) с п = 2 и
g (хп х2) = xtx2 получим
оо оо
Mgxg2 =	$ uvPh (u) Ph (у) du dv —
—оо —оо
оо	оо
= up^(u)du- § vph(v)dv = Mgi*Mg2*
— ОО	—ОС'
Из свойств 2° и 4° по индукции следует, что
м (С^ + . . • + Сп1п) =	+ . . . + CnMgn. (2.1)
Приведенные выше свойства помогают при вычисле-
нии математических ожиданий. Рассмотрим два примера.
Пример 1. Пусть g имеет нормальное распределе-
ние с параметрами (а, о2). В § 1 было показано, что Mg =
= а. Найдем математическое ожидание величины т] =
Мт] = AMg + В = Аа + В.
Таким образом, формула для Мт] дает простое объяснение
формулы для параметра ах.
Пример 2. Пусть — число успехов в п испы-
таниях Бернулли с вероятностью р успеха в отдельном
испытании. Эта величина имеет биномиальное распреде-
ление. В § 1 было показано, что случайная величина с би-
номиальным распределением имеет математическое ожи-
дание, равное пр. Покажем, как этот результат можно по-
лучить при помощи представления рп в виде суммы ин-
дикаторов (5.5.13):
Ип = В1 + Вг + • • • + Вп»
где-gjf — независимые одинаково распределенные случай-
ные величины с Р (gfc = 1) = р, Р (gfc = 0) = 1 — р.
По формуле (2.1)
Мрп = Mgx + Mg2 + . . . + Mgn.
Слагаемые легко вычисляются по формуле (1.6):
Mgfc = 1-р + 0.(1 — р) = рг к = 12 2, . . ., п.
Таким образом, Мрп = пр.
102	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	[ГД. 0
Пример 3. Из урны, содержащей М белых и N —М
черных шаров, по схеме случайного выбора без воз-
вращения извлекается п шаров (см. § 2 гл. 2). Пусть £ —
число белых шаров в выборке. Найдем М|. Обозначим Ак
событие, состоящее в том, что /с-й шар в выборке оказался
белым. Представим £ в виде суммы индикаторов gk ==
к = 1, , , ., п:
В = h + g2 + - • ♦ + gn.	(2.2)
Так как Р (gR = 1) = MIN (см. задачу 22 гл. 2), то ==
= MIN и Mg = n-MIN.
В качестве еще одного примера использования свойств
математического ожидания докажем следующую теорему.
Теорема 2.2. Если Alf Л2, . , ., Ап — произволь-
ные события, то
Р( и Ат)= 3 (-1Г+1 з Р(АЛ»,...АТО).
п	п —
Доказательство. Из равенства (J Лт = П Ат
т=1	т—1
следует^ что
Р( и Лт)=1-Р( П Ат).	(2.3)
т—1	т—1
Пусть л» — 1А11 (к — i, .. п) — индикатор события А*,
п
Тогда случайная величина п = П (1 — th) принимает
1С=1
два значения: значение 1, если все th = 0, и значение 0
в остальных случаях. Событие {у)х = т]2 = . , , == т]п =»
=» 0} «= ЛХЛ2 t . Лп. Следовательно,
Мт] = Р (ЛХЛ2 t 9 . Ап).	(2.4)
Так как
И=1- 3 (-I)m+1	3
TO
Mr] = 1 - 3 (- l)ra+1 3 Mr]kl,.. П>Ж. (2.5)
§3]	ДИСПЕРСИЯ	103
Очевидно, что
( If если Akt... Акт,
Т|КхТ1*’« • • *	— IЛь ...A,, = I „	----------
т 1 0, если <»(= Л»,... Ак
Поэтому
MTfo.iK • • *	= Р (AklAkt... Акт). (2.6)
Утверждение теоремы следует теперь из формул (2.3)—
(2.6).
Приведенная в теореме формула обобщает формулу
(1.3.7).
§ 3. Дисперсия
Дисперсией Dg случайной величины § называется число
D§ = М (I - Mg)%	(8.1)
если математическое ожидание в правой части (3*1) су-
ществует. Дисперсия является мерой рассеяния значений
случайной величины около ее математического ожидания.
Величину )ADg называют средним квадратическим отк-
лонением.
Если воспользоваться свойствами математического ожи-
дания, то правую часть (3.1) можно привести к следующе-
му виду:
М (g - Mg)2 = М (g2 - 2gMg + (Mg)2) =
= Mg2 —- 2Mg • Mg + (Mg)2.
Отсюда и из (3.1) следует, что
Dg = Mg2 - (Mg)2.	(3.2)
Если случайная величина g абсолютно непрерывна, тов
полагая в формуле (1.5) п = 1 и g (^) == (хх — Mg)% по-
лучим
Dg= $ (х - Pi(x) dx.	(3.3)
—оо
Для дискретной величины g из (1.6) найдем
DS = S (Ъ ~ Ml)2 р (5 = xk)t	(3,4)
fc=l
где 3 Р(£ = *к) — 1.
104	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	[ГЛ. 6
Приведем свойства дисперсии.
Теорема 3.1.
1°. Для любой случайной величины | имеем D| > 0.
2°. Если с — постоянная, то De = 0.
3°. Если с — постоянная, то D (с|) =
4°. Если случайные величины |х и |2 независимы, то
D (h + g8) = Dk + Dgt.	(3.5)
Доказательство. Свойства 1°—3° следуют не-
посредственно из определения и свойств математического
ожидания. Докажем свойство 4°. По определению (3.1)
D (5х + g2) = м [(|х + |2) - М (|х + |2)]2 =
= М [(^ - M|J + (|2 - М|2)]2 =
- м [(|г - mij2 + (|2 - му2 +
+ г^-му^-му],	(3.6)
Отсюда, так как случайные величины — M|n |2 — М|2
независимы и
М (Ь - M|i) (|2 - М|2) = М (|i - Mix) • М (|2 - М|2) =
= (Mil - Mil) (М|2 - М|2) = о,
следует, что
D (|1 + |2) = М (|1 - M|i)2 + М (|2 - М|2)2 = D|i + D|2.
Вычислим дисперсии некоторых случайных величин,
1. Нормальное распределение. По формуле (3.3) нахо-
дим
°о	__ (х-а)8
*	—оо
Отсюда, полагая х = ау + а, получим
ОО	00
, D£ = ct2 —1=- ( y2e-v'/2 dy = — с2 —^=- ( yd г
1/ Zjl v	Л/ v
— оо	—оо
Применив формулу интегрирования по частям, находим
D| = о2.
В § 6 гл. 5 было показано, что линейная функция т) =
= Л| + В от нормально распределенной случайной ве-
личины | имеет нормальное распределение. В § 2 был ука-
зан способ вычисления Мцг не связанный с доказательством
§ 3]	ДИСПЕРСИЯ	105
нормальности т] (см. формулу (2.2)). Найдем теперь Dtj.
Нетрудно показать, что случайная величина, являющаяся
постоянной, взаимно независима с любой случайной ве-
личиной. Поэтому при вычислении Dt] = D (Ag + В)
можно воспользоваться формулой (3.5). Тогда
Dyj = D (Ag + В) = D (Ag) + DB = A2Dg = А2а\
2.	Равномерное распределение. По формуле (3.3)
оо	Ь
—оо	а
Отсюда Dg =	~а) .
3.	Пуассоновское распределение. Найдем сначала
М [g (g — 1)]. По формуле (1.4) с г = 1 и g(x) — х(х — 1)
получим
М£ (£ - 1) = £ m И - 1) -£	= V.
т=о	гп=2
Так как Mg (g - 1) = Mg2 - Mg и Mg = %, то Mg2 =
= Л,2 + X. Подставляя это выражение в (3.2), получим
Dg = К.
4.	Биномиальное распределение. Так же как в примере 2
из § 2, воспользуемся тем, что число успехов рп предста-
вимо в виде суммы независимых индикаторов (5.5.13).
Тогда = Dgx + . , . + Dgn и Dgfe = М&2 - (Mgfc)2 =
= р — р2 = р (1 — р). Таким образом, Dpn = пр (1 — р).
Отметим, что в формулировку теоремы Муавра —
Лапласа (теорема 3.3 гл. 4) входила случайная величина
(pn — np)[V npq. Теперь мы можем эту же величину за-
писать в виде (рп — Мрп)/]ЛОрп. Такое линейное пре-
образование случайной величины используется доврЛьно
часто. Если g — произвольная случайная величинад то
для случайной величины т] = (g — MgJ/jADg имеем
Мт] == 0, Dr] = 1.
В приложениях для оценки вероятности отклонения
случайной величины от своего математического ожидания
часто используют «правило трех сигм>>, согласно которому
событие | g — Mg | > 3]ADg практически невозможно,;
т, е, его вероятность очень мала. Это действительно такл
106	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	[ГЛ. 6
если 5 распределена нормально. В этом случае
P{|g-Mg|>3/Dg} =
= Р(I 	- I>31 = -jU С е~ do: <0,003.
И К J /2я j
Однако если распределение | отлично от нормального, то
возможны большие значения вероятности такого отклоне-
ния (см. задачу 19).
Часто изучаемую случайную величину удается пред-
ставить в виде суммы более простых, возможно зависи-
мых, случайных величин. Пусть, например,;
Пп = Si + Ъ + • • . +	(3.7)
где случайные величины |2Г * • м зависимы и каж-
дая из них принимает значения 0 и 1. В этом случае можно
воспользоваться формулой
Мт]п =	+ М|2 + . . . + Mgn.
Однако Dr]n уже не равна сумме дисперсий DE-^ Для вы-
числения Dj]n можно использовать формулу (3.2). Так
как $ (со) =	(со), со £2 (действительно, (со) = 1
или (со) = 0), то
Цп = 3 Й + 3	3 Й + 3	— Tin + 3
k=i
(3-8)
Таким образом,
DHn = Мт1п — (Mr)n)2= 3	+ Mr]„ — (МЛп)2.
5.	Гипергеометрическое распределение. Воспользуемся
формулой (3.8) для вычисления дисперсии величины В,
имеющей гипергеометрическое распределение. Для инди-
каторов в сумме (2.2) имеем (см. задачу 22 гл. 2)
мьь=Р {|к=h = 1} =	.
Отсюда и из (3.8) находим
Ml2=Mg 4- у MUi=п + «(«-!)	.
§ 4]	КОВАРИАЦИЯ. КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ	107
Следовательно,
М(М — 1) , М 2 Л/2
— п (п 1) w цу___I) + п м • п № •
После несложных преобразований получим
= <3-9)
§ 4. Ковариация. Коэффициент корреляции
При доказательстве формулы (3.5) нам потребовалось
вычислить М [(^ — М|х) (|2 — М|2)]. Это число называ-
ется ковариацией случайных величин |1Т ?2 и обозначает-
ся cov (g1? g2). Таким образом,
cov g2) = М - MgJ (g2 - Mg2)].	(4.1)
Отсюда, используя свойства математического ожидания,;
легко получить следующую формулу:
cov (g1? g2) = М^2 - М^.М£2.	(4.2)
Очевидно, что
cov (g, I) = Dg.
Нетрудно проверить также следующие равенства:
COV (|х, У = cov (g2, gj, cov (cgn У = с cov (glt g2)f
где с — любая постоянная.
Из равенств (3.6) и определения (4.1) вытекает форму-
ла для дисперсии суммы двух произвольных случайных
величин:
о (&! + у =	+ Dg2 + 2 cov (glt g2).	(4.3)
Теорема 4.1. Если для случайных величин
Bi, • • •> ^существуют cov (£г, £у) = <Jl}, г, / = 1, . . .
, . ., п, то при любых постоянных с2, . * ., сп имеем
D (Ci£i + С2?2 + • • • + сгЛп) ~
i, j=l
Доказательство. Положим
Лп ==	^2^2 4“ • • • 4“ ^п?п*
Нетрудно проверить, что
?1п — мПп = 3 Ci (li — MSi)
i=l
103	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	(ГЛ. 6
И
(т)п—Мт]п)2 = 3
i» j=l
Вычисляя математическое ожидание от обеих частей по-
следнего равенства, получим утверждение теоремы.
Правую часть (4.4) можно рассматривать как квадра-
тичную форму от переменных q, с2, • • •> сп- Так как при
любых q, с2, . . ., сп дисперсия в левой части (4.4) неот-
рицательна, то квадратичная форма в правой части (4.4)
неотрицательно определена. Квадратичная форма неотри-
цательно определена тогда и только тогда, когда неотри-
цательны все главные миноры матрицы^ составленной из
ее коэффициентов. Таким образом, из теоремы 4.1 получи-
ли следующее утверждение: определитель |D [g] | матри-
цы D [£] = D [(|ъ . . gm)] = || COV (&, £;) || при любом
т — 1, 2, . . . для любых случайных величин	.
• • Im удовлетворяет неравенству
I о [&,..., U)11 > о-
(4.5)
При т = 2
D&
COV (h, 1г)
Отсюда
неравенство (4.5) имеет вид
cov (gi, U)
РЬ
= DliD|2 — COV (&, £а) > 0,
|cov(^,g2)|</D|iDb-
(4.6)
В доказательстве формулы (3.5) было попутно получе-
но, что для независимых случайных величин |2 имеет
место равенство
cov (gn g2) = 0.	(4.7)
Таким образом, если cov (glt g2) #= 0, то величины и g2
зависимы. В качестве количественной характеристики сте-
пени зависимости случайных величин и £2 использует-
ся коэффициент корреляции р (£х, £2), определяемый сле-
дующим равенством:
p(li.l2)
COV (51, Чг)
/5^
(4.8)
Свойства коэффициента корреляции:
1°. I Р (11,12) К 1-
2°. Если и 12 независимы, то р(^, £2) = 0.
3°. Если £2 = Ah + В, где А и В - постоянные ± то
F
8 5]	ЗАКОН БОЛЬШИХ ЧИСЕЛ	109
Доказательство. Свойство 1° следует из (4.8)
и (4.6); свойство 2° следует из (4.8) и (4.7). Докажем свой-
ство 3°. Положим Mgx = a, Dgx = а2. Тогда
Mg2 = Аа + В, Dg2 = 42а2,
cov (gx, g2) = М [(gx - a) (g2 - Mg2)] =
= М [(gx - а) (А - а))] = 4Dgx = Ав*
и, следовательно,
/t f* \	/1
р (?1’ =	= БП ‘
Таким образом, | р (gx, g2) I = 1-
Отметим, что равенство нулю коэффициента корреля-
ции не является достаточным условием независимости слу-
чайных величин. Из равенства р (gx, У = 0 не следует
независимость случайных величин (см. задачу 10 этой
главы).
Наряду с рассмотренными выше числовыми характери-
стиками случайных величин часто используются моменты
более высоких порядков. Моментом порядка к случайной
величины g называется число Mg*. Число М (g — Mg)*
называется центральным моментом порядка к.
Пусть задан случайный вектор (gx, g2, . . ., gn). Ве-
личины
мй‘й*... &«, м & - МЬ)*> ...(In- М1п)*п
называются соответственно смешанным моментом поряд-
ка к = кг + . . . + кп, и смешанным центральным момен-
том порядка к. Вычислять моменты более высоких поряд-
ков можно по формулам (1.4), (1.5). Например^
ОС оо
^4^1 *^2* ;*1*2	(*1» *2) dx\ dx2.
—00 —00
Отметим также, что из существования момента Mgm вы-
текает существование моментов Mg*,/c = l1...,w — 1.
Это утверждение следует из неравенств
| g (со) р < | g (со) Г + 1, со е £2, к = 1, 2, . . т - 1.
§ 5. Закон больших чисел
Во введении был отмечен экспериментальный факт,
состоящий в том, что в длинной серии опытов частота
появления события А сближается с определенным числом,.
110	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	[ГЛ. 6
которое можно рассматривать как вероятность события А.
В математической модели серии опытов этот факт доказан.
Сначала получим некоторые оценки распределений слу-
чайных величин.
Теорема 5.1. Пусть^ = £ (со) > 0 при любом ш Е=
ЕЕ £2. Если существует, то при любом 8 > О
(5-1)
Доказательство. Проведем доказательство в
случае, когда I задана в абсолютно непрерывном вероят-
ностном пространстве (см. § 4 гл. 2). По определению мате-
матического ожидания имеем
Mg = J g (иь .. . х ип) л (и£, . . . , ип) dui du2 . . . dun.
Пусть
£2е = {(^П	- у ип)' I (Щл . . ., Un) >8}СЙ.
Введем случайную величину
{О, если (щ, ..., ип) ЕЕ £2 \ £2ез)
е, если (zzi, . . . , ип) ЕЕ £2е.
При любом (и1ч . » ., ип) ЕЕ £2 имеем £ > т|4 Умножим обе
части этого неравенства на л (zz1? . . ип) и проинтегри-
руем по £2. Получим, что Mg Мт]. Отсюда следует ут-
верждение теоремы, так как
Мц = sP (£2е) = еР (g > 8).
Доказанная теорема позволяет легко получить нера-
венство Чебышева.
Теорема 5.2 (неравенство Чебышева). Если слу-
чайная величина g имеет дисперсию, то при любом 8 О
Доказательство. Случайная величина ц =
— (g — Mg)2 0 при всех со Е Й,и Мц = М (g — Mg)2 =
= Dg конечно. Следовательно, можно воспользоваться
неравенством (5.1). Таким образом,;
§ 5]
ЗАКОН БОЛЬШИХ ЧИСЕЛ
111
Неравенство Чебышева позволяет оценивать вероят-
ности отклонений значений случайной величины от сво-
его математического ожидания.
Пусть, например, нужно оценить долю бракованных
изделий в партии, содержащей N изделий. Обозначим
число бракованных изделий М. По схеме случайного вы-
бора без возвращения отберем п изделий. Пусть среди
отобранных изделий | бракованных. Случайная величина
£ имеет гипергеометрическое распределение (см. § 1 гл. 2).
В §§ 2 и 3 было показано, что
AAt М	М { Л	м \ N - п
Mg —n N	Dg__П N ^1— N j x — 1
Отсюда
Воспользовавшись неравенством Чебышева, получим
р Г|	£	М	1.1^ 1 м М\ N-n
Г[|	п	N AJ	пД2 N	у1 NJ N — 1	’
Другим примером полезного применения неравенства
Чебышева является оценка ошибки приближенного зна-
чения измеряемой величины. Пусть проводится п незави-
симых измерений некоторой неизвестной величины а.
Ошибки измерения б1? б2, . . ., бп будем считать случай-
ными величинами. Предположим, что Мб^ ® 0, к =
= 1, 2, . » и. Это условие можно рассматривать как
отсутствие систематической ошибки. Пусть еще Об^ = Ь2.
За значение неизвестной величины а принимают обычно
среднее арифметическое результатов измерений. Тогда
ошибка в определении числа а будет равна
61 + 62 + .. . + \
Пп—	п
и
DTin=^-(D61 + ...+D6n) = -£, МПп = 0.
Предположим, что нам нужно, чтобы ошибка не пре-
восходила Д с достаточно большой вероятностьюг Напри-
мерд
р (I ПпК Д) > 0299.
112
МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ
(гл. ег >
Это неравенство можно записать в эквивалентном виде
Р (| Пп | > А)< 0,01.	(5.2)
По неравенству Чебышева имеем
Следовательно t (5.2) будет выполнено, если
—^-<0,01, или тг^ЮО-^-.
гаД2	Д2
Таким образом,; мы получили оценку числа измерений,
необходимого для получения заданной точности. В рас-
сматриваемой задаче оценка для п является завышенной.
Ее можно улучшить, если воспользоваться тем, что т]п
является суммой независимых случайных величин. Будет
показано (см. теорему 4.1 гл. 7), что при больших п ве-
личина т]п имеет распределение, близкое к нормальному.
Однако если о случайной величине ничего не известно,
кроме математического ожидания и дисперсии, то оценку,
которую дает неравенство Чебышева, улучшить нельзя.
Укажем распределение случайной величины, для которой
неравенство Чебышева при данных Ь2 = D| и 8 > Ъ обра-
щается в равенство. Пусть
Р(| = 0) = 1 - -P(g3=_e) = P(g = e)
Тогда
МВ = 0, Dg = M^ = (-e)a-gr + e2-g- = &?
Р(|В|>8)
Е2
Нетрудно получить еще ряд полезных неравенств
типа неравенства Чебышева. Пусть / (х) — неубывающая
неотрицательная функция. Если существует М/ (£), то
при любом е > 0
(5.3)
Доказательство проводится так же, как доказательство
теоремы 5.1»
§ &	ЗАКОН БОЛЬШИХ ЧИСЕЛ	113
Теорема 5.3. Если случайные величины 5н £2, . . •
. . ., 5п» • • • попарно независимы и
п
lim i y.D^=°«	(5-4)
п-°°
то для любого 8 О
lim Р fl "I- + • • • “Ь	+ • • • + M^n I ।
n-*oo \ I	п	п	I	/
Доказательство. Положим
51 + 5г + • • • + 5П
ГЬ = ------------2 ,
Утверждение теоремы равносильно тому, что при любом
е > О
ИтР(|т]п — Mr|n|>8) = 0.	(5.5)
71—-оо
Так как случайные величины 51, • • •> Вп попарно неза-
висимы, то
п
=	(5-6)
К=1
По неравенству Чебышева
Р (hn — МПп I > 8) <	.
Отсюда, воспользовавшись (5.6) и (5.4), получим (5.5),
Теорема доказана.
Случайные величины 51» . . ., 5П» . . . называют некор-
релированными, если cov (|г-, 5>) = 0 при любых г, 7, i j.
iJB условии теоремы 5.3 можно вместо попарной неза-
висимости величин 51» £2» • • •» ?п, • • . потребовать, чтобы
они были некоррелированными, так как для некоррели-
рованных величин сохранится формула (5.6). Если для
величин 51$ . .	5П» • • • выполнено утверждение теоре-
мы 5.3, то говорят, что к ним применим закон больших
чисел.
Отметим некоторые частные случаи этой теоремы.,
114
МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ
[ГЛ. 6
Теорема 5.4 (теорема Чебышева). Если случайные
величины ё2, • • •> Snt*»' попарно независимы и
Dgk<C, Л=1, 2,...,	(5.7)
где С — некоторая постоянная, то при любом е > О
* * + ^п _	+ . . . + м^п I ] _ *
п	~	I \ I •
limP
п
Теорема 5.4 следует из теоремы 5.3, так как из ус-
ловия (5.7) следует (5.4).
Теорема 5.5. Если случайные величины £х, . . *
. . ,ж 5п, . • • одинаково распределены, попарно независимы
и имеют конечные дисперсии^ то при любом е > О
1 • D (I + * * * +	I 1 А
limP] --------------------а |<"е?= 1,
n-*oo U П	I J
где а =
Теорема 5.5 следует из теоремы 5.4. Действительно^
fc = lf 2, * . существуют и равны между собой.
Следовательно, выполнено условие (5.7). В гл* 7 теорема
5.5 при помощи характеристических функций будет до-
казана без предположения о существовании дисперсии*
Теорема 5.6 (теорема Бернулли). Пусть —
число успехов в п испытаниях Бернулли up — вероятность
успеха в отдельном испытании. Тогда при любом е О
limPfl —--------------------р I<е) — 1.
П-оо U п 1^ J
Доказательство. Воспользуемся для |лп пред-
ставлением
Ип = 11 + Ва + • • • + Вп,
где k = 1, 2£ » , п, независимы и Р (gk = 1) = рг
Р (ZjR = 0) = 1 — р « д. Очевидно^ что = р и диспер-
сии величин конечны.
Таким образомг доказываемая теорема сразу следует
из теоремы 5.5.
Схема Бернулли является математической моделью
серии опытов А повторяющихся в неизменных условиях.
В каждом опыте может произойти событие А, которое мы
назвали успехом. Согласно теореме Бернулли частота
рп/п наступления события А сближается с вероятностью р»
Этот же факт установлен экспериментально»
§ 6J	УСЛОВНЫЕ РАСПРЕДЕЛЕНИЯ	115
Математической моделью последовательности из п
измерений неизвестной величины а является случайный
вектор (Sx, • • •>	к = 1, 2, . . м п, незави-
симы, одинаково распределены, = a, Djk = b2. По
теореме 5.5 среднее арифметическое (Si + • • • +
при больших п мало отличается от измеряемой величины
с вероятностью, близкой к 1.
§ 6. Условные распределения
и условные математические ожидания
Пусть в пространстве (Q, 5(, Р) определен случайный вектор
(5, тр. Введем понятие условного распределения величины 5 при
условии, что задано значение т). Рассмотрим сначала дискретный
случай. Пусть
= п= У,) = Рц> °. 3	=
i, 1=1
Р(5=^) = 3 Рц = Pi- > °’ Р(П = »;)=
j=l	i=l
В § 1 гл. 3 было дано определение условной вероятности. По этому
определению
О /К I \ Р (S = П = ?,) Рц	,R м
= = -------------= ^- <’•*’
Если фиксировать yj (или /), то вероятности (6.1) можно рассматри*
вать как условное распределение величины | при условии, что т) = yj.
Условным математическим ожиданием случайной величины £ при
условии, что i]=yj, называется число
оо
M(5|1J = ^)=	(6.2)
i=ij Pi
Если левые части (6.1) и (6.2) рассматривать как функции от yj,
то можно считать условное распределение и условное математиче-
ское ожидание случайными величинами, определенными в исходном
вероятностном пространстве (Q, 51, Р). Тогда условное распределе-
ние и условное математическое ожидание | при условии т) опреде-
ляются соответственно формулами
P(£=*i|tl) = P(£=*ih = yj). если <os{r) = jfj}, / = 1,2,
М (g j ц) = М (g | т) = у,), если о е {1) = к/),	1,2,..
где Р (g = х[ 11) = yt), М (Е, 11) = у j) определены формулами (6.1)
и (6.2). Справедлива следующая формула (формула полною матема-
тического ожидания):
Mg = М [М (g | т))1.
(6.3)
116	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	[г£ 6
Здесь условное математическое ожидание в квадратных скобках
рассматривается как случайная величина. Применяя формулу (1.6)
к случайной величине М (g | tj), можно (6.3) записать в следующей
эквивалентной форме:
М5 = 2 Р (п = ys) М (£ h = Vj)-	(6.4)
j=l
Докажем формулу (6.4). Воспользовавшись определением (6.2),
получим
। (л _=
; =1	j=l	i=l	7
= У *iP (5 =	= У]) = У; ( У Р (^ = X., Т) == у.}} .
i, j=l	i=l j=l
оо
Так как JJ Р (g = xt-, т) = yj) = Р (g = х^, то правая часть по-
7=1
следнего равенства равна Mg. Покажем, что из формул (6.3) и (6.4)
следует формула полной вероятности. Пусть
_ С1, если we Л,
{ 0, если со е А,
т] = yj, если со е 2?j, у = 1, 2, . . .j
где BiBj = 0, i 4= h U Bj = Q. Тогда
7=1
М£ = Р(Л), P (П = у.) = P (В.), M(g|n = y.) = P(4|5/).
Подставляя эти выражения в (6.4), получим формулу полной ве-
роятности со счетной системой событий Въ В2, . . Вп, . . .:
Р(Л)= § Р (Вк) Р (Л I Вк).	(6.5)
Положим в (6.5) Л = {g е С}, В^ — {т) = у&}, где С С {хх, х2, . . .
. . хп, . . .}, (хь у^} — значения (g, q). Тогда при любом С
Р(^еС)= Jj 2 Р(П = ук) P(C = «i|T) = !/I[).	(6.6)
fr==i
Свойства условного математического
ожидания:
1°.	М (<р (П)| Г)] =	<р (Г)).	(6.7)
2°.	М [<р (п)• 11 ’ll	= ф (П) М (5 |»]).	(6.8)
з°.	М (Si + g21 n)	= М (511 п) + М (521Т)).	(6.9)
[6]	УСЛОВНЫЕ РАСПРЕДЕЛЕНИЯ	117
4°. Если 5 и т) независимы, то
М (g | П) = Mg,	(6.10)
Равенства (6.7) — (6.10) верны при любом со е Q. Равенства
(6.7), (6.8), (6.10) следуют непосредственно из определения, анало-
гичного (1.2), (1.3).
Перейдем к рассмотрению абсолютно непрерывного вектора
(g, т]). Так как в этом случае Р (т] = у) — 0 при любом у, то мы не
сможем воспользоваться определением условной вероятности (2.1.1),
как это мы сделали в дискретном случае. Назовем условной плот-
ностью распределения вероятностей величины g при условии, что
т) = у, следующую функцию:
(г I Т) = у) = я ------------- (б-11)
$ Pg, Ч («’S') **
—оо
Условное математическое ожидание g при условии, что х\ = у, оп-
ределяется формулой
оо
М(5|п = 0)= 5 xpl (z I *1 = S') dx-	<6-12)
—oo
Из (6.11) нетрудно получить,	что	при	любых	а	и Ъ
оо	Ъ
Р(“<5<6)= MsOfJ	Pg (х I	*1 = S') dxj dV- (6-13)
—oo	a
Легко также проверяется формула, аналогичная (6.4):
5 Рл (У) м (5 | П = У) dy.	(6.14)
— ОО
Если рассматривать (6.11) и (6.12) как случайные величины
Pg (* I П) = Pg (* I П = S'). ec«H “ е (П = У}> У s (—°°> оо);
М (£ | г) = у), если <о е {т) = у}, М (g | Г)) = у е (—оо, оо),
 о
то формулы (6.13) и (6.14) можно записать в виде
ъ
Р (а < 5 < Ь) = М ($Pg (*И)«*г)
и в виде (6.3) соответственно. Для условного математическою ожи-
дания абсолютно непрерывных величин сохраняются свойства
(6.7) - (6.10),
118	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ *	(ГЛ. в
§ 7.	Многомерное нормальное распределение
Пусть I — (glt . . .t &.)' — r-мерный случайный вектор-
столбец *). Положим
Jli= Е + «i. i =	(7.1)
1=1
или в векторной форме:
П - Ct + а,	(7.2)
где fl = (Di, . .	т)т)', а = (а1? . . аг)' и С = || ct] ||
—(лгХг)-матрица. Здесь вектор а и матрица С постоянны.
Как и в § 4, будем обозначать D [g] = D [£х,... |г] ковари-
ационную матрицу || cov (|ь	||. Следующая теорема
является обобщением теоремы 4.1.
Теорема 7.1. При любой постоянной матрице С
в (7.2) имеем
D [П] = CD UJ С\	(7.3),;
Доказательств о. Из формулы (7.1) следует, что
Jli — МПг = S Cil (Ь — M=z)
fc=l
п
(П<-Мтц)(П/-МпУ)= S
К, 1=1
Вычисляя от обеих частей последнего равенства математи-
ческое ожидание^ получим
COV (Т]<, Г),) = S Си COV (В(, Bfc) Cfcj,
где dj = сд Теорема доказана.
Многомерным нормальным распределением т случай-
ных величин назовем распределение вектора т) = (цх, . . .
• • м Лт) > г&е Tli определены формулой (7.1), а случайные
величины |х,	независимы и каждая из них рас-
пределена нормально с параметрами (0, 1).
Если т = г и определитель | С | =# 0, то нормальное
распределение назовем невырожденным. В других случаях
*) Мы будем г-мерьые векторы рассматривать как (г X ^-мат-
рицы. Знаком 1 будем обозначать транспонирование.
Op МНОГОМЕРНОЕ НОРМАЛЬНОЕ РАСПРЕДЕЛЕНИЕ 119
можно показать, что распределение я сосредоточено на
подпространстве размерности, меньшей т. Отметим неко-
торые общие свойства многомерного распределения.
Пусть вектор т) = (ц1г . . .t т]т)' распределен нормаль-
но. Тогда:
1°. Одномерные распределения координат т]/ являются
нормальными, если 0.
2°. Любая линейная функция т] = -41ГН + • * • + Л
имеет нормальное распределение, если Dt] 0.
3°. Любое линейное преобразование £ = Ах\, где А —
постоянная матрица, имеет многомерное нормальное рас-
пределение.
Все эти свойства непосредственно следуют из опреде-
ления и того факта, что сумма независимых нормально
распределенных величин распределена нормально. Нор-
мальность распределения суммы может быть доказана
при помощи формулы (5.6.7) или при помощи характе-
ристических функций (см. § 2 гл. 7).
Теорема 7.2. Невырожденное r-мерное нормальное
распределение является абсолютно непрерывным^ и его
плотность распределения имеет вид
. .	.	1	- 4 0<Х-°>	Z-7 /X
Рп	i ХА —-----м ' е * т (7.4)
1, г/ (2л)г/2рл|В|	v '
где В = у b%t | — невырожденная (г X г)-матрица, bKi =
= cov (т^, т)0» | В | — определитель матрицы В, х ==
*= (хъ . . хг), а = (ан . • >, аг), ак = Мт]^ Q (х) =
= ^bfix^xi — квадратичная форма, коэффициенты кото-
рой образуют матрицу || b*i ||, обратную к матрице В.
Доказательство. Плотность распределения
величины В = (Ви . * ., Вг) имеет вид
Т
1 v 2
1 “Т
Pl(xi,...,Xr) = -^==yre	*=г ,
Так как | С | =# 0, то преобразование у = g (х), где у =>
= (У1,  • Ут), х =
т
Ух = gi toi • • = 3 Wi + a»s
Z=1
является взаимно однозначным и для вычисления плот-
ности распределения jj можно воспользоваться формулой
120	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	(ГЛ. 6
dg,
(5.6.5).	Поскольку -^-=сц, то якобиан преобразования J
Г
имеет вид J = | С | и = 3 си (yi — где —
«=1
элементы матрицы, обратной к С, Из формулы (5.6.5)
получим
Рп (Уи	=	(Г1 (у)) =
= (7t5)
где
Q (у — «) = 3 4 = 3 ( 3 См (У1 — а/))а =
k=i	k=i z=i
—	3 (У1, — aii) (Ун — аи) ( 3 си,сн.) .	(7.6)
/1, *2=1	К=1
Отсюда следует утверждение теоремы.
Действительно, D [g] = Е (Е — единичная матрица), и
согласно теореме 7.1 имеем В = CD [g] С1 = СС. Следо-
вательно, fl Ь^г || = В’1 = (С')-1 (С)’1 = || 3 сЗД,! и | В | =
к=1
= | С |2. Заменяя в (7.5) и (7.6) | J | == -/| В | и 3 най-
К=1
денными выражениями, получим (7.4).
Таким образом, параметры невырожденного много-
мерного нормального распределения определяются пер-
выми и вторыми моментами. В § 5 было показано, что
равенство нулю ковариации является необходимым усло-
вием независимости случайных величин. Если bki =
= cov (f|fc, тц) = 0, к Ф I, то (7.4) распадается на произ-
ведение одномерных плотностей распределения. Таким
образом, равенства bkt = 0, fc Ф I, необходимы и достаточ-
ны для независимости координат случайных векторов,
имеющих плотности распределения (7.4).
При небольших значениях г можно явно выразить
величины bfii через bki. Пусть, например, г = 2. Тогда
о ( б? рб1<Ц 0-1 _	1	/	— Р/31°г\
\Р6Ю2 б| / ’	1 — Р2 Р/О1б2 1/6^ / *
| В | — (1 — р’) OiOj и, следовательно,;
(7.7)
8 7] МНОГОМЕРНОЕ НОРМАЛЬНОЕ РАСПРЕДЕЛЕНИЕ 121
где
/П/ ч 1	( У1 , У 2 2р \
Q (УК у2)=TZpF	УЫ).
Уже отмечалось (свойства 1°, 3°), что как одномерные
распределения величин т]х и ц2, так и совместное распре-
деление величин
£1 = £11*11 4“ £12*12»,	^2 = £21*11 4" £22*12
нормальны. По теореме 7.2 имеем Мцх = а19 Оцх = ах,
Мт)2 = а2, Dt)2 = а|, cov (т)и Т)2) = P<*i<*2> и» следователь-
но, можно выписать формулы для одномерных плотнос-
тей и £2. Используя свойства математических ожида-
Нийл нетрудно найти параметры распределения вектора
(21.», U.
Действительно,
= сххах + с12а2£
АЛ ^2 == С2ХНХ ”1“ С22^12,;
D£i = £n°i 4- £?2а1 4- 2сххс12роха2,]
D?2 = £2i<*i 4- £^<*2 4- 2c21c22poxa2t
COV (£x, £2) = ^11^21^*1 4” ^22^12^2 4" (£ц£22 4" £21£l2)porior2‘
Если случайные величины цх, ц2 независимы, ох =» о2 и
матрица С ортогональна, то величины gx, £2 независимыЛ
так как р = О,
£11 4" £12 — £21 4“ £22 — 1» £ц£21 4" £22£i2 — О
и, следовательно, cov (£х, g2) = О,
Можно найти и условную плотность распределения т)а при усло-
вии, что фиксировано гц. Из формулы
i	(*i-ei)2
/ ч	1	2О?
Рп. (*1) = —т=— в 1
у/ 2лв!
и формул (7.7), (6.11) получим
(«IШ) = Рад. (Ш. г)/₽п. Oil) =
1	-----------(Я — — Р — (41 — в1)Y1 •
2(1-р2)Ор	V)J’
/2л(1-рг)^
122
МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ
(ГЛ. 6
Таким образом, условное распределение оказалось нормальным и
М (П21П1) = «а + Р — (П1 — “1).
<51
D(ii2|rii) = (l-P2) 4
Задачи к главе 6
1.	Найти математическое ожидание величины т, определенной
в задаче 14 гл. 5.
2.	Обозначим g номер испытания, в котором появился нужный
ключ (см. пример 3 из § 1 гл. 2). Найти Mg.
3.	Решить задачу 2 в случае с возвращением ключей.
4.	Найти Мт(7П) величины определенной в задаче 16 гл. 5,
5.	В задаче 17 гл. 3 обозначим т время свободного пробега мо-
лекулы. Найти Мт, Dt.
6.	Найти М (gi + g2) и D (gi + gg), где gf, g2 определены в за-
даче 22 гл. 5.
7.	Пусть g — число комбинаций НУ в п + 1 испытаниях схе-
мы Бернулли. Найти Mg, Dg.
8.	Из 100 карточек с числами 00, 01, 02, * . ., 98, 99 наудачу
вынимается одна. Пусть T)i, ц2 — соответственно сумма и произве-
дение цифр на вынутой карточке. Найти MTjf, Мц2, Drji, Dt)2.
9.	Для величин gi, g2 определенных в задаче 11 гл. 5, найти
Mgf, Mg2, Dgi, Dg2, cov fa, g2).
10.	Совместное распределение величин gf, g2 определяется
формулами P (gi = 0, L = 1) = P (Ej = 0, g2 = — 1) = P fa =1,
la = 0) = P = -1, |2 = 0) = 1/4. Найти Mgj-, Mg2, Dg2,
cov (gf, g2). Являются ли gf, g2 независимыми величинами?
И. Случайные величины gi, g2, g8, g4, gj независимы; Dgf = or2.
Найти коэффициент корреляции величин a) gi + g2, g3 + g< + gu
li +	+ £з,	+ £4 + 5s-
12.	Пусть (gi, g2, . . ., gN) — дискретный случайный вектор
с полиномиальным распределением (4.2.7). Найти Mg&, cov (g^, g/),
к, I = 1, . . ., N.
13.	Для величины p0, определенной в задаче 13 гл. 2, найти
P(|i0 = O).
Указание. Пусть А х = {к-я ячейка осталась пустой}, к =
= 1, . . ., N. Использовать равенство {р0 >0} = .4i + . . . + Л
14.	Для величины р0, определенной в задаче 13 гл. 2, найти Мр0,
Dp0. Найти асимптотические формулы при N —♦ оо
п
N
= а = const.
15.	В задаче 9 гл. 2 оценить с точностью до 0,004 вероятность р
появления хотя бы один раз тяжелых поездов в двух соседних ин-
тервалах.
Указание. Доказать, что
3 р(Ллгхр(л» + - + лг)< 2 Ф»)-
йг=1	К=1
16.	По п конвертам случайно разложили п писем различным
адресатам. Найти вероятность того, что хотя бы одно письмо по-
падет своему адресату. Найти предел этой вероятности при п -♦ оо.
ЗАДАЧИ К ГЛАВЕ 6
123
17.	В задаче 16 найти математическое ожидание и дисперсию
числа | писем, попавших своему адресату.
Указание. Представить g в виде суммы индикаторов.
18.	В N ящиков случайно и независимо друг от друга бросают
шары, пока не останется пустых ящиков. Обозначим v число бро-
шенных шаров. Найти Mv.
Указание. Представить v в виде суммы времен между за-
полнениями новых ящиков.
19.	Найти Р { | ё — Mg j > 3l/Dg}, если 5 имеет: а) нормаль-
ное распределение; б) показательное распределение; в) равномерное
распределение на отрезке [—1, 1J; г) Р (g = — 1) =Р (g = 1) =
=	, р (g = 0) = А ; д) распределение Пуассона с Mg = 0,09.
18	9
20.	Иногда в приложениях сложную функцию от случайных
аргументов (gi, g2, . . .) заменяют линейной частью ее разложения
по формуле Тейлора в окрестности точки (Mgf, Mg2, . . .). Пусть слу-
чайная величина g распределена нормально с параметрами Mg = 0,
Dg = о2 и f (g) = g + fcg2, к > 0. Сравнить Р (1 g | < uaa) =
= 1 — 2« и Р <| / (g) | < uao):
1) Вычислить вторую из этих вероятностей, если a) a = 0,05;
о = 2, к = 0,5; б) a = 0,05, о = 0,1, к = 0,25.
2) Предположив, что ко мало, найти приближенное решение
неравенства ] g + &g2 | < иао и вероятность Р (| / (g) | < uao).
21.	Точки Cj, с2, . . ., сп независимы и имеют равномерное рас-
пределение в круге К единичного радиуса. Пусть случайное мно-
жество А состоит из тех и только тех точек круга, которые находят-
ся ближе к центру круга, чем к границе и к любой из точек . . .
. . сп. Найти математическое ожидание площади g множества Л.
Указание. Пусть К = {(х, у): х2 + у2 < !}• Положим
X (*» У) = 1, если (х, у) s Л; и % (х, у) = 0, если (х, у) е К \ А.
Использовать равенство
% = $ X (*, У) dx dy.
К
22.	Пусть Mgf = «j, Mg2 = а2, Dgf =	> 0, Dg2 = o22 > 0,
cov (gi, g2) = o12. Найти аир, при которых М (g2 — agi — р)2
минимально.
23.	Пусть случайная величина g имеет нормальное распределе-
ние с параметрами (а, о2). Оценить по неравенству Чебышева
Р (| g — а | > 2о). Сравнить с точным значением этой вероятности.
24.	Применим ли закон больших чисел к последовательности
независимых случайных величин gi, g2, . .	g^, . . ., если
р(5,_») = 1-Л_,
25.	Применим ли закон больших чисел к последовательности
независимых случайных величин gi, g2, . . ., g&, . . если они нор-
мально распределены с Mg/f = 0, Dg^ = с > 0, a > 0 — не-
которые постоянные?
124	МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	(ГЛ. в
26.	Доказать, что к последовательности £,»•••»£».... при-
меним закон больших чисел, если | cov (£*-, £;) | < С для всех к, I =
= 1, 2, ... и cov (gjt, II) — 0 при | к — 11 —> оо.
27.	Случайные величины gx-, . . ., независимы и распре-
делены по закону Пуассона с параметрами А*, Х2, . . hN. Найти:
а)	Р (gi + . . . + 5* = т | k + . . . +	= и);
б)	М ({-! + . . . + £к | 51 + g2 + . . . +	= n).
28.	Случайные величины gx, g2, £3 независимы и распределены
нормально с параметрами (0, 1). Найти плотность распределения
величины n = (Si +	1 + &з-
Указание. Найти условную плотность распределения ц
при условии, что фиксировано £3.
29.	Доказать, что Dg = М (D (5 | ц)) + D (М (£ | yj)) -
30.	В задаче о случайном блуждании, рассмотренной в § 4
гл. 4, обозначим т время до поглощения в точках 0 или п. Найти
тк = м (т | Во = &)» W It — координата частицы в момент вре-
мени t.
Указание. Составить уравнение в конечных разностях
для тк
31.	Предполагается провести 10 измерений х^ х2, . . ., xi0 не-
известной величины а. Считая . ., x1Q независимыми нормально
распределенными случайными величинами с = а, Охк = 0,01,
подобрать Д так, чтобы
р /I *1 + *г+— +*ю _ д I < Д \ = 0,99
\| Ю I /
32.	Случайные величины g* и g2 независимы и распределены
нормально с параметрами (0, 1). Являются ли независимыми вели-
чины тц = Ii + 52> Пг = 11 “Т Вг?
33.	Случайная величина 5 распределена нормально с парамет-
рами (0, 1). Положим т) = 5» если | g | < 1, и ц = —£, если | g I > 1.
а) Найти закон распределения ц. б) Является ли величина 5 + Л
нормально распределенной?
34.	Найти среднее арифметическое реализации 50 равномерно
распределенных случайных величин, полученной в задаче 24 гл. 5.
Сравнить с математическим ожиданием случайной величины, рав-
номерно распределенной на отрезке (0, 1).
35.	Получить 10 реализаций случайного блуждания частицы
по целым точкам отрезка [0, п] (см. § 4 гл. 4). Найти частоты погло-
щения частицы в точках Они. Сравнить с вероятностями, найден-
ными в § 4 гл. 4. Найти среднее арифметическое времен блуждания
до поглощения. Сравнить с М (т | £0 = &), найденным в задаче 30.
Положить к = 1, п = 10. Рассмотреть случаи: а) а = 1/6, q = 5/6;
б) р = q = 1/2.
36.	Для студентов группы найти число месяцев, на которые не
приходится ни одного дня рождения. Найти математическое ожида-
ние и дисперсию числа таких месяцев. (Воспользоваться результа-
том задачи 14.)

ГЛАВА 7
Предельные теоремы
Практическое значение предельных теорем состоит
в том, что они позволяют аппроксимировать распределе-
ния допредельных величин предельными распределениями,
аналитическая запись которых часто оказывается проще
выражений для допредельных функций распределения.
В главе 4 мы прямым вычислением получили предельную
теорему Пуассона и теоремы Муавра—Лапласа, которые
использовались для аппроксимации распределения числа
успехов в схеме Бернулли. В данной главе мы восполь-
зуемся для получения предельных теорем аналитическими
методами, основанными на использовании свойств про-
изводящих или характеристических функций.
§ 1. Производящие функции
Если случайная величина £ принимает только целые
неотрицательные значения *), т. е.
ЗР(В = *) = 1«	(1.1)
к=о
то производящей функцией распределения Z называется
функция
(х) = Мж? = § а?Р (| = к).	(1.2)
/с=о
где х ( | х |	1) — действительная или комплексная пере-
менная.
4 Теорема 1.1. Пусть (х) ~ производящая функ-
ция, определенная формулой (1.2). Тогда:
1°.	(х) определена в каждой точке отрезка [—1, 1].
2°. <pg (1)= 1.
3°. Соответствие, устанавливаемое формулой (1.2),
между множеством производящих функций <Р| (х) и мно-
♦) Такие случайные величины называют обычно целочислен-
ными.
126	ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ	[ГЛ. 7
жеством распределений {р^} является взаимно однознач-
ным.
Доказательство. Первое утверждение теоре-
мы следует из того, что степенной ряд в (1.2) мажорирует-
ся при | х |	1 сходящимся рядом в левой части (1.1).
Равенство (1) = 1] совпадаете (1.1). Третье утверждение
теоремы является следствием единственности разложения
функции в ряд Тейлора. Теорема доказана*
Используя формулы для коэффициентов ряда Тейлора,»
можно явно указать распределение {р&},; соответствующее
вероятностной производящей функции <р$ (ж). Имеем
Pit =-jlf-«pl*0 (°). * = 0,1,2,...
Пример 1. Пусть случайная величина £ имеет
биномиальное распределение
Р (g = т) = C™pmqn-”\ т = 0, 1, . . ., п9
По формуле (1.2)
(*) = 3 СпР^п~кх* = (рх + q)n.	(1.3)
k=o
По производящей функции легко определить моменты
случайной величины. Особенно просто находится матема-
тическое ожидание
MgW, к = О, 1, 2f . .	(1.4)
где g^’J = g (g — 1) . . . (g — /с + 1). Математическое
ожидание (1.4) будем называть fc-м факториальным момен-
том. Зная факториальные моменты первого и второго
порядковг можно найти дисперсию по следующей формуле:
Dg = Mg (g - 1) + Mg - (Mg)2.	(1.5)
Теорема 1.2. Если конечен k-й факториальный мо-
мент, то	существует левосторонняя производная	(1) и
м^] = <р^(1Ь	(1.6)
в частности^
Mg = q>i (1),	(1.7)
Доказательство. При любом | х | < 1 функ-
цию <pg (х) можно дифференцировать сколько угодно раз.
§ 1J	ПРОИЗВОДЯЩИЕ ФУНКЦИИ	127
Таким образом» при любом к определена к-я производная
Ф^(а:)= 2 т^хт^Р (Z = m).	(1.8)
т—о
По условию теоремы конечен к-я факториальный момент
Mg(4 = §
?п=о
являющийся суммой ряда (1.8) в точке х — 1. Следова-
тельно, по теореме Абеля <р^к) (х) непрерывна в точке
х = 1 и
lim ф(6к)(я)= 3 ттР(£==т) = ф|к](1),
х-*1—О	т=о
Пример 2. Найдем М| и Dg случайной величины
распределенной по биномиальному закону. Дифференци-
руя (1.3) два раза по х, получим
(*) = пр (рх + з)п-1,,
(х) = п (п — 1) р2 (рх + g)n-2.
Отсюда^ воспользовавшись (1.6), при х = 1 получим
Mg = <р| (1) = пр (р + g)”"1 = npt
Mg (g - 1) = <р| (1) = n (n - l)p2 (p + 3Г2 -
= n (n — 1) pz.
По формуле (1.7)
Dg = n (n — 1) pz + np — n2p2 — пр (1 — p).
Легко вычисляется к-я факториальный момент биномиаль-
ного распределения, Так как <p|k) (х) = (рх -f- g)’1-^ то
MgtH = „(*]/.	(1.9)
Применение производящих функций к изучению сумм
независимых целочисленных случайных величин основано
на следующей теореме.
Теорема 1.3. Если случайные величины glt , , , gn
независимы,, то
428	ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ	[Гй! 7
Доказательство. Воспользуемся представ-
лением производящей функции в виде математического
ожидания (1.2). Тогда
Ф^+...+^п = М^1+ *= М (х^... х*п).	(1.10)
Случайные величины х&, . . ., х^ независимы, как
функции от независимых случайных величин. Следова-
тельно,
М (х^ ... х^п) = Мх^... МяЛ*.
Отсюда и из (1.10) следует утверждение теоремы, так как
Мя5* =	(х).
Пример 3. Найдем производящую функцию бино-
миального распределения при помощи теоремы 1.3. Число
успехов рп в схеме Бернулли имеет биномиальное рас-
пределение. Представим в виде суммы независимых
слагаемых:
Ип = 51 + ?2 + • • • + 5nf
где
Р (^ = 1) = 1 - Р = 0) = р, * = 1,2,..., п.
По теореме 1.3
Фц„ (*) = <hi (*) <Р52 (*)••• Ф?п (*)•
Производящие функции слагаемых получим по формуле
(1.2):
(х) = ХР +	= Рх + q, к = 1, . . ., п.
Таким образом,
Фцп (*) = (РХ + ?)П-
Найдем производящую функцию случайного числа
случайных слагаемых.
Теорема 1.4. Пусть целочисленные величины v,
£1» 5г» • • •» Bn независимы при любом п = 1, 2, 3, . . .;
^,* = 1,2,..., одинаково распределены. Положим
Bv =	+ и + . . . + 5v, Во = 0.
Тогда
феу (*) = фу 1ф&! (*)!•	(1-11)
§ 1]	ПРОИЗВОДЯЩИЕ ФУНКЦИИ	129
Доказательство*), Вероятность события
(Sv = w) представим в виде
Р (£v = т) = 2} Р (v = к, Sv = гп).
к=о
1*ак как (v = к. — т) — (v = к, = т) и события
(у = к), (£R = т) независимы, то
Р (v = к, = т) = Р (у = к, щ) =
= Р (v = к,	+ . . . +	= т)
= Р (v = Л) Р (^ + ... + §, = тп).
Тогда
Р (£v — т) = 2 Р (v = А?) Р (11 + ?2 + . • • + = иг)*
к=о
Умножив обе части этого равенства на хт и просуммиро-
вав по т = 0, 1, 2, . , ., получим
<Ptv(*) = S P(V = *)( 2j xmP(^ + ... + 5fc = m)).
K’=0	m=0
Ряд в круглых скобках является производящей функцией
распределения суммы Si + . . . + S&. Так как слагае-
мые £/, Z = 1, . •	А:, независимы и одинаково распреде-
лены, то
S хт? (Ei + . .. +	= т) = <рь+..+5* (х) = [фЬ (ж)]*.
ти=0
♦) Если воспользоваться условными математическими ожида-
ниями и формулой полного математического ожидания (6.6.3), то
можно дать более короткое доказательство теоремы 1.4, Действи-
тельно, по формуле (6.6.3)
q>£v (*) = MxEv = М (М (х^ I v)).
Так как М (x^v | v) = М (х^1 . .. хл> | v) = [ф^х)]5', то
<PCv (х) = М [(ф^ (x))v] = ф^, [ф51 (х)].
В намеченном доказательстве основная трудность заключается в
проверке равенства М	।	или эквивалентного
ему равенства М (аЛ+*“+^ | v = к) = Мл?^+“ +^, которое интуитив-
но не вызывает сомнений.
130
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
[ГЛ. 7
Следовательно,
оо
4>и И = S р (V = к) [<рь (ж)]* = <Pv [фЬ (х)].
К=0
Теорема доказана.
При доказательстве предельных теорем часто исполни
зуется свойство непрерывности соответствия множества
производящих функций множеству распределений.
Теорема 1.5. Пусть при любом фиксированном п,
п — 1, 2, . . ., последовательность {рк (п)} является рас-
пределением вероятностей г т. е.
Pic(n)>0, 2 Рк(п) = 1.	(1.12)
Jf=o
Для того чтобы при любом фиксированном к
Нт Рп (п) = рЛ	(1.13)
П—оо
и
ZjPk=l«	(1.14)
к=о
необходимо и достаточно^ чтобы при любом х ЕЕ [О, 1)
lim фп (ж) = <р (x)t	(1.15)
П—ОО
где
Фп (х) = 2 Рк («) х\ Ф (*) — 3 РкЛ Ф (1) = 1.
К=0	7г=о
Доказательство. Пусть выполнены (1.13) и
(1.14). Представим разность фл (х) — ф (х) в виде
Фп (*) — <₽(*) =
= 3 (Рк (п) — Рк) х* + 3 Рк(п)хк— 2 РкЛ
К=о	R'=1V4-1	k-=N+l
где Д — некоторое целое число. Пусть х €= [О, 1) фикси-
рован. Докажем (1.15). Так как 0 рк (п)	1, 0 рк
1,	то для любого фиксированного 8	0 можно подо-
брать N так, чтобы при любом п
X,	У х* < Т1 У, Р*х* < Т •
fczN+l	k=N4-l
ПРОИЗВОДЯЩИЕ ФУНКЦИИ
131
§ 1]
Тогда при данном N
N
I фп («) — ф (я) I < У, I Рк («) — Рк | Я* +	8-
/f=0
Сумма в правой части этого неравенства может быть
сделана меньше в/3 при достаточно больших п, так как
содержит конечное число стремящихся к нулю слагаемых.
Равенство ф (1) = 1 следует из (1.14).
Пусть теперь выполнено (1.15). Докажем (1.13) от
противного. Предположим, что (1.13) не выполнено. Тогда
можно показать, что найдутся две последовательности пт
и пт для которых
lim pk(nm) = pi!, lim рк (пт) = рк,	(1.16)
Пт-оо	nm-oc
причем {рк} и {рк} не совпадают. Тогда по доказанной
части теоремы из (1.16) следует, что
lim <р • (х) = ф (х) = 2 pkx*t
' пт	К=о
оо
lim ф - (х) = ф(гг)= Л ркхк
" пт	к=о
nm-*oo
и ф (х) ф ф (х). Это невозможно, так как предел (1.15)
существует. Теорема доказана.
Пример 4. Пусть — число успехов в п испыта-
ниях Бернулли и рп — вероятность успеха в одном испы-
тании. Будем предполагать, что существует lim прп = X,
п -оо
0< оо. Воспользуемся теоремой 1.5 для вычисления
lim Р (рп = т). Положим X,, = прп. По формуле (1.3)
П-»оо

Следовательно,
т—1 1т
1L™ фц» == JL е~Кхт*
132
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
(ГЛ. 7
Отсюда по теореме 1.5]
a m
limP(Hn = m)= -Zt-e-Ч
П—»ОО
Таким образом, получили новое доказательство теоремы
Пуассона.	t
§ 2. Характеристические функции
Производящие функции определены для целочислен-
ных случайных величин. Для исследования распределе-
ний произвольных случайных величин вводятся харак-
теристические функции. Комплекснозначной случайной
величиной будем называть функцию (ш) + ig2 (°>), где
(о Е й, (glt g2) — случайный вектор. По определению
положим
м + ^2) =	+ ZMg2.	(2.1)
Для математического ожидания от комплекснозначной
случайной величины легко проверяются свойства 1°—4°,
приведенные в § 2 гл. 6. В дальнейшем мы ими будем
пользоваться без дополнительных оговорок. Понятие не-
зависимости для комплекснозначных случайных величин
не будет введено, и свойство 5° использоваться не будет.
Характеристической функцией действительной случай-
ной величины £ называется
Д (t) = Me"*,-
(2.2)
где t — действительное число, —оо <; t<Z оо.
Если случайная величина £ дискретна, то по теоре-
ме 1.1 гл. 6
М (cos t£) = 21 COS (txl;) P (g = xk) t
K=1
M (sin tl) = 2 sin (txK) P (E = xk).
R=1
Отсюда и из (2.1) получим
h(t)= 2eib»P(5 = ^).	(2.3)
Jf=l
Используя теорему 1.2 гл.
6, для характеристической
8 2]	ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ	133
функции абсолютно непрерывной величины | будем иметь
ОО
Ш = 5 e^Pi(x)dx.	(2.4)
—оо
Если случайная величина £ определена на дискретном
или абсолютно непрерывном вероятностном пространстве,;
то
h (t) = 5 <^*}рк,. Р ({«,}) = Рк (2.5)
к=1
И
(/) =	el*5(W1’ —* г1п} л (Hi, * .., ип) dui t, . dun, (2.6)
Теорема 2.1. Пусть (t) — характеристическая
функция случайной величины 5- Тогда*.
1°. Д (t) определена при любом t (—сю, оо),
2°. h (0) = I,
3°. Если т] =	+ 6, где а и Ъ — постоянные, то
/ч (0 =	(at).
4°. Соответствие, устанавливаемое формулой (2.2)
между множеством характеристических функций (t) и
множеством функций распределения, является взаимно
однозначным.
Докажем 1°—3°. Так как при любом действительном t
| eitx |^1, — оо < х < со,
то доказательство первых двух утверждений легко сле-
дует из формул (2.3)—(2.6). Третье утверждение получим
из следующих равенств:
(t) =	= е™Ме“& = eitbf^ (at).
Для дискретных и абсолютно непрерывных величин по
функции распределения определяются соответственно
вероятности значений и плотность распределения. Тогда
по формулам (2.3) и (2.4) однозначно определяется Д (t).
Обратное утверждение следует из формулы обращения
n
Л (*2) - Л (*i) = lim \	---Д (0 dt. (2.7)
N-ио J	11
—N
Доказательство этой формулы приводится в более пол-
ных курсах теории вероятностей (см., например,, [2]).
184
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
[ГЛ. 7
Найдем характеристические функции некоторых рас-
пределений.
Пример 1. Пусть & — целочисленная случайная
величина с производящей функцией (х). Очевидно (см.
(1.2) и (2.3)),. что h (*) =	(*“)•
Пример 2. Если Р (| = а) = 1, то по формуле
(2.3) находим: Д ($) = eita.
Пример 3. Пусть | нормально распределена
с параметрами (0f 1). Тогда
Pi(x) = Z7^e 2 ’	=	\ е tdx‘
у ^ЗТ	у ^ЗТ v
—со
Так как при любом t в силу нечетности подынтегральной
функции
"г _ —
е 2 sintxdx = Of
—оо
10 h (0 имеет действительные значения и
1 г --
/Е (t) = ,_ \ е а cos tx dx,
г/ 2л J
—СО
При формальном дифференцировании этого равенства
по t справа получается интеграл, сходящийся равномерно
по t 6 (—оо, оо). Следовательно,
°о	Ж2
,	J Р — —
/» (t) =------- \ хе 2 sin tx dx
/ST J
—oo
Отсюда интегрированием по частям получим
со	х*
fl (0 = С sin tx de~ = — tfi (t),
у Zjl V
Таким образом, функция (/) удовлетворяет уравнению
<//. (t)
. и начальному условию Д (0) = 1. Отсюда
§ 2]	ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ	135
Пример 4. Пусть случайная величина 5 распре-
делена нормально с параметрами (а, о2). Найдем Д (t).
Положим г] = -—— • Случайная величина т] имеет нор-
мальное распределение с параметрами (0, 1), Ht следова-
тельно, fa(t) — e 2, Тогда по утверждению 3° теоре-
мы 2.1 получим
ita-
(0 ~ f(H\+a (0 = ^tatx\ (pt) = 6	2 ®
Таким образом,
O2ia
=	(2.8)
Зная характеристическую функцию, можно легко найти
моменты случайной величины.
Теорема 2.2. Если существует к-й момент
М | § |fc < оо, Л > 1 в то существует непрерывная к-я
производная (t) и
Дк>(0)х=«км£*.
Доказательство. Докажем теорему? напри-
мер, для абсолютно непрерывных величин. Если сущест-
вует Лт-й момент, то существуют все моменты меньшего
порядка. Так как
оо	оо
| § ixeitxp% (х) dx |	| х | р^(х) dx = М 151 <С °°>
—оо	—оо
то интеграл в левой части неравенства сходится равно-
мерно по t. Следовательно, можно дифференцировать под
знаком интеграла:
оо
4(0 = i ) xeitxp^(x)dxt =
—оо
Пусть теперь существует производная порядка I, I и
J х1еихр$ (х) dx,
Отсюда
Дг+1) (t) = iI+1 § xl+leltxpi (х) dxt
—оо
136
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
[ГЛ. 7
так как интеграл в правой части последнего равенства
сходится равномерно по t. Таким образомх
4i+1)(0) = iz+iMgz+4
Теорема доказана.
Пример 5. Пусть 5 имеет нормальное распределе-
ние с параметрами (а, о2). Тогда характеристическая
функция величины ц = g — а равна
Jc=o
Так как (0) = 0 и
(0) = Я О2»(- 1)» = (_ 1)* (2А - 1)(2& - 3)... 3 • la2*,
22 а!
то по теореме 2.2 получаем центральные моменты g:
М (g — a)2A+l = 0,
М (g - a)2fc = (2к - 1) (2к - 3) . . . 3-1-о2\
В следующей главе нам потребуются разложения ха-
рактеристической функции по степеням t в окрестности
точки t = Од Если существует Mg, то
(0 = 1 + **Mg + /8(0,	(2.9)
где 8 (0 -> 0 при t 0. Для доказательства (2.9) пред-
ставим (0 в виде fi (0 = и (0 + iv (0. Из существова-
ния Mg следует существование f'i (0), а также и' (0) и
v (0). По формуле Тейлора с остаточным членом в форме
Пеано
и (0 = и (0) + tu (0) + tQt (Он
v (t) = v (0) + tv1 (0) + /82 (/),;
где 8X (0, e2 (0	0 при t -> 0. Складывая два последних
равенства, получим (2.9), так как fi (0) = /Mg. Аналогич-
но проверяется следующее утверждение. Если Mg2 сущест-
вует, то
Д (0 = 1 + «МВ----f + t4 (t) s (2.10)
где 8 (0 -> 0 при t 0.
В предположении существования Mg3 дадим другую
оценку остаточного члена в (2.10),	с
9 2]	ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ	137
Из равенства
eix-l = ]ieiudu
О
|х|
следует, что | егх — 11 du = | х |, так как | 1еги |	1,
Используя найденную оценку и равенства
егх — 1- ix = $(?«-1) dus
О
eix — 1 — ix +	= i (eiy — 1 — iy)dyf.,, a
0
получим
Отсюда, в частности, следует, что
eilx = i + itx--^- + Ri(t,x),
Заменим здесь x на £ и вычислим математическое ожида-
ние, Получим следующее разложение:
Д(0=1 + «М£------±M^ + /?(ib
up	(2.11)
|Я(О1<-Т-М|£|3.
Для характеристических функций имеет место теоре-
ма, аналогичная теореме 1.3.
Теорема 2.3. Если случайные величины • • •
• . ., независимы, то
Доказательство. Достаточно доказать тео-
рему для п = 2, так как общее утверждение можно будет
получить по индукции. По определению характеристиче-
ской функции
(*) = =
= М (cos + i sin t^) (cos t%2 + i sin t1-2). (2.12)
Дальше нужно сделать следующее: 1) перемножить вы-
ражения, стоящие в скобках, и перейти к сумме мате-
138	ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ	[ГЛ. 7
матических ожиданий; 2) математические ожидания от
произведений заменить на произведения математических
ожиданий (это возможно, так как функции от независи-
мых случайных величин являются независимыми случай-
ными величинами); 3) полученное выражение вновь раз-
ложить на множители. В результате этих преобразова-
ний знак математического ожидания в правой части
(2.12) появится перед каждым слагаемым в скобках, Таким
образом,
Ai+b (0 = (м cos + гМ sin (м cos ^2 +
+ iM sin = M^-M^8 = 4 (0-/ь (0*
Теорема доказана.
Пр и м e p 6. Пусть £х и £2 независимы и нормально
распределены с параметрами (ах, of), (а2, of). Найдем
распределение суммы £х + g2. По формуле (2.8)
о^8
,	. . 1аЛ----. , ч ia.t-------
/ь(0=«	2 j /ь(0=г	2
Отсюда по теореме 2.3 получим
.	о8*8
/^(0 = 4(04(0=^ 2
где а = ах + а2, о2 = of + а2. Так как полученная ха-
рактеристическая функция является характеристической
функцией нормального распределения, то по теореме 2.1
(4°) сумма |х + g2 распределена нормально.
Пусть задана последовательность функций распреде-
ления Fn (х), п = 1, 2, . • Последовательность {Fn (х)}
слабо сходится к функции распределения F (х), если
lim Fn (х) = F (х)
при любом х, являющемся точкой непрерывности F (х).
Теорема 2.4. Если последовательность функций
распределения Fn(x), п = 1, 2, , . , слабо сходится к не-
прерывной функции распределения F (я), то Fn (х)
-> F (х) при п оо равномерно по хЕ (— оо, + оо).
Доказательство. Из монотонности и ограни-
ченности функции F (х) следует, что для любого е > 0
среди точек непрерывности F (х) можно выбрать конечное
число точек х± < х2 < .« * < xN так^ чтобы на каждое
8 2]	ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ	139
из следующих множеств
(— оо = Хо, Xi), lx2, x3)f . . [zN, xN+1 = + оо)
приращение функции F (х) не превосходило 8, Пусть х ЕЕ
е ^+1). Так как
Рп(х) — Р(х) =
= (Fn (х) - Fn (хк)) + (Fn (хк) - F (хк)) + (F (хк) - F (х))
и
I Fn (^) Рп I Fn (#k+i) Fn (хк)
< | Fn(xk+1) - F(xk+1) | + | F (xk) - Fn(xk) | + F(xk+1) - F (xk).
| F (xk) - F (x) | < F (xk^) - F (xk)
в силу монотонности Fn (x) И F (x), TO
| Fn (x) - F (x) I < I Fn (xk^) - F (xM) I +
+ 21 Fn (xk) - F (xk) | + 2 (F (xk+1) - F (xk)).	(2.13)
По условию теоремы Fn (xk) —> F (xk) при n -> оо. Следо-
вательно, из (2.13) с учетом выбора #k+1)
| Fn (x) - F (x) | < 58
при n > n0 (к). Полагая n0 = max n0 (к)х ползучим
| Fn (x) — F (x) | < 5в при n > n0 и любых x. Теорема
доказана.
Приведем формулировку теоремы о непрерывности
соответствия множества характеристических функций
множеству функций распределения. Пусть /п (0, п = 1,
2, . .	— последовательность характеристических функ-
ций и Fn (х), п = 1, 2, . . — последовательность соот-
ветствующих функций распределения.
Теорема 2.5. Если /Л (t) -> / (t) при п -> оо для
любого t и f (t) непрерывна при t = 0, то
1) / (0 — характеристическая функция, соответствую-
щая некоторой функции распределения F (х);
2) Fn (х) слабо сходится к F (х) при п-^ оо.
Если Fn (х) слабо сходится к функции распределения
F (х), то fn (х)	/ (t), где f (t) — характеристическая
функция, соответствующая функции распределения F (х).
Эта теорема будет использована для доказательства
Центральной предельной теоремы.
140
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
[ГЛ. 7
Приведем еще две теоремы, которые часто исполь-
зуются при доказательстве предельных теорем. Пусть
Fn (х) = Р (gn < х), n = 1, 2, . . .,
— последовательность функций распределения. Обозна-
чим т{п =
Теорема 2.6. Если при всех к, к = 0, 1, 2, . .
lim Шп) =	< оо, то существует функция распреде-
П—*со
ления F (х) = Р (5 < х) такая, что mSk) = Если
этому условию удовлетворяет единственная функция F (х),
то Fn (х) при тг оо слабо сходится к F (х).
Иногда последовательность случайных величин =
= 1, 2, . . .), для которой исследуется сходимость функ-
ций распределения, удается представить в виде =
=	+ т]п; при этом сходимость функций распределения
величин уже известна или ее можно легко установить,
а величинами т]п можно пренебречь. Следующая теорема
дает условия, при которых можно воспользоваться ука-
занным представлением.
Теорема 2.7. Пусть	+ Лп> п — 1» 2, . . .
Если lim Р {| т]п | ^> е} = 0 для любого е 0 и по-
П—оо
следователъностъ функций распределения Fn (х) =
= Р (5П < х) слабо сходится к функции распределения
F (х), то последовательность функций распределения
Gn 0е) = Р (£п < х) тоже слабо сходится к F (х).
Доказательство. Пусть х — точка непрерыв-
ности функции F (х). Положим
^п	{^П “Ь Лп < х} ’ Вп {| Лп I <
Так как Ап = АпВп + АпВп и AnBn(Z. Вп, то
Р (АпВп) < Р (An) < Р (АпВп) + Р (Вп).
Отсюда и из соотношений
{(^п < х е) П Вп} С АпВп CZ {5п < х 4~ е}
получим
Р{(?п<^е)ПВп}<Р(4)<
< Р {gn < х + 8} + Р (Вп).	(2.14)
Из неравенств (2.14) и неравенства
Р {(gn < X ~ 8) П SJ > Р {£п < * - 8} - Р (Вп)
§ 2]
ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
141
следует, что
Fn (х - е) - Р (Вп) < Р (Лп) < Fn (х + е) + Р (Вп).
Отсюда, так как по условию теоремы Р (Вп) 0 при
п -> оо, находим
F (х - е) < 1 im Р (£п < х) < ПЫ P(gn < х) < F (х + е). (2.15)
п-*оо	п-*оо
Из (2.15) при е->0 получим утверждение теоремы, так
как х является точкой непрерывности F (х).
Для исследования распределений векторных случай-
ных величин, так же как и в одномерном случае, полез-
но использовать производящие и характеристические
функции. Производящие и характеристические функции
векторных случайных величин £ = (glt . , п S
определяются соответственно формулами
ЧЧ (zu • • •» 2*) = Mzi* • • •	(| Zj I < 1, i = lt , , ,J k),
(2.16)
h (0 = h (*1> ...,«») = м exp {if £}t
где t = (tlt . .	tk)’, fl =	+ . . . +	— oo <
< ts < oo, 5 = 1, . . ., k. Их свойства аналогичны свой-
ствам производящих и характеристических функций од-
номерных случайных величин. Например, если М |Г1 • . «
. . . | |гк < оо для целых , ,, rk 0 *), то
—Г------Р- <Р5 (Z!, . . . , zk)	= М^'].., &Ч
dzi'    9z*	------Zk=1
—---------= f'+-	. %*.
«.=...=^=0
Если T] = Cl + а, где g = (gx, . . lr)', t]= (t]i,  •	Dm)'.
a = (ax, . . ar)', C = || c,j || — (m X г)-матрица (а и C
постоянны), то
Mt) = e^{t'C).	(2,17)
Найдем характеристическую функцию нормально рас-
пределенного вектора ц = (th, . . ., ЦтУ. По определению
♦) Отметим, что для смешанных моментов из существования
момента порядка гх + . . . + rk не следует существование момен-
та меньшего порядка.
142
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
(ГЛ. 7
Л/с —	4" с/с2^2 4" • • • 4“ ^кг5г 4" fyci к — 1, • »
где Si, . . |г — независимые нормально распределен-
ные величины с параметрами (0, 1). По определению (2.16)
г т	т
/в (0 = м exp (й'ц) = м exp {i 21 ( S h + i 3 MiJ •
/=1 k=i	k=i
Отсюда, используя независимость 5u » • v %>r> теоремы
2.1, 2.3 и формулу (2.8), получим
т	г	т
fn (0 = exp р У, tkakj • П М exp |i ( V tkckl^ &} =
1	<=i
r	m
= exp (if а) П exp |-----------j- (У tkckl)2} =
1=i	'"fei
Так как
m	r
— exp (if a) exp {------г У tkfkt ( У cktickj
kt» k2=l	1=1
r
bkJt, = COV (% , Tilt,) == 2j CktlCktli
Z=1
то окончательно получаем
m
fn (0 = exp {if a-2"	•
kj, Ic 2=1
(2.18)
§3. Закон больших чисел
В этом параграфе будет доказана теорема 5.5 гл. 6
без предположения о конечности дисперсии. Случайные
величины бесконечной последовательности £2, • • •
. . ., 5n, . » , называются независимыми, если при любом п
независимы величины |х, |2, . . ., |п.
Теорема 3.1. Пусть случайные величины g2, . . .
. . ., 5П, • • • независимы, одинаково распределены и имеют
математическое ожидание = a, k = 1, 2, ... Тогда
при любом г > О
lim Р
71-*ОО
£1 + ^2 4*	4"
п
а <С8
1.
Док азательство. Характеристические функ-
ции (i)t к — 1, 2, . . одинаковы. Поэтому можно по-
6 4]
ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА
143
дожить Д (0 = / (t). Из существования следует* что
верно разложение (2.9):
/ (0 = 1 + На + te (0,	(3.1)
где 8 (t) —> 0 при t —» 0. Положим !h = (£i + • • • + 1п}/п.
Так как случайные величины £lt ,» ,л £п независимы, то
по теореме 2.3
/gl+...+5n(Z) = [/ («)Г = (1+ На + te (i))n.
Отсюда, используя теорему 2.1 (3°), при га —> оо получим
ч») - (1+1	<3-2>
так как 8 (tin) —> 0при п —> оо. Таким образом, при лю-
бом t последовательность /Лп (t) сходится к функции eita*
являющейся характеристической функцией постоянной
величины а. Функция распределения Fa (х) постоянной
а равна 1 при х > а и 0 при х а. По теореме 2.5
lim F« (х) = Fa (х) при любом х =/= а, так как х = а —
П-*оо
единственная точка разрыва функции Fa (х). Пусть зада-
но 8 > 0. Тогда
р (Ип — а | < е) = Р (а — е < т]п < а + е)
> Р (а —	< т]п < а + е) = (а + е) — F^n (а —	.
Точки х = а + &их = а — 8/2 являются точками непре-
рывности функции Fa (х). Следовательно, при п —> оо
F^n (а + е) — F^n (а —	-> Fa(a + е) — Fa(a — -J-) = 1.
Отсюда и из неравенств
1 > р (Ип — а | <е) > Л)п (а + е) — Frja — -J-)
следует утверждение теоремы.
§ 4. Центральная предельная теорема
В § 3 гл. 4 была доказана теорема Муавра — Лапласа *
согласно которой число успехов в п испытаниях схемы
Бернулли при больших п имеет распределение, близкое
к нормальному. Если воспользоваться тем, что пред-
ставляется в виде суммы независимых слагаемых (5,5,13)в
144
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
[ГЛ. 7
то теорему Муавра — Лапласа можно
в следующем виде.
Если случайные величины • • •»
мы. Р ап = 1) = 1 - Р (1п = 0) = р.
0 < р < 1
V nD5i
i
1/2л
сформулировать
£п, ... независи-
то при п оо,
— —
е 2 du
(4.1)
равномерно по х GE-(— оо, оо).
Утверждение (4.1) сохраняется при достаточно общих
предположениях о законе распределения слагаемых
Докажем следующую теорему.
Теорема 4.1. Если случайные величины £2, • • •
• • •»	• • • независимы, одинаково распределены и имеют
конечную дисперсию^ то при п —> оо равномерно по хЕ
£ ( — оо, оо)
51 + 5г + • • • + 5П — па \	1	(*
___________________ _________ % I _______>	. . \
<5 ]/~ п	/	у[ 2л j)
где а = Mgn, а2 = Dgn > 0.
Доказательство. Положим

51 + 5г + . • . + 5П — па
^-_а
б \[ п
б \[ п

Разложим характеристическую функцию величин — а
по формуле (2.10):
Ь„-а (0 = 1 + ЙМ & - а)---J М (gfe - а)* + t4 (0,
где е (0 -» 0 при t -* 0. Так как М — а) = 0 и
М — а)2 = о2, то
/6>_а(0 = 1-^- + ^е(0.
(4.2)
Отметим, что в этом равенстве функция 8 (t) не зависит
от к. По теореме 2.3
/ п
S (Б#--0)
К=1
(0=^ -™+1М«))п.
§ 4]	ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА	145
Отсюда
/пп (0 -/ п ( г— ) —	(1----2” ‘ “Т-Ь ТО8 ( -----7= ) )	’
S	(£jra)\31Ai J	\	2 п п<3	\<5}Гп))
К=1
и, следовательно, /Пп (t) —» <Н2/2 при п —> оо для любого
фиксированного t. Предельная характеристическая функ-
ция является характеристической функцией нормального
распределения с параметрами (0, 1). Отсюда по теореме
2.5 следует слабая сходимость (х). Из слабой сходи-
мости по теореме 2.4 следует равномерная сходимость,
так как предельная функция распределения непрерывна.
Теорема 4.1 доказана.
Условия сходимости функций распределения разно-
распределенных слагаемых к нормальному закону содер-
жатся в теореме Ляпунова. Приведем без доказательства
ее упрощенную формулировку.
Теорема 4.2. Пусть g2,. ♦ ., £n, . . » — незави-
симые случайные величины, имеющие конечный третий
абсолютный момент. Положим
а,п — ЛА^д,
п
‘===‘ 2
fc=l
b2 = D£n,
В2 = 3
R=1
сп — М | ап |\
с*п= 3 4.
К=1
Если при П —> ОО
(4.3)
то при п —> оо
При ссылках на теоремы о сходимости сумм распре-
делений к нормальному закону удобно использовать
понятие асимптотической нормальности. Если функции
распределения последовательности случайных ве-
личин (цп — Ап)1Вп сходятся при п —» оо к функции
--L- ехр (------du, то говорят, что случайная вели-
V	—со
чина цп при п —> оо асимптотически нормальна с пара-
метрами (Ап, В%).
146
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
[ГЛ. 7
Приведем без доказательства обобщение теоремы 4.1
на случай r-мерных величин. Случайные r-мерные векторы
последовательности %п = (%п1, ?п2, . .	?лг), п = 1, 2, . . .,
будем называть независимыми, если при любом п и для
любых r-мерных прямоугольников Z?k, к = 1, . . ., и,
P(5iefi1,...,gne5n) = P(g1e51).. .Р(5„бй„). (4.4)
Теорема 4.3. Если случайные векторы ?л =
= (5п1> • • •> ?пг)> * — 1» 2, . . .t независимы^ одинаково
распределены и имеют конечные
ai =	ЬЦ1с = cov
mo r-мерная функция распределения
Р(Пп1<*Ь--..гПпг<*г), где r)ni — п-  •+J;n;---n^l_
у n
(Z = 1, . . ., г), при n оо и при любом X = (хх, . . ., хг)
сходится кР (?1<ХП • . м £r<*r), S = (С1» • • •» Sr) —
r-мерный нормальный вектор с М & =0, cov (£ь £k) = 6^,
§ 5. Вычисление интегралов методом Монте-Карло
В качестве примера применения теоремы 4.1 оценим
число испытаний в методе Монте-Карло, необходимое для
вычисления кратного интеграла с заданной точностью.
Пусть функция / (х) = / (хх, х2, . . xs) определена на
s-мерном единичном кубе V. Требуется вычислить интеграл
. ^f(x)dx.
v
Пусть известна постоянная С такая, что | f (х) | С, х G
е V. Обозначим ? = (?х, . . ., ?п) случайный вектор, рав-
номерно распределенный на V. Тогда р% (х11 . . ., xs) = 1,
если х е V, и р% (ях, . . ., х9) = 0 в противном случае.
Математическое ожидание случайной величины ц = / (?)
найдем по формуле (5.1.5):
Мт| = . . . $ / (^ь • • • , ^з) Рь (-^ь . . . , xs) dxi. . . dxs =
Q
— § . . . ^f(x)dx = a.
v v
Таким образом^ Мт] совпадает со значением вычисляемого
§ 51 ВЫЧИСЛЕНИЕ ИНТЕГРАЛОВ МЕТОДОМ МОНТЕ-КАРЛО 147
интеграла. Так как | / (х) | С, то
o2 = Dt]=$. ..$(/(х)-а)2с?х<4С2.
V
(5.1)
Пусть теперь случайные векторы «□= (^1У • • м ^s),
к = 1, . . тг, независимы и распределены равномерно на
единичном кубе V. Тогда случайные величины = / (50»
к = 1, , . тг, независимы и одинаково распределены» По
закону больших чисел случайная величина
_ m + ... + Пп
fen — п
при больших п близка к постоянной а = Мт^, Предпо-
ложим, что нужно вычислить а с точностью Д» Оценим
вероятность
Так как а < 2С, то
и при больших п
По заданной малой вероятности нежелательного события
|£п — а I Д можно, так же как в § 3 гл. 4, найти п.
Оценка дисперсии (5.1) является обычно очень завы-
шенной. В качестве приближенного значения о можно
использовать выражение
= У
К=1
Для оценки вероятности можно воспользоваться тем,
что величина (£п—па)Уп/о* при тг —» <х> является
асимптотически нормальной с параметрами (0, 1) *).
♦) Для доказательства этого утверждения нужно показать,
что lim Р J2- — 1>е1 = 0 для любого е > 0, и воспользовать-
П—оо [| <3 I J
ся результатом задачи 17.
148
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
[ГЛ. 7
Применение метода Монте-Карло к вычислению ин-
тегралов, а также сравнение его с другими методами да-
ются в книге [5], гл. 4.
§ 6» Прием линеаризации
В прикладных задачах часто требуется знать распре-
деление функции от случайных величин. Обычно в таких
случаях в качестве приближенного распределения при-
нимается распределение линейной части разложения функ-
ции по формуле Тейлора в окрестности математического
ожидания аргументов, а распределение линейной части
(поскольку линейная часть является суммой) считается
нормальным. По-видимому, можно надеяться на близость
рассматриваемого распределения к нормальному в слу-
чае, когда аргументы распределены нормально, а их дис-
персии малы. Более сомнительно использование нормаль-
ности, которое основывается на центральной предельной
теореме, примененной к линейной части функции. Приве-
дем теорему, которая дает некоторое представление о воз-
можности использования нормального приближения в
случае малых дисперсий нормально распределенных ар-
гументов.
Теорема 6.1. Пусть = (gni, . .	£пг), п =
= 1,2,..., — последовательность асимптотически нор-
мальных векторов с конечными моментами
= ani {I = !, • • •> г).
cov(UU)=-^- (k,l = 1,..., г),
где (ani — at) п —> 0 и bkt (п) -> bkl при п —> оо; функ-
ция / (х) — f (a?i, . . ., хг) определена в окрестности точки
а — (а1? . . аг) и имеет в этой окрестности непрерыв-
ные частные производные второго порядка. Если т|п =
г
= /	• • •, Snr) и величина о2 = ЫАи, где fa —
к,1=1
— I
|х=а ’
положительна, то при п —> оо
.-	X и*
о ( /» (Пп - f (а))	1 С -~г ,
Р ---------------<#}—> г_____ \ е ‘du. i
1	J /2л Д	«
$ 6]	ПРИЕМ ЛИНЕАРИЗАЦИИ	149
Доказательство. Пусть
Г
Ип = Пп - /о - У, /,* (In, - anZ),
1=1
где =	, /о= / («„), ап= (ап1, . . ., апг). Восполь-
oxi \х=ап
зовавшись теоремой 2.7, покажем, что предельное рас-
пределение У*п (т|п — / (ап)) совпадает с предельным
распределением £* = У п 3 /*• ^>ni — ani)- Положим
i=i
r ( 1 1
4=П^> гДе =	| ba — ani | < j , Используя
неравенство Чебышева, получим
при п —> оо. Отметим, что на множестве Ап величину Rni
используя формулу Тейлора с остаточным членом в форме
Лагранжа, можно представить в виде
г
Rn===	fkl йлК (%ni anl)$
icj=i
где f\i — значение производной d2jldx^dxi в точке
(anl “h 0 (£nl — #nl)» • • •» апг Ч“ 0 (£nr Лпг))1 0 < 6 <С 1.
Так как fa ограничены и на множестве Ап выполнены
неравенства |	— апк | < 1/и3/8, к = 1, . . гх то
(ое4п. (6.2)
п у п
Для произвольного е > 0 имеем
Р(|/Й7?п_|>8) =
= Р {(I /п Вп I > е) П лп) + Р {(I VnRn I > е) П ^п)- (6-3)
Так как е > 0 фиксировано и | YnRn | > 0 в силу (6.2)
при тг —> оо равномерно по со е Ап, то первое слагаемое
в правой части (6.3) стремится к 0. Второе слагаемое в
150	ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ	[ГЛ 7
(6.3)	оценивается сверху вероятностью (6.1). Таким обра-
зом, Р (| VпНп | > е) —> 0 при п —► оо. Следовательно,
предельное распределение (т)п —/ (ап)) У п согласно
теореме 2.7 совпадает с предельным распределением £*.
Так как величина распределена асимптотически нор-
г
мально и (а*)2 = 2	при оо, то пре-
k,z=i
дельным распределением £* является нормальное с пара-
метрами (0, о2). Нетрудно проверитьt что предельное рас-
пределение У МЛп — / (а)) совпадает с предельным рас-
пределением |^и(т]п —/ (ап)). Теорема доказана.
Можно сформулировать теорему об асимптотической
нормальности rjn = /п (gnl, . , ., £nr), где г = г (п) —> оо
при п —> оо, без предположения об асимптотической нор-
мальности аргументов. Однако потребуются не очень ес-
тественные ограничения на последовательность функций /п.
Отметим, что условия теоремы 6.1 не позволяют сде-
лать вывод о том, что нормирующие и центрирующие по-
стоянные в формулировке этой теоремы являются глав-
ной частью в асимптотических формулах для Мт]п, Dr]n.
Асимптотические формулы для Мцп, Dr]n, совпадающие
с соответствующими формулами для моментов линейного
приближения, получаются при дополнительных предполо-
жениях (см, [10], § 27.72 стр, 388),
Задачи к главе 7
1.	Пусть £ — неотрицательная целочисленная величина с про-
со
изводящей функцией <р (х). Найти: а) Мх2^+1; б) 2 х Р(£>л);
п=0
ОО	оо
В) 3 *ПР (£<»); г) 3 х"Р (5 = 2п).
п=0	п=0
2.	Найти производящие функции величин т, тт, определенных
в задачах 14, 16 гл. 5. Найти Мт, Dt, Мтт,
3.	Найти производящую функцию величины v, определенной
в задаче 18 гл. 6.
4.	Найти производящую функцию случайной величины, рас-
пределенной по закону Пуассона с параметром X. Доказать, что
сумма независимых пуассоновских величин имеет пуассоновское
распределение.
5.	Случайные величины v, £2, . . ., £п независимы при лю-
бом л = 1, 2, . . .; Р (gk = 1) = 1 — Р (&t = 0) = р; v имеет рас-
пределение Пуассона с параметром X. Найти производящую функ-
цию величины Ч — Si + • • • + Sv (v > 0)> Л = 0 (v = 0).
ЗАДАЧИ К ГЛАВЕ 7
151
6.	Вычислить характеристические функции следующих зако-
нов распределения: а) биномиального; б) Пуассона; в) показатель-
ного; г) равномерного на отрезке [—1, 1] (см. § 3 гл. 5).
7.	Найти законы распределения, соответствующие характерис-
оо
тическим функциям: a) cos 1; б) cos2 t\ в) У, (4) cosfct
8.	Величины g2 независимы и одинаково распределены, их
характеристическая функция равна / (*). Найти характеристиче-
скую функцию величины £$ — g2.
9.	Величины g2, независимы и нормально распределены
с параметрами (1, 1), (0, 4), (—1, 1). Найти: а) Р (£<+ g2 +	0);
6)	р (12gx — g2 + g31 < з).
10.	Доказать теорему Пуассона при помощи теоремы 2.6.
11.	Складывается 104 чисел, каждое из которых округлено с
точностью до 10”™. Предполагая, что ошибки от округления неза-
висимы и в интервале (—0,5*10”™, 0,5*10”™) распределены равно-
мерно, найти пределы, в которых с вероятностью, не меньшей 0,99,
будет лежать суммарная ошибка.
12.	Получить теорему Муавра Лапласа в качестве следствия
теорем 4.1 и 4.2.
13.	Пусть случайная величина распределена по закону Пуас-
сона с параметром X. Найти
lim Р I —< х ] .
Х-*ОО \ X	/
14.	Пусть случайные величины 9 s s, gn независимы;
Р (Ък = 1) = 1 - Р (%к == 0) = рк (п), к = 1, 2, . . . Найти
lim Р (gx + . . . + 1п = тп), если Р1 (п) + . . . + рп (п) — X и
П-*оо
max рк (п) —* 0 при п —* оо.
15.	Плотность распределения р^ (х) случайной величины £
непрерывна и ограничена на отрезке [а, Ь] и равна 0 вне [а, Ь]. По-
ложим т|п = Ing}, где {х} — дробная часть числа х. Найти
lim Р СПп< *), 0<х<1.
П-*оо
16.	Из урны, содержащей М белых шаров и N — М черных, по
схеме случайного выбора без возвращения вынимается п шаров.
Обозначим gn число белых шаров в выборке из п шаров. Найти:
М
a)	lim Р (Е = т), если	n = const;
N—оо П	N
б)	lim Р (gn = m), если X.
П—оо
м-оо
17.	Пусть последовательность случайных величин удовлет-
воряет условию: Р {| gn — 1 | < 8} 1 при п —* оо и любом
е > 0; функции распределения Р (т)п < х) слабо сходятся к F (х)
при п —* оо. Доказать, что Р (r)ngn < х) слабо сходятся к F (х).
Указание. Доказательство проводится аналогично дока-
зательству теоремы 2.7.
152	ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ	[ГЛ. 7
18.	Используя решение задачи 25 гл. 5 и таблицы случайных
чисел, получить 10 независимых реализаций случайной величины g
с функцией распределения (а?) = 1 — х~п (х 1), если:
?) п « 2; б) п = 1. В обоих случаях найти среднее арифмети-
ческое полученных реализаций и в случае а) сравнить среднее
арифметическое с Aff.
19.	Пусть т2 — число испытаний в схеме Бернулли, прошедшее
от начала испытаний до появления второго успеха. Получить десять
независимых реализаций величины т2, если вероятность успеха р
в отдельном испытании: а) р = 0,5; б) р = 0,75. Найти средние
арифметические и сравнить с Мт2.
20.	По 100 реализациям равномерно распределенной случайной
величины (см. § 5) вычислить методом Монте-Карло интеграл а =
1
= j e*dx. Полученное значение а* сравнить с точным значением а.
о
Теоретически найти Д такое, чтобы Р (| а — а* | < Д) « 0,99.
Указание. Использовать точное значение Da* и централь-
ную предельную теорему.
ГЛАВА 8
Цепи Маркова
§ 1. Определение
В главе 4 было дано определение цепи Маркова как
частного случая общей схемы испытаний. Дадим теперь
определение цепи Маркова в терминах случайных величин.
Последовательность случайных величин t = 0, lf
2, . . ., называется цепью Маркова с состояниями Ж ==
= {1, 2, t . ., N}, если
N
%P$t==k) = i, 7 = 0,1,2,...s
k=i
И при любых 0 < ^ < £2 < . . . < tn < S < t (n = If
2, . * .), любых i, j ЕЕ и любых подмножествах Blr t , •
, . ., Bn множества Ж выполняется равенство
р & = 11 К е въ ..ьп е в„, L = о =
= PUr = /|g. = 0.	(1.1)
В приложениях значения случайных величин ин-
терпретируются как номера состояний изучаемой систе-
мы, которая в дискретные моменты времени t (t = 0^
1,2,.*,) меняет свое состояние. Свойство (1.1) означает
что при фиксированном положении системы в данный мо-
мент времени s будущее поведение системы (t > s) не за-
висит от поведения системы в прошлом ЕЕ Ви . . *
, . GE Вп), или более кратко: при фиксированном
настоящем будущее не зависит от прошлого. Свойство (1.1)
называют свойством марковости.
Будем называть цепь Маркова однородной, если при
любых I,	вероятности
Р (Ui = 71 It = 0 = Ра, t = 0,; 1, 2, , .	(1.2)
не зависят от t. Матрицу />=11 Рц ||, элементами которой
являются вероятности (1.2), называют матрицей вероят-
ностей перехода, а вектор
9 = (<71. <7г. • • •. 9n),:	(1.3)
154	ЦЕПИ МАРКОВА	[ГЛ. 8
где = Р (g0 = i)t f = 1, 2, t N,— вектором началь-
ных вероятностей. Очевидно, что числа р^ и удовлет-
воряют условиям
N
Рц > 0.9< > 0, 3 9, = 3 Pij = !•	(14)
J—1	j=l
Любые матрицы Р = || р17Ц, элементы которых удовлетво-
ряют (1.4), называют стохастическими. Покажем, что
матрица вероятностей перехода и вектор начальных веро-
ятностей однозначно определяют совместные распределе-
ния величин g0,	, ,, & при любом t. По формуле (3.2.2)
получаем
Р (5о = 7ог = hi 5г = *2, • • •, 5f-i = h-п 5/ = h)
2=2 Р (5о = М Р (51	= h I	5о	= 7о)	х
X Р (^2 = h | 5о =	^о, 51	=	h) • •	•
• • • Р (5<	=	it | 5о = ^о, • • •, 5i	= ч,	• • 5<-i	=	ч-i)*	(1*5)
Воспользуемся теперь следующим	частным	случаем	ра-
венства (1.1):
Р (?з = is | 5о = ^о, 51 = hi • • •, 5s-i = Ч-i) =
= р (5з = is | 5з-1 = U), * = 1,2,,.	(1.6)
h е (fe = 0, 1, 2,- . . .).
Согласно (1.2) для однородных цепей Маркова правая
часть (1.6) равна Pis_v ts> Заменив этими величинами и
величинами (1.3) соответствующие сомножители в правой
части (1.5), получим совместное распределение величин
5о, 51, • • •, 5/*
Р (5о = 7о, 5i = hi 5г = Ч, • • •, 5f = it) =
~ Qi0Pto, iiPii,iz • • • Рч-1’ i/* (1*7)
Мы определили цепь Маркова, сформулировав свойства, кото-
рыми должна обладать последовательность случайных величин
При таком подходе остается открытым вопрос о существовании та-
кой последовательности случайных величин. Покажем теперь, что
7	N	\
при любом Г, любом векторе q = (q^ t . ., qN) I q^ > 0,	= 1)
'	i=i	7
и любой стохастической матрице P = У рц || можно определить
вероятностное пространство и случайные величины t = 0, 1,
2, . . ., Г, являющиеся цепью Маркова с вектором начальных ве-
роятностей q и матрицей вероятностей перехода Р. Пусть Q = {ш1,
§ 11	ОПРЕДЕЛЕНИЕ	1S5
где ш = (i0, ib . . iT), i01	.. ., JT e Ж. Положим
P (®) = 9i,Pi„ itPi„ i, • • . Pi^.i^	(1-8)
Равенство (1.8) однозначно определяет вероятность на всех под-
множествах ЗД множества Q. Построенное вероятностное простран-
ство в гл. 4 мы назвали цепью Маркова. Осталось только связать
это определение с определением, данным в этой главе в терминах
случайных величин. Положим
it (®) = it (Mi • • • *у) =	0
Для определенных таким образом случайных величин легко прове-
ряется равенство (1.7). Используя (1.7), нетрудно вычислить услов-
ные вероятности в обеих частях равенств (1.7) или (1.1) и убедиться
в том, что эти равенства верны. Указанные вычисления приводят
к доказательству того, что случайные величины (1.9) являются
цепью Маркова, у которой q — вектор начальных вероятностей и
Р — матрица вероятностей перехода.
Очевидно, что равенство (1.6) -—это частный случай
соотношения (1.1). С другой стороны, как отмечалось
ранее, из (1.6) следует (1.7), а из (1.7) вытекает условие
марковости (1.1). Таким образом, верно следующее ут-
верждение: равенство (1.6) равносильно условию марко-
вости (1.1).
Заметим также, что для однородной цепи Маркова
при любом s выполняется равенство
р &« = 711, = О = р (5/ = 71 go = 0, i, 7 s JT. (1.10)
Это соотношение доказывается прямым вычислением ус-
ловных вероятностей при помощи формулы (1.8). (См.
задачи 2 и 3 гл. 8.) Поскольку вероятность (1.10) не за-
висит от $, то можно положить
P(U = 715, = 0 = ^(0.	(1’11)
Функции Pij (Z), G	называют вероятностями пере-
хода из состояния i в состояние / за время t.
Рассмотрим несколько примеров.
Пример 1. Блуждание частицы по целым точкам
отрезка [0, тг], описанное в § 4 гл. 4, является цепью Мар-
кова, в которой qi = 0 (Z =И= к), qk = 1; рпЛ = 0 (Z = 0,
— 1); р0,1 = 0 (I = 1, . .	и); Ро,ю = Рп,п = 1;
Pi,t+i = Р и pi,i-i = 1 — р (I = 1, . . ., п — 1). Равенст-
ва (4.4.4) и (4.4.5) являются следствием однородности
т(епи Маркова (см. (1.10)).
156
ЦЕПИ МАРКОВА
(ГЛ, 8
Пример 2. Пусть
3
1
Т 3
1	1
2	2
1	1
2	2 ,
qi=i,
дг — дз = 0.
4
Так как переходы из 2-го и 3-го состояний в 1-е не проис-
ходят, то
Р (5е = 1) = Р (go = 1, gi = Ъ • • -л It = 1) =
= Р(£о = 1)Р(£1 = Що = 1) ...Р (^ = 11^ = 1) = ЗЛ
Событие А, состоящее в том, что цепь всегда будет нахо-
диться в 1-м состоянии, можно представить в виде
оо
А = П {£/ = 1}г где - 1} —монотонно убывающая по-
i=l
следовательность событий. Следовательно^ по формуле
(1.3.11) находим
Р (Л) = lim Р (^ = 1) = lim 3"f = О,
t-»oo	t-*oo
Состояние i цепи Маркова называется несуществен-
ным, если существуют состояние / и число t0 такие, что
Рц (*о) > 0, и Рц (t) = 0 при любом t. В противном слу-
чае состояние называется существенным.
В примере 1 существенными состояниями являются О
и п, а остальные —• несущественными. В примере 2 со-
стояние 1 — несущественное, а 2 и 3 — существенные.
Можно доказать, что система, описываемая цепью Марко-
ва, уходит из несущественных состояний с вероятностью 1,
Пример 3. Положим
/О 1\
Р=(10/’ 9*=1> 92=0-
Если в момент t = 0 система находилась в состоянии 1 ,
то в нечетные моменты времени система будет находиться
в состоянии 2, а в четные — в состоянии 1. Таким образом,;
Pli(()=_L+bi.
Пример 4. Рассмотрим Т + 1 испытаний Вернул^
ли; вероятность успеха в испытании с номером t% t = О, Г<
§ 2]	УРАВНЕНИЯ ДЛЯ ВЕРОЯТНОСТЕЙ ПЕРЕХОДА	157
2, . . ., Т, равна р (0 < р < 1). Пусть случайная величи-
на = 1» если общее число успехов в испытаниях с но-
мерами s = 0, 1, 2, . . t было нечетным, и & = 2 в про-
тивном случае.
Равенство
Р (5ш = 7 | 5о = *о, Si — Ч» • • •» 5/-1 = Ч-i» 5/ ~ О —
= Р(5т = 7|5/ = О, Ч 7 = 1, 2, (1.12)
достаточно очевидно: если в момент t четность числа успе-
хов известна, то четность в следующий момент опреде-
ляется только результатом очередного испытания, а ис-
пытания по условию независимы. Равенство (1.12) легко
доказать, если воспользоваться тем, что событие
(5о ~ ч, 51 — ч, • • •, 5/ = ч 5/+1 — j) (1.13)
однозначно определяет исходы в испытаниях Бернулли
с номерами 0, 1, ...,£ + 1, а событие (gz = ч &+1 = /)
является конечной суммой событий вида (1.13). Из (1.12)
следует, что является цепью Маркова. Поскольку со-
стояние цепи h меняется лишь в случае успеха в очеред-
ном испытании, то непосредственно из определения
находим
Рп = Р (5i = 1 I 5о = 1) = 1 - Р = q,.
Рп = Р (51 = 2 |	= 2) = q.
Аналогично получим р12 = p2i — Р> Qi = Р> <h = Q- Не-
трудно вычислить вероятности перехода (0. Напри-
мер,
1(^-1)/2]
Р21(П = Р(5/ = 1|5о = 2) = 3
к=о
§ 2. Уравнения для вероятностей перехода
Кроме вероятностей «сплошных» цепочек исходов (1.7),
нередко приходится вычислять вероятности цепочек вида
(51, = /1, 51, =	; tts = О, (2.1)
где моменты времени 0, . . ., ts уже не обязательно явля-
ются соседними. Вероятность события (2.1) можно выра-
зить через вероятности перехода (0. По формуле
158
ЦЕПИ МАРКОВА.
[ГЛ. 8
полной вероятности
Р(5е1=/ь...Лв = 4) =
= 3 р ЙО = к) Р (&, = Ц,.. ., E,s = М = к).	(2.2)
Ьг—1
Преобразуя второй сомножитель под знаком суммы по
формуле (3.2.2) и используя условия марковости (1.1)
и условия однородности (1.10) (1.11), получим
Р(Ь, = /1,...Л,=и =
= 3 ЧъРь.К (fi) — fi). •. Pi^Jsttg — fs-i). (2.3)
R=1
Для вычислений по формуле (2.3) нужно уметь нахо-
дить Ри (0.
Теорема 2.1. При любых s, t
Рц (t + s)=^ Pi. (s) Pv (0, i, i = 1, 2,..., N. (2.4)
k=i
Доказательство. Вычислим вероятность
P (Bf+s = 7 I So = 0 по формуле полной вероятности
(3.3.1), положив Вк = (gs = к):
Р (&+» = 71 Io = i) =
N
= S P(l, = *Ro = OP&+.==f|&> = U, = fc). (2.5)
Из равенств (1.1) и (1.10) следует
Р (&+S = /I	L = к) =
= Р (U = 7 | L = к) = Р (& = 7 I go = к).
Отсюда и из равенств (2.5) и (1.12) получаем утверждение
теоремы.
Определим матрицу Р (0 = || Рц (0 В матричной
записи (2.4) имеет вид
Р (t + 0 = Р (0 Р (0.	(2.6)
Так как (1) = pih то Р (1) = Р, где Р — матрица ве-
роятностей перехода. Из (2.6) следует
Р (0 = (Р (1))‘ = Р‘.	(2.7)
Результаты, полученные в теории матриц, позволяют по
формуле (2.7) вычислять (0 и исследовать их поведу
§ 3]	СТАЦИОНАРНОЕ РАСПРЕДЕЛЕНИЕ	159
ние при £—» оо. Некоторые теоремы о неотрицательных
матрицах приведены в монографии 115]; подробное
исследование стохастических матриц и цепей Маркова
содержится в книге (14]«
§ 3. Стационарное распределение.
Теорема о предельных вероятностях
Распределение вероятностей & в произвольный мо-
мент времени t можно найти,; воспользовавшись форму-
лой полной вероятности
N
Р& = /)=Е?>ЛД0.	(8.1)
к==1
Может оказаться, что Р = /) не зависит от времени.
Назовем стационарным распределением вектор
7* = (<7i, . . ., 7*), удовлетворяющий условиям
7?>0, /с == 1,. . ., TV;
N	N
=	/=1.2......N, (3.2)
к=1	к==1
гДе Pij — вероятности перехода (1.2).
Если в цепи Маркова Р (g0 = к) = qk = 7*, то при
любом t
Р (^ = *) = 7ь к = 1, 2, . . ., N.
Это утверждение следует по индукции из (3.1) и (3.2).
Приведем формулировку теоремы о предельных ве-
роятностях для одного важного класса цепей Маркова.
Теорема 3.1. Если при некотором tQ 0 все эле-
менты матрицы Р** положительны, то для любых i, j =
= 1,2, . . ., ЛГ при t —> 00
pt} (0 =	(t),;	(3.3)
где q* = (q*, . . ., q%) — стационарное распределение с
7* > О, А = 1, . . ., N, ъц (t) = О (h1), ah— некоторая
постоянная, удовлетворяющая неравенствам 0 < h < 1.
Доказательство этой теоремы, опирающееся на факты
из теории матриц, содержится в книге [14]; прямое дока-
зательство имеется в книгах [4] и [13]. В § 4 приведено
прямое доказательство.
160
ЦЕПИ МАРКОВА
(ГЛ. 8
Так как Р (t0) = ₽*•, то по условию теоремы из любо-
го состояния можно попасть в любое за время t0 с положи-
тельной вероятностью. Условия теоремы исключают цепи,
являющиеся в некотором смысле периодическими (см.
пример 3 из § 1).
Если выполнены условия теоремы 3.1, то вероятность
того, что система находится в некотором состоянии /,
в пределе не зависит от начального распределения. Дей-
ствительно, из (3.3) и (3.1) следует, что при любом началь-
ном распределении = Р (g0 = i), i = 1, . . ., N,
limP & =j) = q*> j = 1, 2, . . ., N.
t-*oo
Рассмотрим несколько примеров цепей Маркова, для
которых условия теоремы 3.1 не выполнены. Нетрудно
проверить, что такими примерами являются примеры 1,]
2, 3 из § 1. В примере 1 при t —> оо вероятности перехода
имеют пределы, но эти пределы зависят от начального со-
стояния. В частности, при р = q — 1/2 (см. § 4. гл. 4)
lim Рк/ (t) = 0,	0 < I < п, к = 0, 1, . . .,
t—
lira Pko(0 = l - -к~, limPlfn(0=4’
t-*oo	П t-oo	n
к = 0, 1, . . ., n.
В примере 3 пределы вероятностей Р12 (t), Ри (t) при
t —» оо, очевидно, не существуют.
Найдем стационарное распределение в примере 2.
Нужно найти вектор q* = (q*t с$)х удовлетворяющий
условиям (3.2):
* 1 *
91-у	=9п
< 71 “у + Q'2 “2“ + 7з -g- = ?2»
* 1 * 1 . * 1 *
Qi “3“ + 7г “у + 7з "2" — 7з ’
7* > 0, к = 1, 2, 3, 7* + 7* + 7з = 1-
Отсюда 7* = 0, 72 = 7з = 1/2. Таким образом, стацио-
нарное распределение существует, но не все координаты
вектора 7* положительны.
В примере 4 из § 1 условия теоремы 3.1 выполнены уже
при — 1. Стационарное распределение (71, 7*) удов лет-
§ 3]	СТАЦИОНАРНОЕ РАСПРЕДЕЛЕНИЕ	<61
воряет уравнениям
Qi Рп + Q2 Р21 = Qi, QiPii + Q2P22 = <h>
где Рп = р22 = Q, Р12 = Р21 = Р- Отсюда q* = q* = 1/2
и по теореме 3.1 lim (t) = 1/2, i, j = 1, 2.
оо
Во всех разобранных примерах оказалось, что система
однородных уравнений
(Pjj — 1) + S 9*Ры = °> 7=1,2,...,#,	(3.4)
относительно неизвестных q*, . . ., g* имеет ненулевое
решение. Нетрудно проверить, что определитель матрицы
коэффициентов системы (3.4) равен нулю (если все столб-
цы определителя сложить с первым, то в силу свойства
(1.4) получим столбец из нулей).
В § 2 гл. 4 для полиномиальной схемы были введены
случайные величины, равные числу исходов данного типа.
Введем аналогичные величины для цепей Маркова. Пусть
(0, к = 1, . . ., N — число попаданий системы в со-
стояние к за время t. Тогда (t)/t — частота попаданий
системы в состояние к. Используя формулы (3.3), можно
доказать, что частота (t)/t при £ —> оо сближается с q*.
Для этого нужно получить асимптотические формулы для
Мтк (t) и Dxfr (0 и воспользоваться неравенством Чебы-
шева. Приведем вывод формулы для М (т7- (t) |	= 0 =
= тц (t). Представим т7 (t) в виде
Ту (0 = По + П1 + • • •+ Пь	(3.5)
где т), = 1, если = /, и цЛ. = 0 в противном случае. Так
как
м (П, | So = 0 = Ра (S),
то, воспользовавшись свойствами математического ожи-
дания ч формулой (3.3), получим
t	t
тц (0 = 3 Рц (s) = 9*-t+ 3	(s).
8=0	8=0
Второе слагаемое в правой части этого равенства в силу
теоремы 3.1 является частной суммой сходящегося ряда.
оо
Положив ац = 2	($), получим
8=0
ти (0 =	(Л*)» 0 < Л < 1, (3.6)
162	ЦЕПИ МАРКОВА	[ГЛ. 8
поскольку
t	со
S (5) = aij 3	(5)» I (5) |	•
S=0	8= <4-1
Из формулы (3.6), в частности, следует, что
м b = i)-+g*, j=l,2,..., N,
при tоо. Аналогично можно получить формулу для
М [т7- (t) (т7- (0 — 1) | £0 = d, которая используется для
вычисления дисперсии.
§ 4. Доказательство теоремы о предельных
вероятностях в цепи Маркова
Докажем сначала две леммы. Положим
vi (0 = min Рц (0, Vi (0 = max Pj (t).
*	j
Лемма 4.1. При любых I существуют пределы
lim (/) == lim Vt (/) = Qt
/-•OO	I—<30
U
<P < Qb
Доказательство. Используя уравнение (2.4) c s = 1,
получим
N	N
^(*4-1) = min	> min 3 Pin»)W = "/O'
1 k=i	1 A =i
N	N
(« + <) = max	< ,nax 3	=
1 A=1	1 A’=l
Таким образом, последовательности Vj (t) n V3 (t) монотонны и огра-
ничены. Отсюда следует утверждение леммы 4.1.
Лемма 4.2. Если выполнены условия теоремы 3.1, то сущест-
вуют постоянные С, б (С > 0, 0 < б < 1) такие, что
Vj {ntQ) - v3 (nt0) < Сбп, n = 1, 2, . . .
Доказательство. Для любых 1, /
N	N
0 = 3 piK м - 2 ря м = 3+ \ о* о + 3' Аи О’- ')•
А=1	A*=l	A*	Jf
где Д» (i, /) = Put (z0) — Рд (<0), означает суммирование по
§ 4]	ДОКАЗАТЕЛЬСТВО ПРЕДЕЛЬНОЙ ТЕОРЕМЫ	163
всем к, при которых Ад- (i, 7) положительны, а 2” — суммирование
по остальным к. Отсюда
2+	(i, I) = - 3'	(i, /).	(4.1)
к	к
Так как в условиях теоремы 3.1 вероятности перехода (t.) > О
при всех i, /, то при любых i, 7
N
3+ Д» (i. /) = 2Г <Лк ('«) - Лк ('«» < 3 PiK ('о) = 1 <4-2)
к	к	k=i
и в силу конечности числа состояний
б = max 2+ (Лк (<о) - Pjk (to)) < 1.	(4.3)
к
Оценим теперь разность Vj (nt.) — vj (nt.), Используя уравнение
(2.4)	с s = t., t = zU0, получим
((" + 1) M - ₽z ((n + 1) to) = max [P., ((n + 1) l0)-Pn ((n + 1)ZO)]=
]
N	N
= max 1 Лк ('«) ~ Лк ('°)1 Лг (n “> = max 3 Дк Л') рм (nt<^ <
*» j A-=l	j k=l
< max £ak(i,i)Vl (n'o) + 3’ \ ('. /) (»«o)l •
*>i (к	к	J
Отсюда, используя (4.1), (4.2) и (4.3), найдем
УI ((п + 1) to) - »t ((п + 1) to) <
< max [(Уг (nto) — t>z (nt0)) 2* Дк О] = d (v i (и/о) — t>i (n<o))-
*3 l	к	)
Объединяя это соотношение с неравенством (4.3), получаем утверж-
дение леммы.
Перейдем к доказательству теоремы. Так как последовательно-
сти i>z (t), Vt (t) монотонны, то
о <	(«) < qt < <?z < Vt (t).	(4.4)
Отсюда и из леммы 4.2 находим
о < Qt - qL < Vz (nl0) - VL (nt.) < Cbn.
Следовательно, ври n —♦ оо получим Qz = ql = q* и
£
z°)~^([тт] 'о)<с6‘0 '•
(4.5)
Положительность gz следует из неравенств (4.4). Переходя к преде-
лу при t оо и s = 1 в уравнении (2.4), получим, что qf удовлетво-
ряют уравнению (3.2). Таким образом, теорема доказана.
164
ЦЕПИ МАРКОВА
[ГЛ. 8
Задачи к главе 8
1.	Матрица вероятностей перехода цепи Маркова имеет вид
/0,1
Р = | 0,6
\0,3
0,5 0,4\
0,2 0,2 I .
0,4 0,3/
Распределение по состояниям в момент £ = 0 определяется вектором
q = (0,7; 0,2; 0,1). Найти: 1) распределение по состояниям в момент
t = 2; 2) вероятность того, что в моменты t = 0, 1, 2, 3 состояниями
цепи будут соответственно 1, 3, 3, 2; 3) стационарное распре-
деление.
2.	Пусть Ef, t = 0, 1, 2, . . .,— цепь Маркова с матрицей пере-
ходных вероятностей Р = || рц || и начальным распределением по
состояниям g = (дь . . ., q^). Выразить в виде сумм вероятностей
вида (1.7) следующие вероятности: а) Р (gs= /); б) Р (gs= i, lt+s= j).
3	(продолжение задачи 2). Доказать, что
р &+s =	=	=	= о.
Указание. Вычислить обе условные вероятности, восполь-
зовавшись результатом задачи 2.
4.	Пусть l — 1, 2, . . ., Г,— независимые одинаково распре-
деленные случайные величины, Р (^ — 1) — р, Р (gf = —1) =
= 1 — р. Являются ли цепью Маркова величины: а) т], = ^Дг+iJ
б) П/ =	• • • Ъь в) = <р (g(, g(+i), где <р (— 1, — 1) = 1,
Ф (—1, 1) — 2, ф(1, — 1) =3, ф (1, 1) = 4? Для цепей Маркова найти
матрицы вероятностей перехода за один шаг.
5.	Пусть — номер состояния в цепи Маркова в момент вре-
мени t, Р (|0 = 1) = 1 и матрица вероятностей перехода за единицу
времени равна
/3/7	3/7
( 1/11 2/11
\1/11 4/11
_ (1> если — 1,
8/Ц/	— (2, если Ф 1.
Показать, что последовательность ц, является цепью Маркова.
Найти соответствующую ей матрицу вероятностей перехода.
6.	В N ячейках последовательно независимо друг от друга
равновероятно размещают частицы. Пусть р,0 (п) — число ячеек,
оставшихся пустыми после размещения п частиц. Показать, что по-
следовательность ц0 (л), п = 0, 1, 2, . . . является цепью Маркова.
Найти вероятности перехода.
7.	Пусть тц, т)2, • • •— последовательность независимых одина-
ково распределенных случайных величин и / (х, у) — функция,
принимающая значения в множестве {1, . . ., JV}; х = 1, 2, . . ., N,
множество значений у совпадает с множеством значений тц. Явля-
ется ли последовательность случайных величин
(Р Ко = *) = л - о, 1, 2, . . N),
f = 0,1,2,...,
цепью Маркова?
8.	Игральная кость все время перекладывается случайным
образом с одной грани равновероятно на любую из четырех сосед-
них граней независимо от предыдущего. К какому пределу стремит-
ЗАДАЧИ К ГЛАВЕ 8
165
ся при t —» оо вероятность того, что в момент времени t кость лежит
на грани «6», если в момент t — 0 она находилась в этом же положе-
нии (t = 0, 1, 2, . . .)?
9.	По двум урнам разложено N черных и 7V белых шаров так,
что каждая урна содержит N шаров. Число черных шаров в первой
урне определяет состояние системы. В каждый момент времени вы-
бирают случайно по одному шару из урны и выбранные шары ме-
няют местами. Найти вероятности перехода и показать, что стацио-
нарные вероятности #* = CkNC^~k/C^N^ к = 1, . . ., N.
10.	Матрица вероятностей перехода Р и вектор q начального
распределения по состояниям имеют вид: q — (1/2, 1/2, 0, 0, 0, 0),
3/12 2/12 1/12
1/12 1/12 3/12
0	0	3/4
0	0	1/2
0	0	0
0	0	0
3/12	1/12	2/12'
1/12	4/12	2/12
1/4	0	0
1/2	0	0
0	1/3	2/3
0	2/3	1/3 .
Найти: а) несущественные состояния; б) математическое ожидание
т — времени до выхода из несущественных состояний; в) вероятно-
сти Р<?\ рГ попадания в множества состояний а = {3, 4}, 0 =
= {5, 6}, если начальным состоянием является i е {1, 2}; г) пре-
дельное при t —♦ оо распределение по состояниям, т. е. величины
= lim Р (it = к).
t—OO
Указание, б) Используя формулу полного математическо-
го ожидания, составить систему линейных уравнений для пц =
= М (т | g0 = 0, 1=1, 2. Воспользоваться формулой Мт =
= Р (|0 = 1) т1 + Р (£0 = 2) т2. в) Используя формулу полной
вероятности, составить системы линейных уравнений для р^\ р<&)
и для р<$\ г) Найти предельное распределение по состояниям,
когда начальным состоянием является состояние из множества а
и из множества 0. Использовать формулу полной вероятности и ре-
шение в).
И. Матрица вероятностей перехода Р = || pij | цепи Марко-
ва определяется формулами рп = 1 — а, р12 = а, р21 = 0,
р22 =1 — 0. Доказать, что
(Pn(t) Л2(0\ _2_/Р «\ (l-g-р/ ( а ~а\
\P2i(t) РМ а + Р\Р а/ а + Р	₽/
Найти стационарные вероятности.
12.	Для цепи Маркова, определенной в задаче И, обозначим тг
число попаданий в состояние 1 за время t. Доказать, что
lim Р /I — — —I <8^ = 1 при любом 8 > 0.
^оо \| t а + 0|^ ) F
Указание.
Показать, что
"’.“„-ru' + ow
и Dtz =
= о (I2) при t —> оо. Использовать представление it в виде суммы
(3.5) и решение задачи И.
ГЛАВА 9
Элементы математической статистики
§ 1. Задачи математической статистики
Пусть требуется измерить некоторую величину а. Ре-
зультаты измерений хг ((d), х2 (со), , , ,, хп (со) естественно
рассматривать как значения случайных величин х±, х2, . . .
. . ., хп, полученные в данном опыте с исходом со. Если из-
мерительный прибор пе дает систематической ошибки,
то можно предположить, что = а. Таким образом,
по результатам наблюдений xlt х2, . . ., хп нужно опреде-
лить неизвестный параметр а. Это типичная задача оцен-
ки неизвестных параметров. Общая ошибка измерения
часто складывается из большого числа ошибок, каждая
из которых невелика. В такой ситуации на основании
центральной предельной теоремы становится правдоподоб-
ным следующее предположение (гипотеза): случайные ве-
личины хк имеют нормальное распределение. Таким обра-
зом, мы пришли к задаче статистической проверки гипо-
тезы о законе распределения,
В § 3 гл. 1 рассматривались две различные модели (мо-
дель 1 и модель 2) подбрасывания двух монет. Вероят-
ность выпадения монет одинаковыми сторонами в моде-
ли 1 оказались равной 2/3, а в модели 2 — равной 1/2.
По результатам подбрасываний двух монет требуется
выбрать одну из двух моделей (или гипотез).
К задачам оценки параметров часто сводятся задачи,
в которых нужно установить зависимость между перемен-
ными. Пусть, например, из некоторых соображений из-
вестно, что переменная у линейно зависит от переменных
хг, х2, . . хк: у = Ао + А}Хг + . . . + Akxk. Коэффи-
циенты Ао, Аг, . . ., Ак неизвестны. При различных на-
борах (хц, xi2, , , ., xik), i = 1, . . ., п, измерены значе-
ния yt = Aq + Агхц + . . . + Akxik + 6f, где —
ошибки измерения у при наборе (xtl, xi2, . . ., xik). По зна-
чениям (yt, Хц, , , ., xik) требуется оценить коэффициенты
Ао, А19 . . Ак. Задачи такого типа называют регрес-
сионными.
§ 2] ПОНЯТИЕ ВЫБОРКИ. ВЫБОРОЧНЫЕ РАСПРЕДЕЛЕНИЯ 167
В перечисленных выше задачах оценка неизвестных
параметров или выбор гипотезы проводится по результатам
наблюдений или измерений, т. е. на основе эмпирических
данных. В следующем параграфе приводится описание
математической модели независимых измерений.
§ 2. Понятие выборки. Выборочные распределения
Чтобы сделать формальное определение выборки более
понятным, рассмотрим несколько примеров. Пусть нам
требуется оценить неизвестную долю белых шаров в урне,
содержащей белые и черные шары. По схеме случайного
выбора с возвращением отберем п шаров. При больших п
доля белых шаров в полученной выборке близка к доле
белых шаров в урне. Указанная процедура может быть
описана в терминах случайных величин. Пусть хк = 1,
если Л-й шар выборки оказался белым, и хк = 0 в про-
тивном случае (к = 1, 2, . . ., п). Тогда случайные вели-
чины х^ х2, . . ., хп независимы и одинаково распределе-
ны. Доля белых шаров х в выборке может быть вычислена
по формуле % = (хг + х2 + ... + хп)/п.
При измерении числовых характеристик часто оказы-
вается, что результат каждого измерения можно рассмат-
ривать как значение £ (со) некоторой случайной величи-
ны которое эта величина принимает в данном исходе
опыта со. Функция распределения F% (х) величины £ ха-
рактеризует используемый для измерений прибор. Не-
сколько независимых измерений, проводимых в одинако-
вых условиях, можно описать соответствующим количест-
вом случайных величин, каждая из которых имеет функ-
цию распределения (х).
Назовем случайной выборкой объема п (или просто вы-
боркой) случайный вектор (яп х2, . . ., яп), где xkl к =
= 1, . . ., п, независимы и одинаково распределены с
Р (хк <Z х) = F^ (х). Случайная выборка является ма-
тематической моделью независимых измерений, проводи-
мых в одинаковых условиях.
Иногда в задачах, связанных с измерениями, оказыва-
ется, что величины х1У . . ., хп можно считать нормально
распределенными. В задаче с подбрасыванием двух монет
(см. § 3 гл. 1) имеем дискретные величины Р (хк = 1) =
= Рь Р (хк == 0) = 1 — рь I = 1, 2, где хк = 1, если в
Л-м испытании монеты выпали одинаковыми сторонами;
Pi = 2/3, р2 = 1/2. При оценке доли брака в партии из-
168	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ (ГЛ. 9
делий по схеме случайного выбора без возвращения вели-
чины, входящие в выборку, оказываются зависимыми.
Обычно мы будем рассматривать случай независимых из-
мерений.
Одной из основных характеристик выборки является
эмпирическая функция распределения Fn (х), определяемая
формулой
F*n(x)=^,	(2.1)
где (х) — число значений среди хг, . . ., хп, меньших х.
Таким образом, при любом х величины р,п (х), а следова-
тельно, и F* (х) являются случайными.
Случайные величины выборки х1ч х2, . . ., хп, располо-
женные при каждом со в порядке возрастания их значе-
ний:
•^(1)	Х<2)	X(nh
определяют новые случайные величины, называемые ва-
риационным рядом. В частности, #(i)= min {xr, . . ., хп},
х(п) = max {хх, х2, . . ., хп}.
Покажем, что при больших п эмпирическая функция
распределения F^ (х) близка к функции распределения
F(rr).
Т е о р е м а 2.1 Для любого х (— оа <2 х <С ж) и лю-
бого 8 > О
limP{|F:(rr)-F(x)|<8} = l.
П—ОО
Доказательство. С каждым xk (k = 1, . . ., п)
можно связать два события: {х* < х} и {хк > х}. Веро-
ятности этих событий, очевидно, равны
Р = р {хи < х} = F (х), q = Р > х} = 1 — F (х).
Если событие {хк < х} назвать успехом, то р,п (х) являет-
ся числом успехов в серии из п независимых испытаний.
Так как в рассматриваемой последовательности испыта-
ний Fn (я) = р-н (#)/я является частотой успеха, то ут-
верждение доказываемой теоремы сразу следует из теоре-
мы 5.6 гл. 6.
Иногда для наглядного представления выборки ис-
пользуется гистограмма, получаемая следующим обра-
зом. Числовая ось разбивается на несколько непере-
г
секающихся полуинтервалов: (— оо, оо) = (J [zfc, Zfc+1),
Jf=O
§ 3]	ВЫБОРОЧНЫЕ МОМЕНТЫ	169
где ~~~~ оо = z0 z± z2 ... zr zr+1 ==	• Далее
вычисляются частоты = F% (zk^) — F% (zk) попада-
ния элементов выборки в эти полуинтервалы. Затем над
каждым отрезком lzk, zfc+1] строится прямоугольник, пло-
щадь которого пропорциональна частоте р*. Так же как
при доказательстве теоремы 2.1, можно показать, что pf
при больших п близки к рк = F (zk+1) — F (zk) или (если
F (х) имеет плотность распределения р (х)) к рк =
гК+1
= р (х) dx. Таким образом, при удачном выборе ши-
рины интервалов гистограмма может напоминать график
плотности распределения р (х).
Рассмотрение графиков эмпирической функции рас-
пределения и гистограммы может дать некоторое предва-
рительное представление о неизвестной функции распре-
деления F (х).
Более точные выводы о неизвестной функции распре-
деления F (х) могут быть сделаны на основе следующей
теоремы А. Н. Колмогорова.
Теорема 2.2. Если функция F (х) непрерывна, то
при п ъо
Р {/n ( sup I Ft (х) — F (х) I) < г} -+ К (г) =
—оо <Х<ОО
О	при z^ О,
5i (— l)fre-2*2*2 npU z^>0.
к=—оо
Теорема А. Н. Колмогорова позволяет указать гра-
ницы, в которых с большой вероятностью будет заключе-
на неизвестная функция распределения. Если za подо-
брано так, что 1 — К (za) = а, то неравенства
Ft (х) -	< F (х) < Ft (х) + -£=-
у/ п	уп
выполняются сразу для всех х с вероятностью, близкой
к 1 — ос.
§ 3.	Выборочные моменты
3.1	. Математическое ожидание и дисперсия выбороч-
ных моментов. Для каждой реализации измерений хг (со),
т2 (о>), . . ., хп (со) эмпирическая функция распределения
170
ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ
[ГЛ. 9
ГЦ (х) является функцией распределения некоторой ди-
скретной случайной величины, принимающей п значений:
хг (со), х2 (со), . . ., хп (со) — с вероятностями, равными
1/тг*). При различных со соответствующие функции F* (х)
различны. При каждом со можно ввести различные число-
вые характеристики соответствующего данному со закона
распределения, определяемого F* (#)• Эти характеристики
будем называть выборочными. Выборочные моменты и
центральные выборочные моменты порядка v вычисляются
по формулам
п	п
^4. mv =-^-	—	(3.1)
к=1	к=1
где
п
х=а! = -^- У	(3.2)
к=1
— выборочное математическое ожидание (или выборочное
среднее).
Можно показать, что при достаточно общих ограни-
чениях на неизвестную функцию распределения F% (х)
выборочные характеристики (3.1) близки к соответству-
ющим теоретическим характеристикам (х):
av = M£v, = М (g - Mg)*.	(3.3)
Найдем сначала математическое ожидание и диспер-
сию выборочных моментов. Так как х* независимы и рас-
пределены так же, как £, то
Мж = У = Mg = ai,
k=l
n
D« = -^2jDxlt = 4-Dg=Fi2/n.
м
Таким образом,
Мж = аь Ож=-^-.	(3.4)
Аналогично находим
Mav = av, Dav = ~2V n .	(3.5)
♦) Если какое-либо значение встретится в выборке k раз, то
;тому значению соответствует вероятность к/п.
§ 3]	ВЫБОРОЧНЫЕ МОМЕНТЫ	171
Несколько сложнее вычисляются математическое ожи-
дание и дисперсия центральных выборочных моментов.
Ограничимся вычислением ЬКт2 и D/n2. Положив ун =
= xk — к = 1, . . п, запишем вторую формулу
(3.1) при v = 2 в виде
п	п
т* = -г У, -= v S у* ~ у2’ (?-6)
1»=1	k=i
где у = (yi + ...+ уп)/п. Поскольку Му(. = О, Му» = ; 3
и Му kyz = MyR • Myz = О (k^l), то
X Му»уг = ^..
к, 1=1
Отсюда и из (3.6) находим
М/п2=^=1ц2.	(3.7)
В формуле (3.5) математическое ожидание av совпало
с соответствующим теоретическим моментом. В (3.7) пра-
вая часть смещена относительно ц2. Если вместо т2 ввес-
ти величину
п
s2 = т2 = У (хк — г)2,	(3.8)
Ь'=1
то для нее получим
Ms2 = ц2.	(3.9)
Перейдем к вычислению От2. Из (3.6) находим
+!'*• <зло>
R—1	К=1
Так как случайные величины у^, к = 1, . . ., п, независи-
мы и = 0, то в правой части равенства
п
Ы<у* = -^ У,
отличны от нуля только п слагаемых Му] = р,4 и САС* =
= 3n (п — 1) слагаемых Myjy» = Z #= к. Поэтому
172
ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ
[ГЛ. 9
Му4 = (р4 + 3 (и — 1) р2)/и3. Аналогично находим
м [(Z^)7n]=w2M	~
к=1	К=1
Отсюда и из (3.10) по формуле Om2 = Мт2 — (Мтт?2)2 по-
лучим
п Hi - И] 2	- 2Н1) Ш - 3^
Dm2 = —----------------------— + —_ .	(3.11)
Можно показать (соответствующие вычисления см.
в книге [10], § 27.5), что для любого v при п -> оо
Mmv = Mv + 0(4)’M<^-Hv)2* = 0	• (3-12)
Вторая из этих формул верна, если конечен момент p2IfV.
Из неравенства Чебышева и формул (3.4), (3.9) и (3.11)
следует, что для любого г > 0 при п оо
Р {| X — ах | < в} -> 1, Р {| $2 — р2 | < в} -> 1, (3.13)
где величина s2 определена формулой (3.8). Аналогичные
утверждения верны и для Оу, т^ при любых v > 2.
3.2	» Асимптотические распределения. Найдем сначала
асимптотические при п -> оо распределения выборочных
п
моментов Оу Величина nav= 2 х* является суммой не-
к=1
зависимых одинаково распределенных случайных вели-
чин. Если конечен момент a2V = M£2v, то к этой сумме
можно применить теорему 4.1 гл. 7. Так как = av,
Dxk = <x2v — Qty, то величина
(nav — nav)/V (a2V — a*) n = (av — av) /	— v n
асимптотически нормальна с параметрами (0, 1). Таким
образом, справедлива следующая теорема.
Теорема 3.1. Если конечен теоретический момент
a2V, то при п -+ оо выборочный момент av асимптоти-
a2V av |
(Ху---п-------/ ’
Несколько сложнее доказывается асимптотическая нор-
мальность центральных выборочных моментов т?. Огра-
ничимся лишь случаем v = 2.
§ 3]	ВЫБОРОЧНЫЕ МОМЕНТЫ	173
Теорема 3.2. Если конечен теоретический момент
ц4, то при п -> оо выборочная дисперсия т2 асимптотиче-
(	Н4-Н2
ски нормальна с параметрами I рг,--—
Доказательство. Используя формулу (3.6),
получим
= Vn (т2 — ц2) = %п + Т]„,
где
п
5п = —7^ У,(yl — Мг/fc),	— У2 /й,	(3.14)
*п /Г=1
у*, k = 1, . . ., п,— независимые одинаково распределен-
ные величины. Так как Мг/2 = р2/п и, следовательно,
М | Лп I = pVP п,> то, согласно лемме 5.1 гл. 6, для лю-
бого е > О
8 е]/п
при п “> оо. Отсюда и из теоремы 2.7 гл. 7 вытекает, что
предельное распределение совпадает с предельным рас-
пределением £п. В соответствии с теоремой 4.1 гл. 7 слу-
чайная величина асимптотически нормальна с парамет-
рами (0, ц4 — рз). Теорема доказана.
Иногда требуется определить точное или хотя бы при-
ближенное распределение некоторой функции от выбо-
рочных моментов. В качестве примера, иллюстрирующего
исследование предельного распределения в таких зада-
чах, найдем предельное распределение функции от выбо-
рочного среднего X и выборочной дисперсии т2.
Теорема 3.3. Пусть цп = g (т, т2), функция g
z2) определена в окрестности точки (ап р2) и имеет в этой
окрестности непрерывные частные производные второго
порядка. Если конечен момент р4 и а2 0, то величина
цп при п-+ оо асимптотически нормальна с параметрами
(ёо, о2/п), где g0 = g (ах, р,2), а2 = guji2 + 2g12ji3 +
+ Я22 (Щ — Нг). a gu=	(». 7 = 1, 2) в точке
*	3
(«1, |Л2).
Доказательство. Покажем, что из условий
теоремы 3.3 следуют условия теоремы 6.1 гл. 7 при г = 2,
gn2 = т2. Действительно, из формул (3.4), (3.7)f
174	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ [ГЛ. 9
(3.11)	при п оо получаем
ап1 = M|nl — aj, an2 = МЕ„3 = р._> +
(3-15)
ОЬ,, = *.	+
Кроме того, воспользовавшись формулой (3.6), найдем
п
cov (gnl, £ni) = cov (X, т-,) = М [(/	J3, у'к — у2 — ц.)] =
К=1
=4ZM^-“s,=v+°(i)-
М=1
Отсюда и из (3.15) еледует выполнение условий теоремы
6.1 гл. 7. Теорема доказана.
Отметим, что из условий доказанной теоремы еще не
следует, что параметры предельного нормального расп-
ределения являются главными членами асимптотических
формул для Мцп, Сцп (см. также [10], § 27.7, стр. 388).
3.3. Точные выборочные распределения. Допредель-
ные распределения различных выборочных характеристик
могут заметно отличаться от предельных. Отыскание точ-
ных распределений является обычной задачей нахожде-
ния распределения функции от случайных величин (см.
§ 6 гл. 5). Однако найти точные выборочные распределе-
ния в удобной для приложений форме в общем случае
не удается.
Как уже отмечалось в § 2, величины к = 1, . . п,
часто оказываются нормально распределенными. Здесь
мы ограничимся рассмотрением выборок хг, х2, . . хп
с нормально распределенными хк (к ' = 1, . . ., п). Для
нормально распределенных распределения многих вы-
борочных характеристик выражаются через небольшое
число распределений, для которых имеются таблицы. Да-
дим еще несколько определений часто встречающихся в
статистических исследованиях распределений.
Пусть £0,	— независимые нормально расп-
ределенные случайные величины с параметрами (0, 1).
Распределение величины
+ + ... + &	(3.16)
называется распределением х2 (хъ-квадрат) с п степеня-
§ 3]	ВЫБОРОЧНЫЕ МОМЕНТЫ	175
ми свободы. Распределение величины
=	(3.17)
называется распределением Стьюдента с п степенями
свободы. Обозначим и независимые случайные ве-
личины, имеющие распределение %2 с пг и п2 степенями
свободы соответственно. Распределение величины
= (ЗЛ8)
называется F-распределением (или распределением Фише-
ра) с пг и п2 степенями свободы.
Плотности распределения этих величин могут быть
найдены в явном виде (см. [10] и [16]); формулы плотнос-
тей распределений приведены перед таблицами 4, 5, 6.
Найдем теперь совместное распределение выборочного
среднего X и выборочной дисперсии т2. Следующая теоре-
ма о совместном распределении X и т2 была доказана
Р. Фишером.
Теорема 3.4. Если элементы выборки х^, к =
= 1, . . ., и, независимы и распределены нормально с па-
раметрами (а, а2), то X и т2 независимы, причем X распре-
делено нормально с параметрами (а, а2/п), а птп2/а2 имеет
распределение %2 с п — 1 степенями свободы.
Доказате л,ь с т в о. Обратимся к соотношению
(3.6). В предположениях доказываемой теоремы у19 у2, . . .
. . ., уп независимы и каждая величина у* распределена
нормально с параметрами (0, 1). Введем новые случайные
величины | = (|х, . . gn)' — где у = (ylt . . . уп)',
сцс = ~ , к = 1, 2, . . ., п, а остальные строки с11е, к =
у п
= 1, . . ., п, I 2, выбраны так, что матрица С ортого-
нальна. При таком выборе С
51 =-^7=	= JTL^’ М^ = 0*	D?* = 1
<j 1/ п	°
у к=1
(fc = 1, . . . t n)t
COV (5ь h) =
n	n
= У ckictJMya} = У Ск1сц = 0 (к ’)
ij=l	ij=«l
176
ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ
[ГЛ. 9
Отсюда следует, что £х, . . Еп независимы и каждая
величина распределена нормально с параметрами (0, 1).
Выразим теперь т2 через новые случайные величины.
Поскольку сумма квадратов инвариантна относительно
ортогональных преобразований, то
= 4	- (4 Й - Я = $ + • • • + & (3.19)
Jf=l	К=1
Отсюда и из независимости Ех, . . ., следует независи-
мость и Т= —oEi + а. Нормальная распределен-
ность X следует из нормальной распределенности £х. Из
(3.16) и (3.19) вытекает, что nmja2, имеет распределение
%2 с п — 1 степенями свободы. Теорема доказана.
При помощи теоремы 3.4 можно найти распределение
еще одной часто используемой величины. Величина £х =
= (# — a)l(al\f п) имеет нормальное распределение. Кро-
ме того, |х и тгт2/сг2 независимы. Следовательно, по опре-
делению (3.17) величина
_____51______________ (*-<№//» ) _ х — а	j
+ . . . + ^________________________/пт2/б2 (п-1)
имеет распределение Стьюдента с п — 1 степенями свобо-
ды. Таким образом, доказано следующее утверждение.
Теорема 3.5. Если элементы выборки xlf . . ,, хп
независимы и каждая из этих величин распределена нормаль-
но с параметрами (а, о2), то величина Х^— Vn ~ 1 имеет
распределение Стьюдента с п — 1 степенями свободы.
Распределение Фишера будет использоваться в § 8.
Там же нам понадобится следующая теорема, касающаяся
распределения величины, пропорциональной отношению
двух выборочных дисперсий, вычисленных по двум неза-
висимым выборкам.
Теорема 3.6. Пусть жх, . . ., хПх и х'1ч . . ., х'^ —
две независимые выборки и любая из этих пх + п2 независи-
мых величин имеет нормальное распределение с парамет-
рами (а, а2). Тогдавеличина	, где лц —
борочная дисперсия выборки	хП1, а т^ — выбо-
&4)
ТОЧЕЧНЫЕ ОЦЕНКИ
177
речная дисперсия выборки х{, . . х'щ, имеет F-распреде-
ление с пг — 1 и п2 — 1 степенями свободы.
Утверждение этой теоремы непосредственно следует
из теоремы 3.4 и определения величины (3.18).
§ 4. Точечные оценки
4.1. Определения и примеры. Предположим* что функ-
ция распределения, соответствующая выборце х1г х21, •.
t . хп, зависит от неизвестного параметра 0:
Р (хк < х) =	(х\ 0).
Оценкой 0* параметра 0 называется произвольная функция
0* = 0* (^i, ^2, • • •, хп)- Таким образом, 0* является
случайной величиной. Естественно потребовать* чтобы
значения оценки в большинстве опытов были близки к
значению оцениваемого параметра. Будем называть оцен-
ку 0* несмещенной оценкой параметра 0, если при любом п
М0* = 0.	(4.1)
Оценка 0* называется состоятельной, если для любого
8 > 0 при п -> оо
Р{|0£-О|<8}->1.	(4.2)
Условиям (4.1) и (4.2) может удовлетворять несколько
разных оценок одного и того же параметра. Тогда из
них естественно выбрать ту, у которой дисперсия наи-
меньшая. Для широкого класса распределений можно
указать точную нижнюю грань дисперсий оценок одного
и того же параметра (см. п. 4.3).
Рассмотрим два примера.
Пример 1. Пусть 0 = ах = М^. Положим 0J =
= 9* (^i, • •	*п) = 3, 0* = х19 где X определено форму-
лой (3.2). Из определения несмещенности и из формулы
(3.4) следует, что обе оценки 0* и О* являются несмещен-
ными. Оценка 0*, очевидно, не является состоятельной.
Состоятельность оценки X была доказана в § 3 (см. (3.13)).
Пример 2. Пусть 0 = р2 = М (хк — Мхк)2. По-
ложим 0£ = где s2 определено формулой (3.8). Из со-
отношений (3.9) и (3.13) следует несмещенность и состоя-
тельность оценки 0*. Выборочная дисперсия т2 не обла-
дает свойством несмещенности (см. (3.7)).
178	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ (ГЛ. 9
О. Достаточные статистики. Может оказаться, что вся по-
лезная информация о неизвестных параметрах содержится в не-
большом числе функций, зависящих от выборки (xf, . . ., хп),
В этом случае, особенно при больших объемах выборки, задача
построения оценок может значительно упроститься. Различные
функции от выборки обычно называют статистиками. Обозначим
Pq (Л) закон распределения вероятностей случайного вектора
(х15 х2, . . ., хп) с Р (x]q < х) = F (х, 0). Статистика X = X (х±, , . .
. .	х«), скалярная или векторная, называется достаточной для
параметра 0, если для любого события А условная вероятность
Ре (Л | X) не зависит от 0. Определенная таким образом доста-
точная статистика X подытоживает все существенные сведения
о параметре 0. Действительно, вероятность любого события, ко-
торое может произойти при фиксированном X, не зависит от 0,
и, следовательно, оно не может содержать дополнительной инфор-
мации о неизвестном параметре 0.
Очевидно, что X == (xj? . . ., хп), т. е. сама выборка является
достаточной статистикой. (Событие Л является подмножеством
множества значений (х1э . . ., хп), и, следовательно, Р0 (Л | X)
при любом 0 есть либо 0, либо 1.) Больший интерес представляют
случаи, когда размерность X меньше п. Приведем теорему, по-
зволяющую практически находить достаточные статистики.
Теорема 4.1. Пусть (и), и = (и*, . . ., ип),— совмест-
ная плотность распределения случайной выборки х*, х2, . . ., хп,
где Xft = х^ (и) = k = 1, . . ., п. Статистика X = X (и) до-
статочна для параметра 0 тогда и только тогда, когда
Р0(а) = ge(X (u))-h(u),	(4.3)
где £0» h неотрицательные функции и h не зависит от 0. Для
дискретного случайного вектора х = (х±, . . ., хп) утверждение
теоремы сохранится, если р0 (и) понимать как вероятность со-
бытия {х = и}.‘
Доказательство приведем только для дискретного вектора х.
Пусть	. . ., и<*\ . . .} — множество значений х\
X = X (и) (и е 41) — некоторая достаточная статистика. Выбе-
рем какое-нибудь и^ е % и положим v = X (и^). Тогда
Р0 (х =	= Р {х = u(fr), X (и) = V} =
= Р0 (X = р).Р (х = и<" | X = и).
Первый множитель в правой части зависит только от и и неизвест-
ного параметра 0, а второй множитель по определению достаточной
статистики (в качестве Л нужно взять событие {х = не
зависит от 0. Таким образом, получили (4.3). Пусть теперь выпол-
нено (4.3) и X — некоторая статистика. Покажем, что X — до-
статочная статистика. Найдем условную вероятность Р0 (Л | X = и}.
Используя (4.3), получим
Р(Х = п)=	3	Po(“W)=	3 ge(X(u<fr>))A(uW) =
= ?0(p)	3	A(«k).
u(fr)e{JT=v)
«4]
ТОЧЕЧНЫЕ ОЦЕНКИ ,
179
Р(4ПМ)= 3 gQ(X(u^))h(u^)^gQ(y) 3 ЛЛ
иООев	u^Jefi
где В = A p|{X = i>}. Отсюда находим, что условная вероятность
Р(4|Х = ₽) = /	3	h^W)\/( s Л(“№)Л
и, следовательно, не зависит от 0. Теорема для дискретного случая
доказана.
Рассмотрим два примера.
Пример 3. Пусть хх, х2, . . ., хп — независимая выборка
с Р (xjt = v) = 0V (1 — 0)1“r (v = 0; 1), к = 1, . . ., n. Тогда
Ре (и) = Р {^i = хп = ип} =
П	п
п	2 “ п-
= Ц 0Uj- (1 - о/ Ufr = e»=1 (i - в) *-i
fr=l
n
Это равенство для статистики х = —.	хк имеет вид (4.3) с h (и) =
г 1,	(г?) = 0nv (1 — 0)n"nt>. Рассмотренная в данном примерз
выборка определяет п испытаний схемы Бернулли с вероятностью
появления исхода 1 в каждом испытании, равной 0. Таким обра-
зом, показано, что достаточной статистикой для вероятности ус-
пеха в схеме Бернулли является частота х.
Пример 4. Пусть х^, х2, . . ., хп -— независимая выборка,
в которой х^ (к == 1, . . п) имеет нормальное распределение с
параметрами (д, о2). Будем искать достаточную статистику для
двумерного параметра 0 = (а, о2). Плотность совместного распре-
деления выборки равна
-Н"
=</a0)-"„p{-g
Отсюда, так же как в предыдущем примере, нетрудно получить,
что достаточной статистикой является двумерная статистика
1 S	• Так КаК обе функции этой статистики можно вы-
4’3X1 fr=l J
разить через Зия2 без использования а и о1, то (3, я2) тоже доста-
точная статистика.
Приведем теперь частный случай теоремы Рао — Блэкуэлла —
Колмогорова. Эта теорема позволяет по данной оценке найти оценку
с меньшей дисперсией, если известна достаточная статистика.
Теорема 4.2. Пусть . ., хп — независимая выборка
с Р {хк < я} =	(ж, 0), 0* — несмещенная оценка параметра
180	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ (ГЛ. 9
6 и X — достаточная статистика. Тогда дисперсии оценок 0*
u 0* = М (0* | X) удовлетворяют неравенству D0*	D0*.
Доказательство проведем для случая, когда 0* и X имеют
дискретное распределение: Р {0* = X = vi} = k, I =
= 1, 2, * . . Из формулы полного математического ожидания (6.6.3)
следует, что М0Ф = М [М (0* | X)] = МО* = 0. Поэтому для до-
казательства нужного неравенства достаточно показать, что
м (0*)» = М {[М (0* I X)F} < М (0*)а.	(4.4)
Пусть p.z = У Р*. V Тогда М (0*)2 = У г и М {[М(0*|Х)]2}=
1с
=	uk р г. По неравенству Коши — Буняковского
1* R Pl
имеем
Умножив обе части этого неравенства на p.i и просуммировав по
всем Z, получим (4.4). Теорема доказана.
4.3.	Неравенство Рао—Крамера. Пусть х = (хи, « , ,
• • •, хп) ~ независимая выборка, в которой хк (к = 1,.. .
. . ., п) имеет плотность распределения р (у, 0), где 0 —
неизвестный параметр, a v — переменная плотности рас-
пределения. Положим G = {и: р (и, 0)	0} и
Gn = {и = (un • • •» ипУ- Щ ^G, i = 1, . . ., и}.
Совместная плотность распределения р$(и) = р (и1У 0) . . .
. . . р (ип, 0) выборки fo, . . ., хп) отлична от 0 на мно-
жестве Gn. Пусть 0* = 0* (х19 х2, . . ., хп) — несмещен-
ная оценка параметра 0. Тогда М0* = 0. Это равенство
можно записать в виде
0=^0* (и) pe(u)dut и — (иъ ...» ип). (4.5)
Gn
Оценим D0* в следующих условиях регулярности:
1°. Множество G = {у: р (у, 0) > 0} не зависит от 0.
2°. Выражение в правой части (4.5) и выражение
оо
р (и, 0) du можно дифференцировать по 0 под знаком
интеграла.
ТОЧЕЧНЫЕ ОЦЕНКИ
181
§ 4]
3°. Выражение
/(0)=	(4.6)
G
положительно.
Так как р$ (и) — плотность распределения, то
1= pQ(u)dufi u = (ui,.., 9 ип)»	(4.7)
Gn
Продифференцировав (4.5) и (4.7) по 0, найдем
1= Je*(u)^ldu,	(4.8)
Gn	Gn
Умножим теперь второе равенство в (4.8) на 0 и вычтем
из первого. В результате выполнения указанных преобра-
зований получим
1= $(0*(M)_0)-^UM.	(4.9)
с»
Так как на множестве G плотность ре (и) > 0, то
Зр0(и)	д!пр0(и)
50	50
Подставляя это выражение в (4.9) и используя неравен-
ство Коши — Буняковского, находим
л (с /п* / х Qvlnp0(u) / V
1=Ц уОп (и) — 6J-55-Ре (и)du)
Gn
Р	Р / д In Da (и) \ 2
< J (9* — 9)2 ре (и) du- Ц-5Q-J Pe(u)dut
Gn	Gn
ИЛИ
t Г f д In Ра (х) \ 2Т
1<D9*.M[(—^-L) ].	(4.10)
Выразим второй сомножитель в (4.10) через величину
I (0), определенную (4.6). Из равенств (4.8) при п = 1 сле-
дует, что
[д In р (х^ 0) ~]	_
—<4-и)
182
г ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ
(ГЛ. 9
п
Так как In ре (х) = 3 In р (х^. 9), то
k=i
/ д In ре (аг) \з Л д In р (лг^О) д 1п«р (х^ 0)
\ дё J = 2-1	00	09
к ,1=1
Отсюда, учитывая независимость сомножителей при к Ф I
и равенство (4.11), находим
Подставляя это выражение в (4.10)^ получим окончатель-
ный результат:
1
nZ(0) ’
D0£>
(4,12)
где I (0) определено формулой (4.6). Это неравенство на-
зывают неравенством Рао —- Крамера. Аналогичное дока-
зательство может быть проведено и для дискретных выбо-
рок. В этом случае нужно использовать представление
I (0) в форме математического ожидания *).
Назовем эффективностью несмещенной оценки 0*,;
удовлетворяющей условиям регулярности 1°—3% вели-
чину
е (0*) = (п1 (0) D0*)-i.	(4.13)
Из неравенства (4.12) следует, что 0 е (0*)<^ 1. Оценку
0£ называют эффективной, если е (0*) = 1. Оценка 0*
параметра 0 может оказаться асимптотически нормальной
с параметрами (0, а2/тг) при оо даже в тех случаях,
когда D0X не существует. Асимптотической эффектив-
ностью назовем величину eQ (0*) = (о2/ (О))’1. Оценку 0*
называют асимптотически эффективной, если eQ (0*) = 1.
Вычислим эффективность нескольких оценок.
Пример 5. Пусть х2г . , м хп — независимая вы-
борка, соответствующая нормальному распределению с
параметрами (а. а2). В качестве оценок а и а2 возьмем вы-
борочное среднее $ и величину s2, определенную формулой
(3.8). Обе оценки являются несмещенными и состоятель-
♦) Можно показать, что неравенство (4.12) обращается в ра-
венство, если оценка 0* является достаточной статистикой»
« 41
ТОЧЕЧНЫЕ ОЦЕНКИ
183
ными (см. примеры 1 и 2):
= a, Ms2 = o2jj
D^ = —, Ds^ = ———!l + o(_LA
n '	n ‘	\ n2 /
В примере 5 § 2 гл. 7 были найдены центральные моменты
нормально распределенной случайной величины; в част-
ности, М (х* — а)4 = За4. Подставляя это значение
в формулу (3.11), получим точную формулу для Dzn2 =«
= 2 (п — 1) a*In2. Отсюда
Ds2 = D [-А_ те2] =2а4/(и - 1).
Для вычисления эффективности нужно еще найти вели-
чину I (0) для 0 = а и 0 = о2, По формуле (4.6), полагая
р (и, 0) = р (и, а, а2) = (2ла2)“1/2 ехр|-
находим
оо
/(«) = $ (-£^-)2p(M,a,o2)dM = -i-,
—оо
Г /	С / (* - а)2	1 \2	/	J 1
Л<?2) = J ( 2з« ' ~ 2^) P^a^)du =
— 00
По формуле (4.13) получаем
Итак, оценка х является эффективной, а оценка s2 асим-
птотически эффективна.
Интересно отметить, что при нарушении условий ре-
гулярности (см. задачу 12; в условиях этой задачи нару-
шено условие 1°) дисперсия оценки при п оо может
быть меньше Uni (0) даже по порядку.
4.4.	Метод наибольшего правдоподобия для нахожде-
ния оценок параметров. Метод моментов. Если функция
распределения F (х, 0) = Р (х* < x)tk = 1,; 9 * f£ п£ име-
ет плотность р (х, 0), то функция
L = L (хи , t xni 0) = р 0) р (#21 0) < • ® р ®)
(4.14)
!8i	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ [ГЛ. 9
называется функцией правдоподобия. .Для выборки, со-
стоящей из дискретных величин xk, k = 1,- . . ., п, с рас-
пределением Р (хк = х) = рх (0) функция правдоподобия
определяется равенством
L = L (xlt . . хп, 0) = pXl (0) рХг (0) , , . рХп (0). (4.15)
При фиксированных хх, . . хп функцию L будем рас-
сматривать как функцию параметра 0. По методу наиболь-
шего правдоподобия за оценку параметра 0 принимается
значение аргумента 0, при котором L имеет максимальное
значение. При фиксированном 0 функция правдоподобия
L ((4.14) или (4.15)) задает совместное распределение вы-
борки, если рассматривать х19 . . ., хп в (4.14) и (4.15)
как независимые переменные. Таким образом, по методу
наибольшего правдоподобия выбирается значение 0, при
котором вероятность получения данных значений выбор-
ки максимальна. Поскольку In L при фиксированных
хх, . . ., хп достигает максимума при том же значении 0,;
что и L, то для нахождения оценки можно решать уравне-
ние правдоподобия
= 0-	(4.16)
Решением (4.16) будем называть только корни, зависящие
от х^ х2, • . хп. Каждое решение уравнения правдопо-
добия (4.16) будем называть оценкой наибольшего правдо-
подобия для 0.
При некоторых достаточно общих условиях уравнение
(4.16) имеет решение 0*, являющееся состоятельной оцен-
кой параметра 0; 0* при п —> оо является асимптотиче-
ски нормальной и асимптотически эффективной оценкой 0.
Условия, при которых доказывается это утверждение
(см. [10], гл. 33, стр. 544), заключаются в существовании
нескольких производных по 0 от In L и в существовании
моментов этих производных.
Если 0 = (0П . . ., 05), то оценками наибольшего прав-
доподобия параметров 0Х, . . ., 05 являются зависящие от
(#1, , • .2 #п) решения системы уравнений
=	*=1,2,
Пример 6. Пусть величины xk, k = 1, 2, . . ., п,
имеют нормальное распределение. Неизвестными пара-
метрами являются а = b = о2 = Найдем их
S 4]
ТОЧЕЧНЫЕ ОЦЕНКИ
185
оценки наибольшего правдоподобия. По формуле (4.14)
L=Lw.........*» “ 6> = (тМ"етр (- Z
И
In L = — -g- (In 2л + In b) - 4L у,	_ а)\
К=1
Отсюда для оценок а* и 6* получим систему
<	К”1
дЬ ~ ~ 2b*	2 (6*)2 У,	~ а*У —
и=1
п
Из первого уравнения а* = —	Подставляя это
К=1
значение во второе уравнение, найдем
п
Ь* = т2 = -i- У (Xfc — ж)2.
Асимптотическая нормал ьность,3 и асимптотическая
эффективность оценок £, т2 параметров а, а2 следуют
из результатов п. 4.3 и теоремы 3.2.
Пример 7. Найдем оценку наибольшего правдо-
подобия для вероятности успеха р в схеме Бернулли. По
формуле (4.15)
п
L = L (xi,..., xnt р) = П рж» (1 — р)1-ж»,
К=1
хк = 0, 1 (хк = 1, если в испытании к был успехи х^ =
= 0 в противном случае), и
In L = 3 (®» in Р + (1 — Як)ln U — р))-
R=1
Отсюда
П /	1	X
д In А _ V1 f — — 1 ~ Xr 1__—________-_______пХ ____О
др	\ р* 1 — р*/ р* 1 — р*	1 — р*~
к=1
486	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ [ГЛ. 9
и р* = ж. Так как для числа успехов имеем равенство
Hn = xi + х2 + • • • + то р* = рп/тг. Оценка р* яв-
ляется асимптотически нормальной (следствие теоремы
Муавра — Лапласа) и эффективной.
Другим методом, который иногда используется для
оценки параметров, является метод моментов. Если функ-
ция распределения (х, 0) = Р {хк < х} зависит от s
параметров 0 = (0lf . . ., 0в), то теоретические моменты,,
например afc = Mgk, являются функциями от параметров
(01г > . ,, 0в). Предположим,; что систему уравнений
= ak (0П • .	0J, к = 1, , » ,, s, можно разрешить
относительно 0f: 0f= 0f (an • , ae), i = 1, , 9 ,, s. Тогда
в качестве оценки параметра 0< можно взять величи-
ну 0? = 0$ (Oi, ♦ » ae), где — выборочные моменты,;
соответствующие а/. При достаточно общих условиях
выборочные моменты близки к теоретическим, функция
0< (an • . as) от этих моментов асимптотически нормаль-
на, а математическое ожидание предельного распределе-
ния равно 0Z = 0^ (ai, • • as)« В таком случае оценки
0? оказываются состоятельными.
§ 5. Интервальные оценки
Точечные оценки дают приближенное значение неиз-
вестного параметра. Если известен закон распределения
оценки или ее дисперсия,; то можно указать пределыг
в которых с большой вероятностью находится неизвестное
значение параметра.
Эти пределы легко выражаются через дисперсию оцен-
ки. Однако иногда дисперсия может зависеть от неизвест-
ного параметра. В этом случае границы, в которых лежит
неизвестный параметр, тоже зависят от значений этого
параметра и, следовательно, пользоваться такими грани-
цами нельзя.
Рассмотрим выборку х19 х2, • » ., хп с Р (xt < х) =
= Fg (ж, 0), где 0 — неизвестный параметр. Предполо-
жим, что нам удалось найти функции 0 = 0 (xlf , , ., хп)
и 0= 0 (х19 . . ., хп) такие, что 0< 0 при всех xlf . . ., хп
и при любых значениях 0:
Р (? (^i» • • •, хп) < 9 < 0 (хц • > ч хп)) = 1	2a,
т. е. вероятность того, что случайный интервал (0, 0) на-
кроет неизвестный параметр 0, не зависит от параметра 0,
§51
ИНТЕРВАЛЬНЫЕ ОЦЕНКИ
187
В этом случае интервал (0, 0) называют доверительным ин-
тервалом для неизвестного параметра 0, соответствую-
щим доверительной вероятности 1 — 2а. В ряде случаев
функции 0 и 0, обладающие указанными свойствами, мож-
но найти.
Пусть имеется выборка xlf) < . xnf причем величи-
ны xji распределены нормально с параметрами (а, аа)1 а
параметр в известен. Найдем доверительный интервал для
а. Случайная величина £ = (х± + , . , + хп)!п имеет
нормальное распределение и Мя = a, Dx = а2/тг. Следо-
х — а
вательно, величина-т=- распределена нормально с па-
п
раметрами (О, 1) и ее распределение не зависит от а. От-
сюда
Р Л £^|<иа)=1--2а,
II | J
ИЛЗ
р[г—Иа-^<а<ж + иа—^=У=1 —2а«	(5.1)
I	1/ п	V П )
где иа определяется как решение уравнения
1
/2S
j е 2 dx=a<
иа
(5-2)
Таким образом, мы нашли доверительный интервал
(<5	б \
Х — иа , % + иа для параметра а.
]/п	у п )
Более естественной является ситуация, когда оба пара-
метра, а и а, неизвестны. В этом случае воспользуемся те-
оремой 3.5, согласно которой величина Tn_j — -	14п — 1
у т2
имеет распределение Стьюдента с п — 1 степенями сво-
боды. Отсюда, определяя £а, n-i как решение уравнения
Р { I *п-11	^а, п-1} — 1 — 2аг	(5.3)
получим, что
Р п-1 J/^"п	< я <с + ^а, П-1	} = — 2а«
(5Л)
Найдем теперь доверительные интервалы для параметра
а2, При известном а воспользуемся тем2 что величина Хп 5=5
188	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ [ГЛ. 9
п
= 52/о2, где52= 2	~ имеет распределение %2 с п
И=й
степенями свободы. Пусть Ха, п является решением урав-
нения
Р{Хп>Ха,п} = «<	(5.5)
Тогда р n < -^- < Ха, n} = 1 — 2а И,: следовательно,
Р {^Ха, п а < S7xi-a, п} = 1 — 2а.	(5.6)
При неизвестном а воспользуемся теоремой 3.4. Посколь-
ку величина пт2/а2 имеет распределение х2 с п — 1 сте-
пенями свободы, то
Р {/ит2/Ха, п-1 <о < /птг/Xi-a, n-i} = 1 — 2a.	(5.7)
Среди прикладных задач встречаются такие, при ре-
шении которых приходится сравнивать средние двух не-
зависимых выборок. Для такого сравнения полезно иметь
доверительный интервал для разности соответствующих
выборкам математических ожиданий. Пусть xi±i xi2, • . .
. ..,^ni, j = 1, 2, независимы, нормально распределены и
D.^ — a2, i — 1, 2, к = 1,t , ., п£.
Найдем доверительный интервал для — а2. Положим
п.	п.
1 \\	1 \\
==	^i)2> I = 1, 2.
г ifei	г
Из теоремы 3.4 и из независимости выборок следует, что
^i, Я2, тп21, ^22 независимы. Кроме того, величина п£т2£/а2
имеет распределение х2 с п£ — 1 степенями свободы. Сле-
довательно, величина + п2т22)/о2 имеет распреде-
ление х2 с + п2 — 2 степенями свободы. Таким обра-
зом,; величина
т	____ (•?! — ^2 — («1 — «2))/3  
ТП1+Пв-2 - г ........ .........
1 / П\ТП2\ ^2^22
V (тц + п2 — 2) з2
=	+ /П1 + п2_2	(5.8)
у 71177121 “Г ^2^22
имеет распределение Стьюдента с 7^ +	— 2 степенями
свободы. Используя величину (5.8), легко выписать до-
верительный интервал для — а2*
§ 5]
ИНТЕРВАЛЬНЫЕ ОЦЕНКИ
189
При построении доверительных интервалов (5.1), (5.4),
(5.6), (5.7) и величины (5.8) предполагалось, что элементы
выборок имеют нормальное распределение. Пусть теперь
^1»	• • •, хп — произвольная выборка. При больших п
можно построить простые приближенные доверительные
интервалы без предположения о нормальности х*. Найдем,
например, доверительный интервал для параметра =
= М^. Пусть о2 = D^. Тогда по центральной предель-
ной теореме распределение величины
Х1 + х2 + . • • + хп — па ___________	— а
з2/п	<з/]/~п
близко к нормальному распределению с параметрами
(О, 1). Если On — состоятельная оценка параметра о2? то
распределение величины (х — а))Лп/(Уп тоже близко к
нормальному с параметрами (0, 1) и, следовательно^
х — а
ап11/п
lim Р
П—оо
<С ua J = 1 — 2а,
или
(	<5	<5,
Р < 2/ — U(x, —'7Г=~	Я "1“	—7
(Б.9)
при п -> оо.
Рассмотрим асимптотическое равенство (5.9) в двух
частных случаях. Пусть х^ . . хп независимы и имеют
распределение Пуассона с параметром X = Мхк — Dxk.
Величина £ является состоятельной оценкой X. Следова-
тельно, при п -> оо
р(г-иа]/^-<Ь<я + иа]/^-]-+1-2а. (6.10)
Пусть цп — число успехов в п испытаниях Бернулли с
вероятностью успеха в каждом испытании, равной р.
Величина цп/п является состоятельной оценкой р. Следо-
вательно, при п -> оо
+ <6Л1>
где an — V — ^1------
Таким же способом можно найти асимптотические до-
верительные интервалы и для других моментов. При по-
<90	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ [ГЛ. 9
мощи теоремы 3.3 и аналогичных ей можно также полу-
чать асимптотические доверительные интервалы для функ-
ций от неизвестных параметров.
§ 6.	Статистическая проверка гипотез
В прикладных задачах часто требуется по эмпириче-
ским данным проверить то или иное предположение. На-
пример: 1) используя полученную выборку, нужно ус-
тановить, имеет ли некоторый параметр определенное
значение; 2) для различающихся выборочных характерис-
тик, соответствующих одинаковым теоретическим, нуж-
но решить, следует ли их различие считать случайным
или его следует признать значимым, и т. д.
Правила, согласно которым проверяемые предположе-
ния (гипотезы) принимаются или отвергаются, называют
критериями значимости. Рассмотрим некоторые из них.
6.1.	Критерии значимости, основанные на интерваль-
ных оценках. Пусть х1ч х2, . . ., хп — независимые нор-
мально распределенные случайные величины с парамет-
рами (а, о2). Используя эту выборку, необходимо принять
или отвергнуть гипотезу, состоящую в том, чтоа=а0, где
а0— некоторое заданное число. Если эта гипотеза являет-
ся верной, то из равенства (5.4) следует, что Р £ — во | >
>^a,n-i	2а‘ При достаточно малом 2а со-
бытие | х — «о | > ta, n-i J/ практически невозмож-
но. Если для данной выборки обнаруживается, что
| X — «о | > ta, n-i ]/ -^'1 , то это отклонение считается зна-
чимым для выбранного уровня значимости 2а и гипотеза
о равенстве а = а0 отвергается. Вероятность ошибочного
решения (отвергнуть гипотезу а = а0, если она верна)
равна 2а.
Полагая в (5.8) ах = а2, можно по аналогии с крите-
рием для проверки равенства а = а0 построить критерий
для проверки предположения о равенстве математических
ожиданий, соответствующих двум независимым выборкам.
6.2.	Критерий х2- Рассмотрим сначала следующую за-
дачу. По выборке х^ х2, . . ., хп нужно решить, является
ли заданная функция F (х) функцией распределения слу-
чайной величины хх, к = 12 » . .л п. Разобьем числовую
§ 6]	СТАТИСТИЧЕСКАЯ ПРОВЕРКА ГИПОТЕЗ	191
ось точками zx < z2 < . * . <£ zr на г + 1 непересекаю-
щихся интервалов и полуинтервалов:
(— °о» Zj), [zn Za), . , [zr, + оо). (6.1)
Если величины xk имеют своей функцией распределения
F (х), то можно найти вероятности:
Pi = P {хк^(— <х, Z1)} --F (zj),
Pi = р {*k е zt+i)} ~ F (zt+i) — F (z,)t Z = lj 2,..., r,
Pr+i = P {xk e [zTl + oo)} = 1 — F (zr).
Co случайными величинами хъ x2,. » ч xn естественно
связана полиномиальная схема с п испытаниями, в кото-
рой результатом А-го испытания является попадание зна-
чения Хк в какой-либо интервал (6.1). Обозначим тп/ ==;
= mi (хх, . . ., хп) число значений среди (<о), х2 (со), , . .
. . ., хп (со), попавших в [zh zz+1). Если наше предполо-
жение о законе распределения хк верно, то mi должны
быть близки к Mznz == npi, Z = 1, 2, . . ., г + 1. Общее
отклонение всех mt можно измерять различными способа-
ми. Чаще всего в качестве меры отклонения используют
величину
уч (m,-«pz)2	.fi2
n">r=2j——•	(6-2)
£=1 1
Оказывается (см. [10]), что для любого х при п -> оо
и постоянных pi > 0 (Z = 1, 2, . . ., г + 1)
Р{Лп,г <	-> Р{Х2г <	(6.3)
где случайная величина Хг имеет распределение %2 с г
степенями свободы. Используя (6.3), можно выбрать «кри-
тическое» значение С так, чтобы при нашей гипотезе ве-
роятность события
Пп.г > С	(6.4)
была мала и, таким образом, это событие можно было бы
считать практически невозможным. Если же событие (6.4)
фактически наблюдается, то говорят, что выборка обна-
руживает значимое отклонение от проверяемой гипотезы.
Это указывает на несовместимость нашей гипотезы с наб-
люденными значениями xt (со), х2 (со), . . ., хп (<о). Та-
ким образом, правило проверки, или статистический
критерий} состоит в том^ что гипотеза отвергается^ ес-
192
ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ
(ГЛ. 9
ли произошло событие (6.4), и гипотеза не противоречит
наблюдениям, если произошло противоположное событие.
Величина а = Р {т)п,г > 0 в случае, когда гипоте-
за верна, является вероятностью отвергнуть правильную
гипотезу. Если значение а задано, то ввиду (6.3) число С
можно вычислить приближенно, используя уравнение
а = Р > С}. В конце книги приведены таблицы чи-
сел Ха, т, для которых Р {%п > Ха, т} = а. Выбор а зави-
сит от рассматриваемой практической задачи. Чаще все-
го полагают а = 0,01 или а = 0,05. При а = 0,01 при-
мерно в 1% случаев будет отвергаться правильная гипо-
теза.
Если функция распределения F (х) непрерывна, то
проверку гипотезы о соответствии F (х) полученной вы-
борке можно проводить, используя величину £п =
= Уп sup | F* (х) — F (х) |, где F% (х) — эмпирическая функ-
—ОО<Х<ОО
ция распределения. Зададим некоторый уровень значи-
мости а. Тогда для достаточно больших п можно подоб-
рать, воспользовавшись теоремой А. Н. Колмогорова,
число С так, чтобы Р {£п > С} = а.
Указанные критерии применимы лишь тогда, когда
закон распределения элементов выборки точно определен.
Однако во многих случаях бывает известен только тип
распределения (например, нормальное), но неизвестны
некоторые параметры распределения 0Х, . . ., 05. В этих
условиях вероятности pi = pi (0Х, . . ., 0S) в (6.2) будут
содержать неизвестные параметры и, следовательно, по-
лучить числовые значения pi нельзя. Обозначим ц* г
величину, вычисленную по формуле (6.2), в которой при
нахождении pi в качестве числовых значений неизвест-
ных параметров 01У « . ., 0S были использованы их оценки
0*, . . ., 0*. Будем отвергать проверяемую гипотезу, ес-
ли произойдет событие ц* г > С. Для вычисления уровня
значимости можно воспользоваться предельным при п ->
-> оо распределением ц* г. Оказывается (см. [10], гл. 30,
§ 30.3), что если оценки 0*, . . ., 0? получены из уравне-
ния правдоподобия или минимизируют величину т]п>г =
= цп,г (0Х, ...» 0S), то предельным распределением ц* г
является распределение х2- В этом случае число степеней
свободы предельного распределения х2 равно г — s, т. е.
меньше числа степеней свободы предельного распределе-
ния т]П|Г на число параметров^ замененных оценками,
16]
СТАТИСТИЧЕСКАЯ ПРОВЕРКА ГИПОТЕЗ
193
Рассмотрим еще два применения критерия %*. Пусть по эле-
ментам выборки образована (г х s)-таблица с двумя входами по
двум переменным признакам А и В, принимающим значения Л*, . . .
. . ., Лг, ...»	(i, /)-й элемент таблицы является числом
элементов выборки, обладающих значениями признаков Л/ и Bj.
Пусть pij — вероятность того, что элемент выборки обладает зна-
чениями Ai и Bj. Тогда гипотеза о независимости признаков А
и В равносильна тому, что существует г -f- s постоянных
Pi- (i = 1, . . ., г), p.j (j = 1, . . ., s) таких, что рц = pt -p.j,
=	= Для пРименения критерия х2 нужно вычислить
< i
величину
* vi. *	V.,.
заменив в ней вероятности pt* и р.j их оценками р; = _, р =_L ,
п 3 п
где vb =	v.y.. Полученная величина имеет вид
i,;	i.J
Число независимых параметров, замененных оценками, равно
г + s — 2, и, следовательно, распределение величины rj* rs схо.
дится при п —> оо к распределению %2 с rs — (г -f- s — 2) — 1 =
= (г — l)(s — 1) степенями свободы. Это предельное распределе-
ние используется для приближенного вычисления уровня значи-
мости. Большое значение величины ц* гз указывает на то, что
отклонение от гипотезы о независимости значимо.
Перейдем к рассмотрению другого примера. Пусть имеется s
независимых выборок. Требуется проверить гипотезу о том, что
эти выборки однородны, т. е. что их элементы имеют одинаковое
распределение. Разобьем каждую выборку по значениям какого-
либо признака (одного для всех выборок) на г групп. Обозначим
уц число элементов /-й выборки, обладающих i-м значением при-
знака; рц — вероятность того, что элемент ;-й выборки обладает
i-м значением признака. При использовании величин Vjj гипотеза
об однородности означает, что вероятности ptj = рь т. е. одинаковы
для всех выборок. Для применения критерия %2 нужно вычислить
величину 2 (%• “ njPi)9lnjPp гДе nj — объем /-й выборки. За-
меняя неизвестные параметры р, их оценками р* = (У v \ //У п \
Мсап/1 псИоВсЫНЫи Иаралинры pi ил идейками — I *ij ]/I nj Р
получим величину, предельным распределением которой является
распределение х2 с (г — 1)(* ~ 1) степенями свободы (см. (10],
5 30.6).
6.3.	Общие понятия о статистической проверке гипо-
тез. Критерии, рассмотренные в пп. 6.1, 6.2, формуляру-
194	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ [ГЛ. 9
ются в виде неравенств для некоторой функции от выбор-
ки. Эту функцию обычно называют статистикой критерия.
Неравенства для статистик критерия в пространстве зна-
чений выборки х = (хх, . . ., хп) определяют некоторую
критическую область S, зависящую от вида статистик
и уровня значимости. Если реализация выборки попада-
ет в критическую область, то проверяемая гипотеза от-
вергается. Очевидно, что даже при фиксированной вероят-
ности а = Рд {х ЕЕ 5}*), где Рд — распределение вероят-
ностей, соответствующее гипотезе Н, выбор критической
области S не всегда однозначен. Таким образом, среди
многих критериев нужно отобрать один каким-либо ра-
зумным способом.
Будем называть гипотезу Н простой, если она одно-
значно определяет распределение выборки; в других слу-
чаях гипотеза Н называется сложной. Обычно сложной
гипотезой является предположение о распределении вы-
борки, зависящем от некоторых параметров, значения
которых неизвестны. Предположим, что требуется по вы-
борке проверить некоторую простую гипотезу HQ. Пусть
S — критическая область рассматриваемого критерия:
если zG 5, то гипотеза HQ отвергается. Одной из харак-
теристик такого критерия является ошибка 1-го рода а =
= Рд0 (х ЕЕ S). Таким образом, ошибка 1-го рода — это
вероятность отвергнуть гипотезу Яо, когда она верна.
Однако одной этой характеристики еще недостаточно
для выбора критерия. Может возникнуть ошибка другого
типа: HQ не верна, но #ЕЕ$, и принимается Яо, т. е.
не отвергается ложная гипотеза. Вероятность этого со-
бытия можно вычислить, если известно, какое распреде-
ление выборки в этом случае истинно. Предположим, что
альтернативная (или конкурирующая) гипотеза Нг прос-
тая. Тогда она однозначно определяет распределение вы-
борки. Ошибкой 2-го рода называют вероятность р =
= ?нх (*?), т. е. вероятность принять основную гипотезу
Но, когда верна конкурирующая. Вероятность 1 — (J
называют мощностью критерия. При заданной ошибке
1-го рода а нужно среди всех критериев выбирать наибо-
лее мощный критерий, т. е. критерий, имеющий наиболь-
шую мощность 1 — р или наименьшую ошибку 2-го рода р.
♦) Для дискретных распределений не всегда можно подобрать
S так, чтобы Ря {х е 5} = а. В этом случае требуют, чтобы вы-
полнялось неравенство Рн {ж е S} < а,
§6]
СТАТИСТИЧЕСКАЯ ПРОВЕРКА ГИПОТЕЗ
195
Для иллюстрации введенных характеристик критерия
рассмотрим два примера.
Пример 1. Пусть в случайной выборке xlr x2f. • .
. . ., хп величины хк распределены нормально с парамет-
рами (а, а2). Параметр о известен, а относительно а име-
ется два предположения, или две гипотезы HQ и Ях, соглас-
но которым а = а0 и а =	(а0 < аг) соответственно. Не-
смещенной и состоятельной оценкой математического
ожидания а является X = (хх + . . . + хп)1п. Таким об-
разом, в рассматриваемой задаче естественно выбрать ту
гипотезу, к параметру а которой ближе X. При любой из
гипотез (Яо или Ях) х имеет нормальное распределение
с D# = о2/п; Мя = а зависит от гипотезы. Следовательно*
распределения X при Яо и различны. Вероятности со-
бытий, вычисляемые при гипотезах Яо и Ях, будем обо-
значать соответственно Ро и Рх.
Выберем некоторое число С, aQ <Z С <Z аг. Критерий
можно сформулировать следующим образом: если X }> С,
то принимается Ях, а если X < С, то принимается Яо.
Если верна гипотеза Яо и произошло событие х > С,
то принимается Нх. Вероятность отвергнуть Яо, когда
она верна (ошибка 1-го рода), равна а = Ро (X С).
Если верна гипотеза Ях и произошло событие X <С Ст
то принимается Яо. Вероятность принять Яо, когда верна
Ях (ошибка 2-го рода), равна 0 = Рх (X < С),
Пусть а задано. Тогда
а = Ро (г > С) = Ро	> <С - а0)	.
Так как У п (х — aQ)/(y имеет нормальное распределение
с параметрами (О, 1), то (С — ао) &- = иа, где иа опреде-
лено уравнением (5.2). Отсюда
С —ап + иа-^7-»	(6.5)
У п	'
Следовательно, ошибка 2-го рода ^-удовлетворяет соот-
ношению
р = Р1(г<С)==Р1[^1<(С-
Поэтому
(С - ах) = их-ь = - и6.
196	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ [ГЛ. 9
Подставляя в это равенство значение С из (6.5), получим
иа +(6.6)
Из (6.6) при заданных аир нетрудно найти п. Если п
менять нельзя, то (6.6) используется для выбора аир.
Если же а и п фиксированы, то величина р определяется
однозначно. Величина аир выбираются в зависимости
от степени нежелательности связанных с ними ошибочных
решений. Иногда «степень нежелательности» можно выра-
зить довольно точно. Пусть, например, при некоторой
упрощенной проверке бракованное изделие может быть
пропущено с вероятностью а и хорошее изделие принято
за бракованное е вероятностью р. Если бракованное изде-
лие продано, то за его гарантийный ремонт нужно пла-
тить Р рублей. Если хорошее изделие забраковано, то
теряется его стоимость Q рублей. Пусть в проверяемой
партии из N изделий примерно М бракованных. Тогда
средние потери при контроле этой партии равны
(Ma) Р + (Лг - М) р<?.	(6.7)
Для выбора а и Р нужно найти минимум (6.7) при наличии
связи (6.6).
Пр и м е р 2 (см. § 3 гл. 1). Перейдем теперь к задаче
выбора модели опыта, состоящего в подбрасывании двух
монет. Обозначим р,п число выпадений двух монет одина-
ковой стороной в п опытах. Вместо моделей 1 и 2 мы
будем теперь говорить о гипотезах Нг и Яо. Рассмотрим
величину р,п/п. Так как рп/п имеет при гипотезе Hh I —
= 0,1, биномиальное распределение, то
где
2	2	2	1 ,	1	2	1	Оч
Ох — з , Oj 3*3’	2 ’	— 4 ‘ ' * '
Если \ьп/п С, то будем принимать а в противном
случае Яо. Если биномиальное распределение заменить
аппроксимирующим его нормальным, то для вычисления
С сохранится формула (6.5) с о = о0, а вместо (6.6) полу-
чим
OoWa + Oittp = (Ox — оо) Уп*
(6.9)
§ 6]	СТАТИСТИЧЕСКАЯ ПРОВЕРКА ГИПОТЕЗ	197
При а = р = 0,05 имеем иа = и$ = 1,65. Подставляя эти
значения и величины (6.8) в (6.9), получим
п
(аоца + д^)2
(«1 — «о)2
и, следовательно^ можно положить п = 80. По формуле
(6.5)
С = 0,5+ 1,65—^=-^0,61.
2/80
Таким образом, гипотеза Нг принимается, если рп7п >
0,61, в противном случае принимается HQ.
Покажем теперь, как найти наиболее мощный крите-
рий. Пусть по выборке х = (хх, . . ., хп) нужно различить
две простые гипотезы Яо и согласно которым выборка
имеет соответственно плотности распределения р0 (и),
Рх (и), и = (ult. . ., ип)* Рассмотрим критические множе-
ства вида
Sc = {и = (и1(, . un): Pi (и) > ср0 (и)}.	(6,10)
Ограничимся рассмотрением случаев, когда для любого а
существует постоянная с такая, что Рнв (8С) = а. Следую-
щий результат был получен Нейманом и Пирсоном.
Теорема 6.1. Среди всех критериев, различающих
гипотезы HQ и Н1 с заданной ошибкой 1-го рода а,; наи-
более мощным является критерий, определяемый крити-
ческим множеством (6.10).
Док азательство. Пусть S — критическое мно-
жество произвольного критерия с Рдо (5) = а. Тогда
Ря. (5С\ SCS) = а - РНо (SCS) = РНо (5 \ SSC).
Используя это равенство и (6.10)г находим
Ря. (Sc \ SCS) = 5 Pl (“)du >
3Л33с
>с J ро(«)</и = сРн.(5с\55с) = сРн,(^\ад =
S0\SSO
= с j Ро (и) du > 5 Pl (w)du = ря. (51 \ SSc)t
s\ssc	s\ssc
198	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ (ГЛ. 9
так как рх (и) < cpQ (и) на множестве 5 \ SSC. Прибавляя
к обеим частям последнего неравенства РЯ1 (S Sc)$ полу-
чим Ря, (5) > РЯ1 (5С). Теорема доказана.
Используя доказанную теорему* нетрудно проверить^
что критерий в примере 1 является наиболее мощным.
Так как совместная плотность распределения выборки
согласно гипотезе Hi (i = О* 1) равна
п
Pi (ии	=(^-пехр {- -2^- £ (Uk - <М2} >
то неравенство в (6.10) равносильно неравенству
п	п
2 (uk — ао)а < 2 («к — «1)2 + d
к=1	к=1
или неравенству
(6.11)
где q и С — некоторые постоянные. Попадание выборки
х =	» ., хп) в критическое множество, определяемое
(6.11), очевидно равносильно наступлению события
Таким образом, доказано^ что критерий примера 1 являет-
ся наиболее мощным.
Пусть теперь конкурирующая гипотеза Нг является
сложной и определяемое ею распределение выборки Ре
зависит от параметра 9 G 6; при основной гипотезе Яо
выборка имеет распределение Pq.» В такой ситуации
естественно выбрать критическое множество S таким*
чтобы построенный на его основе критерий был несмещен-
ным, т. е. чтобы при заданной ошибке 1-го рода а нера-
венства Р© (5) > а выполнялись при всех 9 Е 0.
§ 7. Регрессионный анализ
Задачи регрессионного типа были указаны в § 1. Рас-
смотрим сначала простейший случай. Пусть требуется
найти коэффициенты ап b линейной функции у = ах + Ъ,
Допустим, что при любом значении х мы можем измерить
с некоторой ошибкой значение у.
Будем предполагать^ что в выборке (ylt . . ., уп) вели-
чины yi представимы в виде
yt = axt 4- b +	(7,1)
§7]
РЕГРЕССИОННЫЙ АНАЛИЗ
199
где 6* независимы и нормально распределены, Мб< = О,
D6/ = о2, Xi не случайны и их значения известны. Для
оценки неизвестных параметров а, 6, а2 можно восполь-
зоваться методом наибольшего правдоподобия. Функция
правдоподобия выборки у = (у1г • • .2 г/п) имеет следую-
щий вид:
п
L (у, a, b, о«) =	exp { -	- aXi - fe)*}.
Отсюда получим систему уравнений
п
д In L IV1/	л
—sr~ “ -? >.х' -ах' -6)=°*
i=l
<7-2>
i = 1
n
д In L	nil V 1 t	_л
= - T • -55-+-25Г 2j	= °*
i=l
n
Из (7.2) в предположении, что 2 Xi = О, находим оценки
1=1
п	п	п
<!**= 4" У, (У* — a*Xi — 6*)8-
i = l
Заменив в первых двух формулах (7,3) yt по формуле (7,1),
получим
п
3 тД	п
а* = а +	--i b* = Ь + — У в<.
2 х?	i-i
i=l
Из этих равенств следует, что
Ма* = а, М6* = &, Da* = —Db* = -^-.
2-?
tel
200	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ [ГЛ. 9
Таким образом, непосредственно проверяется, что оценки
я*, &* являются несмещенными и состоятельными.
Отметим, что в случае нормального распределения
оценки параметров а и &, полученные методом наибольше-
го правдоподобия, совпадают с оценками этих параметров^
полученными минимизированием выражения
Q (а, Ь) = 5 axi — &)2,
i=l
Метод получения оценок, основанный на минимизации
суммы квадратов отклонений измерений от теоретических
значений, называют методом наименьших квадратов*
Для иллюстрации метода наименьших квадратов рас-
смотрим следующую задачу. Пусть функция у =	+
+ 02^2 + > • • + 0р#р измерена в точках (х^ x2ii9 s ,,jrpi)a
i =	2,. . ., п, и
yi = 0i*ii + . . . + Qpxpi + 6if (7.4)
где независимы и D6Z = о2. Будем предполагать, что
ранг матрицы X = || xij || равен р. Используя метод наимень-
ших квадратов, найдем по выборке (у19 , * м уп) оценки
параметров 01э . . ., 0Р. Положим
п	р
^(01,....0р)=3 (у<- 3 0^н) •
i=l	Jc=l
Приравнивая к 0 производные Q по 0/, i = 1, ♦ , р, полу-
чим систему уравнений
П	Р	2
-^- = -2^(у»-<£0Л<)	=	1=1,...,р;
1	Jf=l
отсюда
2	S == 3 ^нУтл I == !»•••.» Pi (7.5)
i=l fc=i	i=i
или в матричной форме:
S0 = Ху,	(7.6)
где 0 = (01? . . >, 0Р)', у = (уп . . .у Уп), X = || хи ||, S =
z= XX'• Если определитель | S | Ф 0 *), то (7.6) имеет един-
*) Можно показать, что | S | Ф 0, если ранг X равен pt
5 8]	ДИСПЕРСИОННЫЙ АНАЛИЗ	201
ственное решение 0* = (б?, . .	0J)', причем
0* = (0*,.,., 0*)' = S~lXy.	(7.7)
Отсюда* используя теорему 7.1 гл. 6, получаем ковариа-
ционную матрицу вектора 0*:
D [0*] = (S^X) D [у] (S-'X)'.
Так как S симметрична, то симметрична и поэтому
D [0*] = о25-1ХХ'5-1 и, следовательно,
D [0*] = (AS-*.	(7.8)
Из формул (7.4) и (7.7), опираясь на свойства математи-
ческого ожидания, получаем, что М0* = S^XMy =
= S^XX'Q = 0. Эти соотношения доказывают несмещен-
ность линейной оценки (7.7).
Теорема 7.1. Если 0* = (0*, . .	0*)' — любая
линейная (относительно (у1У . . ., уп) в (7.4)) несмещенная
оценка параметров 0 = (0lf . . ., 0Р), то D0?	D0?,
к = 1, . . ., р, где (0*, . . ., 0*) определены формулой (7.7).
Доказательство. Пусь 0* = Су — произволь-
ная несмещенная оценка 0. Так как 0 = М0* = CX'Q%
то СХ’ = Е, где Е — единичная матрица. По теореме 7.1
гл. 6 находим D [0*] = CD [у] С' = о2СС'. Сравним мат-
рицу СС' с матрицей 5’1 в (7.8). Используя равенства
СХ' = ХС = Е, нетрудно проверить, что
СС = 5"1 + (С - S^X) (С - S^X)ft
Отсюда и следует утверждение теоремы, поскольку диа-
гональные элементы матрицы (С — S~1X) (С — З^ХУ
неотрицательны.
§ 8. Дисперсионный анализ
Дисперсионным анализом называют статистический
метод анализа результатов измерений, зависящих от раз-
личных одновременно действующих факторов. Ограни-
чимся рассмотрением простейшего случая, когда действует
один фактор. Пусть, например, выборка разбита на
г групп, причем i-я группа содержит nt величин xilr ,
. . ., xinv Предполагается, что все указанные величины
распределены нормально и	Dxtj = о2, j =
= 12 , t *2 г = 12 . , г* Нам нужно проверить гипоте-
202
ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ .
(ГЛ. 9
зу, согласно которой а* = . . • = аг = а. В физической
постановке эта задача выглядит так. Одна и та же величи-
на а измеряется г различными приборами, имеющими оди-
наковую точность. Нас интересует, имеют ли приборы раз-
личные систематические ошибки. В рассматриваемом при-
мере исследуется влияние одного фактора (прибора) на
погрешность измерения. Введем следующие обозначения:
п.	п.
Групповые средние Яр являются, очевидно, несмещенными
и состоятельными оценками величин ар Если все а^ оди-
наковы, то общее среднее не должно сильно отличаться от
групповых. В противном случае разброс относительно
Я должен быть более значительным. Представим общую*
или полную* сумму квадратов отклонений
г ni
(8-0
i=l 7=1
в следующем виде:
Q = Q1 + С„	(8.2)
где
г	г ”i
Ci = 3 т (Si. - г)2, Qt = з 3 (*« - *<)8- (8.3)
i=l	i=l ;=1
Равенство (8.2) легко следует из (8.1)* если воспользо-
ваться формулами
(х0 - г)4 = [(ХО - Si.) + (Si. - ж)]’ =
= (хц - Si.y + (Si. - ж)2 + 2 (ху - St) (Si. - ж),
п.
5=1
Сумму Qi в (8.2) называют суммой квадратов отклонений
«между группами»* a — суммой квадратов отклонений
«внутри групп».
Из теоремы 3.4 следует* что величина	— $i.)*
j=i
имеет распределение х2 с — 1 степенями свободы и*
ЗАДАЧИ К ГЛАВЕ 9
203
следовательно, Q2 имеет распределение %г с 3 (лг ~ 1) =
i=l
= п — г степенями свободы. Можно показать (см< [10],
гл. 36, § 36.2), что если ах = , . , = аг = а, то Qr и Q2
независимы и Qr имеет распределение %2 с г — 1 степенями
свободы. Следовательно,; при ах = . . . = аг величина
р _______ Qil(r 1)	/Q
имеет распределение Фишера с г — 1, п — г степенями
свободы. Величина (8.4) может быть использована для про-
верки гипотезы о совпадении математических ожиданий:
«! = ...= ат = а. Если эта гипотеза верна,; то и
£ являются состоятельными оценками одной и той же
величины а и, следовательно, близки между собой, а ве-
личина Q± мала. Если at различны, то и Ж сближаются
с разными математическими ожиданиями:
т
=	= у1 ait
i=l
и, следовательно, сумма Q± должна принимать большие
значения. Независимо от предположения о равенстве at
знаменатель в (8.4) остается оценкой о2. Это, говоря не-
строго, означает, что при увеличении расхождения между
ai величина (8.4) в среднем должна принимать большие
значения. Статистический критерий формулируется сле-
дующим образом: если п_г > С, то гипотеза, состоя-
щая в том, чтоа1 = „ . . = аТ, отвергается. При заданном
уровне значимости а = 0,05 постоянную С нетрудно
определить по таблице 6. Отметим, что при г = 2 стати-
стический критерий для проверки рассматриваемой ги-
потезы может быть получен на основе величины (5.8),
Задачи к главе 9
1.	По выборке sx, . . ., хп, полученной в задаче 24 гл. 5, найти:
а) вариационный ряд х^ < . . . < х<п>; б) эмпирическую
функцию распределения (построить ее график и график теорети-
ческой функции распределения); в) х = (хх + , , . + хп)/п (срав-
нить с Мхх);
п
г) s2 = —У*1,	— х)2 (сравнить с D#fc).
к=1
204	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ (ГЛ. 9
2.	Используя таблицу нормальных случайных чисел, получить
реализацию выборки х^ . . хП1 где х^ нормально распределены
с Marjt = 0,5, Darjt = 1; п = 22. Для полученной выборки выпол-
нить задание, указанное в задаче 1.
3.	Пусть (a?i, у J, . . ., (хп? уп) — независимые одинаково рас-
пределенные двумерные величины. Положим
п
*=1
где х = (xt + * . . + xn)/nt у = (i/i + . . . + уп)!п. Найти
и показать, что Dm11 = О при п -♦ оо.
4.	Показать, что величина определенная в задаче 3, при
п —> оо асимптотически нормальна.
5.	Выборочным коэффициентом корреляции называется вели-
чина	_______________________________
Г =	77120^02*
п	п
ГДе /Лад = А-	— ^)2,	77102 =	(У^ ~ У)\ а 772ц, X, У
fr=l	fr=]
определены в задаче 3. Величина г используется в качестве кри-
терия зависимости координат наблюдаемых двумерных величин.
Рассуждая так же, как при доказательстве теоремы 3.3, показать,
что при п —♦ оо величина г асимптотически нормальна.
6.	Рассмотрим последовательность испытаний Бернулли с ве-
роятностью успеха р в отдельном испытании. Пусть — число
успехов в п первых испытаниях. Воспользовавшись схемой дока-
зательства теоремы 3.3, показать, что при п —* оо величина
1 /и,
n =2arcsin |/ -2L асимптотически нормальна с параметрами
п	' п
(А,В/п). Найти А и В.
7.	По выборке х1ч . . ., хП1 где х^, к = 1, . . ., п, независимы,
Marjt =	известны), найти несмещенную, линейную
относительно . ., хп оценку а* параметра а с наименьшей
дисперсией.
8.	Пусть ягд, . . ., xtni (i = 1, ...» I) — независимые нормаль-
но распределенные величины с параметрами (а, а2);
= -^7	si =	£ (*« - 2»)3-
’ i-=i	1 x=i
i
Показать, что величина £ = 2 ci2»> гДе с« =	+ < < • + I/*?),
i=l
является несмещенной оценкой а*
ЗАДАЧИ К ГЛАВЕ 9
205
9.	Пусть xf, . . ., хп — независимые нормально распределенные
случайные величины с параметрами (0, 1). Положим
к	к
3jc=—'^xl,	У (xt	— Jfc)a, Л= 1, 2,. . n.
fei	4=1
Доказать, что а) величины x^+i — x и x^ независимы; б) величина
Sn имеет распределение %2 с п — 1 степенями свободы.
Указание, а) Найти cov (x£+i — б) провести дока-
зательство индукцией по к, воспользовавшись равенством
k
*^+1 = $к + &	1
10.	Используя метод наибольшего правдоподобия, найти по
выборке xv, . . ., хп, где Р {хк = т} = —_ е А, т = 0,
й	т\
оценку X* параметра X. Будет ли эта оценка несмещенной и сос-
тоятельной? Найти MX*, DX*.
И. Пусть х^ < . . . х^пу — вариационный ряд, построен-
ный по выборке Xi, х2, . . ., хп. Положим
0* _	= Х1 + • • • + хп 0* = *(1) + х(п)
1	п '	2	2
Найти МО*, D0* (к — 1,2), если а) величины хк равномерно рас-
пределены на отрезке [а, Ь]; б) рх* (х) = ае~ах, х > 0.
12.	Пусть х(1) < . . . < х(п) —- вариационный ряд, построен-
ный по выборке х1э . . ., хп, где х^ имеет плотность распределения,
равную ес~х при х > с > 0. Положим с* = х(1) — -L . Найти Мс*,
De*.
13.	По выборке, полученной в задаче 2, построить доверитель-
ные интервалы для а с доверительной вероятностью 0,95 и для о2
с доверительной вероятностью 0,94.
14.	Используя критерий %2, проверить гипотезу о том, что
выборка, полученная в задаче 24 гл. 5, соответствует равномерному
распределению на отрезке [0, 1]. Уровень значимости а — 0,05.
15.	Найти статистику наиболее мощного критерия, различаю-
щего по выборке xlt . . хп гипотезы
Но: Р = i} = Pi0) >0, i = 1,2, ...» А;
Ях: Р {xk = i} = p*V >0, i = 1, 2.....N;
з^о)=
i=l	i=l
16.	Для величины о*2, определенной формулой (7.3), найти
Мег*2.
17.	В случае произвольных д2, • • •> аг найти и
где и Q2 определены формулами (8.3).
206	ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ [ГЛ. 9
18.	Пусть yt — значения функции / (лг) = ах* + Ьх + с, из-
меренные в точках Xi — 0,2 + 0,5 (i — 1), i = 1, 2, . .	10. При
а = 1, 5 = 2, с = — 1 найти реализацию выборки щ = х? +
+ 2xi — 1 + 6/, t = 1, 2, . .	10, где 6/ независимы и нормально
распределены с Мб/ = 0, D6$ = 0,06. Методом наименьших квад-
ратов получить оценки а*, 5*, с* параметров а, 5, с. Сравнить
эти оценки с известными истинными значениями. Построить гра-
фики функций у = х* + 2х — 1, у — а*х* + Ь*х + сф; отметить
точки (xt, yi).
19.	Заменить в задаче 17 реализацию бх, . . ., б10 на реализу-
цию этих величин, соответствующую равномерному распределе-
нию с Мб/ = 0, D6/ = 0,06. Выполнить' для новой реализации
задание, указанное в задаче 17.
20.	Пусть х13 х2, . . ., лгХ5 — выборка, для которой Р {х^ = 1} =
= pi, I = 1, 2, 3. Получить 10 реализаций этой выборки с р/ =
=	= 1/3, I = 1, 2, 3, и 10 реализаций с рх =	= 0,40,
р2 =	= 0,42, рз = р£> = 0,18. Для каждой выборки, исполь-
зуя наиболее мощный критерий, найденный в задаче 15, выбрать
одну из двух гипотез. Для вычисления ошибок 1-го и 2-го рода
а и Р использовать нормальное приближение. Выбрать а = р.
Найти частоты ошибок 1-го и 2-го рода.
ГЛАВА 10
Элементы теории случайных процессов
§ 1. Понятие о случайных процессах
Случайные процессы являются моделями многих реаль-
ных процессов. Два примера таких реальных процессов
(работа телефонной станции и броуновское движение)
обсуждались в § 1 гл. 1.
Случайным процессом называется семейство случайных
величин & =	(со), заданных на вероятностном прост-
ранстве (Q, 91,; Р). Параметр t обычно интерпретируется
как время. Если t е= (0, 1, 2, . • .), то говорят, что & —
процесс с дискретным временем; если же t ЕЕ [0, то
Е, — процесс с непрерывным временем.
Действительную функцию (соо) при фиксированном
соо называют реализацией или траекторией случайного
процесса. Если фиксировать t = tOl то (со) является
обычной случайной величиной. Функция распределения
Ft (х) = Р (gt < х)
задает распределение значений процесса в момент вре-
мени t. Зная только Ft (х) при всех t, мы еще ничего не
можем сказать о зависимости значений процесса в какие-
либо фиксированные моменты времени. Ввиду этого
необходимо указать всевозможные совместные распреде-
ления
Ft&... tn (х1г x2l. f хп) = Р < х1г, • %tn < хп), (1.1)
где 0	< t2 < , . . < tn, п = 1, 2,. * . В гл. 5 мы пока-
зали, что можно построить вероятностное пространство
и определить на нем случайную величину с заданной функ-
цией распределения. Аналогичная задача построения под-
ходящего вероятностного пространства для семейства
случайных величин с заданными распределениями (1.1)
является значительно более сложной задачей и выходит
за рамки настоящей книги (см. А. Н. Колмогоров [8])-
В следующих параграфах мы опишем несколько типов
случайных процессов и вычислим для них вероятности
208	ЭЛЕМЕНТЫ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [ГЛ. £0
отдельных событий. Тип процесса будет определяться
свойствами, которыми должны обладать величины
Построения подходящих вероятностных пространств, на
которых можно определить & с заданными свойствами}J
приведены не будут.
§ 2. Пуассоновский процесс
Случайный процесс с непрерывным временем назы-
вается процессом с независимыми приращениями, если
при любых 0 <	< t2 < . . . < tn, tu, . л tn ЕЕ [0А оо)^
п = 1, 2,. . .? случайные величины
It, — Its..,	— Ьп_г
независимы.
Пуассоновским процессом называется процесс удовле- ;
творяющий следующим условиям:
1° & — процесс с независимыми приращениями.
2°. При любых t2, s приращения	—
— одинаково распределены (однородность по времени)»
3°. (со) = 0, со (ЕЕ Q.
4°. При h -> 0
Р (%h = 0) = 1 - Mt + о (h), Р &h > 2) = о (h),
Р (lh = 1) = Mt + о (h), 0 < X < оо.
Число X будем называть параметром пуассоновского
процесса.
Пуассоновский процесс можно задать на вероятно-
стном пространстве (Q, 91, Р), где множество Q совпа-
дает с множеством ступенчатых функций, у которых имеют-
ся только единичные скачки, а моменты времени, соот-
ветствующие скачкам, не имеют точек накопления.
Теорема 2.1. Если — пуассоновский процесс, то
P(^t = k)=^-e-M, * = 0,1,2,...
/С!
Доказательство. Пусть q>t (х) =	— про-
изводящая функция £(. По условию 1° величины	—Ли
независимы. Следовательно,
q>(+ft (х) = Мж?‘+Л =	= ф, (х) Mx*t+h~K
§ 21
ПУАССОНОВСКИЙ ПРОЦЕСС
209
Так как по свойству 2° величины £t+h — и
одинаково распределены, то
и при h -> 0 согласно 4е
= 1 — АЛ + хЮг + о (h), | х |	1,
Таким образом,
Фнл (я) = ф/ (#) (1 — АЛ + x\h + о (h))t
Отсюда
Фг+л (*) - <PZ (*)	. .
— К (х — 1) cpt (х) + о (1)<
h
Переходя к пределу при фиксированном х и h -> 0, по-
лучим
___ = _Х(аг- 1)ф,(х).
Решение этого уравнения с начальным условием ср0 (х) => 1
определяется формулой
(%) =	= у1, ^0 e~Ktxk.
к=о
Полученная производящая функция является производя-
щей функцией распределения Пуассона. Теорема доказана.
Используя доказанную теорему, можно найти совме-
стные распределения	%tn при любых <С » • •
• . .< tn. Очевидно, что
= fci, L = *2,. . ., ltn = кп} =
=	= *а - Аа,. . . , Ьп -	= кп- к^},
(2.1)
где кх к2 • • • С кп. Отсюда, учитывая независимость
и однородность приращений, получим
= Лгп = кп) =
- е-и,.
"" <2-2>
210	ЭЛЕМЕНТЫ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [ГЛ. 10
Ввиду условия 4° случайная величина при любом фик-
сированном t равна числу скачков траектории процес-
са на отрезке [0, И. Рассмотрим теперь величины
(к = 0, 1, 2,. . .), равные промежуткам времени между
скачками, т. е. положим тк- = 9^ — где — момент
fc-ro скачка траектории процесса (к = 1, 2,. . .), 90 = 0.
Теорема 2.2. При любом п случайные величины тп
т2,. . тп независимы и каждая из них имеет показатель-
ное распределение с параметром К.
Доказательство. Пусть 0 == £0 <	< . . . <
< tn и отрезки Ак = tk + fej, hk > 0 (k = 1,, . . n)
не пересекаются. Так как:
{Эх GE Ait 0-2 E= A2,...» 9n EE An} =
n
= A	= 0) А (Ьк+Л, - = 1)}S
k—1
TO
- . ' n
p {A о*еД»} = П	=
t=l	K-=l
= e~Ktnkne~K(h'+-+hn) hi ...hn =
=	5 P6f..6n	• • • г	• • • , dtn1i
где A = Ax X . . . X An — n-мерный параллелепипед*
Отсюда при 7ц, . . hn -> 0 получим
5 • •» $ Pqt...e	• • • * tn) ^1 • • • dtn =
д
= X"e-K41...fen(l +0 (l))t
и, следовательно,
P0 0 fcr • ч ^n) = 6	ti < t2 <Z • • • tn. (2.3)
V» ... '-n
Для вычисления совместной плотности распределения
величин (тп . ♦ .,тп) = (gr (©!,. . ., 0п),. . gn (0X,. . ., 0n))t
где gjt (0Х, . . ., 0n) = Ок — Sic-!, воспользуемся теоре-
мой 6.2 гл. 5. Отображение^ = gK (^, . . .,/fr) = tk —-
k = 1,. . ., n, взаимно однозначно, и якобиан этого отобра-
жения равен 1. Кроме того, tn = sx + s2 + • • • + sn.
Отсюда и из формул (2.2) и (5.6.5) получим
п
Рт»..Лп ($11 • ‘ » 1 sn) =	* п) — П pX]i (S^)s
К=1
§ 3]
ВИНЕРОВСКИЙ ПРОЦЕСС
211
где рХк (sfc) = sk > 0 (к == 1,. .	п). Теорема до-
казана.
Поскольку траектория пуассоновского процесса опре-
деляется моментами скачков, то можно получить эквива-
лентное определение этого процесса, приняв независимые
показательно распределенные величины тп т2, » . хп, . . ,
за промежутки времен между скачками,
§ 3. Винеровский процесс
В § 2 был рассмотрен процесс, в котором изменения
происходят скачками. Здесь мы определим процесс, имею-
щий непрерывные траектории.
Винеровским процессом называется случайный процесс
удовлетворяющий условиям:
1°.	— процесс с независимыми приращениями^
2°. При любых t± < t2, s приращения	—
— £tl+s одинаково распределены,
3°. e0 (o>) = 0, co e Q.
4°. При h 0.
= ah + о (Л), M | %n p = о (h)<
Mgn = bh 4- о (h), - oo < a< oo, 0 < b < oo,
Теорема 3.1. Если — винеровский процесс, то
*	(u-atp
' pfi'<»=7sr S *' iu-
— 00
Доказательство Положим ft (s) = Me18^
Здесь аргумент характеристической функции обозначен
буквой s. Пусть $ фиксировано. Так же, как при доказа-
тельстве теоремы 2.1, найдем
fw> (S) = ft (s) Me**6™"6*’ = ft (s) MeisK
По формуле (7.2.11)
= 1 + isW-h - 4	+ О (| з |3 M | P).
Отсюда и из свойства 4° следует
Me”6* = 1 + is (ah} -	+ о (h).
212	ЭЛЕМЕНТЫ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ , (ГЛ. 10
Таким образом,
А+Л («)=(! + is (ah) - -ф- + ° (^))/t (*)
И
ft+hAs)— ft(s) /• s2b \ , z v ,
—--------------д—~— = \isa ~ -yj Л (*) + о(1).
Переходя в этом равенстве к пределу при h -> 0, получим
dft (s>	/ • s2b \ , z v
Отсюда^ учитывая начальное условие /0 ($) = !, найдем
Полученная характеристическая функция величины
соответствует нормальному распределению с параметрами
(at, bt). Теорема доказана.
Найдем совместное распределение величин	.
. .	& В силу теоремы 3.1 и условия 1° совместное рас-
пределение приращений	к = 1, 2, . . .
. . ., п (£<о = 0), легко выписывается. Тогда, используя
равенства
St, = i'll, St. = 111 + Пг,- • •, Stn= Hi + !h + • • • +
получим
Р < *1, lt2 < х2,. . . ,ltn < Хп) =
= р Oil < П1 4- ф < *2, . • • , П1 + • • • + Пн < хп) =
•  - е	dur. . . dun%
— lK-\)
где
G =	un): < xx, щ + u2< x2,. . .
. . ., UY + U2 + • . . + un < xn}*
L.A П_______1
G k=l (\«
§ 4. Ветвящийся процесс
Ветвящийся процесс — это процесс размножения и пре-
вращения частиц, в котором частицы развиваются неза-
висимо друг от друга. Дадим определение ветвящегоср
§ 4]	ВЕТВЯЩИЙСЯ ПРОЦЕСС	213
процесса с дискретным временем. Пусть
(о, к = 1, 2,. .	п,. . t = 0, 1, 2,. .
— независимые одинаково распределенные целочисленные
случайные величины с общей производящей функцией
ф(*) = S хтРт-
т=о
Величина (t) будет интерпретироваться как число не-
посредственных потомков частицы с номером к, сущест-
вовавшей в момент t. Случайный процесс |лг, определяе-
мый равенствами
.	(?i (t) + £2 (*) + ••• + ёц. (t), если > О,
г г 1	[	0,	если ц, = О,
называется ветвящимся.
При исследовании ветвящихся процессов часто исполь-
зуются производящие функции. Положим
Фг (я) =
Отметим, что
Фо (х) = х, Фх (х) = ср (х).
Так как является суммой случайного числа незави-
симых слагаемых, то, положив в теореме 1.4 гл. 7
(*) = ф*+1 (*) = ф* % (*) =
получим
Фж (х) = Ф< (ф (х)).	(4.1)
Это функциональное уравнение позволяет найти произ-
водящую функцию Ф/ (х) при любом t. Нетрудно прове-
рить, полагая t = 1, 2,. . . в (4.1), что
Ф2 (х) = Ф (ф (*))» Фз (х) = Ф (Ф (Ф (х))),. . .
Таким образом, Ф, (х) является Z-й итерацией функции
ф (х): Фг (я) = <р (<р (. . . <р (х)). . .).
Найдем At — Продифференцировав (4.1) по х9
придем к соотношению
^t+i (х) _	<йр
dx	dtp dx
Последнее равенство, полагая х = 1 и а = Лх = <р' (1),
можно записать в виде А1+1 == Ащ. Следовательноt Aft = а'л
214	ЭЛЕМЕНТЫ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [ГЛ. 10
Поведение At при t оо качественно различается в сле-
дующих трех случаях:	=	Если t оо,
то при a <Z 1 среднее число частиц стремится к 0, At = 1
при а = 1, и Ае->оо в случае а > 1. Ветвящиеся про-
цессы с а < 1, а = 1 и а^> 1 называют соответственно
докритическими, критическими (если ф (х) х) и над-
критическими. Асимптотические свойства ветвящихся про-
цессов в этих трех случаях существенно различны.
Исследуем условия вырождения процесса. Обозначим
С событие, состоящее в том, что = 0 при некотором t.
Очевидно, что
(р< = 0) CZ (p-Hi = 0)» £ = 1» 2, . • »	(4.2)
Событие С можно представить в виде С = (J (р< = 0)*
*=i
Согласно (1.3.11)
A, = P(C') = limP(pe = 0).
t—» оо
Если X = 1, то процесс называется вырождающимся. До
критические процессы (а < 1) являются вырождающими-
ся, так как при t -> оо
1 - Р (И( = 0) = Р > 0) = Р (ц, > -L) < 2Мц, = 2я( -> 0.
Покажем, что вероятность X удовлетворяет уравнению
Ф (х) = х.	(4.3)
Так как (х) является t-й итерацией ф (x)t то наряду
с (4.1) имеет место равенство
Ф,+1 (х) = ф (Ф, (х)).	(4.4)
Очевидно, что Ф, (0) = Р (рг = 0). Полагая# = 0 в (4.4),
получим
р (Н/4-1 = 0) = ф (Р (Н = 0)).	(4.5)
Отсюда при t -> оо найдем
X = ф (X).	(4.6)
Таким образом, А, является корнем уравнения (4.3).
В тех случаях, когда (4.8) имеет единственный корень на
отрезке [0, 1], этот корень совпадает с X. Пусть ф (#) =/= х.
При # €= [0, 1] имеем ф' (#) > 0, ф" (#) > 0. Следователь-
но, ф (#) на отрезке [0t 1] возрастает и обращена выпук-
§ 4]
ВЕТВЯЩИЙСЯ ПРОЦЕСС
215
лостью книзу. Параметр а = ф' (1) определяет угловой
коэффициент касательной к графику у =» ф (я) в точ-
ке х — 1. Следовательно, при а = 1 график у ф (х)
касается у = х в точке я == 1; при a<Z 1 касательная
к у = ф (х) проходит выше у = х. Таким образом, при
а 1 уравнение (4.3) имеет на отрезке [0, 1] единствен-
ный корень х = 1, и, следовательно, ветвящийся процесс
вырождается, если 1.
При а > 1 касательная к графику у = ф (х) проходит
ниже у = х и уравнение (4.3) имеет на отрезке [0, 1] два
корня хг (0 хх < х2 — !)• Покажем, что X =
Для этого достаточно показать, что Р (pf = 0) хг при
любом t, Проведем доказательство по индукции. При
t = 1
р (И1 = 0) = р0 < р0 + рххг + Ргх1 + . . . = Ф (xj = хи
так как хг — корень уравнения (4.3). Предположим, что
Р (pz = 0) хг. Тогда, воспользовавшись (4.5), получим
Р (ц(+1 = 0) = ф (Р (JA, = 0))< ф (хх) = хи
Таким образом, при любом t
Р (и, = 0) < хг.
Переходя к пределу в этом неравенстве, получим 1 х^
Отсюда следует, что X = х19 так как X и хг — корни урав-
нения (4.3) и хг — наименьший корень.
Таким образом, в случае надкритических процессов
К = Р (С) < 1, и, следовательно, надкритические процес-
сы являются вырождающимися.
Для вырождающихся процессов можно ввести слу-
чайную величину т — время до вырождения процесса.
Функция распределения т есть Р (т < t) = Р (р/ = О)*
Найдем асимптотическую формулу при t -> оо для
Q (0 = Р (т > t) = 1 - Р (р, = 0).
Уравнение (4.5) для Q (t) запишется в виде
Q{t + 1) = 1 — Ф(1 — <? (0).	(4.7)
Рассмотрим сначала докритический случай. Для до-
критических процессов а = ф' (1) < 1. Предположим еще^
что конечен второй факториальный момент
& = МИ1 (И1 - 1) = Ф* (1).	(4.8)
216	ЭЛЕМЕНТЫ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ |ГЛ. 10
Используя формулу Тейлора, запишем (4.7) в виде
Q(t+ 1)=1-ф(1) + (р' (1)^(0-
0<е<1.
Отсюда
bt
Q(t+l) = aQ(t)--±Q'(t)f	(4.9)
где
bt = ф" (1 - 0(2 (/)),, о < 0 < 1,	(4.10)
и
Перемножив эти равенства от $ = до 5 t — 1
(0 < t0 < t — 1), получим
Q (0 = Kta^
где
=	27^ (s)).	(4.11)
8=*0
Так как
C(S)=p(lx4>4-)<2MH« = 2a** 0<«<l. (4.12)
и bs Ъ при s —оо, то при достаточно большом tQ сом-
ножители в (4.11) положительны. Из неравенства (4.12)
следует сходимость ряда
j?ln(l-£W)==ln^ 0<^<ooj
и оценка
£1п(1-4^))=0(«')«
Отсюда при t -> оо
Kt = К (1 + О (а1)).
Таким образом, если 0 < а < 1 и конечен момент (4.8)^
то при t-+ оо
Q (0 = Ка< (1+О (а1)).
§ 4]	ВЕТВЯЩИЙСЯ ПРОЦЕСС	217
Рассмотрим критический процесс. В этом случае а = 1,
Ъ > 0 и уравнение (4.9) запишется в виде
(?(<+ 1) = <2(0-4	(4ЛЗ)
где bi -> Ъ при t -> оо. Отсюда
=	<4-14)
V Щ	*
Равенство (4.13) запишем в виде
Q (t + 1) = Q (0 - 4 Q (t) Q (I + 1) + e (0,	(4.15)
где
Используя (4.14), при t -> оо получим
eQ)...= Л_________OSH___> 0	(4 16)
(?(0<2U + l) 2	2 (2G + 1)	'
Отсюда и из (4.15) вытекает, что
1	1	। ь , Л/X
<?(» + !) = W + ^-+6(S)‘
где 6 (s) -> 0 при s —> оо.
Суммируя последнее равенство от$ = 1до$ = / — 1,
при t -> оо получим
w=1+-? + Z6w'=4(1+4+4Sew)=
8=1	8=1
= 4 (i+o(i)).
Таким образом, для критических ветвящихся процессов
с конечным моментом (4.8) при £ оо имеем
Мы рассматривали ветвящийся процесс, начинающийся
с одной частицы. Общее число частиц р, в процессе, на-
чавшемся с п частиц, можно представить в виде
И/ = р(гП + р«2) + • • • + Н*п)1 Ро = ni
218	ЭЛЕМЕНТЫ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [ГЛ. 10
где случайные величины к = 1, . . ., п независимы
и имеют такое же распределение, как рассмотренная
выше величина с р0 = 1. Величину можно интер-
претировать как число потомков к-й. начальной частицы
в момент t. Нетрудно найти Mpf:
Мр, = МрР 4- . . . + Mp{n) = nMp(tn = па\
где
а = Мр[п =
Событие (ре > 0) можно представить в виде
(Нг>0)= и (^>0)= n (J*!*’ = °)-
к=1	1
Отсюда, учитывая независимость величин р{к), к ==
= lj * . .ж п, находим
п
Р (ц, > 0) = 1 - П Р = 0) = 1 - (1 - Q
К=1
где
Q (t) = р (н<(1) > 0).
Таким образом, зная поведение pf с р0 = 1, нетрудно ис-
следовать С |10 = п.
Мы рассмотрели некоторые свойства наиболее простого
ветвящегося процесса. Систематическое изложение теории
ветвящихся процессов дается в книге [15] ♦
§ 5.	Процессы гибели и размножения
Случайные процессы Jjn рассмотренные в §§ 2—4, об-
ладают одним общим свойством: при любом п и любых
< Ц < * • • <	< ^n+i равенство
р (?tn+1 е вп+11 е= Bi,. #., gtn-1 е= в n-i, ltn = х) =
= Р&п+1ея„+1|Ц1 = *)	(5.1)
выполняется для любых событий GE Ви . » ., GE
G Вп-ц = х. Это свойство называют марковским;
(5.1	) является обобщением свойства (8.1.1),; сформулиро-
ванного для целочисленных моментов времени и подмно-
жеств Bi множества натуральных чисел. Процессых удов-
§ 6J	ПРОЦЕССЫ ГИБЕЛИ И РАЗМНОЖЕНИЯ	219
летворяющие (5.1), называют марковскими. Марковский
процесс называется процессом гибели и размножения,
если при h 0	выполняются	условия
Р (lt+h = k	+ 1 | Ь = к)	=	Kh +	о (h),
Р (b+h = к	- 1 I Ь = к)	=	+	о (h),	(5.2)
Р (?t+h = к	| Ь = к) = 1	-	+	Ик) h + о (h),
где
h, Рк > 0 (к > 0), |лк = 0 (к < 0).
Получим теперь, аналогично тому как это делалось в § 3
гл. 3, систему дифференциальных уравнений для вероят-
ностей Рк (t) того, что в момент t состоянием процесса
является к. Для этого запишем вероятность события
= к} по формуле полной вероятности, выбирая
в качестве системы несовместных событий состояния
процесса в момент t. В результате при к 1 получим
Рц (t + h) = Рк (t) (1 — (kk + [ik) h) +
+	(0 4" Hk+i^Pjc+i (t) + О (h).
Перенеся Pk (t) в левую часть этого равенства и поделив
обе части полученного соотношения на h, при h -> 0
находим
Р* (0 = —	+ Hfc) Рк (0 + Ч-iPfc-i (0 + Hk+iPk+i (0* (5-3)
Аналогичные выкладки показывают, что
р; со = - ^оРо (о + нР1 (о.	(5.4)
Если задать начальное распределение {Рк (0)}, то беско-
нечная система дифференциальных уравнений (5.3)—(5.4)
имеет единственное решение лишь в случае, когда
ограничены или возрастают достаточно медленно (см. [18],
оо
гл. XVII, §§ 4, 5). В этом случае У Рк (t) = 1, а марков-
К=о
ский процесс gt, удовлетворяющий условиям (5.2) и имею-
щий заданное начальное распределение вероятностей
Р {g0 = к} = рк (0), к = 0, 1, 3, , . ., является един-
ственным.
Рассмотрим теперь несколько частных видов общего
процесса гибели и размножения.
5.1.	Процесс чистого размножения. Пусть = 0,
к = 0А 12 2,. . * При этом условии переходы из состояния к
220
ЭЛЕМЕНТЫ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [ГЛ. 10
возможны только в состояние к + 1. Вероятности выхода
+ о (Л) (Л 0) из данного состояния к в процессе
чистого размножения зависят в общем случае от номера
состояния. Система уравнений (5.3)—(5.4) для процесса
чистого размножения имеет вид
Л) (0 ~	(0»	J
Рк (t) = ^кРк (0 4“ ^к-1Рк-1 (0> к I* }
Процесс чистого размножения с одинаковыми А,# является
процессом Пуассона.
5.2.	Система массового обслуживания с потерями.
Пусть требования, поступающие на п обслуживающих
устройств, образуют пуассоновский процесс с парамет-
ром X. Время обслуживания любого требования любым
устройством имеет показательное распределение с пара-
метром р и не зависит от работы других обслуживающих
устройств и от поступающих новых требований. Если все
устройства заняты, то вновь поступающее требование
теряется. Число требований в системе в момент t может
принимать только значения 0, 1, . . ., п. Вероятность
перехода системы из состояния к в состояние к за время
h -> 0 отличается на о (Л) от вероятности произведения не-
зависимых событий: {за время h не закончится обслужива-
ние ни одного из к требований} Г| {за время h не поступит
новых требований}. Следовательно, Р {%t+h = k\£t =
= к} = (1 - цЛ + О (Л))* (1 - АЛ + О (h)) + о (Л), или
Р {%l+h = к | & = к} = 1 - (/ф + X) h + о (Л), 0 < к <
<С п. Аналогично находим
Р{^ = к + 1 |	= к} = ХЛ + o(h),
Р {%t+h = к - 11	= к} = kph + о (Л), 0 < к < п.
Так же рассматриваются переходы из состояний/с = 0 и
к = п. Сравнив вычисленные вероятности перехода с (5.2),
получим, что рассматриваемый процесс является процес-
сом гибели и размножения с А^ = А (к = 0, 1, . . ., п — 1),
Afc = 0 (А: > n),	= Аф (1 к п),	= 0 (к > п,
к = 0). Для этого процесса система (5.3)—(5.4) имеет вид
р. (0 = _др0 (t) + |ХРХ (0,
Рк (О = -(X + Аф) Рк (t) + АР^ (0 + (к + 1) р Рт (0,
0 < к < пл
l'n(t) = -(* + «И) Рп (0 +	(t)<
§ 5]	ПРОЦЕССЫ ГИБЕЛИ И РАЗМНОЖЕНИЯ	221
Непосредственно проверяется, что эта система имеет сле-
дующее стационарное решение:
п
р°==(Л'й-0гГ’ p*=iQ,tpo’ Q<k<n> (5-5)
где 0 = Х/ц. Формулы (5.5) называют формулами Эрланга.
Полагая в (5.5) к = п, получим формулу для вероятности
потери требования. Эта вероятность является важной
характеристикой системы обслуживания.
5.3.	Ветвящийся процесс. Один частный случай ветвя-
щегося процесса с непрерывным временем является про-
цессом гибели и размножения. Предположим, что каждая
частица независимо от своего прошлого и от поведения
других частиц за время h с вероятностью Xh + о (h) де-
лится на две, с вероятностью рА + о (h) погибает и с ве-
роятностью 1 — (X + р,) h + о (h) не изменяется. Пусть
—• число частиц в момент времени t. Непосредственно
проверяется, что при h О
Р (£,+л = к + 1 | Ь = к) = Ikh + о (h)<
Р (lt+h = к — 1 | h = к) = рАА + о (fe),
Р (^+п = к\= к) = 1 - (X + р) kh + о (fe), *>0,
Рассматриваемый ветвящийся процесс является процессом
гибели и размножения с = к'к (к > 0), p,R. — /ср (/с > 0).
Решение Р1; (t) = Р = к | £0 = 1} системы уравнений
(5.3)—(5.4) с начальными условиями Р {£0 = 1} = 1Л
Р {£0 = к} = 0 (/с > 1) определяется формулами
Ро (0 = 1 -
(eat — 1) + 1
(a 0),
(а = 0),
X .at .
— (g -1)
л	/ at Л.
— -1)
Р* (t) =
________1_______
X at
— [(* “'-!)+I]2
где a = X — p,.
- >1-1
(a^fcO, Zc^l),
(а = О,/с> 1),
222	ЭЛЕМЕНТЫ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ. [ГЛ. 10
Задачи к главе 10
1.	Найти cov (£f, gf+s), если: a) — пуассоновский процесс
е параметром X; б) — винеровский процесс с а = 0.
Указание. Воспользоваться независимостью^ и однород-
ностью приращений.
2.	Доказать, что для любого промежутка времени Tfc = Ofc —
— 0fc_f, где Ofc — момент fc-го скачка процесса Пуассона, выпол-
няется равенство Р {Tfc > t + s | Tfc > s} = P {Tfc > /}•
3.	Пусть v, i|i, f|>, »। - независимые случайные величины;
P (v = /с) = (КТ)1(е~^т1к\\ величины ц/ (I = 1, 2, . . .) равномерно
распределены на отрезке [0, Г]. Обозначим число величин тр,
удовлетворяющих неравенству ц/ < /, I = 1, 2, . . ., v, если v > 0,
и = 0 при v =» 0. Найти вероятность
Р = A?i,	— A?i,
4.	Пусть pf — ветвящийся процесс с дискретным временем;
<р (х) ==	= рх2 + 1 — р. Найти: а) X = lim Р = 0}, р >
> 1/2; б) » Mpt (pf •— 1) и Dpj при р 1/2,
5» Пусть р; — ветвящийся процесс с непрерывным временем,
определенный в § 5. Найти: а) дифференциальное уравнение для
F (*, х) «= М {я1** J pg 1}; б) явное выражение для F (t, х)\
в) A (t) «== М {pz I р0 »= 1}.
У казание. Использовать формулу полного математиче-
ского ожидания, рассмотрев возможные превращения начальной
частицы за промежуток времени (о, h).
6.	Случайные величины (t = 1, 2, . < .) независимы и Р в
= 1) = р, Р	= —1) ==	1	— р = q. Положим
Г П/ +	если ^t=/= °’
^+1	(	а,	если т), = 0, t = 0, 1,2,	. .
т;0 S3» к. Найти: 1) вероятность того, что процесс когда-либо
попадет в состояние 0, если а = 0; 2) стационарное распределение
вероятностей л/ = lim Р (t)z = Z), если а = 1, q > р.
/-•оо
7.	Пусть — процесс гибели и размножения. Положим =
s М (т |	— к), 0 < к < п, где т — время до первого достижения
состояния п. Найти: 1) математическое ожидание времени пребы-
вания в состоянии к до первого выхода из него; 2) вероятность
того, что первым переходом из к будет переход в к + 1 (& — !)•
Составить систему уравнений для тп^.
8.	Марковский случайный процесс о непрерывным временем
называют цепью Маркова, если множество его состояний конечно
или счетно. Пусть —- цепь Маркова о двумя состояниями
(1 и 2) и при h -» 0
Р (§л = 2 | g0 = 1) « ah + о (h), Р = 1 | £0 = 2) = РД+ о (h).
Найти Рц (t) = Р (^ = / | g0 = 0,	7 = 1, 2.
9.	Пусть Tfc (0, к «= 1, 2,— суммарная длительность пребыва-
ния в состоянии к за время t цепи Маркова, определенной в за-
ЗАДАЧИ К ГЛАВЕ 10
223
даче 8, Составить дифференциальное уравнение для
h a, S) = m (els<^o-b(O) । So = Л)<
10.	Найти lim 2. M (/) | £0 = /с}, где Tj (t) определено в за-
/—*оо t
даче 9.
t
Указание. Использовать формулу ti (t) = \ б1 • du, где
о
$1,1 = 1» $1,2 = О»
И. Движение точки по прямой управляется цепью Маркова
определенной в задаче 8. Если 5/ = 1, то точка движется вправо со
скоростью t>i, а если 5/ = 2, то влево со скоростью v2. Пусть —
координата точки в момент t. Найти lim А М, (1, я), где
/—•оо t
Mt (/, х) = М {г|, I Г]о =	= к}, к = 1,2.
Указание. Составить дифференциальное уравнение для
М]{ (1, х)\ использовать равенство (1, х) = х +	(t, 0).
12.	Решить задачу И, используя равенство	(/) —
— у2т2 (1) + ж, где (t) определены в задаче 9, и решение задачи 10.
13.	Движение точки по прямой управляется цепью Маркова 5/,
определенной в задаче 8. Если ^ = 1, то точка движется вправо
со скоростью р, а при ^ = 2 точка движется влево с постоянным
ускорением а (при начале движения с ускорениям начальная ско-
рость считается равной 0). Пусть — координата точки в момент t.
Является ли процесс марковским? Составить интегральное урав-
нение дл':	(t, х) = М {т)/1 т|0 = £о = &}♦ £ = 1, 2. Найти
lim A Л/. (1, х),
/-оо t k
Указание. Использовать равенство М (1, х) = х + Af (1, 0).
14.	Пусть (t = ... —2, —1, 0. 1,2,...)— последователь-
ность независимых случайных величин с = a, = о2. По-
ложим Г)г = colt + qgf-i + с2^_2,	+ q + с2 = 1. Найти
Оць cov (ц^, ц^). Проверить, что cov (т^,	= R ( |	— t2 | ).
15.	Пусть T)f — процесс, определенный в задаче 14. Положим
а* = (Л! + 'Па + • • • + Ц/)/1. Найти и Dat Является ли а*
несмещенной и состоятельной оценкой а?
16.	Пусть — процесс, определенный в задаче 14. Показать,
/
что Я*(к) = А-^у1 (*п5 — a*) (T)s+fc — «*), к = 0, 1, 2, является асимг •
8=1
тотически несмещенной оценкой R (к).
17.	При 1=1,2,..., 100 получить реализацию процесса т)ь
определенного в задаче 14, если распределены равномерно на
отрезке 1—1, 1]. Значения получить с точностью до 0,01. По реа-
лизации вычислить оценки at и Rt (к), определенные в задачах
15, 16. Сравнить с теоретическими,
Таблицы
Распределение Пуассона
Значения функции
№
— к\ е
Таблица 1
	0,1	0,2		0,3		0,4		0,5
0 1 2 3 4 5 6	0,90484 0,09048 0,00452 0,00015	0,81873 0,16375 0,01638 0,00109 0,00006		0,74082 0,22225 0,03334 0,00333 0,00025 0,00002		0,67032 0,26813 0,05363 0,00715 0,00072 0,00006		0,60653 0,30327 0,07582 0,01264 0,00158 0,00016 0,00001
	0,6		0,7		0,8		0,9	
0 1 2 3 4 5 6 7	0,54881 0,32929 0,09879 0,01976 0,00296 0,00036 0,00004		0,49659 0,34761 0,12166 0,02839 0,00497 0,00070 0,00008 0,00001		0,44933 0,35946 0,14379 0,03834 0,00767 0,00123 0,00016 0,00002		0,40657 0,36591 0,16466 0,04940 0,01112 0,00200 0,00030 0,00004	
	1,0	2,0		3,0		|	4,0		5,0
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17	0,36788 0,36788 0,18394 0,06131 0,01533 0,00307 0,00051 0,00007 0,00001	0,13534 0,27067 0,27067 0,18045 0,09022 0,03609 0,01203 0,00344 0,00086 0,00019 0,00004 0,00001		0,04979 0,14936 0,22404 0,22404 0,16803 0,10082 0,05041 0,02160 0,00810 0,00270 0,00081 0,00022 0,00006 0,00001		0,01832 0,07326 0,14653 0,19537 0,19537 0,15629 0,10419 0,05954 0,02977 0,01323 0,00529 0,00193 0,00064 0,00020 0,00006 0,00002		0,00674 0,03369 0,08422 0,14037 0,17547 0,17547 0,14622 0,10445 0,06528 0,03627 0,01813 0,00824 0,00343 0,00132 0,00047 0,00016 0,00005 0,00001
Нормальное распределение
Значения функции Фо (х) —
1
\f 2л
2 d и
Таблица 2
00	СОТЫЕ ДОЛИ х									
	0	1	2	3	4	5	6	7	8	9
0,0	0,0000	0,0040	0,0080	0,0120	0,0160	0,0200	0,0239	0,0279	0,0319	0,0359
0,1	398	438	478	517	557	596	636	675	714	753
0,2	793	832	871	910	948	987	0,1026	0,1064	0,1103	0,1141
0,3	0,1179	0,1217	0,1255	0,1293	0,1331	0,1368	406	443	480	517
0,4	554	591	628	664	700	736	772	808	844	879
0,5	915	950	985	0,2019	0,2054	0,2088	0,2123	0,2157	0,2190	0,2224
0,6	0,2257	0,2291	0,2324	357	389	422	454	486	517	549
0,7	580	611	642	673	703	734	764	794	823	852
0,8	881	910	939	967	995	0,3023	0,3051	0,3078	0,3106	0,3133
0,9	0,3159	0,3186	0,3212	0,3238	0,3264	289	315	340	365	389
1,0	413	437	461	485	508	531	554	577	599	621
1,1	643	665	686	708	729	749	770	790	810	830
1,2	849	869	888	907	925	944	962	980	997	0,4015
1,3	0,4032	0,4049	0,4066	0,4082	0,4099	0,4115	0,4131	0,4147	0,4162	0,4177
1,4	192	207	222	236	251	265	279	292	306	319
1,5	332	345	357	370	382	394	406	418	429	441
1,6	452	463	474	484	495	505	515	525	535	545
1,7	554	564	573	582	591	599	608	616	625	633
1,8	641	649	656	664	671	678	686	693	699	706
1,9	713	719	726	732	738	744	750	756	761	767
ьэ
со
СП
ТАБЛИЦЫ
Продолжение табл. 2
te	СОТЫЕ ДОЛИ х									
	0	1	2	3	4	5	6	7	8	9
2,0	0,4772	0,4778	0,4783	0,4788	0,4793	0,4798	0,4803	0,4808	0,4812	0,4817
2,1	821	826	830	834	838	842	846	850	854	857
2,2	861	864	868	871	875	878	881	884	887	890
2,3	893	896	898	901	904	906	909	911	913	916
2,4	918	920	922	925	927	929	931	932	934	936
2,5	938	940	941	943	945	946	948	949	951	952
2,6	953	955	956	957	959	960	961	962	963	964
2,7	965	966	967	968	969	970	971	972	973	974
2,8	974	975	976	977	977	978	979	979	980	981
2,9	981	982	982	983	984	984	985	985	985	986
з,о	987	987	987	988	988	989	989	989	990	990
Значения функции иа
ос ОС8
1	(*	~2~
Функция иаопределяется равенством а «	\ е dx
иа	Таблица 3
а	0,001	0,005	0,010	0,015	0,020	0,025	0,030	0,035	0,040	0,045	0,050
а	3,0902	2,5758	2,3263	2,1701	2,0537	1,9600	1,8808	1,8119	1,7507	1,6954	1,6449
ТАБЛИЦЫ
227
Распределение Ст ыодента
Значения функции „
Функция ta n определяется равенством Р (|тп| < ta n) =»
=t= 1 — 2а, где случайная величина тп имеет распределение Стыо-
цента с п степенями свободы. Плотность распределения тп
равна

п
Таблица 4
п	2а	0,10	0,05	0,02	0,01
	5	2,015	2,571	3,365	4,032
	6	1,943	2,447	3,143	3,707
	7	1,895	2,365	2,998	3,499
	8	1,860	2,306	2,896	3,355
	9	1,833	2,262	2,821	3,250
	10	1,812	2,228	2,764	3,169
	12	1,782	2,179	2,681	3,055
	14	1,761	2,145	2,624	2,977
	16	1,746	2,120	2,583	2,921
	18	1,734	2,101	2,552	2,878
	20	1,725	2,086	2,528	2,845
	22	1,717	2,074	2,508	2,819
	30	1,697	2,042	2,457	2,750
	оо	1,645	1,960	2,326	2,576
228
ТАБЛИЦЫ
^-распределение
Значения функции х«, т
Функция /2 т определяется равенством Р (х™ > Ха, ш) = а»
где случайная величина х^ имеет х2-распределение с т степеням
ми свободы. Плотность распределения Хщ равна
Р 2 М = —г-4
г /Д
2
х е
Таблица 5
а тп	0,99	одо	0,05	0,02	0,01	0,005
1	0,00016	2,7	3,8	5,4	6,6	7,9
2	0,020	4,6	6,0	7,8	9,2	11,6
3	0,115	6,3	7,8	9,8	11,3	12,8
4	0,30	7,8	9,5	11,7	. 13,3	14,9
5	0,55	9,2	11,1	13,4	15,1	. 16,3
6	0,87	10,6	12,6	15,0	16,8	18,6
7	1,24	12,0	14,1	16,6	18,5	20,3
8	1,65	13,4	15,5	18,2	20,1	21,9
9	2,09	14,7	16,9	19,7	21,7	23,6
10	2,56	16,0	18,3	21,2	23,2	25,2
И	3,1	17,3	19,7	22,6	24,7	26,8
12	3,6	18,5	21,0	24,1	26,2	28,3
13	4,1	19,8	22,4	25,5	27,7	29,8
14	4,7	21,1	23,7	26,9	29,1	31
15	5,2	22,3	25,0	28,3	30,6	32,5
16	5,8	23,5	26,3	29,6	32,0	34
17	6,4	24,8	27,6	31,0	33,4	35,5
18	7,0	26,0	28,9	32,3	34,8	37
19	7,6	27,2	30,1	33,7	36,2	38,5
20	8,3	28,4	31,4	35,0	37,6	40
21	8,9	29,6	32,7	36,3	38,9	41,5
22	9,5	30,8	33,9	37,7	40,3	42,5
23	10,2	32,0	35,2	39,0	41,6	44,0
24	10,9	33,2	36,4	40,3	43,0	45,5
25	11,5	34,4	37,7	41,6	44,3	47
ТАБЛИЦЫ
229
^-распределение
Значения функции Fa,
Функция Fa, ^определяется равенством P{Fni>	=
= а, где случайная величина ^П1>П2 имеет F-pаспределение с zij и п*
степенями свободы. Плотность распределения Fni равна
rf”i + nt
ргп n (’•) = _J_LJ. (21j2	x2. »>o.
&>+1) ’
a =0,05
Таблица 6
п»	10	20	30	40	50	100	О»
10	2,97	2,77	2,70	2,67	2,64	2,59	2,54
15	2,55	2,33	2,25	2,21	2,18	2,12	2,07
20	2,35	2,12	2,04	1,99	1,96	1,90	1,84
30	2,16	1,93	1,84	1,79	1,76	1,69	1,62
40	2,07	1,84	1,74	1,69	1,66	1,59	1,51
50	2,02	1,78	1,69	1,63	1,60	1,52	1,44
100	1,92	1,68	1,57	1,51	1,48	1,39	1,28
оо	1,83	1,57	1,46	1,40	1,35	1,24	1,00
Случайные числа
Равномерно распределенные случайные числа
Приведенные в таблице цифры можно рассматривать как
реализации независимых и одинаково распределенных случайных
величин, принимающих значения 0, 1, ...» 9 с одной и той же
вероятностью, равной 0,1.
Таблица 7
10	09	73	25	33	76	52	01	35	86	34	67	35	48	76
37	54	20	48	05	64	89	47	42	96	24	80	52	40	37
08	42	26	89	53	19	64	50	93	03	23	20	90	25	60
99	01	90	25	29	09	37	67	07	15	38	31	13	11	65
12	80	79	99	70	80	15	73	61	47	64	03	23	66	53
130
ТАБЛИЦЫ
Продо лжение табл. 7
80	95	90	91	17	39	29	27	49	45	66	06	57	47	17
20	63	61	04	02	00	82	29	16	65	31	06	01	08	05
15	95	33	47	64	35	08	03	36	06	85	26	97	76	02
88	67	67	43	97	04	43	62	76	59	63	57	33	21	35
98	95	И	68	77	12	17	17	68	33	73	79	64	57	53
34	07	27	68	50	36	69	73	61	70	65	81	33	98	85
45	57	18	24	06	35	30	34	26	14	86	79	90	74	39
02	05	16	56	92	68	66	57	48	18	73	05	38	52	47
05	32	54	70	48	90	55	35	75	48	28	46	82	87	09
03	52	96	47	78	35	80	83	42	82	60	93	52	03	44
11	19	92	91	70	98	52	01	77	67	14	90	56	86	07
23	40	30	97	32	И	80	50	54	31	39	80	82	77	32
18	62	38	85	79	83	45	29	96	34	06	28	89	80	83
83	49	12	56	24	88	68	54	02	00	86	50	75	84	01
35	27	38	84	35	99	59	46	73	48	87	51	76	49	69
Нормально распределенные случайные числа
Приведенные в таблице числа можно рассматривать как реа-
лизации независимых нормально распределенных величин с па-
раметрами а = 0, о3 = 1.
Таблица 8
0,464 0,137 2,455 —0,323 —0,068 0,296 —0,288	1,298
0,060 —2,256 —0,531 —0,194 0,543 —1,558 0,187 —1,190
1,486 —0,354 —0,634 0,697 0,926	1,375 0,785 —0,963
1,022 —0,472	1,279	3,521	0,571 —1,851	0,194	1,192
1,394 —0,555 0,046 0,321	2,945	1,974 —0,258 0,412
0,906 —0,513 —0,525 0,595 0,881 —0,934	1,579 0,161
1,179 —1,055 0,007 0,769 0,971	0,712	1,090 —0,631
-1,501 —0,488 —0,162 —0,136	1,033 0,303 0,448 0,748
-0,690 0,756 —1,618 —0,345 —0,511 —2,051 —0,457 —0,218
1,372	0,225	0,378	0,761	0,181 —0,736	0,960 —1,530
-0,482	1,678 —0,057 —1,229 —0,486 0,856 —0,491 —1,983
-1,376 —0,150	1,356 —0,561 —0,256 —0,212 0,219	0,779
1,010 0,598 —0,918	1,598	1,065 0,415 -0,169 0,313
-0,005 —0,899 0,012 —0,725 0,147 —0,121	1,096 0,181
1,393 —1,163 —0,911	1,231 —0,199 —0,246	1,239 —2,574
Ответы к задачам
ГЛАВА 1
2.	1), 4) — 6) неверны; 2), 3), 5) верны.
3.	1) А; 2) А; 3) 0;4)А5.
4.	А — {а}, В = (х: а х < Ь}.
5.	1) {ГГГ, ГРГ, ГГР, ГРР}; 2) {ГГР, ГРГ, РГГ}; 3) {РРР,
ГРР, РГР, РРГ}.
_6. 1) АВС; 2) АВС; 3) АВС; 4) А + В + С; 5) АВС + АВС +
+ АБС; 6) АБС; 7) А + Б + С.
7. Да.
ГЛАВА 2
1. 1/6, 5/6, 11/36, 5/36. 2. 2/п. 3. 1/6.
4.	0,01; 0,72; 0,27.
5.	1/2; С™ (2/5)m (3/5)n“m; С”_2 (2/5)m+2 (З/б)”-”*-3.
6.	Р (А) = 1 — (5/6)* = 0,5177 ... > Р (В) = 1 - (35/36)®* =
= 0,4914...
7.	а) 22гС2г/(?2^; б) п.2™С^/С”.
8.	а) 0,4080; б) 0,3305. 9. 0,09.
10.	1) Р (А) = 1/28985 = 0,0000345..., Р (В) = 224/28985 -=
= 0,0077281...;	2) Р (А) = 8/15 = 0,5333..., Р (В) = 7/15 =
= 0,4666...
И. л/4 = 0,7853981... 12. 12I/1213 = 0,0000537.
13.	1) 1 — (п!/пп); 2) n! С2/пп.
14.	61705/6991908 = 0,0088252...
15.	Г(х) = 1(0<х<1).
16.	F' (х) = х (0 < х < 1), F' (х) = 2 - х (1 < х < 2).
17.	1/4. 18. 1) (1 — (2г/а))2; 2) 1 — (4г2/а3).
19.	1 — (1 — Z/T)3.
20.	а) 3/4; б) 1<3/2 = 0,8660254...; в) 2/3.
21.	Р (А) = MIN, Р (В) = (Af/JV)2, Р (С) = С™	(1 —
- MlN)n~m.
22.	Р (А) = М/N, Р (В) = М (М — 1)/ЛГ (N — 1), Р (С) =
_ rm рп-т ipn
-CMCN-MlCN -Сп -------------------------
23.	а) 1/10; б) 1,100.
ГЛАВА 3
1. 1/12. 2. 0,61477...
3. 1/3. 4. 1) 1/4; 2) 3/5.
232
ОТВЕТЫ К ЗАДАЧАМ
6.	Р (АГВ г) = Р (Лг) Р (Вг) только при г < 0, г > 2/3 и г =
= 1/3.
7.	Cf, С2, С8 не являются взаимно независимыми; СгС2 и С3
зависимы.
9.	1) Pi (1 — Рз) Pii 2) рх + р2 — рхр2; 3) (р, + р2 —
— Р1Рз) (Рз + Р4 — РзР*)-
10.	(1 — Рз) (1 — р,р2).
11.	Р (Лх) = Р (Л2) = 3/8, Р (Л1Л2) = 3/28.
12.	1) аха2; 2) ₽х + Р2 - Р,₽2. 13. 11/18.
14.	1) р (1 - Рх) (1 - р2) + (1 - Р) аха2;
2)	Р(1-Р1)(1-Рз)______________
Р (1 — Pi) (! — Ра) + (! — Р) “102
15.	20/21. 16. 9/16. 17. е~и.
18. Ло = — Р , Ях =	, л2 =	 По-
ах + аз + Р ах + Р ах + Р
19. л0 = 1 — 0, jtfc = (1 — 9) О*, fc > 1.
ГЛАВА 4
1.	3/5.
2.	Р (Лх) = 44/105 = 0,4190476..., Р (Л2) = 26/105 = 0,247619...,
Р (В) = 1/3.
3.	Р (Л*) = М/N, Р(Вк ,) = М (М - i)/N (N - 1), Р (Ск>) =
= М (N — M)/N (N — 1).
4.	С*о (5/72)* (1 — 5/72)’ = 0,00317...
5.	a) 0,95099...; б) 0,0480298...; в) 0,0009802...
6.	a) 12; б) 22.
7.	a) 5, Q (5) = 0,67232...; б) И, Q (И) = 0,9141008...; в) 21,
Q (21) = 0,9907768...
8.	1) Q (5) = 0,73626..., Q (И) = 0,9912088..., Q (21) = 1;
2) Q (5) = 0,6894374..., Q (11) = 0,9381106..., Q (21) = 0,9980502...
Q (га) = 1 — ((4Л/)[п1/(5/И)[п]).
9.	C^,tpm+'(l-p)n~m~l. 10. С^2-Зп.
11. a) (1 ~p2)n; б) С*пр2к (1 -р2)п-*; в) (1 - 2-2пС"п)/2.
12. 0,0588. 13. 393,75 (1/л)4 (1 - 2/л)’ = 0,0093063...
14.	1) С™'Р™‘(I — Р1)п~т‘;
2)	(п — гаи)! / Рз У”8	/ Pn \m,v
m2! . . . raiN! \1 — Pi) ‘ ‘ ’ \1 — pv/
15.	в) np^~2 (n — 1) P1Pa + p2p4). 16. 0,32332.
17.	1) 0,6651, ..., 0,6321; 2) 0,40187..., 0,3679...; 3) 0,2009...,
0,1839...
18.	5. 19. 0,95957. 20. 0,99. 21. 547. 22. 0,0228.
23.	0,39347. 24. (l/4)n-x3/4. 25. 1) 7/8; 2) 2/3, 26. 9/10.
ОТВЕТЫ К ЗАДАЧАМ
233
ГЛАВА 5
1.	С = 3; р„ (х) = Зе"3* (х 0); Р {0,5 < t] < 0,75} =	—
— <r».« = 0,117731...
2.	а) 1/2 (х е (1, 3]); б) в"» (х > 0).
3.	а) 2ахе~а* (х > 0); б) ае-аУ*/2|/х (х > 0);
в) а2е~а(еаХ~х^ (— °° < я < сю); г) 1 (х е [0, 1]).
4.	а) 2	е-х/2(х>0); б) .
l/2nx	х^2л
5.	р^ (х) = —In х (0 < х < 1).
6.	р (х) = 1 (0 < х < 1).
7.	а) 1 - | х - 1 | (0 < х < 2); б) 1 - | х | (| х | < 1); в) 1/2
<0 < х < 1); 1/2х2 (х > 1); 0 (х < 0).
8.	aW“* (х > 0).
X
9.	а) рЛ1 (х) = _|-е “ (х> 0); б) р^ (х) = 1(- * < х ;
®) Л1„ Th (*ь х1) = А). (*1) Л1, (*2)-
-(*2+х?)/2
10« ₽Th,Th(*b^)=-S7*
13.
11. а) Р (Ь = -1) = Р (g, = 1) = 1/2; Р (g2 = -1) = 1/3,
Р (g2 = 0) = 1/4; Р (g2 = 1) = 5/12; б) Р (щ ,= 2) = Р (тц =
= —2) = 1/8; Р (тц = —1) = 1/12, Р (п. = 0) = 1/2; Р (m = 1) =
•= 1/6; в) Р (т)2 = 0) = 1/4, Р (т)2 = 1) = 3/4; г) 1/2.
12. W = 1/2 (0 < х < 2).
22.	Распределение Пуассона с параметром к =	+ Х2.
14.	Р (т = к) = (1 — р^р (к 1).
15.	Р (т(1) = к, т(2) = I) = (1 — p)H-l (1 — р)'-»р2 (fc > 1, Z > 1).
16.	Р (тт = к) = С^ртдк~т (к = т, т + 1, . . .).
17.	Р (0=1, v = n) = (1/3)’*-11/6 (Z = 1, 2, 3, 4; л =1,2, ...);
величины v и 0 независимы.
18.	а) апе~апх (х > 0); б) ап (1 —	(х > 0).
19.	1) п (1 - F (х^р (х); 2) п (F (х))"-^ (х); 3) -------- Х
(т—1)! (п—тр
X(F (х)Г-1 (1 - F (х))п~тр (х); 4) ----- ге!-------—--------— х
(т — 1)! (к — т — 1)! (п — А)!
X(F (xi))”*-1 (F (х2) - F (хО)*-"1-1 (1 - F (x2))n-,cp (x2) p (x2) (xj < x2:
m < k),
20.	% = n1p1 + n2P2 + П3Р3 = 2; 1 —	(1 + Л) = 0,59399...
21.	2/л — 0,6366197...; величины gf, g2 зависимы.
22.	P = i, g2 = 7) = 0,01; it 7 = 0, 1, , .	9. Величины
glt g2 независимы.
234
ОТВЕТЫ К ЗАДАЧАМ
ГЛ АВ А б
i. Ир. 2. (п + 1)/2.
8.	P(g = A) = (1-1)*"* £, Mg = B.
4.	т/р. 5. Мт = 1/X, Dr = 1/1а. 6. 9; 16,5.
7.	Mg = npq, Dg = npq (р* + g3) + 2pag3.
8.	Mrii = 9, Miu = 20,25, Dr), = 16,5, Dt)2 = 402,1875.
9.	Mg, = 0, Mg2 = 1/12, Dgi =1, Dg2 = 107/144,
cov (g,, g2) = —1/4.
10.	Mgj = Mg2 = cov (g„ g2) = 0, Dgj = Dg2 = 0,5. Случай-
ные величины зависимы.
И. а) 0; б) 1/3.
12.	Mgfc = npk, Dgk = npfc (1 — рк), cov (gk, g,) = — пркр,
N
13.	Р (щ, = 0) = у (-l)'c', (1 - -L)n.
1=0
14.	Мр0= N (1 - Vj1- Ne~*- Dp0= мро+ N (N - 1)(1 -
—	-(1+ a)e~*), TV —» oo, 2^ —► a.
15.	0,08675 < p < 0,09.
n
16.	у (—1)*+1	—1 — e-1 = 0,63212...
fc=l
N
17.	Mg = Dg = l. 18. Mv = TV У-L.
19. a) 0,00269...;	6)0,01831...; в) 0; г) 1/9 = 0,111..J
д) 0,08606...
20. 1) P (| g | < uao} = 0,90; a) P {| / (g) | < uao} » 0,7805...»
«) P {I/(£) I <«V} = 0,9014...; 2) P (| f (g) | <«aa}»P {| g |<«ac}+
+ "{P + i| <“-’}•
“• 41С -Ш-
22.	a =	₽ = e. — (ajGjj/Gn).
23.	0,25; 0,0455... 24. Да.
25.	При a < 1 применим; при a > 1 не применим.
27.	а) С™	- (Ak/AN))"-»‘, Ak =	. . + Хк»
б)
28.	т) распределено нормально с параметрами (0, 1).
30.	Мк = -А- —	, p=^q-9Mk=k(n-k)iP^
= д«1/2.
ОТВЕТЫ К ЗАДАЧАМ
235
31.	0,08145... 32. Да.
33.	а) т) распределено нормально; б) нет.
Г Л А В А 7
1. а) яф (я2); б) (1 — яф (я))/(1 — х); в) ф (я)/(1 — я); г) (ф (}Лг) +
+ Ф (-/^))/2.
; 2» Р*/(1 — 9®); Мт = 1/р, Dr = q/p3, q = 1 — р;	J Мтт=
= mlp, Dxm=mq/pZ.
N
3. Ю1-—'l----------------------V s. «*»<>-»
N )
6.	a) (pelt + g)n; б)	в) 1/(1 — (if/а)); r) sin tit.
7.	a) P (g = 1) = P a = -1) = 1/2; б) P (g = 2) = P (g =
= -2) = 1/4, P (g = 0) = 1/2; в) P (g = к) = P (g = -к) = 2-»--1,
fc = 1 2
8.	’ | f (tj |2. 9. a) 0,5; 6) 0,6826.
11. 0,75-10-m+2.
13.	Нормальное распределение с параметрами (0, 1).
-m
14.	_— e~x. 15. х(0<х<1).
ml
16.	а) С™рт (1 - р)п~т-, б) 22 е~\
20.	а = 1,71828..., Da» = 0,00242036..., Д = 0,1267203.,,
Г	Л А В А 8
1. 1) (0,385; 0,336; 0,279); 2) 0,0336; 3) (16/47, 17/47, 14/47).
2.P(gs = i)= S W’-'W» Ч = (- *;♦.-») =
*$—1
= Р U, = О 3 Ри,- • • Pti_J-
t...‘t-1
4. а) Нет, если р Ф q; да, если р = q = 1/2. б) Да, Р (t)j+j =
= 1 | t)( = 1) = Р, Р (nt+i = 1 I = — 1) = 1 — р. в) Да, ри =
— Рзз — PH — Рзз — 1 Р> Р1з — Ры — Рзз — Ра = Р«
/3/7 4/7	\
°* U/H ю/n/-
6. Р (Но (» + 1) = к | Но (п) = к) =. JL ; P(Ho(n+1) = к-1| но(п) =
7. Является. 8. 1/6.
10. а) {1, 2); б) = 1,42268 . . .; в) р<а) =	= 0,5360. ..,
У /	У 7
236
ОТВЕТЫ К ЗАДАЧАМ
= -пт = °’4123 • • •>	= i-p^),/ = i.2; г)«1 = л2 = о,л8 =
У/	J	J
=Si=°*3161 • • •• **=Si=°-1580- • =яв=й=0>2628 • • •
11. (р/(а + р), а/ (а+Р)).
ГЛАВА 9
3. М/пц = п ... cov (хи ух),
п — 1
6. Л — 2 arcsin jAp, В = 1.
а* ~ 3 сл»
fr=i
где cic =	1/б?
11. a) M0*=M0* = —DO* = _________21?, D0* =_~ а^'---
11	2	2	1	12п	2 2(п+1)(п + 2)’
б) М0* = 1/а, D0* = l/a4 M0*=_L (1 +1. +.. . + _Ц + 1V
^СС \	&	П — 1 п /
D0* — 1 /1 I _L _L -LI 1 J_ 4 \
2	474	22	32 Ф (п - 1)2 Ф «2 4
12. Мс* = с, De* — 1/п2,
VI №
15.	т) =5 Sjf	——» где — число исходов полиномиальной
схемы с номером к.
16.
п
17.	М^! — (г — 1) <32_|_ и ^^2 ai-^~ ~ ai J ’ М<?2 =
i=l	i=l
= (п — г) б2.
ГЛАВА 10
1. a) Xi; б) Ы.
3.	См. (10.2.2) с п = 3, i3 = Т,
4.	а) X = (1 — р)1р\ б) Dp,, = Bt = t, Мр, = 1.
5.	a) ^ = 1x-(X + n)F + XF2;
eft
6)	F (t, X) = 1 -	---f----LLrZ)------(МФ), F(t, x)=
Л	1) (1 — x) + 1
X — p
=1 - (X=b> A w
Ai (I — X) -f- i
6. 1) 1, если g > p; (g/p)\ если q < p\ 2) no = q ~ p л =
i + tf —P
= -^(р/9)\ *>1.
ОТВЕТЫ К ЗАДАЧАМ
237
7.1) 1/(4+^): 2) МЧ + 14-)- (МЧ + 1М). (Ч + Нц) «*=
= 1 +	+ ЧтА+1’ 0 < к < п’ то = т1 + V’ тп = °-
8.	IIР.. (П || = 1 Р а\ + е (а+Р>< / а —а\ ф
°- И г/>11 а + р^р аР	а + Р к-₽ Р/
9.	^ = -(а-й)/1 + а/2, д-Ь = рЛ - (р + is) f2, А (О, s) =
dt	dt
= /2(0,s) = l.
10.	Р/(а + Р).
- V1 = - аЛА + аМ2)	+ v2	- рл/х - рЛ/2,
dt dx	dt dx
= — ami + am2 + vb (i) =	(t, 0),
— $m2 — t’2,	(0) = m2 (0) = O’,
dt
lim -L (Z, x) = (i^p — Р2«)/(а + P).
4___t K
И.
13.
Mi (/, х) = е
\ М2 (t — и, х + vu) du.
о
t-u, x-^\du;
2 }
Мг (t, х) = e-Bt (х —
О
lim — Л/к (t, х) = v —&— — -----------5L- .
«-=» t И ’ а + ₽	₽ а+Р
14. Mt)j =	a,	Dt]t =	(c* +	4 +	4) °2 =	R (°)> R (!>	=	ci (co	+
+ c2) o2, R (2)	=	с0с2а2,	Я (fc)	= 0,	A > 3.
15. Ma* =	a.	Da*	=	(t (c2	+ c2 +	c2) + 2 (t —	1)	c2 (c0	+
+ c2) + 2 (t —	2)	c0c2]; оценка	а* является	несмещенной и	состоя-
тельной оценкой а.
Список литературы
[1]	Большее Л. Н., Смирнов Н. В. Таблицы математиче-
ской статистики.— 3-е изд.— М.: Наука, 1983.
{2]	Б о р о в к о в А. А. Теория вероятностей.— М.: Наука, 1976?/
[3]	ГельфондА. О. Исчисление конечных разностей.-— 3-е
изд.— М.: Наука, 1967.
[4]	Гнеденко Б. В. Курс теории вероятностей.— 5-е изд.—
М.: Наука, 1969.
[5]	Ермаков С.М. Метод Монте-Карло и смежные вопросы.—
М.: Наука, 1971.
[6]	Кендалл М., Моран П. Геометрические вероятности/
Пер. с англ.— М.: Наука, 1972.
[7]	Коваленко И. Н., Филиппова А. А. Теория ве-
роятностей и математическая статистика.—М.: Высшая школа,
1973.
£8] Колмогоров А.Н» Основные понятия теории вероятно-
стей.— М.: Наука, 1974.
[9]	Колчин В. Ф., Севастьянов Б. А., Чистя-
ков В. П. Случайные размещения.— М.: Наука, 1976.
[10]	Крамер Г. Математические методы статистики.— 2-е изд./
Пер. с англ.— М.: Мир, 1975.
[11]	Мешалкин Л.Д. Сборник задач по теории вероятнос-
тей.— М.: Изд-во МГУ, 1963.
[12]	Прохоров Ю. В., Розанов Ю. А. Теория вероят-
ностей (Основные понятия, предельные теоремы, случайные
процессы). — 2-е изд. — М.: Наука, 1973.
[13]	Розанов Ю.А. Случайные процессы.— 2-е изд.— М.:
Наука, 1979.
[14]	Романовский В.И. Дискретные цепи Маркова.— M.j
Гостехиздат, 1949.
[15]	Севастьянов Б. А. Ветвящиеся процессы.— М.: Нау-
ка, 1971.
[16]	С е в ас т ь я н о в Б. А., Чистяков В. П., Зуб-
ков А. М. Сборник задач по теории вероятностей.— М.: На-
ука, 1980.
[17]	Смирнов Н. В., Дуни н-Б арковский И. В. Курс
теории вероятностей и математической статистики для техниче-
ских приложений.— 3-е изд.— М.: Наука, 1969.
[18]	Феллер В. Введение в теорию вероятностей и ее приложе-
ния. Т. l./Пер. с англ.— М.: Мир, 1967.
[19]	Ченцов Н. Н., Чистяков В.П. Теория вероятнос-
тей (методические указания).— М.: Изд-во МГУ, 1961.
[20]	Чистяков В.П. Задачник по теории вероятностей (За-
дачи и эксперименты со случайными числами).— М.: Изд-во
МИФИ, 1980.
[21]	Ш е ф ф е Г. Дисперсионный анализ,— 2-е изд./Пер. с англ.—
М.: Наука, 1980.
Оглавление
Предисловие к третьему изданию..........................  3
Ив предисловия к первому изданию......................... 4
Введение ................................................ 7
Глава 1. Вероятностное пространство....................
§ 1.	Пространство элементарных событий.............
§ 2.	Алгебра событий...............................
§ 3.	Вероятность...................................
Задачи к главе 1 ..................................
11
11
14
18
22
Г л а в а 2. Простейшие вероятностные схемы и их обобщения	24
§ 1.	Классическое определение вероятности............ 24
§ 2.	Дискретные вероятностные пространства........... 29
§ 3.	Геометрические вероятности...................... 29
§ 4.	Абсолютно непрерывные вероятностные пространств
ва.................................................... 31
§ 5.	Случайные числа................................  32
Задачи к главе 2..................................... 33
Глава 3. Условные вероятности. Независимость событий 37
§ 1.	Условные вероятности............................ 37
§ 2.	Вероятность произведения событий................ 38
§ 3.	Формула полной вероятности...................... 41
Задачи к главе 3..................................... 46
Глава 4. Последовательности испытании .................. 49
§ 1.	Общее определение последовательности испытании	49
§ 2.	Последовательность независимых испытаний ...	53
§ 3.	Предельные теоремы в схеме Бернулли............ 57
§ 4.	Бесконечные последовательности независимых ис-
пытаний ............................................  64
Задачи к главе 4.................................... 67
Глава 5. Случайные	величины......................... 71
§ 1.	Определения и	примеры......................... 71
§ 2,	Свойства функции распределения................. 74
§ 3.	Дискретные и абсолютно непрерывные распределе-
ния * ............................................... 75
§ 4.	Совместные распределения нескольких случайных
величин * . » ....................................... 78
§ 5,	Независимость случайных величин................ 82
§ 6.	Функции от случайных величин................... 86
Задачи к главе 5 ................................... 91
Г л а в а	6. Математическое ожидание.................... 94
§ 1.	Определения.................................... 94
§ 2.	Свойства математического ожидания............. 100
§ 3.	Дисперсия а *................................. 103
§ 4.	Ковариация, Коэффициент корреляции............ 107
240
ОГЛАВЛЕНИЙ
§ 5.	Закон больших чисел........................... 109
§ 6.	Условные распределения и условные математиче-
ские ожидания...................................... 115
§ 7.	Многомерное нормальное распределение.......... 118
Задачи к главе 6 ,................................. 122
Глава 7. Предельные теоремы............................ 125
§ 1.	Производящие функции ......................... 125
§ 2.	Характеристические функции.................... 132
§ 3.	Закон больших чисел........................... 142
§ 4.	Центральная предельная теорема................ 143
§ 5.	Вычисление интегралов методом Монте-Карло. . .	146
§ 6.	Прием линеаризации............................ 148
Задачи к главе 7	  150
Глава 8. Цепи Маркова.................................. 153
§ 1.	Определение................................... 153
§ 2.	Уравнения для вероятностей перехода.........*	157
§ 3.	Стационарное распределение. Теорема о предель-
ных вероятностях................................... 159
§ 4.	Доказательство теоремы о предельных вероятно-
стях в цепи Маркова................................ 162
Задачи к главе 8................................... 164
Глава 9. Элементы математической статистики ....	166
§ 1.	Задачи математической статистики.............. 166
§ 2.	Понятие выборки. Выборочные распределения . .	167
§ 3.	Выборочные моменты............................ 169
§ 4.	Точечные оценки............................... 177
§ 5.	Интервальные оценки........................... 186
§ 6.	Статистическая проверка гипотез............... 190
§ 7.	Регрессионный анализ.......................... 198
§ 8.	Дисперсионный анализ.......................... 201
Задач	и к главе 9 . . ............................ 203
Глава 10. Элементы теории случайных процессов . . .	207
§ 1.	Понятие о случайных процессах................. 207
§ 2.	Пуассоновский процесс......................... 208
§ 3.	Винеровский процесс........................... 211
§ 4.	Ветвящийся процесс............................ 212
§ 5.	Процессы гибели и размножения................. 218
Задачи к главе 10.................................. 222
Таблицы................................................ 224
Распределение Пуассона............................. 224
Нормальное распределение........................... 225
Распределение Стьюдента............................ 227
Х’-распределение................................... 228
F-распределение.................................... 229
Случайные числа.................................... 229
Ответы к задачам....................................... 231
Список литературы...................................... 238
в.п.чистяков
Курс теории вероятностей