A. H. Ширяев
ЗАДАЧИ ПО ТЕОРИИ
ВЕРОЯТНОСТЕЙ
Учебное пособие
Москва
Издательство МЦНМО, 2006

УДК 519.21(075.8)
ББК 22.171
Ш64
Ширяев А. Н.
Ш64 Задачи по теории вероятностей: Учебное пособие. — М.: МЦНМО,
2006.
ISBN 5-94057-107-7
Настоящее учебное пособие содержит более 1500 задач (включая подзадачи),
непосредственно «привязанных» к учебнику автора в двух книгах «Вероятность— 1»
и «Вероятность — 2» (2004 г.) и упорядоченных в соответствии с содержанием этих
книг. Многие задачи сопровождаются указаниями к их решению. В приложении дан
аннотированный указатель основных обозначений и важных понятий теории
вероятностей, комбинаторики и теории потенциала, используемых в пособии.
Пособие рассчитано на студентов высших учебных заведений по
физико-математическим направлениям и специальностям. Может служить учебным пособием для
аспирантов и справочным пособием для специалистов.
Библиография 133 назв.
ББК 22.171
Альберт Николаевич Ширяев
ЗАДАЧИ ПО ТЕОРИИ ВЕРОЯТНОСТЕЙ.
Учебное пособие
Научный редактор Т. Б. Толозова
Редактор Т. Л. Коробкова
Технический редактор В. Ю. Радионов
Подписано в печать 16.11.2005 г. Формат 60x90 l/l6- Бумага офсетная №1.
Печать офсетная. Печ. л. 26. Тираж 2000 экз. Заказ №
Издательство Московского центра непрерывного математического образования.
121002, Москва, Большой Власьевский пер., 11. Тел. 241—74—83.
Отпечатано с готовых диапозитивов в ППП «Типография „Наука"».
119009, Москва, Шубинский пер., 6.
Книги издательства МЦНМО можно приобрести в магазине «Математическая книга»,
Большой Власьевский пер., д. 11. Тел. (095) 241—72—85. E-mail: biblioemccme.ru
ISBN 5-94057-107-7
© Ширяев А. Н., 2006
© МЦНМО, 2006

Предисловие
Замысел настоящего учебного пособия «Задачи по теории
вероятностей» состоял в следующем.
В первых двух изданиях нашей книги «Вероятность» (1980, 1989) ко
всем ее восьми главам было приведено большое число задач
разнообразного характера. В ходе подготовки третьего, переработанного и
дополненного издания, вышедшего в апреле 2004 г. в двух книгах «Вероятность— 1»
и «Вероятность —2», возникла идея отдельно издать пособие, содержащее
как «старые» задачи из этих книг, так и те «новые», которые по тем или
иным причинам не вошли во все эти издания. (Среди этих причин основной,
конечно же, была оговоренная при издании ограниченность объема книг.)
Задачи мною постепенно собирались и отбирались в течение многих
лет в соответствии с моими интересами, при этом использовались
разнообразные источники —учебники, учебные пособия, задачники, монографии,
журнальные статьи... Многие из приводимых задач возникали на наших
специальных семинарах для студентов и аспирантов.
Практически не представляется возможным дать сейчас точные ссылки
на все соответствующие источники. Но некоторое представление о них
можно получить по списку литературы, приведенному в конце книги.
К довольно-таки большому числу задач в пособии приводятся и
указания к их решению, о чем надо сказать следующее.
На механико-математическом факультете МГУ, где зародилась книга
«Вероятность», основанная на наших лекциях, студенты выбирают
специализацию в конце четвертого семестра. Тем из них, у кого на третьем
курсе я становлюсь научным руководителем, сразу же говорится, что их
первая курсовая работа (на третьем курсе) будет состоять из двух частей.
Первая — это решение задач из книги «Вероятность», скажем, задач из
§§ 8—10 гл. И. Это, разумеется, предполагает, что для решения задач
студенты должны самостоятельно ознакомиться не только с
соответствующим материалом этих параграфов, но, при необходимости, и с текстом
предшествующих параграфов. После получения от них текста (при этом не
рукописного, а в ТЁХ'е) с решениями, его проверки и обсуждения студенты
получают вторую часть курсовой работы, уже более творческого характера.
В результате такого многолетнего процесса у нас накопилось
значительное число разнообразных решений задач (вошедших во все издания
«Вероятности»), многие из которых по моей просьбе были перепроверены,
отредактированы, а зачастую и решены заново рядом сотрудников,
аспирантов и старшекурсников нашей кафедры, среди которых назову в первую

4
ПРЕДИСЛОВИЕ
очередь А. С. Черного (гл. I—V), М. А. Урусова, И. А. Ярошенкова и
Ю. А. Кузнецова (гл. VI—VIII). Всем им я выражаю свою признательность
за проделанную работу.
Собрав все решения задач, я понял, что их публикация в настоящее
время невозможна, поскольку все вместе они занимают слишком много
места. Поэтому мне пришлось идти по пути превращения решений к
задачам, отобранным для настоящего издания, в указания к их решениям,
написав также указания и к большому числу новых задач.
Особо надо сказать о помещенном в конце книги приложении, с
которым мы рекомендуем читателю ознакомиться как можно раньше, хотя бы
и бегло, по следующим причинам. Это приложение, с одной стороны, дает
аннотированный указатель основных обозначений и важных понятий
теории вероятностей, используемых в этой книге и в книгах «Вероятность— 1»
и «Вероятность —2», а с другой стороны, дает дополнительный материал
по комбинаторике и теории потенциала в марковских цепях, необходимый
для решения задач, в формулировках которых есть понятия, не входящие
в основной текст наших книг.
Настоящий сборник сильно привязан к книгам «Вероятность— 1» и
«Вероятность — 2». Это видно из того, что, например, формулировка
задачи И § 3 гл. II содержит такой текст: «Проверить, что приведенные
в табл. 2 и 3 „распределения" действительно являются распределениями
вероятностей». Должно быть понятно, что здесь речь идет о таблицах 2
и 3 из § 3 гл. II (с. 196 и 197) книги «Вероятность— 1». В § 3 гл. IV
есть задача 5 (с): «Показать, что (предложенное Чамперноуном) число
бс; ^ 0,123456789101112..., где подряд выписываются все числа, является
нормальным (в десятичном разложении; см. пример 2)». Понятно, что
здесь идет речь о примере 2 (на с. 546—547) в § 3 гл. IV книги
«Вероятность—2».
Читатель заметит, что помещенные в пособие задачи носят различный
характер.
(A) Одни (задачи-упражнения) преследуют цель проверки усвоения
понятий, фактов и результатов, изложенных в книгах «Вероятность— 1»
и «Вероятность — 2» (например, задачи из §§ 1 и 2 гл. I, относящиеся
к комбинаторным подсчетам числа благоприятствующих событий и
раскрывающие содержательное многообразие таких понятий, как неполный
факториал (N)n, числа сочетаний С^ и С^+п_х, числа Каталана Сп,
числа Стирлинга первого и второго рода s^ и 5^, числа Белла Вн,
числа Фибоначчи Fn и др.).
(B) Другие (задачи средней и повышенной трудности) требуют уже
больше творческой работы (например, дать доказательство результата,
соединяющего в себе теорему Лебега о мажорируемой сходимости и теорему

ПРЕДИСЛОВИЕ
5
Леви о предельном переходе в условных математических ожиданиях —
задача 3 в § 4 гл. VII).
(C) Формулировки многих задач призваны дать дополнительный
теоретический материал к основному тексту книг «Вероятность— 1» и
«Вероятность — 2», ознакомить читателя с разнообразными фактами, о
которых хорошо было бы знать или хотя бы иметь представление об их
существовании (например, задача 27 в § 2 гл. II — результат М. Сусли-
на о том, что проекция плоского борелевского множества на одну из
координатных осей может не быть борелевским множеством на прямой,
или результат о том, какими операциями над множествами можно было бы
достичь всех множеств наименьших алгебр и сг-алгебр, порождаемых теми
или иными системами множеств — см. задачи 25, 26 и 32 к § 2 гл. II).
(Мы полностью отдаем себе отчет в том, что задачи такого типа — это
на самом деле трудные теоремы. Однако формулировка их в виде задач
направлена на то, чтобы читатель задумался, например, о том, а как все
же в действительности можно построить а-алгебры, играющие ключевую
роль при описании вероятностных моделей в «неэлементарной» теории
вероятностей.)
(D) Многие задачи связаны с предельными переходами от случайных
блужданий к броуновскому движению, броуновскому мосту (например,
задачи к § 4 гл. III). Эти задачи, относящиеся к «принципу инвариантности»,
могут служить «прелюдией в задачах» к ознакомлению с общей теорией
случайных процессов с непрерывным временем и, в частности, с тем ее
разделом, который относится к функциональным предельным теоремам.
Сделаем также одно замечание общего характера.
В разные годы преподавателями МГУ было издано несколько
сборников задач по теории вероятностей, постоянно используемых в учебном
процессе как в Московском университете, так и в других высших учебных
заведениях. Назовем их:
1963 г. — Мешалкин Л. Д. Сборник задач по теории
вероятностей.—М.: Изд-во Моск. ун-та;
1980 г. — С е в а сть я но в Б. А., Чистяков В. П., Зубков А.
М. Сборник задач по теории вероятностей. —М.: Наука;
1986 г. — П рох о ров А. В., Ушаков В. Г., Ушаков Н. Г.
Задачи по теории вероятностей. (Основные понятия. Предельные теоремы.
Случайные процессы.) — М.: Наука;
1989 г. — Зуб ко в А. М., Севастьянов Б. А., Чистяков В.
П. Сборник задач по теории вероятностей. — 2-е изд. — М.: Наука;
1990 г. — Козлов М. В. Элементы теории вероятностей в примерах
и задачах. — М.: Изд-во Моск. ун-та.
С того момента, когда вышел в свет последний сборник, прошло почти

6
ПРЕДИСЛОВИЕ
пятнадцать лет. За это время довольно сильно изменилась структура
учебных курсов по теории вероятностей. Появились новые направления, новые
разделы и новые задачи. Хочется рассчитывать на то, что наш сборник
задач, выходящий в 2006 г., вместе с указанными выше учебными
пособиями даст достаточно полное представление как о современном состоянии
теории вероятностей, так и о ее традиционных и классических разделах.
Завершая это предисловие, заметим, что в общей сложности в пособии
собрано более 1500 задач (включая подзадачи).
Как и при подготовке к изданию книг «Вероятность— 1» и
«Вероятность — 2», выверка, упорядочивание текстов задач и их научное
редактирование были осуществлены Татьяной Борисовной Толозовой, которой
выражаю свою искреннюю признательность и благодарность.
Москва, 2004 А. Ширяев
Кафедра теории вероятностей
Московского государственного университета
им. М. В. Ломоносова
Математический институт им. В. А. Стеклова
Российской академии наук

Глава I
ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
§ 1. Вероятностная модель эксперимента с конечным
числом исходов
1. Установите справедливость следующих свойств булевых операций
пересечения (П) и объединения (U) подмножеств из некоторого
множества Q\
Л U В = В U Л, АпВ=ВпА (коммутативность),
A U (В U С) = (A U В) U С, Ап(ВпС) = (АпВ)ПС (ассоциативность),
А П(В UС) = (А ПВ) U(А ПС), Л U(В ПС) = (Л Ufi) П(Л UС)
(дистрибутивность),
ЛиЛ=Л,ЛпЛ = Л (идемпотентность).
Показать также, что справедливы следующие законы де Моргана,
связывающие операции пересечения, объединения и дополнения:
ЖТв=ЛпвУ Тпв=Лив
(здесь Л есть дополнение множества Л, т. е. множество П\Л).
2. (Разные интерпретации и свойства неполного факториала
(N)n = N(N —l)...(N — n + l) — числа размещений из N по п; см.
приложение, § 1.) Показать, что
(a) число упорядоченных выборок (...) размера п (без повторений
элементов— «выбор без возвращения»), составленных из элементов
множества Л с числом элементов \А \ = /V, равно (N)n, 1 < п < /V;
(b) число слов длины п, составленных из различных букв, выбранных
из алфавита, содержащего N букв, равно (N)n, 1 < я < /V;
(c) число различных функций у = f(x), определенных на множестве
X с |Л"| = я, принимающих значения в множестве Y с \Y\=N, n^N, и
таких, что если х\ фх2, то f(x\) ф f(x2) (т. е. /: X —> Y является инъекцией),
равно (N)n.
3. (Разные интерпретации и свойства биномиальных коэффици-
/V'
ентов С^ = ( д. '—ту; см. приложение, § 1.) Показать, что

8
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
(a) число неупорядоченных выборок [...] размера п (без
повторений элементов — «выбор без возвращения»), составленных из элементов
множества А с |Л| = УУ, равно CJy, 1 <m</V;
(b) число упорядоченных последовательностей (...) длины /V,
состоящих из п единиц и N — п нулей, равно CJy, 1 < п < /V;
(c) число способов, которыми п неразличимых дробинок можно
разместить по N различным ячейкам, причем так, чтобы в каждой ячейке
было не больше одной дробинки («размещение с запретом»), равно С^,
(d) число неубывающих путей на двумерной целочисленной решетке
Z^_ = {(/, /):/,/ = 0, 1, 2, ...}, начинающихся в точке (0, 0) и приходящих в
точку (я, N — п)у равно Сц (неубывающий путь — это такой путь, у которого
на каждом шаге сдвиг происходит либо вверх на единицу, либо вправо на
единицу), 0 < п < /V, С^ = 1;
(e) число различных подмножеств D множества А с \А\ = Ny состоящих
из п элементов (\D\ =п, я < /V), равно С#.
Указание. Если непосредственно доказано, скажем, утверждение
(а), то проверку справедливости утверждений (Ь), (с), (d) и (е)
рекомендуется проводить не как независимых от (а) утверждений, а путем установления
логических соответствий типа (а) <-> (Ь), (а) <-> (с), ..., как это проделы-
валось в примере 6 (§ 1).
4. Как и в п. (d) предыдущей задачи, рассматриваются пути на
целочисленной решетке Z\ = {(i, /): /, / = 0, 1, 2, ...}, которые выходят из
точки (0, 0) и приходят в точку (п, п), при этом, однако, оставаясь ниже
«диагонали» или касаясь ее (т. е. пути, проходящие через точки множества
{(/, /)€Z2.,0</<K/i}).
Показать, что число таких путей равно Сп+\, где
Г — - Сп~х п> 1
— числа Каталана, [45]. (Иногда под числами Каталана понимают числа
сп = Сп+\, я>0;см. например, [61].)
Проверить, что значения С\у..., Cq равны соответственно 1, 1, 2, 5, 14,
42, 132, 429, 1430.
5. Числа Каталана Сп, п^\, допускают много интересных
комбинаторных интерпретаций. Например, рассмотрим число Nn разных способов
подсчета суммы п чисел а, ft, с, d, ..., при которых каждый раз
складываются лишь два числа (изменение порядка следования слагаемых не
допускается). Скажем, при п = 3 сумму a + b + с можно подсчитывать,
удовлетворяя сформулированному требованию «складывать по два числа»,
расставляя соответствующим образом скобки (•): а + b + с = (а + (Ь +с)) =

§ 1. ВЕРОЯТНОСТНАЯ МОДЕЛЬ
9
= ((а + Ь) +с). (Здесь число разных способов N^=2.) При п = 4 имеем уже
пять возможностей (N4 = 5):
а + b + с + d = ((а + Ь) + (с + d)) = (((а + Ь) + с) + d) =
= ((a + (b + c)) + d) = (a + ((b+c) + d)) = (a + (b + (c + d))).
(a) Показать, что при любом п > 3 число Л^ разных способов подсчета
равно Сп.
(b) Рассматриваются диагональные триангуляции правильного п-
угольника, п > 4, т. е. разбиения на треугольники с помощью
непересекающихся диагоналей (выходящих из той или иной вершины; очевидно,
что число таких диагоналей, выходящих из одной вершины, равно п — 3).
Показать, что число Nn таких триангуляции равно Сп_\.
(c) Показать, что числа Каталана Сп, п> 1, удовлетворяют
рекуррентным соотношениям
л-1
/ = 1
(с С5=0 и Cf = 1).
(d) Установить, что производящая функция F*(x)=Y^ С*хп
поалели i
довательности (С*)л^1, определенной рекуррентными соотношениями (*),
удовлетворяет уравнению
F*(x)=x + (F*(x))2.
(e) Показать, что (с учетом условия F*(0) = 0)
F*(x) = \{\-{\-Ax)V% \x\<\,
и вывести отсюда, что коэффициенты С* (при хп) совпадают, как и
следовало ожидать, с числами Каталана Сп\
Г*— Гп I А\п — Гп~\ —Г
^п— ~2 4/2V-V —~^2(п-\) — ^п-
(По поводу определения Cw2 см. задачу 22 в § 2 настоящей главы.)
6. (Разные интерпретации и свойства биномиальных
коэффициентов С^+п_х) Показать, что
(a) число неупорядоченных выборок [...] размера п при «выборе с
возвращением», составленных из элементов множества А с \A\ = N, равно
пп
^yv+zi-l»
(b) число упорядоченных векторов (п\у ...,ЯдО с
неотрицательными целыми числами я/, / = 1, ..., /V, удовлетворяющими условию п\ + ...
... +nN = n, равно С#+/1_,, я> 1, /V> 1;

10
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
(с) число способов, которыми п неразличимых дробинок можно
разместить по N различным ячейкам (без ограничений на число дробинок в
каждой ячейке — «размещение без запрета»), равно С^+п_х, я > 1, N > 1.
Указание. Рекомендуется следовать указанию к задаче 3.
7. (Ср. с п. (Ь) предыдущей задачи.) Рассматриваются
неупорядоченные решения [п\у..., пц] системы п\ + ... + пм =п, я> 1, /V> 1, с
неотрицательными целыми nt > 0, / = 1, ..., N. Чему равно число таких решений?
Чему равно число таких решений, если допускаются лишь положительные
решения (щ > 0, / = 1,..., /V)? Чему равно число упорядоченных решений
(п\, ..., пц) той же системы п\ +... + яуу = п, я> 1, /V> 1, с
положительными щ, / = 1, ..., /V?
8. (Ср. с задачами 6(b) и 7.) Рассматриваются неравенства п\ + ...
... + пц < п с целыми неотрицательными или положительными щ, / = 1, ...
...,/V. Подсчитайте число упорядоченных и неупорядоченных векторов
(п\,..., пц) и [п\,..., M/v], удовлетворяющих неравенствам п\ +... + пн^п,
/г>1, /V>1.
9. Показать, что:
(a) максимальное число фигур, которые могут образоваться при
размещении п прямых линий на плоскости /?2, равно
1 , П(П+\).
^ 2 '
(b) максимальное число фигур, которые могут образоваться при
размещении п плоскостей в /?3, равно
i(rt3 + 5rc + 6).
о
10. Пусть А и В — два подмножества ft. Показать, что алгебра а(Ау В),
порожденная этими множествами, т. е. (по терминологии п. 3) алгебра,
порожденная системой £?q = {A, В}, состоит из N(2)= 16 элементов:
{А, В, Л, В, А П В, А П В, А \ В, В \ А,
ЛиВ, ЛиВ, ЛиВ, ЛиВ, ААВУААВ, ft, 0},
где А А В = (А \ В) U (В \ А) — симметрическая разность множеств А и
В (см. таблицу в § 1 гл. II).
Указать разбиение & (см. п. 3) множества ft, для которого алгебра
а(@), порожденная ^, совпадает с а(А, В).
Показать также, что алгебра а(А\, ..., Ап), порожденная системой
S&Q = {А 1, ..., Ап}, где Л/ С ft, / = 1, ..., п, состоит из N(n) = 22" элементов,
так что Щ2) = 16, /V(3) = 256 и т. д.

§ 1. ВЕРОЯТНОСТНАЯ МОДЕЛЬ
11
11. Доказать неравенства Буля:
(а) р m ал < J2 р(4). р (П Л<) >»- Е р(л<>-
Показать также, что для любого п > 1 справедливо неравенство
(b) РтЛ,Ь^Р(Л,)-(/г-1)
и имеют место неравенство Куниаса
(c) РШ АЛ <min {£ РИО-Е р(^п^)|
\/=i / l/=i /^ J
и неравенство Чжуна—Эрдёша
/ п \ (е Р(аУ)
(d) р(1М<>*
,/=1 / Е РИ/пЛу)
'./=1
Указание. Неравенство (Ь) для случая п = 3 (т. е. неравенство
P(A\nA2nAz)^P(A\) + P(A2) + P(Az)-2) устанавливается
элементарными рассмотрениями. В общем случае надо воспользоваться индукцией
по п.
12. Доказать следующие формулы включения-исключения
(называемые формулами Пуанкаре, теоремами Пуанкаре, тождествами
Пуанкаре) для вероятностей объединения и пересечения событий А\, ..., Ап:
для каждого п > 1
(а) Р(Л,и...иЛ„)= J2 рИ'.)" Е P(AilnAk) + ...+
+ (-l)m+l ^ РИг|п...пЛ(т) + ... + (-1Г+|Р(Л,п...пЛп)
(b) P(Ain...nAn) = J2 р(^.)- Е РИ«,иЛь) + ...+
1^/|^Я 1^/|<12^Л
+ (-l)m+1 E Р(Ли...иЛ;„) + ... + (-1)'!+|Р(Л1и...иЛп).
1^/| <...</„ ^Л

12
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Замечание 1. Формулы (а) и (Ь) кратко можно записать в виде
P(U A=I>1)m+1Sm, p(n^A=E(-1)m+'s'"'
\i=\
т=\
\i=\
т=\
где
sm= J2 Р(Л-,п...п/1/т), sm= J2 P(4«,u...u/U.
\^ц<...<1т^п \^<...<im^n
Замечание 2. Хотя рассматриваемые формулы
включения-исключения отнесены к материалу главы I книги «Вероятность— 1», которая
оперирует лишь с конечными вероятностными пространствами (П, «я/, Р),
следует подчеркнуть, что эти формулы верны и в случае общих
вероятностных пространств (П, &, Р) (см. главу II).
Замечание 3. Будем обозначать \А\ число элементов подмножества А
из конечного множества П. В случае Р(А)= \A\/\Q\ («классический способ
задания вероятностей») из формул (а) и (Ь) получаем формулы включения-
исключения для конечных множеств А\, ..., Ап:
(а') |lN= Е (-i)|s|+,|n4
\ieT I 0^s<zt lies I
(ьо |ГИ= Е (-i)|S|+l|U4
\ier I 0^sct lies I
где Г = {1, ..., ri).
Указание. Формулу (а) можно доказывать по индукции,
убедившись вначале в том, что для п = 2
Р(Л1иЛ2) = [Р(Л1) + Р(Л2)]-Р(Л1пЛ2).
(См. также задачу 9 в § 4.)
Для доказательства формулы (Ь) надо заметить, что
'(П*)-р(уя.)-р(у*>
и затем воспользоваться результатом (а), беря вместо множеств А\, ...,Ап
множества А\, ..., Ап.
13. Пусть Вт есть событие, состоящее в том, что одновременно
произойдет в точности т событий из п событий А\, ..., Ап, 0< т< дг.
Показать, что
P(Bm) = E(-i)*-mc*ms*.
k=m

§ 1. ВЕРОЯТНОСТНАЯ МОДЕЛЬ
13
или, в развернутом виде,
Р(Вт) = Sm — Cm+1Sm+i +... + (- l)n~mC£~mSn.
Вывести отсюда, что вероятность Р(В^т) события S^m, состоящего
в том, что одновременно произойдет по крайней мере т событий из п
событий А\, ..., Ап, определяется формулой
п
Р(В>т) (= Р(Вт) + ... + Р(Вп)) = £(-l)k-mC^Sk,
k=m
или, эквивалентно,
P(B^m) = Sm - CmSm+i + ... + (—\)n~mCl^Zl\Sn.
Указание. Формулу для Р(Вт) (называемую формулой Варинга)
можно доказать комбинаторно тем же самым методом
включения-исключения, что и в задаче 12. (Заметим, что такое доказательство содержится в
книге В. Феллера [119, т. 1, гл. IV, § 3].) Читателю, знакомому с понятиями
случайной величины и математического ожидания (§ 4 гл. I и §§ 4, 6 гл. II),
рекомендуется провести доказательство следующим образом.
Пусть Xi = 1д. — индакатор множества Д-, / = 1, ..., п. Предположим,
что для данного исхода и> происходят события с номерами i\, ..., im и не
происходят события с номерами /i, ..., jn-m.
Рассмотрим сумму
Y,Xll...Xlm(l-Xh)...(\-X,._.,),
где суммирование ведется по всем возможным наборам (/i,...,/m) и
(/1, ..., jn-m). Для исхода ш эта сумма равна т, если ш принадлежит в
точности т множествам Ац, ..., А-1т, и равна нулю в противном случае.
Тем самым вероятность P(Sm) есть математическое ожидание приведенной
суммы. Последующие рассмотрения проводятся по той же схеме, что и в
указании к задаче 9 в § 4. (См. также задачу 31 в § 6 главы II.)
14. Вывести из формул для P(Sm) и Р(В^т) предыдущей задачи 13,
что для всякого четного г справедливы формулы Бонферрони:
г+1 г
Sm + 2_,(-i) cm+£Sm+/j<P(Bm)<sm + 2^(-i) cm+^sm+/j,
r+l r
^m + 2_^(—1) Cm+k_lSm^k ^ P(B^>m) ^Sm+y (— 1) Cm+k_iSm+k-

14
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Указание. Один из способов доказательства основан на том, чтобы
сначала установить справедливость следующих (также полезных) формул:
п п
Sm = 2_^ C™P(Bm), Sm = 2_^ С?~\ Р(В^т)'
г=т г=т
15. Используя определение чисел Sm и Sm из задачи 12, доказать:
(а) неравенства Бонферрони (частный случай формул из предыдущей
задачи):
Si-S2 + ...-S2ife<p(U A-)<Si-S2 + ... + S2ife-i,
где k > 1 таково, что 2k < п\
(Ь) неравенства Гумбеля:
/ п \
\i=\
р и^Нт^г- "»=■.
С"
(при т = 1 получаем первое неравенство Буля из задачи 11);
(с) неравенства Фреше:
4ги т = 0, 1,...,я-1.
рт—\ ' ' ' '
16. (Задача о беспорядках.) Пусть (/1? ..., /„) — случайная
перестановка (с вероятностью 1/дг!) чисел 1, ..., п. Показать, что:
(a) вероятность Рщ того, что при перестановках чисел 1, ..., п в
точности т чисел останутся на своих местах (частичный беспорядок), равна
ЛО-Т7 + ^7-^+-+(-1)Аг"т7—^т) ("^-Т' п^оо);
га! \ 1! 2! 3! v ' (л —га)!/ \ га! J
(b) вероятность Р&\) того, что в результате перестановок по крайней
мере одно из чисел 1, ..., п останется на своем месте, равна
i-a + a--+<-1>"-1i (~1-e_1. «->«>>.
и, следовательно, вероятность полного беспорядка (когда ни одно из чисел
не остается на своем месте) равна 1 - Р^\) = X) .. (~ е~х при п —>оо).
/=о '■
Указание. Пусть Л/ — событие, состоящее в том, что число / из
совокупности (1, ..., п) будет в перестановке стоять в точности на «своем»
/-м месте. Тогда интересующая нас вероятность Р(т) будет совпадать с
вероятностью Р(Вт) из предыдущей задачи и, значит,
Р{т) =Sm — Cm+iSm+i + ... + (— 1) Сп Sn.

§ 1. ВЕРОЯТНОСТНАЯ МОДЕЛЬ 15
Показав, что в рассматриваемом случае Sk = \/k\, т<й<дг, получаем
требуемую формулу.
Чтобы доказать формулу для Р&\), надо заметить, что, опять же в силу
предыдущей задачи,
P(^1) = P(S^1) = S1-S2+S3-... + (-ir-1SAl,
(n-k)\
17. (Задача о совпадениях.) Пусть имеется п писем и п конвертов.
Письма по конвертам раскладываются «случайным образом», иначе
говоря, предполагается, что приписывание соответствующих вероятностей
осуществляется в соответствии с «классическим» способом задания
вероятностей (см. п. 5). Пусть Р(Ш) — вероятность того, что в точности т писем
попадут в «свои» конверты.
Показать, что
(п—пг I\
•-£^ у
Указание. 1) Естественно прежде всего задаться вопросом о том,
что следует понимать под словами «письма раскладываются по конвертам
случайным образом». Если принять, что письмо с номером 1 помещается
наугад в один из п конвертов, письмо с номером 2 — наугад в любой из
п— 1 конвертов и т. д., то такая процедура может рассматриваться как
«выбор без возвращения», ставящий в соответствие номерам (1, ...,дг)
раскладываемых писем упорядоченный набор (ai, ..., ап) номеров
конвертов. Таких разных наборов будет (п)п = п\, и, в соответствии с классическим
принципом «равновозможности» (см. п. 5), вероятность получения набора
(а\, ..., ап) считается равной \/п\.
2) Обозначим Л/ событие, состоящее в том, что /-е письмо попадет в
«свой» /-й конверт. Тогда Р(т) = Р(Вт) (см. задачу 13) и, следовательно,
^> = E(-i)ft-mc,ms*.
Убедившись в том, что здесь Sk = 1/&!, 1 < k < я, получаем искомую
формулу для Р(ту (Заметим, что вероятность Р(0) того» что ни °ДН0 письмо
п 1
не попадет в «свой» конверт, равна Х)(~ О^тт» что даже для умеренных
значений п (п> 4) весьма близко к 1 - е-1.)
18. Уходя из детского сада, каждый из п детей «случайным образом»
берет один левый и один правый ботинок. Показать, что

16
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
(а) вероятность Ра того, что все они уйдут не в своих парах ботинок,
равна
*-U !' k\n\ '
k=\
(b) вероятность Рь того, что каждый из них возьмет не свой левый и
не свой правый ботинок, равна
Указание. Прежде всего надо придать смысл словам «случайным
образом». (Делается это аналогично тому, как это объяснялось в указании
к предыдущей задаче 17.)
(a) Пусть А[ — событие, состоящее в том, что /-й ребенок возьмет свой
левый и свой правый ботинок. Тогда по формуле включения-исключения
pe=pmu) = i-p(^
где надо установить, что в рассматриваемом случае Sk = ., , , что и
приводит к искомой формуле для Ра.
(b) Чтобы доказать формулу для Рь, надо заметить, что Рь = Р{каждый
ребенок берет не свой левый ботинок} • Р{каждый ребенок берет не свой
правый ботинок}, и воспользоваться результатом предществующей
задачи 17.
19. Рассматриваются п частиц, размещаемых по М ячейкам в
соответствии со статистикой Максвелла—Больцмана («различимые частицы,
размещение без запрета»). Придерживаясь классического способа
Лапласа задания вероятностей по формуле (10) § 1 (что соответствует, как
говорят, «случайному» характеру размещения частиц), показать, что
вероятность Pk(n; M) того, что в фиксированной ячейке содержится k частиц,
определяется формулой
Вывести отсюда, что если п —> оо, М —> оо, но так, что п/М —> А > 0, то
k
Pk(n;M)^e-x^.
(Ср. с распределением Пуассона; § 6 и гл. II, § 3, таблица 2.)

§ 1. ВЕРОЯТНОСТНАЯ МОДЕЛЬ
17
20. (Продолжение задачи 19.) Пусть Rm(n\ M) означает вероятность
того, что в точности т ячеек останутся пустыми. Показать, что
М—т
Rm{n;M) = C% £(-i)*c&_m(l-2±*) .
k=0
Вывести отсюда, что если п —> оо, М —> оо так, что Ме~п^м —> А > 0, то
Rm(n;M)^e-x^-.
21. Снова рассматривается «случайное» размещение п частиц по М
ячейкам, но теперь в соответствии со статистикой Бозе—Эйнштейна
(«неразличимые частицы, размещение без запрета»). Пусть Qk(n; M) —
вероятность того, что в фиксированной ячейке содержится k частиц.
Показать, что
Qk(n;M)=C"^n-k-2
и если п —> оо, М —> оо, но так, что п/М —> А > 0, то
Qk(n\ М) -> р(\ - р)\ где р = ■
1+А-
(Ср. с геометрическим распределением; гл. II, § 3, таблица 2.)
22. Из урны, содержащей М шаров с номерами 1,..., М, «случайным»
образом п раз осуществляется выбор с возвращением. Рассматривается
событие Ak, состоящее в том, что максимальный номер у извлеченных
шаров равен k. Показать, что
?{Ak)= W •
Показать также, что если осуществляется выбор без возвращения, то
Р(Ак) = -*=!-, n^k^M.
23. Докажите формулу Лейбница дифференцирования произведения
двух функций fug:
DN(fg) = jrCnN(Dnf)(DN-"g).
п=0
Указание. Воспользуйтесь индукцией и тем свойством
треугольника Паскаля, что С^+1 = Cfo + CnN~x (см. задачу 2 в § 2).

18
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
§ 2. Некоторые классические задачи и распределения
1. Показать, что
п
(х + у)п = У^ Ckn xk yn~k (биномиальное тождество),
п
(* + У)п = ^2 С„ (x)k (y)n-k (тождество Вандермонда),
п
[х + у]п = ^2 Ckn [x]k [y]n-k (тождество Нёрлунда),
k=0
где
(х)п = х(х - 1 )(х - 2)... (х - п + 1),
[х]п =х(х + 1)(х + 2)...(х + п-1).
Указание. Воспользуйтесь формулой Тейлора в применении к
полиномам.
2. Используя вероятностные, комбинаторные, геометрические
рассмотрения (типа подсчета разными способами числа благоприятствующих
возможностей или числа путей, ведущих из одной точки в другую) и
другие соображения (скажем, алгебраические, заключающиеся,
например, в подсчете и сравнении коэффициентов при хп в равенствах вида
(1 +х)а(\ +х)ь = (\ +х)а+ь), установить следующие свойства
биномиальных коэффициентов:
1 = С°п < С\ < ... < C^/2J = С[пт > ... > Сп~х > Спп = 1 - свойство
симметрии и унимодальности ([х\ = [х] — целая часть числа х, т. е.
наибольшее целое, не превосходящее х, и \х] — наименьшее целое, большее
или равное х)\
С*ы ' + Cn = Cn+\ — свойство треугольника Паска
1
1
1 4
1 5
1 6 15
pk pk ■ npk— 1 , pk—2
ьп — ьл-2 "I" z4i-2 "г ьп-2>
1
1 1
2 1
3 3 1
6 4 1
10 10 5 1
20 15 6 1

§ 2. НЕКОТОРЫЕ КЛАССИЧЕСКИЕ МОДЕЛИ
19
k=0 k=0
k=0 k=\
N
k=0
N
^k{k-\)CkN = N{N-\)2N~2, /V>2,
k=0
kCkN = NCkN~X £C*=C*+', CkNCi = ClNCkN~^ Kk^N,
;=o ;=o /=o
C^ + C^^j/^C^, 0<*<ЛГ,
л/,
C^l+/y2 =£ C^Tj CJJ,"* (биномиальная свертка Вандермонда),
ft=0
<Т'<С&, 1<Л<£±1, CJJ-'C^+,<(Q)2, n<tf-l,
CM+N^(\ + W) (1 + ж) , или, равносильно, щ^ < ^щ^,
N <? Ck <? N V^ rbl \\N-kc>k_}
k=0
CnN = J2(-l)N+kCkNCnk2k~\ UaK/V,
k=n
N
Y,CkNCnk=2N-nCnN^ 1 </*<#,
k=0
Е(-1)А(Ф2=Я-
k=o {
Е(-1)А(Фз={^
/V
i
-l)mC^m, если/V= 2m,
в других случаях,
N ( ^l)m(3m)! (m!)"3, если N = 2m,
в других случаях,

20
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
k=\ k=\
k=o К •'
если / <iV,
если l = N,
N
ErN-k rk _92/V
k=0
(См. также задачу 22.)
3. Пусть р — простое число и 1 < й < р — 2, р > 3. Показать, что р
делит Ckp и что С%р = 2 (mod p).
4. Показать, что число разбиений числа N самое большее на две части
(т. е. число представлений N в виде суммы, состоящей самое большее
из двух неотрицательных чисел) равно [jV/2] +1, где [х] — целая часть
числа х.
5. В соответствии с приложением, приведенным в конце книги, число
Стирлинга второго рода S^ определяется как число всевозможных
разбиений множества из N элементов, скажем, {1,2,..., ЛА}, на дг непустых
подмножеств (см. приложение, с. 355).
Показать, что имеют место следующие свойства:
(a)SJi,=S# = l, S% = 2»-*-\, Sy=C%;
V) Sft+l=SaN-1 +nS"N, 1<ЖЛГ;
N
(с) Sfc+1 =£ CkNSnk~{ (Spk=0 при р > k);
Л/-1
(i)SnN = ^/£(-l)kCkn(n-k)N;
<e)Sft = i
®S"N<nN
k=0
n
k=0
-nrn~
ЛГ
l
~kCknkN;
Указание. Для вывода свойства (Ь), являющегося ключевым для
доказательства последующих свойств (с)—(d), воспользуйтесь соотноше-
N
нием xN = X) S/y (х)п (см. приложение, с. 368), а также тем, что (х)п+\ =
п=0
= (х-п)(х)п.

§ 2. НЕКОТОРЫЕ КЛАССИЧЕСКИЕ МОДЕЛИ
21
6. В § 3 приложения показывается (с использованием соотношения
N
xN = Y^ Sft ix)n)y что экспоненциальная производящая функция
/1=0
Es„(x) = ^S«NK-
N^0
последовательности S" = (S/y Wo чисел Стирлинга второго рода задается
формулой
Доказать эту формулу, основываясь на свойстве (е) из предыдущей
задачи.
7. Согласно одному из определений чисел Стирлинга первого рода
5дг (см. § 3 приложения, с. 370), число (— l)N~nsfi есть число перестановок
(подстановок) чисел 1, 2, ..., jV, имеющих в точности п циклов (s$=0).
Показать, что
(a)s# = l. slN = (N-l)\(-l)N~K
(Ь)^+1=^-'-Л^, 1<л<ЛГ,
N N
(c)^(-i)yv-,1^=Ei^i=yv!-
/i=i /i=i
Показать также, что числа s^, 0< п < jV, удовлетворяют алгебраическому
соотношению (см. также в приложении с. 370)
N
(d) (x)N=J2snNx\
/1=0
где (х)м =х(х- l)...(x — N + 1).
Указание. Рекуррентное соотношение (Ь) можно доказывать как
комбинаторными рассмотрениями, так и выводя их непосредственно из
алгебраических соотношений (d).
8. Доказать следующее свойство двойственности чисел Стирлинга
первого и второго рода:
/i^O
где 8аь — символ Кронекера (8аа = 1У 6аь=0, если а^Ь).
9. Показать, что экспоненциальная производящая функция
N\
Esn(x) = Y,sNJn
N>0

22
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
последовательности s? = (sJv)w^o чисел Стирлинга первого рода
определяется формулой
10. Число Белла S/v по определению (см. приложение, с. 355) есть
число всевозможных разбиений множества {1, 2, ..., /V}, jV> 1. Иначе
говоря, N
/2=1
где SjJ — числа Стирлинга второго рода.
Полагая Во= 1, установить, что:
(a) имеют место рекуррентные соотношения
N
Bn =2_j ^N~-\^N-k\
(b) экспоненциальная производящая функция Ев(х)= Y В^ —
задается формулой N^°
Ев(х) = ехр{ех - 1};
<с)В„<«!и£г(^)"" = 0.
Убедиться в том, что числа В\, ..., S5 равны 1, 2, 5, 15, 52
соответственно.
Указание. Для доказательства (Ь) надо, воспользовавшись
свойством (а), показать сначала, что для Ев(х) справедливо дифференциальное
уравнение
dEB(x) _„хп , v
sr-e Ев{х)
с Ев(0) = 1. Чтобы доказать второе свойство в (с), рассмотрите радиус
сходимости /? = 1/ lim(--^) ряда Y В^ — (сходящегося, как нетрудно
\N.J д^0 N.
видеть, для всех значений х на прямой).
11. (Числа Фибоначчи.) Пусть п > 1 и Fn — число возможностей
представления числа п как упорядоченной суммы единиц и двоек. Тогда ясно,
что Fi = l, F2=2 (поскольку 2=1 + 1=2), F3 = 3 (3=1 + 1 + 1 = 1+2 =
= 2+1), /4 = 5 (4=1 + 1 + 1 + 1=2+1 + 1 = 1 +2+1 = 1 + 1+2 = 2 + 2).
(а) Показать, что для п > 2 числа Фибоначчи Fn удовлетворяют
рекуррентным соотношениям
Fn = Fn_{+Fn_2 (*)
(cF0 = l,Fi = l).

§ 2. НЕКОТОРЫЕ КЛАССИЧЕСКИЕ МОДЕЛИ
23
(Ь) Вывести из рекуррентных соотношений (*), что
'1+V5V+1 f\-y/E^n+l
F —L
2
(**)
где 1±_^ = 1,6180...,Ц^ = -0,6180...
(c) Используя рекуррентные соотношения (*), показать, что
производящая функция F(x)= Y^ Fnxn последовательности (Fn)n^o задается
формулой п^°
F(X) = X_l_x2' (***)
(d) Числа Фибоначчи (возникшие у Леонардо Фибоначчи в начале
XIII в. в его сочинении «Книга абака» в связи с задачей о размножении
кроликов), обладают многими интересными свойствами, например:
F0 + Fx+... + Fn = Fn+i-l, F2n_x+F2n=F2n,
Fn-\Fn + FnFn+\ =/72/1+i, FmFn + Fm-\Fn-\ =Fm+n
(cm, п^Ои F-\ =0).
Убедиться в справедливости этих равенств.
(e) Доказать, что для чисел Фибоначчи справедлива формула
[/2/2]
k=0
(Можноубедиться, что (F0, Fi, ..., Fi7) = (l, 1, 2, 3, 5, 8, 13, 21, 34, 55, 89,
144, 233, 377, 610, 987, 1597, 2584).)
(f) Показать, что для п < 9
Fn
[б>("-1)/2]
но (для AZ = 10) ^ю/Г^972! < 1 и
= 1,
Fn
lim —.—ГГтг-=0. (****)
Указание. (Ь) Для доказательства формулы (**) надо начать с
отыскания решения рекуррентных соотношений Fn = Fn_\ +Fn-2 B виДе
Fn=an. Формулу (**) можно вывести также из рассмотрений
коэффициентов при хп в разложении в ряд Тейлора функции (***). (Полезно при этом
заметить, что 1 -х-х2 = (\ -ах)(\ -Ьх) с а = (\ +л/5)/2и Ь = (\ — у/Е)/2.)
(f) При доказательстве соотношения (****) надо заметить, что из (**)
следует, что Fn~c\ ■ (1,618...)л, в то время как |~е(/1_1)/2] ~с2 ■ (1,648...)л,
где С\ и С2 — некоторые константы (найдите их).

24
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
12. Доказать, что для мультиномиальных (полиномиальных)
коэффициентов
CN(n{j ..., пг)= ' azi -h...ч-Azr = ЛА, /г,->0,
П\!.. .Пг\
справедлива следующая формула (мультиномиальная свертка Вандер-
монда):
CN[+N2(n\, ..., /гГ)=]Р Cw,(*i, ..., kr)CN2(n\ -k\, ..., nr-kr),
г
где сумма берется по всем kt >0 таким, что к[^щ и X) ki=N\, n\ + ...
...+nr = N{+N2. /=1
13. Показать, что
(xx+... + xr)N = Y,CN(nu...,nr)x?...xn/,
г
где суммирование распространяется на все Я;>0 такие, что Y^ Щ=Ы.
14. Показать, что число неубывающих путей (на целочисленной
решетке Z+ = {(/1, ..., /г); /i, ..., /г = 0, 1, 2, ...}), выходящих из точки
г
(О, ...,0) и приходящих в точку (п\, ...упг) сХ)я;=М, равно См(п\у..., яг).
(Путь считается неубывающим, если на каждом шаге меняется лишь одна
координата, увеличиваясь на единицу)
15. Пусть А и В — два множества, состоящие из конечного числа
элементов (|Л| и \В\ соответственно).
Под функцией F: Л —>В понимается правило, ставящее в соответствие
каждому аеА некоторое Ь е В.
Под инъекцией 1: А —> В понимается правило, которое разным
элементам из А ставит в соответствие разные элементы из В. (В этом случае
\А\<\В\.)
Под сюръекцией §:Л—>В понимается правило, согласно которому
для каждого b еВ можно найти аеА такое, что S(a) = b. (В этом случае
\А\>\В\.)
Под биекцией В: А —> В понимается правило, которое является
одновременно и инъекцией, и сюръекцией. (В этом случае |Л| = \В\.)
Показать, что соответствующие числа функций, инъекций, сюръекций
и биекций задаются следующими формулами (с |Л| = N, \B\ = М):
iV(F) = Af\ iV(I) = (M)N, N(S) = Af! Sjjf, N(B) = №.
N
16. Пусть P/v = Y^(N)n — общее число размещений из N элементов
/1=0
((/V)o = l, (N)n = N(N- l)...(iV-Az + l)), iV> 1. Показать, что числа PN

§ 2. НЕКОТОРЫЕ КЛАССИЧЕСКИЕ МОДЕЛИ 25
удовлетворяют следующим рекуррентным соотношениям (Ро = 1):
PN = NPN-x + l, N>\.
Показать также, что
/i=0
и что Р^ есть ближайшее целое к eN\.
17. Показать, что экспоненциальная производящая функция Ер(х) =
оо XN
= 53 Pn T77 последовательности P = (Pn)n^o (числа /V N>0, опреде-
/v=o yv-
лены в предыдущей задаче) задается следующей формулой:
18. Доказать утверждение (5).
Указание. Надо воспользоваться тем, что при данном предельном
переходе
\\тР(ВЩД2) = \\т ^ 2 .
19. Показать, что для полиномиального распределения {Р(ЛЛ1,...,Лг)}
максимальное значение вероятности достигается в точке (&i,...,&r),
удовлетворяющей неравенствам: npi — 1 <kt < (n + r— 1)р,, / = l,...,r.
20. (Одномерная модель Изинга.) Пусть имеется я частиц,
расположенных в точках 1, ..., п.
Предположим, что каждая из частиц относится к одному из двух типов,
причем частиц первого типа п\ и второго — n<i (п\+П2 = п). Будем считать
все п\ расположений частиц равновозможными.
Построить соответствующую вероятностную модель и найти
вероятность события Ап(т\\, т\2, m<i\, m22) = {v\\ =m\\, ..., ^22 = ^22}, гДе »ц —
число частиц типа /, следующих за частицами типа / (/, / = 1, 2).
21. Пусть N — размер некоторой популяции, который требуется
оценить «минимальными средствами» без простого пересчета всех элементов
этой совокупности. Подобного рода вопрос интересен, например, при
оценке числа жителей в той или иной стране, городе и т. д.
В 1786 г. Лаплас для оценки числа N жителей во Франции предложил
следующий метод.
Выберем некоторое число, скажем, Af, элементов популяции и пометим
их. Затем возвратим их в основную совокупность и предположим, что
они «хорошо перемешаны» с немаркированными элементами. После этого

26
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
возьмем из «перемешанной» популяции п элементов. Обозначим через X
число маркированных элементов (в этой выборке из п элементов).
(a) Показать, что вероятность РыуМ\п{Х = т) того, что X = ту задается
(при фиксированных jV, М и п) формулой гипергеометрического
распределения (ср. с (4)):
гтрп—т
(b) Считая Af, п и т заданными, найти максимум PnmA^ = т) по W,
т. е. «наиболее правдоподобный» объем всей популяции, приводящий к
тому, что число маркированных элементов оказалось равным га.
Показать, что так найденное наиболее правдоподобное значение N
(называемое оценкой максимального правдоподобия) определяется
формулой
где [ • ] — целая часть. (Продолжение этой задачи см. в § 7, задача 4.)
22. В (элементарной) комбинаторике биномиальные коэффициенты
Гп =
(Af)л _ Af! ( . (М
,м = —— — им_ ч, (обозначаемые также ( )и число размещений
(М)п = М (М - 1)... (М - п + 1) обычно определяются лишь для
натуральных чисел я, М6jV = {1, 2, ...}. Во многих вопросах анализа полезно
расширить понятия «число размещений (Af )п» и «биномиальный коэффициент
С^», беря вместо М любое число X из /?, считая, что я6{0, ±1, ±2, ...},
и полагая по определению: 0!= 1, (Х)о= 1, С\ = 1,
(Х)п=Х(Х-1)...(Х-п+1), Спх = ^, если л>0,
и С\ = 0, если п < 0. С учетом данных определений установить (в
дополнение к некоторым соотношениям из задачи 2) следующие свойства (X, Y е /?,
neZ = {0y ±1,±2, ...}):
Сх~{ +С*х = Сх+Х (треугольник Паскаля);
п
С*х+у = ^Р CxCy~k (биномиальная свертка Вандермонда);
k=0
п
\ л/ \\n-kpk. рп—т \ л/ \\kpkpm
п п—т
£(-l)n-kCkx; С£? = £
С"Х_1=^(-1Г-«С*Х; C^ = ^(-l)*C£C_ft;
/г=0 k=0
п
рп \ А pn—k pk . рп / \\npn
L,x+Y+n-\ - 2^ СХ+/г-*-1СУ+/г-Ь Ь-Х — \-Ч LX+n-\'
k=0

§ 2. НЕКОТОРЫЕ КЛАССИЧЕСКИЕ МОДЕЛИ
27
23. Из урны с N шарами, среди которых п белых и N — п черных,
осуществляется выбор без возвращения (п > 2). Рассматриваются
упорядоченные выборки размера М. Спрашивается, какова вероятность событий
Ац и A[jtk, где Ац — событие, состоящее в том, что на /-м и /-м местах
стоят белые шары (/ < / < Af), а Ац& — событие, заключающееся в том,
что белые шары стоят на местах с номерами /, /, k (/</<&< М).
24. Дать формулы для вероятности Рп того, что среди тринадцати карт,
извлеченных из 52 карт (полная колода), п карт окажутся пиковой масти.
25. На окружности расположено п > 3 точек. Случайным образом
выбирается пара из них. Найти вероятность того, что выбранные точки были
«соседями».
26. (Задача о супружеских парах.) Сколькими способами п
супружеских пар (п > 3) можно разместить за круглым столом так, чтобы
мужчины и женщины чередовались, но супруги не сидели рядом?
Указание. Присвоим местам за круглым столом номера 1, ..., 2п
(по часовой стрелке), и пусть на первом месте сидит, для определенности,
женщина. Обозначим Ak событие, что места k и k+ 1 заняты некоторой
супружеской парой (1 < k < 2п и с номером 2п + 1 идентифицируется место
с номером 1). Тогда требуемая вероятность того, что супруги не занима-
/2/2 _ \
ют смежных мест, есть Р f] Ak )• По формуле включения-исключения
\k=\ )
(задача 12(b) из § 1)
рт^=1-рШ/1{=1-^р(4)+^р(^п^)-...
\k=\ / \k=\ / i t<j
Подсчет показывает, что для 1 < / < 2/г
'(«-1)!\2
p<*>-«(W
для 1 < / < / < 2п
если |/ — /| т^ 1,
если \i — /1 = 1,
где Р(А 1 П А2п) = 0, и вообще, для /)<...< 4
\7Г~Ь\\{^Г~) ' если||/+1-1/|>2при1</<*-1
Р(Л,|П...П^) = ^<Л-*>,Л и! У и2п+м-/л>2,
[О в других случаях.

28
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Тем самым, требуемая вероятность
р(пфв-1)*^^
\k=\ / k=o
где dn — число способов, которыми можно выбрать k различных пар мест,
т. е. таких, что если (i\, /2) и (/з, м) — какие-то две пары, то у них нет
совпадающих элементов ({i\, /2} П {/з, м} = 0).
Показав, что
an-^2n-k2n-k'
придем к такому ответу: вероятность того, что никакая супружеская пара
не занимает смежных мест, равна
п
1 v^, ,**, ,,. 2я
-L £<-!)*<„-ft)!
k=0
2n-k
u2/i-/r
27. (Латинские квадраты.) Рассматриваются числа 1, 2, ..., п и из
них образуются матрицы порядка пхп («квадраты») со свойством, что
каждая цифра встречается в каждой строке и каждом столбце только один
раз. При п = 2 примерами служат квадраты
ггт
2 1
•
2 1
1 2
При п = 3 примерами являются квадраты
12 3
2 3 1
3 1 2
1 2 3
3 1 2
2 3 1
Пусть Ln — число латинских квадратов размера пхп. Показать, что
L„>/i!(/i-!)!...!! =П*!)'
\ /г=1 /
Замечание. Проблема получения точных формул для Ln весьма
трудна. (Частные значения: ^2 = 2, L^= 12, £4 = 576.) Известно, что
асимптотически
In Ln = п2 In n + 0(я2), я —> оо.
28. (Схежа Пойа) В ящике находится г красных и b черных шаров.
«Случайным» образом вынимается один шар, и затем он, а также новый

§ 2. НЕКОТОРЫЕ КЛАССИЧЕСКИЕ МОДЕЛИ
29
шар того же цвета помещаются обратно в ящик. Далее производится
второе испытание (доставание шара) с той же процедурой помещения и т. д.
Пусть Sn — число вытащенных красных шаров в п испытаниях.
Показать, что
P{Sn=x)=Cr'+x-fb+n-x-\ 0<*<л.
ЬГ+Ь+П-\
29. Пусть в приведенной в предыдущей задаче схеме Пойа
г Ъ 1
P~r + by C*~r + b И ^~ r + b'
Предположим, что я—юо, р—>0, 7^0 таким образом, что яр—>А,
try—> \/р. Показать, что для каждого фиксированного х при я—юо
30. Рассматривается случайное размещение по т ящикам 2п шаров,
из которых половина черных и половина белых. Пусть ящикам присвоены
номера 1, ...,га и вероятность того, что черный шар попал в ящик с
номером /, равна р7- (р\ +... + рт = 1), а вероятность белому шару попасть
в тот же ящик с номером / равна qj (q\+ ... + qm = 0- Обозначим через
v число ящиков, в каждый из которых попадает в точности один белый
шар и один черный шар. Найти вероятности P{j/ = k]y k = 0y l, ..., га, и
математическое ожидание Ей.
31. (К формуле Стирлинга; см. также задачу 16 в § 3 и задачу 1 в
§ 8 главы VIII.) Из анализа известна следующая уточненная формула
Стирлинга:
«-^Ш' + Ш + яЬ-Яет^))-
Используя соотношения
п п
1пя! = ^1п& и \п(п- 1)!<§1п tdt<\n я!,
k=2 1
п
где \ In t dt = n\n n — я +1, дать следующие («грубые») нижние и верхние
1
оценки для п\:
е^)П<п\<еп^)\ (*)
из которых вытекает (обычная) формула Стрилинга:
i ( п\п
n\~V27rn I - ) .

30
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
32. (К асимптотическим разложениям гармонических чисел.) Гармо-
п 1
нические числа — это числа Hn = Y^ т, я > 1.
k=\ к
Из анализа известно, что
где 7 = 0,5772... — константа Эйлера.
Используя примененный в предыдущей задаче метод оценивания сумм
через интегралы, показать, что для всех п > 1
In п + - < Нп < In п + 1
п
(и, следовательно, limf т—2-) = 1).
п \1п П)
§ 3. Условные вероятности. Независимость
1. Привести примеры, показывающие, что, вообще говоря, равенства
Р(В|Л) + Р(В|Д) = 1,
Р(В|Л) + Р(В|Д) = 1
неверны.
2. Урна содержит М шаров, из которых М \ шаров белого цвета.
Рассматривается выбор объема п. Пусть Bj — событие, состоящее в том, что
извлеченный на /-м шаге шар имел белый цвет, а^- событие,
состоящее в том, что в выборке объема п имеется в точности k белых шаров.
Показать, что как для выбора с возвращением, так и для выбора без
возвращения
Р(В-,\Ак) = к/п.
Указание. Надо начать с доказательства того, что для выбора с
возвращением
Ck-\MkAM-Mx)n-k
P(Ak) =
C^M\{M-Mx)n-k
а для выбора без возвращения
CknZ\(M{)k(M-M{)n_k
р,А ч Ckn{Mx)k{M-Mx)n_k
P(Ak) = Wn

§ 3. УСЛОВНЫЕ ВЕРОЯТНОСТИ. НЕЗАВИСИМОСТЬ
31
3. Пусть А\, ..., Ап — независимые события с Р(Л/) = /?/.
(a) Показать, что
р(ил) = 1-ПР(Л«). (*)
\«=1 / /=1
(b) Пусть Яо — вероятность того, что ни одно из событий А\, ..., Ап не
произойдет. Показать, что
Po = f[(\-Pi).
Указание. Дать прямое доказательство формулы (*) (без
обращения к формулам включения-исключения; задача 12 в_§ 1), установив,
что если А\, ..., Ап — независимые события, то события А\, ..., Л„, где Л;
обозначает либо Л/, либо Л/, также независимы.
4. Пусть Л и В — независимые события. В терминах Р(Л) и Р(В)
выразить вероятности событий, состоящих в том, что произойдет в
точности й, по меньшей мере k и самое большее k из событий Л и В,
k = 0, 1, 2; ср. с задачей 13 в § 1.
5. Пусть событие Л таково, что оно не зависит от самого себя, т. е. Л
и Л независимы. Показать, что тогда Р(Л) равно 0 или 1.
Показать также, что если события Л и В независимы и Л С В, то или
Р(Л) = 0, или Р(В) = 1.
6. Пусть событие Л таково, что Р(Л) равно 0 или 1. Показать, что Л
и любое событие В независимы.
7. Рассматривается электрическая схема, изображенная на рис. 4
(с. 53 в книге «Вероятность— 1»). Каждое из реле Л, В, С, D и £,
работающих независимо, находится или в открытом (т. е. нерабочем)
состоянии (и, значит, не пропускает электрический сигнал), или в
закрытом (рабочем) состоянии (и тогда сигнал пропускается) с вероятностями
р и q соответственно. Спрашивается, какова вероятность того, что сигнал,
поданный на «вход», будет получен на «выходе»? Какова условная
вероятность того, что реле Е было открыто («событие £»), если на
«выходе» был получен сигнал?
Указание, (а) Пусть 5 — событие, состоящее в том, что сигнал,
поданный на «вход», будет получен на «выходе». Покажите, что
Р(5|£)=1-2р2 + р4,
P{S\E) = 2q2-qA

32
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
и по формуле полной вероятности
P(S) = 4(l-/?2)2 + W2(2-42).
Убедитесь в том, что
Р(Р\Ъ 0-Р2)2
П ' ;~(1-р2)2 + Р?(2-?2)'
8. Пусть Р(А + В) > 0. Показать, что
Р(Л)
Р(А\А+В) = -
Р(Л) + Р(Д)'
9. Пусть событие А не зависит от событий Вп, п^\, при этом В/ ПBj =
оо
= 0, /^/. Убедиться в том, что события А и IJ Вп являются
независимыми. п=]
10. Показать, что если Р(А\С) > Р(В\С) и Р(А\ С) > Р(В|С), то
Р(А)>Р(В).
11. Показать, что
Р(А\В) = Р(А\ВС)Р(С\В) + Р(А\ВС)Р(С\В).
12. Пусть А" и Y — независимые биномиальные величины с
параметрами п и р. Показать, что
r>kr>m—к
P(X = k\X + Y = m)= nrnm , * = 0, 1, ...,min(m, я).
13. Пусть Л, В, С — попарно независимые равновероятные события,
причем А ПВ П С = 0. Найти максимально возможное значение для
вероятности Р(А).
14. В урну, где находится один белый шар, добавили еще один
«вслепую» выбранный шар — либо белый, либо черный (с одинаковыми
вероятностями выбора). После этого «случайным» образом вытащили из урны
один шар. Он оказался белым. Какова условная вероятность того, что
оставшийся в урне шар тоже белый?
15. Если события А и В независимы, то, согласно определению,
Р(АВ) = Р(А) Р(В). Опишите случаи выполнения для произвольных А
и В неравенств Р(АВ) < Р(А) Р(В) и Р(АВ) > Р(А) Р(В).
16. В обобщение формулы Стирлинга (в виде n\ ~ y/2nn nne~n, n —> оо)
оо
показать, что гамма-функция Г(и)= \ u1/~xe~udu, z/>0, удовлетворяет
следующему свойству: о
Y(v) ~ у/2пп vue~v', j/—>оо.

§ 4. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ И ИХ ХАРАКТЕРИСТИКИ 33
§ 4. Случайные величины и их характеристики
Напоминаем, что в этой главе пространства Q состоят из конечного
числа элементов и, значит, все рассматриваемые случайные величины
принимают лишь конечное число значений.
1. Проверить следующие свойства индикаторов 1д =1д(и>):
/0 = О, /п = 1, 1л = \-1а,
Iab =1а-1ву Iaub = Ia+Ib — Iab,
Ia\b=U(1-Ib), Iaab = (Ia-Ib)2=Ia + Ib (mod 2),
'с,л-'-П<'-'*>. Ът-По-'*). itA-p*.
1=1 i = \ V, i=\ 1=1 i = \
где ЛАВ — симметрическая разность множеств А и В, т. е. множество
(Л\В)и(В\Л), и сумма X) обозначает объединение (IJ)
непересекающихся событий.
2. Вывести из утверждений задачи 1, что справедлива следующая
формула включения-исключения для индикаторов трех событий А, В и С:
IauBuc =Ia+Ib+Ic- Uahb + Iac\C + hc\C] + /лпяпс•
Представьте в аналогичном виде индикатор /л,и...ил„ объединения событий
ль...,ля.
3. Пусть £ь ..., £л — независимые бернуллиевские случайные
величины с
Р{6=0} = 1-А,Д,
Р{£ = 1} = А,Д,
где Д — малое число, Д > О, А, > 0. Показать, что
P{ft+... + & = 1}=(^АИД + 0(Д2),
P{£i+... + £„> 1} = 0(Д2).
4. Показать, что inf E(£ — а)2 достигается при а = Е£ и, следо-
—оо<а<оо
вательно,
inf Efc-a)2 = D£
—oo<a<oo
Указание. Считая, что Е£=0, находим, что Е(£—a)2 = D£+a2>D£.
5. Пусть £ —случайная величина с функцией распределения F^(x) =
= Р{£^*} и fj, = fj,(£) (или fi = fi(F^)) — медиана случайной величины

34
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Fz(x), т. е. такая точка, что
(По поводу других способов определения медианы см. далее задачу 23.)
Показать, что
inf E|£-a| = E|£-4
—oo<a<oo
Указание. Считая, что р, = О, находим, что для а > О
Е|£-а| = Е|£| + Е/(£),
где
{а, х<0,
а - 2х, 0<х<а,
—а, х^а.
Поскольку /(х)>0, то Е/(£)>0 и Е|£-а|>Е|£|. Аналогичное верно и при
я<0.
6. Пусть Р$(х) = Р{£ = х} и F^(x) = Р{£ <*}. Показать, что для a > 0 и
—оо<Ь <оо
Ра€Н(х) = Р^{^±),
Fai+b(x) = F^^-y
Показать также, что для у > О
ЗД = ^(+V£) - Fd-y/У) + Р*(->/У)
и для £+ = тах(£, 0)
FMx)
(о, х<0,
Указание. Воспользуйтесь тем, что
{£2 < у)=(е=- vf) и «£ < +v^} \ (е < -vy)h
^«-fe.
7. Пусть £ и г/ — две случайные величины с D£ > 0, Dr/ > 0 и р=р(£, rj) —
их коэффициент корреляции. Показать, что \р\ < 1. При этом если \р\ = 1,

§ 4. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ И ИХ ХАРАКТЕРИСТИКИ 35
то найдутся такие константы а и Ь, что r} = a£ + b. Более того, если р = 1,
то
(и, значит, в случае р = 1 константа а > 0), если же р = -1, то
у-Ег)_ g-Eg
v/D^ v/D?
(и, значит, в этом случае а < 0).
8. Пусть £ и г/ — две случайные величины с Е£ = Ету = 0, D£ = Dry = 1 и
коэффициентом корреляции р = р(£, rj). Показать, что
Е тах(£2, г?2) < 1 + л/\-р2.
Указание. Надо воспользоваться равенством
max(£W) = i(£2 + »?2 + |£2-»?2|)
и применить неравенство Коши—Буняковского.
п
9. Используя свойство In = 1 — Y\ (1 — Iа) индикаторов из задачи 1,
U A- <=i
/ = 1
доказать формулу включения-исключения для вероятности объединения
событий:
Р(Л,и...ил„)= Y, р(4.)- Е Р(Д-,пл/2) + ...+
+ (-l)m+1 £ Р(Л«|П...ПЛ(т) + ... + (-1)"+|Р(Л1П...ПЛ„)
1^/|<...</т^Л
(ср. с задачей 12 в § 1).
Указание. Обозначив для простоты записи Х-ь = 1&., убедитесь
сначала в том, что имеет место следующая формула включения-исключения
для индикаторов:
1-Д(1-*,)=£ */- £ xilxi2+...+
+ (-1Г+1 £ *,-,...*;т + ... + (-1)п+%...*„.
Далее надо воспользоваться тем, что РI Q /д ) = Е/ « (ср. с указанием
к задаче 13 в § 1). ^'=1 ' ,ЦА

36
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
10. Если £i, ...,£„ — независимые случайные величины, <р\=<р\(£\, ...
...,&) и <р2 = <Р2(&+\, •••> $«)-Две функции от £ь ..., & и &+1, ..., £я
соответственно, то случайные величины <^i и <& независимы. Доказать это.
11. Показать, что случайные величины £i, ..., £п независимы тогда и
только тогда, когда для всех х\, ..., хп
F& е,(*ь ...,xn) = Fb{xx)...FtXxn),
где F% e,(xi, ..., хп) = Р{£\ <хь ..., £„<*„}•
12. Показать, что случайная величина £ не зависит от самой себя (т. е.
£ и £ независимы) в том и только том случае, когда £(<*;) = const, u; e ft.
13. При каких условиях на £ случайные величины £ и sin £ независимы?
14. Пусть £ иг} — независимые случайные величины и г/^0. Выразить
вероятности Р{£г/ <2}иР|-<,г| через вероятности Р{£ < х) и Р{г/ < (/},
*,*€/?. u }
15. Пусть £, г/, С —случайные величины такие, что |£|< 1, |г/|< 1, |£|< 1.
Доказать справедливость неравенства Белла: |Е££ — Ет/С| < 1 — Е£т/.
(См., например, [123].)
Указание. Воспользуйтесь тем, что £(1 + г/)< 1 + г/.
16. В п урн независимым образом бросаются k шаров. (Для каждого
шара вероятность его попадания в каждую конкретную урну равна \/п.)
Найти математическое ожидание числа непустых урн.
17. Пусть £ь ..., £„ — независимые одинаково распределенные
случайные величины с P{£i = 1}= р, P{£i =0}= 1 - р, где 0< р < 1. Пусть
Sk = £i +... + &, £ < л. Показать, что для 1 < т < я
P(sm = ft|sn=o=^=*.
18. Пусть $i, ..., £„ — независимые случайные величины и
£min = min(f 1, ..., £„), £max = max(£i ,...,£„).
Показать, что
п п
P{£min > X) = Ц Р{£ > X], P{£max < *} = П Р& < *>'
1=\ 1 = \
19. Пусть 52л = £i +...+&Я, Л12л = тах(5ь ...,52Л). Показать, что для
P{M2n>k,S2n = 0} = P{S2n=2k}
и, следовательно,
P(M2n>fe|52n = 0)-P{S2"=2^}-^
P{S2„=26} Cn2+k
P{S2n = 0} C2"„
Л

§ 5. СХЕМА БЕРНУЛЛИ. I. ЗАКОН БОЛЬШИХ ЧИСЕЛ
37
Вывести отсюда, что
E(Af2„|52„=0) = i[F^-l].
20. Привести пример двух случайных величин £ и г/, имеющих одну и
ту же функцию распределения (F$ = FV), но таких, что Р{£^г}}> 0.
21. Пусть £, г/ и £ — случайные величины, причем функции
распределения величин £ и г} совпадают. Верно ли, что тогда функции распределения
величин ££ и т/С совпадают?
22. Привести пример двух зависимых случайных величин £ и г/ таких,
что £2 и г/2 независимы.
23. Пусть £ — дискретная случайная величина. Рассмотрим следующие
три способа определения медианы р = р(£) этой случайной величины (ср.
с задачей 5):
(а)тах(Р{£>Д Р{£<;/})< 1/2;
(b) Р{^<А/}<1/2<Р{е<^};
(c) fi = \ni{x e R: Р{£ < *} > 1/2}.
Пусть Л1а, Л1ь и Л1с — множества медиан по каждому из определений
(а), (Ь) и (с) соответственно. В каком взаимоотношении находятся эти
множества?
24. Пусть в урне содержится N шаров, из них а белых, b черных
и с красных, a + b + c = N. Вынимается п шаров, и пусть среди них £
белых и г} черных. Показать, что если совершаемый выбор — это «выбор
с возвращением», то
cov(£, r}) = -npq,
где р =a/N и q = b/N'. Если же производится «выбор без возвращения»,
то
/а \ N— п
00\f{^r}) = -npqjj—^.
Показать также, что в обоих случаях корреляция
§ 5. Схема Бернулли. I. Закон больших чисел
1. Пусть £ и г} — случайные величины с коэффициентом корреляции р.
Показать справедливость следующего двумерного аналога неравенства
Чебышева:
P{|e-Ee|>£v^или|r?-Er?|>£v^}<4(1+V/ГV).

38
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Указание. Без ограничения общности можно считать, что Е£= Ег} =
= 0 и D£ = Dr?= 1. Тогда Р{|£| >£ или |r?| >е} = Р{тах(£2, г?2) ^е2}. Далее
следует применить (обычное) неравенство Чебышева и неравенство из
задачи 8 в § 4.
2. Пусть / = f(x) — неотрицательная четная функция, неубывающая
при положительных значениях х. Показать, что для случайной величины
£ = £(<*;) с |£(<*;)| < С, где С >0, справедлива следующая оценка снизу:
Р<1«>.»^ЫИ.
В частности, для /(х) =х2
S^<p(ie-E{|>.» (<?)■
Указание. Воспользуйтесь тем, что
Е/(О = Е» < /(С) Р{|£| >е} + /(е).
3. Пусть £i, ..., £„ — последовательность независимых случайных
величин с D£; < С. Показать, что тогда
2^ с.
(С теми же оговорками, какие были сделаны к соотношению (8), из
приведенного неравенства следует справедливость закона больших чисел в
более общей ситуации, нежели в схеме Бернулли.)
4. Пусть £i, ..., £„ — независимые бернуллиевские случайные величины
с Р{£; = 1} = р > О, Р{£; = — 1} = 1 — р. Показать, что справедлива
следующая оценка Бернштейна: существует а > О такое, что
Р{|^-(2Р-1)|Ц<
2е~
где Sn = £ 1 +... + £п и £ > 0.
Указание. См. доказательство формулы (42) в § 6 книги
«Вероятность— 1».
5. Пусть £ — неотрицательная случайная величина и а > 0. Найти
максимальное возможное значение для вероятности Р{£ > а} в каждом из трех
случаев, когда известно, что
(О Е£ = т;
(ii) E£ = m, D£ = cr2;
(iii) E£ = m, D£ = <72 и £ симметрична относительно своего среднего
значения т.

§ 5. СХЕМА БЕРНУЛЛИ. I. ЗАКОН БОЛЬШИХ ЧИСЕЛ
39
6. Пусть So = О, S,2 = £i +... + £л, л < W, где £i,..., £# — бернуллиевская
последовательность независимых величин с Р{£„ = 1} = р > О, Р{£„ = 0} = q,
п < N. Обозначим Pn(k) = P{Sn = k). Показать, что для п < N и k > 1
Pn+№ = pPn(k-\)+qPn(k).
7. Пусть £ь ..., £N — независимые бернуллиевские случайные
величины с Р{6 = 1} = Р{£ =-1} = 1/2, i = 1, ..., N. Положим Sm =£i +... + £m.
Показать, что для 2га < /V
P{5,...52m^0} = 2-2mC2mm.
8. Рассматриваются Л1 ячеек, занумерованных числами 1,...,Л1.
Предположим, что в ячейке с номером п находится один белый шар и п
черных. Производится «случайный» выбор шаров из каждой из М ячеек.
Положим
-t
если из ячейки с номером п извлечен белый шар,
если извлечен черный шар,
и пусть Sm = £i + • •. + £м — число извлеченных белых шаров. Показать, что
«Sm имеет при больших М порядок In M» в том смысле, что для всякого
£>0 при М —>оо
pflifft-'l^b0
(с оговорками, сделанными к формуле (8)).
9. Пусть £ь ..., £„ — независимые бернуллиевские случайные
величины такие, что Р{£Л=1}=рЛ, Р{& = 0} = 1 — Pk, 1<й<п, при этом
1 п
- X) Pk = ct- Показать, что для заданного 0<а<1 дисперсия DSn
п k=\
величины Sn = £i + ... + £л достигает своего максимального значения при
рх=... = рп = а.
10. Пусть £i,..., £я — независимые бернуллиевские случайные
величины с P{£k = 1} = P, Р{& = 0} = 1 — /7, 1 <й<н. Найти условную вероятность
того, что первая единица («успех») появится на га-м шаге, при условии,
что на всех п шагах «успех» произошел только один раз, 1 < га < п.
11. Пусть (рь ..., рг) и (qu ..., qr)— два распределения вероятностей.
Показать, что справедливо следующее неравенство Гиббса:
Y, Pi I" Pi<~Ys P'1 ln^'-
i=\
(Отсюда следует, что энтропия Н = — X) Pi In pi < In r; ср. с изложением
в п. 4.) <=1

40
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
12. В условиях задачи 10 показать справедливость следующего
неравенства Реньи:
P№-p\>£}^{-2Pq{l"£e/{2Pq))>}-
§ 6. Схема Бернулли. II. Предельные теоремы
(локальная, Муавра—Лапласа, Пуассона)
1. Пусть п= 100, р = 1/10, 2/10, 3/10, 4/10, 5/10. Используя
статистические таблицы биномиального и пуассоновского распределений (см.,
например, [12]), сравните значения вероятностей
Р{10<5,оо<12}, Р{20<5,оо<22},
Р{33 < 5,оо < 35}, Р{40 < 5,оо < 42},
Р{50<5,оо<52}
с соответствующими значениями, даваемыми нормальной и пуассонов-
ской аппроксимациями. (Можно воспользоваться и компьютерными
средствами.)
2. Пусть Zn = 2Sn — п (число превышений единиц над нулями в п
независимых испытаниях), Sn = £, + ... + £л, я^ 1, P{£i = l} = P{£i =0} = 1/2.
Показать, что
sup|\/7i7zP{Z2n =']}-е~1 /4"| —>0, я—>оо.
)
Указание. Обозначая 2п = т и k = //2 + п, видим, что
доказательство требуемого утверждения сводится к тому, чтобы доказать, что
(р=1/2)
sup
k
Г— (k-mp)2 I f .
l™P{sm=k}-e W =supe(*,/n)U0, m^oo.
Имея это в виду, воспользуемся тем, что
sup z(ky m) = max(am, bm)y
k
где
am = sup z(k, m), bm = sup s(k, m)
{k: \k-mp\^{mpq)s) {k: \k-mp\>{mpq)s)
с некоторым s G (1/2, 2/3), и показать затем, что ат —>0, Ьт —>0 при га—> оо.

§ 6. СХЕМА БЕРНУЛЛИ. II. ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
41
3. Доказать, что в теореме Пуассона (с р = \/п) имеет место
следующая оценка:
sup
k
Рп(Щ-
k„-\
\Re
k\
n
Указание. Обозначим через r}\,... ,г}п и d,..., £п независимые
случайные величины, имеющие соответственно пуассоновское распределение
с параметром Х/п и бернуллиевское распределение с
Р{С
= 0} = еА/"(1
Полагая
&
■(
А/л), P{d = l} = l-ex/n(l-X/n)
О, если rji = О, С/ = О,
1 в остальных случаях,
замечаем, что £i, ..., £я — независимые бернуллиевские величины с
Р{6 = 0}=1-£, Р{6 = 1}=£
и £ = £!+... + £„ имеет распределение P{£ = k} = Pn(k). Далее надо
воспользоваться тем, что величина г}=rj\ +... + щ имеет распределение
Пуассона с параметром А, и тем, что для каждого k = О, 1, 2, ...
|Ptf = *}-Pfo = *}|<P«?*»?}<^-.
(Ср. с результатами и доказательствами в § 12 гл. III.)
4. Пусть £ь £2, ••• —независимые одинаково распределенные
случайные величины, Р{&= 1} = Р{& = — 1} = 1/2 (симметричная схема Бернул-
ли), S„ = £i +... + &1 и Pn(k) = P{Sn=k}, где keEn = {0, ±1, ..., ±п}.
Показать, основываясь на формуле полной вероятности (формула (3)
в § 3), что справедливы следующие рекуррентные соотношения
(являющиеся частным случаем уравнений Колмогорова—Чепмена, § 12):
Pn+x(k) = \pn{k+\) + \pn{k-\), keEt
71+h
равносильные тому, что
Рп+\(к)
1
Pn(k) = ^[Pn(k+l)
■2Pn(k) + P„(k-l)].
(*)
(**)
5. (Продолжение задачи 4.) Последовательность величин 5о=0, 5i =
= £ь S2=£i +&, • ••, Sn=£\ + ... + £я можно рассматривать как
траекторию случайного блуждания частицы, выходящей из нуля и
перемещающейся в целочисленные моменты времени на единицу вверх или вниз.

42
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Будем теперь предполагать, что блуждание происходит в моменты
времени А, 2А,..., нД, где А > 0, при этом на каждом шаге частица
сдвигается вверх или вниз на величину Ах. Вместо вероятностей Pn(k) = P{Sn = k},
введенных в предшествующей задаче, рассмотрим вероятности
PnA(kAx) = Р{5„д = kAx).
По аналогии с рекуррентными соотношениями (**) получаем, что
Р(п+\)ь(ЬАх) - PnA(kAx)
А
= ^[PnA((k+l)Ax)-2PnA(kAx) + PnA((k-l)Ax)],
т. е. «дискретная версия первой производной по времени» совпадает с
точностью до множителя 1/2 с «дискретной версией второй производной
по пространственной переменной».
Положим Ах = л/А и для / > 0 и х е R будем осуществлять предельный
переход поп—>ооий—>оо так, что нД—>/, ky/A^^x. Показать, что при
таком предельном переходе
(a) существует предел Pt(x) = \\m PnA(ky/~A)\
(b) предельные функции Pt (x) удовлетворяют «диффузионному»
уравнению теплопроводности
dPt(x) _ 1 d2Pt(x)
dt ~ 2 дх2
(Башелье, Эйнштейн).
6. В обобщение результатов предшествующей задачи предположим,
что блуждающая частица с вероятностью р(А)=1/2-\-Ах смещается
вверх на Ах и с вероятностью q(A) = l/2 — Ах смещается вниз на
Ах. Снова пусть Ах = \/Д и нД—>/, ky/A^^x. Показать, что, как
и в предшествующей задаче, существует предел Pt(x) = \\m PnA(ky/A),
удовлетворяющий уравнению
dPt(x) dPt(x) l d2Pt(x)
dt дх ^ 2 дх2 '
7. Что надо изменить в предельном переходе, сделанном в
предшествующих двух задачах, чтобы предельная функция удовлетворяла уравнению
dPt(x)_ dPt(x) l od2Pt(x)
dt ~ ** дх ^2° дх2
(называемому уравнением Фоккера—Планка или прямым уравнением
Колмогорова)?

§ 7. ОЦЕНКА ВЕРОЯТНОСТИ «УСПЕХА» В СХЕМЕ БЕРНУЛЛИ 43
8. Пусть Fn = Fn(t), t e [О, 1], п^ 1, есть такая неубывающая
функция, что Fn(t) —> / для всех рациональных / е Q П [0, 1]. Показать, что эта
сходимость будет равномерной (см. также задачу 5 в § 1 главы III):
sup \Fn(f) — t\^>0, н—>оо.
/€[0,1]
9. Показать, что для х > 0 справедливы неравенства
Х ср(х)<1-ф(х)<^у
l+*2^w w х
1 х
где <р(х) = -=е-*2/2 и Ф(х) = § <р(у) dy.
Указание. Рассмотрите производные <р'(х) и (х~1ср(х))'.
10. Показать, что для распределения Пуассона имеет место следующая
локальная теорема: для каждого k = 0, 1, 2, ... и А—>оо
Указание. Воспользуйтесь формулой Стирлинга.
§ 7. Оценка вероятности «успеха» в схеме Бернулли
1. Пусть априори известно, что параметр в принимает значения в
множестве во С [0, 1]. Выяснить, когда существует несмещенная оценка для
параметра в, принимающая значения лишь в этом множестве во.
Указание. Если во — одноточечное множество (во = {#о}), то зна~
чение во и будет требуемой оценкой. Если же во состоит по крайней мере
из двух точек, то для существования несмещенной оценки необходимо и
достаточно, чтобы {0}ево и {1}ево. Докажите это.
2. В условиях предыдущей задачи найти аналог неравенства Рао—
Крамера и рассмотреть вопрос об эффективных оценках.
3. В условиях первой задачи рассмотреть вопрос о построении
доверительных интервалов для в.
4. В дополнение к задаче 21 в § 2 исследовать вопрос о несмещенности
и эффективности оценки /V, считая N достаточно большим, N^M, N^>n.
Построить, по аналогии с доверительными интервалами для параметра в
(см. формулы (8) и (9) на с. 99 книги «Вероятность— 1»), доверительные
интервалы [N — a(N), N + b(N)] для N с тем свойством, что
PN,M;n{N-a(N)^N^N + b(N)}*l-e,
где £ — некоторое малое положительное число.

44
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
5. (Критерий согласия х2, хи-квадрат) Пусть £i,..., £я —
независимые бернуллиевские случайные величины с Р{£/ = \} = р, Р{£/ =0}= 1 — р,
1 < / < п. В отличие от основного материала § 7, посвященного построению
оценки вероятности «успеха» р, в настоящей задаче рассматривается
вопрос о проверке по результатам наблюдений х = (х\,..., хп) гипотезы Но',
р = ро, т. е. гипотезы о том, что истинное значение параметра р равно
заданному числу 0 < ро < 1.
Пусть Sn(g)=$\ + ... + £„. Положим
v2/f4 (Sn(&-np0)2
Хп™ про(\-ро) '
В предположении справедливости гипотезы Но показать, что для всякого
х^О
1
. .... .... .. ф^
РШ)<х}^^=е-У/Чу, п
(В соответствии с таблицей 3 в § 3 гл. II функция F(x) = { . е у/2 dy
о У**У
есть функция распределения случайной величины х2 с одной степенью
свободы, т. е. функция распределения квадрата стандартной гауссовской
случайной величины с параметрами 0 и 1.)
В основе критерия согласия х2 для проверки гипотезы Но: р = ро лежат
следующие соображения.
Выберем число £> 0 столь малым, что практически можно быть
уверенным, что в единичном опыте события, имеющие вероятность е, происходят
очень редко. (Скажем, если г = 0,01, то, согласно закону больших чисел,
можно считать — см. замечание к формуле (8) в § 5, — что в ста
испытаниях событие, имеющее вероятность 0,01, встретится «в среднем» один
раз.) сю .
По выбранному £ > 0 найдем A(s) такое, что \ / e~yl2 dy = £.
а<£) V^y
Проверку гипотезы Но: р = ро производим (по критерию согласия х2)
следующим образом: если величина xi;M» подсчитанная по наблюдениям
х = (х\,..., хп), превышает значение A(s), то гипотеза Но отвергается, если
же х^(х) < A(s), то гипотеза Но принимается, т. е. считается, что
наблюдение х = (х\, ..., хп) согласуется с предположением р = ро.
(а) Используя закон больших чисел (§ 5), привести аргументы,
обосновывающие естественность (по крайней мере при больших значениях п)
рекомендаций, предлагаемых критерием согласия х2 для проверки
гипотезы Но', р = ро-

§ 7. ОЦЕНКА ВЕРОЯТНОСТИ «УСПЕХА» В СХЕМЕ БЕРНУЛЛИ 45
(Ь) Используя неравенство Берри—Эссеена (24) из § 6, покажите, что
(в предположении р = ро)
sup
х
*> м. / /'It II
<
у/про(\-ро)'
_1
о
(с) Пусть \п(е) определяется из формулы Р{х«(£) ^ ^л(^)} ^ £• Найдите
скорость сходимости \п(£) к \(е) и тем самым определите
погрешность, возникающую при замене события «х^(0^^п(Ф> на событие
«Х„(£) ^ А(е)», используемое в критерии согласия х2-
6. Пусть £ — случайная величина, имеющая биномиальное
распределение
Рв{£ = k} = Ckn6k(\ - 0)n'k, О < k < л,
где п — заданное число и в — «неизвестный параметр», который требуется
оценить по (единственному) наблюдению над этой случайной величиной £.
Стандартной оценкой в является оценка Щ) = £/п, которая
обладает свойством несмещенности: для всех значений в е [О, 1 ]
ЕвЩ) = в.
Показать, что в классе несмещенных оценок Т = Т(£) эта оценка
является эффективной:
Ев(Т(О-в)2 = МЕе(Т(О-0)2.
т
Показать также, что если п = 3 и a priori известно, что 0е(1/4, 3/4),
то оценка Т(£) = 1/2, являющаяся смещенной при любом в^ 1/2, будет
«лучше», чем несмещенная оценка Т(£) = £/3\
Ев[Т(о-е}2<Ев[Щ)-е}2,
т. е.
1 п2 гС п2
ЧИ <Е41-
Рассмотреть вопрос о справедливости аналогичного результата для
любого п.
7. Два корректора А и В в результате чтения корректуры обнаружили
соответственно а и b опечаток, из которых с оказались общими.
Предполагая, что корректоры работали независимо друг от друга, дайте «разумную»
оценку числа оставшихся необнаруженными опечаток.
Указание. Воспользуйтесь вероятностными соображениями,
считая, что общее число опечаток п велико и а/п и Ь/п являются достаточно
хорошими оценками вероятностей ра и рь того, что корректоры А и В
замечают опечатку.

46
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
§ 8. Условные вероятности и математические
ожидания относительно разбиений
1. Привести пример двух случайных величин £ и г], которые не
являются независимыми, но для которых
Е(£|Ч) = Е£.
(Ср. с утверждением (22); учитывайте здесь и далее замечание в начале
§ 4 на с. 33 настоящего задачника.)
2. Условной дисперсией £ относительно разбиения & называется
случайная величина
0(£\®) = Е[(£-Е(£\Щ2\®].
Показать, что дисперсия
D£ = ED(£|^) + DE(£|^).
Указание. Убедитесь в том, что
ED(£|0) = E£2-E[E(||0)]2 и DE(£|0) = E[E(£|0)]2- (Е£)2.
3. Отправляясь от (17), доказать, что для всякой функции / = f(rj)
условное математическое ожидание Е(£|^) обладает следующим
свойством:
E[/fo)E(*|»7)] = EK/fo)].
4. Пусть £ и rj — случайные величины. Показать, что inf Е(т}— /(£))2
достигается на функции /*(£) = Е(?7|£). (Таким образом, оптимальной в
среднеквадратическом смысле оценкой г] по £ является условное
математическое ожидание Е(?7|£).)
Указание. Убедиться в том, что для произвольной функции / = f(x)
Е(»7-/(0)2 = Е(ч-/*(0)2 + 2Е[(ч-/*(0)(/*(0-/(Ш+Е(/*(0-/(0)2,
где математическое ожидание величины в квадратных скобках Е[ ■ ] равно
нулю.
5. Пусть £i, ..., £л, т — независимые случайные величины, причем
величины £i,..., £л одинаково распределены, а т принимает значения 1,..., п.
Показать, что если 5Т =£\ +... + £т — сумма случайного числа
случайных величин, то
E(ST|r) = rE£i, D(St|t)=tD£,
и
EST = Er.E£i, DS^Et-D^+Dt.^)2.

§ 8. УСЛОВНЫЕ ВЕРОЯТНОСТИ И МАТЕМАТИЧЕСКИЕ ОЖИДАНИЯ 47
Указание. Воспользоваться тем, что
E(ST|r) = rE£, и D(St|t) = tD£i.
6. Доказать равенство (24).
7. Пусть g — эксперимент с пространством элементарных исходов
k
Q = {o;b ...,б^} и вероятностями («весами») р1 = р(щ), J^ р,- = 1. В § 5
k 1=1
формулой (14) H = ~Y^ Pi In Pi была определена энтропия распреде-
/=i
ления (pi, ..., р^) как мера степени «неопределенности» эксперимента §.
Там же было показано, что эта неопределенность максимальна для
эксперимента, в котором все k возможных исходов являются равновероятными,
при этом Н = \п k.
Естественность (в этом —равновероятном —случае) логарифмической
функции как меры степени неопределенности оправдывается следующим
утверждением, предлагаемым как задача.
Пусть степень неопределенности эксперимента £ с k исходами
определяется функцией f(k) такой, что /(1) = 0 и /(&)>/(/), если k>l.
Предположим также, что f(kl) = f(k) + /(/). (Это свойство отражает
требование, что для независимых экспериментов S\ и <^ с й и / исходами степень
неопределенности эксперимента £\<&£<i, состоящего в одновременном
выполнении экспериментов S\ и S<i, равна сумме неопределенностей
каждого из этих экспериментов.)
Показать, что при сформулированных условиях функция f(k) имеет
следующий вид: f(k) = с \ogb k, где константа о 0 и log^ k есть логарифм
по произвольному основанию Ь > 0.
Замечание. В силу того, что переход от одной системы логарифмов
к другой определяется формулой log^ k = \ogb a • \oga k, ясно, что переход
от одного основания логарифма к другому равносилен просто изменению
единицы измерения степени неопределенности. Обычно выбирают Ь = 2.
Поскольку в этом случае log2 k= 1 для й = 2, то можно сказать, что за
единицу степени неопределенности принимается неопределенность,
содержащаяся в эксперименте с двумя равновозможными исходами. В теории связи
(и, в частности, в теории кодирования) такая единица неопределенности
называется двоичной единицей, или битом (BIT —от английского Binary
digiT). Таким образом, если для эксперимента £ число исходов k= 10, то
неопределенность такого эксперимента равна log2 10 битов (^3,3).
8. Пусть (Q, &, Р) — некоторое дискретное вероятностное
пространство и £ = £(cj) — случайная величина, принимающая значения х\, ..., Xk
с вероятностями Р{£ = х,-} = р,-. Энтропией случайной величины £ (или
эксперимента <%, состоящего в наблюдениях значений £) называется ве-

48
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
личина
k
Н(£) = - J2 Pi loS2 Pi
i=\
(ср. с (14) из § 5, где вместо двоичного логарифма log2
рассматривался натуральный логарифм In, что, как было выше объяснено, не играет
принципиальной роли).
Если (£, ту) —пара случайных величин и Р{£ = х/, r} = yj} = р-ц, i = 1, ...
..., й, /'= 1, ..., /, то энтропия //(£, ту) этой пары определяется
аналогичным образом:
k i
Щ, ч) = -£Е Р'ч log2 Рч-
1=1 /=1
Показать, что если £ и ту независимы, то //(£, ту) = //(£) + //(ту).
9. Пусть (£, ту) — пара случайных величин, принимающих значения
(xi, #,-), / = 1, ..., й, /=1, ..., /.
Условной энтропией случайной величины ту относительно события
{£ = */} называется величина
nXl(v) = - Y, p{v=y,\£=xi) iog2 Р{ч=У/1€=^-}.
/=i
Средняя условная энтропия rj относительно £ определяется формулой
k
н^)=^2р{£=хЛн*М
Показать, что
(a)//(£,4) = //(0 + //€fo);
(b) если £ и ту независимы, то
H(t,rj) = H(Z) + H(v);
(с)0<Я€(ч)<Я(Ч).
10. Пусть (£, ту) — пара случайных величин. Величина
/€(Ч) = Я(Ч)-//€(Ч)
называется количеством информации относительно rj, содержащейся
в £. Терминология оправдывается тем, что разность H(rj) — H^(rj)
показывает, насколько знание случайной величины £ может уменьшить
неопределенность //(ту) величины ту.
Показать, что
(a)/€fo) = /4(0>O;

§ 9. СЛУЧАЙНОЕ БЛУЖДАНИЕ. I
49
(b) I^(rj)=H(rj) в том и только том случае, когда rj есть некоторая
функция от £;
(c) если £, 7} и С — случайные величины, то
т. е. пара (£, Q содержит относительно rj не меньшую информацию, нежели
только случайная величина £.
11. Пусть £i,..., £я — независимые одинаково распределенные бернул-
лиевские величины с Р{£, = 1}=р, Р{£=0}=1 — р, и пусть 5Л=^ +...+£я.
Показать, что
(а)Р(£.=*. £,=jtn|S„ = £) = ^
(Ъ) P(Sn=x\Sn+m = k) = ^~X
^JC pk—X
где jc=jcj +...+хя, xi = 0, 1, и x< k.
§ 9. Случайное блуждание. I. Вероятность разорения
и средняя продолжительность при игре
с бросанием монеты
1. Показать, что, в обобщение (33) и (34), справедливы следующие
формулы:
ES*,=x + (p-<7)Er„\
2. Исследовать вопрос о том, к чему стремятся величины а(х), (3(х) и
т(х) (определения см. на с. 112 и 116 книги «Вероятность— 1»), когда
уровень А [ -оо.
Указание. Ответ здесь такой:
f0, p>q,
А\\т_а(х)={ (q/pf-(q/pY
(q/p)0
/3-х
p<q,
i- / \ J у P>Qy
lim m(x) =< P-Q
A^~°° 'оо, p^q.
3. Пусть в схеме Бернулли p=q = 1/2. Показать, что
E\Sn\~ \ — п, п—>оо. (*)

50
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Указание. Непосредственно можно убедиться в том, что имеет
место следующая формула («дискретная версия формулы Танака»; см.
также задачу 8 в § 9 главы VII): при п ^ 1
\Sn\ = J2 sign(S*_,)AS*+/V„, (**)
k=\
где S6 = 0,S* = £i+ ... + &, AS* = &,
1, x>0,
sign x = <J 0, x = 0,
-1, x<0,
и Nn = #{0<&<h-1:S* = 0} — число тех k, 0<й<n- 1, для которых
S* = 0. Тогда
rt-l rt-1
E|5„| = EyV„ = E^/(5, = 0) = ^P{5, = 0} (***)
k=o k=o
и надо воспользоваться тем, что P{S2k = 0} = 2~2kC2k и вероятности
P{Sfc = 0} = 0 для нечетных k.
Замечание. Из (***) следует, что
ENn~ \ - п, н—>оо.
(Ср. также с примером 2 в § 9 главы VII книги «Вероятность —2»; в
формулах (17) и (18) этого примера вместо 1/27Г должно быть 2/7Г.)
4. Два игрока независимым образом подбрасывают (каждый свою)
симметричные монеты. Показать, что вероятность того, что у них после
п
п подбрасываний будет одно и то же число гербов, равна 2~2п Y^(Cn)2-
п k=0
Вывести отсюда равенство Х)(^л)2 = ^2п (см- также задачу 2 в § 2).
6=0
Пусть ап — тот первый момент, когда число гербов у одного игрока
совпадает с числом гербов у другого (совершается п подбрасываний и
<тп = п + \, если указанного момента не существует). Найти вероятности
Р{сгп = й}, 1 < k < п + 1, и математические ожидания Е min(<7„, n).

§ 9. СЛУЧАЙНОЕ БЛУЖДАНИЕ. I
51
Указание. Пусть £J * = 1 (или — 1), если у игрока с номером k = 1, 2
на /-м шаге выпал герб (или решетка). Тогда
р( число выпавших у игроков гер- 1 _ р I y^ p(i) _у^ л(2) 1 _
t бов после п бросаний совпадает / — 1 2^ ** ~ Z^ ** \ ~
/=0 \i=\ i = \ ) /=0
И
5. Пусть £ь ..., £/у — бернуллиевские независимые случайные
величины, Р{£ = 1} = Р{6: = -1}= 1/2, S„ = fi +... + 6,, UaK/V. Найти
р/ [J {S„ = 0}\,
\/v,</i^/v2 У
т. е. вероятность того, что найдется момент я в множестве (N\ + 1, ..., N2)
такой, что S„ = 0; 1 < N{ + 1 < N2 < /V.
6. Пусть £о» £ь • • •» £w — бернуллиевские независимые случайные
величины, Р& = 1} = Р& = -1}=1/2,8п = £{+... + £пиХп =
Ы-1)5"-дискретный телеграфный сигнал, 1 < лг < TV. Найти значение и дисперсию
величин Хп.
Найти также условные распределения Р{Хп = 11 £0 = /}, / = ± 1, 1 < п < N.
7. Пусть £ь ..., £н — бернуллиевские независимые случайные
величины, Р{£; = 1}= р, P{fi: = -1}= 1 - р, Si =£{ +... + 6, Uia, S0 = 0.
Пусть <^/v — размах, т. е. число различных точек, посещаемых блужданием
So, Si, ..., S/v.
Найти Е^уу, D^yv- Выяснить, при каких значениях р для величины 2&м
справедлив закон больших числе в форме
P{|^-c|>£}^0, N^oo,
где £> 0 и с — некоторая константа. (См. также задачу 87 в § 6 главы II
и задачу 16 в § 8 главы VIII.)
8. Пусть £ь ..., £/у — одинаково распределенные случайные величины
(не обязательно бернуллиевские), S0 = 0, S/ = £1 +... + £/, 1 < / < N.
Пусть
п
Nn = ^2l(Sk>0)

52
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
— число положительных членов в последовательности So, 5Ь ••-, Sn.
Показать, что справедлив следующий результат (Спарре-Андерсен):
P{Nn=k} = P{Nk = k}P{Nn_k = 0}, 0<й<я.
9. Пусть £i, ..., £/v — бернуллиевские величины из задачи 7. Определим
величины Х\, ..., Хн, полагая
*1=£ь Хп = \Хп-{+£Пч 2 < я < /V, XeR.
Найти ЕХп, DXn и cov(Ar„, Xn+k).
§ 10. Случайное блуждание. II. Принцип отражения.
Закон арксинуса
1. С какой скоростью Е mir^cr^, 2я)—>оо при я—>оо? (Здесь cr2„ =
= min{l <й<2я: S& = 0}, и мы полагаем <72дг = оо (или<72Аг=2Аг), если 5^^0
при всех 1 < k < 2п.)
Указание. Воспользуйтесь тем, что, согласно п. 1,
п
Е min(cr2Al, 2n)=^2 u2(k-\) + 2nu2n,
k=\
где U2n ~ l/y/кп. Отсюда заключите, что
Е min(<r„, 2n)~4J—, я—>оо.
2. Пусть тп =min{l < й< n: Sk = 1} и r„ = oo, если 5^<1 при всех
1 <й<я. К чему стремится Е min(r„, я) при я—>оо для симметричного
(p = q = 1/2) и несимметричного (р ^^) блужданий Бернулли?
Указание. Ответ здесь таков:
Е min(T„, я)—> <
3. Основываясь на идеях и методах, изложенных в § 10, показать, что
для симметричного (p = q = 1/2) случайного блуждания Бернулли S&,
k < я, с 5о = 0, Sfc = £i + ... + & имеют место следующие формулы (/V —

§ 10. СЛУЧАЙНОЕ БЛУЖДАНИЕ. II
53
положительное целое число):
Р{ max 5* > /V, Sn < n\ = P{Sn > /V},
PJmax Sk>N\ = 2P{Sn>N}-P{Sn = N),
P{ max Sk = N\ = P{Sn = N} + P{Sn=N+l} = 2-nCJi 2 J,
PJmax S*<0) = P{S„ = 0} + P{S„=l} = 2-"cJ^f
P( max 5*<0, 5„>o) = P{5i^O, ..., 5„^0, 5„+i =0},
U^&^Al —1 )
P{5, > о s2„_, > o, s2n=0} = 12-2n q-_!2,
P{5, > 0 S2„_, > 0, S2„ = 0} = ^L- 2-2" C2"„.
Показать также, что формулы
P{S2n = 2*} = 2-2riq-*, * = 0, ±1, ..., ±/i,
и
P{52„+i=2fe + l} = 2-2"-1C2V+P Л = -(л+1), 0, d=l d=/i,
могут быть записаны единым образом в таком виде:
(п-пМп~
о "
р/5 =M=J" ^ *)/2' если k = n (mod 2)'
" в других случаях,
где й = 0, ±1, ..., ±п.
В дополнение к данной выше формуле для Р< max 5& = /V > при
положительных целых /V показать, что ^ ^п
Р( max 5* = г) = С^/21 • 2""
для г = 0, 1, ..., п.
4. Пусть £i, ..., &Л — независимые бернуллиевские случайные
величины сР{£* = 1} = Р{& = -1}=1/2, й<2я. Положим 50 = 0, 5* = £i + ...
...+& и
£2л = max{0 < 2й < 2я: S2k = 0}
— момент последнего нуля в последовательности (52, 54, ..., 52л); если
такого момента нет, то полагаем g2n = 0.

54
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Показать, что
P{g2n = 2k) = U2nU2{n-k), 1 < k < /Z,
rjxeu2k = P{S2k = 0} = 2-2kC^.
(Сопоставляя распределение для g2n с вероятностью P2k,2n того, что
на отрезке [0, 2п\ блуждающая «частица» проводит 2k единиц времени на
положительной оси (см. формулу (12) в § 10), видим, что, как и в формуле
(15), для 0<х< 1
У^ P{g2n = 2k}^>- arcsin yfx, я—>оо,
{k:0<k/n^x}
т. е. распределение вероятностей положения последнего нуля
удовлетворяет асимптотически закону арксинуса.)
5. В условиях предшествующей задачи обозначим через 02л положение
первого максимума последовательности So, Si, ..., S2/1, т. е. 02л = &> если
So < Sfc, ..., Sk-\ < Sk, a Sfc+i < S&, ..., S2rt < S&; если такого k > 1 нет, то
полагаем 02„ = 0.)
Показать, что
и для 0<k<n
Р{в2п =0} = U2n, Р{в2п = <*П}=\ U2n
Р{в2п = 2k ИЛИ 2k + 1} = - U2kU2n-2k'
Вывести отсюда, что (как и в предыдущей задаче) для положения
максимума справедлив закон арксинуса: для 0< х < 1
су
У^ Р{02л = 2& или 2k + 1}—> - arcsin у/х, я—>оо.
{k:0<k/n^x}
Рассмотрите также случаи х = 0 и х = 1.
6. Пусть Sk = £i +... + &, k < 2я, где £i, ..., &/i — независимые
одинаково распределенные случайные величины с P{£i = l} = P{£i = —1}= 1/2.
Показать, что:
(a) для г = ±1, ..., ±п
P{S, ^0, ..., S2„_! ^0, S2„=2r} = q+^2-2-
(b) для г = 0, ± 1, ..., ±п
P{S2n = 2r) = Cn2-r2-2n.
7. Пусть {Sky k < п) с So = 0, Sk = £i +... + £& — симметричное
случайное блуждание Бернулли (с независимыми одинаково распределенными

§ 10. СЛУЧАЙНОЕ БЛУЖДАНИЕ. II
55
величинами £ь ..., £„ такими, что P{£i = 1}= P{£i = —1}= 1/2). Пусть
Мп= max Sb, mn= min Sb.
0£k<n O^k^n
Показать, что
(Mn-Sn, Sn-mn, Sn) = (-m„, Af„, S„) = (Af„, -m„, S„),
где « ^» означает совпадение соответствующих троек случайных величин
по распределению.
8. Пусть 5о = 0 и Sfc = £i +... + £&, k > 1, где £i, £2, • • • — независимые
случайные величины с Р{& = 1} = р, Р{£& = — 1} = <7, Р + Ц = 1 • Показать,
что
PJmax S*>/V, S,, = m) = C;jpV~
где u = N + (n — m)/2 и и = (я + га)/2, и вывести отсюда, что в случае
p = q = \/2 ига</У
PJmax Sk = N, Sn = m\ = P{Sn = 2N -m)-P{Sn=2N -m + 2).
9. Пусть £ь£2, • •• —бесконечная последовательность независимых
бернуллиевских случайных величин с Р{£; = + 1} = Р{£; = — 1}= 1/2.
Положим 5о = 0, Sn = £1 +... + in и для х е Z = {0, ±1, ±2, ...} определим
моменты (первого попадания в состояние х после нулевого момента):
<т\(х) = inf {я> 0: Sn = х),
условившись считать, что а\ (х) = оо, если {■} = 0.
Показать, что для х = 1, 2, ...
Р{«7,(х)>я} = Р{тах Sk<x\, P{<r,(l) = 2n + 1} = 1-^С2"п,
ю^£^/1 ) п-\- v
Р{ах (х) = п} = - 2~п С}?+х^2, Р{а{ (1)>п} = 2~п С^У
Замечание. По поводу вопросов о существовании бесконечных
последовательностей независимых случайных величин £ь £2, ••• см.
«Вероятность— 1», с. 70—71.
10. Пусть выполнены условия предыдущей задачи. Наряду с
моментами о\ (х) определим моменты
Gk{x) = inf {я><Tk-\(x): Sn = x), k = 2, 3, ...,
полагая ak{x) = 00, если {■} = 0. (Смысл этих моментов ясен: ak{x) — это
момент й-го попадания в состояние х.)

56
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Показать, что для п = 1, 2, ...
Р{<71 (0) = 2п) = 2-2л+1 л"1 С£-_!2, P{<7i (0) < оо} = 1,
Pfo (0) > 2п) = 2~2пСп2п = P{S2n = 0}, Evx (0) = оо.
Показать также, что а\(0), <72(0) — <ti(0), сг3(0) -<j2(0), ... образуют
последовательность независимых одинаково распределенных случайных
величин. (Это свойство лежит в основе метода «регенерирующих циклов»,
широко используемого при изучении свойств случайных блужданий;
подробнее см. § 7 приложения, с. 359.)
11. Пусть £ь £2, ... —такие же, как в предыдущей задаче. Положим
Ln(x) = #{k,0<k^n: Sk = x}.
(По своему смыслу Ln(x) — это число тех моментов времени 0< k < я, когда
случайное блуждание (Sk)o<k^n посещает состояние х, х = 0, ±1, ±2, ...;
ср. с родственной величиной Nn(x), введенной в задаче 8 § 9 главы VII; см.
также задачу 3 в § 9 настоящей главы. Обе величины Ln(x) и Nn(x) часто
называют локальными временами в состоянии х на временном множестве
{й:0<й<я}.)
Показать, что для k = О, 1, ..., п
P{L2n(0) = k} = P{L2„+1 (0) = k) = 2-2n+kCn2n_k,
P{Ln{V) = k} = 2-WWC%%]_k
P{L2„(0)<fe} = Pb(0)>2Az} = 2-2" J2 2ic2n-r
k-\
j=0
00
P{Ln(x)=0} = P{a{(x)>n}= J2 2~^С{/+х)/2
/=л+1
И ДЛЯ J£ = ±l, ±2, ...
P{L<7l(0)W = 0}=^bi, ELMO)(x) = l.
(Величина а\ (х) определена в задаче 9.)
12. В условиях предыдущей задачи положим
fj,(ri) = m\n\k, 0<& <я: Sk = max S;\.
Показать, что
(c[/
JC2|
[k/2] rn-[k/2] 0-2Я-1 Li о о о„.
2[fc/21 U2«-2f^/21 Z ' Я—1, Z, O, ..., -£/*,
2«
P{^(2Az)=fe}=r2^2J 9^-W2]
r * ^w -г-2", k=o.

§11. МАРТИНГАЛЫ. ПРИМЕНЕНИЯ К СЛУЧАЙНОМУ БЛУЖДАНИЮ 57
§ 11. Мартингалы. Некоторые применения
к случайному блужданию
1. Пусть @о=4@\=4---=4@п — последовательность разбиений, f^o = Ф};
щ — ^-измеримая величина, 1 < k < п. Доказать, что последовательность
£ = (&, @k)\^k^n с
k
U = X)[4/-E(4/l^/-i)]
/=i
является мартингалом.
Указание. Непосредственно проверяется, что Е(£^+1 -£&|^) = 0.
2. Пусть величины г}\,..., щ таковы, что Ег}\ =0 и Е(щ \г}\,..., Щ-\) =
= 0, 1 < й< п. Доказать, что последовательность £ = (&)к)Кл c £i =V\ и
/=i
где fi(r}\, ..., г//) —некоторые функции, образует мартингал.
3. Показать, что всякий мартингал £ = (&, @k)\^k^n имеет
некоррелированные приращения: если a<b<c <d, то
cov(&-&, &-&)=0.
(Подчеркнем еще раз, что в рамках настоящей главы все рассматриваемые
случайные величины принимают лишь конечное число значений.)
4. Пусть £ = (£i, ..., £л) — некоторая случайная последовательность,
у которой величины & ^-измеримы (@\=4 @2=4...=4@п). Доказать, что
для того, чтобы эта последовательность была мартингалом (относительно
системы разбиений (^)), необходимо и достаточно, чтобы для любого
момента остановки г (относительно (5^)) E£r = E£i. (Выражение «для
любого момента остановки» можно заменить на выражение «для любого
момента остановки, принимающего два значения».)
Указание. Пусть E£r = E£i для любого момента остановки т,
принимающего два значения. Зафиксируем й е {1,..., я — 1}, Лб^и
рассмотрим момент
т(и}) = 1^ если & (w) g Д
\k+l, если ik(uj)eA.
Показав, что Е£г = Е^а + ЕЫа, заключить, что E£k+\lA = Е£&/л.
5. Показать, что если £ = (&, @k)\^k^n — мартингал и г — момент
остановки, то для любого k < п
E[£nI{T=k}] =Е[&/{г=л}].

58
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
6. Пусть £ = (&, 0*)1^„ и г} = (г}Ь 3>k)\^k^n - Два мартингала с
£1 =»7i =0. Доказать, что
п
E£nVn = ^2 E(£k-£k-\)(Vk-Vk-\)
k=2
и, в частности,
E^2=X)E(ek-6k-i)2.
7. Пусть ??1, ...,г}п — последовательность независимых одинаково
распределенных случайных величин, Erji = 0. Показать, что
последовательности £ = (&W^ c
с IV *Л ь Р^2 ы с exp{A(7?i+...+77fe)}
€fe = ^ У ^= (Еехр^,})^
являются мартингалами.
8. Пусть г}\,...,г}п — последовательность независимых одинаково
распределенных случайных величин, принимающих значения в
(конечном) множестве Y. Пусть f0(y) = P{rj\ =y}>0, yeY и fx(у) —
неотрицательная функция с X) /i (у) = 1 • Показать, что последовательность
образует мартингал. (Величины £&, называемые отношениями
правдоподобия, играют исключительно важную роль в математической статистике.)
9. Будем говорить, что последовательность £ = (&, @k)o^k^n является
супермартингалом (субмартингалом), если Р-п. н.
Показать, что всякий супермартингал (субмартингал) может быть
представлен (и притом единственным образом) в виде
ik = mk-ak (+а*),
где т = (mk, @k)o^k^n — мартингал, а а = (а&, @k)o^k^n — такая
неубывающая последовательность, что ао = 0 и величины а& являются
^^-измеримыми для всякого й > 1.
10. Пусть £ = (&, ЭДо^л^л и »/ = (%, ЭДо^Кл - супермартингалы и
г —некоторый момент остановки относительно разбиений (^)о^л^л,
причем Р{£т^??т}=1. Показать, что «переключаемая» последовательность

§ 12. МАРКОВСКИЕ ЦЕПИ. ЭРГОДИЧЕСКАЯ ТЕОРЕМА 59
Ск = Ы(т>к)+щ1(т^к)
или с
Ck = £kI(T>k)+flkI(T<k)
также является супермартингалом.
11. Пусть £ = (&, ЭДо^л - субмартингал с
где Лт G f^m. Привести для этого субмартингала разложение Дуба.
12. Пусть £ = (£*, @k)\^k^n- Доказать следующее максимальное
неравенство:
Е max £+ < -р^- [1 + Е«+ 1п+ #)],
где 1п+ х = max(ln х, 0).
§ 12. Марковские цепи. Эргодическая теорема.
Строго марковское свойство
1. Пусть £ = (£о» £i, ..., £л) — марковская цепь со значениями в X
и / = /(*) (jc Е X) — некоторая функция. Будет ли последовательность
(/(£о)> /(£i)> •••> /(£л)) образовывать марковскую цепь? Будет ли
марковской цепью «обратная» последовательность (£„, £„_b ..., £0)?
2. Пусть Р= ||р//||, 1 < /, / < г, — стохастическая матрица и А —
собственное число этой матрицы, т. е. корень характеристического уравнения
det||P —А£|| = 0. Показать, что Ai = l является собственным числом, а
все остальные корни А2, ..., Аг по модулю не больше 1. При этом, если
существует такое я, что Р" >0 (в том смысле, что все p\f >0), то |А/| < 1,
/ = 2, ..., г. Показать также, что если все собственные числа Ai, ..., Хг
различны, то переходные вероятности р№ допускают представление
р^ = ж1+аи(2)Хк2 + ... + аи(г)Хк,
где 7г7, а/Д2), ..., aij(r) выражаются через элементы матрицы Р. (Из этого
алгебраического подхода к анализу асимптотических свойств марковских
цепей, в частности, вытекает, что при |А2| < 1, ..., |АГ| < 1 для каждого /
существует предел lim р\^\ не зависящий от /.)

60
ГЛ. I. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ ВЕРОЯТНОСТЕЙ
3. Пусть £ = (£о, £ь • • •» £п) — однородная марковская цепь с (конечным)
множеством состояний X и матрицей переходных вероятностей Р= ||р^||.
Обозначим
ВД = ЕИС) |£о = х] (=£ <Р(У)Р*у)
— оператор перехода за один шаг. Пусть неотрицательная функция
ср = ср(х) удовлетворяет уравнению
T<f(x)=cp(x), хеХ,
т. е. является «гармонической». Доказать, что последовательность
случайных величин
образует мартингал (^| = ^$,,...,&).
4. Пусть £ = (£„, Д Р) и £ = (£„, П, Р) — две марковские цепи с
различными начальными распределениями П=(рь • •, Рг) иП=(/?1, ..., рг).
Пусть 12И=(р[л\ ..., pj'0), ftW =(pjw) Ргя))- Показать, что если
min p/7-> £>0, то
J2\pln)-pjn)\<2(l-rsr.
i = \
Указание. Требуемое неравенство доказывается индукцией по п.
5. Пусть Р и Q — стохастические матрицы. Показать, что PQ и
аР + (\— a)Q с 0<а<1 также являются стохастическими матрицами.
6. Рассматривается однородная марковская цепь (£о, £i,..., £л) со
значениями в X = {0, 1} и матрицей переходных вероятностей
\ —а а
0 1-/?;
где0<а<1,0</?<1. Положим Sn = £о +... + £л. В обобщение теоремы
Муавра—Лапласа (§ 6) показать, что
а
Р} * + /* ^
пар(2-а-/3)
3
►Ф(х), я—>оо.
Убедиться в том, что в случае а + /? = 1 величины £о, ..., £л независимы и
сформулированное утверждение сводится к тому, что
' Sn—an
рШг<хЬад' я^°°-

§ 12. МАРКОВСКИЕ ЦЕПИ. ЭРГОДИЧЕСКАЯ ТЕОРЕМА 61
7. Пусть £о, £i, • • •, £/v — бернуллиевская последовательность
независимых случайных величин с Р{£* = 1} = Р{& = —1}= 1/2. Определим величины
qo, »?i, .-, W, положив г/о = 6ь ??/г = -^ ' 1 <>K/V.
(a) Будет ли эта последовательность г/о, *7ь ..., ry/v марковской?
(b) Будет ли марковской последовательность Со, 0, •••, Cv c Со = £о,
8. Пусть Х\, ..., Хп — независимые одинаково распределенные
случайные величины. Свяжем с этими величинами ранговые (порядковые)
статистики Х[п\ ..., Хп, получаемые при расположении величин Х\, ...
...,Хп в вариационный ряд в порядке их неубывания. (Так что Х[п'=
= min^i, ..., Хп), ..., Х}р = max^i, ..., Хп). Условимся считать, что если
Х-1х = ... =Xik=m\n(X\, ..., Xk) и i\ <...<ik, то в качестве Х\п' берется
величина Х^. Аналогичные соглашения принимаются и в других случаях.
См. также задачу 19 в § 8 главы И.)
Хотя величины Х\, ..., Хп были независимыми, порядковые статистики
Х[п\ ..., Хп будут уже зависимыми.
Показать, что в том случае, когда величины Х( принимают всего лишь
два значения, порядковые статистики образуют марковскую цепь.
Привести пример, показывающий, что в случае величин Xi с тремя значениями
марковость может и не иметь места. (Заметим, что если распределение
величин Xi непрерывно, см. § 3 гл. И, то вариационный ряд всегда образует
марковскую цепь.)

Глава II
МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ
ВЕРОЯТНОСТЕЙ
§ 1. Вероятностная модель эксперимента
с бесконечным числом исходов.
Аксиоматика Колмогорова
1. Пусть Q = {r: г е [0, 1]} —множество рациональных точек на [0, 1],
я/ — алгебра множеств, каждое из которых является конечной
суммой непересекающихся множеств А вида {r:a<r<b}, {r:a^ir<b},
{r:a<r^b}, {r.a^r^b}, и P(A) = b-a. Показать, что Р(Л), А е ^,
является конечно-аддитивной, но не счетно-аддитивной функцией
множеств.
2. Пусть Q — некоторое счетное множество и ^ — совокупность всех
его подмножеств. Положим /и(Л) = 0, если А конечно, и р(А) = оо, если
А бесконечно. Показать, что функция множеств р конечно-аддитивна, но
не счетно-аддитивна.
3. Пусть ^ — счетно-аддитивная мера на (Q, &). Показать, что
(a) если Ап | Л, то ц(Ап) | ц(А)\
(b) если Ап IА и fJ,(Ak) < оо для некоторого £, то ц(Ап) [ ц(А)\
(c) если мера ц — конечная (ц(С1) < оо) и А = lim Ап> т. е. А = lim An =
= \\т АПу то ц(А) = lim ix(An).
(Продолжение см. в задаче 15.)
Указание. Воспользоваться тем, что
оо оо оо оо
\JmAn={Jf)Ak, ШАп = р) U Ak.
п=\ k=n п=\ k=n
4. Проверить следующие свойства симметрической разности:
(ААВ)АС=АА(ВАС),
(ААВ)А(ВАС)=ААС,
ААВ = С «■ А = ВАС.

§ 1. АКСИОМАТИКА КОЛМОГОРОВА
63
5. Показать, что «расстояния» р\(А, В) и Р2(А, В), определенные по
формулам
рх(А, В) = Р(ААВ),
[О, если Р(ЛиВ) = 0,
где ААВ — симметрическая разность множеств Л и В, удовлетворяют
неравенству треугольника.
Указание. Воспользоваться включением А А С С (А А В) U (В А С).
6. Пусть ц — конечно-аддитивная мера на алгебре ^, множества А\,
оо
^2,... € srf попарно не пересекаются и А = Y^ Ai^srf'. Показать, что р,(А) >
оо / = i
7. Доказать, что
lim sup An = lim inf An, lim inf Л„ = lim sup An,
lim inf An С lim sup Л„, lim sup^„ U B„) = lim sup An U lim sup B„,
lim \nf(An П B„) = lim inf An П lim inf Bn,
lim sup Л„ П lim inf B„ С lim s\vp(An П B„) С lim sup An П lim sup Bn.
Если Л„ | А или Ля | Л, то
lim inf An = lim sup An.
8. Пусть (xn) — числовая последовательность и Ап = (—оо, хп).
Показать, что x = lim sup xn и Л = lim sup Л„ связаны следующим образом:
(—оо, х) С Л С (—оо, х]. (Иначе говоря, Л равно или (—оо, х), или (—оо, х].)
9. Пусть Ль Л2, ... —последовательность подмножеств множества Q.
Показать, что
lim sup (An \ An+\) = lim sup (An+\ \ An) = (lim sup An) \ (lim inf An).
10. Привести пример, показывающий, что для мер, принимающих
значение +оо, из счетной аддитивности не вытекает, вообще говоря,
непрерывность в «нуле» 0.
11. Пусть Ль ..., Ап — некоторые события из &. Говорят, что эта
система событий является перестановочной (exchangeable или
interchangeable), если вероятности Р(Л/, (l.^dAi^ одни и те же (= pi) для
любого выбора индексов 1 </i <...<//< п и всех 1</<я. Доказать,
что для таких событий имеет место следующая формула (включения-

64 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
исключения; ср. с задачей 12 к § 1 главы I):
р(()АЛ=пр1-С*р2 + С*рз-... + (-1)я-хРп.
\i=\
12. Пусть (Ak)k^\ —бесконечная последовательность
перестановочных событий, т. е. для любого п^1 и любого набора индексов 1 < i\ < ...
...<// вероятности Р(Д-, П... ПЛ/,) имеют одно и то же значение (= р{).
Доказать, что
р(йтЛ„)=р(и АА = \-\ш{-\)1Ь1{р0),
где р0 = 1,^(Рп) = Рп+\- Рп, А1(рп) = А\А1-{(рп)), />2.
13. Пусть (Ап)п^\ — некоторая последовательность множеств, 1(A) —
индикатор множества А. Показать, что
(a) /(ит Ап) =Hm i(An), i(MAn) =Ш f(An),
\ n / n \ n J n
(b) Tim I(An)-Hm I(An) = 1(ШАп\ШАп),
n n \ n n J
(oo \ oo
n=\ ) n=l
14. Показать, что
11 \J An) = max I(An), I [C] An)=mm I(An).
15. (Продолжение задачи 3.) Пусть ^ — счетно-аддитивная мера на
(ft, &). Показать, что
(a) ц(]\т Ап)^Шц(Ап)\
(b) если к тому же мера ц — конечная Ou(ft) < оо), то
/Lt(lim Ап) > lim ii(An)\
(c) для вероятностных мер (^ = Р)
Pflim Л„) < Ит Р(Ап) < Ит Р(Л„) < Р(Пт Ап)
(«лемма Фату для множеств»).

§ 1. АКСИОМАТИКА КОЛМОГОРОВА
65
Вывести отсюда следующее обобщение свойств «непрерывности»
2) и 3) (из теоремы в п. 2) для вероятности Р: если А = \\тАп (т. е.
Tim An = Hrn Ап = А), то Р(Л) = lim P(An).
п
16. Пусть А*=Ш\ Ап и A+ = \jmAn. Показать, что Р(ЛЛ-Л*)->0,
Р(Л*-Л„)^0.
17. Пусть множества А„—► А (в том смысле, что А = А* = Л*; см. задачу
16). Показать, что Р(Л Л Ап) ->0.
18. Пусть множества Л„ сходятся к множеству Л в том смысле, что
Р(Л ЛЙт Ап) = Р(Л ЛИт Л„)=0. Показать, что тогда также Р(Л ЛАп) ->0.
19. Пусть Ло, Ль ... и Во» Si» • • • — подмножества множества Q.
Показать, что симметрическая разность удовлетворяет следующим свойствам:
ЛоДВо=ЛоЛВо,
A0A(\jBn\c\J (ЛоАВД
A0A(f]Bn\Df] (ЛоАВД
(\jAn\Af\J Bn\c\J (AnABn),
f)An\A(f)Bn\c{J (AnABn).
20. Пусть А, В, С — случайные события. Показать, что
|Р(ЛпВ)-Р(ЛпС)|<Р(ВДС).
21. Показать, что для любых событий Л, В и С вероятность того, что
произойдет в точности одно из этих событий, равна [Р(Л) + Р(В) + Р(С)] =
= 2[Р(ЛВ) + Р(ЛС) + Р(ВС)]+ЗР(ЛВС). (Ср. с задачей 13 в § 1 гл. I.)
22. Пусть (Ап)п^\ — некоторая последовательность событий из &
таких, что
^Р(Л„ЛЛ„+1)<оо.
Показать, что тогда п
Р{(ЙтЛ„)ЛЩтЛ„)} = 0.
23. Показать, что для любых событий Л и В
тах(Р(Л), Р(В))<Р(ЛиВ)<2 тах(Р(Л), Р(В))
и
Р(Л UВ) Р(Л ПВ) < Р(А) Р(В).
Когда здесь достигается равенство?

66 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
24. Пусть (Ап)п^\ и (Вп)п^\ —две последовательности событий,
причем Ап С Вп при каждом п > 1. Показать, что {Ап б. ч.} С {Вп б. ч.}.
25. Пусть снова (Ап)п^\ и (Вп)п^\ —две последовательности событий,
причем
Р{ЛЛ б.ч.} = 1, Р{Вп б.ч.} = 0.
Показать, что Р{Ап П В„ б. ч.} = 1.
26. Привести пример двух конечных мер ц\ и /хг (т. е. таких, что
ц\(£1) < оо, /хгф) < оо), для которых наименьшая мера v со свойствами
v^{i\ и */>^2 есть не max(^i, ^2) (как может показаться), a /uj + ^2-
27. Пусть на измеримом пространстве (ft, ^*) задана
последовательность вероятностных мер Pi, P2, ... такая, что для каждого Ае^
Р„(у4)-Р(у4),
где Р(А) — некоторая функция множеств А € &. Доказать следующий
результат (теорема Витали—Хана—Сакса):
(a) Р = Р(-) есть вероятностная мера на (ft, &)\
(b) sup Pn(Ak)lO, й—>оо, для всякой последовательности множеств
п
А\, ^2, ... из & таких, что Аь |0, &—>оо.
28. Сконструировать на (/?, ^(/?)) последовательность мер цп = цп(А),
А € 38(Щ, п > 1, для которой последовательность (/хл(>4))л^1 является
убывающей (для каждого А е 3§(R)) и такой, что предельная функция множеств
и(А) = \\т Цп{А), Ae&(R), не является счетно-аддитивной и, значит, не
п
является мерой.
29. Пусть (ft, &, Р) — вероятностное пространство, (Ап)п^\ —
последовательность событий. Пусть Р(Ап) > с > О, п > 1, и А = lim An. Показать,
что Р(А)^с.
30. (Задача Гюйгенса.) Два игрока А и В поочередно бросают пару
костей. Игрок А выигрывает, если он наберет 6 очков перед тем, как
игрок В наберет 7 очков. (В противном случае выигрывает игрок В.)
Спрашивается, какова вероятность Р& того, что выигрывает игрок А, если он
первым начинает игру.
Указание. Воспользуйтесь тем, что искомая вероятность Р& =
оо
= X) P(Ak), где Ak есть событие, состоящее в том, что игрок А выигрывает
k=0
на (k + 1)-м шаге. (Ответ в этой задаче такой: Ра =30/61.)
31. Пусть ft — множество, состоящее из не более чем счетного числа
элементов, и пусть ^ — некоторая сг-алгебра его подмножеств. Показать,
что всегда найдется разбиение $} = {D\, D2, ...} (|J Д =ft, Д nD7 = 0,

§ 2. АЛГЕБРЫ И (7-АЛГЕБРЫ
67
/ ф], и N = {1, 2, ...}), порождающее 3?\
\i€M J
(Ср. с соответствующим утверждением в случае конечного множества Q,
приведенным в п. 3 § 1 гл. I.)
Указание. Соответствующее разбиение & можно построить,
рассматривая на Q классы эквивалентности, образованные соотношением
эквивалентности «и>\ ~uj2y>, определяемым тем, что
и>\ ~oj2 Ф> (и>\ € A <=>u)2 £ А для каждого А е^).
§ 2. Алгебры и <г-алгебры. Измеримые пространства
1. Пусть SS\ и £8<i —две сг-алгебры подмножеств пространства Q. Будут
ли сг-алгебрами системы множеств
д&\ П 8&2 = {А: АеЗВ\ и А е 8&<i),
3§\\j3§2 = {A\ Ae&\ или А е SBfil
Пусть 3&\ V 3§2 есть наименьшая сг-алгебра a(S&\, ^2), порожденная
множествами из сг-алгебр 3&\ и ^2- Показать, что 3&\\l3§2 совпадает
с наименьшей сг-алгеброй, порожденной множествами вида В\Г\В2, где
В\ Sl8&\ и В2е&2.
Указание. Убедитесь, что 3&\ Г\3§2 есть сг-алгебра, и дайте пример,
показывающий, что 3&\ U&2 не является сг-алгеброй. (Можно
сконструировать пример с множеством ft, состоящим всего лишь из 3 точек.)
2. Пусть & = {D\, D2, •..} — некоторое счетное разбиение Пи £8 = &($)).
Какова мощность сг-алгебры 3&?
Указание. Сигма-алгебра сг(^) заведомо содержит континуум
различных элементов, в чем можно убедиться, поставив в соответствие
каждой последовательности х = (х\, Х2, ...)> состоящей из 0 и 1, множество
Dx = Df' U Dx22 U ..., где D? = 0, если хь = О, и D? = Д, если хь = 1.
3. Показать, что
&(Rn)®a(R)=a(Rn+l).
4. Доказать, что множества (b)—(f) (см. п. 4) принадлежат 3§(R°°).
Указание. Для доказательства, например, свойства (Ь) надо
заметить, что
оо оо оо
|х: lim x„<aj= f] (J f] jx: хп<а + ^|.
k=\ m=\ п=т

68 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(Другими словами: limx„<a <=> VkeN 3meN: Mn^m, xn<a + \/k)
Аналогичным образом доказываются и свойства (с)—(f).
5. Доказать, что множества A<i и Лз (см. п. 5) не принадлежат
Указание. Как и в случае множества А\, для множеств A<i и Лз
доказательство проводится от противного.
6. Доказать, что функция (18) действительно задает метрику.
7. Доказать, что &0(Rn)=&(Rn), л> 1, и @q(R00)=@(R00).
8. Пусть С = С[0, оо) — пространство непрерывных функций x = (xt),
определенных для / > 0. Показать, что относительно метрики
оо
р(х, у) =У2 2~п тт\ sup \xt-ytl l], х,уеС,
это пространство является (как и в случае пространства С = С[0, 1])
польским, т. е. полным сепарабельным метрическим пространством,
и сг-алгебра &$(C), порожденная открытыми множествами, совпадает с
сг-алгеброй ^(С), порожденной цилиндрическими множествами.
9. Доказать равносильность групп условий {(Аа), (А/,), (\с)} и {(Аа),
(\'ь), (\'с)} (см. с. 175 книги «Вероятность— 1»).
10. Вывести теорему 2 из теоремы 1.
11. Доказать, что в теореме 3 система «if является А-системой.
12. Говорят, что сг-алгебра является счетно-порожденной или сепа-
рабельной, если она порождается некоторым счетным классом
подмножеств.
(a) Показать, что сг-алгебра SS борелевских подмножеств И=(0, 1]
является счетно-порожденной.
(b) Показать на примере, что возможна ситуация, когда две сг-алге-
бры 3?\ и ^2 таковы, что 3?\ с ^2, ^2 — счетно порождена, но 3?\ такой
не является.
13. Показать, что для того, чтобы сг-алгебра У была
счетно-порожденной, необходимо и достаточно, чтобы & = а(Х) для некоторой случайной
величины X (определение а(Х) см. в п. 4 § 4).
14. Показать, что (Х\, Х2, ...) будет независимой системой случайных
величин (§§ 4, 5), если сг^) и <г(Х\, ..., Хп_\) независимы при каждом
я> 1.
15. Пусть (ft, ^*, Р) — полное (см. п. 1 в § 3 и задачу 34)
вероятностное пространство, У — сг-подалгебра & (^С^*) и (&п)п^\ — невозраста-
ющая последовательность сг-подалгебр & (<?i 2<^2 2 •••, &пЯ.&, п> 1).
Будем предполагать, что все сг-подалгебры пополнены множествами из &
нулевой Р-меры. На первый взгляд представляется весьма естественным,

§ 2. АЛГЕБРЫ И (7-АЛГЕБРЫ
69
что должно выполняться (по крайней мере с точностью до множеств меры
нуль) следующее соотношение:
f\*(#, &)=*(#, f)#n), (*)
п п
или, в других обозначениях,
f|(^v^)=sfvf|^. (**)
п п
Здесь У \J ёп = а{^, £п) — наименьшая сг-алгебра, порожденная
множествами из У и £п\ равенство (с точностью до множеств меры нуль)
произвольных пополненных сг-подалгебр Ж\ и Ж<1, принадлежащих &,
понимается в том смысле, что для каждого А е Ж\ найдется В е J#> (и наоборот,
для каждого В еJ#? найдется множество АеЖ\) такое, что Р(Л Л В) = 0.
Однако следующий пример из [22] показывает, что это не так, т. е.
операции взятия супремума (V) и пересечения (П) сг-алгебр, вообще говоря,
неперестановочны.
(a) Пусть £о, £ь &, ... — независимые бернуллиевские величины с
Р{6 = 1} = Р{6 = -1}=1/2.Положим^л=^,...61и
Показать, что здесь
п п
Указание. Убедитесь в том, что величина £о измерима относительно
f] а(&, £п) (=а(&, £0)) и в то же самое время не зависит от событий из
п
(Продолжение см. в задаче 25 к § 4 главы VII.)
(b) Тот факт, что для сг-алгебр операции V и П неперестановочны,
следует из (более простого, нежели приведенное в (а)) утверждения (см.
[131]), которое предлагается доказать: если £i и & —случайные
величины из (а) (т. е. независимые симметричные бернуллиевские величины) и
(^v^)n(^v4)^^v(^n4) и (^n^)v^n4)^n((?,v^).
16. Пусть s4\ и ^ — две независимые системы множеств, каждая из
которых является 7г-системой. Показать, что тогда <т(&/\) и a{s^) также
независимы. Привести пример двух независимых систем si\ и ^, не
являющихся 7г-системами, для которых <т(£/\) и сг(^) уже могут быть
зависимыми.

70 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
17. Пусть «if есть А-система. Показать, что (Л, В G «if, А П В = 0) =>
^(^UBG^f).
18. Пусть ^*i и ^2 —две сг-алгебры подмножеств в Q. Положим
W, ^2) = 4 sup |P(^2)-PH,)PH2)|.
Показать, что эта величина, характеризующая степень зависимости между
3?\ и «^2, имеет следующие свойства:
(b) d(^"i, ^2) = 0, если и только если &\ и ^2 независимы;
(c) rf(^*i, ^2) = 1, если и только если пересечение &\ и &% содержит
множество, вероятность которого равна 1/2.
19. Применяя метод доказательства леммы 1, доказать существование
и единственность классов А(<?) и 7г(<?), содержащих систему множеств <?.
20. Пусть si есть некоторая алгебра множеств, обладающая тем
свойством, что любая последовательность (Ап)п^\ непересекающихся
оо
множеств Ап G si такова, что IJ An G si. Доказать, что тогда si является
сг-алгеброй. n=l
21. Пусть {&п)п£\ есть возрастающая последовательность сг-алгебр:
оо
&п Я: <^п+\, я > 1. Показать, что IJ &п есть (вообще говоря, только лишь)
алгебра. п={
22. Пусть & есть алгебра (или сг-алгебра) и некоторое множество
С не принадлежит &. Рассмотрим наименьшую алгебру (соответственно
сг-алгебру), поровденную множествами из & и множеством С. Показать,
что все элементы этой алгебры (соответственно сг-алгебры) состоят из
множеств вида (А П С) U (В П С), где Л, В G &.
23. Пусть R = RU{—oo}U{oo} — расширенная числовая прямая. Бо-
релевская сг-алгебра &(R) может быть определена (ср. с
определением в п. 2) как сг-алгебра, порожденная множеством [—оо, х], xG/?, где
[—оо, х] ={—оо}и(—оо, х]. Показать, что эта сг-алгебра &(R) совпадает
также с любой из сг-алгебр, порожденных множествами
(a) [—оо, х), х G /?, или
(b) (х, оо], х G R (где (х, оо] = (х, оо) U {оо}), или
(c) всеми конечными интервалами, {—оо} и {оо}.
24. Рассмотрим измеримое пространство (С, 38§(С)), где С = С[0, 1] —
множество непрерывных функций х = (х/) с / G [О, 1 ] и ^о(С) — система бо-
релевских множеств, порожденная открытыми множествами относительно
метрики р(х, у) = sup \xt — tjt\-
(a) Показать, что пространство С является полным.
(b) Показать, что пространство С является сепарабельным.

§ 2. АЛГЕБРЫ И СГ-АЛГЕБРЫ
71
Указание. Для доказательства полезно привлечь к рассмотрению
полиномы Бернштейна; см. § 5 гл. I.
(с) Доказать, что подпространство Cd,f[0, 1] с С[0, 1]
дифференцируемых функций не является борелевским множеством в С[0, 1].
25. Пусть я/о — некоторая (непустая) система подмножеств ft.
Показать, что алгебру а(я/о)у порожденную этой системой, можно построить
следующим образом.
Положим я/\ = я/о U {0, ft} и для п > 1
4+1={>4иВ: Ау Вея/п}.
Тогда я/оС.я/\ С...С.я/пС ... и
оо
"И))=и я/п.
п=\
26. Если я/о есть некоторая (непустая) система подмножеств ft, то в
задаче 25 была указана конструкция, приводящая к построению
(наименьшей) алгебры а(я/о)> порождаемой системой я/о.
Определим по аналогии с указанной конструкцией следующие системы:
( °°
я/х =я/ои{0, ft}, я/2 = я/х и< (J в„: Si, в2, ...e^i
U=i
4=^2U{S: Bg^}, M=^U< [J B„: flb B2, ...ея/3
[n=\
4 = 4U{fl: SG^}, я/6 = я/ъи< Q B„: Sb B2, ...€■«£
U=i
oo
Можно было бы рассчитывать на то, что система я/^ = [J я/п приводит
п=\
к наименьшей сг-алгебре <т{я/о), порожденной системой я/о. Однако это
не так: всегда я/ж Я &(М)), при этом, вообще говоря, я/00фа(я/о)У т. е.
описанная процедура может не дать сг-алгебру <т(А0). Привести пример,
показывающий, что а(я/о) может быть (строго) больше, нежели я/^.
Указание. Рассмотреть в качестве я/о систему всех интервалов на
числовой прямой R.
Отметим также, что применение описанной выше конструкции, начиная
с я/^ вместо я/о, также не приводит, вообще говоря, к а(я/о). Чтобы
все же получить <т(я/о)у приходится прибегать к трансфинитной индукции
(Hi «раз»); по поводу канторовых кардинальных чисел (мощностей) Ка,

72 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
мощности континуума с и континуум-гипотезы (с = «Л{) см. [79, т. 1, с. 235
и т. 2, с. 1068].
27. Конструкция и заключение предыдущей задачи показывают, что
структура сг-алгебр может быть весьма сложной. В 1916 году М. Я. Суслин
построил контрпример к одному утверждению А. Лебега, считавшего, что
проекция всякого борелевского множества В в R2 на одну из
координатных осей является также борелевским множеством в Rx.
Попытайтесь сконструировать соответствующий контрпример.
Указание. М. Суслин указал некоторую конкретную
последовательность открытых множеств А\, А<±, ... на плоскости таких, что проекция
их пересечения f] An на одну из координатных осей не есть борелевское
множество.
28. (Лемма Шпернера) Пусть А ={1, ..., п) — множество, состоящее
из п элементов, и {А\у ..., А#} — семейство подмножеств в А таких, что ни
одно из них не есть подмножество никакого из других. Доказать, что число
К таких подмножеств удовлетворяет неравенству: К < Сп .
29. Пусть £ — некоторая система множеств из П и & = &(£) —
наименьшая сг-алгебра, порожденная системой £. Пусть множество А е &.
Пользуясь принципом подходящих множеств, установить, что в системе
£ можно выделить счетную совокупность (обозначим ее Щ подмножеств
такую, что А е а&).
30. В метрических пространствах (£, <?, р) (с метрикой р) сг-алгебра £
борелевских подмножеств определяется как система, порожденная
открытыми множествами (см. п. 3 в § 1 главы III). Показать, что для
некоторых метрических пространств система <§о> порожденная
открытыми «шарами», может быть строго меньше £ (£оС£).
31. Показать, что не существует сг-алгебры с мощностью алеф-нуль
Но (= мощность множества натуральных чисел), состоящей из счетного
числа элементов. Тем самым, структура сг-алгебр такова, что они всегда
состоят либо из конечного числа элементов (см. задачу 10 из § 1
главы I), либо заведомо имеют несчетную мощность. Согласно следующей
задаче, борелевские множества в Rn имеют мощность континуума с = 2Н°
(т. е. мощность множества всех подмножеств натуральных чисел).
32. Пусть с = 2н° — мощность континуума. Показать, что мощность
борелевских множеств в Rn равна с, а сг-алгебры лебеговских —2е.
33. Пусть В — борелевское множество на числовой прямой с лебегов-
ской мерой А. Назовем плотностью множества В предел
п/оч г ЦВп[-Ту 7]} / ч
D(B) = \m^ -*—^ iJ- (*)
(в предположении, что этот предел существует).

§ 3. ЗАДАНИЕ ВЕРОЯТНОСТНЫХ МЕР
73
(a) Дать пример множества В, для которого плотность D(B) не
определена (т. е. предел в (*) не существует).
(b) Показать, что если борелевские множества Si и В2 не
пересекаются, то
D(B,+B2) = D(B,) + D(B2).
(c) Дать пример непересекающихся борелевских множеств В\, В2, •••,
имеющих плотности и таких, что (вопреки ожидаемому)
(ос \ ос
5>U][>(B,).
i=\ / /=1
34. (Пополнение а-алгебр) Пусть (ft, ^", P) — вероятностное
пространство. Говорят, что это пространство является полным (или Р-полным,
или полным относительно меры Р), если из того, что Bg^" и Р(В) = 0,
вытекает, что всякое множество А С. В принадлежит &.
Обозначим через J/ совокупность всех подмножеств N eft,
обладающих тем свойством, что для каждого из них найдется (свое) множество
BN е & с P(BN) = 0 такое, что N с BN. Пусть # (часто пишут также ^р
или #р) есть совокупность всех множеств вида A uNy где А е & и N е JZ.
Показать, что
(a) & является сг-алгеброй;
(b) если SCfi и существуют множества А\ и Л2 из & такие, что
А{сВСА2и Р(А2\А{)=0уто Ве^; _
(c) вероятностное пространство (ft, J^\ P) является полным.
§ 3. Способы задания вероятностных мер на
измеримых пространствах
1. Пусть F(x) = P(—оо, х]. Показать справедливость следующих
формул:
Р(а, b] = F(b) - F(a), Р(а, b) = F(b-) - F(a\
Р [а, b] = F(b) - F(a-), P [а, b) = F{b-)- F(a-),
P({x)) = F(x)-F(x-),
где F(x-) = lim F(y).
2. Убедиться в справедливости формулы (7).
3. Провести доказательство теоремы 2.
4. Показать, что функция распределения F = F(x) на R имеет не более
чем счетное число точек разрыва. Что можно сказать о соответствующем
результате для функций распределения в Rn?

74 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Указание. Воспользуйтесь тем фактом, что {х е R: F(x) ф F(x—)} =
= U < х\ F(x) - F(x-) > - >. Для функций распределения в Rn результат
п=\ 1 п)
о не более чем счетной мощности множества точек разрыва уже не верен.
В качестве примера рассмотрите дельта-меру
..„. |1, еслиОеЛ, л ~/пп.
у0, если 0 ^Л,
5. Показать, что каждая из функций
-•-{J
1Л х + у<0у
G(x, у) = [х + у] — целая часть х + у,
является непрерывной справа, возрастающей по каждой переменной, но
не является (обобщенной) функцией распределения в R2.
6. Пусть \i — мера Лебега—Стилтьеса, отвечающая некоторой
непрерывной обобщенной функции распределения. Показать, что если
множество А не более чем счетно, то рь(А) = 0.
7. Показать, что канторово множество J/ на [0, 1] является
несчетным, совершенным (т. е. замкнутым и одновременно плотным в себе —
иначе говоря, не имеющим изолированных точек), нигде не плотным
множеством в [0, 1] с нулевой мерой Лебега.
8. Пусть (ft, J^", P) — некоторое вероятностное пространство и«с/-
алгебра подмножеств О, такая, что o(srf) = &'. Используя принцип
подходящих множеств, доказать, что для всякого £ > 0 и любого множества
В е & можно найти такое множество А£ е srf, что
Р(ЛеДВ)<е.
Указание. Рассмотрите совокупность множеств S8 = {В е &: Ve > 0
ЗА е srf\ Р(А ДВ)<е} и покажите, что SS является сг-алгеброй, а значит,
9. Пусть Р — вероятностная мера на (Rny S8(Rn)). Доказать, что для
всякого е>0 и Be&(Rn) можно найти компактное множество А\ и
открытое множество A<i такие, что А\СВС.А2 и P(i42\i4i)<e. (Этот
результат используется в доказательстве теоремы 3.)
Указание. Рассмотрите совокупность множеств
' В е S8(Rn): V£ > 0 существуют компакт Л i и открытое"|
множество А2 такие, что замыкание Д2 компактно, >
Ах СВСЛ2 и Р(Л, \4i)<£ J
и покажите, что SS есть о -алгебра.
с

§ 3. ЗАДАНИЕ ВЕРОЯТНОСТНЫХ МЕР
75
10. Проверить согласованность семейства мер {Рт}, построенных по
формуле РТ(В) = Р(УТ(В)) (теорема 4, формула (21)), где Р —данная
вероятностная мера.
11. Проверить, что приведенные в табл. 2 и 3 «распределения»
действительно являются распределениями вероятностей.
12. Показать, что система srf из замечания 2 в п. 1 является сг-алге-
брой.
13. Показать, что функция множеств \i{A), Лея/, введенная в
замечании 2 п. 1, является мерой.
14. Привести пример, показывающий, что если мера ^о является на
алгебре srf конечно-аддитивной (но не счетно-аддитивной), то ее нельзя
продолжить до счетно-аддитивной меры на o{sf).
15. Показать, что всякая конечно-аддитивная вероятностная мера,
заданная на алгебре srf подмножеств ft, может быть продолжена до конечно-
аддитивной вероятности на всех подмножествах из ft.
16. Пусть Р — вероятностная мера на сг-алгебре & подмножеств
ft. Пусть множество С С ft, но С ^ &. Показать, что меру Р можно
продолжить (с сохранением свойства счетной аддитивности) на сг-алгебру
о{&', С), порожденную множествами из & и множеством С.
17. Показать, что носитель supp F непрерывной функции
распределения F есть совершенное множество (см. определение в задаче 7).
Замечание. Напомним, что supp F функции распределения F на R
определяется как то наименьшее замкнутое множество G, для которого
fj,(R\G)=0y где \i — мера, отвечающая функции распределения F\ см.
также § 2 приложения.
Привести пример дискретной функции распределения /\ носитель
которой supp F = /?, т. е. совпадает со всей числовой прямой R.
18. Доказать следующий фундаментальный результат (см. конец п. 1)
о структуре функций распределения: каждая такая функция F = F(x)
представляется в виде
F = ах Fd + a2Fabc + «з^с,
где а/ > 0, а\ + а2 + а3 = 1,
Fd — дискретная функция распределения (со скачками величины
Pk > 0 в некоторых точках Xk)'.
Fd = ^2 Pk',
Fabc — абсолютно непрерывная функция распределения:
Fabc= J №dt,
—со

76 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
где (плотность) / = /(/) — неотрицательная борелевская функция, интегри-
оо
руемая по Лебегу с § /(/) dt = 1;
—оо
Fsc — сингулярная функция распределения, т. е. непрерывная функция
распределения, множество точек роста которой имеет нулевую лебегов-
скую меру.
Что можно сказать о единственности приведенного представления
функции распределения F = F(x)?
19. (а) Показать, что каждое число ие [0, 1] допускает представление
(в троичной системе) вида
оо
/2=1
cw„e{0, 1,2},п>1.
(b) Показать, что если для и есть два представления, и = Y, -£ и
/2=1 6
ОО у' / ОО ОО \
u)=Y^ -фу с необрывающимися рядами I ^ |о;я|=оо, Y |о^|=оо),то
/2=1 6 4/2=1 /2 = 1 /
ojn=aj'n, я> 1 («единственность необрывающихся представлений»).
Заметим, что неединственность возможна, когда имеется обрывающе-
еся представление и = Y, ^ -В этом случае «каноническое» представле-
/2 = 1 6
ние выбирают следующим образом:
т~ ^ ш 2
1) если и>= Y отг + зд-, то полагают
/2 = 1 6 6
2) если же cj = Y "оТГ + "о^"> то полагают
/2=1 6 6
{шПу л<т-1,
О, п = т,
2, я>т+1.
(с) Показать, что каждое и из множества J/ точек роста канторовой
функции на [0, 1] (являющейся «классическим» примером сингулярной
функции распределения; ее конструкция описана на с. 197—198 книги

§ 3. ЗАДАНИЕ ВЕРОЯТНОСТНЫХ МЕР
77
«Вероятность— 1») представимо в виде
оо
/2=1
сыяе{0,2},/!>1.
Замечание. Интересно отметить, что если рассматривать десятичные
разложения точек ш из канторова множества J/, то имеется (см. [118])
всего лишь 14 чисел с обрывающимися представлениями. Эти числа суть
J_3J_J_^__9_J_J__9_]32731_3739
4' 4' 10' 10' 10' 10' 40' 40' 40' 40' 40' 40' 40' 40'
20. Пусть J/ — канторово множество на [0, 1].
(a) Показать, что мощность множества J/ совпадает с мощностью
множества [0, 1].
(b) Чему равны множества «Жф^К и «Жб^К (т. е. множества {и +о/:
21. Пусть С — некоторое замкнутое множество на R. Построить
функцию распределения F, для которой носитель supp F = С.
22. Дать пример сг-конечной меры \i на (/?, 88(Щ), которая
(a) не является мерой Лебега—Стилтьеса — иными словами, для
которой не существует неубывающей непрерывной справа функции G = G(x)
(обобщенной функции распределения) такой, что ^((а, b]) = G(b)— G(a)y
a<b\
(b) не является локально конечной — иными словами, которая
является такой, что для любой точки х е R мера любой ее открытой окрестности
равна бесконечности.
23. Постройте пример множества из [0, 1], не принадлежащего системе
лебеговских множеств «#([0, 1]); см. п. 1 § 3.
24. (Вероятностное доказательство формулы Эйлера для дзе-
ОО |
пш-фу^ии #w«.) Пусть «»)=£ - -«та-функци» Р„„а„а
(1 < а< оо). Формула Эйлера утверждает, что <£(а) допускает следующее
представление:
оо
киг^ПО-^г).
П=\
где pi, Р2у ... — последовательность простых чисел, больших единицы.
Дать доказательство этого результата.
Указание. Пусть N = {1, 2, ...} — множество натуральных чисел
с борелевской сг-алгеброй 2N его подмножеств (ср. с обозначениями для

78 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
N(gf) в конце п. 3 § 1 гл. I книги «Вероятность— 1»). Определите на
(Ny 2N) вероятностную меру Р = Р() для подмножеств ACNy полагая
P(A) = K(a)]-lJ2n~a-
пел
Пусть A(pi) = {pi,2pi, ...} —множество тех neN, для которых рь
делит п.
Покажите, что
(a)P(A(Pi)) = p-a\
(b) события А(р\)у А(р2)У ... независимы;
оо _
(c) П A(Pi) = {i)-
Далее надо убедиться в том, что поскольку, в силу (Ь), события А(р\)у
А(р2)у ... также независимы, то из (с) и (а) следует, что, с одной стороны,
р(П^(л))=Р({1}) = [С(а)Г
и, с другой стороны,
/ оо \ оо оо
что и будет доказывать требуемую формулу.
25. (Вероятностное доказательство формулы Эйлера для числа
простых чисел, не превосходящих заданного числа.) Пусть ср(п) есть
функция Эйлера — число простых чисел р таких, что 1 < р < п. Используя
вероятностные соображения, доказать следующую формулу Эйлера:
^=пИ)
р\п
(запись р \пу как обычно, означает, что р делит п).
Указание. На множестве {1, ..., п} определите дискретное
вероятностное распределение P({k}) = 1/я, 1 < k < п.
Для фиксированного п положим A(p) = {k^n\ p делит &}, и пусть
Р\у Р2у ••• —различные простые делители числа п. Покажите, что
(а)Р(А(Р1)) = рГи,
(b) события А(р\)у А(р2)у ... независимы;
(c) П А(р) есть множество {k < n: k — простое число}.
р\п

§ 3. ЗАДАНИЕ ВЕРОЯТНОСТНЫХ МЕР
79
После этого убедитесь в том, что
^=р(П^))=П[1-р(^))]=П0-7)-
\р\п J p\n р\п
26. Показать, что мера Лебега на (Rny 88(Rn)) является инвариантной
относительно сдвига при « = 1 и вращения при п > 2.
27. Привести примеры, показывающие, что предположение о том, что
участвующая в теореме Каратеодори система множеств я/ есть алгебра,
является существенным как для самого факта возможности продолжения
вероятностной меры Р, заданной на системе srf, до меры на сг-алгебре
<^ = а(£/)у так и для единственности продолжения. Именно, требуется
(a) построить пространство Q, и такие системы его подмножеств £ и
^\ что £ — не алгебра, но а(£) = ^у а также вероятностную меру Р на £у
которую нельзя продолжить до вероятностной меры на сг-алгебре &\
(b) построить пространство П и системы его подмножеств £ и & со
свойством ^ = &(£), а также две разные вероятностные меры Р и Q на
сг-алгебре & такие, что их ограничения на £ (т. е. меры Р\£ и Q\£\ см.
п. 4) совпадают.
Указание, (а) Рассмотрите случай £2 = {1, 2, 3}, £ = {0, {1}, {1, 2},
{1,3}, ft}, & — о-алгебра всех подмножеств Q, и P(ft) = P({l, 2}) =
= Р({1,3»=1,Р({1})=1/2,Р(0) = О.
(Ь) Достаточно положить П = {1, 2, 3, 4}, £ = {{1У 2}, {1, 3}}, ^-сг-ал-
гебра всех подмножеств Q и Р({2}) = Р({4}) = 1/2, Q({2}) = Q({3}) = 1/2.
28. Пусть F = F(x) — функция распределения, х е R. Показать, что для
всякого а > О
\ [F(x + а) - F(x)] dx = a.
R
29. При определении понятия плотности f(x), xeR, функции
распределения F(x) как неотрицательной функции, интегрируемой по Риману
х
и такой, что F(x)= \ f(f)dt, иногда (например тогда, когда известен
—оо
лишь интеграла Римана, но не интеграл Лебега) не предполагается, что
эта функция f(x) является измеримой по Борелю.
Привести пример не измеримой по Борелю функции /(*), являющейся
плотностью распределения вероятностей (в сформулированном смысле)
оо
и задающей (по формуле р(В)= \ 1(х)1в(х)йх) вероятностную меру на
—оо
борелевских множествах В числовой прямой R.
Указание. Множество борелевских подмножеств отрезка [0, 1 ]
имеет мощность континуума с, а мощность лебеговских подмножеств

80 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
равна 2е (см. задачу 32 в § 2). Отсюда вытекает, что если J/ — канторово
множество на [0, 1], то найдется подмножество DC [1/2, 1] ПсЖ, которое
не является борелевским и имеет лебеговскую меру нуль. Далее, надо
убедиться в том, что функция f(x) =2/[1/2ii]\dW» не будучи борелевской,
интегрируема по Риману, а интеграл \ f(x)lв(х) dx определен и задает
вероятностную меру на борелевских множествах В из [0, 1 ].
30. Привести пример двух множеств А и В иа действительной прямой
/?, имеющих нулевую лебеговскую меру, но таких, что А ф В = R.
31. Пусть srf — некоторая алгебра подмножеств из О, и & = &(£?).
Пусть \i есть сг-конечная мера на &'. Показать, что
(a) мера \i на srf может быть не сг-конечной;
(b) если мера \i на srf является сг-конечной, то остается справедливым
аналог утверждения задачи 8, т. е. для всякого £>0иВе^с рь(В) < оо
найдется множество А£ е srf такое, что \i(Ae AB)<e;
(c) если мера \i на srf не является сг-конечной, то свойство (Ь) может
не выполняться.
32. Показать, что всякая вероятностная мера \i на (Rny 88(Rn))
является регулярной в том смысле, что для всякого борелевского множества
Be^(Rn))
fi(B) = inf{^(f/): U 2 Ву U — открытое множество},
ц(В) = sup{fj,(F): FCByF — замкнутое множество}.
Показать также, что для всякого борелевского множества В е £3(Rn))
fi(B) = sup{fi(K): К С В, К — компакт}.
к
33. (Парадокс Бертрана.) Известный «классический» парадокс,
предложенный Бертраном, служит хорошей иллюстрацией того положения,
что при решении вероятностных задач (и, в частности, задач на
геометрические вероятности, с которыми и связан рассматриваемый парадокс)
надо четко формулировать вероятностную модель, четко определять,
что подразумевается под выражениями типа «наугад выбранная точка»,
«случайно выбранный объект» и т. п. (Об этом также говорилось в
указании к задаче 17 в § 1 главы I.)
Задача, приводимая Бертраном в его учебнике [8], и разные ответы
(в этом-то и заключается «парадокс»), найденные разными методами,
интерпретировались им как то, что в случае вероятностных экспериментов с
бесконечным числом исходов в принципе нельзя дать определенного ответа
на вопрос о значениях вероятностей некоторых событий.
Формулировка задачи Бертрана такова: в круге радиуса г «случайным
образом» (?!) выбирается хорда АВ с концами А и В, лежащими на ограни-

§ 3. ЗАДАНИЕ ВЕРОЯТНОСТНЫХ МЕР
81
чивающей круг окружности. Спрашивается, какова вероятность того, что
длина \АВ\ «случайно выбранной хорды» А В меньше г?
Приведем три возможных формулировки этой задачи.
(a) Будем понимать слова «хорда АВ выбирается случайно» как то, что
точки А и В независимым образом выбираются на окружности с
равномерным распределением на ней.
Показать, что в этих предположениях интересующая нас вероятность
Ра{|АВ\ <г} = 1/3. (Зафиксируйте точку А и рассмотрите правильный
вписанный шестиугольник со стороной г, одна из вершин которого находится
в точке А.)
(b) Каждая хорда АВ полностью определяется положением точки М,
являющейся основанием перпендикуляра, опущенного на нее из центра
окружности. Будем понимать под словами «хорда выбирается случайно»
то, что точка М имеет равномерное распределение в круге.
Показать, что в этом предположении интересующая нас вероятность
Рь{|ЛВ| <г}= 1/4. (Убедитесь в том, что событие {|ЛВ|<г} совпадает с
событием, что точка М принадлежит кольцу, заключенному между
окружностями радиуса г и радиуса Гл/3/4.)
(c) Длина хорды АВ не зависит от ее направления, а зависит лишь от
расстояния до центра окружности. Естественно поэтому предполагать, что
хорда имеет определенное направление, скажем, параллельное
горизонтальному диаметру CD, а точка М пересечения с вертикальным диаметром
EF (перпендикулярным CD) имеет равномерное распределение на EF.
Показать, что искомая вероятность
Рс{ИВ|<г} = 1-^ («0,13).
(Надо убедиться в том, что событие {|ЛВ|<г} совпадает с событием
{|ОУИ| > л/Зг/2}, где |ОУИ| — расстояние от центра окружности О до
точки М.)
34. (В продолжение задачи 33.) Приведенные в предыдущей задаче
решения правильны, но, как следует из изложенного, относятся на самом
деле к разным вероятностным задачам. Именно, будем задавать хорду
двумя параметрами р и 0, где р— расстояние от центра круга О до точки
М (основания перпендикуляра из О на хорду), а в — угол, образованный
направлением хорды АВ и каким-то фиксированным направлением. Так
что, в предположении г = 1, для хорды с |ЛВ|>0 имеем 0<р< 1,О<0<27г.
Показать, что в каждом из рассмотренных в предыдущей задаче
случаев (а), (Ь) и (с) совместное распределение пары (р, в) определяется

82 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
следующими плотностями:
(Отсюда становится понятным, что никакого «парадокса» нет, поскольку
словам «случайно выбранная хорда» можно придавать разный
вероятностный смысл.)
35. Пусть (X, 36\ fx) — измеримое пространство (X, 36) со счетно-
аддитивной мерой fj, (см. определения 5 и 6 в § 1).
Измеримое множество А называется атомом (по отношению к мере fi),
или ^-атомом, если fx(A) > 0 и для всякого измеримого множества В или
ц(АГ\В) = Оу или ц(А\В)=0. Мера ц называется атомической, если
каждое измеримое множество положительной ^-меры содержит атом.
Мера fj, называется неатомической, если ^-атомы отсутствуют.
Мера fi называется диффузной, если одноточечные множества
являются измеримыми и имеют ^-меру нуль.
Привести примеры атомических, неатомических, диффузных мер и
пример меры, которая является одновременно и атомической, и диффузной.
Показать, что сумма атомической и неатомической мер может быть
атомической.
36. Пусть Р и Р — две вероятностные меры на (П, &) такие, что
Р(Л) = Р(Л) для множеств А из & с Р(Л)<1/2. Показать, что тогда
Р(А) = Р(А) и для всех множеств А из &.
§ 4. Случайные величины. I
1. Показать, что случайная величина £ непрерывна, если и только если
Р{£ = х) = О для всех х е R.
2. Верно ли, что если |£| является ^"-измеримой, то £ также
^"-измерима?
3. Доказать, что функции хп, х+ = тах(х, 0), х~ = — min(x, 0), \х\ =
= х+ +х~ являются борелевскими. Доказать также более общий
результат: любая непрерывная функция / = f(x), x e R, является борелевской.
Указание. Рассмотрите для любого aeR открытое множество
{и> е R: f(oj) < а} и воспользуйтесь результатом задачи 7 в § 2.
4. Показать, что если £ и г/ — ^"-измеримы, то {и>: £(и>) = г}(и>)}е^.
5. Пусть £ и г/ — две случайные величины на (П, &) и множество А е &.
Тогда функция
£(и>) = £(и>)1А+ф)1л
также является случайной величиной.

§ 4. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. I
83
6. Пусть £i,..., £л — случайные величины и <р(х\,..., хп) — борелевская
функция. Показать, что функция ср(£\(и>), ..., £п(<*>)) является случайной
величиной.
Указание. Покажите сначала, что отображение
«-»(€,(«) Uw))€/?«
является &/3$(Rn)-измеримым. Затем воспользуйтесь тем, что
отображение ил—><p(£i(u;), ..., £л(о>)) есть композиция измеримых отображений.
7. Пусть $ и rj — две случайные величины, принимающие значения
1, ..., N. Предположим, что ^ = ^г?. Показать, что существует такая
перестановка (/ь ..., iN) чисел (1, ...,N), что для каждого / = 1, ..., N
множества {и>: £ = /} и {и>\ »/ = //} совпадают.
Указание. Воспользуйтесь теоремой 3, согласно которой найдутся
функции сриг/; такие, что £ = (p(rj) и г} = ф(£). Далее убедитесь в том, что
ij =ip(j) есть требуемая перестановка.
8. Привести пример случайной величины £, функция распределения
которой имеет плотность f(x) такую, что lim f(x) не существует и, следо-
х—>оо
вательно, функция f(x) на бесконечности не аннулируется.
9. Пусть £ и г} — ограниченные случайные величины (|£| < с\, \г}\ < С2).
Доказать, что если для всех т, п > 1
EZmrin = EZm-Erin,
то £ и г/ независимы.
10. Пусть £ и г/ — случайные величины и их функции распределения F%
и Fv совпадают. Доказать, что если х е R и {u>: £(<J) = х) ф 0, то существует
у е R такое, что {и: £{ш) = х) = {и: г}(и>) = у}.
11. Пусть Е — не более чем счетное подмножество /?, £ — отображение
П—>£. Доказать, что £ является случайной величиной на (П, ^") тогда и
только тогда, когда {и>: £(gj) =х}е^ для каждого х е Е.
12. Пусть £ — случайная величина такая, что Р{£^0}>0.
Предположим, что для некоторых чисел а и b случайные величины а£ и fc£
имеют одно и то же распределение (Fa^(x) = Fb^(x), xeR). Верно ли,
что а = Ь? Верно ли то же самое утверждение, если предполагать, что
а > 0, Ь > 0?
13. Пусть (П, &, Р) — вероятностное пространство и (П, ^*р, Р) —
пополнение (П, ^*, Р) по мере Р (см. задачу 34 к § 2, а также
замечание 1 в п. 1 § 3). Предположим, что £ = £(cj) есть случайная величина
на (П, #р, Р). Показать, что найдется случайная величина £ = £(cj) на
(П, &, Р) такая, что Р{£^£} =0. Иначе говоря, £ и £ отличаются лишь на
некотором множестве нулевой вероятности.

84 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
14. Пусть £ — случайная величина, В — борелевское множество на R.
Показать, что
15. Пусть £ь £2, ••• — последовательность независимых равномерно
распределенных на [0, 1] случайных величин. Рассматривается множество
А(и>) на [0,1], образованное значениями £i(u;), £2(<*>)» •••» гДе veil.
Показать, что для почти всех u>eil множество А (и) всюду плотно
в [0, 1].
16. Пусть £ь £2, ... —последовательность бернуллиевских случайных
величин с Р{£& = 1} = Р{£& = — 1} = 1/2, k > 1. Рассматривается случайное
блуждание S = (Sn)n^o с S0 = 0, Sn = £1 +... + £„ для п > 1.
Пусть его = inf {лг > 0: Sn = 0} — момент первого (после нуля)
возвращения в нуль (с соглашением, что, как обычно, его = оо, если соответствующее
множество {•} пусто).
Показать, что
P{<7o>2rt} = C2"„(i)2" и Р{<Т0 = 2/г}=2^тС^(|)2П.
Используя формулу Стирлинга, убедиться в том, что при больших п
Р{а0>2п}~-— и P{<70 = 2ft}~ 3/2
(ср. с формулами для U2k и f2k в § 10 гл. I). (Из приведенных формул
следует, что Р{ет0 < оо} = 1 и EerJ < 00 в том и только том случае, когда
а< 1/2; ср. с результатами из § 9 гл. I.)
17. В условиях предыдущей задачи пусть er^ = inf{AZ> l:Sn = k}4 k =
= 1,2, ... Показать, что
P{ok = n)=l?{Sn=k)
и, значит,
?{ak = n)=k-C^Qn.
18. Пусть £ = £(gj) — невырожденная случайная величина такая, что для
констант а>0 и b распределение а£ + Ь совпадает с распределением £.
Показать, что тогда с необходимостью а = 1 и b = 0.
19. Пусть £i и £2 — две перестановочные случайные величины (т. е.
такие, что распределение (£i, £2) совпадает с распределением (£2, £0).
Показать, что если / = f(x) и g = g(x) — неотрицательные неубывающие
функции, то
ЕШ£(*.)>Е/(е,)я(£2).

§ 4. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. I
85
20. (К теореме 2.) Пусть £ь &> ... — последовательность случайных
величин (со значениями в /?). Показать, что множество
В = {и>: lim £п(о>) существует и конечен} G ^\
Указание. Воспользуйтесь тем, что множество В может быть
представлено в следующем виде:
В = {lim £л > -оо}П {ШтТ £, < оо}Пfllm fi, -Ит fii =0}.
21. Пусть £ь &, ... —последовательность независимых одинаково
распределенных случайных величин с одной и той же непрерывной
функцией распределения. Пусть Ль Лг, ... — последовательность событий
таких, что Л1 = П и для п > 2
Ля = {£/z > £т для всех т < п).
(Событие Ап можно трактовать как событие, заключающееся в том, что в
момент времени п произошел «рекорд».) Показать, что события Л i, Л2, ...
независимы и Р(Ап) = \/п, п > 1.
22. Пусть £ и г/ — случайные величины такие, что закон распределения
Law(r/) случайной величины г} является абсолютно непрерывным (т. е.
функция распределения Fv является абсолютно непрерывной функцией).
Показать, что
(a) если £ и г/ независимы, то закон Law(£ + rj) также является
абсолютно непрерывным;
(b) если £ иг} не независимы, то закон Law(£ + rj) уже может быть не
абсолютно непрерывным.
23. Пусть £ иг} — независимые случайные величины, при этом £
является дискретной, а г} — сингулярной (т. е. F$ — дискретная функция
распределения, a Fv — сингулярная). Показать, что распределение вероятностей
/^+т? случайной величины £ + гу является сингулярным.
24. Пусть (П, &) — измеримое пространство, причем сг-алгебра &
является счетно-порожденной некоторым (счетным) разбиением ^ =
= {D\, D2, ...} (см. п. 1 в § 2). Показать, что сг-алгебра & совпадает
с сг-алгеброй &х, порожденной случайной величиной
ад=Е «^
/2=1
где ср(0) = 3 и ср(1) = 5.
25. (а) Пусть случайная величина X имеет симметричное
распределение (Law(X) = Law(-X)). Показать, что Law(X) = Law(£Y), где £ и У —
независимые случайные величины такие, что Р{£=1} = Р{£ = —1}= 1/2 и
Law(Y) = Law(|*|).

86 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(Ь) Пусть £ и У — независимые случайные величины и Р{£ = 1} =
= Р{£ = — 1}= 1/2. Показать, что £ и £У независимы в том и только том
случае, когда У имеет симметричное распределение (Law(y) = Law(— У)).
26. Пусть случайная величина X принимает два значения х\ и *2
(причем х\ фх<1), а У — два значения у\ и #2 (причем у\ ф\)2)- Показать, что
если cov^, У) = 0, то величины X и Y независимы.
27. Пусть £i ,&,••• — независимые случайные величины, имеющие
равномерное распределение на [0, 1], и для 0<х< 1
т(лг) = min{rc > 1: £i +... + f „ > х).
Показать, что Р{т(х) > п} = хп/п\, п > 1.
28. Пусть Х\, Х2, Хз — независимые одинаково распределенные
случайные величины с экспоненциальной плотностью f(x) = e~xI(x>0).
Образуем величины
Yl = xTTT2' Y* = Xl+x2+x3' Уз=х^+х2+х3.
Показать, что эти величины являются независимыми.
29. Пусть Х\ и Х2 — независимые случайные величины, имеющие х2-
распределение с г\ и Г2 степенями свободы соответственно (см. формулу
(34) в § 8 или таблицу 3 в § 3). Показать, что величины Y\ = Х\/Х2 и
Y2 = X\ +X2 являются независимыми. (Ср. с утверждениями задач 39 и 42
в § 13.)
§ 5. Случайные элементы
1. Пусть £i, ..., £„ — дискретные случайные величины. Показать, что
они независимы тогда и только тогда, когда для любых действительных
чисел х\, ..., хп
п
P{£i =xu ..-, £п = *п} = П р<£ = *<>■
1=1
2. Провести доказательство того, что всякая случайная функция
X(oj) = (£t(oj))teT есть случайный процесс (в смысле определения 3), и
наоборот.
Указание. Если X =Х(и>) является ^/^(/?г)-измеримой функцией,
то для / е Т и В е @{R)
{u>: £t(u>)eB} = {u>: X(u>)eC}e&, meC = {xeRT\ xteB).
Обратно, достаточно рассмотреть лишь множества Ce&(RT) вида
{x:xtleB\, ...,xtneBn} с Si, ..., Вп e£${R), которые, очевидно,
принадлежат &.

§ 5. СЛУЧАЙНЫЕ ЭЛЕМЕНТЫ
87
3. Пусть Х\,..., Хп — случайные элементы со значениями в (Е\, ^i), ...
..., (Еп, £п) соответственно. Пусть, далее, (£[, ё[), ..., (Е'п, £„) —
измеримые пространства и g\, ..., gn являются £\1&[, ...,
^/^'-измеримыми функциями соответственно. Показать, что если Х\, ..., Хп
независимы, то независимы также и случайные элементы g\oX\, ..., gn°Xn, где
giQXi = gi(Xi), £ = 1, ..., П.
Указание. Достаточно заметить, что для любых Bt-е £{|, / = 1,..., п,
P{£i№)€B, gn(Xn)eBn} = P{X,eg^(Bl) xneg-](Bn)}.
4. Пусть Х\, Х2, ... — бесконечная последовательность
перестановочных случайных величин (т. е. таких, что совместное распределение
каждой группы случайных величин, состоящей из k элементов с разными
индексами, скажем, X/,, ..., А^, зависит лишь от k и не зависит от
конкретного выбора значений i\,..., ik\ ср. с определением в задаче 11 из § 1).
Доказать, что если ЕХ% < оо, п > 1, то ковариация cov(A"i, X2) > 0.
Указание. Используя предположение перестановочности, выразите
дисперсию D f j^ X/ ) через первые два момента и ковариации и сделайте
предельный переход при п —> оо.
5. Пусть £i, ..., £m и г}\, ..., г}п — случайные величины. Образуем
случайные векторы X = (£i, ..., £m) и У = (г}\, ..., г^). Предположим, что
выполнены следующие условия:
(i) случайные величины £ь ..., £т независимы;
(и) случайные величины r/i, ..., г}п независимы;
(iii) случайные векторы X и У, рассматриваемые как случайные
элементы со значениями в Rm и Rn соответственно, независимы.
Доказать, что тогда случайные величины £i, ..., £m, r/i, ..., г}п
независимы.
6. Даны случайные векторы Х = (£\, ..., £т) и У = (rji, ..., г}п),
относительно которых известно, что случайные величины £i, ..., £m, r/i, ..., гул
являются независимыми.
(a) Доказать, что случайные векторы X и У, рассматриваемые как
случайные элементы, независимы (ср. с предыдущей задачей 5).
(b) Пусть /: Rm —>/?, g. Rn ^>R — борелевские функции. Доказать, что
случайные величины /(£i, ..., £m) и g(r/i, ..., г/я) независимы.
7. Пусть (П, ^*) — измеримое пространство и (£, <f, /9) — метрическое
пространство с метрикой р и сг-алгеброй £ борелевских подмножеств,
порожденных открытыми множествами (см. § 2). ПустьХ\(и), ^(cj), ... —
последовательность ^"/^-измеримых функций (случайных элементов)

88 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
таких, что для всех и> е £1 существует предел
Х(и)= lim Хп(ш).
п—>оо
Показать, что предельная функция Х(ш) также ^"/^-измерима.
8. Пусть £i, &, ••• — последовательность независимых одинаково
распределенных случайных величин, &п = <т(£\, ..., £„), п > 1, и т(ш) — момент
остановки (относительно (&п)п^\)- Положим
Показать, что последовательность (r/i, щ, ...) имеет то же самое
распределение, что и последовательность (£ь &, •••)•
§ 6. Интеграл Лебега. Математическое ожидание
1. Доказать представление (6).
Указание. Пусть S — множество простых неотрицательных
функций s. Если se{seS:s<£}H (£n)n^\ — последовательность простых
случайных величин таких, что £ЯТ£» то max(£/z, s)T£ и Es<E max^, s),
откуда Es < Е£ и sup Es < Е£. Противоположное неравенство следует
{ses-.s^}
непосредственно из конструкции Е£.
2. Показать, что справедливо следующее обобщение свойства Е. Пусть
£ и г} — случайные величины, для которых определены Е£ и Егу и выражение
Е£ + Ег/ имеет смысл (не имеет вида оо — оо или — оо + оо). Тогда
E($ + V) = Ei + EV.
Указание. Как и при доказательстве свойства Е, надо
рассмотреть разные возможности, вытекающие из представлений £ = £+ — £~ и
Г7 = г/+ — г/~. Если, например, Е£+ = оо, то (при сформулированных
условиях) доказывается (от противного), что и Е(£ + гу)+ = 00.
3. Обобщить свойство G, показав, что если £ = г} (п. н.) и Е£
существует, то Егу также существует и Егу = Е£.
4. Пусть £ — расширенная случайная величина, fi — сг-конечная мера,
\ \£\dfi<oo. Показать, что тогда |£|<оо (^-п. н.). (Ср. со свойством J.)
п
5. Пусть ц — сг-конечная мера, £ и гу — расширенные случайные
величины, для которых § £ dfi и \ г/ djz определены. Тогда, если для всех множеств
А е & имеет место неравенство \ £ djz < \ rjdfi, то £ < г/ (^-п. н.). (Ср. со
СВОЙСТВОМ I.) A А
6. Пусть £ и г/ — независимые неотрицательные случайные величины.
Показать, что тогда Е£г/ = Е£ • Егу.

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 89
Указание. Перейти от £ и гу к ограниченным простым величинам £п
и т}п таким, что £„ |£ и цп \г/. Для них E£nr}n = Е£пЕг}п по теореме 6. Далее
воспользоваться теоремой о монотонной сходимости.
7. Используя лемму Фату, показать, что
P(lim Ап) < lim Р(Ап)у Р(Нт Ап) < Нт Р(ЛЛ).
8. Привести пример, показывающий, что в теореме о мажорируемой
сходимости условие «|£/z|<??, Ery<oo» не может быть, вообще говоря,
ослаблено.
Указание. На П=[0, 1], <^ = &([0, 1]) с мерой Лебега Р
рассмотрите случайные величины £п(ы) = —nl(u> < 1/я), п > 1.
9. Привести пример, показывающий, что в лемме Фату условие «£„ < г/,
Ег}> — оо» не может быть, вообще говоря, отброшено.
10. Доказать справедливость следующего варианта леммы Фату: если
семейство случайных величин {£+, я> 1} равномерно интегрируемо,
то
lim Е£„<Е lim £„.
Указание. Воспользоваться тем, что для любого £>0 найдется
с>0 такое, что Е£п1(£п>с)<£ для всех п> 1.
11. Функция Дирихле
|1, х иррациональное,
d(x) = <
10, х рациональное,
определенная на [0, 1], интегрируема по Лебегу, но не интегрируема по
Риману Почему?
12. Привести пример последовательности интегрируемых по Риману
функций (fn)n^\y заданных на [0, 1] и таких, что \fn\ < 1, /„—> / почти всюду
по мере Лебега, но / не интегрируема по Риману.
п
Указание. Рассмотрите функции fn(x) = Y^ hg,}(x)^ гДе {<7ь Q2, •••} —
множество рациональных чисел на [0, 1].
13. Пусть {aij\ /, / > 1} — семейство действительных чисел таких, что
X) \dij\ < оо. Вывести из теоремы Фубини, что
£«</=£(£ %)=£(£<4 (*)
Указание. Рассмотрите произвольную последовательность поло-
оо
жительных чисел р\, /?2, ... с X) Pi — 1 и определите вероятностную меру Р
/=1

90 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
на Q = N = {1, 2, ...} по формуле Р(А) = ^2 Pi- Затем надо взять функцию
l\i, 1) = —— и заметить, что
Pi Pi
$ \f(ojuoj2)\d(PxP)=J2\f(lJ)\PiPi=J2\a4\<^'
fixfi ij ц
Наконец, воспользуйтесь теоремой Фубини.
14. Привести пример семейства {ац\ /, / > 1}, для которого Y^ \ai\\ = °°
и равенства в формуле (*) задачи 13 не справедливы. '•'
Указание. Рассмотрите
_/0, / = /,
15. Отправляясь от простых функций и используя теоремы о
предельных переходах под знаком интеграла Лебега, доказать справедливость
следующего результата об интегрировании с помощью подстановки.
Пусть h = h(y) — неубывающая непрерывно дифференцируемая
функция на интервале [a, ft], a f(x) — интегрируемая (по мере Лебега)
функция на интервале [h(a), ft(ft)]. Тогда функция f(h(y))h'(y) интегрируема на
[a, ft] и
h(b) Ь
J f{x)dx = \f{h{y))h'{y)dy.
h{a) a
Указание. Убедитесь сначала в справедливости этой формулы для
индикаторов борелевских множеств и их линейных комбинаций.
Пользуясь теоремой о монотонной сходимости, докажите требуемую формулу
для неотрицательных функций / и затем для произвольных функций /,
рассмотрев представление / = /+ — /-.
16. Доказать формулу (70).
Указание. Образуйте случайную величину £ = -£, функция рас-
0 °°
пределения которой F(x) = 1 - F((-x)-). Тогда \ \х\п dF(x) = \ хп dF(x).
—оо 0
Далее надо воспользоваться формулой (69).
17. Пусть £, £ь &» ••• — неотрицательные случайные величины
такие, что Р(|£л — £| > е) —> 0, п —> оо (т. е. имеет место сходимость по веро-
ятности £/2—>£; см. § 10).
(а) В обобщение утверждения теоремы 5 показать, что в предположении
Е£я < оо, п > 1, справедливо следующее утверждение: Е£п —> Е£ < оо тогда
и только тогда, когда семейство случайных величин {£„, я> 1} равномерно

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 91
интегрируемо. (Иначе говоря, утверждение теоремы 5 остается
справедливым, если сходимость с вероятностью единица заменить на сходимость
по вероятности.)
(Ь) Пусть все рассматриваемые величины £, £ь &, ... являются
интегрируемыми (Е£< оо, Е£„ < оо, п > 1). Показать, что
Е£,->Е£ =► Е|£,-£|->0.
Указание, (а) Достаточность следует из теоремы 4 и задачи 1 из
§ 10. Необходимость проверяется так же, как в теореме 5, с заменой
сходимости почти наверное на сходимость по вероятности (опять надо
учесть задачу 1 из § 10).
(Ь) Для всякого с > О
Е|е-^|<Е|е-(елс)| + Е|(елс)-(^Лс)| + Е|(^Лс)-^|.
Фиксируя е > 0 и выбирая с > 0 так, что Е|£ - (£Л с)\ < е, можно (в силу
условий задачи) добиться того, что для достаточно больших п
Е\(£Лс)-(£пЛс)\^е и E|(£„Ac)-£„|<3£. Тем самым, Е|£-£л|<5е
при достаточно больших п.
18. Пусть £ — интегрируемая случайная величина (Е|£| < оо).
(a) Доказать, что для всякого е>0 существует 5>0 такое, что для
любого А е & с Р(Л) < S выполнено свойство Е1а |£| < е («свойство
абсолютной непрерывности интеграла Лебега»).
(b) Вывести из (а), что если (Ап)п^\ — последовательность событий с
Пт Р(Лл) = 0, то Е(£/(Лл))->0, п^ю.
п
Указание. Воспользуйтесь леммой 2 из § 6 книги «Вероятность —
1», с. 236.
Замечание. Ср. утверждение (Ь) с утверждением в теореме 3.
19. Пусть £, г}, С и £л, г}п, £л, п > 1, — случайные величины такие, что
р
(см. определение сходимости по вероятности «—>» в задаче 17)
р р р
£/г->£, *7л->4. Сп^С, Vn<€n<Cn, П^1,
ЕСп -> ЕС, Erjn -> Ег},
и математические ожидания Е£, Erj, EC конечны. Показать, что тогда
справедливо следующее утверждение (лемма Пратта):
(а)Е6,->Е£
(b) если к тому же щ < 0< Сп, то Е|£п - £| ->0.
р
Вывести отсюда, что если £л—>£, Е|£л|—>Е|£| и Е|£|<оо, то
Е|^я - £| —>0. (Ср. с утверждением (Ь) в задаче 17.)
Привести пример, показывающий, что при отказе от дополнительного
предположения в (Ь) может случиться, что Е|£л — £| />0.

92 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Указание. Если ввести случайные величины щ = 0, £n=£n — Vn,
Cn = Cn-VnUin = 0,€ = €-V, C = C~V, то будем иметь 0<С„->С и ЕС„->ЕС.
Поэтому по утверждению (а) задачи 17 семейство {£«, п> 1}
равномерно интегрируемо. Поскольку 0 <£«<£«, то семейство {£«, н>1} также
равномерно интегрируемо. Отсюда выводится, что Ef^—>Е£ (и даже что
Е||л — £1 —► 0). В силу предположения Ещ —► Ет? получаем, что Е£„ —> Е£.
20. Доказать, что L*f^iL*f и если функция / ограничена, а мера рь
конечна, то L+/ = L* f (см. замечание 2 в п. 11).
21. Доказать, что для ограниченных функций / математическое
ожидание E/ = L+/ (см. замечание 2 в п. 11).
22. Доказать заключительное утверждение в замечании 2 п. 11.
23. Пусть F = F(x) — функция распределения случайной величины X.
Показать, что
0 оо
(a) Е\Х\ < оо о § F(x) dx < оо и §(1 - F(x)) dx < оо;
-оо О
ОО j
(b) EX+ < оо <=$ \ In -—■ dx<oo для некоторого а.
Указание. (Ь) Убедитесь в справедливости неравенства:
оо
Е[Х1(Х>а)]^ $ In ^dx^-^E[XI(x>a)], a>0.
24. Показать, что если р > О и lim JtpP{|£| >х} = 0, то Е|£|г <оо для
х—>оо
всех г< р. Привести пример, показывающий, что при г = р может
оказаться, что Е|£|р = оо.
25. Дать пример плотности /(х), не являющейся четной функцией, у
оо
которой, тем не менее, все нечетные моменты \ xk f(x) dx = О, k = 1, 3, ...
—оо
26. Привести пример случайных величин £„, п > 1, таких, что
оо оо
л=1 л=1
27. Пусть случайная величина Л^ такова, что для любого а > 1
Р{\Х\>ап} п
Р{|Х|>я} ^°' "^°°-
Доказать, что тогда у Л" существуют все моменты.
Указание. Воспользоваться формулой
оо
E\X\N=N $xN-lP(\X\>x)dx, Л/>1.

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 93
28. Пусть X — случайная величина, принимающая значения k = 0, 1,
оо
2, ... с вероятностями р#. Функция G(s) = Esx (=Y^ PkSk), |s|<l, на-
зывается производящей функцией случайной величины X. (Подробнее
о производящих функциях см. § 3 приложения.) Установить следующие
формулы:
(a) если X — пуассоновская случайная величина, т. е. Pk = e~x\k/k\, где
А>0, Л = 0, 1, 2, ..., то
G(s) = Eex = e-X{l-s\ |s|<l;
(b) если случайная величина X имеет геометрическое распределение,
т. е. pk = pqk, где 0< р< 1, q = 1 - р, k = 0, 1, 2, ..., то
G(s) = j^, МО;
(c) если Х\,..., Хп — независимые одинаково распределенные величины
с Р{Х] = 1}=р, Р{Х] =0} = q(q = l-p),TO
G(s) = (ps + q)n (=£[C*A"-*]s
—fcl k
[^nV Ч
k=0
и, значит, Р№ +...+^ = t> = C*pV-*.
29. Пусть Л" — случайная величина, принимающая значения в множе-
оо
стве{0, 1,2, ...}, и G(5)=E p*s*, где p^ = P{J = fe}, £>0.
я=0
Показать, что (г> 1)
(a) если ЕЛгг<оо, то факториальный момент Е(Х)Г = ЕХ(Х — 1)...
,..(Х-г+1)<оо и EWr = lim G^(5) (=G^(1)), где G^(s) есть г-я
производная G(s); 5_>
(b) если ЕЛгг = оо, то Е(Х)г = оо и lim G(r)(s) = oo.
s—*\
30. Пусть Л" — дискретная случайная величина с равномерным
распределением на {0, 1,..., п}, т. е. Р{Х = k}= t, где & = 0, 1, ..., п. Показав,
1 1-s"
П+1 1-5
мулы
1 i-5"+1 П+\
что G(s) = г —: , и найдя ЕЛ" и ЕЛ"2, установите известные фор-
у^ k = п(п + 1) у^ ^2 = п(п+1)(п+2)
л=1 л=1
31. (Продолжение задачи 13 в § 1 главы I.) Пусть А\, ...,Ап —
некоторые (не обязательно независимые) события, Л/=/,*., / = 1, ...,п,
и Е„ = /л, +... + 1ап • Показать, что производящая функция G^n(s) = EsE"

94 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
задается следующей формулой:
п
m=0
где
\^il<...<im^n \ \^il<...<im^n J
(См. также задачу 12 в § 1 главы I.) Вывести отсюда, что вероятность
события Вт = {Е„ = га} задается формулой
Р(Вш) = £(-1)*-тОД.
п
Указание. Воспользоваться тем, что G^n (s) = Е Ц (1 + Л^ (s - 1)) и
п т l~ n
J] (!+*(*-!)) = !+£ *,(*-!)+£ XixXk(s-\)2+... + '\{Xl{s-\f.
i = \ i = \ \^i\<i2^n i=\
32. Наряду с производящей функцией G(s) во многих случаях
оказывается полезным понятие производящей функции моментов: M(s) = EesX
(в предположении, что 5 таковы, что EesX < оо). (Полезно заметить, что
если случайная величина X неотрицательна и 5 = —А, где А > 0, то функция
Р(А) =М(-Х) (= Ее~хх) есть не что иное, как преобразование Лапласа
случайной величины X с функцией распределения F = F(x).)
(a) Показать, что если производящая функция моментов M(s)
определена для всех 5 из некоторой окрестности нуля (s е [-а, а], а>0), то
существуют производные M^(s) при 5 = 0 для всех k = 1, 2, ... и
M{k)(0) = EXk
(это свойство и оправдывает название для M(s) как производящей функции
моментов).
(b) Привести пример случайной величины, для которой M(s) = оо при
всех 5 > 0.
(c) Показать, что для пуассоновской случайной величины X с А>0
функция M(s) = е~х(1~е$) для всех s eR.
(d) Привести пример двух не независимых случайных величин X и У,
у которых производящая функция Mx+Y(s) = Ees(x+r> есть произведение
производящих функций Mx(s) = EesX и My(s) = EesY.
р
33. Пусть 0< г< оо, XneLr4 Xn -^Х. Тогда следующие условия
равносильны (ср. с задачами 17 и 19):
(i) семейство {|А'Я|Г, п> 1} равномерно интегрируемо;
(и) *„->* в//;

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 95
(Ш)Е|Хя|'->Е|Х|'<оо.
34. (Тождество Спицера.) Пусть Х\,Х2, ... — независимые одинаково
распределенные случайные величины с Е^^оо, и пусть Sk=X\ + ...
...+Xk, Mfc = max(0, 5i, ..., S&), &> 1. Показать, что для любого п> 1
ЕУИ«=Ё1Е5*+' (*)
k=\
где 5^ = тах(0, Sk).
Указание [101]. Пользуясь тем, что
Mn = I(Sn>0)Mn+I(Sn*:0)Mn,
E[I(Sn>0)Mn] = E[I(Sn>0)X{] + E[I(Sn>0)Mn-i]
и E[I(Sn >0)X\] =n~x ES+, находим последовательно, что
ЕМп = I E5+ + ЕМ„_, = I E5+ +
. 1 — п-\
ES++EM„_2
£=2 fc=l
Замечание. Приведенное соотношение (*) можно было бы получить
дифференцированием по / более общего тождества Спицера: для всякого
0<м<1
J2ukEeitM' = explj2TEeitS4'
k=0 \k=\ )
доказательство которого сложнее, нежели доказательство (*).
35. Пусть So = 0, Sn=X\ +...+Хп, я> 1, —простое симметричное
случайное блуждание (см. § 8 гл. VIII) и cr = min{n >0: Sn >0}. Показать, что
Е min(a, 2ra) = 2E|S2m|=4raP{S2m = 0}, га>0.
36. (а) Пусть £ — стандартная гауссовская случайная величина
(X ~<Ж(0, 1)). Используя интегрирование по частям, показать, что EXk =
= (k — 1) EXk~2, & > 2. Вывести отсюда формулы (k > 1)
EX2k~x=Q и EX2k = \ -З-...- (2k- 3)(2/г-1) (=(2Л-1)!!).
(b) Показать, что для случайной величины Хч имеющей
гамма-распределение (из таблицы 3 в § 3) с /3 = 1, математические ожидания
ЬЛ - Г(а) ' ***•
В частности, ЕХ =а, ЕХ2 =а(а+ 1) и, значит, DA" = а.

96 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Найти аналог этих формул, когда /? ^ 1.
(с) Показать, что для случайной величины X с бета-распределением
(из таблицы 3 в § 3)
Ехк_Щг±^А ь>1
ЬЛ " B(r,s) ' °L
37. Показать, что функция
£){их,и2) = е-ш^-2е-2ш^\ их е£1х = [1, оо), w2efi2 = (0, 1],
такова, что (по мере Лебега)
(a) для каждого и>2 она интегрируема по и>\ Efti,
(b) для каждого cjj она интегрируема по а^ Е^2,
но теорема Фубини не имеет места.
38. Доказать теорему Беппо Леей: пусть случайные величины £i,
£2, ••• интегрируемы (Е|£я| < оо для всех п > 1), sup Е£п < оо и £п Т£; то-
п
гда случайная величина £ интегрируема и Е£„|Е£ (ср. с теоремой 1а).
39. Доказать следующую разновидность леммы Фату: если 0<£„ —>£
(Р-п. н.) и Е£„ <Л <оо, н> 1, то £ интегрируема и Е£<Л.
40. (О связм интегрирования по Лебегу и по Риману) Пусть
борелевская функция / = /(х), хе/?, интегрируема по мере Лебега Л
( \ \f(x)\ Mdx) < 00). Доказать, что для всякого £> 0 найдутся:
R п
(a) ступенчатая функция f£(x) = Y^ fi^Aiix) c ограниченными интер-
£=1
валами Л/ такая, что \ \ f(x) — f£(x)\ X(dx) < е;
R
(b) интегрируемая непрерывная функция ge(x) с ограниченным
носителем такая, что \ \f(x) - g£(x)\ \(dx) < s.
R
41. Показать, что если £ есть интегрируемая случайная величина, то
оо 0
Е£=$ P{t>x)dx- $ P&<x)dx.
0 —оо
Показать также, что для всякого а > 0
оо
Е [£/(£ > а)] = $ Р{£ > х) dx + аР{£ > а}
а
и если £ > 0, то
Е[£/(£<а)] = §Р{х<£<а}Лс.

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 97
42. Пусть £ и г] — интегрируемые случайные величины. Показать, что
оо
—оо
43. Пусть £ — неотрицательная случайная величина (£>0) с
преобразованием Лапласа F(X) = Ее~х^ч А > 0.
(a) Показать, что для всякого 0 < г < 1
Указание. Воспользоваться тем, что для 5 > 0, 0 < г < 1
(b) Показать, что для всякого г > 0
оо
гГ(г) J v ;
Указание. Воспользоваться тем, что для s > 0, г > 0
оо
5 = ЩЛ)" § exp{-(A/s)r}dA.
44. (а) Показать, что в неравенстве Гёльдера (29) из п. 7 равенство
достигается тогда и только тогда, когда |£|^ и \r}\q линейно зависимы
(Р-п. н.), т. е. найдутся такие константы а и 6, одновременно не равные
нулю, что а\£\р = b\r}\q (Р-п. н.).
(b) Показать, что в неравенстве Минковского (31) (с 1 < р < оо)
равенство имеет место в том и только том случае, когда для некоторых констант
а и 6, одновременно не равных нулю, a£ = br} (Р-п. н.).
(c) Показать, что в неравенстве Коши—Буняковского (24) равенство
имеет место в том и только том случае, когда £ и г} линейно зависимы
(Р-п. н.), т. е. a£ = brj (Р-п. н.) для некоторых констант а и 6, одновременно
не обращающихся в нуль.
45. Пусть X — случайная величина такая, что Р{а < X < Ь) = 1 для
некоторых а и b из R, а<Ь. Пусть т = ЕХ и cr2 = DAr. Показать, что
а2 < (га - а)(6 — т) и что равенство достигается в том и только том случае,
когда Р{Х = а} + Р{Х = Ь}=1.
46. Пусть Л" — случайная величина с Е\Х\ < оо. Показать, что:

98 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(a) если X > 0 (Р-п. н.), то
EY^IY' E ln*<lnE*' Е(* In X) > Е* ■ In EX
(О ■ In 0 = 0);
(b) если значения случайной величины X принадлежат интервалу [а, 6],
0<а< fc<oo, то
выяснить, когда здесь достигаются равенства;
(c) если случайная величина X положительна и к тому же ЕХ2 < оо, то
справедлива следующая оценка снизу (неравенство Пэли—Зигмунда):
для 0 < А < 1
Р{Х>\ЕХ)>{\-\)2{Щ-.
(d) Вывести из этого неравенства, что если для данного и > 0
вероятность Р{Х < и} < с для некоторого с > 0, то для всякого г > 0
ЕХг
(в предположении, что выражение в знаменателе определено и больше
нуля).
(e) Показать, что если X — неотрицательная целочисленная случайная
величина, то
Р{Х>0}>Щ£.
47. Пусть £ —случайная величина с Е£ = га и Е(£ —га)2=сг2. Доказать
неравенства Кантелли
2
тах(Р{£ - т > <г}, Р{£ - т < £}) < / 2, £ > 0,
48. Пусть £ — случайная величина с Е|£| < оо и g = g(x) — строго
выпуклая книзу функция на R. Показать, что Eg(£) = g(E£) в том и только
том случае, когда £= Е£ (Р-п. н.).
49. Пусть £ — интегрируемая случайная величина (Е|£| < со). Показать,
что для всякого е > 0 найдется простая случайная величина £е такая, что
Е|£- ££| < £. (Ср. с утверждениями в теореме 1 в § 4 гл. II книги
«Вероятность— 1».)

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 99
50. Рассмотрим уравнение
Zt = B(t) + $Zs-dA(s), />0
о
(ср. с уравнением (74) в § 6), где A(t) и B(t) — непрерывные справа (при
/ > 0) и имеющие пределы слева (при / > 0) функции (локально)
ограниченной вариации, Л(0)=В(0) = 0, ДЛ(/)>-1, где AA(t) = A(t)-A(t-), / >0,
ДЛ(0) = 0.
Показать, что в классе (локально) ограниченных функций приведенное
уравнение имеет и притом единственное решение St(A, В), задаваемое для
/ > 0 формулой
51. Пусть непрерывная справа (при />0) и имеющая пределы слева
(при / > 0) функция V(t) (локально) ограниченной вариации удовлетворяет
интегральному неравенству
t
!/(/)< К + § V(s-)dA(s), />0,
о
где константа /С>0, A(t) — неубывающая, непрерывная справа и имеющая
пределы слева функция с А(0) = 0.
Показать, что
V(t)^K#t(A), />0;
t
в частности, если A(t) = § a(s) ds, a(s) > 0, то функция V(t) удовлетворяет
о
неравенству Гронуоляа—Беллмана
V(t)^K expJ \a(s)ds\, />0.
< § a(s)ds >,
52. При выводе неравенства Гёльдера (29) было использовано
неравенство
ао^
Р Я
(а>0, Ь>0и р>1, q>l таковы, что — + - = 1). Показать, что это
неравенство есть частный случай (при h(x)=xp~x) следующего неравенства
Юнга:
ab^H(a) + H(b), a>0, fc >0,

100 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
где
H(x) = \h(y)dy4 H{x) = \h{y)dy,
о о
h = h(y), у eR+, — непрерывная строго возрастающая функция с /г(0) = 0,
lim h(y) = оо, a h = h(y), у е /?+, — обращение функции h = h(y), т. е.
У—*оо
h(y) = m\{t: h(t)>y).
(В рассматриваемом случае непрерывной строго возрастающей функции
h = h(y) имеем h(y) = h~x(y))
53. Пусть X — случайная величина. Показать, что для всякого а > О
имеют место следующие импликации:
оо
E|*|a<oo & ^па-1Р{\Х\^п}<оо.
п=\
54. Пусть £ — неотрицательная случайная величина. Показать, что для
всякого г > 1 (сопоставьте с задачей 43)
J хг г -1 ъ
г-\
и
В частности,
о *
55. Пусть £ — случайная величина с Е£ > 0, 0 < Е£2 < оо и пусть
£Е [0, 1]. Доказать справедливость следующего неравенства (обратного к
неравенству Чебышева):
Р{£>гЕ£}>(1-£)^|£.
56. Пусть (ft, <&) — произвольное измеримое пространство. Определим
на этом пространстве функцию множеств ji = ji(B), В е^\ полагая
I оо
, ,_,, если В конечно,
12(B)-
в остальных случаях,
где |В| — мощность (число точек) множества В. Показать, что так
определенная функция множеств \х является мерой (в смысле определения 6
§ 1). Эта мера называется считающей и является сг-конечной в том и
только том случае, когда О, не более чем счетно.

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 101
57. (К теореме Радона— Никодима. I.) Пусть A, \i и и являются сг-ко-
нечными мерами на измеримом пространстве (ft, &). Предположим, что
производные Радона—Никодима — и -ту существуют. Показать, что
производная — также существует и
ил
di/ _ di/ dfj, /x .
Tx'TJl'Tx (л-пн-)-
58. (К теореме Радона—Никодима. П.) Рассмотрим на пространстве
(ft, &) = ([0, 1], ^([0, 1])) две меры: А — лебеговскую меру и \х —
считающую меру (см. задачу 56). Показать, что \х<^\, но в то же самое время
утверждение теоремы Радона—Никодима о существовании плотности -ту
не выполнено.
59. Пусть А и \i — две сг-конечные меры на (ft, &) и / = -т-. Показать,
d ix и [л
что если ц{и>: / = 0} = 0, то тогда плотность -ту существует и в качестве
таковой может быть взята функция
-{:
_ 1// на множестве {/т^О},
с на множестве {/ = 0},
где с — произвольно выбранная неотрицательная константа.
60. Показать, что заданная на [0, оо) функция
/1, х--
\ sin х
I— *■
1\Х) '' | ош л ^ ~
* > о,
С 7Г
является интегрируемой по Риману (причем (R) \ f(x)dx= -г), но не
является интегрируемой по Лебегу. о
61. Привести пример функции / = f(x) на [0, 1], являющейся
ограниченной и интегрируемой по Лебегу, но такой, что для нее нельзя найти
функцию g = g(x), интегрируемую по Риману и совпадающую с / = f(x)
почти наверное по лебеговской мере на [0, 1].
62. Привести пример ограниченной борелевской функции / = f(x, у) на
R2 такой, что (для у е R и х е R соответственно) лебеговские интегралы
$/(*,*/) A(rf*) = 0, $f(x9y)\(dy) = 09
R R
однако эта функция не интегрируема по лебеговской мере на (/?2, 3§(R2)).
63. (К теореме Фубини. I.) Пусть \ = \(dx) — лебеговская мера,
H = H(dy) — считающая мера на [0, 1]. Обозначим через D диагональ

102 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
в [0, I]2. Показать, что
§ [J ID(x, y)X(dx)]fj,(dy) = 0 и $ [J h(x, y)n(dy)
[0,1]
[0,1]
[0,1]
[0,1]
\(dx) = l.
(Эти формулы показывают, что сделанное в теореме Фубини (теорема 8)
предположение о конечности мер является существенным для
выполнения свойства (49).)
64. (К теореме Фубини. П.) Показать, что теорема Фубини остается
справедливой, если конечность мер ц\ и ^2, участвующих в ее
формулировке, заменить на их сг-конечность. Показать также, что без предположения
сг-конечности утверждения теоремы Фубини могут, вообще говоря, уже не
выполняться (ср. с задачей 63).
65. (К утверждению а) в теореме 10.) Привести пример ограниченной
неборелевской функции, которая интегрируема по Риману. (Эта задача, в
сущности, является переформулировкой задачи 29 к § 3.)
66. Пусть f=f(x) — борелевская функция, определенная на (/?", &{Rn))
с лебеговской мерой X = X(dx). Предположим, что § \f(x)\X(dx)<oo.
Показать, что: R"
im \ \f(x + h)-f(x)\\(dx) = 0.
R"
Указание. Воспользоваться утверждением (Ь) из задачи 40.
67. Для любого конечного числа независимых интегрируемых
случайных величин £i, ..., £я
ЕПб=ПЕь
k=\ k=\
(см. теорему 6). Показать, что если £ь £2, ... —последовательность
независимых интегрируемых случайных величин, то, вообще говоря,
оо оо
ЕШ^ПЕ&
k=\ k=\
68. Пусть известно, что для случайной величины £ ее математическое
ожидание Е£<0 и Еее^ = \ для некоторого в^0. Показать, что тогда
необходимым образом в > 0.
69. Пусть h = h(t, х) — функция, определенная на множестве [a, b] x /?,
где а, Ь eR и a<b.
(а) Предположим, что
1) для каждого х° eR функция /г(/, х°), t е [а, 6], является
непрерывной;

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 103
2) для каждого t° e [a, Ь] функция /г(/°, х), х е/?, является
^(/^-измеримой (т. е. борелевской).
Показать, что тогда функция h = h(t,x), te[a,b], xeR, является
3S([a, b]) x ^(/?)-измеримой.
(b) Пусть теперь £ — случайная величина, заданная на некотором
вероятностном пространстве. Показать, что при выполнении условий 1) и 2)
и условия
3) семейство величин {/г(/, £), / е [а, Ь]} равномерно интегрируемо
имеют место следующие свойства:
(i) математическое ожидание Е/г(/, £) является непрерывной функцией
по / е [a, b]\ t
(ii) если #(/, x) = ^h(s, x)ds, то производная — Е#(/, £) существует
а
для всех / е (а, 6) и равна Е/г(/, £), т. е.
а
70. (К лемме 2.) (а) Пусть £ — случайная величина с Е|£| < оо.
Показать, что тогда для всякого £ > 0 найдется такое 6 > 0, что если Р(А) < 5,
Ае^, то Е(|£|/л) <£. Вывести отсюда, что для случайных величин £ с
Е|£| < оо для всякого £> 0 найдется такая константа К = К(£), что
Е(|£|;|£|>/0 = Е|£|/(К|>*)<е.
(Ь) Пусть {£„, я > 1} — равномерно интегрируемое семейство случайных
(Iя 1
величин. Показать, что семейство s — 5^ &, я ^ 1 > также будет
равномерно интегрируемым. I fc=i )
71. Показать, что неравенство Иенсена (25) остается справедливым и
в том случае, когда выпуклая книзу функция g = g(x) задана не на всем
пространстве /?, а лишь на некотором открытом множестве G С /?, а
случайная величина £ такова, что Р{£е G} = 1 и Е|£|< оо. Доказать, что
выпуклая книзу функция g = g(x), заданная на открытом множестве G,
является на этом множестве непрерывной. Показать также, что всякая
такая функция допускает следующее представление:
g(x) = sup(anx + bn), xeG,
n
где anwbn — некоторые константы.
72. Показать, что для a, b e R и неотрицательных г имеют место так
называемые сг-неравенства:
|а + 6|г<сг(|а|г + |6|г),
где сг = 1 при г < 1 и сг = 2Г_1 при г > 1.

104 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
73. Пусть £ и г/— неотрицательные случайные величины такие, что для
всякого х > 0 выполнено неравенство
P{£>x}<x-lE[riI(tex)].
Показать, что тогда для всякого р > 1
Е^(-^)'Е„-
Указание. От величин £ надо перейти сначала к ограниченным
величинам £с = £Лс, с>0, для которых, согласно (69), справедливо равенство
Е£ср = р\х"-1Р{£>х}(1х.
о
Используя данное в условии неравенство, надо вывести неравенство для
E£f и затем сделать предельный переход, когда с | оо.
74. Показать, что справедлив следующий аналог формулы
интегрирования с помощью подстановки (см. задачу 15 и теорему 7 о замене
переменных в интеграле Лебега).
Пусть / — открытое множество в Rn и у=(р(х) — функция, определенная
на /, со значениями в Rn (если х = (х\, ..., хя)е/, то у = (у\, ..., уп) с
yi=cPi(x\, •••, хп), i = 1, ..., п). Будем предполагать, что все производные
-тр- существуют и непрерывны, при этом |/^(х)| >0, хе/, где У^(х) есть
детерминант якобиана функции <р:
I-
/v(x)=det||f£L||, 1</, /<л.
/
В силу сделанных предположений множество ср(Г) является открытым
множеством в Rn, функция <р имеет обратную функцию h = cp~l4 при этом Д(у)
существует, является непрерывной функцией на ср(Г) и \Jh(y)\ >0, у еср(Г).
Показать, что для всякой неотрицательной или интегрируемой функции
g = g(x), xel, справедлива формула
Se(x)dx= $ g(h(y))\Jh(y)\dy,
v(f)
или, подробнее,
\g(x)dx= ^ g(cp-\y))\J^(y)\dy
(интегралы понимаются как интегралы Лебега по лебеговской мере в Rn).
75. Пусть F = F(x) — функция распределения такая, что F(0)=0,
F(\) = l и на интервале [0,1] она удовлетворяет условию Липшица:

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 105
\F(x) — F(y)\^L\x — y\. Пусть га — мера на [0, 1] такая, что т(В) = ^ dF(x),
Ве&([0, 1]), и А — лебеговская мера на [0, 1]. в
Показать, что т<Аи
dm . /х ч
-j^<L (А-п. н.).
76. Пусть g = g(x) — функция, определенная на некотором отрезке
[а, Ь] числовой прямой R. Предположим, что эта функция является
выпуклой книзу (g((l - А)х+Аг/)< (1 -b)g(x) + \g(y) для х, ye [a, b] и любого
0< А < 1). Показать, что такая функция непрерывна на открытом интервале
(а, Ь). Заключить отсюда, что эта функция является борелевской.
Указание. Вывести из выпуклости книзу, что для любых точек х,
г/, z из [а, Ь] таких, что х< у <z, выполнено неравенство
g(y) - g(x) ^ g(z) - g(y)
у-х z-y
и с его помощью установить непрерывность функции g = g(x) на интервале
(а. ьу
77. Пусть G(s)= X) PkSk — производящая функция дискретной слу-
чайной величины X с Р{Х = k} = pk, k = 0, 1, 2, ... (см. задачу 28). Пусть
qk = P{X>k}, rk = P{X^k}, k = 0, 1,2, ...
Показать, что производящие функции последовательностей q = (qk)k^o и
r = (rk)k^0 задаются соответственно формулами
п , ч 1 - G(s) 1.^1 п / ч G(s) ii^i
78. (К вероятности разорения; ср. с § 9 главы I.) Пусть So = x4
Sn = х + £i +... + £„, п > 1, где (&)fc^i — последовательность
независимых одинаково распределенных случайных величин с Р{£б = 1} = р,
Р{& = -1} = <7, p+q = \. Предполагается, что х — целое, причем 0<х<у4.
Обозначим
r = inf{n>0: Sn = 0 или S„=y4}
— момент окончания блуждания («игры» — в игре двух игроков; см.,
например, § 9 гл. I). Пусть рх(п) = Р{т = п, Sn = 0} — вероятность того, что
игра закончится на п-м шаге и при этом Sn = 04 что интерпретируется как
«разорение». ^
Показать, что производящая функция Gx(s)= X) Px(n)sn
удовлетворяет рекуррентным соотношениям п=0
Gx(s) = psGx+{(s)+qsGx_{(s)
cG0(s)=l,GA(s)=0.

106 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Убедиться также в том, что решение этой системы задается функцией
Ux{S)-\p) Af(S)-A£(S) '
где
Ms)=^(\+Vl-4pqs2), \2(s) = ^L(l-Vl-4pqs2).
79. Рассматриваются шестизначные лотерейные билеты,
занумерованные 000000, ..., 999999. Случайным образом выбирается один билет.
Найти вероятность Р21 того> что сумма всех цифр выбранного билета равна 21.
Указание. Воспользуйтесь методом, основанным на рассмотрении
производящих функций, который изложен в § 3 приложения (с. 365—366).
Ответ в этой задаче таков: Р21 =0,04.
80. Пусть случайная величина £ имеет одновершинную (унимодальную)
плотность распределения f(x) с максимумом в точке хо (называемой модой
или вершиной распределения), неубывающую слева и невозрастающую
справа от х$.
Доказать справедливость неравенства Гаусса: для всякого £>0
P{\Z-xo\>eVe\Z-x0\2)<-^.
Указание. Если функция g(y) не возрастает при у > 0, то для £> 0
оо , оо
е2 S g(y)dy<± ly2g(y)dy.
£ 0
Используя это неравенство, можно заключить, что для £>0 и d2=E\£—xo\2
Pi\e х..\>сР<4 EKg-*o>A*12 4
r{\i;-Xo\^£a}^ ^ р — д^2-
81. Пусть £i, ..., £я — независимые одинаково распределенные
случайные величины с Р{£; >0}= 1 и D(ln £i) = <j2. Показать, что для £>0
Ptf,...6,<(Eln£,)V,e»l--4.
Указание. Воспользуйтесь неравенством Чебышева
P{\Yn-EYn\^ns}>l-^
nZ£Z
п
применительно к Yn = Y^ 'n &•
i=\

§ 6. ИНТЕГРАЛ ЛЕБЕГА. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ 107
82. Пусть Р и Р — две вероятностные меры на (ft, &) такие, что мера
Р абсолютно непрерывна относительно меры Р (Р <§: Р) с плотностью
— <с (Р-п.н.),
где с — некоторая константа (очевидно, что с > 1). Показать, что можно
найти а е (0, 1 ] и вероятностную меру Q такие, что справедливо
следующее представление:
P=aP + (l-a)Q.
Указание. Возьмите некоторую константу С > с и положите а =
= \/С и
1 с Л dP*
ow-тЬ 5 ('-£)*•
83. Пусть | и г/— независимые случайные величины, причем Е£ = 0.
Показать, что Е|£ —»у| > Е|г/|.
84. Пусть £i, &, ... —последовательность независимых одинаково
распределенных случайных величин со значениями в /? = (—оо, оо).
Положим So = 0, Sfl = £i +... +£я. Определим рекуррентным образом следующие
«лестничные индексы» (называемые также «лестничными моментами»):
7Ь = 0, Tk = mf{n>Tk.x: S„-Sn_,>0}, *>l,
полагая, как всегда, inf 0 = оо. Ясно, что для всех п > 1
P{7'l=/i} = P{Sl<0, ...,S„_!<0,S„>0}.
оо
Показать, что производящая функция G(s) = Y^ fnSn случайной величины
Т\ (с fn = P{T\ =п}) задается формулой п=х
G(s) = expJ-f^P{S„>0}|, |s|<l.
85. В обозначениях и условиях предшествующей задачи и полагая
оо оо
^ = ££p<s«<0>' B=J2j;P{Sn>0l
п=\ п=\
показать, что
если В = оо,
\1-е-Б
Р{Т,<оо}-Л1 _в
- , если В < оо,

108 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
и что если В = оо, то
\еА, еслиЛ<оо,
I оо, если А = оо.
86. Как и в условии задачи 84, пусть £i, &, ... — последовательность
независимых одинаково распределенных случайных величин с E£i > 0.
Положим 5о = 0, Sn = £i +... + £„, и пусть
r = inf{n> 1: Sn>0}.
Показать, что Ет< оо.
87. Пусть выполнены предположения задачи 84 и &n — размах, т. е.
число различных значений, принимаемых величинами So, 5i,..., 5/v. Пусть
<j(0) = inf{tt>0: Sn = 0}
— момент первого возвращения в нулевое состояние.
Показать, что при N —> оо
Е^.->Р{<7(0) = оо}.
(Вероятность Р{сг(0) = оо} есть вероятность невозвращения в нуль.) Ср.
этот результат с результатом в задаче 7 § 9 главы I.
Замечание. Если рассматриваемое блуждание является простым
(с Р{£! = 1}=р, P{£i =-l} = <7), то, согласно задаче 16 из § 8 главы VIII,
при N —> оо
иначе говоря,
(p-q, если р> 1/2,
E^f-Ь, если р = 1/2,
[<7~ р, если р< 1/2.
88. Пусть $i, &» ••• — последовательность независимых равномерно
распределенных на (О, 1) случайных величин. Положим
i/ = m'm{n^2: £„>£„_!}, ц(х) = тт{п^ 1: fi +...+£,>*},
где 0 < х < 1. Показать, что
(a) Р{^(х) > я} = *л//г!, /г > 1;
(b) Law(i/) = Law(/i(l));
(c) Ei/ = E/i(l) = e.
Указание, (а) Провести доказательство по индукции.
(Ь) Надо доказать, что P{i/ >n} = P{£i > £2 > • • • > £Л = 1/я!.

§ 7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ
109
89. Используя неравенство Гёльдера, доказать, что арифметическое
среднее не меньше геометрического среднего: для хь > 0, 1 < / < я,
лЕ*<>(ГЫ •
f=i \i=i /
§ 7. Условные вероятности и условные
математические ожидания относительно <т-алгебр
1. Пусть | и г/— независимые одинаково распределенные случайные
величины и математическое ожидание Е£ определено. Показать, что
Е(£\£+г)) = Е(г)\£ + г)) = Ц1 (п.н.).
Указание. Надо заметить, что для любого А е <т(£ + г}) выполнено
равенство Е£1А = Ег}1д.
2. Пусть £ь £г, ... —независимые одинаково распределенные
случайные величины с E|£i| < оо. Показать, что
Е(^, |5„, 5„+1, ---) = %■ (п.н.),
где S„=£i+... + £„.
Указание. Воспользоваться тем, что E&Ia =E£jIa для любого
Aea(Sa,Sn+u .-.)•
3. Предположим, что случайные элементы X и У таковы, что
существует регулярное распределение РХ(В) = Р(У € В \X =х). Показать, что если
E\g(X, Y)\ < оо, то Рх-п. н., где РХ(С) = Р{ш: Х(ш) е С},
E[g(X, У)|Х =*]=$£(*, z/)P,№/)-
Указание. Используя определение регулярного условного
распределения и понятие «7г-А-система» (см. § 2), показать, что для функций
п
g(x4 у) вида X) Л£7д, где Д- e&(R2), отображение
является ^(/?)-измеримым и
Eg(X, У)/в = $ A g(x, y)Px(dy)\Q(dx)
для любого В e&(R), где (? — распределение случайной величины X.
Отсюда вывести сначала, что эти свойства выполняются для ограниченных

110 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
38(R2)-измеримых функций, а затем — что они выполнены и для функций
g(x, у), для которых E\g(X, У)| < оо.
4. Пусть £ — случайная величина с функцией распределения F^(x).
Показать, что
ь
\ xdF^(x)
Е«1"<"*)-Щ=75И
(предполагается, что F$(b) - F^(a) > 0).
Указание. Воспользоваться тем, что, согласно определению
условного математического ожидания,
ь«|а<4^0)- Е[/(а<£0)]
(в предположении Е[/(а <£ <6)] >0).
5. Пусть g= g(x) — выпуклая книзу борелевская функция,
определенная на R и такая, что E|g(£)| < оо. Показать, что для условных
математических ожиданий справедливо (Р-п. н.) неравенство Иенсена
g(E(^)KE(g(|)W
Указание. Воспользоваться сначала тем, что для регулярного
условного распределения Q(x; В) величины £ относительно сг-алгебры У
E(g(Omu) = \g(x)Q(u;;dx)
R
(см. теорему 3), а затем применить неравенство Иенсена для «обычных»
математических ожиданий.
6. Показать, что случайная величина £ и сг-алгебра У независимы (т. е.
для любого Ве& случайные величины £ и 1в(cj) независимы) тогда и
только тогда, когда E(g(£) \<g) = Eg(g) для каждой борелевской функции
g(x) такой, что E|g(£)| < оо.
Указание. Если Ае& и В е &(R), то из предположения
независимости £ и У имеем Р(А n{g(£) eB}) = P(A) P{g(£) eB} и, значит,
E(g(Q\&) = Eg(g). Обратно, если это равенство выполнено, то, в
частности, можно взять g(g) = /(£еВ). Тогда найдем, что
Р(Ап{£еВ}) = Р(А)Р{£еВ},
что в силу произвольности А е У и В е 3§(R) означает независимость £ и У.
7. Пусть £ — неотрицательная случайная величина и У — сг-алгебра,
£^С j^\ Показать, что Е(£|^)<оо (п. н.) тогда и только тогда, когда
мера Q, определенная на множествах Ае& равенством Q(,4) = § £dP,
является сг-конечной. а

§ 7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ
111
Указание. Для доказательства необходимости надо положить
Ап = {E(£|£f)<n), проверить, что 0(Лл)</г, и отсюда заключить, что
мера Q является сг-конечной.
Достаточность. Из существования множеств А\, Лг, ... из У с
ос
1J Л/ = Q, и 0(Л;) < оо, / > 1, надо вывести, что Е(£ | У) < оо (Р-п. н.).
8. Показать, что условные вероятности Р(Л |В) «непрерывны» в том
смысле, что если НтЛ„=Л, \1тВп = В, P(B„)>0, Р(В)>0, то
lim P(An\Bn) = P(A\B).
9. Пусть Л=(0, 1), & = Щ(0, 1)) и Р - мера Лебега. Пусть Х(ш) и
Y(uS) — две независимые случайные величины, равномерно распределенные
на (О, 1). Рассмотрим третью величину Z(<v)= \X(<v) — Y(<v)\ — расстояние
между «точками» Х(и) и Y(u). Доказать, что распределение Fz(z)
величины Z имеет плотность fz(z) и fz(z)=2(\ — z), 0<z< 1. (Отсюда можно
заключить, что EZ = 1/3.)
10. В круге {(х, у): х2 + у2 < R2} радиуса R «случайным образом»
выбираются две точки А\ и Л2, иначе говоря, эти точки выбираются
независимым образом так, что (в полярных координатах, Л,-= (#,#,•),
/ = 1,2)
Р(А е dr, 9i е йв) = r-^-, / = 1,2.
Доказать, что расстояние р между точками А\ и Л2 имеет плотность
распределения fp(r), которая задается формулой
2г
2arccos(^)-10-(^
где0<г<2/?.
11. На единичном квадрате (с вершинами (0, 0), (О, 1), (1, 1), (1, 0))
«случайным образом» (поясните!) выбирается точка Р=(х, у). Найти
вероятность того, что эта точка Р будет ближе к точке (1, 1), нежели к
точке (1/2, 1/2).
12. (Задача о встрече.) Два человека Л и В договорились о встрече
между 7 и 8 часами вечера. Но оба забыли точное время встречи и приходят
между 7 и 8 часами «случайным образом» и ждут не более 10 минут.
Показать, что вероятность их встречи равна 11/36.
13. ПустьХ\,Х2, ... — последовательность независимых
случайныхBert
личин, Sn = X) Х[. Показать, что 5i и 5з условно независимы относительно
сг-алгебры <j(S2), порожденной величиной 5г.

112 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
14. Будем говорить, что сг-алгебры &\ и У2 условно независимы
относительно сг-алгебры £^з, если
Р(А\А2\Щ = Р(А\\Уъ)Р(А2\Уъ) для всех Де^,/ = 1,2.
Показать, что условная независимость &\ и Щ относительно ^з
равносильна выполнению (Р-п. н.) любого из следующих условий:
(a) Р(АХ \а{У2иЩ) = Р{Ах \УЪ) для всех Ах €0\\
(b) Р(В\а(^2 и^)) = Р(В\&$) для любого множества В из системы
подмножеств {Р\, образующих 7г-систему такую, что У\ =<т(<Р\);
(c) Р(ВхВ2\<т(&2и&з)) = Р(В\\&з)Р(В2\&з) А™ любых множеств Вх
и В2 из 7г-систем &*\ и £?2 соответственно таких, что &\=а(&\) и
У2=а(&>2);
(d) Е (X | сг(^2 U Щ) = Е (X | %) для любой о(У2 U%) -измеримой
случайной величины X с существующим (см. определение 2 в § 6) математическим
ожиданием EX.
15. Доказать следующую расширенную версию леммы Фату для
условных математических ожиданий (ср. с (d) в теореме 2).
Пусть (ft, &, Р) — вероятностное пространство и (£л)л^1 —
последовательность случайных величин таких, что определены математические
ожидания Е£л, я > 1, и Е ]im £л (которые могут принимать и значения ±оо;
см. определение 2 в § 6).
Предположим, что У есть сг-подалгебра событий из & и
sup Е (£"/(£,> а) | #)-> 0 (Р-п.н.), а^оо.
/г ^ 1
Показать, что
E(!im€/i|^)<iimE(€n|^) (Р-п.н.).
16. Пусть, как и в предыдущей задаче, (£л)л^1 —последовательность
случайных величин, для которых определены математические ожидания
Е£л, /г > 1, и Sf — ст-подалгебра событий из & такая, что
sup lim Е(|61|/(|{л|>*)|^) = 0 (Р-п.н.). (*)
п k—>оо
Показать, что если £л —>£ (Р-п. н.) и математическое ожидание Е£
определено, то
E(6,|Sf)-E«|fr) (Р-п.н.). (**)
17. Пусть в условиях предыдущей задачи вместо (*) выполнено
условие sup Е(|£л|а|^)<оо (Р-п.н.) для некоторого а> 1. Показать, что схо-
п
димость (**) будет иметь место.

§ 7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ
ИЗ
и
18. Пусть £„ —► £ для некоторого р > 1. Показать, что тогда
Е(£Л|30^Е(£|30
для всякой сг-подалгебры У с ^\
19. Пусть 1и У-случайные величины с ЕХ2 <оо, Е|У\ <оо.
(a) Пусть D(X | Y) = E[(X-E(X | У))2 | У]. Показать, что DJf = ED(Jf| У) +
+ DE(* | У). (Ср. с задачей 2 2 в § 8 главы I.)
(b) Показать, что cov(X Y) = cov(X, Е(У \Х)).
20. Выясните, является ли в примере 5 достаточная статистика Т(и>) =
= 5(^1(0;)) + ... +s(Xn(u>)) минимальной.
21. Докажите справедливость факторизационного представления (57).
22. В примере 5 п. 10 покажите, что Ee(Xi \ Т) = ——7\ где Xi(<v) = xt
для lo = (х\, ..., хп), i = 1, ..., п.
23. Пусть А,В иС\, ...,Сп — события из сг-алгебры & вероятностного
пространства (ft, &, Р). Предположим, что для любого / = 1, ..., п
P(Q)>0, P(A\Ci)>P(B\Ci)
п
и U Ci =^- Спрашивается: верно ли, что Р(А) > Р(В)?
24. Пусть X и Y — случайные величины с Е|Л] < оо, Е|У| < оо и такие,
4toE(X\Y)^Y wE{Y\X)^X (Р-п.н.). Показать, что X = Y (Р-п.н.).
Указание. Покажите сначала, что доказательство в случае с
неравенствами > сводится к случаю равенства.
Первый способ. Рассмотрим функцию g(u) = arctg и. Тогда
(X — Y)(g(X) — g(Y)) >0 (Р-п. н.), в то время как легко проверяется, что
Е[(* " Y)(g(X) ~ g(Y))] =0- Следовательно, Х = Y (Р-п. н.).
Х~*~ + 1 У~*~ + 1
Второй способ. Убедитесь в том, что Е -ггт—- = 1, Е -ггг—г =
F У+ + 1 Х+ + 1
= 1, и, полагая Z = -rm—г> покажите, что E\\fZ =) =1. Отсюда
Р{Х+ = У+} = 1. Аналогично показывается, что Р{Х~ = У-} = 1.
Замечание. Отметим между прочим, что нельзя найти случайные
величины X и У с Е|Л] < оо, Е|У|<оои такие, чтобы с вероятностью
единица были выполнены строгие неравенства E(X\Y)>Y и Е(У \Х)> X.
(Предположение о существовании таких случайных величин приводит к
противоречию: ЕХ = ЕЕ(Х | У) > ЕУ = ЕЕ(У \Х) > EX.)
25. Пусть X — случайная величина, имеющая геометрическое
распределение:
P{X = k} = pqk-\ *=1,2, ..., 0</?<1, q = \-p. (*)

114 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Показать, что для т, п е {1, 2, ...}
Р{Х>п + т\Х>п)=Р{Х>т). (**)
(Дайте интерпретацию этого свойства.)
Доказать также обратное утверждение: если дискретная случайная
величина, принимающая значения в множестве {1, 2, ...}, удовлетворяет
свойству (**), то она имеет геометрическое распределение (*).
(Ср. эту задачу с задачей 45.)
26. Показать, что случайные векторы (X, У) и (X, У) совпадают по
распределению ((*, У) = (X, У)), если и только если Р{Х е А | У} = Р{Х е А \ Y)
(Р-п. н.) для каждого события А.
27. Пусть X и У — две независимые пуассоновские случайные
величины с параметрами А > 0 и ц>0 соответственно. Показать, что условное
распределение Law(X\X + Y) является биномиальным:
Р{Х=цх + у=п) = с^у(^у-к *„,<><*<«.
28. Пусть £ — случайная величина, имеющая равномерное
распределение на интервале [—а, ft], где а> О, b >0. Пусть &\ =сг(|£|) и ^2 =0"(sign £).
Найти условные вероятности Р(Л|^-), / = 1,2, для событий А = {£>0} и
А = {£ < а}, где а е [-а, Ь].
29. Привести пример, показывающий, что равенство Е(£ + г}\&) =
= E(£|Sf) + E(»7|ef) (Р-п. н.) не всегда справедливо; ср. со свойством D*
в п. 4.
Указание. Может случиться, что E(£ + »/|ef) определено и равно
(Р-п. н.) нулю, в то время как сумма Е(£|^) + Е(?/|^) не определена.
30. При определении условной вероятности Р(В \&)(ш) события Ве^
относительно сг-алгебры У с & (см. определение 2 в п. 2) не
предполагалось, что Р( • | &)(и>) с вероятностью единица является мерой на (ft, ^).
Привести пример, показывающий, что некоторые версии Р(-\&)(ш)
могут быть (с положительной Р-вероятностью) не мерой.
31. Дать пример независимых случайных величин X и У и сг-алгебры
^ таких, что на множестве положительной меры для некоторых множеств
А иВ
Р(ХеА, YeB\&)(u)^P(XeA\&)(u)P(YeB\&)(u).
(Иначе говоря, независимость не влечет автоматически условную
независимость.)
32. Если семейство случайных величин {£„, п^ 1} равномерно
интегрируемо и £„ —>£ (Р-п. н.), то Е£„ —> Е£ (теорема 4Ь) в § 6). В то же время
сходимость (Р-п. н.) условных математических ожиданий Е(£л|^)—>E(£|Sf),

§ 7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ
115
я—>оо, доказывалась (теорема 2а)) в предположении, что |£л| <т/, Ет/<оо,
Привести пример, показывающий, что если условие «|£„| <т/, Ет/<оо,
я> 1» заменить на условие «семейство {£„, я> 1} равномерно
интегрируемо», то сходимости Е(£л |Sf) —> Е(£ |Sf) (Р-п. н.), я —> оо, уже может и не
быть. Аналогичное относится и к переносу свойства а) в теореме 4 § 6
(т. е. леммы Фату для равномерно интегрируемых случайных величин) на
случай условных математических ожиданий. (См., впрочем, утверждения в
приведенных выше задачах 15—17.)
33. Рассмотрим в качестве вероятностного пространства (ft, ^, P)
пространство ([0, 1], &, А), где А — лебеговская мера и ^" — система ле-
беговских множеств. Привести пример сг-подалгебры £^С^, для которой
у условного математического ожидания E(1|^)(cj) существует версия,
задаваемая функцией Дирихле
,, ч Г 1, со — иррационально,
10, со — рационально.
(Тем самым, вполне может случиться, что некоторая версия
условного математического ожидания E(£|Sf)(<j) «гладкой» функции £ = £(и>)
такой, как, например, £(<v) = 1, может быть как функция со крайне
«негладкой».)
34. Если математическое ожидание Е£ случайной величины £
определено, то, согласно свойству G* (см. п. 4), имеет место свойство Е(Е(£ \rj)) =
= Е£ (г) — некоторая случайная величина). Привести пример случайных
величин £ и т/, для которых математическое ожидание Е(Е(£|?/))
определено, однако Е£ не существует.
e~90k
35. Пусть ft = {0, 1,2, ...} и Ре{со = k) = ———, k > 0, есть пуассонов-
ское распределение с параметром 0>О. Показать, что для параметра 1/0
не существует несмещенной оценки Т = Т(со) (т. е. такой, что Ев\Т\ <оо,
0>О, и ЕвТ = \/в для всех 0>О).
36. Рассматривается вероятностно-статистическая модель (ft, ^, ^),
где семейство ^ = {Р} вероятностных мер Р является доминируемым.
Пусть &С.^ есть некоторая достаточная сг-алгебра. Показать, что
тогда и всякая сг-алгебра У такая, что У С <£ с ^, также будет достаточной.
(Известен пример Буркхольдера [18], показывающий, что в
недоминируемом случае это уже, вообще говоря, не так.)
37. Докажите, что следующие пространства являются борелевскими:
(a) (/?", @{Rn))\
(b) (Я°°, a(R°°))\
(c) польское (полное сепарабельное метрическое) пространство.

116 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
38. Пусть (Е, £) — борелевское пространство. Показать, что
существует суетно-порожденная алгебра я? такая, что &(£?) = £.
39. (К свойству К*.) Пусть г] — ^-измеримая случайная величина,
£— ^"-измеримая случайная величина и E\q\q < оо, Е\£\р < оо, где р > 1,
—h - = 1. Показать, что тогда Е(^т/|^) =rjE(£\&).
40. Пусть X — случайная величина, имеющая симметричное
распределение (Law(X) = Law(—X)) с функцией распределения F(x). Найти условное
распределение Р(Х ^х\а(\Х\))(и>), х G/?, где сг(\Х\) есть сг-алгебра,
порожденная случайной величиной \Х\.
41. Пусть А и В —два события такие, что Р(А) = а, Р(В) = 1 —/3, где
0 < /3 < 1, /3 < а. Показать, что
42. Пусть pk — вероятность того, что семья имеет k детей, причем
p0 = Pl=a(<\/2) и pk = (l-2a)2-V-l\ k>2.
(Вероятность ребенку быть мальчиком или девочкой равна 1/2.)
При условии, что семья имеет двух мальчиков, найти
(a) вероятность Рф) того, что эта семья имеет лишь двух детей;
(b) вероятность Рф) того, что в этой семье есть еще две девочки.
Указание. Задача решается простым применением формулы Бай-
еса. Для контроля укажем, что Рф) =27/64 и Рф) =81/512.
43. Пусть X — случайная величина с симметричным распределением
(Х = -Х) и функция <р = <р(х), xeR, такова, что Е\<р(Х)\<оо. Показать,
что
Е[<р(Х)\\Х\] = ±[<р(\Х\) + <р(-\Х\)] (Р-п.н.).
44. Пусть X — неотрицательная случайная величина. Найти условные
вероятности
P(Jf<jt||XJ) и Р(Х<*||Х|),
где L^J — наибольшее целое, не превосходящее X (в русскоязычной
литературе это число обычно обозначается [X]), и \Х] — наименьшее целое,
большее или равное X.
45. Если случайная величина X имеет экспоненциальное
распределение с параметром А > 0, т. е. Р{Х >х} = е~Хх, х > 0, то для любых
неотрицательных х и у выполнено следующее свойство (отсутствия
последействия)'.
Р{Х>х+у\Х>х) = Р{Х>у).

§ 7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ
117
Показать, что если для неотрицательной расширенной (т. е. со значениями
в [0, оо]) случайной величины X выполнено сформулированное свойство,
то имеет место один из трех случаев: или Р^^О}^ 1, или Р^^оо}^ 1,
или X имеет экспоненциальное распределение с некоторым 0< А < оо.
Указание. Обозначая f(x) = Р{Х > х}, х > 0, приходим к
соотношению f(x +у) = f(x)f(y). Тем самым доказательство требуемого утверждения
сводится к доказательству того аналитического факта, что это уравнение в
классе непрерывных справа неотрицательных не превосходящих единицы
функций имеет лишь следующие решения: или f(x) = О, или f(x) = 1, или
f(x) = е~Хх с некоторым параметром 0 < А < оо.
46. Пусть случайные величины X и Y имеют конечные вторые моменты.
Показать, что
(a) cov(X, Y) = cov(X, E(Y\X));
(b) при выполнении условия E(Y \X) = \ справедливо неравенство
DX < DXY.
47. Пусть Х\, ..., Хп — независимые одинаково распределенные
случайные величины, принимающие значения х (х £ {О, 1,...}) с вероятностью
f(x\ в) в дискретном случае или имеющие плотность f(x\ в) (х £ R) в
абсолютно непрерывном случае, где в — некоторый параметр.
Будем рассматривать вопрос о построении достаточных статистик
Тп = Тп(Х\у ..., Хп) для параметра в при различных предположениях
относительно f(x\ в).
Показать, что
(a) если f(x;0)=0(\ — 0)х,х£{0, 1, ...}, иО<0<1 (геометрическое
распределение), то достаточной статистикой для в является Тп=Х\+... +Хп\
(b) если
(бета-распределение с параметрами а = 0, /3 = 2; см. таблицу 3 в § 3), то
достаточной статистикой для в является Тп=Х\ •... -Хп;
(c) если
f(x.Q)=xe-x/e, x>o, 0>О
и
(экспоненциальное распределение с параметром А =1/0, или, что то же,
гамма-распределение с параметрами а= 1 и /3 = 0; см. таблицу 3 в § 3), то
достаточной статистикой для в является Тп=Х\ +... +Хп\
(d) если
1(х-в) = -^е-х2'2е\ x£R, в>0

118 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(нормальное распределение .Ж(0, а) с параметром <т = в), то достаточной
статистикой для в является Тп =Xf +.. .+Х%\
(е) если
Пх;в) = Тщ^хв-1е-^, О0, в>0
(гамма-распределение с параметрами а = 0, /3>0; см. таблицу 3 в § 3), то
достаточной статистикой для в является Тп=Х\ +...+Хп.
Пусть f(x\ а, (3) есть плотность бета-распределения (см. таблицу 3 в
§3)иа = /3 = 0>О. Найти достаточную статистику для параметра в.
Пусть
"«-{;-
v ; ^ х<0ь
— распределение Парето с (двумерным) параметром 0 = (0\, 02), где в\ >0,
02 > 0 (ср. с определением в задаче 23 в § 6 главы III). Найти достаточную
статистику для параметра в = (0\, 62).
§ 8. Случайные величины. II
1. Проверить справедливость формул (9), (10), (24), (27), (28),
(34)-(38).
2. Пусть £i, ..., £„, п>2, — независимые одинаково распределенные
случайные величины с функцией распределения F(x) (и плотностью /(х),
если таковая существует) и£ = тах(£ь..., £Д £ = min(£i, ...,£„), р = £ —£.
Показать, что
f /„ и /(/W-ra-/W. у>х<
ф^{Т
f (у,х) = Г— W(y)-F(x)]n-2f(x)№, У>х,
- ' 'n # < *,
W = < -So
[О, *<0,
Ln - 1) 1 [F(y) - F(y - x)]n-2f{y - x)f(y) dy, * > 0,
lp\X) — \ -00
0, x < 0.

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
119
3. Пусть £i и £2 — независимые пуассоновские случайные величины с
параметрами Ai > 0 и Х2 > 0 соответственно. Показать, что
(a) £i +£2 имеет пуассоновское распределение с параметром Ai +A2,
(b) £i — £2 имеет следующее распределение:
Р«.-^2 = ^ = е-«А'+А2»(^)*/2/й(2лД^), k = 0, ±1, ±2
где
Ik(2x)=xk^T
^ г!Г(/г + г+1)
г=0
есть модифицированная функция Бесселя первого рода порядка k.
Указание. Один из способов доказательства утверждения (Ь)
основан на рассмотрении производящей функции величины £i — & с
представлением ее в виде ряда (см. детали в § 3 приложения).
4. Пусть в формуле (4) на с. 302 книги «Вероятность— 1» т\ = т2 =0.
Показать, что
г / ч_ а\а2\/[-р2
5. Величина р*(£, rj) = sup р (u(£), v(r})), где супремум берется по всем
и, v
борелевским функциям и = и(х) и v = v(x), для которых коэффициент
корреляции р(и(£), v(rj)) определен, называется максимальным
коэффициентом корреляции £ wq. Показать, что случайные величины £ и rj
независимы тогда и только тогда, когда р*(£, г})=0. (См. также следующую
задачу 6.)
Указание. Необходимость очевидна. Для доказательства
достаточности положим u(£) = Ia(£), и(г}) = 1в(г}), где А, В — произвольные
борелевские множества. Из свойства sup p(u(£), v(rj)) = 0 надо заключить,
что
Р«бДч€в}-РК€Д}Р{Ч€в} = р(Ш,Ш)=0.
Это, в силу произвольности А и В, будет означать независимость £ и т/.
6. (Продолжение задачи 5.) Пусть (ft, ^, P) — вероятностное
пространство, &\ и &2 —две сг-подалгебры & и L2(ft, ^-, Р) — пространство
случайных величин с конечным вторым моментом, / = 1,2.
Положим
P*(^l,^2)=SUp|p(€i,62)|,
где р(£\, £2) — коэффициент корреляции величин £i и & и супремум берется
по всем парам случайных величин (£ь£2) таким, что £,-eL2(ft, &u P),
/ = 1,2.

120 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(a) Показать, что если &\ =а(Х\) и ^2 =<7№)> гДе Х\иХ2 — некоторые
случайные величины на (С1, &', Р), то
р*(а(Х^а(Х2)) = \р(ХиХ2)\.
(b) Пусть &\ = V М (= U М),<?2 = V ^ (= U @i) , где / - некото-
рое множество индексов, s^u SSt —сг-алгебры и все сг-алгебры сг(^, £§{),
i £ /, являются независимыми в совокупности. (Под сг(^, S&i)
понимается наименьшая сг-алгебра, порожденная множествами А[ £ srfi и Вь £ 3Si)
Показать, что
Р* (У М, V ^Л =SUP Р*(М, Щ.
7. Пусть c^i и«?2- две сг-подалгебры. Введем следующие
характеристики перемешивания (супремум берется по множествам А £&\, В £^2)'-
а(&{, &2) = sup\P(AnB)-P(A)P(B)\,
ср(&{, &2) = sup\P(B\A)-P(B)\ с Р(Л)>0,
^(^^2) = sup|pP(y)gg)-l| с Р(Л)Р(В)>0,
пусть также
N М
№и ^2)=SUP ^ £ £ |Р(Л, П^у) - Р(Л,) P(^y)U
£ = 1 / = 1
где супремум берется по всем парам конечных разбиений {А\, ..., А^} и
{Вь ..., Вм) cAi£3?{, Bj£&2 для всех 1</<N, 1</<Л1
С учетом коэффициента /0*(^ь &2), введенного в предыдущей задаче,
доказать справедливость следующих неравенств:
и
<*(^i, ^2)<P*(^i, ^2)<2^/2(^i, J^2),
8. Пусть Ti,..., Tfc — независимые неотрицательные одинаково
распределенные случайные величины с экспоненциальной плотностью
распределения
f(t) = \e~xt, />0.
Показать, что распределение случайной величины т\+... + Тк имеет плот-
Н0СТЬ /, и 1 w
00,
№-1)!

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
121
k-\
P(n+... + Tk>t) = Y;e-xt^.
(=0
Пусть £~=Л^(0, сг2). Показать, что для всякого р > 1
где
Е|£|р = Сра",
Ср~тг'/2Ч 2 )
оо
и Г($) = \ e~xxs~x dx — гамма-функция Эйлера. В частности (ср. с зада-
о
чей 36 в § 6), для любого целого п > 1
Е£2п = (2п-1)\\а2п.
10. Пусть £ и г] — независимые случайные величины такие, что
распределение £ + г} совпадают с распределением £. Доказать, что гу = 0 (Р-п. н.).
Указание. Воспользуйтесь тем, что если г}\, ..., ry„, п> 1, —
независимые случайные величины, имеющие такое же распределение, как и
г/, и независимые от £, то распределение £ + rj\ +... + щ при любом п > 1
совпадает с распределением £.
Если предполагается существование всех моментов у £ и г/, то для
доказательства можно воспользоваться также сравнением семиинвариантов
4+*с4Л> ПРИЙ>! (см-§ 12)-
11. Пусть пара величин ([/, V) имеет равномерное распределение на
единичном круге {(и, v): и2 + и2 < 1} и W = U2 + V2. Положим
Показать, что J и У являются независимыми *Ж(0, ^-распределенными
случайными величинами.
12. Пусть U и V — независимые равномерно распределенные на (0, 1)
случайные величины. Определим
X = V- In V cos(2tt£/), Y = V- In V s\n(2irU).
Показать, что X и Y независимы и ^(0, 1)-распределены.
13. Пусть положительная случайная величина R имеет распределение
Рэлея, т. е. распределение с плотностью

122 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
где а2 > О, и пусть в — случайная величина, имеющая равномерное
распределение на (а, а + 27гй), где keN = {1, 2, ...} и ае [0, 27г).
Показать, что величины X = R cos в и У = /? sin 0 независимы и имеют
нормальное распределение .Ж(0, а2).
14. Привести пример гауссовских величин £ и ??, сумма которых £ + гу
имеет негауссовское распределение.
15. Пусть X — случайная величина, распределенная по закону Коши с
плотностью
(/ ч 1 а
/ W = 9 9 •
Показать, что плотность g(y) распределения вероятностей случайной
величины Y = Хп задается формулой
п-\
ay n
g(y) =
—«9777, п нечетно и yeR,
im(a2+y2/n) *
п-\
%аУ п ^ /л
—-| Т7—, я четно и у >0.
, 7rrt(a2 + £/2/")
16. Пусть F(x) — функция распределения. Показать, что для всякого
а > 0 функции
Gi (х) = - § /^w) dw и G2(x) = — § F(u) du
х х—а
также являются функциями распределения.
17. Пусть случайная величина X имеет экспоненциальное
распределение с параметром А > 0 (fx(x) = \е~Хх1(х > 0)).
(a) Найти плотность распределения (называемого распределением
Вейбулла) случайной величины Y =Х^а, а > 0.
(b) Найти плотность распределения величины Y = \п X
(соответствующее распределение называется двойным экспоненциальным
распределением, см. также задачу 48).
(c) Показать, что целая и дробная части ([X] и {X}) случайной величины
X являются независимыми. Найти распределения этих величин.
18. Пусть случайные величины X и У имеют совместную плотность
распределения /(*, у) вида /(*, у) = g(\/x2 + y2).
(a) Найти совместную плотность распределения случайных величин р =
= VX2 + У2 и e = avctg(Y/X). Показать, что р и в независимы.
(b) Пусть U=(cos a)X + (sm a)Y и K = (-sin a)* + (cos a)Y, ae[0, 2тг].
Показать, что совместная плотность распределения величин U и V
совпадает с /(*, у). (Это отражает факт инвариантности распределения вектора
(X, Y) относительно «вращения».)

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
123
19. Пусть Х\, ..., Хп — независимые одинаково распределенные
случайные величины с непрерывной функцией распределения F = F(x).
Поскольку в этих предположениях P{Xt =Л,-} = 0, / ^ / (см., например,
задачу 76 далее), то
Р{Х[ = Xj для некоторых / ^ /} = Р
\J{xi=xl}UJ2p^=x^ = 0'
Отсюда следует, что с вероятностью единица величины Х\ (и), ...,Хп(ш)
можно (и притом единственным способом) переупорядочить по их строгому
возрастанию.
Если эти новые величины (называемые порядковыми
статистиками; см. также § 13 в главе III и задачу 8 к § 12 главы I) обозначать
Х[п\ ..., Х^\ то с вероятностью единица будем иметь:
х1пНы)<...<хР(Ш)
и (ср. с задачей 2)
Х\п)(ш) = min№ И, ..., Хп(ш% ..., ХР(ш) = тах№ (и), ..., Хп(ш)).
(a) Показать, что функции распределения F^ = F^\x) величин Х^
удовлетворяют для 2<й<яия>2 следующим соотношениям:
Ff{x) = F(x)F^){x) + (\-F(x))Ff-X)(x).
Предположим дополнительно, что функция распределения F = F(x)
имеет плотность / = f(x).
Показать, что:
(b) плотность распределения вероятностей величины X}™ задается
формулой
nf(x)CkHz\[F(x)]k-l[l-F(x)]a-k;
(c) совместная плотность f^(x\, ...,хп) величин Xf\ ..., Х^ задается
формулой
(Л)/_ „ ч_ )п\ f(x\)...f(xn), если х\<...<хп,
!% *)={;'
/ . .. ...
в других случаях;
(d) если f(x) = I[Qt\](x) (т. е. распределение величин^- является
равномерным на [0, 1]), то

124 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
20. Пусть £i, ..., in — независимые одинаково распределенные
случайные величины с нормальным распределением J/(m, а2). Величины
носят названия выборочного среднего и выборочной дисперсии.
Показать, что:
М
(а) Es2 = a2;
(b) выборочное среднее £ и выборочная дисперсия s2 независимы;
(c) \~J/(m, <J2/n), а (п— \)s2/a2 имеет распределение х2 с (п— 1)
степенью свободы.
21. Пусть Х\, ..., Хп — независимые одинаково распределенные
случайные величины, v — случайная величина, не зависящая от Х\, ..., Хп и
принимающая значения в множестве {1,..., п). Показать, что (Su =Х\ + ...
...+*„)
D5^D^E, + (E^)2D,, °g = gL + Klg.
22. Пусть M(s) = EesX — производящая функция моментов случайной
величины X (см. задачу 32 в § 6). Показать, что Р{Х > 0} < М(s) для
всякого 5 > 0.
23. Пусть X, Х\,..., Хп — независимые одинаково распределенные слу-
п — —
чайные величины, Sn = Y\ X/, 5о =0, Мп = max 5/, М = sup Sn. Показать,
что («£ = г}>> означает, что распределения £wq совпадают)
(a) Л?я^=(Л?/1_1+Л)+, п>1; _и
(b) если Sn^oo (Р-п.н.), то М = {М+Х)+\
(c) если -оо < ЕХ < 0 и ЕХ2 < оо, то
- DX-D(S + X)-
-2Е*
24. В предположениях предыдущей задачи пусть М(е) = sup(S„ -пе)
для £ > 0. Показать, что lim еЛ?(с) = (D^)/2. п > °
£|0
25. Пусть £ и г/ — независимые случайные величины с плотностями
/$(*), хе/?, и fv(y) = l[o,\](y) (т. е. ?7 имеет равномерное распределение
на [0, 1]). Показать, что в рассматриваемом случае формулы (36) и (37)
принимают следующий вид:
Ш = {? х
0, 2<0,

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
125
Ш*) =
\xf^(zx)dx, 0<z< l,
<
1 г
— \^xft(x)dx, z> 1,
о
О, z<0.
В частности, показать, что если случайная величина £ также имеет
равномерное распределение на [0, 1], то
0<z< 1,
26. (а) Пусть £ и г} — независимые экспоненциально распределенные
(с одним и тем же параметром А > 0) случайные величины.
Показать, что случайная величина -т^— равномерно распределена
на [0,1]. €+?7
(Ь) Показать, что если £ и г/ — независимые экспоненциально
распределенные случайные величины с параметрами \\ и А2, причем \\ ф\<1, то
плотность fe+v(z) распределения суммы £ + rj задается формулой
e-zAi _ e~z/x'2
fi+v(Z) = At-A2 Ао,оо)(2).
27. Пусть £ и г} — независимые *Ж(0, ^-распределенные случайные
величины. Показать, что
(a) величины £/г/ и £/|г/| имеют распределение Коши с плотностью
/fl 1 9,,xeR;
7Г(1+Х2)
2
(b) величина |£|/М имеет плотность распределения —- ^-, х>0.
7Г(1 + XZ)
28. Пусть Х\, ..., Хп — независимые экспоненциально распределенные
случайные величины с параметрами Аь ..., \п соответственно, при этом
А/ фАу, 1ф \. Положим Тп=Х\ +...+Хп. Показать, что вероятность
Р{Тп > t) может быть представлена в следующем виде:
п
Найти коэффициенты am, i = 1, ..., п.

126 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
29. Пусть £i, £2, • • • — последовательность случайных величин с Е£„ = О,
Е£% =1 и Sn = £\+ ... + £п, п^\. Тогда для положительных а и b
P{Sn^an + b для некоторого п> 1}<
1 +ab'
30. Пусть случайная величина £ принимает конечное число
неотрицательных значений х\, ..., Xk. Показать, что
lim (Ее)1/п = тгх(хи ...,**).
п—>оо
31. Пусть £ и г} — независимые случайные величины, принимающие
значения в множестве {1,2, ...}. Предположим, что или Е£<оо, или
Егу<оо. Показать, что
оо
k=\
32. Пусть £i и £2 — независимые случайные величины, имеющие
экспоненциальное распределение с параметрами Ai и А2 соответственно. Найти
функции распределения величин и .
33. Пусть X и Y — случайные матрицы одинакового размера, причем
матрица EYY* обратима. Доказать следующее матричное неравенство
Коши—Буняковского:
(EXY*)(EYY*)-l(EYX*)^EXX*.
(Знак < означает здесь неотрицательную определенность матрицы,
образованной разностью матриц в правой и левой частях приведенного
матричного неравенства.)
34. (Л. Шепп.) Пусть X — бернуллиевская случайная величина,
Р{Х = 1} = р,Р{Х = 0}=1-р,0<р<1.
(a) Показать, что существуют независимые от X случайные величины У,
для которых распределение их суммы симметрично, т. е. X + Y = — (X + У).
(b) Найти среди таких случайных величин У ту, у которой дисперсия
DY минимальна.
35. Пусть U — случайная величина, имеющая равномерное
распределение на (0, 1). Показать, что
(a) для всякого А>0 величина — -г In U имеет экспоненциальное
распределение с параметром А;
(b) величина tg 7г ([/ — -] имеет распределение Коши с плотностью
VI (1 +Х2)

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
127
(с) величина [nU] + 1 имеет равномерное дискретное распределение на
имеет геометрическое
множестве {1, 2, ..., п}\
(d) если 0 < q < 1, то величина X = 1 +
L In q J
распределение Р{Х = k} = qk~{{\ - q), k > 1.
36. Привести пример независимых одинаково распределенных
неотрицательных случайных величин Х\, Л^, ... с sup ЕХ£ <оо для всех р>0,
но таких, что "
PJsupX,,,. <оо}=0
для любой подпоследовательности (п\, П2, ...).
37. Пусть £ и г] — две независимые случайные величины с
функциями распределения F = F(x) и G = G(x). Из свойства Р{тах(£, т})^х} =
= P{£^x}P{q^x} следует, что функция распределения тах(£, гу) равна
F(x)G(x). Установите этот результат иным путем, представляя событие
{тах(£, *7)<л:} как сумму дэух событий {£<*, £>г/} и {гу<х, £<г/},
вероятности которых подсчитайте с использованием условных вероятностей.
(На заключительном этапе воспользуйтесь формулой (68) из § 6.)
38. Пусть £ и г} — две независимые случайные величины такие, что
их произведение £гу имеет пуассоновское распределение (с параметром
А>0). Показать, что одна из величин £,wq должна непременно принимать
значения в множестве {0, 1}.
39. Для стандартной нормально распределенной, .Ж(0, 1), случайной
величины £
Р{£ > *} ~ —, х -> оо, где <р(х) = -)= е-*1'2,
х V27r
(См. задачу 9 в § 6 главы I.) Найти соответствующую асимптотику для
случайной величины 7, имеющей гамма-распределение (таблица 3 в § 3).
40. Пусть £ — произвольная случайная величина и Ма — множество
медиан (по определению (а) в задаче 23 § 4 главы I; определения медианы,
данные в этой задаче для дискретных случайных величин, автоматически
переносятся на случай произвольных величин). Показать, что для всякого
b e R и р > 1 такого, что Е|£|^ < оо, справедливо неравенство
\р-Ь\р^2Е\£-Ь\р,
где медиана ц = ц(£) еМа. (Заметим, в частности, что если Е|£|2<оо, то
\р-Е£\^у/Щ.)
41. Пусть £ и г} — независимые случайные величины с конечными
вторыми моментами. Показать, что случайные величины £ + гу и £ — гу некор-
релированы в том и только том случае, когда D£ = Dry.

128 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
42. Пусть / и g — две функции из L1. Обозначим / * g их свертку
(= 5 f(y)g(x - У) dy). Показать, что справедливо следующее неравенство
R
Юнга:
\\(f*g)(x)\dx<\\f(x)\dx.\\g(x)\dx.
R R R
43. Формула (22) дает выражение плотности fv(y) случайной величины
V = <p(Q через плотность f^(x)\
где h(y) = <p-x(y).
Пусть / — открытое множество в Rn и у = ср(х) — функция, определенная
на /, со значениями в Rn. (Если х = (х\, ...,xn)el, то у = (у\, ..., уп),
где yi =(pi(x\, ..., хп), i = 1, ..., п.) Предполагается, что все производные
-r-L существуют и непрерывны, при этом |/<р(*)| >0, х е/, где J<p(x) есть
OX j
детерминант якобиана функции <р:
/v(jt) = det|№||, U/,/'<"•
11 OXj 11
Показать, что если £ = (£ь ..., £„) — случайный вектор со значениями в /,
имеющий плотность /$(*), и гу = <£>(£)* то плотность fv(y) существует и на
множестве ср(1) = {у: г/ =(р(х), xel) задается следующей формулой:
где h = cp~l — обратная к <р функция (и \Jh(y)\ > 0, поскольку |/<р(*)| > 0).
Указание. Применить многомерный аналог формулы
интегрирования с помощью подстановки (задача 74 из § 6), положив в ней
g(x) = G(cp(x)) fz(x) с подходящим образом выбранной функцией G.
44. Пусть г} = А£ + В, где £ = (£ь •••, &), V = (V\> •••>*?Д матрица А
порядка пхп такова, что |det A\ > 0, и В есть я-мерный вектор. Показать,
что
Указание. Воспользуйтесь результатом предыдущей задачи 43,
взяв ср(х)=Ах + В, и покажите, что |/^-i(#)| = l/|det A\.
45. (а) Пусть £ и гу — две случайные величины с коэффициентом
корреляции р(£, rj). Показать, что
р(с\£ + с2, сз*7 + с4) = />(£, г/) • sign(ciс3),
где sign л: = 1 при л: > 0, 0 при х = 0и -1 при х < 0.

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
129
(b) Пусть £i, £2, £з, £4 — случайные величины с коэффициентами
корреляции /о(£/, £,-), /^/. Показать, что
Р«1 +&, & + W = [p(fl, &) + P«l, &)] + [*(&, &)+Р«2, £4)].
46. Пусть J = (Х\, ..., Хл), я > 2, — гауссовский вектор, состоящий из
независимых одинаково распределенных случайных величин Xi ~<Ж(0, а2),
/ = 1, ..., п. Рассмотрим сферические координаты /?, Фь ..., Ф„_1 вектора
Х = (Хи ...,*„), т. е. пусть /?>0, Ф£-е[0, 2тг), 1</<л- 1, и
X\=R sin Ф1,
Xm = R sin Фт cos Фт_1 ...cos Фь 2<га<я- 1,
^„-1 = /? Sin Ф„_1 COS Фдг-2 ...COS Фь
Xn = R COS Ф„_1 COS Фдг-2 • • • COS Ф1.
Показать, что совместная плотность /(г, <р\, ..., <pn-\) величин (/?, Фь ...
...,Ф„_1) задается (для г>0, <#е [0, 27г), / = 1, ..., п- 1, я>2) следующей
формулой: 9
(2тг)"/2а"
rn { ехр(
/(Г, V?l, .-., <Рп-\) = ,0 v„/o Г COS" 2 V?l COS" 3 V32-..COS ^/1-2.
47. Пусть J — случайная величина со значениями в [0, 1], функция
распределения которой есть канторова функция (см. § 3). Найти моменты
ЕХп, я>1.
48. (а) Показать, что функции
FQ(x) = exp(-e~x), xeR;
fFW = {exp(-^), *><>, ГДеа>°;
_ . ч (ехр(-|*|а), х<0, .
^wW = < / ^п гдеа>0,
являются функциями распределения. Эти функции, называемые
соответственно распределением Гумбеля (или двойным экспоненциальным
распределением; ср. с задачей 17) Fq(x), распределением Фреше Ff(x) и
распределением Вейбулла F^(x), порождают распределения F\, F\\ и F\\\
следующих трех типов, играющий важную роль в классической теории
экстремальных значений:
Тип I (распределения типа Гумбеля):
F](x) = FQ(ax + b), a>0, beR\

130 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Тип II (распределения типа Фреше):
Fu=FF(ax + b), a>0, beR\
Тип III (распределения типа Вейбулла):
F\\\=Fw(ax + b\ a>0, beR.
(b) Показать, что если случайная величина X имеет распределение
второго типа, то величина
Y = \n(X-fi)
будет иметь распределение первого типа, и, аналогично, если X имеет
распределение третьего типа, то величина
Y = - \n(fi-X)
будет также иметь распределение первого типа.
Замечание. Эти свойства объясняют, почему в «теории
экстремальных значений» определяющую роль играют именно распределения первого
типа, которые иногда называют распределениями экстремальных
значений.
49. (Факториальные моменты) Пусть X — случайная величина. Ее
факториальные моменты Ш(Г) определяются формулой
m{r) = EX(X-l)...(X-r+l), г=1,2, ...,
т. е. т{г) = Е(Х)г.
Пусть X — случайная величина, распределенная по закону Пуассона с
параметром А. Для г = 3 момент Ш(3) =А. Найти Ш(Г) для всех г.
50. Пусть 0\ и #2 —Две независимые случайные величины, равномерно
распределенные на [0, 27г), и ^i =cos в\, Х<± =cos #2-
Показать, что
^№+^2)1=^1^2
/ law d -.
(напомним, что запись « = », так же как и «=», означает совпадение по
распределению).
51. Пусть 0 — случайная величина, имеющая равномерное
распределение на [0, 27г), и С — случайная величина, распределенная по закону Коши
с плотностью —■ от, х G R.
7Г(1+Х2) j
(a) Показать, что распределения вероятностей величин cos2 в и ———^~
совпадают (в краткой записи cos2 в ^1/(1 +С2));
(b) Показать, что ctg - = С.

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
131
(с) Найти плотности распределения случайных величин sin(0 + <£>),
<peR, и a tg0, а>0.
52. Пусть £ — экспоненциально распределенная случайная величина
(Р{£>/} = е_/, />0) и N — стандартная нормально распределенная
(N ~<Ж(0, 1)) случайная величина, не зависящая от £. Показать, что
£ = л/2?|"|,
т. е. Law(£) — закон распределения £ — совпадает с Law(>/2f | Л/" |) — законом
распределения величины y/%£\N\.
53. Пусть X — случайная величина, принимающая значения 0, 1, ...
..., УУ, с биномиальными моментами bo,b\,..., fe/v (bk = С* = -ттЕ(Л^ =
1
= tj-EJ^ — 1)...(Л" — k+ 1); см. § 3 в приложении).
Показать, что производящая функция
/ N
Gx(s) = Esx = £М*-1)* = £ *"(£(-!)'
k=0 n=0 \k=n
k-nCibk
и, следовательно, для каждого п = О, 1, ..., N вероятность
k=n
54. Пусть X и Y — независимые случайные величины с равномерным
распределением на [0, 1]. Показать, что случайная величина
-{;
\X + Y, еслиО<* + У<1,
(Х + У)-\, если К* + У<2,
также равномерно распределена на [0, 1].
55. Пусть Х\, ..., Хп — независимые одинаково распределенные
случайные величины, принимающие три значения 0, 1 и 2 с вероятностями 1/3.
Дать общую формулу для вероятностей
Pn(k) = P{Xl+... + Xn = k), 0<6<2/г.
(Кпримеру, Ра(1) = п-3-", />„(2) = С2п+Х • 3"", Р„(5) = (С„5+4-пС2п+х)• 3"".)
56. Пусть £ и г} — произвольные случайные величины с Е£2 < оо,
Ег}2 < оо. Показать, что
(a) D(£±4) = D£ + D4±2oov(£,4);
(b) если величины £ и rj независимы, то
D(^) = D£ ■ Drj + D£ ■ (Er,)2 + Dr, ■ (E£)2.
(См. также утверждение в задаче 69.)

132 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
57. Пусть плотность /(х, у) пары случайных величин (X, Y) является
«сферически симметричной», т. е. имеет вид
f(x,y) = g(x2 + y2)
с некоторой функцией плотности g = g(z), z > 0. Пусть R и в — полярные
координаты: X =R cos 0, Y = R sin 0. Показать, что в равномерно
распределено на [0, 27г), a R имеет плотность h(r) = 2я-гg(r2).
58. Пусть пара случайных величин (X, Y) имеет плотность /(х, у).
Определим комплекснозначные случайные величины
Z=X + iY, Zt=Zeil, teR.
Доказать, что для того чтобы при всех teR величины Zt имели одно
и то же распределение, необходимо, чтобы плотность /(х, у) имела вид
f(x, у) = g(x2 +y2), где g, как и в предшествующей задаче, есть некоторая
функция плотности.
59. Пусть £ и г} — две независимые случайные величины с
экспоненциальной плотностью f(x) = \е~Хх, х>0. Показать, что случайные величины
£ + т/ и £/т/ являются независимыми.
60. Пусть £ и г} — две независимые случайные величины с плотностями
Показать, что распределение случайной величины £т/ является
нормальным, ^К(0, <j2).
61. Рассматривается матрица Ц&/Ц порядка пхп, все (случайные)
элементы которой независимы и таковы, что Р{££-7- = ±1}= 1/2. Показать, что
среднее значение и дисперсия детерминанта этой случайной матрицы равны
соответственно Ои/i!.
62. Пусть X\,X<i, ... —независимые случайные величины, имеющие
равномерное распределение на [0, 1]. Показать, что
" п 1-1
е£**2
Л=1
k=\
2
;г, AZ—>00.
63. Пусть Л" = (Л"ь ^2, А'з) — случайный вектор, имеющий равномерное
распределение на положительном ортанте
£з = {(*ь *2, *з): х\ >0, Х2>0, хз>0 и jcj + *2+*з<£}>
где с>0. Найти по распределению вектора ^ = (^1, X<i, X%)
распределения величин Х\ и (Х\, Х2). (Эти распределения называют маргинальными
распределениями вектора (Х\, X<i, X3).)

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
133
Указание. Надо сначала показать, что плотность f(x\, x<i, xs)
вектора X = (Х\, Х%, Х3) есть V~l, где V — объем ортанта Х)з, равный с3/6.
Отправляясь отсюда, установить, что двумерная (маргинальная) плотность
/(*ь %2) = 6(с — х\ — Х2)/с, и затем найти (одномерную маргинальную)
плотность f(x\).
64. Пусть Х\, ..., Хп — положительные независимые и одинаково
распределенные случайные величины с ЕХ\ =fx, EJj-1 = г и Sm = Х\ +...+Хт,
1 < т < п. Показать, что
(а)Е5"Чг;
(b) EXiS-l = l/n, / = 1, ...,л;
(c) Е5т5~! = т/п, если га < п;
(d) ES^S"1 = 1 + (n-ra)ES~\ если т<п.
65. (Распределение Дирихле.) В таблице 3 § 3 бета-распределение
(с параметрами а>0, /?>0) определялось как распределение на [0, 1] с
плотностью
/(*;<*,/?) =
«-1/г ^/»-1
(1-*у-
В(о, /9) *
где
B(af/3) = S*e-'(l-^-'rfJc (=Щ±^сГ(а) = ^«-'в-^^.
Многомерным аналогом бета-распределения является распределение
Дирихле, вводимое как распределение на множестве
Д*_1 ={(хх, ..., xk-\): xi^O, 0<xi + ...xk-\ <l} c£>2,
определяемое плотностью
f(x\, ..., x^_i; ai, ..., a^_i, a^) =
_ r(a1+... + afe) a,_! e*-.-l/i / , , чча4-1
" Г(а,)...Г(ал) *l •"^-1 U 1*1+■•■ + **-!» •
где параметры a, > 0, / = 1, ..., k. (Иногда это распределение вводится на
симплексе < (х\ , ..., Xk): xt > 0, X) jc£- = 1 > с помощью «плотности»
^Х| Х*; «'• -• "*"'• «*) = r(a,)...r(at) *' -** •
но мы не зря здесь слово «плотность» взяли в кавычки, поскольку,
несмотря на свой естественный вид плотности, функция f(x\,..., Xk\ ot\, ...
..., ctk-\, otk) не является плотностью по мере Лебега в Rk)
Пусть случайный вектор ^ = (^1, ..., Xk) с неотрицательными
компонентами Xi > 0 такими, что Х\ +... + Xk = 1, имеет распределение Дирихле

134 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
с плотностью f(x\, ..., Xk-\\ ot\, ..., otk-\, otk) на A^_i (в том смысле, что
это есть плотность распределения случайных величинХ\, ..., Xk-\,
оставшихся в векторе (Х\, ..., Xk) после исключения последней компоненты Xk
с помощью равенства Xk = \ — (Х\ + .. .+Xk-\)).
(а) Показать, что
"/YE <*£-<*/)
Е«« (e«/)2(.E«/ + i)
Е*; = -^, D*,=
(s-jte4*1)
(b) Показать, что для неотрицательных целых г\, ..., г^ моменты
гГЕ"-) П Цо^+г,-)
П Ца^Х^+г,-))
£ = 1 \£ = 1 /
EJ['...^ =
(с) Найти условную плотность fxk\xu...yxk-Mk I *ь • • •»*fc-i) величины ^
относительно величин A"i, ..., ^_i.
66. Функцией концентрации случайной величины X называется
функция
Q(X\ I) = sup P{x < X < х + /}, / > 0.
Показать, что:
(a) если X и У — независимые случайные величины, то
<?(* + У; /) < min(<?(*; /), <?(У; /)) для всех / > 0;
(b) найдется такое х*, что Q(X; I) = Р{х* < X < х* + /}, и функция
распределения величины X непрерывна тогда и только тогда, когда Q(X; 0) = 0.
Указание, (а) Надо заметить, что если Fx и Fy — функции
распределения величин X и У, то
оо
P{z<X + Y^z + l} = $ [Fx(z + l-y)-Fx(z-y)]dFY(y).
—оо
67. Пусть ^^^(т, а2) (т. е. $ имеет нормальное распределение с
параметрами т и а2) и г] = е^ — логарифмически нормальная случайная

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
135
величина, имеющая, согласно формуле (23) в § 8, плотность
7^-yM-^^-l »>0>
О, г/<0.
Для ае [-1, 1] образуем функцию
/(«)(«)= fM»Hl-«sin[7r(7-2(m-lny)]}, r/>0,
\0, г/<0.
(a) Показать, что /(а)(#) является плотностью распределения вероят-
оо
ностей, т. е. f{a)(y)>0 и § f^\y)dy = \.
о
(b) Пусть С —случайная величина с плотностью /<(*/), где /^(г/) = /(а)(г/),
а ^ 0. Показать, что у случайных величин г/ и С совпадают все моменты:
Ег}п = Е£п, п > 1. (Тем самым, логарифмически нормальное распределение
имеет все моменты, но оно не определяется однозначно этими моментами.)
68. Пусть (£/г)/г^о — последовательность независимых одинаково и
симметрично распределенных случайных величин, 5q = 0 и Sn = £\ +... +£„,
дг> 1. Определим последовательность частичных максимумов М = (М/г)/г^о»
полагая
Mn = max(So, Si, ..., S„),
и последовательность частичных минимумов т = (тп)п^, полагая
m„ = min(5o, Si, ..., Sn).
Показать (в обобщение задачи 7 из § 10 главы I), что для каждого
фиксированного п
(Mn-Sn, Sn-mn, Sn) = (-m„, Af„, Sn) = (Mn, -m„, S„),
т. е. совместные распределения этих троек случайных величин совпадают.
Указание. Воспользоваться легко устанавливаемым свойством, что
для всякого п
(Sn-Sn-k\ k^n) = (Sk; k^n).
69. Пусть случайные величины £ и rj таковы, что D£<oo и Dr/<oo.
Показать, что
cov^r/K^Dr/.
Выяснить, когда здесь выполнено равенство.

136 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
70. Пусть £i,..., £я — независимые одинаково распределенные
случайные величины. Показать, что
P{min(£,, ...,£,) = £1} = п-1.
Показать также, что случайные величины min(£i, ..., £„) и %=min(£,,...,&)}
являются независимыми.
71. Пусть J — случайная величина с функцией распределения F = F(x)
и С — константа. Найти функции распределения следующих случайных
величин:
JfVC = max(Jf, С), X/\С = тт(Х, С), XL = {"' если1*1<с«
А если |Л"| > С.
-ft
72. Пусть J — случайная величина, А > 0 и ср(х) = . Доказать
справедливость следующих неравенств:
Е [<р(\Х\>) - ф*)} < Р{\Х\ > х) < М*£>.
73. Пусть £ и г} — независимые случайные величины, имеющие гамма-
распределение с параметрами (а\, /?) и (с*2, /?) соответственно (см.
таблицу 3 в § 3). Показать, что ^
(a) случайные величины £ + т? и . являются независимыми;
(b) случайная величина т-^— имеет бета-распределение с параметрами
(c*i, аг) (см. ту же таблицу 3 в § 3).
74. (Схелш Бернулли со случайной вероятностью успеха.) Пусть
£i, ..., in и 7г — случайные величины такие, что 7г имеет равномерное
распределение на (0, 1), случайные величины £,, / = 1, ..., п, принимают два
значения 1 и 0 с условными вероятностями
Р(£ = 1|7Г = р) = р, Р(6=0|7Г=р) = 1-/7
и являются условно независимыми: (7г-п. н.)
P(fl=*l, ..., f/i=^/i|7r) = P(fi=Xi|7r)...P(^=X„|7r)
(здесь и далее xt = 0, 1 для / = 1, ..., п).
Показать, что
(a) безусловные вероятности
где х=х\ +...+хп;
(b) случайная величина Sn = £i +... + £п имеет дискретное равномерное
распределение на {0, 1, ..., п);

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
137
(c) условные распределения Р(7г<р |£t=xb ...,£п=хп) и P(7r<p|S„ =
= х\ +... + хп) совпадают, ре (О, 1);
(d) распределение Р(7г< p\Sn=x), rj\£X=x\ +... + xn, имеет плотность
К\?Лр\х) = (п+\)Схарх(\-р)*-х
иЕ(тг|5„ = х) = ^±1.
75. Пусть £ и г} — две неотрицательные независимые одинаково
распределенные случайные величины такие, что Р{£ = 0}< 1. Предположим,
что случайные величины min(£, rj) и £/2 имеют одно и то же распределение.
Показать, что распределение £ и rj является экспоненциальным.
Указание. Отправляясь от соотношений
(Р{£ > х})2 = P{min(£, г,) > х) = Р{£ > 2х),
заключите, что (Р{£ > х))2п = Р{£ > 2пх}. Выведите отсюда, что для всякого
а>0 и рациональных неотрицательных х верно равенство Р{£>х} = е~Хх/а,
где А = — In Р{£ > а}. Отсюда уже нетрудно заключить, что Р{£ > х) = е~Хх/а
для всех х > 0.
76. Пусть £ и rj — независимые одинаково распределенные случайные
величины с функцией распределения F = F(x). Показать, что
Р{^ = »7} = ^ |F(x)-F(x-)|2.
xeR
(Ср. с задачей 20 в § 12.)
77. Пусть Х\,..., Хп — случайные величины. Показать, что справедлива
следующая формула включения-исключения (для максимума случайных
величин; ср. с задачей 12 в § 1 главы I и задачей 9 в § 4 той же главы):
п
тах(Х, ,...,*„) = £*,■- £ щвд,, Xk) +
+ J2 min(*«,. **• Xk) + ... + (-l)a+l mm(Xu ..., Хп).
Подходящим выбором величин Х\, ..., Хп выведите отсюда формулу
включения-исключения для вероятностей Р(Лi \J...l)An) (см. упомянутые
задачу 12 в § 1 и задачу 9 в § 4 главы I).
78. Пусть £i,£2» ••• — последовательность независимых
одинаково распределенных бернуллиевских случайных величин с P{£i = l} =
= P«i =-1} =1/2. Пусть 2„И = 1 £ ^и2ооИ= lim гп(и>).
* k—\ ок п—>оо

138 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Показать, что функция распределения F(x) = P{z00(cj)^x} есть
канторова функция (см. § 3). (Тем самым Law(2oo) может
рассматриваться как канторова мера на канторовом множестве.) Случайная величина
2оо =2oo(k0 является примером так называемой фрактальной случайной
величины (распределение которой не является ни дискретным, ни
абсолютно непрерывным; см. задачу 18 в § 3).
79. Показать, что в биномиальном случае (п. 1 § 2 гл. I и таблица 2 на
с. 196 книги «Вероятность— 1») функция распределения
т
Вп(т; p) = J2 CnPkQn-k, 0< m< az,
может быть выражена через (неполную) бета-функцию:
1 1
Вп(т; р) = — ± \ хт(\ - x)n~m-x dx,
"v н' В(/л+1, п-т) J v ;
р
где
B(p,q) = \xr-l(l-x)'-ldx (=7^f c4P)=$xr-le-xdxy
80. Показать, что пуассоновская функция распределения F(m\ A) =
= Y^ —г,—» где т = 0, 1, 2, ..., выражается следующим образом через
(неполную) гамма-функцию:
оо
F(m;\) = ± § xme~xdx.
81. При описании формы плотностей распределений f = f(x), помимо
среднего значения и дисперсии, стандартными характеристиками являются
параметр «скошенности» (skewness)
а6
и параметр «пикообразности» (peakedness, kurtosis)
<т4
где fxk = ^(x- pL)kf(x) dx, ц = ^ xf(x) dx, a2 = fx2-
Рассмотреть вопрос о значениях параметров аз и а± для
распределений, приведенных в таблице 3.
82. Пусть X — биномиальная случайная величина с параметрами пир
(см. таблицу 2 на с. 196 книги «Вероятность— 1»). Показать, что для

§ 8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. II
139
нее естественным образом определяемый (по аналогии с определением в
предыдущей задаче 81) параметр «скошенности»
skw<*) = «3 (=Щщ£)
(DX)W
задается формулой (q = 1 — р)
skw (X) = ^JL
(Если 0 < р < 1/2, то skw(A) > 0; в этом случае говорят, что распределение
имеет «длинный хвост» справа.) Найти также значение параметра «пико-
образности» kur(^) = а4 (= 2 J.
83. Пусть £i,..., £„ — независимые одинаково распределенные
случайные величины с параметром «скошенности» аз (=skw(£i)) и параметром
«пикообразности» а4 (=kur(£i)). Показать, что
skw(£i+... + £,0 = "-l/2skw(£i)
kur(ei + ... + ^) = 3 + n-l{kur(ei)-3}.
84. Когда вводится биномиальное распределение, то фиксируется
число испытаний п и рассматривается вероятность Pn{v = r) того, что число
«успехов» v в этих п испытаниях равно г. (Эти вероятности Pn{v = r} =
= Crnprqn~r, 0< г < п, где р — вероятность единичного «успеха», и
образуют биномиальное распределение с заданным п)
Отрицательно-биномиальное (обратно-биномиальное) распределение Pr{r = k}
(называемое иногда также распределением Паскаля) возникает, когда
рассматривается вопрос о том, какова вероятность того, что г «успехов» впервые
появятся на (случайном) шаге r = k (>г). Показать, что
P'(T = k) = Crkz\prqk-r, k = r,r+l, ...,
с г = 1, 2, ... (р — вероятность единичного «успеха»). (Набор этих
вероятностей Pr{r = k) для k = г, г +1, ... с заданным г образует, по определению,
отрицательно-биномиальное распределение.) Показать, что (для
заданного г) Err = rq/p.
85. Говорят, что случайная величина £, принимающая значения в
множестве {1, 2, ...}, распределена по (дискретному) закону Парето с
параметром р > 0, если

140 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Показать, что
С(р+1) * С(р+1)
СХ> j
где C(s) = Y^ — — дзета-функция Римана. (См. также задачу 23 в § 6
л=1 п
главы III относительно непрерывного закона Парето.)
86. Пусть £i,..., £я — независимые одинаково распределенные
случайные величины с функцией распределения F(x |0), зависящей от некоторого
(случайного) параметра 0, имеющего априорное распределение П(0) из
некоторого класса <Ж. Пусть П(0|*1, ..., хп) — апостериорное
распределение, подсчитанное по формуле Байеса, в предположении, что х\, ..., хп
есть результаты наблюдений над £i, ..., £л. Если это апостериорное
распределение также принадлежит тому же самому классу Jf, то говорят, что
распределения П(0) из Jf «сопряжены» с распределением F(x |0).
Показать, что
(a) если /7(.|0)-,Ж(0, а^) и П(0)~./К(/ио, б^"1), то
П(0|хь ..., Хп)„л(Ь*щ + а*(хх+''- + х"\ _J_V
v ' 7 V &о+яяо b0 + na0J
(b) если /7('|0)~,Ж(О, 0-1) и П(0)~Г(й; А) — гамма-распределение с
плотностью
дб k—\ е—\х
7(Л;А)М = щ /[0,оо) (*),
где k > О, А > 0, то
Щв|х1 Хя)^г(л + 1л; A+i(jc? + ... + x2));
(c) если /7(-|0)~ехр(0) — экспоненциальное распределение с
параметром 0, и П(0) - Г(6; А) то
Щв\хи ..., хл)~Г(6 + Аг; A + (*i+... + *„));
(d) если /7(-|0)-Poisson(0) и П(0)~Г(6; А) то
П(0|хь ..., хл)~Г(*+ (*!+... + *„); A + az);
(e) если /7(.|0)-Bernoulli(0) и П(0)~В(6; L), где В(6; L) - бета
-распределение с плотностью
то
Щв\х\, ..., xn)~B(k + (x\ + ... + *„); L + az-(xi + ... + *„)).

§ 9. ПОСТРОЕНИЕ ПРОЦЕССА
141
87. Пусть X — случайная величина, имеющая одно из распределений:
биномиальное, пуассоновское, геометрическое,
отрицательно-биномиальное или Парето. Найти вероятность события {X — четно}. (Так, если,
например, X имеет геометрическое распределение с параметром р (см. таблицу 2
на с. 196 книги «Вероятность— 1»), то Р{Х — четно} = (1 — р)/(2 — р).)
88. Пусть £i, ..., £„ — независимые экспоненциально распределенные
случайные величины с параметрами Aj, ..., \п соответственно.
(a) Показать, что P{£i <£2} = Ai/(Ai +A2).
(b) Показать, что min £k имеет экспоненциальное распределение с
параметром А = X) ^ь и вывести из (а), что
k=\
k=\
(c) Предполагая, что А,- ф\}, 'ьф\, найти плотность распределения
случайной величины £i +... + £л (для случая п = 2 см. задачу 26).
(d) Показать, что Е min(£i, £2) = l/(Ai +A2), и найти Е max(£i, £2).
(e) Найти плотность распределения случайной величины £i — £2.
(f) Показать, что величины min(£i, £2) и £1 — £2 являются независимыми.
89. Пусть X — случайная величина, имеющая бета-распределение с
плотностью
/(Jc:Q'/3)=^f^xe",(1-x)0"1' 0<x<1'
с а > О, /3 > 0. Показать, что
Еу_ а п у _ <*/?
а + /3' (а + ^+1)(а + ^)2-
§ 9. Построение процесса с заданными
конечномерными распределениями
1. Пусть ft = [0, 1], & — класс борелевских множеств на [0, 1], Р —
мера Лебега на [0, 1]. Показать, что пространство (ft, ^\ P) является
универсальным в том смысле, что на (ft, ^\ P) для любой функции
распределения F(x) можно так определить случайную величину £ = £(cj), ш £ ft,
что ее функция распределения /^(х) = Р{£<х} будет совпадать с
функцией F(x).
Указание. Надо положить g(u)=F~{ (и), где F~l(u>)=sup{x: F(x)<
<и>}у 0<o;< 1; £(0) и £(1) могут быть взяты произвольными.)
2. Проверить согласованность семейств распределений в следствиях к
теоремам 1 и 2.

142 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
3. Вывести утверждение следствия 4 к теореме 2 из теоремы 1.
Указание. Заметьте, что меры, определенные в (16), образуют
согласованное семейство распределений.
4. Пусть Fn — функции распределения величин Тп, п ^ 1 (из п. 4).
Показать, что Fn+\(t) = \ Fn(t -s)dF(s), n^ 1, где F\ =F.
о
5. Показать, что P{Nt=n} = Fn(t)-Fn+\(t) (см. (17)).
6. Показать, что введенная в п. 4 функция восстановления m(t)
удовлетворяет уравнению восстановления
t
m(t) = F(t) + § т(* ~ x) dF(x)- (*)
о
7. Показать, что в классе функций, ограниченных на конечных
интервалах, единственным решением уравнения (*) является функция,
определяемая формулой (20).
8. Пусть Т — произвольное множество.
(a) Предположим, что для каждого t G T задано некоторое
вероятностное пространство (ft*, &t,Pi). Положим ft = ]J Slt,^=WL «^i- Доказать,
teT teT
что на (ft, &) существует и единственна вероятностная мера Р такая, что
выполнено следующее свойство независимости:
\teT J teT
где множества Bt G^i, t G 7\ причем Bt = ft/ Для всех индексов t G 7\ за
исключением, быть может, конечного их числа.
Указание. Задать Р на подходящей алгебре и воспользоваться
методом доказательства в теореме Ионеску Тулчи.
(b) Пусть для каждого t G Т заданы измеримое пространство (£/, St) и
вероятностная мера Pt на нем. Доказать следующий результат (Ломниц-
кий—Улам): существуют вероятностное пространство (ft, ^\ P) и
независимые случайные элементы (Xt)teT такие, что Xt являются
^"/^-измеримыми и P{Xt eB} = Pt(В), Best.
§ 10. Разные виды сходимости последовательностей
случайных величин
1. Используя теорему 5, показать, что в теоремах 3 и 4 из § 6
сходимость почти наверное может быть заменена сходимостью по вероятности.
Указание. Если £я—>£, |£я| ^V, Е?7<оо, и Е|£„ — £|/*0»то найдутся
е>0 и подпоследовательность (rik)k^\ такие, что Е\£Пк — £| >£. При этом

§ 10. РАЗНЫЕ ВИДЫ СХОДИМОСТИ
143
ink —>£• Далее воспользоваться теоремой 5, согласно которой существует
такая подпоследовательность (&/)/^i, что £Пк /»£ (Р-п. н.). Следующий шаг
должен состоять в том, чтобы воспользоваться теоремой 3 из § 6 и прийти
к противоречию с предположением Е\£п — £| />0.
2. Доказать, что пространство L°° полно.
Указание. Взять фундаментальную в L°° последовательность
(U)k^\, т. е. такую, что \\km-£n\\L<*> <ап ДЛЯ п<т и ая->0, л->оо,
И ПОЛОЖИТЬ
{Нт £я(о;), если Нт £я(о;) < оо,
0, если Нт £я(о;) = оо.
Показать, что так определенная величина £(о;) есть случайная величина и
для нее ||£ —£я||*,«> ^ап^0 при я—>оо.
3. Показать, что если £п —► £ и в то же время £„ —►»/, то £ и ^
эквивалентны (в том смысле, что Р{£^??} = 0).
р р
4. Пусть £л—►£, Vn^V и случайные величины £ и rj эквивалентны.
Показать, что тогда для любого £> 0
р р
5. Пусть £п —►£, ^л —►»/. Показать, что если ср = ср(хч у) — непрерывная
р
функция, то <,?(£„, г}п) —►<£>(£, rj) (лемма Слуцкого).
Указание. Для заданного £ > 0 выберем с > 0 так, что
Р{|£„|>с}<£, Р{|!7я|>с}<е, л>1,
Р{|£|>с}<*г, Р{||/|>£:}<С.
Раз функция ср = ср(х,у) непрерывна, то на компакте [—с, с] х [—с, с]
она равномерно непрерывна. Поэтому найдется 5>0 такое, что для
любых х, у е [—с, с] с р(ху у)<6 выполнено неравенство \(р(х) — (р(у)\ < £
(р(х, y) = max(\xl — ух\, \х2 — у2\), х = (х1, х2), у = (ух, у2)). Далее,
пользуясь тем, что
Р{|*>«я,Чя)-^Ч)|>е}<Р{|£я|>с} + Р{|»/я|>с} +
+ P{|fl>c} + P{|f/| >£:} + ?{!£,-{|>*} + Р{||/я-ч|>*Ь
показать, что при больших п правая часть не превосходит бе.
6. Пусть (£„ - £)2 —► 0. Показать, что £2 —► £2.
7. Показать, что если £«—>С, где С — постоянная, то имеет место и
сходимость по вероятности, т. е.

144 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(\х — с\ \ ~*~
1 — J ) .
югда
Р{|£|-с|<е}>Е/£(£|)->Е/£(£:) = 1.
8. Пусть последовательность (£п)п^\ такова, что для некоторого р >0
СХ)
X) Щп\р <оо. Показать, что £я->0 (Р-п. н.).
п=\
Указание. Воспользоваться неравенством Чебышева и леммой Бо-
реля—Кантелли.
9. Пусть (£я)я^1 — последовательность одинаково распределенных
случайных величин. Доказать, что справедливы следующие импликации:
E|£i|<oo ф> ^2 Р{\€\\>еп}<оо, £>0 Ф>
оо
^ У" Р( — >Л<оо, *г>0 => ^0 (Р-п.н.).
Указание. Воспользуйтесь нетрудно проверяемыми неравенствами
СХ) СХ)
^Р{|^|>^}<Е|^|<£ + ^Р{|^|>^}.
10. Пусть {£п)п^ 1 — последовательность случайных величин и £ —
некоторая случайная величина.
(a) Предположим, что Р{|£„ - £| ^ £ б. ч.} = 0 для каждого £> 0.
Показать, что тогда £„ —>£ (Р-п. н.).
(b) Предположим, что существует подпоследовательность (rik) такая,
что £Пк —> £ (Р-п. н.) и max |£/ - £^_, | —> 0 (Р-п. н.) при /г —> оо.
Показать, что тогда £„ —>£ (Р-п. н.).
(c) Пусть £„ —>£ (Р-п. н.). Показать, что тогда справедливо обращение
свойства (а): Р{|£„ - £| ^ £ б. ч.} = 0 для каждого £> 0.
11. Определим «d-метрику» в множестве случайных величин, полагая
d(P и) = Е |6~Г?|
fl«'W t,+|e_r?|
и отождествляя случайные величины, совпадающие почти наверное.
Показать, что d =d(£, г}) действительно задает метрику и сходимость по
вероятности эквивалентна сходимости в этой метрике.
Указание. Проверьте неравенство треугольника и убедитесь в том,
что для любого £ > 0
y^P^-l^gXEj^g <eP{|6,-{|<g} + P{|6,-{|>g}.

§ 10. РАЗНЫЕ ВИДЫ СХОДИМОСТИ
145
12. Показать, что не существует метрики в множестве случайных
величин такой, что сходимость в ней эквивалентна сходимости почти наверное.
Указание. Предположите, что существует метрика р, задающая
сходимость почти наверное, и рассмотрите последовательность (£п)п^\ та-
кую, что £„—►(), но £л/> 0 (Р-п.н.). Тогда найдется £>0 такое, что для
некоторой подпоследовательности (пь)^\ выполнено неравенство р(£пк, 0)>£
р
и в то же время £Пк —> 0. Далее воспользуйтесь теоремой 5 и получите
противоречие с предположением о существовании метрики р, задающей
сходимость почти наверное.
13. Пусть ^i < ^2 < ... и Хп^>Х. Показать, что тогда и Хп—>Х
(Р-п.н.).
14. Пусть (Хп)п£\ — последовательность случайных величин. Показать,
что
(a) Хп^0 (Р-п. н.) => 5л/п—>0(Р-п. н.), где, как обычно, Sn=X\ + ...
...+*„;
(b) Хп—>0 => Sn/n—^0, если р^ 1 и, вообще говоря,
' п
р р
(c) Хп^>0 не влечет, вообще говоря, сходимость Sn/n—>0 (ср. с
последним утверждением в задаче 34);
15. Пусть (ft, ^", P) — вероятностное пространство и Хп—*Х.
Показать, что если мера Р является атомической, то Хп—>Х также и с
вероятностью единица. (См. определение атомической вероятностной меры в
задаче 35 к § 3 главы И.)
16. Согласно утверждению а) леммы Бореля—Кантелли («первой лем-
оо
ме Бореля—Кантелли»), если ^ Р(|£л|>£)<°о для £>0, то последо-
п=\
вательность £я—>0 (Р-п. н.). Дать пример, в котором сходимость £я—>0
оо
(Р-п. н.) имеет место, однако X) Р(|£я| >£) = оо, е> 0.
п=\
17. (К утверждению Ь) леммы Бореля—Кантелли — ко «второй лемме
Бореля—Кантелли».) Пусть ft = (0, 1), £& = Щ(0, 1)), Р — лебегова мера.
Рассмотрим события Л„ = (0, \/п). Показать, что ^ Р(Л„) = оо, но
каждое ш из (0, 1) может принадлежать только конечному числу множеств
Ль ..., А1хм,т. е. Р{Ап б.ч.} = 0.
18. Показать, что во второй лемме Бореля—Кантелли вместо
независимости событий А\ч Лг, ... достаточно требовать лишь их попарную
независимость (т. е. Р(Л,-пЛу)—Р(Л,-)Р(Лу) = 0, ьф\) или попарную
отрицательную коррелированность (т. е. Р(Л,- C\Aj) — Р(Л/) Р(Лу) < 0,
1ФП-

146 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
19. (Ко второй лемме Бореля—Кантелли.) Доказать следующие
варианты второй леммы Бореля—Кантелли: для произвольной
последовательности (не обязательно независимых) событий А\, Лг, ...
(а) если
Е P(AiAk)
^Р(Л„) = оо и liminf у-= — = 1,
Е Р(Ак)
k=\
то (Эрдёш, Реньи) Р(Ап б. ч.)= 1;
(b) если
Е P(AiAk)
^Р(Л„) = оо и liminf j^ T2=L*
п=\ П [Е PHft)J
то (Кочен и Стоун, [65]; Спицер, [ИЗ]) L^ 1 и Р(Ап б.ч.)= 1/L;
(c) если
Е [Р(ЛИ*)-Р(Л-)Р(Л*)]
^Р(Л„) = оо и liminf К/<^" г „ -9 <0,
п=\
Е P(Ak)
то (Ортега, Вшебор, [86]) Р(Ап б.ч.) = 1;
(d) если Е Р(Ап) = оо и
а„= liminf ^^
РИл)
где // — произвольная константа, то (Петров, [87]) Р(Ап б. ч.) ^
1
Н + 2ан
(при этом Н + 2ан ^ 1).
оо
20. Пусть Ль Лг, ... — независимые события и Е Р(^«) = оо. До-
казать, что для S„ = Е ЧМ) справедливо следующее усиление «второй
k=\
леммы Бореля—Кантелли»:
Hm *L = 1 (Р-п.н.).
п п.Ьп
21. Пусть (Хп)п£\ и (Yn)n£\ —две последовательности случайных
величин, у которых совпадают все конечномерные распределения (/%,...,*„ =
р
= /7у,,...,у„, я^ !)• Пусть Хп—>Х. Доказать, что тогда имеет место сходи-

§ 10. РАЗНЫЕ ВИДЫ СХОДИМОСТИ
147
р
мость Ул—► Y к некоторой случайной величине У, распределение которой
совпадает с распределением X (в краткой записи Law(X) = Law(V) или
X]^Y,wmX±Y).
22. Пусть (Хп)п^\ — последовательность независимых случайных ве-
р
личин таких, что Хп —► X для некоторой случайной величины X. Доказать,
что X является вырожденной случайной величиной.
23. Показать, что для каждой последовательности случайных величин
£ь &, ••• можно найти последовательность констант a\,a<i, ... такую,
что^я/ая->0(Р-п.н.).
24. Пусть £ь &, ... —последовательность случайных величин и S„ =
= £i + • • • + £я, я ^ 1 • Показать, что множество {Sn —>}, т. е. множество тех
cjG ft, где ряд J^ &(и) сходится, может быть представлено в следующем
виде: k^l
{Sn^}=f) (J П {sup|S,-S*|<AH}.
N>\ m>\ k^m l^k
Соответственно, множество {Sn />}, на котором ряд ^ £k(u) расходится,
представимо в виде k^l
{5n7^}=U П U {suplu-S*!^-1}.
N>\ m>\ k>m
*l>k
25. Пусть О, есть не более чем счетное множество. Доказать, что
если £, —► £, то f„ -> £ (Р-п. н.).
26. Привести пример последовательности случайных величин (£п)п&\
такой, что с вероятностью единица lim sup £„ = оо, lim inf £„ = —оо, но тем
. Р
не менее существует случайная величина rj такая, что £п —>г}.
27. Доказать следующий вариант закона нуля или единицы (ср. с
законами нуля или единицы в § 1 гл. IV): если события А\, Лг, ... попарно
независимы, то
-с
р{л„б.ч.ы: если^!<00,
если J2 Р(Ап) = оо.
28. Пусть А\у Лг, ... — произвольная последовательность событий
таких, что НтР(Лл)=0 и X) P(Ai ПЛ„+1)< оо. Доказать, что тогда
Р{Л„б.ч.} = 0.
29. Доказать, что если X) Р{|£л|>я}<оо, то lim sup(|£„|/n)<l (Р-п. н.).
п п
30. Пусть £п 1£ (Р-п. н.), Е|£„| < оо, п ^ 1, и inf E£„ > -оо. Показать,
l1 n
что тогда £„ —► £, т. е. Е|£„ - £| -> 0.

148 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
31. В связи со второй леммой Бореля—Кантелли показать, что
Р{Ап б. ч.} = 1, если и только если X) Р(^ П Ап) = оо для каждого
множества Л с Р(Л)>0. п
32. Пусть события А\, Лг, ... независимы и Р(Л„)< 1 для всех я> 1.
Тогда Р{Ап б. ч.} = 1, если и только если P(|J An) = 1.
33. Пусть Xi, Л2, ... — независимые случайные величины с Р{Хп =0} =
оо
= \/п и Р{Хп= 1} = 1 - 1/п. Пусть £„ = {X„=0}. Из свойств £ Р(Ея) = оо,
оо _ «=1
X) Р(£"л) = сх), заключить, что lim Х„ не существует (Р-п. н.).
п=\ п
34. Пусть Х\УХ2, ... — последовательность случайных величин. Пока-
р
зать, что Хп—>0 тогда и только тогда, когда
\Х \г
Е ' у —> 0 для некоторого г > 0.
В частности, если Sn = Х\ +... +ХЛ, то
■S/i —Е5Я Рл р (5гг — Е5п) л
Показать также справедливость следующей импликации:
max IXJ —► 0 => — —►(), я—>оо.
35. Пусть Х\,Х2, ... — независимые одинаково распределенные бер-
нуллиевские величины: Р{^ = ±1}=1/2. Пусть Un=Y^ "dr> п^\. По-
k=\ ^
казать, что £/„—►£/ (Р-п. н.), где U — случайная величина, равномерно
распределенная на [—1, +1].
36. (Теорема Егорова.) Пусть (ft, ^", pi) — измеримое пространство с
конечной мерой fx и /i, /2, ... —последовательность борелевских
функций, сходящаяся jx-почти наверное к борелевской функции / (fn **~ ' > /).
Теорема Егорова утверждает, что для всякого заданного £>0 можно
найти множество А£ е & с мерой р(А£) < е такое, что на его дополнении
A£ = Q,\А£ имеет место равномерная сходимость fn(cv) —> f(tv), ш £ А£.
Доказать это утверждение.
37. (Теорема Лузина.) Пусть (ft, ^", Р) = ([а, Ь], &, А), где А —ле-
беговская мера на [a, b\ w & — система лебеговских множеств. Пусть
/ = f(x) — конечная ^"-измеримая функция. Доказать теорему Лузина:
для всякого £>0 найдется непрерывная функция f£ = f£(x) такая, что
\{х€[а,Ь]: !(х)ФШ)<е.

§ 10. РАЗНЫЕ ВИДЫ СХОДИМОСТИ
149
38. Утверждение теоремы Егорова делает естественным введение
следующего понятия.
Говорят, что последовательность функций /i, /2, ... сходится почти
равномерно к функции /, если для всякого £>0 можно найти множество
А£е^ с ц(А£)<£ такое, что fn(oj)^f(u>) равномерно по всем и>еА£
(обозначение: /„=£/).
Показать, что почти равномерная сходимость fn =£ / влечет и
сходимость по мере (fn A /), и сходимость почти наверное (/„ /А"П,Н,) /).
39. Пусть Х\,Х2, ... — последовательность случайных величин и
{Хп />} — множество тех и> е ft, где Хл(о;) не сходятся при я —> оо. Показать,
что
{^ /»} = (J {lim inf Xn < р < q < lim sup X„},
где сумма берется по всем парам (р, ^) рациональных чисел р w q таких,
что p<q.
40. Пусть Х\,Х2, ... — последовательность случайных величин,
заданных на полном вероятностном пространстве, сходящаяся с вероятностью
единица к некоторой случайной величине X. Показать, что сг-алгебры
<т(Х\, Х2, ...) и <т(Х\, Х2, ..., X), порожденные случайными элементами
(Х\, Х2, ...) и (Х\, Х2у ..., X) соответственно (см. § 5), совпадают.
41. Пусть Х\,Х2, ... — последовательность независимых одинаково
распределенных случайных величин таких, что их функция распределения
F = F(x) удовлетворяет условию
lim x2[l-F(x)) = 0.
х—>оо
Показать, что
—= max л;—►(), я—юо.
42. Пусть £ь &» ... —последовательность независимых одинаково
распределенных случайных величин, E£i =р, D£i =<т2 < оо и P{£i = 0} = 0.
Показать, что
п
£ &
k=\ Р М
р р
43. Предположим, что ^->^я^рР{^<^}=1«^1- Показать,
что тогда и Р{£ < ??} = 1.
44. Пусть £i, &» ••• — неотрицательные случайные величины и сг-ал-
р р
гебры ^"i, ^2, ••• таковы, что Е(£„ |^)—►(). Показать, что тогда £л—>0.

150 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
45. Пусть £л—>£> £л£л—>£ («—>» означает сходимость по
распределению), где £ — невырожденная случайная величина и сп > 0. Показать, что
тогда сп —> 1.
46. Пусть Х\, Х2, ... — произвольная последовательность случайных
величин. Показать, что
(a) если lim v n)2 = 1, то lim -=у- =0 (Р-п. н.) (ср. с утверждением в
задаче 20); ЕХп 2
(b) если Ш £=£$-> 0, ЕХп^0, 0<ЕХ„2<оо, то Pflim r^-<U
<Ит^)>0.
47. Пусть £ь &, ••• —последовательность независимых одинаково
распределенных случайных величин с E|£i|<oo. Пусть а — некото-
рая положительная константа и Л„ = {|£л| >ап}, п^1. Показать, что
Р(НтЛя) = 0.
48. Показать, что в пространстве С непрерывных функций не
существует метрики р такой, что сходимость p(fn, f) —>0 равносильна
поточечной сходимости fn к /. (Ср. с задачей 12.)
49. Привести пример, показывающий, что для любой константы с > 0
можно найти такие случайные величины £, £i, &, •••, что £п(и>) —>£(<v)
поточечно, Е£п = — с при всех п^ 1, но Е£ = с.
50. Найти медианы рп = р(£п) (в каждом из трех определений, данных
в задаче 23 к § 4 гл. I) случайных величин €n = I{rt^(-\)n-\/n}i где rf —
стандартная гауссовская случайная величина.
51. Пусть рп = р(£п) — однозначно определенные медианы (см.
задачу 23 к § 4 гл. I) случайных величин £„, п^ 1, сходящихся почти наверное
к случайной величине £. Привести пример, показывающий, что, вообще
говоря, lim ц£п) может и не существовать.
52. Пусть £i, £2, •• —независимые неотрицательные одинаково
распределенные невырожденные случайные величины с E£i = 1. Положим
п
Tn=Yl £ь п ^ 1 • Показать, что Тп —> 0 (Р-п. н.), п —> оо.
£=1
53. Пусть £ь &, ... —последовательность независимых одинаково
распределенных случайных величин и Sfi = ^i + ... + ^, n^l. Показать,
что
(а) Е£+ = ооиЕ£р<оо => — -> +оо (Р-п. н.);
(Ь)Е|й|<ооиЕ^0 =► max(l6l''7'l6,|)->0(P-n.H.);
(c) E|f <оо => тах(|€||'-"'|&'|)^0(Р-п.н.).

§ 10. РАЗНЫЕ ВИДЫ СХОДИМОСТИ
151
54. Пусть £i, £2» ••• —последовательность случайных величин и £ —
некоторая случайная величина. Показать, что для всякого р > 1 следующие
условия являются равносильными:
аК„^(т.е. Е|£п-£|"^0);
р
Ь) £/г~>£ и семейство {|^п|р, п> 1} является равномерно интегрируемым.
55. Пусть £ь £2, ••• —последовательность независимых одинаково
распределенных случайных величин с P{£i >x} = e~x, х^О (т. е.
экспоненциально распределенных). Показать, что
Р{£„>а1плб.ч.}=Р'
если а < 1,
если а > 1.
Убедиться в том, что это утверждение допускает следующие уточнения:
пга 1 II ^ * I 1» если а^ 1»
Р{£л>1пя+а1п 1пя б.ч.}=< '
10, если а> 1,
и, вообще, для любого &> 1
п^ • if i i i i 1 I 1» еслиа<1,
г{£п > In п + In In n +... + In... In n + a In... In п б. ч.} = <
4—v—' s—v—' I 0, если а > 1.
к раз к+\ раз v-
56. В обобщение теоремы 3 (о том, когда из сходимости почти наверное
следует сходимость в L1) доказать следующий результат (лемма Шеффе):
если £ — случайная величина и (£п)п^\ — последовательность случайных
величин таких, что Е|£| <оо, Е|£п|<оо и £,г—>£ (Р-п. н.), то E|£„-£|—>0 в
том и только том случае, когда Е|£„| —>Е|£|, п—>оо. (Ср. с утверждением
в задаче 19 к § 6.)
57. Пусть £ь £2, ... — положительные независимые одинаково
распределенные случайные величины, имеющие плотность распределения / = f(x)
такую, что lim f(x) = A > 0. Показать, что
п min(£b ..., £n)^V>
где г] — экспоненциально распределенная случайная величина с
параметром А.
58. Доказать, что если в предположениях задачи 33 к § 6 выполнено
одно из приведенных в ней условий (i), (ii) или (iii), то
Е\Хп\р ^Е\Х\Р для всех 0< р < г.
59. Пусть (£п)п^\ —последовательность независимых нормально
распределенных случайных величин, £n~^(№n, ^)- Показать, что ряд J2 £я

152 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
сходится в L1 в том и только том случае, когда
Показать также, что при выполнении этого условия ряд X) £я сходится в
Lp для всех /?> 1. п^х
Указание. Для доказательства второго утверждения полезно
установить, что для любого р > 1
Ей
<оо.
р
\{и>: ап(и>) = к)-> — In
60. Пусть Х\, Х2, ... — независимые случайные величины с
равномерным распределением на [0, 1]. Положим Yn=X\ ...Xn, п> 1, и рассмотрим
оо
ряд X) znYn. Показать, что радиус сходимости R = R(oj) этого ряда с
вероятностью единица равен е.
Указание. Воспользуйтесь тем, что \/R = lim |Yn\1///г.
61. Пусть (П, &, Р) = ([0, 1), Щ[0Ч 1)), А), где А-мера Лебега. Пусть
число о;е[0, 1) и o; = (ai,a2, ...) — его разложение в цепную дробь
(ап = ап(и>) — целые числа) [3]. Показать, что при п —> оо
• 1 + 1/6 1
.1 + 1/(^+1)]
Замечание. В «Очерке истории становления математической теории
вероятностей» («Вероятность —2», с. 882) и в книге В. И. Арнольда [4],
с. 101, можно найти материал, относящийся к возникновению этой задачи
и подходам к ее решению.
62. Пусть Хи Х2ч ... — независимые одинаково распределенные
случайные величины с Р{Х\ =0} = Р{ЛГ1 =2}= 1/2. Показать, что
ОО V
(a) ряд X) "оТГ сходится почти наверное (скажем, к случайной вели-
чине X);
(b) функция распределения случайной величины X есть канторова
функция (см. § 3).
§11. Гильбертово пространство случайных величин
с конечным вторым моментом
1. Показать, что если £ = l.i.m. £„, то ||^|| —> ||£||.
2. Показать, что если £ = l.i.m. £„ и ry = l.i.m. r}n, то (£„, tyr)->(£> rj).

§11. ГИЛЬБЕРТОВО ПРОСТРАНСТВО СЛУЧАЙНЫХ ВЕЛИЧИН 153
3. Показать, что норма || • || удовлетворяет свойству
«параллелограмма»:
ll€+4ll2 + ll€-»7ll2=2(||f||2 + IWI2).
4. Пусть {£i, ..., £„} — семейство ортогональных случайных величин.
Показать, что для них справедлива «теорема Пифагора»:
|2 п
1=1
5. Пусть £i, $2» • • • — последовательность ортогональных случайных ве-
оо
личин, Sn =£\ + ... + £„. Показать, что если X) Е£2 < оо, то найдется та-
п=\
кая случайная величина 5 с Е52<оо, что l.i.m. Sn = S, т. е. \\Sn — S\\2 =
= Е|5п-5|2^0, n—>oo. n+k
Указание. Воспользуйтесь тем, что ||5П_|_^ — 5П||2= J2 ||^т||2,
согласно задаче 4. т=п+\
6. Показать, что функции Радемахера Rn могут быть определены
следующим образом:
Rn(x) = sign (sin 2"?™:), 0<*<1, я=1,2, ...
7. Доказать, что для £eL2(fi, ^", Р) и любой сг-подалгебры <S C^"
справедливо неравенство
llf II >ЦЕ«|^)||,
причем равенство имеет место тогда и только тогда, когда £ = Е(£|ё?)
(Р-п.н.).
8. Доказать, что если X, Y eL2(fi, J*\ P), Е(Х|У) = У, Е(У|^) = Х,
то Х = У (Р-п. н.). (Ср. с утверждением в задаче 24 для случая Хч Y е
еО(П, &", Р), где доказательство много сложнее, нежели для
рассматриваемого случая X, Y eL2(fi, J*\ P).)
9. Даны три последовательности (Sfi '), (Sfi ') и (%(') сг-подалгебр &.
Пусть £ — ограниченная случайная величина. Предположим, что для
каждого п
^"cfcf, E(£|ef„(1))%, E(£|3f)-%.
Доказать, что тогда и Е(£|ЙЙ ')—>г].
10. Пусть / = f(x) — борелевская функция, определенная на [0, оо) и
оо
такая, что \ е~Хх f(x)dx = 0 для всех А>0. Показать, что / = 0 (почти
о
наверное относительно меры Лебега).

154 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
11. Пусть случайная величина г} имеет равномерное распределение на
[— 1, 1] и £ = г}2. Показать, что
(a) оптимальные (в среднеквадратическом смысле) оценки £ по г] и г]
по £ задаются соответственно формулами
E(Z\V)=V2, Е(Ч|£)=0;
(b) соответствующие оптимальные линейные оценки определяются
формулами
Ё(£|Ч)=1/3, Ё(Ч|0 = О.
§ 12. Характеристические функции
1. Пусть £ и г} — независимые случайные величины, f(x) = f\ (x) + if2(x),
ё(х)= ё\ (х) + ^2(*), где fk(x), gk(x) — борелевские функции, k = 1, 2.
Показать, что если Е|/(£)| < оо, E|g(£)| < oo, то
Е|/(0^)1<оо
и
Е/(£)£(*?) = Е/(£)-Е^).
(Напомним, что по определению E/(£) = E/i(£) + /E/2(£)' Е|/(£)| =
= Е(/2(0 + /|(0)1/2-)
2. Пусть £ = (£ь ...,Ь)и Е||£||л<оо, где ||£|| = л/£#. Показать, что
^t) = Jlj^^)k+^{tW\\\
где t = (tu .... /л), (t, Z) = t\ti+... + tnSn и *„(/)-> О при ||/|| ->0.
Указание. Доказательство аналогично доказательству в
одномерном случае с заменой t£ на (/, £).
3. Доказать теорему 2 для п-мерных функций распределения F =
= F(x\, ..., хп) и G = G(a:i, ..., jc„).
4. Пусть F = F(x\, ..., лея) — n-мерная функция распределения, <р =
= <p(t\, ..., /л) — ее характеристическая функция. Используя
обозначение (12) § 3, установить справедливость многомерной формулы
обращения
1 с с п p~itkak _ p-itkbk
P^^=}^oWr S - S П£ ЦТ <P(tu...,tn)dtl...dtn.
x ' —с —с k=\ R
(В приведенной формуле предполагается, что множество (а, Ь], где а =
= (аь ..., ап), b = (b\, ..., &„), является интервалом непрерывности

§ 12. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
155
функции Р(а, 6], т. е. при всех k= 1, ..., п точки а^, Ьь являются точками
непрерывности маргинальных функций распределения Fk(xk), полученных
из F(x\, ..., хп), если положить все переменные, за исключением Xk,
равными +оо.)
5. Пусть <pk(t), &> 1, — характеристические функции и
неотрицательные числа Xk, k > 1, таковы, что 53 А^ = 1. Показать, что функция J2 ^№k(t)
является характеристической функцией.
6. Если <p(t) — характеристическая функция, то будут ли Re <p(t) и
Im <p(t) также характеристическими функциями?
Указание. Пусть <p=<p(t) — характеристическая функция
распределения Р. Для ответа на первый вопрос (относительно Re <p(t)) рассмотрите
распределение Q с Q(A) = -[P(A) + P(-A)], где -А ={-х: хе А}. Для
второй части задачи рассмотрите характеристическую функцию <p(t) = 1.
7. Пусть <р\, ср2, <рз — характеристические функции и <р\<р2 = <Р\<Рз-
Следует ли отсюда, что <р2=<Рз?
8. Доказать справедливость формул, приведенных для
характеристических функций в табл. 4 и 5.
Указание. Для первых пяти дискретных распределений
характеристические функции находятся элементарным подсчетом.
В случае отрицательно-биномиального распределения (Ckz\prqk~r,
k = r, г +\, ... и г = 1, 2, ...) полезно заметить, что для \z\ < 1
£ c£!**-r=u-*r.
k=r
При отыскании характеристической функции <p(t) нормального
распределения J/{m, а2) полезно заметить, что (при /л = 0, сг2=1), согласно
теории функций комплексного переменного,
v(/) = _L С eitxe-x2/2dx = e'2/2^= \ е^х-^/Чх = е'2/2 i f(z)dz,
V27T £ V27T £ l
где /(г) = -1= e-b-tfP, L = {z: Im z = 0} и
V27T
$ /(z)<fe = $ f(z)dz=^=\ е-У2/2dy = 1
с L' = {z\ Im z = /}.
Аналогичный прием можно использовать и в случае
гамма-распределения.

156 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Для вычисления характеристической функции <p(t) распределения Ко-
ши удобно применить теорию вычетов: если / > 0, то
г е"х в г
R L
eitz
с L = {z\\m z = 0} и f(z) = ——z—-я-. По теореме Коши о вычетах и лемме
7T(ZZ -\-8z)
Жордана (см. [79, т. 1])
[ f(z)dz = 2m res f = e~te.
L 1в
Аналогично, при / <0 cp(t) = ete. В итоге <p(t) = e~в\1У
9. Пусть £ — целочисленная случайная величина и <p^(t) — ее
характеристическая функция. Показать, что
P{£ = k}=±- J e-ikt<pz(t)dt, Л = 0, ±1, ±2, ...
—7Г
10. Показать, что в пространстве L? = L2([—7г, 7г], д&\—7г, 7г]) с мерой
Лебега система функций < —=elXn, п = 0, ±1, ±2, ... > образует ортонор-
мированный базис.
Указание. Провести доказательство по следующей схеме:
(a) по е > 0 найти с > 0 такое, что
\\<p-f\b<^
mef(x)=cp(x)I(\cp(x)\^c);
(b) по теореме Лузина (см. задачу 37 в § 10) найти непрерывную
функцию fb(x) такую, что \fE(x)\^c и
fL{xe[-ir, тг]: f£{x)^f{x))<z\
тогда ||/ - /fc.||L2 < 2су/Ё\
(c) найти непрерывную функцию f£(x) такую, что /е(-7г) = /е(7г) и
llf-/«llz*<e;
(d) по теореме Вейерштрасса найти функцию f£(x)= X) o,k^lkx такую,
k=-n
что
SUp \fe(x)- fe(x)\^£
XG[ — 7Г,7Г]
и, значит, \\f£- f£\\L2^£.

§ 12. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
157
Из (a)—(d) следует, что конечные суммы вида X) a>kelkx плотны в
Г 1 • 1 k=~n
L2, т. е. система < —=elXn, п = 0, ±1, ±2, ..А образует (ортонормиро-
ванный) базис. 7Г
11. В теореме Бохнера—Хинчина предполагается, что
рассматриваемая функция <p(t) является непрерывной. Доказать следующий результат
(Рисе), показывающий, в какой степени можно отказаться от
предположения непрерывности функции.
Пусть <р = <p(t) — комплекснозначная измеримая по Лебегу функция
с <р(0) = 1. Тогда функция <р = <p(t) является положительно определенной
в том и только том случае, когда она совпадает (почти всюду относительно
лебеговской меры на числовой прямой) с некоторой характеристической
функцией.
12. Какие из функций
<£>(/) = е-1'Г, 0<а<2, <£>(/) =бН'1°\ а>2,
v(t) = (i + \t\)-\ V(/) = (i+/V.
<p(t)
П-I'l3. |/|<i, fi-|/|, |/|<ia
\0, |/|>1, *U \1/(4|/|), |/|>l/2,
являются характеристическими?
Указание. При проверке того, что некоторые из приведенных
функций не являются характеристическими, полезно обращение как к теореме 1,
так и к неравенствам из приводимой далее задачи 21.
13. Доказать, что функция
не является характеристической.
Является ли функция <p(t) = —— характеристической?
14. Показать, что если <p(t) — характеристическая функция, то функция
\<p(t)|2 — также характеристическая.
15. Доказать, что если <p = <p(t) есть характеристическая функция, то
таковой же является функция ел(И0-1) для каждого А>0. Будет ли
характеристической функция <p(t) = eXi<e _1)?
16. Пусть <p(t) — характеристическая функция. Показать, что
следующие функции также являются характеристическими:
1 ос
\ cp(ut) du, \ e~uip(ut) du.
о о

158 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
17. Показать, что для каждого п > 1 функции
/A k=0
*n{t) = («FT»!
являются характеристическими.
18. Пусть <pxn(t) — характеристическая функция случайной
величины Хп, имеющей равномерное распределение на (—п, п). Показать, что
"w |0, t^O.
lim cpXl
/г—►оо
19. Пусть (т^)п^\ — последовательность моментов случайной
величины X с функцией распределения F = F(x) I т(/г) = { хп dF(x) J.
оо т(п) V -оо /
Показать, что если ряд J2 —р5" сходится абсолютно для некоторого
п=\ П'
5>0, то последовательность (т^)п^\ однозначно определяет функцию
распределения F = F(x).
оо
20. Пусть <p(t)= § eitxdF(x) — характеристическая функция распре-
—оо
деления F = F(x). Показать, что:
lim J- { e-itxcp(t)dt = F(x)-F(x-)4
с—>oo AC J
—с
Дт^ \ \cp(t)\2dt = J2[F(x)-F(x-)}2.
с_юс -c xeR
В частности, функция распределения F =F(x) является непрерывной в том
и только том случае, когда ее характеристическая функция <p(t)
удовлетворяет условию
lim - { \<p(t)\2dt = 0.
с—оо С J ' '
—с
21. Показать, что всякая характеристическая функция <p = <p(t)
необходимым образом удовлетворяет следующим неравенствам:
l-Recp(nt)^n[l-(Recp(t))n]^n2[l-Re<p(t)], л = 0, 1,2, ...; (*)
|Im tp(t)\2 < I[l-Re <p(2t)]; 1 - Re <p(2t) > 2(Re tp(t))2;
\cp(t)-cp(s)\2^4cp(0)\l-cp(t-s)\; l-\cp(2t)\2^4[l-\cp(t)\2];

§ 12. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
159
Mt)-<f(s)\2^2[l-Retp(t-s)];
2Л
i- $ <p(u)du^(l+Re<p(h)){/\ t>0.
t-h
(Последние два неравенства называют неравенствами Райкова.)
Указание. Доказательство всех приведенных неравенств основано
оо
на анализе формулы <p(t) = \ eltxdF(x) (и соответствующих формул для
—оо
Re cp(t) и Im <p(t)). Так, например, для доказательства неравенства
1 - Re cp(2t) < 4[ 1 - Re ^(01 (**)
(частный случай неравенств (*) при п = 2) следует лишь заметить, что
оо
1 - Re cp(2t) = ^ (1 - cos 2tx) dF(x) и 1 - cos 2tx < 4(1 - cos tx).
—oo
22. Пусть характеристическая функция cp(t) такова, что cp(t) = 1 + /(/) +
+ о(/2), /—>0, где f(t) = -f(-t). Показать, что тогда <p(t)= 1.
Указание. Надо воспользоваться неравенством (**) из предыдущей
задачи.
23. Пусть cp = cp(t) — характеристическая функция случайной величины
X с функцией распределения F = F(x).
оо
(a) Показать, что \ \х\ dF(x) < оо в том и только том случае, когда
—оо
°г 1-Rey>(0 ,,^
\ 2 а/ < оо, и что при этих условиях
—оо
Е\х\= f \x\dF(x) = ± | l-R*/(t)dt = l°\l-R*/(t)dt.
—оо —оо 0
оо
(b) Показать, что если § \х\ dF(x) < оо, то
—оо
щ\=1\х\*т=-± I Щ^*и
—ОО —ОО
(См. также задачу 37.)
Указание, (а) Для доказательства достаточно воспользоваться
нетрудно проверяемой формулой
1 оо
1' i j
1 с 1 — cos xt
/2
dt.

160 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(Ь) При доказательстве надо воспользоваться тем, что \х\ =х sign хч
где
П, *>0,
sign х = < 0, х = 0,
1-1, *<0,
и что
1 г sin х/ _,
sign х = — \ —-— ах.
—оо
24. Пусть характеристическая функция <p(t) = 1 +0(|/|а), /—>0, где
аб(0, 2]. Показать, что случайная величина £, имеющая своей
характеристической функцией функцию <p(t), обладает следующим свойством:
Р{|£|>*}=0(*-*), х^О.
25. Пусть X и У — независимые одинаково распределенные величины
с нулевым средним и единичной дисперсией. Доказать, основываясь на
рассмотрении характеристических функций, что если распределение
величины (X + У)/у/2 совпадает с распределением F величин X и У, то F
является нормальным распределением.
26. Преобразованием Лапласа неотрицательной случайной
величины X с функцией распределения F = F(x) называлась (см. задачу 32 в § 6)
функция Р = Р(\), определенная для Л>0 формулой
Р(\) = Ее~хх= $ e~XxdF(x).
[0,оо)
Доказать следующий критерий (С. Н. Бернштейн): функция F = F(X) на
(О, оо) есть преобразование Лапласа некоторой функции распределения
F = F(x) на [0, оо) в том и только том случае, когда эта функция является
полностью (вполне) монотонной (т. е. существуют производные F(/z)(A)
всех порядков п> 0 и (-1)пр№(\) > 0).
27. Пусть функция распределения F = F(x) имеет плотность / = f(x)
и характеристическую функцию <p = <p(t). Предположим, что выполнено
любое из условий
оо оо
(а) § \<p(t)\ dt < оо или (b) § f2(x) dx < оо.
—оо —оо
Доказать, что тогда справедлива формула Парсеваля:
ОО j ОО
$ f2(x)dx = ± $ \<p(t)\2dt (<oo).
—оо —оо
(Ср. с равенством Парсеваля (14) в § И.)

§ 12. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
161
28. Показать, что если функция распределения F = F(x) имеет
плотность / = f(x), то ее характеристическая функция cp = cp(t) обладает тем
свойством, что cp(t) —> 0, когда t —> оо.
29. Пусть F=F(x) и /=f(x) — две функции распределения на (/?, &(R))
и cp(t) и (p(t) — их характеристические функции. Доказать справедливость
соотношения Парсеваля: для каждого t e R
$ <р(х - 0 dF(x) = $ e-"V(y) ^ 'М- (*)
В частности, если / — функция распределения нормального закона
./К(0, а2), то
«> Jjx-tf I «J? ., _jd.
$ «Г-V-d/7(x) = _J_ 5 e-"'e 2а»^)^. (**)
(Ср. также с задачей 40.)
30. Вывести из равенства (**) предыдущей задачи, что если функции
распределения F\ и F<± имеют одну и ту же характеристическую функцию,
то F\ =/*2- (Ср. также с задачей 41.)
31. Вывести из соотношения Парсеваля (*) задачи 29 следующий
результат: если (pz(t) есть характеристическая функция случайной величины
£, то преобразование Лапласа величины |£| задается формулой
оо .
(Ср. с утверждением в задаче 23.) оо
32. Пусть F = F(x) — функция распределения и cp(t) = § ettx dF(x) —
—оо
ее характеристическая функция. Согласно утверждению Ь) теоремы 3,
оо
свойство \ \<p(t)\dt <оо обеспечивает существование непрерывной
—оо
плотности f(x).
Привести пример, когда у функции распределения F = F(x) существует
оо
непрерывная плотность, но \ \<p(t)\dt = оо.
—оо
33. Пусть <p(t) = $ eitx dF(x) — характеристическая функция. Если
г *
\ \x\dF(x) <оо, то (p(t), как известно (теорема 1), дифференцируема.
R
Привести пример, показывающий, что обратное, вообще говоря, неверно.
Более того, может случиться, что cp(t) даже бесконечно дифференцируема,
но \ \x\dF(x) = оо. Дать соответствующий пример.
R

162 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
34. (К формуле обращения.) Проанализировав доказательство
теоремы 3, показать, что для любой функции распределения F = F(x) и любых
а<Ь справедлива следующая (общая) «формула обращения»:
,!*!£> 5Г \ е~"а 7t e~""y(0 dt = \[F{b)+F{b~)] ~ \[F{a)+F{a~)]■
—с
35. (а) Показать, что распределение вероятностей с плотностью
г/ ч 1 — cos х п
f(x) = я—, xeR,
71 X1
имеет своей характеристической функцией функцию
-t
(b) Какова характеристическая функция у распределения с плотностью
г/ ч 1 — cos ttjc -~
(c) Показать, что у плотностей вероятностей
тг chx 2ch2jc
характеристическими функциями являются соответственно функции
VI (0 = j— и V2(0 = —П—•
ch -7г/ 2 sh —7г/
(d) Найти распределения, которым отвечают следующие
характеристические функции:
\+it \-it t_ 2 J_ -//,1,1 2it
1+/2- 1+/2- cos г Зе"-Г 2* + 3 + 6* '
36. Пусть m^ = \ xk dF(x)y k > 1, суть конечные моменты распределе-
R
ния F = F(x). Показать, что
2k
R k
гдесЬу = (е-У+еУ)/2.
37. Пусть, как и в задаче 23, cp = cp(t) — характеристическая функция
случайной величины X с функцией распределения F = F(x). Показать, что
§ \xf dF(x) < оо для (3 е (0, 2)

§ 12. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
163
в том и только том случае, когда
s
l-Rey(Q
dt < оо;
при этом
где
Е\Х\Ы\ \xfdF(x) = C0 f ^j^U
Cfl =
г 1 —COS / j,
\ a dt
-I
и1
Г(1+/?)
Указание. Воспользуйтесь тем, что
sin
2 '
\xf = Cfi J
1 — COS JC/
rf/.
38. Доказать утверждения задачи 27 из § 8 непосредственным
подсчетом характеристических функций величин £/г/, £/|»7|, 1£1/М и случайной
величины С, имеющей распределение Коши с плотностью —- о-, xeR.
7Г(1 + ЛГ)
39. Пусть £i, $2, ••• — независимые стандартные нормально
распределенные случайные величины, «Ж(0, 1). Положим для я> 1
5« =A"i +...+Хя.
Пользуясь методом характеристических функций, показать, что
Sn law
737? >
^(0, а2),
где «Ж(0, сг2) — нормально распределенная случайная величина, а2 = 1/3.
40. Пусть £ и г/ — независимые случайные величины, причем ту
имеет стандартное нормальное распределение (»у~,Ж(0, 1)). Пусть также
/ = f(x) — ограниченная борелевская функция с компактным носителем.
Показать, что для всякого а > 0
/ 1 \ 1 °° t2
Е/(£+^) = ^ $ e-&n(t)H-t)dt, (*)
—оо
оо
где ^(/) = Ее'7£ и /(/) = § elt^f(x) dx (ср. с задачей 29).
—оо
Сформулируйте аналогичный результат для векторных величин £ и г/.

164 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
41. Используя равенство (*) из предыдущей задачи, доказать, что
характеристическая функция (pz(t) всякой случайной величины £ определяет
ее распределение. (Ср. с теоремой 2.)
Указание. Убедитесь в том, что в условиях предыдущей задачи
из (*) вытекает равенство
1 °° t2
Em = Jjm)± $ e-*?<pz(t)}(-t)dt, (**)
—OO
и заключите отсюда (пользуясь произвольностью ограниченной функции
/ = f(x) с компактным носителем), что характеристическая функция <p^(t)
действительно полностью определяет распределение случайной
величины £. (Утверждение (**) верно и в случае векторных величин £. Выведите
это из многомерного обобщения свойства (*).)
42. Пусть cp = cp(t) — характеристическая функция такая, что для
некоторого b > О
(p(t)^a для|/|>&,
где 0<а< 1. Показать, что тогда для \t\<b справедливо неравенство
Крамера 2
МОК 1-0-а2) ^.
Указание. Для доказательства надо воспользоваться неравенством
1 - |<?(2/)|2<4(1 - \<p(t)\2) из задачи 21.
43. (В дополнение к неравенствам в задаче 21.) Пусть (p = (p(t) —
характеристическая функция распределения F = F(x). Показать, что
справедливо неравенство Бара—Эссеена: для всякого 1 < г < 2
|i-v(0l<c,/?,l'lr,
где /Зг = \ \x\r dF(x) и Сг — некоторая константа.
—оо
44. Моменты т^ = ЕХп и абсолютные моменты (Зп = Е\Х\п случайной
величины X могут быть представлены для целых я> 1 посредством
выражений, в которые входят производные порядка п от характеристической
функции <p(t) = Eettxy t eR. (См., например, формулу (13) или задачу 23.)
В случае же дробных а > 0 для получения соответствующих результатов
для га(а) = ЕХа и /За = Е\Х\а приходится обращаться к понятию дробных
производных, вводимых следующим образом.
Пусть а = п + а, где п — целое неотрицательное число и 0 < а < 1. Дроб-
ной производной D(Qt)/(0 (= ~п^ /(0) функции f = f(f), t eR, называется
функция
а с f{n)(t)-f{n)(s)
щ-а) ± (t-sy+«

§ 12. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
165
(в предположении, что интегралы определены). В частности, если f(t) =<p(t)
оо
(= § eitxdF{x)) есть характеристическая функция, то
—оо
Г(
S
{ хп(\ -cos ылс)^/^(лс) + г \ хп sin uxdF(x)
du )
и'+e Г
(*)
Показать, что в случае четных п абсолютные моменты (Зп+а < оо тогда и
только тогда, когда
0) Рп < оо;
(ii) Re[D("+aV(OI/=o] существует.
В этом случае
/?я+в = —L-, Re[(-l)^DWV(0|/=0].
cosT
Указание. Для доказательства надо воспользоваться формулой (*)
и тем, что для всякого 0< b < 2 справедлива следующая формула:
1 —COS U , т-/ /\ Я"&
f 1 — COS W , т-/ l\ ™°
S l+b du = -r(-b)cosT.
0 u
Замечание. Более подробное обсуждение вопросов, связанных с
нахождением E|X|""ha для любых Аг>0и0<а<1, можно найти в книге [77].
45. Показать, что всякая характеристическая функция cp = cp(t) для
любых и и s удовлетворяет неравенству
\<p(u + s)\ > \<р(и)\ • Ш\ - [1 - |V(")|2],/2[1 - Ms)|2]'/2.
Указание. Воспользоваться теоремой Бохнера—Хинчина (п. 6).
46. Пусть (£, г}) — пара случайных величин с плотностью
f{x, у) = \{\ +ху(х2-у2)}1(\х\< 1, \у\< 1).
Показать, что случайные величины £ и ц зависимы, имеют плотности
/С(*) = ±/(И<1), ш = \щу\<\)
и характеристическая функция cp£+v(t) их суммы £ + г/ равна
произведению характеристических функций <p^(t) и cpv(t), т. е. cp^v(t) = cp^(t)cpv(t).
47. Пусть £ь &, ... —последовательность независимых одинаково
распределенных случайных величин, принимающих значения 0, 1, ..., 9

166 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
X«-J2 10V
с вероятностью 1/10. Положим
п
W
k=\
Показать, что последовательность случайных величин (Хп)п^\ сходится
не только по распределению, но и почти наверное к случайной величине,
имеющей равномерное распределение на [0, 1].
Указание. Воспользуйтесь методом характеристических функций.
§ 13. Гауссовские системы
1. Доказать, что в случае гауссовских систем (£, г/ь ..., щ) условные
математические ожидания E(£|r/i, ..., rjn) совпадают с математическими
ожиданиями в широком смысле Е(£|г7ь ..., щ).
2. Пусть (£, rj\, ..., щ) — гауссовская система. Выяснить структуру
условных математических ожиданий Е(£п\г}\, ..., щ), я> 1 (как функций
от г/1, ..., щ).
3. Пусть X = (Xk)\^k^n и Y = (Yk)\^k^n -Две гауссовские случайные
последовательности с EXk = EYk, DXk = DYk, 1 < k< az, и
cov(^, Xi) < cov(^, Г/), 1 < k, I < n.
Доказать справедливость неравенства Слепяна: для всякого х е R
Р( sup ^<x)<P( sup Yk<x\.
4. Пусть £i, &» £з — независимые гауссовские случайные величины,
£; ~,Ж(0, 1), / = 1, 2, 3. Показать, что
^Щ~^(ъ, 1).
(В этой связи возникает интересная для исследования задача описания
всех нелинейных преобразований от п > 2 независимых гауссовских
величин £ь ..., £„, распределение которых также является гауссовским.)
5. Доказать, что «матрицы» R = (r(s, /))S)/G2i> задаваемые функциями
r(s, t) из (25), (29) и (30), являются неотрицательно определенными.
6. Пусть А — некоторая матрица порядка тхп. Назовем матрицу А®
порядка пхт псевдообратной к матрице Л, если найдутся такие
матрицы U и V, что
АА*А=А, A* = UA*=A*V.

§ 13. ГАУССОВСКИЕ СИСТЕМЫ
167
Показать, что матрица А®, определяемая этими условиями, существует и
единственна.
7. Показать, что формулы (19) и (20) в теореме о нормальной
корреляции остаются справедливыми и в случае вырождения матрицы D^, если
в этих формулах вместо D^ рассматривать псевдообратную матрицу D%.
8. Пусть (0, £) = (01, ...,0k, £i, ..., £/) — гауссовский вектор с
невырожденной матрицей Д = D^ — DfcDJ^. Показать, что у функции
распределения Р(0 < а |£) = P(0i < а\, ..., Ok ^ a<k I£) существует (Р-п. н.) плотность
р{а\, ..., ak\£), определяемая формулой
-1/2
р(аи ..., ak\0 =
-\К
{-i(a-E(0|O)*A-1(^-E(0|O)}-
(2^ДеХр1
9. Пусть £ иг} — независимые стандартные гауссовские случайные
величины (со средним нуль и единичной дисперсией).
(a) Показать, что величины £+г/ и £ — rj являются независимыми гаус-
совскими величинами.
(b) Используя (а) и результат задачи 27 из § 8, показать, что
r law £ + 77 law 1 + V$ law 1 +С law J_
е-* " i-ve " i-c - с
где С — случайная величина, распределенная по закону Коши с плотностью
1 / law
— гт7 (напомним, что запись « = » означает равенство по раСПреДе-
лению).
10. (С. Н. Бернштейн.) Пусть £ и г} — независимые одинаково
распределенные случайные величины с конечной дисперсией. Доказать, что если
£ + г/ и £ —^ независимы, то £ и г} являются гауссовскими величинами.
(Обобщение этого результата — «теорему Дармуа—Скитовича» — см. в
задаче 44.)
Указание. Провести доказательство по следующей схеме (через
(Pt(t) обозначена характеристическая функция случайной величины Q:
(a) <pz(t) = (р^ (/) <?£-2 (0 = ^€+^/2) <Pz-v(t/2), откуда
и, аналогично,
*M*G))V(»
^(о=(^(|))2|^(0
teR,
teR;
vs
©
(b) вывести из (а), что \<Pz(t)\ = \<pv(t)\ и \<pv(t)\
(c) заключить из (Ь), что (pv(t) ф 0 для любого t eR и, значит,
определена функция f(t) = ln 1^(01» лпя которой f(t) = 4f(t/2), teR;

168 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(d) из Ет}2 < оо следует, что <pv(t) е C2(R), и из (с) получаем
Г(0 = /"ф = ••. = /"(£)-НО), >ея,
и, значит, f"(t) = const;
(e) из (d) вытекает, что f(t) =at2 + 6/ + с,ив силу (с) f(t) = at2\
(f) из (е) следует, что <pv(f) = elct^+at , где функция a(f) может быть
взята непрерывной, поскольку (pv(t) непрерывна;
(g) убедиться, что a(t) должна быть такой, что
а(/) = 2а(//2), teR;
(h) из Ет}2 < оо вытекает, что <pv(t) дифференцируема в нуле, и из (g)
выводим, что при k —> оо
откуда a(t) =a'(0)t.
В итоге, <pv(t) = еш ^t+at , т. е. г/ является гауссовской случайной
величиной. Аналогичное верно и для £.
11. (Теорема Мерсера) Пусть г = r(s, t) — непрерывная
ковариационная функция на [а, Ь] х [а, 6], где -оо < а < b < оо. Доказать, что уравнение
А \ ф, /)w(/) d/ = u(s), a < 5 < 6,
при бесконечном числе значений А = А^ < 0, k > 1, имеет соответствующие
непрерывные решения иь = иь(х), й> 1, образующие полную ортонорми-
рованную систему L2(a, 6), с тем свойством, что
оо
r(sJ) = Y^Uk(fk(t\
k=\ k
где ряд сходится абсолютно и равномерно на [а, 6] х [а, 6].
12. Пусть X = {Xt, t > 0} — гауссовский процесс с EXt=0 и
ковариационной функцией r(s, t) = e~\l~s\, s,/>0. Пусть 0</i <...<tn и
//,,...,/„ (*ь •••> *я) — плотность распределения величин А"/,, ..., А/д.
Доказать, что эта плотность допускает следующее представление:
'' ^ П о- *—>)] ""2 »р{-| -1£ '^V'}-
/=2
/=2

§ 13. ГАУССОВСКИЕ СИСТЕМЫ
169
13. Пусть f = {fn = fn(u), я> 1; we[0, 1]} —полная ортонормированная
(по мере Лебега на [0, 1]) система ^-функций и £ь &, ... —
независимые одинаково распределенные Л(0, 1)-величины. Показать, что процесс
Bt = X) in 5 fn{u)du, 0< t < 1, есть броуновское движение.
п^\ о
14. Доказать, что если В° = (в°)о</^1 — броуновский мост, то процесс
В = (Bt)t^o с В/ = (1 + /)В°д1+/) является броуновским движением.
15. Проверить, что для броуновского движения B = (Bt)t^o следующие
процессы также являются броуновскими движениями:
в<'> =
в<2) =
fif>=
в<4) =
Bf>:
= -Bt,
= tB\/t,
= Bt+s
= Вт —
= -я«»,
t>0;
/>0,
-Bs, s
и B0 -
>0, />0;
Вт-t для0</<7\
(, a>0,
0;
7">0;
t > 0 (свойство автомодельности)
16. Пусть В^ = (В/ +fjLt)t^Q — броуновское движение со сносом.
(a) Найти распределение величин В^ + В£, t\ < t<i.
(b) Найти ЕЯ£Я£ и ЕВ£В£В£ для /0 < h< h.
17. Для процесса Вм из предыдущей задачи найти условные
распределения
ДЛЯ t\<t2 И t\>t2 И
Р^е-ТО
Р(в^.|вг0,в^)
ДЛЯ /o</i < ^2-
18. Пусть В = (Bt)t^o — броуновское движение. Показать, что процесс
Y = (Yt)teR c Yt=e~ Be2t является процессом Орнштейна—Уленбека
(т. е. гауссовско-марковским процессом с EYt =0 и EYsYt =e~\*~s\).
19. Пусть Y = {Yt)teR — процесс Орнштейна—Уленбека. Показать, что
процесс
[у/ЦГ^Ух. t , 0</<1,
(о, / = o,i,
является броуновским мостом.
20. Пусть £о, £ь &» ••• — независимые одинаково распределенные
стандартные гауссовские с/К(0, 1) случайные величины. Показать, что

170 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
ряд
действительно определяет броуновский мост, а ряд
6=1
так же как и ряд (26), задает броуновское движение.
21. Провести подробные доказательства того, что процессы (В/)о</<ь
определяемые формулами (26), (28), и процесс
1 —COS Я7Г/
fl/ = V5£6
я=1
(величины £„, я> 1, такие же, как в (26) и (28)) являются броуновскими
движениями.
22. Пусть X = (Xk)\^k^n — гауссовская последовательность с
т= max ЕХьу а2 = max ОХь
И
Р< max (Xk — EXk) > а > < - для некоторого а.
Показать, что справедливо следующее неравенство Бореля:
p{maxX*>x)<2»fi^^V
l\^k^n ) \ о J
оо
гдеФ(д;) = (27г)-1/2 $ e~^dy.
X
23. Пусть (J, У) —двумерная гауссовская случайная величина с ЕХ =
EXY
= Е Y = 0, ЕХ2 > 0, Е Y2 > 0 и коэффициентом корреляции ^ =
И<1. ^^'
(a) Показать, что величины являются
независимыми и нормально распределенными.
(b) Доказать, что
P{XY<0}=\-2P{X>0, Г>0} = 7г"1 arccosp,

§ 13. ГАУССОВСКИЕ СИСТЕМЫ
171
и вывести отсюда соотношения
Р{*>0, У>0}=Р{*<0, K<0}=i + ^ arcsinp,
^-Р{Аг>0, У>0} = l
dp ' 2тг\/Т
P2
l l
Р{Х>0, Г<0}=Р{*<0, У>0}=^- ^ arcsinp.
(с) Пусть Z = max(Ar, У), где ЕЛ'2 = EY2 = l. Показать, что
EZ = ;i^, EZ' = l.
(d) Показать, что для произвольных а и Ь справедливы следующие
неравенства:
(1-Ф(а))(1-Ф(с))<Р{* >а,¥>ЬН(1-Ф(а))(1-Ф(с))+МЬ)<£-)т),
где с = (Ь — ар)/у/1 — р1, d = (a- bp)/y/\ — р2 и <р(х) = Ф'(х) — стандартная
нормальная плотность.
Указание. Утверждение (Ь) можно вывести из свойства (а).
24. Пусть Z = XY, где X и Y независимы, *~<Ж(0, 1) и Р{У = 1} =
= P{Y = — 1}= -. Показать, что Z~^(0, 1), и найти распределение пар
(X, Z), (У, Z) и распределение случайной величины X + Z. Убедиться в том,
что X и Z некоррелированы, но зависимы.
25. Пусть £ — стандартная нормально распределенная случайная
величина, £~«Ж(0, 1), и
если |£| <а,
если |£| >а.
Показать, что туа ~«Ж(0, 1) и при а таком, что
-Ц
величины £ и r/i/4 являются некоррелированными, но зависимыми гауссов-
скими величинами (ср. с утверждением а) в теореме 1).
26. Пусть £ и г/ — нормально распределенные случайные величины с
Е£ = Е?7 = 0, Е£2 = Е?72 = 1 иЕ£г/=р. Показать, что
(a) Emax(£4) = V(l-/>)/*.
(Ь)Е«|Ч) = № D(^|^) = l-p2,
(с) E(||e + i/ = z) = z/2, D(m + 4 = z) = (l-p)/2,

172 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(d) E(f + »/|f>0, г/>0) = 2Л/2Д.
Рассмотреть соответствующие аналоги приведенных формул для
случая, когда D£ = а\ и Dr/ = а\ с а\ > О, <Т2 > 0.
27. Пусть (у) —двумерная гауссовская случайная величина с
ковариационной матрицей
cow(X,Y)=K °\
Представить (у) в виДе
где Q — ортогональная матрица, а £ и г/ — независимые гауссовские
случайные величины.
28. Пусть £ = (£i,..., £я) — невырожденный гауссовский вектор с
нулевыми средними и ковариационной матрицейR = ||E££-£/-||. Пусть Aj,..., \п —
собственные числа матрицы R. Показать, что характеристическая
функция cp(t) случайной величины £2 +... + £„ совпадает с характеристической
функцией случайной величины \\rf( + ...+ XnVn^ гДе *?ь • • •» Vn —
независимые стандартные гауссовские случайные величины (^~«Ж(0, 1)), и может
быть представлена в следующем виде:
^(о=П11-2«А/Г1/2-
29. Пусть £ь ...,£« — независимые одинаково распределенные
случайные величины, я>2. Показать, что распределение вектора (£ь ..., £„)
сферически симметрично в том и только том случае, когда каждая из
величин £i, ..., £я является нормально распределенной с нулевым средним.
Указание. Обратиться к рассмотрению характеристических
функций.
30. (К статистике нормального распределения j¥(m, о2). I.) Пусть
£ь ..., £„, п>2, — независимые одинаково распределенные нормальные,
j¥(m, сг2), случайные величины. Показать, что величины
независимы и
(n-l)S^X>-m)2.
k=\
Указание. Воспользоваться результатом предыдущей задачи.

§ 13. ГАУССОВСКИЕ СИСТЕМЫ
173
31. (К статистике нормального распределения jV(m, а2). П.) Пусть
£ь • • •, in — последовательность независимых одинаково распределенных
случайных величин, имеющих нормальное распределение Jf(m, сг2), и
х = (х\, ..., хп) — выборка, полученная в результате наблюдений над £ =
(a) Показать, что пары статистик
п п
Tl(x) = YJ*i, T2(x)=^x?
i=\ i=\
И
1Л 1 П
i=\ i = \
являются достаточными статистиками.
(b) Убедиться в том, что
32. (К статистике нормального распределения j¥(m, a2). Ill: m
неизвестно, <j2 = ctq.) В этой и следующей задачах предполагается, что £i, ...
• ••»£я — последовательность независимых одинаково распределенных,
j¥(m, сг2), случайных величин, и используются обозначения из задач 30
(при п > 2) и 31 (при я> 1).
Пусть га неизвестно, а2 известно и сг2 = сг^.
1 п 1
(a) Показать, что для £=- X) 6 (=-?/(£))
п /=1 /г
2
Е£ = га (несмещенность), D£ = —.
(b) Установить, что (при а2=о^) выборочное среднее х является
эффективной оценкой, т. е. несмещенной и с наименьшей дисперсией.
С этой целью покажите, что в рассматриваемом случае для несмещенных
оценок Т(х) параметра m справедливо неравенство Рао—Крамера:
ОЩ)>- 1 1
-(
.2'
дт )
где
V2-no0
е 2<

174 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
(с) Показать, что величина
£ — т
<Jo/y/n
имеет стандартное нормальное, ^(0, 1), распределение и если \(е)
выбрано так, что
А(е)
~7Ш
1-£ = 7L $ e-^dt (=2Ф(Аф)-1),
где 0 < £ < 1, то интервал
будет доверительным интервалом для т с коэффициентом
надежности 1 — £, т. е. с «вероятностью накрытия»
где Я(т<72) — распределение с плотностью р^та2у (Ср. с определением в п. 2
§7гл.'1.°)
33. (К статистике нормального распределения Jf(m, сг2). IV: т = то,
а2 неизвестно.) Если т известно (т = то), то в качестве оценки а2 есте-
1 п
ственно брать не величину s2(x) = - Y^(xi ~ *)2> а величину
/=1
1
/=1
(а) Показать, что
so(^) = - ^(^-^o)2.
(Ь) Установить, что выборочная дисперсия Sq(x) является (при
/п = то) эффективной оценкой величины сг2, т. е. несмещенной и с
наименьшей дисперсией. Для этого установить, что неравенство Рао—Крамера
для несмещенных оценок Т(х) величины а2 имеет следующий вид:
d\nP{m0tOi)(Q\ n/W
*г^п
Для решения вопроса о точности оценки Sq(x) построим доверительный
интервал для сг2, воспользовавшись следующими соображениями.

§ 13. ГАУССОВСКИЕ СИСТЕМЫ
175
Положим для х = (х\, ..., хп)
п ч 2
^0N
/ = 1
Поскольку
/=1
х2(0=£ч? <=х&
то в соответствии с (34) из § 8 величина х2(£) имеет х2-распределение
с я степенями свободы с плотностью (х > 0)
хп/2-\е-х/2
№х)--щ\
2n/z Г(п/2)
(см. также таблицу 3 в § 3).
Поскольку также
?2/гч_Х^(^У2
5oW-—-—»
то
Р^>{^<*Н £*<<><"•
о
(Отметим, что х2_Распределение протабулировано для многих значений
п= 1, 2, ...) Поэтому для заданного 0<£< 1 можно найти А'(£) и А"(г)
такие, что
А'(е) оо
0 \"{Е)
Тогда
А"(е)
5 f^(t)dt=\-s
и интервал
/£^(£)п sl(x)n
\ А"(е) ' А'(е)
будет доверительным интервалом для о2 с коэффициентом надежности
1 — £, поскольку
{^r<<T2<w}={A'(£)<x"w<A"(£)}-

176 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Пусть а'(£) и а"(£) выбраны так, что
а"(е)
S f*Wt = l-E.
а'(е)
Понятно, что а'(е) и ci"(e) выбираются по заданному £>0 неоднозначно.
(с) Спрашивается: каковы те а'(е) и а"(£), которые приводят к наиболее
узкому доверительному интервалу для а2 с коэффициентом надежности
1 — £? Будут ли они совпадать с выбранными выше значениями Х'(е) и
Х"(Е)}
34. (К статистике нормального распределения j¥(m, о2). V: т
неизвестно, а1 неизвестно.)
(а) Показать, что в рассматриваемом случае несмещенными оценками
для т и и1 являются для п > 1 оценки
п п
(b) Показать, что статистика
/ / ч_ х-т
r"-|W-SlW/v^
имеет распределение Стьюдента с п — 1 степенью свободы; см. таблицу 3
в§3.
Указание. Представить величину tn-\(x) в виде
х — т —
'-'<*>=-да-
и заметить, что
(i) числитель имеет стандартное нормальное, «Ж(0, 1), распределение;
г л 5i(£) / 1 2
(и) знаменатель -L^L распределен как величина W гХ^-р гДе
d я-i ° V /г_!
X^_i = X) vf и *?ь ---»»?/i-i — независимые стандартные нормальные,
«Ж(0, 1), случайные величины;
(ш) величины wn и -L^i являются независимыми.
<т v <j
Требуемое утверждение о распределении величины tn-\(g) будет
следовать из (i), (ii), (iii) и формулы (38) в § 8.
(c) Основываясь на распределении Стьюдента для tn-\(g) и принимая
во внимание, что tn-\(x) = —т^-> построить доверительные интервалы для
m с коэффициентом надежности 1 — е.

§ 13. ГАУССОВСКИЕ СИСТЕМЫ
177
(d) Установив, что величина (п— 1)(-^-\ имеет х2-распределение
с п — 1 степенью свободы, построить доверительные интервалы для и с
коэффициентом надежности 1 — е.
35. Пусть cp(t) — характеристическая функция из задачи 28. Показать,
п
что если 0< а\ <... < ап и числа pk > О таковы, что Y pk = 1, то функция
k=\
t
w>=E*4B
является характеристической функцией.
36. Какими структурными свойствами (типа независимости
приращений, стационарности, марковости и т. д.) обладают гауссовские
последовательности X = (Хп)п^о, ДЛЯ которых функции
<Н'-/1 и min(i,/)(=2-,(|i| + |/|-|/-/|)), /,/=0,1,2,...,
являются ковариационными функциями?
37. Пусть N — стандартная гауссовская случайная величина (N ~
~JV(§, 1)). Показать, что для а< 1
Е_!_ = _!_гГ--->)
\N\a V24 \ 2 2/'
38. Пусть X и У — независимые стандартные нормально, <уК(0, 1),
распределенные случайные величины. Показать, что
1
((F77w)<00
в том и только том случае, когда р < 2.
39. Пусть выполнены условия задачи 38 и
1 -2 , V24 V2
Т = Ш' + У% g = -
2V ^ ;' б_^2 + Г2-
Показать, что
(a) Г и g независимы;
(b) Г имеет экспоненциальное распределение (Р{7"> t} = e~l, />0);
(c) g имеет arcsin-распределение (с плотностью — jc е (0, 1)).
40. Пусть Б = (Bt)t^o — процесс броуновского движения и
7; = inf{/>0: Bt=a)
— момент первого достижения уровня а > 0. (Полагаем Та = оо, если
{.}=0.)

178 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
Ееит = Ееи1Р=ехр{-Щх'2(1-1щ)}, /ея.
Воспользовавшись принципом отражения для броуновского
движения (P/sup Bs >a\ = 2P{Bt >a}; см., например, [17, гл. III, § 10,
с. 89—90]), докажите, что плотность pa(t)=— \Л^ , />0, задается
формулой
Указание. Воспользуйтесь тем, что Р{Та < t) = 2P{Bt > a}.
41. Пусть Т = Т\, где Та определено в предыдущей задаче 40. Показать,
г'^лг2,
где N — стандартная гауссовская случайная величина (N ~<Ж(0, 1)).
Показать также, что преобразования Лапласа и Фурье величины Т задаются
формулами
Ее~2Тт = Ее~Ч"1Р = е~х, А > 0,
— =PYnJ_l/l1/^/ 1 _/ __
(Тем самым, случайная величина 1//V2 может рассматриваться как
конструктивно заданная случайная величина, имеющая устойчивое
распределение с параметрами а =1/2, /3 = 0, 0 = -1, d = \ (см. формулы (9) и
(10)в§6гл. III).
42. Пусть А" и Y — независимые нормально, <Ж(0, сг2), распределенные
случайные величины.
(a) Показать, что величины
2XY Х2-У2
y/X2 + Y2 И у/Х2 + Г2
являются независимыми и нормально распределенными со средним нуль и
дисперсией 1/2.
(b) Вывести отсюда, что
X Y lawop
у-у -^Ь,
где С — случайная величина, распределенная по закону Коши с плотностью
1/(7г(1 +х2)), xeR, и что
C-l'i=w2C.
(c) Обобщить это свойство, показав, что для всякого а > 0
п a law /1 . ч/->
С-- = (1 +а)С.

§ 13. ГАУССОВСКИЕ СИСТЕМЫ
179
(d) Показать, что величины X2 + Y2 и , независимы.
у/Х* + Y2
Указание, (а) Воспользуйтесь представлением величин X и У,
данным в задаче 13 к § 8.
(b) Воспользуйтесь результатом задачи 27 (а) к § 8.
(c) Для доказательства достаточно убедиться в том, что если
X — CLX~
f(x) = —: , то для любой ограниченной функции g(x) интегралы
ОО 1 ОО 1
§ £(/(*)) ут^ и § 8(x) Y^2 совпадают.
—оо —оо
43. Показать, что функция
R(s,t) = ^(t2H+s2H-\t-s\2H),
где 0< Н < 1 и 5, / >0, является неотрицательно определенной функцией
(см. формулу (24)) и существует гауссовский процесс Вн = (B?)t^o
(с нулевым средним), имеющий R(s, t) своей ковариационной функцией.
(Из известного критерия Колмогорова о существовании непрерывных
модификаций —см., например, [17] — можно заключить, что такой процесс
Вн = (B?)t^o может быть выбран имеющим непрерывные траектории.
Именно этот процесс принято называть фрактальным [дробным]
броуновским движением с параметром Харста Н)
Убедитесь также в том, что приведенная функция R(s, t) при Н > 1 не
является неотрицательно определенной.
44. (Теорема Дармуа—Скитовича) Пусть £ь ..., £„ — независимые
одинаково распределенные случайные величины и а\, ..., ап, Ь\, ..., Ьп —
отличные от нуля постоянные. Показать, что имеет место следующая
п п
характеризационная теорема: если случайные величины Е а/6 и Е ^/£/
независимы, то величины £i, ..., £„ имеют нормальное распределение.
(В случае п = 2, a\=a2 = l, b\ = l и 62 = —1 получаем «теорему Берн-
штейна» из задачи 10.)
45. Пусть £i, £2, ••• — последовательность независимых стандартных
нормальных, о/К(0, 1), случайных величин. Показать, что случайные
величины
п п
Е е- е 6
Хп = \/п +=— И Yn= / l~ .j/g
1 = 1 \/=1 /
по распределению сходятся (при п —> оо) к нормально распределенной
случайной величине <Ж(0, 1).

180 ГЛ. II. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ
46. Пусть (X, Y) — гауссовская пара случайных величин с ЕЛ" = EY =
= 0, DX = DY = 1 и коэффициентом корреляции рхуу. Показать, что
коэффициент корреляции рф(Х),Ф(У) величин Ф(Х) и Ф(У), где Ф(х) =
х
= (27г)-1/2 \ е~у /2 dy, задается формулой
—со
6 . РХУ
РФ(Л),Ф(У) = - arcsin —^-.
47. Пусть (X, Y, Z) — трехмерная гауссовская случайная величина с
EX = EY = EZ = 0, DX = DY = DZ = l и коэффициентами корреляции
р(Х, Y) = p\, p(X, Z) = p2, p(Y, Z) = p$. Показать (ср. с утверждением (Ь) в
задаче 23), что
Р{А" > 0, Y > 0, Z > 0} = д + ^—{arcsin р\ + arcsin р2 + arcsin p$}.
Указание. Пусть А = {Х>0}, B = {Y>0}, C = {Z>0}. Тогда если
р = Р(АГ)ВГ)С), то по формуле включения-исключения (задача 12 в § 1
главы I)
I- р = Р(АиВиС) =
= [P(A) + P(B) + P(Q]-[P(AnB) + P(AnQ + P(BnC)] + р.
Далее надо воспользоваться результатом задачи 23(b).
48. Доказать, что преобразование Лапласа Ее~х® , А > 0, квадрата &2
«размаха» & броуновского моста В° = (В°)о^/^ь т- е. случайной величины
& = J-(max B° - min В?)
V тг 40^/^1 0^1 /
задается формулой
Vsh у/Ш)
49. (О. В. Висков.) Пусть г/ и £ — независимые стандартные нормально
распределенные, «Ж(0, 1), случайные величины. Показать, что
(a) для всякой функции f = f(z), zeC, с E\f(x + (ri + iQ)\<oo
справедливо следующее свойство «усреднения»:
f(x) = Ef(x + (v + iQ);
(b) для полиномов Эрмита He„(jt), я>0 (см. приложение, с. 373),
справедливо представление He„(jt) = Е(х + i£)n и Е He„(jt + rj) = xn.

Глава III
БЛИЗОСТЬ И СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР.
ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА
§ 1. Слабая сходимость вероятностных мер
и распределений
1. Будем говорить, что функция F = F(x), заданная на /?т,
непрерывна в точке xeRm, если для любого £>0 найдется такое <5>0, что
\F(x) — F(y)\ < s для всех у е Rm, удовлетворяющих неравенству х — ее <
<у<х + 8е, где е = (1, ..., \)eRm. Будем также говорить, что
последовательность функций распределения (Fn)n^\ сходится в основном к
функции распределения F (обозначение: Fn^>F), если Fn(x) -^F(x) при
п —► оо для всех точек х е /?т, где функция F = F(x) непрерывна.
Показать, что утверждение теоремы 2 остается справедливым для
пространств /?т, т>\. (См. замечание 1 к теореме 1.)
Указание. Достаточно проверить лишь эквивалентность (1)<=>(4).
Для доказательства импликации (1)=>(4) предположите, что xeRm
является точкой непрерывности функции F. Убедитесь в том, что если
д(-оо, х] — граница множества (-оо, х] =(—оо, Х\] х ... х (-оо, хт], то
Р(д(-оо, х]) = 0 и, значит, Рл((—оо, х])—> Р((-оо, х]), т. е. Fn(x)^>F(x).
Для доказательства импликации (4)=>(1) в m-мерном случае надо
следовать той же схеме, что и в теореме 2 для одномерного случая.
2. Показать, что в случае пространств Rm класс «элементарных»
множеств JT является классом, определяющим сходимость.
3. Пусть Е — одно из пространств /?°°, С или D (см. § 2 гл. II). Будем
говорить, что последовательность вероятностных мер (Рп)п^\ (заданных
на сг-алгебре £ борелевских множеств, порожденных открытыми
множествами) сходится в основном в смысле конечномерных распределений к
вероятностной мере Р (обозначение: РЛ=>Р), если Р„(у4)—>Р(Л), я—>оо,
для всех цилиндрических множеств А с Р(дА) = 0.
Показать, что в случае пространства R°°
(р„4р) & (Р„=>Р). (*)
Верно ли это утверждение для пространств С и D?

182
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
Указание. В (*) импликация <<= очевидна. Поэтому надо доказать
лишь, что (Рп => Р) => (Рп —► Р). Пусть / — ограниченная (| /| < с) функция
из C(R°°). Для те N = {1,2, ...} определим функции /m: R°° —>/?
формулой
fm{X\, ..., Хт, Хт+\, ...) = f(xU ..., Хт, О, 0, ...).
Тогда fm е С(/?°°), | fm\ < с и /т(х) —► /(х) для любого л: еR°°. Рассматривая
множества
Am = {xeR°°: |Ы*)-/(*)|<е},
убедитесь в том, что при достаточно больших пит справедлива оценка
J /mrfPn- J /rfP«
^ЕРп(Ат) + 2сР(Ат)^Е + 4с£.
Пользуясь далее тем, что для каждого т \ fmdPn^> \ /mdP, выведите
R°° R°°
из предыдущей оценки, что для достаточно больших т
Йт § fdPn- § fmdP <e + 4cs\
I /?°° /?°° I
lim ^ /rfP«- § /mrfP <£ + 4с£.
\ n R°° R°° I
По теореме Лебега о мажорируемой сходимости \ /m^P—> \ fdP, и
предыдущие два неравенства дают, что R°° R°°
llim $ /rfP/i- $ /dP|<g: + 4cs\
IHm, $ /rfP/i- $ /dP|<g: + 4cs\
I л R°° R°° I
В силу произвольности £ > О отсюда следует, что
R°° R°°
4. Пусть F и G — функции распределения на числовой прямой и
L(/\ G) = inf{A>0: F(x - h) - h^G(x) ^F(x + h) + A}
— расстояние Леей (между F и G). Показать, что сходимость в основном
эквивалентна сходимости в метрике Леей, определяемой расстоянием
L( •, ■), т. е. что
(Fn=>F) *> (L(Fn,F)^0).

§ 1. СЛАБАЯ СХОДИМОСТЬ
183
Указание. Импликация (L(Fn, f) —> 0) => (/^ => f) следует
непосредственно из определений. Обратная импликация устанавливается от
противного, т. е., предполагая, что Fn^>F, но L(Fn, F)-/*0, надо прийти к
противоречию.
5. Пусть Fn^F и функция распределения F является непрерывной.
Показать, что тогда сходимость Fn(x) к F(x) равномерна по xeR (ср.
с задачей 8 в § 6 гл. I):
sup \Fn(x) - F(x)\ —> О, п —► оо.
х
Указание. Зафиксируем s > О и возьмем т > \/s. В силу
непрерывности F найдутся точки х\,..., хт-\ такие, что F(x\) = i/m и для
достаточно больших п выполнены неравенства \Fn(x{) — F(xi)\ < e, / = 1, ..., т — 1.
Вывести отсюда, что для любого х е [xk, xk+\] (с х0 = -оо, хт = оо)
Fn(x) - F(x) < Fn(xk+\)- F(xk) < F(xk+\)+£- F(xk)=£ + — < 2s.
Аналогично, F(x) — Fn(x) < 2s и, значит, \Fn(x) — F(x)\ < 2s для любого xeR.
6. Доказать утверждаемое в замечании 1 к теореме 1.
7. Убедиться в справедливости эквивалентности условий (I*)—(IV*),
сформулированных в замечании 2 к теореме 1.
8. Показать, что Рп ^ Р тогда и только тогда, когда всякая
подпоследовательность (Рл/) последовательности (Рп) содержит
подпоследовательность (РЛ") такую, что Рп" ^>Р.
Указание. Необходимость очевидна. Чтобы доказать достаточ-
W
ность, надо заметить, что если Рп /»Р, то найдутся непрерывная
ограниченная функция /, s > О и подпоследовательность (п1) такие, что
>£.
J/dPrf-J/dP
\Е Е |
Используя это, можно прийти к противоречию с предположением о
существовании подпоследовательности (п") С (п1) такой, что Рп» ^ Р.
9. Дать пример вероятностных мер Р, Рп на (/?, 3${R)), я> 1, таких,
что Рп ^ Р, но для всех борелевских множеств В е SS{R) сходимости
Рп(В) —► Р(В) может и не быть.
10. Привести пример функций распределения F = F(x), Fn = Fn(x),
м> 1, таких, что Fn^>F, но sup \Fn(x) — F(x)\ />0, я—>оо.
x
П. Во многих руководствах по теории вероятностей утверждение
(4) => (3) теоремы 2 о сходимости функций распределения Fn, я>1,
к функции распределения F связывается с именами Хелли и Брэя. В этой
связи предлагается передоказать следующие утверждения:

184
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
(a) Лемма Хелли—Брэя. Если Fn^F (см. определение 1), то
Mm{g(x)dFn(x) = \g(x)dF(x),
а а
где а и b — точки из множества точек непрерывности функции
распределения F = F(x) и g = g(x) — непрерывная функция на [а, Ь].
(b) Теорема Хелли—Брэя. Если Fn => F и g = g(x) — непрерывная
ограниченная функция на /?, то
оо оо
lim § g(x)dFn(x)= § g(x)dF(x).
—оо —оо
12. Пусть Fn =>F и последовательность (\ \х\ь dFn(x)) ограничена
для некоторого Ь > 0. Показать, что тогда ( у) = § ('))
—оо
lim ^ |jc|flrf/7„(A:) = 5 Ijc^rf^jc), 0<a<fe,
lim ^ A:*d/vI(jic) = 5 xkdF(x) для всякого £=1,2,..., [&], fe^fe.
13. Пусть Fn^F w ц = med(/7), \in = med(Fn) — медианы F w Fn
соответственно (см. задачу 5 в § 4 гл. I). Предположим, что медианы \i и \in
определены однозначно для всех п > 1. Доказать, что \in —► ^.
14. Пусть F —функция распределения, однозначно определяемая
своею
ими моментами га(/г) = \ xkdF(x), k = \,2, ... Пусть (Fn)n^\ — последо-
—оо
вательность функций распределения такая, что моменты
оо оо
т{*> = $ xkdFn{x)^m(k)= § xkdF(x), k=l,2, ...
—oo —оо
Показать, что тогда Fn => F.
15. Пусть ц есть сг-конечная мера на метрическом пространстве
(£, <?, р) с сг-алгеброй £ борелевских множеств. Показать, что для каждого
Ве£
ц(В) = sup fi(F) = inf /a(F),
FCB G^B
где F и G — соответственно замкнутые и открытые подмножества из £.
16. Показать, что на числовой прямой R функции распределения Fn,
м> 1, слабо сходятся к функции распределения F (Fn^>F) тогда и
только тогда, когда на R существует всюду плотное множество D такое, что
Fn(x) —* F(x) для каждого х е D.

§ 2. ОТНОСИТЕЛЬНАЯ КОМПАКТНОСТЬ И ПЛОТНОСТЬ 185
17. Пусть g(x) и (gn(x))n^\, x^R, — непрерывные функции такие, что
sup |£„(л:)|<<;<оо
JC, П
И
limsup \gn(x)- g(x)\=0
для каждого ограниченного интервала В = [а, Ь].
Показать, что если имеет место сходимость функций распределения
Fn^F, то
lim § gn(x) dFn(x) = § g(x) dF(x).
n R R
Убедиться на примере, что для справедливости этой сходимости одной
поточечной сходимости gn(x) —► g(x), xeR, может быть недостаточно.
18. Пусть последовательность функций распределения Fn =>F, n —► оо.
(a) Привести пример, показывающий, что, вообще говоря,
\ х dFn(x) /> \ х dF(x).
R R
(b) Показать, что если для некоторого k > 1 sup § \x\k dFn < с < оо, то
для всех 1 < / < k - 1 п R
\xl dFn{x)^\xldF{x).
R R
19. В обобщение утверждений предыдущей задачи доказать, что если
f = f(x) есть непрерывная функция — не обязательно ограниченная, но
такая, что |Г/ ч|
lim JM=Of
|дг|—оо g(x)
где g = g(x) есть положительная функция с sup \ g(x) dFn(x) < с < оо, —
то п R
\f(x)dFn(x)^\f(x)dF(x).
R R
§ 2. Относительная компактность и плотность
семейства вероятностных распределений
1. Провести доказательство теорем 1 и 2 для пространств Rn, az>2.
2. Пусть Ра — гауссовская мера на числовой прямой с параметрами та
и сг^, ае21. Показать, что семейство <^ = {Ра; ае21} является плотным
тогда и только тогда, когда существуют константы а и b такие, что
\та\ <а, <7^ <&, ае21.

186
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
Указание. Достаточность следует из того, что для любого а е 21
можно найти случайную величину r}a ~ J/(О, 1) такую, что £а = ^а +0"а?7а-
Учитывая это, находим, что Р{|£а| >п) < Р| |?7а| > \. Отсюда следует
плотность семейства {Ра}. Необходимость доказывается от противного.
3. Привести примеры плотных и не плотных семейств вероятностных
мер <^ = {Ра; ае21}, определенных на (/?°°, ЩЯ°°)).
Указание. Рассмотрите следующие семейства мер:
(а) {Ра}, гдеРа = Рс
{!
Р(А) = 1 лч если(°'0' -)еА<
{ } Sn если (О, О, ...)$М,
(Ь) {Рл, п е /V}, где Рп — мера, сосредоточенная в точке хп = (я, 0, 0, ...).
4. Пусть Р есть вероятностная мера на метрическом пространстве
(£, <?, /9). Говорят (ср. с определением 2), что мера Р является плотной,
если для каждого £>О найдется компакт К QE такой, что Р(К) > 1 — £.
Доказать следующий результат («теорема Улама»): каждая
вероятностная мера Р на польском (т. е. полном сепарабельном метрическом)
пространстве является плотной.
5. Пусть X = {Ха; а е 21} — некоторое семейство случайных векторов
(XaeRd, ае21), при этом sup E||Ara||r < оо для некоторого г>0. Пока-
зать, что семейство £? = {Ра', аеЩ распределений Ра =Law(Ara) является
плотным.
6. Говорят, что семейство {£/, t e 7} случайных векторов £/ со
значениями в Rn плотно, если
lim supP{||£,||>a} = 0.
а—юо ^ст
(a) Показать, что для семейства {£&, k > 0} случайных векторов £& со
значениями в Rn условие плотности равносильно условию
lim lim P{||&||>a} = 0.
а—юс k—>oo
(b) Показать, что если {^, k > 0} — семейство неотрицательных
случайных величин, то условие его плотности равносильно тому, что
НтШп(1-Ее-Л€-) = 0.
7. Пусть (&)л^о — последовательность случайных векторов со
значениями в Rn и &—►£, т. е. распределения F^ векторов £& слабо
(равносильно—в основном) сходятся к распределению F вектора £. Показать, что
семейство {&, £>0} плотно.

§ 2. ОТНОСИТЕЛЬНАЯ КОМПАКТНОСТЬ И ПЛОТНОСТЬ 187
8. Пусть (£fc)^o — плотная последовательность случайных величин и
последовательность (щ)к^о такова, что щ —>0, k —>оо. Показать, что тогда
Ьт -> 0, k -> оо.
9. Пусть Х\,Х2, ... — бесконечная последовательность
перестановочных случайных величин (см. определение в задаче 4 к § 5 гл. II). Пусть
величины Xi принимают значения 0 и 1.
Доказать справедливость следующего результата: существует такое
распределение вероятностей G = G(\) на [О, 1], что для любого 0<£<м
и любого п > 1
1
Р{*1 = 1, ...,** = lfJk+i=0, ...,Xn=0} = \\k(\-\)n-kdG(\).
о
(Это утверждение есть частный случай известной теоремы Б. де Финетти,
утверждающей, что всякая бесконечная перестановочная
последовательность есть смесь (взвесь) последовательностей независимых одинаково
распределенных случайных величин; см. [33] и [2].)
Указание. Пусть Ak = {X{ = 1, ..., Xk = l, Xk+X = 0, ..., Хп=0}.
Представьте вероятность P(Ak) в виде
т
P(Ak) = J2 P(Ak ISm = j) P{Sm = /}, (*)
/=o
m
где т^п и Sm = Y^ Xt. Затем, пользуясь свойством перестановочности,
i=\
покажите, что правая часть в (*) может быть записана в следующем виде:
k-\ n-k-\
£[]№-')■ П (m(\-Ym)-j)-^ ,
«=о /=о П (т -1)
1=0
где Ym = —. (Для больших т это выражение близко к Е[УД(1 — Ym)n~k\)
После этого сделайте предельный переход по т->оо и заключите, что
1
предельное выражение может быть записано в виде \ \k(\ — X)n~k dG(A),
о
где G(A) — некоторая функция распределения на [О, 1].
10. Пусть £i, ..., £л — перестановочные случайные величины,
принимающие значения 0 и 1. Показать, что
(a) Р(6 = 1 \S„) = Ц-, где S„ = {, + ... + U
(b) P(6 = 1, ^ = 1 |S„) = ^gi^i>. где /#/.

188
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
11. В обобщение результата теоремы 2 из § 11 главы I доказать, что
если г/1, ..., г}п — перестановочные случайные величины со значениями в
{О, 1,2, ...} и Sk=tq\ + ... + щ, 1 < £<я, то
P(Sk < k для всех 1 < k < п\Sn) = (\ - ^-V.
§ 3. Метод характеристических функций
в доказательстве предельных теорем
1. Доказать справедливость утверждений теоремы 1 для случая
пространств /?л, м>2.
Указание. Доказательство аналогично доказательству в
одномерном случае, за исключением леммы 3, многомерный аналог которой надо
установить в следующей версии:
А В
где
A = {xeRn\ |*i|>-, ..., |*л|>-|,
I а а)
B={teRn\ 0</i<a, ..., 0^tn^a}.
2. (К закону больших чисел.) (а) Пусть ^, £2, • • • — последовательность
независимых случайных величин с конечными средними Е|£„| и
дисперсиями D£„</(, az> 1. Показать, что выполнен закон больших чисел: для
всякого £> О
pfiei+-+6._E(e, + ...+6.)| |_0 п^ w
U п п \ )
(b) Пусть £i, £2, ••• — последовательность случайных величин с
конечными средними Е|£л|, дисперсиями D£„</(, м>1, и ковариациями
cov(£/, £у) ^ 0 при 1ф\. Показать, что выполнен закон больших чисел (*).
Указание. В обоих случаях (а) и (Ь) надо воспользоваться
неравенством Чебышева.
(c) (С. Н. Бернштейн.) Пусть £i, £2, ••• —последовательность
случайных величин с конечными средними Е|£„|, дисперсиями D£„</(, м>1,
и ковариациями такими, что cov(£/, £7) —>0 при \i — /| —► оо. Показать, что
в этих условиях также выполнен закон больших чисел (*).
Указание. Убедитесь в том, что в сформулированных условиях
D(&+... + £«)//!->О, п^оо.

§ 3. МЕТОД ХАРАКТЕРИСТИЧЕСКИХ ФУНКЦИЙ 189
(d) Пусть £ь £2, ... — последовательность независимых одинаково
распределенных случайных величин, и пусть ^„ = E[£i/(|£i| < я)].
Предположим, что
lim a;P{|£i|>a:} = 0.
х—>оо
Показать, что справедлив закон больших чисел в следующей
формулировке:
где, как обычно, Sn = £1 +... + £„. (См. также задачу 20.)
Указание. Для фиксированного 5 > 0 положим £^s) = £;/(|£;| < s) и
Шп) = Е [£[5) +... + £„5)]. Установите, что
P{|£i+... + 6,-m<f>|>/K
<r2D(f}s) + ... + ^) + Ptt,+... + fn^{{s) + ... + fiis)}.
Используя эту оценку, убедитесь (беря 5 =п и / = ея, £>0), что
P{\il+-n+b-Emti\<n)\>e}^^.lxP{\b\>x}dx + nP{\t-l\>n},
откуда уже можно вывести требуемое утверждение.
3. В следствии к теореме 1 установить, что семейство {срп, м> 1}
равностепенно непрерывно и сходимость (рп^><р равномерна на каждом
ограниченном интервале.
Указание. Равностепенная непрерывность семейства {срп, п> 1}
означает, что для каждого £ > 0 существует 8 > 0 такое, что для каждого
я> 1 и 5, t таких, что \t-s\<6, справедливо неравенство \(pn(t) — (pn(s)\<£.
Если Fn^>F, то по теореме Прохорова из §2 для всякого £>0 найдется
а > 0 такое, что § dFn < е, я > 1. Тогда
!*>«(' +А)-*>«(01< $ |^-l|dFrt+2£,
откуда уже нетрудно вывести свойство равностепенной непрерывности,
которое затем используется для доказательства того, что на каждом конечном
отрезке [а, Ь]
SUp \(pn(t)-(p(t)\^04 AZ^OO.
t£[a,b]
4. Пусть £„, я > 1, — случайные величины с характеристическими
функциями у>£я(0, я> 1. Показать, что £л —>0 тогда и только тогда, когда
¥>£„(0 —► 1, я—юо, в некоторой окрестности точки t = 0.

190
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
Указание. При доказательстве достаточности надо прежде
всего воспользоваться леммой 3, из которой выводится, что семейство мер
{Law(£rt), az> 1} является плотным.
5. ПустьХ\, Х2, ... — последовательность независимых одинаково
распределенных случайных векторов (со значениями в Rk), имеющих нулевое
среднее и (конечную) матрицу ковариаций Г. Показать, что
у/П
(Ср. с теоремой 3.)
Указание. Согласно задаче 1, достаточно лишь убедиться в том,
что для любого t e Rk
где ^л"1/2^,+ ... + *„) и £~^(0, Г).
6. Пусть £i,&, .. и г}\,г}2, ... —две последовательности случайных
величин такие, что £п и г}п независимы при каждом п. Предположим, что
£n^£,Vn^V ПРИ я —> оо, где £ и г/ независимы.
(a) Доказать, что последовательность двумерных случайных величин
(£аъ Vn) сходится по распределению к (£, rj).
(b) Пусть / = f(x, у) — непрерывная функция. Проверить, что
последовательность /(£„, г}п) сходится по распределению к /(£, rj).
Указание. Сходимость (£„, г}п) —► (£, rj) выводится из утверждения
задачи 1. Для доказательства сходимости /(£аь ??«)—>/(£, *?)
рассмотрите композицию сро /: /?2—>/?, где ср\ /?—>/? — непрерывная ограниченная
функция.
7. Привести пример, показывающий, что в утверждении 2)
теоремы 1 условие непрерывности «предельной» характеристической функции
<p(t) = lim <pn(t) в нуле, вообще говоря, не может быть ослаблено. (Ина-
п
че говоря, если <p(t) не непрерывна в нуле, то может случиться, что
w
<Pn(t)—><p(t), но Fn -f*F ни для какой функции распределения F.) Убедиться
на примере, что отсутствие непрерывности предельной функции <p(t) в нуле
может привести к нарушению свойства плотности семейства
вероятностных распределений {Рп, я> 1}, с характеристическими функциями <pn(t),
Указание. Рассмотрите в качестве Fn функции распределения гаус-
совских случайных величин с нулевым средним и дисперсиями, равными п.
8. В дополнение к неравенству (4) в лемме 3 показать, что если £ —
случайная величина с характеристической функцией <p(t), то:

§ 3. МЕТОД ХАРАКТЕРИСТИЧЕСКИХ ФУНКЦИЙ 191
(a) для а > О
та
(b) для положительных b и 6
(1 + тт) *
6 о
с) если, кроме того, £ — неотрицательная случайная величина и гр(а) =
= Ее~а* — преобразование Лапласа (а > 0), то
Р{^а"1}<2(1-^(а)).
9. Пусть £, £i, $2, ••• — случайные векторы со значениями в /?л.
Показать, что & —► £, & —► оо, в том и только том случае, когда для любых
векторов t eRn скалярные произведения
(Этот результат лежит в основе метода Крамера—Уолда, состоящего в
сведении проверки сходимости по распределению случайных векторов в
Rn к проверке сходимости по распределению соответствующих скалярных
случайных величин.)
10. В дополнение к утверждению теоремы 2 — называемой законом
больших чисел Хинчина (или критерием Хинчина) — доказать
справедливость следующей версии этого закона.
Пусть £i, £2, • • • — последовательность независимых одинаково
распределенных случайных величин, Sn=$)\ +... + £л, 0<р<2. Тогда для
некоторой константы с G R
n-V'Sn^c
в том и только том случае, когда при г —► 0
(a) rPP{|£i|>r}—>0 и с = 0 в случае р< 1;
(b) гР{|£,| > гНОи ЕК,/(|е,| < г)] ^с в случае р = 1;
(c) rPP{|£i|>r}^0 и E£i=c = 0 в случае р> I.
11. Пусть £ь &1 ••• —последовательность независимых одинаково
распределенных случайных величин, Sn = £1 +... +£л, я ^ 1 • Показать, что
при я—>оо величины n~x/2Sn сходятся по вероятности в том и только том
случае, когда P{£i =0}= 1.
12. Пусть /^(х) и (Fn(x))n^\ — функции распределения, a cp(t) и
(Wi(0Wi — соответствующие характеристические функции. Показать,

192
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
что если
то и
sup |*>я(/)-*>(0|-> о,
sup\Fa(x)-F(x)\^0.
X
13. Пусть £ь &, ••• —последовательность независимых одинаково
распределенных случайных величин с функцией распределения F = F(x).
Пусть S„ = fi + ... + £,, я> 1.
Доказать справедливость следующей версии закона больших чисел
(А. Н. Колмогоров): для существования последовательности чисел (ап)п^\
такой, что
Stl Р л / ч
необходимо и достаточно, чтобы
пР{\£\\>п}^0у я^оо, (**)
или, равносильно, чтобы
х[ 1 - ^(х) - F(-jc)] -> 0, х -> оо.
В этих предположениях a„ — E(£i/(|£i | < п)) —►О, я —► оо. (Существование
последовательности (ап)п^\ со свойством (*) называют устойчивостью
последовательности ( —) яо Колмогорову.)
14. Показать, что если E|£i| < 00, то в предыдущей задаче выполнено
условие (**) и в этом случае можно взять ап = т, где т = Е£\. (Ср. с
теоремой 2 — критерием Хинчина справедливости закона больших чисел
и утверждениями в задачах 10 и 13.)
15. Пусть £i, &, ••• —последовательность независимых одинаково
распределенных случайных величин, принимающих значения ±3, ±4, ...
с вероятностями
где нормирующая константа
-(±
-1
х2 In х
k=3
Показать, что здесь E|£i| =00, но условие (**) из задачи 13 выполнено и
можно взять ап = О, а значит, в рассматриваемом случае — —► 0.

§ 3. МЕТОД ХАРАКТЕРИСТИЧЕСКИХ ФУНКЦИЙ 193
Замечание. Подчеркнем, что поскольку у приведенных величин £ь
$2, • •• нет конечного математического ожидания (Е|££-|=оо), то не
приходится говорить о выполнении закона больших чисел в форме Хинчина
(n~lSn^>m, где т = Е£\\ теорема 2). Но, тем не менее, в приведенном
примере случайных величин £i, £2, • •• есть устойчивость по Колмогорову
(см. задачу 13):
>т (=0),
где т = Ё£\ —обобщенное математическое ожидание, определенное
А. Н. Колмогоровым (см. [60, гл VI, § 4]) по формуле
Ef, =jjmoE(/(|fl| </!){,).
Позже это обобщенное математическое ожидание было названо
Колмогоровым А-интегралом. (В анализе сейчас принято говорить, что боре-
левская функция / = /(х), xeR, является А-интегрируемой, если эта
функция
(i) принадлежит классу L1 в слабом смысле (т. е. lim n\{x: \f(x)\ >я}—►
->0)и
(ii) существует lim § f(x) \(dx), где А — мера Лебега на (/?, 38(Щ).
П {х:\[(х)\^п}
Обычно так определенный интеграл обозначается (А) \ f(x)\(dx).
Интересно отметить, что для так определенного интеграла многие свойства
обычного интеграла Лебега, вообще говоря, не выполняются. Например,
может нарушаться свойство аддитивности.)
16. Пусть £i, £2, ... — последовательность независимых случайных
величин (с конечными математическими ожиданиями) таких, что для
некоторого <5<Е(0, 1)
;пт*ЕЕ16114*->о. я->оо.
Показать, что при этом «условии (1+5)» справедлив закон больших
чисел:
i£(6-E6)-^0, „^00.
£ = 1
17. (К теореме 3; случай разнораспределенных случайных величин.)
В теореме 3 было приведено доказательство (методом
характеристических функций) центральной предельной теоремы для случая независимых
одинаково распределенных случайных величин, опирающееся на теорему

194
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
непрерывности (теорема 1). Пользуясь тем же методом, доказать
справедливость центральной предельной теоремы для случая независимых разно-
распределенных случайных величин в следующей схеме.
Пусть Ль ^2, ... — последовательность независимых событий с
Р(Ап)= \/п. (Примером таких событий могут быть, например, события из
задачи 21 к § 4 главы II.) Положим £„ = 1ап и Sn=£\+... + £n. Показать,
что
ES„ = ^ - (~1пя, я—юо),
Sn — ES/г
Рассмотрев характеристические функции <pn(t) величин —__ , я>1,
_/2/9 VOSn
показать, что (pn(t)—>e ' и, следовательно (теорема 1), справедлива
центральная предельная теорема', при я —► оо
"{^тат^Ь*** «*■
18. В дополнение к неравенству (4) в лемме 3 показать, что
справедливы следующие двусторонние неравенства: для всякого а > О
1 а
(1 —sin 1) § dF(x)^^[l-Recp(t)]dt^2 § dF(x) + ^.
Указание. Для получения правого неравенства надо представить
1 — Re cp(t) в виде
1 - Re <p(t) = J (1 - cos tx) dF(x) =
R
= § (1 - cos tx) dF(x) + § (1 - cos tx) dF(x),
\x\>VTfi \x\<y/TJa
оценить каждый из этих интегралов и затем (как и в лемме 3)
воспользоваться теоремой Фубини.
19. Пусть (£п)п^\ — последовательность независимых случайных
величин, распределенных по закону Коши с плотностью
-tJ—K* 0>O, xeR.
-n(Oz+xz)
Показать, что распределения Fn случайных величин - max & слабо схо-
дятся к распределению Фреше с параметром а = 1 (см. задачу 48 к § 8

§ 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА. I
195
главы II) — распределению случайной величины \/Тс, где Тс имеет
экспоненциальное распределение с параметром с = 0/7г\
pjl<x} =e-'A, х>0.
20. (Теорема непрерывности в случае дискретных величин) Пусть
£i £ь $2* ••• —случайные величины, принимающие значения & = 0, 1,2, ...
Обозначим
оо оо
G(s)=J2p{Z = b)sk и Gn(s)=Y,P{tn = k}sk
— производящие функции величин £ и £„, п > 1.
Показать, что
lim p{£n = k} = P{£ = k}y k = 0y 1,2, ...,
п
в том и только том случае, когда
lim Gn(s) = G(s)y 5G[0, 1).
п
21. Доказать утверждение задачи 35 из § 10 главы II методом
характеристических функций. (Характеристической функцией случайной
величины £/, имеющей равномерное распределение на [—1, 1], является функция
sin / v
~~~''
§ 4. Центральная предельная теорема для сумм
независимых случайных величин. I.
Условие Линдеберга
1. Пусть £ь £2, ••• —последовательность независимых одинаково
распределенных случайных величин с Е£^ < оо. Показать, что
maxQdl |Ы)Ло я^оо>
у/И
(Ср. с задачей 53 в § 10 гл. II.)
Указание. Воспользуйтесь тем, что
rafmax(|gi|,...,|&,|)
^JfidI<e} = [Ptf?</i£a}]«
и /2£2P{£i > пе) —► 0, п —► оо.
2. Дать прямое доказательство того, что в схеме Бернулли величина
sup \Ртп(х)-Ф(х)\ имеет порядок —=, я—>оо.
х Vn

196
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
3. Пусть Х\, ^2, ... — бесконечная последовательность
перестановочных случайных величин (см. задачу 4 к § 5 гл. II) с ЕХп = О, ЕХ% = 1, я > 1.
Предположим, что
cov№, X2)=CQv(Xl Х%). (*)
Доказать, что для такой последовательности справедлива центральная
предельная теорема:
/=1
(**)
Обратно, если выполнено (**), то выполнено и (*).
4. (а) Локальная предельная теорема для решетчатых
случайных величин. Пусть £i, &, ... —независимые одинаково распределенные
случайные величины со средним j/ = E£i и дисперсией о2 = D£i. Положим
Sn = £i + • • • + £/ь п > 1, и будем предполагать, что величины £i, &, • • •
являются решетчатыми с возможными значениями a + hk, где k = О, ± 1, ±2,
и (максимальным) шагом h > 0.
Показать, что при я —► оо
sup
k
^P{Sn=an + hk}--+=-
exp
{-
(hk + an — nii)
► 0.
(Ср. с локальной предельной теоремой в § 6 главы II.)
Указание. Доказательство можно провести, воспользовавшись
следующими соображениями, основанными на свойствах
характеристических функций. Согласно задаче 9 к § 12 главы II,
P{Sn=an + hk}=P{(Sn-an)h-l=k} = ^- §
e-iuke-
Ki)]'
du,
где ср(и) — характеристическая функция величины £i. Ясно также, что
ос
-*72= ' J eiuze-Uy2du
Поэтому
2тг
П 27Г
<
< \Л*Ш
mi^L
: _ р-Р/2
dt+ $ е_'2/2л.
\t\>z&

§ 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА. I
197
Выражение в правой части не зависит от &, и остается лишь убедиться в
том, что при п —> оо это выражение стремится к нулю.
(Ь) (Локальная предельная теорема для случайных величин с
плотностью.) Пусть £i, £2, • •• — независимые одинаково распределенные
случайные величины со средним /2= E£i и дисперсией о2 = D£i.
Предположим, что характеристическая функция cp = cp(t) величины £i является
интегрируемой и, следовательно, имеет плотность
H*) = h S e-Ux<P(t)dt
(см. теорему 3 в § 12 главы II).
Обозначим fn = fn(x) плотность функции распределения величин Sn =
= £1 + • • • + £я, я ^ 1 • Показать, что при я —► оо
1 ( (х — niif
sup
>«'■«-ж ч-W
►0.
Указание. Провести доказательство, следуя той же схеме, что и в
случае решетчатых случайных величин.
5. Пусть Х\,Х2, ... — независимые одинаково распределенные
случайные величины с EA"i=0, EAf = l. Пусть d\, d<±, ... — неотрицательные
п
константы такие, что dn = o(Dn), где D\ = Y^ d\- Показать, что после-
k=\
довательность «взвешенных» величин d\X\, d<iX<i, ... удовлетворяет
центральной предельной теореме:
1
±-Y^dkxk±jr(o% 1).
Un f—'
6. Пусть £i, £2, ••• —независимые одинаково распределенные
случайные величины с E£i=0, E£j* = l и Sn =£1 + ... + £„. Предположим, что
(тп)п^\ — последовательность случайных величин, принимающих значения
из множества {1,2, ...} и такая, что тп/п —► с, где О 0 — константа.
Доказать, что
Law(T„-,/2ST„)->*
(т. е. Тп STn —►£, где £~.Ж(0, 1)). (Отметим, что независимость
последовательностей (тп)п^\ и (£/г)/г^1 н^ предполагается.)
7. Пусть £ь £2, ... —независимые одинаково распределенные
случайные величины с E£i =0, Е£^ = 1. Доказать, что
Law(V1/2 max Sm) ->Law(|£|), где £~,Ж(0, 1).

198
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
Иначе говоря, для х > О
Указание. Надо убедиться в справедливости сформулированного
утверждения сначала для симметричных бернуллиевских случайных
величин £j, £2> • • • с Р{£л = ± 1} = 1/2 и затем воспользоваться тем (или лучше —
доказать, что непросто), что вид предельного распределения будет тем же
самым для любой последовательности £i, £2, ••• с определенными выше
свойствами. (Отмеченная независимость предельного распределения от
частного выбора последовательности £i, £2, • • •, состоящей из независимых
одинаково распределенных случайных величин с Е£„ = О, Е£„ = 1, носит
название «принцип инвариантности»; см., например, книги [9] и [17].)
8. В условиях предыдущей задачи (и имея в виду указание к ней)
доказать, что
Р\п~1/2 max \Sm\<x)^H(x)y x>0,
где
ш \ 4 т^ (-1)* Г (2*+l)V\
9. Пусть A"i, X<i, ... — последовательность независимых случайных
величин с
Р{Хп = ±па} = ±, Р{Х„ = 0}=1-^, где2а>/?-1.
Показать, что здесь условие Линдеберга выполнено, если и только если
0</?<1.
10. ПустьХ\,Х2, ... — последовательность независимых случайных
величин таких, что \Хп\ < Сп (Р-п. н.) и Cn = o(Dn)y где
D„2 = ]TE(X,-E^)2^oo.
Показать, что
5*-Е5*Д./К(0, 1), где S„=*!+...+*„.
11. Пусть A"i, X2, ... — последовательность независимых случайных
величин с ЕХп = 0, ЕХ% = а1. Предположим, что для них выполняется
центральная предельная теорема и
/ п \k
ЕI D~1//2 ^2 %i J ~~>ifkbi для некотоРОГО & > 1 •

§ 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА. I
199
Показать, что тогда выполнено условие Линдеберга порядка &, т. е.
п
£ $ \x\kdF,(x) = o(Dl), е>0.
/ = 1 {М>£>
(Обычное условие Линдеберга соответствует случаю k = 2\ см. (1).)
12. Пусть X=Х(\) и Y = Y(/j) — независимые пуассоновские случайные
величины с параметрами А > 0 и /2 > О соответственно. Показать, что
(Х(\) - А) - (У(ц) - ц) d А/т п ч
_. —— ■ —>^к(0, 1) при А—>оо, ^—>оо.
у/Х(Х) + Y(fi)
13. Пусть при каждом я> 1 вектор (А^, ..., Xf+X) является (п+ 1)-
мерным случайным вектором, равномерно распределенным на единичной
сфере. Доказать справедливость следующего утверждения (Пуанкаре): для
всякого х € R
lim Р{у/ИХ{пп1_]^х} = -}= \ e~u2/2du.
п—>ос n^~l V27T _J
14. Пусть £i, $2, ••• —последовательность независимых .Ж(0,
^-распределенных случайных величин и Sn = £i +... + £„, п > 1. Найти
предельное (при я—>оо) распределение вероятностей случайных величин
i£|S*_,|$-l), я>1.
6 = 1
15. Пусть £ь &, ••• —симметричная схема Бернулли (т. е.
последовательность независимых одинаково распределенных случайных величин
cPtt, = i}=ptfl=-i}=i/2),sb=o,sik=el+ +ел,*>1.
Образуем непрерывные процессы А(2/г) = (XJ )o^/^i с
у(2я) _ S2nt
где Sw для и > 0 определяются линейной интерполяцией по значениям в
соседние целочисленные моменты времени.
Предложите возможную схему доказательства следующих (важных и
трудных) утверждений.
(а) Распределения Р2/г = Law(AJ2/I\ 0</< 1) сходятся (в смысле слабой
сходимости конечномерных распределений и в смысле слабой
сходимости распределений в метрическом пространстве С с равномерной
метрикой) к распределению P = Law(B/, 0</< 1) броуновского
движения В = (Bt)o^t^\- (Утверждение о слабой сходимости в С есть частный

200
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
случай принципа инвариантности Донскера—Прохорова; см. по этому
поводу гл. VII, § 8, п. 1.)
(Ь) Условные распределения Q2n = Law(XJ2n\ 0< / < 1 \Х\п) сходятся
(в указанных в (а) смыслах) к распределению Q = Law(B°, 0 < / < 1)
броуновского моста В° = (B°)o^i. Указание. Воспользуйтесь
рассмотрениями, изложенными при выводе предельного распределения
Колмогорова в § 13. Подробнее см. книги [9] и [17].
16. Выведите из результатов предшествующей задачи (и сравните с
утверждениями задач 7 и 8) следующие предельные соотношения: для х > 0
(ai) P(-^= max Sk <xj ^p( max Bt <xj ( = P{|fi,| <x}),
(a2)P|—;= max ISJ <x \ —>PJ max |B/|<xi
(bi)Pf-U max S^<x|s2/z=04)^P( max B,°<*1,
(b2)Pf-U max |S*|<Jt|s2n = o)^P(max |B°|<A
17. В продолжение задач 15 и 16 приведите аргументы относительно
справедливости следующих утверждений:
(а)Р<—= max Sk- min Sk<*f—►
I y/2n \S)^k^2n 0^k^2n 1 )
—>PJ max Bt - min B/<xi
и
(b) P(—= max S^- min sJ<x S2« = 0|->
V ' V y/2n Ык^2п 00^2/1 *\ ^ I /
^P(max B?- min B,°<A
lo^i l os^i ' J
18. Пусть N e [0, oo), A e (0, oo). Показать, что
k ( 1, если УУ > A,
jur^ e"A" £ HSr = 1 V2' если N = A,
л~КХ) K«yv [^ еслиМ<А.
Показать также, что
если N < А,
если N >\.

§ 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА. I
201
Указание. Пусть (^п)п^\ — последовательность независимых пуас-
соновских случайных величин со средним значением А, т. е. Р{£л=&} =
= e~x\k/k\, k^O. Убедитесь в том, что
и затем воспользуйтесь центральной предельной теоремой.
19. Показать, что
1 "+1 1
-г { хпе~х dx^> „, я—>оо,
/2! -3 2
о
и, более общим образом, что
уу/п+Т+(п+\)
"к" Г(л + 1)
Показать также, что
\2
lim 1 \ xne~xdx = <b(y), у^О.
^ 1! ^ 2! ^•••^ л! 2 '
► оо.
Указание. Использовать результат задачи 80 из § 6 главы II и
утверждение предшествующей задачи (в случае N = Х).
20. Пусть £ь£г» ••• —последовательность независимых одинаково
распределенных случайных величин таких, что математическое ожидание
/t/ = E£i определено и <j2 = D£i<oo. Пусть 5о = 0, S„ = £i+...+£„.
Доказать, что для последовательности частичных максимумов М = (Мп)п^о
с Af„ = max(5o, Si, ..., Sn) справедлива центральная предельная теорема:
если 0 < fj, < оо, то
Ту/Я
21. Пусть £ь£л, ... — последовательность независимых одинаково
распределенных случайных величин с E£i =0, Е£^ = сг2; Sn=£\ + ... + £л,
п> 1, и {Nt, t >0} — семейство случайных величин, принимающих значения
в множестве {1,2, ...} и таких, что Nt/t —> А при t —> оо, где 0 < А < оо.
Доказать следующий результат (Ф. Анскомб) о справедливости
центральной предельной теоремы: при t —>оо
где Ф(х) — функция распределения стандартного нормального закона.

202
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
Указание. Полагая п0 = [Xt] и считая для простоты, что а = 1,
представьте S^/y/Nt в следующем виде:
y/N~t
_ _ / Stlp
7 \V"o
+
Sn, - S>
По
у/гщ
Поскольку P{SnJy/nu<,x}^>$(x) и no/Nt^l при /—>оо, то останет-
ся лишь показать, что (5^ — S^/y/no^O. Для этого надо представить
P{|Syv, - 5^ | > £у/по} как сумму двух вероятностей
P{\SNt -Sno\ >zy/m, Nt e [nu n2]} + P{\SNl -Sno\ >zyfm, Nt^[nu n2]}
с п\ = [по(\ — £3)] + 1, ti2 = [по(\ + £3)], стремление к нулю которых
устанавливается применением неравенства Колмогорова (глава IV, § 2).
22. (О сходимости моментов в центральной предельной
теореме.) Пусть £ь £2> ••• — последовательность независимых одинаково
распределенных случайных величин с E£i =0 и Е£^ = <г2 < оо. В соответствии
с теоремой 3 из § 3 или случаем Ь) в теореме 1 (см. п. 2),
Sn d
OyfR
►/V,
где N — стандартная нормально распределенная случайная величина
(Law(A/)=^(0, 1)).
Показать, что если E|£i \r < оо для некоторого г >2, то для всех 0< р < г
имеет место сходимость моментов:
(Ту/п
Указание. Установите, что семейство величин < —^= , п > \\ яв-
11 Оу/П I )
ляется равномерно интегрируемым, и затем воспользуйтесь
утверждением Ь) в задаче 54 § 10 главы И.
23. Пусть (£/0^1 — последовательность независимых одинаково
нормально распределенных случайных величин, £/г~сЖ(0, 1). Пусть случайная
величина £ не зависит от последовательности (£п)п^\ и £~*Ж(0, 1).
Показать, что предел
lim E
-£
существует и равен 2/урк.
Указание. Надо прежде всего убедиться в том, что семейство
величин {Sn/y/n — £, az> 1}, где Sn = £\ +... + £л, является равномерно
интегрируемым.

§ 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА. I
203
24. Пусть Р и Q — две вероятностные меры на (ft, ^"), причем такие,
что мера Q абсолютно непрерывна относительно Р (Q<lcP).
Предположим, что относительно меры Р последовательность Х\УХ2, ... является
последовательностью независимых одинаково распределенных случайных
величин с т = ЕрЯ/, а2 = Ер^ — га)2, где Ер —усреднение по мере Р.
Тогда, согласно теореме 3 в § 3, справедлива центральная предельная
теорема: при п —► оо
р|^?Ё(*<-т)<*[->*(*)' xeR<
i_
Гп
1=1
фм=:7зг S eV/2^
-оо
где ~ w =
л/2?г
Обратимся теперь к мере Q. Относительно меры Q, даже в
предположении, что Q <1С Р, последовательность Х\,Х2, ... не будет, вообще говоря,
последовательностью независимых величин, но, тем не менее,
центральная предельная теорема сохраняет свою силу в следующей формулировке,
принадлежащей А. Реньи: при п—>оо
q|^= ^№-m)<jc^W, xeR.
Доказать это.
Указание. Надо показать, что если / = f(x) — ограниченная
непрерывная функция, то
EQ/($„)-> ЕР Л#(0, 1)),
1 П
где Sn = —•= ^(Xi-tn) и Л/(0, 1) — стандартная нормально
распределил i=\
ленная, ^Ж(0, 1), случайная величина. Для этого надо ввести
производную Радона—Никодима D = -r^ и величины D^ = Ep(D|^), где «^ =
= а(Х\, ..., Xk)y и представить Eq/(S„) в следующем виде:
EQ/(5„) = Ep[(D-D,)/(5„)] + EP[D,/(5„)].
Затем показать, что lim sup |Ep[(D - Dk)f(Sn)]\ =0 и
k n
Ер [Dkf(Sn)] —> Ер f(N) при п —► оо для каждого й > 1.
25. Пусть £ь£г, ••• —последовательность независимых одинаково
распределенных случайных величин таких, что
Р{£,>х} = Р{£ ,<-*}, xeR, и P{|£i|>jt} = Jt-2, jc>1.

204
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
Показать, что при п —► оо
{—^=<х)^Ф(х), xeR,
I Vя In п )
где S„=fi + ...+£„.
Замечание. Эта задача показывает, что при соответствующей
нормировке распределение накопленных сумм Sn может сходиться к
стандартному нормальному распределению даже и тогда, когда Е£^ = оо (что имеет
место в рассматриваемом случае).
Указание. Образуйте величины £„£ = &/(|&| < у/п In In n) и
убедитесь в том, что
(О £ P{W&}->0npii/i->oo;
k=\
(ii) E$%k ~ In n при n —► oo;
1 л </
(iii) по теореме Линдеберга (теорема 1) , £ €nk—>^(0y 1);
^««^еЦ
(iv)P К^£ £лЛ->0при/1->оо.
y/n In я л=1
§ 5. Центральная предельная теорема для сумм
независимых случайных величин. II.
Неклассические условия
1. Доказать справедливость формулы (5).
Указание. Используя то, что
\ х2 dFnk(x) < оо и \ х2 d<bnk(x)<oQ,
R R
выводим, что интегралы в левой и правой частях (5) конечны. Далее надо
воспользоваться тем, что
? / t2r2\
5 [е»х_их+1^_^а{рпк_Фпк)=
—оо
о о
= У}то{е"х - Их + Ц-) {Fnk(x) - Фпк(х)) |
ОО
- it § (eltx - 1 - itx)[Fnk(x) - Фпк(х)\ dx.
—оо
2. Проверить справедливость соотношений (10), (12).
а
—а

§ 6. БЕЗГРАНИЧНО ДЕЛИМЫЕ И УСТОЙЧИВЫЕ РАСПРЕДЕЛЕНИЯ 205
3. Пусть N = (Nt)t^o — процесс восстановления, введенный в п. 4 § 9
гл. II (Nt = X) I(Tn^t), Tn = сг\ +... + ап, где а\, сг2, ... — последователь-
п=\
ность независимых одинаково распределенных положительных случайных
величин). Предполагая, что \i = Еа\ < оо, 0< Da\ < оо, доказать
справедливость центральной предельной теоремы:
4=^=^(0,1),
Vtfi~6Da\
где /V(0, 1) — стандартная нормально распределенная случайная величина
(с нулевым средним и единичной дисперсией).
§ 6. Безгранично делимые и устойчивые
распределения
1. Показать, что если £„ —>£ и £„ —>гу, то £ = г}.
2. Показать, что если ср\ и ср2 — две безгранично делимые
характеристические функции, то (р\ -ср2 — также безгранично делимая
характеристическая функция.
3. Пусть <pn = <pn(t) — безгранично делимые характеристические
функции и <pn(t)—><p(t) для каждого t eR, где <p(t) — некоторая
характеристическая функция. Показать, что (p(t) безгранично делима.
Указание. Воспользоваться тем, что если срп безгранично
делима, то найдутся (см. задачу И) независимые одинаково распределенные
случайные величины £i, ..., £„ такие, что Sn = £\+... + £n имеет
характеристическую функцию (рп и Sn —> Т, где Т — безгранично делима.
4. Показать, что характеристическая функция безгранично делимого
распределения не обращается в нуль. (См. также задачу 12.)
Указание. Конечно, требуемое утверждение следует из формулы
Колмогорова—Леви—Хинчина, но предполагается, что будет дано
доказательство, не требующее обращения к этой формуле. (Если <p(t) —
характеристическая функция безгранично делимого распределения, то для каждого
п> 1 найдется характеристическая функция <pn(t) такая, что <p(t) = (cpn(t))n.
Отсюда можно заключить, что функция ip(t) =lim il>n(t), где ipn(t) = \ipn(t)\2,
тождественно равна единице.)
5. Показать, что гамма-распределение, являющееся безгранично
делимым, устойчивым не является.
Указание. Проведите доказательство по аналогии со следующими
рассмотрениями. Случайная величина £, распределенная по закону
Пуассона, Р{£ = k} = e~k/k\, является безгранично делимой (см. задачу 3 в

206
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
§ 8 главы II). Но эта величина не является устойчивой. Действительно,
предположим, что £i + £2 = я£ + Ь, где а > 0, b e R и £i, £2 — независимые
копии £. Отсюда можно заключить, что а= 1 и Ь = 0. Тем самым £i + £2 = £,
чего не может быть.
6. Показать, что для а-устойчивой случайной величины £
математическое ожидание Е|£|г < оо для всех г<а.
Указание. Из представления Леви—Хинчина для
характеристической функции (p(t) устойчивой случайной величины £ выведите, что
существует 6 > 0 такое, что для t е (0, 6) и а < 2 выполнено неравенство
Re cp(t)^ 1 -ф|а, где с >0. Тогда, по лемме 3 из § 3, при а>0
и, значит,
Р{|е|Г>"К^ТП"а/Г' Е|£Г<1+£Р{|£Г>л}<оо,
/1=1
если г<а.
7. Показать, что если £ —устойчивая случайная величина с параметром
0 < а < 1, то (p(t) не дифференцируема при t = 0.
8. Дать прямое доказательство того, что функция e~d^^a с d>0,
0<а<2 является характеристической функцией и не является таковой
при d>0, а>2.
9. Пусть (Ьп)п^\ —числовая последовательность такая, что для всех
|/| <5, 5>0, существует lim eltbn. Показать, что тогда lim \bn\ <oo.
Указание. Доказательство проще всего вести от противного по
следующей схеме. Пусть lim bn = +oo. Переходя, если надо, к
подпоследовательностям, имеем &„—>оо, я—>оо. Тогда, если h(f) = \\m eltb\ где t
принадлежит конечному интервалу [—5, 5], то для [а, /?] С [—5, 6]
s s
§ /[otif3](t)h(t)dt = \\m § I[<*fi\(t)eitb*dt=Q.
-8 П -8
Отсюда, пользуясь принципом подходящих множеств (§ 2 главы II), мож-
8
но вывести, что § IA(t)h(t)dt=0 для любого борелевского множества
-8
Ае&([-6, 6]). Значит, h(t) = 0 для t e [-5, 6]. С другой стороны,
поскольку \е^_ | = 1, то \h(t)\ = 1, t e [-5, 6]. Полученное противоречие доказывает,
что lim \bn\< 00.
п

§ 6. БЕЗГРАНИЧНО ДЕЛИМЫЕ И УСТОЙЧИВЫЕ РАСПРЕДЕЛЕНИЯ 207
10. Показать, что биномиальное, равномерное и треугольное
распределения не являются безгранично делимыми. (Треугольным
распределением на (—1, 1) называется распределение с плотностью f(x) =
= (l-|x|)/(_U)(x).)
Показать, что справедливо и следующее более общее утверждение:
никакое невырожденное распределение с конечным носителем не является
безгранично делимым.
11. Пусть функция распределения F и ее характеристическая функция
<£> допускают представления F = F^ * ...*/г(") (п раз), ср=[ср^]п с
некоторыми функциями распределения F^ и их характеристическими функциями
(р^п\ я> 1. Показать, что можно найти (достаточно «богатое»)
вероятностное пространство (ft, &, Р) и определенные на нем случайные величины Т
и (rffyk^n, п^\ (Т имеет распределение /\ rjf\ ..., r/^z) независимы и
одинаково распределены с распределением F^), такие, что Т= г}у +... +гу„ ,
я> 1. (См. также замечание на с. 439 книги «Вероятность— 1».)
12. Привести пример случайной величины, не являющейся безгранично
делимой, характеристическая функция которой, тем не менее, в нуль не
обращается. (См. также задачу 4.)
13. Показать, что:
(a) характеристическая функция cp = cp(t) является характеристической
функцией безгранично делимого распределения тогда и только тогда,
когда для любого п > 1 корень п-и степени cpl/n(t) = е~п ,п ^ (In — главное
значение логарифма) является характеристической функцией;
(b) произведение конечного числа характеристических функций
безгранично делимых распределений является безгранично делимой
характеристической функцией.
14. Пользуясь результатами предшествующей задачи и тем, что
функции
(p(t) = exp{it(3 + \(eitu-\)}4 A>0, ueR4 /?е/?,
являются характеристическими функциями безгранично делимых
распределений (пуассоновского типа), показать, что таковыми будут и функции
(рассмотренные Б. де Финетти)
^(0 = ехр|///? + ^А/(в""'-1)|
<p(t) = ехр| ///?+ J (eitu - 1) dG(u) I,
где G = G(u) — ограниченная возрастающая функция.

208
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
15. Пусть cp = cp(t) — характеристическая функция распределения с
конечным вторым моментом. Такая функция является характеристической
функцией безгранично делимого распределения в том и только том случае,
когда (p(t) допускает представление Колмогорова:
cp(t) = exp<ip(t)
с
оо .
tp(t) = itb + § (е"и ~ l ~ itu)12 dG(u)>
—со
где b eR и G = G(u) — неубывающая непрерывная слева функция с
G(-oo) = 0, G(oo)<oo. (Ср. с функциями Б. де Финетти из
предшествующей задачи.)
16. Показать, что если cp(t) есть характеристическая функция
безгранично делимого распределения, то функция <px(t) будет
характеристической функцией для всякого А > 0.
17. (К представлению Колмогорова—Леви—Хинчина.) Пусть h=h(x) —
функция урезания, определенная для х eR (ограниченная, непрерывная,
удовлетворяющая условию h(x)=x в окрестности х = 0, с компактным
носителем). Показать, что
(a) представление Колмогорова—Леви—Хинчина (2) может быть
записано в следующем виде:
<p(t) = exp iph(t)
с
j.2 °°
rj,h(f) = itb-Ll+ $ (eitx - 1 - ith(x)) F(dx),
—CO
где b=b(h)eR, c^O, F(dx) - мера на (R, @(R)) с F({0}) = 0 и
^(x2A\)F(dx)<oo;
(b) для разных функций урезания h и h' коэффициенты b(h) и b(h')
связаны соотношением
b(ti) = b(h) + § (h'(x) - h{x)) F(dx);
(c) если (p(t) отвечает распределению с конечным вторым моментом (ср.
оо
с задачей 15), то \ х2 F(dx) < оо.
—оо
18. Показать, что распределение вероятностей с плотностью
/(x) = _J_ <.-'/<*>, х>0,
\Ъ\х6
является устойчивым с а = -, /3 = 0,0 = — 1 (см. формулу (10)).

§ 6. БЕЗГРАНИЧНО ДЕЛИМЫЕ И УСТОЙЧИВЫЕ РАСПРЕДЕЛЕНИЯ 209
19. Говорят, что случайная величина £т имеет обобщенное
пуассоновское распределение с параметром \({хт}) > 0, если
P{U = kXm}=e-MM)^\ . = 0,1,2
где xmeR\{0}.
Пусть £i, ..., £„ — независимые между собой величины такого типа.
Обозначим X = X(dx) меру на /?\{0} с носителем {хт, т= 1, ..., п),
состоящим из п разных точек, и такую, что ее значение в точке хт равно
Щхт})- Положим Тп=£\ + ...+£„. Распределение вероятностей величины
Тп называют составным (compound) пуассоновским распределением.
Показать, что характеристическая функция сртп (t) этой величины
определяется следующей формулой:
^„(0 = ехр( $ (eitx-l)\(dx)\.
U\{0} J
(Из этой формулы видно, что составное пуассоновское распределение
является безгранично делимым, а ее сопоставление с представлением
Колмогорова—Леви—Хинчина (2) выявляет ту ключевую «образующую»
роль, которую это распределение играет в классе всех безгранично
делимых распределений. Формально же это выражается в следующем
утверждении: каждое безгранично делимое распределение есть (слабый)
предел некоторой последовательности составных пуассоновских
распределений.)
20. На вероятностном пространстве (Q, &', Р) рассматривается
схема серий событий А^ = (Ank, 1 < k < я), п > 1, таких, что при каждом п
события Ап\, ..., Апп независимы. Пусть
lim max Р(Апь) = 0
п \^k^n
И
п
lim V P(Ank)=\, где А>0.
Показать, что справедливо следующее утверждение («закон редких со-
п
бытии»): последовательность случайных величин £(л) = Y^ K^nk) по рас-
k=\
пределению сходится к случайной величине £, имеющей распределение
Пуассона с параметром А > 0.
21. Пусть X wY — две независимые случайные величины,
распределенные по закону Пуассона с параметром А > 0. Найти характеристическую
функцию cp(t) случайной величины X — Y (называемой иногда
двусторонней пуассоновской случайной величиной). Показать, что распределение

210
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
вероятностей случайной величины X — Y есть составное пуассоновское
распределение (см. задачу 19, а также задачу 3 к § 8 главы II).
22. Пусть £(л) = (£„£, 1 < k < я), п > 1, — схема серий случайных
величин таких, что при каждом п величины £„i, ..., £пп независимы. Пусть
<pnk = <Pnk(t) — характеристические функции величин £„£. Показать, что
следующие условия равносильны:
(a) lim max Р{|£л*| > s) = 0 (предельная, или асимптотическая, малость
схемы серий £("\ п > 1);
(b) lim max 11 — <pnk(t)\ = 0 для каждого t e R.
23. Говорят, что случайная величина £ распределена по (непрерывному)
закону Парето (с параметрами р>0, b >0), если ее плотность
распределения fp,b(x) имеет следующий вид:
Показать, что это распределение является безгранично делимым и log j-
имеет экспоненциальное распределение с параметром р.
Замечание. Дискретное распределение Парето определено в задаче 85
к § 8 главы П.
24. Говорят, что случайная величина £ со значениями в (0, оо) имеет
логистическое распределение с параметрами (fi, p), fj,eR, p>0, если
Р{£<*}=- ! _ х>0.
Показать, что это распределение является безгранично делимым.
§ 7. «Метризуемость» слабой сходимости
1. Показать, что в случае пространства E = R метрика
Леви—Прохорова L(P, Р) между распределениями вероятностей Р и Р не меньше
расстояния Леви L(/\ F) между функциями распределения F и F,
соответствующими Р и Р (см. задачу 4 в § 1). Привести пример выполнения
строгого неравенства между этими метриками.
Указание. Для доказательства неравенства L(/\ /) < L(P, P)
достаточно лишь убедиться в том, что
L(F, f) = inf{£ > 0: P(D) < P(D£) + £ и P(D) < P(D£) + £
для всех D вида (-оо, х], х е R}

§ 7. «МЕТРИЗУЕМОСТЬ» СЛАБОЙ СХОДИМОСТИ 211
ЦР, Р) = inf {е > 0: P(D) < P(D£) + s и P(D) < P(De) + e
для всех замкнутых множеств DC-R).
Для получения строгого неравенства рассмотрите меры P = So и Р =
= -z(S-\ +^i), где Sa — мера, «сидящая» в точке а:
-а
_ //1Ч . ., если ае Л,
*«(>*) = <п ..
10, если ар А.
(Здесь L(F, /) = - и ЦР, Р) = 1. Докажите это.)
2. Показать, что формула (19) определяет метрику в пространстве BL.
Указание. Для доказательства свойства \\Р — P\\gL = 0=>P = P
(остальные свойства метрики проверяются просто) рассмотрите для
замкнутых множеств А и е>0 функцию /Jf(jt), определенную формулой (14).
Тогда, поскольку при е 10
\Гд(х)Р(с1х)^Р(А) и lfi(x)P(dx)^P(A),
то Р(А) = Р(А) для любого замкнутого множества А. Далее рассмотрите
класс <Ж = {Ае&(Е): Р(А) = Р(А)} и заключите («принцип подходящих
множеств», «7г-Л-системы»; § 2 главы II), что Л' = 38(E).
3. Доказать справедливость неравенств (20), (21) и (22).
4. Пусть F = F(x) и G = G(x), xeR, — две функции распределения, Рс
и Qc —точки их пересечения прямой х + у = с. Показать, что расстояние
Леви (см. задачу 4 в § 1)
L(F,G) = sup PcQc
V2
где PcQc — длина отрезка между точками Рс и Qc.
5. Показать, что множество всех функций распределения с метрикой
Леви есть польское (полное сепарабельное метрическое) пространство.
6. Пусть K(F, /) — расстояние Колмогорова между двумя функциями
распределения F и /:
K(F,f) = sup\F(x)-Hx)\
X
и Ц/\ /) — расстояние Леви. Показать, что
HFjxmn
и если функция распределения / абсолютно непрерывна, то
K(F,f)^(l+sup\J'(x)\)L(F,j).

212
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
7. Пусть X и X — случайные величины, заданные на одном и том же
вероятностном пространстве с функциями распределения F и /. Показать,
что метрика Леви Ц/\ /) удовлетворяет следующим неравенствам:
L(F, f)^d + P{\X-X\>d], Vd>0,
и
L(F, J)^(c + l)e^T (E\X -X\c)cTT 9 Vc>l.
8. Используя результаты предшествующих задач 6 и 7, показать, что
если X и X — случайные величины, заданные на одном и том же
вероятностном пространстве, F и / — их функции распределения, Ф = Ф(х) — функция
распределения стандартного нормального закона, .Ж(0, 1), и сг>0, то
sup
^)-ф(£)|<(1 + 7^)[8ир|/»-ф(£)|+2(Е|Х-^^
§ 8. О связи слабой сходимости мер со сходимостью
случайных элементов почти наверное
(«метод одного вероятностного пространства»)
1. Показать, что в случае сепарабельных метрических пространств
действительная функция p{X(oS), Y(u>)) является случайной величиной
для любых случайных элементов Х(и) и Y(oj) на некотором вероятностном
пространстве (П, &, Р).
Указание. Пусть {z\, 22, • • •} — счетное всюду плотное
подмножество Е. Покажите, что для любого а > О
{и:р(Х(и), Y(u))<a} =
00 00
= П U (f: />№), 2*)<J}n{«: #И. 2»Х«-Й).
/г=1 т=\
и выведите отсюда, воспользовавшись леммой 1 из § 4 главы II, что
функция р(Х(и), Y(u)) является ^"-измеримой.
2. Доказать, что функция dp(X, У), определенная в (2), является
метрикой в пространстве случайных элементов со значениями в Е.
Указание. В силу предыдущей задачи множество {р(Х, У) < е}
является измеримым, и, значит, величина dp(X, Y) корректно определена.
Проверка свойства метрики проводится прямыми рассмотрениями.
3. Доказать справедливость импликаций (5).
4. Показать, что множество А^ = {х € Е: h(x) не р-непрерывна в
точке х) е £.

§ 8. МЕТОД ОДНОГО ВЕРОЯТНОСТНОГО ПРОСТРАНСТВА 213
Указание. Пусть {а\, a<i, ...} — счетное всюду плотное
подмножество в Е. Для доказательства того, что Ап €<?, надо установить
справедливость следующего представления:
A«=U П [JAn,m,k,
/i=l m=\ k=\
где множества
(B\/m{ak), если существуют y,ze Bx/m{ak)
такие, что \h(y) - h(z)\ > \/n,
0 в других случаях
принадлежат £.
5. Пусть пары случайных величин (£, г/) и (£, fj) совпадают по
распределению ((£, г}) = (£, fj)) и Е|£|<оо. Показать, что E(£|q) = E(£|q).
6. Пусть £ и г/ — некоторые случайные элементы (заданные на
достаточно «богатом» вероятностном пространстве) со значениями в боре-
левском пространстве (£, £) (см. определение 9 в § 7 гл. II). Показать,
что можно найти такую измеримую функцию / = f(x, у), определенную на
£ х [0, 1] и со значениями в £, и такую случайную величину а, имеющую
равномерное распределение на [0, 1], что будет выполнено представление
(с вероятностью единица):
£=/(*?,<*).
7. Пусть £i, &, ••• — последовательность независимых одинаково
п
распределенных случайных величин с E£i =0, E£j < 00. Пусть Xn=Y^ £ь
k=\
п > 1. Доказать следующий результат (называемый вложением
Скорохода)', найдутся вероятностное пространство (П, #, Р), броуновское
движение B = (Bt)t^o на нем и последовательность моментов остановки
T = (fk)k^o с 0 = т0 < Т\ < ... такие, что
и Ё(тп — тп_\) = Е£р п> 1. (Символ «=» означает, как обычно, совпадение
по распределению.)
8. Пусть F = F(x) — функция распределения на R. Определим
обратную функцию F-1 (а), 0 < и < 1, полагая
(inf{x:
00,
F-\,u\ = Jinf^- F(x) > w}, u< 1,
u= 1.
Показать, что
(а) {х: F(x) >u}Q{x: F~l (u) < x) С {*: F(x) > a};

214
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
Q>) F(F~4u))>u, F-x(F(x))>x;
(c) если F = F(x) — непрерывная функция, то F~x (и) = \ni{x: F(x) > и},
F~x(u) = max{x: F(x) = и}, F(F~X (и)) > и и {х: F(x) >u} = {x: F~x (и) < х};
(d) inf {x: F(x) > и) = sup {x: F(x) < и).
Замечание. В математической статистике функция Q(u) = F~x(u)
называется квантильной функцией. (Отметим, что в формуле (4) на
с. 455 книги «Вероятность— 1» в определении квантильной функции
вместо «F(x) > и» должно быть «F(x) > и» и (5) должно быть заменено на
указанное выше свойство (а); см. также приведенный в конце настоящей
книги список опечаток к книгам «Вероятность— 1» и «Вероятность —2».)
9. Пусть F = F(x) — функция распределения и F~x =F~X(и) — обратная
к ней функция.
(a) Показать, что если U — случайная величина с равномерным
распределением на [0, 1], то распределение случайной величины F~X(U)
совпадает с функцией F = F(x), т. е.
P{F-x(U)^x} = F(x).
(b) Показать также, что если случайная величина X имеет
непрерывную функцию распределения F = F(x), то случайная величина F(X) имеет
равномерное распределение на [0, 1].
Замечание. Пусть С(и) = P{U < и} — функция распределения
случайной величины (/, равномерно распределенной на [0, 1]. Тогда видим, что
C(F(x)) = F(x). Сравните этот результат с результатом задачи 12.
10. Пусть F(x, у) — функция распределения пары случайных величин
(£, rj) и F\ (х) = Р{£< х), F2(y) = P{q < у} — функции распределения величин
£ и rj соответственно. Доказать справедливость следующих неравенств
Фреше—Хёффдинга: для всех х и у из R
тах(/м (х) + F2(y) - 1, 0) < F(x, у) < тт(/ч (х), F2(y)).
11. Пусть ((/, V) — случайный вектор со значениями в [0, 1 ]2 и
функцией распределения
С(и, v) = P{U^u, V^v},
причем каждая из величин U и V имеет равномерное распределение на
[0, 1]. Пусть F\(x) и F2(y) — две непрерывные функции распределения,
x,yeR.
Показать, что функция
F(x,y) = C(Fx(x),F2m x^yeR, (*)
является двумерной функцией распределения с маргинальными
распределениями F\(x) и F2(y).

§ 9. РАССТОЯНИЕ ПО ВАРИАЦИИ
215
Замечание. Представляет значительный интерес вопрос о том, как
по заданной двумерной функции распределения F(x, у) с
маргинальными распределениями F\(x) и F2(y), x, yeR, построить функцию С(а, у),
удовлетворяющую свойству (*). Функции с таким свойством, являющиеся
двумерным распределением P{U < а, V < v} некоторых случайных величин
U и V со значениями в [0, 1], были введены А. Скляром в 1959 г. под
названием копула (copula). В его работе [110] были приведены результаты
о существовании (и единственности) таких функций. (См. следующую
задачу в качестве примера.)
12. Пусть двумерная функция распределения задана формулой
F(xy у) = тгх(х + у - 1, 0),
где 0 < х, у < 1.
(a) Показать, что маргинальные функции распределения F\(x) и F2(y)
являются функциями распределения случайных величин с равномерной
плотностью на [0, 1].
(b) Показать также, что если копула задается формулой
С(и, v) = max(u + v- 1,0), 0<а, v < 1,
то
F(x,y) = C(Fx(x),F2{y)).
Замечание. Ср. с результатом задачи 9.
13. Пусть £ и £i, £2, ••• — случайные величины такие, что Law(£„)—►
—>Law(£). Предположим, что £«^0. Показать, что
E£<iimE£„.
п
Указание. Воспользуйтесь теоремой 1 из настоящего § 8 и
теоремой 2 (лемма Фату) из § 6 главы 2.
§ 9. Расстояние по вариации между вероятностными
мерами. Расстояние Какутани—Хеллингера и
интегралы Хеллингера. Применение к абсолютной
непрерывности и сингулярности мер
1. В обозначениях леммы 2 положим
PaP = Eq(zAz),
где z Az = m'm(z, z). Показать, что
\\Р-Р\\=2(\-РАР)

216
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
(и, следовательно, £г(Р, Р) = Р /\Р\ определение £г(Р, Р) см. на с. 461
книги «Вероятность— 1»).
Указание. Воспользуйтесь тем, что a A b = -(а + b - \а - Ь\).
2. Пусть Р, Рп, п > 1, — вероятностные меры на (/?, &(R)) с
плотностями (относительно лебеговской меры) р(х), рп(х), я> 1. Пусть рп(х)^> р(х)
для почти всех х по мере Лебега. Показать, что тогда
оо
\\Р-Рп\\= $ \p(x)-pn(x)\dx^0, п^<х>.
—оо
Указание. Проанализируйте неравенство
оо
§ |Рп(х) - р(х)| dx < § IРп(х) - p(x)\dx+ § p(x)dx-\- § рп(х)dx,
-оо {\х\^а} {\х\>а} {\х\>а}
где а > О надо взять таким, что для заданного £> О выполнено неравенство
\ р(х) dx > 1 — £, и заметьте, что по лемме Фату
lim ^ pn(x)dx^ 1 —е.
3. Пусть Р и Р — две вероятностные меры. Определим информацию
Кульбака К(Р, Р) — информацию в пользу Р против Р — равенством
К{рГр)АЕ{пТр< естР<<Р'
I оо в противном случае.
Показать, что
/С(Р, Р) > -2 1п(1 - р2(Р, Р)) > 2р2(Р, Р),
где р(Р, Р) — расстояние Какутани—Хеллингера между мерами Р и Р.
Указание. Второе неравенство есть следствие неравенства
—1п(1 — х) > х, О < х < 1. Для доказательства же первого неравенства надо
сначала установить, что
-2 ln(l -р2(Р, P)) = -2 In £ра/|,
и затем, пользуясь неравенством Иенсена, показать, что
а(я,я).
-2 1п£рУ§,
4. Доказать формулы (11), (12).
5. Доказать неравенства (24).

§ 9. РАССТОЯНИЕ ПО ВАРИАЦИИ
217
1 - dP dP
Указание. Если Q = -(P+P), z = —, z = — ,то, полагая y=z- 1,
находим, что 2 = 2 — 2 = 1 — г/, а неравенство (24) принимает вид
2(1+EQ fry)) <2EQ\y\<y/ca(l-EQf(y)l
где f(y) = (l+y)a(l-y)l-a, уе[-1, 1]. Анализируя /'(*/) и /"(*/) на
(—1, 1), выведите, что
(a) / = /(#) выпукла вверх на [-1, 1] и f(y) > 1 - \у\\
(b) /(г/)< 1 + /'(0)г/ -слу\ уе [-1, 1], с са=а(1 -а)/4.
Затем из (а) выведите первое требуемое неравенство и из (Ь) — второе.
6. Пусть Р, Р, Q — вероятностные меры на (/?, 38(R)), P* Q \\P*Q —
их свертки (см. п. 4 § 8 гл. II). Показать, что
||P*Q-P*Q||<||P-P||.
Указание. Воспользоваться леммой 1.
7. Доказать свойства (30) в примере 2.
Указание. Непосредственный подсчет дает
я(1;Ля)=ехр{4Е(^-^)2}.
Далее надо воспользоваться теоремами 2 и 3.
8. Пусть £ и г} — случайные элементы на (П, &, Р) со значениями в
измеримом пространстве (£, <?). Показать, что
|Р{£€Л}-Р{чеД}|<Р(£^ч), Ае£.
Указание. Надо воспользоваться тем, что
|/(£ € А) - /fo € А)\ = \1Ц е А) - /(г, е А)\ 1<£ф г,).
9. Формула
//(а;Р, Р) = 5 (dP)a(dP)x-a
п
(см. формулу (20)) определяла интеграл Хеллингера (между мерами Р
и Р) порядка а. Во многих вопросах теории вероятностно-статистических
экспериментов полезным оказывается рассмотрение так называемых
преобразований Хеллингера Н(а\ £), определяемых следующим образом.
Пусть £ = (П, с^"; Ро, Рь • • •, Р/0 — вероятностно-статистический
эксперимент, т. е. измеримое пространство (П, ^*) с заданными на нем
вероятностными мерами Ро, Pi, ..., Р&.
В символической форме преобразование Хеллингера Н(а\ £)
эксперимента £ определяется следующей формулой:
H(a',£) = \(dP0r...(dPkr, (*)

218
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
где а = (ао, ..., а^) принадлежит симплексу
Efc+i = la = (a0, ..., ak): а,-> О, ^ ац = 1 >.
Требуется, как и в случае k = 1, придать «интегралу» в (*) смысл (с
использованием понятия доминирующей меры) и доказать соответствующий
аналог леммы 3.
10. Пусть (Efc, &(Zk)) — симплекс
Vk = \x = {x\, ..., xk): Xi^O, ^2*1 = 1}
^ i=o J
с борелевской системой ^(E&) его подмножеств.
Пусть р = fj,(dx) — мера на (Е&, ^(Е&)) такая, что //(Е&) < оо и
§ Xifj,(dx) = 1, / = 1, ..., &.
(Меры // с такими свойствами в теории вероятностно-статистических
экспериментов называют стандартными.)
В математическом анализе преобразование Хеллингера Н(а; //)
меры fj, определяется формулой
Н(а;р)= ^ *?' ...x?ii(dx)
£*
для всех а€ Е&.
Установить справедливость следующих утверждений:
(a) если fj,\ и ^ — две стандартные меры такие, что Н(а; /ii) = EI(a; //2)
для всех а€ Е&, то /ij =//2;
(b) последовательность стандартных мер рп сходится слабо к
стандартной мере р в том и только том случае, когда Н(а; //„)—>Е1(а; //), я—>оо,
для всех а€ Е^.
Пусть <? = (П, 3?\ Ро, Р\, ..., Р^) — вероятностно-статистический
эксперимент, Q — вероятностная мера, доминирующая меры Ро, Р\, ..., Рь и
/, = ^, / = 0,1...., А.
Определим на (Е^, ^(Е^)) вероятностную меру
М(Л) = <?{«: (/о(«) /*(«))€Л}, Л€^(Е*+1).
Показать, что мера /и является стандартной и
//(a;£) = H(a;/i).

§ 9. РАССТОЯНИЕ ПО ВАРИАЦИИ
219
11. Пусть <? = (£}, &\ Ро, Р\у ..., Pk) — вероятностно-статистический
эксперимент и мера Ро является доминирующей для мер Р\, ..., Р^ Пусть
dPi • 1 и
В теории вероятностей преобразованием Меллина эксперимента £
называют функцию от fieAk, определяемую формулой
Af(ft g) = $ zf' ...zf P0(<M (=£02f' ...z£*),
n
где
ДЛ = {/3 = (/Зь...,Д):0<Д<1, £fl<l|.
В математическом анализе преобразование Меллина М(/?; z/) меры \х
определяется внешне несколько иначе. А именно, пусть и — вероятностная
мера на (/?*, ЩИ%)\ где
R+ = {x = (x\, ..., **): Х;>0, / = 1, ..., £},
такая, что
§ jc/ J/(dx) < 1.
n
(Такие меры и на /?+ также называют стандартными.) Тогда по
определению полагают
M(#i/)= ^ x?l...x%kv(dx)
где /? = (/?,,..., Д)€ДЛ.
Показать, что:
(a) если z/j и z/2 — две стандартные вероятностные меры и М(/?; v\) =
= М(/?; z/2) Для всех /?G Д^, то щ =щ\
(b) последовательность (z/„) стандартных мер i/n сходится слабо к
стандартной мере v в том и только том случае, когда
M(#i/„)->M(#i/)
для всех fieAk',
(c) M(/?;<?)=M(/?;z/).
12. Показать, что если а = (ао, ..., а&) G £ач-1, причем ао > 0, то
с /? = (/?!,..., Д) = (а,,...,аЛ).

220
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
Убедиться также в том, что если а = (ао, ..., ak)€Hk+\ с ао>0 и
Li =\n zi, i = l, ..., k, то
Н(а\ £)=Е0 ехр
It*}-
т. е. преобразование Хеллингера Н(а\ S) совпадает с преобразованием
Лапласа вектора (Lb ..., Lk) по мере Pq.
13. Пусть Р = (раь) — стохастическая матрица (§ 12 гл. I), 1 <а, 6<
< /V < оо. Величина
1 "
D(P) = - sup^ |лл-/?/л|
носит название коэффициента эргодичности Добрушина матрицы Р.
Показать, что
(a) D(P) = sup||p/. - p-j.\\ (|| ■ || — расстояние по вариации);
Ч ос
(b) D(P)=l-inf Y;(PikAPjk)\
(c) если Р и Q — две стохастические матрицы одной размерности, то
D(PQ)^D(P)D(Q);
(d) если р = (р{, ..., iiN) и z/ = (j/\ , ..., z/yv) — два распределения, то
||мРл-1/Ря||<||м-1/|| (D(P))n.
14. Показать, что если Р \\Q — распределения вероятностей случайных
величин £ и г/, то имеет место каплинг-неравенство'.
Р{£=»?К1-|||Я-<?||.
(Ср. с утверждением в задаче 8.) В частности, если £ и rj — случайные
величины с плотностями р(х) и q(x), то
Р«=чК1-5 \\p(x)-q(x)\dx.
R
Привести пример, когда в этом неравенстве достигается равенство.
15. Пусть X = (Хп)п^о и Y = (Yn)n^o — случайные последовательности,
заданные на некотором вероятностном пространстве (П, ^\ Р). Пусть г —
случайный момент такой, что Хп(и) = Yn(u) для всех п^т(и) (момент т
интерпретируется как момент каплинга). Показать, что справедливо
следующее каплинг-неравенство:
\\\Pn-Qn\\<P{T>n)4
где Рп и Qn — распределения вероятностей величин XnwYn.

§ 10. КОНТИГУАЛЬНОСТЬ ВЕРОЯТНОСТНЫХ МЕР
221
16. Пусть / = f(x) и g = g(x) — две плотности функций распределения
на (/?, &(R)). Показать, что
(a) $ \№ - g(x)\ dx = 2\ (f(x) - g(x))+ dx = 2\ (g(x) - f(x))+ dx;
(b) (S V/(^W^)2<2j min(/W, g(x))dx;
(c) $ |/(*) - g(*)| dx < Л/2Щ1), где Щ g) = $ /(*) In M ^ _ ин-
формация Кульбака (см. задачу 3) и предполагается, что распределение Pf
с плотностью / абсолютно непрерывно относительно распределения Pg с
плотностью g;
(d)lmin(f(x),g(x))dx>l-e-W>e).
17. Пусть случайный вектор X = (Х\, ..., Xk) имеет равномерное
распределение на множестве
Tk = \x = (x\, ..., **), х/>0, ^х/< 1 >.
^ /=i ^
Показать, что плотность /(х) распределения вероятностей вектора А"
задается формулой
f(x) = k\, xeTk.
18. Пусть X и У — случайные величины с ЕА"2 < оо, ЕУ2 < оо, и пусть
cov(A", У) = Е(Х - EX)(Y - ЕУ) — их ковариация. Обозначим через F(x, у)
и /^(х), F2(y) функции распределения (X, У) и Ху У соответственно.
Доказать справедливость следующей формулы Хёффдинга:
cov(*, У) = ^ № г/) - /м (Jc)F2(y)) Ac dr/.
§ 10. Контигуальность (сближаемость) и полная
асимптотическая разделимость вероятностных
мер
1. Пусть Рл = Рл х ... х Рл, Рл = Рл х ... х Рл, п> 1, где Р£ и Р£ -
гауссовские меры с параметрами (а£, 1) и (а£, 1). Найти условия на (ank)
и (ag), при которых (Рл) < (Рл), (Рл) Л (Рл).
Указание. Прямой подсчет показывает, что
Далее надо воспользоваться утверждениями в (11) и (12).

222
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
2. Пусть Рп=Р?х...хР%, Р" = Р? х ... х Р„\ где Р£ и Pnk -
вероятностные меры на (R, &(R)) такие, что P\(dx) = I[o,\](x)dx, P^(dx) =
= I[an,\+an](x)dx, 0< an < 1. Показать, что Я(а; P£, Р£) = \-anw
СП<(Р»)~(П«(Р2~Шпап=0,
(Рп) Л (Р") & lim маЛ = оо.
3. Пусть (ft, c^\ (^п)п^о) — фильтрованное измеримое
пространство, т. е. измеримое пространство (Q, ^*), наделенное потоком сг-алгебр
(&п)п^о таких, что c^o^^i <И ...^«f. Предположим, что ^ = (t([J &n).
п
Пусть Р и Р — две вероятностные меры на (Q, ^*) и Рл = Р\&п, Рп = Р\^п —
их сужения на ^. Показать, что
(Рл)<(Яп) ** Я«Р,
(Рп)о(Яп) ^ Я-Р,
(Рп)Д(Яп) ^ Я±Р.
4. Пусть (Q, с^, Р) таково, что fi = {— 1, 1}°° есть множество двоичных
последовательностейо; = (а;1,а;2, . ..)> Р{и: (^ь •••» ь>л) = (#ь • •-, Я/2)} = 2_/2
для любых щ = ±1, / = 1, ..., я, и £п(ш)=шп, м> 1. (Относительно меры Р
последовательность e = (ei, £2, •••) есть последовательность независимых
бернуллиевских случайных величин с P{zn = 1} = Р{£л = — 1} = -.)
Образуем величины S = (Sn)n^0 с S0=l, Sn = Sn_i(l + рл), где рп =
= 1Ап + &п£п, &п>0, fj,n>crn—l. (В этих условиях 5Л>0; в финансовой
математике величины Sn интерпретируются как цены активов в момент
времени п; см. § 11 в гл. VII.)
Пусть Р" = Р|^*л, где &п=<т(е\,...,ел). Введем на (Q, &) новую меру Р
такую, что относительно этой меры величины £\,£2, • • • снова независимы,
но
Р{ел=1}=1(1+*л). Р{ел = -1}=1(1-*л).
где Ьп = -цп/ап.
(a) Показать, что относительно меры Р последовательность 5 = (Sn)n^o
является мартингалом (см. § 11 в гл. I и § 1 в гл. VII).
(b) Полагая Р" = Р|^л, убедиться в том, что
//(e:f5-tp.) = n[(l±Ml+(L^)l].
k=\

§11. СКОРОСТЬ СХОДИМОСТИ В Ц.П.Т.
223
Воспользовавшись теоремой 1 (§ 10), вывести отсюда, что
оо
(Р")«(Р") ^ 5>2<00.
k=\
(В соответствии с теорией «больших» финансовых рынков предыдущее
утверждение означает, что условие Хл — ) < °° есть необходимое и до-
статочное условие отсутствия асимптотического арбитража', см.
подробнее § 3 в гл. VI монографии [130].)
5. В отличие от модели цен активов, описанной в предыдущей задаче,
предположим, что Sn = ehx +-+Л«, п > 1, 5о = 1, где hk = Hk + Vk.£k, °k > 0,
(e\ , £2, ...) — последовательность независимых одинаково распределенных
гауссовских, о/К(0, 1), случайных величин.
Пусть &п = а(£\,..., £„), Рп = Р \&п,п > 1 •
(a) Показать, что относительно меры Р такой, что Р \&п = Р , где dP =
= zndPn с
^=«р{-^+тЬ4±(Й + тГ}-
^ k=\ R k=\ R }
последовательность (Sn)n^o образует мартингал (см. § И гл. VII).
(b) Показать также, что
Я(а;^Р") = ехр{-^£(^ + т)2}
И
/7
2
(р-х(Ря) ^E(^+f) <°°-
(Условие S ( — + -jf ) <оо гарантирует отсутствие на рассматриваемом
рынке асимптотического арбитража; см. § Зс в гл. VI монографии [130].)
§ 11. О скорости сходимости в центральной
предельной теореме
1. Убедиться в справедливости неравенств в (8).
2. Пусть £i, £2, ••• —независимые одинаково распределенные
случайные величины с Е£б = 0, D£& =а2 и E|£i |3 < оо. Известно, что в этих
условиях справедлива следующая неравномерная оценка: для всех —оо < х < оо

224
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
Дать доказательство этого результата, по крайней мере для бернуллиев-
ских случайных величин. (По поводу утверждений и доказательств в этой
и нижеследующих задачах 5—7 см., например, монографию [88].)
3. Пусть dk)k^\ —последовательность независимых одинаково
распределенных случайных величин, принимающих два значения ±1 с
вероятностями 1/2. Пусть (p2(t) = Eelt& =-z(elt +e~lt). Показать, следуя
Лапласу, что (Sk = £i + ... + 60
P{S2n=0}=- lcp«(t)dt~-}=, п^оо.
7Г J V7T/Z
4. Пусть dk)k^\ —последовательность независимых одинаково
распределенных случайных величин, принимающих 2а + 1 целочисленное
значение 0, ±1,..., ±а, а> 1. Пусть <р2а+\ (t) = Eelt^ = —^r- (l + 2 £ cos tk).
\-\-ZCL \ k=\
Как и в предыдущей задаче, показать, снова следуя Лапласу, что
P{S„=0}=- \(p$q+\(t)dt~ , ^ п^оо.
\ / ff jmiw V27r(a+l)/z
В частности, для а= 1, т. е. случая, когда & принимают три
значения-1, 0, 1,
P{S„ = 0}~-^L, n^oo.
5. Показать, что если F = F(x) и G = G(x) — функции распределения
целочисленных случайных величин, /(/) и g(t) — их характеристические
функции, то
sup|FW-G<Jt)|<i J \Щ*&
dt.
—7Г
6. Показать, что если F и G — функции распределения и /(/) и g(t) — их
характеристические функции, Ц/7, G) — расстояние Леви (задача 4 в § 1),
то для любого Т > 2
L(Ff0KiSmz
-/л,л+2в!11.
1 H/(0-g(Q|
о
7. Пусть /^(х) — функция распределения нормированной суммы
1 п
—-^ S £/ независимых одинаково распределенных случайных величин
с Е&=0, Е£? = сг2>0 и Е|£|3 = /?з<оо. Положим р = ^\- Показать, что
lim inf \/n\Fn(x) — <b( )
n la,o) I V О )

§ 12. О СКОРОСТИ СХОДИМОСТИ В ТЕОРЕМЕ ПУАССОНА 225
§ 12. О скорости сходимости в теореме Пуассона
1. Показать, что при А& = — ln(l — pk) расстояние по вариации
\\B(pk) - П(АЛ)|| = 2(1 - е~х* - \ke~Xk) < \\
п
и, следовательно, \\В — П|| < J^ \\.
k=\
Указание. Если заметить, что
\\В(рк)-Щ\к)\\ = \(\- pk)-e-x*\ + \pk-\ke-x*\ +
00 а'
+ e~Xk J2 y = 2(1 - e~Xk - Xke~Xk).
то неравенство \\B(pk) - П(А^) || < \\ будет вытекать из предыдущего
соотношения и того, что при х > 0 имеем 2(1 — е~х — хе~х) < х2.
2. Доказать справедливость представлений (9) и (10).
3. Пусть £i, ..., £л — независимые бернуллиевские случайные
величины, принимающие значения 1 и 0 с вероятностями P{£k = l} = pk,
P{£k = 0} = 1 - pk, 1 < k < п. Положим fо = 0 и для 0 < / < 1, А > 0
[nt]
sn(t)=j2^
k=0
p£\t) = P{Sn(t) = k}, nk(t)={Xt)kfX\ k = 0,1,2,...,
И
An(t) = J2Pk (=ESn(/)).
k=0
Показать, что для вероятностей Р£ (t) и 7г^(/) справедливы следующие
соотношения:
P%l)(t) = l-\p$l)(s-)dAn(s),
о
^П)(0 = - J [Я1П)(5-)-Я^,(5-)]^п(5), *> 1,
0
ir0(0 = J-S'ro(s-)rf(As),
0 / ч
, (**)
**(*) = - SN(s-)-irft_,(s-)]rf(As), *>1.
о

226
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
4. Вывести из соотношений (*) и (**) в предыдущей задаче, что
£ \Pf\t) -nk(t)\ <2 $ £ I'f'(*-) -*k(s-)\d(\s) +
+ (2 + 4An(t)) max \An(s)-\s\. (***)
5. Воспользовавшись неравенством Гронуолла—Беллмана из задачи 51
в § 6 гл. II), вывести из (***), что (см. обозначения в задаче 3)
V |Р^(/)-тг,(/)|<в2ЛЧ(2 + 4Лл(/)) max \An(s)-\s\.
Заключить отсюда, что
ОС , П ч
X)|P{SnO) = ft}-Ml)l< 2 + 4^р,Ь2Л
k=0 ^ £=1 '
min sup
' 0^5 <1
Ys Pik~Xs
k=0
где min берется по всем перестановкам / = (/i, ..., /л) чисел (1, ..., я),
=о.
Пользуясь приведенным неравенством, показать, что если ^ Pk = ^,
Р«о=0
ТО
ос
£
■ЙН-^
< С(А) min sup
' 0<5<1
[/25]
Л=0
k=\
<С(А) max /?*,
1</г</2
гдеС(А) = (2 + 4А)е
2Л
§ 13. О фундаментальных теоремах математической
статистики
1. Доказать формулу (18).
2. Доказать, что сходимость Р(Л/) -^> Р (в (D, ^, /9)) влечет сходимость
f(XW) Д /да (см. обозначения на с. 487-489 книги «Вероятность— 1»).
3. Доказать справедливость импликации (22).
4. Пусть £i, £2, ••• и г/1, г/2, ... —две последовательности независимых
одинаково распределенных случайных величин с непрерывными
функциями распределения F = F(x) и G = G(x). Пусть
N N
FN(x; ") = i E 7(6kM < *)* G"(^ ") = If E 7fo*M < *)
k=\
k=\
— эмпирические функции распределения.

§ 13. ФУНДАМЕНТАЛЬНЫЕ ТЕОРЕМЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ 227
Положим
Dyv,AfH = sup \FN(x\ ш) - GM(x; ш)\
х
И
°ым(ш) = sup(FN(x; ш) - GM(x; u>)).
X
Для рассматриваемой ситуации с двумя выборками известно, что
где К(у) — распределение Колмогорова (см. с. 490 книги «Вероятность —
1»).
Следуя идеям доказательства результата (25), наметить схему и
основные шаги доказательства утверждения (*) и утверждений (27) и (28).
5. Рассмотрим статистику «омега-квадрат»
ос
4И= $ \FN(x;u>)-F(x)\2dF(x), (**)
—оо
где F = F(x) — непрерывная функция распределения. Показать, что, как и в
случае статистик Dn(u) и D^(cj), распределение статистики и>1/(и>) одно и
то же для всех непрерывных функций распределения F = F(x). Показать
также, что
С 2/ ч 1 п 2/ ч 4iV-3
6. Пусть £i, &, ••• —последовательность независимых одинаково
распределенных случайных величин с E£i =0, D£i = 1 и
&n = max(Sk Sn) -min(5^ Sn).
Показать, что
Щ= = max \Bt -tBA- min \Bt -tBA= max B°t - min B?,
где Tn = {t = k/n; k = 0, 1, ...,я}, B = (Bt)t<^\ — броуновское движение,
B° = (B°)t^\ —броуновский мост и «=» означает, как обычно, равенство
по распределению.
Установить также, что
о
E@n~<J\~n, D^,~(2L.-|)n.
(Ср. с задачей 87 в § 6 главы II.)

228
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
7. Пусть F = F(x) и G = G(x) — две функции распределения и F~l (t) =
= \n\{x\F{x)>t)w G-x(t) = 'm\{x\G(x)>t).
Пусть #2 = {F: F — функция распределения с \ х2 dF(x) < оо}.
Положим для F и G из #2 -оо
/1 \ 1/2
d2(F,G)=n\F-\t)-G-](t)\2dt\ .
(a) Показать, что функция d^^d^iF, G), называемая расстоянием
Вассерштейна, является метрикой и (#2, d2) есть полное метрическое
пространство.
(b) Показать, что если £i, ..., £п — независимые одинаково
распределенные величины с функцией распределения F из #2 и Fn — эмпирическая
функция распределения, то (Р-п. н.)
d2(F, Fn)^>0, л—>оо.
(c) Проверить, что метрика d2(F, G) удовлетворяет следующему кап-
линг-свойству:
d2(F, G) = inf E^-??)2,
где точная нижняя грань берется по всевозможным парам (£, rj)
случайных величин £ и rj, имеющих F и G соответственно своими функциями
распределения (F, G Gfo)- оо
8. Пусть #1 ={F: F — функция распределения с \ \х\ dF(x) < оо}.
Положим для F и G из #1 -оо
1
^(F, G) = $|/:,-1(/)-G-1(OI^•
o
(a) Показать, что эта метрика, называемая метрикой Добрушина,
удовлетворяет следующему свойству:
оо
dx{F,G)= § \F(x)-G(x)\dx.
— ОО
и что (#1, d\) есть полное метрическое пространство.
(b) Показать, что если F, F\, F2, ... Gffi, T0 d\(F, Fn)^>0, я—>оо,
в том и только том случае, когда Fn=>F (сходимость в основном, § 1)
и § |jc| dFn(x) —> § |jc| d/^x).
(c) Установить, что для Z7 и G из #1 имеет место следующее каплинг-
свойство:
dx(F, G) = inf E|£-q|,

§ 13. ФУНДАМЕНТАЛЬНЫЕ ТЕОРЕМЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ 229
где точная нижняя грань берется по всем парам (£, rj) случайных величин
£ и rj, имеющих F и G своими функциями распределения (F, G Gffi).
(d) Доказать, что если £ь ..., £л — независимые одинаково
распределенные случайные величины с функцией распределения Fe$\ wFn —
эмпирическая функция распределения, то (Р-п. н.)
d\(F, Fn)^>0, л —>оо.
9. Пусть X — случайная величина с функцией распределения F = F(x),
xeR, и ее обратной функцией F~l =F~x(u), wG[0, 1] (см. определение
в задаче 8 к § 8). Для всякого 0 < р < 1 величину xp=F~l(p)
называют р-квантилем случайной величины X (или функции распределения
F = F(x)). (Величину F~x{\/2) часто принимают за определение медианы;
значения F~l(l/4) и F~l(3/4) принято называть нижним и верхним
квантилями соответственно.)
Привести условия, при которых р-квантиль яр совпадает с
единственным корнем уравнения F(x) = р.
10. Пусть Х\, ..., Хп — независимые одинаково распределенные
случайные величины с функцией распределения F=F(x). Обозначим Fn=Fn(x)
- 1 п
эмпирическую функцию распределения (Fn(x)=Fn(x;u>) = - Y^ I(Xk(u^x)',
п k=\
см. формулу (1)), построенную по п величинам Х\, ..., Хп.
Показать, что если Я\п\ ..., Х^ — порядковые статистики (в задаче 8
к § 12 главы I и в задаче 19 к § 8 главы II для этих статистик
использовались обозначения Х\п\ ..., Хп), образованные по наблюдениям над п
величинами Хи ..., Хп, то эмпирическая функция распределения Fn = Fn(x)
допускает следующее представление:
(О, еслих<Х\п\
pn(x)=}kfa еслиХ^^хкХ^ Л = 1,...,л-1, л>1,
[l, еслих>$л).
11. Пусть выполнены условия предыдущей задачи, яр есть р-кван-
тиль распределения F = F(x) и яр(п) = F~x(p) — соответствующий
квантиль функции распределения Fn=Fn(x). Показать, что если яр есть
единственное значение такое, что Р{яр—) < р < F(xp), то при п —> оо
яр(п)^яр (Р-п. н.).
Указание. Надо заметить, что яр (п) = Xff ->, и убедиться в том, что
для всякого 6 > 0
P{Jim xfL >xP-s} = Р{Ш х™ < яр+s} = 1,

230
ГЛ. III. СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
где, напомним, через \х\ обозначается наименьшее целое, большее или
равное х.
12. Пусть Х\, Х2, ... — независимые одинаково распределенные
случайные величины с непрерывной функцией распределения F =F(x). Пусть,
дополнительно, выполнены следующие условия: уравнение F(x) = p для
заданного 0< р< 1 имеет единственное решение яр, производная F'(x)
в точке яр существует, непрерывна и положительна. Обозначим Х$рл
выборочный р-квантиль.
Показать, что случайные величины у/п(ХгПК — хР) сходятся по
распределению к гауссовской случайной величине Л/, имеющей нулевое среднее
и дисперсию р(\ - p)(F'(xp))2\
Указание. Пусть £i, ..., £„ — независимые равномерно
распределенные на [0, 1] случайные величины и |{л), ..., ^ — соответствующие
порядковые статистики. Для доказательства требуемого утверждения надо
прежде всего заметить, что величины Щ^р\~ нр и ^~{(^(пР]) ~^~{(р)
совпадают по распределению, а затем воспользоваться утверждением
леммы 2 и применить центральную предельную теорему в условиях Линдеберга
(теорема 1 в § 4).

Глава IV
ПОСЛЕДОВАТЕЛЬНОСТИ И СУММЫ НЕЗАВИСИМЫХ
СЛУЧАЙНЫХ ВЕЛИЧИН
§ 1. Законы «нуля или единицы»
1. Доказать следствие к теореме 1.
Указание. Воспользоваться тем, что функция распределения
величины г} может принимать лишь значения 0 и 1.
2. Показать, что если (£п)п^\ —последовательность независимых
случайных величин, то случайные величины lim £л и Дт £л являются
вырожденными (Р-п. н.).
Указание. Показать сначала, что lim £n и lim £n являются
«^-измеримыми.
3. Пусть (£я)я^1 — последовательность независимых случайных
величин, Sn = £i +... + £я и константы Ьп таковы, что 0 < bn | оо. Показать, что
случайные величины lim -£• и |im -£• являются вырожденными (Р-п. н.).
On On
Указание. Зафиксируйте /V, принадлежащее множеству {1, 2, ...},
и положите
\>N.
ySn-Su, n:
Из свойства lim -гр- = lim -гр- выведите, что верхний предел lim -гр- изме-
п Ьп п Ьп п Ьп
оо
рим относительно f] &n и, в силу возможности произвольно выбирать
n=N
/V, измерим относительно ЗС. Отсюда уже нетрудно вывести требуемое
утверждение.
4. Пусть Sn = £i+... + £,, л>1, и 5T(S) = n^r(S), &£°(S) =
= <т{и: S„, S,z+i, ...}. Показать, что каждое событие из «хвостовой»
сг-алгебры 3£(S) является перестановочным.
5. Пусть (£я)я^1 ~~ последовательность случайных величин. Показать,
что {lim in^c}^Нт{£л >с} для всякой константы с.
Указание. Достаточно заметить, что
Ш{£>п>с) = {и)\ ^Н^б.ч.}.

232
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
6. Привести пример «хвостового» события А (т. е. события из о-
оо
алгебры %= П ^(О. где &™(£) = о{£п, £„+,, ...) и {£п)п>{ - после-
п=\
довательность случайных величин), вероятность которого строго больше
нуля и хстрого меньше единицы: 0< Р(А) < 1.
7. Пусть £ь &, ... — независимые случайные величины с Е£„ = 0,
Е£2 = 1, п > 1, для которых выполняется центральная предельная теорема
(P{Sn/y/n^x}^><b(x), xeR, где Sn=£\+... + £n). Доказать, что тогда
urn
n-{/2Sn = +oo (Р-п.н.).
(В частности, это свойство выполнено для последовательности
независимых одинаково распределенных случайных величин с E£i =0, Е£2 = 1.)
8. Пусть £i, £2, • •• —независимые одинаково распределенные
случайные величины с Е |£i | > 0 и Sn = £1 +... + £„, п > 1. Показать, что
lim \Sn\ = +00 (Р-п. н.).
п—>оо
9. Пусть £i, &, ••• —независимые одинаково распределенные
случайные величины с E£i =0, E|£i| >0 и Sn = £\ +... + £«, я> 1. Доказать, что
(Р-п.н.)
lim az~1//2S„ = +oo, Hm n~{^2Sn = -00.
я->оо я->оо
(Ср. с утверждениями теоремы 2; см. также задачу 7.)
10. Пусть с^*1, с^2, ... — последовательность независимых сг-алгебр.
оо
Положим &= f] о( IJ &Л. Показать, что для каждого множества G е&
п=\ \fen J
справедлив закон «нуля или единицы» (P(G) равно 0 или 1).
11. Пусть А\у A<i, ... — последовательность независимых событий
таких, что Р(Ап)< 1, м> 1, и Р ( U Ап | = 1. Показать, что P(lim An) = \.
12. Пусть А\, А2, ... —последовательность независимых событий с
Р{Ап) = рп, п > 1. Из закона «нуля или единицы» следует, что вероятности
P(lim An) и P(lim An) равны или нулю, или единице. Дать условия в
терминах величин рп, м> 1, того, что Pdim y4„) = 0. Pdim An) = \. P(lim An) = 0
и P(lim An) = \.
13. Пусть £i, £2, ••• —последовательность невырожденных одинаково
распределенных случайных величин и Sn = £\ + ... + £«, я>1. Показать,
что
(a) P{SneA б. ч.} = 0 или 1 для каждого борелевского множества
АеЩЯ);

§ 1. ЗАКОНЫ «НУЛЯ ИЛИ ЕДИНИЦЫ»
233
(b) возможны только лишь две ситуации: или lim Sn = oo (Р-п. н.), или
lim Sn = —оо (Р-п. н.); при этом
P{lim S„ = oo} = 1, если У^ - P{S„>0} = oo,
п=\
°° 1
P{lim S„ = -oo} = l, если ^ - P{S„>0}<oo;
п=\
(c) если распределение величин £п симметрично, то lim Sw = oo и
lim Sn = —оо (Р-п. н.).
14. В соответствии со следствием к теореме 1 всякая случайная
величина г], являющаяся измеримой относительно «хвостовой» сг-алгебры ЗС,
порожденной независимыми (по мере Р) случайными величинами £i, £2,
является Р-п. н.константой (Р{т} = Ср) = 1, где Ср — некоторая константа).
Пусть Q —другая мера, относительно которой величины £i, &, ... также
независимы. Тогда Q{ry = Cq} = 1, где Cq — некоторая константа. Верно ли,
что Ср = Cq?
15. Пусть Sn = £\ +... + £я, я>1, где £i, &, ... —независимые бер-
нуллиевские случайные величины с Р{£; = 1} = Р{£■ = — 1} = 1/2, / > 1.
Пусть <T0 = inf{Az> 1: S„=0} (полагаем сг0 = оо, если Sn^0 при всех я> 1).
Показать, что блуждание (Sn)n^o с 5о = 0 возвратно в том смысле, что
Р{сг0 < оо} = 1. Вывести отсюда, что P{Sn = 0 б. ч.} = 1.
Указание. Воспользуйтесь результатом задачи 7 из § 5 главы I,
согласно которому
P{5i.. .S2n 7^0} = 2~2пС%п для любого п > 1.
16. Пусть £i, £2, ••• —последовательность независимых одинаково
распределенных случайных величин с Е|£;|<оо. Пусть Sn = £\ +... + £«,
az> 1, и Е£; =0. Показать, что
lim |S„|<oo (Р-п. н.).
п—>оо
(Ср. с задачами 8 и 9.)
17. ПустьХ = (Х\,Х2, ...) — бесконечная последовательность
перестановочных случайных величин (см. определение в задаче 4 к § 5 гл. II). Пусть
5£п = а(Хп,Хп+\, ...) и «2Г = р| ^ — «хвостовая» сг-алгебра, порожденная
последовательностью X. п
Показать, что для каждой ограниченной борелевской функции g = g(x)
Е[ё(Х1)\ЗГ] = Е[ё(Х1)\Щ (Р-п.н.).
Показать также, что случайные величины Х\, Х2, ... являются условно
независимыми относительно «хвостовой» сг-алгебры ЗС.

234
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
18. Пусть (Х\, ..., Хн) — гауссовский вектор перестановочных
случайных величин. Показать, что найдутся такие независимые случайные
величины (£i, ..., £/у), имеющие стандартное нормальное распределение
(£i ~ .Ж(0, 1)), что для всех 1 < п < N
N
Хп = a + b£n + c ^2 £i*
где a, b и с — некоторые константы.
19. Пусть (Х\у ^2, ...) —бесконечная гауссовская последовательность
перестановочных случайных величин. Показать, что найдется гауссовская
последовательность (е0, ^i, • • •), состоящая из независимых одинаково
распределенных случайных величин st; ~«Ж(0, 1), / > 0, таких, что
Хп = а + b£o + С£п, п > 1.
20. Пусть £i, £2, ... — последовательность независимых случайных
величин с экспоненциальным распределением Р{£; >х} = е~х, х^О.
Рассмотрим события Ап = {£п ^h(n)}, az> 1, где h(n) — любая из функций с In я,
In п + с In In п или In п + In In п + с In In In п.
Показать, что
г»/л * ч 10, если с> 1,
Р(Ллб.ч.) = { ' '
I 1, если с < 1.
Указание. Воспользуйтесь леммой Бореля—Кантелли.
21. Пусть £i,£2i ••• — последовательность независимых
одинаково распределенных бернуллиевских величин (Р{£п = 1} = Р{£л = 0} = 1/2,
м> 1). Рассматриваются события
^Л = {£л+1 = 1 , • • . , £rt+[log2 l0g2 Л] = 1 }, П > 4.
(a) Показать, что Р(Ап б. ч.) = 1.
Указание. Рассмотрите сначала последовательность событий Ап с
п = 2ту га>2.
(b) Найти, чему равна вероятность Р(Вп б.ч.), где
£« = {£«+1 = 1, ••, £«+[log2 л] = 1}, П>2.
22. Пусть А\у A<i, ... — независимые события. Рассмотрим события
В^х = lev: lim - ^ />U<*k ^€/?.
Показать, что для каждого л: Е R
Р(В^) = 0или 1.

§ 2. СХОДИМОСТЬ РЯДОВ
235
§ 2. Сходимость рядов
1. Пусть £i, £2, ... —последовательность независимых случайных
величин. Используя теорему о трех рядах, показать, что:
(a) если X) Сл<°° (Р-п. н.), то ряд X) in сходится с вероятностью
единица в том и только том случае, когда сходится ряд X) Е£Л/(|£Л| < 1);
(b) если ряд Y^ in сходится (Р-п. н.), то Y^ in<oc (Р-п- н.) в том и
только том случае, когда
£№|/(|£.|<l))2<oo.
2. Пусть Ci» Сг, ••• —последовательность независимых случайных
величин. Показать, что X) in < °° (Р_п- н.) тогда и только тогда, когда
Указание. Воспользоваться теоремой о трех рядах, замечая, что
£E-i^<oo ^ [£Е#(|6,|<1)<оо и £Р{|6,|>1}<оо1.
1 I 5/Z L J
3. Пусть £i, £2, ••• —последовательность независимых случайных
величин. Показать, что тогда следующие три условия эквивалентны:
(i) ряд X) & сходится с вероятностью единица;
(и) ряд X) Сл сходится по вероятности;
(Hi) ряд X) С/г сходится по распределению.
Указание. Проще всего провести доказательство, устанавливая
последовательно, что (i)=>(iii)=>(ii)=>(i). Первая импликация следует из
теоремы 2 в § 10 главы И. Импликацию (iii)=>(ii) надо доказывать от
противного, привлекая теорему Прохорова. Для доказательства импликации
(ii) => (i) надо воспользоваться, например, неравенством Этемади
(задача 22) или любым другим сходным неравенством (Скорохода — задача 3
в § 4, Оттавиани — задача 3 в § 3 гл. VII). Если ряд Y in сходится по
вероятности, то для каждого £>0 найдется такое meN = {\, 2, ...}, что
для каждого п > т
max P{\Sn- Sk\ >£}<£.
m^k^.n
Применяя указанное неравенство, вывести, что ряд Y in сходится с
вероятностью единица.
4. Привести пример, показывающий, что в теоремах 1 и 2 нельзя,
вообще говоря, отказаться от условия равномерной ограниченности
(Р{|С«| ^с} = 1 Для некоторого с>0 при всех я> 1).

236
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
Указание. Рассмотрите независимые случайные величины £л с
pk«=o}=i-j|. ркя=п}=р{е,=-л}=^, 01.
5. Пусть £[, ..., ^ — независимые одинаково распределенные
случайные величины с E£i =0, Е£^<оо и Sk = £\ + ... + £ь &<я. Доказать
следующий односторонний аналог (А. В. Маршалл) неравенства
Колмогорова (2):
PJmax S*>g}< 2^5_%2, *>0.
6. Пусть £i, £2, ... — последовательность (произвольных) случайных
величин. Доказать, что если X) Е|£„|<оо, то ряд X) in сходится абсо-
п^\ п^\
лютно с вероятностью единица.
7. Пусть £i, £2, ... —независимые симметрично распределенные
случайные величины. Показать, что
££«УЛ11<£Е^Л1)-
п J \ п
8. Пусть £i, £2, ••• — независимые случайные величины с конечными
вторыми моментами. Показать, что рядХ) in сходится в L2, если и только
если сходятся ряды Y Ein и X) ^in-
9. Пусть £j, £2, ... —независимые случайные величины и ряд Yin
сходится Р-п. н. Показать, что Р-п. н. значение этого ряда не зависит от
порядка суммирования тогда и только тогда, когда Y \^(in\ \in\ < 01 < °°.
10. Пусть £i, £2, ... — независимые случайные величины с Е£„ = 0,
м> 1, и
2ЕК«/(1««1<1)+1Ш1««1>1)]<оо.
п
Показать, что ряд Y in сходится (Р-п. н.).
п
11. Пусть А\, А2, ... —независимые события с Р(Ап)>0, я>1, и
Y Р(Ап) = оо. Показать, что тогда
п п п
J2l(Aj)/j2P(Ai)^l (Р"пн) прим^оо.
/=| /=1
12. Пусть £i, £2, ••• —независимые случайные величины со средними
оо
Е£„ и дисперсиями <т„ такими, что lim E£n = c и Y ^2 = оо. Показать,
что тогда п=[
П £ П
J2~l /Л~^с (Р"пн) прии^оо.

§ 2. СХОДИМОСТЬ РЯДОВ
237
13. Пусть £i, £2, ... —последовательность независимых одинаково
распределенных случайных величин с экспоненциальным распределением
(Р{£{>х} = е-х,х^0).
Показать, что если для положительных ап, я> 1, ряд X) ап сходится, то
ряд X) ап£п сходится с вероятностью единица и в смысле /^-сходимости
для всякого р > 1.
14. Пусть (7*1, 7-2, ...) — моменты скачков у процесса Пуассона (см.
00 _i/
§ 10 гл. VII) и ае(0, 1). Показать, что ряд X) Т{ сходится с
вероятностью единица. 1={
15. Пусть (£л)л^1 —последовательность независимых случайных
величин, где £„ имеет равномерное распределение на —, - . Показать,
что (Р-п. н.)
(a) ряд X) in сходится;
п
(b) ряд£ |£л|=оо-
п
Указание. Воспользоваться теоремами о двух и трех рядах
(теоремы 2 и 3).
16. Теорема 3 (о трех рядах) гарантирует сходимость (Р-п. н.) ряда
X) £л из независимых случайных величин £i, £2, •••, если при некотором
п^\
О 0 одновременно сходятся три ряда (£„ =£nl{\£n\ ^ с))
£Е& £d£, £P{|£„|>c}.
п^\ п^\ п^\
Привести примеры, показывающие, что отказ от требования сходимости
(при некотором с>0) любого из этих рядов может привести к нарушению
сходимости (Р-п. н.) ряда Y^ £«•
17. Пусть £i, &, ... — последовательность случайных величин таких,
оо
что X) ^1^|Г<°° Для некоторого г>0. Доказать, что с вероятностью
k=\
единица £„ —> 0, п —> оо.
18. Пусть £i, &, ••• — независимые бернуллиевские случайные
величины с P{£fc = l} = P{£fc = —1} = ,9, k^ 1. Показать, что распределение ВерОЯТ-
ностей ряда X) Ш является равномерным на [—1, 1]. (Ср. с утверждением
задачи 62 из § 10 и задачи 47 из § 12 гл. П.)

238
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
19. Пусть £i, £2, ... — независимые симметрично распределенные
случайные величины. Показать, что следующие условия являются
равносильными:
(i) ряд X) £л сходится с вероятностью единица;
(и) сумма X) £п < °° (Р-п. н.);
(Hi) сумма X) Е(£^ Л 1) < оо.
20. Пусть £ — случайная величина и £ — ее симметризация, т. е.
£ = £ — «Г, где ^ не зависит от £ и имеет то же распределение, что и £.
(Предполагается, что вероятностное пространство достаточно богато.)
Пусть fi = fi(£) — медиана случайной величины £, определяемая тем
условием, что тах(Р{£>/4, Р{£</х})< - (ср. с задачей 23 в § 4 главы I).
Показать, что для всякого а > 0
P{|£-H>aK2P{|f|>aK4P{|e|>§}.
21. Пусть £i, £2, ... — последовательность независимых случайных
величин с
Р{С„ = 1} = 2-", Р{£,=0}=1-2-«.
ОО
Показать, что ряд X) £л сходится с вероятностью единица, при этом
п=\
(оо Л оо
£&=() =П(1-2-")>0
п=\ ) п=\
и
(оо ^ оо п оо
п=\ ) п=\ п=\
22. Доказать, что если £i, &, ... —последовательность независимых
случайных величин, 5т =£\ + ... + £т, га>1, то выполнено следующее
неравенство Этемади: для всякого £> 0 и я> 1
Р{ max |Sm|>4e)<4 max P{|5m|>£}.
(Это неравенство может быть использовано при доказательстве
импликации ii) => i) в задаче 3.)
23. Пусть £i, ..., £Л — независимые случайные величины с Е^ = 0
такие, что для данного h > 0 ЕеЛ&<оо, k=l,..., я. Положим Sfc=£i + ... + &,
1 < k < az. Показать, что для всякого £> 0 выполняется следующий
экспоненциальный аналог неравенства Колмогорова:
PJmax Sk^£\^e-h£EehS".

§ 2. СХОДИМОСТЬ РЯДОВ
239
Указание. Как и при доказательстве неравенства Колмогорова,
надо ввести множества А = \ max Sk > £ >, Ak = {S/ < е, 1 < / < k — 1, Sk > е},
1<&<я, и, воспользовавшись неравенством Иенсена, установить
справедливость следующих неравенств:
п
EehSn > EehS4A=J2 EehS»IAk > ...^ehbP(A).
k=\
24. Пусть У — случайная величина и (Уп)п^\ — последовательность
случайных величин таких, что Уп —> У (сходимость по распределению),
п —> оо. Пусть также {Nt, t > 0} — семейство положительных целочисленных
р
случайных величин, независимых от (K«)«^i и таких, что Nt —>оо, / —>оо.
Показать, что У/у, —> У, t —> оо.
Указание. Воспользоваться аппаратом характеристических
функций.
25. Пусть У — случайная величина и (Уп)п^\ — последовательность
случайных величин таких, что
Уп^У (Р-П.Н.), Л->00,
и {Nt, t >0} — семейство положительных целочисленных случайных
величин. (В отличие от условий задачи 24, независимость (Уп)п^\ и {Nt, t >0}
не предполагается.)
Показать справедливость следующих утверждений:
(a) если Nt—>oo (Р-п. н.), то У/у, —> У (Р-п. н.), / —> оо;
(b) если 7V^ ^yV (Р-п. н.), то YNt -> Уд/ (Р-п. н.), / ^оо;
р р
(c) если Nt —> оо, то У/у, —> У, / —> оо.
Указание. Для доказательства свойства (с) воспользоваться тем,
что из последовательности, сходящейся по вероятности, можно выделить
подпоследовательность, сходящуюся почти наверное.
26. Пусть £j, £2. ••• —последовательность независимых бернуллиев-
ских случайных величин с Р{£„ = ± 1} = 1/2, п > 1. Показать, что случайная
оо с
величина X=Y^ определена и ее функция распределения имеет
плотность. п={
27. Пусть £i, £2, ••• —последовательность независимых бернуллиев-
ских случайных величин с Р{£„ =0} = Р{£„ = 1}= 1/2, я> 1. Пусть а„>0,
Ьп > О, ап + fc„ = 1, п > 1, и
*„ = 2af«fc'-*<.
Показать, что следующие утверждения равносильны:

240
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
оо N
(О П Хп сходится почти наверное (т. е. lim Yl %n существует и не
п=\ N п=\
равен нулю почти наверное);
оо
00 П (2 — %п) сходится почти наверное;
п=\
оо
(iii) Yl anbn сходится.
п=\
Указание. При доказательстве того, что (iii) => (i), надо
проанализировать Е In Xn, D In Xn и воспользоваться теоремой о трех рядах.
28. Пусть £i, £г, ••• —последовательность независимых одинаково
распределенных случайных величин с плотностью (Коши) f(x) = — кг,
I п р тг(1 + х )
xeR. Показать, что свойство - ^3 £,-—>т не выполняется ни для какой
константы т. i={
29. Пусть £i, &, • •• —последовательность независимых одинаково
распределенных случайных величин с Е& = /и и D£;<oo. Показать, что
при п —> оо
^2 J2 tej^K
где С% — число сочетаний из п по 2 (=п(п — 1)/2).
30. Пусть £i, &, • •• —последовательность независимых бернуллиев-
ских случайных величин с Р{£п = 0} = Р{£п = 1} = 1/2, я> 1. Обозначим для
каждого я > 1 через Z„ длину максимального блока в последовательности
£«, •••, £я, состоящего сплошь из одних единиц. Показать, что с
вероятностью единица
lim^L = l.
п In лг
Указание. Надо установить, что с вероятностью единица lim —— >
> 1 и lim 1— < 1.
/г In П
31. Пусть £ь £г» ••• — независимые бернуллиевские случайные ВеЛИ-
ЧИНЫ С Р{£„=1}=р„, Р{£„=0}=1 - ?„, Л > 1.
оо оо
(a) Показать, что если X) PkPk+\ <oo, то ряд X) £fc£fc+i сходится с
/г=1 k=\
вероятностью единица.
(b) Пусть рп = \/п, я> 1. Доказать справедливость следующего ре-
оо
зультата П. Диакониса: случайная величина 5 = X) £л£л+1 имеет
распределение Пуассона с параметром А= 1. п={

§ 3. УСИЛЕННЫЙ ЗАКОН БОЛЬШИХ ЧИСЕЛ
241
§ 3. Усиленный закон больших чисел
оо
1. Показать, что Е£2 < оо тогда и только тогда, когда Y^ яР{|£| > п)<
< ОО. п=Х
Указание. Докажите, что
оо оо
£ лР{|£| > л}< Е£2< 1 +4 £ «Р{|^|>«>-
П=\ П=\
2. Предполагая, что £i, &» • • • независимы и одинаково распределены,
доказать справедливость усиленного закона больших чисел Марцинке-
вича—Зигмунда: если E|£i|a <оо для некоторого 0<а< 1, то —А^ —>0
(Р-п. н.), и если E|£i|^< оо для некоторого 1 </3<2, то тогда п «л, —>0
(Р-п.н.).
3. Пусть £ь $2» ••• — последовательность независимых одинаково
распределенных случайных величин с E|£i|=oo. Показать, что для любой
последовательности констант (ап)п^\
lim
п
п
= 00 (Р-П. Н.).
4. Будут ли все рациональные числа из [О, 1) нормальными (в смысле
примера 2 в п. 4)?
5. Рассмотрим десятичные разложения чисел и = Q,u\U2... из
интервала [0, 1).
(a) Перенести на этот случай усиленный закон больших чисел, данный
в п. 4 для двоичных разложений.
(b) Будут ли в десятичном разложении рациональные числа нормаль-
1 п 1
ными (в том смысле, что - £) /(&(о;) = /)—> — (Р-п. н.) при я—>оо для
п k=\ ш
любого / = 0, 1, ..., 9)?
(c) Показать, что (предложенное Чамперноуном) число
^ = 0,123456789101112...,
где подряд выписываются все числа, является нормальным (в десятичном
разложении; см. пример 2).
6. (Н. Этемади.) Показать, что утверждение теоремы 3 остается
справедливым, если независимость случайных величин £ь £г» ••• заменить их
попарной независимостью.
7. Показать, что в условиях теоремы 3 имеет место также и сходимость
в среднем (Е — - т —► 0, п —► оо).

242
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
8. Пусть £i, £2» ••• —независимые одинаково распределенные
случайные величины с E|£i|2< oo. Показать, что
rcP{|£i|^£V^}—>0 и —ртах|£б|—>0.
(Ср. с задачей 41 в § 10 гл. II.)
9. Привести пример последовательности независимых случайных ве-
личин £i, £2, ••• таких, что предел lim — существует по вероятности, но
п—>оо П
не существует с вероятностью единица.
Указание. Рассмотрите независимые случайные величины £i,
6, -. с
п2 °°
и воспользуйтесь тем, что ES% < -j— и ^ Р{|£„ | > п}= 1, откуда по второй
1п л л=1
лемме Бореля—Кантелли Р{|£л| > я б. ч.} = 1.
10. Пусть £ь &, ... — последовательность независимых случайных
величин с Р{£л = ±па}= 1/2. Показать, что для этой последовательности
усиленный закон больших чисел выполняется тогда и только тогда,
когда а< 1/2.
11. Доказать, что усиленному закону больших чисел Колмогорова
(теорема 3) можно придать такой вид: пусть £i, &, ••• —независимые
одинаково распределенные случайные величины, тогда
E|£i|<oo & az_1S„->E£i (Р-п. н.),
E|£i| = oo Ф> lim n~xSn = +00 (Р-п. н.).
Доказать, что первое утверждение остается в силе, если независимость
заменить попарной независимостью.
12. Пусть £ь &, ••• —последовательность независимых одинаково
распределенных случайных величин. Показать, что
Е sup — <оо ф> E|fi| ln+|fi|<oo.
п I ft I
13. Пусть Sn = £1 +... + £л, п > 1, где £i, &, • • • — последовательность
независимых одинаково распределенных случайных величин. Показать, что
для всякого а€ (0, 1/2] выполнено одно из следующих свойств:
(a) /i_aS„-> 00 (Р-п.н.);
(b) n-^Sn->-оо (Р-п.н.);
(c) lim n~aSn = 00, ]im n~aSn = —00 (Р-п. н.).

§ 3. УСИЛЕННЫЙ ЗАКОН БОЛЬШИХ ЧИСЕЛ
243
14. Пусть Sn = £i +... + £„, п > 1, Sq = 0, £i, &» ... —
последовательность независимых одинаково распределенных случайных величин.
Показать, что:
(a) для любого £ > О
оо
Y^P{\Sn\>ri£}<oo & E£i=0, E£?<oo;
(b) если E£i < 0, то для р > 1
E(sup SnY~l <оо & Е(£+У<ос;
Wo )
(c) если E£i = 0 и 1 < р < 2, то для некоторой константы Ср
оо оо
V PJmax Sk > л} < CpE|f, |", V PJmax |SA| > n) < 2CpE\$i\p;
n=\ n=\
(d) если E£j = 0, E£j* < оо и M(e) = sup(S„ - ns), £ > 0, то
2
lim £M(£) = —.
e—>oo z
15. (К теореме 2.) Пусть £ь &, ••• — последовательность независимых
случайных величин таких, что
Р{^ = 1} = Р{?п = -1} = |(1-2-п),
Р{£п = 2"} = Р{£п = -2"} = 2-<"+1>.
Показать, что здесь £) —у- = оо (ср. с (3)), однако (Р-п. н.)
п=\ П
п
т. е. справедлив усиленный закон больших чисел (иначе говоря, имеет
место формула (4); отметим, что в рассматриваемом случае Е£„ =0, м> 1).
16. Пусть £ь £г» ••• —последовательность независимых одинаково
распределенных случайных величин с E|£i| = oo. Показать, что в этом
случае выполнено по крайней мере одно из свойств
Ptel5Z^ = +00} = 1 или р{м^£& = -оо| = 1.
17. В обобщение усиленного закона больших чисел Колмогорова
(теорема 2) доказать справедливость следующего результата (Лоэв): если

244
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
£ь &» ••• — последовательность независимых случайных величин с
Е16.Г"
оо
Ь\Р„Г"
<оо,
л=1
Z^ П<*п
1 п
где 0< ап < 2, причем Е£„ =0 в случае 1 < ап < 2, то - £) £п ~*() с
вероятностью единица. /=1
18. Привести пример последовательности £ь £г, ••• независимых
случайных величин с Е£я = 0, п > 1, таких, что
1 я
i£$->-oo (Р-п.н.).
i=\
Указание. Рассмотрите, например, случайные величины £п с
Р{$)П = -п)=\-п-2 и Р{$)П = пъ-п) = п-2, м> 1.
19. Пусть £i, £2, • • • — последовательность независимых случайных
величин с Е£б = 0, &> 1. Положим
f* ~\о,
(л)_ J&, если |&|</г,
если |6| >м.
Доказать справедливость следующего результата (А. Н. Колмогоров) о
выполнимости закона больших чисел: для того чтобы
iE^o,
1
6=1
необходимо и достаточно, чтобы при я —юо
£р{|&1>«}^о,
k=\
Привести пример, показывающий, что последнее условие (в части,
касающейся необходимости) не может быть заменено на условие
1 я
-L^E(^)2-0.
П

§ 3. УСИЛЕННЫЙ ЗАКОН БОЛЬШИХ ЧИСЕЛ
245
20. Пусть N = (Nt)t^o — процесс восстановления (см. пример 4 в п. 4):
оо
Nt=J2 I(Tn^it), где Тп = <т\ + ...+<тп и (<тп)п^\ —последовательность
п=\
независимых одинаково распределенных случайных величин с Есг\ = \х,
0< pi < оо. Согласно усиленному закону больших чисел, -г—> — (Р-п. н.).
Показать, что для любого г > О
(Эти результаты остаются справедливыми и для fx = oo; тогда 1/^ = 0.)
21. Пусть £ь £г, ••• —последовательность независимых одинаково
распределенных случайных величин, Sn = £\ +... + £« и {Nt, t >0} —
семейство случайных величин со значениями в {1, 2, ...} таких, что /V* —>оо
(Р-п. н.), / —юо.
Показать, что:
(а) если E|£i \г < оо, г > 0, то
-%7Г-0 (Р-п.н.), /-оо,
(NtY
и если к тому же Nt/t —> А (Р-п. н.), где 0< А < оо, то
|$г-0 (Р-п.н.), /-оо;
(b) если E|£i|r<oo, 0<г<2, и дополнительно E£i = 0в случае 1 <г<2,
то
и если к тому же /Vj// —> А (Р-п. н.), где 0 < А < оо, то
^-0 (Р-п.н.), /-оо;
(c) если Е |£i | < оо и E£i = \i, то
^-^ (Р-п.н.), f-oo,
и если к тому же Nt/t —> А (Р-п. н.), где 0 < А < оо, то
%^М (Р-п.н.), /->оо.
Указание. Для доказательства (а) воспользуйтесь леммой Боре-
ля—Кантелли и утверждением (а) в задаче 25 в § 2. Для доказательства (Ь)

246
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
воспользуйтесь усиленным законом больших числе
Марцинкевича—Зигмунда (задача 2). Для (с) — примените усиленный закон больших чисел
Колмогорова (теорема 3) и упомянутое утверждение (а) из задачи 25 в § 2.
22. Пусть / = f(x) — ограниченная непрерывная функция на (0, оо).
Показать, что для всякого а > О и всех х > О
оо
\k
lim £/(*+£>-апт=^+а)-
п—>оо
23. Пусть £i, &, ... — независимые одинаково распределенные
случайные величины с Е |^i | < оо и E£i =fx. Показать, что при я —юо
<а> — £й^(р-п-н->;
(Ь) п*-х £ fe-^М (Р-п.н.), гдеО<а<1.
k=\ k
§ 4. Закон повторного логарифма
1. Пусть £ь $2» ••• —последовательность независимых случайных
величин, £rt~c/K(0, 1). Показать, что
(а) PJlim yg" =l| = l;
О, если Y^ p(£i >a„}<oo,
(b)P{f„>a„6.4.} = -.
1, если J2 P(£i > an) = oo.
n
Указание, (а) Зафиксировать О0 и показать, что в силу (10)
(«Вероятность — 2», с. 553) для событий Ап = {£„ > су/2 In n}
ри„)~- п~с
су/Аъ In я
Требуемое утверждение выводится отсюда с помощью леммы Бореля—
Кантелли (^ Р(;4л) < оо при О 1 и ^ Р(^«) = оо при 0< с < 1) и
импликаций (3) и (4).
2. Пусть £ь $2» ••• —последовательность независимых случайных
величин, распределенных по закону Пуассона с параметром Л > 0. Показать,
что (независимо от значений А)
У. п In п )

§ 4. ЗАКОН ПОВТОРНОГО ЛОГАРИФМА
247
Указание. Рассмотреть события Ап = {£„>ссрп}, где с>О и срп =
In п
-. Тогда J2 Р(Ап)<оо прис> 1 uJ2 P(An) = oo приО<с< 1. Далее
In In п'
надо воспользоваться леммой Бореля—Кантелли и импликациями (3) и (4).
3. Пусть £ь $2» ••• — последовательность независимых одинаково
распределенных случайных величин с
ЕеиЬ=е-^а, 0<а<2
(см. п. 4 в § 6 гл. III). Показать, что
\ я |/iV« | J
4. Пусть £ь &, ••• —последовательность бернуллиевских случайных
величин с Р{£„ = ±1}= 1/2, Sn = £1 +... +£„. Доказать справедливость
следующего результата Харда и Литтлвуда: с вероятностью единица
lim J5"1 <1.
п V2n In n
Указание. Показав, что
P{Sn^a}^e-haEehS" для а>О, /г>0
и ch /г < ехр| — I, вывести неравенство
2
P{S„>a}<exp{-|^}.
Далее надо положить а= 1 +£, £>0, и воспользоваться леммой Бореля—
Кантелли. (См. также текст в библиографической справке в книге
«Вероятность - 2», с. 899 и 902.)
5. Установить справедливость следующего обобщения неравенства (9).
Пусть £i, ..., £л — независимые случайные величины, So = 0, Sk = £i + ...
• • • +£k,k < п. Тогда для всякого действительного а справедливо
неравенство Леей:
p\max[Sk + fx(Sn-Sk)]>a}*:2P{Sn>a},
где fx(£) — медиана случайной величины £, т. е. константа, определяемая
тем условием, что
тах(Р«>МО}.Р«<МО})<5-
(По поводу разных способов определения медианы см. задачу 23 в § 4
главы I.)

248
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
Указание. Определите
г = inf {0 < k < п: Sk + ft(Sn - Sk) > а},
считая inf 0 = п + 1, и покажите, что
P{Sn>a}^^J2P{r = k} = ^p{max[Sk-fx(Sn-Sk)]>a}.
6. Пусть £i, ..., £л — независимые случайные величины с Е£/ = О,
1 < / < я, и S^ = $i +... + £k- Показать, что
Р( max Sk>a\^2P{Sn^£-E\Sn\} дляа>0.
7. Пусть £i, ..., £„ — независимые одинаково распределенные
случайные величины, Е£/ =0, сг2 = Е£? < оо, Sn = £\ +... + £п и |& | < с (Р-п. н.),
/ < п. Показать, что тогда
EexSn <ехр{2_1мх2сг2(1 +хс)} для всякого 0<х<2с-1.
При тех же предположениях установить также, что если (ап) —
последовательность действительных чисел такая, что ап/л/п^оо и ап = о(п)
при п —► оо, то для всякого £ > О и достаточно больших п
Р{5„>а„}>ехр{-^(1+г)}.
8. Пусть £i, ..., ^ — независимые одинаково распределенные случай-
п
ные величины, Е£;=0, |£/| <с (Р-п. н.), /<м. Пусть Dn = J2 D£/. Показать,
i=\
что для S„ = £i +... + £л справедливо неравенство Прохорова:
Р{5„>а}<ехр|--^ arcsin ^-|, а€#.
9. Пусть £ь &, ••• — последовательность независимых одинаково
распределенных случайных величин таких, что Е|£„|а = оо для
некоторого а < 2. Показать, что (Р-п. н.)
(и, следовательно, закон повторного логарифма не имеет места).
10. Пусть £ь £2, ••• —последовательность независимых одинаково
распределенных случайных величин сЕ^ = 0, Е£2 = 1. Пусть Sn = £\ +...
• •.+£л» м>1. Показать, что с вероятностью единица множество пре-
/ Sn \
дельных точек последовательности I , = ) совпадает с отрез-
ком [-1,1]. \V2n\n\nnJn^

§ 4. ЗАКОН ПОВТОРНОГО ЛОГАРИФМА
249
11. Пусть £ь $2» ••• —последовательность независимых одинаково
распределенных случайных величин, имеющих нормальное распределение
jY(m, а2). Положим
/=1
Вывести из результата предшествующей задачи, что с вероятностью едини-
ца множество предельных точек последовательности iy/n , )
совпадает с интервалом [—сг, а]. V п п п п п^
12. Пусть £ь £г, ••• —последовательность независимых одинаково
распределенных случайных величин с непрерывной функцией
распределения F(x), х е R. Обозначим
Fn(x; и) = Х- J2 Ш") <х), хе R,
1
k=\
— эмпирические функции распределения, п > 1.
Показать, что с вероятностью единица
у/п sup \Fn(x\ ш) - F(x)\
lim =sup y/F(x)(l-F(x)).
n v2 In In n x
13. Пусть £i, £2, • • • — последовательность независимых случайных
величин с экспоненциальным распределением Р{£ >х} = е~х, х^О.
Основываясь на утверждениях леммы Бореля—Кантелли (см. также задачу 20
в § 1), доказать, что с вероятностью единица
ш£-=и шЦ^- = \, ш en-m«-ininn = 1
п In П и 1П |П Л п In In In П
Как видоизменятся эти результаты, если Р{£ >х} = е~Хх, х > 0, с А > 0?
14. В условиях предыдущей задачи (с Р{£,>х} = е~Хх, х*^0, А>0)
показать, что если Мп = тах(£ь ..., £„), то
Ш -г^- = lim т-^- (Р-п. н.).
п Х\п п п X In п
15. Пусть £i, ..., £п — независимые случайные величины и So = 0,
Sfc = £1 +... + £ь & < я. Доказать, что:
(а) (в дополнение к задаче 5) выполняется неравенство
PJmax \Sk + pi(Sn-Sk)\Za\<2P{\Sn\>a},
где ^(£) есть медиана случайной величины £;

250
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
(Ь) если £i, ..., £„ одинаково распределены и симметричны, то
1 _ в-лР<|е,|>*> ^ р/ тах |^| >х\< 2P{\Sn\ >х}.
16. Пусть £i, ..., £„ — независимые случайные величины, Sk = £\ + ...
• ••+&, 1 < & < я. Доказать справедливость неравенства Скорохода: для
ВСЯКОГО £> 0
PJmax |S*|>2e}< min P{\Sn -Sk\ <ф P{\Sn\ >z).
Указание. Рассмотрите момент r = inf{l <&<я: \Sk\ >2e}
(полагаем inf 0 = я + 1) и воспользуйтесь идеей доказательства, данной в указании
к задаче 5.
17. Пусть £i, ..., £„ —случайные величины, Sk = £,\ + ... + &, 1 <&<я.
Показать, что для всякого £ > 0
pbaiJ^^}^2p{sJs^f}'
а если к тому же случайные величины £i, ..., £„ независимы и имеют
симметричные распределения, то для всякого £ > 0
p{,sgs,iw>e}<2p{is-i>§}-
§ 5. О скорости сходимости в усиленном законе
больших чисел и о вероятностях больших
уклонений
1. Провести доказательство неравенств (8), (20).
Указание. Положите f= — £ и убедитесь сначала в том, что
Я (а) = sup[a\ - ф(Х)] = Н(-а).
лея
Далее воспользуйтесь неравенством (7).
2. Проверить, что на внутренности множества Л (см. (5)) функция ф(Х)
является выпуклой книзу (строго выпуклой, если случайная величина £
невырождена) и бесконечно дифференцируемой.
Указание. Положите А* = inf А и А* = sup А и покажите, что
(в предположении (3)) € Л€Л
-оо<А+<0<А*<оо
и на (А+, А*) функция ср(\) = Еех^ бесконечно дифференцируема.
Выпуклость функции гр(\) = \п ср(\) следует из неравенства Гёльдера.

§ 5. СКОРОСТЬ СХОДИМОСТИ В У.З.Б.Ч.
251
3. В предположении невырожденности случайной величины £ доказать,
что функция Н(а) дифференцируема на всей прямой и является выпуклой
(книзу).
Указание. Убедитесь в том, что
(А+а-^(А+), а^а+,
аА0(а) - ^(Ао(а)), а*<а<а*,
\*а-гр(\*)у а^а*,
где ^(А) = 1п ср(Х) и
а, = lim ^(A), а* = lim ^'(А)
(А* и А* определены в указании к предыдущей задаче).
4. Доказать следующую формулу обращения для преобразования
Крамера:
ф(Х) = sup [Ха-Н(а)]
а
(для всех А, за исключением, быть может, концевых точек множества
Л={А:4>(А)<оо}).
5. Пусть Sn = £i +... + £я, где £i ,..., £я, п > 1, — независимые
одинаково распределенные простые случайные величины с E£i <0, P{£i >0}>0.
Пусть <р(\) = ЕеА* и inf </?(А)=р (0<р< 1).
Показать, что справедлив следующий результат (теорема Чернова):
lim - In P{Sn^0} = \np. (*)
п П
6. Используя (*), показать, что в бернуллиевском случае (с P{£i = 1} =
= р, Р{£,=0} = <7) при /?<х<1
lim - In P{Sn > мх} = -Я (х), (**)
п П
где (ср. с обозначениями в § 6 гл. I)
Н(х)=х\п - + (1-х)1п ■}—^.
v 7 Р 1 — Р
7. Пусть 5Л = £i +... + £„, м > 1, где £i, &» ... — независимые одинаково
распределенные случайные величины с E£i =0, D£i = 1. Пусть (хп)п^\ —
числовая последовательность такая, что хп —> оо и -у= —> 0 при м —> оо.
Показать, что 2
где г/„ ->0, п ->оо.

252
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
8. Вывести из (**), что в бернуллиевском случае (с P{£i = l} = p,
P&=0} = q):
(a) при р < х < 1 и хп = п(х - р)
Р{5я>/1р + д:я} = ехр{-/1//(р + ^)(1+о(1))}; (***)
(b) при хп = any/npq с ап —> оо, -р —> О
2
Р{5^м/7+хЛ = ехр{-^-(1+о(1))}. (****)
Сопоставьте (***) и (****) и сравните их с соответствующими
результатами из § 6 гл. I.
9. Пусть £i, £2, ••• —последовательность независимых случайных
величин, имеющих распределение Коши с плотностью f(x) = — ^-, х е R.
Показать, что * '
lim Р< - max £k<x\
п In \<k<n )
1_
■ е кх.
10. Пусть £i, &, ... — независимые одинаково распределенные
случайные величины с E|£i | < оо. Показать, что
lim - Е( max |£J ) =0.
(Ср. с утверждением в задаче 8 из § 3.)
11. Пусть £ — случайная величина с Е£ = 0 такая, что а < £ < Ь.
Показать, что для каждого h > О производящая функция моментов
Указание. Воспользуйтесь тем, что ehx является выпуклой (книзу)
функцией от х.
12. Пусть £ь ..., £я — независимые одинаково распределенные бер-
нуллиевские случайные величины с Р{£, = 1} = /?, Р{£\ = 0} = q, р + q = 1,
5Л = £i + • • • +£л- Установить справедливость следующих неравенств
Чернова: для х > О
P{S„-Mp>MxKe-2"*2,
P{\Sn-np\^nx}^2e-2nx\
Указание. Как в этой, так и в ряде последующих задач надо
воспользоваться неравенством Бернштейна:
P{Sn>y)^e-hyEehs\ y>0,h>0.

§ 5. СКОРОСТЬ СХОДИМОСТИ В У.З.Б.Ч.
253
13. Показать, что в условиях предшествующей задачи на самом деле
справедлив более сильный результат: имеют место максимальные
неравенства
Р( max (Sk - kp) > пх\ < е~2пх\
PJmax \Sk-kp\^nx\^2e-2nx\
Указание. Воспользоваться экспоненциальным аналогом
неравенства Колмогорова
Р( max (Sk - kp) > Л < e~hbEeh{S"
-np)
(см. задачу 23 в § 2).
14. Пусть £i,..., £„ — независимые (не обязательно одинаково
распределенные) случайные величины со значениями в [0, 1] и Sn = £\ +... + £„.
ES
Положим р = —-, а = 1 - р.
п
Показать, что для всякого 0 < х < q справедливо неравенство
P{Sn-ESn^nx}^en^x\
где
ij)(x) = \x\
( р \р+х( я
\р+х) \q->
Указание. Воспользуйтесь неравенствами
ehyP{Sn > */}< EehSn = Eehs^Eeh*n < Eehs-> (1 - р + peh) < ...
...<(1-р + реу
и затем выберите h > О подходящим образом.
15. В условиях предыдущей задачи установить следующие
неравенства Хёффдинга, обобщающие неравенства Чернова из задачи 12: для
х^О
P{Sn-ESn^nx}^e-2nx\
P{\Sn-ESn\^nx}^2e-2nx'2.
Указание. Воспользуйтесь результатом предшествующей задачи,
заметив, что гр(х) < — 2х2.

254
ГЛ. IV. НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
16. Пусть £ь ..., £я — независимые случайные величины со значениями
в [0, 1]. Показать, что для всякого £> О справедливы неравенства
P{Sn < (1 - e)ESn) < exp{-i£2ES„},
P{Sn>(l+e)ESn}<exp{-[(l+e)ln(l+e)-e]ESn} (^e'^^fe).
Указание. Для доказательства первого неравенства
воспользуйтесь результатом задачи 14 и тем, что гр(—хр)^—рх2/2у 0<х< 1. Для
доказательства второго неравенства воспользуйтесь указанием к задаче 14,
согласно которому
P{Sn - ESn > пх) < [е-^+х»(\ - р + peh)]n.
17. Пусть £ь ..., £„ — независимые случайные величины такие, что
я/ ^ £/ ^ h для некоторых констант щ и &/, / = 1, ..., п. Обобщая
неравенства Хёффдинга из задачи 15, показать, что для х > О
P{Sn - ESn >х}< exp j-2x2 £(&* - a*)2 j,
P{\Sn - ESn\ > х}< 2 ехр(-2х2 £(&* - а*)2}.
Указание. Воспользуйтесь неравенством из задачи 11, которое
приводит к оценкам
P{S„ - ES„>х}<e-^E^<s»-ES^
^ k=\ '
Затем подберите подходящим образом h.
18. (Большие уклонения) Пусть (£п)п^\ — последовательность
независимых стандартных гауссовских случайных величин (Law(£w)=,yK(0, 1))
hS„ = ^i + ... + ^, n > 1. Показать, что для всякого множества А е &(R)
Hm 1 1пР(^€Л) = - essinfj^-: xeA).
л->оо П In) 12 J
(Под essinf{/(x): х еА}, где f(x) —действительнозначная борелевская
функция, заданная на (/?, 28(Щ), понимается sup{ce#: \{xeA: f(x)<c} =
= 0}, где Л — мера Лебега; ср. с определением существенного супремума в
замечании 3 § 10 главы П.)
Указание. Проанализируйте выражение
'{т^-Лу-"*
при п —> оо.

§ 5. СКОРОСТЬ СХОДИМОСТИ В У.З.Б.Ч.
255
19. Пусть £ = (£ь ..., £я) — гауссовский вектор с Е& = 0, / = 1, ..., я.
Показать, что
lim -s- lnPJmax 6>rj = -TT.
r-юо а2 11</<я J 2<72
Указание. Установите сначала, что для всякого г > О
PJmax &>Е max &+<тг) <е~г2/2
с сг = max (Е^2)1/2, и затем покажите, что для каждого 1 < / < п
dT л^1^1 ж/ г \ ^ ехр{-г2/(2а?)}
Р< max £/>r }• > 1 -Ф — > —£=————.

Глава V
СТАЦИОНАРНЫЕ (В УЗКОМ СМЫСЛЕ) СЛУЧАЙНЫЕ
ПОСЛЕДОВАТЕЛЬНОСТИ И ЭРГОДИЧЕСКАЯ ТЕОРИЯ
§ 1. Стационарные (в узком смысле) случайные
последовательности. Сохраняющие меру
преобразования
1. Пусть Т — сохраняющее меру преобразование и £=£(о;) — случайная
величина такая, что существует математическое ожидание E£(cj).
Показать, что E£(cj) = E£(Tu).
Указание. Если £ = /л, Ае^, то равенство Е£(и>) = Е£(Т(и>))
вытекает из определения сохраняющего меру преобразования. По линейности
п
это свойство будет верно и для случайных величин £ вида X) ^klAk,Ak € &•
k=\
Далее надо воспользоваться конструкцией математического ожидания и
теоремой о монотонной сходимости (для £>0). Для общего случая
рассмотрите представление £ = £+ — £~.
2. Показать, что в примерах 1 и 2 преобразования Т являются
преобразованиями, сохраняющими меру. *)
Указание. (К примеру 2.) Если А = [а, Ь) С [0, 1), то для таких А
равенство Р(А) = Р(Т~1(А)) очевидно. В общем случае рассмотрите
систему
Л? = {АеЩ[0, 1]): Р(А) = Р(Т-1(А))}
и (методом «подходящих множеств») покажите, что Ж = &([0, 1)).
3. Пусть Q= [О, 1), <^ = &([0, 1)) и Р — некоторая мера с непрерывной
функцией распределения. Показать, что преобразования Тх = \х, 0< А< 1,
и Тх=х2 не являются преобразованиями, сохраняющими меру.
Указание. Поскольку функция распределения меры Р непрерывна,
то найдутся точки a, b £ (0, 1) такие, что
Р([0,а)) = 1, Р([0,6)) = |.
*) Во всей главе предполагается, что вероятностное пространство (П, J^\ P) является
полным.

§ 1. СОХРАНЯЮЩИЕ МЕРУ ПРЕОБРАЗОВАНИЯ 257
Используя это свойство, покажите, что ни одно из преобразований Тх = Хх
(О < Л < 1) и Тх = х2 не является преобразованием, сохраняющим меру.
4. Пусть ft — множество всех последовательностей ш = {..., cj_i, cjo,
cji, ...) действительных чисел, & — сг-алгебра, порожденная измеримыми
цилиндрами {и>: (cjfc, ..., ^+rt_i) €Вп}, где я = 1, 2, ..., £ = 0, ±1, ±2, ...
и множества Вп е &(Rn). Пусть Р — вероятностная мера на (ft, &) и
двустороннее преобразование Т определено формулой
T(...,<j_u<j0,<ju ...) = (..., и>0, и>и иъ ..-)•
Показать, что Т является сохраняющим меру преобразованием в том и
только том случае, когда
Р{и>: (wo, ..., шп-[)еВп} = Р{ш: (шк, ..., ь>к+п-\) ^Вп)
для всех п= 1,2, ...,* = 0, ±1, ±2, ... и В„e3B(Rn).
5. Пусть £о, £ь • • • — некоторая стационарная последовательность
случайных элементов со значениями в борелевском пространстве 5 (см.
определение 9 в § 7 гл. II). Показать, что можно построить (быть может, на
расширении исходного вероятностного пространства) случайные элементы
£_i, £_2, ... со значениями в 5 такие, что двусторонняя
последовательность ..., £_ь £о, £ь ••• будет стационарной.
6. Пусть Т — измеримое преобразование на (ft, ^\ Р) и ё есть 7г-
система подмножеств ft, порождающая & (т. е. 7г(<?) =&). Доказать, что
если равенство Р(Т~{А) = Р(А) верно для А е ё, то оно будет верно и для
Ае&.
7. Пусть Т — сохраняющее меру преобразование на (ft, ^\ P) и Sf —
сг-подалгебра &. Показать, что для каждого А е &
Р(А \9)(Тш) = Р(Т~{А | Т-{&)(ш) (Р-п. н.). (*)
(В частности, пусть ft = R°° — пространство числовых
последовательностей cj = (cjo, cji, ...) и £k(w) = Wk- Пусть 71 — преобразование сдвига:
Т(и>о, ^ь • • •)=(^i, ^2, • • •) (иначе говоря, если &(cj) =£Jjfe, to £k(Tw) =Wk+\)•
Тогда равенство (*) приобретает вид
Р(Л|6„)(7и>) = Р(Г-М|£я+1)М (Р-п.н.).)
8. Пусть Т — некоторое измеримое преобразование на (ft, &) и £? —
множество всех вероятностных мер Р, относительно которых Т является
сохраняющим Р-меру преобразованием. Показать, что:
(a) множество £? выпукло;
(b) Т является эргодическим преобразованием относительно меры Р
в том и только том случае, когда Р есть крайняя точка множества £?

258 ГЛ. V. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
(т. е. Р не может быть представлено в виде Р = Aj Pi + А2Р2 с Aj > О, А2 > О,
Ai+A2 = l,Pi^P2 и Pi, P2G^).
9. Пусть Т — сохраняющее меру преобразование на (ft, ^*, P) и
£ = £(cj) — некоторая случайная величина. Показать, что £ = £(о>) будет
почти инвариантной случайной величиной (т. е. £{ш) = £{Ти) (Р-п. н.))
в том и только том случае, когда для любой ограниченной &%£8(Щ-
измеримой функции G(u>, х)
EG(u, £(uj)) = EG(Tuj, £(и)).
Указание. Рассмотрите сначала функции G(u>, х) вида G\ (o;)G2(x).
§ 2. Эргодичность и перемешивание
1. Показать, что случайная величина £ является инвариантной тогда
и только тогда, когда она ^-измерима.
2. Показать, что множество А является почти инвариантным тогда
и только тогда, когда Р(Т~ХА \ А) = 0.
Показать также, что если X — почти инвариантная случайная
величина (X(oj) = X(T(jj) п.н.), то найдется инвариантная случайная величина
Х=Х(и>) (т. е. X(oj) = X(Toj) для всехueft) такая, что Р{Х(и) = Х(и)}=1.
3. Показать, что преобразование Т есть перемешивание в том и
только том случае, когда для любых двух случайных величин £ и г} с Е£2 < оо,
Ег}2 < оо
Е£(Тпи>)ф) -> E£(cj) Е4И, я -> оо. (*)
Указание. Если г} = 1д, £ = /в, то свойство (*) есть свойство
перемешивания. Каждую из величин £ и т/ из L2 можно аппроксимировать (в
метрике L2) с точностью до £ > О линейными комбинациями индикаторных
функций. Учитывая это, нетрудно уже вывести, что из свойства
перемешивания вытекает требуемая сходимость математических ожиданий.
4. Привести пример сохраняющего меру эргодического
преобразования, которое не является перемешиванием.
Указание. Рассмотрите Q = {а, Ь}, Р({а}) = Р({Ь}) = 1/2, и
преобразование Т, определяемое формулами Та = Ь и ТЬ = а.
5. Пусть Т — сохраняющее меру преобразование на (ft, ^\ P). Пусть
я/ — алгебра подмножеств Q и а(^/) = &. Предположим, что соотношение
lim Р(АПТ-ПВ) = Р(А)Р(В)
п—>оо
в определении 4 выполнено лишь для множеств А и В из я/. Показать,
что тогда это свойство будет выполнено и для всех А и В из & = а(^/)
(и, следовательно, преобразование Т есть перемешивание).

§ 3. ЭРГОДИЧЕСКИЕ ТЕОРЕМЫ
259
Показать также, что утверждение остается справедливым, если srf
является 7г-системой такой, что 7г(^) = &.
6. Пусть (ft, J?) = (R°°, ^(R°°)) и для ш=(хи *2, ...)
преобразование Т есть преобразование сдвига: Т(х\, х2, ...) = (jt2, *з> ...)• Показать,
что каждое инвариантное множество является «хвостовым» (иначе говоря,
сг-алгебра Jf инвариантных множеств принадлежит «хвостовой» сг-алге-
бре & = р| «^°, где «^° =<т(и>: х„, x„+i, ...)). Дать пример «хвостового»
события, которое не является инвариантным.
7. Привести пример сохраняющих меру преобразований Т на (ft, ^*, P),
для которых: (а) из того, что А е &, вовсе не следует, что ТА е &\ (Ь) из
того, что Ае^ и ТА £ ^\ вовсе не следует, что Р(Л) = Р(ТА).
§ 3. Эргодические теоремы
1. Пусть £ = (£ь &, ...) — гауссовская стационарная
последовательность с Е£„ = 0 и ковариационной функцией R(n) = E£k+n£k- Показать, что
условие R(n) —>0 является достаточным для того, чтобы сохраняющее меру
преобразование, соответствующее последовательности £, было
перемешиванием (и, следовательно, являлось эргодическим).
Указание. Если А = {и>: (£ь £2, ...)€А)Ь £ = {<*>: (£ь &, ...)еВ0}
и Вп = {и>: (£„, £„+i, ...) £ Во}у то надо показать, что
Р(ЛПВ„)^Р(Л)Р(В), м^оо.
Схема доказательства выполнения этого свойства может быть такой:
(i) найти (по заданному £>0) число meN = {1, 2, ...} и
множества Л0е^(/?т) и B0ej%(Rm) такие, что Р(ЛЛЛ)<е и Р(В ДВ)<е, где
А = {ш:(£и...,и)€Ао}пВ = {ш:(£и...^пд€В0};
(ii) затем найти открытые множества Ао € S8(Rm) и So € S%(Rm) такие,
что для множеств
Л ={w: (£,,...,Ы€Л0} и fl = {w: (£i,..., £w)€ А)}
выполнены свойства
Р(ЛЛЛ)<£ и Р(ВЛВ)<£;
тогда Р(ЛЛЛ)<2еи Р(ВЛВ)<2£;
(iii) из стационарности для множеств Вп = {и>: (£„, ..., £„+m_i)£fio}
имеем Р(ВлЛВл)<2е;
(iv) пусть Р — распределение вектора (£i,..., £m), a (?„ — распределение
вектора (£i, ..., £m, £„, ..., fn+m-i); тогда
R(n)^0 => Qn^P®P, м^оо;

260 ГЛ. V. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
(v) по теореме 1 § 1 главы III, из (iv) вытекает, что
ИтРЙ АВп)^Р(А)Р(В);
п
учитывая приведенные выше неравенства Р(Л Л А) < 2s, Р(Вп А Вп) < 2s,
находим, что
Ит Р(А ПВп) > (Р(Л) - 2s)(P(B) - 2s) - As,
п
откуда в силу произвольности s > 0
\jmP(AnBn)^P(A)P(B);
п
(vi) аналогичным образом устанавливается, что
НпТ Р(АпВп)^Р(А)Р(В)
(вместо открытых множеств До и Во надо брать замкнутые множества).
2. Показать, что для всякой последовательности £ = (£ь &, ...),
состоящей из независимых одинаково распределенных случайных величин,
соответствующее сохраняющее меру преобразование является
перемешиванием.
Указание. (Заметим, прежде всего, что эргодичность
последовательности в рассматриваемом случае непосредственно следует из закона
«нуля или единицы».) Для доказательства свойства перемешивания
можно следовать такой схеме.
(i) Положим
А = {ш: (£,,&, ...)еД)}, В = {и: (£,,&, ...)еВ0}
где Aq, Boe&(R°°). По выбранному s>0 можно найти meN = {1,2, ...}и
Л0 £ &(Rm) такие, что для множества А = {и>: (£i, ..., £m) е Л0} выполнено
свойство Р (А А А) < s.
(ii) Положим также
Вп = {и>: (е., €/.+ 1. ...)€Яо}.
Тогда при п > т
Р(Л ПВп) = Р(Л) Р(Вп) = Р(Л) Р(В).
(iii) Вывести, что |Р(Л ПВп)- Р(А)Р(Вп)\ < 2s, и, наконец, что
Р(АпВп)^Р(А)Р(В) прим^оо.
3. Показать, что стационарная последовательность £ эргодична в том
и только том случае, когда для любого В е &(Rk), k=\,2, ...,
Х- £ 7«& &4*-i)->P«£i М€В} (Р-п.н.).
!=1

§ 3. ЭРГОДИЧЕСКИЕ ТЕОРЕМЫ
261
Указание. Для доказательства необходимости обозначим через
Q распределение последовательности £ = (£ь &» •••) (Q —мера на /?°°), и
пусть Т — преобразование сдвига такое, что
Т: х = (хих2, ...)eR°°^x' = (x2,x3, ...)eR°°.
Далее надо для k =1,2, ... ввести функцию /: (х\, *2, ...)G/?°°—>
-^1((х\, ..., Xk) £ В) е R и воспользоваться эргодической теоремой
(Биркгофа и Хинчина), примененный к этой функции; В e&(Rk).
Для доказательства достаточности надо доказать, что введенное
выше преобразование Т является эргодическим, иначе говоря, любое
множество из ^ (т. е. инвариантное множество) имеет меру 0 или 1.
Свойство
-пТ.Ш\ &)€fi)->P{(£, &)еВ) (Р-п.н.)
1=1
означает, что для любого множества А €&(&°°) вида {(х\ Xfe)€fi} с
Be&(Rk)
^/AiT'xi^QiA) (Q-и.и.)
что вместе с утверждением эргодической теоремы (Биркгофа и Хинчина)
дает равенство Eq(Ia \ ^f) = EqIa (<?-п. н.), из которого следует, что
множества А вида {(х\, ..., Xk) £ В) с В е £%(Rk) не зависят от ^. Применяя
метод «подходящих множеств», заключите, что множество
Л = {А е 38{R°°): А не зависит от f)
совпадает с 38(R°°). Наконец, покажите, что отсюда вытекает, что ^ не
зависит от ^, а значит, инвариантные множества имеют Q-меру либо О,
либо 1. Этим устанавливается эргодичность преобразования 7\ а значит,
и эргодичность последовательности £.
4. Пусть на (ft, &) заданы две вероятностные меры Р и Р,
относительно которых сохраняющее меру преобразование Т является эргодическим.
Доказать, что тогда или Р = Р, или Р _L P.
5. Пусть Т — сохраняющее меру преобразование на (ft, ^\ P) и srf —
алгебра подмножеств ft такая, что ег(£/) = &. Пусть
Доказать, что преобразование Т эргодично в том и только том случае,
когда выполнено хотя бы одно из следующих условий:
(О ijp ^P(A) для любого А ез/\

262 ГЛ. V. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
/i-l
(и) lim - £ Р(А П T~kB) = Р(А) Р(В) для всех Л, В е st\
п п k=o
(iii) if Д Р(Л) для любого Л G J5*.
6. Пусть Т — сохраняющее меру преобразование на (ft, &л Р).
Доказать, что это преобразование эргодично (относительно меры Р) тогда и
только тогда, когда на (ft, &) не существует меры Р ф Р такой, что Р <С Р
и относительно этой меры Р преобразование Т является сохраняющим
меру преобразованием.
7. (Бернуллиевские сдвиги) Пусть S — некоторое конечное
множество (скажем, S = {1,..., N}) и ft=S°° — пространство последовательностей
и = (cjo, ь>\ , • • •) с Ui £ S. Будем полагать &(cj) =cj£ и определим
преобразование сдвига Т(и>о,и>\, . ..) = (cji,cj2, ...), или, в терминах £о, £i, ...: если
&(<*>) =^л» то £,k(Tw) =Wk+\ • Предположим, что на элементах / множества
yv
{1, 2, ..., /V} заданы неотрицательные числа рь такие, что X) Р/ = 1 (T- е-
/=1
набор (pi, ..., /?yv) образует вероятностное распределение). С помощью
этого распределения можно задать меру Р на (S°°, £§(S°°)) (см. § 3 гл. II)
такую, что
Р{и>: (ши ..., uk) = (uu ..., uk)) = pU]...pUk.
Иначе говоря, вероятностная мера вводится по принципу,
обеспечивающему независимость величин £о(^), £i(w), ••• Относительно так построенной
меры Р введенное преобразование сдвига Т принято называть бернулли-
евским сдвигом, или преобразованием Бернулли.
Показать, что преобразование Бернулли обладает свойством
перемешивания.
8. Пусть Т — сохраняющее меру преобразование на (ft, ^*, P). Будем
обозначать Т~п& = {Т~пА: А е^} и говорить, что сг-алгебра
Р-оо=П Т~^
п=\
является тривиальной (Р-тривиальной), если каждое множество из
c^Loo имеет Р-меру 0 или 1. Преобразования Т с тривиальной сг-алгеброй
c^Loo называют преобразованиями Колмогорова. Доказать, что
преобразования Колмогорова обладают свойством эргодичности и, более того,
свойством перемешивания.
9. Пусть 1</?<оо и Г- сохраняющее меру преобразование на
вероятностном пространстве (ft, ^*, P). Пусть случайная величина £(cj)£
£Z/(ft, &, Р).

§ 3. ЭРГОДИЧЕСКИЕ ТЕОРЕМЫ
263
Доказать справедливость следующей эргодической теоремы фон
Неймана в Lp(VL, &, Р): существует случайная величина г}(ш) такая, что
I п~{ \Р
I k=o I
10. Теорема Бореля о нормальности утверждает (пример 2 в § 3 гл. IV),
что доля единиц и нулей в двоичном разложении чисел и из [0, 1)
сходится почти наверное (относительно меры Лебега) к 1/2. Доказать этот
результат, рассматривая преобразование Т: [0, 1)—>[0, 1), определенное
формулой
Т(и>) = 2и> (mod 1),
и применяя эргодическую теорему 1.
11. Как и в задаче 10, пусть cjg[0, 1). Рассмотрим преобразование
Т: [0, 1)—> [0, 1), определенное формулой
{0, если и = 0,
|-|, еслио^О,
где {х} — дробная часть числа х.
Показать, что преобразование Т сохраняет меру Гаусса Р = Р() на
[0, 1), определяемую формулой
^) = ьГ2 57ТГ' ^«О-1»-
А
12. Дать пример, показывающий, что теорема Пуанкаре о
«возвратности» (п. 3 § 1) может быть неверна в случае измеримых пространств с
бесконечной мерой.

Глава VI
СТАЦИОНАРНЫЕ (В ШИРОКОМ СМЫСЛЕ)
СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ. L2-ТЕОРИЯ
§ 1. Спектральное представление ковариационной
функции
1. Вывести свойства (12) из (11).
Указание. Требуемые свойства устанавливаются путем подбора
соответствующих значений tk и а&, 1<&<az. Так, например, если взять
га = 2, t\ = 0, t2 = n, то получим неравенство
(\а\ |2 + \а2 \2)R(0) + a\a2R{-n) + й\ a2R(n) > 0.
Беря здесь ai =a2 = \ \\a\ = \,a2 = i, с учетом того, что/?(0)£/? = (-оо, оо),
находим: R(n) + R(-n) e R и i(R(n) - R(-n)) e R. Значит, R(-n) = R(n).
2. Доказать, что если все нули полинома Q(z), определенного в (27),
лежат вне единичного круга, то уравнение авторегрессии (24) имеет, и
притом единственное, стационарное решение, представимое в виде
одностороннего скользящего среднего.
3. Показать, что спектральные функции последовательностей (22) и
(24) имеют плотности, задаваемые соответственно формулами (23) и (29).
Указание. Доказательство формулы (23) надо проводить следу-
р
ющим образом: сначала убедиться в том, что R(n) = Y^ cLn+kdk, а затем
проверить, что R(n) = \ elXn /(A) dA, где /(А) задается формулой (23). (По-
— 7Г
7Г
лезно иметь в виду, что § elXn d\ = 27rSno4 где 6по — символ Кронекера.)
— 7Г
+00
4. Показать, что если Y \R(n)\2 <оо, то спектральная функция F(X)
п=—оо
имеет плотность /(А), определяемую формулой
п=—оо
причем этот ряд сходится в комплексном пространстве L? = L2([—7г, 7г),
^([-7г, 7г)), fi), fi — мера Лебега.

§ 1. СПЕКТРАЛЬНОЕ ПРЕДСТАВЛЕНИЕ
265
Указание. Надо воспользоваться тем, что < —^elXn, n = 0, ±1,
1у/2к
±2, ... i есть ортонормированная система в L2([-7r, 7г), ^([-7г, 7г)), /tz),
где ц — мера Лебега.
5. Пусть (£л)/1^о — гауссовско-марковская стационарная
последовательность с нулевым средним. Показать, что ковариационная функция R(ri)
допускает представление в виде
R(n) = a2\n
для некоторого А такого, что 0 < А < 1.
6. Пусть N = (Nt)t^o — процесс Пуассона (см. § 10 гл. VII) с
параметром А > 0. Образуем процесс (с непрерывным временем) & =£ • (— 1)^',
где £ — случайная величина, не зависящая от N и такая, что Р{£ = 1} =
= Р{£ = — 1} = тт. Показать, что Е£/=0 и ковариация E£s£/ =e-^V-s\^
5, / > 0. N
7. Показать, что последовательность (£п)я^о с £«= X) ak cos(fe^n - щ),
k=\
где dk>0,bk>0 для всех k = 1,..., N и г}\,..., rj^ — независимые случайные
величины, равномерно распределенные на (0, 27г), является стационарной
в широком смысле последовательностью.
8. Пусть £„ = cos mp, где п> 1 и (р— случайная величина, имеющая
равномерное распределение на [-7Г, 7г]. Показать, что последовательность
(£/i)/i^i является стационарной в широком смысле, не будучи стационарной
в узком смысле.
9. Рассматривается односторонняя модель (МА(/?)) скользящего
среднего порядка р:
€п = ао£п + а\ £п-1 + • • • + ар£п-р,
где п = 0, ±1, ... и £ = (£п) — белый шум (пример 3 § 1). Найти дисперсию
Df„ и ковариацию cov(£„, £n+k).
10. Рассматривается авторегрессионная модель (AR(1)) первого
порядка
^=^0 + ai^_i +<Т£Пч П> 1
(ср. с формулой (25) в § 1), с белым шумом £ = (£п).
Пусть \а\ | < 1. Показать, что если Е|£о| < оо, то
Е^п = а,Е6>+ j -у—
►оо;
если к тому же D£0 < оо, то
1 — af 1 — а|

266 ГЛ. VI. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
cov(£„, £я+л)-
2л/г
а ос
\-а\
11. Пусть в предшествующей задаче £о имеет нормальное распреде-
2
ление J^i , -j). Показать, что последовательность £ = (£„)„->()
является стационарной (в широком и в узком смысле) гауссовской
последовательностью с
И
1-ai' ъ" 1-а?
COV(£„, in+k) = ^^.
§ 2. Ортогональные стохастические меры
и стохастические интегралы
1. Доказать эквивалентность условий (5) и (6).
Указание. Для доказательства (5) => (6) надо взять Ап 10, Д„ £ £Ь,
оо
Dn = E\An, Do = 0; тогда Е = Y^(Dk\Dk-1) и из (5) можно заключить,
k=\
что Z(An) = Z(E) - Z(Dn) —> 0. (Обозначение Я2 см. на с. 590 книги
«Вероятность—2».)
2. Пусть функция f eL2. Используя результаты гл. II (теорема 1 в § 4,
следствие к теореме 3 § 6 и задача 8 в § 3), доказать, что найдется
последовательность (fn)n^\ функций вида (10) таких, что ||/- fn\\ —>0, п—>оо.
Указание. Схема доказательства может быть такой. Взяв £>0,
р
находим простую функцию g(\)=Y^ fkhk{X) (с £fc£<£\ fk^C) та-
k=\
кую, что \\f — g\\jj2<£/2. Затем находим множества Ak^Sb такие, что
мера m(AkABk) сколь угодно мала, & = 1, ..., р. Тогда функция h(\) =
р
= S fkI^kW имеет вид (10) и можно добиться того, что ||/ - h\\L2 <£.
k=\
3. Установить справедливость следующих свойств ортогональной
стохастической меры Z(A) со структурной функцией т(А):
E\Z(A{)-Z(A2)\2 = m(A{AA2),
Z(A{\A2) = Z(A{)-Z(A{f)A2) (Р-п.н.),
Z(Ai Л Д2) = Z(A 1) + Z(A2) - 2Z{AX n Д2) (Р-п. н.).

§ 3. СПЕКТРАЛЬНОЕ ПРЕДСТАВЛЕНИЕ ПОСЛЕДОВАТЕЛЬНОСТЕЙ 267
4. Пусть £ = (£„) — стационарная последовательность, Е£п = 0, /?(я) —
корреляционная функция, F(dА) — спектральная мера. Положим Sn =
= £1+... + £«• Показать, что дисперсия DS„ выражается следующими
формулами:
sin
DSn=£>-|*l)*(*) и DS„=$ X
|Л|<п -я- \ sin - \
F(d\).
(Ядро ( • (\/о\ ) называется ядром Фейера; § 4.)
5. Пусть /(А) — спектральная плотность (F(d\) = /(A) d(A)) и /(А)
непрерывна в точке А = 0. Показать, используя вторую формулу для
дисперсии DSn из предшествующей задачи, что
DSn = 27rf(0)-n + o(n).
§ 3. Спектральное представление стационарных
(в широком смысле) последовательностей
1. Показать, что L^(F) = L2(F) (обозначения см. в доказательстве
теоремы 1).
Указание. В силу задачи 2 из § 2 всякую функцию /(А)еL2(F)
можно сколь угодно хорошо приблизить по норме в L2(F) функциями вида
р
eW = Y^ fkhkW с BfcG-я/, где srf — алгебра конечных сумм полуин-
k=\
тервалов вида [а, Ь) с — п^а<Ь<п. Поэтому достаточно лишь
показать, что функции вида /[а,/?)(А) могут быть аппроксимированы линейными
комбинациями функций вида еп (\) = е1Хп, я = 0, ±1, ±2, ... Эти функции
можно приблизить непрерывными, а их, в свою очередь, можно
приблизить линейными комбинациями функций еп(\), п = 0, ±1, ±2, ... (теорема
Вейерштрасса— Стоуна).
2. Пусть £ = (£„) — стационарная последовательность, обладающая
тем свойством, что для некоторого N и всех п выполнены соотношения
£я+м(^)=£я(^)» uett. (Запись £ = (£„) здесь и далее подразумевает,
что п = 0, ±1, ±2, ....) Показать, что спектральное представление такой
последовательности сводится к представлению (13) § 1.
Указание. Из условия R(N) =R(0) надо вывести, что спектральная
мера F является кусочно-постоянной на [—7г, 7г) со скачками в точках
\к = Ц±+2тгрк, £=1,...,/V,

268 ГЛ. VI. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
где pk — такое целое, что А^ £ [—7г, 7г). Тогда спектральное представление
принимает следующий вид:
N
£п= $ eiXnZ(d\) = J2eiXknZ({Xk}).
3. Пусть £ = (£„) — стационарная последовательность такая, что Е£п = О
и
siEi;«4 е ^)[i-^]<c/v-«
/г=0 /=0 |^|^yV-l
при некоторых С >0, а>0. Используя лемму Бореля—Кантелли, показать,
что тогда
1£&->0 (Р-п.н.), tf->oo.
/г=0
4. Пусть спектральная плотность /^(А) последовательности £ = (£т)
является рациональной,
1 |Ря-1(в-£'Л)|
'*W 2тг |Ол(в-^)| '
meP„_i(z)=a0 + aiz + ... + a„_iz/z"1 и Qn(z) = \ +b\z + ... + bnzn4 причем
корни полинома Qn не лежат на единичной окружности.
Показать, что найдется такой белый шум £ = (£т), что
последовательность (£т) будет компонентой п-мерной последовательности (£^, ..., £Ц,),
£m = £т, удовлетворяющей системе уравнений
/=0
/-1
где /3\ =a0, A = a/_i - £ &&/-*.
k=\
5. Говорят, что стационарная (в узком смысле) последовательность
£ = (£„) удовлетворяет условию сильного перемешивания, если
ап(0= sup |Р(ЛВ)-Р(Л)Р(В)НО, az^oo,
где ^«,(0 = <т(..., £_i, &) и J^°°(£) = *(£,, €л+1,-..)- ^-алгебры,
порожденные системами случайных величин (£&)^о и (£k)k^n соответственно.
(Ср. с задачей 7 в § 8 главы И.)

§ 4. СТАТИСТИЧЕСКОЕ ОЦЕНИВАНИЕ
269
Показать, что если X и У — ограниченные (1^1 < С\ и |У| < C2)
случайные величины, измеримые относительно ^"^(О и &£°(£) соответственно,
то
\EXY-EXEY\^4C{C2an(£).
6. Пусть £ = (£m)-oo<m<oo — стационарная гауссовская
последовательность и
p;(0=supE*y,
где супремум берется по всем случайным величинам X и У с Е|АГ|2 =
= Е|У|2 = 1, принадлежащим замкнутым линейным многообразиям Z/Loo(£)
и L£°(£)> порожденным величинами (£m)m^o и (£т)т^п соответственно.
Доказать справедливость следующих неравенств
Колмогорова—Розанова:
"п($<р№<2**п(&.
(Ср. с неравенствами в задаче 7 § 8 главы II.)
7. Основываясь на неравенствах предыдущей задачи, показать, что
если £ = (£„) — стационарная гауссовская последовательность с непрерывной
спектральной плотностью /(А), равномерно ограниченной снизу
положительной константой (/(А) > С >0, А е [—7г, 7г]), то такая последовательность
удовлетворяет условию сильного перемешивания.
8. При надлежащим образом выбранных независимых случайных
величинах А и в убедиться, рассматривая последовательность £ = (£„)
с £п=А cos(An + 0), Л^О, что стационарная в широком смысле
последовательность может иметь периодические выборочные траектории, тогда
как ковариационная функция не является периодической.
§ 4. Статистическое оценивание ковариационной
функции и спектральной плотности
1. Пусть в схеме (15) величины £п~Л^(0, 1). Показать, что для любого
п и N —>оо
(N - \n\)DRN(n; £)->2тг $ (1 +е2/"Л)/2(А)ЛА.
— 7Г
Указание. Пользуясь предположением гауссовости величин еп в
(15), надо показать, что (для п > 0)
(N-n)D$N(n\£)=2ir I \[\+ein^^]bN-n{\-v)f{v)f{\)dvd\,
— 7Г —7Г
где Фуу_/г(А) — ядро Фейера, и отсюда вывести требуемый результат.

270 ГЛ. VI. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
Jim cov(/v(A; £), fN(v,0):
N—юо
2. Установить справедливость формулы (16) и следующего ее
обобщения:
r2/2(0), A = i/ = 0, ±тг,
/2(А), А = 1/^0, ±тг,
[0, A^i/.
3. Рассматривается авторегрессионная модель AR(1) первого порядка
6,=^Л_1+(7СЛ, П>1
(ср. с (25) в § 1 и с моделью в задаче 10 из § 1), где а — известный
параметр (сг>0), a 6eR является неизвестным параметром, подлежащим
оцениванию по наблюдениями £i, &,
Пусть вп = argmax р$(х\,..., хп) — оценка максимального
правдоподобия параметра 0, построенная по плотности
Рв{Хи -'Xa)=yhr exp{~i Х>-^*-о2}
распределения вероятностей величин £i, ..., £„ (предполагается, что
последовательность £ = (еп) является гауссовским белым шумом).
Показать, что
вп
S Xk_\Xk
k=\
4. Пусть
1п(в) = Ев{-
дв2
— информация Фишера в модели AR(1) из задачи 3 (Ев — усреднение по
распределению Р$ последовательности £|, &. •••)•
Показать, что
(а)/„(*) = ЕвЕ£2-,;
k=\
(b) при п —> оо
1-в2'
/«W~<y
i2n
в
1(02-1)2'
|0|<1,
1*1=1.
|0|>1.

§ 5. РАЗЛОЖЕНИЕ ВОЛЬДА
271
5. Для модели AR(1), рассмотренной в задачах 3 и 4, показать, что
оценка максимального правдоподобия вп обладает следующими
асимптотическими свойствами:
(ф(х), Щ<1,
ЧтРа{у/Ш0п-О)^х}=1н^(х), \в\ = 1,
^Ch(*), Щ>1,
где Ф(х) — функция распределения стандартного нормального закона,
Н$ (х) ~ распределение случайной величины
В?-1
в-
1
2^2 $ В$ ds
О
(В = (Bs)q^s^\ — броуновское движение; § 13 гл. II) и Ch(x) —
распределение закона Коши с плотностью —■ *- (таблица 3 § 3 гл. II).
7Г(1 + Хг)
6. В продолжение предыдущей задачи показать, что
lim P
где Н^ \х) — функция распределения случайной величины
2 J^ Bids
Vo
(Тем самым, если нормировать величину 6п — в не информацией Фишера,
/ п \ 1/2
а случайными величинами I X) £f_i ) » то вместо трех предельных
распределений можно получить лишь два)
7. Показать, что оценка максимального правдоподобия 6п (из
задачи 3) обладает следующим свойством равномерной асимптотической
состоятельности в среднем:
sup Е0|#л - в\ —► 0, п —► оо.
§ 5. Разложение Вольда
1. Показать, что стационарная последовательность с дискретным
спектром (например, если спектральная функция F(\) кусочно-постоянна)
является сингулярной.

272 ГЛ. VI. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
Указание. Рассматриваемую последовательность £ = (£я) с п =
= 0, ±1, ±2, ... можно представить в виде
ос
6,= J2 z"eiXkn
k=—oo
czk = Z({\k}), k G 0, ± 1, ±2, ..., являющимися ортогональными
случайными величинами с Ezk = 0 и Е|г^|2 =а\ (в этих обозначениях спектральная
ос
функция F(\) = X) аЬ X) °\ < °°)- Надо доказать, что //(£) = S(£),
{/г:А*^А} /г=-оо
где //(£) — замкнутое в L2(£) линейное многообразие, порожденное вели-
оо
чинами £ = (..., £„_ь £„, ...), и 5(0= П #«(£)> гДе #«(£) порождены
величинами £" = (..., £„_i, £„). л=-оо
Чтобы установить равенство //(£)= S(£), достаточно показать, что
£nES(£) для каждого neZ. В свою очередь, в силу стационарности,
достаточно лишь показать, что £о €£(£), т- е- что Для любого целого /V и
6 > 0 существует ?j G #yv(£) со свойством ||£о - »?||//2 < <*•
С этой целью следует проверить, что в качестве такой величины можно
взять £„ при подходящем выборе я < /V. (С этой целью для заданного 5>О
надо взять М такое, что J2 а1< &/%> показать, что
|*|>Af
llfi.-6>||//«<f*+E 4\eiXkn-\\,
\k\^M
и затем установить, что для любых NeZ и £>0 существует n</V, для
которого \еьХкП - 1|<е, |fe|<Af.)
2. Пусть сг2 = E|£„-£„|2, |я = Ё(£л|//0(£))- Показать, что если для
некоторого дг > 1 величина сг2 = 0, то последовательность £ является
сингулярной; если же сг2 —> /?(0) при п —► оо, то — регулярной.
3. Показать, что стационарная последовательность £ = (£я), £п = е1П(р,
где <р — равномерно распределенная случайная величина на [0, 27г],
является регулярной. Найти линейную оценку £„ величины £„ и показать, что
нелинейная оценка
«■-(£)*
дает безошибочный прогноз £„ по «прошлому» £° = (..., £_ь £о), т. е.
Указание. Для доказательства регулярности последовательности
£ = (£л) убедитесь в том, что еп есть белый шум и, значит,
представление £л = у/2п еп есть представление вида (3).

§ 6. ЭКСТРАПОЛЯЦИЯ, ИНТЕРПОЛЯЦИЯ И ФИЛЬТРАЦИЯ 273
4. Доказать, что разложение (1) на регулярную и сингулярную
компоненты единственно.
§ 6. Экстраполяция, интерполяция и фильтрация
1. Доказать, что утверждение теоремы 1 сохраняет свою силу и без
предположений, что Ф(г) имеет радиус сходимости г > 1, а нули Ф(г) лежат
только в области \z\ > 1.
2. Показать, что для регулярного процесса функция Ф(г), входящая
в (4), может быть представлена в виде
Ф(г) = л/2тг expi -c0 + ^2ckzk L
^ Ь — \ '
\z\<\,
где
—7Г
Вывести отсюда, что ошибка прогноза на один шаг а\ = Е \£\ — £\ |2 задается
формулой Сегё—Колмогорова
С7? = 2техр{^ ] 1п/(А)</л|.
Указание. Доказательство формулы Сегё—Колмогорова можно
провести по следующей схеме,
(i) Сначала показывается, что
ос
»i=IKi-|i||y= S |e'A-£.(A)|2/(A)dA, (*)
—оо
где ф\ (А) дается формулой (7). С учетом (*), обозначений теоремы 1 и того,
что /(A) = — |Ф(е~'Л)|2, устанавливается, что of = \Ьо\2.
(и) Согласно первой части задачи,
ОС . ОС ч
Ф(г)=^2 bkzk = V2n expl -c0 + ^ ckzk У
откуда bo = V2n expj -cq \. Следовательно,
а2х=2'к ехр|-с0}=2тг expl — § In f(X)d\
V —7Г

274 ГЛ. VI. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
3. Дать доказательство теоремы 2 без предположения (22).
4. Пусть некоррелированные сигнал в и шум rj имеют спектральные
плотности
^(Л) = 2^ " |l+ViAl2' ^(Л) = 2^ ' |l+ViAl2'
Опираясь на теорему 3, найти оценку вп+т величины вп+т по
значениям £б, k < дг, где £k = Qk +Щ- Рассмотреть ту же задачу для спектральных
плотностей
§ 7. Фильтр Калмана—Бьюси и его обобщения
1. Показать, что для схемы (1) векторы тпивп — тп некоррелированы:
Е[т*(вп-тп)]=0.
2. Пусть в схеме (1)—(2) величина 70 и все коэффициенты, за
исключением, быть может, коэффициентов ао(я, £), Ао(п, £), не зависят от «случая»
(т. е. от £). Показать, что тогда условная ковариация 7л также не зависит
от «случая»: 7л = ^7л-
3. Показать, что решения системы (22) задаются формулами (23).
4. Пусть (0, £) = (вПч £я) — гауссовская последовательность,
удовлетворяющая следующему частному виду схемы (1):
0я+1=а0я+ &£i(/i+1), $>п+\=Авп+ВЕ2{п + \).
Показать, что если Л^О, ft^O, В^О, то предельная ошибка
фильтрации 7= lim In существует и определяется как положительный корень
л—юс
уравнения
Указание. Если воспользоваться формулой (8), то найдем, что
о 2 2
где с2 = (j J . Иначе говоря, 7л+1 = /(7л) с /(*) = Ь2 + а2х - -^Т". * > О-
Эта функция является неубывающей и ограниченной. Основываясь на
этом, докажите, что предел lim 7л ( = 7) существует и удовлетворяет
уравнению
<у* + [С2(1-а2)-Ь2]>у-Ь2С2 = 0,
которое, в силу теоремы Виета, имеет лишь один положительный корень.

§ 7. ФИЛЬТР КАЛМАНА-БЬЮСИ И ЕГО ОБОБЩЕНИЯ 275
5. (Интерполяция', [71, 13.3].) Пусть (0, £) — частично
наблюдаемая последовательность, подчиняющаяся рекуррентным
соотношениям (1) и (2).
Пусть условное распределение
тгв(/и, m) = P(0w<a|J^)
вектора 0т является нормальным.
(a) Показать, что тогда для п > т условное распределение
тга(т, п) = Р(вт^а\&%)
также является нормальным, 7ra(m, ti)~J/(ii(m, я), 7(^, п)).
(b) Найти интерполяционную оценку (величин 0т по J^|) ^(m, n) и
матрицу 7(w, я).
6. (Экстраполяция; [71, 13.4].) Пусть в соотношениях (1) и (2)
а0(пч £) = а0(п) + а2(п)£Пч а\ (я, О = а\ (я),
Л0(дг, £) = А)(я) + Л2(я)£ь /1i(az, £)=A{(n).
(a) Показать, что в этом случае распределение 7ra^(m, дг) = Р(0,2<а,
£п < & | ^Д), п > т, является нормальным.
(b) Найти экстраполяционные оценки
Е(0„|^Д) и Е(£„|^Д), дг>т.
7. (Оптимальное управление', [71, 14.3].) Рассматривается
«управляемая» частично наблюдаемая система (0п, £п)о^п^ы> где
0„+1 = W„+0„ + &£i(AZ+l),
£п+\=9п+е2(п + 1).
Здесь «управление» мл — ^-измеримо и таково, что Ew^<oo для всех
0<az</V- 1. Величины £i(az) и £2(я), я= 1,..., /V, такие же, как в (1), (2);
£о = 0, 0о ~oY{m, 7).
Будем говорить, что «управление» и* = (wj,..., w^_j) оптимально, если
l/(w*) = sup K(w), где
и
YN-\
V(u) = E\Y,(02n + u2n) + 02N\
ln=0
Показать, что оптимальное управление существует и задается формулами
и*п = -[1 +Рл+1]фРл+1т*, дг = 0, ..., N- 1,

276 ГЛ. VI. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
где
аФ=(а~\ а^О,
\0, а = 0,
величины (Ял)о^л^л/ находятся из рекуррентных соотношений
Р„=1+Р„+1-Р2+1[1+Р„+1]Ф, PN = l,
а (т*) определяются из соотношений
<+i =«:+7„*o +7„*)ф(е,+.-о, o<«</v-1,
с mo = га и
7^+1 =7^ + 1-(7п*)20+7:)в. 0<Аг<УУ-1,
с 75=7-
8. (Нелинейный фильтр в задаче о разладке, [129].) В
статистическом контроле, скажем, качества продукции типичными являются
задачи, в которых вероятностные характеристики подлежащих наблюдению
величин могут измениться в некоторый случайный момент времени в —
момент появления разладки (в ходе соответствующего производственного
процесса). Ниже приводится байесовская постановка задачи обнаружения
момента появления разладки и предлагается рассмотреть ряд вопросов,
связанных с достаточными статистиками в этой задаче.
Пусть на некотором измеримом пространстве (П, &) задано семейство
вероятностных мер {Р71", 7гЕ [0, 1]}, случайная величина в со значениями в
множестве /V = {0, 1, 2, ...} и последовательность (наблюдаемых)
случайных величин Х\, ^2, ... таких, что
ос
(ОРЧ0 = О} = тг, Р"{в = к} = (1-тг)рь гдерЛ>0, £ Pk=U
k=\
(ii) для каждого 7г е [О, 1] и п > 1
РЧ^Кхь ...JXn^xn} = nPl{Xl^xu ...,*„<*„}+
п-\
+ (1 -7Г) J2 Pk+\P°{X\<Xu ..., Xk^Xk}PX{Xk+i <X*+i, ..., *„<*„}+
6=0
+ (1-7г)(ря+1 + ря+2+...)Р°№<^1..... *«<*«}, xkeR\
(iii) Р'№ <х,, ..., Хп^хп}= П Р'{*а<*а}, / = 0, 1.
k=\
(Наглядный смысл этих предположений (i)—(iii) состоит в следующем.
Если 0 = 0 или 0= 1, то разладка имеет место с самого начала наблюдений.
В этом случае величины Х\, ^2, ..., соответствующие разлаженному ходу

§ 7. ФИЛЬТР КАЛМАНА-БЬЮСИ И ЕГО ОБОБЩЕНИЯ 277
производственного процесса, являются независимыми одинаково
распределенными с функцией распределения F\(x) = Р1{Х\ <х). Если в>п, т. е.
разладка появляется после момента я, то последовательность Х\, ..., ХПу
соответствующая нормальному ходу производственного процесса,
является последовательностью независимых одинаково распределенных
случайных величин с функцией распределения Fq(x) = P°{X\ <х}. Если же
0 = k, где 1<£<дг, то величины Х\, ...,Xk-\ независимы и одинаково
распределены с функцией распределения Fo(x), a величины Хь, ..., Хп
также независимы и одинаково распределены, но с функцией распределения
F\(x). Будем считать, что Fq(x)^F\(x))
Пусть fo(x) и f\(x) — плотности распределений Fq(x) и F\(x)
(относительно некоторого распределения, скажем, (Fq(x) +F\(x))/2,
доминирующего Fq(x) и F\(x)).
Обозначим через т марковский момент (относительно (&п)п^о с
^o = {0,ty, &n = a(X\, ..., Хп)), который будем интерпретировать как
момент, сигнализирующий о появлении разладки. Качество такого момента
будем характеризовать двумя величинами: Рк{т < в} — вероятность ложной
тревоги и Ек(т — в)+ — среднее время запаздывания в обнаружении
разладки, когда сигнал тревоги подается правильно (т. е. когда т>0).
Естественно желание найти такой момент т, который одновременно
минимизирует и вероятность ложной тревоги, и среднее время
запаздывания. Поскольку (за исключением тривиальных ситуаций) такого момента
не существует, то вводим байесовский риск (с > 0)
/Г(т) = Р7Г{т<0} + сЕ7Г(т-0)+
и называем момент т* оптимальным, если для всех 7г Е [0, 1 ] Рп{т* < оо} = 1
и для всех Р^-конечных марковских моментов т выполнено неравенство
Rk(t*)<Rk(t).
Согласно задаче 8 из § 9 главы VIII, такой момент т* существует и
имеет (в том случае, когда pk = (1 — p)k~x p, 0 < р < 1, k > 1) следующую
простую структуру:
r* = inf{AZ>0: тгл>>4},
где А — некоторая пороговая константа, зависящая от с и /?, а тгл есть
апостериорная вероятность появления разладки до момента п:
7Гп = РП(в^п\3?п), Я>0, С7Г0=7Г.
(а) Показать, что апостериорные вероятности 7г„, дг>0, удовлетворяют
следующим рекуррентным соотношениям:
= Wi(*n+i) + pQ-**)/i(Xn+i)
*n+l *nfl(Xn+i) + p(\-*n)fl(Xn+i) + (\-*)(\-*n)h(Xn+\)'

278 ГЛ. VI. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
(Ь) Показать, что если срп = -——, то
(рп+\=(р+(рп)- —T—j -, (р0-
(l-p)/oft+i)' ™ 1-*'
(c) Обозначая ср = (рп(р) и полагая 7г = 0 и ф = \\т ^\ показать, что
Замечание. Если положить вп = 1(в<дг), то 7ГЛ = Еп(вп\^п), что есть
оптимальная в среднеквадратическом смысле оценка вп по наблюдениям
Х\, ..., Хп. Из (а), (Ь) и (с) видим, что статистики 7гл, <рп и ^
удовлетворяют нелинейным рекуррентным соотношениями, которые, как принято
говорить, задают нелинейный фильтр (в задаче оценивания значений в
процесса (0п)п^0 по наблюдениями Хх, ..., Хп).
(d) Показать, что каждая из последовательностей (тг/Оя^о» (^я)я^о и
(Фп)п^о является марковской цепью (относительно (&п)п^о и
вероятностных мер Р71", 7rG [0, 1], в первых двух случаях и относительно меры Р° в
третьем случае).

Глава VII
ПОСЛЕДОВАТЕЛЬНОСТИ СЛУЧАЙНЫХ ВЕЛИЧИН,
ОБРАЗУЮЩИЕ МАРТИНГАЛ
§ 1. Определение мартингалов и родственных понятий
1. Показать эквивалентность условий (2) и (3).
Указание. Доказательство надо вести от противного.
2. Пусть а и т — марковские моменты. Показать, что т + сг, rVcr,
тЛег также являются марковскими моментами, и если <т(си)^т(си) для
всех ше£1, то J^C j£"T. Сохранится ли это свойство, если ег^т лишь
в вероятностью единица?
Указание. Если ег(ш) < т(ш) для всех ш Е П, то для любого А Е &<,
А п {т = п) = А П {а < я} П {т = п} Е J^„.
Значит, Л Е^т.
3. Показать, что т и Хт являются J^T-измеримыми.
4. Пусть Y = (У,2, ^г) — мартингал (субмартингал), V = (Vn, &п_\) —
предсказуемая последовательность и (К • У)л — интегрируемые случайные
величины, п > 0. Показать, что тогда К • У есть мартингал
(субмартингал).
5. Пусть ^i 2 ^2 2 • • • — невозрастающее семейство сг-алгебр и £ —
интегрируемая случайная величина. Показать, что последовательность
(Art)n^i с Хп = Е(£|ё^л) образует обращенный мартингал, т. е.
Е(Х„|Х„+1,Х„+2, ...)=*»+■ (Р-п-н.)
ДЛЯ ЛЮбОГО AZ > 1.
6. Пусть £ь£2, ••• —независимые случайные величины, Р{^=0} =
1 п
= P{£i=2}= - и Хп = YI £/. Показать, что в этом случае нельзя найти
2 i=\
интегрируемую случайную величину £ и неубывающее семейство сг-алгебр
(^л)л^ь таких, что A„ = E(£| J^) (Р-п. н.), дг> 1. (Этот пример показывает,
что не каждый мартингал (Хп)п^\ представим в виде (Е(£| J^)),^; ср. с
примером 3 § 11 гл. I.)
Указание. Доказательство надо вести от противного.

280
ГЛ. VII. МАРТИНГАЛЫ
7. (а) Пусть £i, £2, • • • — независимые случайные величины с Е|£л| < оо,
Е£л = 0, п > 1. Показать, что для каждого k > 1 последовательность
K/i<...<i^rt
образует мартингал.
(Ь) Пусть £i, £2, ••• —интегрируемые случайные величины такие, что
Е(6,.ц|6,-,6,) = е'"Кя, + 6' ( = *„).
Доказать, что последовательность Ji, X2, ... образует мартингал.
8. Привести пример мартингала Х = (Хп, ^п)п^\, для которого
семейство {Хп, дг> 1} не является равномерно интегрируемым.
9. Пусть X = (Хп)п^0 — марковская цепь (§ 1 гл. VIII) со счетным
множеством состояний £ = {/, /, ...} и переходными вероятностями рц. Пусть
ф = ф(х), хеЕ, — ограниченная функция такая, что X) РиФИ) ^ ^(0 Аля
А>0 и / еЕ (такая функция называется \-жсцессивной, или Х-гармо-
нической). Показать, что последовательность (Х~пф(Хп))п^о является
супермартингалом.
10. Пусть Ti, T2, ... — последовательность моментов остановки такая,
что поточечно или тп | т, или тп | г. Показать, что в обоих случаях т есть
момент остановки.
11. Показать, что если а и т — моменты остановки, то
12. Пусть сг — (конечный) момент остановки и ri, Г2, ...
—последовательность моментов остановки, тп | оо. Показать, что
и что ^т = Г\ ^тп, если t„ | г.
13. Пусть £i, £2, ••• —последовательность независимых стандартных
гауссовских случайных величин (£rt~^(0, 1)), Sn=£i + ••• + £«> я>
1-Доказать, что последовательность (Хп)п^\ с
^ = 7йТТехр{2(1Ь)}
есть мартингал (относительно потока (J^?)rt^i, где &$ = <т{£\, ..., £л)).
14. Пусть J = (Хп, ^п)п^о — стохастическая последовательность,
АХп=Хп-Хп-\, дг> 1, v(uj\ {n}xdx) = P(AXnedx\JPn-\)(uj) — регулярная

§ 1. ОПРЕДЕЛЕНИЕ МАРТИНГАЛОВ И РОДСТВЕННЫХ ПОНЯТИЙ 281
версия условных вероятностей. Пусть для и е R
А(и)о = 0, А(и)п= J2 S{eiux-\)u{u\{k)xdx).
Показать, что процесс М(и) = (Мп(и)у &п)п^\ с
п
Mn(u) = eiuX» - Y, eiuXk-*AA(u)k
k=\
является мартингалом.
15. В обозначениях предшествующей задачи пусть для и е R
О(и)о = 0, G(u)n= Y[ \eiuxv(u\{k)xdx), я>1.
Пусть G(u)n >0, дг> 1. Показать, что (комплекснозначная)
последовательность
/ eiuX" \
\G(u)n)n^\'
т. е. последовательность
/ JuXn \
является мартингалом.
16. Пусть Х = (Хп, ^п)п^о — стохастическая последовательность такая,
что \АХп\ < с (Р-п. н.) для всех п > 1 с некоторой константой с > 0.
Образуем (действительнозначную) последовательность Y = (Yn, ^n)n^\ с
ех»
ft E(e^|^i_,)
где АХ[ =Xi -Xi_\y /> 1. Показать, что Y = (Yny ^n)n^\ есть мартингал.
(Ср. с предшествующей задачей 15.)
Остается ли верным это свойство без сформулированного условия
ограниченности величин АХп!
17. Пусть So = 0, S* = f 1 +... + &, 1 < & < я, где f 1, ..., & —
независимые нормально распределенные, <Ж(0, 1), случайные величины. Пусть
ф(х) = Р{£{ <*}, ^i = (7(fi, ..., &). 1 <&<дг, J?o = {0, ft}. Показать, что
для любого aeR последовательность X = (Xk, ^k)o^k^n с
является мартингалом.

282
ГЛ. VII. МАРТИНГАЛЫ
18. Пусть 5q = 0, Sfc = f 1 + ... + 6ь 1 < k < я, где £ь ..., £„ —
независимые одинаково распределенные случайные величины с симметричным
распределением. Пусть F(x\ k) = P{Sk<,x). В обобщение результата
предыдущей задачи показать, что последовательность X = (Xk, ^k)o^k^n с
Xk = F(a-Sk, n- k)
является мартингалом. (Применение этого свойства см. в задаче 12 в § 2.)
19. Пусть £ь $2. ••• —последовательность независимых одинаково
распределенных случайных величин с функцией распределения F = F(x),
xeR. Пусть
— эмпирическая функция распределения, м>1 (см. § 13 главы III).
Показать, воспользовавшись результатом задачи 5, что для каждого xeR
последовательность (Уп(х), %(х))п^ \ с Уп(x) = Fn(х\ и) — F(x), Уп(х) =
= а(Уп(х), Уп+\(х), ...) образует обращенный мартингал.
20. Пусть X = (Хп, <&п)п^о и У = (Уп, <^п)п^о — два субмартингала.
(a) Показать, что X V У = (Хп V У„, &п)п^о также является
субмартингалом.
(b) Будут ли субмартингалами следующие последовательности:
X + Y = (Xn + Уп, &п)п>о, XY = (XnYn, J^o?
(Если да, то при каких условиях, если нет, то почему?)
(c) Рассмотрите аналогичные вопросы для случаев: X и У —
мартингалы; X и У — супермартингалы.
21. Пусть £i, £>, ... —бесконечная последовательность
перестановочных случайных величин (т. е. таких, что для любого м> 1 распределение
вероятностей вектора (£i,..., £„) совпадает с распределением вероятностей
вектора (£„-,,..., £„■„), где (7п,..., 7гл) — любая перестановка чисел (1,..., п)\
см. равносильное определение в задаче 4 к § 5 главы II). Пусть E£i < оо,
4.=ft+... + fi..%=a(f.|±[....).
Обобщая рассмотрения в примере 4 из § 11 главы I, показать, что
(Р-п.н.)
Sft+l
V п
'Sn
т. е. что последовательность ( —, &п ) образует обращенный мартин-
вал.
22. Показать, что всякий обращенный мартингал является равномерно
интегрируемым.

§ 1. ОПРЕДЕЛЕНИЕ МАРТИНГАЛОВ И РОДСТВЕННЫХ ПОНЯТИЙ 283
23. Согласно определению, сг-алгебра &т для марковского момента
г есть совокупность множеств {Ае^: Ас\{т = п}е^п для всех п>0}.
def
Почему бы ее не определять так: &т = <т(^п: п < г)?
24. Если последовательность X = (Хп, &п)п^\ есть мартингал и (м^)С
С (п) — некоторая подпоследовательность, то (ХПк, &nk)k^\ также является
мартингалом. Привести пример, показывающий, что для локальных
мартингалов это уже, вообще говоря, не так.
25. В теории мартингалов потенциалом называют всякий
неотрицательный супермартингал П=(П„, ^n)n^0i который является равномерно
интегрируемым и таким, что поточечно Ип(ы) —> 0, п —> оо, и е ft.
Показать, что существует единственная предсказуемая неубывающая
последовательность А = (Ап, ^п-\)п^о с Ао = 0, &-\ =^о такая, что
Пп = Е(А00-Ап\&п), л>0.
26. Пусть X = (Хп, <^п)п^о — супермартингал. Показать, что следующие
условия равносильны:
(i) существует субмартингал Y = (Yn, ^п)п^о такой, что Хп > Уп (Р-п. н.),
(ii) существует и единственно разложение Рисса:
Хп = Мп + ППу
в котором М = (Мп, <^п)п^о — мартингал и П = (П„, &п)п^о — потенциал.
27. Пусть X = (Хп, <^п)п^о — субмартингал. Показать, что найдется
такой неотрицательный мартингал М = (Мп, &п)п^ъ> что
Х+ < Мп, п > 0, и sup ЕХ+ = sup ЕМп.
п п
Указание. Воспользуйтесь тем, что Х+ = (Х+, <^п)п^о есть также
субмартингал, и определите Мп = lim E(X*\m\&n).
т—>оо
28. Пусть (ft, ^\ P) — вероятностное пространство с фильтрацией
(^п)п^о- Пусть (гит- два марковских момента такие, что а(и) < t(cj),
ие ft, и А = {и: а(и) < п <т(ш)}. Показать, что при каждом п> 1
множество А е^п-1- Иначе говоря, последовательность (Хп)п^\ с
_ J 1, если а(и) < п < t(cj),
1 0 в других случаях
является предсказуемой (т. е. Хп являются &п-\-измеримыми, я> 1).
29. (К теореме 2.) Пусть X = (Хп, ^п)п^о — субмартингал с
разложением Дуба Хп = гпп + Ап, я>0, где Ло = 0, гпо=Хо. Показать, что если
семейство {Хп, п > 0} равномерно интегрируемо, то ЕЛоо < оо и семейство
{mn, n > 0} также равномерно интегрируемо.

284
ГЛ. VII. МАРТИНГАЛЫ
30. Пусть М = (Мп, ^п)п^о есть квадратично интегрируемый
мартингал. Показать, что
sup ЕМ;; < оо ф> V^ E(Mk- Мк-\)2 <оо.
31. Пусть т = т(и) есть марковский момент относительно потока
(&п)п^о- Пусть неубывающая функция / = /(я), п е N = {О, 1,2, ...},
такова, что f(n) > п. Показать, что момент т(ш) = f(r(cv)) также является
марковским.
32. Пусть X = (Хп, &п) — мартингал относительно меры Р и мера Q
эквивалентна мере Р (Q ~ Р). Привести пример, показывающий, что
относительно меры Q последовательность X = (Хп, &п) может уже не быть
мартингалом.
33. Согласно примеру 5, если X = (Хп, ^п)п^о — субмартингал и g =
= g(x) — выпуклая книзу неубывающая функция с Е|g(Xn)\ < оо, п > 0, то
последовательность (g(Xn), ^n)n^o также является субмартингалом.
Привести пример субмартингала и функции g = g(x), которая выпукла
книзу, но не является неубывающей, причем таких, что последовательность
(ё(Хп)у ^п)п^о не есть субмартингал.
§ 2. О сохранении свойства мартингальности при
замене времени на случайный момент
1. Показать, что в случае субмартингалов теорема 1 остается
справедливой, если условие (4) заменить условием
Jim $ X+dP=0.
Указание. Доказательство, в сущности, то же, что и в теореме 1,
надо лишь заметить, что поскольку Хт^Х+, то справедливы следующие
неравенства:
\ Xr,dP^ lim
, J m—>oo
ВП{т2^п}
>
$ xndp- $ xmdp
1ВП{т2^п} ВП{т2>т}
> $ XndP- Иш $ xmdP-
ВП{т2^п} m^°° ВП{т2>т}
2. Пусть X = (Xn, <^n)n^o — квадратично интегрируемый мартингал, г -
момент остановки, £^0 = 0,
Hm $ X%dP=0.
п^°° {т>п}

§ 2. СОХРАНЕНИЕ СВОЙСТВА МАРТИНГАЛЬНОСТИ 285
Показать, что тогда
Е*2 = е<*)т (=Е]Г(ДхА
^ /=о '
где АХ0 = Хо, АХ, = *, - *у_,, / > 1.
Указание. Для доказательства неравенства
Е*ТЧ Е £<Д*,)2
/=0
надо воспользоваться теоремой 1 и леммой Фату (Е Hm X2AN < Hm EX2AN).
N N
Для получения противоположного неравенства воспользуйтесь тем, что
tAN
EX2t>EX2tAN = EJ2(*Xj)\
/=о
и снова леммой Фату.
3. Показать, что для каждого мартингала или неотрицательного
субмартингала X = (Хп, <^п)п^о и момента остановки г
Е\ХТ\^ lim Е\Хп\.
п—>оо
Указание. Воспользоваться тем, что \Х\ — субмартингал, и тем, что
по теореме 1 E|XrA/v| < Е|А^ | для любого N > 1. Поэтому lim E|AV/\yv I <
<]im E\Xn\. Далее надо применить лемму Фату. N
N
4. Пусть X = (Хп, <^п)п^о — супермартингал такой, что Хп > Е(£\&п)
(Р-п. н.), п > О, где Е|£| < оо. Показать, что если т\ и т^ — моменты
остановки С Р{Т\ < Т2} = 1, ТО
ХТ[^Е(ХТ2\&Т[) (Р-п.н.).
Указание. Воспользоваться результатом теоремы 1, проверив, что
в условиях настоящей задачи Е|А"Г11 < оо, Е\ХТ21 < оо и
Ит § |*л|<*Р = 0.
П {Т2>П}
5. Пусть £i, £>> ••• —последовательность независимых случайных
величин с Р{£б = 1} = Р{& = -1} = 1/2, а и b — положительные числа, b > a,
п п
k=\ k=\
и
r = inf{/z>l: *„<-/•}, r>0.

286
ГЛ. VII. МАРТИНГАЛЫ
Показать, что ЕеХт < оо при А < ао и ЕеХт = оо при А > ао, где
Ъ , 2Ь . а х 2а
<*о=—-г 'п^-г + ^-г In
а + Ъ а + b а + Ъ а + b'
6. Пусть £i, £?, ••• —последовательность независимых случайных
величин с Е£7-= О, Dfy =a?, S„=fi+... + {„, ^ = <7{fi, ...,&}, я>1.
Доказать справедливость следующих утверждений, обобщающих тождества
Вальда (13) и (14): если Е J2 Е|£7| < оо, то ESr = 0 и если Е £ Е£?<оо,
j=\ j=\
7. Пусть X = (Хп, ^)п^ 1 — квадратично интегрируемый мартингал и г —
момент остановки. Показать, что тогда
т
ЕХ?<Е£(ДХЯ)2.
Показать также, что если
lim Е(Х*/(т>л))<оо или Нт Е(\Хп\1(т>п)) = 0,
я—юо я—юо
тоЕ(Д*г)2 = Е ±Х1
п=\
8. Пусть J = (Хп, &п)п^\ есть субмартингал и т\ < Г2 < ... — моменты
остановки такие, что ЕХТт определены и
lim E(X+/(rm > /г)) = 0, т > 1.
я—юо
Доказать, что последовательность (ХТт, ^Тт)т^\ является субмартинга-
лом. (Как обычно, &Тт ={Ае&\ Ап{тт = j}e &h j > 1}.)
9. Пусть X = (Хп, ^п)п^о — неотрицательный супермартингал и то<
<Ti<... — моменты остановки. Показать, что последовательность
(ХТп, <^п)п^о снова является супермартингалом.
10. В дополнение к элементарной теореме теории восстановления
(п. 4 § 2) доказать, что (в предположении 0 < Deri < оо и с обозначением
а = (Е<т\)~1) выполняется предельное соотношение
—-->adD(7i, /—>оо,
и справедлива центральная предельная теорема:
рГ Nt.7at -Л -(") /-оо.
1 y/cPDa\ t J

§ 2. СОХРАНЕНИЕ СВОЙСТВА МАРТИНГАЛЬНОСТИ 287
11. Пусть £ь $2» ••• —последовательность независимых одинаково
распределенных случайных величин, Sn = £i +... + £„, п > 1, и
r = inf{n> 1: Sn>0}
(полагаем, как обычно, г = оо, если Sn < О при всех п > 1).
Показать, что если E£i =0, то Ет = оо.
12. Доказать справедливость неравенства
Р( max Sk>a)^2P{Sn>a}
(см. лемму 1 в § 4 главы IV), используя свойство мартингальности
последовательности X = (Xk, ^k)o^k^n из задачи 18 в § 1 и свойство Е^о = ЕХТа
(см. следствие 1) для момента остановки та = min {0 < k < n: Sk > а}, а > 0
(полагаем та = я + 1, если Sk < а для всех 0 < k < п).
13. В дополнение к утверждениям теорем 1 и 2 доказать
справедливость следующего результата. Пусть X = (Хп, &п) — мартингал, т — момент
остановки (Р{т <оо} = а) и E|Xr|< oo, lim E[ \Хп\1(т>п)\ = 0. Тогда
п—>оо
lim Е[\Хт\1(т>п)]=0,
п—>оо
Е|*т-*тЛя|->0, л^оо,
иЕ*т = Е*0.
14. (К теоремам 1 и 2.) Пусть т\ и т<± — два конечных марковских
момента, Р{т\ < тг} = 1, и X = (Хп)п^о есть мартингал. Показать, что если
Е sup \Xn\ <оо, (*)
п^т2
тоЕ(ХТ2\&Т1)=ХГ1 (Р-п.н.).
Указание. Воспользуйтесь тем, что для всякого &>0 семейство
случайных величин {|А"Г2Лл|, &>0} при условии (*) является равномерно
интегрируемым.
15. Для момента т, определенного формулой (16) в примере 1,
показать, что Етр < оо для всякого р > 1.
16. Привести пример мартингала Х = (Хп, <^п)п^о и момента остановки
г таких, что (см. теорему 1) условие
Ит $ \Xn\dP=0
п {т>п}
выполнено, однако же условие Е\ХТ\ < оо нарушается, т. е. Е|Л"Г| =оо.
17. Пусть М = (Мп, ^п)п^о — мартингал и T/v = inf{n>0: |Af„|>/V},
/V>1 (inf0 = oo). Показать, что мартингал М является равномерно

288
ГЛ. VII. МАРТИНГАЛЫ
интегрируемым в том и только том случае, когда
lim E|AfrJ/(77v<oo)=0.
N
18. (К примерам 1 и 2.) Пусть £i, £>, ... — последовательность
независимых симметричных бернуллиевских величин (Р{& = 1} = Р{& = — 1} = 1/2,
/> 1). Рассмотрим момент г = inf{n>0: Sn = 1}, где So = 0, Sn = £\ + ...+£л,
inf 0 = oo.
(a) Показать, что для всякого А е R последовательность (Х^)п^о с
exs»
п ~ (ch А)"
является мартингалом. Используя это свойство, установить, что Р{т<оо}=
= 1, Ет = оо и для всякого А > О
E(ch \)-T = e-Xa
(ср. с формулой (18)).
(b) Полагая а= 1/ch А, из приведенной формулы находим, что
Ear =J2 апР{т = п} = -(\ - \/\ - а2).
(См. также задачу 26 в § 8 главы VIII.) Вывести отсюда, что
P{r = 2n-l} = (-l)ll+1Cf/2,
где
сп_Х(Х-\)...(Х-п+\)
х п\
(см. задачу 22 в § 2 главы I).
(c) Пусть / = inf {Sn: n < г}. Показать, что для всех k > О
р<'<-*>=гтг
(d) Пусть Tk = \n\{n^O\ Sn = \ или S„ = — £}. Показать, что 7>—>т
(Р-п.н.), STk^ST (Р-п.н.), й^оо, но E5Tft74E5r (ESTft=0, a ESr = l).
Объяснить, почему здесь нет сходимости математических ожиданий (ESTk
к Е5Г при k —> оо), хотя STk —> 5Г (Р-п. н.).
19. В теоремах 2 и 3 содержится предположение о конечности
математического ожидания рассматриваемых марковских моментов г (т. е.
предполагается, что Ет < оо). Показать, что если можно найти такие целое
N и 0 < £ < 1, что для каждого п > 1
P(r^n + N\&n)>£ (Р-п. н.),
то Ет < оо.
Указание. По индукции докажите, что Р{т > kN) < (1 —s)k, k > 1.

§ 2. СОХРАНЕНИЕ СВОЙСТВА МАРТИНГАЛЬНОСТИ 289
20. Пусть m(t) — функция восстановления (см. п. 4). Элементарная
теорема теории восстановления утверждает, что m(t)/t —> \/fx, t —>оо.
Следующие два предложения можно рассматривать как уточнение этого
результата.
(a) Пусть процесс восстановления N = (Nt)t^o является d-решетча-
тым (для d > 0 носителем функции распределения величины а\ является
множество {0, d, 2d, ...}). Тогда (А. Н. Колмогоров, 1936)
°° d
У^ P{Tk = nd)—> —, п —>оо.
k=\ **
(b) Если процесс N = (Nt)t^o не является rf-решетчатым ни при каком
d >0, то (Блэкуэлл, 1948)
VP{/<7*</ + A}->£, /-оо, (*)
k=i <*
для всякого h > 0. (Левая часть в (*) равна m(t +h) — m(t))
Приведите соображения (а еще лучше —доказательства), делающие эти
утверждения правдоподобными.
Указание. В связи с результатом (а) полезно ознакомиться с
доказательством теоремы 2 в § 6 главы VIII.
21. Пусть £ь £>, ••• —последовательность независимых бернуллиев-
ских случайных величин с Р{& = \}= р, Р{& = — \} = q, p+q = l,i^ 1. Для
целочисленных х, а и &, где а<0<&, положим Sn(x)=x + £\ + ... + £л и
та(х) = \nf{n > 0: Sn(x)^ а},
rb(x) = 'mi{n^O: Sn(x)^b},
т%(х) = \ni{n > 0: Sn(x)^a или Sn(x) > ft}.
Показать, что
если р <q и х>ау
Р{га(х)<оо} =
1 ' — ) , если /? > g и х > а;
{1, если p^q и х<Ь,
I—J , если /? <<7 и х<Ь\
Р{т*(х)<оо}=1, a^x^b;

290
ГЛ. VII. МАРТИНГАЛЫ
и для а < х < b
если р ф q
Етьа{х) Х~а Ъ~а
{д/р)х-{д/р)а
q-p q-p [(q/p)b-(q/p)a_
Ета(х) = (Ь-а)(х-а)у если p = q = \/2.
22. Пусть £i, £?> • • • — независимые одинаково распределенные
случайные величины со значениями в множестве {—1,0, 1, ...} и со средним р, < 0.
Пусть 5о= 1, Sn = 1 +£i +... + $/i, я> 1, и T = inf{n> 1: S„=0}. Показать,
с 1
что Ет= — •
ы
§ 3. Основные неравенства
1. Пусть X = (Хп, &п)п^о — неотрицательный субмартингал и V =
= (Vn, <&n-\)n^o — предсказуемая последовательность (&_\=&о) с
0< Vn+\ < Vn < С (Р-п. н.), где С — некоторая константа. Показать, что
имеет место следующее обобщение неравенства (1): для А>0
п
APJmax VkXk>\}+ { VnXndP^Y EVkAXk (с АХ0 = Х0).
2. Доказать справедливость разложения Крикеберга: всякий
мартингал X = (ХПу <^п)п^о с SUP Е|ХЛ| < оо может быть представлен как
разность двух неотрицательных мартингалов.
3. Пусть £i, £>, ••• —последовательность независимых случайных ве-
п
личин, S,i = f 1 +... + £л и Sm>/1 = Y^ ?/• Доказать справедливость
неравенства Оттавиани: i=m+\
PJmax |5y|>2f}< ■Р{1рлс>?^А. '>°>
li</</i " J mm P{Syf/I <*}
и вывести из него, что (в предположении Е£ =0, / > 1)
оо оо
5 Р{ max ^^/[Л^Е^+г $ P{|Sn|>/}d/. (*)
О 1|</<л } 2Е|5Я|
Указание. Для доказательства неравенства Оттавиани надо обо-
= { max |S*|>2/},
Ak = {\Si: I < 2/, 1 = 1, ..., k - 1; \SkI > 2/}, 1 < ft < я.
значить Л = { max 15^1 > 2/),

§ 3. ОСНОВНЫЕ НЕРАВЕНСТВА
291
Тогда A = J2 Аь и можно убедиться в том, что для / > О
Р(А)\т\п Р{|5Ля| < /}1 = (Р(Л,) +... + Р(ЛЯ)) Г min P{|S/f/l| < /}1 <
Ll^/^л J ll^j^n J
< Р(Л, n{|s„| >/}) + ... + р(лл n{|s„| >/})< P{|s„| > /}.
Для доказательства неравенства (*) (в предположении Е£; = 0, /> 1)
надо лишь заметить, что
00 с л 2Е'5"' °° p/is I ^ а
\ Р{ max |S7|>2/U< \ dt + \ 1 ряс \^adt
и что при / >2E|S„|
1- max P{|S/AI|>/}>1- max P{|S/V, >2E|S„|}
>|-,за^г>|-54
4. Пусть $i, £2> ••• —последовательность независимых случайных
величин с Е£/ = 0. Используя неравенство (*) из задачи 3, установить, что
для рассматриваемого случая имеет место усиление неравенства (10) в
следующем виде:
Е max |S;|<8E|S„|.
Указание. Надо воспользоваться формулой (*) из предыдущей
задачи.
5. Доказать справедливость формулы (16).
6. Доказать неравенство (19).
7. Пусть сг-алгебры ^Ь> • > ^п таковы, что ^Ь Я &\ Я • • • Я ^п и
события Ak € <&ky k = 1, • • •, п. Используя (22), доказать справедливость
следующего неравенства Дворецкого: для всякого А > 0
р{й ^|<а + р|^р(/1,|^_1)>а|.
Указание. Надо определить Xk = /(/Ц), k = 1,..., я, и заметить, что
Х;= max I(Ak) = l(\J Ak). Если Yn= £ Р(Л,|^_,), то из (22)
Р«>1}<Е(У„Л£) + Р{К„^},
откуда и выводится требуемое неравенство.

292
ГЛ. VII. МАРТИНГАЛЫ
1 I max Xk > х \ <
8. Пусть Х = (Хп)п^\ — квадратично интегрируемый мартингал и
(Ьп)п^\ —положительная неубывающая последовательность
действительных чисел. Доказать следующее неравенство Гаека—Реньи:
p{max|^|>A}<^V^^, AXk=Xk-Xk_u X0=0.
9. Пусть J = (Ar„)„^i — субмартингал и g(x) — неотрицательная
возрастающая выпуклая книзу функция. Тогда для всякого положительного h и
действительного х
Eg(hXn)
g(hx) *
В частности, имеет место следующий экспоненциальный аналог
неравенства Дуба:
PJmax Xk^x\^e-hxEehx".
(Ср. с экспоненциальным аналогом неравенства Колмогорова в задаче 23
к § 2 главы IV.)
10. Пусть £ь £2, ••• — независимые случайные величины с Е£„=0,
Е£^ = 1, п > 1. Пусть г = inf < я > 1: X) £; > 0 > с inf 0 = 00. Доказать,
чтоЕт1/2<00 I i = \ )
11. Пусть £ = (£л)л^1 — мартингал-разность и 1 < р < 2. Показать, что
Е sup
^ii/=i
Е«/
/=1
где Ср — некоторая константа.
12. Пусть X = (Xk)k^ 1 — мартингал с EXk = 0 и ЕХ| < оо = 1. Показать
(в обобщение неравенства в задаче 5 к § 2 гл. IV), что для всякого п > 1
PJmax *fe>4< з" 2, £>0.
1кк« J £2 + ЕХ%
13. Пусть $ь $2» • • • — последовательность независимых случайных
величин с P{£„ = l} = p, Р{£„ = -1} = <7, /?+<7 = 1,0<р<1. Положим So=0,
(а) Показать, что последовательность ((q/p)s")n^o является
мартингалом и если р < q, то справедливо следующее максимальное неравенство'.
(при р > q это неравенство выполнено очевидным образом).

§ 3. ОСНОВНЫЕ НЕРАВЕНСТВА
293
(b) Показать, что при р < q
Е sup Sn <
л£0 Ч-Р
(с) Показать, что в приведенных неравенствах имеет место равенство,
и, следовательно, в случае р < q величина sup Sn имеет геометрическое
распределение (см. таблицу 2 § 3 главы II): вероятность
р{зиро5„ = .} = (£)Й(1-£), . = 0,1,2,...,
и Е sup Sn = —-—.
п^о q - р
14. Пусть М = (Mky ^k)o^k^n — мартингал, Afo = 0, причем такой, что
-а^< АМ^< 1 —ak, k= 1, ..., я, где AMk = Mk — Mk-\, a^G [0, 1]. В
обобщение результата задачи 14 из § 5 главы IV показать, что для всякого
1 п
0 < х < q, где q = 1 — р, р = — X) ak, справедливо неравенство
п k=\
Р{Мп>пх)^еп^х)
«*»-чш ш
,р + х; \q-
Указание. Воспользуйтесь теми же соображениями, что были
приведены в указании к упомянутой задаче 14 (§ 5 гл. IV), с учетом того, что
в рассматриваемом случае
Евлмя = Е [влмя_, Е (влдмя | J^.j)] < е [в^-1 ((1 - ая)в-Ла- + аяеЛ(1-а->)].
15. Пусть М = (Mk, ^k)k^o — мартингал с Mq = 0 такой, что для
некоторых неотрицательных констант ak и bk
-ak<AMk<bk
при всех £>1 (AMk = Mk — Mk-\).
(а) Показать, что для всякого х > 0 и каждого п > 1 справедливы
неравенства
j-V2*2 i
I Х>А+Ы2/
Р{Мп<-Аг}<ехР<)-

294
ГЛ. VII. МАРТИНГАЛЫ
из которых, очевидно, следует, что
P{|Af„|>*K2expJ-
k=\
(Ср. с соответствующими неравенствами в § 6 главы I и § 5 главы IV.)
(Ь) Показать, что если а^ = а, Ь^ = Ь при всех £> 1 (и, значит, —а<
<ДЛ^О, £> 1), то справедливы следующие максимальные
неравенства: для /3 > О и х > О
Sx/3
(a + b)2
и для /3 > 0 и целых /л > 1
2т/?2
Р{Мл - (Зп^х для некоторого я} < ехр< - -—утт г (*)
I (a + by )
Р{Мп > /Зп для некоторого п > /л} < ехр< - -—^т? г»
I (a + Ьу )
{2m/?2 Л
— г^ г-
(a + Ьу )
(Ср. с неравенствами в § 5 главы IV.)
Замечание. Неравенства, приведенные в (а), часто называют
неравенствами Хёффдинга—Азума. Их обобщение в форме, приведенной в
(Ь), данов [101].
Указание, (а) Для любого о 0
Р{Мп^х}^е-схЕесМ".
Полагая Vn = ecM\ находим, что Vn = Vn-\ecAMn и, значит,
E(Vn\Mn-])=Vn-]E{ecAM»\Mn.[).
Отсюда итерациями поп и пользуясь предположением —а^<АМ^<^,
находим, что
bke-cak+ake-cbk - ~ с г*
Р{АО*><*-" J] « XT' <e~CX П ехр{|-(а,+ад2}.
Тем самым,
P{Mn>x}<exP{-cx + c2J2i-^T^}^
и в силу произвольности о 0
P{Mn>x}^mmexJ-cx + c2J2 ^ ^ } =ехр(~-
2х2
J2(ak + bk)2

§ 3. ОСНОВНЫЕ НЕРАВЕНСТВА
295
(b) Для доказательства (*) надо ввести величины
Vn = ехр{с(Мп -х- j3n)}y я > О,
и заметить, что при с = - -тг последовательность (Vn)n>o образует
(a + by '
неотрицательный супермартингал, для которого для всякого конечного
марковского момента т(К) « К)
EVT(K)^EVo = e-W/(°+t»\
Беря r(K) = m\n{n\ Mn^x + j3n или п = К)у находим, что Р{МТ^ >х +
-\-(Зт(К) = Р{Ут^^ 1}<EVV(/q<EVo. Тем самым, Р{Мп^х + рпддя
некоторого п < К) < ехр{—8х/3/(а + Ь)2}. Полагая /( —> оо, получаем неравенство
(*), из которого следующим образом выводится неравенство (**):
Р{Мп > (Зп для некоторого п > т) < РIМп > -^- + -|- для некоторого п \ <
<cxpf 8^/2)^2М cxpf 2m/?2 ]
^еХР1 (а + ^)2 /-ехР\ {а + Ь)*У
16. Пусть Af = (Afn, ^n)n^o есть мартингал и r = inf{n>0: |М„|>А},
где А > 0, inf 0 = оо. Показать, что
Р{т<оо}<А-1||М||1,
где ||iW||i=sup Е\Мп\.
п
17. В обозначениях предыдущей задачи показать, что
оо
^E|M,-M,_1|2/(r>fe)<2A||M||1,
где Af_i =0.
18. Пусть М = (МПу <&п)п^о есть мартингал с Mq =0 и квадратической
вариацией [М]=([М]п, &п)п>1 ([М]„= £(ДМ*)2 с AMk = Mk-Mk.x).
Показать, что условия k~x
Е sup |M„|<oo и Е[М]^2<оо
п
являются равносильными:
Е sup |Af„|< оо «=> Е[М]^2<оо. (*)
п
(В связи с этим напомним, что известные неравенства Буркхольдера—Дэ-
виса—Ганди
Ap\\IM]^\\p<\\MUp<Bp\\[M]^\\p, „>1,

296
ГЛ. VII. МАРТИНГАЛЫ
где Af^^sup \Мп\у Ар и Вр — некоторые универсальные константы (ср.
п
с (27), (30); см. также [72]), можно рассматривать как «Lp-уточнение»
вышеприведенных импликаций (*).)
19. Пусть М = (Mk, &k)k>\ — мартингал. Доказать следующее
неравенство Буркхольдера: для всякого г> 2 существует универсальная
константа Вг такая, что
Е|М„Г<МЕ
£е((ДМ,)2|^_,)
k=\
г/2
+ Е sup |AAfft
\<k<n
1
где AMk = Mk- Mk-\, k > 1, с Afо = 0.
20. (Моментные неравенства. I.) Пусть £ь£г, ...
—последовательность независимых одинаково распределенных случайных величин с
E£i = 0 и E|£i \г < оо для некоторого г> 1, и пусть Sn = £i +... + £л, п > 1.
В соответствии с правым неравенством Марцинкевича—Зигмунда в (26),
/ п \ г/2
E|S„r<BrElX;f?J
с некоторой универсальной константой Вг.
Используя неравенство Минковского (§ 6 главы II) для г > 2 и
^-неравенство (задача 72 в § 6 главы II) для г < 2, показать, что
fflr/iE|£,|', 1<г<2,
К>л| "\Br/i^E|6l|rf г>2.
(В частности, для г > 2 это приводит к неравенству
En-l/2\Sn\r^BrE\^\r.
В соответствии с задачей 22 в § 4 главы II, lim En~1/2|SAl|r —►E|Z|r, где
Z~^(0,<72),<72 = E£f.)
21. (Моментные неравенства. II.) Пусть £i, &, ... —
последовательность независимых одинаково распределенных случайных величин, So = 0
и «S/i =£i+... + £л» я^1. Пусть т — марковский момент (относительно
фильтрации (^п)п^о с ^jf = {0, ft}, ^f =a(S\, ..., S„). Показать, что
(a) если 0< г < 1 и E|£i |г<оо, то
Е|5тГ<Е^ГЕг;
(b) если 1<г<2и E|£i|r<oo, Е£(=0, то
E|ST|r<BrE|£,rEr;

§ 3. ОСНОВНЫЕ НЕРАВЕНСТВА
297
(с) если г>2 и E|fi|r<oo, E£i =0, то
E|ST|r < Br [(E£jy2EW2 + E|f, ГЕт] < 2ВГЩХ |'Ет'/2,
где Вг — некоторые универсальные константы.
Указание. Во всех случаях приведенные неравенства надо
сначала доказать для «урезанных» (конечных) моментов т Л я, я > 1, а затем
сделать предельный переход при я—>оо.
22. Пусть £i, ..., £„ — независимые случайные величины. Показать
справедливость следующего неравенства Марцинкевича—Зигмунда:
для г>0 и любого я> 1 существует такая константа В = В(г)у что (ср. с
правым неравенством в (26))
ч \2r n
Eft
/ = 1
<Bnr-lY,*\tA2r-
Указание. Ограничьтесь рассмотрением случая целых г> 1, где
доказательство сравнительно просто.
23. Пусть (£л)л^1 — последовательность ортонормированных
случайных величин (Е£;£7 = 0, /^/\ E£f =1 для всех /> 1). Показать, что для
произвольной последовательности действительных чисел (сп)п^\
справедливо максимальное неравенство Радемахера—Меньшова: для любого
я> 1
' k \ 2 л
Е max ( У^ Cj£;
<1п2(4л)
£4
=1 / /=1
24. Пусть (£л)л^1 — последовательность ортонормированных
случайных величин и (сп)п^\ — последовательность действительных чисел таких,
что
У^ с^ In2 k < оо.
оо
Показать, что ряд X) £fc£fc сходится с вероятностью единица.
k=\
Указание. Воспользуйтесь результатом предыдущей задачи.
25. (Об экстремальной роли бернуллиевских величин. I.) Пусть
£ь • ••» £л — независимые бернуллиевские случайные величины с Р{£; = 1} =
= Р{6 = -1} = 1/2.
(а) Показать, что правому неравенству Хинчина (25) («Вероятность —
2», с. 677) для р =2/п, /л > 1, можно придать следующий вид: для любого
я> 1
2т
п
Y^ а*&
k=\
2т
<Е
п
Х^ akxk
k=\

298
ГЛ. VII. МАРТИНГАЛЫ
где Х\у ...,Хп — независимые стандартные нормально распределенные,
<уК(0, 1), случайные величины.
(Ь) Пусть Е„ — класс независимых одинаково распределенных
симметричных случайных величин Х\, ..., Хп с DX[ = 1, / = 1,..., п. Показать, что
для любого п > 1 и любого т > 1
^2 dkik
k=\
2т
inf E
(Xlt...J„)€Za
Е
a<kXk
2т
Указание, (а) Достаточно показать, что
\2т
= £
5^ ak€k
п
^akXk
(2m)!
ki+...+k,,=m
(2kl)\...(2kn)\
\a\
|2Л,
..\an
k=\
2m
(2m)!
2^m! ^ k\\.
ki+...+k„=m
k,^0
E
m!
.kn\
\a>\
\2kx
\2kn
\2kn
и что 2mk\!... kn\ < (2fei)!... (2kn)\y если k\ +... + kn = m и 6/ >0. (Отметим,
что |^j = (2m - 1)!! = ЕЛ2т; см. задачу 9 в § 8 главы П.)
(b) В случае т = 1 требуемое неравенство очевидно. В случае т > 2
надо заметить сначала, что функция <p(t) = Е\х + л/F^i|2т выпукла по / > 0.
Далее надо воспользоваться неравенством Иенсена, последовательно
применяемым к условным математическим ожиданиям, что приводит к
неравенству
п
^2akb
2т
<Е
^ak£k\Xk\
k=\
2т
в котором предполагается, что последовательности (£i,
независимы. Наконец, надо заметить, что
,£,) и (Л,,..., Хп)
law .
{Ш\1-.-Лп\хп\) = {Хи...,хпу
26. (Об экстремальной роли бернуллиевских величин. И.) Пусть
Ль ..., Хп — независимые случайные величины такие, что Р{0 <Л/ < 1} = 1,
ЕЛ/ = р/, / = 1, ..., п. Пусть также £ь ..., £п — независимые одинаково
распределенные бернуллиевские случайные величины с Р{£; = 1} = р,
Р{£/=0} = 1-р, где р = (р\ +...+ Рп)/п. Показать, что справедливо
следующее неравенство Бенткуса: для всякого х = 0у 1, 2, ...
Р{Л!+... + Л„>*КеР{£1+... + £„>*},
гдее = 2,718..., я>1.

§ 4. ОСНОВНЫЕ ТЕОРЕМЫ О СХОДИМОСТИ
299
§ 4. Основные теоремы о сходимости субмартингалов
и мартингалов
1. Пусть {УПу я>1} — невозрастающее семейство сг-алгебр, У\ Э
5 ^2 5 • • •, %о = П &п и V ~ некоторая интегрируемая случайная величина.
Доказать справедливость следующего аналога теоремы 3: при я —> оо
EfolS^-frEfolSfoo) (Р-п.н. и в смысле О).
Указание. Надо обозначить через рп(ау Ь) число «пересечений
сверху вниз» последовательностью М = (Mk)\^k^n с Mk = E(ri\&k)
интервала (а, Ь)у положить /?оо(а, Ь) = \\т /?л(а, Ь) и установить, что
и, значит, /?<»(#» Ь)<оо (Р-п. н.). Дальнейшие рассмотрения аналогичны
доказательству теорем 1 и 3.
2. Пусть $i, $2» ••• — последовательность независимых одинаково
распределенных случайных величин с E|£i|<oo и Е£\=ту Sn = £\+... + £n.
Показав (см. задачу 2 § 7 гл. II), что
E(b\Sn,Sn+u ...) = E(£i|Sn) = £l (Р-п.н.),
вывести из результата задачи 1 усиленный закон больших чисел: при
п—>оо
Sn 1
>т (Р-п. н. и в смысле L1).
Указание. Показав, что для каждого В € a(Sny Sn+\, ...) E/#£i =
= Е/д£/, / < пу заключить, что
E(Sn|Sn, Sn+b ...) = nE(£l\SnySn+u ...),
откуда следует, что E(£i |5Л, Sn+\, ...) = — (Р-п. н.). Для доказательства
Sn П
того, что — —>/п (Р-п. н. и в смысле L1), введите сг-алгебру &(S) =
оо Я ^
= f] <т(5л, 5л+ь ...) и из результата задачи 1 выведите, что — —>
л=1 л
—>E(£i |«2Г(5)) (Р-п. н. и в смысле L1). Далее воспользуйтесь тем, что
к событиям А из &(S) применим закон «нуля или единицы» Хьюитта и
Сэвиджа (теорема 3 в § 1 главы II).
3. Доказать справедливость следующего результата, соединяющего
в себе теорему Лебега о мажорируемой сходимости и теорему П. Леви.
Пусть (£л)л^1 —последовательность случайных величин таких, что £л—►£

300
ГЛ. VII. МАРТИНГАЛЫ
(Р-п. н.), |£„| <?/, Е?у< оо и {&т, /л > 1} — неубывающее семейство сг-ал-
гебр, J*oo = a({J &m). Тогда (Р-п. н.)
lim E(£n\J?ni) = E(Z\J?00).
га—>оо
л—>оо
Указание. Записав
Е(е« I^т) - Е(е |^оо) = [Е(е« I^т) - Е(^|^т)] + [Е(^ |^т) - Е(^|^оо)],
оцените при больших пит первое и второе слагаемые [•] и [•], пользуясь
теоремой Лебега о мажорируемой сходимости (теорема 3 в § 6 главы И) и
теоремой Леви (теорема 3).
4. Доказать справедливость формулы (12).
Указание. Система {Н\ (х)у ..., Нп(х)} является базисом для
функций, измеримых относительно ^п=а(Н\у ..., Нп). Поскольку число
элементов в с^л конечно, то всякая функция, измеримая относительно &Пу
будет простой (лемма 3 в § 4 главы II), и, значит, имеет место формула
(12) с некоторыми константами а\...у ап. То, что а^ = (/, //^), следует из
ортонормированности базиса {Н\(х)у ..., Нп(х)}.
5. Пусть fi=[0, 1), & = Щ[0, 1)), Р-мера Лебега и f = f(x)eLl.
Положим
(Л+1)2-я
fn (х) = 2п § 1(У) аУ> если k • 2~п < х < (k + • )2~п •
Л2-"
Показать, что /л(*)—> f(x) (Р-п. н.).
Указание. Ключевым моментом в доказательстве является
установление того свойства, что (/«(*), &п)п^\ с &п = a([j2~n, (/ + \)2~п), j =
= 0, 1, ..., 2п — 1) образуют мартингал. Далее надо воспользоваться
теоремой 1.
6. Пусть fi=[0, 1), & = &([0У I)), Р-мера Лебега и f = f(x)eO.
Продолжим эту функцию периодически на [0, 2) и положим
2"
fn(x) = Y^2-nf(x + i2-n).
Показать, что
/»(*)-/(*) (Р-П.Н.).
Указание. Как и в предыдущей задаче, ключевым моментом
является доказательство того, что (/«(*), ^п)п>\ с аналогичным семейством
сг-алгебр {с^л, я> 1} является мартингалом.

§ 4. ОСНОВНЫЕ ТЕОРЕМЫ О СХОДИМОСТИ
301
7. Доказать, что теорема 1 сохраняет свою силу для обобщенных
субмартингалов X = (Хп, <&п)п^\, ДЛЯ которых
inf sup E(X+|^m)<oo (Р-п.н.).
8. Пусть (ап)п^\ — некоторая последовательность чисел такая, что для
всех действительных / с |/| < ё, 6> 0, предел lim eltan существует. Доказать,
что тогда существует и конечен lim an.
Указание. Существование предела lim elta\ |/|<<5, равносильно
п
существованию предела lim elta" для всех / £/?. Поэтому достаточно
показать, что функция /(/) = lim elta" представима в виде ейс для некоторой
п
константы с. Это можно доказать, отправляясь от следующих свойств
функции /(/):
(О |/(/)| = 1, /€/?;
00 f(U+t2) = f(t\)f(t2)Jut2eR\
(iii) /(/) имеет всюду плотное множество точек непрерывности в R.
9. Пусть F = F(x), xeR, есть функция распределения, а е (0, 1).
Предположим, что существует в е R такое, что F(6) = a. Образуем («процедура
Роббинса—Монро») последовательность Х\, Х2, ... так, что
Xn+\=Xn-n-x(Yn-a), X\ = 0,
где Y\, Уг» ••• —случайные величины такие, что
P<y'=*>=(f(0)™ еСЛИ" = п
11-г(0), если у = 0,
и для п > 1
7), если у = 1
\F{Xn)
\\-F
P(Yn=y\Xu...,Xn\Y] У„_,)= „
1 1 г(Хп), если у = 0.
Доказать следующий результат теории «стохастической
аппроксимации»: для процедуры Роббинса—Монро Е\Хп — в|2 —>0, м—>оо.
10. ПустъХ = (Хп, &п)п^\ — субмартингал такой, что Е(Хт/(т<оо))^оо
для каждого момента остановки т. Показать, что с вероятностью единица
существует предел lim Xn.
п / оо \
11. Пусть X = (Xn, &n)n^\ есть мартингал, &00 = al U «?„ .
Доказать, что если последовательность (Хп)п^\ равномерно интегрируема, то
предел Xqo = lim Xn существует (Р-п. н.) и «замкнутая» последовательность
Х = (ХП, ^я)кл^оо является мартингалом.

302
ГЛ. VII. МАРТИНГАЛЫ
12. Будем предполагать, что Х = (Хп,^п)п^\ есть субмартингал, и
пусть t^00 = a( (j &п ). Доказать, что если последовательность (Х+)п^\
равномерно интегрируема, то предел Х00 = \\т Хп существует (Р-п. н.) и
_ п
«замкнутая» последовательность Х = (Хп, ^п)\^п^оо является
субмартингалом.
13. Как вытекает из следствия 1 к теореме 1, если X —
неотрицательный супермартингал, то с вероятностью единица существует конечный
предел Аоо = lim Xn. Показать, что выполнены также следующие свойства:
(а)Е(Х00|^я)<Хя(Р-п.н.),/1>1;
(b) ЕХоо<НтЕХя;
п
(c) Е(ХТ | &а) < ХтА<7 для любых моментов остановки т и а\
(d) Eg(Aroc) = lim Eg(Xn) для всякой непрерывной функции g = g(x),
п
х > 0, такой, что -^^ —> 0, jc —> оо;
(e) если g(jt) > g(0) = 0 для всех х> 0, то
^ = 0 ^ НтЕ£(Хя)=0;
(f) для всякого заданного 0 < р < 1
Р{Хоо = 0}=1 Ф> HmEX/f = 0.
14. В теореме Леви (теорема 3) предполагается, что Е|£| < оо.
Привести пример, показывающий, что сходимости Е(£\&п)—>Е(£\&) (Р-п. н.)
может и не быть, если требовать лишь только то, что Е£ определено (т. е.
min(E£+, Е£~) < оо), но не предполагать, что Е|£| < оо.
15. Если Х = (Хп, &п)п^\ есть мартингал, подчиняющийся условию
sup Е\Хп\ < оо, то с вероятностью единица существует (теорема 1) предел
п
lim Xn. Привести пример мартингала X, для которого sup Е|Хл| = оо, но,
п
тем не менее, с вероятностью единица существует lim Xn.
16. Привести пример мартингала (Хп)п^.0, для которого с вероятностью
единица Хп —> —оо, п —> оо.
17. Для равномерно интегрируемого субмартингала
(супермартингала) X = (Хп, &п)п^\ существует (согласно теореме 2 § 4) «терминальная»
случайная величина Лоо такая, что Хя—>Лоо (Р-п. н.). Привести пример
субмартингала (супермартингала), у которого существует «терминальная»
величина Хоо, но последовательность (Хп)п^\ не является равномерно
интегрируемой.

§ 4. ОСНОВНЫЕ ТЕОРЕМЫ О СХОДИМОСТИ
303
18. Показать, что мартингал X = (Хп)п^.0, удовлетворяющий условию
supE(|X„| ln+ |Хя|)<оо,
п
является мартингалом Леви.
19. Дать пример неотрицательного мартингала X = (Хп, &п)п^\
такого, что ЕХп= 1 для всех м> 1, Хп(и>)^>0 поточечно при м->оо, однако
Е sup Xn = оо.
п
20. Пусть X = (Хп, &п)п^\ есть равномерно интегрируемый
субмартингал. Показать, что для всякого марковского момента т
Е(Хоо|^т)>Хт (Р-П.Н.).
(Величина Хоо есть lim Хп, существующий с вероятностью единица в силу
утверждения задачи 12.)
21. (К теореме 1.) Привести пример супермартингала X = (Хп, &п)п^\,
для которого выполнено условие sup Е\Хп\ < оо и, следовательно, с веро-
п
ятностью единица существует lim Хп {=Х00), но, тем не менее, Хп -^Х^
bL1.
22. Убедиться в том, что для квадратично интегрируемых мартингалов
М = (Мп, &п)п>\ условие
^Е(М,-М,_02<оо
(равносильно — условие Е(М)(УО<оо, где (М)оо = \\т(М)п) обеспечивает
и сходимость Af„—►Afoo (Р-п. н.), и сходимость Мп^Моо к некоторой
случайной величине Afoo с ЕЛ!^ < оо.
23. При определении понятия субмартингала X = (Хп, <^п)п^о
предполагалось, что Е|ХЛ| < оо при каждом м>0. Часто это условие
ослабляют, предполагая лишь, что ЕХ~ < оо, п > 0. Оказывается, что многие
утверждения сохраняют свою силу и при этом, «ослабленном», свойстве
интегрируемости величин Хп, п > 0.
Проверить, какие свойства субмартингалов, изложенные в §§ 2—4,
остаются верными и при этом «ослабленном» определении понятия
субмартингала.
24. Если Х = (Хп, ^п)п^о есть супермартингал (Хп — ^"„-измеримы,
Е\Хп\ < оо и Е(Хп+\ |«?„)<^я, м> 0), то, согласно теореме 1, при
выполнении условия sup E\Xn\ <оо с вероятностью единица существует предел
п
lim Xn =^oo и E|Xoo| <oo.
п

304
ГЛ. VII. МАРТИНГАЛЫ
Заметим, что собственно «условие мартингальности Е(Хп+\ \^п)^Хп»
имеет смысл и без предположения Е \Хп+\ \ < оо. Математическое ожидание
Е(Хп+\ \&п) заведомо определено, например, если Хп+\ >0, хотя при этом
оно может принимать и бесконечные значения.
В этой связи будем говорить, что Х = (Хп, ^п)п^о есть не-отрица-
тельно-супермартингальная последовательность, если для всех п > 0
Хп - J*„-измеримы, Р{Хп > 0} = 1 и Е(Хп+\ \ &п) < Хп (Р-п. н.).
Доказать, что для неотрицательно-супермартингальных
последовательностей с вероятностью единица существует lim Xn (=Х00). При этом,
если Р{Х0 < оо} = 1, то P{Xoo < оо} = 1.
Указание. Адаптируйте к рассматриваемому случаю
доказательство теоремы 1, основанное на оценке (37) из теоремы 5 в § 3 числа
пересечений.
25. (Продолжение задачи 15 к § 2 главы II.) В задаче 15 § 2 гл. II было
показано, что равенство сг-алгебр
{}*(#,&)=*(#, fV")'
вообще говоря, может нарушаться.
Предлагается показать, что для справедливости этого равенства
достаточно выполнения следующего условия:
сг-алгебры & и S\ условно независимы относительно сг-алгебр ёп при
всех п> 1, т.е (Р-п. н.)
Р(АпВ\£п) = Р(А\£п)Р(В\£п)
ддяАе&,Ве£\.
Указание. Достаточно убедиться в том, что для каждой УV£\-
измеримой ограниченной случайной величины X (Р-п. н.)
\(х\ f)(<$v£n))=E(x\&vf)gn).
Для этого в свою очередь достаточно рассмотреть лишь случайные
величины X вида
X = Х\Х2,
где ограниченные величины Х\ и X<i таковы, что Х\ является £\ -измеримой,
а Х2 — ^-измеримой.
Затем надо воспользоваться доказанной условной независимостью и
L1-сходимостью из задачи 1.
26. Пусть £ь £2, ••• — независимые неотрицательные случайные
величины с E£i < 1 и P{£i = 1}< 1. Положим Мп=£\ ...£я, м> 1. Показать, что
Мп —> 0 (Р-п. н.) при Ь —> оо.

§ 5. О МНОЖЕСТВАХ СХОДИМОСТИ
305
Указание. Воспользоваться тем, что последовательность (Мп)п^\
является неотрицательным супермартингалом.
27. Пусть (ft, (^)|>о, Р) — фильтрованное пространство, ^Ь = {0> ЭД и
£ь &» • •• — последовательность случайных величин таких, что £ являются
^/-измеримыми. Предположим, что sup Е|£,-|а <оо, где ае (1, 2].
Показать, что 1
i^(6-E(6|^_!))^^0.
(Ср. с усиленными законами болыцих чисел в § 3 гл. IV и эргодическими
теоремами в § 3 гл. V)
§ 5. О множествах сходимости субмартингалов и
мартингалов
1. Показать, что если субмартингал X = (Хп, &п) удовлетворяет
условию Е sup \Хп\ < оо, то он принадлежит классу С+.
п
2. Доказать, что теоремы 1 и 2 остаются справедливыми для
обобщенных субмартингалов.
3. Показать, что для обобщенных субмартингалов (Р-п. н.) имеет место
включение
f inf sup Е (Х+ | &т) < оо} с {Хп ->}.
4. Показать, что следствие к теореме 1 остается верным и для
обобщенных мартингалов.
5. Показать, что всякий обобщенный субмартингал класса С+
является локальным субмартингалом.
6. Пусть ап > О, п > 1, и bn = Y ak- Показать, что S if < °°-
k=\ /1 = 1 "П
оо оо
Указание. Рассмотреть отдельно случаи Y ап < оо и Y ап = оо.
я=1 /i=i
7. Пусть |о» £ь &» ••• — последовательность равномерно
ограниченных случайных величин: |£я|<с, п^О. Показать, что ряды Y €п и
X) Е(£л|£о> • ••> 1/1-1) сходятся или расходятся (Р-п. н.) одновременно,
/i^i
8. Пусть X = (А'„)„^о — мартингал такой, что приращения АХп=Хп —
— Хп-\^с (Р-п. н.) для некоторой константы с<оо (ДХо = Хо). Тогда
(Р-п. н.)
{*„-►}= {sup Х„<оо}.

306
ГЛ. VII. МАРТИНГАЛЫ
9. Пусть X = (Хп, ^п)п^о — мартингал с sup Е\Хп\ < оо. Показать, что
тогда Yl,(AXn)2 < оо (Р-п. н.). (Ср. с задачей 18 в § 3.)
п>\
10. Пусть X = (Хп, ^п)п^о — мартингал с Е sup \АХп\ < оо. Показать,
тогда п ^ 1
ij2(AXn)2<oo\c{Xn^}.
ln>\ J
В частности, если E(Yl,(AXn)2\ <oo, то последовательность (Хп)п^о
сходится с вероятностью единица.
11. Пусть Х = (Хп,&п)п^ — мартингал с sup Е|Хя|<оои У = (Уп)п^\ —
предсказуемая последовательность с sup \Yn\ <oo (Р-п. н.). Показать, что
ряд J2 Уп&Хп сходится Р-п. н. п^х
12. Пусть А' = (Аг„,^г)„^о — мартингал с sup Е(|ДХт|/(т<оо))<оо, где
супремум берется по всем положительным конечным моментам
остановки т. Показать, что
|^(Д^)2<оо|с{^^оо}.
\п>\ J
13. Пусть М = (Мп, &п) — квадратично интегрируемый мартингал.
Показать, что для почти всех и из множества {(Af)oo = оо}
lim 7Т7Т- =0.
п (М)п
§ 6. Абсолютная непрерывность и сингулярность
вероятностных распределений на измеримом
пространстве с фильтрацией
1. Доказать справедливость равенства (6).
2. Пусть P„~P„, я> 1. Показать, что
Р~Р & P{zoo<oo} = P{zoo>0} = 1,
P_LP Ф> P{Zoo = 00}=l ИЛиР{2оо=0}=1.
3. Пусть Ря<^Ря> я> 1, т — момент остановки (относительно (^)),
Рт = Р \&тъРт = Р\&т — сужения мер Р и Р на сг-алгебру &т. Показать,
что Рт<сРт, если и только если {т = оо} = {z^ < оо} (Р-п.н.). (В частности,
если Р{т < оо} = 1, то Рт < Рт.)

§ 6. АБСОЛЮТНАЯ НЕПРЕРЫВНОСТЬ И СИНГУЛЯРНОСТЬ 307
4. Доказать «формулы пересчета» (21) и (22).
Указание. Непосредственно проверяется, что для любого А Е &п-\
Е[/^Ё(ч|^|_|)2я_|]=Е[/>|Ч2я].
Для доказательства второй формулы надо заметить, что P{z„_i = 0} = 0.
5. Проверить справедливость неравенств (28), (29), (32).
6. Доказать формулу (34).
7. Пусть в п. 2 последовательности £ = (£i, &» •••) и £ = (£ь &» •••)
состоят из независимых одинаково распределенных случайных величин.
(a) Показать, что если Р^ <С Р$,, то Р <С Р в том и только том случае,
когда меры Р^ и Р^, совпадают. Если же Р^ <С Р^, и Р^ ф Р^, то Р _L P.
(b) Показать, что если Р^ ~Р$,, то имеет место альтернатива: или
Р = Р, или Р_1_Р^ср. с альтернативой Какутани — теорема 3).
8. Пусть Р и Р — вероятностные меры на фильтрованном пространстве
~ 1ос ~ — ~
(Q, &, (&п)п>\)- Пусть Р<Р (т. е. Р„<Р„ для всех п> 1, где Р„ = Р|&п
иРя = Р|^,)И2„ = ^,/1>1.
Показать, что если т — марковский момент, то на множестве {т < оо}
(Р-п.н.)
рт«рт и ф_=2т.
9. Показать, что Р<Р в том и только том случае, когда существует
возрастающая последовательность (тп)п^\ моментов остановки со
свойством P{lim тп = оо} = 1, для которой РТя <С РТя при каждом п > 1.
10. Пусть Р<СР, zn = -75^» я > 1. Показать, что
'{inf z„>o}:
1.
— 1ос //Р
П. ПуСТЬ Р « Р, Z„ = 5Ji, П > 1, J^ =<T(U ^„).
Показать, что следующие условия равносильны:
(О Рос < Рос, ГДе Роо=Р|^оо И Рос = Р|^оо;
(ii) P{sup zn<oo} = 1;
(iii) мартингал (zn, &n)n^\ является равномерно интегрируемым.
12. Пусть (ft, с^*, Р) — вероятностное пространство и ^ есть сепара-
бельная сг-подалгебра ^\ порожденная семейством множеств {Gn, м> 1}
из &. Пусть cSn=cj(G\, ..., Gn) и $п — наименьшее конечное разбиение ft,
которое порождает %.

308
ГЛ. VII. МАРТИНГАЛЫ
Пусть Q —другая мера на (Q, &). Положим
*«и=Е ш'А{из)
(с условием 0/0 = 0). Показать, что
(a) последовательность (Хп, %)п^\ есть супермартингал (относительно
меры Р;
(b) если Q<cP, то последовательность (Хп, %)п^\ будет мартингалом.
13. В продолжение предыдущей задачи доказать, что если Q<cP,
то существует ^-измеримая случайная величина X00=X00(<J) такая, что
Хп ^Хы Хп = Е(Хоо |%) (Р-п. н.) и для всякого А е У
А
(Это утверждение есть не что иное, как версия теоремы Радона—Никодима
(глава II, § 6) для случая сепарабельных сг-подалгебр <£ с &.)
14. (К альтернативе Какутани.) Пусть а\, с*2, ... — неотрицательные
п
независимые случайные величины с Еа, = 1. Положим zn = П а^, zo = 1.
Показать, что k=x
(a) последовательность (zn)n^o является (неотрицательным)
мартингалом;
(b) с вероятностью единица существует предел lim zn (=z00);
п
(c) следующие условия являются равносильными:
(i) Ezoo = l, (ii) Zn^Zoo,
(iii) семейство (zn)n — равномерно интегрируемо,
ОО ОО
(iv) E(l-Ev^)<oo, (v) П Ел/^Г>0.
П=\ /1 = 1
§ 7. Об асимптотике вероятности выхода случайного
блуждания за криволинейную границу
1. Показать, что последовательность, определенная в (4), является
мартингалом. Верно ли это без условия \ап\ < с (Р-п. н.), п > 1?
2. Установить справедливость формулы (13).
Указание. Достаточно записать Ez„ в виде
Ег; = ПЕ(/7ехр{а*е*-^})
и воспользоваться нормальностью величин & (~сЖ(0, 1)).

§ 7. ОБ АСИМПТОТИКЕ ВЕРОЯТНОСТИ ВЫХОДА
309
3. Доказать формулу (17).
4. Пусть £ь &, ••• —последовательность независимых одинаково
распределенных случайных величин, Sn = £i +... + £я, я > 1. Положим (с > 0)
Т(^о) = inf {м > 1: Sn > 0}, т(>с) = inf {я > 1: S„ > с}
(как обычно, inf 0 = oo). Показать, что
(a) Р{т(^о) < оо} = 1 Ф> Р{Йт S„ = оо} = 1;
(b) (Ег(^о) < оо) Ф> (Ег(>С) < оо для всех с > 0).
5. Пусть в дополнение к обозначениям предыдущей задачи
Т(>о) = inf {п > 1: S„ > 0}, Т(^о) = inf {л > 1: Sn < 0},
T(<0) = inf{M> l: S„<0}.
Показать, что
ET^0)=P{v«0) = oo} И ЕтО°>=Р{7(ед=ооГ
6. Пусть £ь &» ••• — последовательность независимых одинаково
распределенных случайных величин с E|£i|>0 и Sn = £\+...+£nj причем
п
Показать, что определенные выше марковские моменты т(^0) и т(^0)
являются конечными и с вероятностью единица lim Sn = оо и lim S„ = —оо.
7. В условиях предыдущей задачи показать, что Sn —> оо с
вероятностью единица в том и только том случае, когда найдется момент
остановки т (относительно потока &* = {&п)п&\ с «^/f = <r(£i, ..., £«)) такой, что
Ет<оо и EST>0.
8. Пусть (ft, ^\ (^)rt^o, P) — фильтрованное вероятностное
пространство и h = {hn)n^\ — последовательность такая, что
где fxn и ап являются &п-\-измеримыми, ап>0у £ = (£«> ^)„^1
—стохастическая последовательность независимых нормально
распределенных, сЖ(0, 1), случайных величин. Показать, что последовательность
h = (hn, <&n)n^\ является условно-гауссовской, т. е. условное
распределение
Law(A„ | •£■„_!; Р) = JT^ <т2п) (Р-п. н.).
Пусть

310
ГЛ. VII. МАРТИНГАЛЫ
Показать, что выполнены также следующие свойства:
(a) последовательность Zn = (Zn)n^\ является (относительно меры Р)
мартингалом;
(b) если
{1 °° 2^1
о ^2\~) Г < °° (Условие Новикова)
и
{ОС ОО 9^
то Zn = (Zn)n^\ является равномерно интегрируемым мартингалом, с
вероятностью единица Z^ = lim ZnwZn = E(Zoo | &n), n > 1.
9. Пусть ^ = cr({J &n). В обозначениях предыдущей задачи положим
P{du) = Z00P{du).
Показать, что если EZqq = 1, то условное распределение
Law(A„|^_l;P) = ^K(0,^).
Если к тому же <j„ = а^{ш) не зависит от ш, то
Law(A„|P) = ./K(0, a2nl
при этом величины h\, h<i, ... являются (по мере Р) независимыми.
10. Пусть Хп=ен\ где Hn = h\ + ... + /&„, м> 1, и hk = \ik+Vkik, где
№k, &k и £k, k > 1, такие же, как в задаче 8.
Показать, что если (Р-п. н.)
^ + -^=0, *>1,
то последовательность X = (A„, ^л)л^1 является мартингалом.
Пусть предшествующее условие нарушается при некоторых k > 1.
Положим
^=»р{-е(^?)Ме(^+?)2}-
Предполагая, что EZoo = 1, введем меру
P{du) = Z00P{du),
и пусть J^ = cr(|J &п).
Показать, что относительно меры Р последовательность (Хп, &п)п^\ с
Хп = ен" является мартингалом.

§ 8. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА
311
§ 8. Центральная предельная теорема для сумм
зависимых случайных величин
1. Пусть £„ =rin + Cn, я> 1, где щ ->tj, а С« ->0. Доказать, что f„ ->tj.
2. Пусть (£л fc))» п ^ 1, £ > 0, — семейство случайных величин таких, что
р
для каждого е> 0 £„(е) —►() при п —>оо. Используя, например, утверждение
задачи И в § 10 гл. II, доказать, что найдется такая последовательность
£„10, что £„(£„) До.
Указание. Надо взять последовательность ел 10 такую, что
Р{|€пЫ1>2"я}<2-я,/1>1.
3. Пусть (а£), 1 < й < пу п ^ 1, — такие комплекснозначные случайные
величины, что (Р-п. н.)
п
k=\
Показать, что тогда (Р-п. н.)
п
lim Y[ (I + <4)е~а"к = 1 при п^ оо.
/г=1
4. Провести доказательство утверждения, сформулированного в
замечании 2 к теореме 1.
5. Доказать утверждение, сформулированное в замечании к лемме
в п. 4.
6. Дать доказательство теоремы 3.
7. Доказать теорему 5.
8. Пусть £ = (£п)-оо<п<ос — последовательность независимых
одинаково распределенных случайных величин с Е£„ = 0, D£„ < оо. Рассмотрим
последовательность г} = (г}п)п^\ с
оо оо
vn= Y^ c«-/^' S м2<оо.
/'=—оо j=—oo
Предположим, что
D;j = E(4i+... + »fo)2->oo.
Показать, что тогда справедлива центральная предельная теорема:
p(2L±^±2L<JC\_l С e-t^dt.

312
ГЛ. VII. МАРТИНГАЛЫ
9. Пусть (Qn, &n, (<^k)o^k^n, P") — фильтрованные вероятностные
пространства, п ^ 1. Пусть при каждом п ^ 1 заданы случайные величины
£" = (£Jfe)i^iKn такие, что ££ являются ^-измеримыми.
Пусть рь — безгранично делимое распределение на (/?, ^(/?)),
определяемое своими характеристиками (6, с, Z7) (см. задачу 17 в § 6 гл. III, где
h = h(x) — непрерывная функция урезания).
Показать, что для слабой сходимости вероятностных распределений
п
величин Zn = Y^ £J? K безгранично делимому распределению /л достаточно
k=\
выполнения следующих условий:
sup P"{|«|>e|.*?_,}£0, £>0,
£ Е"[Л(ф|^_,]Дб,
J2 (Е"[Л2(^)|^п_,] - (Е"[А(й)|^?-1])2) ^с,
где с=c+^h2(x)F(dx) и <5i={g} —класс функций вида ga(x)=(a\x\— 1)+Л
Л1 с рациональными a; /^(g) = \ g(x) F(dx).
10. Пусть £о> £i, &» ••• — стационарная в узком смысле
последовательность такая, что Е£о = 0. Пусть (ср. с задачей 5 в § 3 гл. VI)
a* = sup \P(AnB)-P(A)P(B)l *>1,
где супремум берется по всем множествам
А е &<> = *(&), flG^T=*(&.&+i, ...).
Показать, что если коэффициенты сильного перемешивания a^, k^ 1,
таковы, что для некоторого р > 2
£><"-2)/р<оо
и для этого р математическое ожидание Е|£оК<оо, то совместное
распределение Р" t величин X", ..., ^, где

§ 9. ДИСКРЕТНАЯ ВЕРСИЯ ФОРМУЛЫ ИТО
313
слабо сходится к распределениям Ptx tk величин (y/cBtn ..., y/cBtk), где
В = (Bt)t^o — броуновское движение и с есть константа следующего вида:
с = Е€8+2£Е&
§ 9. Дискретная версия формулы Ито
1. Доказать формулу (15).
2. Доказать формулу
E\Sn\~ \ — п, я—>оо,
основываясь на центральной предельной теореме для случайного
блуждания 5 = (Sn)n^0' (Ср. с указанием к задаче 3 в § 9 главы I.)
Замечание. В формулах (17) и (18) примера 2 в § 9 главы VII книги
«Вероятность — 2» вместо 1/27Г должно быть 2/7Г.
3. Доказать формулу (22).
4. Формула (24) справедлива для всякой функции FeC2. Попытайтесь
это доказать.
5. Обобщить формулу (11) на неоднородный d-мерный векторный
случай, вместо функции F(Xk) рассматривая функции F(k, Xxk, ..., Х%).
6. Пусть f(x) = F'(x). Рассмотрим тождество
п п
F(Xn) = F(X0) + Y, №"-1)A^ + E №) ~ F^~ i) " №"-1)A^l •
k=\ k=\
которое, несмотря на всю свою тривиальность, может рассматриваться как
одна из версий формулы замены переменных в случае дискретного времени
(дискретная версия формулы Ито).
Привести соображения, показывающие, как из этого тождества можно
было бы получить формулу замены переменных К. Ито (формула (24))
для дважды непрерывно дифференцируемых функций F = F(x) в случае
броуновского движения.
7. Обобщить тождество из предыдущей задачи на неоднородный
векторный случай (вместо F(Xk) рассматриваются F(ky Xlk> ..., Х£)).
8. (К дискретной версии формулы Танака; см. задачу 3 в § 9 главы I.)
Рассматривается симметричная схема Бернулли (т. е. последовательность
независимых одинаково распределенных случайных величин £i, £2, ... с
Р{€/, = =Ы}=Р{^Я = —1}= 1/2, Ol), S0 = 0, S„ = £i+... + £,. Положим

314
ГЛ. VII. МАРТИНГАЛЫ
для xeZ = {0, ±1, ±2, ...}
Nn(x) = #{k,0^k^n\ Sk = x}
— число тех 0 < k < я, для которых Sk = x.
Доказать справедливость следующего дискретного аналога формулы
Танака:
п
\Sn - х\ = \х\ + ^2 sign(5^_i - x) ASk + Nn(x).
k=\
Замечание. Если В = (Bt)t->о — броуновское движение, то известная
формула Танака утверждает, что
\Bt - х\ = \х\ + § sign(Bs - x) dBs + Nt(x\ t ^ 0,
о
где Nt(x) — локальное время, проводимое на интервале [0, /]
броуновским движением на уровнех eR. (Определение локального времени Nt(x)y
данное П. Леви, таково:
1 с
Nt(x) = \\m ± \l(\Bs-x\>£)ds;
см., например, [12], [97].)
§ 10. Вычисление вероятности разорения
в страховании. Мартингальный метод
1. Доказать, что процесс N = (Nt)t^o является (в предположении А;
см. с. 747 книги «Вероятность —2») процессом с независимыми
приращениями.
2. Доказать, что процесс X = (Xt)t^o также является процессом с
независимыми приращениями.
3. Рассмотреть модель Крамера—Лундберга и сформулировать
соответствующий аналог приведенной теоремы для того случая, когда величины
<7/, / = 1, 2, ..., являются независимыми и распределенными по
геометрическому закону, т.е. Р{сг, =k) = qk~xp, k^ 1.
4. Пусть N = (Nt)t^o — процесс Пуассона (с параметром А),
определенный формулой (3). Пусть 0 = to < t\ < ... < tn и 0 < k\ < k<i < ... < kn.
Показать, что имеет место следующее «марковское свойство»:
P(Ntll=kn\Ntl=k{ Ntn_]=kn.l) = P(Ntll=kn\Ntn_l=kn.{y

§ 10. ВЕРОЯТНОСТИ РАЗОРЕНИЯ В СТРАХОВАНИИ 315
5. Пусть N = (Nt)t^o —стандартный процесс Пуассона (для
которого параметр Л= 1) и А(/) — неубывающая непрерывная справа функция
с А(0) = 0. Рассматривается процесс N o\ = (N\(t))t^o- Исследуйте
свойства этого процесса (конечномерные распределения, моменты и т.д.).
6. Пусть (Т\,..., Тп) — п первых моментов скачков процесса Пуассона.
Пусть также (Х\, ..., Хп) — независимые одинаково распределенные
случайные величины, равномерно распределенные на [0, /], и Х\п\ ..., Х^ —
порядковые статистики величин Х\, ..., Хп. Покажите, что
Law(7i,...,Tn\Nt=n) = Law(X,(/l), ..., Х%\
т.е. что условное распределение вектора (Т\, ..., Тп) при условии Nt=n
совпадает с распределением вектора (Х\п\ ..., Х}р).
7. Убедитесь в том, что при s <t для процесса Пуассона справедливо
равенство
?{Ns=m\Nt=n)=[C^t)m^-S^-^ *<"'
10, m>n.
8. Элементарно проверяется, что если Х\ и Х^ — две независимые
случайные величины, имеющие пуассоновское распределение с параметрами
Ai и А2 соответственно, то Х\ +X<i имеет также распределение Пуассона
(с параметром Ai +Л2). Установите обратный результат (Д. Райков): пусть
Х\ и Х2 — независимые невырожденные случайные величины, сумма
которых Х\ +Х2 имеет распределение Пуассона, тогда Х\ и X% также имеют
распределение Пуассона.
9. Пусть N = (Nt)t^o — стандартный процесс Пуассона и в —
независимая от N положительная случайная величина. Рассматривается
«смешанный процесс Пуассона» N = {Nt)t^o c Nt = ^te- Установите справедливость
следующих свойств.
(a) Усиленный закон больших чисел:
Y^e (Р-п.н.), t^oo
(ср. с примером 4 в п. 4 § 3 гл. IV).
(b) Центральная предельная теорема:
Nt-9t
Vet
(с) Если O<D0<oo, то
(Nt-et ^ Л _, ч
►оо.
Nt - ENt 0-EO

316
ГЛ. VII. МАРТИНГАЛЫ
10. Показать, что при заданном и>0 «функция разорения»
ф(и) = Р| inf Xt < О} (= Р{Т < оо})
может быть представлена в виде
ip(u) = P<sup Yn^u\,
Показать также, что полученная в основном тексте в § 10 «мар-
тингальными» методами (при соответствующих предположениях) оценка
ф(и) < e~Ru может быть выведена и более элементарным путем.
Именно, если фп(и) = Р\ max У^ик n^\, то ip\(u)^e~Ru, и далее по
индукции устанавливается, что ipn(u)^e~Ru при любом п>\. (Отсюда
<ф(и) = \\п\<фп(и)^е-*и.)
11. Момент разорения Т был определен формулой T = \nf{t^0:
Xt < 0}. Иногда в качестве такого момента разорения берется момент
Т = inf{/ ^0: Xt <0}. Проанализируйте, что изменится в результатах,
изложенных в § 10, если вместо Т рассматривать момент Т.
12. В обобщение (однородного) процесса Пуассона, введенного в п. 2,
рассмотрим неоднородный процесс Пуассона N = (Nt)t^o, определяемый
следующим образом:
Л^=£/(7}</),
где 7/ = (7i +... +(7/ и случайные величины <7, являются независимыми
одинаково распределенными с функцей распределения
Р{<7/</}=1 -expj- §A(s)dsi.
Здесь А(/) — функция, называемая функцией интенсивности, — пред-
t 00
полагается такой, что А(/)^0, §A(s)ds<oo и § \(s)ds = 00. Показать,
ЧТО 0 0 ;
k-\ , t л ($Л(*)^
P{Nt<k} = P{Tk>t} = y exp^-\A(s)ds
v О
/=0 ^ 0 >
13. Пусть N = (Nt)t^o — неоднородный процесс Пуассона (см.
предыдущую задачу 12) и (£п)п^о — последовательность независимых одинаково
распределенных случайных величин, не зависящая от процесса N. Пусть

§ 11. ФУНДАМЕНТАЛЬНЫЕ ТЕОРЕМЫ ФИНАНСОВОЙ МАТЕМАТИКИ 317
g = g(ty х) — неотрицательная функция на R x R. Показать, что
справедлива следующая формула Кемпбелла:
оо t
е J2 gVn* e.)/(7,n<o=S E[g(s, b)]\(s)ds.
n=\ 0
14. Пусть N = (Nt)t^o — однородный процесс Пуассона, /Vo = 0, Nt =
= Y^ I(Tn </),/> 0, и случайные величины ап+\ = Тп+ \-Тп (п^О, Т0 = 0)
п
являются независимыми и одинаково распределенными:
Р{ап+\ ^х} = е~х\ х^О.
Пусть Ut = t — Тнп Vt = TiMt+\. Показать, что
P{Ut <u,Vt^v}= [l{u>t) + I{u<t)(\-e-Xu)](\-e-Xv).
(В частности, отсюда следует, что при каждом / > 0 величины Ut и Vt
независимы, причем Vt имеет экспоненциальное распределение с
параметром А.) Найти вероятность Р{7^,+1 — T^t ^х}. Вывести, что P{7yv,+i — Тщ ^
^ х) ^ е~Хх (= Р{Тп+\ — Тп ^ х}). Показать, что при / —► оо распределение
7yv,+i — Tn( слабо сходится к распределению суммы двух независимых
случайных величин, имеющих экспоненциальное распределение с
параметром А.
§11.0 фундаментальных теоремах стохастической
финансовой математики. Мартингальная
характеризация отсутствия арбитража
1. Показать, что в случае N = 1 условие отсутствия арбитража
равносильно выполнению неравенств (18). (Предполагается, что P{A5i =0}< 1.)
2. Показать, что в доказательстве леммы 1 (п. 4) возможность 2)
исключается условиями (19).
3. Доказать, что мера Р в примере 1 (п. 5) является мартингальной
мерой и при этом единственной в классе М(Р).
4. Исследовать вопрос о единственности мартингальной меры,
построенной в примере 2 (п. 5).
5. Докажите, что в (В, 5)-модели предположение |М(Р)| = 1 влечет
Sn
«условное двуточие» (п. 6) для распределения величин —, 1 < n^N.
tin
6. Согласно замечанию 1 к теореме 1 «первая фундаментальная
теорема» справделива, если N < оо и d < оо. Привести пример, показывающий,
что если d = оо, то может случиться, что арбитраж отсутствует, но
мартингальная мера не существует.

318
ГЛ. VII. МАРТИНГАЛЫ
7. В дополнение к определению 1 будем говорить, что (В, 5)-рынок
является безарбитражным в слабом смысле, если для всякого
самофинансируемого портфеля 7г = (/?, 7) с Xfi = О и X* ^ 0 (Р-п. н.) для всех п < N
имеем Х]Ц =0 (Р-п. н.). Также будем говорить, что (В, 5)-рынок является
безарбитражным в сильном смысле, если для всякого
самофинансируемого портфеля тгсЛ'о'^ОиЛ'уу^О (Р-п. н.) имеем Х% =0 (Р-п. н.) для
всех 0<я<ЛЛ
Пусть выполнены предположения теоремы 1. Показать, что следующие
условия являются равносильными:
(i) (Б, 5)-рынок является безарбитражным;
(и) (В, 5)-рынок является безарбитражным в слабом смысле;
(iii) (Б, 5)-рынок является безарбитражным в сильном смысле.
8. Пусть (как в теореме 1)
М(Р) = 1 Р ~ Р: — является Р-мартингалом >
— множество всех мартингальных мер,
М|0С(Р) = < Р ~ Р: — является Р-локальным мартингалом >,
МЬ(Р) = {Р-Р: РеМ(Р) и (Р-п. н.) плотности ^(ш) < С(Р)
для некоторой константы С(Р)>.
Показать, что в условиях теоремы 1 следующие условия являются
равносильными:
(i)M(P)^0; (ii)M,oc(P)^0; (iii)Mb(P)^0.
§ 12. О расчетах, связанных с хеджированием
в безарбитражных моделях
1. Найти цену C(/W; Р) стандартного опциона-колл с fN = (S/v - К)+
для модели (В, 5)-рынка, рассмотренного в примере 2 п. 5 § 11.
2. Попытайтесь доказать справедливость обратного неравенства в
формуле (10).
3. Докажите формулу (12) и попытайтесь доказать формулу (13).
4. Дать подробный вывод формулы (23).
5. Доказать формулы (25) и (28).
6. Привести подробный вывод формулы (32).
7. В одношаговой CRR-модели
fli=fl0(l+r), Si=S0(l+p)

§ 12. О РАСЧЕТАХ, СВЯЗАННЫХ С ХЕДЖИРОВАНИЕМ 319
предполагалось (см. (17) в п. 7), что р принимает два значения а и ft,
причем — 1 < а < г < ft. Будем теперь предполагать, что р имеет равномерное
распределение на [а, ft].
Показать, что в этом случае верхняя цена (So = const)
С(/; Р) = inf{jc: Зтг с Х$ = х и X? > /(50(1 +/>)) Vpe [a, ft]},
где /(5о(1 +р)) — выпуклая вниз непрерывная функция, ре [a, ft],
совпадает с верхней ценой (см. формулу (19) в случае N = 1) в CRR-модели
(с Р{р = Ь} = р, Р{р = а}= 1 - р, 0< р< 1) и, следовательно,
?/f. Р^-1^£ /(SoO+fr)) , 6-г /(5р(1+д))
Ц[,Г)"&-а' 1+г +ft-a" 1+г *
8. (К формуле Блэка—Шоулса.) В обобщение дискретного (по
времени) (В, 5)-рынка с B = (Bn)o^n^Ni S = (S„)o<ai^/v (см. с. 768 книги
«Вероятность — 2») рассмотрим непрерывный (по времени) (В, 5)-рынок с
В = (В,)о^7\ 5 = (S*)o</<7\ где
Bt=Boe~rt, г^О, В0>0
и
St=S0e^t+<7Wt (*)
с 5о>0 и винеровским процессом (броуновским движением) W=(Wt)o^t^r-
По аналогии с платежной функцией опциона-колл //v = (5/v — К)~*~ (см.
формулу (1) на с. 769) введем функции /У = (Sr — К)~*~- Будем считать, что
в формуле (*) 2
Показать, что в этом допущении
(a) последовательность (тг) является мартингалом и
\BtJo^t^T
(b) «справедливая» цена С(/У; Р) соответствующего опциона-колл
(опциона покупателя), определяемая как
С(/Г;Р) = Б0Е^,
Of
задается формулой Блэка—Шоулса:
/l„3l + r(r+£)
ОД; Р) = 5сФ( ^ 2') -Ке-«Фу -^ ;.
Указание. (Ь) Надо прежде всего убедиться в том, что С(/У; Р) =
= е-гТ(аеь*-ь*/2 -К}+, где a = S0erT, b = cry/T и £~</К(0, 1). Затем непо-
■"тМ'+т)\ ,,_,Л"т+т('-т)

320
ГЛ. VII. МАРТИНГАЛЫ
средственным подсчетом показать, что
§ 13. Задачи об оптимальной остановке.
Мартингальный подход
1. Показать, что построенная в доказательстве леммы (п. 3) случайная
величина £(и) = sup fa(w) удовлетворяет требованиям а) и Ь) в
Определенно
нии существенного супремума.
Указание. В случае a^2lo рассмотрите Е max(£(tj), £аМ)-
2. Показать, что величина £(и) = tg £(u), (см. конец доказательства
леммы п. 3) также удовлетворяет требованиям а) и Ь).
3. Пусть £i, £2, ... — последовательность независимых одинаково
распределенных случайных величин с E|£i|<oo. Рассматривается задача об
оптимальной остановке (в классе 9Jtf° = {г: 1 < г < оо}):
V*= sup E (max & - ст).
Пусть т* = \nf{n^ 1: £п^А*}, где А* — единственный корень уравнения
E(£j — А*) = с (inf 0 = 00). Показать, что если Р{т* <оо} = 1, то момент г*
является оптимальным в классе всех конечных моментов остановки т, для
которых Е( max £; — ст) существует.
Показать также, что V* =А*.
4. В этой и следующей задаче приняты следующие обозначения:
Т1™ = {т: л<т<оо}, V™= sup E/r,
o~ = esssup E(/r|^), т~ = Щк^п: v™ = fn).
Предполагая, что
Е sup /~ < оо,
показать, что для предельных случайных величин
vn = Jim vNn
N—юо
справедливы следующие утверждения:
(а) для всякого г е Ш^
vn^E(fT\^n)-

§ 13. ЗАДАЧИ ОБ ОПТИМАЛЬНОЙ ОСТАНОВКЕ 321
(b) если момент т%° G 9Я^°, то
vn = E(f7~\&n),
vn = v™ (=esssupE(/T|^)).
5. Пусть т%°еШ^. Вывести из утверждений (а) и (Ь) предыдущей
задачи, что этот момент т^° является оптимальным в том смысле, что
esssupE(/r|J^) = E(/roo|J^) (Р-п.н.)
И
sup Е /г = Е /гоо,
т.е. 1^° = Е/Г/ос.
6. Пусть (fi, &, Р) — вероятностное пространство и Е = {£а(о;); aG2l} —
семейство случайных величин таких, что Е|£а| < С для всех aG2l. Будем
предполагать, что семейство Е «богато» в том смысле, что если £а, G Е,
£а2 G Е, где а\, а2 G 21, то
для любого Ае^. (В этом случае говорят, что семейство Е допускает
игольчатые вариации.) Для этого семейства Е положим
Q(,4) = sup E£JA, AeJ?.
a€2l
Показать, что
(a) Q = Q() является сг-аддитивной функцией множеств;
(b)Q<P;
(c) производная Радона—Никодима
-Tp-=esssup £а (Р-п.н.).
(Утверждение (с) можно рассматривать как доказательство
существования существенного супремума семейства случайных величин,
допускающего игольчатые вариации.)
Показать, что утверждения (а), (Ь) и (с) останутся в силе, если условие
Е|£а| < С, a G 21, заменить на условие Е£~ < оо, a G 21.
7. Пусть 9Я£° = {г: п < г < оо}. Показать, что если т\, t<i G 9Я£° и Л G «^,
то момент t = t\Ia +t%Ia принадлежит классу Ш^.
8. Пусть (Q, ^\ (&п)п^о, Р) — фильтрованное вероятностное
пространство, fn — такие ^"„-измеримые случайные величины, что Ef~ < оо, я > 0.
Показать, что семейство случайных величин {E(/r | &п)\ rG 9JtJJ°} допускает
(при каждом п > 0) игольчатые вариации.

Глава VIII
ПОСЛЕДОВАТЕЛЬНОСТИ СЛУЧАЙНЫХ ВЕЛИЧИН,
ОБРАЗУЮЩИЕ МАРКОВСКУЮ ЦЕПЬ
§ 1. Определения и основные свойства
1. Доказать утверждения, сформулированные при доказательстве
теоремы 1 как задачи la, lb и 1с (см. п. 3).
2. Показать, что в теореме 2 функция Рп+\ (В — Хп(и)) является
^"„-измеримой по и.
3. Вывести свойства (11) и (12) из утверждения леммы 3 в § 2 гл. II.
4. Доказать свойства (20), (27).
5. Установить справедливость соотношения (33).
6. Доказать утверждения (i), (ii) и (iii), сформулированные в конце п. 8.
7. Вытекает ли из марковского свойства (3) следующее свойство:
Р(Хп+1еВ\х0еВ0 хпеВп) = Р(Хп+хеВ\хпеВп)ч
где В0, ..., Вп и В — множества из S и Р{Х0 еВ0 ХпеВп}> 0?
8. Рассматривается цилиндрический кусок мела единичной длины.
Переламываем его «случайным» образом на две части. Затем переламываем
«случайным» образом левый кусок и т. д. Пусть Хп —длина левого куска
после п переламываний, &п = а(Х\, ..., Хп). Тогда Хо = 1 и если Хп = х, то
условное распределение Хп+\ будет равномерным на [0, х].
Показать, что так образованная последовательность (Хп)п^о является
однородной марковской цепью, при этом для всякого а > — 1
последовательность
Мп = (1+а)пХ?щ л>0,
есть неотрицательный мартингал. Доказать, что с вероятностью единица
для всякого 0 < р < е
lim pnXn=0
п
и для р > е
lim pnXn = oo.
п
(Исходя из представления, что в среднем каждый кусок ломается
пополам, можно было бы ожидать, что Хп стремится к нулю со скоростью 2~п.
Однако результат lim pnXn = 0 (Р-п. н.) показывает, что сходимость Хп к
нулю более быстрая — «почти» порядка е~п.)

§ 1. ОПРЕДЕЛЕНИЯ И ОСНОВНЫЕ СВОЙСТВА 323
9. Пусть £i, &» ••• — последовательность независимых одинаково
распределенных случайных величин с Р{£„ = 1} = Р{£„ = — 1} = -, п > 1 (схема
Бернулли), 5о = 0, Sn = £i +... + £л и Мп = тах{5^: 0 < k < я}, п > 1.
(a) Будут ли последовательности (\Sn\)n^0, (|А^«|)«^о и (Mn-Sn)n^0
образовывать марковские цепи?
(b) Будут ли эти последовательности марковскими цепями, если 5о =
= x^0,S„=x+f,+... + £.?
10. Пусть (Хп)п^о — марковская цепь с фазовым пространством Е =
= {—1,0, 1}. Пусть pij > 0, /, / е Е. Дать необходимые и достаточные
условия для того, чтобы последовательность (|Хл|)я^о образовывала
марковскую цепь.
11. Привести пример последовательности Х = (Хп)п^о случайных
величин, не образующих марковскую цепь, но для которой, тем не менее,
выполнено уравнение Колмогорова—Чепмена.
12. Пусть Х = (Хп)п^о — марковская цепь (в широком смысле) и
Yn =Хп+\ -Хп, п > 0. Показать, что (X, У) = ((Хп)п^о, (Yn)n^o) также
является марковской цепью. Будут ли марковскими цепями последовательности
(Хп, Хп+\)п^о, (Х2п)п^0, (Xn+k)n^0 ДЛЯ Й> 1?
13. Будем говорить, что последовательность X = (Хп)п^0 случайных
величин Хп, я>0, со значениями в счетном множестве Е образует
марковскую цепь порядка г> 1, если
Р(Хп+\ = h+\ |^o = 'Ov, Xn = in) =
= Р(Хп+\ = in+\ \Xn-r+\ = in-r+\, ..., Xn = in)
для всех /о, • • ^ in+\' n ^ r-
Положим Хп = (Хп, Xn+\, ..., Xn+r-\), я>0. Показать, что
последовательность X = (Xn)n^o образует обычную марковскую цепь (иначе — цепь
порядка г= 1).
14. (Случайное блуждание на группе.) Пусть G — конечная группа
с бинарной операцией, обозначаемой 0. Предполагается, что бинарная
операция 0 удовлетворяет обычным групповым свойствам:
(i) если х, у eG, то хфу е G;
(и) если х, у, z е G, то х 0 (у 0 г) = (х 0у) 0 z\
(iii) существует «единичный» элемент е такой, что хфе = ефх=х для
всех х eG;
(iv) для каждого х eG существует «обратный» элемент — х такой, что
х 0 (-х) = (-х) Фх = е.
Пусть £о, £ь &, • • • — последовательность случайных элементов со
значениями в G и с одними и теми же вероятностями Q(g) = Р{£п = g}, g^G,
п^О.

324
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
Показать, что случайное блуждание X = (Хп)п^>0 с Хп = £0 0 £i 0... 0 £п
образует марковскую цепь. Описать матрицу переходных вероятностей.
15. (Случайное блуждание на окружности.) Пусть £ь &, ••• —
последовательность независимых одинаково распределенных случайных
величин со значениями в [0, 1], имеющих непрерывную плотность
распределения f(x). Образуем последовательность X = (Хп)п^о с Хо = х е [О, 1) и
Хп = х+£\ + ... + £п (mod 1).
Показать, что Х = (Хп)п^о образует марковскую цепь (с множеством
состояний Е = [О, 1)). Найти ее переходную функцию.
16. Пусть Х = (Хп)п^о и У = (Уп)п^о — две независимые марковские
цепи, заданные на одном и том же вероятностном пространстве (ft, &, Р),
принимающие значения в счетном множестве Е = {/, /, ...} и имеющие одну
и ту же матрицу переходных вероятностей. Пусть Хо = х и Yo=y.
Показать, что последовательность (X, Y) = (Xn, Yn)n^o будет
образовывать марковскую цепь. Найти ее матрицу переходных вероятностей.
17. ПустьХ\,Х2, ... — последовательность неотрицательных
независимых одинаково распределенных случайных величин с непрерывной
функцией распределения. Введем следующие моменты — моменты рекордов:
&х = 1, ^ = inf{Az>^fe_i: X„>max№, ...,X„_i)}, £>2.
Показать, что последовательность 3% = (3%k)k>\ образует марковскую
цепь. Найти ее матрицу переходных вероятностей.
18. Пусть Х\у Х2, ... —неотрицательные независимые одинаково
распределенные величины с дискретным множеством значений и g% =
= (&k)k^\ — последовательность моментов рекордов (см. предыдущую
задачу). Показать, что последовательность V = (Vk)k^\ с Vk = X&k
(«последовательность величин рекордов») образует марковскую цепь. Найти ее
матрицу переходных вероятностей.
19. (О сохранении свойства марковости при обращении
времени.) Пусть X = (Xn)o^n^N — неразложимая марковская цепь со счетным
множеством состояний £, матрицей переходных вероятностей Р= \\pij\\ и
инвариантным начальным распределением q = (qi) таким, что qt > О для
всех ieE (об инвариантных распределениях см. с. 809 книги
«Вероятность—2»).
Образуем новую «обращенную» во времени последовательность Х^ =
= (Хп)о^п^ы с Хп=Хн_п. Положим Р = ||/>//• ||, где рц = pji. Показать, что
матрица Р является стохастической и по отношению к этой матрице
«обращенная» последовательность является последовательностью величин,
связанных марковской зависимостью (см. определение 2).

§ 1. ОПРЕДЕЛЕНИЯ И ОСНОВНЫЕ СВОЙСТВА 325
Замечание. Одно из определений марковости (см. (7) в теореме 1)
говорит о том, что при заданном «настоящем» «будущее» и «прошлое»
независимы. Это свойство приводит к идее рассмотрения поведения
последовательности X = (Xn)o^n^N в обращенном времени. Из приведенного
в задаче результата следует, что если в качестве начального
распределения брать инвариантное распределение, то обращенная цепь также будет
марковской, правда, вообще говоря, с другой матрицей переходных
вероятностей.
20. (Обратимая марковская цепь.) Пусть X = (Хп)п^0 — марковская
цепь со счетным множеством состояний £, матрицей переходных
вероятностей Р =11^^11 и инвариантным распределением q = (qi). Говорят, что
такая (q, Р)-марковская цепь является обратимой (см., например, [124]),
если для любого N > 1 «обращенная» во времени последовательность
X^ = (Xn)o^n^N с Хп =Хн-п также является (q, Р)-марковской цепью.
Показать, что неразложимая марковская цепь является обратимой
тогда и только тогда, когда выполнено условие
QiPij = QjPji Аля всех /, jeE.
Убедиться в том, что если распределение А = (А,) (А/ > 0, £ А,- = 1) и
матрица Р удовлетворяют балансовому условию: при /, / е Е
>4Pij = ><jPji,
то А = (А/) совпадает с инвариантным распределением q = (q{).
21. Показать, что в модели Эренфестов (§ 8, п. 3) со стационарным
распределением qt = ClN(\/2)N, i = 0, 1, ..., /V, выполнено приведенное
выше балансовое условие:
4iPi,i+\ =qi+\Pi+\,i-
(Заметим, что в рассматриваемой модели рц = 0, если |/ — /| > 1.)
22. Показать, что марковская цепь с матрицей переходных вероятно-
СТеИ / 0 2/3 1/3\
Р= 1/3 0 2/3
\2/3 1/3 0 /
имеет инвариантное распределение ^ = (1/3, 1/3, 1/3). Убедиться в том,
что при каждом N > 1 последовательность Х^ = (Ar/v_«)o^«^/v является
марковской (по отношению к Р, являющейся матрицей,
транспонированной к матрице Р). Убедиться также в том, что цепь X = (Хп)п^о не является
обратимой. Дать наглядное объяснение этого.
23. Пусть X = (Хп)п^о — стационарная (в узком смысле)
невырожденная гауссовская последовательность. Показать, что эта последователь-

326
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
ность обладает марковским свойством тогда и только тогда, когда ковари-
ация cov(Ar„, Хп+т) для всех п > 0 и га > 0 имеет следующий вид:
СО\/(Хп,Хп+т)=(Т2рт,
где<г2>0, |р|<1.
§ 2. Обобщенное марковское и строго марковское
свойства
1. Доказать, что функция ф(х) = ЕхН из замечания в п. 1 является
^-измеримой.
2. Доказать свойство (12).
3. Доказать свойство (13).
4. Выполняется ли свойство независимости величин Хп — ХтАп и ХтАп
в примере из п. 3?
5. Доказать формулу (23).
6. Пусть пространство (состояний) Е не более чем счетно, (ft, &) =
= (Е°°У &°°), и пустьвп: ft—>fi — оператор сдвига, я> 1: дляо; = (хо, х\, ...)
вп(ш) = (хп, хп+и ..-)•
Через X = (Хп(си))п^о обозначим канонически заданный процесс: Хп(си)=хп
для всех я>0 и си = (хо, х\, ...).
Для всякой ^"-измеримой функции Н = Н(и>) будем полагать (см. (1))
(Новп)(и>) = Н(вп(и>)), л>1,
и для всякого ^"-измеримого множества В положим (ср. с определением 2
в § 1 главы V)
в~\В) = {и: 0п(и)еВ1 л>1.
Пользуясь данными определениями, доказать справедливость
следующих свойств:
(a) для га > 0, п > 1
Хщ °0п = Хт+п,
т. е. (Хтовп)(и)=Хт+п(и)\
(b) для га > 0, п > 1
т. е. для всякого А е §
0"V Хт{и)еА) = {и: {Хтовп){и)еА) = {и: Хт+п(ш)еА}\

§ 2. ОБОБЩЕННОЕ МАРКОВСКОЕ И СТРОГО МАРКОВСКОЕ СВОЙСТВА 327
и, более общим образом,
в-х{Х0еА0 ХтеАт} = {Х0овпеА0, ..., ХтовпеАт} =
= {Хп е Ло, ..., Хт+п е Ат).
Показать также, что
0;l(&m) = <T(Xn,...,Xm+n) (*)
(при естественном понимании символов в~х(^т) и а(Хп, ..., Хт+п); дать
соответствующие пояснения).
7. Пусть И =Н(и>) — ^"-измеримая функция и А е SS(R). Показать, что
{Новп)-'(А) = в-\Н-\А)). (**)
8. Пусть г = т(и) — момент остановки (т. е. конечный марковский
момент) относительно (<&k)k^o, где ^ = сг(Лго, Х\, ..., Xk). Показать,
основываясь на свойствах (**) и (*) из задач 7 и 6, что для всякого п > О момент
п + товп также является моментом остановки,т. е. {и>: п + (товп)(и>)=т}е
е &т ДЛЯ ВСЯКОГО Ш > П.
9. Пусть а = <г(и>) — момент остановки, И = Н(и>) — ^"-измеримая
функция. Будем под (Н ов0)(и>) понимать функцию Н(ва^(ш)), т. е. величину
Н(вп(ш)), если и е {си: а(ш) = п).
В обобщение задачи 8 показать, что <т + това будет также моментом
остановки.
10. В соответствии с определением Н ова, данным в предыдущей
задаче, будем под Хт о ва для моментов остановки г и а понимать величину
XT{ea{<Jj))(eo(u)), т. е. величину XT(etA<J))(en(u)), если и е {и: <т(и) = п).
В обобщение свойства Хтовп =Хт+п из задачи 6 показать, что
ХТ ов<т = Хтова+<7.
11. Пусть множество В е § и
TB(u>) = mf{n^0: Xn(u)eB), ав{и>) = Ы{п >0: Хп{и)еВ)
— моменты первого и первого после нуля попадания последовательности
X = (Хп)п^0 в множество В.
Будем считать, что эти моменты конечны для всех и>е£1, и пусть
7 = 7(^0 — момент остановки.
Показать, что тв и ов являются моментами остановки и
7 + Tfio07 = inf{AZ>7: XneB), 7 + <7fi°07 = inf{rc>7: XneB}.
(Эти соотношения остаются справедливыми и в том случае, когда величины
7» тв, &в принимают бесконечные значения, а множества {•} являются
пустыми. Дать соответствующие определения и аргументацию о выполнении
приведенных соотношений в общем случае.)

328
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
12. Пусть г и а — марковские моменты. Показать, что момент и =
= тов0+<т (с соглашением, что */ = оо на множестве {сг = оо}) является
марковским.
13. Показать, что строго марковское свойство (7) в теореме 2 остается
справедливым и для любого марковского момента т<оо, принимая при
этом следующий вид:
Еж[1(т<оо)(Новт)\^]=1(т<оо)ЕХтН (Р.-п.н.)
(Я — ограниченная или неотрицательная ^"-измеримая функция; под ЕхтН
понимается случайная величина ф(Хт), где ф(х) = ЕХН).
Показать также, что если К = К{и>) — ^--измеримая функция, И и
К ограничены или И и К неотрицательны, то для любого марковского
момента т < оо
Еп[(1(г<оо)Ю(Новт)] = Е1Г[(1(г<оо)К)ЕХгН].
14. Показать, что рассмотренная в примере п. 3 последовательность
(ХтАп, Px)n^0i xtE, является марковской цепью. Будет ли это свойство
справедливым для любой марковской цепи (со счетным множеством
состояний) и марковского момента вида г = inf {п > 0: Хп е А}, где Л С £ (ср.
с (15))?
15. Пусть функция Н(х) = (Uh)(x) — потенциал (см. приложение, § 7,
с. 385) неотрицательной функции h = h(x). Показать, что Н(х) является
минимальным решением уравнения V(x) = h(x) + TV(x) (в классе
неотрицательных функций V = V(x)).
16. Пусть у° еЕ. Показать, что функция Грина G(x, y°) есть
наименьшее неотрицательное решение системы
«={■
v ; ч Щх), хфу°
17. Показать, что если г и а — два марковских момента, то для
переходных операторов ТПу я> О, справедливо следующее равенство:
Указание. Воспользоваться строго марковским свойством и
свойством Хтова = XTOea+<j из задачи 10.
18. Пусть De& и
t(D) = inf {n > 0: Хп е D}, a(D) = inf {n > 0: Хп е D).
Показать, что
Xo(D) = Xt{D)ob, на {<t(D) < оо},
T<t(D) = ТТтф).

§ 2. ОБОБЩЕННОЕ МАРКОВСКОЕ И СТРОГО МАРКОВСКОЕ СВОЙСТВА 329
19. Пусть g>0 и VD(x) = TT{<D)g(x). Показать, что VD(x) есть
наименьшее неотрицательное решение системы
-{|
v ; ^TV(x), x<?D.
В частности, если g= 1, то функция Vo(x) = Px{t(D)< 00} есть наименьшее
неотрицательное решение системы
« = {п
VM~^TV(x). x(d]
20. Опираясь на строго марковское свойство, показать, что функция
то(х) = Exr(D) удовлетворяет следующей системе:
{:■
v(x) = c xeD'
v ; ^ *+TV(x), x<£D.
Показать также, что то(х) есть наименьшее неотрицательное решение
этой системы.
21. Пусть / =/(х) — неотрицательная эксцессивная функция.
Показать, что эта функция допускает разложение Рисса:
f(x) = f(x) + Uh(x),
где f(x) есть гармоническая функция
f(x) = \im(Tnf)(x),
П
a Uh(x) есть потенциал функции
h(x) = f(x)-Tf(x).
22. Пусть Х = (Хп)п^\ и Y = (Yn)n^\ —две независимые марковские
цепи с множеством состояний £ = {1,2} и одной и той же матрицей
переходных вероятностей \\_q q ), где а,/Зе (0, 1). Обозначим т =
= mf{n >0: Xn = Yn} — момент «первой встречи» (т = оо, если {-} = 0).
Найти распределение вероятностей момента т.
23. Пусть X = (Хп, ^п)п^о — некоторая стохастическая
последовательность и Be£§(R). В соответствии с примером 6 момент T# = inf{A7>0:
ХпеВ}и, аналогично, момент <7fi = inf {я >0: XneB} являются марковскими
моментами. (Всегда считается, что inf 0 = оо.) Показать, что момент
7fi=sup{0<n</V: XneB)

330
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
(с sup 0 = 0), где N — некоторое целое число, не является марковским
моментом.
24. Показать, что утверждение теоремы 1 (а также и теоремы 2)
останется справедливым, если требование ограниченности функций Н = Н(и>)
заменить на требование их неотрицательности.
25. Пусть X = (ХПу ^п)п^о — марковская последовательность и г —
конечный марковский момент. Показать, что случайная последовательность
х = (хп, &п)п>о с
Хп = Хп+Т И сГп = ^гп-\-т
снова является марковской последовательностью, причем с той же самой
переходной функцией. (Это свойство можно рассматривать как
простейшую форму строго марковского свойства)
26. Пусть (Х\, Х2, ...) — последовательность, состоящая из
независимых одинаково распределенных случайных величин с функцией
распределения F = F(x). Обозначим ^Ь = {0, ЭД, &п = о{Х\ > • • •, Хп), я > 1, и пусть
г —марковский момент (относительно (&п)п^о)- Пусть также Л —событие
из сг-алгебры &Т.
Предполагая, что г является ограниченной случайной величиной (0<
< т(и) < Т < оо, и> е ft), показать, что
(a) величины 1а, Х\+т, Л^+т, ... являются независимыми;
(b) каждая из величин Хп+Т имеет своей функцией распределения
функцию F = F(x), т. е. Law(Ar„+r) = Law(A'i), n > 1.
(Из свойств (а) и (Ь) вытекает, что вероятностная структура
последовательности (A"i+r, X2+T, • ••) такая же, как и структура
последовательности (Х\, ^2, ...), т. е. Law(A"i+r, X2+T, ...) = Law(Ari, X2, ...), что можно
рассматривать как свойство сохранения вероятностных свойств
последовательности (Хп)п^\ при «случайном сдвиге времени п-^п + т»).
Пусть теперь г — произвольный марковский момент (0<т<оо).
Показать, что свойство (а) переформулируется в следующем виде:
Р(ЛП{т<оо};Х1+т<х,, ...,Xn+T^xn) = P(AC\{T<™))F(xx)...F(xn)
(для всех п > 1 и хп Е /?).
Указание. Для решения задачи надо заметить, что
P(i4n{r<oo};Xi+T<Xi, ...,Хп+т^хп) =
оо
= J2 P(Ar\{r = k}\Xi+k^xu ...,Xn+k^xn),
где события А П{г = k) и {Х\ +& <х\,..., Xn+k ^xn} являются независимыми.

§ 3. ПРЕДЕЛЬНЫЕ РАСПРЕДЕЛЕНИЯ
331
§ 3. О проблематике предельных, эргодических
и стационарных распределений вероятностей
для марковских цепей
1. Привести примеры марковских цепей, у которых существуют
пределы 7Г/ =lim p^f:
1 п r 4
(a) не зависящие от начальных состояний /';
(b) зависящие от начальных состояний /.
2. Привести примеры эргодических и неэргодических цепей.
3. Привести примеры, когда стационарное распределение не является
эргодическим.
4. Привести пример матрицы переходных вероятностей, для которой
любое распределение вероятностей на состояниях является стационарным
распределением.
§ 4. Классификация состояний марковских цепей
по алгебраическим свойствам матриц переходных
вероятностей
1. Придать рассмотренному в конце п. 1 описательному определению
несущественных и существенных состояний количественную формулировку
в терминах свойств переходных вероятностей р£\ /, / е£, я> 1.
2. Пусть Р — матрица переходных вероятностей неразложимой
марковской цепи с конечным числом состояний. Пусть Р2=Р. Исследовать
структуру этой матрицы Р.
3. Пусть Р — матрица переходных вероятностей конечной марковской
цепи X = (Xn)n^Q. Пусть сгь сг2, ... —последовательность независимых,
одинаково распределенных, неотрицательных, целочисленных случайных
величин, независимых от X, и пусть то=0, тп = ег\+ ... + егп, п^\.
Показать, что последовательность Х = (Хп)п^0 с Хп=ХТп является цепью
Маркова. Найти матрицу Р переходных вероятностей этой цепи. Показать,
что если состояния / и / являются сообщающимися для цепи X, то они
будут таковыми и для цепи X.
4. Для марковской цепи X = (Хп)п^о с двумя состояниями, Е = {0, 1}, и
матрицей переходных вероятностей Р= L °^q ~qCL j, a, /?£ (О, 1), введем
марковский момент
i/ = inf{/z>l: Xn-\=Xn = 0}.
Показать, что
2-(a + fl

332 ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
5. Рассматривается марковская цепь с тремя состояниями, Е = {1, 2, 3},
и матрицей переходных вероятностей
/ а \-а О \
Р=( 0 /3 1-/3
\1-7 0 7 /
где а, /3, 7^(0, 1). Показать, что цепь с этой матрицей переходных
вероятностей является неразложимой. Рассмотреть вопрос о стационарных
распределениях для этой марковской цепи.
6. Могут ли быть все состояния марковской цепи несущественными в
случае
(a) конечного числа состояний,
(b) счетного числа состояний?
§ 5. Классификация состояний марковских цепей
по асимптотическим свойствам переходных
вероятностей
1. Рассмотрим неразложимую цепь с множеством состояний 0, 1,2, ...
Показать, что для того чтобы она была невозвратной, необходимо и
достаточно, чтобы система уравнений и} =Y^ Щ рц, j = 0, 1, ..., имела огра-
ничейное решение такое, что щ ф const, / = 0, 1, ...
2. Показать, что для того чтобы неразложимая цепь с множеством
состояний 0, 1, ... была возвратной, достаточно существования такой
последовательности (щ, и\, ...) с щ —>оо, / —>оо, что и} > X) ЩPij Для всех
/#о.
3. Показать, что для того чтобы неразложимая цепь с состояниями
0, 1, ... была возвратной и положительной, необходимо и достаточно,
чтобы система уравнений Uj = X) Щ Pi], / = 0, 1, ..., имела не тождественно
равное нулю решение, для которого X) \ui\ < °°-
4. Рассматривается марковская цепь с состояниями 0, 1, ... и
переходными вероятностями
Роо = го, Ро\ = Ро>0,
Pi>0, / = /+1,
/7>0, /' = /,
^>0, / = /-1,
0 в остальных случаях.
Pi)-

§ 5. КЛАССИФИКАЦИЯ СОСТОЯНИЙ МАРКОВСКИХ ЦЕПЕЙ 333
Пусть ро= 1, рт = . Доказать справедливость следующих утвер-
Р\ • ••Рт
ждений:
цепь возвратная ф> У^ рт = оо,
цепь невозвратная ф> У^ рт < оо,
цепь возвратная и положительная ф> У^ pw = оо, У^ < оо,
цепь возвратная и нулевая ф> ^J Pm = оо, /^
Ртрт
1
= 00.
PmPm
5. Показать, что
hk>fijfjk,
оо
ГС J *—' '
п=\
6. Показать, что для любой марковской цепи со счетным множеством
состояний всегда существуют пределы для pff в смысле Чезаро:
ita!y; ,,#> = &.
п П ^—^ Ч Li;
7. Рассматривается марковская цепь £о> £ь ••• с €k+\= (^)+ + ^+ь
й>0, где т/1, т/2, ... —последовательность независимых одинаково
распределенных случайных величин с P{r}k = j} = Pj, /=0, 1, ... Выпишите
матрицу переходных вероятностей и покажите, что если ро > 0, ро + Pi < 1,
то цепь является возвратной тогда и только тогда, когда X) kPk ^ 1-
к
8. Пусть сг/ = inf{п > О: Хп = i} (сг/ = оо, если {•} = 0), erf = сг, и для п > 1
\оо,
>Оо„-\, если сг" ] < оо
\оо,
Показать, что
если a" l =оо.
Р,К<оо} = (Р,{ст,<оо})" (=/S).
9. Пусть №щ — число посещений марковской цепью состояния /.
(a) Показать, что
E'"«=l-P,{Uoo> (=TTfo)-
(b) Переформулировать критерии возвратности и невозвратности
состояния / еЕ из теоремы 1 в терминах среднего времени Е/ЛА^}.

334
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
(с) Показать, что
EI-yVw = PI-{(7/-<cx)}-EI-%.
10. (Необходимое и достаточное условие невозвратности.)
Пусть X = (Хп)п^о — неразложимая марковская цепь со счетным
множеством состояний Е и матрицей переходных вероятностей ||р^||. Показать,
что необходимым и достаточным условием для невозвратности цепи
является существование (нетривиальной) ограниченной функции / = f(x)
и состояния х° £ Е таких, что
уфх*
(гармоничность на множестве Е\{х°}).
11. (Достаточное условие невозвратности) Пусть X = (Хп)п^о —
неразложимая марковская цепь со счетным множеством состояний Е.
Предположим, что существует ограниченная функция / = f(x) такая, что
для некоторого множества ВСЕ
f(x°) < f(x) для некоторого х° £ В и всех х £ В
£/W(</K/«, хеБ (=Е\В)
уеЕ
(супергармоничность на множестве В).
Показать, что это условие является достаточным для невозвратности
цепи.
12. (Достаточное условие возвратности.) Пусть Х = (Хп)п^о —
неразложимая марковская цепь со счетным множеством состояний Е.
Пусть нашлась функция h = h(x), xeE, такая, что для всех констант с
множество Вс ={х: h(x) < с) является конечным. При этом для некоторого
конечного множества АС-Е
J2 Pxyh(y)^h(x), xeA
уеЕ
(супергармоничность на А (=Е\А)).
Показать, что тогда такая цепь является возвратной.
13. Показать, что сформулированное в предыдущей задаче достаточное
условие является и необходимым.
14. Пусть (£п)п^\ —последовательность независимых одинаково
распределенных случайных величин со значениями в R и X = (Хп)п^о —
случайное блуждание, построенное по последовательности (£п)п^\'- ^0 = 0,
Хп = Si + • • • + £л- Пусть U(В) = ENb — математическое ожидание числа

§ 5. КЛАССИФИКАЦИЯ СОСТОЯНИЙ МАРКОВСКИХ ЦЕПЕЙ 335
посещений Ng случайным блужданием X борелевского множества В
(т. е. Nb = Y^ 1в(Хп))- В приложении (§ 7, с. 385) эта мера называется
потенциал-мерой (здесь для начального состояния х = 0).
По аналогии с определениями возвратности и невозвратности для
состояний марковских цепей со счетным множеством состояний (см.
определения 1 и 2 в п. 1), мы будем сейчас говорить, что рассматриваемое
случайное блуждание (которое, конечно, является марковской цепью со
значениями в R) возвратно, если
£/(/) = оо
и невозвратно, если
£/(/)< оо
для любого конечного интервала / С R.
Будем предполагать, что математическое ожидание E£i определено.
Доказать, что выполняется одна из следующих трех возможностей:
1) Хп —>оо (Р-п. н.) и случайное блуждание невозвратно;
2) Хп —► —оо (Р-п. н.) и случайное блуждание невозвратно;
3) ]im Хп = -оо, lim Хп = +оо (т. е. блуждание осциллирует между -оо
и +оо); в этом случае возможна как возвратность, так и невозвратность.
15. В условиях задачи 14 показать (с обозначением /x = E£i), что
1) если 0<^<оо, то Л„—>оо (Р-п. н.);
2) если —оо < р < О, то Хп —► —оо (Р-п. н.);
3) если р = О, то lirn Хп = —оо, lim Xn = +оо и блуждание возвратно.
16. Показать, что случайное блуждание Х = (Хп)п^о является
невозвратным тогда и только тогда, когда с вероятностью единица |Х„|—>оо,
я—>оо.
17. Рассматривается марковская цепь Х = (Хп)п^о с переходными
вероятностями pf/, /, / е£ = {0, ±1, ±2, ...}, такими, что р//=0, если
|/ — /| > 1, и в равенствах
Рц-\ + Pii + Pi,i+i = 1, *е£,
каждая из трех участвующих величин положительна.
Показать, что такая цепь является неразложимой и апериодической.
Найти условия на переходные вероятности (рц, рц-\, Рц+и /g£), при
которых рассматриваемая марковская цепь является возвратной,
невозвратной, положительно возвратной, нулевой (ср. с задачей 4).
Указание. Исследовать рекуррентные соотношения, которым
удовлетворяют вероятности У(/) = Р£-{туо =оо}, /££ (для каждого
фиксированного /°).

336
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
18. (О вероятности вырождения в процессе Гальтона—Ватсона.)
С целью изучения процесса исчезновения фамильных родов в Англии,
Гальтон и Ватсон (в семидесятых годах XIX столетия) предложили
следующую модель, носящую ныне их имя.
Пусть £о, £ь &, • • • — последовательность случайных величин со
значениями в N = {0, 1, 2, ...}, образованных по принципу «суммы случайного
числа случайных величин»:
(Ср. с примером 4 в § 12 главы I.) Предполагается, что {qf\ /> 1, п^О} —
семейство независимых случайных величин, каждая из которых
распредели
лена как случайная величина т/ с P{rj = k} = pk, k^O, Y^ Pk=l- Будем
интерпретировать £„ как число «родителей» в п-м поколении, а г}\} — как
число «детей», производимых /-м «родителем». Тогда £п+\ будет в точности
число «детей», образующих (п+ 1)-е поколение. (Если £л = 0, то считается,
что & = 0 для всех k > п.)
Пусть r = inf{/2>0: £я = 0} — момент, когда происходит вырождение
семейства. (Как обычно, полагаем т = оо, если £„ > 0 при всех п > 0.) Один
из первых вопросов, которые здесь возникают, — это вопрос о том, какова
вероятность
q = P{r<oo),
т. е. вероятность вырождения за конечное время.
Весьма эффективным методом, дающим ответ на этот вопрос,
является метод производящих функций (см. задачу 28 в § 6 главы II
оо
и § 3 приложения). Пусть g(s) = X) PkSk, M<1, есть производящая
функция (g(s) = Esv) случайной величины т/ со значениями 0, 1, 2, ... и
fn(s) = Es^» — производящая функция величины £„.
Показать, что для модели Гальтона—Ватсона:
(a) m = fn-dg(s)) = fn-2(g(g(s)) = ... = fo№a)m где gM(s) =
= (g°-°g)(s) ("раз);
(b) если £о= 1, то f0(s)=s и /n(s) = g<">(s) = g(fa-i(s));
(с)/„(0) = Р{е,=0};
(d) событие {€„ = 0}c{e,+i =0};
(e) Р{т < оо} = Р ( U {£, = 0}) = Jim P{£N = 0} = Jim fN (0);
\n=\ J /v—>oo /V—юо
(f) если ^ = Р{т<оо}, то ^ является корнем уравнения x = g(x),
0<x< 1.

§ 5. КЛАССИФИКАЦИЯ СОСТОЯНИЙ МАРКОВСКИХ ЦЕПЕЙ 337
19. (Продолжение задачи 18.) Пусть g(s) = Esv — производящая
функция случайной величины rj со значениями 0, 1,2, ... Показать, что
(a) функция g = g(s) на [0, 1] является неубывающей и выпуклой книзу;
(b) если Р{т/ = 0}< 1, то функция g = g(s) является строго
возрастающей;
(c) если Р{т/< 1}< 1, то функция g = g(s) является строго выпуклой;
(d) если Р{?7 < 1} < 1 и Ет/< 1, то уравнение х = g(x), О < х < 1, имеет
единственное решение q G [0, 1];
(e) если Р{?7< 1}< 1 и Ет/> 1, то уравнение х = g(x), 0<x< 1, имеет
два решения: х = 1 и х = q G (0, 1).
Указание. Убедитесь прежде всего в том, что g'(x) > 0 и g"{x) > О
для хе[0, 1]. Для доказательства сформулированных утверждений
полезно рассмотреть графики функции g = g(x) в случае Ет/ < 1 ив случае
Ет/>1.
20. (Продолжение задач 18 и 19.) Пусть в модели Гальтона—Ватсона
Ет/ > 1. Показать, что в этом случае вероятность вырождения q = Р{т < оо}
есть единственный корень уравнения х = g(x), который лежит строго между
0 и 1, т. е.
Ет?> 1 => 0<Р{т<оо}< 1.
Если же Ет/< 1 и р\ ^ 1, то вероятность вырождения равна единице, т. е.
Ет?< 1 => Р{т<оо}=1.
21. Пусть в модели Гальтона—Ватсона р\ < 1. Показать, что для
всякого &> 1 P{£n = k б. ч.} = 0. Заключить отсюда, что P<lim £n€{0, оо}> = 1.
22. Показать, что марковская цепь (Хп)п^о со счетным множеством
состояний Е = {/, /, ...}, которые все несущественны, является неразложимой
и возвратной тогда и только тогда, когда:
(a) fij = 1 для всех /, j еЕ (т. е. Р/{сг(/) < оо} = 1, где a(j) = inf{n>0:
*« = /});
(b) каждая конечная неотрицательная функция h=h(i), /е£,
являющаяся эксцессивной (А(/)> X) Pijh(j), /€£, где \\pij\\ — матрица переходных
вероятностей цепи), есть константа.
Указание. (Ь) Необходимость установлена в приложении, § 7,
с. 397. Чтобы доказать достаточность, установите, что для любых /, / Gf
hi = Pi) +^2 Pikfkj,
Ьф\
и выведите отсюда, что если эксцессивными функциями являются только
константы, то //у = 1 при всех /, / е £, что, согласно утверждению (а),
равносильно неразложимости и возвратности цепи.

338
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
§§ 6, 7. О предельных, стационарных и эргодических
распределениях счетных и конечных
марковских цепей
1. Рассмотреть вопрос о стационарных, предельных, эргодических
распределениях для марковской цепи с матрицей переходных вероятностей
'1/2 0 1/2 0\
0 0 0 11
1/4 1/2 1/4 0 !'
0 1/2 1/2 0/
2. Пусть Р= \\pij\\ — конечная дважды стохастическая матрица (т. е.
т т
X) Рц = 1 для / = 1, ..., га и X) Pi]'• = 1 Для / = 1» • • •» т)- Показать, что
j=\ i=i
для соответствующей марковской цепи стационарным распределением
является вектор Q = (l/m, ..., 1/m).
3. Пусть Х=(Хп)п^о — марковская цепь с двумя состояниями, £={0,1},
и матрицей переходных вероятностей Р=к" ~q°L\ гДе 0<а<1,
0</?<1. V Р Р /
Показать, что
(Ь) если 7г = (7г(0), 7г(1)) — начальное распределение, то
4. (Продолжение задачи 3.) Найти стационарное распределение 7г° и
подсчитать
сом7Го(ХПч Хп+\) = Е.жоХпХп+\ — Ея-оХл Етго^+ь
Показать, что если Sn = Х\ +... + Хп, то
,- 0 «(1 — а) р. с
2-(а + /3)
где с — некоторая константа.
Показать также, что почти наверное (относительно каждой из мер Ро,
Pi И Р^о)
Sn 1 — а
п ~^ 2-(а + р)'

§ 6, 7. СТАЦИОНАРНЫЕ И ЭРГОДИЧЕСКИЕ РАСПРЕДЕЛЕНИЯ 339
5. Пусть Р= ||pij|| — матрица переходных вероятностей (/, jeE = {О, 1,
2, ...}) такая, что рц+\ = р/, рю = 1 — р/ для всех / е Е, О < р/ < 1, / > 1, и
Ро = 1.
Показать, что все состояния марковской цепи с такой матрицей
переходных вероятностей являются возвратными в том и только том случае,
п оо
когда lim Yl Pj=0 (или, равносильно, £)(1 — Pj) = oc).
п /=1 /=i
Показать также, что если все состояния возвратны, то они
положительно возвратны тогда и только тогда, когда
оо k
J2 П Pi < °°
k=\ j=\
6. Показать, что если X = (Xk)k^o есть неразложимая положительно
возвратная марковская цепь с инвариантным распределением 7г°, то для
всякого фиксированного хеЕ (Р^-п. н. для любого начального
распределения 7Г)
п-\
k=0
и
1 "_1
- ^ р^^7г°(х), л—>оо, для любого г/е£.
(Ср. с законом больших чисел в § 12 главы I.)
Показать также, что если цепь является неразложимой, возвратной
и нулевой, то для всякого фиксированного хеЕ (Р^-п. н. для любого
начального распределения 7г)
1 п~Х
-^2 I{x}(Xk)^0, л^оо,
и
1 п~х
- ^2 Рух^®' л—>оо, для любого уеЕ.
7. Рассматривается марковская цепь (Хп)п^о с конечным множеством
состояний Е = {О, 1,..., N}, являющаяся в то же самое время мартингалом.
Показать, что
(a) состояния {0} и {N} являются поглощающими состояниями (роо =
= Pnn = 1);
(b) если r(x) = \ni{n ^0:Xn=x}, то Px{t(N) <r(0)} = x/N.

340
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
§ 8. Простое случайное блуждание как марковская
цепь
1. Доказать формулу Стирлинга (п\ ~ у/2ппп+1/2е~п),
воспользовавшись следующими вероятностными соображениями ([10], задача 27.18).
Пусть Sn=X\+... + Xn, /2> 1, где Х\, Х%, ... — независимые случайные
величины, распределенные по закону Пуассона с параметром А = 1.
Показать последовательно, что
v и л v
k=0
(b) Law[(^=^) ]->Law[Ar],
где N — нормально распределенная случайная величина;
w l\ y/n J 1 V2¥
(d) п\~у/2жпп+1/2е-п.
2. Установить свойство марковости (28).
3. Доказать формулу (30).
4. Доказать, что все состояния марковской цепи в модели Эренфестов
являются возвратными.
5. Проверить справедливость формул (31) и (32).
6. Показать, что для простого случайного блуждания на Z = {0, ±1,
±2, ...} с pXtX+\ = р, pXiX-\ = 1 - р функция f(x) = (—^-) ,xeZ,
является гармонической.
7. Пусть £i, ..., ^ — независимые одинаково распределенные
случайные величины и Sk = £i +... + &, k < п. Показать, что
У^ /(5^>0) = min{l <й< n: 5^ = max S,},
где = означает совпадение по распределению. (Этот результат Спарре-
Андерсена дополнительно проясняет, почему в схеме Бернулли для
времени пребывания на положительной оси и для положения максимума
асимптотически справедлив один и тот же закон —закон арксинуса; ср. с § 10
гл. I и с утверждениями задач 4 и 5 в том же § 10.)
8. Пусть £i, £2, • • • — последовательность независимых бернуллиевских
случайных величин с Р{£я = 1} = Р{£л = — 1}= 1/2, я> 1. Положим 5о = 0,

§ 8. ПРОСТОЕ СЛУЧАЙНОЕ БЛУЖДАНИЕ КАК МАРКОВСКАЯ ЦЕПЬ 341
$п=£\ + ••• + £«• Показать, что если г — момент остановки и
я -s -(S -S ^-/5л' П>Г'
125Т-5Л, я>т,
то (5л)л^о = (S,0rt^o, т. е. распределения вероятностей
последовательностей (Srt^o и (5л)л^о совпадают. (Этот результат называют принципом
отражения Андре для симметричного простого случайного блуждания
{Sn)n^o\ ср. с другими версиями принципа отражения из § 10 гл. I.)
9. Пусть простое случайное блуждание X = (Хп)п^о со значениями в
Zd описывается конструктивно: Х0 = 0 и
Хп = £\ + ... + 6.. л>1. с Р{£. = е}=±,
е = (е\, ..., е</) — стандартные базисные векторы в /?^, т. е. е; = 0, — 1, +1
и норма \е\ = \е\| + ... + |е</| = 1.
Пусть Л — открытый шар в Rd с центром в 0 = (0, ..., 0). Доказать
справедливость следующей версии многомерной центральной предельной
теоремы:
Указание. Показать предварительно, что характеристическая фун-
d
кция <p(t) = EelV&\ t = (t\, ..., td), задается формулой cp(t) = d~[ Y^ cos th
/=i
и затем воспользоваться многомерным аналогом теоремы непрерывности
(теорема 1 в § 3 гл. III); ср. также с задачей 5 в § 3 гл. III.
10. Пусть X = (Хп)п^о — случайное блуждание из предыдущей задачи 9
п-\
и Nn = Y I(Xk = 0) — число тех моментов k е {0, 1, ..., п — 1}, для которых
Xk = 0. В § 9 гл. VII показано, что в случае d = 1 математическое ожидание
/2
E/Vrt~W— n, я—>оо. (В формулах (17) и (18) этого § 9 гл. VII книги
V тг j 2
«Вероятность — 2» вместо ■?— должно стоять —.)
г 27Г 7Г 7
(а) Показать, что для d > 2 выполнены следующие соотношения:
( 1
ЕМ,
, (-In л, d = 2,
где константа cj = 1/Р{<т</ = oo} с сг^ = inf{& >0: Xk =0} (сг^ = оо, если
{•} = 0). Найти значения констант q.

342
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
(b) Показать, что в случае d = 2
п \\x\n )
P{a{>n} = P{Nn = 0}~-?-, п^оо.
In п
(c) Показать, что для d > 3 при я —> оо
Р{Х2п=0}
Р{а{=2п}<
1 + Е Р№л = 0}
Л=1
2*
(d) Показать, что для любого d > 1
P{ai=0o}=
1 + Е Р{^2Л=0}
Замечание. Доказательство свойства (d) содержится, в сущности, в
тексте доказательства теоремы 1 в § 5 настоящей главы VIII. Полезно
также отметить, что формула в (d) и асимптотика Р{Х2к = ®}~-^ш Для
d > 1 с c(d) > О позволяют сразу сделать заключение о справедливости
теоремы Пойа:
P{<7i < оо} = 1 для d = 1 и d = 2
(возвратность с вероятностью единица);
P{<7i < оо} < 1 для d > 3
(невозвратность с положительной вероятностью).
11. Рассматривается задача Дирихле для уравнения Пуассона (см.
приложение, § 7, с. 387) в области С с £, где Е — не более чем счетное
множество: найти неотрицательную функцию V = V(x) такую, что
hV(x) = -h(x), xeC,
V(x) = g(x), xeD = E\C,
где h(x) и g(x) — неотрицательные функции.
Показать, что наименьшее неотрицательное решение Vq(x) этой
задачи определяется формулой
Гт(0)-1
VD(x) = Ex[I(r(D) < oo)g(XT{D))] +Ic(x)Ex
£ W
L k=0
где t(D) = \ni{n > 0: Xn e D} (как всегда, r(D) = оо, если {•} = 0).

§ 8. ПРОСТОЕ СЛУЧАЙНОЕ БЛУЖДАНИЕ КАК МАРКОВСКАЯ ЦЕПЬ 343
Указание. Запишем функцию VD(х) в виде VD(х) = <ро(х) + Фо{х),
где (D = C)
ipD(x) = Ex[I(r(D)<oo)g(XT{D))l
Гт(0)-1 "I
ф0(х) = 1й(х)Ех\ J2 Wk) •
L k=o J
Для этих функций сро(х) и фо(х) имеют место следующие представления:
<Pd (х) = h (x) g(x) + Id (x) T(pD (*),
ф0 (х) = ID (x)h(x) + ID (x) Тф0 (х)
(здесь Т — оператор перехода за один шаг; см. приложение, § 7, с. 387).
Из этих равенств следует, что
VD(x) = ID(x)g(x) + ID(x)[h(x) + TVD(x)l
откуда вытекает, что эта функция есть неотрицательное решение системы:
LV(x) = -h{x) в области С и V(x) = g(x) для xeD.
Для доказательства того, что V(x) > Vd(x) для любого
неотрицательного решения V(x) приведенной системы, надо заметить, что для этих
решений справедливо соотношение V(x) =ID(x)g(x) -\-1^(х)[к{х) + 7V(x)],
из которого следует, что
V(x)^ID(x)g(x) + ID(x)h(x).
С помощью этого неравенства по индукции устанавливается, что
У(х)>^2(1вТк)[10в + ЬЩх)
для любого п > 0.
Отсюда
V{x)^Y,^Dтk)\hg + ^Dh]{x)=ipD{x) + фD{x) = VD{x).
12. Пусть X = (Хп)п^о — простое симметричное случайное блуждание в
Zd и
a(D)=\ni{n>0: XneD}, DeZd,
причем D является конечным множеством. Показать, что найдутся такие
положительные константы с = c(D) и е = s(D) < 1, что для всех х е D
Px{<r(D)^n}^CEn.
(Ср. с неравенством (20) в § 9 гл. I.)

344
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
13. На вероятностном пространстве (Q, &, Р) рассматриваются два
независимых простых симметричных случайных блуждания Л"1 = (Х„)п^>о и
X2 = (Х2)п^0у начинающиеся в точках х и у соответственно (Х\ =х, Х% =у\
x,yeZ). Пусть r1(jc) = inf{/z> 0:^=0}, т2(у) = 'тЦп^0\ Х2=0}. Найти
вероятность Р{т{ (х) < т2^)}.
14. Показать, что для симметричного простого случайного блуждания
X = (Хп)п^о в Z = {0, ± 1, ±2, ...} с Хо = 0 вероятность
где г (у) = inf {п > 0: Хп = у}, у^О. (Сопоставьте с утверждениями в задаче
16 §4 гл. И.)
15. Рассматривается простое случайное блуждание Х = (Хп)п^о с
Хп = х + £i + ... + £«, где £ь£2, ••• —независимые одинаково
распределенные случайные величины с P{£i = l}=p, P{£i= —1} = <7, p + q = l, и
xeZ. Обозначим а(х) = inf {я > 0: Хп = х). Показать, что
Р*М*) < оо} = 2 min(p, q).
16. Рассматривается случайное блуждание из предшествующей задачи
с х = 0. Обозначим &п число различных значений в последовательности
Л'о, Х\, ..., Хп с Хо = 0. Показать, что
17. Пусть X = (Хп)п^о — простое случайное блуждание на Z = {0, ±1,
±2, ...}, где ^0 = 0, Хп = £\+...+£п и £ь£2, ••• —независимые
одинаково распределенные случайные величины с P{£i = 1}= р, P{£i = -l} = q
(=1 -р), 0<р< 1. Показать, что последовательность (A'l = (1^1)^0 будет
марковской цепью с состояниями Е = {0, 1,2, ...}, при этом ее переходные
вероятности
/?ж W+1
PV+1 = pi + qi = 1 " Рц~и ' >0' PM = L
Показать также, что для я> 1 и любых неотрицательных /, i\, ..., /rt_i
Р(*я = |||*я| = |\ |*„_,| =/„_,, ..., 1^,1 = 1,) = -^.
18. Пусть £ = (£о, £i, £2, •••) — последовательность независимых
одинаково распределенных случайных величин с P{£i = \}= p, P{£i = — \} = q,
p+q = l. Образуем последовательность X = (Хп)п^0 с Хп = £«£«+i. Будет
ли эта последовательность марковской цепью? Будет ли марковской цепью
последовательность Y = (УЯ)Я^, с Уя = -(f„_i + £„), я> 1?

§ 8. ПРОСТОЕ СЛУЧАЙНОЕ БЛУЖДАНИЕ КАК МАРКОВСКАЯ ЦЕПЬ 345
19. Пусть X = (Хп)п^о — простое симметричное случайное блуждание
на Z = {0, ± 1, ±2 ...}. Пусть а\, <72, ... — моменты последовательных
возвращений блуждания X (с ^0 = 0) в состояние 0 (а\ =inf{n>0: ^„=0},
<j2 = inf {п > <т\: Хп = 0} и т. д.).
Показать, что
(а) Р0{<71<оо}=1;
(b)Po№« = 0}=£ Pofo=2/z};
(c) производящая функция моментов (\z\ < 1) Ео-га* = (Eozai)k\
(d) Е Р=0}г2" = —1—;
л>0 !~ C0Z
(e) производящая функция Eo£ai = 1 — л/1 — z2, и значит, в силу (d)
£P0{*2„=0}Z2" = ^1
л^О Vl -22
(f) EN(k) = 1, где /г — любое состояние из Z, k ф 0, и /V(&) — число
посещений случайным блужданием состояния k перед первым возвращением
в нуль (в момент <т\).
20. Пусть X = (Хп)п^о и Y = (Yn)n^o — два простых симметричных
случайных блуждания в Zd, d > 1. Положим
i=0 /=0
Показать, что в случае d = 1 математическое ожидание Е/?„, являющееся
одной из характеристик среднего числа пересечений двух блужданий за
время п (с учетом кратности прохождений через одну точку), при больших
п ведет себя как ся3/2, где константа с>0. (Известно — см. в этой связи,
например, [75], — что в размерностях d > 1 при больших п
ERn<
где с =Cd — некоторые константы, зависящие от размерности d\
попытайтесь доказать приведенные асимптотические формулы для ERn и найти
значения констант Cd)
21. Пусть В — конечное множество в Zd и / = f(x) — функция,
определенная на ВидВ, где дВ = {х£В: \\х-у\\ = 1 для некоторого у е В}.
Предположим, что функция / = f(x) является субгармонической в В (т. е.

346
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
Tf(x) > /(х), х е В, где Т — оператор перехода за один шаг; см.
приложение, § 7, с. 387). Показать, что для такой функции справедлив принцип
максимума:
sup f(x)= sup f(x).
хевидв хедв
22. Показать, что всякая ограниченная функция, являющаяся
гармонической в Zd, есть константа.
23. Показать, что все ограниченные решения V = V(x) задачи
AV(x)=0, xeC, V(x) = g(x), хедС,
где С с Zd и g = g(x) — ограниченная функция на дС, задаются формулой
VdC(x) = Ех [g(XT{dC))I(r(dC) < оо)] + аРх{т(дС) = оо},
где aeR, т(дС) = mf{n^0:XneдС}.
24. Доказать следующие результаты относительно решений
однородной задачи Дирихле— найти функцию V = V(x)y гармоническую в области
CCZd (АУ(х)=Оу хеС) и такую, что V(x) = g(x) на границе дС, где
g = g(x) — заданная функция:
(a) если d < 2 и функция g = g(x) ограничена, то в классе
ограниченных функций решение существует, единственно и дается формулой
VdC(x) = Exg(XT{dQ);
(b) если d > 3, функция g = g(x) ограничена и Рх{т(дС) < оо} = 1 для
всех х е С, то в классе ограниченных функций решение существует,
единственно и снова задается той же формулой, что и в (а).
25. Пусть X = (Хп)п^0 — простое симметричное случайное блуждание
на Zd, d > 1. Показать, что если область С с Zd ограничена и ее граница
дС есть множество {х eZd : х £С и \\х — у\\ = 1 для некоторого у е С}, то
задача Дирихле:
найти функцию V = V(x) на С U дС такую, что
AV(x) = -h(x), хеС,
V(x) = g(x), x e дС,
имеет единственное решение, задаваемое формулой
VdC(x) = Exg(XT{dC)) + Ex
т(дС)-\
. k=0
где ЕА
г(дС)-\
Е
k=0
\h(Xk)\
<00.
Указание. Воспользуйтесь методом, изложенным в указании к зда-
че 11, и тем, что в силу предполагаемой ограниченности области С
справедливо равенство Рх{т(дС) < оо}= 1, х е С (ср. с задачей 11).

§ 8. ПРОСТОЕ СЛУЧАЙНОЕ БЛУЖДАНИЕ КАК МАРКОВСКАЯ ЦЕПЬ 347
26. Рассматривается простое симметричное случайное блуждание
S = (Sn)n>0BZ = {0,±l,±2, ...}cS0 = 0,S„ = £i+...+£„, где £i,&, ...-
независимые бернуллиевские случайные величины с Р{£; = 1 }=Р{£; = — 1 }=
= 1/2. Пусть T = inf{ft>0: 5л = 1}. В задаче 18 к § 2 главы VII было
предложено доказать «мартингальным» методом, что для \а\ < 1
Еат = а"1[1-л/1-а2].
Показать, основываясь на строго марковском свойстве, что функция
ср(а) = Еат удовлетворяет соотношению ср(а) = ^ а + ^аср2(а)у из которого
вывести приведенную формулу для производящей функции <р(а) = Еат.
27. В настоящей задаче предлагается провести некоторые вычисления
в модели, предложенной Т. и П. Эренфестами для объяснения отсутствия
кажущегося противоречия между «необратимостью» и «возвратностью» в
больцмановской кинетической теории распространения тепла.
Как известно, эта теория, исходящая из представлений о молекулярном
строении вещества и рассматривающая тепловой обмен как диффузионный
случайный процесс, была инициирована Больцманом для объяснения
выводов термодинамической теории (во многом носящей феноменологический
характер), принимающей гипотезу, что распространение тепла
происходит необратимым образом и идет в направлении установления теплового
равновесия. Хотя Больцман считал, что в состояниях системы происходит
установление теплового равновесия и идет оно в направлении движения
к состоянию с максимальной энтропией, однако предложенная им
«стохастическая» теория не исключала, по крайней мере теоретически, той
возможности, что со временем система может и вернуться к своему
первоначальному термодинамическому неравновесию, что послужило
основанием для критики кинетической теории. (Возможность «возвратности»
отмечалась Пуанкаре для динамических систем, описываемых
сохраняющими меру преобразованиями; см. § 1 в главе V.)
Сам Больцман утверждал, что здесь нет никакого противоречия между
«необратимостью» и физически не наблюдаемой «возвратностью»,
поскольку в стохастических системах возврат к состояниям
макроскопического неравновесия вполне допустим, но происходить это может только
через столь большое время, что мы не будем в состоянии этого заметить.
С физической точки зрения модель Эренфестов, сформулированная на
языке теории марковских цепей, является удачной моделью, описывающей
обмен теплом между двумя телами, находящимися в контакте и
изолированными от окружающей среды. Именно это обстоятельство и делает
интересным количественный анализ среднего времени перехода из одного
состояния в другое.

348
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
Пусть Е = {О, 1,..., 2&}, где состояние / интерпретируется как состояние
«в камере А находится / молекул» (подробнее о модели Эренфестов см.
с. 853 книги «Вероятность —2»). Обозначим
r(i) = mi{n>0: Хп = /}, a(i) = \п\{п>0: Xn = i}
времена первого попадания и первого возвращения в состояние /, если
Хо = i (как обычно, inf 0 = оо).
Показать, что
(a) Ei<r(i) = 22k ,9,vt и, в частности, среднее время возвращения в
нулевое состояние Ео<т(0) = 22*;
(b)Ekr(0) = ±22k(l+O(k));
(с) Е0т(*) = *1п* + * + О(1).
(В [19] приводятся следующие численные расчеты: если k= 10000 и обмен
молекулами происходит раз в секунду, то среднее время Eor(k) меньше,
чем 29 часов, в то время как Е^г(0) — астрономически велико: Ю6000
лет (!).)
§ 9. Задачи об оптимальной остановке для марковских
цепей
1. Построить пример, показывающий, что для марковских цепей со
счетным множеством состояний оптимальный момент остановки может
не существовать (в классе 9Яо°).
2. Проверить, что момент ту, введенный при доказательстве теоремы
2, является марковским моментом.
3. Показать, что последовательность X = (Х\, Л^, ...), введенная в п. 7
при рассмотрении «задачи о разборчивой невесте», образует однородную
марковскую цепь.
4. Пусть X = (Хп)п^о — однородная марковская цепь со значениями
в R и с переходной функцией Р = Р(х; В), xeR, Be&(R). Говорят, что
/?-значная функция / = /(х), xeR, является гармонической (или Р-гар-
монической, или гармонической по отношению к Р), если
Е,|/(*0| = 5 Ш\Pi* dy)<oo, xeR,
f(x) = $f(y)P(x;dy), xeR. (*)
R

§ 9. ЗАДАЧИ ОБ ОПТИМАЛЬНОЙ ОСТАНОВКЕ
349
Если равенство «=» в (*) заменено на неравенство «>», то говорят, что
функция / является супергармонической; см. также § 7 приложения.
Доказать, что если / — супергармоническая функция, то для всякого
xeR последовательность (f(Xn))n^o с Хо=х является супермартингалом
(по отношению к мере Р*).
5. Показать, что момент f, входящий в (40), принадлежит классу Tt^°.
6. По аналогии с примером 1 в п. 6 рассмотреть задачи об оптимальной
остановке
sN(x)= sup Exg(XT)
и
s(x)= sup Exg(XT)
для всех простых случайных блужданий из примеров в § 8.
7. (Управляемая марковская цепь и оптимизационные проблемы.)
Пусть задано семейство {Р(а), аеА} матриц переходных вероятностей
Р(а) = ||Pij{a)||, зависящих от параметра а е А, где А — некоторое
множество, рассматриваемое как множество возможных значений «управления».
Фазовое пространство £" = {/, /', ...} конечно или счетно. (Всякую функцию
u = u(i), ieR, со значениями в А будем трактовать как «управление»,
которое можно осуществлять, находясь в состояниях / еЕ.)
Для каждого выбранного управления и = u(i), i е £, будем через Р"
обозначать матрицу переходных вероятностей ||р//(м(/))||, по которой строится
(например, по теореме Ионеску Тулчи из § 9 главы II)
соответствующее семейство распределений вероятностей Р", i еЕ, в пространстве
последовательностей Е°°у рассматриваемое как распределение вероятностей
управляемой (посредством «управления» и) марковской цепи X = (Хп)п^>о,
выходящей из состояния / (т. е. X0 = i).
Пусть С — некоторая область в £, D = E\C. Предположим, что в С
заданы функции h = h{i, a), ieC, аеА,и g = g(i, a), ieD, аеА, которые
будем сейчас предполагать неотрицательными.
Если управление u = u(i), i e £, выбрано, то полагаем hu{i) = h(i, u(i))
"gu(i) = g(i,u(i)Y
Свяжем с каждым управлением u = u(i)y i e E, его «доход» в состоянии
Г r(D)-l
VuU) = ^\gu(XT{D))I(r(D)<oo)+ J2 А"(**)|
где r(D) = mi{n > 0: Xn e D). (Смысл Vй (j) ясен — это тот выигрыш,
который может быть получен, если выбрано управление u = u(i), i e £", началь-

350
ГЛ. VIII. МАРКОВСКИЕ ЦЕПИ
ное состояние Х0 = /'; значение gu(i) характеризует величину
терминального выигрыша, a hu(/) — текущий выигрыш в состоянии /.)
Оптимизационная проблема для рассматриваемых управляемых
марковских цепей состоит в отыскании «цены»
V*(j) = supVu(j), jeE,
и
и оптимального управления и* = u*(i), i e£, если таковое существует.
Доказать следующее утверждение, называемое проверочной
теоремой. Пусть
(i) существует функция V = V(j)y j е £, такая, что
V(j) = supfj2 Pii(aW(i) + h(j, a)\, jeC,
И
V(j) = sup g(j, a), jeD;
(ii) в рассматриваемом классе управлений существует такое управление
и* =u*(i)y i e£, что при каждом фиксированном / супремум в
вышеприведенных формулах достигается на значении a = u*(j).
Тогда управление и* = u*(i), ieE, является оптимальным: для любого
допустимого управления и
vu\j)>vu{j) и V(j) = vu), jeE.
Указание. Воспользоваться тем, что для любого управления и
V(j)>TuV(j) + hu(j), jeC, где TuV(j) = El}V(Xx),
и
а для управления и* в этих формулах имеет место знак равенства.
8. (Задача о разладке.) В задаче 8 к § 7 главы VI был введен
байесовский риск
1^(т) = Рп{т<в} + сЕп(т-в)+
и отмечено, что inf Rn(r) (где инфимум берется по классу 9JIq° всех Р^-ко-
нечных (7г е [0, 1]) марковских моментов т) достигается на моменте
т* = \пЦп^0: тг„>Л}, (*)
где А — некоторая константа, зависящая от с и р.
Показать, что

§ 9. ЗАДАЧИ ОБ ОПТИМАЛЬНОЙ ОСТАНОВКЕ
351
(a) байесовский риск Rn(r) допускает следующее представление:
/Г(г) = Е*{(1 -тгт) + с/(т> 1) J2 *k}\
(b) в задаче об оптимальной остановке
^=Tig!rE'{0-*r) + c/(r>l)gir*}
для марковской цепи (пп)п^о оптимальным является момент т*,
определенный в (*).

ПРИЛОЖЕНИЕ
Аннотированный указатель основных обозначений
и важных понятий комбинаторики и теории
вероятностей, используемых в книге
§ 1. Элементы комбинаторики
Начало становления «исчисления вероятностей» было самым
непосредственным образом связано с комбинаторными приемами подсчетов
числа тех комбинаций, которые приводят к осуществлению того или
иного рассматриваемого события. Эти приемы занимают значительное место
в современной теории вероятностей, в частности и в особенности в той
ее части, которая имеет дело с конечными пространствами элементарных
исходов («элементарная теория вероятностей»). Комбинаторные методы
составляют существенную часть дискретной математики, включая такие ее
разделы, как теория графов, теория алгоритмов.
Приведем суммарным образом некоторые основные понятия
комбинаторики и некоторые ее результаты, используемые как в основном тексте
книг «Вероятность— 1» и «Вероятность — 2», так и в приводимых в
настоящей книге задачах.
• Пусть А — некоторая совокупность, состоящая из конечного числа
N элементов сц, ..., ад/ (\A\=N). Если все эти элементы различны, то эту
совокупность называют множеством и обозначают
А = {аи ..., aN).
В этой записи порядок следования элементов не играет никакой роли,
важен лишь состав. Так, совокупности {1, 2, 3} и {2, 3, 1} определяют
одно и то же множество, состоящее из «точек» {1}, {2} и {3}.
С каждым множеством А = {а\, ..., ад/} связываются два типа выборок
размера п (иногда говорят— последовательностей длины п):
(а/п ..., ain) и [а„, ...,а//;],
где /i, ..., /л€{1, ..., N) и элементы щ. £А, причем не исключается, что
при различных / они могут совпадать.
Обозначение (а/,, ..., щп) используется для упорядоченных выборок,
т. е. выборок, в которых важен порядок следования элементов.

§ 1. ЭЛЕМЕНТЫ КОМБИНАТОРИКИ
353
Через [а/,, ..., а1п] обозначаются неупорядоченные выборки, т. е.
выборки, в которых важен лишь их состав, а порядок записи элементов не
важен.
Так, выборки (а\, а\, аз, а\) и (а\, а\, а±, аз), имеющие один и тот же
состав, но отличающиеся порядком следования элементов,
рассматриваются как разные. Выборки же \а±, а\, аз, а\\ и \а\, а\, а±, аз]
рассматриваются как разные формы записи одной и той же выборки.
В тех случаях, когда выборки (...) и [...] образуются из множества
А по принципу «выбор без возвращения», все их элементы различны и,
естественно, я < ЛЛ
В случае же «выбора с возвращением» элементы в (...) и [...] могут
повторяться и, вообще говоря, допускается, что я может быть
произвольным.
Разбиением @ = {D\,..., Dn), n^N, множества А с \A\ = N называется
всякая система, состоящая из подмножеств Dt С А, 1 < / < я, таких, что все
Di т^ 0, Di nDj = 0, / ^ /, и D\ +... + Dn =А. Множества Dt называются
атомами, или классами разбиения О).
т Подсчет числа выборок, образованных из элементов множества
А = {а\, ..., aN).
Комбинаторные числа
(*)(N)n = N(N-\)...(N-n+\)
(«число размещений» из N по я,
1 < я < N)
(b)Cn = Wl ( т \
\Р) ^n- nl \Tn\(N-n)\)
(«число сочетаний» из N по я,
биномиальные коэффициенты)
(с) Nn
(d) C»^.,
Их интерпретация
число упорядоченных выборок
(...) размера я, образованных из
элементов множества А с \А\ =N по
принципу «выбор без возвращения»
число неупорядоченных выборок
[...] размера я, образованных из
элементов множества А с \А\ =N по
принципу «выбор без возвращения»
число упорядоченных выборок
(...) размера п > 1, образованных из
элементов множества А с \А\ =N по
принципу «выбор с возвращением»
число неупорядоченных выборок
[... ] размера п > 1, образованных из
элементов множества А с \А\ =N по
принципу «выбор с возвращением»

354
ПРИЛОЖЕНИЕ
По поводу других комбинаторных интерпретаций вышеприведенных
чисел см. задачи в §§ 1,2 главы I. В частности, согласно задаче 3 в § 1,
«число упорядоченных последовательностей (...) длины УУ, состоящих из
п единиц и N — п нулей, равно CJy». Этот результат особенно важен в
связи с биномиальным распределением в элементарной теории
вероятностей.
Пример 1. Пусть А = {а\, 02, аз, а4}, \А\ =4, п = 2.
(a) (4)2 = 4(4—1)= 12. Соответствующие 12 упорядоченных выборок
суть:
(ai,a2), (ai,a3), (ai,a4), (a2, o\), (0,2,0,3), (02,04),
(аз, о\), (аз, 02), (аз, a4), (a4, o\), (a4, 02), (04, аз).
(b) C\ = ^tjj- = 6. Соответствующие 6 неупорядоченных выборок суть:
[ai, 02], [ai, аз], [ai, a4], [аг, аз], [02,04], [03,04].
(c) 42 = 16. К 12 выборкам из (а) добавляются еще выборки (о\, 0\),
(а2, о2), (а3, а3) и (а4, а4).
(d) C4+2-i =C| = -^j = 10. К 6 выборкам из (Ь) добавляются еще
выборки [ai, ai], [02, аг], [аз, аз] и [а4, а4].
• Подсчет tfwc^a подмножеств
..., ад/}.
Комбинаторные числа
(f) С" " «!(yv 1лг)!
(g) CN(n\, ..., яГ) =—r^—г
V&/ V ' П\\...ПГ\
(«мультиномиальные», или
«полиномиальные» коэффициенты, п\ +
+ ... + А2г = УУ)
и разбиений множества А = {а\, ...
Их интерпретация
число всех подмножеств множества
А (включая пустое множество 0 и
само множество А с \А\ =N)
число различных подмножеств
DC Л, состоящих из я элементов
(\D\=n, \A\ = N, 0<л<#;вслучае
az = OD = {0}MC^ = 1)
число различных разбиений f^ =
= {Dj, ..., Dr) множества А с \А\ =
= N на г подмножеств Dj, ..., Dr,
Г < /2, С |Di|=AZi, ..., |Dr|=AZr, All +
Ч- ... Н- A2r = yV

§ 1. ЭЛЕМЕНТЫ КОМБИНАТОРИКИ
355
Комбинаторные числа Их интерпретация
(h) D/v(Ai, ..., \n)= число «блоковых» разбиений мно-
W! жества Ас \А\ = N вида
(1!)V..(/V!)MAi)!...(Aa/)! _ ,п
N @={D\u .., £>ia,; ...
(всеА^СЕ/Л,^) ..,DNU..,DNXNl
где «блок» [D/i, ..., Дл,1 состоит
из А/ множеств, каждое из которых
содержит / элементов (|D^| = /, 1 <
<£<А;); если А;=0, то
соответствующий блок не определяется и
считается в разбиении О)
отсутствующим
(i) S^=J2 Dn(\\, ..., A/v) число всевозможных разбиений О)
(сумма — по Ai, ..., Ад/ таким, что множества А с \A\ = N таких, что
N N
£ А/ = /г, £ /А/ =УУ и все А/ > 0)
каждое из них содержит в точности
п классов
Числа 5дг, 1 <Аг<УУ, называются числами Стирлинга второго рода. *)
л/
(j) B/v = X) ^/v число всевозможных разбиений
/г=1 множества А с \А\ =N
Числа B/v называются числами Белла.
(По поводу чисел, введенных в (f)—(j), см. задачи к § 2 главы I.)
Пример 2. Снова пусть А = {а\, а2, а3, а4}, УУ = |А| = 4, я = 2.
(e) 24 = 16. Этими шестнадцатью подмножествами являются следующие
множества:
0, {ai}, Ш, {а3}, (а4),
{ai, a2}, {ai, a3}, {ai,a4}, {a2, a3}, {a2, a4}, {a3, a4},
{ai, a2, a3}, {ai, a2, a4}, {ai, a3, a4}, {a2, a3, a4}, {ai, a2, a3, a4}.
(f) C4 =6. Соответствующие подмножества, состоящие из двух
элементов, суть:
{ai, a2}, {ai, a3}, {ai, a4}, {a2, a3}, {a2, a4}, {a3, a4}.
*) По поводу чисел Стирлинга первого рода см. далее с. 370.

356
ПРИЛОЖЕНИЕ
2,
{ai}
Ш
A2 = l,
D4(2,
и {Я2, «з,
и {аь аг,
А3 = 0,Л4
1,0,0) =
а4>,
«4},
= 0;
/ii\9/
{а2} и
{а4} и
4
4!
гн\1 /о1\П/><
{ai
{ai
4,
, а3,
, а2,
а4},
аз}.
4'
(g) Пусть г = 2, п\ = 1, я2 = 3, тогда С4(1, 3) = ургу =4.
Соответствующие разбиения:
(h) А,
Соответствующими «блоковыми» разбиениями являются:
[{а!}, {а2}] и [{а3}, {а4}], [{а!}, {а3}] и [{а2}, {а4}],
[{ai}, {a4}] и [{а2}, {а3}], [{а2}, {а3}] и [{ai}, {a4}],
[{а2}, {а4}] и [{а!}, {а3}], [{а3}, {а4}] и [{а!}, {а2}].
(i) S| = D4(0, 2, 0, 0) + D4(l, 0, 1, 0) = 3 + 4 = 7. Соответствующие
разбиения: {а\} и {а2, аз, а4},
{а2} и {аь а3, а4}, {а3} и {аь а2, а4}, {а4} и {аь а2, а3},
{аь а2} и {а3, а4}, {аь а3} и {а2, а4}, {аь а4} и {а2, а3}.
Аналогичный подсчет показывает, что, например,
5{ = 1,
5^ = 1.
sl6 = l
5^=6,
S52 = 15,
S| =31.
si = i,
S53 = 25,
S| = 90,
s54 = io,
S|=65,
5| = 1
S| = l
„ 15, Si
(j) Из (i) следует, что при N = 4
B5=l + 15 + 25+10+l=52,
B6= 1+31+90 + 65+15+1=203.
Для случая N = 4 соответствующие пятнадцать разбиений таковы:
{аь a2, a3, a4}; {ai}, {a2}, {a3}, {a4};
{ai} и {a2, a3, a4}; {a2} и {ai, a3, a4};
{a3} и {ai, a2, a4}; {a4} и {ai, a2, a3};
{ai, a2} и {a3, a4}; {ai, a3} и {a2, a4}; {aj, a4} и {a2, a3};
{ai}, {a2} и {a3, a4}; {a^, {a3} и {a2, a4}; {a^, {a4} и {a2, a3};
{a2}, {a3} и {ab a4}; {a2}, {a4} и {ab a3}; {a3}, {a4} и {a2, a3}.

§ 1. ЭЛЕМЕНТЫ КОМБИНАТОРИКИ
357
• Комбинаторные методы играют большую роль не только при подсчете
числа тех или иных благоприятствующих комбинаций в элементарной
теории вероятностей. Они в успехом применяются при установлении разного
рода соотношений, примером которых может быть следующее равенство:
nN=J2skN(n)k,
k=\
где 1 < п < N и 5дг — числа Стирлинга второго рода. (Отметим, что
SlN = S$ = 1 и полагают S^ = 0, Sjjf = 0 для п>N)
Идея комбинаторного доказательства этого соотношения основана на
том, что и левая, и правая его части дают одно и то же число некоторых
возможностей, но подсчитанное разными способами.
Применительно к рассматриваемому соотношению это осуществляется
следующим образом.
Пусть А и В — два множества с числом элементов |Л|=М и |В|=я
соответственно. Рассмотрим функции y = f(x), определенные для хеА и
принимающие значения у е В. Поскольку каждому из N значений х может
быть поставлено в соответствие любое из п значений у, то общее число
функций, осуществляющих отображение А в В, очевидно, равно nN.
Подсчитаем теперь это же число функций другим способом,
рассматривая для каждого у £ В соответствующие прообразы f~x(y) = {х : f(x)=y).
Имея это в виду, выберем некоторое множество С С В с |С|=£, где
1 < k < я, и пусть функция у = f(x) такова, что множество ее значений
есть в точности множество С. Поскольку \С\ =£, то прообразы образуют
разбиение множества Auak классов с тем свойством, что на каждом таком
классе функция принимает одно и то же значение. Число таких разбиений
равно Sjy, и поскольку число возможных функций, определенных на этих
разбиениях из k классов и принимающих k значений из С, равно (k)k=k\,
то общее число функций со значениями в С равно S^kl.
Множество С с |С| = & может быть выбрано С„ способами.
Следовательно, общее число функций y = f(x), определенных для XG/4 и со
значениями в В с |Л| =N и \В\ =п, равно
J2cknSkNk\=J2skN(n)k.
k=\ k=\
Поскольку — подсчитанное первым способом — это число равно nN, то
приведенное соотношение доказано. (Большое число примеров и задач на
применение идей «двойного подсчета» и вообще изложение многих
результатов комбинаторики можно найти, например, в [61], [45], [103], [104],
[122].)

358
ПРИЛОЖЕНИЕ
§ 2. Вероятностные структуры и понятия
В основе всех вероятностно-статистических рассмотрений лежит
вероятностное пространство, или вероятностная модель (гл. II, § 1),
(П, •£", Р),
где
О, — пространство элементарных исходов и,
& — сг-алгебра подмножеств,
Р — вероятностная мера на множествах из &, т. е. сг-аддитивная
функция множеств А е<& такая, что 0< Р(Л)< 1, Р(0) = О, P(ft) = l.
• Наряду с понятием сг-алгебры, входящей как существенный элемент
в определение вероятностного пространства, в теории вероятностей
приходится также оперировать с другими разнообразными системами
подмножеств: алгебрами, сепарабельными сг-алгебрами, монотонными классами,
7г-системами, А-системами, 7г-А-системами, совокупностями
цилиндрических множеств и др. См. главу II, § 2.
• События (множества) А и В называются независимыми, если
Р(АпВ) = Р(А)Р(В).
Две системы <S\ и ^2 подмножеств из & называются независимыми,
если любые множества Ае&\ и В е&2 являются независимыми.
Множества А\, ..., Ап называются независимыми, если для любых
k = 1, ..., п и 1 < i\ < /2 < .. • < ik < я
P(Ai]n...nAk) = P(Ai])...P(Ak).
Соответственно определяется и независимость систем ^, ..., &п
подмножеств из &.
• Через (Е, §) обозначается измеримое пространство, т. е.
множество Е с выделенной на нем сг-алгеброй §.
Важнейшими примерами измеримых пространств являются (гл. II, § 2):
(R, 88(Щ) — числовая прямая R с борелевской сг-алгеброй 3S(R) (часто
обозначаемой 3S)\
(Rn, &(Rn)) — пространство Rn = Rx...xR с сг-алгеброй £8(Rn) =
= &(R)®...®&(R)\
(R°°, &(R°°)) — пространство R°° =Rx ...x Rx ... с сг-алгеброй
8${R°°), порожденной цилиндрическими множествами;
(RT, 3S(RT)), где Т — произвольное множество, есть пространство RT
(пространство действительных функций, определенных на Т) с сг-алгеброй
3S(RT), порожденной цилиндрическими множествами;

§ 2. ВЕРОЯТНОСТНЫЕ СТРУКТУРЫ И ПОНЯТИЯ
359
(С, 38(C)) — пространство С непрерывных функций (например, на [0, 1]
или на [0, оо)) с сг-алгеброй 8$(С), порожденной открытыми множествами
(или, что здесь то же самое, цилиндрическими множествами);
(Д 88(D)) — пространство D функций (например, на [0, 1]),
являющихся непрерывными справа (для всех t < 1) и имеющих пределы слева (для
любого t > 0) с сг-алгеброй 38(D), порожденной открытыми множествами
(в метрике Скорохода) (или, что здесь то же самое, цилиндрическими
множествами).
• Случайная величина X =Х(и) — это действительная функция,
заданная на (ft, &), со значениями в (R, &(R)), которая является ^"-измеримой,
т. е. такой, что
{и\ Х(и)еВ)е&
для любого борелевского множества В из &(R).
Простейшим (однако важным) примером случайной величины является
индикатор множества: Х(и)) = 1д(и)), где А е & и
М ; \0, «х£А.
Случайный элемент. Пусть (ft, &) и (Е, §) — два измеримых
пространства и X =Х(и>) — функция на ft со значениями в Е. Говорят, что Х(и>) —
случайный элемент, если функция Х(и) является ^"/^-измеримой, т. е. для
любого В е § множество {и>: Х(и) еВ}е^.
n-мерный случайный вектор (Х\ (и), ..., Хп(и)) — это упорядоченный
набор случайных величин Х\(и), ..., Хп(и).
Случайная последовательность, или случайный процесс с
дискретным временем, X = (Хп(и))п^\, — это последовательность случайных
величин Х\(и), ..., Хп(и), ...
Случайный процесс X = (Xt (oj))teT (с временным множеством TC.R) —
это набор случайных величин Xt(uS) с t eT.
• Функция распределения F = F(x) на (R, 38(Щ) — всякая
«^(/^-измеримая функция, обладающая следующими свойствами:
1) F(x) — неубывающая функция;
2) F(-oo) = 0,F(+oc)=l',
3) F(x) непрерывна справа и имеет пределы слева в каждой точке х е R.
Если X =Х(и) — случайная величина, заданная на вероятностном
пространстве (ft, &', Р), то вероятностная мера Рх на (R, £8(Щ), определенная
формулой
Рх(В) = Р{си: Х(си)еВ}

360
ПРИЛОЖЕНИЕ
(правильнее, но более громоздко было бы писать Р({о;: Х(си)е В})),
называется распределением вероятностей случайной величины Х=Х(и).
Функция Fx(x) = Px((—оо, х]), являющаяся функцией распределения на
(/?, ^(/?)), называется функцией распределения случайной величины
Х = Х(и>).
Если X = (Xt(cj))ter — случайный процесс, то вероятности (t\< ...< tn,
U € Т)
/V.,,B(fi) = P{w: №», ...,*,»)€ Я}, fl€«(7),
называются конечномерными распределениями вероятностей
процесса X. Функции
называются конечномерными функциями распределения процесса X.
• Если в качестве базовой меры на (/?, &(R)) брать меру Лебега
A = A(dx), то «разложение Лебега» (см. (29) в § 9 гл. III или (3) в § 6
гл. VII) приводит к следующему результату: любая функция распределения
F = F(x) на (/?, &{R)) представляется в виде
F(x) = aFabc(x) + bFsing(x),
где а > 0, b > 0, а + 6 = 1,
X
Fabc(x)= 5 f(y)Mdy) — абсолютно непрерывная функция рас-
—оо
пределения с (измеримой по Борелю) плотностью / = f(y) (/(#)>0,
оо
S M4dy) = l)n
—оо
Fs\ng(x) — сингулярная функция распределения (т. е. такая, что
соответствующая ей мера PSing на (/?, 88(Щ) является сингулярной по
отношению к мере Лебега A, Psing-LA).
В свою очередь сингулярная функция Fs\ng(x) может быть представлена
в виде
' singV-^) = О, • Гd-singv-^) ~t~ £ '' c-sing Wi
где d > 0, с > 0, d + с = 1, F^s\ng(x) есть дискретная функция
распределения, характеризуемая тем, что носитель соответствующей ей меры Pd-sing
сосредоточен не более чем в счетном числе точек, и Fc.s\ng(x) —
непрерывная функция распределения, для которой носитель соответствующей меры
^c-sing есть несчетное множество нулевой лебеговской меры А. (Примером
функции /vsingM является канторова функция; см. п. 1 в § 3 гл. П.)
Напомним, что носитель меры fx на (/?, &{R)) определяется как
множество
supp(fx) = {xeR: fx{y\ \y-x\^r}>0, Vr>0}.

§ 3. АНАЛИТИЧЕСКИЙ АППАРАТ И СРЕДСТВА ТЕОРИИ ВЕРОЯТНОСТЕЙ 361
Из приведенных разложений вытекает следующее каноническое
представление (см. задачу 18 в § 3 гл. II) всякой функции распределения
F = F(x)m (/?,#(/?)):
F = а\ Fd + a^abc + a^sc»
где Fa (= Fd-sing) — дискретная, Fabc — абсолютно непрерывная, a Fsc
(= ^c-sing) — непрерывная сингулярная функции распределения и а/ > О,
/ = 1, 2, 3, с c*i + ol<i + аз = 1.
§ 3. Аналитический аппарат и средства теории
вероятностей
• Важной характеристикой случайной величины X =Х(и>), определенной
на вероятностном пространстве (Q, &, Р), является ее математическое
ожидание EX.
Если X = Х(ш) — неотрицательная случайная величина, то
математическое ожидание ЕХ определяется как интеграл Лебега от Х(ш) по
мере Р:
EX=^X(u>)P(du>).
п
Если X = Х(ш) — произвольная случайная величина (Х=Х+ — Х~, где
Х+ = тгх(Х, 0), Х~ = — min(X 0)), то говорят, что ее математическое
ожидание ЕХ существует, или определено, если хотя бы одна из величин
ЕХ+ или ЕХ~ конечна (т. е. min(Ey\r+, E^r~)<oo). В этом случае по
определению полагают
E* = E*+-E*-.
Говорят, что математическое ожидание ЕХ конечно (или что случайная
величина X интегрируема), если ЕХ+ < оо и ЕХ~ < оо, т. е. Е|Л"| < оо,
поскольку \Х\ =Х+ +Х~. (См. главу II, § 6.)
• Важными аналитическими средствами теории вероятностей являются
разнообразные теоремы о предельных переходах под знаком интеграла
Лебега (теорема о монотонной сходимости, лемма Фату, теорема Лебега о
мажорируемой сходимости), понятие равномерной интегрируемости,
неравенства (Чебышева, Коши—Буняковского, Иенсена, Ляпунова, Гёльдера,
Минковского и др.), теорема Радона—Никодима, теорема Фубини, теорема
о замене переменных в интеграле Лебега. (См. главу II, § 6.)
• Дисперсией случайной величины X = Х(ш) называется величина
DX = E(^-E^)2.

362
ПРИЛОЖЕНИЕ
Величина <r = +y/DX называется стандартным (линейным)
отклонением X (от среднего значения ЕХ).
Если (X, У) — пара случайных величин, то их ковариацией называется
величина
cov(*, Y) = E(X-EY)(Y-EY)
(предполагается, что математические ожидания определены).
Если 0 < DX < оо, 0 < D У < оо, то величина
cov^
^v ; VDXDY
называется коэффициентом корреляции случайных величин X и У.
Если X — случайная величина, то математическое ожидание ЕХп (если
оно определено) называется моментом порядка п или п-м моментом
этой случайной величины. Величины Е(Х)п = ЕХ(Х —1)...(Х — п+1)
называют факториальными моментами порядка п.
• Если F = F(x) — функция распределения, то функция
<p(t) = $ eitx dF(x) (= § cos tx dF(x) + / § sin tx dF(x)\, / G /?,
называется характеристической функцией распределения F.
В том случае, когда F = FX — функция распределения случайной
величины X, функция
<px(t) = $eitxdFx(x), /€/?,
R
называется характеристической функцией случайной величины Х =
= Х(ш). (См. главу II, § 12.) При этом <px(t) = Eeitx^\
• Если X — неотрицательная случайная величина с функцией
распределения Fx = Fx(x), то функция
оо
Fx(\)=\ e-XxdFx(x), А>0,
о
называется преобразованием Лапласа (функции распределения Fx или
случайной величины X). При этом Fx(\) = Ee~xx.
Таблицы наиболее употребительных дискретных распределений
вероятностей и распределений, имеющих плотности, приведены в § 3 главы II.
• При изучении вероятностных свойств дискретных случайных величин
зачастую весьма эффективен метод производящих функций. Этот метод
хорошо известен и в других разделах математики и является удобным
средством изучения свойств числовых последовательностей с трудно обозримой
структурой.

§ 3. АНАЛИТИЧЕСКИЙ АППАРАТ И СРЕДСТВА ТЕОРИИ ВЕРОЯТНОСТЕЙ 363
В теории вероятностей производящая функция G(s) случайной
величины X, принимающей значения 0, 1,2, ... с вероятностями ро> Pi, P2, •••
оо
(Pk^O, Y^ Pk = l), определяется формулой
G(s) = Esx Uffts*), M<1.
По производящей функции G(s) случайной величины X однозначно
восстанавливается ее распределение (pk)k^o'-
Если имеется векторная дискретная случайная величина X = (Х\,..., Л</),
компоненты Л; которой принимают значения в множестве N = {О, 1,2, ...},
то ее производящая функция G(s) с s = (sb ..., Sd) определяется
следующим образом:
оо
G(su -., sd) = Es* ...sx/ = Е Р*и.~*А ••■#.
kit...tkd=0
где pkii kd=P{Xi=k\, ..., Xd=kd), \sk\<, 1, 6 = 1, ..., af.
Если величины Ль ..., Л</ независимы, то
G(5i, ..., S£/) = Gi(5i)...G£/(5rf),
meG*(s*) = Es*\£=l,...,af.
Данное выше определение производящей функции G(s) случайной
величины Л предполагало, что Л принимает неотрицательные значения в
множестве /V = {0, 1, 2, ...}. Для разных нужд целесообразно обобщить
это понятие и на тот случай, когда Л принимает как положительные, так и
отрицательные значения, т. е. пусть P{X = k}= pk, где k = О, ±1, ±2, ... и
оо
/г=—оо
Определим для такой случайной величины Л ее производящую
функцию G(s) (аналогично случаю k = 0, 1, 2, ...) формулой
оо
G(s) = Esx= Y, PkSk
k=—оо
(для тех 5, для которых E|s*| < оо).
Типичным случаем, когда возникает необходимость в обращении к
таким производящим функциям, является случай разности двух
случайных величин Л=Л1 — Лг, где Л] и Х% принимают значения в множестве
/V = {0, 1,2, ...}, имея Ga-,(s) и Ga-2(s) своими производящими функциями.

364
ПРИЛОЖЕНИЕ
Если Х\ и Х<± независимы, то
Г
Gx(s) = Gx№Gx,(j).
В частности, если X-t имеет распределение Пуассона с параметром А/,
/ = 1,2, то Gxi(s) = e~x^l~s^ и производящая функция Gx(s) величины
Х = Х\ -X<i задается формулой
Gx(s) = e~{Xl+x'2)+XlS+x'2/s = e~{Xl+x'2) .eV^XT(^+i/0^
где t=Sy/\\/\2.
Из анализа известно, что для х е R
1 °°
e*(t+})= J- tkIk(2x),
k=—оо
где Ik(2x) есть модифицированная функция Бесселя первого рода
порядка k (см., например, [79, т. 5, с. 820—825]):
оо 2г
№)=*'£ ,!Г(Дг+1), 4 = 0. ±1, ±2....
г=0
(По-другому можно сказать, что для каждого х е R производящая функция
последовательности (/^(2x))^=o,±i,... задается формулой ех<<1+{^^ )
Таким образом, находим, что распределение вероятностей случайной
величины ^ = ^1 — X<i определяется формулой
р{Х = *} = *-<*■+*) (^i)V2//z(2V/A^),
где 6 = 0, ±1, ±2, ...
По поводу других примеров, связанных с подсчетом и применениями
производящих функций см., например, задачи 28, 32 в § 6, задачу 22 в § 8
главы II, задачу 18 в § 2 главы VII, задачу 19 в § 8 главы VIII.
• Как уже было отмечено раньше, производящие функции играют
значительную роль в различных разделах математики и, в частности, в
дискретной математике и комбинаторике.
В сущности, именно производящие функции лежат в основе
алгебраических методов решения комбинаторных задач, давая, тем самым, начало
тому направлению в комбинаторике, которое естественно называть
алгебраической комбинаторикой.
Вкратце суть дела здесь в том, что со многими комбинаторными
операциями и комбинаторными интерпретациями можно связать определенные
алгебраические операции и алгебраические интерпретации.

§ 3. АНАЛИТИЧЕСКИЙ АППАРАТ И СРЕДСТВА ТЕОРИИ ВЕРОЯТНОСТЕЙ 365
В качестве примера того, как для комбинаторных подсчетов можно
использовать алгебраические свойства производящих функций,
рассмотрим следующую комбинаторную задачу, связанную с лотерейными
билетами. Будем предполагать, что эти билеты имеют шестизначные номера от
000000 до 999999. Требуется найти вероятность того, что у купленного
случайным образом билета сумма первых трех цифр равна сумме последних
трех. Ясно, что это — чисто комбинаторная задача на подсчет
соответствующего числа благоприятствующих комбинаций. В данном примере это
число комбинаций можно было бы попытаться найти перебором. Но (как
мы увидим далее) это число равно 55 250, что говорит о трудоемкости
отыскания этого числа таким методом, если под руками, конечно, нет
компьютерных средств.
Метод производящих функций в этой задаче с шестизначными
номерами билетов и в аналогичных задачах с 2п цифрами приводит к
ответу весьма быстро. Именно, пусть X = (Х\У ..., Xq) — вектор, состоящий
из независимых случайных величин таких, что pk = P{Xt=k}= 1/10 для
* = 0, 1, ...,9.
Производящая функция
В силу независимости
1 /1-510\3
GX]+x2+x3(s) = G*. (s) °x2(s) Gx3(s) = ^з {-[^-) .
и точно такой же ответ для Gx4+xb+x6(s)-
Рассмотрим теперь случайную величину У = (Х\ +Х2 +^з) — № +^5 +
Понятно, что в силу независимости
GY(S) = GXi+X2+X3(s) GxA+Xb+Xb {^) = ~[tf~^7 { i_s ) •
У производящей функции
GY(s) = J2<!kSk
k
коэффициент qo (при 5°) есть вероятность Р{У =0}, что и есть
интересующая нас вероятность того, что сумма первых трех цифр совпадает с суммой
последних трех. { /1-510\6
Разлагая (1— s10)6, (1 — s)~6 и -^(-j ) в степенные ряды (по
степеням sk, k = 0, ±1, ±2, ...), можно найти (после простых, но все же

366
ПРИЛОЖЕНИЕ
достаточно громоздких вычислений с «числами сочетаний»), что
^0=55|2=0,05525.
(См. также задачу 79 в § 6 главы II.)
В общем случае под производящей функцией произвольной
числовой последовательности а = (ап)п^о понимается (формальный) степенной
ряд, т. е. алгебраическое выражение вида
Ga(x) = а0 + а\Х + а2х2 + ...
для xeR.
Если этот ряд имеет ненулевой радиус сходимости, то он
действительно определяет функцию, свойства которой могут много сказать о
свойствах последовательности а = (ап)п^. К вопросам сходимости таких
рядов приходится часто обращаться, однако в общей теории производящих
функций считается, что формальный ряд Ga(x) есть своего рода
«перекодировка» последовательности а = (ап)п^о, устанавливающая биективное
соответствие
(an)<r+Ga(x).
При этом соглашении понятно, что если также (bn) <^>Gb{x) и с —
константа, то
(ап + cbn) <-> Ga(x) + cGb (x).
Одним из наиболее важных свойств соответствия «<-»» является свойство
I ^ aibn-i I <-> Ga(x)Gb(x),
\i=0 / п^О
означающее, что конволюции (свертке) последовательностей а = (ап)п^о
и b = (bn)n^o соответствует умножение производящих функций.
Нетрудно видеть, что введенные формальные операции (сложения, умножения
на скаляры и перемножения формальных рядов) обладают свойствами
ассоциативности, коммутативности и дистрибутивности, превращая, тем
самым, формальные ряды в алгебраическую структуру. (Подробнее см.
[61], [122], [103], [104].)
Наряду со степенным рядом Ga(x), построенным по
последовательности (ап), полезно рассматривать также экспоненциальную
производящую функцию
£а(х) = 2_,ап—.
п^0

§ 3. АНАЛИТИЧЕСКИЙ АППАРАТ И СРЕДСТВА ТЕОРИИ ВЕРОЯТНОСТЕЙ 367
(Здесь ряд снова понимается как формальный степенной ряд.) Как и в
случае производящих функций, имеет место взаимно однозначное
соответствие
(ап)++Еа(х)
и выполнены свойства
(ап + cbn) <-> Еа(х)(сЕь(х))у
I Y^ cnaibn-i I ~ Еа (х)Еь (х).
Обратимся к некоторым примерам. Если последовательность (ап)п^о
такова, что ап = 1, п > 0, то производящая функция имеет вид
Ga(x) = Y,xn (
л=0
-т^. м<0
справедлива формула
[Ga(x)]N =
оо
-л=0
Л/ ОО
я=0
которую можно получить следующими рассуждениями.
Рассмотрим (1 + х + х2 + .. .)N. Сколькими способами здесь можно
получить хп? Запишем это выражение в виде произведения:
(l+x + x2+ ...)N = (l+x+x2 + ...)(1+х+х2+...)...(1+х+х2 + ...).
Если из первой суммы в скобках берется хп\ из второй — хп'2, ..., из
/V-й — хПы, то должно быть хщхп'2...хПы =хп. Число возможных наборов
(п\, /22, • • •, пм) сп\+П2 + ... + пн=пищ^0в точности есть число
неотрицательных решений системы п\ + Я2 + ... + ял/ =п и оно равно С^+п_{
(см. задачу 6 в § 1 главы I). Таким образом, производящей функцией
последовательности (С^+п_{)п^о является функция (1 - x)~N, \х\ < 1.
Отсюда можно, например, заключить, что
оо
Ес%—пгч1 оЛ/
^ ^Л/+/г-1 — z •
/г=0
Производящей функцией последовательности (С^)п^о с CJ=0 при
n>N является функция (1 +x)N\
N
л=0

368
ПРИЛОЖЕНИЕ
(Доказательство можно получить аналогично рассмотренному выше
случаю для последовательности (С^+п_х)п^)
Рассматривая выражение
{\ +x)N {\ +x)M = {\ +x)N+M
и раскладывая левую и правую части по степеням х, а затем приравнивая
коэффициенты при хку легко находим, что
N
Eri rk~i — rk
/=0
(Это равенство известно как «свертка Вандермонда», или
гипергеометрическое тождество; см. также задачу 2 в § 2 главы I.) Приведенное
доказательство хорошо иллюстрирует, как метод производящих функций
позволяет устанавливать разного рода комбинаторные соотношения.
В заключение темы «производящие функции» обратимся к
рассмотренным выше числам Стирлинга второго рода SJJ и числам Белла BN.
Напомним, что число SJJ — это число всевозможных разбиений &
множества А с N элементами таких, что каждое разбиение & содержит в
N
точности п классов. Число Белла Вц = ^ $n ~ это число всевозможных
разбиений множества А с \А\ = N. п={
В § 1 «Элементы комбинаторики» была приведена формула nN =
п
= X) S^(n)k и дано ее комбинаторное доказательство. (Напомним, что
k=\
S; =S% = 1, S°N =0 и SnN =0 для n > N.)
Из этой формулы вытекает, что для каждого N > 1 полином
N
pN(x)=xN-J2sN(x)n, xeR,
п=\
имеет корни х= 1, ..., N. Поскольку х = 0 также есть корень, то,
следовательно, Pn(x) = 0. Таким образом, для всех N > 1 и х eR
N
х =2_^ 5дг (х)п.
п=\
Если считать, что S^ = 0 для N > 1, и полагать также Sq = 1 и (х)о = 1, то
видим, что
/V
X = 2_^ $N (x)n
п=0
для всех /V = 0, 1, 2, ... и х eR.

§ 3. АНАЛИТИЧЕСКИЙ АППАРАТ И СРЕДСТВА ТЕОРИИ ВЕРОЯТНОСТЕЙ 369
Учитывая это, находим, что
поскольку по формуле Тейлора (1 +z)x = ^ —r (*)«•
Сравнивая левую и правую части в приведенной цепочке равенств,
видим, что экспоненциальная производящая функция чисел Стирлинга
второго рода (5дг)д/^о задается для всех п > О следующей формулой:
(S° = 1, S°N = О для N > 1 и SjJ = О для iV < п).
Аналогичным образом можно найти и производящую функцию
последовательности (S^)n^o'-
mNxm
п>0 т>0
Es^ee"E
Действительно,
^=Eir=Ew4'
поскольку (т)п = 0 при tn^n— 1. Используя формулу m^ = X) 5JJ(m)„,
находим, что л^°
е« £ S&*" = £ S»* V = £ «Я ( £М« £) =
/г>0 /г>0 /г>0 Чт>0 /
т^О Ч/г^О / т^О
=Е5ГЕ^иЛ=Е
что и доказывает требуемую формулу.
Если положить х = 1, то придем к формуле Добинского для чисел
Белла
т>0
При определении чисел Стирлинга второго рода SJJ мы исходили из их
комбинаторного смысла как числа всевозможных разбиений множества А,

370
ПРИЛОЖЕНИЕ
состоящего из N элементов, таких, что каждое из них содержит в точности
N
п классов. Затем было показано, что xN = Y^ Sft (х)п при каждом N > 0.
л=0
Алгебраически числа Стирлинга первого рода (S/y)o<n<w можно
определять из соотношений
N
{x)N = YJSnNxn. (*)
л=0
Комбинаторный же смысл этих чисел состоит в следующем. Пусть
7г = (7Гь ..., 7Гд/) — перестановка (подстановка) чисел (1, ..., N).
Обозначим через с% число подстановок, имеющих п циклов. (У подстановки
\2 Г 4 Б 3) имеется Два цикла.) Можно убедиться в том, что
справедливы следующие рекуррентные соотношения:
cnN = cnN-_\+(N-l)c%_l
(с Cq = 1), из которых вытекает, что
N
Y,cnNxn = x(x + \)...{x + N-\).
п=0
Сопоставляя эту производящую функцию для чисел с^, clN, ..., eft с
приведенной выше производящей функцией (*) для чисел Стирлинга первого
рода s%, s{N, ..., s#, видим, что
N—n~n
CN — {-i) SN
Таким образом, числа Стирлинга первого рода sJJ совпадают с точностью
до знака с числом подстановок чисел (1, ..., /V), имеющих п циклов.
Если X — дискретная случайная величина, принимающая значения в
множестве N = {0, 1, 2, ...}, то ее производящая функция была
определена формулой G(s) = Esx, \s\ < 1. Обозначая pk = Р{Х =k}, находим, что
степенной ряд
оо
G(s) = Y,PkSh
k=0
является производящей функцией числовой последовательности (Pk)k^o-
Родственным понятием является также понятие производящей
функции моментов (см. задачу 32 в § 6 главы II)
M(s) = EesX

§ 3. АНАЛИТИЧЕСКИЙ АППАРАТ И СРЕДСТВА ТЕОРИИ ВЕРОЯТНОСТЕЙ 371
(математическое ожидание EesX заведомо определено и конечно, если,
например, — 1 <5<0). В том случае, когда все моменты т^ = EXk, & > 1,
конечны, из приведенного определения M(s) следует, что (формальный)
ряд
оо k
M(s) = J2m{k)^
k=0
является экспоненциальной производящей функцией последовательности
моментов (m^)k^o. Наряду с моментами m^ = EXk в теории
вероятностей рассматривают, как уже отмечалось выше, также факториальные
моменты
(m)k = E(X)k = EX(X-l)...(X-k + l)
и биномиальные моменты
(X)k (m)k
(название объясняется тем, что Ь^) = ЕС£, поскольку С* = (X)k/k\).
Последовательностям факториальных моментов ((m)k)k^o и
биномиальных моментов (bk)k^o отвечают соответственно экспоненциальная
производящая функция
оо £
(M)(s) = J2(m)kS¥
k=0
и производящая функция
оо
B(s) = J2b(k)Sk.
Понятно, что
М (s) = G(es), (M)(s) = B(s) = G(s + 1).
Полезно отметить, что из приведенных ранее формул
оо оо
xN=^2snN(x)n, (х)ы = ^2Фп,
/2=0 /2=0
где 5дг и 5дг — числа Стирлинга второго и первого рода, вытекают
следующие формулы связи между моментами т(/2) = ЕХп и факториальными
моментами (т)п = Е(Х)п, п > 0:
N N
тМ = £ sn Мл, (m)N =J2 sNmin)-
/2=0 /2=0

372
ПРИЛОЖЕНИЕ
• Полезно отметить, что многие широко известные в математическом
анализе числа (например, числа Бернулли, Эйлера и др.) и полиномы
(Бернулли, Эйлера, Эрмита, Аппеля и др.) определяются именно с
помощью производящих функций.
(а) Числа Бернулли bo, b\, b<i, ... и полиномы Бернулли Во(х), В\(х),
В2(х), ... определяются (своими) экспоненциальными производящими
функциями по формулам:
оо
-Е^ » £тт-5><"й-
es_\ /_^
/2=0 /2=0
(Некоторые частные случаи: bo=l, Ь\= — -ту ^2 = ^> ^4 = —чй' ^6=49'
Ь8 = -^иВ0(х)=1,В1(х) = х-^В2(х) = х2-х+{-,В3(х)=х*-1х2 +
+ -х\ см., например, [28].) Все нечетные числа Бернулли (кроме Ь\= — -
равны нулю. Из других свойств отметим следующие:
(\)bN = Y, C^-/2,W = 2,3, ...;
/2=0
(ii) все числа fcyv являются рациональными числами;
(\\\) BN(0) = bNy BN(l) = (-l)NbN, N>0;
(iv)ByvW=E CnNbnxN-«,N>\\
(v)B'N(x) = NbN-X(x),N>l.
(b) Числа Эйлера e§,e\,e<i, ... и полиномы Эйлера Ео(х), Е\(х),
Е2(х)у ... определяются (своими) экспоненциальными производящими
функциями по формулам:
2es ^ sn 2exs ^ П , ,sn
/2=0 /2=0
2es l
Поскольку -^—- = ——, то можно сказать, что экспоненциальной
производящей функцией чисел Эйлера е$, е\, e<i, ... является функция ——.
Из приведенных определений вытекает, что
(\)eN=2NEN^yN>0;
(\\)EN(x)=t C"NEn±(x-X-)N~\N>0-
(\\\)E'N{x) = NEN_x{x\N>\-
(iv) все числа Эйлера с нечетными индексами равны нулю, а с четными
индексами суть целые числа.

§ 3. АНАЛИТИЧЕСКИЙ АППАРАТ И СРЕДСТВА ТЕОРИИ ВЕРОЯТНОСТЕЙ 373
Частные случаи чисел Эйлера: е$ = \у е2 = -\, е± = Ьу е6 = -61, е% =
= 1385; см. [28].
(с) Полиномы Эрмита несколько по-разному вводятся в анализе и в
теории вероятностей.
В анализе полиномы Эрмита Нп(х), п>0, вводятся, как правило, по
формулам
Нп(х) = {-\)п
W '
1 _ 2
где гр(х) = —р=е х . Соответствующая экспоненциальная производящая
V27T
функция (s eR, x eR) допускает простое выражение:
00 п
s _ „2sx-s2
ипул) —
/2=0
В теории вероятностей обычно оперируют с (несколько иными)
полиномами Эрмита
Нел(*) = (-1)»^&, л>0,
где (р(х)= —=е~х /2 — плотность стандартного нормального сЖ(0, 1)-
V27T
распределения. (Отметим, что в § 11 главы II эти полиномы Неп(х) были
обозначены Нп(х))
Соответствующая полиномам Неп(х)у п>0, экспоненциальная
производящая функция (s eR, xeR) имеет такой вид:
00 п
£неп(х)|7=в2—2/2.
/2=0
Нетрудно видеть, что
Неп(х) = 2-п/2Нп(2-'/2х).
Частные значения:
Но(х) = 1, Нео(х) = 1,
Н\ (х) = 2 а:, Hei (x) = х,
Н2(х) = Ах2 - 2, Не2(х) = х2 - 1,
#з (х) = 8а:3 — 12х, Не3 (х) = х3- За:.
В связи с броуновским движением B = (Bt)t^o в теории случайных
процессов часто используются полиномы Эрмита Нел(л:, /), п > 0, х е /?,

374
ПРИЛОЖЕНИЕ
t €/?+, определяемые следующей экспоненциальной производящей
функцией (s €/?):
£Нел<*. О ^ =**»-*'.
/2=0
(Вместо Hen(jc, ^) часто пишут //«(*> t).) Интерес к введению этих
объектов обусловлен, в частности, тем, что для (стандартного) броуновского
движения В = (Bt)t^o процессы
(Нел(Я,, ОЬо, л>0, и {е^-Т1)^
являются мартингалами (относительно фильтрации, порожденной
броуновским движением).
(d) Пусть X — случайная величина такая, что ее производящая функция
G(s) = EesX
конечна для |s| < А, где А — некоторое положительное число.
Введем функцию
A(s, х) = £—, jcG/?, |s|<A.
G(s)
esx
(В актуарной и финансовой математике функция х ~* ^-—- носит название
преобразования Эшера; см. § 11 главы VII.)
По функции A(s, х) определим полиномы Аппеля (называемые также
полиномами Шеффера) Qo(x), Q\(x), ... из разложения
ОО £
A(s,x) = Y,Qk(x)jr-
k=0
esx
Иначе говоря, A(sy x) = sX есть производящая функция
последовательности полиномов (Qk(x))k^o-
Если X — случайная величина, имеющая равномерное распределение
на [0, 1], то ее производящая функция имеет вид
G(s) = EesX = ^-^-.
Следовательно, в этом случае
sesx
и полиномы Аппеля Qk(x) есть не что иное, как полиномы Бернулли В^(х).
Если X — бернуллиевская случайная величина с Р{Х = 1} = Р{Х = 0} =
= 1/2, то ее производящая функция имеет вид
G(s) = Ee°x = £p:

§ 3. АНАЛИТИЧЕСКИЙ АППАРАТ И СРЕДСТВА ТЕОРИИ ВЕРОЯТНОСТЕЙ 375
Следовательно,
и, значит, полиномы Аппеля в этом случае совпадают с полиномами
Эйлера.
Если X — случайная величина, имеющая стандартное нормальное
распределение сЖ(0, 1), то ее производящая функция имеет вид
G(s) = es2'2
и, значит,
Л (5, x) = exs~s2/2.
Тем самым, в этом случае полиномы Аппеля Qk(x) совпадают с
полиномами Эрмита Hefc(jt).
Обозначим xi, X2, ... кумулянты (семиинварианты) случайной
величины X. Тогда можно убедиться в том, что
Qo(x) = U
Q\(x) =x — xi,
Q2(X) = (X - Xi)2 - Х2,
Qs(x) = (х - xi)3 - 3x2(x - xi) - х3.
В случае, когда X ~ сЖ(0, 1), кумулянты щ = 0, щ = 1, хз = X4 =... = 0, и
видим, что
Qo(*) = Heo(x)=l,
Q\(x) = Не\(х) = ху
Q2(x) = He2(x) = x2-ly
Q3(x) = He3(x) = x3-Sx.
Заметим, что для однозначного определения полиномов Qk(x), k=l, ...
..., п, достаточно на самом деле требовать лишь, чтобы Е|Аг|/2<оо. При
этом справедливы следующие (так называемые аппелевы) соотношения
(Qo(x)=l):
Q'k(x) = kQk-X(x), 1<£<л.
• Условным математическим ожиданием неотрицательной случайной
величины X относительно сг-подалгебры &С.^ называется
неотрицательная (вообще говоря, расширенная, т. е. со значениями в R) случайная
величина Е(Х\&) = Е(Х\У){и>) такая, что
1) Е(Х\У) -^-измерима,

376
ПРИЛОЖЕНИЕ
2) для любого А е У
Е[Х1А] = Е[Е(Х\#)1А].
Для произвольных случайных величин X (=Х+ — Х~) условное
математическое ожидание X относительно сг-подалгебры &C.JP считается
определенным, если Р -почти наверное
min[E(Jr+|Sf)M. E(X-\9)(w)]<oo,
и задается формулой
Е(;п^)и = Е(*+|^)М-Е(*-|^)и.
В случае, когда Х(ш) = 1а(ы) — индикатор множества A €^\ условное
математическое ожидание Е(1а \&) = Е(1а \&)(w) обозначается Р(Л |Sf) или
Р{А\У)(ш) и называется условной вероятностью события А относительно
сг-подалгебры Sf с &.
Если Sf есть сг-алгебра, порожденная некоторым случайным элементом
У = У(и) (для наглядности эту сг-алгебру обозначают Sfy или <т(У))у то
соответствующие Е(Х\&у) и Р(А \&y) принято обозначать Е(Х \ У) и Р(Л | У) и
называть условным математическим ожиданием X относительно У
и условной вероятностью события А относительно У. (См. главу II,
§7.)
• Как и в математическом анализе, в теории вероятностей оперируют с
р
разными видами сходимости случайных величин (Хп -^Х — сходимость по
вероятности; Хп —>X (Р-п. н.) — сходимость почти наверное, или почти
всюду; Хп —> X — сходимость по распределению (обозначаемая также Хп™Х,
Law(^) —> Law(A), Law(Jn) ^> Law(X)); Хл —> X — сходимость в среднем
порядка р > 0; А^(ш) —> А^о;), о; € ft, — поточечная сходимость; п > 1. (См.
главу II, § 10.)
• Помимо разных видов сходимости собственно случайных величин, в
теории вероятностей значительное внимание уделяется вопросам
сходимости вероятностных мер, распределений вероятностей, сходимости их
характеристик.
Одним из наиболее важных видов сходимости является слабая
сходимость Рп Д Р к мере Р вероятностных мер Рп, п > 1, заданных на
метрических пространствах (к которым относятся упомянутые выше пространства
R\ /?°°, С и D).
Такие результаты, как закон больших чисел, центральная предельная
теорема, теорема Пуассона, сходимость к безгранично делимым
распределениям, суть типичные примеры утверждений, относящихся к теории
слабой сходимости вероятностных мер. (См. главу III.)

§ 4. СТАЦИОНАРНЫЕ (В УЗКОМ СМЫСЛЕ) ПОСЛЕДОВАТЕЛЬНОСТИ 377
• Многие исследования в теории вероятностей относятся к изучению
свойств «с вероятностью единица», или свойств «почти наверное». Сюда
относятся, например, законы «нуля или единицы», сходимость рядов почти
наверное, усиленный закон больших чисел, закон повторного логарифма
(см. главу IV.). Важную роль при этом играет лемма Бореля—Кантелли:
Пусть А\, A<i, ... — последовательность событий (множеств), {Ап б. ч.}
оо оо
(= lim An= f] (J Ak) — множество тех и € ft, которые бесконечное чис-
/2=1 k=n
ло раз (бесконечно часто) встречаются в последовательности А\, А%, ....
Тогда
оо
(a) если Y^ P(Ai)<oo, то вероятность Р{Ап б. ч.} = 0;
/2 = 1
оо
(b) если XI Р(^л) = оо и события А\, Ач, ... независимы, то вероят-
/2=1
ность Р{Ап б. ч.}= 1.
§ 4. Стационарные (в узком смысле) случайные
последовательности
• Заданная на вероятностном пространстве (ft, ^\ P) случайная
последовательность X = (Х\,Х2, ...) называется стационарной в узком
смысле, если ее закон распределения Law(X) (иначе — распределение Рх)
совпадает при каждом k > 1 с законом распределения Law(^X) «сдвинутой»
последовательности в/^Х = {Xk+\, ^+2, • • • )•
Изучение вероятностных свойств таких последовательностей удобно
проводить (и это делается в главе V книги «Вероятность — 2») с
привлечением понятий, идей и методов теории динамических систем.
• Основными объектами исследования этой теории являются
измеримые отображения, сохраняющие меру.
Отображение Т: ft—>ft называется измеримым, если для всякого
AeJp множество Т~хА={и\ ТиеА}е^. Такое отображение называется
сохраняющим меру, если для всякого А е &
Р(Т~1А) = Р(А).
Связь между «стационарными в узком смысле последовательностями» и
«сохраняющими меру преобразованиями» отчетливо проявляется в
следующем.
Пусть Т — некоторое сохраняющее меру преобразование и Х\ = Х\ (и) —
случайная величина. Положим Хп(и>) = Х\(Тп~1и>), где Тп~х есть (п— 1)-я
степень Т. Тогда последовательность X = (Х\, X<i, ...) будет стационарной
в узком смысле.

378
ПРИЛОЖЕНИЕ
Верно в определенном смысле и обратное: для каждой стационарной в
узком смысле последовательности X = (Х\, Лг, ...) можно построить новое
вероятностное пространство (ffc, #, Р), преобразование 71: Г2 —> Г2,
сохраняющее меру Р, и случайную величину Х\ =Х\(и) такие, что Law(J), где
X = (Х\ (£)), X\ (fcD), ...), будет совпадать с Law(X).
Основные результаты главы V относятся к изучению таких свойств
сохраняющих меру преобразований, как возвратность («теорема Пуанкаре о
возвратности»), эргодичность, перемешивание. Центральным результатом
является эргодическая теорема Биркгофа—Хинчина, один из вариантов
которой (как для сохраняющих меру преобразований, так и для стационарных
в узком смысле последовательностей) формулируется следующим образом:
(a) если Т — сохраняющее меру эргодическое преобразование и £ =
= £(<v) — случайная величина с Е|£| < оо, то
1 п~х
'Г iE^) = E£ (Р-п.н.);
£=0
(b) если X = (Х\, Х2, • • •) — стационарная в узком смысле эргодическая
последовательность с E|A"i | < оо, то
п-\
Hm i У" Хк(ш) = ЕХ\.
k=o
§ 5. Стационарные (в широком смысле) случайные
последовательности
Как с точки зрения теории, так и с точки зрения приложений при
рассмотрении таких последовательностей X целесообразно и удобно
предполагать, что, во-первых, они определены для всех п € Z = {0, ± 1, ±2, ...}
и, во-вторых, компоненты этих последовательностей принимают
комплексные значения. Иначе говоря, считается, что Х = (..., J_i, Xo, Х\, ...), где
Хп — комплекснозначные (=an+ibn), причем такие, что E^l2 для всех
neZ; глава VI, § 1.
Основное предположение «стационарности в широком смысле»
заключается в том, что ЕХп = EXq и cov(Xn+mj Xm) = cov^, Xq) для всех пит
из Z.
Полагая, без ограничения общности, ЕА^О* находим, что cov^, Jo) =
= ЕХпХо. Функция R(n) = ЕХпХо, neZ, называется ковариационной
функцией.
• Следующие два результата (теорема Герглотца и теорема о
спектральном представлении последовательности X) показывают, что в опре-

§ 5. СТАЦИОНАРНЫЕ (В ШИРОКОМ СМЫСЛЕ) ПОСЛЕДОВАТЕЛЬНОСТИ 379
деленном смысле стационарные в широком смысле последовательности
можно рассматривать как случайный объект, возникающий при
суммировании гармонических компонент со случайными амплитудами (с
соответствующим предельным переходом с заполнением всей области возможных
значений спектральных частот).
Первый важный результат (глава VI, § 1) говорит о том, что всякая
ковариационная функция /?(п), п € Z, допускает спектральное
представление:
R(n)= \ eiXnF(d\),
— 7Г
где F = F(B) (В €^([7г, 7г))) есть некоторая конечная
(действительнозначная) мера, а интеграл понимается как интеграл Лебега—Стилтьеса. Второй
результат (глава VI, § 3) дает спектральное представление самой
случайной последовательности X = (Xn)n£z'- для каждого п € Z (Р-п. н.)
7Г
Хп= $ eiXnZ(dX),
— 7Г
где Z = Z(A) (Ае&([—7г, 7г))) есть ортогональная (комплекснозначная)
стохастическая мера со свойствами EZ(A) = 0, E\Z(A)\2 =F(A).
(Напомним, что предполагается, что Е^о = 0.)
Спектральные функции F = F(d\) и спектральные плотности / = /(А)
(F(B) = \ /(A)dA, Be&([—7г, 7г))), если они существуют, играют важную
в
роль в корреляционно-спектральном анализе рассматриваемых
процессов X, давая вполне определенное представление о частотах и их интен-
сивностях, т. е. представление о «спектральном составе» ковариационной
функции.
Из свойства E\Z(A)\2 = F(A) понятна и роль спектральной функции в
формировании «спектральных стохастических компонент», в совокупности
7Г
дающих представление Хп = \ elXn Z(d\)y neZ.
— 7Г
• Эти свойства спектральных характеристик и их наглядность
объясняют большой интерес к ним в статистике стационарных
последовательностей (и стационарных случайных процессов в случае непрерывного
времени), занимающейся построением «хороших» оценок ковариационной
функции, спектральной плотности и их характеристик (глава VI, § 4),
используемых для построения вероятностно-статистических моделей,
согласующихся с экспериментальными данными.
Надо отметить также, что именно в рамках рассматриваемой теории
«стационарности в широком смысле» были получены известные результа-

380
ПРИЛОЖЕНИЕ
ты (Колмогоров, Винер) относительно фильтрации, экстраполяции и
интерполяции случайных последовательностей и процессов (глава VI, § 6).
§ 6. Мартингалы
В период становления теории мартингалов было осознано, что весьма
плодотворно в определение вероятностного пространства (ft, ^\ P)
добавить еще одну структуру — поток сг-алгебр (фильтрацию) (^п)п^0у
наглядный смысл которой состоит в том, что &п — это «информация», которую
наблюдатель получает до момента времени п (включительно).
Образованную таким образом структуру (ft, &, (^п)п^0у Р) принято называть
фильтрованным вероятностным пространством. Именно на таких
пространствах вводятся такие понятия как «согласованность» (с
потоком («^я)л^о)» «предсказуемость», «стохастическая последовательность»,
«мартингальность», «марковские моменты», «моменты остановки» и
многие другие.
• Последовательность X = (Хп)п^, согласованная с потоком (^п)п^0у
т. е. такая, что Хп — &п-измеримы при каждом п, называется
мартингалом, если E|Xz|<oo, п>0, и Е{Хп\&п-\) = Хп-\. В случае, когда
последнее равенство заменяется неравенством: Е(Хп\^п_\)^Хп_\ или
Е(Хп\&п-\)^Хп-\, последовательность Х = (Хп)п^о называется
соответственно субмартингалом или супермартингалом.
• Охватывая большой круг интересных классов случайных
последовательностей (см. примеры в § 1 главы VII), теория мартингалов оказалась
также весьма богатой с точки зрения полученных в ней результатов,
находящих широкое применение в самых разных разделах теории вероятностей,
математической статистики и их применений.
К числу таких результатов, в первую очередь, надо отнести теоремы
о сохранении свойства мартингальности при случайной замене времени
(§ 2), теоремы о сходимости с вероятностью единица (§ 4), максимальные
«вероятностные» и «моментные» неравенства (§ 3).
В числе применений теории мартингалов отметим материал §§ 10—13,
в которых рассматриваются вопросы, связанные с вероятностями
разорения в страховании, со «стохастической финансовой математикой» и
проблематикой «оптимальной остановки» случайных последовательностей.
§ 7. Марковские цепи
Помимо ряда важных в теории марковских цепей понятий и
обозначений, которые вошли в основной текст главы VIII, здесь будут введены и
новые, поскольку они встречаются в формулировках новых задач.

§ 7. МАРКОВСКИЕ ЦЕПИ
381
• Как и в теории мартингалов, предполагается, что рассматриваемые
марковские цепи (в широком смысле) X = (Хп)п^о со значениями в фазовом
пространстве (£, <?) задаются на некотором фильтрованном вероятностном
пространстве (ft, J^", («^п)п^о» Р)- При этом величины Хп
предполагаются ^„/<?-измеримыми при всех п > 0. Основное предположение, которое
характеризует рассматриваемые последовательности, — это марковское
свойство в широком смысле: для всех п > 0 и В е & (Р-п. н.)
(часто вместо P(Jn+i eB\Xn)(u>) пишут Р(Хп+\ еВ\Хп(и>))).
Если сг-алгебры &п = &* = (т(Хо, Х\, ..., Хп), то принято говорить, что
рассматриваемое свойство есть марковское свойство в узком смысле и
что X = (Хп)п^о есть марковская цепь.
Если предполагать, что фазовое пространство (£, <?) является боре-
левским, то, согласно теореме 5 из § 7 главы II, существует регулярное
условное распределение Рп(х\ В) такое, что (Р-п. н.)
Р(ХпеВ\Хп-Х(и)) = Рп(Хп-Х(и); В), Ве£, п>\.
Функции Рп(х; В) в марковской теории принято называть
переходными функциями (из Е в <?), или марковскими ядрами. В том случае,
когда функции Рп(х; В), н> 1, не зависят от п (=Р(х\ В)), марковская цепь
(в широком смысле или в узком смысле) называется однородной.
Помимо переходной функции, другой важной характеристикой
марковских цепей является их начальное распределение 7г = 7г(В), В е &\
тт(В) = Р{Х0еВ}.
Набор (7г, Pi, Рг, •••) (в однородном случае — набор (я-, Р)) полностью
определяет распределение вероятностей марковской последовательности
Х = (Х0,Хи ...).
# Во всем изложении теории марковских цепей в главе VIII мы, следуя
современной традиции, несколько изменили точку зрения, считая, что
исходными объектами являются не (ft, &, (<^п)п^о, Р) и последовательность
X = (Xq, Х\, ...) ^/<?-измеримых случайных величин Хп со значениями
в £, где (£, <?) — фазовое пространство, а набор «переходных функций»
(Pi, P2, ...), действующих из Е в <?, где Рп = Рп(х\ В), хеЕ, Ве£, и
(£, <?) — некоторое заданное фазовое пространство. (В однородном случае
задается лишь одна переходная функция Р = Р(х; В).) По этому
набору строится (например, по теореме Ионеску Тулчи, в которой в качестве
(ft, &) берется координатное пространство (Е°°, £>ос)) семейство
вероятностных мер {Рх, х еЕ} и образуется канонически заданная
последовательность X = (Xq, X\, ...) (с Хп(си) =хп, если cj = (xq, x\, ...)), являющаяся

382
ПРИЛОЖЕНИЕ
относительно Рх марковской для каждого хеЕ, при этом Px{Xq = x} = 1.
Если 7г = 7г(В), В е<?, есть некоторое «начальное» распределение, то через
Рп обозначается распределение на (Е°°ч <?°°), построенное по формуле
PK(A) = lPx(A)ir(dx),Ae^°°.
Е
Относительно меры Рх последовательность X естественно называть
марковской цепью, выходящей из точки х (такой, что Х^(и) =х (Рх-и. н.)).
Относительно же меры Рп последовательность X называют марковской
цепью с начальным распределением п (т. е. с Рп{Х0 еВ} = п(В), В е<?).
• Для формулировки двух (новых) вариантов марковского свойства —
обобщенного марковского свойства и строго марковского свойства —
полезно ввести оператор сдвига в и его «степени» вп и вт (т — марковский
момент).
Оператор в: ft—>ft называется оператором сдвига, если для каждого
и=(х0ч х\, ...)
в(и) = (Х\, *2, •••)•
Иначе говоря, оператор 0, примененный к траектории (аго, Х\, ...),
превращает ее в «сдвинутую» траекторию (х\, х<±, ...)• (В главе V, посвященной
стационарным в узком смысле последовательностям и соответствующим
динамическим системам, также вводились отображения О, в себя, которые
там обозначались Т.)
Обозначая через #о = / единичное, тождественное преобразование
(во(и)=и), можно определить п-е степени вп оператора 0, полагая для
п> 1 9п=9п-\ о в (=вовп_\), т. е. считая, что вп(ш) = 9п-\(9(ш)).
Если t = t(cj) — марковский момент (т<оо), то через вТ обозначают
оператор, который действует лишь на множестве Пт ={си: г (и) < оо},
причем так, что вт =вп, если т = п, т. е. для всякого си такого, что т(си) = п,
вт{и)=вп(и).
Если Н = Н(си) — ^"-измеримая функция (например, t = t(cj), Xm =
= Хт(ш)), то через Н овп обозначается функция (Н о вп)(ш) = Н(9п(ш)).
Если о — марковский момент, то Н ов0 определяется лишь на
множестве ft<7 = {си: a(td) < сх)}, причем так, что если а(си) = п, то Н о в0 = Н о вп,
т. е. если и е {<t(cj) = п}, то (Н о в0)(со) = (Н о вп)(со) = Н(вп(со)).
Из этих определений, в частности, следует, что
Хщ °@П =Хт+П,
Хтов<7 = Xm+<j (на множестве Q<j)
и если г и а — конечные марковские моменты, то
ХТ О в0 — Хтовг +<7 •

§ 7. МАРКОВСКИЕ ЦЕПИ
383
С операторами вп: ft—>ft можно связать обратные операторы в~х: J^"—►
—► J^\ действующие так, что если А е &, то
e-x{A) = {w.en{w)eA).
Беря в качестве А множество {to \ Xm(cv)eB} с В е S\ находим, что
в^(А) = {и>:Хт+п(и>)еВ1
или, что то же,
в-\х-\в))=х-1п{В).
(В числе новых задач к § 2 главы VIII приведено много задач на свойства
операторов вп,в0,в~х и т. д.)
• Введенные выше операторы вп позволяют показать (теорема 1 в § 2)
справедливость следующего так называемого обобщенного марковского
свойства: если Н = Н(и) — ограниченная (или неотрицательная)
^-измеримая функция, то для всякого начального распределения п и любого
Ек(НоОп\&Х)(и) = ЕХй{ы)Н (Лг-ilh.).
Здесь Еп —усреднение по мере Рп и Exn(<v)H понимается в том смысле,
что сначала образуется функция ip(x) = ExH и затем, по определению,
считается, что Еха(Ш)Н = <ф(Хп(ш)).
Сформулированное обобщенное марковское свойство допускает, в
свою очередь, обобщение, заключающееся в том, что вместо
детерминированного момента п можно брать конечный марковский момент
времени т. Более точно, справедливо следующее свойство: если (//п)л^о —
последовательность ограниченных (или неотрицательных) ^"-измеримых
функций и т — конечный марковский момент, то из марковского свойства
следует так называемое строго марковское свойство, заключающееся
в том, что для каждого начального распределения 7г
Еп(ИТовТ\^)(и;) = ф(т(и;1 Хт{ш)(и>)) (Я.-п.н.),
где гр(п, х)=ЕхНп.
Обратим внимание на то, что Нтовт = (Нтовт)(си) понимается в
следующем смысле: если си таково, что т(си) = п, то (Нт о вт)(си) = (Нповп)(си).
• Как уже было отмечено выше, в современной теории однородных
марковских последовательностей X = (Хп)п^о со значениями в некотором
фазовом пространстве (£, <?) вероятностные распределения полностью
определяются по начальному распределению 7г = 7r(dx) и переходной функции
Р = Р(х; В), хеЕ, BeS*. При этом вероятностные распределения Рх на
(Е°°, £°°) определяются только переходной функцией Р = Р(х; В).

384
ПРИЛОЖЕНИЕ
Примечательно, что понятие переходной функции (или марковского
ядра) лежит также в основе того раздела математического анализа,
который называется теорией потенциала. Поэтому неудивительно,
что существует весьма тесная связь этой теории с теорией однородных
марковских цепей, причем эта связь оказывается взаимно плодотворной.
Остановимся на некоторых важных и необходимых для дальнейшего
понятиях как теории потенциала, так и марковской теории.
Свяжем с переходной функцией Р = Р(х; В), хеЕ, BeS*, линейный
оператор перехода (за один шаг) Pg, действующий на функции g = g(x)
по формуле
Wg(x) = \g(y)P(x;dy).
Е
(Часто пишут также (№g)(x).) В качестве области определения оператора
Р рассматриваются ^-измеримые функции g = g(x), для которых интеграл
5 g(y)P(x', dy) определен при всех хеЕ. Такой интеграл заведомо опре-
Е
делен для класса неотрицательных функций (обозначим его <?+) или для
класса ограниченных функций (обозначаемого Ъ£).
Обозначая через I единичный (тождественный) оператор (lg(x) = g(x)),
вводим операторы Рл (перехода за п шагов), полагая Рл = P(P„_i) для п> 1
или, равносильно, Р„ =P„_i(P), с P0 = L
Понятно, что
¥ng(x) = Exg(Xn)
для всякой ^-измеримой функции, для которой определен интеграл
{ g(y) Рп(х\ dy), где Рп = Рп(х\ dy) — переходная вероятность за п шагов
Е
(см. § 1 главы VIII).
Если г — марковский момент (относительно потока (<^%)п^о, ^п =
= <j(Xq, Х\, ..., Хп)), то через Рг будем обозначать оператор, действующий
на функции g = g(x) по формуле
VTg(x) = Ex[I(T<oo)g(XT)].
Заметим, что если g(x) = 1, то
№т1(х) = Рх{т<оо}.
По операторам Рл, н>0, строится (вообще говоря, неограниченный)
оператор
называемый потенциалом оператора Р (или соответствующей
марковской цепи).

§ 7. МАРКОВСКИЕ ЦЕПИ
385
Если g e <?+, то
Ug = J2Wng = (I + W)g,
что кратко записывают в виде
U = I + PU.
Функцию Ug принято называть потенциалом функции g.
Если g(x) = 1в(х) — индикатор множества В е £, то
Шв(х) = ^2^1в(Хп) = ЕхЫВч
где Nb — число посещений множества В. При фиксированном х еЕ
функция U(x, B)=UIb(x) является мерой на множествах BeS*. Иногда эту
меру называют потенциал-мерой. Если В = {у} — одноточечное
множество, у еЕ, то функцию U(x, {у}) обозначают G(x, у) и называют функцией
Грина (оператора Р или соответствующей марковской цепи). Наглядный
смысл функции Грина ясен: G(x, у) = E^/V^ есть среднее число
посещений состояния у в предположении, что Хо = х.
По аналогии с потенциалом U для оператора Р, для переходной
функции (марковского ядра) Р = Р(х\ В) вводят ядро Q = Q(x; В) по формуле
Q(x; B) = J2 Pn(x; В) (=IB(x) + PQ(x; В)).
Поскольку №п1в(х) = Рп(х; В), то понятно, что U(x\ В) = Q(x; В).
# Свяжем с оператором Р еще один важный оператор
L = P-I,
где I —единичный (тождественный) оператор. В марковской теории
оператор L принято называть производящим оператором (однородной
марковской цепи с переходной функцией Р = Р(х; В)). Областью определения
%^ оператора L является множество тех ^-измеримых функций g= g(x),
для которых выражение Pg — g определено.
Если функция h е §+ (т. е. h является неотрицательной, ^-измеримой
и принимающей значения в ^+), то ее потенциал Я=Щ удовлетворяет
соотношению
Я = /г + РЯ
(поскольку U = I + PU). Тем самым, если Н е %^, то Н является решением
уравнения Пуассона
LV = -h
(в классе функций V е @ь).

386
ПРИЛОЖЕНИЕ
Если имеется еще решение W е£+ уравнения V = h + PV (или
уравнения LV = —/г, если W е %,), то, поскольку W = h + FW > /г, по индукции
п
находим, что W> ^ Р^/г для любого п> 1 и, значит, W^H. Таким обра-
зом, в классе функций из <?+, являющихся решениями системы V = h + РК,
потенциал Я = Щ является наименьшим решением. Полезно напомнить,
оо
4ToVh(x) = Ex £ /W-
k=0
# Функция / = /(х), х G £, принадлежащая классу <?+, называется экс-
цессивной для оператора Р (или эксцессивной для соответствующей
марковской цепи с переходной функцией Р = Р(х\ В), или Р-эксцессивной),
если
р/</
(или, что то же, Exf(X\) < /(х), х е Е).
В соответствии в этим определением потенциал Н = Щ функции /г е #+
является эксцессивной функцией.
Функция f = f(x) из <?+ называется гармонической (или
инвариантной), если
Р/ = /
(т. е. Е,/(*0 = /(*),*€£).
Связь между теорией потенциала (одним из понятий которой
является, в частности, понятие эксцессивности) и теорией вероятностей
(точнее, теорией мартингалов) наглядно проявляется в следующем
утверждении: если X = (Хп)п^о — марковская цепь с начальным распределением 7г
и переходной функцией Р = Р(х; В), порождающими распределение Рп в
(Е°°, <?°°), и / = f(x) есть Р-эксцессивная функция, то последовательность
Y = (Yn, ^f, Рп)п^о с Yn = f(Xn) является неотрицательно-супермартин-
гальной последовательностью:
Yn являются J^f -измеримыми, п > О,
£,г(Ул+1|^)<^ (Лг-П.Н.), Л>0.
Если к тому же ЕУл<оо, н>0, то эта последовательность будет (так
сказать, обычным) супермартингалом.
Интересно отметить, что для таких неотрицательно-супермартин-
гальных последовательностей Y сохраняются свойства неотрицательных
супермартингалов (ср. с теоремой 1 в § 4 главы VII): с Рп -вероятностью
единица существует lim Yn (=YOQ); при этом, если Pn{Y0< oo}= 1, то
Рп{Уоо < оо} = 1. (Доказательство предложено дать в задаче 24 к § 4
главы VII.)

§ 7. МАРКОВСКИЕ ЦЕПИ
387
• Потенциал H(x) = Vh(x) неотрицательной функции h=h(x) (из класса
£+ или <?+) удовлетворяет соотношению Н(х) = h(x) +FH(x), из которого
следует, что
Н(х) > max(A(jc), Р#(х)), х е £,
т. е. потенциал Н(х) функции h(x) является, с одной стороны,
мажорантой этой функции (#(*)> h(x), xeE), а с другой стороны, эксцессивной
функцией. По-другому можно сказать, что потенциал Н(х) функции h(x)
является примером эксцессивной мажоранты этой функции. Во многих
случаях (например, при рассмотрении задач об оптимальной остановке;
§ 9 главы VIII) возникает вопрос об отыскании наименьших эксцессивных
мажорант неотрицательных ^-измеримых функций g = g(x).
Теория потенциала следующим образом отвечает на этот вопрос.
Введем оператор Q, действующий на такие функции g = g(x) по
формуле
Qg(x) = max(g(x),Fg(x)).
Тогда наименьшая эксцессивная мажоранта s(x) функции g(x)
задается формулой
s(x) = \\mQng(x)4
п
при этом для нее справедливо уравнение
s(x) = max(g(x)4 Ps(jc)), xeE.
Из этого уравнения, в частности, следует, что если 5 е @h, то
Ls(x) = 0, хеСё,
s(x) = g(x), xeDg,
где Cg = {x: s(x)> g(x)} и Dg = E\Cg. (Доказательство см. в § 9
главы VIII, где вместо Р использовано обозначение 7\ а вместо Q
—обозначение Q.)
• В теории потенциала много внимания уделяется вопросам
описания решений в задаче Дирихле для оператора Р: найти неотрицательную
функцию V = V(x), xeE (из того или иного класса функций <?+, <?+, Ь<?
и т. д.), такую, что
V(r\-fFVW + hW' xeC'
()~\g(x), xeD.
Здесь С — некоторое заданное подмножество в Е (обычно называемое
«областью»), D = E\C, ah и g — также некоторые заданные неотрицательные
функции, являющиеся ^-измеримыми.

388
ПРИЛОЖЕНИЕ
Если рассматриваются только такие решения V, которые принадлежат
^l, то приведенная система равносильна следующей:
LV(x) = -h(x), xeC,
V(x) = g(x), xeD.
Уравнение LV = —h носит название уравнения Пуассона в области С и
обычно, когда говорят о задаче Дирихле, подразумевают, что речь идет об
отыскании решения этого уравнения в области С с заданной функцией g
в области D.
Весьма примечательно, что сформулированная (невероятностная)
задача Дирихле может быть успешно решена, если обратиться к рассмотрению
марковской цепи с той переходной функцией Р = Р(х\ В), по которой
строился оператор Р.
Именно, пусть X = (Хп)п^о — такая марковская цепь и r(D) = inf {n > 0:
Хп е D}. (Как всегда, здесь и далее r(D) = оо, если {•} = 0.)
Утверждается, что если hug принадлежат классу #+, то решение
задачи Дирихле существует и наименьшее (неотрицательное) решение Vd(x)
задается формулой:
Гт(0)-1 "I
VD(x) = Ex[I(r(D)<oo)g(XTW)] + Ic(x)Ex\ £ h(Xk)\.
L k=o J
(Указание к доказательству этого результата см. в задаче 11 к § 8
главы VIII.)
Отметим некоторые частные случаи.
(a) Если /г = 0, т. е. ищется функция V = V(x), являющаяся
гармонической функцией в области С и совпадающая с функцией g в D, то
наименьшее неотрицательное решение Vd(x) задается формулой
VD(x) = Ex[I(r(D)<co)g(XT{D))].
В частности, если g(x) = 1, х е D, то
VD(x) = Px{r(D)<oo}.
Тем самым, вероятность Px{r(D) < оо} когда-нибудь достичь
множество D в предположении, что начальное состояние Хо = хч
оказывается гармонической (в области С) функцией. Понятно, что если х е D, то
Px{t(D) < оо} = 1, поскольку тогда r(D) = 0.
(b) Если g(x) =0, х GD, и h(x) = 1, х е С, т. е. рассматривается система
Ггц*) + ,. «с.
10, х е А

§ 7. МАРКОВСКИЕ ЦЕПИ
389
то находим, что ее наименьшее неотрицательное решение задается
формулой
Таким образом, математическое ожидание Exr(D) времени первого
попадания в множество D есть наименьшее неотрицательное решение
приведенной системы.
# В классе марковских последовательностей, описывающих случайное
блуждание в фазовом пространстве (£, <?), особую роль играют простые
симметричные случайные блуждания в
£ = Zd={0±l,±2, ...}d,
где d = 1, 2, ... (см. § 8 в главе VIII), т. е. блуждания по узлам
целочисленной решетки Zd. Такие блуждания X = (Хп)п^о (во «всем» пространстве
E = Zd) можно задавать конструктивно, полагая
где заданные на некотором вероятностном пространстве (ft, J^\ P)
случайные d-мерные векторы £i, £2, ••• являются независимыми одинаково
распределенными с
P{^=e} = (2d)-]
(е = (е\, ..., ed) — стандартные базисные единичные векторы в ^, т. е.
такие, что е/ = 0, +1или— 1 и ||е|| = |ei| + ... + |е</| = 1). Это блуждание
^ = (Агл)л^о, начинающееся в точке х е Zd, характеризуется тем, что
блуждающая «частица» из каждого состояния переходит равновероятным
образом в одну из 2d ближайших соседних точек.
Соответствующий оператор Р здесь устроен совсем просто:
Р/(х) = Е,/(х + £,) = ^ £ /(* + *),
1И=1
и, следовательно, производящий оператор L = P —I, называемый в
рассматриваемом случае (дискретным) лапласианом и обозначаемый Д,
имеет следующий вид:
ikii=i
Сформулированную выше задачу Дирихле для рассмотренного простого
случайного блуждания естественно несколько переформулировать, приняв

390
ПРИЛОЖЕНИЕ
во внимание то, что выход из области C<^Zd может осуществляться лишь
попаданием в «граничное» множество
дС ={х: х eZd, х^С и \\х — у\\ = 1 для некоторого у еС}.
Это обстоятельство приводит здесь к следующей стандартной
формулировке задачи Дирихле (для уравнения Пуассона): найти для заданной
области CCZd и заданных функций h = h(x), xeC, и g = g(x), хедС,
такую функцию V = V(x), что
AV(x) = -h(x), xeC,
V(x) = g(x), хедС.
Если область С состоит лишь из конечного числа точек, то вероятность
Рх{т(дС)<оо}= 1 для всеххеС, где r(dC)=\ni{n^0\ ХпедС} (см. задачу
12 к § 8 главы VIII). Это дает возможность тем же самым методом, что и
выше, доказать, что единственное решение рассматриваемой задачи дается
для х е С U дС следующей формулой:
\-т(дС)-\
VdC(x) = Exg(XT{dC)) + Ic(x)Ex
k=0
^ h(Xk)
(В силу конечности области С нет необходимости предполагать
неотрицательность функций h(x) и g{x))
В частности, если h = 0, то единственная гармоническая в области С
функция, равная g(x) при х е дС, есть функция
VdC(x) = Exg(XT{dC)).
Приведем некоторые результаты для однородной задачи Дирихле:
AV(x) = 0, хеСч
V(x) = g(x), x e дС,
в случае неограниченной области С.
Если d < 2, то Рх{т(дС) < сх)} = 1 в силу теоремы Пойа (§ 8 главы VIII)
и метод доказательства для случая конечных областей проходит и здесь,
приводя к следующему результату: если функция g = g(x) ограничена, то
в классе ограниченных решений на СидС решение существует,
единственно и определяется той же самой формулой, что и выше:
VdC(x) = Exg(Xr{dCi).
Следует отметить, что даже в случае ограниченных функций g = g(x) у
рассматриваемой задачи может быть (и не одно) неограниченное решение.
Классическим является следующий пример.

§ 7. МАРКОВСКИЕ ЦЕПИ
391
Пусть d = \, C = Z\{0} и, значит, дС = {0}. Полагая g(0) = 0, видим,
что любая неограниченная функция V(x) = ax, aeR, является решением
задачи Дирихле (AV(x) = 0,xeZ\ {0}, и V(0) = g(0)).
Если d > 3, то вопрос о существовании и единственности решения
задачи Дирихле (AV(x)=0, xeC, и V(x) = g(x), хедС) даже в случае
ограниченных функций существенно зависит от выполнения свойства
Рх{т(дС) <оо} = 1 для всех хеС. Если это так, то в классе
ограниченных функций решение существует, единственно и задается формулой
VdC(x) = Exg(XT{dC)) для всех х е С U дС.
Но если условие Рх{т(дС) < оо}= 1, х е С, не выполняется, то (в случае
ограниченных функций g= g(x), хедС) все ограниченные решения задачи
Дирихле (AV(x) = 0, х е С, и V(x) = g(x), x е дС) описываются функциями
вида
V£\x) = Ех [1(т(дС) < oo)g(XT{dQ)] + аРх{т(дС) = оо},
где aeR. (См., например, [75, теорема 1.4.9].)
• При изложении вопросов, связанных с классификацией марковских
цепей со счетным множеством состояний (глава VIII), мы исходили из той
сложившейся в тридцатые годы (Колмогоров, Фреше, Дёблин и др.) схемы,
что естественная классификация должна определяться, с одной стороны,
алгебраическими свойствами матриц переходных вероятностей и, с другой
стороны, асимптотическими свойствами переходных вероятностей с ростом
времени.
С тех пор такие понятия, как
существенные и несущественные состояния,
достижимые и сообщающиеся состояния,
неразложимые и циклические классы,
определяемые по алгебраическим свойствам переходных вероятностей, и
такие понятия, как
возвратность и невозвратность,
положительные и нулевые состояния,
инвариантные (стационарные) распределения,
эргодические распределения и эргодические теоремы,
определяемые предельным поведением переходных вероятностей, стали
теми стандартными понятиями, вокруг которых концентрируются
исследования в теории марковских цепей.
Со временем стало ясно, что исследования по асимптотическим
свойствам удобно вести также и с привлечением понятий теории потенциала,
элементы которой (потенциал, гармонические и эксцессивные функции, ...)
были приведены выше.

392
ПРИЛОЖЕНИЕ
Из изложения в главе VIII видно, что основным средством изучения
предельного поведения марковских цепей с ростом времени является
метод, который естественно назвать методом «регенерирующих циклов»,
поскольку в его основе лежит следующее наблюдение.
Пусть х — некоторое состояние из Е. Определим последовательность
регенерирующих марковских моментов (<7*)^о> полагая <т$ = 0, ах=сгХу где
сгд; = inf{M > 0: Хп=х),
и, далее, индуктивно для k > 2
akx=M{n>akx-{\ Хп=х)
на множестве, где <тх~1 < оо.
По-другому, можно сказать, что
k _ \<тх~1 +0*0 0^-1, если ах~1 <оо,
loo, если ах~1 =оо.
Следующие свойства объясняют как название «регенерирующие
моменты», так и термин «регенерирующие циклы»:
1) на множестве {akx < оо} Xok =x;
2) на множестве {<тх < оо} последовательность (Xak+n)n^ не зависит
(по мере Рх) от (Х0, Х\, ..., Xak_x)\
3) если ax(uj)<оо для всех ыеЕ°°, то Рх-распределение
последовательности (Xak+n)n^ то же, что и распределение последовательности
{Хп)п^0\
4) если сгх(ш) < оо для всех и е Е°°, то «регенерирующие циклы»
являются Р*-независимыми;
5) Р^а^оо^Р^а^-1 <oo}PAr{aJC<oo} и, следовательно, Рл:{сг"<оо} =
= [Р*К<оо}]";
6) если NX = Y^ hx)(Xn) (= N{X} — число моментов времени
Пребывало
ния в состоянии х), то среднее время EXNX (= ExN{X} = G(x, x)) задается
формулой
EXNX=1+J2 w < оо}=1 + J2 [рла* < °°}]";
7) из предыдущей формулы вытекает, что
Р*К<оо}=1 *> Е*УУ*=оо *> Р,{Л^ = оо}=1,
Р*К<оо}<1 & ExNx<oo & Px{Nx<oo}=\;

§ 7. МАРКОВСКИЕ ЦЕПИ
393
8) ДЛЯ у ^ X
G(x, у) = Рх{<Ту < оо} G(y, у)
или, иначе,
ExNy = Px{<7y<oo}EyNy;
9) если при всех £> 1 вероятности Pr{cr^ < оо} = 1, то
последовательность (ах — <7*_1)fc^o> состоящая из длительностей регенерирующих
промежутков, есть последовательность независимых одинаково распределенных
случайных величин.
Напомним, что, согласно определениям в § 5 главы VIII, состояние
х е Е называется
возвратным, если Рх{ах < оо} = 1,
невозвратным, если Рх{ах < оо} < 1.
Поскольку
Р*К<оо}=1 & Рх{Хп = хб.ч.}=1,
Р*К<оо}<1 & Рх{Хп=хб.ч.} = 0
(теорема 1 в § 5 главы VIII), то состояние хеЕ является (а часто и просто
по определению называется)
возвратным, если Рх{Хп = х б. ч.} = 1,
невозвратным, если Рх{Хп = х б. ч.} = 0.
(Свойства «Рх{Хп=х б.ч.} = 1» и «Р^{^ = хб.ч.} = 0», пожалуй,
даже более соответствуют смысловой нагрузке слов «возвратность» и
«невозвратность», нежели (равносильные им) свойства «Рх{сгх <оо}= 1»
и «Рл:{сгл:<оо}< 1», если эти слова понимать как «возвратность после
каждого посещения состояния х» и как «невозвратность после какого-
либо посещения этого состояния jc».)
Тем самым, возвратность состояния х равносильна выполнению
любого из свойств:
Рх{Хп =х б. ч.} = 1, или Px{Nx = oo}= 1, или ExNx=oo,
а невозвратность — любому из свойств:
Рх{Хп=х б. ч.} = 0, или PX{NX< oo}= 1, или ExNx<oo.
• Обращение к понятиям теории потенциала и, в частности, к понятию
«регенерирующих циклов» позволяет дать для марковских цепей со
счетным множеством состояний исчерпывающий ответ о структуре
инвариантных (иначе — стационарных) мер и распределений (т. е. вероятностных
мер).

394
ПРИЛОЖЕНИЕ
Напомним, что с каждой матрицей переходных вероятностей Р= \\рху\\,
х, у е Е, и функцией / Е <?+ связывался линейный оператор Р/,
действующий на неотрицательные функции / = f(x), x e Е, по формуле
(Р/)(*) = Х>,1,/(0), *е£
(т. е. по правилу (матрица Р)<8> (вектор-столбец /) = (вектор-столбец Р/)).
Пусть q = q(A), АСЕ, есть нетривиальная (т. е. не равная тождественно
нулю или бесконечности) мера на подмножествах А счетного множества Е.
Такая мера, очевидно, полностью определяется ее значениями q({xi}) на
одноточечных множествах {х}, хеЕ. (Для простоты вместо q({xi}) будем
писать q{xi))
Обозначим через */#+ множество таких мер q и через qF — линейный
оператор, переводящий меры из */#+ в меры также из */#+ по формуле
qPQf)=J2q(x)pXy
xGE
(т. е. по правилу (вектор-строка q) (g> (матрица Р) = (вектор-строка qF)).
Мера qeJZ+ называется инвариантной, или стационарной, для
марковской цепи с оператором Р, если qF = q. Если мера q е^+ такова,
что qF^q, то ее называют эксцессивной, или F-эксцессивной.
В теории потенциала для / е £+ и q e Jt+ вводят билинейную форму
<?,/>=5>(х)/м.
X
для которой, как легко проверить, выполнено следующее свойство
дуальности:
(q,Pf) = {qV,f),
позволяющее «перекладывать» действие «оператора на функциях» на
действие «оператора на мерах».
В теореме 2 § 6 главы VIII показывается, что в случае марковских
цепей (со счетным множеством состояний), для которых существует лишь
один неразложимый положительно возвратный класс, инвариантное
распределение существует, является единственным и задается формулой
q(x) = [Exax]-{, хеЕ,
где ах = inf {az > 1: Хп =х} — момент первого возвращения в состояние х.
(Заметим, что 1 < Ехах < оо, х е Е.)
Как будет показано ниже, с помощью характеристик первого
регенерирующего цикла соответствующий результат о существовании и
структуре инвариантных множеств может быть получен для произвольных

§ 7. МАРКОВСКИЕ ЦЕПИ
395
неразложимых возвратных марковских цепей без предположения о
положительности ее состояний.
Именно, имеет место следующее утверждение.
Всякая неразложимая возвратная марковская цепь X = (Хп)п^о со
счетным фазовым пространством Е имеет инвариантную меру q = q(A), АСЕ,
такую, что q(E)>0 и q(x)^oo (свойство «нетривиальности»), и
обладающую тем свойством, что 0<q(x)<оо для каждого состояния хеЕ. Эта
мера единственна с точностью до мультипликативной константы.
Для доказательства достаточно показать, что мера
q°(x) = Exo J2 /<*}(**),
k=0
с ахо = mi{n > 1: Xn = x°}, выделяемая специальным условием q°(x°) = 1,
является единственной нетривиальной инвариантной мерой.
Чтобы показать, что эта мера q° действительно является инвариантной
(что дает, конечно, и ответ на вопрос о существовании инвариантных
мер), достаточно лишь показать, что для любой функции / е &+
(q°P,f) = (q°,f).
Справедливость же этого свойства вытекает (с использованием
обобщенного строго марковского свойства из задачи 13 в § 2 главы VIII) из
следующей цепочки равенств:
{q°V,f) = (q°,Vf) = Ex
■<7,0-1
2^ (Ч7)(**)
k=0
<7,0-1
Е
L k=0
ZxJ(Xx)
= J2 Exo[I{k«,xo}ExJ(Xi)]=y2 Exo{I{k<<7x0}Exo[foek\^k}} =
k>0
k>0
-^ Exo{Exo[/{k<<7x0} foek\^k]} = J2^U{k<,xo}foek] =
k>0
= EX
^ I{k«7xo}f(Xk+\)
lk>0
= Ejto
E №)
.1=1
= E,
E №
k=0
= <<7°. /)•
Построенная мера q°, нормированная условием q°(x°) = 1,
удовлетворяет свойству 0<q°(x)< оо для всех хеЕ. Вытекает это непосредственно
из следующего свойства эксцессивных мер.
Пусть марковская цепь является неразложимой и мера q e *М+
является эксцессивной (qF^q). Тогда, если для некоторого состояния х° еЕ
значение q(x°) = 0 (значение q(x°)<оо), то для всех хеЕ значение q(x) = 0
(значение q(x) < оо).

396
ПРИЛОЖЕНИЕ
Действительно, для всякого х^х° существует п > 1 такое, что рхп\0 > 0.
Но
откуда и следует требуемое утверждение.
Покажем теперь, что мера q° является единственной нетривиальной
инвариантной мерой. С этой целью предположим, что q есть эксцессивная
(в частности, инвариантная) мера такая, что 0 < q(x) < оо для всех х е Е.
Положим
О / \
и определим (дуальную к рху) функцию рху = Jfl рух- Поскольку
у£Е у£Е
то видим, что Р = \\рху\\ есть матрица переходных вероятностей. Далее, для
введенной переходной матрицы Р = \\рХу\\ и функции f(x) = Q находим,
что q (X)
P/W = Z^ Pxyf(y) = 2^ P*ylf(yj = Z^ lfWPxylf(y) =
y£E y£E y£E
y£E
Тем самым, функция / = f(x) является Р-гармонической. Поскольку из
определения рху = 0) [ рух следует, что для любого п > 1
Я W
Ь(п) = Я°(У) (п)
Уху qO^Vyx*
G(x,y) = ^-G(y,x).
v ' *' q°(x) ™ '
то находим, что
Из этих двух соотношений вытекает, что если цепь Х = (Хп)п^о с
оператором Р была неразложимой и возвратной, то такой же будет и дуальная
цепь X = (Хп)п^о с оператором Р. Но если функция / = f(x) является
(неотрицательной) эксцессивной (в частности, гармонической) функцией, то
последовательность (f(Xn))n^o будет неотрицательно-супермартингальной

§ 7. МАРКОВСКИЕ ЦЕПИ
397
относительно меры Рп для любого начального распределения 7г. Это
свойство было отмечено выше. Там же отмечалось, что для таких
последовательностей Рп -почти наверное существует lim Xn (=Лоо) и, значит,
существует lim f(Xn). Если цепь является неразложимой и возвратной, то
для любых двух состояний х и у^х видим, что Хп бесконечное число раз
принимает и значение х, и значение у. Значит, f(x) = f(y), что и доказывает,
что f(x) = const.
Резюмируя, находим, что любое другое инвариантное распределение q
такое, что 0< q(x) < оо, х е Е, отличается от q° лишь положительной
мультипликативной постоянной.
Из доказанного результата нетрудно вывести упомянутое уже ранее
свойство неразложимых положительно возвратных марковских цепей:
единственное инвариантное вероятностное распределение q° = (q° (х), х е Е)
имеет следующую структуру: q°(x) = [Ехах]~\ х е Е.
• Остановимся на некоторых эргодических теоремах для марковских
цепей со счетным множеством состояний, т. е. теоремах о сходимости
, /i-i
почти наверное при я—>оо величин вида - X) /№0 или> более общим
образом, отношений типа k=0
для некоторых классов функций fug. Как и выше, здесь полезно
обращение к рассмотрению регенерирующих циклов.
Пусть X = (Хп)п^о — неразложимая возвратная марковская цепь со
счетным множеством состояний Е и инвариантной мерой q°(x) такой, что
0<q(x)<oo для всех хеЕ и q°(x°) = 1 для некоторого фиксированного
состояния х°.
Будем рассматривать далее функции / = f(x) и g = g(x) из класса
L{(q°), т. е. такие, что X) 1/(*)1<7°(*)<°о, X) \ё(х)\я°(х)<°°- Положим
х£Е х£Е
"Jo-1 <о+'-1
y0=J2 /(**) и Y<n= E /(**) (=Уоов<0у
По определению инвариантного распределения q°
ExY0 = (q°,f)
и (согласно марковскому свойству) для любого начального
распределения 7Г
EKYm = Ек[ЕХот (У0)] = ЕхсY0 = (q°, />.

398
ПРИЛОЖЕНИЕ
Тем самым, относительно меры Рп случайные величины Уь Y<i, •••
являются независимыми одинаково распределенными и такими, что Е^ Ym = (q°, f)
(< оо). Поэтому из усиленного закона больших чисел заключаем, что
(Ртг-П. Н. ДЛЯ ЛЮбОГО 7Г)
и, в предположении (q°, g) ^0, что (Рл--п. н. для любого 7г)
Е f(xk) . о п
Е g(*k)
п
Обозначим i/"o = X) I(Xk=x°)- В силу возвратности цепи i/£0—>оо
(Ртг-п. н.), я—>оо. Поскольку сг^о0 < п< сг^о0 , то из приведенной выше
сходимости вытекает также, что справедлива эргодическая теорема для
отношений', при я —► оо
Е №) 0
Е «W {q ' *'
6=0
Пусть рассматриваемая цепь является неразложимой и положительно
возвратной. В этом случае вместо меры q° можно взять вероятностное
распределение 7г° = (7г°(х), х е Е) с 7г° = l/^a*). Тогда, в частности, получим
следующую эргодическую теорему для таких цепей:
1 £/(**)-<7Г°, /) (Р.-П.Н.), П^ 00,
6=0
где 7г — любое начальное распределение (в частности, 7г°).

Список литературы
1
[8
[9
10
11
12
13
14
15
16;
17
18
19
[20
[21
Адаме, Гилемин (Adams M., Guillemin V.). Measure Theory and
Probability. — Monterey, CA: Wadsworth & Brooks/Cole, 1986.
Альдус (Aldous D. J.). Exchangeability and Related Topics. — Berlin:
Springer-Verlag, 1985. — (Lecture Notes in Mathematics. —V. 1117.)
Арнольд В. И. Цепные дроби.-М.: МЦНМО, 2001.
Арнольд В. И. Что такое математика? — М.: МЦНМО, 2004.
Баранов В. И., Стечкин Б. С. Экстремальные комбинаторные
задачи и их приложения. — М.: Физматлит, 2004.
Б е н т к у с (Bentkus V.). On Hoeffding's inequalities. — Annals of Probability. —
2004.-V. 32, № 2.-P. 1650-1673.
Бергер (Berger M. A.). An Introduction to Probability and Stochastic
Processes. — New York: Springer-Verlag, 1993.
Бертран (Bertrand J.). Calcul des Probabilites. — Paris, 1889.
Биллингсли П. Сходимость вероятностных мер. — М.: Наука, 1977.
Биллингсли (Billingsley P.). Probability and Measure. — 3rd ed. — New
York: Wiley, 1995.
Болдин М. В., Симонова Г. И., Тюрин Ю. Н. Знаковый
статистический анализ линейных моделей. — М.: Наука, 1997.
Большев Л. Н., Смирнов Н. В. Таблицы математической
статистики.-М.: Наука, 1983.
Б р е м о (Bremaud P.). An Introduction to Probabilistic Modeling. — New York:
Springer-Verlag, 1988.
Б р е м о (Bremaud P.). Markov Chains. Gibbs Fields, Monte Carlo Simulation,
and Queues.— New York: Springer-Verlag, 1999.
Брэдли (Bradley R. C). The central limit question under />-mixing. —
Rocky Mountain Journal of Mathematics. - 1987. - V 17, № 1. - P. 95-114;
corrections: ibid. — № 4. — P. 891.
Булинский А. В. Предельные теоремы в условиях слабой
зависимости. — М.: Изд-во Моск. ун-та, 1989.
Булинский А. В., Ширяев А. Н. Теория случайных процессов. —
М.: Физматлит, 2003.
Буркхольдер (Burkholder D. L.). Sufficiency in the undominated case. —
Ann. Math. Statist.-1961.-V 32, №4.-P. 1191-1200.
Бхаттачарья, Веймир (Bhattacharya R. N., Waymire E. C).
Stochastic Processes with Applications. — New York: Wiley, 1990.
Ватанабэ С, Икэда Н. Стохастические дифференциальные
уравнения и диффузионные процессы. — М.: Наука, 1986.
Вероятность и математическая статистика. Энциклопедия / Гл. ред. Ю.
Прохоров. — Научное изд-во «Большая российская энциклопедия», 1999.
См. также список литературы в книгах «Вероятность— 1» и «Вероятность —2».

400 СПИСОК ЛИТЕРАТУРЫ
Вильяме (Williams D.). Probability with Martingales. — Cambridge:
Cambridge Univ. Press, 1991.
Вильяме (Williams D.). Weighing the Odds. A Course in Probability and
Statistics. —Cambridge: Cambridge Univ. Press, 2001.
Гливенко В. И. Теория вероятностей. М.: — Учпедгиз, 1937.
Гмурман В. Е. Руководство к решению задач по теории вероятностей и
математической статистике. — М.: Высшая школа, 1979.
Гнеденко Б. В. Курс теории вероятностей. — М.: УРСС, 2001.
Гончаров В. Л. Теория вероятностей. — М. — Л.: Гос. изд-во оборонной
промышл., 1939.
Гр а д ш т е й н И. С, Рыжик И. М. Таблицы интегралов, сумм, рядов
и произведений. — М.: Физматгиз, 1962.
Гримметт, Стирзакер (Grimmett G. R., Stirzaker D. R.). One
Thousand Exercises in Probability. Companion to Probability and Random
Processes.— Oxford: Oxford Univ. Press, 2001.
Гут (Gut A.). Stopped Random Walks. — New York: Springer-Verlag, 1988.
Дарретт (Durrett R.). Probability: Theory and Examples. — Pacific Grove,
CA: Wadsworth & Brooks/Cole, 1991.
Де Гроот, Шервиш (De Groot M. H., Schervish M. J.) Probability ans
statistics. — Addison-Wesley, 2002.
де Финетти (de Finetti В.). Theory of Probability: A Critical Introductory
Treatment. - V. 1, 2. London, etc.: Wiley, 1974, 1975.
Д е в р о й (Devroye L.). A Course in Density Estimation. — Boston: Birkhauser,
1987.
Дороговцев А. Я. , Сильвестров Д. С, Скороход А. В.,
Ядренко М. И. Теория вероятностей (сборник задач). — Киев: Вища
школа, 1980.
Д э й в и д Г. Порядковые статистики. — М.: Наука, 1979.
Дьяченко М. И., Ульянов П. Л. Мера и интеграл. — М.:
Факториал, 2002.
Емельянов Г. В., Скитович В. П. Задачник по теории
вероятностей и математической статистике. — Л.: Изд-во Ленингр. ун-та,
1967.
Жакод, Проттер (Jacod J., Protter Ph.). Probability Essentials. — Berlin:
Springer-Verlag, 2003.
Ибрагимов И. А., Розанов Ю. А. Гауссовские случайные
процессы.-М.: Наука, 1970.
Ивченко Г. И., Медведев Ю. И. Математическая статистика.—
М.: Высшая школа, 1984.
И м х о ф (Imhof J.-P.). Introduction au Calcul des Probabilites. — Paris:
Gauthier-Villars, 1969.
К а в а т a (Kawata Т.). Fourier Analysis in Probability Theory. — New
York—London: Academic Press, 1972.
Какуллос (Cacoullos Т.). Exercises in Probability. — New York: Springer-
Verlag, 1989.

СПИСОК ЛИТЕРАТУРЫ 401
Камерон (Cameron P. J.). Combinatorics. Topics, Techniques, Algorithms.
Cambridge: Cambridge Univ. Press., 1994.
Капиньский, Заставняк (Capinski M., Zastawniak Т.). Probability
through Problems. — New York: Springer-Verlag, 2001.
Карлин, Тейлор (Kariin S., Taylor H. M.). A First Course in Stochastic
Processes.— New York—London: Academic Press, 1975.
Карлин, Тейлор (Kariin S., Taylor H. M.). A Second Course in Stochastic
Processes.— New York—London: Academic Press, 1981.
Kapp (Karr A. F). Probability. — Berlin etc.: Springer-Verlag, 1993.
Кемени, Снелл (Kemeny J. G., Snell J. L.). Finite Markov Chains.—
Princeton, NJ, etc.: Van Nostrand, 1960.
Кемени Дж., Снелл Дж., Томпсон Дж. Введение в конечную
математику. — М.: ИЛ, 1963.
К е н д а л л М., М о р а н П. Геометрические вероятности. — М.: Наука,
1972.
К е н н а н (Kannan D.). An Introduction to Stochastic Processes. — New York;
Oxford: North-Holland, 1979.
Керубини, Лучано, Веккьято (Cherubini D., Luciano E., Vecchi-
ato W). Copula Methods in Finance. —New York: Wiley, 2004.
Кингман (Kingman J. F. C). Random variables with unsymmetrical linear
regressions // Mathematical Proceedings of the Cambridge Philosophical
Society. - 1985. -V. 98, № 2. - P. 355-365.
Коваленко И. Н., Сарманов О. В. Краткий курс теории
случайных процессов. — Киев: Вища школа, 1978.
Козлов М. В. Элементы теории вероятностей в примерах и задачах. —
М.: Изд-во Моск. ун-та, 1990.
Козлов М. В., Прохоров А. В. Введение в математическую
статистику. — М.: Изд-во Моск. ун-та, 1987.
Ко л чин В. Ф. Случайные отображения. — М.: Наука, 1984.
Колмогоров А. Н. Основные понятия теории вероятностей. — 3-е изд.
М.: ФАЗИС, 1998.
Константин (Constantine G. M.). Combinatorial Theory and Statistical
Design. - New York: Wiley, 1987.
К о п п (Корр Р. Е.). Martingales and Stochastic Integrals. — Cambridge:
Cambridge Univ. Press, 1984.
Корнфельд И. П., Синай Я. Г., Фомин С. В. Эргодическая
теория. — М.: Наука, 1980.
Коц, Надарая (Kotz S., Nadarajah S.). Extreme Value Distributions.
Theory and Applications. — London: Imperial College Press, 2000.
Кочен, Стоун (Kochen S., Stone Ch.). A note on the Borel—Cantelli
lemma // Illinois Journal of Mathematics. - 1964. - V. 8. - P. 248-251.
Криф, Леви (Krief A., Levy S.). Calcul des Probabilites. Exercises. — Paris:
Hermann, 1972.
Ландо С. К. Лекции о производящих функциях. — М.: МЦНМО, 2002.
Л е м а н Э. Проверка статистических гипотез. М.: Наука, 1964.

402 СПИСОК ЛИТЕРАТУРЫ
Л ета к (Letac G.). Problemes de Probabilite. Paris: Presses Universitaires de
France, 1970.
Линдгрен, Мак-Элрат (Lindgren В. W., McElrath G. W.).
Introduction to Probability and Statistics. — London—New York: Macmillan, 1966.
Л и п ц е р Р. Ш., Ширяев А. Н. Статистика случайных процессов. М.:
Наука, 1974.
Л и п ц е р Р. Ш., Ширяев А. Н. Теория мартингалов. М.: Наука, 1986.
Лова с, Пеликан, Вестергомби (Lovasz L., Pelican J., Veszter-
gombi К.)- Discrete Mathematics. Elementary and Beyond. — Springer, 2003.
Л о н (Long R. L.). Martingale Spaces and Inequalities. — Beijing;
Braunschweig: Peking Univ. Press; Vieweg, 1993.
Л о у л e p (Lawler G. F.). Intersections of Random Walks. — Boston: Birkhauser,
1991.
Л у к а ч Е. Характеристические функции. — М.: Наука, 1979.
Л у к а ч (Lukacs E.). Developments in Characteristic Function Theory. — New
York: Macmillan, 1983.
Мазлиак, Приуре, Бальди (Mazliak L., Priouret P., Baldi P.).
Martingales et chatnes de Markov. — Paris: Hermann, 1998.
Математическая энциклопедия: В 5 т. / Гл. ред. И. М. Виноградов. М.:
Советская энциклопедия, 1977—1985.
М е с т е р (Meester R.). A Natural Introduction to Probability Theory. — Basel:
Birkhauser, 2003.
M и к о ш (Mikosch Т.). Non-Life Insurance Mathematics. — Berlin etc.:
Springer-Verlag, 2004.
M о р а н (Moran P. A. P.). An Introduction to Probability Theory. — Oxford:
Clarendon Press, 1968.
Мостеллер Ф., Рурке Р., Томас Дж. Вероятность. — M.: Мир,
1969.
Невзоров В. Б. Рекорды: Математическая теория. — М.: ФАЗИС, 2000.
Н о р р и с (Norris J. R.). Markov Chains. — Cambridge: Cambridge Univ. Press,
1999.
Ортега, Вшебор (Ortega J., Wschebor M.). On the sequence of
partial maxima of some random sequences. — Stochastic Processes and their
Applications.- 1984.-V. 16, №1.-P. 85-98.
Петров (Petrov V. V.). A generalization of the Borel—Cantelli lemma //
Statistics and Probability Letters. - 2004. - V. 67, № 3.-P. 233-239.
Петров В. В. Предельные теоремы для сумм независимых случайных
величин. — М.: Наука, 1987.
Петров, Мордецкий (Petrov V., Mordecki E.). Theoria de Probabilida-
des. (Con mas de 200 ejercicios.) —Moscow: Editorial URSS, 2002.
Пешкир Г., Ширяев А. Н. Неравенства Хинчина и мартингальное
расширение сферы их действия. — Успехи математических наук. — 1995. —
Т. 50, вып. 5.-С. 3-62.
Порт (Port S. С). Theoretical Probability for Applications. — New York: Wiley,
1994.

СПИСОК ЛИТЕРАТУРЫ 403
Прохоров А. В., Ушаков В. Г, Ушаков Н. Г. Задачи по
теории вероятностей: Основные понятия. Предельные теоремы. Случайные
процессы. — М.: Наука, 1986.
Пуанкаре (Poincare К). Calcul des probabilites. — 2 ed. — Paris, 1912. Рус.
пер.: Пуанкаре А. Теория вероятностей. — Ижевск: Ред. журн. «Регулярная
и хаотическая динамика», 1999.
Р е в е с (Revesz P.). The Law of Large Numbers. — New York—London:
Academic Press, 1968.
Ревес (Revesz P.). Random Walk in Random and Non-random
Environments. — Teaneck, N.J.: World Scientific, 1990.
Ревес, Тот (Revesz P., Toth В.; Eds.). Random Walks. — Budapest: Janos
Bolyai Mathematical Society, 1999. — (Bolyai Society Mathematical Studies.—
V. 9.)
Ревуз, Йор (Revuz D, Yor M.). Continuous Martingales and Brownian
Motion. — 3rd ed. — Berlin: Springer-Verlag, 1999. Рус. пер.: Непрерывные
мартингалы и броуновское движение. М.: МЦНМО (в печати).
Розенталь (Rosenthal J. S.). A First Look at Rigorous Probability
Theory. - River Edge, N.J.: World Scientific, 2000.
Роман о, Зигель (Romano J. P., Siegel A. F). Counterexamples in
Probability and Statistics. — Monterey, CA: Wadsworth & Brooks/Cole, 1986.
Росс (Ross S. M.). Introduction to Probability Models. — 8th ed. Boston:
Academic Press, 2003.
Росс (Ross S. M.). Stochastic Processes. —2nd ed. New York: Wiley, 1996.
Ружа, Секей (Ruzsa I. Z., Szekely G. J.). Algebraic Probability Theory.
Chichester: Wiley, 1988.
Сачков В. Н. Комбинаторные методы дискретной математики. — М.:
Наука, 1977.
Сачков В. Н. Вероятностные методы в комбинаторном анализе. — М.:
Наука, 1978.
Сборник задач по теории вероятностей, математической статистике и теории
случайных функций / Под ред. А. А. Свешникова. — М.: Наука, 1965.
Севастьянов Б. А. Курс теории вероятностей и математической
статистики.—М. — Ижевск: Институт компьютерных исследований, 2004.
Севастьянов Б. А., Чистяков В. П., Зубков А. М.
Сборник задач по теории вероятностей. — М.: Наука, 1980.
Секей Г. Парадоксы в теории вероятностей и математической
статистике.—2-е изд. М. — Ижевск: Институт компьютерных исследований, 2003.
С е ш а д р и (Seshadri V). The Inverse Gaussian Distribution. — New York:
Clarendon Press, 1993.
Скляр (Sklar A.). Fonctions de repartition a n dimensions et leurs marges
II Publications de 1'Institut de Statistique de I'Universite de Paris.— 1959.— V.
8.-P. 229-231.
Скляр (Sklar A.). Random variables, distribution functions, and copulas —
a personal look backward and forward Ц IMS Lecture Notes — Monograph
Series.-1996.-V. 28. P. 1-14.

404 СПИСОК ЛИТЕРАТУРЫ
[112] Скороход А. В. Вероятность вокруг нас —Киев: Наукова думка, 1980.
[113] С п и ц е р Ф. Принципы случайного блуждания. — М.: Мир, 1969.
[114] Стоянов, Мирачийски, Игнатов, Танушев (Stoyanov J.,
Mirazchiiski I., Ignatov Z., Tanushev M.). Exercise Manual in Probability
Theory. - Dordrecht: Kluwer, 1989.
[115] Стоянов Й. Контрпримеры в теории вероятностей. — М.: Факториал,
1999.
[116] Ту туб алии В. Н. Теория вероятностей и случайных процессов. — М.:
Изд-во Моск. ун-та, 1992.
[117] У а й з, Холл (Wise G. L., Hall E. В.). Counterexamples in Probability and
Real Analysis. — New York: Clarendon Press, Oxford Univ. Press, 1993.
[118] Уолл (Wall С R.). Terminating decimals in the Cantor ternary set//Fibonacci
Quarterly.- 1990.-V. 28, №2.-P. 98-101.
[119] Феллер В. Введение в теорию вероятностей и ее приложения: В 2-х т. —
М.: Мир, 1984.
[120] Фристедт, Грей (Fristedt В., Gray L.). A Modern Approach to
Probability Theory. — Boston: Birkhauser, 1997.
[121] Хоффман-Йёнсен (Hoffmann-j0rgensen J.). Probability with a View
toward Statistics. V. I, II. New York: Chapman & Hall, 1994.
[122] Холл М. Комбинаторика. — M.: Мир, 1970.
[123] Хренников (Khrennikov A.). Interpretations of Probability. — Utrecht:
VSR 1999.
[124] Чандрасекар С. Стохастические проблемы в физике и астрономии. —
М.: ИЛ, 1947.
[125] Чибисов Д. М., Пагурова В. И. Задачи по математической
статистике. — М.: Изд-во Моск. ун-та, 1990.
[126] Чжун Кай-лай. Однородные цепи Маркова. — М.: Мир, 1964.
[127] Шафер, Вов к (ShaferG., Vovk V). Probability and Finance. — New York:
Wiley, 2001.
[128] HI e p в и ш (Schervish M. J.). Theory of Statistics. — New York: Springer-
Verlag, 1995.
[129] Ширяев А. Н. Статистический последовательный анализ. — M.: Наука,
1976.
[130] Ширяев А. Н. Основы стохастической финансовой математики:
В 2-х т.-М.: ФАЗИС, 1998 (1-е изд.), 2004 (2-е изд.).
[131] Шомон, Йор (Chaumont L., Yor M.). Exercises in Probability. —
Cambridge: Cambridge Univ. Press, 2003.
[132] Эверитт (Everitt B. S.). Chance Rules. An Informal Guide to Probability,
Risk, and Statistics. New York: Copernicus, Springer-Verlag, 1999.
[ 133] Эрдёш П., Спенсер Д ж. Вероятностные методы в комбинаторике. —
М.: Мир, 1976.

Предметный указатель
а-алгебра сепарабельная 68
— счетно-порожденная 68
Л-интеграл 193
(В, S)-рынок безарбитражный в
сильном смысле 318
в слабом смысле 318
А
автомодельность броуновского
движения 169
атом 82
— разбиения 353
Б
балансовое условие 325
бернуллиевский сдвиг 262
бета-функция неполная 138
биекция 24
бинарная операция 323
биномиальные моменты 371
биномиальный коэффициент 7
бит 47
броуновское движение дробное 179
фрактальное 179
В
вариационный ряд 61
вариация квадратическая 295
вероятностно-статистический
эксперимент 217
вероятностное пространство полное 73
фильтрованное 380
вероятностное пространство
универсальное 141
вершина распределения 106
вложение Скорохода 213
выборка неупорядоченная 353
— упорядоченная 352
выборочная дисперсия 124
выборочное среднее 124
Г
гамма-функция 138
гармонические числа 30
групповое свойство 323
д
двоичная единица 47
дзета-функция Римана 77
дисперсия 361
— выборочная 124
— условная относительно разбиения
46
длинный хвост 139
дробная производная 164
3
задача Гюйгенса 66
— Дирихле 387
для уравнения Пуассона 342
однородная 346
— о беспорядках 14
— о встрече 111
— о совпадениях 15
— о супружеских парах 27
закон арксинуса 54
— больших чисел 244
Колмогорова 192
усиленный Колмогорова 242
усиленный Марцинкевича—
Зигмунда 241
Хинчина 191
— больших чисел 188
— де Моргана 7
— Парето дискретный 139
непрерывный 210
— редких событий 209
И
игольчатые вариации 321

406
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
идемпотентность операций П и U 7
индикатор множества 359
интеграл Лебега 96
— Римана 96
— Хеллингера порядка а 217
интегрирование с помощью
подстановки 90
интервал непрерывности функции 154
информация Кульбака 216
— Фишера 270
инъекция 24
К
каплинг-неравенство 220
каплинг-свойство 228
квадратическая вариация 295
квантиль 229
квантиль на я функция 214
класс разбиения 353
ковариация 362
количество информации 48
конечномерные распределения
вероятностей процесса 360
— функции распределения процесса
360
константа Эйлера 30
копула 215
коэффициент корреляции 362
максимальный 119
— надежности доверительного
интервала 174
— эргодичности Добрушина 220
коэффициенты мультиномиальные 24
— полиномиальные 24
критерий согласия хи-квадрат 44
— Хинчина 191
Л
лапласиан 389
латинский квадрат 28
лемма Бореля—Кантелли 377
вторая 145
первая 145
— Пратта 91
— Слуцкого 143
— Фату 96
для множеств 64
для условных математических
ожиданий 112
— Хелли—Брэя 184
— Шеффе 151
— Шпернера 72
лестничные индексы 107
— моменты 107
локальное время 56, 314
М
максимальное неравенство 253, 292
Радемахера—Меньшова 297
марковская цепь обратимая 325
однородная 381
порядка г 323
марковское свойство обобщенное 383
— ядро 381
мартингал обращенный 279, 282
математическое ожидание 361
матрица псевдообратная 166
медиана 33
— случайной величины 37
медиана случайной величины 238
мера атомическая 82
— Гаусса 263
— диффузная 82
— инвариантная 394
— неатомическая 82
— стандартная 218
— стационарная 394
— считающая 100
— эксцессивная 394
метод Крамера—Уолда 191
— регенерирующих циклов 392
метрика Добрушина 228
множество 352
— совершенное 74
мода распределения 106
модель авторегрессионная 265, 270
— Гальтона—Ватсона 336
— Изинга одномерная 25
момент биномиальный 131, 371

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
407
момент рекорда 324
— факториальный 130, 371
порядка п 362
мультиномиальные коэффициенты 24
Н
независимость систем подмножеств
358
— событий 358
неотрицательно-супермартингальная
последовательность 304
неравенство сг- 103
— Бара—Эссеена 164
— Белла 36
— Бенткуса 298
— Бернштейна 252
— Бонферрони 14
— Бор ел я 170
— Буля 11
— Буркхольдера 296
— Гаека-Реньи 292
— Гаусса 106
— Гиббса 39
— Гронуолла—Беллмана 99
— Гумбеля 14
— Дворецкого 291
— Дуба, экспоненциальный аналог
292
— Иенсена для условных
математических ожиданий ПО
— Кантелли 98
— Колмогорова, экспоненциальный
аналог 238
, односторонний аналог 236
— Колмогорова—Розанова 269
— Коши—Буняковского матричное
126
— Крамера 164
— Куниаса 11
— Леви 247
— максимальное 59, 253, 292, 294
— максимальное
Радемахера—Меньшова 297
— Mapцинкевича—Зигмунда 297
— Оттавиани 290
— Прохорова 248
— Пэли—Зигмунда 98
— Райкова 159
— Рао—Крамера 173
— Реньи 40
— Скорохода 250
— Слепяна 166
— Фреше 14
— Фреше—Хёффдинга 214
— Хёффдинга 253
— Хёффдинга—Азума 294
— Чебышева 100
, двумерный аналог 37
— Чернова 252
— Чжуна—Эрдёша 11
— Этемади 238
— Юнга 99, 128
носитель меры 360
О
обобщенное математическое ожидание
193
обратная функция 213
омега-квадрат статистика 227
оператор перехода 60, 384
— производящий марковской цепи 385
— сдвига 382
отклонение стандартное 362
отношение правдоподобия 58
отображение, сохраняющее меру 377
— измеримое 377
отсутствие последействия 116
оценка Бернштейна 38
— максимального правдоподобия 270
— эффективная 173
П
парадокс Бертрана 80
параметр «пикообразности» 138
— «скошенности» 138
перестановочная система событий 63
перестановочные случайные величины
282
плотность множества 72

408
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
плотность семейства случайных
векторов 186
полиномиальные коэффициенты 24
полиномы Аппеля 374
— Бернулли 372
— Шеффера 374
— Эйлера 372
— Эрмита 373
пополнение ст-алгебры 73
последовательность неотрицательно-
супермартингальная 304
потенциал в теории мартингалов 283
— марковской цепи 384
— оператора 384
— функции 385
потенциал-мера 385
представление Колмогорова
характеристической функции безгранично
делимого распределения 208
преобразование Бернулли 262
— Колмогорова 262
— Лапласа 94, 362
неотрицательной случайной
величины 160
— Меллина меры 219
эксперимента 219
— сдвига 262
— Хеллингера меры 218
эксперимента 217
— Эшера 374
принцип Донскера—Прохорова 200
— инвариантности 198
— максимума 346
— отражения Андре 341
для броуновского движения 178
производная дробная 164
производящая функция случайной
величины 93, 363
числовой последовательности
366
экспоненциальная 366
пространство измеримое 358
— польское 68
процедура Роббинса—Монро 301
процесс восстановления решетчатый
289
— Гальтона—Ватсона 336
— Орнштейна—Уленбека 169
— Пуассона неоднородный 316
путь неубывающий 8, 24
Р
разбиение множества 353
разложение Крикеберга 290
— Рисса 283, 329
размах случайного блуждания 51
распределение arcsin- 177
— Вейбулла 122, 129
— вероятностей 360
— Гумбеля 129
— двойное экспоненциальное 122, 129
— Дирихле 133
— логарифмически нормальное 135
— логистическое 210
— маргинальное 132
— начальное 381
— обратно-биномиальное 139
— Парето дискретное 139
непрерывное 210
— Паскаля 139
— Пуассона обобщенное 209
составное 209
— Рэлея 121
— случайной величины 360
— треугольное 207
— Фреше 129
— экстремальных значений 130
расстояние Вассерштейна 228
— Колмогорова 211
— Леви 182
расширенная числовая прямая 70
регенерирующие циклы 392
С
свертка Вандермонда 368
— биномиальная 19, 26
— мультиномиальная 24
символ Кронекера 21
симметрическая разность 33

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
409
система событий перестановочная 63
случайная величина 359
логарифмически нормальная 134
почти инвариантная 258
пуассоновская двусторонняя 209
расширенная 117
фрактальная 138
— последовательность 359
случайные величины перестановочные
282
случайный вектор 359
— процесс 359
с дискретным временем 359
— элемент 359
события независимые 358
соотношение Парсеваля 161
среднее выборочное 124
статистика Бозе— Эйнштейна 17
— Максвелла—Бол ьцмана 16
— омега-квадрат 227
— порядковая 61, 123
— ранговая 61
суммирование по Чезаро 333
схема Бернулли со случайной
вероятностью успеха 136
— Пойа 28
— серий 210
, асимптотически малость 210
, предельная малость 210
сходимость в основном 181
в смысле конечномерных
распределений 181
— по вероятности 90
— почти равномерная 149
сюръекция 24
Т
телеграфный сигнал дискретный 51
теорема Беппо Леви 96
— Бореля о нормальности 263
— Витали—Хана—Сакса 66
— Дармуа—Скитовича 179
— Егорова 148
— Лузина 148
— Мерсера 168
— Пифагора 153
— проверочная 350
— Пуанкаре 11
— Улама 186
— Хелли—Брэя 184
— Чернова 251
тождество биномиальное 18
— Вандермонда 18
— гипергеометрическое 368
— Нёрлунда 18
— Пуанкаре 11
— Спицера 95
треугольник Паскаля 18, 26
триангуляции диагональные 9
У
уравнение восстановления 142
— Колмогорова прямое 42
— Пуассона 385, 388
— Фоккера—Планка 42
усиленный закон больших чисел
Колмогорова 242
чисел
Марцинкевича—Зигмунда 241
условие «единица плюс дельта» 193
— Линдеберга порядка k 199
— Новикова 310
— сильного перемешивания 268
условная энтропия 48
устойчивость последовательности по
Колмогорову 192
Ф
факториал неполный 7
факториальный момент 130, 371
порядка п 362
формула Бонферрони 13
— Варинга 13
— включения-исключения для
вероятности объединения и пересечения
событий 11, 35
для индикаторов трех событий
33
для конечных множеств 11

410
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
формула включения-исключения для
максимума случайных величин 137
— Добинского 369
— Ито, дискретная версия 313
— Кемпбелла 317
— Лейбница 17
— обращения 162
многомерная 154
— Парсеваля 160
— Пуанкаре 11
— Сегё—Колмогорова 273
— Стирлинга 29, 32, 340
— Танака, дискретный аналог 314
— Хёффдинга 221
— Эйлера для дзета-функции Римана
77
для функции Эйлера 78
функция 24
— Л-гармоническая 280
— Л-эксцессивная 280
— А- интегрируема я 193
— Бесселя 364
— вполне монотонная 160
— гамма- 138
— гармоническая 348, 386
— Грина 385
— Дирихле 89
— инвариантная 386
— квантильная 214
— ковариационная 378
— концентрации 134
— переходная 381
— полностью монотонная 160
— производящая случайной величины
363
числовой последовательности
366
экспоненциальная 366
— Радемахера 153
— распределения 359
— супергармоническая 349
— урезания 208
— характеристическая 362
— Эйлера 78
— эксцессивная 386
X
характеристическая функция 362
Ч
числа Белла 355
— Бернулли 372
— Каталана 8
— Стирлинга, свойство
двойственности 21
второго рода 355
первого рода 370
— Фибоначчи 22
— Эйлера 372
число гармоническое 30
— размещений 353
— сочетаний 353
Э
эквивалентность случайных величин
143
энтропия 47
— условная 48
эргодическая теорема фон Неймана
263
Я
ядро марковское 381
— Фейера 267

Замеченные опечатки и неточности в книгах
«Вероятность— 1» и «Вероятность —2»
г СТР-
^•стр.
34,
34 |,з.4
344
4219
437
159ю
1955
196,5
1968
196б,7
198,
212,4
223м
2356
23913
2652
26611
266,,
3411
3634
39412
417,о
420,2
снизу
Напечатано
d(k)
d(N)
ЧИСЛО
Используя вероятностные
соображения
g d(n)x» =cShx {
п=\ nl
('7 А)
кусочно постоянной
неотрицательной функции
неотрицательная функция
некоторую функцию
распределения
задача 16
каждая функция
Л, /,, (В) = Р{" :(£/,,...,&,,)££}
Пусть
In £ tnE(uMn)=f: -E(«5+)
п=0 /i=l п
ЧТО ДЛЯ ВСЯКОГО Г > 0
г
гЦ\/г)
F(b)-F(b-)
2
еслиВ° = (В?)0^К1
закон больших чисел
независимых случайных векторов
Следует читать
Bk
BN
число Белла
Используя вероятностные и
комбинаторные соображения
- d{n)xn _ ^
= eshx-\, \x\<\
cr.g
функцией
неотрицательной борелевской
функции
неотрицательная борелевская
функция
функцию распределения некоторой
вероятностной меры на (R, &{R))
задача 18
каждая такая функция F
Pit <лв)=р{и>: (е,,...,е„)еб},
Вещ"),
е.-^(р-п.н.)
Пусть для х е R
£ tnEeuM"=exp[
п=0
что если £ > 0, то для всякого г > 0
г
гоТо
F(b) + F(b-)
2
если В° = (В°)о^(^\ есть
броуновский мост
закон больших чисел; А. Я. Хинчин
независимых одинаково
распределенных случайных векторов

412
ЗАМЕЧЕННЫЕ ОПЕЧАТКИ
С стр. ci
•стр. ci
стр. сверху
низу
Напечатано
Следует читать
если (p(t) не непрерывна в нуле
производящая формула
limsupf — J <oo
согласно (9)
Поскольку на множестве Ak
имеем Sn > О (так как Sk ^ 5„), то
P{Sn>e-E\Sn\]
сохраняющее меру
Т~]а
и вывести из него, что
если (p(t) — характеристическая
функция распределения F — не
непрерывна в нуле
производящая функция
I / I
limsup — <oo
согласно (10)
Поскольку Ak П В D Ak П {Sn > 5Л},
то
P{Sn>a-E\Sn\]
измеримое
Т']А
и вывести из него, что (в
предположении Е£/ =0, / ^ 1)
Л2
мартингал
sup ЕХп = ЕХ\
п
(О, (Л,)«>|)
I
V^
Поскольку
ограниченной ^"-измеримой
ЕхтНт
где под ЕХтНт понимается
случайная величина ф(т, Хт) с
<ф{п, х)
ЕХтИт
ЕХтНт
Согласно определению,
ЕХтНт=<ф(т, Хт), где
в§8
наименьша
Л2
супермартингал
sup ЕХп ^ ЕХ]
п
(П, Л)
rz—
l/F
Если
ограниченной (или неотрицатель
ной) ^"-измеримой
1>(Т, Хт)
где ф(п, х)
№, Хт)
№, Хт)
Согласно определению,
в § 8; ср. с задачей 6 в § 5
наименьшая

ОГЛАВЛЕНИЕ
Предисловие 3
Глава I. Элементарная теория вероятностей 7
§ 1. Вероятностная модель эксперимента с конечным числом исходов 7
§2. Некоторые классические задачи и распределения 18
§ 3. Условные вероятности. Независимость 30
§ 4. Случайные величины и их характеристики 33
§ 5. Схема Бернулли. I. Закон больших чисел 37
§ 6. Схема Бернулли. II. Предельные теоремы (локальная, Муавра—
Лапласа, Пуассона) 40
§ 7. Оценка вероятности «успеха» в схеме Бернулли 43
§ 8. Условные вероятности и математические ожидания
относительно разбиений 46
§ 9. Случайное блуждание. I. Вероятность разорения и средняя
продолжительность при игре с бросанием монеты 49
§ 10. Случайное блуждание. II. Принцип отражения. Закон арксинуса 52
§11. Мартингалы. Некоторые применения к случайному блужданию 57
§ 12. Марковские цепи. Эргодическая теорема. Строго марковское
свойство 59
Глава II. Математические основания теории вероятностей 62
§ 1. Вероятностная модель эксперимента с бесконечным числом
исходов. Аксиоматика Колмогорова 62
§ 2. Алгебры и сг-алгебры. Измеримые пространства 67
§з
§4
§5
§6
§7
§8
§9
Способы задания вероятностных мер на измеримых
пространствах 73
Случайные величины. I 82
Случайные элементы 86
Интеграл Лебега. Математическое ожидание 88
Условные вероятности и условные математические ожидания
относительно сг-алгебр 109
Случайные величины. II 118
Построение процесса с заданными конечномерными
распределениями 141

414
ОГЛАВЛЕНИЕ
§ 10. Разные виды сходимости последовательностей случайных
величин 142
§11. Гильбертово пространство случайных величин с конечным
вторым моментом 152
§ 12. Характеристические функции 154
§ 13. Гауссовские системы 166
Глава III. Близость и сходимость вероятностных мер.
Центральная предельная теорема 181
§ 1. Слабая сходимость вероятностных мер и распределений 181
§2. Относительная компактность и плотность семейства
вероятностных распределений 185
§ 3. Метод характеристических функций в доказательстве
предельных теорем 188
§4. Центральная предельная теорема для сумм независимых
случайных величин. I. Условие Линдеберга 195
§ 5. Центральная предельная теорема для сумм независимых
случайных величин. II. Неклассические условия 204
§ 6. Безгранично делимые и устойчивые распределения 205
§ 7. «Метризуемость» слабой сходимости 210
§8. О связи слабой сходимости мер со сходимостью случайных
элементов почти наверное («метод одного вероятностного
пространства») 212
§9. Расстояние по вариации между вероятностными мерами.
Расстояние Какутани—Хеллингера и интегралы Хеллингера.
Применение к абсолютной непрерывности и сингулярности мер ... 215
§ 10. Контигуальность (сближаемость) и полная асимптотическая
разделимость вероятностных мер 221
§11.0 скорости сходимости в центральной предельной теореме.... 223
§ 12. О скорости сходимости в теореме Пуассона 225
§ 13. О фундаментальных теоремах математической статистики 226
Глава IV. Последовательности и суммы независимых случайных
величин 231
§ 1. Законы «нуля или единицы» 231
§ 2. Сходимость рядов 235
§ 3. Усиленный закон больших чисел 241
§ 4. Закон повторного логарифма 246
§5. О скорости сходимости в усиленном законе больших чисел и о
вероятностях больших уклонений 250

ОГЛАВЛЕНИЕ 415
Глава V. Стационарные (в узком смысле) случайные
последовательности и эргодическая теория 256
§ 1. Стационарные (в узком смысле) случайные
последовательности. Сохраняющие меру преобразования 256
§ 2. Эргодичность и перемешивание 258
§ 3. Эргодические теоремы 259
Глава VI. Стационарные (в широком смысле) случайные
последовательности, ^-теория 264
§ 1. Спектральное представление ковариационной функции 264
§ 2. Ортогональные стохастические меры и стохастические интегралы 266
§ 3. Спектральное представление стационарных (в широком
смысле) последовательностей 267
§4. Статистическое оценивание ковариационной функции и
спектральной плотности 269
§ 5. Разложение Вольда 271
§ 6. Экстраполяция, интерполяция и фильтрация 273
§ 7. Фильтр Калмана—Бьюси и его обобщения 274
Глава VII. Последовательности случайных величин, образующие
мартингал 279
§ 1. Определение мартингалов и родственных понятий 279
§2. О сохранении свойства мартингальности при замене времени на
случайный момент 284
§ 3. Основные неравенства 290
§4. Основные теоремы о сходимости субмартингалов и мартингалов 299
§5. О множествах сходимости субмартингалов и мартингалов 305
§6. Абсолютная непрерывность и сингулярность вероятностных
распределений на измеримом пространстве с фильтрацией .... 306
§ 7. Об асимптотике вероятности выхода случайного блуждания за
криволинейную границу 308
§ 8. Центральная предельная теорема для сумм зависимых
случайных величин 311
§ 9. Дискретная версия формулы Ито 313
§ 10. Вычисление вероятности разорения в страховании. Мартин-
гальный метод 314
§11.0 фундаментальных теоремах стохастической финансовой
математики. Мартингальная характеризация отсутствия арбитража 317
§ 12. О расчетах, связанных с хеджированием в безарбитражных
моделях 318
§ 13. Задачи об оптимальной остановке. Мартингальный подход .... 320

416
ОГЛАВЛЕНИЕ
Глава VIII. Последовательности случайных величин, образующие
марковскую цепь 322
§ 1. Определения и основные свойства 322
§2. Обобщенное марковское и строго марковское свойства 326
§3. О проблематике предельных, эргодических и стационарных
распределений вероятностей для марковских цепей 331
§4. Классификация состояний марковских цепей по
алгебраическим свойствам матриц переходных вероятностей 331
§5. Классификация состояний марковских цепей по
асимптотическим свойствам переходных вероятностей 332
§§6,7. О предельных, стационарных и эргодических распределениях
счетных и конечных марковских цепей 338
§ 8. Простое случайное блуждание как марковская цепь 340
§ 9. Задачи об оптимальной остановке для марковских цепей 348
Приложение 352
§ 1. Элементы комбинаторики 352
§ 2. Вероятностные структуры и понятия 358
§3. Аналитический аппарат и средства теории вероятностей 361
§4. Стационарные (в узком смысле) случайные последовательности 377
§ 5. Стационарные (в широком смысле) случайные
последовательности 378
§ 6. Мартингалы 380
§ 7. Марковские цепи 380
Список литературы 399
Предметный указатель 405