П. БИЛЛИНГСЛИ
сходимость
ВЕРОЯТНОСТНЫХ
МЕР
Перевод с английского
A. В. ПРОХОРОВА
под редакцией
B. В. САЗОНОВА
ИЗДАТЕЛЬСТВО «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
Москв а 1977

517.S
Б 61
УДК 519.21
CONVERGENCE
OF PROBABILITY
MEASURES
PATRICK BILLINGSLEY
John Wiley & Sons, Inc.,
New York«London«Sydney«Toronto
Сходимость вероятностных мер. Биллингсли П.
перев. с англ. Главная редакция физико-математической
литературы издательства «Наука», М., 1977, 352 стр.
Книга посвящена общей теории слабой сходимости
вероятностных мер в метрических пространствах.
Развитые в последние пятнадцать лет методы изучения
распределений (в частности, сходимосги распределений) в
функциональных пространствах оказались весьма
плодотворными. Книга дает достаточно полное изложение
материала. При этом автор на ряде примеров постарался
продемонстрировать широкую применимость общих
результатов в задачах теории стохастических процессов.
Илл. 6, библ. 112.
20203—095
053@2)-77
32-77
Перевод на русский язык,
Главная редакция
физико-математической литературы
издательства «Наука», 1977

ПРЕДИСЛОВИЕ РЕДАКТОРА ПЕРЕВОДА
Слабую сходимость вероятностных мер в ее
простейших формах начали изучать давно — так, теорему Муав-
ра — Лапласа можно рассматривать как некоторое
утверждение о слабой сходимости вероятностных мер на
прямой. И все же, современная теория слабой
сходимости вероятностных мер — это молодая теория,
насчитывающая лишь несколько десятилетий и связанная в
первую очередь с именами А. Н. Колмогорова, Дж. Дуба,
М. Донскера, Ю. В. Прохорова, А. В. Скорохода, а
также Л. Ле Кама и С. Варадарайна. Автор настоящей
книги П. Биллингсли не относится к числу основателей этой
теории, однако он прекрасно в ней разобрался, успешно
ее применял и изложил с присущим ему мастерством.
Первая глава книги посвящена общим вопросам
слабой сходимости вероятностных мер в метрических
пространствах (включая фундаментальную теорему
Ю. В. Прохорова о равносильности плотности и
относительной компактности семейств мер). Автор ведет
изложение в той степени общности, которая, с одной стороны,
достаточна для большинства приложений, а с другой —
позволяет сосредоточиться на главном и не заниматься
рассмотрением специальных вопросов, связанных с
общими ситуациями. В результате часть теории осталась
за пределами книги, однако заинтересованный читатель
на основе знакомства с изложенным сможет легко
сориентироваться и в соответствующей более
специальной литературе, кое-что в этом плане содержится в
помещенном в конце книги Добавлении III).
Далее изучаются вероятностные меры и их слабая
сходимость в конкретных пространствах С
(пространство непрерывных функций на [0,1]) и D (пространство
Функций на [0,1], не имеющих разрывов второго рода).

4 ПРЕДИСЛОВИЕ РЕДАКТОРА ПЕРЕВОДА
Здесь, в частности, доказывается функциональная
центральная предельная теорема (ее называют также
теоремой Донскера или принципом инвариантности).
Заключительная глава посвящена более специальным
вопросам — характеризации диффузионных процессов и,
главным образом, доказательству функциональных
центральных предельных теорем для некоторых
последовательностей зависимых случайных величин
(стационарных последовательностей с ф-перемешиванием,
последовательностей функций от них; мартингалов). Многие
результаты здесь принадлежат самому автору.
В книге имеется немало ярких и важных для
приложений примеров применения общей теории. Так, автор
не раз обращается к рассмотрению предельного
поведения эмпирических функций распределения, изучается
случайная замена времени и т. д.
Изложение довольно замкнуто в себе (этому, в
частности, способствуют помещенные в конце книги
добавления). Для понимания книги достаточно по существу
знакомства с университетским курсом анализа и
основами теории вероятностей. Первые три главы можно
рекомендовать для первоначального ознакомления с
предметом.
Нет сомненья,, что предлагаемая в русском переводе
книга П. Биллингсли найдет своего читателя и будет
полезна аспирантам и студентам старших курсов
математических специальностей, а также научным
работникам— специалистам в области теории вероятностей и ее
приложений.
В. В. Сазонов

ИЗ ПРЕДИСЛОВИЯ АВТОРА
Теоремы об асимптотических распределениях в
теории вероятностей и математической статистике
изначально основывались на классической теории слабой
сходимости функций распределения в евклидовом
пространстве, т. е. сходимости в точках непрерывности
предельной функции распределения. Последние десятилетия
отмечены созданием и широким применением более
объемлющей теории слабой сходимости вероятностных мер в
метрических пространствах. Имеется целый ряд
асимптотических результатов, которые могут быть
сформулированы в рамках классической теории, но требуют для
доказательства этой более общей теории, развитие которой
не является, таким образом, самоцелью. Эта книга —
о методах слабой сходимости в метрических
пространствах и их приложениях, показывающих силу и
полезность этих методов.
Во введении разъясняются определения и
показывается, как теория дает решение задач, возникающих за
ее пределами. В главе 1 излагаются фундаментальные
общие теоремы, которые затем применяются в главе 2
к пространству непрерывных функций, заданных на
единичном интервале, и в главе 3 к пространству функций
с разрывами первого рода. Результаты первых трех глав
используются в главе 4 для вывода целого ряда
предельных теорем для зависимых последовательностей
случайных величин.
От читателя книги ожидается знакомство с обычной
теорией вероятностей, основанной на теории меры, и с
топологией метрических пространств, однако общая
(неметрическая) топология не используется, а те немногие
результаты, которые требуются из функционального
анализа, доказываются в тексте и в добавлениях,

6 ИЗ ПРЕДИСЛОВИЯ АВТОРА
Преодолевая желание поместить примеры и
применения после изложения общей теории и вынудить читателя
тем самым упорно продолжать чтение до конца, я
вместо этого распределил их равномерно по всей книге с
тем, чтобы они иллюстрировали теорию по мере ее
развития.
Я приношу благодарность Серен Иохансон, Са-
муэлю Карлину, Дэвиду Кендаллу, Роналду Пайку и
Флемингу Топсё, которые прочитали большие части
книги в рукописи; книга многим обязана их детальным
предложениям, и я им очень признателен. Мне приятно
также поблагодарить Мэри Вульридж за ее печатание,
бодрое, быстрое и безошибочное.
Патрик Биллингсли
Чикаго, март 1968

ВВЕДЕНИЕ
Предельная теорема Муавра — Лапласа утверждает!
если
есть функция распределения нормированного числа
«успехов» в п испытаниях Бернулли и если
есть функция распределения стандартного нормального
закона, то
Fn{*)-»F(x) C)
для всех х (/г->оо, вероятность р «успеха»
фиксирована). /
Мы говорим о произвольных функциях распределения
Fn и F на прямой, что Fn слабо сходится к F, и
записываем Fn =^ F, если C) выполняется для всех точек х
непрерывности F. Таким образом, теорема Муавра —
Лапласа утверждает, что A) слабо сходится к B); так
как функция B) всюду непрерывна, то в данном случае
оговорка о точках непрерывности не нужна. Если Fn и
F определяются равенствами
0 при х< l/tty
1 при х^1/п '
при х < О,
при -^п ^

И ВВЕДЕНИЕ
то снова Fn "Ф F, и здесь оговорка о точках
непрерывности действительно необходима: C) не выполняется
в точке х — 0.
Для лучшего понимания феномена слабой
сходимости, который составляет основу большого класса
предельных теорем теории вероятностей, рассмотрим
вероятностные меры Рп и Р, порожденные произвольными
функциями распределения Fn и F. Эти вероятностные
меры, заданные на классе борелевских подмножеств
прямой, однозначно определяются соотношениями
Рп (- °о, А = Fn to, P (- °о, х] = F to.
Поскольку F непрерывна в х тогда и только тогда, когда
множество {#}, состоящее из одной точки х, имеет Р-ме-
ру нуль, то Fn^ F означает, что
Рп(— оо, х)->Р{— оо, х], если Р{х} = 0. F)
Пусть дА обозначает границу множества А на
прямой; дА состоит из тех точек, которые являются
пределами последовательностей точек, принадлежащих Л, и
точек, не принадлежащих А. Так как граница
множества (— оо, х] состоит всего из одной точки х, то F)
эквивалентно соотношению
Рп(А)-*Р(А)9 если Р(дА) = 0, G)
где символом А мы обозначили множество (— оо, х].
Существо дела в том, что сходимость Fn^F имеет место
тогда и только тогда, когда G) выполняется для любого
борелевского множества А (результат, доказываемый
в главе 1).
Будем выделять термином множество
Р-непрерывности такие борелевские множества Л, для которых
'Р(дА) = 0, и будем говорить, что Рп слабо сходится к
Л и записывать Рп=$>Р, если Рп(А) -*Р(А) для любого
множества Р-непрерывности (иными словами, если
выполняется G)). Как уже отмечалось выше, соотношение
Рп=$>Р справедливо тогда и только тогда, когда для
соответствующих функций распределения имеет место
соотношение Fn =ф Р.

ВВЕДЕНИЕ 9
Эта иная формулировка понятия слабой сходимости
делает более ясной причину, по которой мы допускаем,
что C) может не выполняться, когда F имеет скачок
в точке х. Без этого допущения D) не будет слабо
сходиться к E), однако подобный пример может
показаться искусственным. Если мы сосредоточим внимание на
вероятностных мерах Рп и Р, мы увидим, что
соотношение Рп(А) -+Р(А) может не выполняться при
Р(дА) >0 даже в теореме Муавра — Лапласа. Меры
Рп и Р, порожденные функциями распределения A) и
B), удовлетворяют соотношениям
-;*
du (9)
для борелевских множеств Л. Если теперь А состоит из
счетного множества точек
7— , п=1, 2, ..., й = 0, 1, ..., я,
ynpq
то РП(Л) = 1 для всех п и Р(Л) = 0, так что
соотношение Р„(Л)->Р(Л) невозможно. Поскольку здесь дА
есть вся действительная прямая, то это согласуется с G).
Несмотря на то, что понятие слабой сходимости
функций распределения «привязано» к действительной
прямой (или евклидову пространству, во всяком случае),
понятие слабой сходимости вероятностных мер может
быть сформулировано для общих метрических
пространств, что является реальным поводом для
предпочтения этого последнего понятия. Пусть 5 — произвольное
метрическое пространство, и пусть 9*—класс
борелевских подмножеств 5 (9* представляет собой сг-поле,
порожденное открытыми множествами). Рассмотрим
вероятностные меры Рп и Р, заданные на 9. В точности,
как прежде, мы определяем слабую сходимость Рп=^Р
требованием, чтобы G) выполнялось для всех
борелевских множеств А. В главе 1 мы изучим общую теорию
этой сходимости и увидим, как она интерпретируется
в различных конкретных метрических пространствах. Мы

10 ВВЕДЕНИЕ
докажем, например, что Рп слабо сходится к Р тогда
и только тогда, когда
\fdPn-+\fdP, если fe=C(S), A0)
5 S
где C(S) обозначает класс ограниченных непрерывных
действительных функций на S. (Для согласования с
общематематической традицией мы примем A0) в
качестве определения слабой сходимости, так что G)
превратится из определения в необходимое и достаточное
условие.)
Глава 2 посвящена слабой сходимости в
пространстве С = С[0,1] с равномерной топологией; С есть
пространство всех непрерывных действительных функций на
замкнутом единичном интервале [0,1], метризованное
расстоянием между двумя функциями x = x(t) и у =
(')
р(х,у)= sup \x(t)-y(t)\. A1)
0<f <1
Приведенный в главе 2 в качестве приложения
пример показывает полезность общей трактовки слабой
сходимости — трактовки, выходящей за рамки
классического евклидова случая. Пусть |ь g2» ••• —
последовательность независимых одинаково распределенных
случайных величин, определенных на некотором
вероятностном пространстве (Q, ^, Р). Если ?п имеют среднее 0
и дисперсию а2, то в соответствии с центральной
предельной теоремой Линдеберга — Леви распределения
нормированных сумм
слабо сходятся при пу стремящемся к бесконечности, к
нормальному распределению (9).
Мы можем сформулировать уточненный вариант
центральной предельной теоремы, если докажем слабую
сходимость распределений некоторых случайных
функций, построенных по частичным суммам Sn. Для любого
целого числа п и для любой выборочной точки со
построим на единичном интервале ломаную, которая
линейна на каждом из подинтервалов [(/—1)//г, Цп\

ВВЕДЕНИЕ П
i=l, 2, ..., п, и принимает значение Si((o)/a^/n в
точке i/n Eо((о)=0) (рис. 1). Иными словами,
построим функцию An (со), значение которой в точке t из
[0,1] равно
если ^[-Ц-L, -1]. A3)
При каждом со функция Ап((о) является элементом
пространства С. Определим Рп — распределение Ап(со)
в С, полагая для борелевских подмножеств А
пространства С (борелевских множеств
относительно метрики A1))
Рп(А)=Р{ы АЛ(со)еЛ}. О*
(Такое определение возможно \
вследствие того, что отображение Рис. 1.
со-*-Ап(со) оказывается
измеримым в обычном понимании.) В главе 2 мы доказываем,
что
Pn^W9 A4)
где W — винеровская мера. Мы также доказываем
существование в пространстве С винеровской меры,
которая описывает распределение вероятностей для
траектории частицы в броуновском движении.
Если А = {х: д:A)^а}, то, поскольку значение
функции Хп{&) при t=\ равно Xn(l, a)) = S,((o)/aV^
Оказывается, что W(dA) =0, так что из A4) следует
Р(со: —1_5Я(©)<а)->№{*:
I оуп )
Оказывается, кроме того, что
W{x;

12 ВВЕДЕНИЕ
так что утверждение A4) на самом деле включает в
себя теорему Линдеберга — Леви.
Сумма 1\ + • •. + In может быть интерпретирована
как положение в момент времени п в случайном
блуждании. Центральная предельная теорема утверждает,
что это положение (надлежащим образом
нормированное) при больших п распределено приближенно так же,
как положение частицы в броуновском движении в
момент времени t = 1. Соотношение
A4) означает, что вся траектория
случайного блуждания в течение
первых п шагов при больших п
распределена приближенно как
траектория частицы в броунов-
Рис. 2. ском движении вплоть до
момента времени t— 1 (рис. 2).
Чтобы конкретно убедиться в том, что A4) содержит
информацию, выходящую за пределы центральной
предельной теоремы, рассмотрим множество
А = {х: sup л;
Снова оказывается, что W(dA) = О, так что из A4)
следует
т=г max S^(©)^
lim Pn{A) = W{x\ sup *(/)<a}. A5)
Если мы оценим самую правую часть равенства A5)
(это можно сделать несколькими способами, например,
вычислением предела слева для некоторой специально
выбранной последовательности {gn}, для которой это
легко сделать), то мы получим предельную теорему для
распределения maxS^ в предположениях теоремы Лин-
деберга — Леви.
В качестве последнего примера, относящегося к
случайной функции An (со), рассмотрим множество А тех х
в С, для которых множество {t:x(t) > 0} имеет меру
Лебега, не превосходящую а (предполагается, что
0<а<1). Как и прежде, Рп(А) -> W(A). Поскольку
мера Лебега множества {t:Xn(tf(o) > 0} есть по суще-

ВВЕДЕНИЕ 13
ству доля тех частичных сумм 5Ь S2, ..., Sn, которые
превосходят 0, то это рассуждение приводит к закону
арксинуса (справедливому в предположениях теоремы
Линдеберга — Леви). Глава 2 содержит детали всех
этих выводов.
Мы можем, таким образом, использовать теорию
слабой сходимости в С для получения целого класса
предельных теорем для функций от частичных сумм Su
S2, .. •, Sn. Тот факт, что винеровская мера W есть
слабый предел распределений в С, соответствующих
случайным функциям Хп((д), может быть также
использован для доказательства теорем относительно W, а мера
W представляет самостоятельный интерес.
В главе 3 общая теория слабой сходимости
прилагается к другому пространству функций на [0, 1] —
пространству D = D [0,1] функций, не имеющих разрывов
второго рода. Это пространство является естественным,
например, для анализа поведения эмпирических
функций распределения. Пусть |ь ?2, •.. — независимые
случайные величины на (Q, .$, Р) и каждая из них
равномерно распределена на [0,1]. Пусть Fn(t, ю)
—эмпирическая функция распределения gi(co), ..., ?п(ю); Fn(t,(u)
при 0 ^ t ^ 1 равна доле целых k, I ^ k ^ л, для
которых ?fc(o))^/. Пусть далее У?г(со) является
элементом D, значение которого в каждой точке t равно
Если D надлежащим образом метризовано, то
позволительно говорить о распределениях случайных функций
Уп((о) в D, и можно доказать, что эти распределения
слабо сходятся при п->оо к некоторому пределу. Точно
так же, как и для случайного элемента пространства С,
определенного равенством A3), мы можем затем
вывести предельное распределение для случайной величины
sup У«~(М'> о) —/)== sup Yn(t,G>)
и ряда других аналогичных величин, которые
появляются в математической статистике.
Глава 4 посвящена слабой сходимости распределений
случайных функций, определяемых через различные
последовательности зависимых случайных величин. Многие

14 ВВЕДЕНИЕ
выводы глав 2, 3 и 4, хотя и не требуют понятия
функциональных пространств для своей формулировки, вряд
ли могли быть получены без применения методов
функционального анализа.
Стандартный теоретико-множественный подход к
определению вероятности и топология метрических
пространств используются в книге с самого начала. Несмотря
ка то, что повсюду в книге господствует точка зрения
функционального анализа (функция есть точка
пространства), никакие сведения из функционального
анализа не предполагаются известными (кроме изначальной
готовности рассматривать функцию как точку
пространства) ; все необходимые результаты из функционального
анализа доказываются в тексте или же в Добавлении I
(в котором также для облегчения ссылок собраны
вместе некоторые результаты из топологии метрических
пространств).
Примечание. Основными работами, которые привели к
развитию этой теории, являются: Колмогоров A931), Эрдеш и Кац
A946 и 1947), Дуб A956) и Донскер A951 и 1952). Прохоров A953
и 1956) и Скороход A956) придали теории современный вид. ЛеКам
A960) и Варадарайн A958а и 1961а) распространили ее на общие
топологические пространства.

Глава 1
СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧЕСКИХ
ПРОСТРАНСТВАХ
§ 1. Меры в метрических пространствах
Пусть S — метрическое пространство. Мы будем
изучать вероятностные меры, определенные на классе 9> бо-
релевских множеств пространства S. Класс 9>
представляет собой а-поле, порожденное открытыми
множествами (т. е. наименьшее а-поле, содержащее все открытые
множества). Вероятностная мера на 9* представляет
собой неотрицательную счетно аддитивную функцию
множеств Р такую, что P(S) = 1.
Если вероятностные меры Рп и Р удовлетворяют
соотношению \fdPn->\fdP для каждой действительной
s s
ограниченной непрерывной функции f на 5, мы будем
говорить, что Рп слабо сходится к Р, и будем писать
Рп^Р. В этой главе мы ставим целью детальное
изучение этого понятия; мы начнем с изучения некоторых
свойств вероятностных мер на (S, 9>),
Хотя нам придется иногда предполагать
сепарабельность или полноту, большинство теорем этой главы
справедливы для произвольного метрического
пространства 5. Пространства, появляющиеся в наших
приложениях, обычно сепарабельны и полны; поскольку они
редко обладают дополнительными свойствами
регулярности, такими как локальная компактность, мы никогда
не будем налагать дальнейших ограничений.
Меры и интегралы. Теорема 1.1. Каждая
вероятностная мера на (S, 9) регулярна: если А^9ие>0,
то существует замкнутое множество F и открытое
множество G такие, что Fez Ad G и P{G — F) <, ef

16 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ ПРОСТРАНСТВАХ [ГЛ Y
Доказательство. Обозначим метрику на S через
р(лс,у) и расстояние от а: до Л через р(х, А) *). Если А
замкнуто, то можно принять F = А и G ={х: р(х, А) < 6}
при некотором б, поскольку последние множества
убывают при 8J0 и в пересечении дают А. Поэтому нам
достаточно показать, что класс 9 борелевских
множеств с объявленным свойством является а-полем**).
Пусть даны множества Ап из &\ выберем
замкнутые множества Fn и открытые множества Gn такие,
что FnCzAndGn и P(Gn — Fn) < е/2п+К Если
G = [J Gn и если F = [] Fni где п0 выбрано так, что
P([}Fn-F)<*ft, тогда^си^сОи P(G-F)<e.
\п п
Таким образом, $ является классом множеств,
замкнутым относительно операции образования счетных
объединений; так как класс #, очевидно, замкнут
относительно взятия дополнений, то теорема полностью
доказана.
Из теоремы 1.1 вытекает, что мера Р однозначно
определена значениями P(F) для замкнутых множеств F.
Теорема 1.3 показывает, что мера Р однозначно
определена значениями \/dP***) для действительных
ограниченных непрерывных функций /, заданных на S.
Обозначим через C(S) класс таких функций /. На
стр. 304****) показано, что каждая / из C(S)
^-измерима. Доказательство теоремы 1.3 использует
следующую теорему, которая показывает, как
аппроксимировать индикатор (или характеристическую функцию) IF
замкнутого множества F элементами C(S).
*) По поводу терминологии и некоторых теорем, касающихся
метрических пространств, см. Добавление I.
**) Мы определили класс 9> борелевских множеств как с-поле,
порожденное открытыми множествами; это то же самое, что и
а-поле, порожденное замкнутыми множествами. Это а-поле наиболее
пригодно для целей данной теории. По поводу других (по большей
части неподходящих) а-полей см. задачу 6.
***) В случае, если интеграл берется по всему пространству,
мы не указываем области интегрирования.
****) Эта страница принадлежит Добавлению II, где
рассматривается большая часть вопросов об измеримости.

§ I] МЕРЫ В МЕТРИЧЕСКИХ ПРОСТРАНСТВАХ 17
Теорема 1.2. Если F замкнуто, а г положительно,
то существует функция f в C(S) такая, что /(#) = 1 при
/Vef, f(x) =0 при p(x,F)^e и 0</(л;)<1 для
есех х. Функция f может быть выбрана равномерно
непрерывной.
Доказательство. Определим непрерывную
функцию ф действительного переменного, полагая
!1 при /<0,
1-/ при 0<<<1, A.1)
О при 1<*.
Если
f(x) = <p(jp(x, F)). A.2)
то функция / обладает требуемыми свойствами — она
даже равномерно непрерывна. Рис. 3 изображает эту
функцию / для множества F = [а, Ь] на прямой.
а-е а Ь 6+е
Рис. 3.
Теорема 1.3. Вероятностные меры Р и Q на E,^)
совпадают, если
\\fdQ A.3)
для любой функции f из C(S).
Доказательство. Предположим, что множество
F замкнуто. Будем исходить из A.1) и определим для
любого положительного целого числа и
A.4)
F)). U.5)
Тогда {fu} — невозрастающая последовательность
элементов C(S), сходящаяся поточечно к IF. В силу
теоремы об ограниченной сходимости P(F) = limu\fudP и

18 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. Т
Q(F)= l\n\u \ fudQ, так что если равенство A.3)
справедливо для всех / из C(S)y то P(F) = Q(F). Поскольку
меры Р и Q совпадают на всех замкнутых множествах,
из теоремы 1.1 следует, что Р и Q тождественны.
Таким образом, значения \fdP для / из C(S)
полностью определяют значения Р(А) для А из Р7. Этот
факт лежит в основе круга идей, группирующихся
вокруг понятия слабой сходимости; хотя мы определили
слабую сходимость требованием сходимости интегралов
от функций из C(S), в следующем параграфе мы будем
ее характеризовать в терминах сходимости значений мер
некоторых множеств.
Плотность. Нижеследующее понятие плотности
оказывается важным как в теории слабой сходимости, так
и в ее применениях. Вероятностная мера Р на E,9*)
плотна, если для каждого положительного е существует
компактное (стр. 296) множество К такое, что Р{К)>
> 1 — е. Ясно, что мера Р плотна тогда и только тогда,
когда она обладает а-компактным носителем*).
Согласно теореме 1.1 мера Р плотна в том и только том
случае, если для любого А из 9* Р(А) является точной
верхней гранью Р(К) по компактным подмножествам К
множества А.
В а-компактном пространстве каждая вероятностная
мера плотна (это верно, в частности, для 6-мерного
евклидова пространства). Более полезным является
нижеследующий результат, включающий также случай
евклидова пространства.
Теорема 1.4. Если S сепарабельно и полно, то
каждая вероятностная мера на E, 9) плотна.
Доказательство. Поскольку S сепарабельно, то
для любого п существует последовательность ЛпЬ
Ап2, .-• открытых l/n-сфер, покрывающих S. Выберем
*) Носителем вероятностной меры называется множество А из
91 такое, что Р(А)=\\ множество а-компактно, если оно может
быть представлено как счетное объединение компактных множеств.
Характеризация плотной меры Р, как меры, обладающей
а-компактным носителем, не годится в качестве определения, ибо оно не может
быть обобщено надлежащим образом на семейства вероятностных
мер (см. § 6).

§ ,] МЕРЫ В МЕТРИЧЕСКИХ ПРОСТРАНСТВАХ 19
in так, чтобы Р( U АпЛ> 1 — е/2п. В силу
предположения о полноте вполне ограниченное множество
П U Ai/ обладает компактным замыканием К (см.
стр. 296). Поскольку, очевидно, Р(К)> 1-е, то теорема
доказана.
Теорема 1.4 неверна без предположения о полноте;
вопрос о том, можно ли избавиться от предположения
сепарабельности, равносилен «проблеме меры». Эта тема
обсуждается в Добавлении III*).
Примечание. Теорема 1.4 принадлежит Уламу (см. Окстоби
и Улам A939); Ле Кам A960) ввел термин «плотность» (tight)).
Задачи**)
1. Скажем, что функция / разделяет множества А и В, если
f(x) = 0 для х из Л, f(x) = 1 для х из В и 0 < f(x) < 1 для всех х.
Если расстояние между А и В положительно, эти множества могут
быть разделены равномерно непрерывной функцией / [теорема 1.2].
Если Л и В имеют непересекающиеся замыкания, но расстояние
между ними равно 0, то они могут быть разделены непрерывной
функцией / [/(*) = р(х,А)/р(х,А) +р(х,В)I но не могут быть
разделены равномерно непрерывной функцией. Не существует
непрерывной функции /, разделяющей А и В в случае, если их замыкания
пересекаются; не существует функции /, разделяющей А и В, если
они пересекаются.
2. Приведите примеры различных топологий, которые приводят
к одному я тому же классу борелевских множеств.
3. Если S можно вложить как открытое множество в некоторое
полное метрическое пространство, то [Келли A968, стр. 275)] оно
топологически полно. Так как локально компактное пространство 5
является открытым в своем пополнении, то такое пространство
топологически полно. Следовательно, теорема 1.4 применима, если
пространство S сепарабельно и локально компактно. Такое пространство
*) Хотя теорема 1.4 в том виде, в котором она дана,
достаточна для всех приложений, содержащихся в этой книге, естественно
поинтересоваться ее возможными обобщениями. Добавление III как
раз и посвящено вопросам этого рода.
**) Некоторые задачи включают понятия, которые не требуются
для понимания основного текста; задачи, решения которых были бы
использованы далее в тексте, не даются. Простое утверждение
следует понимать в смысле «покажите, что». Квадратные скобки
содержат намеки или указания для решений.

20 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ ПРОСТРАНСТВАХ [ГЛ. 1
S является а-компактным [будучи объединением открытых множеств
с компактными замыканиями и, следовательно (стр. 295), счетным
объединением таких множеств]. Отсюда непосредственно вытекает,
что любая вероятностная мера на нем плотна; примером является
евклидово пространство.
4. Пусть S — гильбертово пространство со счетным ортонормаль-
ным базисом хи х2, ... Так как 5 сепарабельно и полно, то
теорема 1.4 применима. Однако любое множество, имеющее внутренние
точки, не является компактом [такое множество должно для
некоторых х и г содержать все точки вида х-\-ехп]> так что S не
является ни локально компактным, ни [теорема Бэра о категории;
Келли A968, стр. 267)] а-компактным. Если мера Р приписывает
положительную массу каждому элементу счетного всюду плотного
множества, то Р не обладает локально компактным носителем в
относительной топологии.
5. Приспособьте задачу 4 к общему банахову пространству
счетного числа измерений [существуют точки xh х2, ... с supn II хп И<<»
и inf тфп II Хт—Хп II > 0; см. Банах A932, стр. 83)]; пространство
С[0,1], важное в теории вероятностей, является примером такого
пространства; это объясняет тот факт, что теория, основанная на
локальной компактности, мало полезна в данном круге вопросов.
(См. также задачу 5 в § 3.)
6. Мы определили & как а-поле, порожденное открытыми
множествами, что можно обозначить записью 9* = а {открытые
множества}. Подобно этому определим 9?\ = о {замкнутые С^ -множества}
(множество является в^- множеством, если оно представляется
счетным пересечением открытых множеств), определим 9}2 = ст{СE)}
(наименьшее а-поле, по отношению к которому любая функция из
C(S) измерима) и определим 9>г = а{открытые сферы}, ^4 =
= а{компактные множества} и ^5 = а{компактные (Зф-множества}.
В метрическом пространстве каждое замкнутое множество есть
множество типа G^. Используйте последний факт и теорему 1.2 для
доказательства того, что
is if I if 2 ' ** 3 ' •'4 ** 5»
Покажите, что & = ^з, если S сепарабельно. Покажите, что ^ = ^5,
если S а-компактно (это так, если 5 сепарабельно и локально
компактно). Возможно, что 9*2 Ф Уъ (даже при том, что S локально
компактно): возьмите «S дискретным, но не счетным. Возможно, что
9% ф 9"а (даже если S сепарабельно и полно): возьмите в
качестве 5 гильбертово пространство из задачи 4. (Иное положение в
общем топологическом пространстве, где следует рассматривать два
класса множеств: борелевские множества — их считают иногда
элементами 9, а иногда —^4, и бэровские множества — их считают
иногда элементами ^2, а иногда — #V, терминология неоднозначна.)
7. В связи с понятием плотности интересно отметить следующий
факт*, допустим, что функция множеств Р определена на (S, ?*), и
допустим лишь, что она конечно аддитивна. Если для любого А из 9
имеем Р(А)= sup P(K), где К пробегает компактные
подмножества Л, то Р непременно счетно аддитивна.

? 2] СВОЙСТВА СЛАБОЙ СХОДИМОСТИ 21
§ 2. Свойства слабой сходимости
Мы определили слабую сходимость Рп=$> Р как
сходимость интегралов \ fdPn-> \fdP для любой функции
/ из класса С E) действительных ограниченных
непрерывных функций на S. Заметим, что так как интегралы
\ fdP полностью определяют Р (теорема 1.3),
последовательность {Рп} не может слабо сходиться
одновременно к двум различным пределам. Заметим также, что
слабая сходимость зависит только от топологии S, но не от
вида метрики, ее порождающей: две метрики,
порождающие одну и ту же топологию, приводят к
одинаковым классам 9* и СE) и, следовательно, к одному и
тому же понятию слабой сходимости*).
Теорема об условиях слабой сходимости. В
следующей теореме предлагаются полезные условия,
эквивалентные слабой сходимости; любое из этих условий
может служить определением. Множество А из ^, граница
которого дА удовлетворяет соотношению Р(дА) = 0,
называется множеством непрерывности Р или Р-непрерыв-
ным множеством (дА замкнуто и поэтому
принадлежит У).
Теорема 2.1. Пусть Рп и Р — вероятностные меры,
определенные на (S, 9>). Следующие пять условий
эквивалентны:
(О Р«=»/>.
(и) limn \ f dPn =\fdP для всех ограниченных рае-
номерно непрерывных действительных функций /.
(in) lim supn Pn(F) ^P(F) для всех замкнутых F.
(iv) lim ininPn(G) ^P(G) для всех открытых G.
(v) \imnРп(А) =Р(А) для всех Р-непрерывных
множеств А.
*) Введем в пространстве Z(S) всех вероятностных мер на
(S, 9*) топологию, взяв в качестве базы окрестностей меры Р
множества: совокупность таких мер Q, что \ ft dP — \ fi dQ < e для
i=l, ..., ky где е положительно и fi принадлежат С(S). Тогда
слабая сходимость будет равносильна сходимости в этой топологии.
Топологическая структура пространства Z(S) (которая сама по себе
для нас не важна) рассматривается в Дофавлещш III»

22 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. Г
Следующие два примера поясняют значение этих
условий. Пусть Р— единичная масса в точке х (значение
Р(А) равно 1 или 0 в соответствии с тем, лежит ли х
в А, или нет*), и пусть Рп — единичная масса в хп. Если
хп->х, то \fdPn = f{xn)->f{x) = J/rfP для всех / из
СE), так что РП=#>Я. Если хп не сходится к х, то для
некоторого положительного числа е и бесконечно
многих п мы имеем р(хп,х) > е. Если f(y) = у(ег1р{х,*/)),
где функция ф определена соотношением A.1), то
[gC(S)J(x)=1 и для бесконечно многих п f(xn) = 0;
следовательно, Рп не может сходиться слабо к Р. Таким
образом, Рп^Р в том и только том случае, если хп-+х.
Этот пример мы будем часто использовать в
дальнейшем. (Многие гипотетические утверждения о слабой
сходимости, которые в действительности неверны, могут
быть опровергнуты с помощью соответствующей
специализации данного примера.) Поскольку А является
множеством непрерывности Р тогда и только тогда, когда
хфдАу легко проверить в этом случае эквивалентность
(i) и (v). Если хп->х, но все хп отличаются от х, то
имеется строгое неравенство в (iii) для F = {х} и
строгое неравенство в (iv) для дополнительного множества
G = Fc, кроме того, если хп все различны и А =
= {х2,Х4, ...}, то Рп(А) не сходится ни к Р(А), ни к
какому-либо другому пределу.
На прямой с обычной метрикой теорема Муавра —
Лапласа также иллюстрирует условия теоремы. В
качестве более простого, но тоже весьма важного примера
рассмотрим меру Рп, соотносящую массу \/п каждой
точке i/n, i=sl, 2, ..., п. Тогда Рп сходится слабо к
мере Лебега Р, сосредоточенной на единичном интервале
(это следует из того, что \ f dPn представляет собой
сумму, аппроксимирующую интеграл \ f dP> который
рассматривается как интеграл Римана). Если А состоит
из рациональных точек, то Рп(А) = 1 не сходится к
Р(Л)=0; если G — открытое множество, содержащее
рациональные точки и имеющее лебегову меру, близкую
*) Предполагается, что каждое подмножество, о котором идет
речь, принадлежит #.

§ 2] СВОЙСТВА СЛАБОЙ СХОДИМОСТИ 23
к 0, тогда в (iv) имеет место строгое неравенство. Мы
докажем теорему 2.1, устанавливая импликации в
следующей диаграмме:
(v)
Разумеется, импликация (i) -+ (ii) тривиальна.
Доказательство (ii)->(iii). Допустим, что (ii)
справедливо, множество F замкнуто и пусть б > 0. При
достаточно малом е множество G = {я: р(#, F) < е}
удовлетворяет неравенству P(G) < Р(Р)-\- б, поскольку
множества такого вида убывают к F при е \ 0. Если
функция f(x) определена формулой A.2), то она
равномерно непрерывна на S, f(x)=\ на F, /(jt)=O
на дополнении Gc к G и O^f(x)^. 1 для все х.
Поскольку (ii) выполняется, мы имеем llmn \ fdPn= \ f dP,
что вместе с соотношениями
дает
limsupnP4(n<lim^fdP4=JfdP<P(F) + 6.
Так как б было произвольным, отсюда следует (Hi).
Доказательство (iii)->(i). Допустим, что (ш)
справедливо и что f^C(S). Мы сначала покажем, что
dP. B.1)
Преобразуя / линейно (с положительным
коэффициентом при члене с первой степенью), мы можем свести
пашу проблему к случаю, когда 0<if(x) < 1 для всех
х. Пусть при целом k (временно фиксированном) /^

24 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
будет замкнутым множеством: F\ = {х: i/k ^ /(#)}>
i = 0, 1, ..., k. Так как 0 < f(x) < 1, то мы имеем
Сумма в правой части равна
*=¦!
Это и аналогичное преобразование суммы в левой части
дают неравенство
Если (iii) справедливо, то lim supn Рп(/7г)^ Р(Л) при
каждом I, и поэтому (применяем правое неравенство
в B.2) к Рп, а левое неравенство — к Р)
Полагая ^-^оо, мы получаем B.1).
Применяя B.1) к —/, получим liming f fdPtt>
, что вместе с B.1) доказывает слабую
сходимость.
Эквивалентность (iii) и (iv) легко доказывается
путем перехода к дополнениям.
Доказательство (iii)->(v). Обозначим через
Л° внутренность множества Л, а через А~ — его
замыкание. Если (iii) выполняется, то справедливо также (iv)
и, следовательно, для любого А:
> lim infft Рп (А) > lim inf д Рп (А0) > Р (А0). B.3)

?2] СВОЙСТВА СЛАБОЙ СХОДИМОСТИ 25
Если Р(дА) = 0, тогда крайние члены этого неравенства
равны Р(Л), и мы получаем ИтпРп(А) = Р(Л).
Доказательство (v)->(iii). д{х: p(xtF)^. 6}
содержится *) в {х: р(х, F)z=z б}, так что эти границы при
различных б не пересекаются, и поэтому не более чем
счетное множество их имеет положительную Р-меру.
Следовательно, для некоторой последовательности
положительных б/г, сходящейся к 0, множества Fh =
= {х: р(дг, F) <g 8k} являются множествами
непрерывности Р. Если (v) выполняется, то lim supnPn(F) <;
^ \imnPn(Fh) = P(Fh) для каждого k\ если F замкнуто,
то Fk \ F, так что (Hi) выполняется. Этим завершается
доказательство теоремы 2.1.
Другие критерии. Иногда удобно доказывать слабую
сходимость, проверяя сходимость Рп(А)-+ Р(А) для
некоторого специального класса множеств Л.
Теорема 2.2. Пусть °U — подкласс класса У такой,
что (i) °U замкнут относительно взятия конечных пере-
сечений и (И) каждое открытое множество в S является
конечным или счетным объединением элементов °Ы. Если
Рп(А)-*Р(А) для каждого А из <U, то Яп=т>Я
Доказательство. Если Аи ..., Аш принадлежат
°U, то их пересечение также принадлежит <Щ\
следовательно, по известной формуле включения-исключения
для вероятности объединения событий
Рп (Д Л/) = Z Рп {Ад - Z Рп (Л,Л/) +
) -...-* S р ш -
lAJAk)~ ... =p(\j a).
Если G — открытое множество, то G = {JAi для
некоторой последовательности {Л/} элементов °U. Задавшись
числом е, выберем m так, чтобы Р( \] Л Л > P{G) — er
*) Включение может быть строгим — например, в дискретном
пространстве.

26 СЛАБА51 СХОДИМОСТЬ В METf>H4. ПРОСТРАНСТВАХ [ГЛ, I
Из только что доказанного равенства
Так как е было произвольным, условие (iv) предыдущей
теоремы выполнено.
Пусть S(x, е) обозначает (открытую) е-сферу с
центром в точке х.
Следствие 1. Пусть °Ы — класс множеств такой,
что (i) °U замкнут относительно взятия конечных
пересечений и (и) для любого элемента х из S и любого
положительного г существует множество А в °Ы такое, что
х е А° a A cz 5 (х, е). Если S сепарабельно и если
Рп{А)->Р{А) для любого А из °U, то Рп^Р.
Доказательство. Из условия (ii) *) следует, что
для любой точки х открытого множества G имеет место
включение х е А° cz A a G для некоторого А из °U,
Поскольку S сепарабельно, в %L существует (см. стр. 295)
конечная или бесконечная последовательность [А$
такая, чтоGcz\JЛ° и ^cG, откуда G = LM*. Таким
образом, °Ы удовлетворяет предположениям теоремы 2.2.
Следствие 2. Предположим, что для каждого
конечного пересечения А открытых сфер мы имеем Рп(Л)->
->Р(А) при условии, что А — множество непрерывности
Р. Если S сепарабельно, то Рп =т> Р.
Доказательство. Границы dS(x, г),
принадлежащие множествам {у: р(х, у) = г}, не пересекаются
(при фиксированном х), и поэтому имеют Р-меру 0 при
всех е, за исключением конечного или счетного их числа.
Из соотношения д(А П В)а(дА) U (дВ) вытекает, что
класс °Ы множеств непрерывности Р, которые являются
конечными пересечениями сфер, удовлетворяет
предположениям следствия 1, откуда и следует нужный
результат.
Условимся называть подкласс Т класса У
определяющим сходимость классом, если сходимость Рп(А)-*-
-+Р(А) для всех множеств Р-непрерывности А из Т
*) Это условие несколько сильнее, чем условие, требующее,
чтобы внутренности элементов °U образовывали базу топологии
пространства «S.

§ 2] СВОЙСТВА СЛАБОЙ СХОДИМОСТИ 27
всегда влечет за собой слабую сходимость Рп к Р.
Следствие 2 можно теперь сформулировать следующим
образом: в сепарабельном пространстве конечные
пересечения сфер образуют класс, определяющий сходимость.
Условимся называть в дальнейшем класс Т
определяющим классом, если Р и Q тождественны всякий раз,
когда их значения на Т совпадают. Класс замкнутых
множеств является определяющим классом, и таково же
любое поле, которое порождает ?Р. Хотя каждый
определяющий сходимость класс, очевидно, является также
и определяющим классом, следующий пример
показывает, что обратное неверно. Пусть S — полуоткрытый
интервал [0,1) с обычной метрикой; пусть Т — класс
множеств [а, Ь) с 0 < а < Ъ < 1. Тогда Т является
определяющим классом, но не определяющим сходимость
классом (в этом легко убедиться, взяв в качестве Рп и
Р распределения, приписывающие единичные массы
точкам 1 — I/ft и 0, соответственно). Хотя данный пример
искусствен, мы увидим, что применения изобилуют
реальными примерами определяющих классов, которые
не являются классами, определяющими сходимость.
В заключение этого параграфа дадим еще одно
условие слабой сходимости. Напомним, что
последовательность {хп} действительных чисел сходится к х тогда и
только тогда, когда любая подпоследовательность {xn*}
содержит другую подпоследовательность {хп»}, которая
сходится к х (удобно обозначать последовательность
целых чисел через {п'} вместо {м&} и подпоследовательность
{ft'} через {ft"} вместо {ft*,.}). Из этого факта легко
получить аналогичное утверждение для слабой сходимости.
Теорема 2.3. Рп=ФР в том и только том случае,
когда любая подпоследовательность {Рп} содержит
другую подпоследовательность {Рп«} такую, что Рп»^Р.
Мы будем иногда иметь дело со слабой сходимостью
Pt к Р, когда t — непрерывный параметр, стремящийся
к бесконечности. Разумеется, это означает по
определению, что
lim [fdPt=[fdP B.4)
для любой функции / из С E). Если функция /
фиксирована, соотношение B.4) выполняется тогда и только

28 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
тогда, когда
lim \fdPt=\fdP B.5)
для любой последовательности {tn}, сходящейся к
бесконечности. Таким образом, Pt=$>P при /->оо в том и
только том случае, когда Ptn=^P для любой
последовательности {tn}, сходящейся к бесконечности, так что
при переходе к непрерывно меняющемуся параметру
ничего существенно нового не требуется. Мы можем также
допустить, что t приближается непрерывным образом к
некоторому конечному значению to.
Примечание. Теорема 2.1 была известна уже Александрову
A940—1943). Теорема 2.2 принадлежит Колмогорову и Прохорову
A954). Другие изложения теории см. в книгах: Гихман, Скороход
A965), Хеннекен, Тортра A974) и Партасарати A967).
Сопряженным пространством к банахову пространству C(S)
является пространство С*(S) конечных знакопеременных*) мер на 9*.
Относительная топология пространства Z(S) вероятностных мер,
порожденная слабой* топологией (или С(S)-топологией) пространства
С*E), —это топология, описанная в первой сноске этого параграфа
(отсюда термин «слабая» в нашей «слабой сходимости»); см. Дан-
форд, Шварц A962, стр. 283 и 414). Варадарайн A958а и 1961а)
исследовал топологическую структуру Z(S)\ см. также
Добавление III.
О расширении теории на общие топологические пространства см.
Ле Кам A960), Варадарайн A958а и 1961а) и Каллианпур A961).
Если метрическое пространство S не сепарабельно, то а-поле ^о»
порожденное сферами, может быть меньше, чем 9>. Дадли A966 и
1967) рассматривает теорию слабой сходимости применительно лишь
к множествам из ^о и ^о-измеримым функциям.
Если Рп =Ф Р, то естественно задаться вопросом, выполняется
ли Рп(А)-+-Р(А) равномерно для данного класса множеств Р-не-
прерывности; см. Ранга Рао A962) и Биллингсли, Топсё A967).
Задачи
1. Если S счетно и дискретно, то Рп=фР тогда и только тогда,
когда Рп{х)-*-Р{х} для любого одноточечного множества {х}.
2. Пусть Рп и Р заданы плотностями рп и р относительно
меры \ на E, ^). Если рп(х)-+р(х) всюду, за исключением х из
множества, имеющего Х-меру 0, то Рп =ф Р [см. теорему Шеффе на
стр. 306]. Постройте пример, показывающий, что сходимость
*) signed; в русской литературе такие меры называют обычно
обобщенными мерами; см., например, Халмош A953). (П^им. пере в.)

§ 2] СВОЙСТВА СЛАБОЙ СХОДИМОСТИ 29
пп{х)-*р(х) может не иметь места на множестве положительной
меры даже в том случае, когда Рп^Р-
3. Пусть Рп=$Р. Соотношение \ f dPn -> \ f dP может не
выполняться, если f ограничена, но не непрерывна, или если f
непрерывна, но не ограничена (даже если интегралы существуют).
Приведите примеры. Если 5 — компакт, то вторая возможность не
осуществляется. Что будет в случае, если 5 не является компактом, но
р обладает компактным носителем?
4. Класс множеств непрерывности Р (мера Р фиксирована)
образует поле.
5. Если °и — определяющий класс, если Рп (Л) -> Q (А) для
у1е^/и если Рп=фР, то отсюда еще не следует, что Р = Q.
[Определим вероятностные меры на прямой соотношениями Рп{п~1} =а
= Рп О + п~1) = Р {0} = Р {1} = 1/2 и Q {0} = 1. Пусть В состоит
из точек 0, 1, ri~x и 1 + п~\ п = I, 2, ... Определим °U как поле
борелевских множеств А таких, что или (i) AflB конечно и 0 ф. Л,
или же (и) АС(]В конечно и 0фАс, (Этот пример принадлежит
О. Бьернсону.)]
6. Определите, что должно понимать под определяющими
классами и классами, определяющими сходимость, элементов
пространства С (S). Приведите пример определяющего класса, который не
является классом, определяющим сходимость. Покажите, что класс,
равномерно плотный в C(S), служит классом, определяющим
сходимость.
7. Если / ограничена и полунепрерывна сверху (стр. 298), то из
следует lim suprt J f dPn < ^f dP.
8. Пусть {fo\ — семейство действительных функций на 5,
равностепенно непрерывных в каждой точке х (для каждого х и г
существует 6 такое, что при всех 6 из р (х, у) < 6 следует
I fe (*) ~ fe (У) I < e). Если семейство {fe} равномерно ограничено,
a S сепарабельно, то из Р«=фР следует, что \ fe dPn -> \
равномерно по 9. I Покажите сначала, что для каждого е
существует счетное разбиение Де = {?efe} пространства «S на множества
^-непрерывности такие, что | fe (х) — /0 (у) \ < е при всех 9, если х
и у принадлежат одному и тому же D^k. Затем замените интеграл
J f0 dP суммой 2J fQ (xk) P (Dek)> где xk принадлежит Dtk Гана-
k
логично для \fedPnJf и примените теорему Шеффе (стр. 306). I
(Этот результат принадлежит Ранга Рао A962); по поводу
обобщений см. Биллингсли, Топсё A967) и ToncS A967a и 19676).)

30 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. I
§ 3. Некоторые частные случаи
Евклидово пространство. Обозначим через Rh &-мер-
ное евклидово пространство, которое мы всегда будем
рассматривать с обычной метрикой р (х, г/) == { а: — t/1 =
Г k -1I/2
=1 H(xi—yiJ .Обозначим через 9lh класс борелевских
множеств в Rk; элементы 3lk мы будем называть k-мер-
ными борелевскими множествами, а в случае k = 1 —
линейными борелевскими множествами. Запись у ^
^ х[у < х] будет означать, что у г ^ Хх\у\ < хг] для
всех i = 1, 2, ..., k. (Заметим, что условие у < х
сильнее, чем условие у <; х и у Ф х.) Интервал есть
множество вида
(a, b] = {x: a<x^b}. C.1)
Наконец, обозначим через е == A, ..., 1) вектор, все
координаты которого равны 1.
Произвольная вероятностная мера Р на (Rh> 8?k)
имеет функцию распределения F, определенную
равенством
F{x) = P{y: #<*}, xe=:Rk. C.2)
Сравним понятие слабой сходимости Pn=#>P с обычным
понятием сходимости соответствующих функций
распределения Fn к F.
Функция F непрерывна в х тогда и только тогда,
когда для каждого положительного г существует
положительное число б такое, что из х — бе < у < х + бе
следует \F(x) —F(y) | < е. По определению F непрерывна
сверху*) в ху если для каждого положительного е
существует положительное б такое, что из х ^ у < х + 5е
следует \F(x)—F(r/)|<e. Из определения C.2)
следует, что F не убывает по любой переменной.
Следовательно, F непрерывна сверху в х тогда и только тогда,
когда F(x) совпадает с inf F(x + 6e)= inf P{y: y^x+
б> о б > о
Этот инфинум является как раз Р-мерой пересе-
*) Понятия «непрерывность сверху» и «непрерывность снизу»
аналогичны, таким образом, непрерывности справа и слева в
одномерном случае. (Прим. перев.)

§ 3] НЕКОТОРЫЕ ЧАСТНЫЕ СЛУЧАИ 31
чения П {У-У <:* + &} = {у: #<*}. Тем самым F не-
б>0
прерывна сверху в каждой точке х.
Поскольку F есть функция, неубывающая по каждой
переменной и всюду непрерывная сверху, она является
непрерывной в х тогда и только тогда, когда она
непрерывна снизу в этой точке, иначе говоря, тогда и только
тогда, когда для каждого положительного е существует
положительное б такое, что из х — Ье<у<^.х следует
\F(x) — F(y) | < е. Еще раз используя монотонность, мы
видим, что это условие в свою очередь эквивалентно
равенству F(x) = supF(A: — бе). Поскольку супремум явля-
6>0
ется Р-мерой объединения U {у: у <!* — Ье} = {у\у < *},
6>0
мы видим, что F непрерывна в х тогда и только
тогда, когда F(x) = Р{у: у <. х}. Поскольку множество
{у: у ^ х] — {у: у < х} является в точности границей
{у- У ^ *}> F непрерывна в х тогда и только тогда, когда
{у- У ^ х) является множеством непрерывности меры Р.
Для функций распределения Fn и F введем
определение сходимости Fn=4>F> означающее, что Fn(x) -+F(x)
в точках х непрерывности F. Из доказанного выше
следует, что если Рп =# Р, то для соответствующих функций
распределения имеет место сходимость Fn =#> F.
Интервал (а, Ь] определяется 2k гиперплоскостями
размерности k—1, содержащими все его грани; пусть °U есть
класс интервалов, для которых все эти гиперплоскости
имеют Р-меру 0. Каждая вершина элемента %1 есть
точка непрерывности F и класс °U замкнут относительно
образования конечных пересечений. Поскольку
положительную Р-меру может иметь только счетное число
параллельных гиперплоскостей, из следствия 1 теоремы 2.2
следует, что если Рп(А)-+Р(А) для каждого А из °U,
то Рп'ФР. Вероятность Р(а, Ь] есть сумма Y*±:F(x),
где х пробегает множество 2h вершин интервала (а, Ь]
(и аналогично выражается Рп(а, Ь] через Fn). Поэтому
из Fn^F следует, что Рп(А)-**Р(А) для каждого А из
°U. Следовательно, соотношения Рп^Р и Fn^F
эквивалентны.
Таким образом, понятие слабой сходимости сводится
в Rh к обычному понятию сходимости функций
распределения. Другими словами, множества {у: у ^ х)

32 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ (ГЛ. 1
образуют класс, определяющий сходимость.
Доказательство, приведенное выше, также показывает, что
прямоугольники (а, Ь] образуют класс, определяющий
сходимость.
Окружность. Подобного же рода результат, очевидно,
справедлив, если S — единичная окружность на
комплексной плоскости: Рп=$> Р тогда и только тогда, когда
Рп(А) -+Р(А) для каждой дуги Л, концы которой имеют
Р-меру 0. Последовательность {х\, #2, ...} точек 5
(комплексные числа, равные по модулю 1) считается
равномерно распределенной, если доля точек на каждой дуге
пропорциональна ее длине, в том смысле, что
C.3)
П+оо j
где 1а есть индикатор или характеристическая функция
Л, а Р есть мера Лебега на окружности, нормированная
так, что P(S) = 1. Если Рп обозначает эмпирическое
распределение последовательности первых п точек, т. е.
меру, сопоставляющую массу l/п каждой из точек х\,
*2, . -., хп, то это условие сводится к сходимости
Рп(А) ->Р(Л) для дуг Л; таким образом,
последовательность равномерно распределена тогда и только
тогда, когда Рп ^ Р. Поэтому, если каждая дуга
содержит соответствующую долю точек в смысле C.3), то это
же самое справедливо для любого другого борелевского
множества, граница которого имеет меру Лебега,
равную 0. Мы доказываем в § 7 известную теорему Вейля,
согласно которой {хи #2> . •.} равномерно распределена
п
тогда и только тогда, когда условие ггх X {xjf ->0
справедливо для каждого отличного от нуля целого
числа и.
Пространство R00. Результаты, установленные для Rh,
переносятся во всех существенных отношениях на
топологическое произведение счетной последовательности
прямых, иначе говоря, на пространство R°°
последовательностей х = (х\, х2у ...) действительных чисел (см.
етр. 299). Топология в R°° имеет в качестве базовых
окрестностей точки х множества вида
#*,еМ = {!/: \х(-У1\<в9 i=lt .... k}, C.4)

§ 3] НЕКОТОРЫЕ ЧАСТНЫЕ СЛУЧАЙ 33
где 8 > 0, a k = 1, 2, ... В этой топологии R°° является
полным сепарабельным метрическим пространством.
(Мы всегда будем подразумевать под R°° топологическое
произведение счетного числа прямых.)
Обозначим через пи естественную проекцию из R°° на
Rh: ftk(x) = (#i, ..., Xk). Конечномерное множество
(или цилиндр) есть по определению множество вида
л]~]Н при k^z 1 и Яе^. Поскольку каждая проекция
ль. непрерывна и, следовательно, измерима (см. стр. 304),
то конечномерные множества принадлежат а-полю &fr°
борелевских множеств в R°°. Обозначим через У класс
конечномерных множеств. Поскольку каждое множество
C.4) принадлежит 2Г и поскольку R°° сепарабельно, то
У порождает Я00. Поскольку ST — поле (конечно
аддитивное), то, следовательно, 9Г — определяющий класс.
Для фиксированных k и х множества C.4) при
различных значениях е имеют непересекающиеся границы
(из е > 6 следует Nk, е с N% а). Применяя следствие 1
теоремы 2.2 к классу множеств Р-непрерывности из &",
мы находим тем самым, что @~ является даже классом,
определяющим сходимость. Таким образом, РП=#>Р
тогда и только тогда, когда сходимость Рп(А)->Р(А)
справедлива для всех конечномерных множеств Р-непрерыв-
ности.
Пространство С. В С = С[0, 1], пространстве
непрерывных функций на [0, 1] с равномерной метрикой
р(*> У) = supt\x(t) — y(t)\ (см. стр. 301), положение
заметно отличается от того, что мы имели в /?°°. Выберем
точки tu ..., tk из [0, 1]. Пусть nt t —отображение,
сопоставляющее точке л: из С точку (x(t\), ..., x(th))
в Rk. Конечномерные множества здесь определяются
как множества вида я, t H с И е Жк. Поскольку
i к
отображение nt t непрерывно, то эти множества
содержатся в классе ^ борелевских множеств в С. С
другой стороны, замкнутая сфера {у: р (х, у) < е} является
пределом конечномерных множеств {y:\x(i/n) — y(i/n)\^
^е, / = 1, ..., п}\ поскольку С сепарабельно, каждое
открытое множество есть счетное объединение
открытых сфер, а следовательно, и замкнутых сфер, так
1по конечномерные множества порождают ^. Так как
2 П, Биллингсли

34 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ ПРОСТРАНСТВАХ [ГЛ. 1
они образуют поле, то класс конечномерных множеств
является определяющим классом.
Приведем пример, показывающий, что
конечномерные множества не образуют класс, определяющий
сходимость. Пусть Р приписывает единичную массу точке О
(О — это в данном случае функция, тождественно
равная 0), а Рп — точке (функции) хПу где
C.5)
Поскольку хп не сходится к 0 равномерно (т. е. в
топологии С), то мера Рп не может слабо сходиться к Р.
(Например, если А = S@, 1/2), то Р(дА) = 0, и в то же
время Рп(А) = 0 не сходится к Р(А) = 1.) Но
соотношение Рп(А)-+-Р(А) справедливо для конечномерных
множеств непрерывности Р. В самом деле, если А =
= ЯГ1... / Н и если 2/п меньше наименьшего из не
равных нулю tu то Рп(А) = Р(Л).
Конечномерные множества являются, таким образом,
определяющим классом в С, но не классом,
определяющим сходимость. Трудность, интерес и польза понятия
слабой сходимости в С связаны с тем, что это понятие
требует выхода за рамки того, что относится к
конечномерным множествам.
Произведение пространств. Пусть S=5/x5//
—произведение метрических пространств S' и S". Если 5 сепа-
рабельно (для этого нужно, чтобы S' и S" были сепара-
бельны), тогда а-поля ^, 9*' и ф" борелевских множеств
в этих пространствах связаны соотношением У = 9" YJP"
(см. стр. 308).
Два маргинальных распределения вероятностной меры
Р на (S, 9) определяются как /э/(Л/)= Р{А' X S"),
А'е9", и P"(A") = P(S'XA"), A"<=9".
Теорема 3.1. Если S сепарабельно, то для
сходимости Рп =ф Р необходимо и достаточно выполнения
условия Рп(А' X А")-+ Р(А' X А") для любого множества А'
непрерывности меры Р' и любого множества А"
непрерывности меры Р'\ где Р' и Р" являются маргинальными
распределениями меры Р.

§ з] НЕКОТОРЫЕ ЧАСТНЫЕ СЛУЧАИ 35
Доказательство. Обозначим через д, д' и д"
граничные операторы в S, S' и S", соответственно. Так как
д {А' X Л") с ((дМ') X S") U E' X (д"А"))9 C.6)
то условие теоремы необходимо.
Для доказательства достаточности применим
следствие 1 теоремы 2.2 к классу °U множеств Л'Х^4", где
Аг и А" — множества непрерывности Р' и Я",
соответственно. Класс °Ы замкнут относительно образования
конечных пересечений и по предположению Рп(А) -**Р(А)
для А из <Ы.
Задаваясь точкой (х\ х") в S и числом е > 0,
рассмотрим множества
Аь = {*/': Р' (*', /) < 6} X {у": р" (*", У") < 6}.
При различных б множества д'{у'\ р'{х\у') < 6} не
пересекаются и множества д"{у"\ р"(х", у") < 6} не
пересекаются, поэтому при некотором б, где 0 < б < е, А6
принадлежит <U. Если в S ввести метрику
*")> W, */")) = max {р'(*', у\ р"(х", Л),
то А6 будет сферой с центром (х\ х") и радиусом б.
Следовательно, %1 удовлетворяет предположению
следствия 1 теоремы 2.2, что и требовалось доказать.
Достаточность условия теоремы 3.1 показывает, что
измеримые прямоугольники образуют класс,
определяющий сходимость (и даже больше, так как из того, что
Р(д(А'хА")) = 0 не следует Р'(д'А) = Р"(д"А) = 0).
Для данных вероятностных мер Рг и Р'\ заданных на
(S', 9>f) и (S", У"), соответственно, их произведение
Р' X Р" есть вероятностная мера на У X &" и,
следовательно, если S сепарабельно, мера на 9*. Следующая
теорема, в которой Р'п и Рг являются вероятностными
мерами на (S, &')у а Я« и Р" — вероятностными мерами
на (S", 9>"), представляет собой прямое следствие
теоремы 3.1.
Теорема 3.2. Если S сепарлбельно, то Р'пХР'п^
Р'Х Р" тогда и только тогда, когда Р'п=$Р' и
Задачи
1. Покажите непосредственно, что Fn=^F тогда и только тогда,
когда Fn (x) ->F(x) для всех х из некоторого всюду плотного
множества, и Fn=^F тогда и только тогда, когда lim suprt Fn (x) < F (x)
2*

36 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
и lim Шп Fn (х — 0) ^ F (х — 0) для всех х (здесь F (х — 0) =
= supy<xF(y)).
2. Если k > 1, то множество точек разрыва функции
распределения F, хотя и обладает всюду ппотным дополнением, не обязано
быть счетным, (k—1) -мерная гиперплоскость может содержать
самое большее счетное множество разрывов, если она не
перпендикулярна ни к одной из осей. [Чтобы облегчить себе понимание задачи,
рассмотрите сначала гиперплоскость {(хих2) : *i = —х2} в R2.]
3. Если Fn=^F и если F непрерывна в каждой точке
замкнутого множества Л, то
sup \Fn(x)-F(x)\->0.
X €Е А
4. Расстояние Леви k(F, G) между двумя одномерными
функциями распределения определяется как точная нижняя грань всех
положительных 8 таких, что F(x — г) — е ^ G (х) <; F(x + s) + 8
для всех х. Интерпретируйте X(F, G) геометрически с точки зрения
взаимного расположения графиков F и G. Покажите, что Fn=^F
тогда и только тогда, когда X(Fn, F)-»-0; докажите, что совокупность
одномерных функций распределения представляет собой сепарабель-
ное полное метрическое пространство относительно метрики X.
5. Задача 5 § 1 адаптирует предшествующую ей задачу к
общему банахову пространству счетного числа измерений. В
пространстве С возможен простой непосредственный анализ: используйте
функции Хп, определенные в C.5)
6. Равномерное распределение на единичном квадрате и
равномерное распределение на его диагонали имеют одинаковые
маргинальные распределения. Сопоставьте этот факт с теоремой 3.2.
7. Обобщите факты, касающиеся мер в произведении пространств
(приведенные в конце параграфа), показав, что для счетного
произведения сепарабельных пространств конечномерные множества
(соответствующим образом определенные) образуют класс, определяющий
сходимость (пространство R°° представляет собой частный случай).
§ 4. Сходимость по распределению
Теория слабой сходимости может быть изложена как
теория сходимости по распределению. Это не требует
никаких новых идей, и многие результаты приобретают
при этом прозрачную и компактную форму.
Случайные элементы* Пусть X отображает
вероятностное пространство (Q, J?, Р) в метрическое
пространство S. Если X измеримо (в том смысле, что Х~Х9* а<%\
см. стр. 304), то мы назовем X случайным элементом.
Мы будем говорить, что случайный элемент X задан на
своей области определения Q (или (Q, J7, Р)) и б своей
области изменения S, и будем называть X случайным
элементом S. Если S = R1, то мы называем X случайной

§ 4] СХОДИМОСТЬ ПО РАСПРЕДЕЛЕНИЮ 37
величиной; если 5 = Rhy то X есть случайный вектор;
если S = С, то X именуется случайной функцией.
Случайные величины и случайные векторы являются
привычными объектами изучения, а пример полезной
функции (измеримость которой, впрочем, не была
доказана) содержится во введении (см. формулу A3)).
Целый ряд случайных функций возникает естественным
образом в теории вероятностей.
Распределение *) случайного элемента X есть
вероятностная мера Р = РХ~1 на (S,?):
= P(Ig4 Ле=?> D.1)
(мы обычно опускаем в записи аргумент со). В случае
S = Rk мы определим, кроме того, функцию
распределения X:
Заметим, что вероятностная мера р определяется на
пространстве произвольной природы, в то время как
распределение Р всегда задано на метрическом
пространстве. Как правило, распределение Р содержит всю
существенную информацию о случайном элементе X. Если
h — измеримая функция на S (hrl0ll с: 9>), то с помощью
формулы замены переменных (см. стр. 305) получаем
равенство
J \dP, D.2)
понимаемое так, что оба интеграла существуют или не
существуют одновременно и имеют одинаковое значение,
если существуют. Используя обычное обозначение для
математического ожидания, вместо D.2) получаем
E{h{X)}=\hdP. D.3)
Любая вероятностная мера на любом метрическом
пространстве является распределением некоторого
случайного элемента на некотором вероятностном пространстве:
*) Это понятие не имеет ничего общего с понятием
распределения по Шварцу.

38 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ 1ГЛ. Т
пусть дана мера Р на (S, ^), тогда, если мы
положим (Q,^, P) = (S,^, P) и
*(©) = ©, qgQ = S, D.4)
то X оказывается случайным элементом, определенным
на Q, со значениями в S и имеет в качестве своего
распределения меру Р. Хотя класс распределений, таким
образом, совпадает с классом вероятностных мер на
метрических пространствах, мы обычно называем меру на
метрическом пространстве распределением только тогда,
когда она действительно является распределением
некоторого заранее данного случайного элемента.
Сходимость по распределению. Мы говорим, что
последовательность {Хп} случайных элементов сходится по
распределению к случайному элементу X, и записываем
Хп — X, D.5)
если распределения Рп элементов Хп слабо сходятся к
распределению Р элемента X:
Рп^Р. D.6)
Хотя это определение, разумеется, не имеет смысла в
случае, если пространство образов 5 (область
изменения) и топология на нем не являются одними и теми же
для всех случайных элементов X, Х\, Аг, ..., исходные
вероятностные пространства (области определения)
могут быть все различными. Мы обычно не упоминаем об
этих исходных пространствах, ибо их структуры
участвуют в рассуждениях лишь постольку, поскольку они
индуцируют распределения на 5. Поэтому мы пишем
Р {Хп е А} вместо того, чтобы писать Pn {Xn e Л},
и пишем E.{f(Xn)} вместо того, чтобы писать
\f(Xn)dPn или En{f{Xn)}. Поскольку из формулы
замены переменных D.2) вытекает равенство \ /{х)Р(dx) =
s
= \ f {X) dP (и аналогичное равенство для \ / dPn\ ,
мы имеем Хп —* X тогда и только тогда, когда Е {/ (Хп)} ->
Е {/(*)} Для каждой /e=C(S).

§ 4] СХОДИМОСТЬ ПО РАСПРЕДЕЛЕНИЮ 39
Теорема 2.1 утверждает эквивалентность следующих
пяти утверждений. Назовем множество А из 9> Х-непре-
рывным множеством, если Р{Х едЛ} —0.
@ Хп-^х.
(ii) \\mnE{f{Xn)} = E{f(X)} для всех ограниченных,
равномерно непрерывных действительных функций f.
(iii) Птзир^Р!^ е F}<P{X eF} для всех
замкнутых F.
(iv) liminfnP{XneG}>P{XeG} для всех
открытых G.
(v) limn P {Хп еД} = Р{ХеЛ} для всех Х-непрерыв-
ных множеств А.
Каждая теорема о слабой сходимости может быть
переформулирована подобным же образом.
Может оказаться полезной нижеследующая
смешанная терминология: если Хп суть случайные элементы 5,
Рп — соответствующие распределения и Р —
вероятностная мера на (S, ^), то мы говорим, что Хп сходится по
распределению кР, и пишем
Хп-^Р D.7)
в случае, когда Рп =Ф Р. Существует очевидный
соответствующий вариант теоремы 2.1.
Весьма удобно иметь возможность переходить от
одного из трех эквивалентных понятий D.5), D.6) и D.7)
к другому, и мы будем широко этим пользоваться. Это,
главным образом, вопрос удобства фразеологии.
Например, если случайные величины Хп имеют
асимптотическое нормальное распределение со средним \х и
дисперсией а2, мы будем выражать этот факт записью
Хп— > N(\i, a2). D.8)
Безразлично при этом, будем ли мы интерпретировать
N([i,o2) как меру на G?1, Л1) с плотностью
Bяа2)~ V-(w~^2/2<j2 и понимать D.8) в смысле D.7), или
же интерпретировать N{\x, а2) как случайную величину
с распределением
p{W(|i, а2) е= А} = ;— [e-te-M'Wdu, АеЯ1, D.9)
А

40 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
и понимать D.8) в смысле D.5). (Существует сколько
угодно подобных случайных величин N (\х, о2) на многих
вероятностных пространствах; конструкция D.4)
представляет одну из них.) Мы ограничимся для N(\i, о2)
этим (двойным) значением и введем запись N для
Ат@, 1):
l [ At=3ZK D.10)
Сходимость по вероятности. Многие стандартные
понятия и результаты, касающиеся сходимости по
распределению обычных случайных величин, обобщаются на
случайные элементы. Если для элемента а из S для
каждого положительного е справедливо
Р{9(Хп, а)>е}-*0, D.11)
то мы говорим, что Хп сходится по вероятности к а, и
записываем это в виде
Хп~+а. D.12)
Если рассматривать а как случайный элемент с постоян
р
ным значением, то, как легко доказать, Хп —* а тогда
з>
и только тогда, когда Хп—> а. Иными словами, пре-
р
дельное соотношение Хп —> а верно тогда и только
тогда, когда распределение Хп слабо сходится
к вероятностной мере, отвечающей массе, равной 1 в точ
ке а. Случайные элементы Хп в D.12), как говорилось
могут быть определены на различных вероятиостны>
пространствах; однако область изменения S должна
быть общей для них всех.
Если Хп и Yn имеют общую область определения,
есть смысл говорить о расстоянии р(Хп, Уп), т.е. о функ
ции со значением р(Хп((д), Кп(со)) в точке со. Если S
сепарабельно, то р(Хп, Yn) является случайной величи
ной (см. стр. 309). В следующей теореме мы предполо
жим, что для каждого п Хп и Yn действительно имею-
общую область определения и что 5 сепарабельно.
Теорема 4.1. Если Хп-^> X и p{XniYn)-^09 n
Y -^Y
1 п * •

41 СХОДИМОСТЬ ПО РАСПРЕДЕЛЕНИЮ 41
Доказательство.. Если положить FB =
{л::р(л:, f)<e), то
Поскольку Fg замкнуто, то из предположений
теоремы следует, что
lim suprt P {Yn eF}< lim sup, P [Xn gF?)<P {X €= Fe).
Если F замкнуто, то Fe\F при е{0 и результат
вытекает из теоремы 2.1 (ее варианта, соответствующего
сходимости по распределению).
В следующей теореме*) мы предполагаем, что для
каждого п случайные элементы Уп, ^in, ^2n> ... имеют
общую область определения и что S сепарабельно.
Теорема 4.2. Предположим, что для каждого и
Хм--* Хи при п->оо и что Хи—* X при и->оо.
Предположим далее, что для каждого положительного г
lim lim sup Р {р (ХипУ Yn) > г} = 0. D.13)
Тогда Yn - -> X при /г~>оо.
Доказательство. Определяя fe, как и ранее,
равенством Fe-={x: p{x, F)<e}, мы имеем
Р {Yn е= П < Р {JUrt e Fe} + Р {р (Хип% Yn) > e}.
В силу предположения Хип—+Хи (п-~>оо) имеем
limsupP{rne=F}<
Л->оо
< Р {Хи s Fe} + lim sup Р {р (Хн„, Г„) > е}.
В силу D.13) и предположения Хи—* X (и—>оо) имеем
lim sup P{F,Gf}<PUe Fe}.
Результат теоремы выводится теперь так же, как в
предыдущем случае (теорема 4.1).
*) Материал конца этого параграфа не является стержневым
Для теории; после беглого прочтения к нему можно обращаться в
Дальнейшем по мере надобности.

42 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. I
Предположим далее, что все А', Хи Х2, ... имеют
общую область определения и что S сепарабельно. Если
для всякого положительного е
то мы говорим, что Хп сходится по вероятности к А', и
пишем
Хп-^Х. D.14)
Ввиду предположений о сепарабельности и (что более
важно) об общей области определения для Хп это
понятие не обобщает D.12).
Теорема 4.3. Если Хп-^> X, то*)
Р({Хп<=А} + {ХеА})->0 D.15)
для каждого Х-непрерывного множества А.
Доказательство. Для каждого положительного г
+ Р{р(Х,А)<е,ХфА}.
Из этого неравенства, а также из такого же
неравенства, в котором А заменяется на Ас и, наконец, из
предположения Хп—>Х мы получаем
lim sup Р {{Хп е= А) + {X g= A}) <
, Ас)<г, Хе=А}.
При е->0 правая часть этого неравенства стремится к
Р{Хе=дА}=0.
Поскольку из D.15) вытекает р{1пе/1}->рЦеЛ},
р
то из теоремы 4.3 следует, что сходимость Хп —> X вле-
чет сходимость Хп —> X.
Произведение пространств**). Пусть X' и Х'п есть
случайные элементы S', а X" и Х'п — случайные эле-
*) Некоторые обозначения: Ес — дополнение ?, Е{ — Е2 =
= Ех П Ес2 - разность Е{ и Е2, и Ех + Е2 = (?, - ?2) U (?2 - ?,) -
симметрическая разность Е\ и Яг.
**) Предпоследняя сноска применима и к материалу этой части
параграфа.

§ 4] СХОДИМОСТЬ ПО РАСПРЕДЕЛЕНИЮ 43
менты S". В оставшейся части этого параграфа мы
предполагаем, что X' и X" имеют одинаковую область
определения, что Х'п и Х"п имеют одинаковую область
определения при каждом п и что S' и S" сепарабельны,
так что (Х'у X") и (Х'п, Х'п) суть случайные элементы
S' X S" (см. стр. 309). Мы разыскиваем условия, при
которых
{Х'п,П)-^(Х\Х"). D.16)
Случайные элементы X' и X" по определению
независимы, если Р {Хг е= А\ X" е= А"} = Р{Ге А'} X
ХР{*"еД"). Если X' и X" независимы и Х'п и Jft
независимы при каждом м, то согласно теореме 3.2
соотношение D.16) эквивалентно тому, что
Г„-->Г, П-^+Х". D.17)
Хотя из соотношения D.16) факт, устанавливаемый
формулой D.17), вытекает даже без предположения о
независимости, обратное неверно (например, возьмем
вектор [Х\ X") равномерно распределенным на
единичном квадрате, а {Х'п, Х'п) — распределенным равномерно
на диагонали этого квадрата). Мы будем заниматься
случаями, в которых X' и X" независимы, однако Хп и Хп
удовлетворяют некоторому условию, более слабому, чем
независимость. Если они удовлетворяют условию D.16)
с независимыми X' и Х'\ то естественно рассматривать
Х'п и Х'п как величины, независимые асимптотически.
Из теоремы 3.1 следует, что соотношение D.16)
выполняется тогда и только тогда, когда
Р {Хп е 'А', XI е= Л"} ->Р(Ге Л', X" е А") D.18)
для всех ^'-непрерывных множеств А' и для всех
^-непрерывных множеств А".
Теорема 4.4. Если Хп-^>Х' и Х'к-^а\ то
(Хпу Л)-Л (Г, а").
Доказательство. Мы должны проверить
соотношение D.18) при Х'\ тождественно равном а".
Предположим, чтоЛ7 есть JT-непрерывное множество и чгоЛ"
есть ^"-непрерывное множество (иными словами, а" ф.

44 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ ПРОСТРАНСТВАХ [ГЛ. 1
фдА"). Если а"с=А", то Р{Х1<?А"}-+0 и D.18) еле-
дует из Хп —> X' и неравенства
< Р {Х'п е= Л', Л €= Л"} < Р {Х'п е== Л7}.
Если а" фА'\ то D.18) следует из соотношения
Р {^ €= Л7, XI е= Л"} < Р {JK е= Л"} -> 0.
В следующей теореме мы предположим, что Х'к
сходится по вероятности к случайному элементу У",
который не обязательно является константой; при этом
естественно нужно потребовать, чтобы У" и все (Х'п, Хп)
имели бы одинаковую область определения (Q, &&, Р).
Пусть #0 есть (конечно аддитивное) поле, содержащееся
в J?; обозначим через о (Яо) а-поле, порожденное SSq.
Теорема 4.5. Предположим, что X' и X"
независимы и что X" имеет то же распределение, что и Y". Если
Л-^У", если
6= A'} f\E)->P\X'e- A'} P (Е) D.19)
для каждого X'-непрерывного множества А' и каждого
множества Е из поля <%0 и если каждый элемент Хп
о(/>0)-измериму то (Х'п, П) Л (Г, Г).
Заметим, что условие D.19) влечет сходимость
ел
Хп —> X' (нужно положить Е = Q). Заметим также, что
область определения (Х\Х") не обязана совпадать с
общей областью определения Y" и (Х'п, Хп). Мы можем
заменить в теореме 5.1 (Х\ X") на (У', У"), если область
определения У" служит в то же время и областью
определения некоторого случайного элемента V, который не
зависит от У" и имеет надлежащее распределение;
однако допущение о существовании У в общем случае
было бы ненужным ограничением.
Доказательство. Фиксируем ^'-непрерывное
множество А' и ^"-непрерывное множество А". Мы
должны доказать D.18) или, что (в силу независимости
X1 и X" и одинаковой распределенное™ X" и У") то же
самое,
Р {Х'п е Л', XI €= Л"} -> Р {X' €= Л7} Р {У" ее Л"}. D.20)

§ 4] СХОДИМОСТЬ ПО РАСПРЕДЕЛЕНИЮ 45
Поскольку Хп —^> Y'\ то из теоремы 4.3 следует, что
D.20) в свою очередь то же самое, что
Р {Х'п е= А\ Y" €= А") ->Р{Ге А'} Р {Y" е= А"). D.21)
Обозначим Еп = {Хп^ А'} и а = Р{Х/<=Л/}; и пусть я
есть индикатор множества {Y" е Л"}. Тогда
соотношение D.21) принимает вид
\gdP->a\gdP. D.22)
Так как каждый случайный элемент Х'п а($0)""измеРим>
то каждое множество Еп принадлежит оC8о)-
Мы докажем, что предельное соотношение D.22)
справедливо для произвольной (^-измеримой)
интегрируемой функции g". Если g — индикатор множества,
принадлежащего ЗВо, то D.22) справедливо, так как
совпадает с D.19). Очевидно, что D.22) выполняется и тогда,
когда g является простой .^-измеримой функцией. Если
g интегрируема и a (J?o) -измерима, то для любого
положительного е существует простая ^0-измеркмая функция
g? такая, что E{\g — gB\} < e; но тогда
limsup
gdP-a\gdP
<(l+\a))E{\g-g&\},
и D.22) выполняется для всех таких функций g.
Допустим, наконец, что функция g ^-измерима и
интегрируема, но не обязательно а (^о) -измерима.
Воспользовавшись свойствами условных математических
ожиданий*), мы по-прежнему имеем, поскольку Еп^о($о),
\gdp=
Еп
Таким образом, D.22) выполняется для всех
интегрируемых функций g, что и требовалось доказать.
Примечание. Идеи доказательства теоремы 45 заимствованы
У Реньи A958).
*) См. Дуб A956) и Биллингсли A969). Основные результаты
этой книги не используют таких понятий, как условные вероятности
и условные математические ожидания.

46 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
Задачи
в р
1. Для случайных величин Хч Yn и X из Хп —> X и Yn —> О
3> Р
следует, что Хп + Yn —> X и XnYn —> 0.
2. Для случайных векторов Хп, Yn X и случайных величин Zn
(а) Уп-^Х. если Хп -+ X \ Хп - Yn |< Zn | *й | и Z,, -Д 0,
(б) Yn—>Х, если -ЯГЯ—>ДГ, | Хп - Yn | <Zrt | Уя | и Zn-^> 0.
[Сведите (б) к (а), используя тот факт, что из | х — у | ^ е | у \ при
8 < 1/2 следует | * — у |< 2е | * |.]
3. Три симметричные монеты бросают независимо друг от друга.
Пусть событие Ец состоит в том, что монеты i и / падают одной и
той же стороной, пусть X' = Хп = Х"п = Y" — индикатор события
^13, X" — индикатор события Ец, и пусть ^о = {?12, ?23}.
Утверждение теоремы 4.5 не выполняется, хотя, за исключением требования,
что ^о должно быть полем, все предположения теоремы
удовлетворены.
4. Пусть Х\у Х2у ... независимы и имеют одинаковое
распределение Р на S. Пусть РПщ 0 — Эхмпирическая мера для ^ (со), ...
...:Хп((й); именно, Рп% о (А) есть доля тех /г, 1^&<я, для
которых Xk (ю) ^ Л:
Покажите, что если 5 сепарабельно, то РПг& =ф Я с вероятностью 1.
[Используйте усиленный закон больших чисел для испытаний Бер-
нулли и следствие 1 из теоремы 2.2.] (Этот результат принадлежит
Варадарайну A958b); см. обобщения у Ранго Рао A962).)
5. Покажите, что случайные величины Хп и X удовлетворяют
предельному соотношению Хп —> X тогда и только тогда, когда
E{F(Xn)}^E{F{X)} D.23)
для каждой непрерывной функции распределения F. Если случайная
величина У имеет функцию распределения F и не зависит от X и
всех Хп (считайте, что все они имеют общую область определения),
то D.23) равносильно тому, что Р {Y < Хп) -> Р {Y < X}
6. Для вероятностной меры Р, заданной на (S, 9>)у пример D.4)
показывает, как построить на вероятностном пространстве (Q, ^, Р)
случайный элемент X с распределением Р. Если S сепарабельно и
полно, можно взять в качестве Р лебегову меру на борелевских
множествах единичного интервала Q. [Пусть <Ak = {Aku} —
разбиение S на множества непрерывности Р с диаметром, меньшим
чем 1/6, и Tk = {hu} ~ разбиение Q на подинтервалы длины Р (hu) =
= Р (Aku)'y выберите разбиения так, чтобы c/tk+i было
измельчением c^fe, a ZTk+i — измельчением 0^k- Придайте Xk (со) для со е Iku
некоторое значение из множества Aku и покаж1тз, что
последовательность {Xk (со)} фундаментальна при каждом со; используя тео-

§ 5] СЛАБАЯ СХОДИМОСТЬ И ОТОБРАЖЕНИЯ 47
рему 4.1, покажите далее, что X (<о) = limfe Xk (со) имеет
распределение Р.] (Скороход A956) получил более сильный результат,
а именно, если Рп=фР, то случайные элементы Хп и X с этими
распределениями могут быть построены на единичном интервале так,
что Хп (со) -> X (<о) при каждом со.)
7. Покажите, что (х'п, х'?) —> {х', X"), если X' и X" незави-
Р
симы, Х"п —> Yrt\ где У'7 имеет то же распределение, что и X", и
соотношение D.19) выполняется для каждого множества Е из ог-поля,
порожденного элементом Y".
§ 5. Слабая сходимость и отображения
Непрерывные отображения. Если А — измеримое
отображение 5 в другое метрическое пространство S' (с
метрикой р' и а-полем У борелевских множеств), то
каждая вероятностная мера Р на (S, 9>) индуцирует на
(S7, $Р') единственную вероятностную меру РА,
определяемую равенством Рпгх(А) =Р(ЬгхА) приЛе^7'.
Нас интересуют условия, при которых из Рп^Р
следует Pnh-l=^PhrK Одно такое условие состоит в том,
что отображение А непрерывно, так как в этом случае
функция f(h(x)) ограничена и непрерывна на S всякий
раз, когда f(y) ограничена и непрерывна на S\ так
что из Рп =» Р следует J f (А (*)) Рп (dx) ~> J f (A (jc)) Р (Лс)
или, после преобразования интегралов (см. стр. 305),
Например, естественная проекция nk из R°° в Rk
непрерывка, так что из сходимости Рп=фР следует
Рпп-1=фРп~] при каждом k. Покажем обратное, т. е.
что если при каждом k имеет место Рп^1:ФР^\ то
Рп^Р. Из непрерывности nk с легкостью следует, что
дп~хН сгя^ дН при HczRk. Используя специальные
свойства %, мы докажем, что имеет место включение
в другом направлении. Если лгея^дЯ, так что я^лге
^dHf то найдутся точки а{и) в Я и точки р(м) в Яс такие,
что о,М->щх и р(и)~>я;^ (w~>oo). Так как точкц

48 СЛАБАЯ СХОДИМОСТЬ В МГГРИЧ ПРОСТРАНСТВАХ [ГЛ. 1
(«(Л •
К X,
Таким
Рп(А)-
.., а(ли), xk+l, ...) принадлежат
а точки (р<">, ..., pjw, a:
|с и также сходятся к
образом, дп^Н =Jt71 (дну.
->Р(А) для множеств А
k+i> •
X,
Если
= ЯГ
•О
то
р^з
[Н и сходятся
принадлежат
хЕ=:д(п-]Н).
х^ =Ф Ря^ , то
Р Н ?= ФЬ И
Р(я~1д#) = 0. Так как Р(п-1дН) = 0 эквивалентно
Р(дл~1Н) = 0, то РЯ(Л)->Р(Л) для всех конечномерных
множеств непрерывности Р. Поскольку конечномерные
множества образуют определяющий сходимость класс,
то, следовательно, Рп^>Р.
Мы называем Рл;-1 конечномерными
распределениями или мерами, соответствующими Р. Мы показали, что
вероятностные меры на (/?°°, Я00) слабо сходятся тогда
и только тогда, когда слабо сходятся все
соответствующие конечномерные распределения.
Конечномерные распределения вероятностной меры Р
на (С, Щ мы определяем, как всевозможные меры вида
Pnjx..nt > где nt t являются проекциями,
определенными в § 3. Так как эти проекции непрерывны, слабая
сходимость вероятностных мер на (С,^) влечет слабую
сходимость соответствующих конечномерных
распределений. Однако обратное утверждение может не
выполняться (как показал противоречащий пример, класс
конечномерных множеств не определяет сходимость).
Действительно, если Р[Рп] приписывает единичную массу
функции, тождественно равной нулю [соответствующей
функции #п @» определенной в C.5)], то Рп не сходится
слабо к Р, хотя Р яг1 , ФРя , для всех множеств
(ti, ..., tk). С другой стороны, так как конечномерные
множества образуют определяющий класс, то
вероятностная мера на (С, И?) однозначно определяется своими
конечномерными распределениями.
Основная теорема. Мы видели, что из Рп^Р следует
Pnh~l =$>Ph~1^ если h — непрерывное отображение 5 в 5',
однако предположение о непрерывйости мы можем
ослабить. Предположим лишь, что h измеримо, и обозначим
через Dh множество точек разрыва h. Имеем D^^S
(даже в случае, когда h неизмеримо; см. стр. 309).

§ 5] СЛАБАЯ СХОДИМОСТЬ И ОТОБРАЖЕНИЯ 49
Теорема 5.1. Если Рп=^Р и P(Dh) = О, то Рп/Н =ф
^Ph-K
Доказательство. Мы покажем, что если F —
замкнутое подмножество S', то
lim sup Pnh~l (F).<Ph~l (F).
П->оо
Так как Pn=#>P, мы имеем
lim suPrt Pn(h~]F) < lim sup» Pn ((/TV)") < P ((ft/?)").
Следовательно, достаточно доказать, что P((h~lF)-) =
= P(h-]F). Последнее равенство является следствием
предположения P{Dk) =0 и того факта, что (h^lF)"CZ
cDh\) (h-*F).
Укажем два прямых следствия доказанной теоремы.
Для случайного элемента X из S h(X) является
случайным элементом из S' (мы по-прежнему предполагаем,
что h измеримо).
Следствие 1. Если Хп—>Х и Р{Хе=?л} = 0, то
р
Следствие 2. Если Хп—*а и если h непрерывно
р
в а, то h (Хп) —> h (a).
Например, для обычных случайных величин из
(Хп, Yn) -^ (X, Y) следует Xn + Yn-^>X + Y. Факты та-
кого рода, постоянно используемые в теории
вероятностей и математической статистике, в конечном счете все
связаны с теоремой 5.1.
Особый интерес приобретает теорема 5.1, когда S'
является действительной прямой, т. е. h — обычная
действительная измеримая функция.
Теорема 5.2. (i). Если Рп => />, то Pnh~l =ф ЯЛ-1 для
любой действительной измеримой функции h такой, что
P{Dh) =0.
(ii) Если Pnh~l=$> Ph~l для всех ограниченных
непрерывных действительных функций А, то Рп =$> Р.
(ш) Если РП=#>Р и h — действительная
ограниченная измеримая функция такая, что P{Dh) =0, то

50 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. ]
Доказательство. Часть (i) утверждения теоремы
следует из теоремы 5.1. Если Pnh-l=$> Ph~\ то заменой
переменной получаем, что \ / (А (х)) Рп (dx) -> \ / (Л (л:)) Р {dx)
для каждой / из C(Rl). Если h ограничена числом М%
то, взяв
{-М при /< — М,
t при
М при
мы находим, что \ hdPn-+ \ hdP. Таким образом, часть
(iii) является следствием (i), a (ii) следует из
определения слабой сходимости. (Мы можем усилить (ii),
заменив непрерывность h на равномерную непрерывность.)
В приложениях мы обычно интересуемся
установлением слабой сходимости в различных метрических
пространствах для того, чтобы иметь возможность,
используя часть (i) настоящей теоремы, доказывать слабую
сходимость мер, индуцируемых на действительной
прямой с помощью различных действительных функций А.
Предельный переход под знаком интеграла. В части
(iii) теоремы 5.2 требование ограниченности может быть
ослаблено. Эту проблему проще рассматривать в
терминах случайных величин Хп и Х> имеющих распределения
Pnh~* и PhrK
Теорема 5.3. Если Хп-^+Х, то E{UI}<
liifE{|XJ}
Доказательство. Положим в части (iii)
теоремы 5.2
UI при |х|<а,
0 при |дс|>о;
если Р{|JT|==a> = 0, то
\ \X\dP=lim \ \Xn\dP^\immlE{\Xn\}.
Если мы устремим а к бесконечности по значениям,
удовлетворяющим условию Р{|АГ| = а} = 0, то получим
искомый результат.

§5]
СЛАБАЯ СХОДИМОСТЬ И ОТОБРАЖЕНИЙ 51
Величины Хп называются равномерно
интегрируемыми, если
lim sup \ \Xn\dP = 0.
{|Х|>а}
Если Хп равномерно интегрируемы, то
supnE{|ZJ}<oo. E.1)
С другой стороны, если для некоторого положительного е
supnE{|XJ1+e}<oo,
то Хп равномерно интегрируемы, так как в этом случае
{\Хп\>*} а
Величины Хп равномерно интегрируемы также тогда,
когда существует случайная величина Y такая, что
Е{|К|}<сх> и
л>1, а>0, E.2)
поскольку при этом (см. C) на стр. 305)
\ \Xn\dP< J \Y\dP.
3>
Теорема 5.4. Предположим, что Хп—>X, Если Хп
равномерно интегрируемы, то
Е(Хп)->Е(Х); E.3)
если X и Хп неотрицательны и интегрируемы, то из E.3)
следует, что Хп равномерно интегрируемы.
Доказательство. Если Хп равномерно
интегрируемы, то интегрируемость X следует из E.1) и
теоремы 5.3. Положим в части (iii) теоремы 5.2
Так как Хп—> X, то
х при
О при
E{ha(Xn)}~>E{ha(X))> E.4)

52 СЛАБАЯ СХОДИМОСТЬ В МЕГРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
если Р{|Я| = а} = 0. Но
E{Xn}-E{ha(Xn)} = \ XndP, E.5)
\ XdP. E.6)
{I * I > а)
Так как из этих трех соотношений вытекает
limsup| Е{*„} - Е
<sup J \Xn\dP+ J
" { | Хп | > а} < I * I > а}
то E.3) действительно следует из условия равномерной
интегрируемости.
С другой стороны, если X и Хп интегрируемы и E.3)
выполняется, то из E.4), E.5) и E.6) следует, что
\ XndP-> \ Xd?y E.7)
{| Хп | > а] {I X | > а}
если р {| AT j s а} = 0. Так как величина X
интегрируема, то мы можем при данном г выбрать а так, чтобы
правая часть E.7) была меньше е. Но тогда левая часть
меньше г при всех /г, превосходящих некоторое п0. Так
как Хп неотрицательны и по отдельности интегрируемы,
то отсюда следует равномерная интегрируемость.
3) г &
Поскольку из Хп —> X вытекает Хп —> X , то
теоремы 5.3 и 5.4 непосредственно обобщаются на моменты
более высокого порядка, чем первый.
Ни в одной из этих теорем не требуется, чтобы X и
Хп (и У в E.2)) имели общую область определения.
Если же это так и если Хп(ы) -+Х(ы) для почти всех со
Р 3>
или если Хп—> X, то Хп—* X. Таким образом,
теорема 5.3 содержит в себе лемму Фату, а теорема 5.4
содержит стандартные теоремы о переходе к пределу под
знаком интеграла (вариант с E.2) содержит теорему
Лебега о мажорированной сходимости)'.
Обобщение теоремы 5.1 *). Пусть hn и h — измеримые
отображения 5 в S'. Можно ли утверждать, что из
*) Это г результат в дальнейшем не используется.

§ gj СЛАБАЯ СХОДИМОСТЬ И ОТОБРАЖЕНИЯ 53
рп^Р следует Рп/ы1 — РА", когда Ап сходится к А
в некотором смысле? Пусть Е— множество таких х, для
которых предельное соотношение hnxn->hx не
выполняется для некоторой последовательности {хп},
сходящейся к х. (Если hn тождественно равно А, то Е = Дл.)
Нетрудно показать, что х е ?с тогда и только тогда,
когда для любого е существуют k и б такие, что при
i^k и р(х, у) < б имеет место р'(Ах, А#) < е.
Предположим, что Е принадлежит 9> (что, как показано на
стр. 309, выполняется автоматически, если S' сепара-
бельно).
Теорема 5.5. Если РпфР и Р(Е) = 0, то
Pnhnl^Ph'1.
Доказательство. Мы покажем, что P(h G)^.
<lim \ninPn(hn'G) для открытых множеств G из 5'.
Из вышеприведенной характерйзации точек Е° следует,
что если х<=Ес и если hx лежит в открытом
множестве G, то найдутся /гиб такие, что hty^G при i^k
и р {х9 у) < б, так что х является внутренней точкой
множества Tk— П hJxG. Таким образом, h~]GczE\J
U U Г*. Поскольку Р(?) = 0, мы имеем РСА"^)^
<Р^Уг^у Так как ГлсГа+ь то при любом данном
6 > 0 Р(А~1б)<Р(Г^) + 8для достаточно больших
значений k. Из Рп=фР следует, что Р(Г^) ^lim in!^ Prt (Г°); так
как T°kczh~]G при всех достаточно больших д, то мы
получаем P(jl)<lim infrtPrt(A^JG). Таким образом,
справедливо неравенство Р (А~* G) ^ lim infrt Pn (A^G)-fe,
что в силу произвольности е и завершает
доказательство.
Если hn = А, то этот результат сводится к теореме 5.1.
Если А всюду непрерывна и Ап сходится к А равномерно
на компактных множествах, то Е пусто, так что условие
теоремы удовлетворено. Более общим образом, Р(?')=0,
если P(Dh) =0 и если имеет место равномерная
сходимость на компактных множествах. С другой стороны,
если Dh = Е = 0, то Ап сходится к А равномерно на
компактных множествах.

64 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. \
Примечание. В случае евклидова пространства теорема 5.1
иногда называется теоремой Манна — Вальда (см. Манн, Вальд
A943) и Чернов A956)); следствие 2 для рациональных функций h
представляет собой теорему Слуцкого (см. Слуцкий A925)).
Теорема 5.4, которая обобщает результат Прохорова A956),
принадлежит Г. Рубину; см. Андерсон A963). По поводу обобщений теорем
5.1 и 5.5 и обратных им теорем см. Топсё A967а и 1967b).
Задачи
1. Если борелевская функция { имеет производную в точке а
(причем это единственное предположение относительно /) и Хп —> а,
то / (Хп) = / (а) + р (а) (Хп - а) + (Хп - a) Zn, где Zn -Д> 0. Обоб-
щите это на производные более высокого порядка.
2. Предположим, что f имеет производную в точке 0. Еслн
3. Предположим, что fn и / имеют непрерывные производные,
причем \п (х) -> / (х) равномерно по х Если XnYn —> Y и
то
3>
4. Предположим, что Хп —> X. Приведите примеры, когда Хп
интегрируемы, а X неинтегрируема, и наоборот. Покажите, что из
Е {Хп\ -> Е {X}, вообще говоря не вытекает равномерная
интегрируемость Хп.
5. Покажите, что Хп равномерно интегрируемы тогда и только
тогда, когца suprt Е {| Хп \} < оо, и для любого е найдется такое 6,
что при всех п из Р (Е) < 6 следует \ \Xn\dP<e.
Е
6. Пусть Р — мера Лебега на единичном интервале, а Рп
приписывает массы 1/я некоторым точкам, выбранным по одной в
интервалах ((*'— 1)/я, i/n), i=\, ..., п. Покажите, что Pn=^Pt и
выведите из теоремы 5.2, что ограниченная функция, непрерывная
почти всюду, интегрируема по Риману.
§ 6. Теорема Прохорова
Относительная компактность. Пусть П — семейство
вероятностных мер на (S, &). Мы назовем П
относительно компактным, если любая последовательность эле-
ментов П содержит слабо сходящуюся
подпоследовательность, т. е. если для любой последовательности {Рп} в II

§ б] ТЕОРЕМА ПРОХОРОВА 65
существуют подпоследовательность {Рп} и вероятностная
мера Q (определенная на E,^), но не обязательно
являющаяся элементом П) такие, что Pn=?Q *). Хотя
сходимость Pn'^Q не имеет смысла при Q(S) < 1, мы еще
раз подчеркиваем, что Q(S) = 1 (как это обсуждается
ниже, мы не допускаем никакого исчезновения массы).
Нам необходимо уметь определять, является ли
заданное семейство П относительно компактным или нет.
Например, допустим, что нам известно про
вероятностные меры Рп и Р, определенные на (С, в7), что
конечномерные распределения Рп слабо сходятся к
конечномерным распределениям Р. Мы видели в § 5, что мера
Рп не обязана при этом сходиться слабо к Р.
Предположим, однако, что нам также известно, что
последовательность {Рп} относительно компактна. Тогда любая
подпоследовательность {Рп} содержит другую
подпоследовательность {Рпг/} и слабо сходящуюся к некоторому
пределу Q. Конечномерные распределения Q должны
быть слабыми пределами конечномерных распределений
{Рп*} и следовательно, должны совпадать с
конечномерными распределениями Р (Pn»n>f\.tt ^QTtj\,j и
Ч 1 * к 1 * * * Л
Pn7l7l\.ttk:=^PnTl\..tk для любого набора(/р ..., ^), так
что Qtcj\ t —Pn>T].,t X Но тогда, так как вероят-
1 * * * ft l***ft/
ностная мера на С полностью определяется своими
конечномерными распределениями (конечномерные
распределения образуют определяющий класс), Q и Р сами
должны совпадать. Таким образом, любая
подпоследовательность {Рп') содержит другую
подпоследовательность, слабо сходящуюся к Р, и из теоремы 2.3 следует,
что вся последовательность {Рп} слабо сходится к Р.
Заметим, что если последовательность {Рп}
действительно слабо сходится к Р, то она относительно компактна,
так что требование относительной компактности не
является чрезмерным.
Допустим, нам известно, что последовательность {Рп}
относительно компактна и что для любого набора
*) Мы берем это предложение в качестве определения-, на самом
деле это есть понятие секвенциальной компактности в пространстве
2E), введенном в сноске на стр. 21. Дальнейшие топологические
сведения см. в Добавлении III.

56 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. |
(*ь •-., tk) Рпл7\..г слаб° сходится к некоторой
вероятностной мере \it , на (Rhy&h). Подчеркнем, что
мы не предполагаем заранее, что \if t являются
конечномерными распределениями какой-либо
вероятностной меры на (С,®7). Как и выше, любая
подпоследовательность {Рп} содержит другую
подпоследовательность {Pnf/}, слабо сходящуюся к некоторому пределу.
Так как этот предел должен иметь \х tt своими
конечномерными распределениями, он является
единственным. Поэтому {Рп} слабо сходится к некоторой мере Р.
Эти идеи дают нам мощный метод для
доказательства слабой сходимости в С и других функциональных
пространствах. Сначала доказывается, что
конечномерные распределения слабо сходятся, а затем, что
рассматриваемая последовательность относительно компактна.
Для того чтобы использовать этот метод, нам
необходим эффективный критерий относительной компактности.
Рассмотрим вначале RK Пусть П — семейство
вероятностных мер на (Z?1, i#!). Если дана последовательность
{Рп} из П, то мы можем применить к
последовательности {Fn} соответствующих функций распределения
классический принцип выбора Хелли (см. стр. 311).
Существует подпоследовательность {Fn} и некоторая
функция F такие, что
Fn>(x)^>F(x) F.1)
справедливо для всех точек х, где F непрерывна.
Функцию F можно взять непрерывной справа, и в этом случае
на (Rl,0ll) существует конечная мера \х такая, что
F.2)
Может, однако, случиться, что \i(R]) < 1. Например,
если Рп соответствует единичной массе в точке п, то F
тождественно равна 0, вне зависимости от выбора
подпоследовательности {/v}, так что \i(Rl) = 0. Если Рп
есть равномерное распределение на [—пу п], то
единственной возможностью является тождество F(x) =
s= 1/2 — и снова |i(/?I)=0. В этих примерах масса
«ускользает в бесконечность» в очевидном и интуитивно
понятном смысле,

6j ТЕОРЕМА ПРОХОРОВА 57
Предположим, однако, что мера \х, определенная с
помощью F в F.2), удовлетворяет условию \x(Rl) = 1.
Тогда |х является вероятностной мерой, и поскольку F.1)
сПраведливо в точках непрерывности F, мы имеем (см.
& 3) Р/г'=ФМ" Таким образом, П будет относительно
компактно, если мы каким-либо образом обеспечим,
чтобы каждая из мер ji, с которой мы встретимся,
удовлетворяла бы условию \i(Rl) = 1. Далее, \i(Rl) = 1,
если для любого положительного е существуют а и Ь
такие, что \i(a,b]^ 1 — е. Предположим, что для
каждого положительного е существуют такие а и 6, что
Рп(а,Ь]> 1-е, /1=1, 2, ... F.3)
Поскольку неравенство F.3) сохраняется, если а
уменьшается, а Ь увеличивается, то можно считать а и Ь
точками непрерывности F\ в этом случае из F.3) и F.1)
вытекает неравенство jn(a, b]^ I—е.
Отсюда следует, что семейство П вероятностных мер
на {R\$}) относительно компактно, если для каждого
положительного г найдутся а и b такие, что Р(а, Ь]>
> 1 — е для всех мер Р из П; это условие
предотвращает «утечку массы», о которой говорилось выше. С
другой стороны, если это условие не выполняется, то
существует некоторое положительное е такое, что
независимо от того, каковы числа а и 6, Р(а, Ь] ^ 1 — е для
некоторой меры Р из П. Выберем в П такую меру Рп, что
Рп(—п, п]^1 — е. Если бы некоторая
подпоследовательность {Рп} слабо сходилась к вероятностной мере
Q, то мы получили бы для каждого х
Q (— х, х) < lim inf,,' Pn* (— ху х)
< lim \п\П' /V (- п\ лЧ < 1 — б,
что невозможно. Таким образом, рассматриваемое
условие одновременно необходимо и достаточно.
Так как интервал (а, Ь] имеет компактное замыкание
и так как каждое компактное множество может быть
заключено в такой интервал, то рассматриваемому
условию можно придать следующую форму: семейство
вероятностных мер на (Rl,&1) относительно компактно

58 СЛАБАЯ СХОДИМОСТЬ 6 МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. J
тогда и только тогда, когда для любого положительного
е найдется компактное множество К такое, что Р(К) *>
> 1 — е для всех Р из П. Теперь это условие имеет
смысл в произвольном метрическом пространстве.
Семейство П вероятностных мер на общем
метрическом пространстве 5 называется плотным, если для каж-
дого положительного е существует компактное
множество К такое, что Р(К) > 1 — е для всех Р из П. Если
П состоит только из единственной меры, это
определение сводится к определению, сформулированному в § 1.
Мы только что убедились в том, что в случае R1 условие
плотности является необходимым и достаточным для от-
носителной компактности. Следующие теоремы,
принадлежащие Прохорову, распространяют достаточность на
произвольные метрические пространства и
необходимость на сепарабельные полные пространства.
Теорема 6.1. Если П плотно, то оно относительно
компактно.
Теорема 6.2. Предположим, что S сепарабельно и
полно. Если П относительно компактно, то оно плотно*
Мы будем ссылаться на эти две теоремы, как на
теорему Прохорова, называя теорему 6.1 и теорему 6.2, co-i
ответственно, прямой и обратной половинами теорему
Прохорова. j
Прямая теорема. Докажем сначала прямую теорему,
которая более полезна для приложений. Мы установим
ее последовательно для Rh, для R°°, для а-компактного
5 (т. е. для S, являющегося счетным объединением
компактных множеств) и, наконец, для общего случая. Каж-j
дый из последних трех случаев изучается путем сведения!
к предыдущему.
Случай Rh. Здесь доказательство практически не
. отличается от уже упомянутого доказательства для R1
Если {Рп} — последовательность мер из П, то из теоремь
Хелли (стр. 311) следует, что последовательность [Fn]
соответствующих функций распределения содержит
подпоследовательность {Fn'} такую, что
Fn(x)->F(x) F.4
в точках непрерывности F, где F — непрерывная сверх}
функция. На (Rhy 9lh) существует мера \х такая, чт(
\i(a, b] вычисляется через смешанные разности значений

§ б] ТЕОРЕМА ПРОХОРОВА 59
/г в вершинах ^-мерного прямоугольника (а, Ь]*). Если
мы докажем теперь, что [i(Rk) = 1, то получим /V=#fx.
При данном е выберем компактное множество К и Rk
такое, что /V(/()>1 — e для всех п', что возможно
вследствие плотности семейства П. Затем выберем а и
\) такими, что К с: (а, 6], и такими, что все 2k вершин
прямоугольника (а, Ь] являются точками непрерывности
f (это возможно в силу того, что только счетное
множество параллельных друг другу (k—1)-мерных
гиперплоскостей может иметь положительную jx-меру). Так
как Рп'{а, Ь] вычисляется как смешанная разность
значений Fn' в вершинах (а, Ь], то из F.4) следует, что
Рп' (а> Ь] -> \х (а, Ь]. Из Рп> (а, Ъ\ > Рп. (К) > 1 — е следует
теперь, что \i(a,b]^l—е. Так как е произвольно, то
li(Rk) = 1. Таким образом, семейство П относительно
компактно.
В случае #°° нам понадобится следующая лемма.
Лемма 1. Если П — плотное семейство на E, 9>)
и если h — непрерывное отображение S в S', то
{Ph~{: РбП) есть плотное семейство на {S\&').
Доказательство. При данном е выберем в 5
компактное множество К такое, что Р(К) >• 1—г при
всехР из П. Если К' — hK, то К' компактно (см. стр.298)
и /НК' =э /С, так что Phrx (К') > 1 — е для всех Р из П.
Случай /?°°. Если П — плотное семейство на
(/?°°, 3t°), то согласно лемме 1 {Art™1: РеП} является
при каждом k плотным семейством на (Rky &k). Согласно
прямой части теоремы Прохорова для Rk, только что
доказанной с помощью теоремы Хелли, мы можем выбрать
из заданной последовательности {Рп} элементов П
подпоследовательность {Рп] такую, что Рп,п>1х слабо
сходится к вероятностной мере \ik на (Rk,3ih). С помощью
диагонального метода (как на стр. 300) мы можем
выбрать последовательность{РП'} так, чтобы было Р ,jtz"l=^
^м^ для всех k.
Поскольку меры ^, очевидно, удовлетворяют
условиям согласованности теоремы Колмогорова (см.
*) Полагая hi = bi—ar имеем ц {a, b]—F(ax-{-h^ ak+hk) —
-F(ava2+h2, ...)-F(al+hva2,...)+...+(-\)kF(al,...,ak),
(Прим. перев.)

60 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ ПРОСТРАНСТВАХ [ГЛ.1
стр. 312), то существует вероятностная мера Q на
(/?°°, 0t°) такая, что Qn^l = \ik для всех к. (В § 3 было
показано, что а-поле 9t° борелевских множеств в /?°°
совпадает с а-полем, порожденным конечномерными
множествами, и это есть то а-поле, которое участвует в
теореме Колмогорова.) Но тогда Рп,ы^1 ^Q71^1 Для
каждого &, так что конечномерные распределения Рп,
сходятся к конечномерным распределениям Q, откуда, как
отмечено в начале § 5, вытекает Рп, =#Q. Итак,
плотность влечет относительную компактность в /?°°.
Для а-компактного и общего случая нам понадобятся
еще две леммы. Предположим, что So есть борелевское
подмножество S:
SQ<=9>. F.5)
Множество So само является метрическим пространством
в относительной топологии. Обозначим через 5^0 класс
борелевских множеств для So. Из F.5) следует (см.
стр. 307), что
90 = {А: Л с: So, А с= 9} F.6)
и, в частности,
90 с= 9. F.7)
Если Р — вероятностная мера на (S, У) с P(S0) = 1,
то пусть Рг (здесь индекс г обозначает сужение —
restriction) есть вероятностная мера на (So, 9р0)у
полученная сужением области определения 9> до ^0 (см.
F.7)). Если Р — вероятностная мера на (So, ^о)» то
пусть Ре (е означает продолжение — extension) есть
вероятностная мера на (S, &) с Ре(А) = Р(А П So) для
Ле=$» (см. F.6)). Отметим, что P*(S0) = 1.
Если Р — вероятностная мера на (S, 9>) с P(S0) = 1,
то
(РУ = Р; F.8)
если Р — вероятностная мера на (So, ^0)> то
(РеУ = Р. F.9)

§ 6j ТЕОРЕМА ПРОХОРОВА 61
Если в лемме 1 и теореме 5.1 мы возьмем в качестве
h тождественное отображение So в S, то получим
следующую лемму:
Л е м м а 2. Если П — плотное семейство мер на (So, 9?Q)f
то Х\е~{Ре'- Р^Щ есть плотное семейство на (S, ЯР).
Если Рп=?Р в (So, 9>о), то Р^Ре в (S, У).
Лемма 3. Если Pn=$Pe{S, 9) и Рп(So) = Р(So) = 1,
то Рп^Рг в (S0,<?0).
Доказательство. Всякое открытое множество
в So можно представить в виде G0 = Gf|S0, где G —
открытое множество в S. Поскольку Prn (Go) = Pn (G) и
Pr(G0) = P(G), то из liminfrtPrt(C)>P(C) следует, что
\\minfnPrn(Go)>Pr(Go).
а-компактный случай. Если пространство S
а-компактно, то S сепарабельно и, следовательно, может
быть гомеоморфно вложено в /?°° (см. стр. 300). Так как
S а-компактно, то таков же его образ при
гомеоморфизме; в частности, этот образ является борелевским
подмножеством R°°. Таким образом, S гомеоморфно бо-
релевскому подмножеству /?°°. Согласно теореме 5.1
слабая сходимость сохраняется при гомеоморфизме и,
следовательно, сохраняется и относительная компактность
П. Поскольку компактность множеств сохраняется при
гомеоморфизме, то сохраняется и плотность П. Поэтому
мы можем заменить S на его гомеоморфный образ.
Мы можем, таким образом, предположить, что S —
борелевское подмножество R°°. Если П плотно на (S, ^),
то по лемме 2, примененной к R°° и его подмножеству
S, Ие плотно в (/?°°, 52°°). Поскольку, как уже доказано,
теорема 6.1 справедлива в этом объемлющем
пространстве, то ГР относительно компактно, так что для любой
последовательности {Рп} в П соответствующая
последовательность {Р^} содержит подпоследовательность {/*«'},
слабо сходящуюся в смысле (/?°°, М°°) к некоторой мере
Q. В силу плотности самого семейства П для каждого
е существует компактное подмножество К в S такое, что
Р% {К) = РП' (К) > 1 — е для всех п\ так что Q (S) >
> Q {К) > lim sup*' Р% (К) > 1 — е. Таким образом, S
является носителем Q, так же как и всех Р^, и,
следовательно, по лемме 3 и F.9) Pnf сходится слабо к Qf в

62 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. I
смысле (S, 9*). Таким образом, из плотности следует
относительная компактность, если S а-компактно*).
Общий случай. Каково бы ни было S, если положить
SQ = \jKh где Кг — такое компактное множество в S,
что P(Ki) > 1 — l/i для всех Р из П, то 5о имеет меру,
равную 1, относительно любого элемента П и Пг =
= {Рг:РеП} есть плотное семейство в (So, ^o)- В
соответствии с только что разобранным случаем Пг
относительно компактно. Поэтому для каждой
последовательности {Рп} в П соответствующая последовательность
{Ргп} содержит подпоследовательность {Pn}, слабо
сходящуюся в смысле (So, ^o) к некоторой мере Q. По
лемме 2 и F.8) РП' слабо сходятся в смысле E,9>) к Qc.
Таким образом, П относительно компактно, что
доказывает теорему 6.1 в полной общности.
Обратная теорема. Перейдем теперь к
доказательству теоремы 6.2, которая представляет собой обратное
утверждение теоремы Прохорова. Отметим, что эта
теорема в случае, когда П состоит из единственной меры,
сводится к теореме 1.4; доказательство является
усовершенствованием ранее данного доказательства.
Допустим, что для любых положительных в и 6
существует конечная совокупность А\, ..., Ап б-шаров
таких, что Р ( И ЛЛ > 1 — е для всех Р из П. Нижесле-
дующее рассуждение показывает, что в этом случае П
плотно. При данном е выберем для каждого целого
числа k конечное множество 1//г-шаровЛ^1, ..., Аык таких,
что Р( М Л*Д>1 — е/2* для всех Р из П. Если
К — замыкание вполне ограниченного множества
f] (J Aki, то Р(К) > 1 — е и, так как S предпола-
k > I i ^ nk
гается полным, К есть компакт (см. стр. 296).
Мы докажем теорему 6.2, показав, что если условие,
установленное в предыдущем абзаце, не выполняется, то
П не является относительно компактным. Допустим, что
*) Сепарабельное пространство S гомеоморфно
подмножеству /?°°. Более сильное предположение о а-компактности 5
обеспечивается принадлежностью его образа пространству Я!00; это удобно,
так как мы опираемся на леммы 2 и 3.

§ б] ГЕОРЕМА ПРОХОРОВА 63
существуют такие положительные 8 и б, что любая
конечная совокупность Аи ..., Ап 6-шаров удовлетворяет
условию Р ( U АЛ ^ 1 — е для некоторой Р из П.
Поскольку S по предположению сепарабельно, то оно
представляет собой объединение последовательности Ль
А2, • • • открытых шаров радиуса 6. Пусть Вп= [} At.
Выберем Рп вЛ так, что Рп(Вп) <; 1 —е. Предположим,
что некоторая подпоследовательность {/V} слабо
сходится к некоторому пределу Q. Так как Вт открыто, то
мы имели бы тогда Р (Вт) ^ lim infrt' Рп> (Bm) при каждом
фиксированном т. Но тогда, поскольку при всех
достаточно больших п' Вт с: Вп', мы имели бы Р (Вт) ^
< lim inf/f РП' (ВП') ^ 1 — е; но Вт возрастают к S,
следовательно, это невозможно, что и завершает
доказательство.
Усиленные варианты теоремы 6.2 см. в
Добавлении III.
Пусть Хп — случайные элементы S. Мы называем
последовательность {Хп} плотной, если плотна
последовательность {Рп}, где Рп есть распределение Хп. Если S —
это R°° или С, мы отождествляем конечномерные
распределения Хп с конечномерными распределениями Рп-
То, что изложено в начале этого параграфа, может быть
интерпретировано в терминах случайных элементов Хп
и X из С следующим образом: если конечномерные
распределения Хп сходятся слабо к конечномерным
распределениям X и последовательность {Хп} плотна, то
Примечание. В своем первоначальном доказательстве
теоремы 6.1 Прохоров A956) предполагал, что 5 сепарабельно и полно;
данное здесь обобщение его доказательства принадлежит Варадарай-
ну A958а и 1961а). См. также Ле Кам A960).
Задачи
1. Если семейство П плотно, то его элементы обладают общим
о компактным носителем. Обратное неверно (исключая некоторые
случаи, например, когда П состоит из единственной меры).
2. Пусть П состоит из мер, каждая из которых приписывает
единичную массу какой-либо из точек множества А, Выведите
непосредственно из определения, что П относительно компактно тогда и
только тогда, когда А- есть компакт в S.

64 Слабая сходимость в метрич пространствах [гл. i
3. Последовательность вероятностных мер на прямой плотна
тогда и только тогда, когда соответствующие функции распределения
удовлетворяют соотношениям lim Fn (x) = 1 и lim Fn (х) = О
*->оо А'-»— оо
равномерно по п. Класс нормальных распределений является
плотным тогда и только тогда, когда средние и дисперсии ограничены.
4. Покажите, что если F — непрерывная справа, неубывающая
действительная функция, причем 0 ^ F(x) ^ 1, то существуют
функции распределения Fn такие, что Fn(x)-*-F(x) в любой точке
непрерывности х.
5. Если последовательность { | Хп |6} равном-ерно интегрируема
(см. стр. 51) при некотором б > 0, то последовательность {Хп}
плотна.
6. Вероятностные меры на произведении S' X S" образуют
плотное семейство тогда и только тогда, когда оба семейства
маргинальных распределений плотны в5'и S", соответственно.
7. Допустим, что S сепарабельно и локально компактно.
Поскольку S может быть снабжено метрикой, в которой оно полно
[задача 3 § 1], то теорема 6.2 применима. Из того факта, что любое
компактное множество в 5 может быть включено в множество
внутренних точек более широкого компактного множества, следует, что
тогда и только тогда, когда \ \ dPn-> \ / dP для каждой
(ограниченной) непрерывной функции / с компактным носителем
(результат, который невозможен, например, в С, так как в С
непрерывная функция с компактным носителем тождественно равна 0; см.
задачу 5 в § 3).
8. В связи с леммой 3 отметим следующее. Пусть П — плотное
семейство на E,^) и P(S0)= 1 для всех РеП. Отсюда не
следует, вообще говоря, что Пг = {Рг: Ре П} есть плотное семейство
на (So, ^о). [Возьмите 5 = [0, 1] и «So = @, 1) и рассмотрите меры
с одноточечными носителями.] Соответствующий пример можно
привести даже тогда, когда П состоит из единственной меры [См.
замечание 2 к теореме 1 в Добавлении III ]
§ 7. Первые приложения
В этом параграфе мы рассматриваем с точки зрения
предыдущей теории некоторые хорошо известные
вероятностные результаты, которые часто используются в
последующих главах.
Гладкие функции. При доказательстве теорем 1.2 и
1.3 и при доказательстве импликации (ii) -> (iii) в
теореме 2.1 мы использовали функцию A.1). Эти
рассуждения по-прежнему проходят, если вместо A.1) мы
используем любую равномерно непрерывную функцию ф
такую, что ф@ =1 при t ^ 0, 0 < ф(/) ^ 1 при 0 ^
<L<cl и ф(/) =0 при / ^ 1. Можно построить такие

ПЕРВЫЕ ПРИЛОЖЕНИЯ 65
функции со свойствами гладкости более сильными, чем
равномерная непрерывность. Определим <р вне [0,1], как
и раньше, а при 0 < t <; 1 положим
G.1)
J
t
где
о
Тогда при любом целом v функция ф имеет на всей
прямой ограниченную непрерывную производную порядка v.
Пусть Рп и Р — вероятностные меры на (Rl9Sll).
Теорема 7.1. Если \fdPn->[fdP для любой
ограниченной непрерывной функции /, обладающей
ограниченными непрерывными производными любого
порядка, то Рп=?Р.
Доказательство. Рассмотрим функции
распределения Fn и F, соответствующие Рп и Р. Если фи@ =
= y(ut), где ф определена в G.1), то при каждом и
lim sup Fn (*) < lim \<pu {у - x) Pn {dy) =
n-»oo /г->оо *
Используя yu(y — jc+ \ju) вместо q>u(y — x), мы видим,
что lim infnFn(x) ^ F (x—l/u) при каждом и.
Следовательно, Fn {x) -> F (x)I, если функция F непрерывна
в ху т. е. Рп==>Р.
Центральная предельная теорема. Теорема 7.1 может
быть использована для вывода разных вариантов
классической центральной предельной теоремы для схемы
серии. Пусть при каждом п
1пи ..., lnkn G.2)
—-независимые случайные величины со средним 0 и
конечной дисперсией o2nk. (Вероятностное пространство, на
котором определяются величины G.2), может меняться
в зависимости от п.) Положим Sn = |л1 + •..+?„* и
3 П. Биллингсли

66 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
допустим, что дисперсия этой суммы s2n = о2пХ + ... + o2nk
положительна. Напомним, что N обозначает нормально
распределенную случайную величину со средним 0 и
дисперсией 1. Докажем сначала теорему Лйндеберга:
Теорема 7.2. Если
Sn kmtl {\lnk\>Bsn}
(/г->оо) при любом положительном е, то SJsn—*N.
Доказательство. Достаточно показать, что
E{f(Sn/sn)}->E{f(N)} G.4)
для любой ограниченной непрерывной функции /,
обладающей ограниченными непрерывными производными
любого порядка. Зафиксируем такую функцию / и
определим
g{h) = supx\f{x + h)-f{x)-f'(x)h-y»(x)h*\ G.5)
(функция g измерима по Борелю). Согласно известным
формулам для остаточного члена формулы Тейлора
существует константа /С, зависящая только от /, такая, что
g(/0</(min{ft2, |/H3}. G.6)
Мы имеем g(h) ^Kh2 и g(h) ^K\h\s; первое
неравенство хорошо действует при h большом, а второе — при ht
близком к 0. Поскольку / фиксирована всюду в
последующих рассуждениях, то и постоянная К также
фиксирована. Из определения G.5) следует, что
G.7)
Если бы Ink были все нормально распределены, то
E{f(Sn/sn)} совпало бы с E{f(N)}. Если мы
последовательно заменим |n/t нормальными величинами цпк со

§ Я ПЕРВЫЕ ПРИЛОЖЕНИЯ 67
средним 0 и дисперсиями o2nk% то мы получим
последовательность
Первым членом последовательности является
E{f(SJsn)}, а последним — Е \f(N)}. Далее развиваемая
идея состоит в том, чтобы показать, что каждый член
последовательности близок к следующему (при
большом п) настолько, что даже первый и последний члены
оказываются близкими.
Поскольку в G.4) существенно только совместное
распределение величин G.2), а свойства вероятностного
пространства, на котором они определены, не играют
роли, мы можем, переходя к новому пространству (ска-
жем, (R2kn, &?2kn), ввести случайные величины т^, ...
.. .,т) nk так, чтоr\nkнормально распределена со средним
О и дисперсией o\k> причем все 2kn случайные
величины
Inv •••> ?«v *W •••> 4nkn G-8)
независимы. Если
1 < i < k k<iKkn
то, поскольку tnkn + lnkn = sn и поскольку &
имеет распределение snN,
Л^ 1

68 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
Вследствие независимости членов последовательности
G.8) три величины ?п&, Ink и цпк являются
независимыми при каждом значении k, и поэтому
} -Е {г (-%f) <& - чу}=о-
Из G.7) вытекает, что
Доказательство, таким образом, будет завершено,
если мы покажем, что
При данном е > 0 разобьем математическое ожидание
в G.9) на интеграл по множеству {\lnk\ ^ esn} и
интеграл по дополнительному множеству. Используя G.6),
оценим подинтегральную функцию в первом интеграле
величиной K\lnh/sn\z и во втором интеграле —
величиной K\tnh/sn\2:
Таким образом,
и G.9) следует из G.3).

§ 7] ПЕРВЫЕ ПРИЛОЖЕНИЯ 69
Поскольку G.11) справедливо также и с цПк вместо
5лл, то для доказательства G.10) нам достаточно
показать, что
4-Е \ 4lkdP G.12)
" k4\\>)
стремится к 0 при каждом положительном е. Но G.12)
не превосходит
Поскольку
из G.3) вытекает, что max опфп-->09 откуда в свою
п
очередь следует, что ?cr;^/s^->0. Таким образом,
G.12) действительно стремится к 0, что и завершает
доказательство.
Если случайные величины \пъ имеют моменты
порядка 2 + 6> то нормированная сумма в G.3) не
превосходит величины e~6s~2~~b Yj Е{|?п* |2+б}> что доказывает
теорему Ляпунова:
Теорема 7.3. Если для, некоторого
положительного б
Наконец, из теоремы 7.2 мы можем вывести теорему
Линдеберга — Леви:

70 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
Теорема 7.4. Если |ь g* • •• независимы и
одинаково распределены со средним 0 и конечной дисперсией
о2 > 0, то
Для доказательства этого последнего результата
положим kn = п и |Пг = |г-; нормированная сумма в G.3)
не превосходит интеграла по множеству {| ^ | ^ ест У я }
от величины |?/а2.
Характеристические функции. Пусть Р —
вероятностная мера на (/?й, 52ft). Характеристическая функция
(?) меры Р определяется равенством
-д:=Х^Л обозначает скалярное произведение.
Пусть Q — другая вероятностная мера на (Rk,0tk), и
пусть q(t)—ее характеристическая функция. Мы
докажем следующую теорему единственности:
Теорему 7.5. Если p(t)=q(t) для всех t> то
P = Q.
При каждом t eif'x как функция от х является
элементом C(Rh) (или ее действительная и мнимая части
являются элементами C(Rk)). Таким образом, в случае
Rh теорема единственности представляет собой
усиление теоремы 1.3, которая утверждает, что Р
определяется значениями \fdP при f<=C(S). Мы будем
доказывать единственность без вывода формулы
обращения, а с помощью теоремы Вейерштрасса о приближении
функций тригонометрическими многочленами.
Мы знаем из § 3, что прямоугольники (а, Ь] образуют
определяющий класс; так как каждый такой
прямоугольник представляется как объединение возрастающей
последовательности замкнутых прямоугольников, то
достаточно проверить, что Р и Q совпадают на множествах
A^laubAX ••¦ X[ak,bk].

§ 7] ПЕРВЫЕ ПРИЛОЖЕНИЯ 71
В силу рассуждений, использованных при
доказательстве теоремы 1.3, это будет так, если для каждого
целого и
\fdP=\fdQ G.13)
для всех /, имеющих вид f(xu ..., Xh) =f\{x\) ...
... fk(xh), где fj(s) = фи(p(s, [ah bj])), p обозначает
расстояние на прямой и фи определяется формулой A.4).
Зафиксируем и. При данном г выберем г столь
большим, чтобы каждая функция fj обращалась в нуль вне
интервала [—г, г], и в то же самое время столь большим,
чтобы для куба /г = {х: \хт\ <! /\ т = 1, ..., k)
выполнялись неравенства Р(/г)<е и Q(/r)<e. Так как
fj(—г) =/j(r), то по теореме Вейерштрасса *) функция
fj(s) может быть равномерно приближена в [—г, г]
конечной тригонометрической суммой Y<aieil3lslr периода
2г. Перемножив эти суммы для различных значений /,
мы видим, что / может быть равномерно приближена
в /г конечной тригонометрической суммой
?W = Ey/^(/K* G.14)
периода 2г по каждой переменной. Выберем сумму G.14)
так, чтобы \f(x)—g(x)\ <e для х из /г. Так как f
всюду ограничена единицей, то g ограничена величиной
1+8 в /г и, следовательно, по периодичности всюду
в Rk. Таким образом, \f—g\ ограничена величиной е
в /г и величиной 2 + е за пределами /г. Предполагая, что
О < е < 1, мы имеем
) < 4в.
Аналогично, \ | / — g \ dQ < 4e, так что
| J / dP - J f dQ | < | J g dP - J g dQ | + 8e.
*) См., например, Титчмарш A951).

72 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
Равенство \ g dP = \ g dQ является теперь
непосредственным следствием условия р = q и G.14); так как е
произвольно, то G.13) действительно выполняется.
Предположим теперь, что Рп и Р — вероятностные
меры на (/?*, 91к) с характеристическими функциями рп
и р. Докажем теорему непрерывности:
Теорема 7.6. Сходимость Рп =# Р имеет место тогда
и только тогда, когда pn(t) -+p(t) при каждом t.
Необходимость следует из того факта, что eiUx
ограничена и непрерывна по х при каждом t. Мы докажем
достаточность с помощью двух промежуточных
утверждений.
Если pn(t) сходятся в каждой точке к некоторому
пределу и если последовательность {Рп} плотна, то
Рп =ф Р для некоторой вероятностной меры Р.
Пусть g(t) = \\mnpn(t)\ мы не делаем никаких
предположений относительно g. Если {Рп} плотна, то по
теореме Прохорова она относительно компактна, так что
любая подпоследовательность {/V} содержит некоторую
другую подпоследовательность {А*"}, сходящуюся слабо
к некоторому пределу, характеристическая функция
которого равна limrt"/v(/) = g"@- По теореме
единственности существует только один такой предел, который, как
мы видели (см. теорему 2.3), равен Р.
Обратим внимание на то, что это утверждение не
выполняется без предположения о плотности [возьмем,
например, k = 1 и распределение Рп равномерным на
(—/г, п)]. Заметим также, что вышеприведенное
доказательство во многом аналогично рассуждениям в начале
§ 6, в которых использовались плотность и сходимость
конечномерных распределений для вероятностных мер
на (С,^).
Покажем теперь, что если предельная функция g{i) =
= limn рп (t) непрерывна при t = 0, то {Рп} плотна
(и, следовательно, слабо сходится к некоторому
пределу). Очевидно, что {Рп} плотна тогда, когда плотна
каждая из k соответствующих последовательностей
одномерных маргинальных распределений.
Характеристические функции pn(s, 0, ..., 0) маргинальных
распределений для первой координаты сходятся поточечно к
пределу g(sy 0, ..., 0), непрерывному при s = 0, и анало-

§ 7] ПЕРВЫЕ ПРИЛОЖЕНИЯ 73
гично для других координат. Таким образом, каждая
последовательность маргинальных распределений
удовлетворяет предположению, и достаточно разобрать случай
?== 1. В этом случае по теореме Фубини
\х\>2/и
>Рп{*: 1*1>|} GЛ5)
(в частности, первый интеграл равен действительному
числу). Поскольку функция g непрерывна в начале
координат, то при любом положительном е существует та-
и
кое и, что и~1 \ | 1 —g(t) \dt < е. По теореме об огра-
-и
ничейной сходимости при п, превосходящих некоторое
п0, мы имеем
и
и-1 \\l-pn(t)\dt<2s
и, следовательно, в силу G.15) Рп{х: \х\^а]<.2г
с а = 2/и. Увеличивая при необходимости а, мы можем
гарантировать, что это неравенство выполняется для
конечного множества м, не превышающих упомянутое по*,
последовательность {Рп} действительно плотна.
Если g — характеристическая функция вероятностной
меры, она автоматически непрерывна. Теорема
непрерывности доказана.
Поучительно сравнить следующие пары утверждений,
среди которых все справедливы, за исключением 6°.
Здесь Рп и Р — вероятностные меры на (Rk,9lk) или на
(С, (g7), соответственно; в первом случае рп и р являются
характеристическими функциями мер Рп и Р, a g —
функция, заданная на Rh; во втором случае, РппГ1 ..t
и Pnj{ t —конечномерные распределения мер Рп и Р,
a \xt t —вероятностные меры на (/?t,5?0-

74
СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
Пространство Rh
1. Функция p(t) определяет Р.
2. Если Pn(t) сходятся к
некоторой функции g(t) при
каждом / и если
последовательность {Рп} плотна, то Рп
слабо сходятся к некоторой
мере А
3. Утверждение 2 неверно без
предположения о плотности.
4. Если pn(t) сходятся к
некоторой функции g(t) при каждом
t и если функция g
непрерывна в 0, то последовательность
{Рп} — плотная (и,
следовательно, в силу 2 — слабо
сходящаяся).
Если рп @ -> р (t) при ка- 5°. Если
Пространство С
1°. Меры ЯяГ!..*. определяютР
2°. Если PnnJ1^ t. слабо
сходятся к некоторой мере
\xt ## ,. при каждом (tb ...,//)
и если последовательность
{Рп} плотна, то Рп слабо
сходятся к некоторому
пределу Р.
3°. Утверждение 2° неверно без
предположения о плотности.
5.
6. Если рп (t) -> p (t)
ждом t, то Р^Р
при каждом (/ь ..., ti) и если
{Рп} плотна, то Рп^Р.
6°. [Еж* PnnTx\..i=>P*Tl\..ti
при каждом (t\9 ..., ti), то
ЯфР]
ждом t и если {Рп} плотна, то
при ка-
Утверждение 1 есть не что иное, как теорема
единственности для характеристических функций; Г
утверждает тот факт, что конечномерные множества в С
образуют определяющий класс. Доказательства 1 и Г не
имеют между собой ничего общего.
Утверждения 2 и 2° выводятся, соответственно, из 1
и 1° посредством параллельных рассуждений.
Контрпримеры подтверждают утверждения 3 и 3°.
Утверждение 4 не имеет аналога 4°.
Далее, 5 и 5° выводятся, соответственно, из 2 и 2°
параллельными рассуждениями; однако предположение
о плотности в 5 излишне в силу 4 и того факта, что р
должна быть непрерывна. Исключение предположения
о плотности приводит от 5 к 6 и от 5° к 6°, при этом
6 верно (в силу 4 и непрерывности /?), а 6° неверно (так
как нет 4°).
Утверждение 6° не только ложно само по себе (как
вывод, примененный ко всем Р и ко всем {Рп}), но,
более того, не существует ни одной меры Р, для которой

§ 7] ПЕРВЫЕ ПРИЛОЖЕНИЯ 75
оно справедливо (как вывод, примененный ко всем {Рп})-
определим hn: C-+C как hn(x) = х + хПу где хп заданы
равенством C.5), и при данном Р положим Р/г = РЛл1-
Для некоторого достаточно малого б открытое
множество А = {х: x(t) < #@) + V2, f ^ 6} удовлетворяет
неравенству Р(А) > 0. Если Ап = А—хп, то множество
limsupn^n пусто и, следовательно,
lim inf n Pn (A) < lim suprt Pn (A) = lim supft P (Ап) = 0.
По теореме 2.1 Рп не может слабо сходиться к Р,
однако соответствующие конечномерные распределения все
же сходятся.
Только что приведенное рассуждение показывает
также, что 4° не может быть справедливым. В этой связи
заметим, что 3° следует из того факта, что 6° ложно;
поскольку 6 справедливо, то 3 требует специального
контрпримера (предельная функция g должна иметь
разрыв в 0).
Если бы 4° было справедливо, то большая часть
главы 2 была бы излишней (а если бы 4° было справедливо
для пространства D, то излишней была бы большая
часть главы 3). Добавим теперь замечание по поводу
6°: поскольку конечномерные распределения Р и всех
Рп полностью определяют Р и все Рп, условия
сходимости Рп^Р в принципе могут быть выражены в
терминах одних только конечномерных распределений*).
Однако в действительности мы должны иметь дело
со всеми множествами (tu ..., U) одновременно при
я->оо — нельзя фиксировать какой-то набор (tu ..., U)
и рассматривать, что происходит при п-*~оо. Именно
здесь плотность играет существенную роль.
Прием Крамера — Уолда. С помощью
нижеследующего пр'остого приема, предложенного Крамером и Уол-
дом, задачи, включающие случайные векторы в Rh, часто
могут быть сведены к задачам, включающим лишь
обычные случайные величины в RK Предположим, что &-мер-
ные случайные векторы Хп = (Хпи ..., Xnh) и X =
(Х Х) удовлетворяют условию
k 3 k
2] tfX ]? tfi
2] fni ]?
*) См. Бартошинский A961).

76 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
для каждой точки t = (t\9 ..., h) из Rk. Тогда
характеристические функции рп (s) = Е \ ехр (is 2 b^nj) f
этих одномерных случайных величин сходятся к p(s) =
= ? \ ехр( /5 ? tjXj \\ для каждого действительного 5.
Полагая 5 = 1, мы видим, что
Поскольку / было произвольным, сходимость Хп —* X
следует теперь из теоремы непрерывности для
характеристических функций.
Теорема 7.7. В пространстве Rk Xn сходятся по
распределению к X тогда и только тогда, когда каждая
линейная комбинация компонент Хп сходится по
распределению к соответствующей линейной комбинации
компонент X.
В терминах § 2 полупространства в Rk образуют
класс, определяющий сходимость; этот факт,
по-видимому, не может быть доказан без привлечения идей из
анализа Фурье.
Локальная и интегральная предельные теоремы. Если
Рп и Р суть вероятностные меры на Rh с плотностями
рп и р относительно меры Лебега и если
рп(х)-+р(х) G.16)
для всех х вне некоторого множества лебеговой меры О,
то по теореме Шеффе (стр. 306)
Ра*?Р- G.17)
Соотношение G.16), называемое локальной предельной
теоремой, влечет соотношение G.17), называемое
интегральной предельной теоремой.
Существует аналогичный результат для случая, когда
Р имеет плотность, но масса, соответствующая Яп,
сосредоточена на некоторой решетке в Rh. Пусть б (п) =
== Fi(ai), ..., 6ft(n))—точка в Rh с положительными
координатами, и пусть а(п) = (а\(п), ..., а*(/г))«-
произвольная точка в Rh; обозначим через Ln решетку,
образуемую всеми точками Rh вида
(л) - «1 W, • • •

§ 7] ПЕРВЫЕ ПРИЛОЖЕНИЯ 77
где U\9 ..., Uk независимо принимают значения 0, ±1,
±2, ... Если х есть точка из?п,то интервал (х — 6(п),х]
(см. C.1) по поводу обозначений) представляет собой
ячейку объема vn = 6i(n)---6ft(n) и Rh представляет
собой счетное объединение таких непересекающихся
ячеек.
Предположим теперь, что Рп есть вероятностная мера
в^с Pn(Ln)= 1, и пусть для .veLn pn(x) обозначает
массу (возможно, равную 0) в этой точке. Пусть Р имеет
плотность р относительно меры Лебега.
Теорема 7.8. Предположим, что
max {в! (л), ..., 6k(n)}-+0. G.18)
Предположим, далее, что если {хп} — любая
последовательность и х — любая точка из Rk и если хп
принадлежит Ln и меняется вместе с п таким образом, что
G.19)
то
?&! р(х). G.20)
Тогда Рп=$>Р.
Доказательство. Определим плотность
вероятности qn на Rk, положив qn(y) = Pn(x)/vn, если у
лежит в ячейке (л: — 8(п),х], определяемой точкой х
решетки Ln. Так как из G.19) следует G.20), то мы имеем
Чп(у)~+Р(у) G.21)
для каждого у. Пусть Хп имеет плотность qn\ определим
Yn на том же вероятностном пространстве, полагая
Уп=х, если Хп^ (х — 8{п),х] при x^Ln. Нам надо
доказать, что Yn—>Р. Поскольку \Хп— Yn\ < |б(л)|,
это будет следовать из G.18) и теоремы 4.1, если мы
докажем, что Хп—>А Однако ввиду G.21) последнее
соотношение есть следствие теоремы Шеффе.
Слабая сходимость на окружности и торе. Пусть
S — единичная окружность на комплексной плоскости, и
пусть еи(х)=хи, и = 0, ±1, ±2, ... Коэффициенты
Фурье меры Р на S определяются для целых и
равенством р{и) = [ eu(x)P{dx). Поскольку мера Р определена

78 СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ? 1
значениями интеграла \fdP для f из C{S) и поскольку
каждая функция / из C{S) может быть по теореме
Вейерштрасса равномерно аппроксимирована линейными
комбинациями функций еи, то р определяет Р.
Рассуждая так же, как в случае прямой, можно получить из
этой теоремы единственности теорему непрерывности:
Рп=^Р тогда и только тогда, когда соответствующие
коэффициенты Фурье удовлетворяют условию: рп{и) -*•
->/?(w) для любого целого и. Поскольку окружность
компактна, то на этот раз не возникает вопроса о
плотности последовательности {Рп}\ следовательно, {Рп}
слабо сходится к некоторому пределу, если для каждого
и существует limn/?n(tf). Если Р представляет собой
нормированную меру Лебега на окружности, то р{и)
обращается в 0 при и Ф 0 (и, разумеется, равняется 1 при
и = 0). Отсюда немедленно следует критерий Вейля:
последовательность {х\, #2, ...) равномерно
распределена на окружности тогда и только тогда, когда
*/)а-*0для каждого и, отличного от 0. В частно-
-1
сти, степени х? равномерно распределены, если х не
является корнем из единицы.
Окружность может быть развернута в интервал [0, 1)
с помощью соответствия e2nix «-> х. Коэффициенты Фурье
вероятностной меры Р на [0,1) определяются равенством
p{u)=\e2niuxP{dx) для целых и; разумеется, теоремы
единственности и непрерывности для окружности могут
быть переформулированы для интервала [0,1). Несмотря
на то, что здесь слабая сходимость должна
рассматриваться в той топологии, которую [0, 1) наследует от
окружности (например, в этой топологии 1 — 1//г->0), мы
можем полностью игнорировать это различие, если
предельная мера приписывает точке 0 меру 0. Таким
образом, если Рп, Р суть вероятностные меры на R1 с
носителем в [0,1) и если Р{0} = 0, то Рп =#> Р тогда и только
тогда, когда
n {dx) -> J e*l«xP {dx)

§ 71 ПЕРВЫЕ ПРИЛОЖЕНИЯ 79
для каждого целого и. Говорят, что последовательность
{хи #2> • • •) действительных чисел равномерно
распределена по модулю 1, если эмпирическое распределение
последовательности дробных частей ({х\}, {х2}, ...) слабо
сходится к равномерному распределению на единичном
интервале. Критерий Вейля приобретает следующий вид:
(хих2у ...) равномерно распределена по модулю 1 тогда
п
и только тогда, когда пгх ? e2muxf->0 для каждого це-
/-1
лого и, отличного от нуля. Этот критерий
удовлетворяется, если Xjt=j%, где | — иррациональное число.
С помощью fe-мерного варианта теоремы Вейерштрас-
са можно получить аналогичные результаты для
^-мерного тора — т. е. произведения k окружностей. (Эти
результаты могут быть перенесены даже на общую
компактную группу; роль тригонометрических функций
будут играть при этом характеры.) Рассматривая случай
4 = 2и развертывая тор в квадрат, мы видим, что если
Рп и Р суть вероятностные меры в R2, сосредоточенные
на квадрате {(х,у): О <: х9 у < 1}, и если нижнее и
левое ребра квадрата имеют Р-меру 0, то Рп'ФР тогда и
только тогда, когда
V e2ni (ux+vy) dp ^ f e2nl (ux+vy) dp
для любой пары целых чисел и и v.
Мы говорим, что последовательность ((хи У\),
(Х2,У2)> •••) на плоскости равномерно распределена по
модулю 1, если эмпирические распределения,
полученные приведением всех координат по модулю 1, слабо
сходятся к равномерному распределению на квадрате;
это справедливо в том и только том случае, когда
-/§¦
только и и v не обращают-
ся в 0 одновременно. Это условие удовлетворяется, когда
{Xj,yj) = (Л, /т|), где |, г] и 1 линейно независимы (не
существуют целые числа и и v, не равные одновременно
О, такие, что м? + иг) является целым числом). Возьмем
другой случай и предположим, что g и ц удовлетворяют
ровно одному ограничению: и\ + vv) является целым
числом тогда и только тогда, когда и = 2w и v = Здо

80
СЛАБАЯ СХОДИМОСТЬ В МЕТРИЧ. ПРОСТРАНСТВАХ [ГЛ. 1
для некоторого целого числа до. Тогда
Hm -
\0
если и/2 = и/3 целое число,
во всех других случаях.
Рис. 4.
Рассматривая коэффициенты Фурье, можно понять, что
эмпирические распределения слабо сходятся к
распределению, равномерному на четырех
наклонных линиях, показанных на рис. 4.
Результат Крамера — Уолда имеет
здесь очевидную аналогию. Например,
последовательность точек плоскости ((#i,#i),
(#2, #2), •••) равномерно распределена
по модулю 1 тогда и только тогда,
когда для всех целых и и vt не равных
одновременно 0, линейная
последовательность {их\ + ш/ь ш:2 + ш/2, ...)
равномерно распределена по модулю 1.
Примечание. Теорема 7.2 доказывается здесь с помощью
варианта метода Линдеберга, предложенного Леви; см. Леви A925,
стр. 246—249). С другими подходами к центральной предельной
теореме и с характеристическими функциями можно познакомиться по
Феллеру A967b) Для линейных пространств существует теория
характеристических функций, тесно связанная со слабой сходимостью;
см. Прохоров A960) и Гросс A963), а также имеющиеся там
ссылки.
См. Крамер, Уолд A936) по поводу их приема. См. Харди, Райт
A960) о равномерном распределении по модулю 1, в частности, в
связи с последним из приведенных нами примеров.
Задачи
1. Замените подинтегральное выражение в G.1) полиномом
степени 2&, выбранным так, чтобы ф имела ограниченные непрерывные
производные вплоть до порядка k (k = 3 достаточно для
доказательства теоремы Линдеберга).
2. Используйте прием Крамера — Уолда для получения
^-мерного варианта теоремы Линдеберга — Леви.
3. Говорят, что измеримая функция h(x) на прямой имеет
среднее значение, если существует предел
М [h] = Hm
Т->оо
h (x) dx\
-Г

§ 7] ПЕРВЫЕ ПРИЛОЖЕНИЯ 81
h(x) имеет распределение, если вероятностные меры
Рг(Л) = -~гЯ{д:: |*|<7\ А(*)еЛ} 4sf,
(здесь X — мера Лебега) сходятся слабо при jT->oo. Если h(x) —
почти периодическая функция, то она ограничена, и при любом t
функция eitx является почти периодической (см. Бор A932)); с
помощью первого предложения, используемого при выводе теоремы
непрерывности для характеристических функций, покажите, что h имеет
распределение.
4. Рассмотрим на прямой вероятностные меры, обладающие
моментами всех порядков. Говорят, что мера Р определяется своими
моментами, если из \ хиР (dx) = \ xuQ (dx)y и = 1, 2, ..., следует
Р = Q. (См. Феллер A967b, стр. 282, 283, 587) по поводу примера
меры Р, не определяемой своими моментами, и по поводу критерия
определяемости Р своими моментами.) Если supn \ хиРп (dx) < оо
при каждом и и если Рп=$>Р, то моменты Рп сходятся к
моментам Р [теорема 5.4]. Если моменты Рп сходятся к моментам Р и
если Р определяется своими моментами, то Рп^>Р. [Покажите
сначала, что {Рп} плотна (задача 5 из § 6) и затем проведите
рассуждение, близкое данному выше доказательству теоремы
непрерывности для характеристических функций.] Используйте методику
Крамера — Уолда для распространения этого результата на Rh
[рассмотрите смешанные моменты всех порядков].
5. Если k меняется вместе с п так, что (k — np)/^npq -» х, то
1
\pkqn-knpq-
(см. Феллер A967а), стр. 186). Используйте теорему 7.8 для вывода
теоремы Муавра — Лапласа. Примените ту же самую методику к
гипергеометрическому распределению (см. задачу 2 на стр. 71 и
задачу 10 на стр. 197 у Феллера A967а)) и к распределению частот
для последовательности полиномиальных испытаний (рассмотрите
частоты появления всех исходов, кроме одного, с тем, чтобы
предельное распределение имело плотность).
6. Используйте задачу 8 § 2 для доказательства того, что если
вероятностные меры в Rh слабо сходятся, то соответствующие
характеристические функции сходятся равномерно на ограниченных
множествах.
7. Обобщите теорему 7.8: замените меру Лебега на Rk общей
мерой на сепарабельном пространстве S и рассмотрите разбиения
{Cni} пространства 5, удовлетворяющие условию limn max* diam Cni =
= 0.

Глава 2
ПРОСТРАНСТВО С
§ 8. Слабая сходимость и плотность в С
Во введении были разъяснены некоторые полезные
следствия, вытекающие из факта слабой сходимости в
пространстве С = С [0,1 ] непрерывных функций на [0,1].
Пространство С наделяется при этом топологией
равномерной сходимости, задаваемой при помощи расстояния
между двумя точками х и у (двумя функциями x(t) и
y(t) от /е [0,1]):
р(*, y) = supt\x(t)-y{t)\.
Слабая сходимость. Слабая сходимость
распределений в С не вытекает, вообще говоря, из слабой
сходимости конечномерных распределений. Однако мы видели
в начале § 6, что вторая сходимость влечет первую в
предположении относительной компактности. Так как
пространство С сепарабельно и полно (см. стр. 301), из
теоремы Прохорова (теоремы 6.1 и 6.2) следует, что
относительная компактность семейства вероятностных
мер на (С, &) эквивалентна плотности этого семейства.
Таким образом, мы получаем следующий результат:
Теорема 8.1. Пусть Рп и Р — вероятностные меры
hg (С,Ф). Если конечномерные распределения мер Рп
слабо сходятся к конечномерным распределениям мер Р
щ кроме того, семейство {Рп} плотно, то Рп =ф Р.
Чтобы использовать эту теорему для доказательства
слабой сходимости в С, нам необходимо лишь
установить, что означает в этом случае плотность
последовательности {Рп}.

§ 81 СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ ВС 83
Плотность. Модуль непрерывности элемента х^С
определяется соотношением
wx(d) = w(x, 6)= sup \x{s) — x(t)\, 0<6<l. (8.1)
I s-t\<6
Пусть {Рп} — последовательность вероятностных мер на
(C,V).
Теорема 8.2. Последовательность {Рп} плотна тогда
и только тогда, когда выполнены следующие два
условия:
(i) Для каждого положительного г\ существует такое
а, что
Рп{х: |*@)|>а}<Ч. п>1. (8.2)
(ii) Для каждой пары положительных чисел е и ц
существуют 6, 0<6<1, и целое число п0 такие, что
Рп{х: ю,(в)>в}<л, п>"о- (8.3)
Условие (i) обеспечивает плотность
последовательности {Рпп^1}. В связи с (8.3) заметим, что функция
wx(8) непрерывна по л: и поэтому измерима.
Доказательство. Допустим, что
последовательность {Рп} плотна. Для данных е и г] выберем
компактное множество К такое, что Рп(К)> I — ц при
всех п. По теореме Арцела — Асколи (стр. 302) имеем
К а {х: \х@) | ^ а} для достаточно больших а и
Kcz {х: wxF) < е} для достаточно малых 6, так что (i)
и (ii) выполняются (с п0 = 1 в (ii)). Этим доказана
необходимость условий (i) и (ii).
Так как любая отдельная вероятностная мера Р на
(С, <ё>) плотна (теорема 1.4), то из необходимости
условия (ii) следует, что для каждой пары е и т)
существует такое б, что Р{х: wx(8) ^ г} ^ ц. Поэтому, если
{Рп} удовлетворяет условию (ii), то мы можем
гарантировать выполнение неравенства (8.3) для конечного
множества значений /г, не превосходящих п0 (при
необходимости уменьшая б). Таким образом, мы можем
предположить при доказательстве достаточности, что
п0 в (8.3) всегда равно 1.
Допустим, что {Рп} удовлетворяет условиям (i) и
(ii) с по = 1 в (8.3). При данном ц выберем а так, что
для множества

84 ПРОСТРАНСТВО С 1ГЛ. 2
при всех п Рп(А)^ 1 — -?-ть и выберем бд так, что если
Ak = {x: wx(bk)<l/k},
то Pn(Ah) ^ 1—r]/2ft+1 при всех п. Если К — замыка-
оо
ние множества А(] Г) Л^, то Рп(К)^ 1 —т] при всех п
и по теореме Арцела — Асколи /С компактно. Отсюда
вытекает, что последовательность {Рп} плотна.
Как показывает доказательство, мы можем
требовать, чтобы (8.3) выполнялось для всех Рп- При таком
изменении теорема остается верной, даже если {Рп}
заменить произвольным семейством П. В применениях мы
будем часто доказывать (8.3), заменяя величины б, 8, ц
на, скажем, -^6, Зе, 9т), что, конечно, не меняет дела.
Теорема 8.2 преобразует условие плотности в С,
заменяя компактность ее характеризацией с помощью
теоремы Арцела — Асколи. Следующая теорема делает
лишь малый шаг вперед по сравнению с этим. Тем не
менее она удовлетворяет наши настоящие потребности.
Теорема 8.3. Последовательность {Рп} плотна,
если выполняются следующие два условия:
(i) Для каждого положительного г\ существует а
такое, что
Рп{х: 1*@)|>а}<ть п>\. (8.4)
(п) Для любых положительных г и г\ существуют б,
О < б < 1, и целое п0 такие, что
~Рп{х: sup |*(*)-*(*)|>в}<ть п>по, (8.5)
для всех U
Разумеется, аргумент t в соотношении (8.5) меняется
в пределах 0 ^ t ^ 1; если t > 1 — б, то мы
ограничиваем величину s в (8.5) пределами /^s^ 1. Отметим,
что (8.5) формально выполнено, если б > 1/т); но мы
требуем, чтобы б < 1.
Доказательство. Фиксируем б и положим
At = {x: sup

§ 8] СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ ВС 85
Далее, и s и t лежат в интервалах вида [/б, (/+1N].
Если \s —1\ < б, то эти интервалы либо совпадают,
либо примыкают друг к другу; отсюда вытекает, что
Ря{х: wx(b)>3e}^Pn( [} Ai6\ (8.6)
Так как
Ря( U V)< ? Рп(Ан), (8.7)
то из неравенства (8.5) следует, что Рп{х: wxF) ^ Зе} <g
< A + [1/8]) 8ц < 2т] (напомним, что б < 1) *).
Поэтому условие (и) влечет соответствующее условие в
теореме 8.2. Так как условие (i) осталось тем же
самым, то мы получаем желаемый результат.
Сформулируем теперь следствие, которое содержит
существенный пункт доказательства.
Следствие. Если О = t0 < t\ < ... < tr = 1 и
-1, (8.8)
ТО
Р{х: ш^F)>3е}<
sup |*(s)-*«,_,) |>е}. (8.9)
Отметим, что выполнение неравенства (8.8) при
/ = 1 и i = г не предполагается.
Замена в неравенстве (8.6) левой части правой не
приводит к существенному огрублению, но в (8.7) это
уже не так, и условие (ii) не является необходимым **).
Допустим, однако, что множества Ai6 (б фиксировано,
i меняется) независимы относительно Рп и все имеют
одну и ту же вероятность р (что будет по крайней мере
приближенно верно для многих мер Рп> встречающихся
в этой главе). Тогда
р( U Лб)=
\<1+П/«])
*) Мы используем символ [а] для обозначения целой части
а — наибольшего целого числа, не превосходящего а.
**) См, задачу 1.

86 ПРОСТРАНСТВО С [ГЛ. 2
Если эта величина ограничена сверху числом rj, то (при
г] ^ 1/2) получаем оценку
р/*<A + П/в])р<-1овA-т|)<2п, (8.10)
которая имеет тот же самый порядок, что и оценка (8.5).
Поэтому любой эффективный критерий плотности за
пределами теоремы 8.3 должен каким-либо образом
учитывать зависимость между Лгб.
Случайные функции. Пусть X отображает
пространство (Q, ^?, Р) в С. Пока мы не будем предполагать, что
отображение X измеримо (X~xceci^)% При каждом со
из Q Х((й) есть элемент С — непрерывная заданная на
[0,1] функция, значение которой в точке t мы обозначим
А'(^со). При фиксированном t пусть X(t) обозначает
действительную функцию на Q со значением X(ty со) в
точке со; X(t) есть композиция ntX. Аналогично, пусть
(X(ti), ..., X(th)) обозначает отображение Q в Rk со
значением (X(tU(d), ..., X(th> со)) в со.
Если Л = {jcgC: x(t) < а}, то А <=<?? и {со: X(t9 со) <g
^ а} =zX~]A. Отсюда следует, что если X — случайный
элемент С, т. е. если X-l<&cz&, то при каждом t X(t)
является случайной величиной (X(t)-~lffil a 38) и,
следовательно, каждый набор (X(t\), ..., X(tk)) является
случайным вектором. Предположим, с другой стороны,
что X(t) является случайной величиной при каждом t.
Если В — замкнутая сфера в С с центром х и радиусом
б, то X"Ifl = {o: *(о>)е=?} = П{со: х{г) -б<Х(г, со)<
П
г
^х(г) + б}, где пересечение берется по всем
рациональным числам, так что X~lB e $. Так как С сепара-
бельно, то Х-х<& с: Jf, т. е. X есть случайный элемент С.
Таким образом, X является случайной функцией
(случайным элементом С) тогда и только тогда, когда при
каждом t X(t) является случайной величиной. (Мы
просто еще раз доказали, что конечномерные множества
порождают ф.)
Допустим теперь, что {Хп} — последовательность
случайных функций. По определению последовательность
считается плотной, если последовательность
соответствующих распределений плотна. Согласно теореме 8.2
последовательность {Хп} плотна в том и только том
случае, когда последовательность {Хп@)} плотна (на пря-

§ 8] СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ В С 87
мой) и для любых положительных е и г\ существуют
б, 0 < б < 1, и целое п0 такие, что
P{w(Xn, 6)>e}<r), п>щ (8.11)
(здесь w (х, б)—всего лишь другое обозначение для
до*(б)). Это условие обеспечивает не слишком сильное
колебание случайных функций Хп.
Теорема 8.3 может быть преобразована тем же
самым образом: последовательность {Хп} будет плотна,
если плотна последовательность {Хп@)} и для любых
положительных е и ц существуют б, 0 < б < 1, и целое
число По такие, что
|Р{ sup |Хя(*)-*д@1>в}<т| (8.12)
при п ^ п0 и 0 < /^ 1 (где s в случае 1 — б < t ^ 1
ограничено пределами ^^5^1).
Как объяснено во введении, нас в первую очередь
интересуют случайные функции, которые строятся
следующим способом. Пусть gi, ?2, ... — случайные
величины на некотором вероятностном пространстве (Q, 3S, Р).
Мы пока не делаем предположений о таких
специальных свойствах, как стационарность и независимость.
Определим Sn = gi + ... +ln, So = 0 и построим Хп,
используя частичные суммы So, Si, ..., Sn. Положим
для точек вида i/n из [0,1]
-ш)-77Г5'(в) (8ЛЗ)
(мы ограничиваемся нормирующими множителями вида
а/д//г, но другие множители также возможны). Для
прочих точек / из [0,1] мы определим Xn(t, со) с помощью
линейной интерполяции: если te[(i—1)/м, l/п], то
= —Lr S,-, (со) + n (t - 1=Ц —L=r h @). (8.14)
Так как I— 1 = [nt] при t e [(i— l)/n, i/n], то можно
определить функцию Хп более сжато формулой
S(co)+(/tfH)Ы(а)). (8.15)

83 ПРОСТРАНСТВО С [ГЛ. 2
Ввиду того, что li и, следовательно, S* являются
случайными величинами, из (8.15) следует, что Xn(i)—тоже
случайная величина при каждом t. Поэтому Хп являются
случайными функциями.
Когда эти случайные функции образуют плотную
последовательность? Так как Хп @) = 0, то очевидно, что
последовательность {Хп@)} плотна. Используя
определение (8.15), мы можем превратить условие (8.12) в
ограничение на флуктуации частичных сумм S*. Если t «=
= Упи/ + 5 = //л, где k и / целые, то (8.12) сведется к
(8.16)
Несмотря на то, что условия (8.12) и (8.16), вообще
говоря, различаются, если t и б не являются целыми
кратными 1/л, различие это, как мы покажем,
несущественно для наших целей. Рассмотрим целые / и k,
определенные неравенствами
Ввиду того, что Хп кусочно-линейна, имеем
sup \Xn(s)-Xn(t)\<2 max —!—| s
± 0<i<fkO4n
t<S<t+±6
Если n ^ 4/6, то / — k < лб, так что максимум справа
не уменьшится, если ограничение i ^ j — k ослабить до
/ ^ пб. Поэтому, если (8.16) выполняется при всех k и
всех п ^ п0, то (8.12) выполняется при всех / и всех
п ^ max {tt0, 4/6} в предположении, что е, т) и б в (8.12)
заменены, соответственно, на 2е, 2ц и -=¦ 6, что сводится
лишь к перемене обозначений.
Таким образом, последовательность {Хп} плотна, если
для любых положительных е и г) существуют 6, 0 < б <
< 1, и целое п0 такие, что (8.16) выполняется при всех
k и при всех п ^ По. Максимум в (8.16), который
распространяется на значения i ^ пб, легче вычисляется,
если заменить пб целым числом. Если пб равно некото-

§ 8] СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ ЕС &9
рому целому т (что верно, конечно, не всегда), тогда
неравенство (8.16) превращается в неравенство
Р ( m ах | Sk+i — Sk I > -Afr а л/т ) < r]6.
Положим A, = e/V6 (если 6 мало, то Я велико);
неравенство (8.16) сводится тогда к
Так как це2 положительно, то мы получаем следующую
теорему.
Теорема 8.4. Пусть последовательность {Хп}
определена равенством (8.15). Последовательность {Хп}
плотна, если для любого положительного е существую!
КХ > 1, и целое п0 такие, что если п ^ п0, то
^ (8.17)
при всех k.
Мы_требуем, чтобы Я>1 ((8.17) тривиально, если
л^ Vе )> что соответствует требованию 6<1 в
теореме 8.3. В конкретных случаях доказательство (8.17)
приводит к большим значениям X.
Доказательство. При данных е и г\ выберем 6,
0<6< 1, и щ так, чтобы при п^п0 (8.16)
выполнялось для всех k. Так как (8,16) становится лишь более
строгим при уменьшении е и т), то мы предположим, что
О < е, г] < 1. По предположению (с г)е2 вместо г) суще-
атвуют К, Я > 1, и п\ такие, что
{W^}<-if- (8.18)
при п ^П\ и k ^ 1. Положим б = е2А2; так как % > 1 >
> е, мы имеем 0 < б < 1. Пусть п0 — целое число,
превосходящее tti/б. Если п ^ По, то [пб] ^/Xi и из (8.18)
следует, что
Р { max

90 ПРОСТРАНСТВО С [ГЛ. 2
Так как кл/[Щ<е V^" и цг2/Х2 = гN, то (8.16)
выполняется для всех &, если только я ^ л0. Таким
образом, теорема 8.4 доказана.
Как нетрудно видеть, достаточно лишь, чтобы (8.17)
выполнялось при k ^ tti2/e; нам, однако, это не
потребуется. Если последовательность {?п} стационарна, то
(8.17) сводится к
Мы можем объединить а с 1 и требовать выполнения
условия
Р {max| Si I >Я V"~) < -?¦ (8.20)
при Я > а.
Мы увидим позднее, что в некоторых ситуациях
предположение теоремы 8.4 становится не только
достаточным, но и необходимым.
Координатные величины. Проекция щ со значением
nt(x) =x(t) при ^бС есть случайная величина,
заданная на (С.Ч?). Мы будем часто обозначать эту
случайную величину через xt: при фиксированном / xt является
функцией на С со значением x(t) в точке х. Если задана
вероятностная мера Р на (С, Ф), то {xt: 0 ^ t ^ 1} есть
стохастический процесс. Мы представляем себе / как
временной параметр, a xt обычно называются
координатными величинами или функциями. Распределение xt
зависит от меры Я, и мы будем говорить о
распределении xt относительно Р\ мы будем часто писать P{xt e #}
вместо Р{х: ^еЯ) и \xtdP вместо \xtP(dx). Наконец,
и в том случае, когда t есть сложное выражение, мы
будем часто называть x(t) по-прежнему координатной
величиной.
Примечание. Общая теория слабой сходимости в С
(теорема 8.2, например) создана Прохоровым A956). Теорема 8.4,
являющаяся более удобным вариантом теоремы 8.3, возникла в результате
бесед с Ф. Топсё.
Стоун A963) изучал слабую сходимость в пространстве
непрерывных функций на [0, оо). Ламперти A962b) изучал пространства
функций, удовлетворяющих условию Гёльдера.

§ 9] СУЩЕСТВОВАНИЕ ВИНЕРОВСКОЙ МЕРЫ 91
Задача
1. Пусть Я"(/)=^, где g —такая случайная величина, что
Р {| § I ^а) ~ а 2 ПРИ а"^ °°» и пусть при каждом п Рп
совпадает с распределением X. Тогда последовательность {Рп} плотна,
но не удовлетворяет условию (ii) теоремы 8.3.
§ 9. Существование винеровской меры
Винеровская мера. Винеровская мера W есть
вероятностная мера на (С, ф), обладающая следующими двумя
свойствами. Во-первых, при каждом t случайная
величина xt нормально распределена по отношению к W со
средним 0 и дисперсией t:
а
^ \e-«l*du. (9.1)
Если t = О, то подразумевается, что W{x0 = 0} = 1. Во-
вторых, стохастический процесс {#*: 0 ^ t ^ 1} имеет
независимые приращения относительно W*): если
1, (9.2)
то случайные величины
независимы по W. В этом параграфе мы докажем
существование такой меры W.
Если W обладает указанными двумя свойствами и
если s ^ t, то xt (нормальная случайная величина со
средним 0 и дисперсией t) есть сумма независимых
величин xs (нормальных случайных величин со
средним 0 и дисперсией s) и xt — х8, так что величина
*t — xs должна быть нормальной со средним 0 и
дисперсией f — s (ее характеристическая функция равна
отношению характеристических функций xt и х8). Таким
*) Мы часто для краткости вместо «относительно №» будем
писать «по W». (Прим. перев.)

92 ПРОСТРАНСТВО С 1ГЛ. 2
образом, если (9.3) выполняется, то
= П , 1 \ е-*'2 ('<-'<->> Л. (9.4)
В частности, приращения стационарны (распределение
xt — х8 no W зависит только от разности / — 5), равно
как и независимы.
Если представлять себе x(t) как (одну) координату
положения движущейся частицы в момент времени ?,
то сама функция х будет описывать историю изменения
выбранной координаты при движении частицы от
момента / = 0 до момента t = 1. Винеровская мера задает
на этих траекториях х распределение, подходящее для
описания броуновского движения — движения частиц
цветочной пыльцы в воде.
При доказательстве существования W мы
сталкиваемся с проблемой доказательства существования на
(С, &) вероятностной меры с заданными
конечномерными распределениями. При произвольном их выборе
существует самое большое одна такая мера, но может
вообще не быть ни одной. (Например, не существует меры
Я, относительно которой распределение xt приписывает
единичную массу точке 0 при t<\j2 и точке 1 при
О 1/2.)
Теорема 9.1. На (С, <&>) существует вероятностная
мера W такая, что выполняется соотношение (9.1) и
случайные величины (9.3) независимы по W всякий раз,
когда выполняется (9.2).
Доказательство. Пусть ?ь g2, ... независимы и
нормально распределены (на некотором вероятностном
пространстве (Q, .$, Р)) со средним 0 и дисперсией 1.
Пусть случайная функция Хп определена равенством
(8.15) при а= 1:
Хп (/, а») - 4=г S[ni] (со) + (nt - [nt]) -ir t[nt]+l (со). (9.5)
у n уп
Пусть Рп — распределение функции Хп на С. Эта мера
корректно определена вследствие того, что, как мы
показали в предыдущем параграфеуХп измерима (l«Vc^).

§ 9] СУЩЕСТВОВАНИЕ ВИНЕРОВСКОЙ МЕРЫ 93
Мы сначала покажем, что конечномерные
распределения Рп слабо сходятся к конечномерным
распределениям, которые должны быть у W. После этого мы
докажем, что последовательность {Рп} плотна. Ясно, что
предел любой сходящейся слабо подпоследовательности
{Рп'} будет удовлетворять требованиям, предъявляемым
к W. Идея заключается в том, что Рп аппроксимируют
предполагаемую меру W.
Конечномерное распределение Pnnf\..t является в
точности распределением случайного вектора (Xn(t\), ...
..., Xn(tk)). Рассмотрим некоторый момент времени t.
Из равенства (9.5) и предположения о нормальности \п
следует, что Xn(t) нормально распределена со средним О
и дисперсией
[nt] (nt - [nt])» .
Г+ Л
эта дисперсия отличается от t самое большее на 2/я.
3)
Таким образом, Хп (t)—*N(Q, t) (по поводу этого
обозначения см. D.9)).
Очевидно, что тот же самый способ рассуждений
применим в случае нескольких временных точек; поэтому
конечномерные распределения слабо сходятся к
конечномерным распределениям, которые должна иметь мера W.
Для доказательства плотности {Рп} применим
теорему 8.4. Чтобы доказать (8.20), обозначим
Et = {max | Si \< 2Я Y«~< | S, |}. (9.6)
Из свойств стационарности и независимости |п
вытекают неравенства
|
Z
(9.7)

94 ПРОСТРАНСТВО С [ГЛ. 2
Так как величина S//V/ нормально распределена со
средним 0 и дисперсией 1 и, следовательно, имеет
конечный третий абсолютный момент а, не зависящий от /
(а = 2д/2/л), то из (9.7) и неравенства Чебышева
следует, что
Так как Et не пересекаются, то мы получаем
P{max| St |^2Я л/п }^тг ¦ л=1, 2, ... (9.8)
По заданному е выберем X так, что 2а/К < е и А, > 1.
Тогда (9.8) приводит к неравенству
что равносильно (8.20), за исключением
несущественного множителя 2 в левой части. Следовательно, по
теореме 8.4 последовательность {Рп} плотна, что завершает
доказательство.
Таким образом, винеровская мера существует. В
следующих параграфах мы выведем некоторые факты
относительно W. Сейчас же мы только покажем, что
элементы С имеют неограниченную вариацию, за
исключением множества винеровской меры 0. Это интересно
тем, что указывает смысл, в котором винеровские
траектории (элементы С, выбранные согласно вероятностной
мере W) отличаются высокой нерегулярностью — они
непрерывны, но и только.
Элемент х пространства С имеет ограниченную
вариацию тогда и только тогда, когда существует число
Мх такое, что
для всех tOy t\, ..., tk, где 0 ^ tQ ^ t\ ^ ... ^ th ^ 1.
Поэтому достаточно показать, что если

§ 9] СУЩЕСТВОВАНИЕ ВИНЕРОВСКОЙ МЕРЫ 95
то fnW*-*00 всюду, за исключением множества х,
имеющего №-меру 0. Далее, \N\ (см. D.10)) имеет положи-
тельное среднее b и дисперсию c(b = -y/2/n и с =
= 1 — 2/л). Так как величины \x{i2-n) — x((i— lJ~n)|
по отношению к мере W независимы и имеют среднее
2"п12Ь и дисперсию 2-пс, то среднее fn(x) равно 2n/26, a
дисперсия равна с. Из неравенства Чебышева следует
теперь, что W{x: fn(*)>a}—И для любого а. Так как
/п-м(^) 5* fn(x)t то далее получаем, что /?г(*)->°о
всюду, за исключением множества х винеровской меры 0.
Мы будем также использовать символ W для
обозначения случайного элемента со значениями,
принадлежащими С, и с винеровской мерой в качестве
распределения; так что W есть измеримое отображение
некоторого пространства (Q, Jf, P) в С с тем свойством, что
Р{со: W (со) е= А) = W (Л), Ле?,
где W в правой части не что иное, как обычная вине-
ровская мера. Тот факт, что такой случайный элемент
существует, следует из доводов, опирающихся на D.4).
Подобное двоякое использование символа W не должно
вызывать недоразумения.
Мы будем обозначать через Wt(co) или W(t,co)
значение случайной функции №(со) в точке t. Таким
образом, {^:0^/^1}—стохастический процесс,
траектории которого непрерывны для всех со. Этот процесс
мы будем называть винеровским процессом или
процессом броуновского движения. Соотношение Хп—> W
можно интерпретировать либо в соответствии с D.5),
либо в соответствии с D.7) в зависимости от того, как
истолковывается W, как случайная функция или как
мера — смысл один и тот же для обеих интерпретаций.
Броуновский мост. Случайный элемент X из С
называется гауссовским, если все его конечномерные
распределения нормальны. Распределение гауссовского
случайного элемента в С полностью задается средними
E{X(t)} и смешанными моментами E{X(s)X(t)}, 0 < 5,
^^1, так как они определяют конечномерные
распределения. Моменты W равны
0 (9.9)

% ПРОСТРАНСТВО С [ГЛ. 2
И
E{WsWt} = sy если s<*. (9.10)
При изучении поведения эмпирических функций
распределения нам потребуется гауссовский элемент W0
в С, распределение которого задается соотношениями
Е{Г?} = 0 (9.11)
и
EiWsWV^sil-t), если s<*. (9.12)
Мы могли бы доказать существование такого элемента
W0 методами теоремы 9.1, однако проще построить W0
с помощью Wy полагая
Wt = Wt-tWu 0<*<l. (9.13)
Очевидно, что так определенный элемент W0 является
гауссовским случайным элементом в С и соотношения
(9.1) и (9.12) следуют из (9.9) и (9.10).
Случайный элемент W° называется броуновским
мостом (или связанным броуновским движением).
Отметим, что И^о = И^Т = 0 с вероятностью 1. Из (9.11) и
(9.12) вытекает, что
E{(W°t-W°sJ} = (t-s)(l-(t-s)), если s<*, (9.14)
и что
= — (s2 — s{) (t2 — tx), если
Мы будем также использовать символ W° для обо-
значения распределения случайного элемента W° на С.
Если преобразование h: С->С переводит функцию х в
функцию, принимающую в точке t значение x(t) — tx(l),
то меры W0 и W в терминах h связаны соотношением
W° = Wh-K
Сепарабельные стохастические процессы *). Свяжем
нашу конструкцию винеровской меры с понятием сепа-
рабельного стохастического процесса. По теореме
Колмогорова (стр. 316) существует стохастический процесс
{& 0 ^ t ^ 1} на некотором вероятностном
пространстве (Q, ^, Р), для которого распределение любой ко-
*) Эта часть параграфа может быть опущена.

§ 9] СУЩЕСТВОВАНИЕ ВИНЕРОВСКОИ МЕРЫ 97
нечной совокупности \t совпадает с соответствующим
конечномерным распределением для меры W. В
стандартной схеме (Q, $) есть произведение прямых
(R1, 91х), t пробегает отрезок [0, 1], а & являются
координатными функциями.
Множество Qo точек со, для которых |*(со)
непрерывна по t, 0 ^ tf <g 1, не обязано удовлетворять условию
P(Qo)=l; действительно, часто при использовании
стандартной схемы Qo даже не принадлежит 3&.
Возможно, однако, с помощью иной процедуры найти се-
парабельный процесс с предписанными конечномерными
распределениями. Процесс {?*: Osgr^^l} на (Q, ^, Р)
является сепарабельным *), если 3$ полно
относительно Р и если в $ существует множество Е меры 0, а в
[О, 1] счетное множество То такое, что для любых а, |$ и
для любого открытого интервала / мы имеем
-{со: а<&Н<Р, <s/nr}c?, (9.16)
где символом Т обозначен отрезок [0, 1]. Левое
множество в этой разности принадлежит $> потому что Го
счетно; так как Р (Е) = 0 и J? полно относительно Р, то
правое множество в разности также должно
принадлежать $ и иметь ту же самую вероятность.
Если процесс {|*} сепарабелен и имеет
конечномерные распределения, соответствующие броуновскому
движению, то**) множество Qo точек со, для которых
выборочная траектория (?*(со) как функция t) непрерывна,
принадлежит $ и удовлетворяет условию P(Qo)=l.
Если мы отобразим Qo в С, переводя со в
соответствующую выборочную траекторию, и если с помощью этого
преобразования мы перенесем Р (точнее, ограничение Р
на Qo) на (С, Ф), то мы придем к W, что и является
иным способом построения винеровскои меры.
Фактически, задача доказательства непрерывности
выборочных траекторий сепарабельных процессов
совпадает с задачей построения мер на (С, <&). Если любой
сепарабельный процесс с некоторыми заданными
конечномерными распределениями имеет также непрерывные
См. Дуб A956, стр. 53).
См. Дуб A956, стр. 353).
4 П4 Биллингсли

98 ПРОСТРАНСТВО С [ГЛ. 2
с вероятностью 1 выборочные траектории, то, как
показывает проведенное построение, на (С, Щ
существует вероятностная мера с этими конечномерными
распределениями. Докажем обратное.
Теорема 9.2. Если {& О ^ t < 1} — сепарабель-
ный стохастический процесс и если существует на (С, <&)
вероятностная мера с конечномерными
распределениями, совпадающими с конечномерными распределениями
процесса {gj, то выборочные траектории процесса
непрерывны с вероятностью 1.
Доказательство. При доказательстве этого
результата, не ограничивая общности, можно
предположить, что Го содержит все рациональные точки
единичного интервала. В этом случае (9.16) выполняется, если
/ — замкнутый интервал, концы которого имеют
рациональные координаты. Мы воспользуемся соотношениями
(U ?е) + (U ?'е) с у (?е + Е'е) (9.17)
'd), (9Л8)
каждое из которых справедливо в любой области
изменения индекса в *).
Обозначим через V систему чисел
V: k\ г0, ..., rk\ a!, ..., ak, (9.19)
где k — произвольное целое число, /\- и щ —
рациональные числа и 0 = г0 <.... < rk = 1. Имеется счетное
множество таких систем V. Для заданной системы V и
положительного числа в определим
[)U
(9.20)
, e), (9.21)
где пересечение производится по положительным
рациональным е. Обозначим QT(V, е) и йт множества, зада-
*) Напомним, что знаком + обозначается симметрическая
разность.

§ 9] СУЩЕСТВОВАНИЕ ВИНЕРОВСКОЙ МЕРЫ 99
ваемые теми же формулами (9.20) и (9.21), но с
заменой Го на Г = [0, 1].
Так как QT(V, e) + Qr9(Vt в) <=?, из (9.17) и (9.18)
следует, что
QT + QToczE. (9.22)
Далее множество Uto{V, е) представляет собой счетное
пересечение множеств из $ и, следовательно, само
принадлежит $. Отсюда Йг0 е J. Из (9.22) вытекает, что QT
принадлежит $ и Р (QT) = P (QTo). Так как QT есть не
что иное, как множество со с непрерывными
траекториями, то нам осталось лишь доказать, что
P(Qro) = l. (9.23)
Пусть (/ь /2» •••)-" занумерованные в каком-либо
порядке точки множества Го. Для системы V в (9.19)
и положительного е пусть HT(i(V> 8) обозначает
множество точек z = {zu z2, ...) в R°° таких, что для каждого
/ = 1, ..., k неравенство а^ zu ^а^ + е выполняется
для координаты с любым индексом и, для которого
/tte[r/-i, rf]. Тогда НтЛ^> е)е^°°. Если отображение
ф: Q->R°° определить равенством Ф(со) = (?*,(©), ^2(со),...),
то v-lHT.(V, *) = &tAV, e). Если ЯГо= {\B\}VHT,{V, в),
то Нтъ^ЗГ и
Ф-!Яг.-0г.. (9-24)
Определим теперь отображение 'ф: C-+R00
равенством г|)(#) = (a:(/j),а:(^2), ...)• Пусть Р — вероятностная
мера на (С, ^), конечномерные распределения которой
совпадают с конечномерными распределениями {|J.
Если Я — конечномерное множество в R™, то
Я). (9.25)
Так как конечномерные множества образуют поле,
порождающее 52°°, то (9.25) выполняется также для
любого множества* Н из 9t°. Поэтому по формуле (9.24)
P(QTo) = P(<ty-lHTo). Но $-1Нт0 = С, откуда следует
(9.23).
Таким образом, доказательство непрерывности сепа-
рабельных процессов и построение мер на С — это по
существу одно и то же.

100 ПРОСТРАНСТВО С [ГЛ. 2
Примечание. О других конструкциях винеровской меры и об
истории вопроса можно прочитать в монографии Ито, Маккина A968).
Интересное изложение ранней работы Винера см. в статьях книги
«Norbert Wiener, 1894—1964», Bull. Amer. Math. Soc. 72 A966), 1, II.
Задачи
1. Пусть г пробегает совокупность рациональных чисел в [О, I]
и |г — случайный процесс с конечномерными распределениями,
соответствующими броуновскому движению. Используя аргументы
доказательства теоремы 9.1, но не применяя понятие плотности и не
упоминая даже о пространстве С, покажите, что процесс {gr} с
вероятностью 1 равномерно непрерывен по г. Определите для
иррациональных / %t = lim |r и с помощью рассуждений, предшествующих
r->t
теореме 9.2, постройте винеровскую меру на С заново.
2. Покажите, что винеровская мера не обладает локально
компактным носителем.
3. При 0 < t < оо определим Vt = A + t) W°m+t), где W° —
броуновский мост. Процесс {Vt: t ^ 0} имеет выборочные
траектории, которые непрерывны для всех <о, его конечномерные
распределения являются гауссовскими и моменты его равны Е{к*} = 0 и
E{V«F*} = min(s, t). Таким образом, процесс описывает броуновское
движение на интервале [0, оо).
§ 10. Теорема Донскера
Теорема. Пусть даны случайные величины |ь &>, ...,
определенные на (Q,31, Р), пусхь Sn = gi + ... + In —
их частичные суммы, и пусть случайный элемент Х
пространства С определен равенством (8.15):
п
Хп (t9 со) - -^ S{ni] @) + (nt - [nt]) 77^M+i (©). (ЮЛ)
Следующая теорема о сходимости по распределению
случайного элемента Хп принадлежит Донскеру. Во
введении были приведены примеры ее применения.
Теорема 10.1. Предположим, что случайные
величины In независимы и одинаково распределены со сред-
ним 0 и конечной ненулевой дисперсией а2:
E{U = 0, Е{?п} = в2. (Ю.2)
Тогда для случайных функций Хп, определенных
формулой (ЮЛ)9 выполняется соотношение
X^W. A0.3)

§ Ю] ТЕОРЕМА ДОНСКЕРА 101
Доказательство. Мы сначала покажем, что
конечномерные распределения Хп сходятся к
конечномерным распределениям W. Рассмотрим сначала один
момент времени s; мы должны доказать, что
Xa(s)J^W9. A0.4)
Так как по неравенству Чебышева
\Хп{8)
I
1
о у п
о
у п
*0, A0.5)
то соотношение A0.4) будет следовать из теоремы 4.1,
если доказать, что
Но этот факт является прямым следствием центральной
предельной теоремы Леви — Линдеберга (теорема 7.4)
и того факта, что [ns]/n —> s.
Рассмотрим теперь два момента времени s и t, s < U
Мы должны доказать, что
(Xn(s)y Xn(t))~^(Ws, Wt);
это будет вытекать из следствия 1 к теореме 5.1, если
мы покажем, что
(Хп (8)9 Хп (t) - Хп (s)) -^ (Ws, Wt - Ws).
В силу A0.5) и в точности такого же соотношения с sf
замененным на t, достаточно доказать, что
Z>(W99 Wt-Ws). A0.6)
Так как в силу независимости gn компоненты вектора,
стоящего слева, независимы, то соотношение A0.6)
следует из центральной предельной теоремы и теоремы 3.2.
Аналогичным образом рассматриваются случаи трех и
большего числа моментов времени. Следовательно,
конечномерные распределения сходятся надлежащим
образом.
Мы докажем свойство плотности с помощью
следующей леммы, которая является несколько более общей,
чем в данный момент требуется.

102 ПРОСТРАНСТВО С 1ГЛ. 2
Лемма. Пусть |ь ..., lm — независимые случайные
величины со средним 0 и конечными дисперсиями
of; положим St = ?, + ... + |, и 5] = о* + ... + of.
Тогда
Р {max | S, | > Я5т} < 2Р {| Sm | > (л - V2") «J. (Ю.7)
Для доказательства неравенства A0.7) (заметим, что
оно тривиально при Я<! <\/2 ) рассмотрим множества
Ясно, что
m-i
Е Р (Я* П (l Sm |< (Я - У2 )s«}). (Ю.8)
i = l
Учитывая,что неравенства| SJ>Я5т и | Sm |< (я — V2Mm
вместе дают | Sm — Sf | ^ д/2 5т, получаем из
неравенства Чебышева и предположения о независимости |г-, что
сумма в A0.8) не превосходит величины
t-1
т т—\
s*l>^m}. (Ю.9)
Теперь неравенства A0.8) и A0.9) вместе приводят к
A0.7).
Применяя лемму к случайным величинам,
рассматривающимся в теореме 10.1, получаем при % > 2 У2
По центральной предельной теореме

§ 161 tEbPEMA ДОНСКЕРА ЮЗ
Поэтому, если е положительно, мы имеем
lim sup P {max |S,|> Лот У/Г} <-jJ- A0.10)
для достаточно больших X. Плотность {Хп} следует
теперь из теоремы 8.4.
Приложение. Как указано во введении, теорема Дон-
скера имеет следующую качественную интерпретацию:
з>
предельное соотношение Хп —> W означает, что если т
мало, то частица, подвергающаяся независимым
смещениям gi, g2, ... в последовательные моменты времени т,
2т, ... и рассматриваемая издалека, будет совершать
приближенно броуновское движение.
Более важным, нежели подобная качественная
интерпретация, является использование теоремы Донскера
для доказательства предельных теорем для различных
функций от частичных сумм Sn. Во введении намечено,
как использовать соотношение Хп —> W для вывода
предельного распределения случайной величины
теперь мы осуществим это в деталях.
Так как h(x) = sup* x(t) — непрерывная функция
3)
в С, то из соотношения Хп —> W в силу следствия 1
к теореме 5.1 получаем, что
Из очевидного равенства
sup
следует теперь, что
^ S, -^ sup^ Wt. A0.11)
Таким образом, мы получили бы предельное
распределение величины max 5/ (надлежащим образом норми-
<
рованной), если бы знали распределение sup* Wt. (Мы,
разумеется, пока придерживаемся предположений
теоремы 10.1). Для нахождения этого последнего

104 Пространство с (гл 2
распределения вычислим предельное распределение
max S* в одном простом частном случае.
Допустим, что So, Si, ... —это случайные величины
в симметричном случайном блуждании, выходящем из
О
Рис. б.
начала координат (рис. 5). Иными словами,
предположим, что случайные величины \п независимы и
удовлетворяют- условию
Покажем, что для любого неотрицательного целого
числа а
Р{ max Si^a} = 2P{Sn>a} + P{Sn = a}. A0.13)
Случай а = 0 очевиден. Пусть а'> 0 и Mt== max Sh
0</<
Так как
то равенство A0.13) будет выполнено, если мы
покажем, что
P{Mn>a, Sn<a} = P{Mn^a, Sn>a}. A0.14)
Ввиду условия A0.12) все 2п возможные траектории
(Si, S2, ..., Sn) имеют одну и ту же вероятность 2~п.
Поэтому равенство A0.14) будет установлено, если мы
покажем, что число траекторий, входящих в событие в
левой части A0.14), равно числу траекторий, входящих

§ 10] ТЕОРЕМА ДОНСКЕРА 105
в событие в правой части, а чтобы это показать,
достаточно в свою очередь установить для траекторий
взаимно однозначное соответствие*). Фиксируем траекторию
(Si, S2, ..., Sn), входящую в событие в левой части
A0.14), и сопоставим ей траекторию, полученную
отражением относительно а всех частичных сумм, начиная
с той суммы, которая первой достигает уровня а. Так
как соответствие взаимно однозначное, то A0.14)
выполняется. Это рассуждение являет собой пример
принципа симметрии (отражения).
Пусть а — произвольное неотрицательное число, и
пусть ап = — [—апЦ. Из A0.14) мы имеем
~an). A0.15)
По центральной предельной теореме
(ввиду условия A0.12) в этом случае а2 = 1). Так как
наибольшая вероятность в симметричном биномиальном
распределении стремится к 0, то слагаемое P{Sn = ап}
в A0.15) стремится к нулю. Таким образом,
a>0. A0.16)
Объединяя A0.16) и A0.11) (по-прежнему в
предположении A0.12)), мы выводим
a>0. A0.17)
Очевидно, что левая часть соотношения A0.17) равна 0,
если a < 0. Итак, мы установили некоторый факт,
касающийся броуновского движения, комбинируя теорему
Донскера с прямым вычислением вероятностей для
случайного блуждания; простота этого вычисления
объясняется отчасти тем, что оно было сведено к подсчету
числа траекторий, отчасти тем, что случайное блуждание
*) Новый прием (в подлиннике: The new mathematics).

106 ПРОСТРАНСТВО С \ГЛ. 2
не может оказаться выше некоторого уровня а (а —
целое положительное число), не пересекая этот уровень.
Теперь мы исключим предположение A0.12). Если
величины In независимы, одинаково распределены и
удовлетворяют условию A0.12), то соотношение A0.11)
выполняется и из A0.17) можно теперь вывести
a>0. A0.18)
Таким образом, мы получили предельное распределение
для max 5/ в предположениях теоремы Линдеберга —
Леви.
Это рассуждение имеет общий характер. Если
функция h непрерывна на С пли непрерывна всюду, за
исключением множеств винеровской меры 0, то соотноше-
ние Хп —> W влечет
h(Xn)^>h(W). A0.19)
(В только что рассмотренном случае h(x) = supix(t).)
Мы можем найти предельное распределение ft(Xn), если
известно распределение h(W), и часто можем найти
распределение для h(W), отыскивая предельное
распределение для h(Xn) в каком-либо частном случае и затем
используя соотношение A0.19) в обратном
направлении. Следующий параграф содержит дальнейшие
примеры подобных рассуждений.
Следовательно, если величины gn независимы и
одинаково распределены с E{gn} — 0 и Е{??} = <г2, то
предельное распределение h(Xn) не зависит от любых
добавочных свойств gn. По этой причине теорема Донскера
часто называется принципом инвариантности. Здесь мы
будем употреблять другое название — функциональная
центральная предельная теорема. Под этим названием
в дальнейшем будут объединены несколько аналогичных
теорем (точно так же, как и термин центральная
предельная теорема используют для обозначения целого
класса теорем).
Необходимое условие плотности. Исключим
предположение о независимости величин |п и непосредственно

§ Ю] ТЕОРЕМА ДОНСКЕРА Ю7
предположим, что Хп —> W (Хп по-прежнему
определены формулой (ЮЛ)). Мы покажем, что в этих
условиях для любого положительного е существует X (X > 1)
такое, что неравенство
Р{max| St I>Хал/п)<-?- A0.20)
выполняется для всех п, начиная с некоторого п0. В
случае, если последовательность {|п} стационарна, это
утверждение в точности совпадает с предположением
теоремы 8.4, которое мы проверяли при доказательстве
теоремы Донскера.
Пусть У = sup* \Wt\. Ввиду равенства A0.17) и
симметрии W при отражении относительно 0 случайная
величина Y имеет конечный второй момент. Из A0.19) при
h(x) = supt \x{t)\ следует, что для любого
положительного числа X
\ Y2dP. A0.21)
По заданному е выберем X столь большим, чтобы
интеграл в последней формуле был меньше е; из A0.21)
следует теперь, что неравенство A0.20) выполняется
для всех достаточно больших п.
Таким образом, мы видим теперь, что A0.20)
является именно тем условием, которое нужно проверять
при доказательстве плотности в теореме Донскера.
В главе 4 мы используем это же условие при
доказательстве функциональных центральных предельных
теорем для последовательностей зависимых случайных
величин.
Предыдущее рассуждение в действительности
приводит к следующему факту: предположим, что
последовательность in стационарна и что конечномерные
распределения последовательности Хп, определенной в A0.1),
сходятся к конечномерным распределениям случайной
функции X, причем sup*|X(/)| имеет конечный второй
момент. При этих условиях, если {Хп} плотна, то
предположения теоремы 8.4 выполняются. В этом смысле
условие теоремы 8.4 является необходимым (см. абзац,
следующий за формулой (8.9)).

108 ПРОСТРАНСТВО С [ГЛ. 2
Другое доказательство теоремы Донскера*).
Нижеследующая часть этого параграфа посвящена второму
доказательству теоремы 10.1. Это доказательство
интересно тем, что оно мало использует предыдущую теорию.
В действительности, считая доказанным существование
винеровской меры**), мы нуждаемся лишь в
теореме 2.2 и центральной предельной теореме.
Нам нужно доказать, что Рп =^> Wy где Рп —
распределение Хп. Согласно следствию 2- из теоремы 2.2 нам
достаточно доказать, что Pn(A)-+W(A) всякий раз,
когда множество А является пересечением открытых сфер
и удовлетворяет условию W(dA) = 0. Далее, если А есть
пересечение сфер с центрами х\, ..., Xk и радиусами
еь ..., 8ft и если
max (*,(*) —в,)
г (O^
то А имеет вид
А = {х: y(t)<x(t)<z(t), 0</<l}. A0.22)
Нам нужно доказать, что
Pn(A)-+W(A) A0.23)
в предположении, что А определяется равенством A0.22)
cj/, геСи что W(дА) = 0. Мы можем также
предположить, что y(t)<.z(t) для всех t, так как в ином
случае А пусто. (Если у@)ф0 и г@)Ф0, то
автоматически W(dA) = 0, но этот случай нас не интересует.) С
этого момента у и z предполагаются фиксированными.
В первом доказательстве теоремы Доискера мы
показали, что конечномерные распределения Рп слабо
сходятся к конечномерным распределениям W. Это
утверждение, в котором никак не участвует пространство С,
будем считать известным. Таким образом,
Jim Prt{*: (*(*i), ¦..> x(tk))e=H} =
= W {х: (х (*,), .. м x(tk)) г Я} A0.24)
Остальная часть этого параграфа может быть пропущена.
Что само по себе может быть установлено прямым
рассуждением; см. задачу 1 § 9.

§ 16] ТЕОРЕМА ДОНСКЕРА Ю9
для любого 6-мерного борелевского множества И,
удовлетворяющего условию
W{x: (*fo)f ..., x(tk))<=zdH} = 0.
Если для целых значений v положить
А0={х: у(±)<х(±)<г(±). /-0. 1, .... v},
то при и, стремящемся к бесконечности, A2U сужается
до множества тех х, для которых выполняется
неравенство y(t)<x(t)<z(t) при всех двоично рациональных
числах t. Но если W(dA) = Of то последнее множество
отличается от А множеством W-иеры 0. Поэтому для
каждого положительного г\ существует v такое, что
W(A)^W(Av)^W(A) + r\. Так как Pn(A)^Pn(Av)
и так как по A0.24) \\mnPn(Av)= W(AV), то мы имеем
\P(A)W(A) + \. В силу произвольности ц
(A). A0.25)
Мы завершим доказательство, показав, что
\iminfnPn(A)^W(A). A0.26)
Эта часть доказательства является наиболее трудной.
По заданному х\ выберем е так, что если
D{e) = {x: y{t) + 3e<x{t)<z(t)-3B, 0<*<l}, A0.27)
то W(D(e))> W(A) — т|. (Очевидно, что множество
A0.27) возрастает до множества Л, когда е стремится
к 0.) Определим теперь
* —0, 1 v].
При каждом v мы имеем D(e)c:Dv(e) и, следовательно,
W{Dv{*))>W{A)-ri. A0.28)
Выберем и зафиксируем v столь большим, что
<n *

НО ПРОСТРАНСТВО С [ГЛ. 2
где w обозначает модуль непрерывности (8.1). Тогда
при п ^ v
: в. (ю.зо)
Пусть Ln обозначает множество элементов С,
которые линейны на каждом интервале [(/—l)/n, i/n], i =
= 1, ..., п, и пусть Gn — множество х из С, для
которых неравенство
нарушается при некоторых / = 0, 1, ..., п. Если xgLw,
x^Gn (так что A0.31) выполняется для всех / =
= 0, 1, ...,п) и если п^у, то в силу A0.30) */(/)<
<x(t)<z(t) при всех /е[0, 1], так что хеА Таким
образом, Lftf|GrtCii4. Пусть Gn,r — множество х, для
которых двустороннее неравенство A0.31) выполняется
при i < г, но не выполняется при i = г. Так как
Pn(Ln)= 1 и так как Gn,r не пересекаются и в
объединении составляют G, то мы имеем
Рп (Лс) <ZPn (On. г), n>v. A0.32)
При l^r^Az пусть kn,r обозначает такое целое k,
l^k^v, что (k— l)/v < r/n^k/v, и пусть kn,о = О.
По формуле A0.32)
Г-1
г«1
Если x^Gn%T и \x(r/n) — x{kntr/v) |< е, то в силу A0.30)
так что #^Z)v(e). Таким образом, первая сумма в
правой части A0.33) не больше, чем Pn{Dv{e)c). Поэтому

§ 10] ТЕОРЕМА ДОНСКЕРА \\\
при п > v
A0.34)
Покажем теперь, что сумма в A0.34) мала. Заметим
сначала, что при всех s, t и п
-8\. A0.35)
В самом деле, если s и t имеют вид 1/п и j/n9 то левая
часть A0.35) равна Е {(St —SjJ/(na2)} =\t — s\; если s
и t лежат в одном и том же подинтервале [(I— 1)/л, i/n]9
то левая часть A0.35) равна n(t — sJ, что не
превышает |/~s|; общий результат следует теперь из
неравенства Минковского. В силу независимости величин |п
имеем, следовательно,
Так как r/n — kn,r/v < 1/», то из A0.29) следует, что
последний член в A0.36) не превосходит r\Pn(Gn,r).
Используя неравенство A0.34) и тот факт, что сумма
вероятностей P(Gnir) не превышает 1, мы приходим к
оценке
А,(еГ) + ть n>v.
Но из A0.24) вытекает, что limnPn(Dv(e)c) =
= W(Dv(s)c), и поэтому в силу A0.28)
limsupnPn(Ac)<W (Ас) + 2у\.
Поскольку ц произвольно, то тем самым неравенство
A0.26) установлено. В комбинации с оценкой A0.25)
оно приводит к предельному соотношению A0.23) и тем
самым теорема Донскера установлена еще раз,

112 ПРОСТРАНСТВО С [ГЛ 2
Примечание. Эрдеш и Кац A946) первые предложили
принцип инвариантности как способ отыскания предельных
распределений величин, подобных max Sk'- сначала предельное распределение
находится для специального случая, а затем производится переход
к общему случаю посредством установления связи этого результата
с броуновским движением (именно так и возникло это направление).
Еще раньше в этой области появилась работа Колмогорова A931).
Первоначальное утверждение Донскера A951) состояло не в том,
что Хп —>W или что Рп =Ф W, а в том, что h (Хп)—> h (W)
для всех действительных непрерывных фукций Л из С (в силу
теоремы 5.2 это то же самое). Аргументы, приводящие к утверждению
A0.23), принадлежат Донскеру. Колмогоров и Прохоров A954)
впервые указали, что слабая сходимость имеет прямое сюда отношение
и что Рп =Ф W следует из A0.23) и теоремы 2.2. Прохоров A953 и
1956) стал применять понятие плотности. О совершенно ином
подходе к данным проблемам см. Найт A962) и о совсем ином их
применении см. Страссен A964). Ламперти A962а) получил результат,
отличающийся* от теоремы 10.1 тем, что предельным процессом
является не броуновское движение.
Задачи
1. Пусть случайные величины %п\, •••. tnkn независимы со
средним 0 и дисперсиями о2п1; положим Sni = ln{ + ... + lni, s2ni =
3=1 о<п\ "г" • • • "г* °\i и $°п = s\k • Пусть случайная функция Хп ли-
п
нейна на каждом интервале [s^ i-\js\> 5я//5«] и принимает
значения Хп (^t-/s^) = Sni/Sn в точках Деления. Полагая что условие
Линдеберга G.3) выполнено, обобщите теорему Донскера: используя
теорему Линдеберга, неравенство A0.7) и следствие теоремы 8.3,
з>
покажите, что Хп —> W. (Этот результат принадлежит
Прохорову A956).)
§ 11. Функции от траекторий броуновского движения
В предыдущем параграфе мы использовали теорему
Донскера и свойства случайного блуждания для
нахождения распределения sup* Wt. Найдя это
распределение, мы еще раз использовали теорему Донскера для
нахождения предельного распределения maxS,- в общем
<
случае. В данном параграфе мы используем те же
самые приемы для других функций от траекторий
броуновского движения и частичных сумм. Мы вычислим также

§11] ФУНКЦИИ ОТ ТРАЕКТОРИЙ БРОУНОВСКОГО ДВИЖЕНИЯ 113
некоторые распределения, связанные с броуновским
мостом *).
Будем говорить, что имеет место случай Линдебер-
га — Леви, если рассматриваются частичные суммы Sn
независимых одинаково распределенных случайных
величин In со средним 0 и конечной положительной
дисперсией а2. В этом случае Хп всегда будет обозначать
случайную функцию A0.1). Будем говорить, что мы
имеем дело со случайным блужданием, если каждая из
величин In принимает значения + 1 и —1 с вероятностью
1/2 каждое. В этом случае а2 = 1.
Максимум и минимум. Пусть т = inf* Wty M =
= sup* Wti и пусть
mn= min Sh Mn= max St (H.I)
0</< 0<i<
— соответствующие величины для частичных сумм.
Отображение, переводящее точку л: из С в точку (inf*x(/),
sup*jic(tf), x{\)) пространства /?3, всюду непрерывно, так
что по теоремам 10.1 и 5.1 в случае Линдеберга — Леви
±= (mn, Mn, Sn) -^* (т, М, Г,). A1.2)
Мы найдем сначала явную формулу для вероятности
рп(а, Ь, v) = P{a<mn^Mn<b, 5„ = о} A1.3)
для случайного блуждания. Покажем, что если
pn(i) = P{sn = i}, (П.4)
то
рп(а, Ъ, v) =
= Е pn(v + 2k(b-a))- ? рпBb-v + 2k(Ь-а))
/г=—оо ?=»-оо
(П.5)
для любых целых а, Ь и v, удовлетворяющих условиям
a<b, a^v^b. A1.6)
*) Результаты о слабой сходимости в С имели бы малую
ценность, если бы было невозможно провести вычисления, подобные
приводимым в этом параграфе. Однако вычисления сами по себе
несущественны для понимания общей теории.

114 пространство с [гл. 2
Если а < Ь, то ряды в A1.5) в действительности
являются конечными суммами. Отметим, что обе части
A1.5) обращаются в 0, если п и v имеют
противоположную четность.
Для частных значений я, а, Ь и v обозначим
равенство A1.5) через [п, a, b, v]. Мы докажем, с помощью
индукции по /г, что [я, a, b, v] справедливо, если
выполняется A1.6). При п = 0 это следует из
непосредственного рассмотрения возможных случаев. Предположим в
соответствии с методом индукции, что [п—1,а, ft, v]
выполняется для а, Ь, v, удовлетворяющих A1.6). Если
а = О, то A1.3) обращается в 0 (заметим, что I
изменяется от 0 в A1.1)) и суммы справа в A1.5)
сокращаются, поскольку pn(j) = Рп{—/). Таким образом,
[п, а, 6, v] справедливо, если A1.6) выполняется и а = 0;
случай b = 0 разбирается аналогичным способом. Для
завершения рассуждения индукции мы должны
убедиться в справедливости [я,a,b,v] при том, что а < 0< & и
а <; v ^ 6. Но в этом случае а-f 1<0 и 6 — 1^0, так
что оба равенства [я—1, а—1, 6—1, у—1] и [п—1,
а+1, &+li 0+1] удовлетворяют предположению
индукции и, следовательно, оба справедливы. Равенство
[д, a, fe, v] следует теперь из вероятностно очевидных
рекуррентных формул
Рп (У) = у /V-i (/ - 1) + у Рл-1 (/ + 1)
•).
Из равенства A1.5) суммированием по у получаем,
что если
а<0<&, а<и<я<6, (Ц.7)
¦) В задаче 2 указано, как можно прийти к соотношению A1.5)
(рместо того, чтобы его проверять).

§ 111 ФУНКЦИИ ОТ ТРАЕКТОРИИ БРОУНОВСКОГО ДВИЖЕНИЯ Ц5
ТО
<Ь, u<Sn<v} =
&=» — оо
оо
- ? P{2b-v + 2k(b-a)<Sn<2b-u
? = —оо
(П.8)
Положив в этой формуле а = —п— 1, мы придем к
соотношению
P{Mn<b, u<Sn<v} =
= P{u<Sn<v}-P{2b-v<Sn<2b-u}, A1.9)
которое справедливо при —п— l^.u<v^:byb^Q*).
С помощью (П.9) можно снова получить равенство
A0.13).
Итак, A1.8) выполняется для случайного блуждания,
и в силу A1.2) мы можем найти распределение
случайного вектора (m, M, W\), переходя к пределу. Если а, Ь,
и и v — суть действительные числа, удовлетворяющие
A1.7), заменим их в A1.8) целыми числами [ап1/2],
—[— bn]f2]9 [un]/2], — [— vnU2]t соответственно. В силу
центральной предельной теоремы и непрерывности
нормального распределения почленный переход к пределу в
A1.8) приводит к равенству
Р {а < т < М< b, u < W{ < v} =
оо
= Е P{u + 2k(b-a)<N<v + 2k(b-a)} -
&=a— OO
- Е Р {2Ь - v + 2k(b - а)< N <2b -u + 2k{b - а)}.
fc=-oo
A1.10)
Изменение порядка перехода к пределу и
суммирования по k может быть обосновано вариантом теоремы
Шеффе (стр. 307), приспособленным для рядов.
*) См. другое доказательство в задаче 1.

116 ПРОСТРАНСТВО С (ГЛ. 2
Совместное распределение М и W\ можно получить,
устремляя а к —оо в A1.10), но проще вернуться к
случайному блужданию и перейти к пределу в A1.9), что
дает равенство
P{M<b, u<W{<v} =
= Р {и < N < v} - Р Bй - v < N < 2Ь - и}, A1.11)
справедливое при и ^ v ^ Ь, Ь ^ 0. Полагая v = b и
устремляя и-*— оо, возвращаемся к A0.17).
Из A1.10) с и =а и v = b вытекает, что
при а ^ 0 <: Ь. Отсюда при а = —Ь получаем для всех
6^0
= Е {-l)kP{Bk-l)b<N<Bk+l)b}. A1.13)
fc = — оо
По непрерывности строгие неравенства во всех этих
формулах могут быть дополнены равенствами. Правые
части могут быть все переписаны как суммы
нормальных интегралов. Можно*) преобразовать ряды в A1.13)
к виду
*-1
Хотя мы вывели равенства A1.10) — A1.13) переходом
к пределу от случайного блуждания, мы получаем
предельные распределения для (mrt, М„ 5Д), (Mn, Sn), (mn, Mn)
и max | S* | (при соответствующей нормировке) в более
общем случае Линдеберга —Леви, поскольку в этом
случае выполняется соотношение A1.2).
Закон арксинуса. Для яеС пусть h\(x) есть
супремум тех t из [0, 1], для которых x(t) = 0; пусть h2(x) —
•) См. Феллер A967b, стр. 406 и 710).

§ и] функции ot Траекторий броуновского Движения 117
мера Лебега множества тех t из [0, 1], для которых
x(t)>0; пусть, наконец, къ(х)—мера Лебега
множества тех / из [0, h\(x)\ для которых x(t) > 0. Тогда Т =
= hi(W) есть момент времени, когда винеровская
траектория в последний раз проходит через 0, U = h2(W)
есть полное время, которое W проводит выше 0, и V =
= h$(W) — время, которое W проводит выше 0 в
интервале [0, Т]. Мы найдем совместное распределение
(T.U.V.Wx).
В Добавлении II (стр. 316 и далее) показано, что
каждое из отображений hh h2 и hz измеримо и
непрерывно всюду, за исключением множества винеровской
меры 0. Поэтому в случае Линдеберга — Леви
(НЛХп)> М*л), М*«). Xn(l))-Z>{T, U, V, Wx). A1.14)
В схеме случайного блуждания вектор слева в A1.14)
имеет простую интерпретацию: Тп = nh\(Xn) есть
максимум i, 1 <; * ^ я, для которых Si = 0; Un = nh2(Xn)
есть число *, 1 ^ i ^ п, для которых обе суммы S2-_i и 5^
неотрицательны; Vn = nh^(Xn) есть число 19 1 ^ / ^ Tnt
для которых обе сум^ы Si-\ и 5^ неотрицательны и,
конечно, Xn(l) — Sj^n.
В введенных обозначениях в схеме случайного
блуждания имеем, следовательно,
^(T.U, V, Wx). A1.15)
Мы найдем распределение (Г, ?/, V, W\)y переходя к
пределу. В общем случае Линдеберга — Леви левая часть
A1.14) является более сложной функцией частичных
сумм 5ь ..., Sn. После того, как мы найдем
распределение G\ U, V, W\), мы покажем, что соотношение A1.14)
даже в общем случае приводит к предельным теоремам
для величин, естественным образом связанных с
частичными суммами.
Так как компоненты случайного вектора (Г, U, V, W\)
связаны соотношением
X—T + V при
v

118 ПРОСТРАНСТВО С [ГЛ. 2
то достаточно рассмотреть (Г, V, W\) и
соответствующий вектор (Тп, Vn, Sn). Распределение последней
величины в схеме случайного блуждания мы получим,
опираясь на три факта, допускающих элементарные
доказательства, которые мы здесь приводить не будем.
Во-первых, мы используем локальную предельную
теорему для случайного блуждания: если m стремится
к бесконечности и / меняется вместе с m таким образом,
что / и m имеют одну и ту же четность и j/^/tn->y9 то*)
-F'. A1.17)
Во-вторых, мы используем тот факт, что
P{S,>0 S^-.X), Sm = /} = -?-pm(/) A1.18)
т
для положительных /**). Если S2m = 0, то величина
U2m = V2m принимает одно из значений 0, 2, ..., 2/п.
Третий факт***), который мы будем использовать,
заключается в том, что эти т + 1 значения имеют одну и
ту же условную вероятность:
A1.19)
Для вычисления вероятности того, что Тп = 2ft, Vn = 2i
и Sn = /, возьмем в качестве условия событие S2k = 0.
При этом условии последовательности (So, ..., S2k) и
(S2fc+i, • • •» Sn) независимы, Vn зависит только от
первой последовательности, а Тп = 2k и Sn = j тогда и
только тогда, когда элементы второй
последовательности не равны 0 и последний равен /. Из A1.18) и A1.19)
заключаем, что
= ft* @) t^y -^гп Pn-2k (/), A1.20)
*) У Феллера A967а, стр. 187) имеется локальная предельная
теорема для биномиального распределения, из которой вытекает
A1.17), так как величина -«^(S/n + m) биномиально распределена.
**) См. Феллер A967а, стр. 85). Это следует также из A1.9).
***} См. Феллер A967а, стр. 87).

§ II] ФУНКЦИИ ОТ ТРАЕКТОРИЙ БРОУНОВСКОГО ДВИЖЕНИЯ 119
если
0<2*<2?<л, />0. A1.21)
И левая, и правая части равенства A1.20) обращаются
в 0, когда п и / противоположны по четности. Если /
отрицательно, то A1.20) выполняется с |/| вместо /
в правой части.
Мы применим теорему 7.8 к решетке, образуемой
точками Bk/n, 2i/n, j/^n ), где / и п имеют одну и ту
же четность. Допустим, что &, i и / стремятся к
бесконечности вместе с п таким образом, что
2k . 2i j
>t, >v9 -~->x9
n n Vn
где 0<v <.t <\ и x>0. Тогда A1.21) выполняется
при больших п и из A1.20) и A1.17) следует, что
где
iri'm'*t 0<t<L
Тот же самый результат имеет место в силу симметрии
для отрицательных х. Поэтому случайный вектор (в
схеме случайного блуждания)
имеет предельное распределение в /?3, определяемое
плотностью
Г ё(*> х) ПРИ 0<v<t< 1,
f(t9 v,x) = \ ' (И.24)
1 ' ' 7 ( 0 в остальных случаях.
В силу соотношения A1.15) эту плотность имеет
случайный вектор (Г, V, W\). Как следует из формулы
A1.16), распределение вектора (Г, ?/, V, W\) можно
теперь тоже явно выписать.
Из A1.24) вытекает, что условное распределение V
при фиксированных Т и W\ равномерно на [0, Т]\ это
соответствует A1.19). В силу A1.16), если Т = / и Wx=x,

120 пространство с [гл. 2
то величина U равномерно распределена на [1—/, 1]
при х > 0 и на [0, /] при х < 0. Учитывая возможные
значения t и х с помощью формулы A1.24), мы находим
выражение для безусловной плотности U:
g{t,x)dtdx+\\g{t,x)dtdx. A1.25)
0
> <
\-u<t u<t
Интеграл от g(t, x) по области х>0 равен
l/[2itf3/2(l — t)xl2\ а это есть производная по / от
— (A— t)/t) In; следовательно, выражение A1.25) равно
1/[™1/2A-иI/2]. Поэтому
0<u<
A1.26)
Это — распределение арксинуса Леви. Похожая
выкладка показывает, что Т также подчиняется закону
распределения арксинуса:
Соединим теперь A1.14) с только что полученными
результатами для вывода предельной теоремы в общем
случае Линдеберга — Леви. Условимся говорить, что
пересечение нулевого уровня имеет место в момент /, если
происходит событие
?. — {Si = 0}U{S/-i >0>Sl}U{5/-1 < 0<St} A1.28)
(что в схеме случайного блуждания означает Sz==0).
Пусть Т'п есть максимальное из значений i, I ^t^n,
которые являются моментами пересечения нулевого
уровня; пусть U'n —- число тех i, 1 ^ i ^ п, для которых
S*>0, и пусть Vп — число тех /, 1</<Гл, для
которых Si > 0. Мы докажем, что
(— Т» -~[/« Vi, —-—S Л—+(Т FI V ШЛ H19Q^
n n n ayn J
установив, что величина, стоящая в левой части,
аппроксимирует левую часть в соотношении A1.14).

§ it] Функции от траекторий броуновского дбижёния 121
Очевидно, что Т'п/п отличается не более чем на 1/п
от hi(Xn). Если уп есть число тех i, 1 ^ / ^ я, для
которых событие Ег происходит (число пересечений
нулевого уровня), то U'n/n и V'n/n отличаются не более чем
на уп/п от h2(Xn) и h3(Xn), соответственно. Поэтому
A1.29) будет следовать из A1.14) и теоремы 4.1, если
р
доказать, что уп/п —> 0, а для этого достаточно
показать, что
0. A1.30)
Но для любого положительного е
и, следовательно, по центральной предельной теореме
Р(Е{)->0. Соотношение A1.30) есть теперь следствие
теоремы о средних арифметических значениях
сходящихся последовательностей.
Из A1.29) мы можем, например, сделать вывод о
том, что предельным распределением U'n/n и Т'п/п
является арксинус-распределение.
Броуновский мост. Броуновский мост W0 ведет себя
как броуновская траектория W, подчиняющаяся
условию W\ = 0. Это замечание может быть использовано
для вывода распределений, связанных с W°f при
надлежащем переходе к пределу с учетом того, что событие
{W\ = 0} имеет вероятность 0.
Пусть Ре — вероятностная мера на С, определенная
равенством
Докажем, что при е, стремящемся к 0*),
Яе#Г°. A1.31)
Рассмотрим случайную функцию W, определенную на
некотором вероятностном пространстве, и случайную
•) Мы можем предположить, что е стремится к 0 непрерывно,
и воспользоваться определением B.4). Мы можем также устремить в
к 0 и по некоторой фиксированной подпоследовательности
(например, последовательности величин, обратных целым числам).

122 Пространство д (ГЛ. й
функцию W°, определенную на том же самом
вероятностном пространстве соотношением W°t = Wf— tW\ (см.
конструкцию в § 9). Если мы докажем, что
{roeF} A1.32)
е->о
для каждого замкнутого множества F из С, то A1.31)
будет следовать из теоремы 2.1.
Для произвольных t\y ..., tk величина W\ не
зависит от вектора (w]x, ..., №^)> так ка* она некоррели-
рована с каждой компонентой. Поэтому
P{W°<=A9 Wx s iB} = P {W° e= A)P {Wj € B) A1.33)
для конечномерного множества А из С и 5,
принадлежащего Я1. Но при фиксированном В множество тех А
из W, которые удовлетворяют A1.33), является
монотонным классом и, следовательно*), совпадает с 9.
Таким образом, A1.33) выполняется для Ле?? и Вб
е Я1. В частности,
Так как p{W, W°) = \WX\, где р —метрика в С,
то | W\ 1^6, и из того, что W^F, следует, что
FgF6 = {х: р(х, F)^6}. Поэтому, если е< 6, то
Верхний предел в A1.32) не превосходит, таким
образом, величины P{W° e F6}, которая, убывая, стремится
к P{f°ef} при б|0, если F замкнуто. Тем самым
A1.32), а вместе с ним и A1.31) доказаны*).
Допустим теперь, что h есть измеримое
отображение С в Rh и что №° принадлежит множеству Dh
разрывов h с вероятностью 0. Из A1.31) и теоремы 5.1
следует, что равенство
Х«} = ИтР{/г(Г)<а|0<Г1<8} A1.34)
8->0
*) См. Халмош A953, стр. 32).
**) Эта часть рассуждений просто повторяет доказательство
теоремы 4.1*

§ Щ ФУНКЦИИ ОТ ТРАЕКТОРИЙ БРОУНОВСКОГО ДВИЖЕНИЯ 123
выполняется для любого а, при котором левая часть
непрерывна (как функция а, пробегающего Rh). При
помощи A1.34) мы можем найти явные формулы для
некоторых распределений, связанных с W0. Иногда
более удобна другая форма соотношения A1.34):
{()<<,<}. A1.35)
е->о
Это равенство устанавливается тем же путем, что и
A1.34) (вместо [0, е] мы могли бы взять любое
подмножество [—е, е] положительной меры).
Пусть
т = inf t W% M° = sup, W].
Допустим, что а<0<6, 0 < е < b; из A1.10) при
с = b — а имеем
P{a<m<:M<b,0<Wl<e} =
= Z P{2kc<N<2kc + e}-
/г—с»
}. A1.36)
Так как
^ ~X\ A1.37)
то если мы перейдем к пределу под знаками сумм в
A1.36), из A1.34) будет следовать, что
= ?; e-2W- J e-2(w-*c)«. (Ц.38)
&= — оо k~ — оо
Поскольку ряд сходится равномерно по е, переход к
пределу под знаком суммы законен. Таким образом, мы
нашли распределение (т°, М°). Если положить здесь
—а = 6, то получим
=r+

124 ПРОСТРАНСТВО С [ГЛ. 2
С помощью точно такого же рассуждения, примененного
к A1.11), получаем
Р {М° < Ь) = 1 - е~*ь\ Ь > 0. A1.40)
Пусть U0—мера Лебега множества тех точек в [0, 1],
для которых W] > 0. Мы покажем, что величина U0
равномерно распределена [0, 1], установив, что
a, 0<a<l. A1.41)
8->0
В силу A1.16) эта условная вероятность равна
Используя формулу для плотности A1.24), мы вывели,
что распределение V при данных Т и W\ равномерно
на @, Т). Другими словами, если L — V/T, то величина
L равномерно распределена на @, 1) и не зависит от
(T9W\). Поэтому условная вероятность в A1.41) равна
и A1.41) будет следствием теоремы об ограниченной
сходимости, если мы докажем интуитивно очевидное
соотношение
Но это соотношение является следствием A1.37) и
формы плотности A1.24). Таким образом,
} = a, 0<a<l. A1.42)
Примечание. Дальнейшие примеры вычисления
распределений функций от броуновских траекторий см. в работах Ито, Маккин
A968), Карлин A971, гл. 10), Эрдеш, Кац A946 и 1947), Марк
A949), Дарлинг, Эрдеш A956); см. также § 16 этой книги.
Задачи
1. Покажите при помощи принципа отражения в схеме
случайного блуждания, что
где Ъ ^ 0. Выведите отсюда A1,9).

§ 12] ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 125
2. Для неотрицательных целых чисел d пусть л(си ..., ck\ v)
обозначает вероятность того, что «-шаговое случайное блуждание
(п фиксировано) пересекает уровень С\ (один или больше число
раз), затем пересекает —с2, затем пересекает с3, ..., затем
пересекает (—l)h+lCk и заканчивается в v. Используя A1.43) и индукцию
по kt покажите, что
при (-l)fe+ly>^,
при (-1)*+1о<сл.
[Отразите относительно (—1)*0?_| часть траектории, находящуюся
справа от первой точки прохождения через этот уровень,
следующий за последовательными прохождениями уровней С\У — с^ ...
... ("")*""°0?-2\1 Выведите A1.5), доказав для этого равенство
Рп (я» bt v) ¦» рл (о) — я F; v) + л F, а; и) —
— я F, а, Ь\ v) + ... — л (а; о) + я (а, 6; о) — л (а, 6, а; о) + ...
3. Для х из С пусть А (я) есть наименьшее /, для которого
x(t)= supe #(s). Покажите, что Л измерима и непрерывна на
множестве \^-меры 1. Пусть хп есть наименьшее k, для которого
S max 5/. Докажите, что
я
в случае Линдеберга — Леви. [Для случайного блуждания см. Фел-
лер A967а, стр. 95).]
4. Выведите совместное предельное распределение максимума и
минимума величин Si — in-lSn, 0 < i < л, в случае Линдеберга —
Леви. [Рассмотрите УпУ)=* Xn(t)—tXn(l)t где Хп определено в
(ЮЛ).]
§ 12. Флуктуации частичных сумм
В §§ 9 и 10 мы установили плотность
последовательности случайных функций путем нахождения оценок для
распределения максимума некоторых частичных сумм.
Здесь мы получим подобные оценки при весьма общих
условиях; в результате мы придем к практическому
критерию плотности, который будет использоваться на про*
тяжении всей оставшейся части книги.
Максимум. Рассмотрим случайные величины |i, ...
..., |m, которые не обязаны быть независимыми или

126 ПРОСТРАНСТВО С [ГЛ. 2
одинаково распределенными. Пусть S& = gi +\. ¦ + Ik
(So = 0), и положим
Mw= max |S* |. A2.1)
0<?<
Мы получим верхние оценки для вероятности
М^^}, используя некий косвенный прием.
Если
М'т = max min{|S*|, |Sm-S*|}, A2.2)
TO
M'm<Mm. A2.3)
Если lu .... lh-u lft+ь ..., 1m тождественно равны
нулю, то Муп = 0 и Мт = | Ik l Таким образом,
невозможно неравенство, противоположное неравенству A2.3).
С другой стороны, мы все же имеем
|S*|<min{|Sm| + |S*|f |Sm| + |Sm-SA|}«
-|Sm|
так что
A2.4)
(здесь имеет место равенство, если Sw = 0). Поэтому
}. A2.5)
Если мы оценим в отдельности каждое слагаемое в
правой части A2.5), то получим оценку для выражения
слева.
Оценивая Р{Мт^Х} посредством A2.5), мы можем
проиграть в точности по сравнению с какими-либо
прямыми вычислениями. С другой стороны, так как правая
часть A2.5) не превосходит 2P{Mm^Jt/2}, то эта
потеря не должна быть большой: добавочный множитель 2
несуществен для наших целей, а полученные оценки
будут убывать с возрастанием К достаточно медленно, так
что переход от К к Х/2 тоже не будет существенным.
. Существует другой путь вывода оценок для
распределения Мп из оценок для распределения №т. Мы
покажем» что
+ max |i,L A2.6)

§ \й) ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 12?
откуда будет следовать, что
max |g,|>ty4}. A2.7)
Опять, оценивая слагаемые справа, придем к оценке
вероятности слева. Так как правая часть A2.7) не
превосходит 2Р{Мт^ Я/8}, то использование A2.7) не
приводит к значительной потере точности.
Чтобы доказать A2.6), рассмотрим множество /,
состоящее из таких к, О^к^т, для которых |Sfe|^
<; |Sm — Sk|; разумеется, Og/. Если Sm = 0, то
Мт = М'т) так что A2.6) выполняется. Если Sm^0, то
т ф I и, следовательно, существует А, 0 < k ^ m, для
которого ^-1б/и^/:
Для такого k мы имеем
+ liJ, A2.8)
откуда, если учесть A2.4), следует A2.6). (Если m = 5
и li = |2 = |з = h = —-Бб» то в A2.6) мы имеем
равенство.)
Смешанные моменты. Неравенства A2.5) и A2.7)
казывают на необходимость оценить величину
{m^h}. Предположим, что существуют
неотрицательные числа щ, ..., ит такие, что
Е
J<l<k
11, A2.9)
где у и а положительны. Это неравенство выполняется,
например, с у = 2 и а = 1, если |г- независимы, Е{|г} =
= 0, и если в качестве щ берется дисперсия
величины 1{.
Так как ху^(х + уJ для неотрицательных х и у,
то A2.9) влечет неравенство
Е (| S, - St Г • 15, - S, Г} < (, Д/i)*1.
. A2.10)

128 ПРОСТРАНСТВО С [ТЛ.
Кроме того, если \Sj — Si\ ^ К и \Sk —- Sj| > К где К
положительное число, то |Sj — 5f|Y. \Sk — S|Y^ A2
так что из A2.10) следует, что
0</</<*<ro. A2.11)
(Неравенство тривиально, если t = / или / = k.)
Отметим, что A2.9) влечет A2.10), а A2.10) влечет A2.11)
также в случае у = 0 при условии, что мы положим
|л;|0 равным 1, если х Ф 0, и равным 0, если # = 0.
Теорема 12.1. Если у^0 и а> 1/2 и если A2.11)
выполняется для всех положительных X, то для всех
положительных X
Р{М'т>Ь)<^{щ+ ... +uj\ A2.12)
где Ку, а -^ константа, зависящая только от у и а.
Хотя конкретное значение константы не будет иметь
для нас значения, отметим, что в качестве /Су,а можно
выбрать величину
[1 / 1 \2ai
2l/BY+0 "~^21/<2Y+1>J J
Теорема 12.1 имеет сугубо теоретическое значение, так
как постоянная /Сг, ь например, равна 55021 с точностью
до целого числа.
Приложения. Прежде чем доказывать теорему,
разберем несколько ее следствий. Если & независимы и
Е {У = 0, Е {Щ = о], то A2.9) выполняется с у — 2 и
a = 1 при условии, что иг = в2.. Далее, о\ + ... + о2т =
= 5^ есть дисперсия Sm и A2.12) влечет неравенство
^ A2.14)
с /С = /Сг, ь Заменяя X на Xsm и используя A2.5) и
A2.7), мы получаем
^{±} A2.15)
A2.16)

12] ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 129
Согласно A0.7)
Множитель 2_справа не существен, и если X велико, то
К/2 и X — У 2 суть величины одного порядка. Таким
образом, в случае независимости & A2.15) не имеет
преимущества перед A2.17), а A2.16) имеет, так как
5 <12Л8)
и поэтому A2.16) влечет
Jf; t |»Д>. A2.19)
Сумма в правой части входит в условие Линдеберга
G.3).
Можно получить и другие результаты. Например, из
A2.14) следует (см. C) на стр. 305), что
\ (?
У<)
Так как & независимы, мы имеем (суммирование про*
исходит в пределах 1 ^ /, k < m)
\ max,-?*»<? J |-rfP =
-Z S -JMp
1 {«}
5 П. Биллингсли

130 ПРОСТРАНСТВО С [ГЛ. 2
Для неотрицательных U и V имеем
\ UdP
)< \ + J VdP.
Неравенство
A2.20)
(где К' — некоторая абсолютная постоянная) теперь
является следствием A2.6) и того факта, что сумма справа
здесь не превосходит 1. Неравенство сохраняется, если
Mm заменить на S«. Это доказывает, в частности,
равномерную интегрируемость квадратов нормированных
сумм по строкам в схеме серий, удовлетворяющей
условию Линдеберга.
Допустим теперь, что |г- независимы и одинаково
распределены с Е{?г} = 0 и Е{Щ = о2. Тогда A2.15)
влечет
^ {} A2.21)
A2.16) влечет
A2.22)
и A2.19) влечет
^ \ IfrfP. A2.23)
{i }
Так как интеграл в последнем неравенстве стремится
к 0 при К -* оо, то для достаточно больших % имеем
P{Afm>A<rV^TI<-J-. m=l, 2, ...
Таким образом, нами получено другое доказательство
плотности случайных функций, используемых в теореме

§ 12] ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 131
Донскера (см. A0.10)). Отметим, что новое
доказательство не использует центральную предельную
теорему.
Хотя в приведенных приложениях случайные
величины li независимы, э самой теореме 12.1 независимость
не предполагается. Это существенное преимущество:
большинство последующих приложений будут связаны
с зависимыми последовательностями.
Доказательство теоремы 12.1. Предположение
теоремы 12.1 состоит в том, что
A2.24)
KKk
для всех положительных X; нам нужно найти
постоянную /(, зависящую только от у и а, для которой
Р {Aft, > X} < JL (щ + ... + О2а. A2.25)
Обозначим
так что 0 < б ^ 1. Для больших К имеем
26[-i- + il<l, A2.27)
поскольку выражение в левой части приближается к
j/2Ba-n6 при ^^ и Bа>1, б>0) этот предел
меньше 1. Мы докажем, что A2.25) выполняется, если К
удовлетворяет A2.27) и если
К>\. A2.28)
(В действительности A2.27) влечет A2.28).
Наименьшее /С, удовлетворяющее A2.27), дается формулой
A2.13).)
Доказательство ведется индукцией по т. При т = 1
результат тривиален; рассмотрим случай т = 2. Так как
М' = min (I S, |, IS2 — Si |}, то из A2.24) и A2.28)
следует, что
Р W > м < ^ (и, + и2) < JL
5*

132
ПРОСТРАНСТВО С
[ГЛ. 2
Допустим теперь (предположение индукции), что
нужный нам результат выполняется для любого целого
числа, меньшего чем т. Докажем, что он выполняется
для т. Положим и = щ + ... + ит; мы можем считать,
что и > 0. Существует целое ft, 1 ^ h ^ m, такое, что
A229)
где сумма слева равна 0, если Л = 1.
Рассмотрим четыре величины
?/j = max min {| St |, | Vi - S, I},
0<t</i-l
C/2= max min{I S;-Sft |, I Em-SA)
= max idS
~Ey--SA)|} =
-SJ, |5m-Sy|},
D2 = mm{\Sh\, |Sm~SA|}.
Так как A2.24) выполняется, если т заменено на А— 1,
и так как h — 1 < m, то можно применить
предположение индукции к случайным величинам ?i, ..., g^_j и
величинам ии ..., Ид-1 и заключить, что
(«+ +«f<^ JJ A23°)
последнее неравенство здесь следует из A2.29). (При
h=\ A2.30) тривиально.)
Если индексы в A2.24) ограничить пределами h ^
^ i ^ / ^ k ^ m, то в рассмотрении будут участвовать
лишь случайные величины |^+ь ..., gm. Так как m —
— h < m, то предположение индукции применимо к
?/н-ь ..., lm и иЛ+ь ..., «т; следовательно,
02.31)
последнее неравенство снова является следствием
A2.29). (При h = m A2.31) тривиально.)

§ 12] ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 133
Далее, из A2.24) получаем
Р(А>М<^-(«1+ ••• +«mJa = -pv" 02.32)
и
Р {Д, >*.}<-¦?¦• 02.33)
(Если Л=1, то A2.32) тривиально; если h = m, то
A2.33) тривиально.)
Мы покажем, что
mIn{|S,|, |Sm —S,|}<tf, + D,, если 0</<Л-1.
A2.34)
Обозначим через ц{ минимум в левой части A2.34).
Если |Sf|< Uи то
Допустим, что |SA_, — SJ^C/|; если |SA_il = Di, то
lii^uKIS/k-i-SjI + IS»-, |<?/, +D,.
Допустим, что |.SA_i—SJ<C/i и |5m—5A_, | = Z>,; тогда
Тем самым A2.34) доказано. Подобным же способом
можно показать, что
/l, \Sm — S7|}<f/2 + ^2, если A</<m.
A2.35)
Согласно A2.34) и A2.35)
ЛС<тах {?/, + ?„ ?/2 + Z>2}, A2.36)
и следовательно,
. A2.37)
Если Хо и Л,1 положительны и A,0 + ^i=^, то в силу
A2.30) и A2.32)

134 ПРОСТРАНСТВО С [ГЛ. 2
Вычисление показывает, что если Со, С\ и Я
положительны, то
min r^ + ^l-l-CcS + cSr. A2.39)
i Л1> А5 Л J Л
где б определено в A2.26). Минимизируя самую правую
часть неравенства A2.38), мы приходим к соотношению
. A2.40)
Точно такое же неравенство выполняется для U2 + D2
(нужно использовать A2.31) и A2.33)). В силу A2.37)
имеем поэтому
б -11/6
) J . A2.41)
В соответствии с условием A2.27) на /С, правая часть
здесь не превосходит Ku2a/X2v. Этим завершается
индукция; теорема 12.1 доказана.
Моменты*). Заменим теперь A2.9) другим
предположением:
}Za . A2.42)
Из этого предположения следует, что если X —
положительное число, то
A2.43)
Вместо а>1/2 мы сделаем более сильное допущение
а> 1.
Теорема 12.2. Если у ^ 0 и а > 1 и если A2.43)
выполняется при всех положительных Я, то при всех
положительных X
^(щ+ ... +ит)\ A2.44)
где Ку,а зависит только от у и а.
*) Все последующие результаты этого параграфа потребуются
в главах 3 и 4, но не в § 13 настоящей главы.

12] ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 13g
В качестве /Су, а можно взять
2 Y> 2 /
A2.45)
Доказательство. По неравенству Шварца
Р (Ei Г) Е2) < Р1'2 (?,) Р1/2 (?2). Поэтому из A2.43) получаем
(напомним, что х^( + J)
"О"-
Таким образом, A2.11) выполняется с y и с, заменен*
ными на -jY и ^"a> так что согласно теореме 12.1
Р {Afi, > Я} < А. (щ + ... + итУ\ A2.46)
где К — К\ 1 .В силу A2.43) мы имеем
Tv> Ta
P{|5m|>M<^r("i+ ••• +timf A2.47)
и A2.44) следует теперь из неравенства A2.5). (Отме*
тим, что так как правые части в последних двух
неравенствах имеют один и тот же порядок, то A2.44) не
может быть существенно улучшено при использовании
дополнительной информации о распределении |Sm|.)
В качестве применения теоремы 12.2 рассмотрим
вновь независимые одинаково распределенные
случайные величины %i со средним 0 и дисперсией а2; на этот
раз предположим существование конечных четвертых
моментов т4 =а Е {Щ. Далее,
где индексы меняются независимо друг от друга в
пределах от 1 до г. Так как !¦* независимы и их средние
равны 0, то, если значение одного индекса в некотором
слагаемом отличается от значений трех остальных, это
слагаемое исчезает. Так как a4 ^ т4, то
Е {5Г4} = гт4 + Зг (г - 1) а4 < 4гV,

136 ПРОСТРАНСТВО С [ГЛ. 2
и следовательно, A2.42) выполняется с \> = 4, а = 2
и «1 = ... = ит = 2т2.
Теорема 12.2 утверждает теперь, что
^, A2.48)
Где К = Ка,2' Заменяя X на Кол/т, получаем
}5г. A2.49)
Отсюда и из теоремы 8.4 сразу же следует плотность
случайных функций A0.1), входящих в утверждение
теоремы Донскера. Рассуждение, использующее A2.23),
является более мощным, чем настоящее, поскольку оно
требует существования лишь вторых моментов.
Критерий плотности. Теорема 12.2 приводит к крите*
рию плотности последовательности {Хп} случайных
элементов С.
Теорема 12.3. Последовательность {Хп} плотна,
если она удовлетворяет следующим двум условиям:
(i) Последовательность {Хп@)} плотна.
(и) Существуют постоянные y^O m а>1 и
неубывающая непрерывная функция F на [0, 1] такие, что не*
равенство
P{\Xn(ti-Xn(tl)\>K)<-±r\FM--F(tl)f 02.50)
выполняется при всех tu t2y n и всех положительных К.
Неравенство A2.50) является следствием условия
для моментов
E{\Xn(t2)-Xn(tl)ff}^\F(t2)^F(tl)\a. A2.51)
Доказательство. В силу теоремы 8.2
достаточно по заданным е и г\ найти 6, 0 < 6 <С 1, для которого
P{w(Xny 6)>3e}<ri A2.52)
при всех п. В силу следствия к теореме 8.3 неравенство
A2.52) выполнено, если б" —целое и
? Р{ sup |*л(а)-*л(/6)|>в}<4. A2.53)
1 /6<<(ЖN

§ 12J ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 137
Фиксируем на время я, б и /, и для целого
положительного числа т рассмотрим случайные величины
/-1,2,..., т.
A2.54)
В силу A2.50) эти случайные величины удовлетворяют
A2.43) с
щ = F (/б + /бт-1) - F (/б + (/ -
Поэтому по теореме 12.2
4" lf W + О *) - Z7 (/6)]°, A2.55)
6
где /С = /Су, а- Так как Хп принадлежит С, то, устрем»
ляя т к оо, приходим к неравенству
Р{ sup
^ A2.56)
Поэтому
P{ sup \Хл(8)-ХпШ>*)<
/6<«/+i)e
ji
JL[FA) _ F@)] [ max | F((/ + 1N)-F(/б) \Г\ A2.57)
8 !
если б" — целое. Так как функция F непрерывна и
а > 1, то мы можем сделать последнюю величину в
A2.57) малой, выбирая б равным обратной величине
большого целого числа. Теорема доказана.
Идеи, положенные в основу этого доказательства,
приводят к условию существования в С случайного
элемента с заданными конечномерными распределениями.
Для каждого набора k точек из [0, 1] пусть \it щ t
обозначает вероятностную меру на (/?*, 52*). Предположим,
что эти меры удовлетворяют условиям согласованности
теоремы Колмогорова (в ее общей форме; см. стр. 316).

J38 ПРОСТРАНСТВО С [ГЛ. 2
Теорема 12.4. В пространстве С существует
случайный элемент с конечномерными распределениями
и, . при условии, что эти распределения согласовав
ны и что существуют постоянные у ^ 0 и а > 1 и
неубывающая непрерывная функция F на [0, 1] такие, что
при всех t\ и t2 и всех положительных Я.
ству
A2.59)
Если \xt #л удовлетворяют неравенству
то A2.58) тоже справедливо.
Доказательство. Для каждого п построим
кусочно-линейную случайную функцию Хп, которая
линейна на каждом интервале [(/— 1J~п, /2~п] и для которой
совместное распределение величин
Хп(\)
есть ty э...э t с tt = i/2n. Если t{ и t2 являются целыми
кратными 2""п, то в силу A2.58) имеем
Р {| Хп (L) - Хп (/,) | > К) < -Jj-1 F (/2) - F (/,) Г. A2.60)
Как и в предыдущем доказательстве рассмотрим
фиксированные п, б и /, причем б будем считать целым.
Если числа
/6 + й/п-1, / = 0, 1,...,ш, A2.61)
входящие в формулу A2.54), являются все целыми
кратными 2~n, то A2.55) выводится, как и раньше.
Допустим, теперь, что 62П — целое число. Если мы положим
m = 62n, то точки A2.61) действительно являются
целыми кратными 2~п, так что A2.55) выполняется.
Более того, совокупность A2.61) в этом случае в точности
совпадает с совокупностью целых кратных 2~п,
лежащих в интервале [/б, (/+ 1N]. Отсюда вытекает всле,д-

§ 12] ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 139
ствие кусочной линейности Хп, что A2.56) и A2.57)
снова выполняются.
Таким образом, A2.57) выполняется, если и б", и
62П являются целыми числами. Если мы положим б =
= 2"v, где целое число v достаточно велико, чтобы
правая часть A2.57) была меньше г), то A2.52)
выполняется при всех п ^ v. Этого достаточно для плотности,
так как все Хп@) имеют одно и то же распределение.
По теореме Прохорова существует, следовательно,
случайный элемент X в С и подпоследовательность
{Хп'} такие, что Хп*—>X. Если tu ..., tk являются
двоично рациональными числами, то в силу
предположения о согласованности мер вектор (Xn(t\)9 ..., Xn(tk))
имеет распределение \it , для всех достаточно
больших п. Следовательно, распределение вектора (X(ti), ...
..., X(tn)) есть \it ,. Для произвольных точек
tu ..., th из [0,1] существуют двоично рациональные
числа s\v\ ..., s^ такие, что Iim5(t;)=^; так как
v
(X(s°])f ..., ХD0))) сходится по распределению к
{X(t\), ..., X(tk)) и так как (вследствие A2.58) и
непрерывности F) \xs(V) ^ $(V) слабо сходится к \it ^t , то
(X(tx), ..., X(tky) имеет [it ^t своим распределением.
Таким образом, X представляет собой искомую
случайную функцию.
Существование W и W0 снова следует из теоремы
12.4*).
Другие неравенства. В главе 3 нам понадобится
усиление теоремы 12.1. Если
М'т = max min {IS, - S, |,| S* - S, |}, A2.62)
TO
M'm<M'L A2.63)
(Если m = 3 и Б1 = -Ь = ?з, то М'т = 0 и AC = l6i|.)
Поэтому оценки для хвостов распределения М'т сильнее,
*) Теорема 12.4 в комбинации с теоремой 9.2 дает условие
непрерывности выборочных траекторий сепарабе^ьных процессов.
Обобщения и другие варианты теорем 12.3 и 12.4 см. в задачах 7 и 8
этого параграфа и в задаче 4 § 15.

140 ПРОСТРАНСТВО С [ГЛ. 2
чем оценки для хвостов распределения М'т. Следующий
результат уточняет теорему 12.1.
Теорема 12.5. Если y^O и а > 1/2 и если для
всех положительных X
, A2.64)
то для всех положительных К
Р {Aft >М <%"(«!+ ¦•¦ +О2а, A2.65)
/Су, а — постоянная, зависящая только от у и а.
ДоказательствQ. Положим
Nm= min max {max 15/1, max|5m —5J}. A2.66)
Если / — индекс, при котором здесь достигается
минимум, и i ^ / ^ ky то или /, / < / или же / ^ /, k, откуда
вытекает, что
A2.67)
Следовательно, достаточно найти постоянную К,
зависящую только от у и а такую, что A2.64) влечет
|f(«l+ ... +«mJa. 02.68)
(Так как JVm<2AC то A2.68) и A2.65)
равносильны.)
Пусть К, К ^ 1, столь велико, что
<*в, A2.69)
где 6= 1/Bу+1), как и раньше. Мы докажем
индукцией по т, что такое значение К годится для нашей
цели. Случаи m = 1 и m = 2 разбираются просто.
Следуя принципу индукции, предположим, что
результат имеет место для целых чисел, меньших пг. Как

§ 12] ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 141
и при доказательстве теоремы 12.1, выберем А, 1 ^ A ^
^ /п, такое, что
иг+ ... +uh_x ^1^ их+ ... +uh
и ^2^ и '
где и = щ + ... +ит.
Введем обозначение Ах для Nh-\\
А{= min max { max \St\, max |SA-i — St I}. A2.70)
1</<Л 0<i<l l<i<h
Введем обозначение А2 для величины Nm-h, построенной
по случайным величинам lh+u ..., gm:
Л2== min max { piax | S^ — SA |, max |5m — S/|K
A2.71)
Применяя предположение индукции к |ь ..., ?А_Ь имеем
^ |J^- A2.72)
А+1, ..., |т, имеем
^^". A2.73)
Применяя предположение индукции к 1А+1, ..., |т, имеем
Обозначим
и определим
5 = max{[i@, A—1, т); (л@, А— 1, A); \i(h— 1, А, т);
|1@,Л,т)}. A2.74)
В силу A2.64)
Р{В>М<4-^. A2.75)
Покажем теперь, что
ЛГт<тах{ДьЛ} + 2В. A2.76)
Пусть /i и /г — те значения индексов, при которых
достигается минимум в A2.70) и A2.71). Для того чтобы
доказать A2.76), мы должны указать такое /, 1 ^/^
^ т, для которого
max |S,|<max{i4lf A2} + 2B A2.77)
о<*<*

142 ПРОСТРАНСТВО С [ГЛ. 2
max |Sm — 5,|<тах{Ль А2} + 2В. A2.78)
Допустим сначала, что
A2.79)
|Sm-S,|<B. A2.80)
Мы покажем, что значение l = h удовлетворяет A2.77)
и A2.78). Действительно, из 0 ^ i ^ 1\ следует, что
|5f|^i4i9 и из /i ^ I < / = h следует в силу A2.79),
что
так что A2.77) выполняется; соотношение A2.78)
устанавливается тем же самьш путем.
Допустим теперь, что какое-либо из неравенств
A2.79), A2.80) не выполняется. Для определенности
предположим, что не выполняется неравенство A2.79).
Покажем, что значение 1 = 1\ удовлетворяет A2.77) и
A2.78). Так как A2.79) не выполняется, то из
определения величины В в A2.74) следует, что |Sm — Sa_i|^fl
и |?Л|<В. Если <Х*</=/ь то |S*|<i4i.
Следовательно, неравенство A2.77) справедливо. Если 1 = 1Х^.
^ i < Л, то
если h ^ I < /2, то
если k ^ i ^ т, то 15т — 5г-1 ^ Л2. Следовательно,
неравенство A2.78) тоже выполняется. Если вместо
A2.79) не выполняется A2.80), то A2.77) и A2.78)
справедливы с / = /2. Тем самым A2.76) доказано.
Для положительных чисел ко и ii, в сумме равных X,
A2.76) влечет
A2.81)

§ 12] ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 143
Применяя неравенства A2.72), A2.73) и A2.75), мы
получаем
Используя теперь A2.39), находим
откуда в силу A2.69) следует A2.68). Этим завершается
доказательство.
Предположения теоремы 12.5 удовлетворены, если
li независимы, Е{^.} = 0, Е{1]} = ир у = 2 и а=1.
В этом случае |* и щ удовлетворяют также более
сильным предположениям следующей теоремы и,
следовательно, справедливы и ее более сильные выводы. Если
все дисперсии ии кроме одной, равны 0, тоР {М'т^к} =
= 0, когда Я > 0; правая часть A2.65) при этом
положительна, а правая часть A2.83) равна 0.
Теорема 12.6. Если у^О и а > 1/2 и если для
всех положительных X
го для всех положительных К
(«,+ ... +«J?O min [l -IL.-—T
l<ft<ro L «i + ... +um J
A2.83)
25б AY, а зависит только от у и a.
Моментной формой неравенства A2.82) является
первое из рассмотренных нами неравенств A2.9), которое
влечет A2.82).
Доказательство. Выберем /г, минимизирующее
последний множитель в A2.83); обозначим
и = щ + ... + ums

144 ПРОСТРАНСТВО С \ТЛ. 2
И
.-.' +ит)/и.
Как и в предыдущем доказательстве, определим А\
формулой A2.70), А2 — формулой A2.71) и Б —формулой
A2.74). В силу A2.82)
„2а „2а
Подобная оценка имеется для каждой из остальных
величин \х в A2.74). Поэтому
„2а
Обозначим /С = /С?а. Так как из A2.82) следует
A2.64), то из теоремы, 12.5 (в усиленном варианте
A2.68)) вытекает, что
Далее, неравенство A2.76), как и раньше, справедливо
и, следовательно,
Комбинируя это неравенство с тремя предыдущими, мы
приходим к оценке
Справедливость A2.83) при некотором К%'а легко
теперь следует из A2.67).
Примечание. Результаты этого параграфа являются новыми.
В их основе лежат работы Колмогорова (см. Слуцкий A937) и
Ченцов A956)).

§ 12J ФЛУКТУАЦИИ ЧАСТИЧНЫХ СУММ 145
Задачи
1. Сделайте задачу 1 § 10 еще раз, используя A2.19) вместо
A0.7).
2. Если мы ослабим A2.42), предположив, что это неравенство
справедливо только для пары индексов i = 0, / = m, но
компенсируем это предположением, что Si, ..., Sm образуют мартингал и
Y^ 1, то [Дуб A956), стр. 302)]Р{Мт>Л}<(и,+ ... + «тДО
(эта оценка по существу одинакова по силе с A2.44)).
3. Пусть gi, ..., \т независимы со средним 0 и конечными
моментами порядка 2k. Используйте полиномиальную теорему для
нахождения постоянной Са, зависящей только от k и такой, что
Обобщите A2.48).
4. Используя A2.12), покажите, что для положительного е
5. Преобразуя доказательство неравенства Меньшова [Дуб
A956), стр. 144)], покажите, что если A2.10) справедливо са> 1/2
и y> 1/2, то
Затем выведите, что если справедливо A2.42) са>1 и y ^ 1» то
E{AfJ}<(log24m)»(«I+ ... +«m)«
(При y = 2 и a=l снова получается неравенство Меньшова.)
6. Используйте теорему 12.2 для доказательства того, что если
§i» %2> ••• удовлетворяют неравенству
с Y ^ 0, а > 1 и 2] ut ^ °°> то Ряд 2j %t СХО5ИТСЯ с
вероятностью 1. Получите результат, связанный аналогичным образом
с теоремой 12.6.
7. Теорема 12.3 остается верной, если заменить A2.50)
предположением, что неравенство
Р {| Хп @ — ДГЛ (*,) | > К, \Хп (t2) - Хп @ | >Я} <
¦ F (h) |2a A2.84)
справедливо при t\ ^ / ^ t2 и всех ai, где о *> 1/2.
8. Теорема 12.4 станет неверной, если («2.58) ослабить до
условия, аналогичного A2.84); она также станет неверной, если условие

146 ПРОСТРАНСТВО С [ГЛ. 2
а > 1 заменить условием а ^ 1. [Предположите, что \it есть
единичная масса в 0 или в 1, если t < 1/2 или / ^ 1/2.] Посмотрите,
однако, задачу 4 в § 15.
9. Пусть
2n(t-^±) при ^ll<(<tzl+ I
О в остальных случаях
и пусть Хп принимает значение xnk с вероятностью 1/я, ^«=»
«1 ..., п Тогда
для всех пу t\ и t2. Так как последовательность {Хп} не является
плотной, мы не можем положить а = 1 в теореме 12.3. Подобным
же образом, мы не можем положить а = 1/2 в задаче 7.
§ 13. Эмпирические функции распределения
Пусть lu h ... —случайные величины на
некотором пространстве (Q, 9&, Р). Будем предполагать, что
ш)<1 A3.1)
(этого всегда можно добиться с помощью
соответствующего преобразования).
Эмпирическая (или выборочная) функция
распределения Fn(t,(u), соответствующая точкам ii(co), ...
..., ?п(о)), определяется при 0 ^ / ^ 1 как умноженное
на l//i число индексов I < я, для которых gi(co) < t.
Если In независимы и имеют одну и ту же функцию
распределения F(t) (ввиду A3.1) существенны только
значения t из [0, 1]), то при больших п Fn(t,(u) должна
аппроксимировать F@> иными словами, разность
A3.2)
должна быть мала. Согласно теореме Гливенко — Кан-
телли величина
sup |Fn(*,©)-F(/)l A3.3)
сходится к 0 с вероятностью 1*). Если функция F не-
•) Лоээ A962, стр. 28).

§ 13] ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ \4?
прерывна, то можно найти предельное распределение
(надлежащим образом нормированной) величины A3.3);
эта предельная теорема, принадлежащая Колмогорову,
соотносится с теоремой Гливенко— Кантелли так же, как
центральная предельная теорема с законом больших
чисел.
Мы рассмотрим в этом параграфе только случай
F(t)= t\ так что In независимы и имеют одно и то же
равномерное распределение на [0, 1]. Результат
Колмогорова заключается в том, что
Р{о>: suplV^nfc ©)-0|<а}->
-^1—22 (-1)*+1 e~2k'a\ а>0. A3.4)
Мы получим A3.4), используя теорию слабой
сходимости в С.
Рассмотрим функцию Уп(а)), принимающую значение
Yn{t, (o) = V^(^(^cd)-0 A3.5)
в точке /. Хотя Уп(со) и является заданной на [0, 1]
случайной функцией, она, будучи разрывной, не является
элементом С. Если бы мы установили сходимость по
распределению Yn как случайного элемента
соответствующего пространства разрывных функций с
соответствующей метрикой, мы были бы в состоянии получить A3.4)
методами §§ 10 и 11, так как
где h(x) = supt\x(t)\. Хотя в следующей главе мы
будем анализировать Yn как случайный элемент
метрического пространства разрывных функций, здесь мы
обойдем проблемы разрывности, принимая другое
определение эмпирической функции распределения. (Мы сможем
тем не менее вывести именно соотношение A3.4), а не
какое-либо его видоизменение.)
Пусть Gn(/, со) как функция /е[0, 1] есть функция
распределения, соответствующая равномерному
распределению массы (я+1)-1 на каждом из (п+1)
интервалов С КОНЦаМИ [g(i-l)(@), ?(г)@))], ГДе g@) = 0, ^71+1)= 1
и |A), ..., %{п) есть величины |ь ..., ?п, расположенные

148
ПРОСТРАНСТВО С
[ГЛ. 2
в порядке возрастания. (Отметим, что Fn(t,&)
соответствует распределению массы п~1 в каждой из п точек
ii (со), ..., |п (со).) Функции Fn(t,(d) и Gn(tt со) близки
между собой (рис. 6):
Рис. 6.
чайным элеменхом
имеем
sup | Yn (t
t
/
в С
0</<1. A3.6)
Пусть теперь Zn((o)—
элемент пространства С со
значением
A3.7)
в точке t. Так как при
каждом t функция Zn(t)
представляет собой случайную
величину, Zn является слу-
Zn] V с: J). В силу A3.6)
>) |
A3.8)
Теорема 13.1. Если |п независимы и одинаково
распределены на [0, 1] и если случайная функция Zn
определена формулой A3.7), то
Zn^W°9 A3.9)
где W° является броуновским мостом.
Прежде чем доказывать теорему, выведем из нее
A3.4). Так как функция h(x) = sup|x(/)| непрерывна
на С, то из A3.9) вытекает, что h{Zn)—>h{W°). В силу
A1.39) имеем
Р {sup |
а>
— 2 J; (-l
a>0,
так что A3.4) следует из A3.8) и теоремы 4.1.
Используя A1.40), мы можем тем же самым путем
получить соотношение
}>l-e-2«\ a>0. A3.10)

§ !3] ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ 149
Если h(x) представляет собой лебегову меру
множества тех t, для которых x(t)> О, то в силу A1.42)
l; A3.11)
h(Zn) приближенно равно произведению п~х на число
индексов /, 1 ^ i <; п> для которых ?(;> > Цп.
Доказательство. Для доказательства A3.9) мы
сначала покажем, что конечномерные распределения Zn
сходятся к конечномерным распределениям W0. Пусть
Un(t, со)= nFn(t, со) —число тех точек среди gi(со), ...
..., |п(со), которые удовлетворяют условию ?г(со)^/.
Если
то случайные величины
Unitd-Unib-J, /=1, 2, ..., ft, A3.12)
имеют полиномиальное распределение с параметрами п
и pi = ti-—ti-i, i=l, 2, ..., k. Из центральной
предельной теоремы для полиномиальной схемы следует,
что случайный вектор с компонентами
Yn (U) ~ Yn (U-x) - -4- ((Un (h) - Un (/,_,)) - npt), A3.13)
I -_ i о t,
* A> ^> • • •> ^j
сходится по распределению к случайному вектору с
компонентами Wti — W°ti_ml (по формулам (9.14) и
(9.15) эти нормально распределенные случайные
величины имеют нужные дисперсии Pi(l-pi) и ковариации
—pipj). В силу A3.8) сказанное остается верным при
замене A3.13) на
Zn(tt)-Zn(ti^)t i=l, 2, ..., ft.
Таким образом, конечномерные распределения
случайной функции Zn сходятся надлежащим образом. Если
мы докажем, что последовательность {Zn} плотна, то
A3.9) будет выполняться. По теореме 8.3 для этого
достаточно показать, что для любых положительных е и г)
существуют б, 0<6<1, и п0 такие, что как только
п ^ по, то при всех t
Р{ sup |Ze(s)-Z,(OI>e}<en. A3.14)

150 ПРОСТРАНСТВО С [ГЛ. 2
В силу A3.8) мы можем заменить A3.14) на
Р{ sup \Yn(s)-Yn(t)\>e}<:6x]. A3.15)
Легко показать, что событие, вероятность которого
оценивается в A3.15), принадлежит а-полю, порожденному
1и •-., 1п\ неравенство A3.15)—это всего лишь
неравенство, касающееся gb ..., gn (мы не анализируем Yn
как случайный элемент пространства разрывных
функций). Для удобства обозначений положим в A3.15)
/ = 0:
A3.16)
(Это не является дополнительным ограничением,
поскольку распределения приращений Yn(t) стационарны.)
Оценим вероятность в A3.16), используя теорему
12.1. Покажем, что
<6Plp2. A3.17)
Пусть аи 1 <J i ^ п, равно 1—pi или — р\ в
зависимости от того, лежит %г в интервале (s, s + P\] или нет,
и пусть Рг равно 1 —/?2 или —р2 в зависимости от того,
лежит li в интервале (s + pu s + р\ + р2] или нет.
Тогда A3.17) эквивалентно неравенству
Е { ( S а,) (t ft) } < 6л?р1Й. A3.18)
Так как \ь независимы, то случайные векторы (ah p*)
также независимы. Так как lt равномерно распределены,
то векторы (a/, Pj) принимают значения A — рь — р2)9
(— Ри 1 — рг) и (—Ри — Рг) с вероятностями ри р2 и
р3=1—pY—ръ соответственно. В силу равенства
E{} E{P;} = 0 и по соображениям симметрии
+ п (я - 1) Е {aft Е Щ + 2я (я - 1) Е {аД} Е {tt2p2}.

§ 13]
ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ
151
Теперь A3.18) следует из соотношений
==Pi(l — PiJ Pi + PA О - P2J + PsPlPl < ZPiPv
E {a*} E Щ = Pl A - Pl) p2 A - p2) < Plp2
Рассмотрим при фиксированном б величины
. A3.19)
Если у = 2 и a = 1 и если щ = 6I/26/m, то в силу
A3.17) предположения теоремы 12.1 выполнены с
величинами A3.19) в роли li. Для
A3.20)
мы получаем, таким образом,
с /С —/С2,1.
Если
Мт = max
то согласно A2.4)
Отсюда и из A3.20) имеем
Далее, при каждом (о функция УпE, (о) непрерывна
справа в трчке 5. Поэтому Мт сходится к sup| Yn{s> ©)l
<6
|}. A3.21)
при каждом со, когда т-*оо. Следовательно, A3.21)
влечет
^{y}. A3.22)

152 пространство с [гл. а
Вследствие асимптотической нормальности вектора
A3.13) YnF) -^> УбA-6)-# при п-*оо (б
фиксировано) и, следовательно,
Поэтому при п, превосходящем некоторое /гб,
откуда в силу A3.22)
Р{sup | Yn(s) | > 8}< 6'24(Д + 1) б2. A3.23)
По заданным е и у\ выберем б так, что 6 • 24 (/С -Ь О X
X62/e4<Srb При «>Агб A3.16) следует из A3.23).
Этим завершается доказательство теоремы 13.1.
Изложение несколько затемняется тем, что, желая в
действительности анализировать Уп, мы вынуждены
заменить Yn на Zn только для того, чтобы остаться в
пространстве С. В § 16 мы рассмотрим функцию У„ в
естественном для нее пространстве и докажем предель-
ное соотношение Yn —^ W0 и некоторые его обобщения
в этом пространстве. Хотя доказательства в § 16
опираются на солидную теорию, они много более прозрачны,
чем данные в настоящем параграфе.
Примечание. Дубу A956) принадлежит идея доказательства
A3.4), использующего переход от случайной функции A3.5) к
броуновскому мосту. Донскер A952) обосновал этот переход.
Доказательство, помещенное здесь, восходит к Ченцову A956). Кац A949)
первоначально доказал A3.11). Обзор предельных теорем, связанных
с A3.5), и обширную библиографию см. у Дарлинга A957). См.
также более поздние статьи: Бикель A967 и 1969), Бирнбаум, Пайк
A958), Пайк A965 и 1968), Пайк, Шорак A968).

Глава 3
ПРОСТРАНСТВО D
§ 14. Геометрия пространства D
Пространство С непригодно для описания процессов,
которые, подобно пуассоновскому процессу, но в
противоположность броуновскому движению, могут содержать
скачки. В этой главе изучается слабая сходимость в
пространстве, которое содержит некоторые разрывные
функции.
Пространство D. Пусть D = DfO, 1]—пространство
функций ху определенных на [0,1], непрерывных справа
и имеющих левосторонние пределы:
(i) При 0^/< 1 предел x{t+) = limx(s) существует
() ()
(ii) При 0 < / ^ 1 предел х (t —) = lim x (s) суще*
ствует.
Говорят, что функция х имеет разрыв первого рода
в точке ty если пределы x(t—) и x(t-\~) существуют, но
различны и x(t) заключается между ними. Все разрывы
элемента пространства D —это разрывы первого рода;
предположение о том, что x(t) = x(t-{-), представляет
собой удобную нормировку. Разумеется, С является
подмножеством пространства D.
Определим для х е D и То cz [0, 1]
w* (То) = sup {| x{s)-x (t) |: Sfte Го}. (И. 1)
Модуль непрерывности функции х, определенный
формулой (8.1), можно выразить с помощью A4.1)
следующим образом:
wx F) = sup wx [t, t + Я A4.2)

154 Пространство b [гЛ. 3
Функция, непрерывная на [0, 1], равномерно непрерывна
на этом отрезке. Следующая лемма дает
соответствующее представление о равномерности для элементов D.
Лемма 1. Для любой функции х из D и любого
положительного числа е существуют точки t0, tu ..., tr
такие, что
O = tQ<t{< ... </г = 1 A4.3)
и
«>*fc-b **)<e, i=l, 2, ..., г. A4.4)
Доказательство. Определим т как точную
верхнюю грань тех точек t из [0, 1], для которых интервал
[О, t) можно разбить на конечное множество подинтерва-
лов [/*_!, tf), удовлетворяющих условию A4.4).
Поскольку *@) = х@+), то т>0; так как предел х(х—) су*
ществует, то интервал [0, т) сам может быть разбит
аналогичным образом на подинтервалы; т не может быть
меньше 1, так как в этом случае х(х) =х(т+).
Из этой леммы следует, что может существовать
лишь конечное множество точек tt в которых скачок
\x(t)—x(t—)| превосходит заданное положительное
число, поэтому х имеет не более чем счетное множество
точек разрыва. Из леммы следует также, что функция х
ограничена:
sup[*(/)|<oo. A4.5)
t
Наконец, из леммы следует, что функция х может быть
равномерно приближена простыми функциями,
принимающими постоянное значение на интервалах,
поэтому х измерима по Борелю.
Нам понадобится модуль, играющий в D ту же роль,
что и модуль непрерывности в С. Положим при 0 <
<б<1
w'xF) = ini max wx[tt-u tt\ A4.6)
{*,} 0<i<r
где нижняя грань берется по всем конечным множествам
{t$ точек, удовлетворяющих условиям
6, /=1, 2, .... г.

§ 14] ГЕОМЕТРИЯ ПРОСТРАНСТВА D 155
Лемма 1 эквивалентна утверждению о том, что для
любого элемента х пространства D справедливо
предельное соотношение
\imw'xF) = 0. A4.8)
60
Определение модуля w'x (б) имеет смысл, даже если х
не принадлежит D. Подобно тому, как условие
lim ш^ (б) == 0 необходимо и достаточно для того, чтобы
произвольная функция х, заданная на [0, 1],
принадлежала С, условие A4.8) необходимо и достаточно для
того, чтобы функция х принадлежала D.
Так как при любом б < 1/2 интервал [0,1) можно
разбить на подинтервалы [/<_i, U) длины б < U — ft-i ^
< 26, то
A4.9)
при б < 1/2. Противоположное неравенство, вообще
говоря, не имеет места; это следует из соотношения A4.8)
и того факта, что wx(8) не стремится к 0 вместе с б,
если х имеет разрывы.
Допустим, однако, что х е С. При данном е
выберем точки {/J, удовлетворяющие условиям A4.7) и
max wx ft-,, /«) < w'x F) + e. A4.10)
0<*<r
Если \s — ?|<6, то s и t лежат в одном и том же под-
интервале [ti-u U) или в граничащих подинтервалах. Из
условия A4.10) и предположения о непрерывности х
следует поэтому, что wx (б) <J 2w'x (б) + 2е. В силу
произвольности е имеем
WxFX2w'xF), если х<=С. A4.11)
Согласно соотношениям A4.9) и A4.11) модули
wx(8) и w'xF) Для непрерывных функций х по существу
совпадают.
Топология Скорохода. Две функции х и у близки друг
другу в равномерной топологии (используемой в
пространстве С), если график x(t) может быть
преобразован в график y(t) посредством равномерно малого
возмущения ординат при остающихся неизменными
абсциссах. В пространстве D мы разрешим также
равномерно малую деформацию шкалы времени. Физически

156 ПРОСТРАНСТВО D [ГЛ. 3
это равнозначно допущению о невозможности измерить
время с большей точностью, чем положение в
пространстве. Следующая топология, предложенная Скороходом,
воплощает эту идею.
Пусть Л обозначает класс строго возрастающих,
непрерывных отображений отрезка [0, 1] на себя. Если
^еЛ, то Я@) = 0 и ЯA)=1. Определим расстояние
d(x,y) между х и у из D как нижнюю грань таких
положительных е, для которых существует ^еЛ такое,
что
sup,|M — /|<e A4.12)
A4.13)
В силу A4.5) функция d(x,y) конечна (положим
Xt = t). Ясно, что d(x, y)^0. Далее, из равенства
d(x, у)=0 следует, что для любого t либо x(t) = y(t)f
либо x{t) = y(t—), откуда в свою очередь вытекает, что
х = у. Если отображение % принадлежит Л, то
отображение К тоже принадлежит Л; равенство d(xyy) —
= d(y,x) является следствием двух соотношений:
sup ,| Я" Ч - /1 = sup* | М —11
и
sup, | х (Я"/) - у (/)! = sup, \x(Q-y (M) |.
Если Х\ и Ая принадлежат классу Л, то и их композиция
%2^\ также принадлежит Л; неравенство треугольника
выполняется в силу неравенств
sup, | Л2М — / К sup, | М —
и
sup, | a: @ — z(X2b>\t)\<
< sup, | x (t) - у (X{t) | + sup, | у (t) - z (k2t) |.
Таким образом, доказано, что d— метрика.
Эта метрика определяет топологию Скорохода.
Равномерное расстояние между х и у можно определить
как нижнюю грань тех положительных е, для которых
sup, НО — У @1 <е- Отображение Я в A4.12) и A4.13)
осуществляет именно ту равномерно малую деформацию
шкалы времени, о которой упоминалось выше.

§ ,4] ГЕОМЕТРИЯ ПРОСТРАНСТВА D 157
Последовательность элементов хп пространства D
сходится к пределу х в топологии Скорохода тогда и
только тогда, когда в Л существуют функции Кп такие,
что равномерно по t
Если хп равномерно сходится к х, то имеет место
сходимость в топологии Скорохода (достаточно положить
%nt = t). С другой стороны, последовательность хп =
= /[о, i/2+i/rt) сходится к х = /jo, i/2) в топологии
Скорохода, но xn(fO*-x(t) при /=1/2. Так как
то сходимость в топологии Скорохода влечет сходимость
xn(t)-+x(t) в точках t непрерывности функции х, и
если х (равномерно) непрерывна во всех точках отрезка
[О, 1], то сходимость в топологии Скорохода влечет
равномерную сходимость. В частности, топология в С,
индуцируемая топологией Скорохода, совпадает с
равномерной топологией.
Пространство D сепарабельно; в качестве счетного
всюду плотного множества можно взять множество,
образованное такими элементами х, которые имеют
рациональное значение при /= 1 и принимают постоянное
рациональное значение при некотором целом k на каждом
подинтервале [(i—l)/k, ilk), 0<.i^:k (это следует из
леммы 1 и определения id). Однако пространство D не
является полным относительно метрики d: если
*/1 = /ц/2, i/2-и/я), A4.14)
то
d(xntxm) = \l/n-ltm\t A4.15)
и следовательно, последовательность {хп}
фундаментальна в метрике d, хотя и не сходится. Мы введем в D
другую метрику d0, которая эквивалентна d в том
смысле, что порождает также топологию Скорохода, но
относительно которой D является полным пространством.
Полнота пространства облегчит нам характеризацию
компактных множеств.

158 ПРОСТРАНСТВО D [ГЛ. 3
Идея определения do такова: требуется, чтобы
преобразование X шкалы времени, которое фигурирует в
определений d, было бы близким к функции,
тождественно равной 1, в некотором, на первый взгляд,
более строгом, чем в A4.12), смысле; именно, мы
требуем, чтобы тангенс угла наклона любой хорды
(Xt — Xs) / (t — s) был близок к 1, или, что равносильно,
но более удобно аналитически, чтобы его логарифм был
близок к 0.
Если Я —неубывающая функция на [0,1], А,0 = 0 и
XI = 1, то положим
|| Я || - sup I log ^-^-1. A4.16)
Если величина ||Я|| конечна, то тангенсы углов наклона
хорд лежат между двумя положительными константами;
поэтому функция X непрерывна и строго возрастает и,
следовательно, является элементом класса Л. Хотя
величина ||А,|| может быть бесконечной даже для
функций X, принадлежащих Л, такие элементы не войдут
в следующее определение.
Определим расстояние do(x,y) как нижнюю грань
таких положительных чисел е, для которых Л содержит
некоторую функцию X такую, что
IIЯII < в A4.17)
sup, | *(/)-*/(*/) К е. A4.18)
sup, | *(/)*/(*/) К е. A4.
В силу A4.5) величина do(x,y) конечна (положим Xt
е= t). Из соотношений
II Л1| = || X || A4.19)
IIWK 11*111 +11*2 II (Н.20)
следует, что do — метрика.
Мы покажем теперь, что метрики d и d0
эквивалентны. Будет показано также, что пространство D полно
относительно метрики do\ заметим пока, что если хп
определить равенством A4.14), то
do(xn, *m) = min{l,|log-J-|}, m, «>3, A4.21)

§ 14] TEOMEtPHH nPOCtPAHCfBA Ь 159
так что во всяком случае не сходящаяся ни к какому
пределу последовательность {хп} не является
фундаментальной в метрике d0.
Если do(x,y)<ie, то условия A4.17) и A4.18)
выполняются для некоторой функции JieA. Если е < 1/4,
то, поскольку КО = О,
log(l-2e)<-e<log-y-<e<log(l + 2e)*)>
так что | Ы — /1 ^ 2е. Поэтому
d(x, y)<2do(x, у), если do{x,y)<l/4. A4.22)
Из сравнения выражений A4.15) и A4.21) можно
вывести, что неравенство, противоположное неравенству
A4.22), вообще говоря, невозможно. Следующая лемма,
однако, показывает, что расстояние do(x,y) мало в том
случае, когда d(x,y) и wx{6) (или w'y (б)) малы
одновременно.
Лемма 2. Если d(x,y)<82, где 0 < б < 1/4, то
d()^46 + 'F)
Доказательство. Выберем точки th
удовлетворяющие условиям A4.7) и
w,Pi-p U) < <(*) + б> '« 1, 2, ..., г. A4.23)
Затем выберем в Л такой элемент \ху что
sup, | * @ - у (|*0 | = sup, | х (ii-1*) -y(t)\<62 A4.24)
/|<tf. A4.25)
Мы хотим найти в Л такую функцию К которая была
бы близка к [л, но не имела бы хорд (которые,
возможно, имеет [i)t тангенсы углов наклона которых
сильно отличаются от 1. Пусть X совпадает с \i в точках tx и
линейна в промежутках между этими точками. Так как
композиция ц-!Л является возрастающей функцией и
\i~lMi = ti при всех I, то t и \jr{lkt всегда принадлежат
*) Если |s|^ 1/2, то s — 52^ log(l +s), тогда как
^ s для всех s > —1.

160 ПРОСТРАНСТВО D [ГЛ. 8
одному и тому же подинтервалу [f<_i, ti). Поэтому в силу
A4.23) и A4.24)
Теперь достаточно показать, что |Щ|^46. Так как X
совпадает с р в точках t^ из неравенства A4.25) и
неравенства ti — ti-\ > 8 следует, что
| (Xtt - ktt-x) - (tt - /,-,) |< 2б2 < 26 (tt - /,-0.
Поскольку функция X является ломаной, получаем
| (Xt - ks) - (* - s) |<26|< - s |
при всех sh/. Поэтому
log A -2б)<log-^^<logA+26),
и следовательно, ||Х||^ 46, поскольку 6 < 1/4.
Теорема 14.1. Метрики d и d0 эквивалентны.
Доказательство. Обозначим открытый d-iuap
через Sd(x, e) и открытый do-шар через 5^0(дс, е). Из
неравенства A4.22) следует, что внутри произвольного
шара Sd(x, е) можно найти шар Sdu(x> &)- (Выбор
нового радиуса не зависит от центра я.)
Из леммы 2 следует, что если
6 < 1/4, 46 + <F) < е, A4.26)
то Sd(x, 62)aSd0(x, г). По заданным х и г мы можем
в силу A4.8) найти 6, удовлетворяющее условию
A4.26). Таким образом, внутри произвольного йо-шара
мы можем найти d-шар с тем же самым центром. (На
этот раз выбор нового радиуса зависит от центра х, что,
конечно, должно быть так, если пространство D
полно в метрике d0 —если метрики d и do задают
различные классы фундаментальных последовательностей.)
Таким образом, метрики d и do эквивалентны.
Полнота пространства D.
Теорема 14.2. Пространство D полно в метрике do.
Доказательство. Достаточно показать, что
каждая фундаментальная в метрике d0 последовательность
содержит сходящуюся в этой же метрике подпоследова-

§ I4j ГЕОМЕТРИЯ ПРОСТРАНСТВА Ь I6l
тельность. Если последовательность {*&}
фундаментальна в метрике do, то она содержит
подпоследовательность {уп} = {xk } такую, что
do(yn,yn+i)<Wn- A4.27)
Мы покажем, что {уп} сходится в метрике d0 к
некоторому пределу.
В силу A4.27) Л содержит функции \хп такие, что
sup, | уп (t) - уп+1 (М | < 1/2* A4.28)
\\\хп\\<Щп. A4.29)
Отсюда следует, что при m^l
(здесь |Hn+m ... iin+\[in обозначает многократную
композицию). Таким образом, при фиксированном п функции
A4.30)
равномерно фундаментальны при т-+оо. Поэтому
последовательность функций A4.30) равномерно сходится
к пределу
Яя* = Нтт|1я+ж ... [in+iVLnt A4.31)
Функция Хп непрерывна, не убывает и Хп0 = 0,
Хп1 = 1. Если мы покажем, что ||А,П|| конечна, то отсюда
будет следовать, что функция кп строго возрастающая
и, следовательно, является элементом Л. В силу A4.20)
У-п+т
< II V-n+m • • • V-n+\Vn II < II Ц« II +
|
Устремляя т-* оо в левой части последнего
неравенства, находим, что ||Xn||^ 1/2"-1; в частности, мы
получаем, что ||А.П|| конечна, и поэтому Я„еЛ. Согласно
A4.31) имеем Кп = Я„+щ„. Поэтому в силу A4.28)
= sups | уп (s) - ya+l Oies) I < 1/2".
6 П. Биллингсли

162 пространство ь ггл. з
Таким образом, функции ^(А^/)» являющиеся
элементами пространства Z), равномерно фундаментальны и,
следовательно, равномерно сходятся к предельной
функции x(t). Легко показать, что функция х также будет
элементом D. Поскольку
то
что и завершает доказательство.
Компактность в D. Займемся теперь задачей характе-
ризации компактных подмножеств D. В терминах
модуля wx(f>), определенного формулой A4.6), мы имеем
следующий аналог теоремы Арцела — Асколи (стр. 302):
Теорема 14.3. Множество А имев! компактное
замыкание в топологии Скорохода тогда и только тогда,
когда
supsup|*(OI<oo A4.32)
*е=Л t
U
lim sup<F) = 0. A4.33)
Отметим, что ввиду неравенства A4.9) условие
A4.33) слабее, чем
lim sup wx F) = 0. A4.34)
б-»0 хе-А
Доказательство. Поскольку пространство D
полно в метрике do, то для доказательства
достаточности условий теоремы нужно лишь показать, что их
следствием является полная ограниченность множества А
относительно метрики do. Покажем сначала, что в
условиях A4.32) и A4.33) множество А вполне ограничено
относительно метрики d.
По заданному положительному е выберем целое
число k так, что l/k < е и w'x (\/k) < е при всех х из А
Обозначим через Н конечную е-сеть в интервале [—а, а],
где
а = sup sup | х (t) |.

§ 14] ГЕОМЕТРИЯ ПРОСТРАНСТВА О 163
Пусть В— конечное множество таких функций у в D,
которые на каждом интервале [(и— l)/k, u/k] принимают
постоянное значение из Я и удовлетворяют условию
//A)еЯ. Мы покажем, что множество В является
2е-сетью относительно метрики d.
Пусть х принадлежит А В силу неравенства
w'x(l/k) < е существуют точки /,-, 0 = /0 < t\ < -.. <
< /г = 1, такие, что
//-*,-!> 1/й A4.35)
я
<\*1-х*и)<*> 0</<г. A4.36)
Выберем целые числа щ так, чтобы ujk ^ t{ <
<(Ui+l)lk, t = 0, 1, ..., г. Поскольку в силу A4.35)
числа и{ должны быть различны, то в Л существует
функция Я, которая переводит точки urfk в U и линейна
в промежутке между этими точками. Выберем в
множестве В точку у так, чтобы
Поскольку интервал VK -j, Л^-J должен лежать внутри
одного из интервалов [Я -^-, ^"~j~J = [^> */-м)> то
функция a:(W) не может в силу A4.36) изменяться больше,
чем на е, когда / меняется в интервале [ujk, (u+ l)/k).
Так как функция у постоянна на интервалах этого вида,
то из неравенства A4.37) следует, что \y(t) — x(M) |<
< 2е для всех t. По построению
Ui
T
откуда в силу линейности supt\Xt —1\ < е. Таким
образом, й(х,у)<2г, так что множество В является
2е-сетью относительно метрики d.
При заданном положительном ц выберем б так, чтобы
О < б < 1/4 и 46 + w'xF) <ц для всех х из А Затем
выберем е так, чтобы выполнялось неравенство
О < 2е < б2. Если В представляет собой только
что построенное множество — конечную 2е-сеть для

164 ПРОСТРАНСТВО О 1ГЛ. 3
множества А относительно метрики d—то в силу
леммы 2 множество В является г]-сетью для А относительно
метрики d0. Таким образом, множество А вполне
ограничено в метрике d0, и следовательно, поскольку D полно
в d0, замыкание Л~ множества А компактно.
Мы доказали достаточность условий A4.32) и
A4.33). Если множество А~ компактно, то оно
ограничено, и поэтому A4.32) выполняется (отметим, что
sup*|#(O| есть расстояние в смысле метрики d или
метрики d0 от х до функции, тождественно равной 0).
Настоящая теорема отличается от теоремы Арцела —
Асколи тем, что ни для какого отдельного значения t
из условия
sup|jc(/)|<oo A4.38)
и условия A4.33), вместе взятых, не следует A4.32).
Нетрудно, однако, доказать, что A4.32) выполняется,
если справедливо A4.33) и если условие A4.38)
справедливо для каждого значения t (или даже для
множества значений t, включающего 1 и плотного в [0, 1]).
Остается доказать необходимость условия A4.33).
В силу A4.8) для любого х модуль wx F) стремится
к 0 вместе с б. Если мы докажем, что при любом б
функция wx (б) полунепрерывна сверху в точке аг, то
(см. стр. 298) эта сходимость будет равномерной на
компактных множествах и условие A4.33) будет
выполнено.
Пусть х, б и е заданы. Для того чтобы доказать
полунепрерывность сверху, мы должны найти такое г],
что из соотношения d(x, y)<.r\ следовало бы
w'yF)<rfx{6) + s. A4.39)
Выберем сначала точки th удовлетворяющие условию
A4.7) и условию
wx Pi-P *t) < < (*) + */2> ' = 1. 2, ..., г. A4.40)
Возьмем затем т) столь малым, что
^-^-^б + гть /=1, 2, ..., г,
и
П<|е. A4.41)

§ 14J ГЕОМЕТРИЯ ПРОСТРАНСТВА D 165
Если d(x,j/)<y|, то для некоторой функции X из Л
имеем
sup* | Ы — 11 = sup/1 Л"/ — /1 < ч
и
sup/1 у (t) — л: (Я/) | < ч. A4.42)
Пусть Si = X~lti. Тогда
5, — s/-i > U - *,_, - 2л > б. A4.43)
Далее, если s и t одновременно принадлежат интервалу
[5{_ь5{), то Xs и Xt одновременно принадлежат
интервалу [ti-U ti), и поэтому в силу A4.40), A4.41) и A4.42)
IУ (s) ¦— У (t) К ^ F) + е. Таким образом,
откуда, ввиду соотношения A4.43), следует A4.39).
Этим завершается доказательство теоремы 14.3.
Вторая характеризация компактности. Хотя
использование модуля w (8) естественно в том отношении, что
с его участием достигается полная характеризация
компактных множеств, иногда более удобно иметь дело с
другими модулями, например, с
<F) = supmin{|jc@-A:(/I)|, |*(*2)-*@|}, A4.44)
где верхняя грань берется по всем t\, t и t2,
удовлетворяющим неравенствам
A4.45)
Пусть заданы числа б и е. Разобьем интервал [0, 1)
на подинтервалы [s/-b Si) такие, что 5/— Si-{>6 и
^[Л-г si) ^ ш^(*) + 8- Если условие A4.45)
выполняется, то либо t\ и t2 лежат в одном и том же под-
интервале [Sj-ь s^ и в этом случае
либо они лежат в смежных интервалах [s/-i, st) и [s/, si+i)>
и в этом случае \x{f) — х(^)| < w'xF) + е при /j ^/ < 5?
и |л:(/2) — л:@1 < w'x (б) + е при st < /</2. Следовательно,
). A4.46)

166 ПРОСТРАНСТВО D [ГЛ. 3
Противоположное неравенство невозможно. Если,
к примеру,
1 при O^t < п~{,
0 при n~l <t^l
или если
0 при 0</<1-az-1,
1 1 , _^. . . - A4.48)
1 при 1 — п~1 ^/^ I,
то до" F) = О, тогда как
п
0, если б < я,
1, если Ь>п~К
(
Так как последовательность {хп} не имеет компактного
замыкания ни в том, ни в другом случае, то не
существует никакого условия компактности, включающего
(в добавление к A4.32)) ограничение только на иу?F).
Можно, однако, сформулировать условие компактности
в терминах w" F) и поведения х вблизи 0 и 1.
Теорема 14.4. Множество А имеет компактное
замыкание в топологии Скорохода тогда и только тогда,
когда
sup sup|*(/)|<oo A4.49)
х&А t
U
lim supt<F) = 0,
lim sup wx [0, 6) = 0, A4.50)
60 Л
lim suptiy* [1 —6, l) = 0.
6->0 x<=A
Доказательство. Достаточно, ввиду
утверждения теоремы 14.3, показать, что условие A4.50)
эквивалентно соотношению
lim sup a/F) = 0. A4.51)
б0 хе-А
Тот факт, что A4.51) влечет A4.50), является
следствием неравенства A4.46) и определения и/F). Мы до-*
кажем обратную импликацию,

§ 14) TEOMEfPHH ПРОСТРАНСТВА D 1б7
Для данного положительного е выберем
положительное б так, чтобы для всех х из А
<F) < е, wx [О, 6) < е, wx [1 - б, 1)< е. A4.52)
Предположим, что х принадлежат А; покажем, что
A4.53)
Этого, очевидно, достаточно для доказательства
теоремы.
Сначала покажем, что если
*i<s</«2, '2-/i<6, A4.54)
то
mln{\x(s)-x(tl)\9 |*(/2)-*(/)|}<2e. A4.55)
Действительно, если \x(s)-~ x(t{)\> г, то в силу A4.52)
| x(t) — x(s) К е и | x{t2) — x{s) I < е, так что | x(t2)—x(t)\<2e.
Допустим, что х в каждой из двух точек х\ и х2 имеет
скачок, превосходящий 2е. Если 0<Т2 — ti < 6, то
существуют точки tu s, ty t2, удовлетворяющие
неравенствам A4.54), такие, что t\ < ii = s? и t < t2 = h\ если
t\ достаточно близко к n, a / достаточно близко к тг, то
неравенство A4.55) нарушается, что, как мы видели,
невозможно. Таким образом, отрезок [0, 1] не может
содержать две точки, находящиеся на расстоянии не более
б одна от другой, в каждой из которых функция х имеет
скачки, превосходящие 2е. Кроме того, в силу A4.52) ни
один из интервалов [0,6) и [1 — б, 1) не может
содержать точку, в которой скачок функции х превышает 2е.
Таким образом, существуют точки su 0 = s0 < si <
< ... < sr = 1, такие, что S* — sz-_i ^ б, и такие, что
любая точка, в которой х имеет скачок, больший чем
2е, является одной из точек я*. Если Sj — Sj_i > б для
пары соседних точек Sj_b Sj9 то мы расширим систему
{sj, включив в нее точку, лежащую посередине между
ними. Этот путь приводит к новой расширенной системе
So, ..., sr (с новым г), которая удовлетворяет условию
у б < Si — S,-! < б, / = 1, 2, . . ., Г.
Если мы теперь покажем, что при любом значении i
wx[st-u StXbe, A4.56)

168 ПРОСТРАНСТВО б ttVl. 3
то получим A4.53). Предположим, что Si-i ^ h < h <
< s*. Тогда /2 — f 1 < 6. Обозначим через О\ верхнюю
грань тех а из [t\t /2], для которых sup | х(и)-~x(t\) |^
^ 2е; пусть а2 — нижняя грань тех значений а из
Рь Ы для которых sup | х (f2) — * (и) I ^ 2е. Если ai <
<С аг, то существуют точки 5 справа от точки о\ и сколь
угодно близкие к ней, для которых \x(s) — x(t\) | > 2е,
и существуют точки f слева от точки о2 и сколь угодно
близкие к ней, для которых \x(t2)— x(t)\>2z\ так как
мы можем выбрать s, t так, что s < t, то мы получаем
противоречие с тем фактом, что A4.54) влечет A4.55).
Поэтому (J2 ^ оъ и отсюда следует, что
|*(а,-)-*(*,) |<2в и ^(«-«(аОКгв.
Поскольку /i < ai ^ ?2, то О\ является внутренней
точкой интервала E{_1, 5<), поэтому скачок в о\ не
превосходит 2е. Таким образом, \x(t2) — Ar(/i)|^6e. Отсюда
следует неравенство A4.56), которое, как отмечалось,
доказывает A4.53), а вместе с тем и всю теорему*).
Конечномерные множества. Конечномерные
множества играют в пространстве D ту же роль, что и в
пространстве С. Для набора точек tu ..., th из [0, 1]
определим естественную проекцию nt ^t из D в Rh
обычным способом:
•-.*&)> 04-57)
Очевидно, яо и Я1 — непрерывные всюду функции. Пусть
0</<1. Если последовательность хп сходится к х
в топологии Скорохода и функция х непрерывна в
точке /, то (стр. 157) xn(t)-> x(t). Предположим, с другой
стороны, что х имеет разрыв в точке /. Если Хп является
функцией из Л, линейной на отрезках [0, /] и [/, 1] и
удовлетворяющей условию Xnt = t — 1/ai, и если xn(s)z=s
= x(Xns), то хп сходится к х в топологии Скорохода,
но xn(t) не сходится к x(t). Таким образом: если
*) Точки 0 и 1 играют особую роль в теории пространства D
вследствие того, что каждая функция А. из Л оставляет их
неподвижными. Разумным расширением класса Л можно было бы упростить
теорию.

§ 14] ГЕОМЕТРИЯ ПРОСТРАНСТВА D 169
0< ^ < 1, то я* непрерывна в х тогда и только тогда,
когда х непрерывна в t.
Мы должны доказать, что проекция nf e t
измерима относительно а-поля 2) борелевских множеств в
топологии Скорохода. Достаточно рассмотреть какое-
либо отдельное значение t (так как отображение в
пространстве Rh измеримо, если измерима каждая его
компонента), и мы можем допустить, что /< 1 (поскольку
jti непрерывна). Если хп сходится к л: в топологии
Скорохода, то xn(s)—>x(s) в точках непрерывности s
функции х и, следовательно, во всех точках s, за
исключением множества лебеговой меры 0. Поскольку хп
равномерно ограничены, то для любого положительного е
t+e t+г
7 J xn(s)ds-+± \ x(s)ds9 n->oo. A4.58)
/ t
t+e
Таким образом, функция Ae(x) = e~I \ x(s)ds непре-
t
рывна в топологии Скорохода. В силу непрерывности х
справа he(x)-+nt(x) для любого х при е->О. Таким
образом, функция щ(х) измерима.
Установив измеримость nt u t 9 мы можем так же,
как в случае пространства С, определить
конечномерные множества как множества вида яг1 , Я, где
г,... tk
k^\ и Яе3?h. По определению измеримости любое
конечномерное множество принадлежит 3).
Пусть Го — подмножество отрезка [0, 1]. Обозначим
ЗГТ класс множеств вида я~! t Я, где k произвольно,
t{ суть произвольные точки множества То и Яе52\
Класс ЗГт, есть (конечно аддитивное) поле. Разумеется,
^in, и является классом конечномерных множеств.
Теорема 14.5. Если множество То содержит 1 и
плотно в [0, 1], то &*т, порождает 3).
Эти условия являются также и необходимыми для
того, чтобы класс S*^ порождал 3), однако нам этот
факт не понадобится. Выбор в качестве Го отрезка [0, 1J
це облегчает доказательства теоремы.

170 ПРОСТРАНСТВО D [ГЛ. 3
Доказательство. Поскольку пространство D се-
парабельно, достаточно показать, что любой открытый
do-шар Sdo(x, r) принадлежит а-полю, порожденному
#г„- Фиксируем центр х и радиус г.
Выберем в То последовательность точек t\, t2, ...,
плотную в [0, 1], так, чтобы ^ = 1. При 0 < г < г и
k^ 1 пусть множество Л&(е) состоит из таких у, для
которых в Л существует функция X, удовлетворяющая
условиям
max
Достаточно доказать, что
SaA*, r) = Ufi Л (в), A4.59)
в &-1
где суммирование происходит по рациональным е из
@, г), и что каждое Ан(г) принадлежит SFt0-
Мы докажем сначала второй факт. При
фиксированных е и k пусть Н\ обозначает множество точек вида
(х(М\), ..., x(Xtk)) в Rh, где X является произвольной
функцией из Л, удовлетворяющей условию ||Х||<г —е.
Пусть #2 — множество точек (оы, ..., ah) в Rk таких,
что |оы — Р| <г — е, t'=l, ..., к, для некоторой точки
(Рь • ••» fa) из Hi. Множество Н2 открыто и,
следовательно, принадлежит #Л, и Ak{z) = njx ##f Як. Таким
образом, Ак{г)^$Гт .
Легко обнаружить, что левая часть A4.59)
содержится в правой части. Мы завершим доказательство,
если покажем, что
оо
Jl Ak(e)cSrfi(*. г). A4.60)
Пусть у принадлежит пересечению в левой части A4.60).
Выберем для каждого k функцию %и в Л,
удовлетворяющую условиям
НМКг-е .A4.61)
max | у (U) -x(khU) |<г-8, A4.62)

§ 14] ГЕОМЕТРИЯ ПРОСТРАНСТВА D 171
По теореме Хелли о выборе (стр. 311) существуют
подпоследовательность {kk>} и неубывающая функция X
такие, что
limk'Xk>t = Xt A4.63)
для всех точек непрерывности t функции X. Мы
покажем, что ЯеЛ, ||А,||< г —е и sup, (#(/) — x(Xt) |< г— е.
Отсюда будет вытекать, что йо(хуу)<г, и
следовательно, A4.60) будет доказано.
Если s и / — две различные точки непрерывности
функции Я, то в силу A4.61)
M-ks
log t_s =lim^ log—рз
—8. A4.64)
Это соотношение показывает, что X не имеет скачков
(в частности, A4.63) справедливо при всех /), и отсюда
следует, что X — строго возрастающая функция; таким
образом, ^еЛ. Из неравенства A4.64), кроме того,
вытекает, что W^r-Е. В силу A4.62) \y(ti) — x(ti)\<
< г — е (напомним, что t\ = 1). Если / > 1, то согласно
A4.62) | у (U) — х {Xk'U) |< г — е при к9 > /. Поскольку
Xki -> Xt, мы получаем, что либо \y(t{) — x(Xti)\^Zr—e,
либо \y(U)--x((Xti)-~) | ^ г—- 8. Отсюда, так как
последовательность (ti) всюду плотна, вытекает, что
supt \y(t) — x(Xt) | ^ r — e. Это доказывает теорему
14.5.
Так как класс {Ft, является полем, то из
доказанной теоремы вытекает, что если множество То содержит
1 и плотно в [0, 1], то класс #>„ является
определяющим классом. Но даже #"[0, ц не является
определяющим сходимость классом — противоречащие примеры
для С годятся и в рассматриваемом случае.
Если Р — вероятностная мера на (D, S)), то ее
конечномерными распределениями являются меры Рлр1 t
Если множество То содержит 1 и всюду плотно в [0, 1],
то мера Р полностью определяется своими
конечномерными распределениями для точек из Го.
Мы будем использовать в D те же соглашения о
координатных величинах, которые мы использовали в С
(см. конец § 8).

172 ПРОСТРАНСТВО ?> [ГЛ. 3
Примечание. Изучаемая здесь топология представляет собой
/i-топологию Ско'рохода A956); см. также Колмогоров A956),
Прохоров A956) и Скороход A961).
Задачи
1. Пусть D+ — класс функций, определенных на отрезке [0, 1],
которые могут иметь разрывы только первого рода в интервале @,1)
и имеют правосторонние пределы в 0 и левосторонние пределы в 1.
Превратите D+ в псевдометрическое пространство таким образом,
что (i) расстояние между х и у равно 0 тогда и только тогда, когда
х и у совпадают в их общих точках непрерывности, и (ii) D изо-
метрично стандартному факторпространству [Келли A968, стр. 136)].
2. Топология Скорохода сильнее топологии, которая задается
метрикой \\x(t) — y(t)\ dt.
3. По отношению к топологии Скорохода и обычному сложению
функций пространство D не является топологической группой.
4. Множество С нигде не плотно в D.
5. Положим
wx W в SUP sup min{wx (/j, /), wx (/, /2)}.
Покажите, что
F)= sup inf max(a> (tu A, wv(t.
И
?'
§ 15. Слабая сходимость и плотность в D
Доказательство слабой сходимости в
функциональном пространстве в два этапа: во-первых,
доказательство слабой сходимости конечномерных распределений
и, во-вторых, доказательство плотности — вот путь,
который оправдал себя в пространстве С. Желательно
было бы приспособить эту технику к пространству D.
Поскольку D сепарабельно и полно относительно
метрики do> то семейство вероятностных мер на (D, 3))
относительно компактно тогда и только тогда, когда оно
плотно, так что этот вопрос не вызывает трудностей.
С другой стороны, тот факт, что естественные проекции
не являются непрерывными, несколько осложняет дело.
Конечномерные распределения. Пусть для
вероятностной меры Р на (D, 2)) множество ТР состоит из
таких точек t отрезка [0, 1], для которых проекция щ не-

§ 15) СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ В О 173
прерывна всюду, за исключением точек, составляющих
множество Р-меры 0. Точки 0 и 1 всегда принадлежат
Тр. Если 0 < t < 1, то / е ТР тогда и только тогда,
когда P(Jt) = 0, где множество
/* = {*: *(*)=* *(<-)> A5.1)
представляет собой множество тех х, которые разрывны
в / [напомним (стр. 169), что при 0 < t < 1 проекция щ
непрерывна в х тогда и только тогда, когда функция х
непрерывна в t].
Любой элемент пространства D имеет самое
большее счетное множество скачков. Докажем аналогичный
факт, а именно, что неравенство P(Jt)>0 выполняется
для не более чем счетного множества точек /. Пусть
Jt(e)—множество х, имеющих в t скачок \x(t) — x(t—) |,
превосходящий е. Для фиксированных положительных е
и б может существовать самое большее конечное
множество точек t, для которых P(Jt(e))^ б, так как если
бы это неравенство выполнялось для
последовательности различных точек tu t2i ..., то множество
\\msnpnJt (e) имело бы меру, не превосходящую б, и
следовательно, было бы непустым, но это противоречит
тому факту, что у всякого элемента х скачок может
превосходить е только в конечном числе точек. Поэтому
при фиксированном положительном е P(Jt(e)) может
превосходить 0 не более, чем в счетном множестве
точек t. Поскольку P(Jt(e))^P(Jt) при е|0, то мы
получаем нужный результат.
Таким образом, множество ТР содержит 0 и 1, и его
дополнение в [0, 1] не более чем счетно. Если t\, ..., tk
все принадлежат ТР, то я, t непрерывна всюду, за
1 к
исключением множества Р-меры 0.
Предположим, что
A5.2)
где Рп и Р — вероятностные меры на (Dy3)); по
теореме 5.1 имеем
если все ti лежат в ТР. В общем случае A5.3) не будет
следовать из A5.2), если некоторые из точек /< лежат

174 ПРОСТРАНСТВО Ъ [ГЛ. 3
вне Тр. Например, если Р — единичная масса,
сосредоточенная на функции /[o,i/2], а Рп — единичная масса,
сосредоточенная на функции /[0 и2+п^1]>тоЛ*2^^» в то
время как Рпп~1 не сходится к Ря~2!.
Докажем теперь аналог теоремы 8.1.
Теорема 15.1. Если семейство {Рп} плотно и если
Pnn7\..t ^Pn7\..t всякий раз, когда tu ..., tk все
принадлежат ТР, то Рп =#> Р.
Доказательство. Ввиду плотности семейства
{Рп} каждая подпоследовательность {Рп} содержит
другую подпоследовательность {Рп"}, слабо сходящуюся
к некоторому пределу Q. Достаточно (теорема 2.3)
показать, что все такие пределы Q совпадают с Р.
Если точки /i, ..., tk все принадлежат множеству
Tpf\TQ, то по предположению теоремы Pn**if\ mt =Ф
, и, кроме того, Pn^f\ttt ^Q^T1... t > так как
- Таким образом,
P*7l\..tk = Q*7t...tk> /„.... /*erpfirQ. 05.4)
Так как каждое из множеств ТР и TQ содержит все
точки отрезка [0, 1], за исключением, самое большее,
счетного их числа, то же самое верно для множества
ТР П TQ; в частности, это пересечение является всюду
плотным множеством в [0, 1]. Поскольку ТР П TQ
содержит 1, из теоремы 14.5 следует, что 3) порождается
конечномерными множествами, построенными на точках
из ТР П TQ. Равенство Р = Q вытекает теперь из A5.4),
что и завершает доказательство.
Плотность. Исследование проблемы плотности в С
исходным пунктом имело утверждение теоремы 8.2,
которое заменяло компактность ее характеризацией Арце-
ла — Асколи. Теорема 14.3, содержащая характериза-
цию компактности в D, приводит тем же самым путем
к следующему результату. Пусть {Рп} —
последовательность вероятностных мер на (D,?D).
Теорема 15.2. Последовательность {Рп} плотна
тогда и только тогда, когда выполняются следующие два
условия:

I 16J СЛАБ\Я СХОДИМОСТЬ И ПЛОТНОСТЬ В 0 175
(i) Для любого положительного х\ существует
такое а, что
Рп{х: 811Р/|*@1>а}<Л> п>\. A5.5)
(ii) Для любых положительных е и т) существуют б,
О < б < 1, и целое число п0 такие, что
Рп{х: <D)>в}<4, п>п0. A5.6)
Используя теорему 14.4 вместо теоремы 14.3,
получаем еще одну совокупность условий для плотности.
Теорема 15.3. Последовательность {Рп} плотна
тогда и только тогда, когда выполняются следующие два
условия:
(i) Для любого положительного ц существует такое
а, что
Рп{х:
(ii) Для любых положительных г и ц существуют б,
О < б < 1, и целое число По такие, что
Рп{*- <F)>е}<ть п>%9 A5.7)
Рп{х: wx[0, 6)>e}<ti, n>no A5.8)
Рп{х: шЛ1-б, 1)>е}<л, n>>h. A5.9)
Как показывает следующая теорема, в наиболее
интересных случаях условия A5.8) и A5.9)
автоматически выполняются. Пусть Рп и Р — вероятностные меры
на (D,2)); согласно определению A5.1) 1\ = {*: х(\)Ф
^ *(!-)}¦
Теорема 15.4. Предположим, что
всякий раз, когда точки t\, ..., th все принадлежат ТР.
Допустим далее, что P(J{)=z0. Предположим, наконец,
что для любых положительных г и х\ существуют б,
0 < б < 1, и целое число п0 такие, что
A5.11)
Тогда Рпф
Доказательство. В силу теоремы 15.1
достаточно показать, что последовательность {Рп} плотна,

176 ПРОСТРАНСТВО D [ГЛ. 3
Проверим сначала условие (i) предыдущей теоремы. По
заданному положительному г\ выберем б и По,
удовлетворяющие A5.11) с 8=1 (например). Поскольку
множество ТР всюду плотно в [0, 1], оно содержит точки tu ...
..., tk, 0 = U < ... < 4 = 1, такие, что U — ^-i < 6. Из
A5.10) вытекает, что последовательность {РппТ\.. t }
является плотной в Rk, и следовательно, при
надлежащим образом выбранном а0
Рп{х: max |*fo) I > ао}<л, п>\. A5.12)
Если \x(ti)\^aOy /=1, ...,?, и если а?(в)<1, то
|лг(?)|<ао+1 при всех t. Если а = ао+1, то из
A5.12) и A5.11) (с 6=1) мы имеем Рп{х: supt\x(t)\>
> а] ^ 2г] при п ^ п0. Для конечного множества
значений м, предшествующих п0> мы можем добиться
выполнения этого неравенства надлежащим увеличением а,
так как каждое отдельное распределение Рп плотно. Тем
самым доказано выполнение условия (i).
Для доказательства условия (ii) предыдущей
теоремы по заданным е и ц нужно найти б и п0,
удовлетворяющие A5.8) и A5.9). Рассмотрим сначала A5.8).
Так как каждый элемент х из D непрерывен справа, для
всех достаточно малых б мы имеем
Р{х: |*F)-*@)|>е}<г). A5.13)
Выберем в плотном множестве ТР достаточно малое б
такое, чтобы выполнялось A5.13) и чтобы при
соответствующем По выполнялось A5.11). Так как и 0, и б
принадлежат ТР, то мы получаем соотношение Рпя>^1ь =Ф
=#Ря^!б как частный случай A5.10) и из A5.13)
следует, что для всех достаточно больших п
Ч. A5.14)
Если<(б)<е и |*(8) —x@)|<e, to
< 2е для всех s из [0,6], и следовательно, wx[0, 6]< 4e.
Таким образом, из A5.11) и A5.14) вытекает
неравенство Рп{х: ®х[0, &)> 4е} <2т). Таким образом, A5.8)
рьшолнецо,

§ 151 СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ В D 177
С одним лишь изменением те же доводы годятся по
симметрии и для вывода A5.9). Вместо A5.13) нам
теперь требуется неравенство
Р{х: |*A)-*A-Л)|>в}<т| A5.15)
для малых б. Так как непрерывность слева элементов
пространства D не предполагается, то неравенство A5.15)
в общем случае не выполняется. Так как мы
предположили, что P(Ji)=0, то функция х непрерывна слева
в точке t= 1, за исключением х, принадлежащих
множеству Р-меры 0, так что A5.15) действительно
выполняется при всех достаточно малых б.
Этим завершается доказательство теоремы 15.4.
Условие P(/i) = 0 существенно: если Р — единичная масса,
сосредоточенная на функции /{ц, и Рп — единичная
масса, сосредоточенная на функции /[,_я-1э ,], то все
конечномерные распределения сходятся и условие,
связанное с A5.11), справедливо, но Рп тем не менее не
сходится слабо к Р.
Поскольку
ПтР{х: i а;A —) — д;(О I > е} = 0, е > О,
то Р (/])== 0 тогда и только тогда, когда
ПтР{х: |*(l)-*@!>e} = 0, е > 0. A5.16)
Обычно условие Р(/1)=0 легко проверить с помощью
A5.16).
Наш следующий результат показывает, что
происходит, когда вместо ха/х F) или wx (б) используется
модуль wxF)y соответствующий пространству С.
Теорема 15.5. Допустим, что при каждом
положительном т] существует а такое, что
п>1. A5.17)
Допустим далее, что при любых положительных е и г\
существуют б, 0 < б < 1, и целое число п0 такие, что
Рп{х: шх(б)>е}<л, п>п0. A5.18)
Тогда последовательность {Рп} плотна, и если Р
—слабый предел подпоследовательности {Рп}, то Р(С)= 1,

178 ПРОСТРАНСТВО D [ГЛ. 3
Доказательство. Поскольку w'x (б) ^ wx B6) при
б < 1/2 (см. A4.9)), то выполняется условие (И)
теоремы 15.2. Справедливость условия (i) этой же теоремы
легко следует из предположений доказываемой георемы
и неравенства
Следовательно, последовательность {Рп} плотна.
Если wy (уб) ^2е, то у является внутренней точкой
множества {х: wx{6)^e}\ поэтому из сходимости Рп^Р
вытекает, что
}!1тт!я,РЛ*: wxF)>s). A5.19)
По данным е и г) выберем б и п0 так, чтобы
выполнялось A5.18); в силу A5.19) тогда р{у: wy (^б) >2е|<
^т]. Для каждого k существует, следовательно,
положительное 6а такое, что если Л* = {у: wy(8h)^ 1/&}, то
P(Ah) < l/k. Положим А = lim \nih Ah; тогда Р(А) == О,
и если хф Л, то НтдояF) = 0, откуда Р(С)= 1, что и
б->0
доказывает теорему.
В приложениях условие A5.18) проверяется обычно
с помощью следствия к теореме 8.3, которое
переносится на случай пространства D без изменений.
Заметим, что если По в A5.18) равно 1 для любых 8 и т),
то Рп(С)= 1 при всех п.
Случайные элементы пространства D. Случайный
элемент пространства D мы будем часто называть
случайной функцией. При этом из контекста всегда будет ясно,
является ли рассматриваемая случайная функция
случайным элементом С или D.
Если X отображает пространство (Q, 3$, Р) в D, то
при любом со Я (со) является элементом D, значение
которого в точке t мы обозначаем через X(t, со). При
каждом / обозначим X(t) действительную функцию ntXt
определенную на Q; значение этой функции в точке со
равно X(t, со). Точно так же? как 9 случае простран-

§ 15] СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ В D 179
ства С, X является случайным элементом D(X~XS) a<%)
тогда и только тогда, когда при каждом t X(t) является
случайной величиной (это следует из теоремы 14.5).
Последовательность {Хп} случайных элементов
пространства D называется плотной, если
последовательность соответствующих распределений является плотной.
Каждая из теорем 15.1—15.5 может быть легко
переформулирована в терминах случайных функций.
Критерий сходимости. Объединим результаты этого
параграфа с результатами § 12 для получения
конкретного критерия сходимости по распределению.
Пусть Хп и X — случайные элементы пространства D.
Будем писать Тх вместо ГР, где Р — распределение X.
Таким образом, Тх содержит 0 и 1, и если 0<f < 1,
то t^Tx тогда и только тогда, когда Р{Х(()Ф
ФХA—)} = 0. В дальнейшем будем писать w"(Xy 6)
вместо w"{6).
Теорема 15.6. Пусть
(*„(/,), ..., Xn(tk))-^(X(t}), ..., X(tk)) A5.20)
всякий раз, когда t\, ..., tk все принадлежат Тх\ пусть
Р{ХA)Ф ХA-)} = 0, и пусть
A5.21)
при t\ < t < t2 и п ^ 1, где у ^ 0, а > 1/2 и F
—неубывающая непрерывная функция на [0, 1]. Тогда
хп-^х.
Можно указать более ограничительный вариант
условия A5.21) в терминах моментов, а именно,
Е {| Xn(t) - Хп fo) |Y | Хп (t2) - Хп (t) |Y} < [F (t2) -
Доказательство. В силу теоремы 15.4 достаточно
показать, что для любых положительных е и г) найдется
положительное б такое, что
P{w"(Xni 6)>e}<r, A5.22)

180 ПРОСТРАНСТВО D (ГЛ. 3
для всех п. При фиксированных т, б и п для всякого
положительного целого т рассмотрим случайные
величины
Пусть
^) A5.23)
/= 1, 2, ..., т.
где максимум берется по t, /, k таким, что 0 ^ i ^ / ^
^ k ^ т. В силу A5.21) и теоремы 12.5
Р {АС > е} <4? [F(% + 6)-F (т)]2а, A5.24)
где К = Ку,а зависит только от у и а.
Положим
w"(Xni [т,
= sup min {| Хп (t) - Хп (t{) |, | Xn (t2) - Xn (t) |}, A5.25)
где верхняя грань берется по tu t, t2y удовлетворяющим
соотношению т ^t\ ^t ^^^т + б. Поскольку Хп
является функцией, непрерывной справа на [0,1], то,
устремляя /пкоов A5.24), получаем
P{W{Xn, [т, т + 6])>е}<
<-?r[F(x + 6)-F(x)Ja. A5.26)
Допустим теперь, что б= \/Bи) есть величина,
обратная четному целому числу, и допустим, что
*"{ХЯ, [2/6, B/ + 2N])<е, 0</<а-1, A5.27)
и
w" (ХПУ [B/ + 1) б, B1 + 3) 6] )< е, 0 < / < и - 2. A5.28)
Если U t^it ^ U и ^ — *i ^ б, то обе точки U и t2 лежат
в некотором из 2и— 1 интервалов, указанных в A5.27)
и A5.28), так что
1*1.D)--MOD <в.

§ ,$] СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ В Ь 181
Таким образом, из A5.27) и A5.28) вытекает, что
w"{%n> б) < е- Отсюда в силу A5.26)
% 06-29)
где каждая из сумм ?' и Z" имеет вид
t
и tk — /л-!<2б. Но тогда
A5.30)
Поскольку 2а > 1 и функция F непрерывна, то правая
часть последнего неравенства стремится к 0 вместе с 6,
что и доказывает A5.22).
Критерий существования*). Пользуясь развитыми
выше идеями, можно также получить условие
существования в D случайного элемента с заданными
конечномерными распределениями. Пусть, так же как в теореме
12.4, \it , для каждого набора t\, ..., tk точек из
[0, 1] есть вероятностная мера на (Rh,&k), и
предположим, что эти меры удовлетворяют условиям
согласованности теоремы Колмогорова (о существовании меры).
Теорема 15.7. В пространстве D существует
случайный элемент с конечномерными распределениями
\xt t при условии, что, во-первых, эти распределения
1 * К
согласованы; во-вторых,
?r A5.31)
для ti ^ t ^ t2, где у ^ 0, а > 1/2 и F — неубывающая
непрерывная функция на [0, 1]; и, в-третьих,
l. A5.32)
*) Эта тема может быть пропущена.

182 ПРОСТРАНСТВО Ь [ГЛ. 3
Можно указать более ограничительный вариант
условия A5.31):
j I р - р. г I е2 - р г *ни, (р,. р. р2) < v («о - * (of-
Доказательство. Для произвольного числа п
легко построить случайную функцию Хп, которая
постоянна на каждом интервале [(/—lJ~w, i'2~n) и для
которой распределение случайного вектора
есть [it ^ с 4 = 2" и ^ =/2~п. Мы докажем, что
последовательность {Хп} плотна. Сначала покажем, что
при заданных е и г\ существует б такое, что для
достаточно больших п
P{w"{Xn, 6)>8}<л. A5.33)
Если значения tu t и U являются целыми кратными
2~п и tfi ^ / ^ t2, то в силу A5.31) имеем
Рассмотрим, снова величины A5.23). Если точки т +
+ /б//п, / = 0, 1, . ., т, все являются целыми кратными
2~п, то неравенство A5.24) получается так же, как и
раньше. Если т и 6 являются целыми кратными 2~п,
тогда то же самое справедливо для точек x-\-j6/m при
условии, что т = 62П. Однако поскольку функция Хп
постоянна на каждом интервале [(*"— 1J~п, /2"п), то
величина Mm при т = 62П равна в точности величине,
определенной формулой A5.25). Таким образом,
неравенство A5.26) выполняется, если и т, и б являются
целыми кратными 2~Л.
Предположим теперь, что б = 1/2г для некоторого
целого v>\. Если n^v, то б является целым
кратным 2~~п и таковыми же являются концевые точки всех
интервалов, входящих в формулы A5.27) и A5.28).
Отсюда, как и раньше, следует, что A5.30) выполняется

§ 15] СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ В D 183
при п ^ v. Таким образом, существует такое б, что
A5.33) выполняется при всех больших п.
Для доказательства плотности последовательности
элементов Хп достаточно показать, что соответствующие
распределения Рп удовлетворяют предположениям
теоремы 15.3. Условие A5.7) выполнено вследствие того,
что справедливо A5.33). Если 2~к < б, то
Поскольку распределения первого члена в правой части
совпадают при всех n^k, то из A5.33) следует, что
условие (i) теоремы 15.3 выполняется.
Для доказательства A5.8) и A5.9) мы временно
предположим, что если для некоторого положительного
числа бо имеет место неравенство h ^. бо, то
Мо.А{(Рь М : Pi = Ы = Ь Им-*«Pi. Ы ¦' Pi = fc}= 1.
A5.34)
При этом условия A5.8) и A5.9), конечно, выполняются,
так что последовательность {Хп} плотна. Если X—
предел сходящейся по распределению некоторой
подпоследовательности, то (X(ti), ..., X(th)) имеет
распределение |i, , для двоично рациональных чисел t\, ...,>thy
а общий случай получается с помощью A5.32)
посредством аппроксимации сверху.
Остается снять ограничение A5.34). Возьмем бо < 1/2
и положим
О при 0 < t < б0,
ПУСТЬ ^...^^^...v где 81 = К1д- Tor^a \...th
удовлетворяет условиям теоремы (с новой функцией F)y
а также специальному условию A5.34), так что в
пространстве D существует случайный элемент У с
этими конечномерными распределениями. Требуемый
случайный элемент X теперь получим, положив X(t)=i
У( + /A—260)) при 0<f ^ 1.

184 ПРОСТРАНСТВО D [ГЛ. 3
Для иллюстрации применений теоремы 15.7 докажем
с ее помощью существование в D случайного элемента,
описывающего цепь Маркова с непрерывным временем.
Пусть pij(t), /, /=1,2, ..., —неотрицательные числа,
определенные при *>0 и удовлетворяющие соотношениям
?М')=1 и HPu(s)Pjk(t)=*Pik(s + t). Пусть ph
/=1,2, ..., — неотрицательные числа, удовлетворяющие
условию X Pt = 1 • Положим р/ @) = pj и Pi (/) = ? ргрц (t)
при / > 0.
В предположении, что соотношение
l A5.35)
выполняется равномерно по i9 мы докажем
существование в D случайного элемента X с конечномерными
распределениями, заданными равенствами
pw.('--'-») A5-36)
при 0 ^ to < tx < ... < tm ^ 1. Согласованность этих
конечномерных распределений устанавливается без
труда.
Докажем сначала существование положительного К
такого, что для всех i и всех положительных /
0<1-р„@<Ю. A5.37)
Вследствие равномерности в предельном соотношении
A5.35), каково бы ни было е, найдется такое б, что
pu(s)> 1 — г при всех i, если s ^ 26. Если / < б, то
б <; mt ^ 26 при некотором положительном целом т, и
мы имеем
1 —8<pu(mt)<
—о
< [Рн (t)]m + Y \Pu (/)]' ? P^/ @

§ 15) СЛАБАЯ СВОДИМОСТЬ И ПЛОТНОСТЬ В б 185
При е = 1/3 из последнего неравенства следует (так
как log w ^ и— 1), что т(\ — pu(t))^ Iog2 < 1. Возь-
мем к = б-1. Поскольку mt ^ б, то мы получаем, что
A5.37) выполняется при / < 6. Но при t^d
неравенство A5.37) тривиально.
Если соотношение A5.36) справедливо, то
P{X(t)?=X(t{), X(t2)?*X(t)} = Zpi(ti)Pu(i>i)Pik(t>2), A5.38)
где 6i = < — tu 62 = t2 — t и где суммирование
производится по всем i и по всем таким / и k, для которых
1ф] и \фк. В силу A5.37) сумма в A5.38) не
превосходит /C26i62> /С2F1 + б2J. Таким образом,
конечномерные распределения, заданные в A5.36),
удовлетворяют условию A5.31) с у = 0» а=1 и F{t)=Kt.
Так как из A5.36) и A5.37) следует также неравенство
P{X(t + h)*?X(t))^KK то условие A5.32) также
выполняется. Таким образом, некоторый случайный
элемент X пространства D удовлетворяет условию A5.36).
(Так как различные значения X(t) отличаются друг от
друга не меньше чем на 1, то с вероятностью 1 X
является ступенчатой функцией, постоянной на
интервалах.)
Другие критерии*). В теореме 15.6 предполагалось,
что функция F неубывающая и непрерывная. Можно
заменить предположение о непрерывности
предположением о непрерывности справа, если при этом усилить
условия A5.21) следующим образом:
P{\xn{t)-xn{U)\>K 1«2)-*
< 7^[F {i)" F ш*[F {k) ~ F {t)]a' A5-39)
В самом деле, неравенство A5.39) и теорема 12.6
позволяют заменить A5.24) более сильным неравенством
*) Эта тема может быть пропущена.

186 Пространство b (гл. з
Пусть /(т;т + б) обозначает максимальный скачок F
в интервале (т, т + 6]. В силу A5.40) имеем
>-?J-
(Если /7(т)= F(t +6), то правая часть этого
неравенства полагается равной нулю.)
Точно так же, как и раньше, мы получаем
неравенство A5.29), в котором каждая из сумм J]' и X" теперь
имеет вид
[FD) -
где 0 ^ U ^ ... <g tr ^ 1 и tk — tk-\ ^ 26. Для
доказательства A5.22) достаточно поэтому показать, что при
достаточно малом б все суммы A5.42) становятся
меньше, чем rjo = Tie2Y/B/C). Обозначим разность F(tk) —
— F(tk-i) через Д& и J(tk-utk] через /&. Поскольку а>
> 1/2, а величины Aft в сумме составляют самое
большее F(l) — ^@), то
Z AJ (Л, - Jk)a < [F A) - F @)]а+1Г max, (А, - /*Г1/2.
Левая часть этого неравенства есть не что иное, как
сумма A5.42), и следовательно, достаточно лишь
показать, что если 0 ^ / — 5 ^ 26 для достаточно малого б,
то имеет место оценка
F(t)-F(s)-J(s, /]<Л1 =
„1/(
- Ло
[F A) _
A5.43)
Поскольку F является элементом пространства D, то
можно указать (см. A4.8)) точки sit 0 = s0 < s\ <;...
...<S/=1, такие, что wF[sj-]9 si) <-g"^J* ^Усть 26
меньше, чем наименьшая из величин st — st-_j. Если / —
— 5 ^ 26, то либо s и / лежат в одном и том же интер-

§ 15] СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ ВО 187
вале [St-i,St)> и в этом случае левая часть A5.43)
меньше, чем -п"^1» либо s и t лежат в смежных интервалах
[sz_i,Si) и [siy Si+i), и в этом случае левая часть A5.43)
не превосходит F(t) — F(Si)-\- F(Si—) — F(s) ^ tji.
Таким образом, из неравенства A5.39) для
непрерывной справа функции F следует A5.22). Доказательство
теоремы завершается теперь, как и прежде, и мы
заключаем, что Хп —> X. Аналогично, в теореме 15.7 можно
считать функцию F непрерывной справа, если заменить
A5.31) на
< -?г [F (t) - F (t{)]a [F (t2) - F (t)]a. A5.44)
Сепарабельные стохастические процессы*). Согласно
теореме 9.2, если конечномерные распределения сепара-
бельного стохастического процесса могут быть
реализованы как конечномерные распределения вероятностной
меры, заданной на (С, <&), то выборочные траектории
процесса непрерывны с вероятностью 1. Мы докажем
подобный результат для пространства D.
Пусть {It' 0 ^ / ^ 1}—стохастический процесс, и
пусть Р — вероятностная мера на (D,3)). Предположим,
что процесс и мера имеют одни и те же конечномерные
распределения. Предположим, кроме того, что процесс
сепарабелен, так что условие (9.16) выполняется для
любых а и р и любого открытого интервала /. Не
ограничивая общности, можно считать, что Osro; в этом
случае (9.16) выполняется также и тогда, когда / имеет
вид [0, 5).
Теперь мы построим множества, служащие тем же
целям, что и множества (9.20) в рассуждениях § 9.
Пусть V обозначает теперь систему чисел:
V: k\ ru ..., rk; su ..., sk\ <хь ..., ak, A5.45)
где k — произвольное целое число, riy s{ и а2- —
рациональные числа и
О = Г{ < S\ < Г2 < S2 < ... < Гк < Sk = 1 <
*) Эта тема может быть пропущена,

188 ПРОСТРАНСТВО D [ГЛ. з
Положим
Г\{
f| П {«>• min{a/-b a*} <?*
<max{a,-b at} + e, f е=E,-ь г^)ПГ0}; A5.46)
в первом пересечении мы заменяем (rusi) на [ruSi)
(для t = 1). Пусть Уьь обозначает класс систем A5.45),
которые имеют фиксированное значение k и
удовлетворяют условиям т\ — Si_i < б, i = 2, ..., k. Определим
теперь множество
U Qr.(V.e), A5.47)
г k б kb
где е и б пробегают положительные рациональные
значения. Наконец, определим Qt(V,b) и Ят, заменяя Го
на Г = [0, 1] в соотношениях A5.46) и A5.47).
Нетрудно показать, что если со е йт, то выборочная
траектория процесса, отвечающая <о, непрерывна справа
в точке t = 0, имеет предел слева в точке t = 1 и на
(О, 1) может иметь разрывы только первого рода. С
другой стороны, если выборочная траектория обладает этим
свойством, то со ейг, что следует из леммы 1 § 14
(примененной к выборочным траекториям, нормированным
так, что они непрерывны справа).
Докажем, что QTe^ и P(QT)= 1. Справедливость
соотношений (9.22) и Qroe^ получается с помощью
тех же самых рассуждений, что и в § 9; следовательно,
Qr^Jf и Р {пт) = Р (Qn), и остается лишь показать,
что
l. A5.48)
Для занумерованных в каком-либо порядке точек
(h, t2, ...)> образующих множество Го, определим
отображения (p:Q->/?°° и ф: D -* /?°°, положив ф(о>) =
= (!,>)>!,>)'•••) и ф(дО = (х(*1),х(*2), ...)¦ Точно
также, как и раньше, равенство "fft.25) справедливо
для любого множества Н из 52°°, где теперь Р
обозначает вероятностную меру на (D,3))у а не на (С,®7),

§ 15] СЛАБАЯ СХОДИМОСТЬ И ПЛОТНОСТЬ В D Ш
обладающую конечномерными распределениями
процесса &}.
Для системы A5.45) и произвольного е>0 пусть
множество #г0 (V, е) состоит из таких точек г =
= (zu *2, ...) из /?°°, которые обладают следующими
свойствами: во-первых, для любого i= 1, 2, ..., k
неравенство
выполняется для всякого и, для'которого tu^{rhSi)
(или tu^[f\,S\) в случае 1= 1), и, во-вторых, для
каждого 1 = 2, ..., k неравенство
minK-b а,}<гв<тах{а,-ь aj + e
выполняется для любого w, для которого tu еE^_ь гг).
Определим теперь
Яго=ПиП U
8 Л б Ksr
Множества ЯгоAЛ е) и ЯГо принадлежат Й°°, q>-lHTo{Vy e) =
= Qro(F, е) и ф"-1ЯГо = ЙГо. В силу (9.25) имеем P(Qro) =
= Р(^1НтХ откуда, поскольку ^Ht0 = D9 вытекает
A5.48).
Мы доказали следующий результат:
Теорема 15.8. Если {?*: 0 ^ t <; 1} — сепарабель-
ный стохастический процесс и если на (Z), 3)) существует
вероятностная мера, обладающая теми же
конечномерными распределениями, что и {It), то выборочные
траектории процесса с вероятностью 1 непрерывны справа
при / = О, имеют пределы слева при t= 1 и на (О, 1)
могут иметь разрывы лишь первого рода.
Следующий пример показывает, что невозможно
продвинуться дальше и доказать, что траектории
непрерывны справа и, следовательно, лежат в D (с
вероятностью 1). Положим
Г U, если и^г^со,
Е'(сй)=1 1 если »<*<1
где гочка со равномерно распределена на Q = @, 1).
Этот пример лишний раз подчеркивает тот факт, что,
полагая элементы D непрерывными справа, мы просто
приняли удобное соглашение.

190 ПРОСТРАНСТВО D [ГЛ. 3
3 адачи
1. Покажите, что теорема 15.4 остается-верной, если потребовать
лишь, чтобы A5.10) выполнялось для всех t\, ..., tk из Го, где
множество Го всюду плотно в [0, 1] и содержит 0 и 1. Покажите, что
теорема неверна, если 0 ф Го или если 1 ^ Го.
2. Условие A5.32) в теореме 15.7 является необходимым.
3. Если случайный элемент X пространства D обладает тем
свойством, что
lim sup 4
d0 0<*<l6
для любого положительного е, то Р{ХеС}= 1.
4. Используя теорему 15.7 и задачу 3, покажите, что
распределения nt >f i могут быть реализованы как конечномерные
распределения случайного элемента пространства С, если выполняется A5.31)
(где у ^ 0, а > 1/2 и F не убывает и непрерывна) и если для
любого положительного г
Имеет место аналогичное утверждение с A5.44) вместо A5.31).
Используйте теорему 9.2 для вывода условий непрерывности
выборочных траекторий сепарабельного процеса. (Сравните с задачей 8 из
§12.)
5. Используйте теорему 15.7 для построения пуассоновского
процесса в D. Сделайте также прямое построение, отправляясь от
независимых показательно распределенных случайных величин.
§ 16. Приложения
Теорема Донскера. В некоторых отношениях
пространство D более удобно для формулировки теоремы
Донскера, чем пространство С. Пусть случайные
величины gi, ^2, ... определены на (Q, Jf, Р), и пусть 5П =
= ?i + • • • + ?п — их частичные суммы. Определим
функцию Хп((д), принадлежащую пространству D, положив
^ A6.1)
Поскольку Xn(t) при каждом t является случайной
величиной, то Хп является случайной функцией —
случайным элементом пространства D.
Мы хотим доказать, что при подходящих условиях
распределение функции Хп сходится слабо к винеров-
ской мере W. Мера W определена на (С, Щх но ее легко

I 161 ПРИЛОЖЕНИЙ 191
продолжить на (D,3)): поскольку Се®, а
относительная топология Скорохода в пространстве С совпадает
с равномерной топологией в этом пространстве, то для
любого А из 3) А П Се?. Мы можем поэтому
продолжить меру W на (D,iZ>), полагая ее значение на Лей)
равным W(A Г) С). Разумеется, С служит носителем
меры W. В дальнейшем мы будем интерпретировать W
или как вероятностную меру на (D, &)), или как
случайный элемент D с этой вероятностной мерой в
качестве его распределения.
Теорема 16.1. Предположим, что случайные
величины In независимы и одинаково распределены со
средним О и конечной положительной дисперсией а2:
E&,} = 0, Е&} = а2. A6.2)
Тогда случайные функции Хп, определенные формулой
A6.1), удовлетворяют предельному соотношению
Xn^>W. A6.3)
Доказательство. Доказательство сходимости
конечномерных распределений, данное в § 10, без
трудностей переносится на рассматриваемый случай. Таким
образом, нужно доказать лишь плотность.
Имеется несколько способов доказательства
плотности. Один из них заключается в проверке выполнения
предположений теоремы 15.5. С другой стороны,
условие (и) теоремы 8.3, сформулированной для случайных
элементов пространства D, требует, чтобы для
положительных в и г| существовали бы 6, 0< 6 < 1, и целое
число м0 такие, что при 0 ^ / ^ 1
sup
(если t + 8 превосходит 1, то мы заменяем / + 6 на 1).
Далее это условие сводится с помощью рассуждений,
использованных при доказательстве теоремы 8.4, к
следующему условию: для любого положительного е
существуют К > 1 и целое число п0 такие, что
Р\ max | Stг |^ho л/

192 ПРОСТРАНСТВО D [ГЛ. 3
Следовательно, достаточно проверить лишь это
последнее условие. Это можно осуществить либо с
помощью центральной предельной теоремы, как в § 10
(см. A0.7)), либо с помощью оценок из § 12 (см.
A2.23)). Таким образом, методы предыдущей главы
переносятся сюда без существенных изменений.
Используя результаты § 15, можно построить очень
простое доказательство. В силу теоремы 15.6 достаточно
установить неравенство
A6.4)
Ввиду A6.1), A6.2) и независимости величин gn, для
левой части неравенства A6.4) имеет место оценка
Slnt] - S[nu] |2} E {| Slnil] - SM P} =
] }2- A6.5)
Если U — t\^\\n, то A6.4) следует из A6.5). Если
h — t\ < 1/м, то либо t\ и /, либо / и U лежат в одном
и том же интервале [(*—1)/я, 1/п); в любом из этих
случаев левая часть в A6.4) обращается в 0. Этим
устанавливается справедливость неравенства A6.4) в
общем случае, и теорема доказана.
Так как значение suptXn(t) одинаково для
случайного элемента D, определенного формулой A6.1), и для
случайного элемента С, определенного формулой A0.1),
и равно max Sf/(a д/я ), то мы можем, очевидно, ис-
пользовать теорему 16.1 для еще одного вывода A0.18).
(Нужно доказать, что отображение A: D-+R\
определенное равенством h(x) =sup/A:(tf), непрерывно, но это
не составляет труда.) Подобным же образом мы можем
заново получить результаты §11.
Некоторые функции от частичных сумм S{ имеют
простое выражение в терминах случайных элементов Хп из
теоремы 16.1, но не имеют простого выражения в
терминах случайных элементов Хп из теоремы 10.1. Такие
функции легче анализировать в D, чем в С. К примеру,
пусть h(x) при jcsD является лебеговой мерой множе-

§ 16) Приложений 193
ства таких /, для которых x(i)>0. Функция h
измерима (h~]32] си 3)) и непрерывна всюду, за
исключением множества винеровской меры 0 (стр. 318). Если
случайная функция Хп определена формулой A6.1), то
h(Xn) в точности равно умноженному на п~х числу
положительных сумм среди Si, ..., Sn_i, в то время как
это, вообще говоря, неверно, если функция Хп опреде*
лена формулой A0Л). Объединяя теорему 5.1, теоре^
му 16.1 и A1.26), мы приходим к закону арксинуса,
справедливому в предположениях теоремы Линдебер^
га — Леви *).
Доминированные меры. Случайные величины в теоре^
ме 16.1 определены на вероятностном пространстве
(Q, $, Р). Мы покажем, что теорема остается верной*
если меру Р заменить произвольной вероятностной
мерой Ро на (Q, $), доминируемой мерой Р (иначе говоря,
абсолютно непрерывной относительно Р). Например,
предположим, что Q = [0, 1], $ состоит из линейных бо-
релевских подмножеств отрезка [0, 1] и gn(co) = 2wn— 1,
где (оп является п-м знаком в двоичном разложении со.
Тогда теорема 16.1 применима к последовательности
{In}, если со имеет равномерное распределение на [0, 1].
Согласно доказываемой ниже теореме утверждение
теоремы 16.1 по-прежнему верно, если со имеет
произвольное распределение на [0, 1], обладающее плотностью
относительно лебеговой меры.
Нам понадобится следующий предварительный
результат (ниже о{38о) обозначает а-поле, порожденное ЗВ0):
Теорема 16.2. Пусть Е\, Е2, ... — измеримые
множества в вероятностном пространстве (Q, ^Sf, P).
Допустим, что существуют постоянная а и подполе $0 а-поля
$ такие, что для любого множества Е из $0
Р(Еп[)Е)->аР(Е). A6.6)
Допустим, кроме того, что все множества Еп
принадлежат о($о). Если Р мажорирует другую вероятностную
меру Ро на $о, то
Ро (?„)-> а. A6.7)
*) Некоторые дальнейшие приложения см. в задачах.
7 П. Биллийгсли

194 ПРОСТРАНСТВО D [ТП. 3
Доказательство. Точно так же, как в
доказательстве теоремы 4.5, из предположений следует, что
A6.8)
для любой интегрируемой функции g. Остается заметить,
что соотношения A6.8) и A6.7) означают одно и то же,
если g является производной Радона — Никодима меры
Ро относительно меры Р.
Теорема 16.3. Теорема 16.1 остается справедливой,
если меру Р заменить произвольной доминируемой ею
вероятностной мерой Ро.
Доказательство. Определим случайную
функцию Х'п:
*'„ (/,©)=¦ ? &(©), A6.9)
° pn<i<nt
где {рп} — последовательность целых чисел,
сходящаяся к бесконечности столь медленно, что
Рп/л/'п -> 0 (Х'п (t, со) = 0 при t < рп/п). Если бд =
Рп
= sup, j Хп (/) - Х'п @1, то Ьп < —^ ? 16, |. В силу не-
равенства Минковского и того факта, что pj^y/n —>0,
имеем
откуда по неравенству Чебышева
6„-^>0, A6.10)
где сходимость понимается в смысле меры Р (т. е.
предполагается, что Р определяет распределение gn). По
теореме 16.1
Xn-^W, A6.11)
где сходимость рассматривается по отношению к мере Р.
Поскольку d (Хп, Хп) ^ б«, где d представляет собой

§ 16J ПРИЛОЖЕНИЯ 196
метрику в D (любую из рассмотренных выше), то из
теоремы 4.1 следует, что
X'n-^+W A6.12)
относительно Р.
Возьмем и временно зафиксируем ^-непрерывное
множество А (в D); согласно A6.12)
A6.13)
Пусть $о обозначает поле цилиндров: 3S0 состоит из
множеств вида
{со: (gi(со), .... Ы©))еЯ},
где k^l и Яе^. Если ?е$0, то, так как prt->oo,
Р {{Х'п е= А} П Е) = Р {Х'п е Л} Р (?) для больших /г, и из
A6.13) следует, что
P({X'n*BA)(\E}-+W(A)P(E).
Поскольку множества {Х'п е А} все принадлежат
а-полю, порожденному #0, то из теоремы 16.2 (при а =
= HP (Л)) вытекает, что если мера Ро абсолютно
непрерывна относительно Р, то
Po{X'n^A)->W{A). A6.14)
Так как соотношение A6.14) выполняется для
любого множества А непрерывности меры W, то
соотношение A6.12) выполняется и в том случае, когда оно
понимается в смысле меры Ро. Далее, соотношение A6.10)
означает, что Р{бл^е}->0 при каждом
положительном е; если мера Ро абсолютно непрерывна
относительно Р, то также Ро{бп^е}~>О, и соотношение A6.10)
остается справедливым и тогда, когда оно понимается
в смысле меры Ро. Применяя еще раз теорему 4.1, мы
видим, что A6.11) выполняется в смысле Ро, что и за-"
вершает доказательство.
Теорема 16.3 касается сходимости по распределению.
Заметим, что при переходе от Р к доминируемой мере
Ро тривиальным образом сохраняются такие свойства
последовательности {Sn}f как закон повторного
логарифма,.который выполняется с вероятностью 1.

196 ПРОСТРАНСТВО D [ГЛ. 3
Эмпирические функции распределения. Пусть %и
|г, ... -— случайные величины такие, что
и пусть Fn(t,(x))—доля точек из множества ?i(co), •••
• •> ?n(w), не превосходящих t, так что Fn(-,co)
является эмпирической функцией распределения. Пусть
Уп((й)—элемент пространства D, принимающий в
точке t^ [О, 1] значение
Yn(t,u) = <fr(Fn(t,®)-F№ A6.15)
где F — общая функция распределения величин gn. Так
как Yn(t) при каждом t есть случайная величина, то Уп
является случайным элементом пространства D. В § 13
мы изучали сходный случайный элемент A3.7)
пространства С; здесь мы будем исследовать Yn непосредственно
и откажемся от принимавшегося ранее ограничения, что
In распределены равномерно. Стохастический процесс
{Yn(t): 0 ^ t ^ 1} называется иногда эмпирическим
процессом.
Теорема 16.4. Предположим, что случайные
величины In независимы и имеют общую функцию
распределения F(t). Если Уп определяется формулой A6.15), то
где У — гауссовский случайный элемент пространства D
такой, что
A6.16)
йный элемент простран
{Г (*)} = <>,
)Y{i)} = F(s)(l-F(Q), s<t A6Л7)
Доказательство. Подобно винеровской мере,
мера W0 продолжима с (С,Ф) на (D,3)). Обозначим
через W° случайный элемент пространства D, имеющий
в качестве своего распределения эту продолженную
меру. Предполагая сначала, что величины gn распреде-
лены равномерно на [0, 1], мы покажем, что Yn—> W°.
Пусть Un(t, со) — число точек множества gi(со), ...
...,gn(co), которые не превосходят t При 0 = U <
< t\ < ... < (k = 1 случайные величины Un(U) —
— Un(ti-\)f i=l, ..., k, имеют полиномиальные рас-

§ 16] ПРИЛОЖЕНИЯ 197
пределения с параметрами п и р\ = /* — U-u и так же,
как в § 13, из центральной предельной теоремы для
полиномиальных испытаний следует, что конечномерные
распределения элемента Yn сходятся слабо к
конечномерным распределениям элемента W°. В силу теорег
мы 15.6 достаточно доказать, что при t\ ^t ^.t2
Е {I Ya (t) - Yn (/,) |2. | Yn (t2) - Yn (t) I2 K 6 (t - tx) (t2 -1).
Но последнее неравенство в точности совпадает с
неравенством A3.17), установленным в § 13.
Следовательно, Yn -^ W°.
Допустим теперь, что величины 1-п имеют
произвольную функцию распределения F на [0, 1]. Определим
функцию, «обратную» к F, равенством
Неравенство s^zF(t) справедливо тогда и только
тогда, когда фE)^ t, так что если величина цп
равномерно распределена на [0,1], то Р{ф(г]п) ^ /} = F(t). Так
как в теореме используется лишь совместное распредег
ление величин gn, то мы можем представить эти
величины в виде In = фСЛп), где величины цп независимы и
равномерно распределены.
Если Gn(-,co)—эмпирическая функция
распределения, соответствующая величинам rji((o), ..., цп((о) и
Zn(/, cd) = л/п (Gn(t,(d)—t)y то, как установлено выше,
з>
Zn —> W°. Но эмпирическое распределение,
отвечающее величинам gi(co), ..., |п(со), равно Fn(t9to) —
= Gn(F(^),co), так что если Yn определяется формулой
A6.15), то Yn(ty o)) = Zn(F(t), со). Определим
отображение г|>: D-+D равенством (tyx) (t) = x(F(t)). Если хп
сходится к а: в топологии Скорохода и х е С, то эта
сходимость равномерная, так что tyxn сходится к урх
равномерно и, следовательно, сходится в топологии Ско-
рохода. Поэтому из сходимости Zn—>W° и теоремы 5.1
ледует , что Yп = ф (Zn) —> -ф {W°). Поскольку У =
= y\)(W°) является гауссовским случайным элементом,
удовлетворяющим условию A6.17), то теорема доказана.
Если бы мы знали распределение величины
sup,К(/)-sup, НГ(/40), A6.18)

198 ПРОСТРАНСТВО О [ГЛ. 3
мы могли бы найти предельное распределение величины
V«sup,(M'.*)-F@). О6-19)
Величина A6.18) имеет то же самое распределение, что
и sup, W° (а именно, распределение, задаваемое
формулой A1.40)), в случае, когда функция F непрерывна; в
общем случае это неверно. Подобные замечания
относятся и к величине
sup, | Г @1 = sup, | IF0 (F (/))!. A6.20)
Примечание. Случайная функция A6.1) имеет независимые
приращения, так же как и W\ об общих результатах, касающихся
слабой сходимости в этом случае, см. Кимм A957 и I960) и
Скороход A957). О сходимости диффузионных процессов см. Стоун A963).
Теорема 16.2 принадлежит Реньи A958).
По поводу теоремы 16.4 см. примечания и ссылки в конце § 13.
См. Шмид A958) о распределениях величин A6.18) и A6.20) при
произвольной функции распределения F.
Задачи
1. В предположениях теоремы Линдеберга — Леви существуют
предельные распределения для случайных величин:
в) -4=г min Sk. 0<P<I.
Постройте соответствующие три отображения из D в R1 и
докажите, что они измеримы и непрерывны на множестве W-меры 1.
О форме предельных распределений для (а) и (б) см. Доискер A951)
и для (в) Марк A949).
2. Теорема 16.1 (имеет смысл и) справедлива, когда п стремится
к бесконечности непрерывным образом [см. B.4)].
3. При каждом п пусть gni, ..., Inn—независимые случайные
величины такие, что РЦпк — 1} = Рп и Р{|пй = 0} = 1 — рп.
Определим Уп, положив Yn(t) = У \пк. Предполагая, что
k<nt

§ 17) СЛУЧАЙНАЯ ЗАМЕНА ВРЕМЕНИ J99
прп -* К докажите, что Уп —> У, где Y — соответствующий пуассо-
новский процесс (с траекториями в D).
4. Покажите, что теорема 16.4 остается справедливой, если меру
Р, отвечающую величинам ?п, заменить вероятностной мерой,
абсолютно непрерывной относительно Р.
5. Докажите теорему 16.4, применяя теорему 15.6 с A5.39)
вместо A5.21) и избегая, таким образом, представления ?п = ф(л«)-
6. Пусть Р — мера Лебега на единичном интервале Q и |п (со) =
= 2@п — 1, где con — п-й знак в двоичном разложении со. Покажите,
что в теореме 16.3 требование, заключающееся в том, что мера Ро
доминируется мерой Р, существенно: например, теорема неверна,
если Ро — масса, сосредоточенная в одной точке. Теорема также
перестает быть верной, если Ро~ канторовская мера (в смысле
определения в книге Биллингсли A969, стр. 48)).
7. Рассмотрите задачу 1 из § 10 применительно к D. (См. также
задачу 1 из § 12.) Обобщите результаты задачи 1 настоящего
параграфа.
§ 17. Случайная замена времени
Иногда возникает необходимость аппроксимировать
распределения частичных сумм Sv = gi + . • • + 5v, где
индекс v сам является случайной величиной. В этом
параграфе мы докажем несколько функциональных
центральных предельных теорем для таких сумм случайного
числа случайных величин.
Суммы случайного числа случайных величин.
Допустим, что частичные суммы Sn = h + • • • + In при
неслучайном индексе п удовлетворяют условиям
центральной предельной_теоремы, скажем, с нормирующими
множителями а <у/п , так что
1 Z>N A7.1)
ал/п
при п~*оо. Если v — случайное целое число,
принимающее большие значения с большой вероятностью, то
имеется определенная надежда, что величина 5v/(aл/v)
будет распределена приближенно нормально.
Для того чтобы сформулировать предельную
теорему, рассмотрим последовательность {vn} случайных
целых чисел. Мы ищем условия, при которых
1 %H-^N9 A7.2)

200 Пространство Ь (гл. з
когда п-*оо. Недостаточно, оказывается, предположить,
что vn стремится к бесконечности по вероятности в том
смысле, что при любом а
P{v«<a}^0. A7.3)
Например, допустим, что |п независимы и принимают
значения +1 и —1 с вероятностью 1/2 каждое, так чтю
соотношение A7.1) выполняется с а«=1. Если vn есть
время д-го возвращения в 0 (л-е значение 6, для
которого Sk = 0), то сходимость A7.3) имеет место (так как
Vn^Vn-i + 1), но соотношение A7.2) не выполняется
(поскольку Svn = 0).
Для того чтобы получить A7.2), мы должны
предположить нечто большее, нежели A7.3). Наша основная
цель будет состоять в том, чтобы доказать, что A7.2)
выполняется, если vjn сходится по вероятности к
положительной конечной случайной величине, а величины
In независимы и одинаково распределены со средним 0
и дисперсией а2. Мы получим этот результат из
функциональной центральной предельной теоремы, которая дает
значительно большую информацию.
Определим случайный элемент Хп пространства D
равенством
Xn{t,G>)*=—7=-S[ft*](©)
a V п
й определим также Уп, положив
(очевидно, Yn является_ случайным элементом D). Так
как yn(l) = SV/i/(a ^/n ), то мы будем иметь
возможность аппроксимировать распределение SVn и получить
результаты, подобные A7.2), если покажем, что
случайные элементы Yn сами сходятся по распределению.
Распределение такой случайной функции, как Ynt
проще всего исследовать, используя тот факт, что Yn
получается из Хп в результате случайной замены
времени. Пусть ФпA, w) = v[n*]((o)/n. Так как
У« С, ©) = ЛЯ(Ф11 (<•©),©) A7.4)

§ 171 СЛУЧАЙНАЯ ЗАМЕНА ВРЕМЕНИ 201
(мы допустим временно, что vn ^ п, так что Фп(*,со)^
^ 1), то Yn получается из Хп заменой времени
посредством случайной функции Фп. Чтобы пояснить
рассуждения, используемые в этом параграфе, мы сначала
рассмотрим подобные случайные изменения времени в
общей ситуации. Мы предположим, что обе функции Хп
и Фп сходятся по распределению, и найдем условия, при
которых сходятся по распределению функции Уп,
определяемые формулой A7.4).
Случайная замена времени. Пусть Do состоит из та-
ких элементов ф пространства D, которые являются
неубывающими и удовлетворяют ограничению 0^ф(/)^
^ 1 при всех t. Такие функции ф представляют собой
преобразование интервала времени [0, 1]. Мы введем
в Do топологию, индуцированную топологией Скорохода
в D. Поскольку, как легко показать, Do ^ ®, то а-поле
2H борелевских множеств в Do состоит из подмножеств
Do, которые принадлежат 3) (см. стр. 307).
Обозначим через хоф, где xgD и фе/H,
композицию х и ф, т. е. функцию на [0, 1], значения которой
в точке t равно
A7.5)
Далее, функция хо<р принадлежит D, и если
отображение if: Dy^D0-+D задано равенством
г|>(*, ф) = л;оф, A7.6)
то, как показано на стр. 318, г|) является измеримым
отображением (^-Х3> аЗ> X 2>о).
Пусть X — случайный элемент D, и пусть Ф —
случайный элемент Do. Предположим, что X и Ф имеют
одинаковую область определения, так что (X, Ф)
представляет собой случайный элемент пространства DX^o с
топологией произведения (см. сгр. 308). Если Хоф
принимает в точке со значение А'(со) оф(со) (т. е. если
Хоф = <ф(Х, Ф)), то Хоф является случайным
элементом D; Хоф получается из X с помощью случайной
замены времени, определяемой элементом Ф.
Предположим, что помимо X и Ф при каждом п
имеются случайные элементы Хп и Фп пространств D
и Do, соответственно, причем Хп и Фп имеют одну и
ту же область определения (которая может меняться

202 ПРОСТРАНСТВО D [ГЛ. 3
вместе с п). Мы ищем условия, при которых из сходи-
мости (ХПУ Фп) —> {Ху Ф) (сходимость по
распределению в топологии произведения) следует сходимость
Допустим, что
(Хп,Фп)-^(Х,Ф) A7.7)
P{IgC} = P{0gC} = 1. A7.8)
Если мы покажем, что функция \|), определенная
формулой A7.6), непрерывна в (х, ф) при xgC и фбС П Do,
то в силу следствия 1 из теоремы 5.1 получим
Хлофя-^*оф. A7.9)
Если хп сходится к а; и фп сходится к ф в топологии
Скорохода и если х и ф принадлежат С, то обе эти
сходимости равномерны. Но
< sup,1 xn (/) - x (t) I + sup, I x (фл (/)) - л: (Ф @) I;
отсюда вытекает, поскольку функция х равномерно
непрерывна, что хп о фп сходится к х о ф равномерно и,
следовательно, в топологии Скорохода, что и доказывает
соотношение A7.9).
Остается, разумеется, еще вопрос о том, когда
(Хп> Фп) сходится по распределению. Здесь могут быть
использованы теоремы 4.4 и 4.5.
Приложения. Вернемся теперь к рассмотрению сумм
Sn = h + •. • + Sn. Пусть vn при каждом п —
положительная целочисленная случайная величина,
определенная на том же самом вероятностном пространстве, что
и gn. Определим Хп и Уп, положив
A7.10)
Yn (t, со) =
Теорема 17.1. Если

§ 17] СЛУЧАЙНАЯ ЗАМЕНА ВРЕМЕНИ 203
где 0 — положительная постоянная и ап — постоянные,
стремящиеся к бесконечности, то сходимость
Xn^W A7.13)
влечет сходимость
До
можно
Yn"
казательство.
предположить, что
о<
Без
е<
ограничения
1,
A7.14)
общности
A7.15)
поскольку к этому случаю всегда можно перейти,
выбрав новые постоянные ап. Кроме того, не ограничивая
общности, можно считать, что ап являются целыми
числами. Определим
Vn (to) ^ Л
фп(и<*) = У
-^-t- при ^.,
ап v an A7 16)
/9 в ином случае.
Так как
sup* | Ф„ @ — № 1^ —— 9 —*0, A7.17)
то Фп сходится по вероятности в топологии Скорохода
к элементу ф(/)=6/ пространства Do. В силу A7.13)
и предположения о том, что ап -+ оо, из теоремы 4.4 вы-
з>
текает, что (Хап> Ф«)—* (^> ф)- Следовательно, так как
из A7.7) и A7.8) вытекает A7.9), имеем Хпп°Фп^№ о<р.
Если положить
*"" ч * ° (со),
то Ха оф„ и Yn имеют одинаковое значение в точке со,
если Vn(o))/«n ^ 1. Вероятность последнего события
стремится к 1 в силу A7.12) и A7.15). Следовательно,
Y'n —> W © ф. Далее,
У 5" • п '
7^~- зир,|П(/,со)|-Ао
Vrt(to)

504 Пространство Ь [?л. з
и, следовательно, Yn сходится по распределению к
8-1/2(№оф). Поскольку 0-1/2(№.оф) имеет то же самое
распределение, что и W, то мы получаем A7.14).
Разумеется, из A7.14) следует сходимость
5Vrt/(aVv/i)—*N, равно как закон арксинуса,
предельные законы для максимума и тому подобное.
Отметим, что мы не делали в отношении gn никаких
предположений помимо предположения A7.13), которое
выполняется, например, в ситуации, когда действует
теорема Линдеберга — Леви. В главе 4 мы докажем
сходимость A7.13) для разного рода последовательностей
зависимых случайных величин {gn} — к любой из них
будет применима теорема 17.1.
Если предел в A7.12) не является постоянной
величиной, то мы должны сделать более специальные
предположения относительно |п.
Теорема 17.2. Предположим, что случайные
величины gi, I2, ... независимы и одинаково распределены,
причем Е{|л} = 0 и Е{?п} = о2. Если
Vn/a^e, A7.18)
где 9 — положительная случайная величина и ап — стре-
з>
мящиеся к бесконечности постоянные, то Yn —> W.
Доказательство. Предположим вначале, что
случайная величина 0 ограничена, так что существует
постоянная К такая, что
с вероятностью 1. Мы можем выбрать постоянные ап
так, чтобы они были целыми и чтобы К < 1.
Если мы определим Фп формулой A7.16), то, как и
р
раньше, Фп—*Ф, где Ф — случайный элемент Do,
определенный равенством
Пусть ^о — поле цилиндрических множест Определим
Хп формулой A6.9), где рп->оо и Рп1л/п -*0. Тогда,
так же как в § 16, имеем
sup, |*Л0-*И0 1-^0 A7.19)

§ It] СЛУЧАЙНАЯ ЗАМЕНА ВРЕМЕНИ 205
для любого множества А непрерывности меры VP и
любого множества Е из ЗВ0. Далее, по теореме 4.4
р
(Фл, vn/an) —> (Ф, 9) в смысле топологии произведения
на Doy^Rl; так как каждая функция Хп измерима
относительно а(^о), то из теоремы 4.5 следует, что
?>(W9 Фо, во)
в смысле топологии произведения в D X Do X Я1» гАе во
не зависит от IF и фо(/)= 0о*. В силу A7.19)
, Фя, 2b-)-2+(W, Фо, в0).
Далее, отображение, которое переводит точку
(х, ф, а) в а~1/2(лгоф), непрерывно в этой точке, если
лгеС фЕСПДо и а>0. В силу следствия 1 из
теоремы 5.1 поэтому
(УпКГ112 (Хап о Фп) -^ во72 (W о Ф0).
Так как 0О и W независимы, то Э^1/2A^оф0) имеет то
же самое распределение, что и W. Кроме того,
(Уп/<*пГт(Хап°Фп) совпадает с Уп, если vnlan < 1, а
вероятность этого неравенства стремится к 1, так как
/С <; 1. Таким образом, если случайная величина 6 огра-
з
ничена, то Yn—>W.
Откажемся теперь от ограниченности 0. Пусть и > 0;
положим 0И = 6 и vun = vnJ если 0 ^ и, и Qu = и и vMrt = аЛм,
если 0 > и. Для любого и имеем yuJan—* в« ПРИ л-> оо,
так что, в силу уже доказанного, если обозначить
то ^м« —* И^ ПРИ ^ -> оо. Поскольку Р {Yun Ф Yn
^Р{0>^}, то Yn—> W следует теперь из теоремы 4.2.
Таким образом, теорема 17.2 доказана. Приведенное
доказательство применимо ко многим зависимым
последовательностям {|п}; см. главу 4.

206
ПРОСТРАНСТВО О
[ГЛ. 3
Теория восстановления. Развитые выше идеи могут
быть использованы для вывода центральной предельной
теоремы, связанной с теорией восстановления. Пусть
Ль Ц2, ... — последовательность положительных
случайных величин. Определим
?
A7.20)
и положим vt = 0 при r\\ > t. Если щ означает
промежуток времени между (^ — 1)-м и k-м событиями в
некоторой последовательности событий, то v* является
числом событий, наступающих до момента времени /.
Мы предположим существование положительных
постоянных |л и а таких, что если
то Хп —> W. Это предположение будет выполнено, если
мы допустим, как это обычно принято в теории
восстановления, что rin независимы и одинаково распределены
со средним |Л и дисперсией а2. Определим Zn равенством
Теорема 17.3. Если Хп—> W, то Zn-^+W.
Доказательство. Мы будем предполагать ниже,
что (х > 1 (это лишь вопрос выбора шкалы). Покажем
сначала, что
sup
A7.21)
при и->оо. Из условия Хп—>W следует, что
ш
о
A7.22)
при Sr*°° (так как замена s~l на s~'l» приводит к схо-

§ 17)
СЛУЧАЙНАЯ ЗАМЕНА ВРЕМЕНИ
207
димости по распределению). В силу определения A7.20)
ш
из неравенства vv > t вытекает, что 2] Л/^^- Поэтому
из неравенства
следует, что
sup
(
— \it
A7.23)
Аналогично, неравенство inf (— — ) < — е вле-
чет (при е < \тх)
sup
A7.24)
В силу A7.22) вероятности неравенств A7.23) и A7.24)
стремятся к 0 при и —*¦ оо, что и доказывает соотношение
A7.21).
Положим
при
— в ином случае.
Ф„ (/,©) =
В силу A7.21) Фп—>ф, где ф(/) = //ц, откуда стандарт-
ным путем получаем, что Хп°Фп—>Woq>. Пусть
Имеем Ул = Ял ° Ф/г> если vjn^.1, причем вероятность
последнего неравенства стремится к 1 в силу A7.21) и
з>
предположения \х>1. Следовательно, Yn—>Woq>.
Из определения A7.20) имеем

208 ПРОСТРАНСТВО D [ГЛ. 3
/ /— р I / /"- р
Так как max\v\i\ уп—>О, то sup % /аул —* 0,
откуда в свою очередь вытекает, что если
то ZJt —> W о ф. Поэтому м<1/2?« —* W (напомним, что
{) /) W
\ = tj\y), откуда вследствие симметрии W вытекает,
что Zn—* W.
В теореме 17.3 можно устремлять п к бесконечности
непрерывным образом.
Примечание. Результаты этого параграфа являются новыми
и обобщают результаты работы Биллингсли A962). О центральной
предельной теореме для случайного числа случайных величин см.
Реньи A960) и Блюм, Хэнсон и Розенблатт A963). См. Ламперти
A962) по поводу другой теоремы о слабой сходимости в теории
восстановления.
§ 18. Равномерная топология
Рассмотрим кратко равномерную топологию на Д
т. е. топологию, задаваемую равномерной метрикой
Р(*> y) = supf|jt(/) — y(t)\. A8.1)
Относительно этой метрики D является полным
метрическим пространством. Однако оно не сепарабельно:
например, точки xq, 0 < 8 < 1, где
0, если 0</<9,
1, если в<*<1, A8<2)
образуют несчетное множество с расстоянием между
любыми двумя его элементами, равными 1 (см. стр. 295).
Условимся, что любое понятие, имеющее префикс (У,
будет относиться к равномерной топологии: [/-открытое,
(/-непрерывное и т. д. Таким же образом префикс S
будет использоваться для топологии Скорохода в D.
Если d — любая из двух метрик, которые задают
топологию Скорохода (см. § 14), и если р — равномерная
метрика A8.1), то d(x, у) ^ р(х, у). Поэтому равномер-

§ 18] РАВНОМЕРНАЯ ТОПОЛОГИЯ 209
ная топология сильней, чем топология Скорохода:
[/-сходимость влечет 5-сходимость. С другой стороны, как
отмечалось в § 14, если хп S-сходится к х и х е С, то хп
(/-сходится кх.В частности, равномерная и скороходов-
ская топологии на D редуцируют одну и ту же
топологию на С.
Пусть 2) обозначает, как обычно, класс 5-борелев-
ских множеств, и пусть %1 обозначает класс (/-борелев-
ских множеств. Поскольку S-открытое множество
является в то же время (/-открытым, то
0>a<U. A8.3)
Пусть Рп и Р — вероятностные меры, заданные на °iiy
более широком из двух классов 1/и2). Будем
обозначать Рп=^> P[U] слабую сходимость в смысле
равномерной топологии и Pa==?P[S] слабую сходимость в смысле
топологии Скорохода. Сходимость /\i=> P[U]
равносильна сходимости
\fdPn->\fdP A8.4)
для всех ограниченных, (/-непрерывных функций /,
тогда как сходимость Pn=^P[S] равносильна A8.4) лишь
для всех ограниченных, S-непрерывных /.
Следовательно, из Pn^P[U] вытекает Pn=$>P[S]. Обратное
утверждение неверно, так как из 5-сходимости не следует
(/-сходимость (достаточно рассмотреть точечные
распределения).
Предположим теперь, что РпиР определены на <2/,
что Pn=$P[S] и что Р(С)= 1. Покажем, что Рл=фР[(/].
Для любого множества А из °U обозначим через Av его
(/-замыкание и через As — его S-замыкание. Заметим,
что AuCiAs. Так как Рп=9 P[S] и Р(С)=1, то
limsupnPnD)< limsupnPn(AsXP(As)= Р(А8П С).
Поскольку всякая последовательность, 5-сходящаяся к
некоторому пределу в С, в то же время (/-сходится к
этому же пределу, то As П С си Аи. Следовательно,
lim supnPn (А) <^Р(Аи), откуда в силу теоремы 2.1
вытекает, что Рп^Р[Щ.
Нами доказаны следующие утверждения.
Предположим, что Рп и Р определены на °U. (i) Если Рп^ P[U]9
то Pn^P[S]. (ii) Если Pn^P[S] и Р(С)= 1, то Рп=ф

210 ПРОСТРАНСТВО D [ГЛ. 3
=#>Р [?/]*). Ввиду (i) лучше по возможности
доказывать Рп^ P[U\ чем Рп =$> Р[5], так как, например, при
этом мы получаем асимптотические распределения для
большего числа функций на D. С другой стороны, ввиду
(п), если Р(С)= 1, то доказательство сходимости Рп^
=t>P[S] автоматически является доказательством
лучшего результата: Pn=$>P[U].
Рассмотрим распределения Рп случайных функций
Хп, о которых идет речь в теореме Донскера,
сформулированной для пространства D (см. A6.1)). Согласно
теореме 16.1 Рп=^ W[S], где W — винеровская мера.
Поскольку ЩС)—1, мы можем вывести более сильное
заключение: Рп =#> W[U].
В этом рассуждении, однако, имеется пробел: меры
Рп и W определены только на 2). Пока остается
открытым вопрос о том, можно ли продолжать эти меры на
более широкое а-поле °U. Разумеется, мера W может
быть продолжена — рассуждения, используемые в § 16
для продолжения W с (С, Ф) на (D, iZ>), позволяют нам
продолжить также W с (С, <ё?) на (D, <U)% Далее, мера
Рп определена как РХп1 (областью определения Хп
служит вероятностное пространство (Q,Л, Р)), что
возможно в силу включения
Хп1®<=:$. A8.5)
Если нам нужно определить Рп на более широком а-поле
°U, то мы должны заменить A8.5) более сильным
условием
X;]<Ucz$. A8.6)
Если А — конечномерное множество в пространстве
Д то Хп]А е ЗВ, и, следовательно, это верно и в том
случае, когда А является [/-сферой. Однако так как
равномерная топология не сепарабельна, то соотношение
A8.6) не вытекает отсюда без дополнительных
рассуждений.
*) Эти утверждения справедливы вследствие того, что ?/-сходи-
мость всегда влечет S-сходимость, а 5-сходимость к пределу в С
влечет ^/-сходимость; они не затрагивают никаких других свойств С,
Р и двух рассматриваемых топологий.

§ 18J РАЁНОМЕРНАЯ "ТОПОЛОГИЯ 211
Из определения A6.1) функций Хп легко вытекает,
что область значений Хпп сепарабельна в равномерной
топологии. Поэтому если множество А (/-открыто, то
существует счетная совокупность (/-сфер At такая, что
и этом XnlA = [jXnlAt, и так
как каждое множество X^At принадлежит ^?, то и Хп 1А
принадлежит ^, что и доказывает A8.6).
Таким образом, распределение Рп определяется (или
может быть определено) на °U естественным способом:
и мы можем усилить теорему 16.1, понимая под
СХОДИТЕ*
мостью Хп—>W слабую сходимость в равномерной
топологии: Pn=$W[U].
Рассмотрим далее случайные функции Уп,
определенные равенством
где Fn(t,(d) —эмпирическая функция распределения для
величин gi(co), ..., |п(са), которые предполагаются
независимыми и равномерно распределенными на единич-
ном интервале. Из теоремы 16.4 следует, что Yn—*W°.
Поскольку мера W° точно так же, как мера W, может
быть продолжена на CU, то мы можем понимать сходи-
3)
мость Yn —> W° в равномерной топологии, а не в
топологии Скорохода, если только сможем продолжить
распределение элемента Yn с 3) на °Ы, т. е. если мы сможем
усилить включение
УпХФс:Я A8.7)
До
Yn](Ucz$. A8.8)
Но в этом месте наша программа не проходит: мы
покажем, что соотношение A8.8) неверно.
Чтобы убедиться в том, что включение A8.8) не
выполняется, рассмотрим случай я = 1. Пусть h —
отображение Q в Z), которое сопоставляет со функцию

2l2 ПРОСТРАНСТВО Ь (ГЛ. 3
распределения с единичным скачком в точке ?i(o);
имеем h ((о) = х*i(@), где х$ определяется формулой A8.2).
Очевидно, что A8.8) эквивалентно соотношению
/Г!«/с=Я, A8.9)
и мы покажем, что A8.9) неверно, если величина |i(co)
равномерно распределена.
Пусть AQ обозначает tZ-шар с центром xq и
радиусом 1/2. Так как точки хе находятся на расстоянии 1
друг от друга в равномерной топологии, то мы имеем
Л Г U ЛЛ = {со: ^(со)еЯ} A8.10)
Vee=# )
для любого подмножества Н единичного интервала. Если
бы включение A8.9) было верно, то, так как множество
U Aq (/-открыто, множество A8.10) принадлежало бы
38> и поэтому для каждого подмножества Н единичного
интервала мы имели бы {со: |i((o)e H) ^38. Таким
образом, мера [г = Р|Г1 была бы мерой, заданной на
каждом подмножестве единичного интервала и
обладающей тем свойством, что \х(а, b) = b — а для любого
подинтервала (а, Ь). Однако такой меры \х не
существует.
Несколько развив эти идеи, можно показать, что
A8.8) неверно при любом пу если только
распределение, общее для всех |2-, не является чисто атомическим
Поэтому при рассмотрении эмпирических функций
распределения как случайных элементов пространства D
мы должны придерживаться топологии Скорохода — и
это исключительно из соображений измеримости*). Как
*) О, знал бы человек, сколь тяжки хвори
Приносит невоздержанность обжоре,
В пирах он стал бы более умерен ...
Перевод отрывка из «Кентерберийских рассказов»
Дж. Чосера (Chaucer)—«Рассказ монаха» (The
Pardoner's Tale):
О, wiste a man how manye maladyes
Folwen of excesse and of glotonyes,
He wolde been the moore mesurable ...

18] РАВНОМЕРНАЯ ТОПОЛОГИЯ 2l3
правило, мы можем интерпретировать сходимость
Хп —> X в равномерной топологии лишь в двух
случаях: (i) когда X принадлежит С с вероятностью 1 и
(И) когда скачки Хп появляются не в случайные, а в
фиксированные моменты времени.
Примечание. Чибисов A965) отметил, что A8.8) неверно.
Другой путь в обход проблем, порожденных несепарабельностью
пространства D в равномерной топологии, состоит в том, чтобы
рассматривать а-поле °и,ъ, порожденное ^/-шарами. Для этого требуется
иная теория слабой сходимости; см. Дадли A966 и 1967).

Глава 4
ЗАВИСИМЫЕ ВЕЛИЧИНЫ
§ 19. Диффузия
Настоящий параграф содержит теорему,
характеризующую броуновское движение, теорему,
характеризующую более общие диффузионные процессы, и
асимптотические варианты этих двух теорем. В § 20
полученные результаты используются при доказательстве
варианта теоремы Донскера для величин, образующих
стационарную последовательность, которая
удовлетворяет условию равномерного перемешивания; в § 21 этот
результат обобщается на функции от таких
последовательностей, а в § 22 доказываются функциональные
центральные предельные теоремы для эмпирических
функций распределения в обоих этих случаях. В §§ 23 и 24
результаты настоящего параграфа используются для
вывода предельных теорем для мартингалов и
симметрично зависимых случайных величин *).
Несмотря на то, что многие результаты этой главы
могли бы быть сформулированы и доказаны в
пространстве С, мы будем последовательно использовать
пространство D с введенной в нем топологией Скорохода.
Характеризация броуновского движения. Случайная
функция W принадлежит С с вероятностью 1 и имеет
независимые приращения. Кроме того, E{Wt} = 0 и
E{wH} = t. Эти свойства полностью характеризуют W:
Теорема 19.1. Пусть X — случайный элемент в D,
который имеет независимые приращения и удовлетворяет
*) Все последующие параграфы зависят от настоящего. §§ 20,
и 22 следует читать подряд, но эти три параграфа в совокупности,
§ 23 и § 24 представляют собой самостоятельные части.

§ 19] ДИФФУЗИЯ 215
условиям
Р{ХеС}=1, Е{ЛГ@} = 0 и E{X2(t)} = t.
Тогда X имеет распределение, совпадающее с W.
Доказательство. Из независимости и условий,
налагаемых на моменты, следует, что
E{(X(f)-X(s))) = \t-s\
и Р{^@) = 0} = 1. Мы должны показать, что X(t) —
— X(s) имеет распределение N(Oyt — s) при s^t. Так
как приращения независимы, достаточно доказать это
при 5 = 0, а в силу непрерывности мы можем считать,
что t < 1.
Пусть ф(/, •)—характеристическая функция
величины X{t):
<р(/, и) = Е {*'«*«>}.
Поскольку P{XgC) = 1, функция ф(/, и) непрерывна
и по /, и по и. Мы покажем, что (p{t,u) удовлетворяет
дифференциальному уравнению
Cl, не/?1. A9.1)
Отсюда будет следовать*), что
\и)е~~Ы\
так как Х@) = 0 с вероятностью 1, это повлечет за
собой нормальность. При выводе уравнения A9.1) мы
можем понимать частную производную, как производную
*) Если f удовлетворяет уравнению- /'(/)= A(t)f(t) с
непрерывной функцией Л, то производная отношения / к необращающейся в 0
функции Ы0 = ехр^ \A(*)dr{ равна 0, так что f(t)/fo(t)

216 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ, 4
справа *). Таким образом, мы должны доказать
Hm -j~ [q>(/ + К и) - ф(/, и)] = -]?u\{t, и), 0 </ < 1.
A9.2)
Используя стандартную оценку**), имеем
где
|с(о)|<|ор A9.4)
для действительных v. Обозначим
A,.t = A(s,/) = *@-№ A9.5)
Из независимости этих приращений и из соотношений
E{AS, <} = 0 и Е {Д|, <} = / — s имеем
<р (t + h, и) - <р (/, и) = Е {«'«*<« [е'«д <'• <+» - 1] } =
= Е { e'uX(t) [iubt. t+k - у м2А1 <+ft + с (иД; /+*)] } =
|/, «) + Е{«'««(«с(«A,. t+ft)}.
Ввиду оценки A9.4) соотношение A9.2) будет иметь
место, если мы докажем, что
Hm-i-E{|A/t,+/kP} = 0. A9.6)
Снова используя независимость приращений, мы
получаем
Е{A?,. «A?. J = (<-*,)&-<)<&-fiJ, /i«<fe. A9.7)
*) Чтобы доказать, что непрерывная функция / с непрерывной
правосторонней производной /+ на [0, 1) имеет и двустороннюю про-
изводную на @, 1), достаточно предположить / действительной и
показать, что функция F(t) = Д/) — /@) — \ /+ (т) dx тожде-
о
ственно равна нулю. Если, например, /7(/0)<0, то функция G(/) =
= /7(/)— tF(to)/to удовлетворяет условиям G@)= G(to) = O и (так
как F+ обращается в нуль) (?+(/)> 0, так что на [0, to] G должна
иметь положительный максимум в некоторой внутренней точке s; но
тогда G+(s)^0, и мы получаем противоречие.
•¦) Феллер A967b стр. 584).

§ 19] ДИФФУЗИЙ 2l7
Зафиксируем t и t + Л, где Л > 0. Если
A9.8)
то в силу формулы A9.7) и теоремы 12.1
-^-. A9.9)
Далее, согласно A2.6)
max I A(f + i=lU, /+ ± h) I. A9.10)
Так как X принадлежит С с вероятностью 1, максимум
в правой части A9.10) стремится к нулю с вероят*
ностью 1 при т-*оо и, используя неравенство A9.9),
получаем
Р{|Ам+Л1>М<*-?г. 09.11)
гДе /( = 4%л.
Из A9.11) следует (см. C) на стр. 305) оценка
справедливая при а > 0. Выбирая а = /С3/4^8/2 (это зна*
чение минимизирует правую часть), мы получаем
что влечет за собой A9.6) и этим завершает доказатель*
ство.
Условие Р{ХеС} = 1 здесь существенно, так как
остальные предположения теоремы выполнены, если
A9.12)
где Y(t) — пуассоновский процесс с параметром 1.
Теперь мы выведем из теоремы 19.1 одну предельную
теорему. Пусть Хп — случайные элементы в D. Будем
говорить, что Хп имеет асимптотически независимые
приращения, если для
<1 A9.13)

218 зависимые величины [tvi, 4
разность
- JI
Я,} A9.14)
стремится к 0 при п->оо для любых линейных борелев-
ских множеств Н\, • • •, Нг. Отметим, что мы требуем
выполнения A9.14) лишь только для строго разделенных
интервалов [siy Щ9 т. е. при ti-\ < s*.
Напомним, что модуль непрерывности wx(8) =
е= ш(л:, б), определенный формулой (8.1), имеет смысл
и для х, принадлежащих D. Модуль непрерывности
появляется в нижеследующей теореме в силу того, что
носителем предельного распределения на D служит С.
Теорема 19.2. Пусть Хп имеет асимптотически
независимые приращения, последовательность {xl (/);
и ^ 1} равномерно интегрируема при каждом t,
E{Xn(t)}-+0 и Е{х2„(/)}->/ при п-^оо. Пусть, далее,
для любых положительных чисел г и ц существует
положительное число б такое, что при всех достаточно
больших п
A9Лб>
Тогда Xn^W.
Доказательство. Так как Е{XJi@)}-> 0, то
последовательность {Хп@)} является плотной. Из
соотношения A9.15) и теоремы 15.5 следует, что
последовательность {Хп} плотна, и если X есть предел сходящейся
по распределению подпоследовательности Хп, то
Р{А е С} ss 1. Теперь достаточно показать, что каждая
такая функция распределена как W. Но из соотношений
E{A"rt (/)}-> 0, Е {xl (()}-> t и равномерной
интегрируемости последовательности {x\{t)\ n^l} следует, что
Е{*@}=0 и E{X2(t)} = t (теорема 5.4). Далее, если
имеет место A9.13), то приращения X(ti) — X(Si), i =
esl, ..., г, независимы, а так как Р{ХеС} = 1, то же
самое верно, если допустить равенства /* = $г+1 в A9.13).
Таким образом, утверждение теоремы следует из
теоремы 19.1.

§ 19] ДИФФУЗИЯ 219
В A9.15) нельзя заменить w на модуль
непрерывности w\ определенный формулой A4.6) (чтобы в этом
убедиться, достаточно положить Хп тождественно рав-,
ным X из формулы A9.12)).
Условие равномерной интегрируемости
последовательности {X2n(t)\ п^\] при каждом t в доказанной
теореме существенно; в самом деле, в силу теоремы 5.4 это
условие является следствием соотношений Е {х\ (/)} -* t
и Хп—> W. В качестве конкретного примера, когда это
условие не выполняется^ возьмем Хп (t) = л/t %ПУ где 1п
принимает значения л/п , — ^/п и 0 с соответствующими
вероятностями 1/Bп), 1/Bл) и 1 — 1/п; здесь, несмотря
на то, что Хп не сходится по распределению к W,
выполнены все предположения теоремы, кроме требования
равномерной интегрируемости.
Теорема 19.2 вместе с результатами § 12 приводит
к еще одному доказательству теоремы Донскера. Пусть
Хп — случайная функция A0.1), участвующая в этой
теореме. Тогда в силу соотношения A2.23) и теоремы
8.4 (перенесенной на D) выполняется условие A9.15).
Далее, в силу A2.20)
где К'—абсолютная постоянная. Отсюда следует
равномерная интегрируемость последовательности {X2n(t), n^
7^ l}. Остальные условия теоремы 19.2 проверяются без
труда, и мы получаем Хп —> W. Заметим, что
проведенное доказательство не опирается на центральную
предельную теорему; в частности, мы получаем
независимое доказательство теоремы Линдеберга — Леви*). Как
мы увидим в § 20, этог метод применим также к
некоторым последовательностям зависимых случайных
величин.
*) Рассуждение легко приспособить и к случаю Линдеберга;
см. задачу 1 § 10 и задачу! § 12.

220 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Другие диффузионные процессы*). Если X
удовлетворяет условиям теоремы 19.1, то при 0 ^ t\ ^ ...
... ^ h < 1 и положительном ft
X(tk)} = h. иУЛЬ)
Если P(ZgC)=1 и P{X@) = 0} = 1, то, как мы
увидим, из уравнений A9.16) следует, что X описывает
броуновское движение и, следовательно, можно обойтись без
предположения о независимости приращений. То же
самое верно, если в добавление к некоторым условиям
регулярности потребовать лишь приближенное (в
уточняемом ниже смысле) выполнение соотношений A9.16)
при малых ft.
Диффузионные процессы, отличные от броуновского
движения, можно охарактеризовать подобным же
способом, заменив правые части уравнений A9.16)
функциями от ft, tk и X(lh). Мы предположим, что для
малых ft
h)-X(tk)||ВД, ..., X(tk)}*h9(tk)X(tk) A9.17)
Е {(X (tk + h)-X (tk)f || X (*,), ..., X (tk)} * fta2 D) A9.18)
(смысл этих предположений будет уточнен ниже), где
р(/) и а2@—заданные функции, и докажем (см. ниже
теорему 19.3), что X — гауссовская случайная функция,
удовлетворяющая условиям
1, A9.19)
и
E{X(s)X(t)} =
s
= 5 а (г) ехр 2 $ р (т) *г + $ р (т) dx dr, A9.20)
0 L J
г s * 1
(г) ехр 2 $ р (т) *г + $ р (т) dx dr, A9.
L r s J
*) Остальная часть настоящего параграфа используется только
в §§ 23 и 24.

§ 191 ДИФФУЗИЯ 221
При р(/) =0 и o2(t) = 1 мы получаем опять
броуновское движение, а при р(/) = —1/A — t) и o2(t)=l —
броуновский мост.
Мы будем предполагать, что функции o2(t) и р(/)
непрерывны на [0, 1], функция o2(t) неотрицательна и
предел
Jim g(t)G(t), A9.21)
где
g(t) =
существует и конечен. При t-+l неубывающая функция
G(t) имеет предел (конечный или бесконечный) и,
следовательно, g(t) имеет конечный предел (который
равен нулю, если G-^оо). Таким образом, правая часть
A9.20), определенная при 0 <; s ^ t < 1, имеет при
t ->1 предел, который мы будем считать ее значением
при t = 1.
Если определить X(t) равенством
X (t) = g (t) A + G (t)) W° (G @/d + G (t)))
для 0^/< 1, где W°—броуновский мост, то свойство
A9.20) выполняется при 0 ^ s ^ t < 1. Поскольку все
функции g(t), g(t)G(t) и G(t)/(l + G(t)) имеют предел
при ^->1, мы можем определить ЛТA), переходя к
пределу при t-*\. Таким образом, действительно существует
непрерывная гауссовская случайная функция,
удовлетворяющая условиям A9.19) и A9.20). Очевидно, Х@) ==
= 0 с вероятностью 1. Мы будем рассматривать X как
случайный элемент пространства D, принадлежащий с
пероятностью 1 пространству С.
Сформулируем три условия, которые характеризуют
X как такую случайную функцию. Каждое условие
будет дано в двух вариантах: первый — в форме,
удобной для большинства приложений, второй — в
значительно более слабой форме, которая достаточна для

222 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
характеризации. Первое условие уточняет, в каком
смысле понимаются аппроксимационные формулы A9.17) и
A9.18).
Условие 1. Если О ^ t\ <^ ... ^ h < 1, го
-hp(tk)X(tk)\} = 0. A9.22)
A9.23)
Условие la. Если 0^t{^ ... ^/^ < 1, го
действительных ии ..., а«
X [X (th + h)-X (tk) - h9 (tk) X (tk)] } = 0 A9.24)
X [(X (tk + h)~X Ш - ho4tk))} = 0. A9.25)
Условие 2. Справедливо неравенство
oo. A9.26)
Условие 2a. Случайные величины X(/), 0<t< 1,
равномерно интегрируемы.
Условие 3. Существует константа К такая, что
Е {(X (t) - X (tx)f (X (t2) - X (ОJ} < К (t2 - tx)\ A9.27)
Условие За. Яр« / < 1
lim limsup- [ (X(t + h) — X(t)JdP = 0.

§ 19) ДИФФУЗИЯ 223
Очевидно, что условия 1 и 2 влекут, соответственно,
условия 1а и 2а. Для того чтобы убедиться, что
условие 3 влечет условие За (которое по существу является
условием равномерной интегрируемости), заметим, что
при переходе к обозначению A9.5) неравенство A9.27)
превращается в неравенство A9.7) с дополнительным
множителем К в правой части, и если X принадлежит С
с вероятностью 1, то неравенство A.9.11) можно вывести
также, как и раньше (правда, с новой константой /С,
значение которой здесь несущественно). Используя
соотношение C) со стр. 305, получаем, что интеграл в A9.28)
не может превосходить 2/СА/а, так что условие За
действительно является следствием условия 3. (Можно
получить условия, промежуточные между 2 и 2а и между
3 и За, заменив показатель степени 2 в неравенствах
A9.26) и A9.27) на 1+е.)
Теорема 19.3. Пусть X — случайный элемент в
пространстве D, для которого P{XgC} = 1 и Р{Х@) =
— 0} = 1. Предположим, что функции o2(t) и p(t)
непрерывны на [0, 1), а предел A9.21) существует и
конечен. Если X удовлетворяет условиям 1 (или 1а), 2 (или
2а) и 3 (или За), то X — непрерывная гауссовская
случайная функция, определенная соотношениями A9.19) и
A9.20).
Прежде чем доказывать теорему, рассмотрим ее в
связи с двумя хорошо известными нам примерами. Если
р(/) = 0, а2 @=1, A9.29)
то A9.20) принимает вид E{X(s)X(t)} = s, s <^ t, так
что X — броуновское движение. Если с вероятностью 1
Е {X(tk + h)-X(tk) \\X(h\ ..., X(tk)} = 0 A9.30)
и
E{{X(th + h)-X(tk)JU(ti)>--.>X(tk)}*=h9 A9.31)
то условия A9.22) и A9.23), конечно, выполняются и,
кроме того, имеют место неравенства A9.26) и A9.27)
(последнее даже с произведением (/ —1\) (t2 —1\) в
правой части). Следовательно, если Ig С и Х@) = 0 с
вероятностью 1, то X будет броуновским движением.
Поскольку из предположений теоремы 19.1 вытекают
соотношения A9.30) и A9.31), то теорема 19.1 является
следствием настоящей теоремы.

224 ЗАВИСИМЫЕ ВЕЛИЧИНУ [ГЛ. 4
Если
р@ = -т4у, *2 @=1, A9.32)
то A9.20) принимает вид E{X(s)X(t)) = 5A — /),
s -^ /, и распределение X должно совпадать с
распределением броуновского моста W°.
Доказательство теоремы. Зафиксируем дей-
ствительные числа • ии ..., ии и точки tk такие, что
0 ^ U ^ • • • ^ ^ < 1. Пусть /иг/ изменяются в полосе:
^</<1, — оо<и<оо. A9*33)
Мы выведем дифференциальное уравнение для функции
г|> (/, и) - Е {ехр [/ (ttlX (f,) + ... + цД (tk) + wX (<))]}.
A9.34)
Для удобства обозначим Z = tiiX(t\) + ... +^А7(/АM
так что функция A9.34) примет вид
${t,u)*=E{e*zeiuXit)}. A9.35)
Поскольку IgCc вероятностью 1, \|э непрерывна (по
паре переменных t и и) в полосе A9.33). Так как
Е {X(t)} существует, мы имеем
^¦(/f u) = E{iX(t)etzei»xi% A9.36)
и из условия 2а следует, что эта функция также непре*
рывна в полосе A9.33).
В обозначениях A9.3) и A9.5) имеем
К и) - г|) (/, и) = Е
Е { ***"* м [iub
В силу A9.35) и A9.36)
- up @-^ ¦ Л и) + 7 ^2ст2 @ ¦ ft и)
[А/. /+* - Лр (/) X @]} | +
A9.37)

§ 19] ДИФФУЗИЯ 226
Поскольку | etv — 1 — iv | ^ у v2, мы, в дополнение к
A9.4), получим неравенство |с(и)| ^ v2. Поэтому
i Е {\с (иД,§ t+h) |} < \и р a*W* + -f J Л?, t+h dP
и из условия За теперь следует, что третий член правой
части A9.37) стремится к 0 вместе с h. Но по условию
1а (с (tu ..., tky t)) вместо (tu ..., h) и (ии ..., «ft, и)
вместо (uu ..., Wfc)) остальные два члена тоже
стремятся к 0. Следовательно,
? + ви) ^^W + C «)•
Поскольку правая часть A9.38) непрерывна в полосе
A9.33), то это справедливо и для левой части*).
Решим теперь уравнение A9.38). Для произвольного
v определим функцию
%v(s) = vexp - J p(т)dx , tk <5 < 1, A9.39)
и положим
gvis) = *(s, Xv(s))> h<s < 1. A9.40)
По правилу дифференцирования сложной функции (если
обозначить через г|?1 и фг частные производные по
первому и второму аргументу функции i|))
g'v (S) = % (S, Xv (8)) + % (8, К (S)) Я; (S)f
откуда в силу A9.38), A9.39) и A9.40) получаем
g'(s) K
Следовательно **),
-j\a2{r)ti(r)dr , A9.41)
[S _
'ft J
**<*<!•
*) Здесь производная по t понимается как двусторонняя, хотя
и стремится к 0 справа; см. первую сноску на стр. 216.
**) См. сноску на стр. 215.
S П. Биллингсли

226 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Для произвольной точки (t, и) из полосы A9.33)
положим v = и exp I \ p (т) dx I. Тогда kv (t) = u и
р (, )
v = и exp I \ p (т) dx I. Тогда kv
так что в силу A9.41) cs = /
иа)е"и*Ь\ A9.42)
где
t
а — ехр \ р (т) dx
t |- t
Ь2=
1к
Возвращаясь к определению функции г|>, из A9.42)
получаем
Е {ехр [/ {щХ fo) + ... +ukX itk) + uX (/))]} =
= Е{ехр[1(щХ&)+ ... +ukX(tk) + uaX(tk))]}e"u'b\
Мы установили это для 0 <g 11 ^ ... <;?& ^ / < 1; по
^непрерывности доказанное остается верным и при t = 1.
Отсюда следует, что для произвольного v
Е {ехр [/ (щХ (/,) + ... + ukX (tk) + v (X (t) - аХ (tk)))]} =
«E {exp [/(«!*(/,)+ ... +1ьХШ)е~* .
Таким образом, случайный вектор (^(*i), ..., X(tk)) и
случайная величина X(t)—aX(tk) независимы, причем
последняя имеет распределение N@, б2)*).
Полагая k в 1, ^ = 0 и используя тот факт, что
р{А"@) =0} =х 1, мы заключаем, что случайная
величина X(t) распределена нормально со средним 0. Пола-
*) Отсюда следует, что [X(t)} — марковский процесс.

19)
ДИФФУЗИЯ
227
гая k = I и беря t\ произвольным, мы видим, что A9.20)
справедливо и что величины X(t\) и X(t) —aX(t\) имеют
совместное нормальное распределение (при подходящем
выборе а), а потому совместно нормальны X(t\) и X(t).
Полагая далее k = 2, мы убеждаемся, что величины
X(t\), X(h) и X(t) —aX(t2) имеют совместное
нормальное распределение, и следовательно, то же справедливо
и для X(tx), X(t2) и X(t). Продолжая это рассуждение,
мы видим, что все конечномерные распределения,
отвечающие {X(t)}, нормальны, и теорема доказана.
Для получения асимптотического варианта теоремы
19.3 нам понадобятся три новых условия,
соответствующих условиям 1, 2 и 3. Как и прежде, каждое условие
будет дано в двух формах. Пусть Хп — случайные
элементы в D.
Условие Г Если 0 ^ U ^ ... <; tk < 1, то
limlim sup jE{| E{Xn{tk+h)-Xn(tk)||Xnft), ...9ХЯD)}-
= 0 A9.43)
lim lim sup { E {| E {{Xa {tk + h)-
- Xn (tk)f || Xn &), ..., Xn(tk)\}- ha2 (tk) |} = 0.
Условие Га. Если 0<^< ..
всех действительных ии ..., uk
A9.44)
то для
lim lim sup-т-
h+0 n->°o n
X [Xn (tk + h)-Xn {tk) - Ар {tk) Xn
= 0 A9.45)
lim lim sup-r-
E<exp
X
X [(Xn (tk + h) - Xn (tk)f - о* (tk)] } = 0. A9.46)
Условие 2°. Справедливо неравенство
sup lim sup E {Xl @} < oo. A9.47)
8*

228 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Условие 2°а. Справедливо равенство
lim sup Hm sup J | Xn (t) \ dP = 0. A9.48)
Условие 3°. Существует постоянная К, такая, что
Е {(Х„ @ - Х„ (*,)J (Хя (t2) - Хп (t)J} <
A9.49)
для всех га.
Условие 3°а. Яр« t < 1
lim limsuplimsup4 [(Xn(t + h)-Xn(t)JdP = Q, A9.50)
Л = {(Xn (t + h)- Xn {t)f > ah}.
Легко показать, что из условий 1° и 2° следуют,
соответственно, условия 1°а и 2°а. Несмотря на то, что из
условия 3° не следует 3°а, каждое из этих условий
достаточно для справедливости утверждения теоремы.
Теорема 19.4. Пусть последовательность {x\(t)\
n^l} равномерно интегрируема при каждом /, пусть
р
Хп@)—>0и для любых положительных г и ц
существует такое число б, что для всех достаточно больших п
A9.51)
Пусть, далее, o2(t) и p(t) непрерывны на [0, 1), а
предел A9.21) существует и конечен. Если {Хп}
удовлетворяет условиям Г (или Га), 2° (или 2°а) и 3° (или 3°а),
3)
то ХЛ —> X, где X — непрерывная гауссовская случайная
функция, для которой выполняются A9.19) и A9.20).
Доказательство. Согласно теореме 15.5 любая
подпоследовательность последовательности {Хп} в свою
очередь содержит последовательность, сходящуюся по
распределению к некоторому случайному элементу
пространства D, для которого Р{Л'@) =^=0} = 1 и P{Xs
& С} = 1. Достаточно доказать, что каждый такой
предел X должен удовлетворять остальным
предположениям теоремы 19.3. Из теоремы 5.4 и предполагаемой
равномерной интегрируемости последовательности {^«@;
n^l} следует, что условие Га влечет условие 1а;

§ 19] ДИФФУЗИЯ 229
кроме того, по теореме 5.3 2°а влечет 2а, 3°а влечет За
и 3° влечет 3 (как мы уже видели, 3 влечет За). Таким
образом, X удовлетворяет условиям 1а, 2а, За, что и
завершает доказательство.
Замечание. Предположим, что выполнено
условие 3°. Пусть с вероятностью 1
*я@) = 0, A9.52)
и пусть максимальный скачок Хп с вероятностью 1
удовлетворяет условию
max,| Хп(t) -xn(t-)\<е„, A9.53
где
еп->0. A9.54)
Тогда, используя теорему 12.1 и неравенство A2.6), мы
имеем
+b\Xn(8)-Xa{i>\>b}<K'%r 09-55)
при К' = 44/<7<2,ь где гп < jk, откуда в силу следствия
из теоремы 8.3 получаем A9.51). Из A9.55) теперь
следует, что
Р{ |г
образом (см. C) на стр. 30
?? A9.56)
если гп<-^Х; таким образом (см. C) на стр. 305),
при е* < -jjr а, откуда вытекает, что последовательность
{X2n{f)\ n^l} равномерно интегрируема. Наконец,
A9.56) влечет A9.48). Следовательно, если
соотношения A9.52), A9.53) и A9.54) выполнены, то
утверждение теоремы 19.4 будет справедливым при выполнении
лишь условий Г (или 1°а) и 3°.
Примечание. Приведенные здесь результаты принадлежат
Розену A967а). Условия изменены так, чтобы использовать теорему
12.1. Идея вывода центральной предельной теоремы из
дифференциального уравнения исходит от Хинчина A936); теорема 19.3 при
выполнении условий A9.30) и A9.31) принадлежит Леви A972) и
Дубу A956).

230 ЗАВИСИМЫЕ ВЕЛИЧИНЫ 1ГЛ. 4
§ 20. Процессы с перемешиванием
({-перемешивание. Пусть
.... Б-р Ео. 6р... B0.1)
— стационарная в узком смысле последовательность
случайных величин, определенных на вероятностном
пространстве (Q,J?, P). При а^Ь обозначим Лъа а-поле,
порожденное случайными величинами 1а, ..., &,. Пусть
Ж0-** — а-поле, порожденное последовательностью
• • • , So-i, la, а ЖГ — а-поле, порожденное
последовательностью la, go+b • • •
Рассмотрим неотрицательную функцию ф от
натурального аргумента. Будем говорить, что
последовательность Цп} является последовательностью с
^-перемешиванием, если для Е\ е t#loo и ?2 ^ <^t+n при любых k,
| Р(?1 ПЕ2) — Р(Ei)P(?2) |<Ф(«)Р(?i). B0.2)
Это условие является совместным условием на
последовательность {In} и на функцию ф. Мы рассматриваем
лишь те функции ф, для которых
lim ф(я) = 0, B0.3)
и обычно будем еще накладывать дополнительные
ограничения на скорость сходимости ф(я) к нулю. Если мы
говорим, что {?п} — последовательность с ф-перемешива-
нием, и не делаем никакие ограничений на ф, то мы
имеем в виду, что B0.2) выполняется для некоторой
функции ф, удовлетворяющей условию B0.3).
Если P(?i)>0, то условие B0.2) равносильно
условию
а при Р(Е\) =0 условие B0.2), очевидно, выполнено.
Будем считать, что левая часть B0.4) равна нулю при
P(Ei)—0y так что условие ф-перемешивания
принимает вид
sup {| Р (Е21 Ei) — Р {Е2) |:?ie J^*,, E2 e= JCt+n} < Ф (я).
B0.6)

§ 20] ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 23J
Если <р(п) мало, то B0.2) и B0.4) означают, что
Е2 почти не зависит от Е\. В процессе с ф-перемешива-
нием отдаленное будущее почти не зависит от прошлого
и настоящего*). Это свойство позволяет нам
доказывать различные центральные предельные теоремы и
функциональные центральные предельные теоремы.
Часто вместо <р(п) мы будем использовать
обозначение фп. Если при каждом п фп принимает минимальное
значение, удовлетворяющее B0.5), то
.. B0.6)
Если заменить фп на
<р„ ..., ф„}, B0.7)
то {in} по-прежнему будет последовательностью с ф-пе-
ремешиванием и B0.6) будет выполнено.
Следовательно, без ограничения общности можно считать, что B0.6)
выполнено. Для дальнейшего удобно положить фо = 1.
При этом B0.5) становится тривиальным, когда п = 0.
Для фиксированного Е2 класс
{?,: |P(?2l*i)-P(?*)l<e> B0.8)
является монотонным классом **) (т. е. замкнутым
относительно операций объединения возрастающих и
пересечения убывающих последовательностей множеств); при
фиксированном Е\ то же самое верно и для класса
{Е2: \Р(Е2\Ех)-РШ\<е}. B0.9)
Отсюда следует, что если B0.4) имеет место для Е\ из
зФ и Е2 из ^, где s& и $—поля, порождающие Ak-oo и
«^Г+п» соответственно, то B0.5) тоже справедливо; это
замечание полезно при проверке того, является ли
данный процесс процессом с ф-перемешиванием.
*) Так как B0.2) и B0.4) не симметричны относительно Ех и
?г, прошлое и будущее нельзя поменять местами; в качестве
примера процесса с ф-перемешиванием, который перестает быть тако-
оо
вым при обращении времени, можно взять \п = J] ii/i-fc/2*. где t\k
независимы и принимают значения ±1, каждое с вероятностью 1/2.
*¦) См. Халмош A953, стр. 31).

232 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Пример 1. Последовательность B0.1) называется
m-зависимой, если случайные векторы (?ь ..., Ы и
(lk+п, ..., lj) независимы при п> т. (В этой
терминологии последовательность независимых случайных
величин является 0-зависимой.) /n-зависимая
последовательность является последовательностью с ф-перемешива-
нием, где ф такова, что фп = 0 при п> т. Примером
m-зависимой последовательности является
последовательность
In = «оЕя + fliC-i + ... + а«Ся-«, B0.10)
где пг — постоянные, а ?п независимы и одинаково
распределены.
Пример 2. Пусть {?п} — стационарный марковский
процесс с конечным пространством состояний, и пусть
?7i=/(?n), где / — некоторая действительная функция,
определенная на этом пространстве состояний. Если Жьа
определена, как и прежде, и Jfba — а-поле, порожденное
случайными величинами ?а, ¦.., ?&, то Жъа с= J?ba.
Пусть ри — стационарные вероятности, a pUv —
переходные вероятности марковского процесса {?п}. Для
каждой конечной последовательности состояний и0,
ии •.., Щ имеем
Предположим, что все вероятности ри положительны, так
что функция
и, v
Pv
— 1
B0.11)
конечна (здесь р{?> вероятности перехода за п
шагов). Пусть Н\ — некоторое множество
последовательностей из f + 1 состояний, а Н2 — некоторое множество
последовательностей из / + 1 состояний. Для элемента
*i-{(С*-*,.... Ы^Я,} B0.12)
из JFk-oo и для элемента
«Я2> B0.13)

§ 20] ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 233
из JfV+n имеем
uoPuoUl • • • Р«,_Л | Р!?о0 - Р,о [ Р Vl • • • ViV
где сумма распространяется на все (и0, ..., «0 из tf i
и все (»о. • •. > flj) из #2. Отсюда, используя
соотношение 2р«о = 1 и определение B0.11), получаем B0.2).
V
Используя теперь тот факт, что B0.8) и B0.9) —
монотонные классы, выводим, что B0.2) имеет место для всех
Ех из ИР1«> и Ег из JfT+n и, следовательно, для всех Е\
из Ж-оо и Е-2 из ^#Г+п«
Если переходная матрица (pUv) неприводима и апе-
риодична, то*)
РЙ-^Рв B0.14)
для всех и и v. Так как пространство состояний по
предположению конечно, сходимость здесь должна быть
равномерной по и и v, так что функция фп, определенная
соотношением B0.11), сходится к 0. Следовательно, {|п} —
последовательность с ср-перемешиванием. Более того, в
рассматриваемой ситуации известна и скорость
сходимости в B0.14) —она показательная. Поэтому существуют
положительные постоянные а и р, р < 1, такие, что если
ФЛ = ар*, B0.15)
то {In} является последовательностью с ф-перемешива-
нием. Это также верно для некоторых
последовательностей ln=f(tn), где {In} — марковский процесс с
бесконечным пространством состояний, например, если ftn}
удовлетворяет условию Дёблина, имеет один эргодиче-
ский класс и апериодичен **).
В некоторых приложениях мы имеем лишь
одностороннюю (стационарную в узком смысле)
последовательность
Sbbt... B0.16)
*) Дуб A956, стр. 159 и далее).
**) Дуб A956, стр. 174 и далее).

234 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
В таких случаях мы будем говорить, что B0.16)
является последовательностью с ф-перемешиванием, если
sup{|P(?2|?,)-P(?2)|: Е\<=Жки Е2<=М~+п}<&п B0.17)
для целых положительных чисел k и п. Если задана
односторонняя последовательность B0.16), то можно
построить двустороннюю последовательность B0.1) с теми
же самыми конечномерными распределениями. Новая
последовательность, вообще говоря, будет определена на
новом вероятностном пространстве (в качестве этого
пространства всегда можно взять произведение
бесконечной в обе стороны последовательности
действительных прямых). Новую двустороннюю последовательность
B0.1) мы будем называть двусторонне бесконечным
расширением последовательности B0.16).
Если B0.16) есть последовательность с
ф-перемешиванием, то в силу стационарности ее двусторонне
бесконечное расширение удовлетворяет условию B0.4) для
Ei е М%-{ и Е2 ^ ЛТ+п- Так как B0.8) есть
монотонный класс, отсюда следует, что двусторонне бесконечное
расширение есть последовательность с
ф-перемешиванием с той же самой функцией ф. Нетрудно проверить,
что справедливо и обратное. Если расширение B0.1)
является последовательностью с ф-перемешиванием, то
исходная последовательность B0.16) тоже является
последовательностью с ф-перемешиванием с той же самой
функцией ф.
Если мы докажем, например, что
f-1
где случайные величины g* являются элементами
последовательности B0.1), то этот результат будет верен
также, если под li понимать элементы последовательности
B0.16), так как здесь существенную роль играют лишь
конечномерные распределения. Все наши теоремы
являются утверждениями такого же типа и для /И»х
.справедливости несущественно, являются ли |* элементами
последовательности B0.16) или B0.1). В
доказательствах мы всегда будем считать, что мы имеем дело cino-

$ 201 ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 235
следовательностью B0.1). Это более удобно, поскольку
при этом прошлое всегда является бесконечной
последовательностью, а не конечной последовательностью
переменной длины.
Пример 3. Пусть Q — единичный интервал, 3S —
класс борелевских подмножеств Q, и пусть Р — мера
Лебега на 3S. Положим
Ь|(ю) = ?(юя. ©й+ь ..., ©я+т), /i=l, 2, .,., B0.18)
@1 . ©9 •
где о) имеет двоичное разложение а> = -ф + -^+ ... и
g — некоторая функция от последовательности длины
ш+1, состоящей из нулей и единиц.
Последовательность {In} стационарна и m-независима. Эта
последовательность имеет вид B0.16) и к ней применима
развиваемая здесь теория, поскольку, как было указано, ее
можно расширить до двусторонне бесконечной
последовательности (на некотором новом вероятностном
пространстве).
Пример 4. Пусть Q и I означают то же, что и в
примере 3. Для построения еще одного примера с
односторонней последовательностью {?п} предположим, что
Р — гауссова мера
a In (со) есть #-й коэффициент ап(со) в разложении со в
непрерывную дробь. Последовательность {ai(co),
«2@), ...} стационарна и удовлетворяет условию ф-пе-
ремешивания с функцией ср вида
Ф„ = ар", a > 0, 0 < р < 1 *). B0.20)
Неравенства для моментов. Пусть случайная
величина I ^^оо-измерима,а случайная величина ц JCt+n-nz-
мерима. Если g и ц являются индикаторами множеств,
то согласно B0.2) величина
Е{ЕфЕ{Ч}1 B0.21)
превосходит флЕ{?}. Нам потребуется оценка вели*
B0.21) для случайных величин g и г) более общих,
*) Деви A937, глава

236 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
чем индикаторы. Ниже всюду предполагается, если не
оговорено противное, что {?п} есть стационарная
последовательность с ф-перемешиванием.
Лемма 1. Если случайная величина | М^
римау а случайная величина г\ Ж™+п-измерима
то из
Е{1бО<оо, Е{|ЧГ}<оо, r,s>l, 7 + 7=1'
следует, что
1/М1г1Г}. B0.23)
Доказательство. Чтобы лучше понять эту
лемму, рассмотрим сначала два экстремальных случая. Если
фп = 0, так что g и т) независимы, то неравенство B0.23)
справедливо, так как обе его части равны нулю. Если
фп = 1, т. е. при отсутствии ограничений, в силу
неравенств Гёльдера и Минковского имеем
Так как мы можем аппроксимировать g и ц простыми
случайными величинами, при рассмотрении общего
случая можно предполагать, что
i B0.24)
и
1 B0.25)
где {Ai} [{Bj}] — конечное разбиение выборочного
пространства Q на элементы а-поля M*Loo[Jlt+n\. Для таких
случайных величин по неравенству Гёльдера имеем
|Е{|т,}-ЕШЕ{т,}| =
= 11ЩР (At)Ur [P {At)Us I v, (Р (В/1 At) - Р (ВЩ | <

§ 20] ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 237
и следовательно, достаточно доказать, что
Е Р (А,) | Z v, (Р (В, | А,) - Р (В,)) |s < 2Х/ГЕ {| „ Is}.
B0 26)
Для каждого / из неравенства Гёльдера следует, что
ISf/CPCS/M,) —Р(Б;))|<
<{Е I v, г I р (В; | л)-р (В/) I}1" {?I р (В/1 л,)-р (в,) |}1/г.
Так как
то неравенство B0.26) будет установлено, если мы
покажем, что для всех /
ZI Р (В/1 Л,) - Р (В/) I < 2<рл. B0.27)
Если Cf[C~] есть объединение тех В/, для которых
разность Р (В/1 Л/) — Р (В/) положительна
[неположительна], то Cf и СГ принадлежат Ж?+п и, следовательно,
= [Р (Cf | А) - Р (С?)] + [Р (СГ) - Р (СГ | Л,)] < 2Фл.
Таким образом, B0.27) справедливо, и доказательство
закончено.
Полагая в лемме 1 г = 1 и s = oo, получаем
формально следующий результат: если Е{Ц|}<оо и
Р{|т) | > С} = 0 (| е#1оо-измерима, а т] Л?Г+/гизмерима),
то
| Е {|Л} - Е {%} Е {л} I < 2ФпЕ {Ш)С. B0.28)
Это неравенство легко установить и непосредственно:
достаточно рассмотреть простые случайные величины,
заданные соотношениями B0.24) и B0.25), где \vj\ «^ С.

238
ЗАВИСИМЫЕ 6ЕЛИЧИНЫ
[ГЛ. 4
Имеем
|Eftt|}-Eft}E{4}K
и поэтому B0.28) следует из B0.27).
Нам понадобится лишь тот частный случай B0.27),
когда обе случайные величины g и г) ограничены.
Лемма 2. Если случайная величина I Ж^^-изме-
рима и 111 ^ С{ и если случайная величина т] Л?+п-из-
мерима (п^О) и | х\ | ^С2, то
| Е Ы - Е Ш Е {л} I < 20,^^. B0.29)
Пусть
Sn = h+ ... +^п B0.30)
и So «= 0. Временно откажемся от предположения о том,
что Цп) является последовательностью с ф-перемеши-
ванием (оставляя, однако, предположение о
стационарности).
Лемма 3. Пусть Е{?о} = 0 и
Zl
/г-0
Тогда при всех п
B0.31)
B0.32)
±E{S2n}
o\
B0.33)
Доказательство. Обозначим
стационарности
}. B0.34)
= Е{|оЫ- В силу

§ 20] ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 239
отсюда сразу следует B0.32), а B0.33) вытекает из
неравенства
/г—1
Предположим снова, что {?п} удовлетворяет
условию ф-перемешивания. Если go имеет нулевое среднее
значение и конечную дисперсию, то по лемме 1 с г =
= 5 = 2
B0.86)
Если ]^J/2<°°, то имеет место неравенство B0.31),
п
так что дисперсия суммы Sn асимптотически равна по2,
где о2 определяется формулой B0.34). Величина а2
может быть равной нулю, даже если |0 имеет
положительную дисперсию. Это так, например, если ?п = ?п — ?п-ь
где In независимы и одинаково распределены (см.
B0.10)). Случай а = 0 является вырожденным и будет
исключаться в большинстве нижеследующих теорем.
Лемма 4. Если случайная величина go ограничена
постоянной С, Е{?о} = 0 и 2ф^/2 < °°9 то
где /Сф зависит лишь от ф.
Доказательство. Мы покажем, что
i2. B0.36)
Если заменить фг- на величину B0.7), то сумма ряда в
B0.36) не возрастет. Следовательно, можно считать, что
-• B0.37)
В силу стационарности
Е {SAn} < А\п ? | Е {Uili+ili+i+k) I, B0.38)
где сумма берется по тем /, /, k, для которых
/, I, ?>0, i + j+k^n. B0.39)

240 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
По лемме 2
I E fto (hh+jh+i+k)} I < 2С4Ф? B0.40)
| Е {(Ш,+/) Ь+/+*} I < 2СЧ. B0.41)
Применяя еще раз лемму 2 (и пользуясь
стационарностью), имеем
I Е {(Ш Fi+/5i+/+*)> I < I Е {|о!Л Е {Боб*} | + 2С4Ф/.
Еще дважды применяя лемму 2, получаем
I E {gob} | < 2С2Ф„ | Е {боб*} | < 2С V.
подставляя эти два неравенства в предыдущее
неравенство, находим
I Е {(боб,) (б*+/Е*+/+*)} I < *С%щ + 2С4<р/. B0.42)
Согласно B0.40), B0.41) и B0.42) слагаемое в
B0.38) не превосходит произведения 4С4 на
минимальную из величин
ФЬ ФЬ Ф*Ф/г + Ф/,
и поэтому вся сумма не превосходит произведения 4С4
на
Z Ф/
= Z Ф^ + 3 Z Фь B0.43)
«, *</ /, *<*
где индексы суммирования, кроме указанных
ограничений, подчиняются и B0.39).
ПОСКОЛЬКУ фг ^ 1, ТО
Z <Prt>*<Z Z
того, согла
п i
Z Фi<Z Z
/, k^i i*o /, ?-0
Z Z Ф,Ф*<?
Кроме того, согласно B0.37)
i

^ 20] ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 241
Из этих двух неравенств вытекает, что B0.43) не
больше, чем
12
B0.44)
и поэтому сумма в B0.38) не превосходит произведения
4С4 на эту величину. Умножая B0.44) на 4!я4С4,
получаем B0.36).
Функциональная центральная предельная теорема.
Определи^ случайный элемент Хп из D, положив
Хп (/, со) = —U S[nt] @), 0 < t < 1. B0.45)
а V п
Теорема 20.1. Пусть {gn} является
последовательностью с ^-перемешиванием, для которой ? (pj|2 < 00 и
п
?э имеет нулевое среднее значение и конечную
дисперсию. Тогда ряд
{lolk} B0.46)
абсолютно сходится; если о2>0 « случайный элемент
Хп определен формулой B0.45), то
Xn~^W. B0.47)
Доказательство. Абсолютная сходимость ряда
B0.46) следует из B0.35). Предположим, что о2 > 0.
Мы докажем B0.47), применяя теорему 19.2, избегая
тем самым использование центральной предельной
теоремы.
Мы покажем, что последовательность {Sl/n}
равномерно интегрируема. Если воспользоваться сокращенной
записью Еа{/7} для обозначения интеграла от U по
множеству {U ^ а}, то условие равномерной
интегрируемости примет вид
lim sup Ea { -[¦ S2n } = 0. B0.48)
Докажем сначала, что утверждение теоремы справедливо,
если выполнено условие B0.48). Прежде всего нам
нужно показать, что Хп имеет асимптотически независимые

242 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
приращения в том смысле, что A9.13) влечет сходимость
к нулю разности A9.14) при az-*oo.
Предположим, что щ и Vj — целые числа такие, что
и1 ^ ^1 < и2 ^ ^2 < • • • < Мг < Иг И Щ — Vi-\ ^ Ь, i =
у
= 2, ..., г, и пусть Ei принадлежит Ли\, i = 1» • • • i г.
Из определения ф-перемешивания, применяя индукцию
по г, получаем
~~ B0.49)
Положим, что имеет место A9.13), и пусть ?г- =
= (^п(^г) —Xn(Si) е Яг}, где Яг е= 521. Тогда ?<
принадлежит «^[rtsjj+i, и если б есть наименьшая разность среди
Si — ti-i, то [nsi]+l—[nti-\]>[nb\ так что согласно
B0.49) модуль разности A9.14) не превосходит /чр([пб]).
Поскольку б положительно, Хп действительно имеет
асимптотически независимые приращения.
Так как Xl(t)^S[nt]lo2[nt], то из B0.48) следует
равномерная интегрируемость последовательности {х2п (/)}
для каждого t. Очевидно, E{Xn(t)} =0 и из леммы 3
вытекает, что E{X2n{t)}->t. Согласно теореме 8.4 (в
применении к D) условие плотности A9.15) будет
выполнено, если мы покажем, что для любого положительного
е существует К, к > а, и целое число По такое, что при
Р {max | St\ > Я У«~} < -i-. B0.50)
п
Положим S* = 2 |?/|« Так как ?0 имеет конечный. вто-
рой момент, то существует возрастающая
последовательность целых чисел т{ такая, что Р {| ?01> л/n/i2} < 1/ш2
при п ^ тг-. Если положить рп = / для nti ^ п < тг+1
(и рп = 1 для я < mi), to /jn стремится к
бесконечности, но так медленно, что при всех положительных X
lim nP {S*p >Кл/п\ = 0. B0.51)
В то же время мы можем дыбрать рп таким образом,
чтобы рп < Д.

$ 20] ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 243
Для заданного е выберем % так, чтобы %>о и
Р{|5,|>*УГ}<-?- B0.52)
для всех I, что возможно в силу B0.48). Положив
Е% = {max| S, |< 31 л/п <|St |},
/<*
имеем
g
Последняя сумма не превосходит
+ E
где p = pn. Каждый член в первой^ и третьей из этих
сумм не превосходит P{S*p^X-\/n}, а вторую сумму
можно оценить, используя тот факт, что Et e М1-^:
"t
Неравенство B0.52) и то обстоятельство, что Е\ не
пересекаются, приводит теперь к неравенству

244 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Отсюда, из B0.51) и сходимости рп к оо вытекает, что
для больших п
что отличается от B0.50) лишь несущественными
множителями.
Теперь остается доказать B0.48). Если случайная
величина |?о| ограничена постоянной С, то по лемме 4
. B0.53)
где /СФ зависит лишь от ср. Таким образом, B0.48)
верно, если go ограничена. Если же величина go неограни-
чена, то для всяких действительного х и положительного
и определим
||< /° если 1*Ю>
если \х\>и9
рд
Г*, если |*|<и, /ч_/°>
tu(x)~\0, если \х\>и, gu{x)~\x,
и положим
h (X) - fu (X) - Е {fa (У}, Ей (X) = gu (X) - Е {gu (g0)}.
Тогда x = fu(x) + gu(x) = fu{x) + gu(x), так что если
п п
Snu=Zfu(tj) и Dnu=Zgu(W> T0 Sn = Snu + Dnu и,
следовательно,
B0.54)
Поскольку fuilo) не превосходит 2и, из B0.53)
вытекает, что
E.JISS.}***!)!. B0.55,
По лемме 1
IE {ga (io) ёи (h)} I < 2Ф1/2Е {(ёи Aо)J} <
и согласно B0.32) имеем

§ 20] ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 245
Из B0.54) и соотношения Еа {?/ + У}<2E_i а {?/} + 2Е {V\
вытекает, что
откуда согласно B0.55) и B0.56)
где /Сф зависит лишь от <р. Выбирая теперь а так, чтобы
#фЕи' {4} < Т е> а затем a так> чтобы #фИ> < j е>
получаем B0.48). Это завершает доказательство
теоремы B0.1).
При выполнении условий теоремы мы имеем, конечно,
-WSrt—>N{0, a\ B0.57)
yn
если a2 > 0. Если же <г = 0, то B0.57) равносильно)
соотношению Sj^Jn —>0 и легко вытекает из
неравенства Чебышева и леммы 3 *).
Нетрудно получить многомерный вариант
соотношения B0.57). Если In есть случайный вектор
6Л-FЙ). .¦¦. №)' B0.58)
то понятие ф-перемешивания можно определить точно
так же, как и прежде. Если 2ф«2< °° и Щ? имеют НУ~
п
левое среднее значение и конечные дисперсии, то,
применяя технику Крамера — Уолда (теорема 7.7) к B0.57),
получаем, что вектор п 2 X |* распределен асимптоти-
fte *
чески нормально с нулевым средним и ковариациями
оо оо
а =Е&ЩЩ А- У Е &ЩМ\ 4- У Е fУ)?</)) B0 59^)
ft=l ft=l
*) Если a2 = 0, модифицируя доказательство B0.50), можно
показать даже то, что
max

246 . ЗАВИСИМЫЕ ВЕЛИЧИНЫ \ГЛ. 4
где ряды сходятся абсолютно. Матрица (dj) может быть
как вырожденной, так и невырожденной.
Полученные результаты применимы к каждому из
четырех приведенных выше примеров. Отметим, что в
примерах 1 (стр. 232) и 3 (стр. 235) ряд в B0.46) конечен.
В примере 2, где gn = /(?n) и переходная матрица для
{ъп} неприводима и апериодична, асимптотическая
дисперсия а2 может быть записана в виде
о2 =Zy«J (u)f(v),
uv
где
= 6uvPu ~ PuPv + Ри II (PlS Pv) + Pv I)
Если матрица (yUv) переводит вектор (f(u)) в нулевой
.вектор, то а2 = 0.
Интегралы вместо сумм. Теорему 20.1 можно
естественным образом распространить на процесс {vt} с
непрерывным временем. Пусть
-оо</<оо} B0.60)
— стационарный стохастический процесс,
удовлетворяющий условиям
Е{о0} = 0, Е{сф<оо. B0.61)
Предположим, что процесс B0.60) измерим*), так что
интегралы
jB(©)da B0.62)
определены и конечны с вероятностью 1. Пусть Yn —
случайный элемент из Z), определенный равенством
nt
оуп J
где -д будет определено позже (конечно, Yn принадлежит
С). Наша цель — показать, что
Yn -^ W. B0.63)
*) Дуб A95G, стр. 63).

§ 20 ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 247
Назовем {vt} процессом с ф-перемешиванием, если
| Р (Ех П Е2) - Р (Ех) Р (Е2) | < ф (/) Р (?,) B0.64)
при всех Е\9 принадлежащих а-полю, порожденному
семейством {vu: и <^ s}, и при всех ?2, принадлежащих
а-полю, порожденному семейством {vu: u^ s + /}.
Функция ф@ определена теперь для всех положительных t.
Предположим, что {vt} является процессом с
ф-перемешиванием с функцией ф такой, что
q>«2{t)dt<oo. B0.65)
Мы докажем, что при этих предположениях и при
выполнении B0.61), выполняется предельное соотношение
B0.63) с величиной а (которую мы считяем
положительной), определенной равенством
а2 = 2 J E{vovt}dt. . B0.66)
о
Можно было бы провести прямое доказательство,
видоизменив соответствующим образом доказательство для
дискретного времени, однако проще свести настоящий
случай к предыдущему. Если
i
li (со) = J vs (со) ds,
то, применяя дважды теорему Фубини, цолучаем, что
Е{^}<оо. B0.67)
Нетрудно проверить, что B0.66) и B0.46) дают одно
и то же значение а. Так как из B0.64) вытекает, что
Ип} удовлетворяет условию B0.2), а B0.65) влечет
сходимость ряда 2 Ф1/2 (я) (при ^сдовии, что ф имеет

248 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
минимальное значение, удовлетворяющее B0.64)), то из
теоремы 20.1 следует, что для случайной функции,
определенной формулой B0.45), имеем
Xn-^+W. B0.68)
Далее,
^\n{)n{)\<^r max
так что
i
\\vt\dt,
J
1
где ? = \|ajds. Поскольку в силу B0.67) математиче-
о
р
ское ожидание Е{?2} конечно, то 6п—>О и B0.63)
следует из соотношения B0.68) и теоремы 4.1.
Соотношение B0.63) остается справедливым и при
непрерывном стремлении п к бесконечности. Если vt
интерпретировать как скорость частицы в момент времени
t, то интеграл B0.62) равен ее перемещению в
интервале времени (s,t). Соотношение B0.63) означает, что
движение частицы близко к броуновскому движению.
Нестационарность. Возвращаясь к случаю
дискретного времени, обобщим теорему 16.3 следующим
образом. Покажем, что в теореме 20.1 вероятностную меру
Р, управляющую процессом {?п}, можно заменить
любой вероятностной мерой Ро, абсолютно непрерывной
относительно Р. Процесс, отвечающий мере Ро, не обязан
быть стационарным.
Теорема 20.2. Теорема 20.1 остается в силе при
замене Р произвольной вероятностной мерой Ро,
абсолютно непрерывной относительно Р.
Доказательство. Определим Хп соотношением
B0.45) и положим

§ 20] ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 249
где pn->o°j но рп/\jn ->0. Так же как и в § 16 (см.
A6.10)), имеем
t
Если Е принадлежит Ж^.^, то для каждого А из
Поскольку это верно для всех k, то дальнейшая часть
доказательства проводится точно так же, как в
теореме 16.3.
Таким образом, в примере 4 (стр. 235) гауссову меру
можно заменить лебеговой.
Следующая теорема может быть доказана
аналогичным видоизменением доказательства теоремы 17.2.
Теорема 20.3. Если условия теоремы 20.1
выполнены и vn — случайные величины с целыми положитель-
р
ными значениями такие, что vjan —* 8, где 0 — положи-
тельная случайная величина и ап->оо, то при а > 0
еде
Y
1 П
Если Р{|оеЯ}>0, то по теореме 20.2 все наши
предельные теоремы останутся в силе, если вероятности
заменить на условные вероятности относительно
события {?о^ Щ- Можно пойти дальше и рассмотреть
условные вероятности относительно события {?0 = а}. Чтобы
убедиться в этом, нам нужна еще одна лемма. Как
обычно, предположим, что {gn} является
последовательностью с ф-перемешиванием.
Лемма 5. Если Еч е Ж^+п, то
с вероятностью 1.
Доказательство. Допустим, что неравенство
Р \Е21 JHk_Ji — Р (?2) > фл справедливо для некоторого
множества Ей имеющего положительную меру и
принадлежащую Jttoo. Интегрирование по множеству Е\
приводит к противоречию с B0.2). Таким образом,

250 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Р {Е21| JCk__^ — Р (?2) ^ фл с вероятностью 1. Аналогично
устанавливается и обратное неравенство.
Предположим теперь, что последовательность {?п}
регулярна в следующем смысле. Во-первых, ?„
порождает а-поле 3& (по существу это не является
ограничением). Во-вторых, существует условная вероятность на
S& относительно JC^-oo* Иными словами, предполагается,
что существует функция Р©(Л1) такая, что для каждой
точки со из Q Р(о(-) является вероятностной мерой на 33
и для каждого Е из 38 функция Р.(Е) является
вариантом условной вероятности Р{е\М°-о<^ (и,
следовательно, Jif-oo-измерима). Это условие * регулярности
выполнено, например, если (Q, $) есть произведение
бесконечной в обе стороны последовательности измеримых
пространств (R1, 31х), а \п — координатные случайные
величины *).
Теорема 20.4 Пусть последовательность {1п}
регулярна в описанном выше смысле. При выполнении
условий теоремы 20.1 в $ существует множество Е* такое,
что Р(?*) = 0, и если щфЕ*, то утверждение этой
теоремы остается верным при замене Р на Рщ.
Доказательство. Пусть Sn = gi + • • • + in, и
пусть случайная функция Хп определена равенством
B0.45). Для целых положительных и и п определим
случайный элемент Zun в D, положив
Если
bun (<d) = sup I Xn {t, со) - Zan (t, o) |,
TO
Обозначим Eo множество тех о, для которых ?< (со) =*
= ± оо для некоторого L Имеем Р(?"о) =0 и для
любого и
lim 6un (со) = 0, со ф Ео. B0.70)
*) См. Лоэв A962, стр. 379).

§ 20! ПРОЦЕССЫ С ПЕРЕМЕШИВАНИЕМ 251
Так как по теореме B0.1) Хп—>Wy то, используя
B0.70) и теорему 4.1, получаем, что для любого и
Zun^W B0.71}
при м->оо. В B0.71) последовательностью ?п управляет
мера Р.
Поскольку Р(?'о) = 0, то Р(йо(?'о) = О при всех ©о,
лежащих вне некоторого исключительного множества Е\
Р-меры 0. Если F— замкнутое множество в D и Fe =
ss {x: d(xfF) ^ е}, где d—какая-либо метрика для
топологии Скорохода, то из B0.70) следует, что
lim sup P(o0 {со: Хп(®) ef}<limsupP(o0{a): Zart(co)eFe}
я->°о /г->оо
B0.72)
для всех соо, не принадлежащих Е\.
По лемме 5, если Е е ЖГ, то
B0.73)
для соо, лежащих вне некоторого исключительного
множества (Р-меры 0), зависящего от Е. Так как а-поле
ЖГ порождено семейством {?и, 6«+ь •••}» то оно
порождено счетным подполем. Поскольку РоH(-) есть мера,
от отсюда следует, что B0.73) верно для всех и>1 и
всех Е е Ж?у если со0 находится вне некоторого
большого исключительного множества Е2. Далее, множество
{о: Zun(co) e FE} принадлежит ЖГ, и поэтому
РсоДсо: Zun(<*>)^Fe}<:P{(u: Zun(со) е= Fe) + Ф(и) B0.74)
при со0 ф Е2*
Если соо ф Е* = Ei U Яг, то справедливы оба
соотношения B0.72) и B0.74), так что
lim sup Ре,, {со: ^(coJe^X
<HmsupP{©: Ztt/l (со) e= Fe} + Ф (w)
для любых Z7 и е. Поскольку соотношение B0.71) имеет
место в смысле меры Р и множество Fe замкнуто, то
верхний предел в правой части последнего неравенства

252 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
не превосходит P{We Ft). Полагая е-^0 и w-^оо,
заключаем, что
lim sup Ро, {со: Хп (со) е= F} < Р {W €= F}
для всех замкнутых множеств F, если coo ^ ?*. Для
завершения доказательства остается теперь применить
теорему 2.1
Для односторонней последовательности теорема 20.4
остается верной при замене вероятностей условными
вероятностями относительно события Ц\ = а}.
§ 21. Функции от процессов с перемешиванием
В этом параграфе мы обобщим результаты
предыдущего параграфа, рассматривая стационарный процесс
Ь\п}, где каждая случайная величина цп является
функцией от всей последовательности {gn}. Как и прежде,
предполагается, что последовательность {|п}
стационарна и удовлетворяет условию ф-перемешивания.
Предварительные замечания. Пусть / — измеримое
отображение пространства бесконечных в обе стороны
последовательностей действительных чисел в
действительную прямую
/(..., а-1э а0, а,, ...)<= Я1.
Определим случайные величины
т]п = /(..., ?„-„ 1П9 Ъп+и...)9 п = 0, ±1,±2, ..., B1.1)
где In занимает нулевое место в аргументе функции /.
Мы докажем предельные теоремы для процесса {т)п}.
Возможные значения величин |п предполагаются
действительными, но In может принимать значения из Rk
и даже из общего измеримого пространства.
Если функция / зависит лишь от конечного числа
координат ее аргумента, то {цп} тоже является процессом
с ф-перемешиванием (с новой функцией ф) и,
следовательно, применимы теоремы из § 20. (Заметим, что
процесс {цп} в любом случае стационарен.) Если же /
существенно зависит от всех координат ее аргумента, то
{цп} не обязательно будет процессом с
ф-перемешиванием. Предельные теоремы для {г\п} мы получим в пред-

§ 21] ФУНКЦИИ ОТ ПРОЦЕССОВ С ПЕРЕМЕШИВАНИЕМ 253
положении, что величины х\п хорошо аппроксимируются
функциями, зависящими лишь от конечного числа
величин In*
Пусть // — измеримое отображение пространства
#2и-1 в R1. Для точек пространства /?2Z+1 примем
обозначение (а_/, ..., ао, ..., щ), так что значение fi
запишется в виде
// (а-/, • • • > «о» • • • > а/)-
Положим
Л/п = Ы1«-/, .... Б». .-.. Ь»+|) B1-2)
(здесь индекс In — пара, а не произведение). Процесс
{цт} стационарен для каждого /. Будем считать, что
функция / и процесс {gn} удовлетворяют условиям
Предположим далее, что существуют функции ft такие,
что величины цЬп (определенные равенством B1.2))
имеют конечный второй момент и
где
V/ = v(/) = E{ho-4/ol2}. B1.3)
Хорошая аппроксимация х\п функциями лишь от
конечного числа In понимается именно в этом смысле.
Если вместо бесконечной в обе стороны
последовательности B0.1) имеется односторонняя
последовательность B0.16), то вместо B1.1) нужно предположить, что
цп имеет вид
ЛЛ = /(Б», Би+i. ¦¦•), B1.4)
где / — теперь действительная измеримая функция от
односторонних последовательностей (аь аг, ...)• В этом
случае в качестве fi мы берем измеримое отображение
R1 в R1 и получаем
Л/Л = Ы?/1, •¦•> Бп+z-i)- B1.5)
Предполагается, что, как и прежде, 2] VJ/2 < °°, где
V| = E{|4i-4iilfcb B1.6)

254 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ, 4
Заменим последовательность {|п} ее двусторонне
бесконечным расширением (см. обсуждение, следующее за
B0.16)). Если мы запишем /(аь аг, ...) в виде функции
/(..., а_ь сю, аь • ••)> в действительности зависящей
лишь от координат с положительными индексами, и
проделаем то же самое с функциями //, то
последовательности B1.1) и B1.2) будут иметь те же конечномерные
распределения, что и последовательности B1.4) и B1.5).
Следовательно, ?v{/2 < оо (см. B1.3)), и поэтому
каждой предельной теореме для функций от B0.1)
соответствует предельная теорема для функций от B0.16).
Таким образом, как и раньше, мы можем ограничиться
рассмотрением двусторонне бесконечного случая.
Поскольку величина г\ю, определенная формулой
B1.2), с^-гизмерима, из неравенства Иенсена для
условных математических ожиданий *) следует, что
Поэтому, в силу неравенства Минковского,
Так как ряд ? 2v}/2 сходится, если сходится ряд ? v}/2,
то без ограничения общности можно считать, что
Следующая лемма показывает, что если величины
r\in заданы формулой B1.7), то последовательность V/
не убывает.
*) Дуб A956) или Биллингсли A969). Всюду ниже мы считаем
{?||~} ^-измеримым (а не совпадающим только почти всюду с
некоторой ^"-измеримой функцией).
**) Согласно Дубу A956, стр. 542) условное математическое
ожидание Е {лл || ^я-/} представимо в виде B1.2), так как оно
измеримо «^JJi/. Однако нам это неважно: в доказательствах
используется лишь тот факт, что последовательность {r\in} стационарна при
каждом / и что величины г\т измеримы относительно Л^-г4

$ 21] ФУНКЦИИ Ot ttPOUECCOfc С ПЕРЕМЕШИВАНИЕМ 255
Лемма 1. Пусть 2F и *§ — о-поля такие, что $Га$.
Если Е{|2}<оо, то
Е{||-ЕШ20П<Ет-Е{У#~}|2}. B1.8)
Доказательство. Следующие равенства и
неравенства верны с вероятностью 1. Если т] = I — Е {| \\&"}9 то
Стало быть, нужно доказать, что Е {| л — E{ti \\&} |2}^
<Е{л2}- Беря математическое ожидание от обеих
сторон неравенства
получаем нужный результат.
Функциональная центральная предельная теорема.
Обозначим
5л = т,1+ ... +чв, B1.9)
и пусть
*e(*f ©)«_" Sm(<d). B1.10)
о \ п
Теорема 21.1. Пусть {gn} — процесс с ср-перемеши-
ванием, причем Лф„2 < °°> и случайная величина г)п,
п
определенная соотношением B1.1), имеет нулевое
среднее значение и конечную дисперсию. Пусть, далее,
существуют случайные величины вида B1.2) такие, что
?v}/2<oo, еде vi определяется соотношением B1.3).
Тогда ряд
»E{j} + 2gE{} B1.11)
абсолютно сходится; если а2 > 0 и Хп — случайная
функция, определенная формулой B1.10), то
Xn-^W. B1.12)
Доказательство. Покажем сначала, что ряд в
B1.11) абсолютно сходится. Для каждого k и i

256 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Если *' = Гз"*Ь то по лемме 1 предыдущего параграфа
Е {Е* {л, || JCL,}} < 2ф'«Е {г?1
и следовательно,
B1.13)
Таким образом, ряд в B1.11) действительно сходится,
так как по предположению сходятся оба ряда ? уЦ2 и
У vl/2
Соотношение B1.12) можно было бы вывести из
теоремы 19.2, однако более удобно для этой цели
использовать результаты предыдущего параграфа. Докажем
сначала, что
± о2). B1.14)
у п
Можно предположить, что величины i\in заданы
посредством соотношения B1.7). Положим
6/* = Л*-Л/п> B1.15)
так что v (I) = Е {6^} и Е {61п} = Е {к\1п} — 0. Имеем
<2Мб)
Чтобы доказать B1.14), мы, используя теорему 20.1,
покажем, что при больших п первая сумма в правой части
B1.6) приблизительно нормальна, а затем убедимся, что
вторая сумма мала при больших I.
Прежде всего, имеем

§ 21] ФУНКЦИИ ОТ ПРОЦЕССОВ С ПЕРЕМЕШИВАНИЕМ 257
В самом деле, при i ^ / левая часть здесь равна
нулю, а при i ^ / она совпадает с величиной Е{Е2{т^ —
— Е {Ло || -^-i} I -^i-/}}t которая по теореме Йенсена не
превосходит V*. Следовательно, в рассуждении, которое
привело нас к B1.13), мы можем заменить щ на цю, а г)&
на г)/*. Поскольку Е {т^0} < Е {т]0}, то мы можем
заключить теперь, что | Е{г)/оГ1/й} | не превосходит правой
части неравенства B1.13). Таким образом, ряд
" 1
сходится абсолютно и равномерно по /. Далее, поскольку
этот ряд почленно сходится к ряду B1.11), имеем
lim g]^g2. B1.17)
/-»оо
Нетрудно проверить, что для каждого / {т|/п} есть
процесс с ф^-перемешиванием, где
Г 1, если
ф (п) t ф (лг — 20, если п>21.
Сходимость 2(ф(я)I/2 влечет сходимость 2 (ф(/) (^)I/2 и
п п
по теореме 20.1 для каждого фиксированного / имеем
при п->оо.
Поскольку согласно B1.17) ЛГ(О, of)—> N@, а2), то
в силу B1.16) и B1.18) соотношение B1.14) будет
следовать из теоремы 4.2, если мы покажем, что
lim lim sup pj -Wj]S// >e| = 0 B1.19)
Для любого положительного е. С этой целью оценим дис-
П. Биллингсли
персию ? 6ц.

Й8 ЗАВИСИМЫЕ ВЕЛИЧИЙЫ [ГЛ. 4
Если т означает наибольшее из чисел / и /, то по
определению B1.15) б/о — Е{б/оII^#-/} = б/по- Так как
v(m) ^ v(/), то
Следовательно, в рассуждении, приводящем к
неравенству B1.13), мы можем ц0 заменить на б/0 и т|* на б^,
поскольку по лемме 1 Е{6^0}<Е{т^}, то |Е{б/об/А,}| не
превосходит правой части B1.13). Поэтому ряд
сходится абсолютно и равномерно по /. Так как каждый
член этого ряда стремится к 0 при /->оо, то
lim т2 = 0. B1.20)
Применяя к {8in} лемму 3 из предыдущего параграфа
({6*n} не является последовательностью с ф-перемешива-
нием, но лемма этого и не требует), имеем
[ = т2. B1.21)
Неравенство Чебышева и B1.20) приводят теперь к
соотношению B1.19), что и завершает доказательство
B1.14).
Из абсолютной сходимости ряда B1.11) и леммы 3
из предыдущего параграфа (напомним еще раз, что эта
лемма требует лишь стационарности — ф-перемешива*
ние не обязательно) следует, что
±E{sl}-+o2. B1.22)
При о2 = 0 соотношение B1.14) равносильно
соотношению Snl^n —> 0. Начиная с этого места, мы будем
предполагать, что а2 > 0. Чтобы доказать B1.12), мы
установим сначала сходимость конечномерных
распределений, а затем — плотность. Пусть рп — целые
положительные числа, стремящиеся к бесконечности с неко-

§ 21] ФУНКЦИИ ОТ ПРОЦЕССОВ С ПЕРЕМЕШИВАНИЕМ 259
торой скоростью, которая будет уточнена ниже.
Положим
{J^} B1.23)
- Е {Sn - Si+2Pn | J^J. B1.24)
В этих формулах мы полагаем Si-2pn = 0 при i < 2рп
и Srt-5*+2ря = 0 при t + 2/?n > 0. В дальнейшем
вместо рп мы будем часто писать просто р.
Используя неравенство Минковского и лемму 1,
еем
имеем
< Е Е'/2 {| ч, - Е {Ч/1 Jf*+p} |2} < |j vi/2 (k + p - /).
Если
^(p)=EvV2@. B1.25)
TO
E {| Sk - E {Sk! uf*+'} I2} < Ц2 (P), B1.26
и поэтому
E { fnl - S< |2} < 2E {Sy + 2ц2 (р.) B1.27)
для всех /. Аналогично получаем
Е {I ^n« - E« - S0 Г) < 2Е {^Р„} + 2^2 (Рп)- B1-28)
Так как величины Uni, Vni измеримы относительно ст-по-
лей JtlS?, ЖТ+р, соответственно, то
I Р {?/„, г Я„ Fni еЯ2}-Р {f/n, e Я,} Р {Vni еЯ2)|<
<<рBр„) B1.29)
для любых линейных борелевских множеств Н\ и Яг.
Рассмотрим теперь конечномерные распределения. Из
B1.14) следует, что
Xn(t)-Xn(s)-^Wt-~Ws. B1.30)

260 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ.. 4
Мы докажем, что
(*„(/), Xn(l)~Xn(t)) -*» {Wt, W, - Wt); B1.31)
рассуждение легко переносится и на случай размерности
большей, чем 2. Пусть рп стремится к бесконечности
настолько медленно, что /?n/n-^0. Поскольку согласно
B1.22) E{S\}~k<j2t используя неравенство B1.27) и
неравенство Чебышева, получаем
¦^U«,l«tl-X»V)-L*b B1-32)
Аналогично,
U Vn, intt - (Хп A) - Хп (<)) -^ 0 B1.33)
п
а у п
и B1.31) будет установлено, если показать, что
В силу B1.29) достаточно доказать (теорема 3.1)
сходимость по распределению каждой из двух координат;
но это следует из B1.30), поскольку имеют место
соотношения B1.32) и B1.33).
Вернемся теперь к вопросу о плотности и покажем,
что для любого положительного е существует К > а
такое, что
Р {max | Si | > А, V"} <inr B1.34)
при всех достаточно больших п. Положим
nt\m\
Рассуждая так же, как при доказательстве B0.51),
можно построить последовательность рп, стремящуюся
к бесконечности настолько медленно, что если
{n} B1.35)
то
B1.36)
для любого положительного К

§21] ФУНКЦИИ ОТ ПРОЦЕССОВ С ПЕРЕМЕШИВАНИЕМ 26 J
Рассмотрим величины B1.23) и B1.24) для этой
последовательности рп. Используя обозначение B1.35),
имеем
так что согласно B1.26)
P{\Unt-St\>k^}^^^-+^x) B1-37)
для всех /. Аналогично,
B1.38)
Из соотношений B1.14), B1.22) и теоремы 5.4
следует, что величины S2nln равномерно интегрируемы.
Следовательно, существует А,, к > а, такое, что
^ B1-39)
для всех k. Зафиксируем такое К. Согласно B1.37)
Р {max | St | > 6А У«~} < Р (max | Unt
^ () B1.40)
Рассмотрим множества
Et = {max| UnJ \ < ЪХ *fn
Имеем
Р{max| Uni
+ S Р (^ П {I Sn - Unt | >4Я. V^})- B1.41)
Так как

262 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
то 1-е слагаемое в B1.41) не превосходит
»}. B1.42)
Поскольку Ei принадлежит Jl-<? и Vni измеримо отнс«
сительно ЖТ+Р>
Согласно B1.38) Р { | Vni | > 2Х V«") < Р { \Sn-{
jn — i) + 4ц2(pnWn + Р„(у %), так что
/К=Т) + Р(Et)ФBр„).
Комбинируя эту оценку второго слагаемого в сумме
B1.42) с оценками B1.37) и B1.38) для остальных двух
слагаемых, мы видим, что t'-e слагаемое в B1.41) не
превосходит
Р (Ед Р {| Sn-t | > X У^7/} + Р (Et) ф Bрп) +
Так как множества ?,• не пересекаются, то согласно
B1.39) имеем
Р{тах|?/„г|>5ЯУ«"}<
Здесь три последних члена в правой части стремятся к О
(см. B1.25) и B1.36)), и поэтому из B1.40) следует, что
для всех достаточно больших п, что и доказывает B1.34).
Теорема 21.1, таким образом, доказана. В частности,
мы получаем центральную предельную теорему B1.14),
справедливую даже при о2 = 0. Эта центральная пре-

§ si] Функций ot йроцессов с перемешиванием 263
дельная теорема переносится и на многомерный случай.
Именно, пусть
где
Предположим, что величины t|W имеют нулевое среднее
значение и конечную дисперсию. Предположим далее,
что эти величины аппроксимируются величинами
Если ?vJ/2(/)<oo для каждого /, где
то в силу неравенства
i/2 Л У <о У (о 21 у
любая линейная комбинация компонент вектора к\п
удовлетворяет условиям теоремы 21.1, так что применим ме-
п
тод Крамера — Уолда. Таким образом, вектор п~1/2 2 щ
оказывается асимптотически нормальным. Ковариации
предельного нормального распределения равны
Е KW} + 2 Е КЧ0} + S E {п(,г)т1'0/»}, B1.44)
Й^ I Й*1* I
где ряды сходятся абсолютно.
Приложения. Пример 1. Пусть величины %п
независимы и одинаково распределены со средним 0 и
дисперсией 1. Положим
оо
/« — оо
оо
где а* таковы, что 2] а) < оо. Случайная величина
B1.7) в данном случае имеет вид
2^

Й64 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [f Л.
а требование 5]v]/2<oo сводится к требованию
I (
2 < оо.
Пример 2. Пусть (Q,^?, Р), как и в примере 3
предыдущего параграфа (стр. 235), означает единичный
интервал с лебеговой мерой, и пусть ?п(со)—п-и знак в
двоичном разложении со (п^1). Тогда
последовательность {lu h> • • •} стационарна и независима. Случайную
величину цп вида B1.4) можно рассматривать как
функцию т]п((о) = / (Тп-1(о)у где / — функция на
единичном интервале, а Т — преобразование Гсо = 2co(mod 1).
Предположим, что интеграл \/2(co)dco конечен и ряд
о
У* v}/2 сходится, где
5
о
а // для каждого / есть функция лишь от первых /
знаков gi(со), ..., ?/(со) в двоичном разложении со. Тогда
из теоремы 21.1 следует, что
^^, a2), B1.45)
где (i = \ /(со)dco, a а2—предельная дисперсия. Это и
о
есть соответствующая функциональная центральная
предельная теорема. Если вообще существуют указанные
выше функции //, то их можно взять равными
ml
МоО-21 J f(s)ds9 со € (-^, ^] B1.46)
(см. B1.7)).
Если /(со) =/(о,о(со) и f/ определена формулой
B1.46), то v/ ^ 2~;, так что B1.45) выполняется (с \х в /).

21] ФУНКЦИИ ОТ ПРОЦЕССОВ С ПЕРЕМЕШИВАНИЕМ 265
В этом случае ? !(Т*(о) — количество тех i, 1 ^ / ^ п,
для которых Г7'-1© </. Если t — двоично-рациональное
число, то / совпадает с // при некотором / и B1.45)
вытекает из центральной предельной теоремы для I— 1
зависимых случайных величин. Если / не является двоично-
рациональным, то f(co) зависит от всего двоичного
разложения со.
Если / непрерывна и // определена формулой B1.46),
то v/ ^.4w2fB~l), где Wf(8) есть модуль непрерывности f.
Следовательно, B1.45) выполняется, если ряд 2^B"')
сходится. Последнее условие выполнено, если,
например, f удовлетворяет равномерному условию Гёльдера
с некоторым .положительным показателем
!/(«>) — /(соО |</С| со — со' |е, /С, G > 0. B1.47)
Можно, например, взять f (ay) = со. В этом случае
r)ri(co) =Гп(со). (Можно проверить, что
последовательность {цп} не удовлетворяет условию ср-перемешивания,
какова бы ни была стремящаяся к 0 функция ф,
поскольку знать число Тпы и знать последовательность
Тп+1ау, Гп+2со, ... — это одно и то же.)
Пример 3. Рассмотрим пространство (Q, 38, Р) и
последовательность {ai(co), a2(co), ...} из примера 4
предыдущего параграфа. Если обозначить Т\
преобразование
и если а (а) =[1/(о], то ая(а) = а(Т?~1®), я>1*). Как
и в предыдущем примере, B1.4) можно рассматривать
как функцию г|„(со) = f (г"~'(о), где функция / определена
на единичном интервале. Соотношение
^М@, о2)
*) В связи с этим и другими используемыми здесь фактами
о Т% см. § 4 в книге Биллингсли A969J.

266 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
имеет место, если
1
1 С f(<») Л
** log 2 J I + со '
о
если
о
и если ряд 2V]/2 сходится. Здесь
и при каждом I fi есть функция лишь от ai(<o)9 ...
..., а/(со). Поскольку 1^1+<*><2, то B1.49)
равносильно неравенству
оо
о
и требование ?v{/2<oo от величин B1.50)
равносильно такому же требованию от величин
Так как множество {со: аг- (со) = аи l^i^l} есть
интервал длины, не превосходящей 2~/+1, то так же, как
и выше в примере 2, в качестве /(со) можно взять /до,?)(<*>)
или любую функцию, удовлетворяющую условию Гёль-
дера B1.47). Рассмотрим еще один пример. Поскольку*)
log со-log ~^—
где pi((d)/qi((o) —1-я подходящая дробь, то можно взять
/(со) =—logco. Для этой функции |ш =з я2/A2 log2).
Более того,
+ 49, |9|<1, B1.51)
*) Биллингсли A969, стр. 54).

§ 21] ФУНКЦИИ ОТ ПРОЦЕССОВ С ПЕРЕМЕШИВАНИЕМ 267
и поэтому
для соответствующего положительного а2.
Легко можно привести и функциональные варианты
этих предельных теорем.
Диофантово приближение. Полученные результаты
приводят к предельным теоремам, связанным с диофан-
товым приближением. Дробь p/q является наилучшим
приближением числа со, если форма
1<?'-<о-р'|, B1.53)
где 0 < q' ^ q> достигает минимума при р* = /?, q' = q.
Последовательные наилучшие приближения
совпадают*) с подходящими дробями Рп(со)А7п(со), п=1,
2, ..., и поэтому значение формы B1.53) для n-го
наилучшего приближения равно
B1.54)
Поскольку **)
| — log rfw (a>) — log ^n+1 (со) | < log 2, B1.55)
то из B1.52) следует, что
^)^). B1.56)
Эта предельная теорема имеет и функциональную
форму. Из B1.51) и теоремы 4.1 следует, что если Yn
есть случайный элемент из Д определенный
соотношением
(с тем же значением а, что в B1.52)), то Yn—> W.
Положим
*) Хинчин A961).
**) См. D.6) на стр. 54 в книге Биллингсли A969).

268 ЗАВИСИМЫЕ ВЕЛИЧИНЫ \ТП. 4
Из соотношения B1.55) теперь вытекает
функциональная центральная предельная теорема, отвечающая
B1.56)
Za-*+W. B1.57)
Из B1.57) можно вывести закон арксинуса для
наилучших приближений. В силу B1.56) имеем k~l logdk —>
Д я2/A2 log 2) (можно показать, что сходимость здесь с
вероятностью 1), так что мера расхождения *4(со) имеет
нормальный порядок e~~knil{l2[og2). Условимся называть
k-е наилучшее приближение Pk((a)/Qk((o) «верхним», если
и «нижним» в противном случае. Если 0п(со) есть доля
верхних приближений среди подходящих дробей
то согласно B1.57) и A1.26)
> J-arcsinVa"> 0<а< 1.
J
Например, если п велико и рп(и>)/Чп(<й) — верхнее
приближение, то шансы на то, что более 85% подходящих
дробей B1.58) также являются верхними, весьма
невелики.
Нестационарность. Положим
где рп->оо, но Pnl^n ->0, и пусть случайная функция
Хп определена соотношением B1.10). Если положить
то, очевидно,
6„

§ 22] ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ 269
В силу неравенства Минковского и стационарности
Если 2v}/2<°°> то согласно лемме 1 и выбору рп
Е{б«}->0. Следовательно, рассуждая так же, как и
выше, можно распространить теоремы 20.2 и 20.3 на
процессы {т]п}. Отсюда, например, следует, что в
приложениях к диофантовым приближениям гауссову меру
можно заменить лебеговой.
Теорема 10.4, однако, не переносится. Чтобы
убедиться в этом, рассмотрим процесс {^п} из примера 2
настоящего параграфа (стр. 264) и положим г)п(со) =
оо . П
— Z1 ?*(ю)/2/~"я+1. Хотя сумма ^СлДю) асимптотически
k *1
нормальна (при подходящей нормировке), это перестает
быть верным, если рассматривать условные вероятности
относительно r)i((o). В самом деле, поскольку ц\ (со) = со,
то если t]i(co) = а, 0<а< 1, то условное распределе-
п п
кие суммы 22 Л«(со) сосредоточено в точке
Примечание. Результаты этого и предыдущего параграфов
являются новыми и обобщают результаты автора A956 и 1962).
Центральные предельные теоремы при выполнении условий теорем
20.1 и 21.1 были доказаны Ибрагимовым A962); см. его статью
гакже по поводу ссылок на более раннюю литературу (см. также
Дёблин A940), Форте A940) и Кац A946)).
§ 22. Эмпирические функции распределения
Мы изучим теперь эмпирические функции
распределения для последовательностей {?п} и {цп} типа тех,
которые рассматривались в предыдущих двух параграфах.
Процессы с ф-перемешиванием. На протяжении настоя-
щего параграфа предполагается, что {?п} —
стационарный процесс с ф-перемешиванием. Нам потребуется
следующая оценка, связанная с леммой 4 § 20,

270 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Лемма 1. Пусть ||01^1 с вероятностью 1, Е {?0}=0
и 2>2qpf <oo. Тогда
Е {SAn} < 288 |>2Е2 {Щ + пЕ $}] [ |(? + 1JФ^] . B2.1)
Доказательство. Имеем
Е {S*} < 4! п ? | Е {&>&&+&+/+*} I, B2.2)
где суммирование производится по /, /, k таким, что
/, /, fe>0, i + j + k^n. B2.3)
Обозначим для краткости Е {Ш через р. Сначала
докажем следующие три неравенства:
р, B2.4)
р, B2.5)
IE {(Mi) (li+i6«+/+*) } I < 4ф1«ф;/»р« + 2ф}»р. B2.6)
По лемме 1 § 20 левая часть B2.4) не превосходит
Отсюда, поскольку ||n| ^ 1, получаем B2.4).
Аналогично устанавливается B2.5).
Применив еще раз лемму 1 § 20, получим, что левая
часть B2.6) не превосходит
| Е {у,} Е fe} | + 2qfEW {m} Е|/2 Ш- B2-7)
Еще дважды применяя ту же лемму, имеем
Так как |gn| < 1, то B2.7) не превосходит 4ф|/2ф^/2р2 +
}, и мы получаем B2.6).
Из B2.2) и трех доказанных неравенств теперь
вытекает, что
У, ф./2ф.

22] ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ 271
где индексы суммирования удовлетворяют также
условию B2.3). Так как
? ф!/2ф1/2<Е ? 4>M2<2n\Z <pj?T
Ё
Е ф!/2<Е Ё
то неравенство B2.1) доказано.
Предположим теперь, что
Пусть Fn(f, о)) — эмпирическая функция распределения
для gi(со), ..., ?п(со). Определим Уп соотношением
Гл (/, со) = ^п (Fn (t, со) - F @), B2.8)
где F — функция распределения для |0. Положим
ftl^^/lftflW-fW. B2.9)
Теорема 22.1. Пусть {|п} — процесс с
^-перемешиванием, причем ^Аг2ф^/2< оо, и функция распределения
п
F величины go непрерывна на [0, 1]. Тогда
Yn-^Y, B2.10)
где Yn — случайная функция B2.8), a Y — гауссовская
случайная функция, для которой
0 B2.11)
B2.12)
б B2.12) сходятся абсолютно и P{7gC} = 1.
Доказательство. Покажем сначала, что можно
ограничиться случаем, когда величина ?0 распределена
равномерно на [0, 1]. Процесс {F(ln)} является
процессом с ф-перемешиванием, и, поскольку функция F
непрерывна, величина F(l0) распределена равномерно. Пусть

272 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
F'n(t, (о) — эмпирическая функция распределения для
F(li(*)) F(ln(w)) и
К(t) = V« (&(!, со) -<)•
С вероятностью 1 имеем
для всех t. Если теорема верна в случае равномерного
распределения g0» то У«—+Y', где У7 — гауссовская
случайная функция, для которой Е{У'(/)}=0,
Е {Г (s) Г (t)} - Е {?
| Е
1{«i ( (У) «; ( а,))} |
(здесь g; (а) = /[0 t] (а) - t) и Р{ГеС} = 1, Пусть Л —
отображение D в себя, определенное равенством (/и)(/) —
= х(/7@), и пусть Y = h(Y'). Так как Cah~lCy то
Р{УеС} = 1. Далее, У — гауссовская функция,
удовлетворяющая соотношениям B2.11) и B2.12). Поскольку
отображение h непрерывно на С, то из следствия 1 к
теореме 5.1 вытекает, что Y'n—>Y' влечет Yn—>Y.
Таким образом, достаточно рассмотреть лишь равномерный
случай.
Предположим теперь, что величина ?0 распределена
равномерно на [0, 1], и положим в B2.9) F(t) =t Так
как {g*(?n)} есть процесс с ф-перемешиванием и
то согласно теореме 20.1 величина Yn{t) асимптотически
нормальна. Из многомерного варианта этого результата
следует, что для каждого набора tu ..., h
распределение случайного вектора (Yn(t\), ..., Yn{tk)) стремится
к центрированному нормальному распределению. В силу
B0.59) ковариации этого предельного нормального
распределения совпадают с соответствующими ковариа-
циями B2.12) функции У. Из-теоремы 20.1 следует
также, что ряды B2.12) абсолютно сходятся,

§ 225 ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ 273
Мы докажем, что для любых положительных е и ц
существует б, 0 < б < 1, такое, что
P{w(Yni 6)>8}<t] B2.13)
при всех достаточно больших п. Из теоремы 15.5 будет
тогда следовать, что последовательность {Уп} плотна, и
если У— предел по распределению некоторой подпосле-
з>
довательности {Yn>}y то P{FgC} = 1, Yn—>Y и Уесть
гауссовская случайная функция, удовлетворяющая
соотношениям B2.11) и B2.12). Тем самым теорема будет
доказана.
Зафиксируем е и г). Так как величина ?0
распределена равномерно, то
Применяя лемму 1 к {gt(ln)—gs&n)}, получим
где К\ зависит лишь от ср. Следовательно, если
то (считая е <С 1)
Е {| Уn(t) - Yn(s) П <^?-0 - sf. B2.15)
Пусть теперь р — число, для которого г/п < р, и
рассмотрим случайные величины
/=1, 2, ..., mf
где m — целое положительное число. В силу B2.15) и
теоремы 12.2 имеем
Р {max | Yn (s + /р) - Уп (s) I > Я} < $L my t B2.16)
где /С2 = 2/^4,2^1 зависит лишь от <р.
Покажем теперь, что
^n> B2.17)

274 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Полагая для простоты записи s = 0, мы видим, что
B2.17) равносильно неравенству
\Un(t)-nt\^\Un{p)-np\ + np,
где Un{t) есть число тех lt в множестве |ь ..., ?п, для
которых li^t. Но
<\Un(p)-np\ + np и л/ — t
Из B2.17) вытекает теперь, что
sup \Yn(t)-Yn(s)\<:
< t ^+
<3max| Yn(s + ip)-Yn(s)\ + pл/JT. B2.18)
Если
^<p<-^-, B2.19)
/i у n
то применимо неравенство B2.16) и из B2.18) мы
получаем
Р { sup | Yn (t) - Yn (s) | > 4e} < 4f rnY- B2.20)
s < t < s+mp e
Выберем б так, чтобы /С26/85 < tj. Из B2.20) следует,
что
Р{ sup \Yn(t)-Yn(s)\>4*}<y\b, B2.21)
если только существует р и целое число т такие, что
верно B2.19) и тр = б. Но это равносильно
существованию целого числа т, для которого F/г)л/п< /гс<
^(б/е)п, что выполняется при всех достаточно
больших п.
Следовательно, для заданных е и rj существует такое
б, что B2.21) выполняется (при всех spinel вместо
s + б, если s + 6> 1) для всех достаточно больших п.
Но отсюда вытекает (см. следствие к теореме 8.3), что
для больших п
что совпадает с B2.13) с точностью до множителя 12.
Таким образом, Yn—>Y. Предположение о
непрерывности F служит лишь для упрощения доказательства.

§ 22] ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ 275
Его можно избежать, если использовать теорему 12.5
там, где мы использовали теорему 12.2. Разумеется, если
функция F разрывна, то случайная функция У не будет
принадлежать С с вероятностью 1.
Функции от процессов с ф-перемешиванием. Как и в
предыдущем параграфе, рассмотрим функцию
т,„ = /(...,!„-„ 1Я, |я+„ ...) B2.22)
от процесса с ф-перемешиванием. Предположим, как и
прежде, что г\п хорошо аппроксимируется функциями
Ч/я= Мб»-/. .... 6», .... Бя+/), B2.23)
зависящими лишь от конечного числа &. Отметим, что
вместо двусторонних можно было бы рассматривать
односторонние последовательности.
Предположим, что
0<т1/г(со)<1,
и определим Yn равенством B2.8), где теперь F —
функция распределения величины r)o, a
Fn(t,a>)—эмпирическая функция распределения для r]i (со), ..., г]п(со). При
анализе асимптотического распределения Уп, помимо
ограничения на величину фп, нам понадобится некоторое
условие, выполнение которого должно обеспечить
совпадение эмпирического распределения Fin(tt(o) величин
il/i(со), ..., r)jn(co) с Fn(t,(i)) в точках t множества Hh
которое быстро становится плотным в [0,1] при /~>оо.
Предположим прежде всего, что
Потребуем, далее, чтобы существовали множества Hi в
[0, 1], удовлетворяющие следующим трем свойствам,
(i) Если / е Hi, то
с вероятностью 1.
(и) Множество
B2.24)
B2.25)

276 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
является ргсетыо в [0, 1], где р* стремится к нулю^с
показательной скоростью: существуют положительные чис-
ла Л и р, р< 1, такие, что
p,<V. /=1, 2f ... B2.26)
(Hi) Я,сЯ/+1.
Из (i) следует, что если /еЯ/, то Fin(t,(o) =
= Fn(ty(d) с вероятностью 1. Пусть, как и прежде, gt
определяется соотношением B2.9).
Теорема 22.2. Пусть {1п} — процесс с
^-перемешиванием, причем 2 n2q>n2 < оо, гH имеет непрерывную
п
функцию распределения F на [О, 1] и существуют
множества Hi с описанными выше свойствами. Тогда
Y -^Y
где Y — гауссовская случайная величина, для которой
0 B2.27)
+ ,Е Е {gs Ы gt Ы) + Z E {gs Ы gt (ло)}. B2.28)
Ряды в B2.28) сходятся абсолютно и Р{УеС} = 1.
Прежде чем перейти к доказательству теоремы, мы
приведем два примера ее применения.
Пример 1. Пусть, как и в примере 2 предыдущего
параграфа (стр. 264), (й, Jf, P)—единичный интервал
с лебеговой мерой, а ?п(со) —п-и знак в двоичном
разложении со. Если Гсо == 2со (mod 1) и т]п(со) = Р^со, то
г\п имеет вид B2.22) (односторонний вариант).
Величины цп распределены равномерно с функцией
распределения F(t) = t.
Определим т)/п соотношением
Ч/»(«)=^ если lZ7L<Tln(a))<^r> 1</<2'.
Величина г)ю (со) является функцией от первых / знаков
в разложении со и, следовательно, г)/п имеет вид B2.23)

§ 22] ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ 277
(односторонний вариант). Если / — число вида i/2l, то
выполняется B2.24). Так как F(t) = t, то можно взять
Множество Hi является 2-'-сетью в [0, 1]. Таким образом,
{г]п} удовлетворяет предположениям теоремы.
Пример 2. Пусть, как в примере 3 предыдущего
параграфа (стр. 265), (Q,Jf, P) — единичный интервал
с гауссовой мерой B0.19). Пусть ?п(со) =ап(со)— п-й
элемент в разложении со в непрерывную дробь, и пусть
цп (со) = 7" со, где Т\ — преобразование, определенное
формулой B1.48). Тогда цп имеет вид B2.22)
(односторонний вариант) и ее функция распределения равна
dx
log 2 J 1+jc Iog2
о
Пусть, далее, r\in((o)—1-я подходящая дробь для
Величина r\in имеет вид B2.23) (односторонний вариант).
Пусть Hi — множество всех 1-х подходящих дробей (для
всех со). Далее, единичный интервал распадается на
счетное число подинтервалов*), имеющих своими концами
точки из Hi. При этом Tii (со) = со и т)л(со) =Pi((o)/qi((o)
лежат в одном и том же подинтервале, так что B2.24)
выполняется для t из Н{. Длины этих подинтервалов не
превосходят 2~1+]. Поскольку производная функции F
всюду не превосходит I/log 2, то множество B2.25)
является р/-сетью в [0, 1] с
Таким образом, {цп} удовлетворяет условиям теоремы.
*) Фундаментальные интервалы ранга / — см. Биллингсли A969,
стр. 54).

278 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Доказательство теоремы 22.2. Как и при
доказательстве теоремы 22.1, мы сначала покажем, что
достаточно рассмотреть случай равномерного
распределения т|о на [0, 1]. Положим r\'n = F(v)n) и r]^rt = F (Л/^).
Величина v\'o распределена равномерно, и если /
принадлежит множеству //, определенному соотношением
B2.25), то
ho, t] vW == V ц v\'io)
с вероятностью 1. Если Щ = 1\= Jlt то {ц'п} и
{rj^}удовлетворяют условиям теоремы относительно множеств
Н\ и J\. Рассуждая далее так же, как в начале
доказательства предыдущей теоремы, получаем, что теорема
справедлива, если она справедлива в равномерном
случае.
Пусть теперь величина т]0 распределена равномерно.
Положим в B2.9) F(t)=t. Предположим, что при
l^Hi B2А) имеет место с вероятностью 1. Пусть Hi cz
си Hw. Наконец, предположим, что Hi есть р/-сеть в
[0, 1], где pz удовлетворяет условию B2.26). Не
ограничивая общности, можно также считать, что 0 и 1
принадлежат Hi.
Из сделанных допущений следует, что \r\o~Цю\ <
^ 2р/ с вероятностью 1. Следовательно, каково бы ни
было t,
так что, поскольку величина г\о распределена
равномерно,
Так как gt (т)ю) является функцией лишь от l-i, ..., Ь и
так как из B2.26) следует, что 2р{/2<°°>то» применяя
теорему 21.1, получаем, что величина
*-1

§ L2J ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ 279
распределена асимптотически нормально. Многомерный
вариант этого утверждения (см. B1.43), B1.44)) ?очно
так же, как многомерный вариант теоремы 20.1 в
предыдущем доказательстве, показывает, что
конечномерные распределения Уп сходятся к конечномерным
распределениям У и что ряды в B2.28) абсолютно сходятся.
Опять, как и в предыдущем доказательстве, теперь
достаточно показать, что по заданным положительным
8 и г] можно выбрать б, 0 < б < 1, такое, что
B2.29)
для всех больших п.
Если 5 и t принадлежат Я/, то процесс
)—— G (t\ 1 "~"— О ± \X\ t l — G (\\ i I Yl г Г) -4— 1 —I— 9
55 V'lft/ 6f \ l/rt/ oS\\lfl/i 1Ь ^> —i— A > —i— ^> • • •,
является процессом с ср(/)-перемешиванием, где
1, если п^21,
Ф (п — 2/), если п > 2/.
Так как величина ц0 распределена равномерно и так
как
то по лемме 1
где /Сз зависит лишь от ф. Следовательно, из
вытекает (при е < 1), что
Подберем и зафиксируем т такое, что
РтР<^+2-. п = 1,2,... B2.32)

280 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
(Это возможно вследствие B2.26),) Применяя индукцию,
определим множества
г . Av) Av) Av)
v* 0 » 1 > ' • * > 2V
для v^O такие, что
1^(^)^(-^-). B2.33)
где
av= min (^>-ед< max
Если й ==0 и /iO)=l, то Lo обладает этими
свойствами. Предположим, что Lo, ..., Lv уже построены и
имеют указанные свойства. Определим $}+1) =$\ и
пусть й+1> — точка из #т@+и, удовлетворяющая
условию
I *2Ж 2 Чм + U+\) I ^ Р/п @+1)*
Такая точка существует, поскольку Hm(V+i) является
рт(г>+1)-сетью в отрезке [0, 1]. Из B2.32) следует, что
B2.33) по-прежнему выполняется при замене v на v + 1.
Таким образом, множество Lv+\ удовлетворяет нужным
требованиям.
Зафиксируем число 0 такое, что
1/2<90 = 94< 1. B2.34)
Предположим, что числа е, п и v удовлетворяют условию
Из этих условий согласно B2.33) следует, что
— <ae<fc<-7=-. B2.36)
п у п

§ 22] ЭМПИРИЧЕСКИЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ 281
Предположим далее, что 0<«<уи0<Л< 2v~u.
Покажем, что
IT 8u LWi) 2й "" fh2uh B2.37)
где Къ зависит лишь от ф и фиксированных чисел т и
О из условий B2.32) и B2.34). Чтобы не загромождать
обозначений, мы проведем доказательство в случае
h = 0.
Если 0 <? i < 2W, то
(рассмотрите представление целого числа I в двоичной
системе) и, следовательно,
Р{ max
0 < /
Далее, t(pk = tf~k) G=Hm{v_k). Так как B2.30) влечет
B2.31), то из B2.36) следует, что
Р{ max |У„0
0 < / < 2м
2^з (m (о — fe)N
j — (8A-
где /С4 = 2/С3т6/A-вL. Поскольку рв-*<1/2"-*-1, то
мы получаем B2.37) с постоянной

282 зависимые Величийbi [гл, 4
(напомним, что 28о > 1 и что постоянная Кг в B2.31)
зависит лишь от ф).
Чисто геометрическое неравенство B2.17) применимо,
как и прежде, и мы получаем
max
О < / < 2
Теперь из B2.36) и B2.37) следует, что
2 $ Ч? 85-.
Так как *$ = #-"><=*.,_,, и ао_ц^ I/2°-"+1, то,
используя следствие к теореме 8.3, приходши к неравенству
Р {» (У., ^г!йТ) > 12е} <^6о0-". B2.38)
Это неравенство справедливо при выполнении условия
B2.35) и при 0 < и < v.
Если е и г] заданы, выберем целое число г такое, что
/Сбво/в5<т| (напомним, что 8о<1), и положим 6 =
= l/2r+1. Для всех пу превосходящих некоторое щ,
существует v, удовлетворяющее условию B2.35). Если
взять u = v — г, то B2.38) справедливо и мы приходим
к B2.29) (с 12е вместо е). Теорема 22.2 полностью
доказана.
Нетрудно доказать, что теорема остается в силе при
замене вероятностной меры Р, управляющей
последовательностями In и Tin, произвольной вероятностной мерой,
абсолютно непрерывной относительно Р. В частности,
в примере 2 можно заменить гауссову меру на лебегову.
Примечание. Теоремы 22.1 и 22.2 — новые; случай,
рассмотренный в примере 1, изучался Цесельским и Кестеном A962).
§ 23. Мартингалы
В § 20 мы доказали функциональную центральную
предельную теорему для стационарных процессов {?п}>
удовлетворяющих условию равномерного перемешива-

§ 23] МАРТИНГАЛЫ 283
ния. Это условие перемешивания можно ослабить и
предполагать лишь эргодичность в том случае, когда
частичные суммы Sn = 61 + ... +Sn образуют мартингал*).
Теорема 23.1. Пусть {|п} — стационарный, эргоди-
ческий процесс, для которого
Е{Е„ИБь .-.. Бя-1> = 0 B3.1)
с вероятностью 1 и 0 < Е {?«} = а2 < оо. Если положить
Хп (/, ©) = Si/»/] (co)/cr л/л, то Х„ ^ Г.
Доказательство. Без ограничения общности
можно рассматривать двусторонне бесконечную
стационарную и эргодическую последовательность ..., g_b g0,
gi, ... **). Если #"* означает о-поле, порожденное
величинами ..., lk-и ?а» то вследствие B3.1) и
стационарности,
Efc*||*V-i} = 0 B3.2)
с вероятностью 1.
Мы проверим выполнение условий теоремы 19.4 с
функциями p(t) = 0 и o2(t) = 1, отвечающими
броуновскому движению (см. A9.29)), откуда и будет следовать
%п—*W. Для проверки условия 1 этой теоремы
достаточно показать, что при / < 1
И
lim lim sup i- E {| E {(Xn(t + h)- Xn(t)J\\ rW\) — /г | > = 0.
B3.4)
Соотношение B3.3) непосредственно вытекает из B3.2).
Для доказательства B3.4) заметим, что согласно B3.2)
= |Е
*) По поводу используемых здесь эргодической теории и
теории мартингалов см. книгу Дуба A956).
**) В качестве gn можно взять координатные величины в
произведении двусторонне бесконечной последовательности
действительных прямых, имеющие те же конечномерные распределения, что и
исходный процесс; эргодичность сохраняется, поскольку ана вполне
определяется конечномерными распределениями..

284
ЗАВИСИМЫЕ ВЕЛИЧИНЫ
[ГЛ, 4
откуда в силу стационарности математическое ожидание
в B3.4) равно
к
}¦
где kn = [n(t + h)\ — [nt]. Поскольку по неравенству
Иенсена, последнее выражение не превосходит
а2
_L V Р — а2
}¦
то B3.4) следует теперь из интегральной эргодической
теоремы.
Согласно B3.2) величины ^-ортогональны и,
следовательно,
E{S2n} = na\ B3.5)
откуда вытекает справедливость услови^/2.
Предположим, что мы доказали равномерную
интегрируемость последовательности {maxSljn}, т. е. что
linr sup Ea {-^- max S\\ = О, B3.6)
где под Еа{?/} понимается интеграл от U по множеству
{U ^ а}. Тогда, конечно, последовательность{^(О; ^^ О
тоже будет равномерно интегрируемой при каждом t,
что является одним из условий теоремы 19.4 и
выполнение условия 3°а теперь легко вытекает из
стационарности. Наконец, поскольку
то по теореме 8.4 выполнено условие плотности A9.51).
Следовательно, достаточно доказать B3.6).
Если go имеет четвертый момент, то
где индексы независимо друг от друга пробегают
все значения от 1 до п. Согласно B3.2) слагаемое, у ко^

§ 23] МАРТИНГАЛЫ 285
торого максимальное значение индекса строго больше
остальных, равно нулю. Следовательно,
Е {Si} - Е Е {it} + 4 Zk Е {Щ} + 6 Е ft E {?г1Д}.
Если |go| ^ С с вероятностью 1, то сумма первых двух
сумм в правой части не превосходит 3/г2С4. Последняя
п
сумма, равная 6 2 Е{5|_^|], тоже не превосходит
согласно B3.5) Зя2С4. Таким образом,
{}\ B3.7)
если |Ы<С с вероятностью 1.
В силу неравенства для мартингалов *)
Е {max | Sk |v} < (^гг)" Е {| Sn f } B3.8)
при y>1- Следовательно, согласно B3.5)
B3.9)
Если же | g01 не превосходит С, то согласно B3.7)
Е {max Si) < (|-L 6я2С4. B3.10)
При и > 0 определим
если | ^ | ^ м,
если | li | > и,
и положим
Если Sku = Yi Чш и ^*« = Z б/и, то
i i
^ B3Л1)
•) Дуб A956, стр. 285).

286 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Далее, последовательность {цПи\ п ^ 1} обладает
мартингальным свойством B3.1) и |r)nu| ^ 2и. Поэтому
в силу B3.10)
Последовательность {8Пи\ п ^ 1} также обладает
мартингальным свойством, так что согласно B3.9) и лемме 1
из § 21 (см. стр. 255).
Е {т?« D24 <4Е ш < 4
Из соотношения B3.11) и неравенства
<2Е i {?/} + 2Е , {V} следует, что
¦а у а
E,{4-max5^<*l —
"а
где К—абсолютная постоянная. Так как go имеет
конечный второй момент, то мы получаем нужное
соотношение B3.6).
Примечание. Центральная предельная теорема в
предположениях теоремы 23.1 была доказана независимо Биллингсли A961)
и Ибрагимовым A963); доказательство теоремы 23.1 (для
ограниченных |п) принадлежит Розену A967а).
§ 24. Симметрично зависимые случайные величины
Выбор. Пусть для каждого п
хп\, Чъ ..-, xnhn B4.1)
— последовательность (необязательно различных)
действительных чисел, и пусть |я1 (со), ..., lnkn (со) —
случайная перестановка этих чисел. Предположим, что каждая
из kn\ таких перестановок имеет одинаковую
вероятность 1/fcnl. Определим случайный элемент Хп в Z),
положив
[V]
адсо)= ЕЫсо). B4.2)

§ 24] СИММЕТРИЧНО ЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ 2S?
При 0 sg f < \\kn считаем Xn(t,(o) =0. Если
производится выбор из конечной совокупности B4.1) до ее
полного исчерпания, то Хп описывает ход выбора.
Теорема 24.1. Если
i=*\
B4.з)
max \xni\-*0 B4.4)
и Хп — случайный элемент B4.2), то
Xn -^ W°. B4.5)
Доказательство. Для доказательства
достаточно проверить выполнение условий теоремы 19.4 с
функциями p(t) =—1/A—t) и o2(t) = 1, которые
характеризуют броуновский мост W0 (см. A9.32)).
Проведем сначала один предварительный подсчет.
Пусть у\, ..., уш — действительные числа, 1 ^ m <^ и,
и пусть г)ь ..., цт — упорядоченная выборка без
возвращения объема m (имеется всего ( и J возможных
выборок, и все они равновероятны). Из соображений
m
симметрии среднее значение суммы ? r\t равно тЕ{ц\}
и, следовательно,
Второй момент этой суммы, тоже из соображений
симметрии, равен
тЕ{л?} + т(т — 1) Е {т^}.
Производя далее простые вычисления, получаем
• B4.7)

§88 Зависимые величины [tvi. 4
т
Применяя эти результаты к сумме 2 %п1 и используя
B4.3), приходим к соотношениям
Второй момент здесь сходится к /A — t) (заметим, что
из соотношений B4.3) и B4.4) следует, что ?„—>оо).
Предположим теперь, что 1 ^ тх < тх -f w2 ^ kny и
пусть известны значения величин |п1, ..., %пт. Тогда
условное распределение величин &Я|Я|1+1, ..., inimi+mi СО-
впадает с распределением выборки объема /п2 из сово^
купности B4.1) с выброшенными значениями gnJ, ...
..., lnmr Из B4.6) и B4.7) с т = т2 и u = kn — mi
в силу B4.3) получаем
,< B4.8)
Е | У |я/[6п1, ..., |я/
If E U 6......6.1-
г mi 1
__ m2(kn — т{ — m2) I , V ^9 Ll_
(Лп — mi) (/?„ — mj - 1) Lj *ni "Г
Зафиксируем t<l; полагая в B4.8) ml = [knt) и
пь = [kn(t + /г)] — [knt], находим
E {Xn (t + h)- Xn (t) || Xn (/)} = - An (А) Х„ (/),
где
Следовательно,

§ 24] СИММЕТРИЧНО ЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ
289
Так как величина E{\Xn(i) |} не превосходит EU2{X2n(t)}
и тем самым ограничена и так как UmnAn(h) = h/(l—t),
то отсюда следует A9.43). (Для простоты обозначений
мы рассматриваем условие на Xn(t) лишь при одном
значении t; общий случай также просто выводится из
B1.8). Это замечание относится и к нижеследующему
рассуждению.)
Из B4.9) следует, что
где
¦ ( [kn (/ + Л)] - [kat] ) (kn - [kn (t + h)] )
' iu \b i\\ (b \b /1 1 \
\ ТЪ ' L /Z J / \ /2 I Th J * /
| _ ([kn (I + h)] - [knt]) ([kn (t + A)] - [knt] - 1)
Таким образом,
Bn(h)
i = l
^E{J[J(O}. B4.10)
[V]
Сумма 2 6^ ИМеет среднее значение [knt]/kn и второй
момент (в силу B4.7))
kn(kn-\)
lknt](lknt]-\)
kn(kn-\)
-t2.
Следовательно, дисперсия этой суммы стремится к 0. Так
как
то первый член в правой части неравенства B4.10)
стремится к 0 при /г->оо. Поскольку среднее значение
10 П. Биллингсли

290 ЗАВИСИМЫЕ ВЕЛИЧИНЫ [ГЛ. 4
Е{Х2пЩ ограничено и Нт„Ся(А) =/i2/(l —О2, то
отсюда следует A9.44).
Таким образом, мы проверили условие 1° теоремы
19.4. Так как максимальный скачок тахг|^пг|
случайной функции Хп стремится к 0, то согласно замечанию,
сделанному после доказательства теоремы 19.4, нам надо
проверить лишь равенство Хп@) = 0 (которое очевидно)
и условие 3. Следовательно, осталось только показать,
что
Е {(Хп (t) - Хп {tx)y (Xn (t2) - Хп (ОJ} < * (*2 - U)\ B4.11)
для некоторого /С, не зависящего от п, t{ и t2. Левая
часть B4.11) равна
B4.12)
где суммирование производится по /, /, k, l таким, что
[knt\] < i,K[knt]<k, l<[knt2].Положим [knt]-[kntl]=ml
и [knh] ~ [knf\ = т2) из соображений симметрии сумма
A4.12) равна
Щ^Е {ЦХЦ2} + тхт2 (т{ + т2 - 2) Е {Цх1
+ тх (mi — 1) m2 (m2 -
К
Обозначим *n=]?iX^r Дальнейшие вычисления (хотя
и громоздкие, но стандартные) приводят к следующему
выражению для B4.12):
\ 1(m, + m2 - 2) ? j
?_ j^ _ 2)
- \)т2{Щ-
Поскольку согласно B4.3) 0 ^ хп ^ 1, то при kn
последнее выражение не превосходит
2
**п ^п ^п \ Яп
Если t2 — ti^l/kn, то (mi + m2)/kn<^3(t2 — ti), к
поэтому B4.11) имеет место с /( = 306. Если h —1\<>

§ 24J . СИММЕТРИЧНО ЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ 291
'<1/&п, то B4.11) выполняется, так как один из двух
сомножителей под знаком математического ожидания
обращается в нуль. Тем самым теорема 24.1 доказана.
Нам понадобится следующее следствие из теоремы
24.1. Для любого множества А непрерывности меры W°
и любого положительного е существует положительное
6(е, А) такое, что если числа xnU ..., xnk
удовлетворяют условию B4.3) и
^max |*ft,|<6(e, Л), B4.13)
ТО
\P{Xne=A}-W°(A)\<e B4.14)
(здесь Хп определяется соотношением B4.2)).
Действительно, если бы для некоторых г и А не существовало
такого 6(е, А), то можно было бы построить
последовательность множеств {Xni}, удовлетворяющих условиям
B4.3) и B4.4), для которых соотношение B4.5) неверно.
Симметрично зависимые величины. Рассмотрим
теперь более общую ситуацию. Пусть при каждом п
случайные величины
Sin, Ъп2, .... Un B4.15)
симметрично зависимы в том смысле, что их совместное
распределение инвариантно относительно их
перестановки. Определим Хп, как и прежде, равенством B4.2).
Предположим, что величины удовлетворяют следующим
трем условиям:
kn kn р
max \lni\—>0 B4.16)
ПрИ Al—>OO.
Если случайные величины B4.15) представляют
собой случайную перестановку множества B4.1), то они
симметрично зависимы и из условий B4.3) и B4.4)
следует B4.16). Таким образом, следующий результат
обобщает теорему 24.1:
Теорема 24.2. Если случайные величины B4.15)
симметрично зависимы и удовлетворяют условию B4.16),
10*

292 зависимые величины игл. 4
к
Доказательство. Если ап = /г~! ? \п{ и р* =
К
s=== Z (?ы — а*J> T0 согласно B4.16)
knVn-^O, ря-^1. B4.17)
Случайные величины r\ni— (lm — an)/Pm t = 1, ..., &n,
симметрично зависимы и
=l, max ! ты 1-^0. B4.18)
Определим случайный элемент Yn в D, положив
[VI
Yn(t, ©)= Е 11лг((о).
Поскольку
то, в силу B4.17) и теоремы 4.1, соотношения Xn-^^W0
и Yn—> W° равносильны. Мы докажем, что Yn—*1F\
Пусть 5лЬ ..., ?п*я — случайная перестановка
множества х\пЬ ..., T)nfeft. (Случайная перестановка
случайных величин цт независима от них самих. Чтобы
случайная перестановка была вполне определена,
вероятностное пространство, на котором заданы величины цпи
возможно, должно быть расширено.) Величины ?пг- имеют
то же самое совместное распределение, что и величины
г\т, так как последние симметрично зависимы.
Следовательно, распределение Yn совпадает с распределением
случайной функции
[VI
I
я(
Для доказательства Yn—>H?0 достаточно, таким
образом, установить, что
Р{гпеЛ}->Г(Л) B4 Л 9)
для каждого множества А непрерывности меры W0»

§ 24] СИММЕТРИЧНО ЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ 293
По заданному множеству А непрерывности меры W°
и положительному е выберем 6(е, А) таким образом,
чтобы из B4.13) следовало B4.14) (при этом в B4.14)
Хп есть случайная функция B4.2), определенная
посредством случайной перестановки чисел B4.1),
удовлетворяющих условию B4.3)). Событие
Еп = { max \r\ni\<b(A, е)}
1 ^ i ^ k
согласно B4.18) удовлетворяет условию Р(?п)->1. По
определению условной вероятности
В силу B4.18) на множестве Еп имеем
Следовательно,
\P(Zns=A}-W°(A)\^2e-
Поскольку Р(?п)-*1, отсюда вытекает B4.19) и
теорема доказана.
Комбинируя теорему 24.2 с вычислениями из § 11 (см.
A1.39), A1.40) и A1.42)), получаем предельные распреде-
k I k
лениядлятах 21«ь max 2] \ni и Для доли тех k,
п
1 ^ k ^ feft, которые удовлетворяют условию 2 gni > 0.
Примечание. В связи с теоремой 24.1 и ее обобщениями
на другие выборочные процедуры см. Розен A964, 1967а, 1967с).
Теорема 24.2 новая. Чернов и Тейчер A958) доказали, что в
предположениях этой теоремыХп (t) —> N @, t(I — t)) (t фиксировано);
см. их работу по поводу примеров величин, удовлетворяющих этим
предположениям. Родственные приведенным предельные теоремы
имеют дело с условными вероятностями, вычисленными при
условии Хп(\) =0, где Хп — некоторая случайная функция. См. Дуосс
и Карлин A963) (и ссылки там) и Трюмбо A965), а также Лигетт
A968) и Уичура Г1969).

Добавление I
МЕТРИЧЕСКИЕ ПРОСТРАНСТВА
Мы приведем здесь некоторые сведения о
метрических пространствах, предполагая уже известными их
первичные свойства и относящиеся к ним начальные
определения (открытые и замкнутые множества,
плотность, предельная точка, непрерывность и т. д.) *).
Мы будем обозначать метрическое пространство
буквой S, а саму метрику символом р(х, у). Будем
обозначать замыкание подмножества А пространства S через
А", его внутреннюю часть через Л°, а его границу через
дА (дА == А" — А°). Определим расстояние от х до А
равенством
9(Xi i4) = inf{p(*, у): уе=А}\
легко проверить, что расстояние р(х, А) равномерно
непрерывно по х. Обозначим через S(x, г) открытый шар
с центром х и радиусом е: S(x, е) = {у: p(*, у) < е}. Под
«шаром» мы будем понимать «открытый шар» и будем
называть S (л:, е) е-шаром с центром х.
Две метрики pi и р2 на S называются
эквивалентными, если для любых х и е существует такое б, что
S{ (х, 6) с S2 (х, е) и S2 (х, б) с S{ (х, г) (здесь St (*, е) =
= {у: рг (х, у) <е}), так что пространство 5 с
метрикой pi гомеоморфно пространству S с метрикой рг.
Сепарабельность. Пространство S по определению
сепарабельно, если оно содержит счетное всюду плотное
подмножество. База пространства S есть такой класс
открытых множеств, что всякое открытое подмножество
S является объединением элементов этого класса. От-
*) Более полное изложение см.> например, в книгах Дьедонне
A964), Колмогоров и Фомин A972),

МЕТРИЧЕСКИЕ ПРОСТРАНСТВА 295
крытым покрытием множества А называется класс
открытых множеств, объединение которых содержит Л.
Множество А дискретно, если каждая его точка лежит
в некотором шаре, не содержащем никаких других
точек из А, иными словами, если каждая точка множества
А является изолированной в относительной топологии.
Если пространство S само дискретно, то его исходная
метрика эквивалентна метрике, в которой расстояние
между любыми двумя различными точками равно 1.
Следующие три условия эквивалентны:
(i) S сепарабельно.
(ii) S имеет счетную базу.
(iii) Любое открытое покрытие любого подмножества
S имеет счетное подпокрытие.
Кроме того, из сепарабельности следует, что
(iv) S не содержит несчетного дискретного
множества, а отсюда в свою очередь вытекает, что
(v) S не содержит несчетного множества А такого,
что
inf {р (х, у): х, у е= Л, х Ф у} > 0. A)
Доказательство импликации (i) ->¦ (ii).
Пусть D — счетное всюду плотное множество в S.
Обозначим через Т счетный класс сфер с рациональными
радиусами и с центрами в D. Пусть множество G
открыто; для доказательства того, что Т является базой,
мы должны показать, что если Gi представляет собой
объединение элементов У3, которые содержатся в G, то
G = G\. Очевидно, что G\ a G; чтобы доказать
включение G с: G\, достаточно для данного элемента х из G
найти d в D и рациональное г такие, что x^S(d,r) a G.
Но если х ge G, то S (л:, е) czG для некоторого
положительного е. Поскольку D плотно, то в D найдется
элемент d такой, что р(я, d) <Ye- Выберем теперь
рациональное г так, чтобы р(л:, d) < г < уе.
Доказательство импликации (ii) -> (iii).
Пусть {Vu V2, ...} — счетная база. Предположим, что
{Ga} — открытое покрытие множества А (а пробегает
произвольное множество индексов). Для любого Vh> Для

296 ДОБАВЛЕНИЕ I
которого существует такое Ga, что Vh с: Ga, пусть Gak —¦
одно из таких Ga, содержащих Vk. Тогда А с: [} Gafe.
Доказательство импликации (Hi) -> (i).
При каждом п {S(x, n~]): xeS} является открытым
покрытием S. Если (Hi) выполняется, то существует
счетное подпокрытие {S(xn,&, n~l): &с=1,2, ...}. Счетное
множество {хП)ft: /г, 6=1, 2, ...} является всюду
плотным в S.
Доказательство импликации (ш) ->¦ (iv).
Р.сли А дискретно, то для каждой точки х из А
существует положительное гх такое, что S(x, ex) не содержит
других точек А. Так как {S(xy sx)'. х^А] является
открытым покрытием Л, не обладающим каким бы то ни
было подпокрытием, то (iii) не может выполняться, если
А несчетно.
Поскольку множество, обладающее свойством A),
дискретно, то, разумеется, (iv) влечет (v). Хотя в
дальнейшем нам это и не понадобится, отметим все же, что
из (v) следует сепарабельность, так что все
предположения (i) — (v) являются эквивалентными. (Для
любого положительного е можно, используя лемму Цорна,
указать максимальное множество Ав точек, отдаленных
одна от другой на расстояние не менее чем е;
объединение множеств Ае по всем рациональным е плотно, а если
(v) выполняется, то и счетно.)
Компактность. Множество А в S по определению
компактно, если каждое открытое покрытие А содержит
конечное подпокрытие, е-сетью для А называется
множество точек {Xk} с тем свойством, что для любой точки
л; из Л существует точка Хн такая, что p(xyxk) < e
(точки xk не обязаны принадлежать А). Множество
называется вполне ограниченным, если для любого
положительного 6 оно имеет конечную е-сеть. Множество А
назовем полным, если каждая фундаментальная
последовательность в А сходится к некоторой точке из А.
Для произвольного множества А из S следующие
четыре условия эквивалентны:
(i) Множество А" компактно.
(ii) Любое счетное открытое покрытие множества А
имеет конечное подпокрытие.

МЕТРИЧЕСКИЕ ПРОСТРАНСТВА 297
(Hi) Любая последовательность в А имеет
предельную точку (т. в. содержит подпоследовательность,
сходящуюся к пределу, который необходимо лежит в А).
(iv) А вполне ограничено, а А~ полно.
Легко показать, что (iii) выполняется тогда и только
тогда, когда любая последовательность в А имеет
предельную точку (необходимо принадлежащую А ), и что
А является вполне ограниченным тогда и только тогда,
когда вполне ограничено А". Поэтому мы можем
предположить при доказательстве, что А = /Г, т. е. что
множество А замкнуто. Импликация (i) ->¦ (ii) тривиальна.
Доказательство импликации (ii) —>- (Hi).
Фиксируя последовательность {хп} в Л, определим Fn
как замыкание множества {xk: k ^ п}. Если [)Fn = 09
п
то открытые множества Fcn покрывают А и,
следовательно, если (ii) выполняется, то AczF\\j ... (J Fn Для
некоторого /г, откуда вытекает невозможное соотношение
Fnf]Az=z0. Таким образом, [\Fn содержит некоторую
точку х, которая должна быть предельной точкой
последовательности {хп}.
Доказательство импликации (iii) -> (iv).
Если А не является вполне ограниченным множеством,
то существует некоторое положительное г и некоторая
последовательность {хп} такие, что р(#т, хп) ^ е при
ш Ф п\ {хп} не может иметь предельную точку.
Следовательно, из (iii) вытекает полная ограниченность.
Кроме того, из (iii) следует полнота, так как если
последовательность {хп} фундаментальна и имеет предельную
точку х, то {хп} сходится к х.
Доказательство импликации (iv) -> (i).
Пусть (iv) выполняется. Допустим, что {Ga}, где а
пробегает произвольное множество индексов, является
открытым покрытием Л, не имеющим конечного
подпокрытия. Покажем, что это приводит к противоречию.
Поскольку А вполне ограничено, оно может быть при
любом п покрыто конечным множеством открытых
шаров Впи ..., Bnkn радиуса 2~п. По крайней мере одно
из множеств Bni должно обладать тем свойством, -что
никакое конечное подсемейство семейства {Ga} не
покрывает А П Bni (последнее множество должно быть

298 ДОБАВЛЕНИЕ I
поэтому непустым); пусть Сп — одно из таких множеств
Bni. Поскольку система Bni Г) Сп-\ П А покрывает
Сп-1 П А (при п > 1), мы вправе также считать, что
никакое конечное подсемейство семейства {Ga} не
покрывает Сп П Cn_i П А, так что, в частности, Сп Л Сп-\ Ф 0.
Пусть хп — одна из точек, которые принадлежат
одновременно и Сп, и Л. Поскольку Сп Г) Cn_i Ф 0 и Сп
имеет радиус 2~п, то p(#n, *n-i) < 6-2~n, откуда следует,
что р(хп, xn+k) <6-2~п. Таким образом,
последовательность {хп} фундаментальна и имеет в силу
предположенной полноты предел х, который должен принадлежать Л.
Далее, x^Ga при некотором а и S(x, г) czGa при
некотором положительном г. Но тогда р(х, хп) < е/3 при
некотором /г, удовлетворяющем неравенству 2~п < е/3,
откуда Сп с= Ga, что противоречит сделанному выше
предположению *).
Подмножество ^-мерного евклидова пространства Rh
(с обычной метрикой) имеет компактное замыкание
тогда и только тогда, когда оно ограничено.
Если h — непрерывное отображение S в другое
метрическое пространство S7 и если К— компактное
подмножество S, то hK является компактным подмножеством S'.
Доказательство. Если {С^} является открытым
покрытием hK, то {h"]Ga} является открытым
покрытием К и, следовательно, имеет конечное подпокрытие
{/f^Gajt /=1, ..., ft}. Очевидно, что {Ga?: /=1, ..., п]
покрывает hK*
Полунепрерывность сверху. Функция f называется
полунепрерывной сверху в точке х, если для любого
положительного е существует положительное б такое, что
из р(#, у) <б вытекает f(y) <f(x) + e. Легко видеть,
что f всюду полунепрерывна сверху тогда и только тогда,
когда для каждого действительного а множество
{х: f(x) < а} является открытым.
Пусть fn — действительные функции на S такие, что
с каждой точке х последовательность fn (x) является He-
возрастающей и
НтМ*) = 0. B)
*) Доказательство заимствовано из книги Дьедонне A964).

МЕТРИЧЕСКИЕ ПРОСТРАНСТВА 299
Если функции fn полунепрерывны сверху, то сходимость
в B) равномерна на каждом компактном множестве.
Доказательство. При любом положительном е
открытые множества Gn = {x: fn (х) < е} покрывают S.
Если К — компакт, то K<^Gn для некоторого п, и
равномерность доказана.
Пространство /?°°. Под R°° мы понимаем пространство
последовательностей х = (х\,х2, ...) действительных
чисел. Функция р0 (а, р) = | а — р | / A + | а — р |)
представляет собой метрику на прямой 7?1, эквивалентную
обычной метрике |а—р|. Действительная прямая является
полным пространством относительно метрики ро. Функция
оо
р(*> у)= И Ро(*ь Ук)%~к представляет собой метрику
й I
на R°°. Множества
Nk^(x) = {y\ |^-а:,|<8, i=l, ..., k) C)
открыты относительно метрики р. Более того, поскольку
из р (#,*/) < е*2"-*/A + е) вытекает jeJVft,e(^), откуда
в свою очередь вытекает р (х, у) < е + 2~А, то
множества C) образуют базу топологии, порождаемой
метрикой р.
Мы будем всегда рассматривать пространство Я00
с этой топологией, которая называется топологией
произведения или топологией покоординатной сходимости:
Нтпл:(п) =х тогда и только тогда, когда limnXk(n) =
= Xh для каждого k. Пространство R°° сепарабельно;
в качестве счетного всюду плотного множества в нем
можно взять совокупность точек, все координаты
которых рациональны и лишь в конечном числе отличны от 0.
Предположим, что {х(п)} — фундаментальная
последовательность в R°°. Из соотношения
Ро (*а (m), xk (п)) < 2*р (х (m), x (п))
легко вытекает, что при каждом k последовательность
{xk(l),XkB)9 ...} фундаментальна на прямой R1 с
обычной метрикой, так что существует предел Хи = limnXh(n).
Исходная последовательность х(п) сходится при этом
к х =э (хи Х2, ...) в смысле R°°. Таким образом,
пространство R°° полно.
Подмножество А пространства R°° обладает
компактным замыканием тогда и только тогда, когда множество

800 ДОБАВЛЕНИЕ I
{хи\ x^A) при каждом k является ограниченным
множеством на прямой.
Доказательство. Легко показать, что указанное
условие необходимо для компактности. Достаточность
этого условия мы можем доказать, используя
классический диагональный метод. Исходя из заданной
последовательности {х(/г)} в Л, мы можем построить
последовательность подпоследовательностей
, х{п22), х(п23), ... ,^
следующим образом. Первая строка в D) представляет
собой подпоследовательность {х(/г)} такую, что
существует Х\ = \\т\Х\{п\\)\ такая подпоследовательность
найдется в силу того, что {х\.х^А} является
ограниченным множеством действительных чисел. Вторая строка
в D) представляет собой подпоследовательность первой
строки, выбранную так, что существует х2 = \imiX2(n2i);
такая подпоследовательность найдется в силу того, что
множество {х2: х^А} ограничено.
Дальнейшие подпоследовательности строятся
аналогично; k-я строка является подпоследовательностью
(k—1)-й строки и предел хь, = 1ш1{Х*(пд<) существует.
Пусть х — точка пространства R°° с координатами xh.
Если Пг = пц, то {х{Пг)} есть подпоследовательность
последовательности {х(п)}. При каждом k, кроме того, все
x(nk), x(nk+\), ... находятся в k-й строке D), так что
limiXk(ni) z=z Xk. Таким образом, \\Ш{Х(п{) = х, и
отсюда вытекает, что А" — компакт.
Наш последний результат относительно R°° является
частным случаем теоремы вложения Урысона.
Любое сепарабельное метрическое пространство S го-
меоморфно некоторому подмножеству R°°.
Доказательство. Пусть {du d2y ...} —
последовательность точек, плотная в S. Определим отображение
h из S в R°°y положив
h(х) = (р(х, di), р (*, d2), ...), xezS,

МЕТРИЧЕСКИЕ ПРОСТРАНСТВА 301
где р — метрика на S. Если точки хп пространства 5
сходятся к пределу х, то limnp(xn9 dh) = р(х, dh) при
каждом &, так что, поскольку топология пространства Я00
есть топология покоординатной сходимости, h(xn)
сходится к ft (x). Таким образом, отображение ft непрерывно.
Допустим, что хп не сходится к х. Тогда для
некоторого положительного е и для любого элемента некоторой
подпоследовательности {хП'} р(хП', х) > е. Если р(л:, dk)<
< у е, что должно быть справедливым для
некоторого элемента плотной последовательности {d/J, тогда
р{хп'у dk)>-2& для всех пг\ таким образом, p{xn>dk) не
может сходиться к р(#, dk) при этом значении k и,
следовательно, h(xn) не может сходиться к h(x).
Таким образом, из h(xn) -+h(x) следует хп-+х.
Точно такое же рассуждение приводит к выводу, что из
h(x) =h(y) вытекает х = у (нужно положить хп = у).
Таким образом, ft является взаимно однозначным, бине-
прерывным отображением S на подмножество hS
пространства R°°.
Пространство С. Определим С = С[0,1] как
пространство непрерывных действительных функций на
единичном интервале с равномерной метрикой. Расстояние
между двумя элементами x = x(i) и у = y(t)
пространства С равно
легко проверить, что р — метрика. Сходимость в
соответствующей топологии есть равномерная поточечная
сходимость (непрерывных) функций.
Пространство С сепарабельно; одним из счетных
всюду плотных множеств является множество всех
многоугольных функций, которые при некотором целом k
линейны на каждом подинтервале [(i—l)/k, i/k], i =
= 1, ..., k, и принимают рациональные значения в
точках i/k, i = 0, 1, ...щ k.
Если {хп} — фундаментальная последовательность в
Су то при каждом значении / последовательность {xn(t)}
фундаментальна на прямой и, следовательно, имеет
предел x(t). Легко показать, что сходимость xn(t)-**x(t)
равномерна по t, так что х принадлежит С и является

302 ДОБАВЛЕНИЕ I
пределом последовательности {хп}. Таким образом, С
полно.
Мы определим модуль непрерывности wx(8) элемента
х пространства С, положив
¦ wx(b) = w(x96)= sup \x(s)-x(t)\, 0<6<l. E)
Так как
\х0х(Ь)~и>уF)\^29(х,у), F)
то модуль wxF) при фиксированном положительном
значении б непрерывен по х. Отметим также, что, поскольку
любой элемент пространства С равномерно непрерывен,
то мы имеем
HmtMd) = 0, *eC- G)
б-»оо
Теорема Арцела — Асколи. Подмножество А
пространства С имеет компактное замыкание тогда и
только тогда, когда
sup|x@)|<oo (8)
U
lim sup wx F) = 0. (9)
6*0 А
Доказательство. Если А~ — компакт, то,
очевидно, мы имеем (8). Поскольку модуль wx(l/n)
непрерывен по л: и не возрастает по я, то сходимость G)
равномерна на множестве Л, если А" — компакт (см.
стр. 298), откуда следует (9).
Предположим теперь, что (8) и (9) выполняются.
Выберем k столь большим, чтобы величина sup wx (l/k)
Л
была конечна. Поскольку
то отсюда следует, что
supsup|x(/)l<oo. A0)
t xezA
Мы выведем из (9) и A0), что множество А вполне
ограничено; отсюда будет вытекать, что замыкание А

МЕТРИЧЕСКИЕ ПРОСТРАНСТВА 303
компактно, так как пространство S полно. По заданному
произвольному е мы должны построить конечную е-сеть
для А. Пусть а обозначает конечную величину в
формуле AQ), и пусть Н обозначает конечное множество
точек
¦?¦<*, и = 0, ± 1, ..., ±v,
где v — целое число такое, что a/v < e (Я представляет
собой е-сеть для линейного интервала [—а, а]). Выберем
теперь k столь большим, чтобы wx(l/k) <s для всех х
в Л, и образуем множество В из таких элементов
пространства С, которые линейны на каждом подинтервале
[(i—1)/&, i/k], t=l, ..., k, и принимают значения из
Н в точках ilk, i = 0, 1, ..., k. Множество В конечно
(оно содержит Bv + l)ft+1 точек); мы покажем, что оно
является 2е-сетью для А.
Если л;еД то \x(i/k)\<^.a. Поэтому существует
точка у в В такая, что
\x(i/k)-y(i/k)\<*> / = 0,1, ...,*. (И)
Так как wx(l/k) < e и так как функция у линейна на
каждом подинтервале [(i—l)/&, i/k], то из A1) следует,
что р(#, у) <С 2е. Это доказывает теорему.
Мы видели, что (8) и A0) эквивалентны при
условии, что справедливо (9). Если (9) выполняется, то А
называется равномерно равностепенно непрерывным
множеством. Таким ^бразом, теорема Арцела — Асколи
утверждает, что А является компактом тогда и только
тогда, когда А равномерно ограничено и равномерно
равностепенно непрерывно.

Добавление II
РАЗНОЕ
Измеримость. Пусть (Q, Я) и (Q', ЗУ) — измеримые
пространства; $\д&'\ является ст-полем подмножеств Q[Q'].
Отображение A: Q->Q' из Q в Qr называется
измеримым ($, $')> если прообраз h~lM' каждого М' из <%'
принадлежит д&. Если К~Х9& обозначает класс множеств
{ИГХМ'\ М'^$'}у то это условие измеримости может
быть кратко выражено как h~~x$' cz $. Так как класс
\М : АМ' ^$} является сг-полем, то если $ъ содержится
в Ж и порождает его, тогда из A^a $ следует h~l$'cz$.
Пусть (Q/7, Jf/7) — третье измеримое пространство,
пусть /: п'->п" отображает Q' в Q/r; обозначим через jh
композицию отображений h и /: (/А) (ю) = / (А (©)). Легко
показать, что если h~W a$u j~W cz #', то (jti)~]$" a 38.
Если Q=5 и Q'= 57 — метрические пространства,
то отображение h называется непрерывным в том
случае, когда для любого открытого множества G' из S'
множество hrxGr открыто в 5. Обозначим через У и У
а-поля борелевских множеств в 5 и S'. Если А
непрерывно, то поскольку h^lG/cn9p для G' открытого в S' и
поскольку открытые множества в S' порождают &\ то
hrWciy, так что отображение h измеримо.
Если Q' — ^-мерное евклидово пространство Rh> то
мы всегда берем в качестве 98' класс 9lh 6-мерных
борелевских множеств (сг-поле, порожденное открытыми
подмножествами Rh с евклидовой метрикой), и мы говорим,
ьто А ^-измеримо, если hTx$/t cz &\ h ^-измеримо, если
h~l{a^Rk: at < а}б! для любого /=1 ,...,* и
любого действительного а. В частности, если Q = 5 —

РАЗНОЕ 305
метрическое пространство, k = 1 и h полунепрерывна
сверху (см. стр. 298), то h ^-измерима.
Замена переменной. Если Р — вероятностная мера
на (Q, $) и если ЬГХ$1 си ^, то РЬГХ будет обозначать
вероятностную меру на (Q', $')> определяемую
соотношением {PhTx){M') = P{h~xM') для М'<=38'. Если f,
действительная функция на Q', ^-измерима, то
действительная функция fh на й будет ^-измеримой.
При выполнении этих условий*) функция f
интегрируема относительно меры Ph~x тогда и только тогда,
когда функция fh интегрируема относительно меры Р, и
в случае интегрируемости имеет место равенство
J / (h (со)) Р (dco) = J / (©0 Р/Г1 (d©0 A)
йля любого множества Мг из $\
Если X переводит Q в метрическое пространство S и
Х-19*с38, так что X является случайным элементом 5
(см. § 4), мы обычно вместо \ f (X (со)) Р (dco) пишем
E{f(X)}. Если Р = РХ есть распределение X в S, то из
A) следует, что
$. B)
«Хвосты» распределений. Пусть X — случайная
величина на вероятностном пространстве (Q, к, Р). Если X
неотрицательна и интегрируема и если а ^ 0, то
P{X>t}dt. C)
Мы докажем этот факт, если установим равенство
=\Р {X>t}dt, D)
0
так как X в нем можно заменить произведением X и
индикатора множества {X ^ а}. Если X имеет конечную
*) Доказательство см., например, у Халмоша A953, стр. 161),

306
ДОБАВЛЕНИЕ II
область значений, то D) получается посредством
суммирования по частям. Общий результат является
следствием того факта, что любая неотрицательная
случайная величина X может быть представлена как предел
неубывающей последовательности случайных величин с
конечными областями значений. (Равенство остается
справедливым и при его расширенном толковании: если
одна часть D) бесконечна, то бесконечна и другая
часть.)
При тех же предположениях, что X неотрицательна
и интегрируема и что а > 0, мы имеем
E)
Теорема Шеффе. Пусть К — мера (не обязательно
конечная) на пространстве (Q, 38), и пусть /?(о>) и
Рп(со)—плотности распределений вероятностей
относительно Я; р и рп суть неотрицательные функции на Q,
^-измеримые и такие, что \ pdX = \ pndX = 1.
Теорема Шеффе*). Если рп(<й)->р(ы) всюду,
кроме о из некоторого множества Х-меры 0, то
sup
\pn
dX
F)
Доказательство. Положив Ьп<=р — рп, имеем
\6ndX = 0. Следовательно, для любого множества Е
из
если же Е = {бп ^ 0}, то последнее неравенство
становится равенством. Отсюда следует равенство в F).
Далее, если bt — положительная часть 6^, то 6^->-0
всюду, за исключением множества Я-меры 0.
Поскольку О^бп^ру то из теоремы Лебега о сходимости
•) Шеффе A947).

РАЗНОЕ 307
мажорируемой последовательности следует
Частный случай: если ?рп(i) = Z р (/) = 1, причем
слагаемые неотрицательны, и если lim рп (/) = р (/) при
п
каждом /, то ? | p(i) — pn(i) | -> 0. Отсюда, если числа a(i)
ограничены, то TJa{i)pn{i)->Yia(i)p{i).
i i
Подпространства. Рассмотрим метрическое
пространство 5, и пусть 9* — а-поле его борелевских подмножеств.
Подмножество So (не обязательно принадлежащее 9*)
само является метрическим пространством в
относительной топологий. Пусть !?о — а-поле борелевских множеств
в So. Мы докажем, что
^о = {5оЛЛ: Ле=<?}. G)
Если h(x) =х для x^SOl to h является непрерывным
отображением из 50 в 5 и, следовательно, hr1^ си ^0, так
что So П А е ^о, если А <= 9>. Поскольку {So ПАЛе^}
есть а-поле в So, которое содержит все множества вида
So П G, где G — открытое множество из S (т. е.
содержит все открытые множества из So), то мы получаем G).
Если множество So принадлежит ^, то G)
превращается в
9>0 = {А: Л с: So, Ле=^}. (8)
Произведение пространств. Рассмотрим метрические
пространства S' и S" с метриками р' и р" и а-полями &'
и 9" борелевских множеств. Прямоугольники
А'ХА", (9)
где Л' — открытое множество из S' и А" — открытое
множество из S", образуют базу топологии произведения в
S z=zS'Y^ S". Эта топология может быть также описана
как топология, в которой сходимость (х'п, л?) -> (х', х")
имеет место тогда и только тогда, когда х'п->х' и
х"п-*х?. Наконец, эта топология порождается различными

308 ДОБАВЛЕНИЕ II
метриками, как, например,
Р((*', *"), (/, У")) = л/[9'{х',У')]2+\9"{х">у")]2 (Ю)
и
р ((*', х'% (/, */")) = max {р7 (х'у /), р" (х"у у-)}. A1)
Пусть 9>' X 9>" — а-поле, порожденное измеримыми
прямоугольниками (множествами (9) с^б^и Л"е
е:^"), и пусть 9* — а-поле борелевских множеств в S
относительно топологии произведения. Мы покажем
сначала, что
9?'Х ?" <=:&>. A2)
Положим я'(л/, х") =х' и я" (л/, я") = я". Оба
отображения я7: S->S' и я": 5-^S7/ непрерывны и,
следовательно, измеримы ({л')-]9" cz9> и (я'7)^^^).
Отсюда следует, что если А' е У и Л" е ^/7, то Л7 X ^" =
= п'-1А' П я^^^ принадлежит 5. Так как 9* содержит
все измеримые прямоугольники, то мы получаем
включение A2).
Далее, пространство S сепарабельно тогда и только
тогда, когда пространства S' и S" оба сепарабельны.
Покажем, что если 5 сепарабельно, то
д>'у,д>" = 9. A3)
Ввиду A2) достаточно показать, что если G открыто
в S, то Ge^'X^"- Но G можно представить в виде
объединения прямоугольников (9) с открытым i47c:S/
и открытым A"aS" (так что Л'Х^ев^Х^")* и
если S сепарабельно, то G является счетным таким
объединением. Это доказывает A3) *).
Допустим, что X' и X" — случайные элементы Sr и
S", соответственно, и имеют общую область
определения (Q, 9Ь). Тогда (Х7(со), Xh'(со)) определяет
отображение (Х'у Х/;) из Q в S = S7 X S", и очевидно, что
(X7,Х")-1^7 X 9>")а$1. Если пространство 5 сепара-
*) Без предположения о сепарабельности равенство A3) может
не выполняться: если 5' = S" — дискретное пространство, мощность
которого превышает мощность континуума, то диагональ
{(*,у): х = у) принадлежит &, но не принадлежит &"Х&" (см-
задачу 2 на стр. 253 книги Халмоша A953)).

РАЗНОЕ 309
бельно, то в силу A3) {Х\ Xй) представляет собой
случайный элемент S.
Если S' = S", то р'(х',у') определяет непрерывное
отображение из S'XS' в /?*; если S' сепарабельно, то
композиция р(Х', X") измерима и, следовательно,
является случайной величиной*).
Измеримость Dh. Пусть h отображает метрическое
пространство S в другое метрическое пространство S',
и пусть Dh — множество точек разрыва. Обозначим
метрики в S и S' через р и р', соответственно. Обозначим
через Ле, § множество точек х в S, для которых
существуют точки у и z в 5, удовлетворяющие неравенствам
р(*> У) < 6, р(#, г) < б и р'(/п/, hz) ^ е. Множество Ле, б
открыто. Так как
8 б
где е и б принимают лишь положительные рациональные
значения, то Dh является борелевским множеством в S.
Этот факт верен, даже если h неизмеримо (например,
если h является индикатором множества Л, то Dh = дА
замкнуто независимо от того, каково А).
Рассмотрим теперь множество ?, фигурирующее в
теореме 5.5. Мы будем предполагать, что отображение h
измеримо и что S' сепарабельно, и докажем, что EczP.
Если Ве, 6, г — множество таких х, что p'(hxfhy)^E
для* некоторой точки у, удовлетворяющей неравенству
Р (*, У) < б, то
е б
где е и б пробегают положительные рациональные
значения. Достаточно, таким образом, найти множества
CBt6)h которые принадлежат У и удовлетворяют
условию
Ве, б, i CZ Се, б, i CZ В \ ,
2" 8' '
Если последовательность wm плотна вУ и если #8|/п =
bi} то //e,me=S? и 5 = (J"8,m.
*) Противоречащий-пример в предыдущей сноске показывает,
что это может быть неверно, если S' не является сепарабельным.

310 ДОБАВЛЕНИЕ II
Требованиям, наложенным на CBt6iii удовлетворяют
множества
^е,б, i == U V^e. ml Ue, б, i> m)>
т
где /8,б,г,т обозначает множество таких х, что р' (hy, hz)^%
для некоторой пары точек у и г, удовлетворяющих
условиям р(лг, г/)<6, р(*, г)<6 и ге= #e,m (/e.e.*.m —
открытое множество). Отсюда вытекает, что ?е^*).
Доказательство теоремы 5.5 остается в силе даже в том
случае, когда Е не принадлежит ^, но имеет
внешнюю Р-меру 0.
Теорема Хелли. Функцией распределения называется
функция F(x) =F(xu ..., Xk), заданная на i?ft, со
следующими тремя свойствами (мы используем
терминологию и обозначения § 3):
(i) F всюду непрерывна справа;
(ii) 0 <с; F(x) ^ 1 для всех х, F не убывает по
каждой переменной и для любого ^-мерного прямоугольника
(а, Ь]
Z ± F (fli + Мь ..., ak + dkdk) > 0, A4)
где di = bi — аи суммирование производится по всем 2h
последовательностям (вь ..., 0^) из нулей и единиц и
знак + или — ставится в зависимости от того, является
ли число нулей в последовательности четным или
нечетным;
(Hi) F(x)-+0, если какая-нибудь из координат х
стремится к —оо, и F(*)-M, если все координаты х
стремятся к оо.
Если Р — вероятностная мера на (Rh,&h) и
F{x) = P{y: */<*}, x^R\ A5)
то F является функцией распределения. С другой
стороны, если F — функция распределения, то существует
ровно одна вероятностная мера Р, удовлетворяющая
соотношению A5) (это известный факт в теории функций
действительной переменной). Если F обладает
вышеуказанными свойствами (i) и (ii) (но, возможно, не обла-
*) Это доказательство принадлежит Ф. Топсё.

РАЗНОЕ 311
дает свойством (iii)), то существует конечная мера |ш
на (Rh, &h) такая, что
F(x) = \i{y: y<x}, xt=Rk; A6)
при этом мера ц удовлетворяет условию [x(Rh) ^ 1, но
не обязана быть вероятностной мерой.
Теорема Хелли о выборе. Если {Fn} —
последовательность функций распределения на Rh, то существуют
подпоследовательность {Fnr} и функция F,
удовлетворяющая вышеуказанным свойствам (i) и (и) (но, возможно,
не удовлетворяющая свойству (iii)) такие, что
lim Fn>(x) = F(x) A7)
п'
для всех точек х непрерывности функции F.
Доказательство. Обозначим через Ro
множество рациональных точек в Rh (т. е. множество точек,
координаты которых рациональны), и пусть /?о={гA),
гB), ...}. Для каждой функции Fn из заданной
последовательности функций распределения
последовательность
(Fn(r(l)), Fn(rB)), ...) A8)
представляет собой точку пространства R°°. Так как
О ^ Fn(x) ^1, то из критерия компактности для R°°
(см. стр. 299) следует, что некоторая
подпоследовательность точек A8) сходится в смысле R°° к некоторой
точке (zuz2, ...) пространства R°°. Определим функцию/^
на Ro равенством F0(r(k)) =zk. Мы видим, стало быть,
что существуют функция Fo на Ro и
подпоследовательность {Fnr} последовательности {Fn} такие, что
limn>Fn>(r) = F0(r), rs/?0*. A9)
Так как каждая функция Fn является функцией
распределения, то из A9) следует, что Fo удовлетворяет
условию (и) на Rq\ O^FoW^l, ^o — не возрастает.
когда каждая координата пробегает рациональные
значения, и если а и Ь принадлежат /?*, то A4)
выполняется. Если мы определим F на Rk равенством
F{x) = M{FQ{r): x<r, г<=

312 ДОБАВЛЕНИЕ II
то F обладает свойствами (i) и (и) (но не обязательно
свойством (iii)).
Если F непрерывна в точке х, то, задаваясь
произвольным е > 0, мы можем найти в /?о такие точки г'
и г", что /" < х < г" и
F (х) - е < F0(r')^F0(r") <F(x) + e.
При каждом п'
Из этих соотношений и A9) следует, что
F (х) — е <! lim infя/ Fn' {x) ^ lim sup,^ Fnf (x) < F {x) + е.
Так как е здесь произвольно, то A7), следовательно,
выполняется. Это доказывает теорему Хелли.
Теорема Колмогорова. Мы докажем теорему
Колмогорова (или Даниеля —Колмогорова) о существовании
меры. Определим проекцию пъ. из R°° в Rk равенством
Пк(х) = (#ь ..., Хи), как описано в § 3. Определим
также при к > 1 проекцию ф* из Rh в Rk~l равенством
Ы ..., а:а) = (дгь ..., xh-\). Поскольку отображения
и \|?ft непрерывны, они измеримы (я^^сгЯ* и
)
Пусть Р — вероятностная мера на (/?°°, 5200),
определим вероятностные меры [i,k на (Rh,3Pl), полагая
ц, = Ряй-'. B0)
Так как
я*-1 = 1Мь *>1, . B1)
то меры \ik удовлетворяют соотношению
1» *>!• B2)
Задача заключается в том, чтобы пройти обратным
путем и построить по заданным мерам |Шй,
удовлетворяющим условиям согласованности B2), меру Я,
удовлетворяющую условию B0).
Теорема Колмогорова о существовании
меры. Если вероятностные меры \ik на (Rh,52ft), k ^ 1,
удовлетворяют условию B2), то на (R°°y 5?00) существует
единственная вероятностная мера Р, удовлетворяющая
условию B0).

РАЗНОЕ 313
Доказательство. Определим при k > i ^ 1
непрерывное отображение tyh,i из Rk в R* равенством
Ф*,<(*ь • •-, xh) = (xu ..., х{). Заметим, что $h,h-\ =
= tyk и что
я< = *а./ял. B3)
Отсюда и из B2) следует, что
^ '>!• B4)
Пусть #~—совокупность конечномерных множеств,
определенных так же, как в § 3; класс ЗГ состоит из
множеств вида
А = пТ1Н, Н^Ж\ B5)
и является полем, порождающим а-поле 9t°. Множество
вида B5) можно также представить в форме
А = п^Н\ Н'^№, B6)
при k > /; чтобы в этом убедиться, достаточно положить
Н' = ^k,\H и использовать B3).
Допустим теперь, что множество А задано как
соотношением B5), так и соотношением B6), где i < k.
ТоГда а = (аь ..., а&) лежит в #' в том и только том
случае, когда (аь ..., а*, 0, 0, ...) лежит в я~1Н'=
=яг1 Я, что в свою очередь справедливо в том и только
том случае, когда (аь ..., а*) лежит в Я. Таким
образом, Н' = tyfrjH и из B4) вытекает, что
[х/Я = |х,Я/. B7)
Поскольку B5) и B6) вместе приводят к B7), мы
можем согласованно определить на ST функцию Р,
полагая Р(А)= м-г(Я), если А задано равенством B5).
Очевидно, Р@) = О, P(R°°) = 1 и 0 < Р(А) <g 1.
Предположим, что А задано соотношением B5), а
В—соотношением
причем k ^ i. Множество А можно представить также
в виде B6), и если А Г) В = 0, то тогда Я' Л / = 0, так
что

314 ДОБАВЛЕНИЕ II
Таким образом, Р является конечно аддитивной
вероятностной мерой на ST.
Докажем, что Р вполне аддитивна на 2F. Для этого
мы покажем, что если Ah е вГ,
A1zdA2^d ... B8)
и [~]л* = 0, то НтР(Л/) = 0. Поскольку Аь принадле-
i i
жит #~, оно имеет вид
Ai = nn\Hh Hi^^i. B9)
Так как множество вида B5) может быть представлено
в виде B6) при любом k, превышающем i, то мы не
ограничим общность, предположив, что
пх < п2 < пъ < ... C0)
Мы покажем, что если множества B9) удовлетворяют
соотношениям B8) и C0) и если существует
положительное е такое, что
Р(Ад>в9 /=1,2, ..., C1)
то ГМ/^О.
Из C1) и B9) в силу определения Р получаем, что
\in. {Hi)>e. По теоремам 1.1 и 1.4 в Rni существует
компактное подмножество Kt множества Ht такое, что
|1ЙДЯ, - *,) < Ч/2Ж. Если Bt=n;ltKl9 то В. е 0~9
BtczAi и
Отсюда и из B8) следует, что Ci = В\[) ... П Bi
есть подмножество Аи удовлетворяющее соотношению
i
Р (At — Ct) < Z P (Af — Bj) < e/2. В силу C1) поэтому
P(d)> е/2, так что Ci непусто.
Мы построили непустые множества Ct с: n~}Kt, где
Ki — компакт и
CxzdC2zd ... C2)

РАЗНОЕ 315
Поскольку С\ d Аи то если мы найдем точку, общую для
всех Си то получим fj^/^O- Пусть
x(j)—произвольный элемент Cj. Если / ^ f, то в силу C2) x(j) e С* и,
следовательно, nn.x(j)& Ki- Так как Ki — компакт, то
мы имеем sup | xt (/) | < оо и, следовательно, sup j\Xi(j) | <
< оо. Поэтому при каждом i последовательность \Xi(l)y
лгB), ...} представляет собой ограниченную
последовательность действительных чисел. Следовательно (см.
стр. 299), некоторая подпоследовательность {*(/')}
последовательности {#(/)} сходится в смысле R°° к
некоторому пределу x^R°°. Так как jc(f)eC// и каждое
множество Ci замкнуто, то из C2) следует, что х
принадлежит [)Ci.
i
Мы показали, что Р — вполне аддитивная
вероятностная мера на конечно аддитивном поле 2Г. Так как ЗГ
порождает 52°°, то Р может быть продолжена *) до
вероятностной меры на R°°. Очевидно, Р удовлетворяет
условию B0). Поскольку У является определяющим
классом, то может существовать лишь одна мера Р,
удовлетворяющая условию B0), что доказывает теорему
Колмогорова.
Нетрудно доказать и более общий вариант этой
теоремы. Пусть RT — пространство всех действительных
функций x=x(t), заданных на произвольном множестве Т9
которое мы Можем также считать бесконечным. (Если Т
состоит из целых чисел, то RT = R°°.) Для конечного
упорядоченного множества o = (su ..., SkG) различных
элементов Т определим отображение па: RT->Rk°
равенством %(*) = (#($!), ..., *(sfca)); пусть Жт — а-поле,
порожденное множествами Яо1Н9 где Н е Mk(J (для всех a
и Я). Пара (/?г, Мт) является измеримым пространством.
Никакая топология не участвует в этой конструкции
(и вообще здесь нет необходимости в топологии).
Совокупность вероятностных мер |л0 на (/?*Ч Mk°)
(одна мера для каждого а) называется согласованной,
если \ia^ = ii(S^~'1 всякий раз, когда о2 = (з^, ..., s(j)
*) Халмош A953, гл. 3).

316 ДОБАВЛЕНИЕ II
есть перестановка / элементов множества о{ = {siy ..., $k)
(здесь j^k) и отображение i|): /?fe->/?' определяется
равенством ty(xu ¦ .., Xk) = (xtl9 ..., xtj).
Если меры \ха являются согласованными, то
существует единственная вероятностная мера Р на (RT, 9P)
такая, что Pn~l = \ia для всех ст.
Чтобы доказать это, определим для
последовательности т= (tu h, • ••) элементов Т отображение пх: RT-+
-+-R00 равенством пх(х) = (x(tx), x(t2), ...)• Из теоремы
существования, доказанной для пространства /?°°,
следует, что на (/?°°, Ж°°) существует вероятностная мера
Р Р1 б k
Рх такая, что Рх^1 === V-t ... t для ЛК)бого k.
1 к
Класс множеств п~1Н, где Я ей00 (для всех т и Я),
в точности совпадает с классом д?т (а не только
порождает его), и отсюда легко выводится, что равенство
Р (л^Я) = Рх (Я) согласованно определяет желаемую
меру Р.
Измеримость некоторых отображений. Пусть Т
обозначает единичный интервал [0, 1], и пусть W — класс
линейных борелевских подмножеств Т. При каждом t
проекция 7tt из С в R1 измерима относительно <&. Поскольку
отображение
(xtt)-+x(t) C3)
из С X Т в R1 непрерывно в топологии произведения и
поскольку & X &~ есть а-поле борелевских множеств в
этой топологии (см. стр. 308), то C3) измеримо
относительно ^ X #"•
Пусть хеС. Определим h(x) как .меру Лебега
множества тех / из Г, для которых x(t) > 0. Мы хотим
доказать, что функция h измерима относительно ^, и мы
получим это из более общего результата. Определим
действительную функцию v действительной переменной,
полагая
1, если а>0,
0, если а<0. 1
Тогда
1
(86)

РАЗНОЕ 317
Очевидно, что функция v\ (i) измерима по Борелю,
(и) ограничена и (ш) непрерывна всюду, за исключением
некоторого множества лебеговой меры 0. Используя эти
три свойства функции v, мы покажем, что функция А,
определенная в C5), ^-измерима и непрерывна всюду,
за исключением некоторого множества винеровской
меры 0.
Поскольку для каждого элемента х из С функция
v(x(t)) является ограниченной измеримой функцией
аргумента t, интеграл в C5) имеет смысл. Так как
отображение C3) измеримо относительно ^Х^"" и так как
функция v измерима, то отображение -ф: С X T-+R1,
заданное равенством гр(л:, /) = v(x(t))> также измеримо.
Поскольку отображение -ф ограничено, то функция
А(#) = \ of)(a:, t)dtизмерима под:*). Таким образом, функ-
о
ция А измерима относительно *&.
Если Dv — множество разрывов v, то в силу (ш)
X(DV) =0, где % обозначает лебегову меру на прямой.
Пусть Е — множество пар (xft) таких, что x(t)&Dv.
Для каждого положительного t
Отсюда и из теоремы Фубини применительно к мере
W X ^ на V X 3" вытекает, что %{t: (x, t) <= Е) = 0 при
хфА, где А — множество из ^ такое, что W(A) =0.
Далее, если хп сходится к х поточечно, то v(xn(t))->
->v(x(t)) при каждом / таком, что x(t)^Dv. Если
хф/А, то это справедливо для почти всех t, и
следовательно, по теореме о сходимости мажорируемой
последовательности
X 1
\v{xn{t))dt-+\v{x{t))dt.
Тем самым доказано, что А непрерывна всюду, за
исключением точек, образующих множество W-меры О.
*) См. Халмош A953, гл. 7).

318 ДОБАВЛЕНИЕ И
Рассуждение остается справедливым и тогда, когда
W заменяется произвольной мерой Р с тем свойством,
что Pnf1 абсолютно непрерывна относительно меры
Лебега для почти всех /. Например, это верно для W0.
За исключением доказательства измеримости
отображения C3), это рассуждение слово в слово сохраняется
в том случае, когда вместо пространства С мы
рассматриваем D. Измеримость отображения C3) можно при
этом доказать, соответствующим образом видоизменяя
доказательство измеримости отображения я* в § 14.
Остается рассмотреть еще одну функцию,
определенную на С, а именно супремум h(x) тех t из [0, 1], для
которых х (t) = 0. Поскольку множество {х: h(x) <C а}
открыто, то функция h измерима. Если h разрывна в точке
х, то x(t) должна оставаться по одну сторону от 0 при
/е (h(x)y 1) и должна оставаться по ту же самую
сторону от 0 в интервале (h(x)—8, h(x)) при некотором
е. Непрерывность всюду, кроме множества винеровской
меры 0, будет поэтому доказана, если мы покажем, что
при любом t0 верхняя и нижняя грань W на [/о, 1] имеют
непрерывные распределения. Так как случайная функция
Wt — Wtt, /e[fo, 1], распределена как винеровская
траектория с линейно преобразованной шкалой времени,
то — Wt0 + sup Wt имеет непрерывное распределение
t^tQ
(см. A0.17)). Последняя случайная величина и Wt0
независимы, и следовательно, их сумма также имеет
непрерывное распределение. Нижняя грань рассматривается
тем же способом.
Еще об измеримости. В § 17 мы определили
отображение г|?: D X D0->D, положив г|э(х, ср) = х оф (см. A7.5)
и A7.6)). Нам нужно доказать, что оно -ф-измеримо
(•ф-^сг^Х^о)- Так как конечномерные множества
в D порождают 2), то достаточно доказать, что при
каждом t отображение
(*, Ф)->М*°Ф) = *(Ф@) C6)
измеримо относительно iZ)X^V Если ф*(*) есть
наименьшее отношение i/k, которое больше или равно ф@>
то фь@|ф@ ДЛЯ каждого /. Следовательно,
отображение
{х9 ф)->*Ы0) C7)

РАЗНОЕ 319
сходится поточечно к C6), и достаточно, стало быть,
доказать, что это последнее отображение измеримо
относительно 3>Х&о- Множество {(*, ср): *(фь@)<а)
является объединением множества
{(*, Ф): Ф @ = 0} П {(*, Ф): х @) < а} C8)
с множествами
, Ф): -^
Если ЯеЖ1, то {ф е Do: ф(/)еЯ) является
пересечением Do и подмножества njlH пространства D, и,
следовательно, принадлежит 2H. Поэтому {(х, ф): ф(/) е
е Я} еS> XS5o. Аналогично, {(а:, ф): ^(/)еЯ}е®Х
Х^о. Таким образом, все множества C8) и C9)
принадлежат 2)Х&о, что и доказывает измеримость C7).

Добавление III
ТЕОРЕТИЧЕСКИЕ ДОПОЛНЕНИЯ
Это Добавление, использующее в своей большей
части понятия общей (неметрической) топологии,
посвящено вопросам, которые естественным образом
возникают в связи с теорией слабой сходимости, но не имеют
отношения к ее приложениям.
Проблема меры. Существует ли определенная на
классе всех подмножеств данного множества U
вероятностная мера, которая не имеет атомов (которая
приписывает меру 0 каждой отдельной точке)? Ответ,
разумеется, зависит только от мощности ?/. Очевидно, что
такая мера не может существовать, если U счетно; в
предположении, что справедлива континуум-гипотеза,
можно показать*), что такая мера не существует, если
U имеет мощность континуума.
Если неатомическая вероятностная мера,
определенная на классе всех подмножеств (/, на самом деле
существует, то кардинальное число U называется измеримым;
в противном случае кардинальное число U называется
неизмеримым. Таким образом, число frt0 неизмеримо, и
из континуум-гипотезы следует, что мощность
континуума также неизмерима. (Среди множеств на прямой
именно неизмеримые множества представляют собой
отклонения от нормы. Здесь терминология меняется на
обратную: среди кардинальных чисел именно измеримые
кардинальные числа являются отклоняющимися от
нормы.)
Существование измеримых кардинальных чисел —
это знаменитая нерешенная проблема теории множеств,
¦) См. Биркгоф A952).

ТЕОРЕТИЧЕСКИЕ ДОПОЛНЕНИЯ 321
так называемая проблема меры*). Если измеримые
кардинальные числа вообще существуют, то они должны
быть так велики, чтобы никогда не возникать в
математике естественным образом. Мы увидим, что
некоторые иррегулярные явления в теории слабой сходимости
столь же далеки от обычной математической практики,
так как они могут возникать лишь в том случае, если
существуют измеримые кардинальные числа.
Сепарабельные меры. Рассмотрим теперь
вероятностную меру Р, заданную на классе 9* борелевских
множеств в метрическом пространстве S. Согласно теореме
1.4 мера Р является плотной, если S сепарабельно и
полно. Разумеется, требование полноты может быть
ослаблено до требования топологической полноты
(пространство S топологически полно, если существует
эквивалентная метрика, относительно которой S полно в
обычном смысле), а анализ доказательства этой
теоремы показывает, что предположение о сепарабельности
может быть ослаблено до предположения о том, что Р
обладает сепарабельным носителем. Будем называть
саму меру Р сепарабельной, если она обладает
сепарабельным носителем**). Мы приходим, таким образом,
к следующему результату:
Теорема 1. Вероятностная мера Р плотна, если она
сепарабельна и если пространство S топологически
полно.
Примечание 1. Предположение теоремы о
сепарабельности Р не может быть исключено. Действительно,
если Р плотна, то она обладает а-компактным
носителем и, следовательно, сепарабельна. Но, разумеется,
само пространство S не обязано быть сепарабельным.
Примечание 2. Предположение о топологической
полноте также не может быть исключено. В самом деле,
пусть S — массивное***) подмножество отрезка [0, 1]
(множество, внутренняя мера Лебега которого i*(S)
*) В связи с проблемой меры см. работу Кейслера и Тарского
A964), где содержится также обширная библиография.
**) Это понятие является специализацией к метрическому
случаю более общего понятия %-гладкой меры; см. Варадарайн A958а
и 1961а).
***) В оригинале «thick». См. также Халмош A953, стр. 78).
(Прим. пере в.)
И П. Биллингсли

322 ДОБАВЛЕНИЕ Itt
равна 0, а внешняя мера Лебега К* (S) равна 1) с
относительной топологией прямой. Здесь & состоит из
множеств вида 5 П Ау где А — обычное линейное борелевское
множество (см. формулу G) на стр. 307). Если Р
получена из Я* сужением области определения до &, то Р
вполне аддитивна; более того, так как X*(S)«= 1, то Р —
вероятностная мера. Если К — компакт в 5, то К
является обычным борелевским множеством, и поэтому Р (/()==
= 0, так как Я*E) =0. Следовательно, вероятностная
мера Р не плотна. Так как Р сепарабельна
(пространство S само сепарабельно), то теорема 1 перестает быть
верной именно из-за нарушения предположения 6
полноте.
Примечание 3. Если S — множество
рациональных чисел с относительной топологией прямой, то ввиду
того, что S представляет собой а-компакт, любая мера
Р на S плотна. С другой стороны, по теореме Бэра о
категории *) 5 не является топологически полным
множеством. Проблема топологической характеризации тех
метрических пространств, в которых все вероятностные
меры плотны, является до сих пор открытой.
Теперь возникает следующий вопрос — существуют ли
несепарабельные вероятностные меры?
Теорема 2. Любая вероятностная мера на 9*
сепарабельна тогда и только тогда, когда любое
дискретное**) подмножество S имеет неизмеримое
кардинальное число.
Доказательство. Докажем сначала
необходимость. Предположим, что 5 содержит дискретное
подмножество Ао с измеримым кардинальным числом. Мы
построим на & несепарабельную меру Р. Обозначим
через Q неатомическую вероятностную меру, заданную на
классе всех подмножеств Ло, и определим равенством
Р(А) = Q(A Г) Ао) неатомическую вероятностную меру
Р на У. Если А сепарабельно, то множество А Л Ао
является одновременно и дискретным, и сепарабельным и,
следовательно, является (стр. 295) счетным, так что
Q(A0A0)=0. Таким образом, Р не может обладать
сепарабельным носителем.
•) См. Келли A968, стр. 267).
**) См, стр. 295,

ТЕОРЕТИЧЕСКИЕ ДОПОЛНЕНИЯ 323
Доказательство достаточности требует более
глубокого рассуждения. Предположим, что любое дискретное
подмножество 5 имеет неизмеримое кардинальное число,
и рассмотрим произвольную вероятностную меру Р на
9. Мы должны показать, что Р сепарабельно. Заметим
сначала, что для этого достаточно показать, что каждое
открытое покрытие § пространства 5 содержит счетный
подкласс {Gu G2, ...} такой, что
P([}Qn) = l. (О
Действительно, в этом случае для каждого k найдется
последовательность Ани Ан2, ... открытых 1/&-сфер
таких, чтоР(\]АкЛ = \. Множество flLMfo является при
V п / k п
этом сепарабельным носителем для Р.
Рассмотрим теперь открытое покрытие *3
пространства S. По теореме о паракомпактности*) существует
класс Ж со следующими свойствами: (i) Ж есть
открытое покрытие S, (и) каждый элемент класса Ж
содержится в некотором элементе &, (ш) класс Ж может быть
представлен как счетное объединение
B)
где для каждого п
inf {р (Л, В): А,Ве=Жп,АфВ}>0 C)
(здесь р — метрика в пространстве 5).
Зафиксируем на время п. Из каждого элемента
класса Жп выберем по одной точке и образуем, таким
образом, множество Sn. Вследствие C) Sn дискретно. Для
AczSn обозначим через Хп(А) Р-меру объединения всех
тех элементов класса Жп, которые имеют с А непустое
пересечение (это объединение открыто). Так как
элементы класса Жп не пересекаются, то Хп является конечной
мерой, определенной на классе всех подмножеств 5П.
Поскольку, по предположению, Sn имеет неизмеримое
кардинальное число, то Яп обладает счетным носителем.
(В противном случае мы могли бы вычесть атомическую
часть %п и получили бы на классе всех подмножеств Sn
¦) См. Келли A968, стр. 212).

324 ДОБАВЛЕНИЕ III
неатомическую меру vn такую, что 0 < vnEn) < °o,
которую затем можно было бы нормировать так, чтобы
получить вероятностную меру.) Пусть Ап — счетное
подмножество 5П, для которого
%п EД — Ап) = 0, D)
и пусть класс ?п состоит из тех элементов Жп, которые
имеют непустое пересечение с Ап. Положим f = \Jfn*
п
Так как каждый класс fn является счетным, то таковым
является и класс /.
Если Нп — объединение множеств из Жп, a Jn —
объединение множеств из fn, то из D) и определения Кп
следует, что Р(Нп — /п)г=0. Поскольку Ж покрывает
S, то из B) следует, 4To[JHn = S, и, далее, если / =
п
= LU/t> что ^00 = 1- Далее, / есть в точности объеди-
п
нение множеств из /, которые мы можем занумеровать
как G[, G'2, Каждое множество Gfn принадлежит Ж
и, следовательно, содержится в некотором элементе Gn
класса S. Поскольку P(J) = К отсюда следует, что
множества Gn удовлетворяют условию A), что и
требовалось доказать.
Тот очевидный факт, что любая мера Р, заданная на
сепарабельном пространстве S, сама сепарабельна,
вытекает из того, что каждое дискретное подмножество S
имеет неизмеримое кардинальное число No. Из теоремы
2, кроме того, следует, что любая мера Р на 5
сепарабельна, если само S имеет неизмеримое кардинальное
число, что справедливо в том случае, когда мощность S
не превышает мощности континуума и
континуум-гипотеза имеет место. По существу же поиски несепарабель-
ной вероятностной меры относятся не к теории
вероятностей, а к теории множеств.
Топология слабой сходимости. Рассмотрим теперь
пространство Z = Z(S) вероятностных мер, заданных на
(S, ^). Превратим Z в хаусдорфово топологическое
пространство, взяв в качестве базисных окрестностей Р
множества вида
: \\fidQ-\ftdP\<e,, /-!,..., *}, E)

ТЕОРЕТИЧЕСКИЕ ДОПОЛНЕНИЯ 325
где е положительно, a fi, ..., fk суть элементы C(S).
Полученную топологию мы будем называть топологией
слабой сходимости и обозначать через Ж. Мы имеем
Рп^Р тогда и только тогда, когда последовательность
{Рп} ЗГ-сходится к Р.
Покажем, что существуют три другие базы для Ж, а
именно, множества
где F{
где Gi
{Q: Q (F{) < P (Fi) + e, / =
замкнуты, множества
{Q: Q(Gl)>P(G)-e, / =
открыты, и множества
(Q: \Q(Ai)-P(Ai)\<B, t =
1, ••
1...
= 1, •
., k),
., k),
... ^},
F)
G)
(8)
где А{ — множества непрерывности меры Р. Разумеется,
каждый из этих трех классов множеств служит базой
(для некоторой топологии). Теорема 2.1 является
приспособленным для последовательностей вариантом
следующей теоремы:
• Теорема 3. Все три указанные базы порождают Ж.
Доказательство. Поскольку при G* = F\ F) и
G) совпадают, то две соответствующие базы идентичны.
Мы покажем, что база F) порождает ту же самую
топологию, что и база (8), а затем, что база F)
порождает ту же самую топологию, что и база E), т. е. Ж.
Фиксируем меру Р. Если А является множеством
непрерывности меры Р, то для меры Q из некоторого
множества вида F) имеем соотношение Q(A) ^:Q(A~) <
<Р(Л-)+е = Р(Л)+е, а также Q(A)^Q(A°)>
> Р(А°) —е = Р(А) —е (последнее соотношение
справедливо и для Q из некоторого множества вида G)).
Таким образом, каждое множество вида (8) содержит
множество вида F) (с той же самой мерой Р). С другой
стороны, если F замкнуто, то найдется некоторое число
6, для которого множество
F* = {x: p(x9 F)<6) (9)
есть множество непрерывности меры Р и
±t. A0)

326 ДОБАВЛЕНИЕ III
Если \Q(F*)-P(F*)\<je, то Q(F)<P(F) + e. Таким
образом, каждое множество вида F) содержит
некоторое множество вида (8).
Сравним теперь F) с E). Фиксируя замкнутое
множество F, выберем б так, чтобы множество (9)
удовлетворяло условию A0), а затем выберем в C(S) функцию
f, принимающую значение 1 на /\ значение 0 вне F6 и
значение, заключенное между 0 и 1 во всех других
точках (теорема 1.2). Если \ / dQ — \ / dP < ~- е, то Q {F) <
<Р(/7) + е. Таким образом, каждое множество F)
содержит множество вида E).
Остается лишь найти внутри множества E)
множество вида F). По существу достаточно рассмотреть
только одну функцию f из C(S), и мы можем предположить,
что 0 < f(x) < 1 для всех х. Выберем k так, что \/k < e,
и пусть F{ = {х: i/k^f(x)}. В силу B.2) мы имеем
\ \ Таким
i i
образом, для Q из F) мы получаем \ f dQ < \ f dP + 2е.
То же самое рассуждение применительно к 1—/
завершает доказательство.
Под N(P) мы будем понимать ^-окрестность Р,
которая может иметь любую из форм E) — F). Мы
свободны в выборе той базы, которая является более
удобной.
Теорема 4. Вероятностные меры с конечным
носителем являются Ж-плотными в Z.
Доказательство. Рассмотрим окрестность М(Р)
вида F). В каждом непустом множестве В из конечного
разбиения, порожденного множествами F\, ..., Fki
выберем одну точку и поместим в нее массу Р(В).
Полученная мера обладает конечным носителем и принадлежит
ЛТ(Р), так как она совпадает с Р на каждом
множестве Fi.
Теорема 4 применима даже к аппроксимации несепа-
рабельных мер Р (если таковые имеются). Поэтому,
если подмножество П пространства Z состоит
исключительно из сепарабельных мер, нельзя сделать вывод, что
каждый элемент й^-замыкания П является сепарабель-

ТЕОРЕТИЧЕСКИЕ ДОПОЛНЕНИЙ 32?
ным. Если, однако, элементы П обладают общим сепа-
рабельным носителем и мера Р принадлежит 3^-замыка-
нию П, то Р сепарабельно (так как, если А есть
замыкание общего сепарабельного носителя, то А сепарабельно
и из теоремы 3 следует, что Р(А) = 1). Поскольку
счетная совокупность сепарабельных мер обладает общим
сепарабельным носителем, то Р является сепарабель-
ной, если сепарабельна каждая мера Рп и Рп^Р.
Естественно задаться вопросом, когда топология Ж
метризуема. Для Р и Q из Z обозначим через p(P,Q)
нижнюю грань таких положительных е, для которых при
всех А из 9* выполняются неравенства Q(A) ^ Р(Ае) +
+ е и Р(А) ^Q(Ae) +8, где Ае = {х: р(*,Л)<е}.
Если p(P,Q) = 0, то Р и Q совпадают на замкнутых
множествах и, следовательно (теорема 1.1), являются
тождественными. Нетрудно проверить, что р обладает и
всеми остальными свойствами метрики — ее называют
метрикой Прохорова. Мы увидим далее, что если
топология Ж вообще метризуема, то р — одна из
порождающих ее метрик.
Фиксируем Р. Если для каждой окрестности N(P)
существует р-шар с центром в Р, содержащийся в iV(P),
то мы говорим, что р по меньшей мере так же сильна
как Ж в Р. Если, кроме того, для каждого р-шара
с центром Р существует окрестность N(P),
содержащаяся в нем, то мы говорим, что р и Ж эквивалентны
в Р.
Теорема 5. Для произвольной меры Р топология р
является по меньшей мере такой же сильной, как иЖ в Р.
Более того, р и Ж эквивалентны в Р тогда и только
тогда, когда Ж имеет счетную базу в Р, что в свою
очередь выполняется тогда и только тогда, когда Р
сепарабельна.
Доказательство. По заданным Р, F и 8 выберем
8 так, чтобы б < е и чтобы множество (9)
удовлетворяло условию A0). Если р(Р, Q)<, то Q(F) <
< P(F6) + б < P(F) -f 8. Таким образом, каждая
окрестность N(P) вида F) содержит /г-шар с центром в Р,
что доказывает первую часть теоремы.
Если р пЖ эквивалентны в Р, то, очевидно, Ж имеет
счетную базу в Р. Остается теперь доказать, что из этого

32Й ДОБАВЛЕНИЕ III
последнего условия вытекает сепарабельность Р и что
сепарабельность Р влечет эквивалентность р и Ж в Р.
Допустим, что Ж имеет в Р счетную базу Nn(P),
/issl, 2, .... По теореме 4 каждое пересечение
п
fl Nk(P) содержит меру Рп с сепарабельным (даже
конечным) носителем. Но тогда Рп=^Р, откуда, как
было отмечено после доказательства теоремы 4, следует,
что мера Р сепарабельна.
Предположим, наконец, что мера Р сепарабельна.
Нам нужно доказать, что р и Ж эквивалентны в Р. Для
этого в силу первой части теоремы достаточно показать,
что /?-шар с радиусом е и центром в Р должен содержать
некоторую окрестность N(P).
Выберем б так, что 36 < е. Покроем сепарабельный
носитель меры Р шарами с диаметром, меньшим чем б,
и являющимися множествами непрерывности меры Р,
затем перейдек к счетному подпокрытию (стр. 295) и
с помощью обычной процедуры построим
непересекающиеся множества А\, А2, ... непрерывности Р,
покрывающие носитель. Выберем затем k так, чтобы
A1)
Каждое из множеств Аи ..., Ак имеет диаметр,
меньший б, и если s& представляет собой (конечный) класс
объединений этих множеств, то каждый элемент s4-
является множеством непрерывности меры Р.
По теореме 3 существует такая окрестность N(P),
что если Q^N(P), то
\Q(A)-P(A)\<6, A<=&. A2)
Из неравенств A2) и A1) следует, что
Мы покажем, что р(Р, Q) < е, если

ТЕОРЕТИЧЕСКИЕ ДОПОЛНЕНИЯ 329
Пусть В — произвольное множество из 9*.
Рассмотрим объединение А тех множеств из последовательности
Ль ..., Ak, которые пересекаются с 5. Множество А
удовлетворяет неравенству A2). Из соотношений
В*
(последнее верно, так как диаметр Аг меньше б), а также
неравенств (И), A2) и A3) следует, что
, Р(В) <Q(B6)+26 и Q(B)
Поскольку 36 < е, то мы получаем р(Р, Q) < 8.
Из теорем 2 и 5 следует, что Ж метризуема тогда и
только тогда, когда каждое дискретное подмножество S
имеет неизмеримое кардинальное число, и в этом
случае Ж метризуема посредством /?.
Можно также задаться вопросом — когда Z сепара-
бельно? Если 5 сепарабельно, то топологии pnF
совпадают на Z и из теоремы 4 следует, что множество
вероятностных мер, обладающих конечным носителем,
всюду плотно в Z. Нетрудно пойти дальше и показать,
что если Ао — счетное всюду плотное множество в S и
Zo состоит из таких мер Р, которые обладают конечным
носителем, содержащимся в Ло, и имеют рациональные
массы, то Zo счетно и всюду плотно в Z относительно р.
Таким образом, Ж метризуема и сепарабельна, если
сепарабельно S.
С другой стороны, если Ж удовлетворяет второй
аксиоме счетности, то Ж сепарабельна и может быть мет-
ризована посредством р. Так как пространство S с его
метрикой гомеоморфно множеству единичных масс,
принадлежащих Z, то отсюда следует, что S
сепарабельно.
Теорема Прохорова. Пересмотрим теорему
Прохорова в свете предыдущих результатов. Если П есть
подмножество Z, то пусть Ир и 11ж обозначают его
замыкания относительно р и Ж, соответственно. Из теоремы 5
вытекает, что Пр с Uw (со строгим вложением для
некоторого подмножества П, если топология Ж неметри-
зуема).

330 ДОБАВЛЕНИЕ III
Множество в топологическом пространстве
называется компактным, если каждое открытое покрытие его
имеет конечное подпокрытие; множество называется
секвенциально компактным, если каждая
последовательность его точек содержит подпоследовательность,
сходящуюся к пределу, который также принадлежит этому
множеству.
Рассмотрим следующие три утверждения:
1°. Каждая последовательность из П содержит 3^-схо-
дящуюся подпоследовательность.
.2°. Иж является секвенциально компактным.
3°. Т1ж является компактным.
Предел сходящейся подпоследовательности в Г не
обязан принадлежать П, но, разумеется, он будет
принадлежать Щ>. Очевидно, что 2° влечет 1°. Из этих трех
утверждений можно составить пять других импликаций;
является ли любая из них верной, неизвестно*). Если,
однако, каждое дискретное подпространство 5 имеет
неизмеримое кардинальное число, то Ж^-топология метри-
зуема, так что все три утверждения равносильны, и мы
увидим, что это верно также тогда, когда П плотно.
В этой книге (см. начало § 6) мы называем П
относительно компактным множеством, если П удовлетворяет
условию 1°.
Рассмотрим прямую часть теоремы Прохорова
теорема F.1).
Теорема 6. Если П плотно, то Пр «= П^, Пж
плотно, р- и Ж'-топологии совпадают на ГЬг, Иж одновременно
компактно и секвенциально компактно (в любой
топологии) .
Доказательство. Поскольку П плотно, при
каждом е существует компакт К такой, что Q (К) > 1 —о б
для всех Q из П. Допустим, что Р е Пж- По теореме 3
существует такая окрестность N(P), что Q^N(P)
влечет Q{K)<P {К) + у е. Выбирая Q из множества
N(P)(Ml, получаем Р(/С)>1—е. Таким образом, Пж
плотно.
•)

теоретические дополнений 331
В частности, каждый элемент множества Пж
является сепарабельным. Поэтому (теорема 5) р- и Ж-то-
пологии совпадают на IV; поскольку в любом случае
Пр с Пу, имеем Пр = ГЬ>. Из плотности ГЬ» в силу
теоремы 6.1 вытекает, что Пу секвенциально
компактно в смысле Ж. Так как в метрическом случае
компактность и секвенциальная компактность совпадают, то
доказательство закончено.
Прямая теорема Прохорова может быть
использована также для исследования вопроса о полноте Z.
Допустим, что S полно и что каждый элемент Z сепарабе-
лен (и, следовательно, является плотным). Тогда р- и
ЗР-топологии совпадают на Z, и мы покажем, что Z
р-полно. Для этого достаточно показать, что р-фундамен-
тальная последовательность {Рп} необходимо содержит
слабо сходящуюся подпоследовательность, что в свою
очередь будет следовать из прямой теоремы Прохорова,
если мы докажем, что последовательность {Рп} плотна.
Наконец (см. доказательство теоремы 6.2 на стр. 63),
поскольку S полно, то последовательность {Рп} плотна,
если для любых положительных е и б существует
конечная совокупность б-шаров Аи ..., Ak такая, что при
всех п
Рп{Ах\] ... UA0>l-e. A4)
Выберем г) так, чтобы 2ц <min{e, б}, а затем
выберем п0 так, чтобы р{Рп, РПо)<Ц при п^п^ Поскольку
мера Рп9 сепарабельна, существует конечное множество
т)-шаров Ви ..., Bh таких, что РПо( (J BtJ > 1 — т|.
Пусть Аи ..., Ah — 2г]-шары с теми же центрами. Так
как ( (J Bt I cz (J At и р(Рп, РПо) < л при п ^ п0, то
отсюда следует, что A4) выполняется при п^по.
Поскольку каждая мера Рп сепарабельна, мы можем
добиться выполнения A4) и при п < л0, увеличив, если
нужно, систему {А{}.
Таким образом, пространство Z является р-полным,
если S полно и каждая вероятностная мера на нем
сепарабельна. Допустим, с другой стороны, что Z р-полно.
Нетрудно показать, что множество ZQ единичных масс

332 ДОБАВЛЕНИЕ III
является р-замкнутым, а следовательно, также р-пол-
ыым, откуда можно вывести, что 5 также полно.
Обратимся теперь к обратной части теоремы
Прохорова.
Теорема 7. Если множество мер П Ж-компактно
и каждая мера из П сепарабельна и если S
топологически полно, то П плотно.
Доказательство. По теореме 1 элементы П,
взятые в отдельности, являются плотными. Для того чтобы
доказать, что само П плотно, достаточно, как обычно,
построить по данным в и б конечное множество 6-ша-
ров Аи ..., Ak таких, что Р(А\ U ... \JAk) > 1 — 8 при
всех Р из П.
Если Р принадлежит П, то, поскольку Р плотна,
существует компактное множество К такое, что Р (К) >
> 1 — у 8, при этом К может быть покрыто конечным
множеством открытых 6-шаров BPti, i=l, ..., kP. По
теореме 3 найдется Jf-окрестность N(P) элемента Р
такая, что объединение GP шаров BPfi удовлетворяет при
Q^N(P) неравенству Q (GP) > P {GP) — -j г и,
следовательно, неравенству Q(GP) > 1 — е. Так как П есть
Ж -компакт, то П можно покрыть конечным набором
таких окрестностей N(P). В качестве системы Ль ..., Ak
мы можем теперь взять BPfit соответствующие
выбранным окрестностям N(P).
Используя теорему 1, можно сформулировать
теорему 7 в иной форме: если множество мер П ^-компактно
и каждая мера из него плотна и если 5 топологически
полно, то П плотно. Предположение о том, что каждая
мера Р из П плотна, нельзя отбросить, так как одна
неплотная мера Р образует компактное множество. С
другой стороны, представляется правдоподобным, что
условие полноты может быть исключено, т. е. что П плотно,
если оно 3^-компактно и если все его элементы
плотны*). Хотя проблема и нерешена, тем не менее в
этом направлении существует следующий интересный
результат:
*) Варадарайн A958а и 1961а) получил результат такого рода,
но его доказательство содержит пробел.

ТЕОРЕТИЧЕСКИЕ ДОПОЛНЕНИЯ 333
Теорема 8. Предположим, что Рп =ФЛ где Р и все
Рп являются плотными. Тогда совокупность {Я, Ри Я2, ...}
плотна.
Доказательство. Так как рассматриваемые
меры, взятые в отдельности, плотны, то достаточно
показать, что для любого е существует компакт К такой, что
/>„(*)> 1-е A5)
при всех достаточно больших п.
Для любого е в силу плотности меры Р существует
компакт /(' такой, что Р{К') > 1 — -§¦ е. Положим Gh =
= {х: р(х, К') < l/k). Так как Рп=ф>Р, то существует
возрастающая последовательность {пь} такая, что при
n^nk
Рп (Gk) > Р (Gk) _ 1в > 1 -1 e. A6)
При nk<in^nk+u используя плотность Ял, выберем
компакт К'п, удовлетворяющий соотношениям Krn^Gk и
Множество
Ч+
к>-к'и U
n~nk
компактно, К' czKk^Gk и при /**</i</i*+i имеет
место неравенство
Из A6) теперь следует, что при
Яя(**)>1-в. A7)
Обозначим К = U Kky и пусть {хи} —
последовательность в /С. Если существует какое-либо одно множество
Л"л, содержащее все точки хи, то {хи} содержит
сходящуюся подпоследовательность; в противном случае
существуют подпоследовательность {xU/n} и
последовательность целых чисел {vm} такие, что xUfn ^ KVm d GVjn и

334 ДОБАВЛЕНИЕ III
vm^m, так что р(*„т, /С') < 1/т. Последовательность
{xUm} должна содержать другую подпоследовательность,
которая сходится. Таким образом, К — компакт. Если
п^пи то Пи ^ п ^ tik+i при некотором kt и из A7)
и соотношения К^Ки следует A5).
В этой теореме предположение о том, что мера Р
плотна, существенно: чтобы в этом убедиться, достаточно
взять неплотную меру Р на сепарабельном пространстве
S, как во втором примечании к теореме 1, и применить
теорему 4.
Примечание. Теорема 8 и пример в примечании 2 к
теореме 1 принадлежат Ле Каму A960); остальные результаты
принадлежат по большей части Варадарайну A958а и 1961а),

БИБЛИОГРАФИЯ
Александров А. Д.
A940—1943) Additive set functions in abstract spaces, Матем. сб. 8,
307—348; 9, 563—628; 13, 169—238.
Андерсон (Anderson Т. W.)
A963) Asymptotic theory for principal component analysis, Ann. Math.
Statist. 34, 122—148.
Андерсон, Дарлинг (Anderson Т. W., Darling D. A.)
A952) Asymptotic theory of certain «goodness of fit» criteria based
on stochastic processes, Ann. Math. Statist. 23, 193—212.
Банах (Banach S.)
A932) Theorie des Operations Lineaires. Warsaw: Monografie Mate-
matyczne.
Бартошинский (Bartoszynski R.)
A961) A characterization of the weak convergence of measures, Ann.
Math. Statist. 32, 561—576.
Бикель (Bickel P. J)
A967) Some contributions to the theory of order statistics, Proc.
Fifth Berkeley Sympos. Math. Statist, and Probability
(Berkeley, Calif., 1965/66), vol. I, 575—591; Univ. California. Press,
Berkeley, California.
A969) A distribution free version of the Smirnov two sample test in
the p-variate case, Ann. Math. Statist., 40, 1, 1—23.
Билли нгсли (Billingsley P.)
A956) The invariance principle for dependent random variables,
Trans. Amer. Math. Soc. 83, 250—268.
A961) The Lindeberg — Levy theorem for martingales, Proc. Amer.
Math. Soc. 12, 788—792.
A962) Limit theorems for randomly selected partial sums, Ann. Math.
Statist. 33, 85—92.
A964) An application of Prohorov's theorem to probabilistic number
theory, 111. J. Math. 8, 697—704.
A969) Эргодическая теория и информация (перев. с англ.), М.,
«Мир».
Биллингсли, Топсё (Billingsley P., Topsee F.)
A967) Uniformity in weak convergence, Z. Wahrscheinlichkeits—
theorie und Verw. Gebiete 7, 1—16.
Биркгоф (Birkhoff G.)
A952) Теория структур (перев. с англ.), М., ИЛ.
Бирнбаум, Пайк (Birnbaum Z. W., Руке R.)
A958) On some distributions related to the statistic D+, Ann. Math,
Statist. 29, 179-187.

336 БИБЛИОГРАФИЯ
Блюм, Хэн?он, Розенблатт (Blum J. RM Hanson D. L
Rosenblatt J. I.)
A963) On the central limit theorem for the sum of a random number
of independent random variables, Z. Wahrscheinlickheistheorie
und Verw. Gebiete 1, 389—393.
Бор (Bohr H.)
A934) Почти периодические функции (перев. с нем.), М. — Л.
Варадарайн (Varadarajan V. S.)
A958а) Convergence in distribution of stochastic processes, Thesis,
Calcutta University.
A958b) Weak convergence of measures on separable metric'spaces,
Sankya 19, 15—22.
A958c) On the convergence of probability distributions, Sankya, 19,
23—26.
A961a) Меры на топологических пространствах, Матем. сб. 55 (97),
35—100.
A961b) Convergence of stochastic processes, Bull. Amer. Math. Soc.
67, 276—280.
Гихман И. И., Скороход А. В.
A965) Введение в теорию случайных процессов, М., «Наука».
Гросс (Gross L.)
A963) Harmonic analysis on Hilbert space, Met. Amer. Math. Soc. 46.
Д а д л и (Dudley R. M.)
A966) Weak convergence of probabilities on nonseparable metric
spaces and empirical measures on Euclidean spaces, 111. J.
Math. 10, 109—126.
A967) Measures on non-separable metric spaces, 111. J. Math. 11,
449-453.
Данфорд, Шварц (Dunford N., Schwartz J. T.)
A962) Линейные операторы. Общая теория, М., ИЛ (перев. с англ.)
Д а р л и н г (Darling D. А.)
A957) The Kolmogorov — Smirnov, Cramer —von Mises tests, Ann.
Math. Statist. 28, 823—838.
Дарлинг, Эрдеш (Darling D. A., Erdos P. E.)
A956) A limit theorem for the maximum of normalized sums
of independent random variables, Duke Math. J. 23,
143—155.
Д ё б л и н (Doeblin W.)
A940) Remarques sur la theorie metrique des fractions continues,
Compositio Math. 7, 353—371.
Д о н с к e p (Donsker M.)
A951) An invariance principle for certain probability limit theorems,
Met. Amer. Math. Soc. 6.
A952) Justifications and extension of Doob's hueristic approach to
the Kolmogorov — Smirnov theorems, Ann. Math. Statist. 23,
277—281.
Дуосс, Карлин (Dwass M., Karlin S.)
A963) Conditional limit theorems, Ann. Math. Statist. 34, 1147—1167.
Дуб (Doob J. L.)
A949) Heuristic approach to the Kolmogorov — Smirnov theorems,
Ann. Math. Statist. 20, 393—403.
A956) Вероятностные процессы (перев. с англ.), М., ИЛ.

БИБЛИОГРАФИЯ 337
Дьедонне (Dieudonne J.)
A964) Основы современного анализа (перев. с фр.)» М., ИЛ.
Ибрагимов И. А.
A962) Некоторые предельные теоремы для стационарных процессов,
Теория вероят. и ее примен. 7, вып. 4, 361—392.
A963) Центральная предельная теорема для одного класса
зависимых случайных величин, Теория вероят. и ее применен. 8,
вып. 1, 89—94.
Ито, Маккин (И6 К., McKean H. Р.)
A968) Диффузионные процессы и их траектории (перев. с англ.),
М., «Мир».
Каллианпур (Kallianpur G.)
A961) The topology of weak convergence of probability measures,
J. Math. Mech. 10, 947—969.
К а р л и н (Karlin S.)
A971) Основы теории случайных процессов (перев. с англ.), М.,
«Мир».
К а ц (Кае М.)
A946) On the distributions of values of sums of type, Ann. of Math.
47, 33—49.
A949) On deviations between theoretical and empirical distributions,
Proc. Nat. Acad. Sci. U. S. A. 35, 252—257.
Кейслер, Тарский (Keisler H. J., T a r s k i A.)
A946) From accessible to inaccessible cardinals, Fund. Math. 53,
225—308.
Келли (Kelley J. L.)
A968) Общая топология (перев. с англ.), М., «Наука».
К и м м (Kimme E. G.)
A957) On the convergence of sequences of stochastic processes, Trans.
Amer. Math. Soc. 84, 208—229.
A960) Some equivalence conditions for the convergence in
distribution of sequences of stochastic processes, Trans. Amer. Math.
Soc. 95, 495—515.
Колмогоров А. Н
A931) Eine Verallgemeinierung des Laplace — Liapounoffschen Sat-
zes, Изв. Акад. наук СССР, сер. физ.-мат., 959—962.
A956) О сходимости А. В. Скорохода, Теория вероят. и ее примен.
1, вып. 2, 239—247.
A974) Основные понятия теории вероятностей, 2-е изд., М., «Наука».
(Первое оригинальное издание книги: Grundbegriffe der
Wahrscheinlichkeitsrechnung, Berlin — Gottingen — Heidelberg:
Springer — Verlag, 1933.)
Колмогоров А. Н., Прохоров Ю. В.
A954) Zufallige Funktionen und Grenzverteilungssatze, Berich fiber
die Tagung Wahrscheinlichkeitsrechnung und Mathematischen
Statistik, 113—126 Berlin: Deutscher Verlag der Wissenschaften.
Колмогоров А. Н., Фомин С. В.
A972) Элементы теории функций и функционального анализа, М.,
«Наука».
Крамер (Cramer H.)
A975) Математические методы статистики (перев. с англ.), 2-е и,зд.,
М., «Мир».

338 БИБЛИОГРАФИЯ
Кремер, Уолд (Cramer Н., Wold H.)
A936) Some theorems on distribution function, J. London Math Soe,
11, 290—295.
Ламперти (Lamperti J.)
A962) An invariance principle in renewal theory, Ann. Math. Statist
33, 685—696.
A962a) A new class of probability limit theorems, J. Math. Mech. 11,
749-772.
A962b) On convergence of stochastic processes, Trans. Amer. Math.
Soc. 104, 430—435.
Л е К а м (LeCam L.)
A960) Сходимость по распределению случайных процессов (перев.
с англ.), Математика, 4: 3, 107—142.
Л е в и (Levy P.)
A925) Cacul des Probabilites. Paris: Gauthier — Villars.
A937) Theorie de Г Addition des Variables Aleatoires. Paris:
Gauthier— Villars.
A972) Стохастические процессы и броуновское движение (перев.
с фр.), М., «Наука».
Л и г е т (Liggett Т. М.)
A968) An invariance principle for conditioned sums of independent
random variables, J. Math. Mech. 18, 559—570.
Л о э в (Loeve M.)
A962) Теория вероятностей (перев. с фр.), М., ИЛ.
Манн, Вальд (Mann H. В., Wald A.)
A943) On stochastic limit and order relations, Ann. Math. Statist. 14,
217—226.
Марк (Mark A. M.)
A949) Some probability theorems, Bull. Amer. Math. Soc. 55, 885—900.
H а й т (Knight F. B.)
A962) On the random walk and Brownian motion, Trans. Amer.
Math. Soc. 103, 218—228.
Окстоби, Улам (Oxtoby J. C, Ulam S.)
A939) On the existence of a measure invariant under a
transformation, Ann. of Math. B) 40, 560—566.
П а й к (Руке R.)
A965) Spacings, J. Roy. Stat. Soc. Ser. B27, 395—449.
A968) The weak convergence of the empirical process with random
sample size, Proc. Cambridge Phil. Soc. 64, 155—160.
Пайк, Шорак (Руке R., Shorack G.)
A968) Weak convergence of the two-sample empirical process and a
new approach to Chernoff — Savage theorems, Ann. Math.
Statist., 39, 3, 755—771.
Партасарати (Parthasarathy K. R.)
A967) Probability Measures on Metric Spaces. New York: Academic
Press.
Прохоров Ю. В.
A953) Распределения вероятностей в функциональных
пространствах, Усп. матем. наук 8, вып. 3, 165—167.
A956) Сходимость случайных процессов и предельные теоремы
теории вероятностей, Теория вероят. и ее примен. 1. вып. 2,
177-238.

БИБЛИОГРАФИЯ 339
A960) The method of characteristic functionals, Proceedings of the
Fourth Berkeley Symposium on Mathematical Statistics and
Probability, Volume 2, 403—429.
Ранга Рао (Ranga Rao R.)
A962) Relations between weak and uniform convergence of measures
with applications, Ann. Math. Statist. 33, 659—680.
Ранга Рао, Варадарайн (Ranga Rao R., Varada-
rajn V. S.)
A958) On a theorem in metric spaces, Ann. Math. Statist. 29, 612—
613.
Реньи (Renyi A.)
A958) On mixing sequences of sets, Acta Math. Acad. Sci. Hung. 9,
215—228.
A960) On the central limit theorem for the sum of a random number
of independent random variables, Acta. Math. Acad. Sci. Hung.
11, 97—102.
Розен (Rosen B.)
A964) Limit theorems for sampling from a finite population, Arkiv
for Mathematik 5, 383—424.
A967a) On the central limit theorem for sums of dependent random
variables, Z. Wahrscheinlichkeitstheorie und Verw. Gebiete 7,
48—82.
A967b) On asymptotic normality of sums of dependent random
variables, Z. Wahrscheinlichkeitstheorie und Verw. Gebiete 7,
95—102.
A967c) On the central limit theorem for a class of sampling
procedures, Z. Wahrscheinlichkeitstheorie und Verw. Gebiete 7,
103—115.
Сетураман (Sethuraman J.)
A964) On the probability of large deviations of families of sample
means, Ann. Math. Statist. 35, 1304—1316.
A965) On the probability of large deviations of the mean for random
variables in D [10, 1], Ann. Math. Statist. 36, 280—285.
Скороход А. В.
A956) Предельные теоремы для случайных процессов, Теория ве-
роят. и ее примен. 1, вып. 3, 289—319.
A957) Предельные теоремы для случайных процессов с
независимыми приращениями, Теория вероят. и ее примен. 2, вып. 2,
145—177.
A961) Исследования по теории случайных процессов, Киев, Изд-во
К ГУ»
Слуцкий (Slutsky Е. Е.)
A925) Ober Stochastische Asymptoten und Grenzwerte, Metron 5f
1—90.
A937) Qualche proposizione relativa alia teoria delle funzioni aleato-
rie, Giorn. Inst. Ital. Attuair 8, 183—199.
Стоун (Stone C.)
A963) Weak convergence of stochastic processes defined on
semi-infinite time intervals, Proc. Amer. Math. Soc. 14, 694—
696.
A963a) Limit theorems for random walks, birth and death processes,
and diffusion processes, 111. Js Math, 7t 638—660s

Ш библиография
Страссен (Strassen V.)
A964) An invariance principle for the Law of the iterated logarithm,
Z Wahrscheinlichkeitstheorie und Verw. Gebiete 3, 211—226.
Титчмарш (Titchmarsh E. C.)
A951) Теория функций (перев. с англ.), М., Гостехиздат.
Т о п с ё (Topsoe F.)
A967а) On the connection between P-continuity and P-uniformity in
weak convergence, Теория вероят. и ее примен. 12, 279—
288.
A967b) Preservation of weak convergence under mappings, Ann
Math. Statist. 38, 1661—1665.
T p ю м б о (Trumbo В. E.)
A965) Sufficient conditions for the weak convergence of conditional
probability distributions in a metric space, Thesis, University
of Chicago.
Ф е л л e p (Feller W.)
A967a) Введение в теорию вероятностей и ее приложения (перев.
с англ.), том 1, М., «Мир».
A967b) Введение в теорию вероятностей и ее приложения (перев.
с англ.), том 2, М., «Мир».
Форте (Forter R.)
A940) Sur une suite egalement repartie, Studia Math. 9, 54—69.
У и ч у р a (Wichura M. J.)
A969) Inequalities with applications to the weak convergence of
random processes with multidimensional time parameter, Ann.
Math. Statist. 40, 2, 681—687.
X а л м о ш (Halmos P. R.)
A953) Теория меры (перев. с англ.), Мм ИЛ.
Хард и, Райт (Hardy G. H., Wright Е. М.)
A960) An Introduction to the Theory of Numbers, fourth edition.
Oxford: Clarendon Press.
Хеннекен, Тортра (Hennequin P. L, Tortrat A.)
A974) Теория вероятностей и некоторые ее приложения (перев. с
фр.), М., «Наука».
X и н ч и н А. Я.
A936) Асимптотические законы теории вероятностей, М. — Л.,
ОНТИ.
A961) Цепные дроби, 3-е изд., Физматгиз, М.
Цесельский, Кестен (Ciesielski Z., Kesten H.)
A962) A limit theorem for the fractional parts of the sequence lhU
Proc. Amer. Math. Soc. 13, 596—600.
Ч е н ц о в Н. H.
A956) Слабая сходимость случайных процессов с траекториями без
разрыва второго рода и так называемый «эвристический»
подход к критериям согласия типа Колмогорова — Смирнова,
Теория вероят. и ее примен. 1, вып. 1, 155—161.
Чернов (Chernof f H.)
A956) Large sample theory: parametric case, Ann. Math. Statist. 27,
1—22.
Чернов, Тейчер (Chernoff H., Teicher H.)
A958) A central limit theorem for sequences of exchangeable random
variables, Ann. Math. Statist. 29, 118—130,

БИБЛИОГРАФИЯ 341
Чибисов Д. М.
A965) К исследованию асимптотической мощности критериев
согласия, Теория вероят. и ее применен. 10, вып. 3, 460—478.
Ш е ф ф е (Scheffe H.)
A947) A useful convergence theorem for probability distributions,
Ann. Math. Statist. 18, 434—438.
ID мид (Schmid P.)
A958) On the Kolmogorov and Smirnov limit theorems for
discontinuous distribution functions, Ann. Math.'Statist. 29 A011—
1027).
Эрдеш, Кац (Erdos P., Kac M.)
A946) On certain limit theorems in the theory of probability, Bull.
Amer. Math. Soc. 52, 292—302.
A947) On the number of positive sums of independent random
variables, Bull. Amer. Math. Soc. 53, 1011—1020,

СПИСОК ОБОЗНАЧЕНИЙ
Этот список включает лишь те специальные термины, которые
систематически используются на всем протяжении книги. Хотя
произвольному элементу пространства «S предназначено обозначение х,
фактически он может быть обозначен любой строчной буквой
латинского алфавита (возможно, с индексами); это замечание касается
обозначения произвольного элемента любого пространства.
Теория множеств
?с — дополнение множества ?; Е\ — ?2 = ?i П Ес2 — разность
?i и Ег\ Ei + ?2 = (?t — ?2) U (?2 — ?i) — симметрическая разность
Е\ и ?2; 1е — индикатор или характеристическая функция
множества Е.
Вероятностные пространства
(Q, &) — измеримое пространство; со и ? обозначают,
соответственно, элементы Q и &\ Р — вероятностная мера на (Q, &);
Е обозначает математическое ожидание; | — случайная величина, а
{%п} и {?*} — стохастические процессы.
Если h отображает (Q, &) в (й', .$')> то соотношение h-l3§' а<%
означает, что h~lE' е 38 для любого ?' е <%\ т. е. что h —
измеримое отображение, и Ph** принимает значение Р (h-iE/) в ?'
(стр. 304).
Произвольное метрическое пространство
S — метрическое пространство с произвольным элементом ху
метрикой р(х,у) (и р(х,Л)— см. стр. 296) и а-полем 9* борелев-
ских множеств; Л°, А и дА определяют, соответственно,
внутренность, замыкание и границу произвольного множества А (которое
является элементом Р7, если не оговорено противное); S(x,
e)—открытый е-шар с центром в х\ F — произвольное замкнутое
множество (но этой буквой обозначается также функция распределения),

СПИСОК ОБОЗНАЧЕНИЙ 343
G — произвольное открытое множество, а К — произвольное
компактное множество (но эта буква употребляется также для
обозначения постоянной).
С E) с общим элементом / есть класс ограниченных
непрерывных функций на С; если h отображает 5 в другое метрическое
пространство, то Dh есть множество ее точек разрыва.
Р и Q — вероятностные меры на E,^); соотношение Рп^Р
обозначает слабую сходимость; П — семейство мер Р.
Специальные метрические пространства
а-поле борелевских множеств в пространстве изображается
рукописным вариантом (с любыми надлежащими индексами) той
прописной буквы латинского алфавита, которой обозначено само
пространство.
Rk — евклидово ^-мерное пространство; Н — произвольный
элемент &h\ F — функция распределения; Fn=^F обозначает слабую
сходимость (стр. 31); обозначения х ^ у, х <#, \х — у\ и (а, Ь]
см. на стр. 30.
R°° — топологическое произведение счетной последовательности
прямых (стр. 32 и 299) с общей точкой х = (хи *2, ...); яа (х) =.
= (х\, ..., Xk) — естественная проекция в Rh.
С — пространство С[0,1] (стр. 33, 82, 301) с метрикой р и общей
точкой * = *(/); ntr..tk(x) = (x(ti)t ..., х(tk)) —естественная
проекция в Rk; о координатной случайной величине х% и о понятии
«распределения х% относительно Р» см. стр. 90.
D — пространство Z)[0, 1] (стр. 153) с двумя эквивалентными
метриками d (стр. 156) и d0 (стр. 158) и общей точкой х = x(t)\
проекции я^...{д и координатные случайные величины х%
определяются так же, как для С; специальные символы: А, и Л (стр. 156),
Ш (стр. 158), ТР (стр. 172), Jt (стр. 173) и Тх (стр. 179).
Случайные элементы
X — случайный элемент (стр. 36) со значением Х((й) в со; если
область изменения X есть пространство функций, то X(t) = ntX и
X(t,(x>) =я*(Х(со)) (стр. 86 для С; стр. 178 для D); Хп ^Х и
Хп->Р обозначают сходимость по распределению (стр. 38, 39);
Р р
Хп -> а и Хп -> X обозначают сходимость по вероятности (стр. 40 и
42); о (X, Y) и р(Х, Y) см. стр. 40, 308, 309.
N и N(\ita2)—нормальные распределения или величины
(стр. 39)' W — винеровская мера на С (стр. 91), случайная фуцк-

344 список обозначений
ция в С с винеровской мерой в качестве распределения (стр. 95)
или соответствующая мера или случайная функция в D (стр. 190);
W° — броуновский мост как мера или случайная функция в С или D
(стр. 95, 96).
Модули
Модули непрерывности для С и соответственные модули для D:
wxF) = w(xt 6), стр 83 и 302,
wxF) = йу(Х,6) стр 87,
wx(To), стр. 153,
w'xF), стр. 154,
пу'^F),стр. 165,
w"(X,6), стр. 179.

ИМЕННОЙ УКАЗАТЕЛЬ
Александров А. Д. 28
Андерсон (Anderson T. W) 54
Бартошинский (Bartoszynski R.)
75
Бикель (Bickel P. J.) 152
Биллингсли (Billingsley P.) 28,
29, 208, 269, 286, 335
Биркгоф (Birkhoff G.) 320
Бирнбаум (Birnbaum Z. W.) 152
Блюм (Blum J. R.) 208
Бьернсон (Bjornsson О.) 29
Вальд (Wald A.) 54
Варадарайн (Varadarajan V. S.)
14, 28, 46, 63, 321, 332, 334
Винер (Winer N.) 100
Гихман И. И. 28
Гросс (Gross L.) 80
Дадли (Dudley R. М.) 28, 213
Данфорд (Dunford N.) 28
Дарлинг (Darling D. А.) 124, 152
Деблин (Doeblin W.) 269
Донскер (Donsker M.) 14, 112,
152, 198
Дуб (Doob J. L.) 14, 152, 229
Дуосс (Dwass M.) 293
Ибрагимов И. А. 286, 296
Ито (ltd К.) 100, 124
Каллианпур (Kallianpur G.) 28
Карлин (Karlin S.) 124, 293
Кац (Кае М.) 14, 112, 124, 152,
269
Кейслер (Keisler H. J.) 321
Кестен (Kesten H.) 282
Кимм (Kimme J. L.) 198
Колмогоров А. Н. 14, 112, 144,
147, 172
Ламперти (Lamperti J.) 90, 112,
208
Леви (Levy P.) 80, 229
Ле Кам (Le Cam L.) 14, 28, 63,
334
Лигетт (Liygett Т. М.) 293
Маккин (McKean H. Р.) 100,
124
Манн (Mann H. В.) 54
Марк (Mark A. M.) 124, 198
Найт (Knight F. В.) 112
Окстоби (Oxtoby J. С.) 19
Пайк (Руке R.) 152
Партасарати (Parthasarathy
К. R.) 28
Прохоров Ю. В. 14, 28, 54, 63,
80, 90, 112, 172
Райт (Wright E. М.) 80
Ранга Pao (Ranga Rao R.) 28,
29, 46
Реньи (Renyi A.) 45, 198, 208
Розен (Rosen В.) 229, 286, 293

346
ИМЕННОЙ УКАЗАТЕЛЬ
Розенблатт (Rosenblatt J. I.) 150
Рубин (Rubin H.) 54
Скороход А. В 14, 28, 172, 198
Слуцкий Е. Е. 54, 144
Стоун (Stone С.) 90, 198
Страссен (Strassen V.) 112
Тарский (Tarski A.) 321
Тейчер (Teicher H.) 293
Титчмарш (Titchmarsh E. С.) 71
Топсё (Topsoe F.) 28, 29, 54, 90,
310
Тортра (Tortrat A.) 28
Трюмбо (Trumbo В. Е.) 293
Форте (Forter R.) 269
Халмош (Halmos P. R.) 28, 122,
231, 305, 308
Харди (Hardy G. Н.) 80
Хеннекен (Hennequin P. L.) 28
Хенсон (Hanson D. L.) 208
Хинчин А. Я. 229
Цесельский (Ciesielski Z.) 282
Ченцов Н. Н. 144, 152
Чернов (Chernoff H.) 54, 293
Чибисов Д. М. 213
Уичура (Wichura M. J.) 293
Улам (Ulam S.) 19
Уолд (Wold H.) 80
Шварц (Schwartz J. T.) 28, 37
Шмид (Schmid P.) 198
Шорак (Schorack G.) 152
Феллер (Feller W.) 80, 118
Эрдёш (Erdos P.) 14, 112, 124

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Арксинуса закон 116, 193, 268
Арцела — Асколи теорема 83, 302
Асимптотически независимые
приращения 217
База 294
Борелевское множество 9, 15
^-мерное 30
Броуновский мост 96
Броуновского движения процесс
95
Броуновское движение 11, 92,
214
Вейля теорема 32, 78
Винеровская мера И, 91
— траектория 94
Винеровский процесс 95
Вполне ограниченное множество
296
Выбор 286
Гауссова мера 235
Гауссовская случайная функция
Гливенко — Кантелли теорема
146
Граница множества 294
Двусторонний процесс 230, 252
Диагональный метод 300
Диофантово приближение 267
Дискретное множество 295
Донскера теорема 100, 191
Замена переменной 305
Измеримое кардинальное число
320
Измеримость 304
Инвариантности принцип 106
Индикатор множества 16
Интервал в Rk 30
Колмогорова теорема о
существовании меры, в общем случае
316
R00 312
Компактность 296
Координатные величины в С 90
D 171
Конечномерные множества в С
33
D 168
RM 33
— распределения в С 48
D 172
случайных элементов 63
в R" 48
Крамера — Уолда теорема 76
Линдеберга теорема 66
Линдеберга — Леви случай 113
теорема 10, 70
Линейное борелевское множество
30
Локальные предельные теоремы
76
Ляпунова теорема 69
Маргинальное распределение 34
Мартингал 282
Модуль непрерывности 83, 302
Множество непрерывности меры
8, 21
случайного элемента 39
Муавра — Лапласа теорема 7, 22
Независимость случайных
элементов 43
Независимые приращения 91, 214

348
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Неизмеримое кардинальное
число 320
Непрерывность выборочных
траекторий 97
Непрерывные дроби 235, 265, 277
Нормальное распределение 39
Носитель вероятностной меры 18
Область определения случайного
элемента 36
Односторонний процесс 233, 253
Определяющий класс 27
— сходимость класс 26
Открытое покрытие множества
295
Относительная компактность
семейства мер 54, 330
Плотная мера 18
— последовательность
случайных элементов 63
Плотное семейство мер 58, 330
Подпространство 307
Полное множество 296
Полунепрерывность сверху 298
Проблема меры 19, 320
Проекция из С в Rk 33
D в #* 168
R~ в #* 33
Произведение метрических
пространств 307
Прохорова метрика 327
— теорема 58, 330, 331
Равномерная интегрируемость 51
— топология на С 82, 301
D 208
Разрыв первого рода 153
Распределение случайного
элемента 37
Регулярная мера 15
Секвенциальная компактность 55,
329, 330
Сепарабельная мера 321
Сепарабельность 294
Сепарабельный стохастический
процесс 96, 137
Симметрии (отражения) принцип
105
Симметрично зависимые
случайные величины 291
Скорохода топология 155
Слабая сходимость мер 8, 15, 27
функций распределения 7,
31
Случайная величина 36
— функция 11, 37, 86, 178
Случайного блуждания схема 113
Случайный вектор 37
— элемент 36
Сходимость по вероятности 40.
42
распределению 38, 39
Топология слабой сходимости
324
Топологическая полнота 321
Функциональная центральная
предельная теорема 106, 241
Функция от процессов с ср-пере-
мешиванием 252
— распределения 30, 37
Характеристическая функция
вероятностной меры 70
множества 16
Хелли теорема о выборе 311
Центральная предельная теорема
65, 106
Шеффе теорема 306
Эквивалентные метрики 294
Эмпирическая функция
распределения 13, 146, 196
е-сеть 296
а-компакт 18
ф-перемешивание 230

ОГЛАВЛЕНИЕ
Предисловие редактора перевода 3
Из предисловия автора : 5
Введение 7
Глава 1. Слабая сходимость в метрических пространствах 15
§ 1. Меры в метрических пространствах 15
Меры и интегралы A5). Плотность A8). Задачи A9).
§ 2. Свойства слабой сходимости 21
Теорема об условиях слабой сходимости B1). Другие
критерии B5). Задачи B8).
§ 3. Некоторые частные случаи 30
Евклидово пространство C0). Окружность C2).
Пространство R°° C2). Пространство С C3).
Произведение пространств C4). Задачи C5).
§ 4. Сходимость по распределению 36
Случайные элементы C6). Сходимость по
распределению C8). Сходимость по вероятности D0).
Произведение пространств D2). Задачи D6).
§ 5. Слабая сходимость и отображения 47
Непрерывные отображения D7). Основная
теорема D8). Предельный переход под знаком
интеграла E0). Обобщение теоремы 5.1 E2). Задачи E4).
§ 6. Теорема Прохорова 54
Относительная компактность E4). Прямая теорема E8).
Обратная теорема F2). Задачи F3).
§ 7. Первые приложения 64
Гладкие функции F4). Центральная предельная
теорема F5). Характеристические функции G0). Прием
Крамера — Уолда G5). Локальная и интегральная
предельные теоремы G6). Слабая сходимость на
окружности и торе G7). Задачи (80).
Глава 2. Пространство С 82
§ 8. Слабая сходимость и плотность в С 82
Слабая сходимость (82) Плотность (83).
Случайные функции (86) Координатные величины (90).
Задача (91).
§ 9. Существование винеровской меры 91
Винеровская мера (91). Броуновский мост (95).
Сепарабельные стохастические процессы (96). За.-
дачи A00).

350 ОГЛАВЛЕНИЕ
§ 10. Теорема Донскера 100
Теорема A00). Приложение A03). Необходимое
условие плотности A06). Другое доказательство теоремы
Донскера A08). Задачи A12).
§ 11. Функции от траекторий броуновского движения . . . .112
Максимум и минимум (ИЗ). Закон арксинуса A16).
Броуновский мост A21). Задачи A24).
§ 12. Флуктуации частичных сумм 125
Максимум A25). Смешанные моменты A27).
Приложения A28). Доказательство теоремы 12.1 A31).
Моменты A34). Критерий плотности A36). Другие
неравенства A39). Задачи A45).
§ 13. Эмпирические функции распределения 146
Глава 3. Пространство D 153
§ 14. Геометрия пространства D 153
Пространство D A53). Топология Скорохода A55).
Полнота пространства D A60). Компактность в D A62).
Вторая характеризация компактности A65).
Конечномерные множества A68). Задачи A72).
§ 15. Слабая сходимость и плотность в D 172
Конечномерные распределения A72). Плотность A74).
Случайные элементы пространства D A78). Критерий
сходимости A79). Критерий существования A81).
Другие критерии A85). Сепарабельные
стохастические процессы A87). Задачи A90).
§ 16. Приложения 190
Теорема^ Донскера A90). Доминированные меры A93).
Эмпирические функции распределения A96).
Задачи A98).
§ 17. Случайная замена времени 199
Суммы случайного числа случайных величин A99).
Случайная замена времени B01). Приложения B02).
Теория восстановления B06).
§ 18. Равномерная топология 208
Глава 4. Зависимые величины 214
§ 19. Диффузия 214
Характеризация броуновского движения B14). Другие
диффузионные процессы B20).
§ 20. Процессы с перемешиванием 230
ф-перемешивание B30) Неравенства дая
моментов B35) .Функциональная центральная предельная
теорема B41). Интегралы вместо сумм B46).
Нестационарность B48).
§ 21. Функция от процессов с перемешиванием ...... 252
Предварительные замечания B52). Функциональная
центральная предельная теорема B55).
Приложения B63). Диофантово приближение B67).
Нестационарность B68).

ОГЛАВЛЕНИЕ 351
§ 22. Эмпирические функции распределения 269
Процессы с ф-перемешиванием B69). Функции от
процессов с ф-перемешиванием B75).
§ 23. Мартингалы 282
§ 24. Симметрично зависимые случайные величины 286
Выбор B86). Симметрично зависимые величины B91).
Добавление I. Метрические пространства 294
Сепарабельность B94). Компактность B96).
Полунепрерывность сверху B98). Пространство /?°° B99).
Пространство С C01).
Добавление II. Разное 304
Измеримость C04). Замена переменной C05). «Хвосты»
распределений C05). Теорема Шеффе C06).
Подпространства C07). Произведение пространств C07). Измеримость
Dh C09). Теорема Хелли C10). Теорема Колмогорова C12),
Измеримость некоторых отображений C16). Еще об
измеримости C18).
Добавление III. Теоретические дополнения 320
Проблема меры C20). Сепарабельные меры C21).
Топология слабой сходимости C24). Теорема Прохорова C29).
Библиография 335
Список обозначений 342
Именной указатель 345
Предметный указатель 347

Патрик Виллингсли
СХОДИМОСТЬ ВЕРОЯТНОСТНЫХ МЕР
М., 1977 г., 352 стр. с илл.
Редактор В. В. Абгарян
Техн. редактор И. Ш. Аксельрод
Корректоры 3. В. Автонеева, М. JI. Медведская
Сдано в набор 23.12.76. Подписано к печати 22.06.77.
Бумага 84X108l/;2 тип. № 1. Фаз. печ. л. 11. Усл.
печ. л. 18,48. Уч.-иад. л. 17,74. Тираж 9000 экз.
Цена книги 1 р. 5Э к. Заказ № 439.
Издательство «Наука>
Главная редакция
физико-математической литературы
117071, Москва, В-71, Ленинский проспект, 15
Ордена Трудового Красного Знамени
Ленинградская типография № 2
имени Евгении Соколовой Союзполиграфпрома
при Государственном комитете Совета
Министров СССР по делам издательств,
полиграфии и книжной торговли.
198052, Ленинград, Л-52,
Измайловский проспект, 29.