АДВентцель
.УРС
ТЕОРИИ
СЛУЧАЙНЫХ
ПРОЦЕССОВ
Допущено Министерством
высшего и среднего специального образования СССР
в качестве учебного пособия для студентов
механико-мат ематических факультетов университетов
ИЗДАТЕЛЬСТВО «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУР!
Москва 1975

В
УД1E19.21
20203-123
Курс теории случайных процессов. А. Д. В е н т-
ц е л ь, Главная редакция физико-математической ли-
литературы изд-ва «Наука», 1975.
Книга предназначена для первоначального озна-
ознакомления с теорией случайных процессов. Подчерки-
Подчеркивается связь этой теории с фактами функционального
анализа; книга рассчитана на студентов-математиков,
аспирантов, а также других читателей, интересующих-
интересующихся теорией случайных процессов, знакомых с элемен-
элементами теории меры и функционального анализа и
изучавших теорию вероятностей.
Основное внимание уделяется не выкладкам и не
доказательству теорем в наиболее окончательной
форме, а объяснению сути применяемых методов на
простом, по возможности, материале. В ходе изложе-
изложения дается около 250 задач различной трудности и
характера (упражнения, примеры, самостоятельное
получение более простых результатов, части доказа-
доказательств, обобщения и т. п.); примерно для двух тре-
третей из них приведены решения.
В главах 1—3, 5—7, 12 предмет рассмотрения
составляют в основном общие методы теории; в главе
4 рассматриваются стационарные процессы, в главах
8—11, 13 — марковские (в том числе применение тео-
теории полугрупп операторов, диффузионные процессы
и их связь с дифференциальными уравнениями).
053@2)-75

Оглавление
Предисловие 5
Введение 7
Глава 1. Основные понятия 13
§ 1.1. Что такое случайный процесс? 13
§ 1.2. Примеры случайных процессов. Винеровский процесс .... 14
§ 1.3. Обзор методов теории случайных процессов 22
§ 1.4. Важнейшие классы случайных процессов 29
Глава 2. «Элементы случайного анализа» 33
§ 2.1. Сходимости, непрерывности, производные, интегралы .... 33
§ 2.2. Стохастические интегралы от неслучайных функций 43
Глава 3. Некоторые понятия общей и корреляционной теории случай-
случайных процессов 48
§ 3.1. Связанные со случайной функцией cr-алгебры и пространства
случайных величин 48
§ 3.2. Операторы сдвига 53
§ 3.3. Задачи наилучшей оценки 57
Глава 4. Корреляционная теория стационарных (в широком смысле)
случайных процессов 66
§ 4.1. Корреляционные функции 66
§ 4.2. Спектральные представления 71
§ 4.3. Решение задачи линейного прогнозирования 77
Глава 5. Бесконечномерные распределения. Свойства с вероятностью 1 86
§ 5.1. Распределения случайных функций. Теорема Колмогорова о ко-
конечномерных распределениях 86
§ 5.2. Свойства с вероятностью 1 93
§ 5.3. Абсолютная непрерывность бесконечномерных распределений и
плотности 102
Глава 6. Марковские моменты, прогрессивно измеримые случайные
функции 109
Глава 7. Мартингалы 116
§ 7.1. Мартингалы, субмартингалы, супермартингалы 116
§ 7.2. Неравенства и равенства, связанные с мартингалами .... 121
§ 7.3. Теорема о сходимости супермартингалов 126
Глава 8. Марковские процессы. Основные понятия 132
§ 8.1. Марковские процессы и марковские семейства 132
§ 8.2. Различные формы марковского свойства 140
§ 8.3. Конечномерные распределения марковских процессов .... 146
§ 8.4. Семейства операторов, связанные с марковскими процессами . 153
1*

4 ОГЛАВЛЕНИЕ
§ 8.5. Однородные марковские семейства 162
§ 8.6. Строго марковские процессы . ... 167
§ 8.7. Стационарные марковские процессы 176
Глава 9. Марковские процессы с непрерывным временем. Свойства
траекторий. Строго марковское свойство 178
§ 9.1. Свойства траекторий 178
§ 9.2. Строго марковское свойство для феллеровских марковских се-
семейств с непрерывными справа траекториями 182
Глава 10. Инфинитезимальные операторы 186
§ ЮЛ. Инфинитезимальный оператор полугруппы .186
§ 10.2. Резольвента. Теорема Хилле — Иосида 192
§ 10.3. Инфинитезимальные операторы и марковские процессы . . .197
Глава 11. Диффузионные процессы 207
§ 11.1. Что такое диффузионный процесс? 207
§ 11.2 Результаты Колмогорова. Обратное и прямое уравнения . . 209
Глава 12. Стохастические уравнения 219
§ 12.1. Стохастические интегралы от случайных функций 219
§ 12.2. Стохастические дифференциалы. Формула Ито 230
§ 12.3 Решение стохастических уравнений методом последовательных
приближений 239
§ 12.4. Диффузионные процессы, задаваемые стохастическими уравне-
уравнениями 246
Глава 13. Связь диффузионных процессов с уравнениями в частных
производных 253
§ 13.1. Уравнения, связанные с дискретными цепями Маркова . . . 253
§ 13.2. Случай решений, допускающих гладкое продолжение .... 255
§ 13.3. Регулярные и сингулярные точки границы 265
Решениязадач 272
Список обозначений 315
Литература 317
Предметный указатель 318

Предисловие
Книга написана на основе лекций по теории случайных про-
процессов, прочитанных автором в 1969 году студентам III—IV кур-
курсов механико-математического факультета МГУ. Эти лекции
были изданы ротапринтно (А. Д. Вент цель, Случайные про-
процессы (Лекции для студентов III курса), М., 1969; Случайные
процессы (Лекции для студентов IV курса), М., 1970), но затем
значительно переработаны.
Интерес к изучению теории случайных процессов очень ши-
широк, и, по-видимому, нет необходимости указывать здесь, какая
это важная часть теории вероятностей и как много она имеет
приложений.
Автор видел свою цель не в том, чтобы формулировать и до-
доказывать теоремы в наиболее окончательной форме, а в том,
чтобы ознакомить читателей с сущностью применяемых методов
на простом, по возможности, материале. В связи с этим книга
содержит не очень много больших теорем и довольно большое
число микротеорем (часть из них в виде задач). Хотя между
микротеоремами и теоремами нет совершенно резкой грани, автор
считает понятие микротеоремы принципиально важным. Тот, кто
овладевает каким-либо разделом математики, должен придумы-
придумывать такие микротеоремы в большом числе; из них 60% должны
легко доказываться, 30%—оказываться неверными и легко
опровергаться, а в остальных 10% разобраться труднее — из них
могут получиться даже настоящие хорошие теоремы.
Часть материала дана в виде задач. Решения задач состав-
составляют отдельную часть книги, чтобы больше была вероятность
того, что читатель будет решать их сам. Решения даются не для
всех задач и не очень подробно; предполагается, что читатель
напишет их решения с нужной степенью подробности сам для
себя (а также восстановит опущенные части доказательств
в основном тексте и сделает недостающие чертежи). Задачи,
данные обычным шрифтом, нужно решать сразу же; с зада-
задачами, набранными петитом, можно подождать до конца пара-
параграфа или главы. Задачи, при номерах которых стоит звез-
звездочка, — не обязательные, на них ничто не опирается. Конечно, за
пределами книги неизбежно должны были остаться целые
разделы теории. Хорошо будет, если читатель постарается

6 ПРЕДИСЛОВИЕ
пополнить свои знания по теории случайных процессов и возь-
возьмется за изучение какой-нибудь книги, более богатой материа-
материалом, например книги Дуба, 1956. Дело не только в новом ма-
материале, но и в общем подходе, методах, новых точках зрения.
Вопросы принадлежности приводимых результатов тем или
иным авторам, истории и литературы по предмету затрагива-
затрагивались лишь эпизодически; литературные ссылки даются в основ-
основном тогда, когда приводятся без доказательства какие-либо
вспомогательные сведения.
Отбор материала обусловлен в основном педагогическими
соображениями. Что касается общего подхода к материалу,—
систематически подчеркивается связь теории с фактами функ-
функционального анализа. Когда был выбор: провести какое-либо
рассуждение, касающееся случайных процессов, независимым
образом или сослаться на тот или иной аналитический резуль-
результат (например, изоморфность всех бесконечномерных гильбер-
гильбертовых пространств), предпочтение отдавалось последнему.
Книга делится на главы, главы — на параграфы (при ссыл-
ссылках в пределах одной главы мы указываем только номер пара-
параграфа; при ссылке на параграф другой главы — номер главы
и параграфа, например: § 2.1), параграфы — на пункты: 1,2
и т. д.; пункты — иногда на подпункты а), б), ... (при ссылках
так, например: п. 2а)). Нумерация формул, теорем, задач
и т. п. — в пределах каждого параграфа (при ссылках в преде-
пределах одного параграфа указывается номер формулы, задачи
и т. п.; за пределами параграфа указывается также номер па-
параграфа).
В решениях задач формулы нумеруются в пределах одного
решения: (#), (##) и т. д.; ссылка на формулу E) или задачу 3
означает формулу или задачу того же параграфа, в котором
дается данная задача.
Ссылки на список литературы даются указанием фамилии
автора (фамилий авторов) и года издания.
Автор выражает благодарность прочитавшим различные
части рукописи и сделавшим замечания по ее улучшению:
С. А. Молчанову, Е. Б. Дынкину, Е. С. Вентцель и в особенно-
особенности А. Н. Ширяеву; О. А. Бояриновой, без самоотверженной
помощи которой книга, конечно, не вышла бы; а также Т. Па-
хомовой, В. Орлову, Н. Гоз и другим студентам, взявшим на
себя часть работы,

Введение
При изучении самых разных явлений действительности мы
сталкиваемся с процессами, предсказать течение которых за-
заранее не можем. Например: колебания высоты полета самолета
около того значения, которое он должен выдерживать; движе-
движение отдельной молекулы в газе, заключенном в сосуд; размно-
размножение бактерий в питательной среде. Мы не можем заранее
предсказать, например, будет ли в такой-то момент времени ко-
колония состоять из 1001 или 1002 бактерий и в каком месте ка-
какая бактерия будет находиться.
Такие процессы можно изображать случайным движением
точки в специально подобранном для каждой задачи простран-
пространстве. Так, колебания высоты полета опишет точка, движущаяся
по числовой оси; движение молекулы — точка, движущаяся в
области трехмерного пространства, имеющей форму сосуда
(в сущности, и сама молекула — почти что точка). Для опи-
описания размножения бактерий придется построить более слож-
сложное пространство. Пусть питательная среда заключена внутри
стеклянной трубочки, толщиной которой мы можем пренебречь.
Составим наше пространство из одной точки *, отрезка [0, /]
(/ — длина трубочки), треугольника {(х, у): 0 ^ у ^ х <; /},
тетраэдра {(х, г/, z): 0 ^ х ^ у ^ г ^ /}, четырехмерного сим-
симплекса {(#,у,г,и): 0 ^ х ^ у <: z ^ и ^ /} и т. д. — возьмем
счетную сумму множеств возрастающей размерности (рис. 1).
[Точка * будет означать, что ни одной бактерии у нас не осталось;
тбчка х на отрезке [0,1] — что есть ровно одна бактерия и она
находится на расстоянии х от левого конца трубочки; точка
(х,у) треугольника — что есть две бактерии на расстояниях от
левого конца а; и у, и т. д. При делении какой-либо из бактерий
точка, изображающая состояние системы, будет перескакивать
в симплекс следующей размерности, а когда одна бактерия гиб-
гибнет— в симплекс предыдущей размерности. Иногда приходится
рассматривать и более сложные пространства.
Далее, движение точки в каком-то пространстве — это функ-
функция от аргумента t (времени) со значениями в этом простран-
пространстве; случайное движение — это функция от времени со случай-
случайными значениями в пространстве, о котором идет речь. То есть
математическая модель случайных процессов реального мира--*

8 ВВЕДЕНИЕ
это функция от t, значения которой — случайные величины; при-
причем мы должны быть готовы к тому, чтобы это были не случай-
случайные величины в узком смысле — не числовые, а принимающие
значения в более или менее произвольном пространстве. (Не
будем обсуждать условий применимости вообще теоретико-ве-
теоретико-вероятностных понятий к явлениям реального мира.)
После того, как мы пришли к такой математической модели,
ее можно обобщать в различных направлениях. Разумное
обобщение — рассматривать случайные функции от аргумента/,
не имеющего смысла времени и могущего принимать значения
не на числовой оси, а в каком-нибудь другом множестве. Это
может быть нужно, в частности, для изучения изменчивости
тех или иных величин не во времени, а в пространстве.
Предварительные сведения. Обозначения. Прежде всего,
предполагается, что читатель довольно хорошо владеет мате-
математическим анализом (в объеме первых трех лет университет-
университетского курса), в частности, что он знаком с мерами, интегралом
Лебега и с элементами функционального анализа (гильбертово
и банахово пространство, линейные операторы). Автор старался
придерживаться терминологии книги Колмогорова и Фо-
Фомина «Элементы теории функций и функционального анализа»,
Физматгиз, М., 1968, и пользоваться в основном сведениями по
теории меры и функциональному анализу, содержащимися t*
этой книге; когда приходилось выходить за эти пределы, автор
старался отослать читателя к какому-нибудь широко распро-
распространенному руководству.
Множества мы обычно обозначаем большими латинскими или греческими
буквами; системы множеств — рукописными (s&y &, ...); различные функцио-
функциональные пространства — жирными (например, С, L2). Множество элементов ху
для которых выполнено то-то и то-то, мы обозначаем {х: ...} .
Предполагается, что читатель знаком с такими терминами и фактами.
Евклидово пространство, гильбертово пространство, банахово пространство»
(Колмогоров и Фомин, 1968, гл. III, §§ 3, 4). Порожденная системой
множеств ^ tf-алгебра (обозначение: о(%?)); а-алгебра борелевских подмно-
подмножеств метрического (топологического) пространства X (т. е. а-алгебра, по-
порожденная открытыми множествами; обозначение: $х). Измеримое простран-
пространство, измеримое отображение, измеримая числовая функция. Мера; термин;

ВВЕДЕНИЕ 9
почти всюду относительно меры \i (или: {г-почти всюду); теорема об одно-
однозначном продолжении меры с полукольца на а-алгебру (Колмогоров и
Фомин, 1968, гл. V, §§ 3, 4). Если $Ф — какая-то алгебра подмножеств X,
\1 — конечная мера на порожденной этой алгеброй о-алгебре o(s&), то для
любого множества А е o(s?) и любого е > О существует множество Ае s s$>
такое, что мера симметрической разности \х(А А Аг) < е (см. X а л м о ш, 1953,
§ 13, теорема 4). Если \х — конечная мера на борелевских подмножествах ло-
локально компактного метрического пространства X, то для любого борелевского
множества его мера равна верхней грани мер содержащихся в нем ком-
компактов (Халмош, 1953, §52, теорема 7). Интеграл Лебега- (обозначение:
\ f (x) ц (dx) или, сокращенно, \ f d\i); микротеорема о замене перемен-
А А
иых в интеграле Лебега: если g— измеримое отображение измеримого про-
пространства (X, $?) в (У, $), f — измеримая числовая функция на (У, J?), меры
IX на (Xt s&) и v на (У, $) связаны соотношением v(B) = \i(g~l(B)), то
теоремы о предельном переходе под знаком интеграла (Колмогоров и
Фомин, 1968, гл. V, § 5).
Семейство функций {f а(х)} на измеримом пространстве с мерой \i назы-
называется равномерно интегрируемым, если для любого е>0 существует поло-
положительное К такое, что для всех функций из семейства
I fa (*I !*(<**)< в.
Если последовательность fn(x) сходится почти всюду к функции f(x) и се-
семейство {fn(x)} равномерно интегрируемо, то функция f интегрируема и
\fnd\i-+\fd\inpun-
Пространства LP(X, <Л, \х)у р!>1 (сокращенные обозначения: 1Л Lp (X),
Lp (cA)> Ьр(ц) или Lp(d\i); см. Колмогоров и Фомин, 1968, гл. VII).
Произведение а-алгебр $$> и М (обозначение: s4> X В&); произведение
мер (обозначение: \i X v; интеграл относительно [i X v записывается так:
\ \ fix, у) м- (dx) v (dy))\ теорема Фубини (Колмогоров и Фомин, 1968,
гл. V, § 6). Абсолютная непрерывность счетно-аддитивной функции множества
v относительно меры \л на измеримом пространстве (X, зФ)\ плотность v
относительно \х (по определению это — ^-измеримая функция g такая, что
v (Л) = \ g (x) \i (dx) для всех А & <Л; обозначения: g (х) ¦¦,
А
•— (х)); сингулярность мер jx, v по отношению друг к другу. Микротео-
Микротеорема: если мера v имеет плотность относительно ц, то для любой измеримой
функции f
v(dx)
} или
Теорема Радона — Никодима (Колмогоров и Фомин, 1968, гл. VI, § 5).
Слабая сходимость мер: последовательность мер |лп на a-алгебре $к борелев-

10 ВВЕДЕНИЕ
ских подмножеств метрического пространства X слабо сходится к мере fx на
$х, если для любой непрерывной ограниченной функции / на X
Jf(*)H« W*)-> J
Далее, предполагается, что читатель изучил курс теории
вероятностей и знает такие понятия, как независимость, слу-
случайная величина, функция распределения, закон больших чи-
чисел, характеристическая функция и т. п. (см. Гнеденко, 1961;
Феллер, 1967, т. 1). Предполагается также, что он знаком
с аксиоматическим построением теории вероятностей и некото-
некоторыми более специальными вопросами, которые (вместе с объ-
объяснением обозначений) будут кратко изложены ниже.
Вероятностное пространство — тройка (Q, #", Р), где Q — пространства
элементарных событий — произвольное множество (его элементы — элементар-
элементарные события — мы будем обычно обозначать буквой со); У — сх-алгебра его
подмножеств, элементы которой называются (случайными) событиями; Р —
вероятность — мера на (Q, &~) такая, чго Р (Q)= 1 (вообще, мера \х, на
(X, $$>) называется вероятностной, если ц(Х)= 1). Выражение «почти всюду
относительно меры Р» заменяется выражением «почти наверное» (п. н.).
Предполагается, что читатель знает леммы Бореля — Кантелли (см.
Феллер, 1967, т. 1, гл. VIII, §3).
Случайная величина в широком смысле — измеримое отображение про*
странства (Q, &~) в измеримое пространство (X, <%). (Другой термин — слу-
случайный элемент (X, 38).) От пространства (X, 0й) мы будем требовать только,
чтобы все одноточечные множества были измеримы: {х}&$ для любого х.
Случайные величины мы будем обозначать большей частью греческими бук-
буквами: | = g (со), т#> п(А) и т. п.
Случайные величины g и г\ эквивалентны, если Р {g Ф г)} =0.
Под о-алгеброй, порожденной системой случайных величин ga со значе-
значениями в (Ха, &a)t мы будем понимать cr-алгебру, порожденную всевозмож-
всевозможными событиями вида {?яеГ}, Ге^а: а {|а} = а{{|а ^ Г}» Гб^а}.
Распределение случайной величины g — мера ф| на (X, $), задаваемая
соотношением Ф| (А) = Р {| е А} (короткая запись для Р ({со: ? (со) е"Л}).
Совместное распределение случайных величин |, г\, ..., ?, принимающих зна-
значения в пространствах (X, <А\ (У, &)9 ..., (Z, W), — это распределение слу-
случайного вектора (g, «л, ..., С): Ogt|... t (Л) = Р {(|, т}> ..., ОеИ), Ле^Х
х я х ... х «*.
Случайные величины |, т|, ..., ?, независимы, если Ф^ ... ; ^ Ф| X Ф^ X
X • • • X Ф^. Случайные величины из бесконечного семейства {?а} независимы*
если ?,..., |а независимы для любого конечного числа отличных друг от
1 и
друга О],..., ап; а-алгебры &*а^&~ независимы, если независимы любые
события Л2 е JFOi, ..., Ап е ^"ал- Ясно, как определяется независимость
случайных величин от а-алгебр и т. п.
Для случайных величин, принимающих значения в метрическом простран-
(Р)
стве X C& = ^jf), определяется сходимость по вероятности: ?,п—> | («-> оэ)^
или lim (Р)|д = |, если lim P {р (|л, g) ^e} =0 для любого е>0. (Так же
определяется и lim (P) gf и т. п.) Предел по вероятности определяется од-
(Р)
позначно с точностью до эквивалентности. Для непрерывной f из \п -> ?,

ВВЕДЕНИЕ 11
(Р)
вытекает / {?п) !> f (|). Из сходимости почти наверное вытекает сходимость
по вероятности; из последовательности, сходящейся по вероятности, можно
выделить подпоследовательность, сходящуюся почти наверное.
(Р)
Из 1п > g вытекает Ф^ -> Ф| в смысле слабой сходимости.
Для числовых случайных величин определяется математическое ожидание
(или среднее)
дисперсия Dg = М | g — Mg |2 (для вещественных случайных величин это
то же, что М (? — М|J), ковариация cov (g, ч\) = М (| —- М g) (^ — Мт]).
Чебышёвское неравенство: для любой случайной величины g со значе-
значениями в (X, Ш)у любой неотрицательной ^-измеримой функции f, любою
Р
где Ае = {х: /4*)>е}.
Из сходимости в среднем в степени р — сходимости в пространстве
if (Q> ^~, Р) — вытекает сходимость по вероятности (следует из чебышёв-
ского неравенства). Предел в смысле сходимости в среднем квадратическом
(при р = 2) обозначается 1. i. m.
Условное математическое ожидание М (g | Л) случайной величины \ (чис-
(числовой) относительно а-алгебры <А^&~ — это случайная величина М (?|с#) (со)=
= ч\ (©) такая, что, во-первых, она с^-измерима, а во-вторых,
А А
для любого А ^ <А. Из существования Mg (конечного) вытекает существо-
существование М (g | (Л) и его единственность с точностью до эквивалентности. Свой-
Свойства условных математических ожиданий: линейность; монотонность (из
вытекает
для «^-измеримой |, если только Mr), М|г| существуют (или если МI -п [,
М ( 111 М ( | rj 11 <Л))< оо); если ^ s ^ ?= ^", то М (М (| | ^) | сЛ) = М (g | с^).
Все эти свойства выполнены с оговоркой: почти наверное.
Пусть г\ — случайная величина, не обязательно числовая, а со значениями
в (X, &). Тогда, по определению, условное математическое ожидание число-
числовой случайной величины g относительно % М (g | х\), — это не что иное, как
М(?|а(т1)) (события из 0-алгебры а (т]) имеют вид {г) е Г}, Ге1). Эта
случайная величина представляется в виде ф('п), где ф (#) — ^-измеримая
функция на X. Функция ф (#) обозначается М {g | г\ = х) и называется услов-
условным математическим ожиданием g при условии т) = х {при условии, что х\
приняло значение х).
Условная вероятность события А — это условное среднее его индикатора
*Д = 5СЛ(«>}.
Если g и ц — случайные векторы, имеющие совместную плотность рас-
распределения /?| (Ху у), то можно ввести условную плотность распределения
Pi (х I Л = У) = Pi~ (х> У): Р~ (У\ При этом для любой измеримой числовой
функции М {/ (g, т|) | т| = г/} ===== \ f (x, у)Ръ(х{г\=* у) dx.
Подробнее об этом можно прочесть в книге Феллера, 1967, т. 2,
гл. IV, V (или И то, I960, гл. I; И то, 1963, §§ 32, 33).

12 ВВЕДЕНИЕ
Для чтения глав 11, 13 нужно иметь понятие о дифферен-
дифференциальных уравнениях в частных производных эллиптического
и параболического типа, хотя материал, на который мы по-
постоянно опираемся, совсем не•велик: в основном постановка
задачи Коши и краевых задач. В качестве источника необходи-
необходимых сведений указываются книги Миранда, 1957 и Фрид-
Фридмана, 1968.
Некоторые общие обозначения. Минимум ив двух чисел аиЬ
обозначается а/\Ь, максимум —- а\/Ь. Объединение двух мно-
множеств мы будем обозначать Ли В, пересечение — А Л В или
АВУ разность — А \ В, симметрическую разность (т. е. (Л \ В) [}
U (В \ Л)) — ЛАВ. Знак cz употребляется в смысле строгого
включения множеств, знак ^ — для включения, допускаю-
допускающего совпадение. Для произвольного множества Л его индика-
индикатор (характеристическая функция) %а(х) определяется как
функция, принимающая значение 1 для х^А и 0 для хфА.
Если А — событие, аргумент со в %а будет обычно опускаться.
Единичную меру, сосредоточенную в точке х, мы будем обо-
обозначать бх: по определению 6* (Г) = %г(х).
Обозначение f(x) двусмысленно: оно применяется и для
значения функции / в точке х, и для самой функции. В случае,
когда мы хотим подчеркнуть, что речь идет именно о функции,
а не о ее значении в какой-то точке, мы будем пользоваться
обозначением /(•)• Если аргумент пишется не в скобках, а в виде
индекса: fXy то обозначением самой функции будет /.. Особенно
удобно обозначение с точкой для функций нескольких аргумен-
аргументов, например: /(.#)(*> •) — функция от четырех аргументов;
/(.х) (•, со) — функция от двух аргументов, получающаяся из нее
фиксированием значений остальных двух; f{n](t9 •) —функция от
одного аргумента; /« (t, со) — значение функции при фиксиро-
фиксированных значениях всех аргументов.
Дальнейшие обозначения даны в виде таблицы в конце
книги.

Глава 1
Основные понятия
§ 1.1. Что такое случайный процесс?
1. Случайной функцией называется семейство случайных ве-
величин, зависящих от параметра t, пробегающего произвольное
множество Т. Этот параметр мы будем писать либо в виде ин-
индекса, либо в скобках, например: случайная функция \и t e Г;
случайная функция x(t), t^T. '
Так как под случайной величиной мы понимаем измеримое
отображение основного вероятностного пространства (Q,#~, P)
в измеримое пространство (Х,$), то случайная функция |^
t^T9 — это, если записать более подробно, функция ?*(со) от
пары t^T, ogQ, которая при каждом /g7 измерима по со.
Чаще всего мы будем рассматривать числовые случайные функ-
функции, т. е. (Х,$) у нас будет числовой прямой R1 с а-алгеброй
борелевских множеств Шх (или комплексной плоскостью с со-
соответствующей а-алгеброй борелевских множеств).
Когда Т — подмножество действительной прямой, а пара-
параметр t интерпретируется как время, вместо термина «случайная
функция» употребляется термин случайный процесс (когда Т
состоит из целых чисел, говорят также о случайной последова-
последовательности). Мы будем заниматься в основном случайными про-
процессами, а не случайными функциями на'более сложных мно-
множествах Т. Вместо случайный процесс говорят иногда вероят-
вероятностный или стохастический] иногда мы будем говорить просто
процесс (ведь никаких процессов, кроме случайных, мы не рас-
рассматриваем).
2. Введем некоторые основные понятия, связанные со слу-
случайными функциями.
В функции I* (со) мы можем зафиксировать элементарное
событие со и получить функцию g. (со). Это — уже неслучайная
функция от t e Т\ она называется реализацией случайной функ-
функции (еще выборочной функцией; для случайных процессов
также траекторией).
Наоборот, зафиксировав t еГ, мы получим случайную ве-
величину. В связи с понятием эквивалентности случайных величин
вводится следующее определение. Случайные функции |* и т]ь
определенные на одном и том же Т и одном и том же

14 ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 1
вероятностном пространстве (?2, ЯГ, Р) и принимающие значе-
значения в одном и том же пространстве (X, Jf), называются стоха-
стохастически эквивалентными, если они совпадают почти наверное
при любом фиксированном U при любом t P {lt ф r\t} = 0.
Согласно общему духу теории вероятностей, пренебрегаю-
пренебрегающей событиями, имеющими вероятность 0, считается, что под-
подмена изучения некоторой случайной функции изучением какой-
либо другой эквивалентной ей случайной функции не наносит
ущерба теории и не влияет на практические применения.
Далее, если lf при любом t e T — случайная величина, то
(?*,> •••> Ъп) при любых tu ..., tn^T — случайный вектор,
принимающий значения в (Х'г, $п). Его распределение Ф^ ,..., it
мы будем кратко обозначать Otv ..., tn'.
Эти распределения при всевозможных tu ..., tn^T носят на-
название конечномерных распределений случайной функции.
Конечномерные распределения имеет смысл рассматривать и для различ-
различных th ..., tn, и когда некоторые из них совпадают. Однако распределения
Ф^ ... t i Для которых какие-то из tu ..., tn совпадают, легко найти через
конечномерные распределения, соответствующие
попарно различным элементам Т. Так, скажем,
Otts(A) = Q}ts(B), где В=*{(х,у): {х$ х, у) е
g^)gI2 (t, seJ, t^s, A e= ^3).
\Щ ~ Легко видеть, что если две случай-
I ные функции стохастически эквивалент-
I ны, то их конечномерные распределения
I * совпадают (но, конечно, не наоборот).
Что касается реализаций, то они могут
0 ? ff, быть у стохастически эквивалентных слу-
Рис 2 чайных функций совершенно различными.
Например, пусть Г=[0, 1] и пусть дана
случайная вел шина т, 0 < т < 1, с непрерывным распределением.
Положим ?г^0; % = 0, если t=?x, %=1, еслч t = x. Эти слу-
случайные процессы стохастически эквивалентны: Р fe^rfe} = Р {t =
= ^} = 0; траектории r\t имеют разрыв в точке т, а любая траек-
траектория It — тождественный нуль (рис. 2).
§ 1.2. Примеры случайных процессов.
Винеровский процесс
В этом параграфе мы ознакомимся с рядом примеров слу-
случайных функций; чтобы знакомство было теснее, предлагаются
задачи, связанные с этими случайными функциями. В задачах
речь идет в основном о конечномерных распределениях — это
единственное, что мы пока что знаем о случайных функциях.

§ 1.2] ПРИМЕРЫ СЛУЧАЙНЫХ ПРОЦЕССОВ 15
1. Задача 1. Пусть Л, ц и ф — случайные величины, причем Л, ц неот-
неотрицательны и имеют произвольное совместное распределение, а ф не зависит
от них и имеет равномерное распределение на отрезке [0, 2л). Рассмотрим
случайный процесс g* « A cos (t)t + q>), / е Т в /?1.
Докажите, что его конечномерные распределения не меняются при любом
сдвиге времени: Ф^ +л> <>#$ ^ +/i =ss ^/ ,...» * Для любого действительного А.
Это — случайное синусоидальное колебание — процесс, рас-
рассматриваемый в связи с различными приложениями.
2. Назовем пуассоновским процессом с параметром а
(а > 0) случайный процесс & на Г = [0, оо), обладающий сле-
следующими свойствами:
0. §о = О.
1. Для любых 0 ^/0 < t\ < • • • < tn случайные величины
Ьх — Ьо> Ь2 — Ьх> ..., hn — Ьп__х независимы.
II. Случайная величина Б* —15, O^s^f, имеет распределе-
распределение Пуассона с параметром a(t — s)f т. е.
Р {lt -ts = i} = (a (t - s)Y е~* «-*Щ I = 0, 1, 2, ...
Задача 2. Пусть все траектории пуассоновского процесса
непрерывны справа. Докажите, что тогда почти все траекто-
траектории— неубывающие целочисленные функции, возрастающие
только скачками величины 1.
Указание. Доказать, что события
А аяв {|j — целые для всех двоично-рациональных t, т. е. t = k/2n},
В=»{|^<|^ для всех двоично-рациональных /
_ / Для всех Дель1х / от 0 до %N существует
N 1 двоично-рациональное t е [0, ЛГ] такое, что It
1
имеют вероятность 1, для чего приблизить их событиями, касающимися лишь
конечного числа величин ?*.
Решение (не читайте, не попытавшись решить сами!). Со-
Событие А является счетным пересечением событий вида At =
= {It — целое}; имеем
оо
Р {It - целое} = Р{|,-|о — целое} = Ц Р {lt -10 = г}= 1,
поэтому и P(i4)=I. Событие В — пересечение последователь-
последовательности событий

16 ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. ?
р {^+D/2n ~ hi2n > °} = 1> поэтому 1 = Р (Вп) = Р (В). Далее,
2яЛГ-1
см э П {Wo/2« ~ W1 = 0 или 1};
поэтому (в силу I, II)
или O^
P(cN)> П
Но ?-а + «^""а — 1 —' о (а) при а -> О, поэтому Р (CN)
[(X при я-*оо, и Р(С„)=1.
Наконец, событие, состоящее в том, что It — неубывающая
целочисленная функция, возрастающая только скачками вели-
величины 1, совпадает (в силу не-
непрерывности g* справа) с со-
событием АВ f]CNi так что его
N
вероятность равна 1.
График выборочной функ-
функции выглядит таким образом
(рис. 3). Обозначим через ti,
Т2, ... моменты первого скач-
скачка, второго и т. д. Нужно ска-
сказать точнее (потому что тра-
ектория имеет вид, указанный
t на рис. 3, не для всех шеО,
а лишь для почти всех, а слу-
случайная величина должна быть
определена для всех со): хп =
= min {t 5? 0: It — п], причем если таких t нет, полагаем %п =
= +оо. Введенные нами хп — случайные величины (принимаю-
(принимающие значения на отрезке [0,+оо]); действительно, {тп ^ t) —
Впоследствии мы докажем, что случайные величины %и
Х2 — Ti, ..., хп — Тп-ь ... независимы и имеют показательное
распределение с параметром а.
Пуассоновский процесс играет важную роль в различных приложениях,
в частности в теории массового обслуживания. Например, он является хоро-
хорошей математической моделью для числа вызовов, поступивших на телефонную
станцию к моменту / (эта функция возрастает скачками величины 1, и ее при-
приращения — числа вызовов на неперекрывающихся промежутках времени —
можно считать независимыми, пренебрегая малыми эффектами, вызываемыми,
скажем, повторными вызовами при отказе). Для описания числа автомобилей,
с которыми к моменту t произошли аварии на данном участке дороги, пуас-
Рис. 3.

§ 1.2] ПРИМЕРЫ СЛУЧАЙНЫХ ПРОЦЕССОВ 17
ооновский процесс не подходит: в аварии зачастую участвуют две машины
или больше, и функция, считающая аварийные автомобили, может сразу де-
делать скачок на две, а то и на три единицы.
3. Произведем независимое от пуассоновского процесса g*
бросание монеты и определим новый случайный процесс % сле-
следующим образом: если монета выпадет гербом, положим
4* = (—1L а если решкой, г)^ = (—1)^+1. Траектории процесса
K)i имеют следующий вид (рис. 4; на нем изображен случай,
когда монета выпадает
решкой).
Задача 3. Найдите конечно-
конечномерные распределения процесса
т)*, t ^ 0.
I I
о Е rz\ \r,
4. Очень важным для ' *
нашей теории примером яв- !
ляется винеровский процесс. Рис. 4.
Этот случайный процесс
служит в каком-то приближении моделью движения частицы под
действием хаотических ударов молекул; поэтому его называют
броуновским движением.
Винеровским процессом, выходящим из О, называется слу-
случайный процесс wu 0 ^ t < сю, обладающий свойствами:
0. w0 = 0.
1. Для любых 0 ^ to < ti < ... < tn случайные величины
Wt —wt , wt —wt , ..., Wt —Wt независимы.
II. Случайная величина wt—-wSf O^s^.tt имеет нормаль-
нормальное распределение с математическим ожиданием 0 и дисперсией
i — 5 (короче: с параметрами @, t — 5)).
Если заменить требование ш0 = 0 на ш0 = ху мы получим определение
винеровского процесса, выходящего из точки х. В гл. 8 и следующих мы бу-
будем рассматривать одновременно все винеровские процессы, выходящие из
разных точек, — это будет пример марковского семейства случайных процес-
процессов Однако пока ограничимся процессом, выходящим из 0.
Выпишем конечномерные распределения винеровского про-
процесса. Для 0 < t{ < t2 < .. ¦ < tn совместное распределение
wtl$ ..., wtn будет иметь плотность pWf Wf : случайный век-
вектор (wt , . ¦., wt ) подучается невырожденным линейным пре-
преобразованием из вектора &w — (wt—wt, Wt—Wt •••> wt —wt fV
имеющего плотность

18 основные понятия [гл. i
(здесь /о = О, i0/e = 0). Можно выписать плотность pw ,..., w.
пользуясь формулой, выражающей плотность распределения
вектора, получаемого из вектора | линейным преобразованием А:
но мы получим тот же результат, пользуясь условными плот-
плотностями распределения:
Pwf. о>/ \Х\> • • •> Хп) ==:
Первая плотность — безусловная — равна плотности wtl — wt9t
т. е., согласно II, Bя^)~/2 е **' !. Что касается последую-
последующих, мы воспользуемся следующей леммой (выражающей,
если вдуматься, факт, соответствующий нашей интуиции).
Задача 4. Пусть ?, ц — случайные векторы со значениями
соответственно в /?w, Rn\ предположим, что существует совме-
совместная плотность распределения р%г\{х,у), а стало быть, и услов-
условная плотность Ръ(х\г) = у). Пусть f(y) — борелевская функция
из Rn в Rm\ положим Z = l~\-f(r\). Тогда существует плотность
Ptv\(x>y)> причем условная плотность Pt(x\r\ = y) получается
из Рь(х\к\ = у) сдвигом на /(*/), т. е. подстановкой в эту плот-
плотность х — f(y) вместо х:
Конечно, это равенство нужно понимать с точностью до мно-
множеств меры 0 (или так: один из вариантов условной плотности
задается этой формулой).
Полагая 1 = хб)^—гю^19г\ = (хл)^9 ...,0^), f(yu •••> ^-i)==
= ^-i» ?=Щ9 получаем
= Pwti-wti_i{xi-Xi-x\Wtl=-Xu ..., ^., = ^-1). A)
Но wti — wti_j не зависит от wtl — wtn = wtlyWt2 — wtly...
•••» Wti-t~~Wti-2> а значит> и от wtx> Wt2> •••» wh-v ПОЭТОМУ
условная плотность A) равна безусловной

$ 1.2] ПРИМЕРЫ СЛУЧАЙНЫХ ПРОЦЕССОВ 19
Отсюда получаем
Pwtr... wfn(xlf ..., Хп) =
— BTctl)" e l' 1 • [2я (t2 — tt)] е ' 2 **' ' ' 2~~ *' ... X
X [2я (tn trt—i)J в л п—и/ п п—\)%
или (полагая ^о===О, д:0 = 0)
ТТ 1/2 f V^ (*!-*! .J 1
= ТТ [2я (*, - ^-i)]/2 ехр \ - У -Vtt ^Т \ • B)
Итак, конечномерные распределения винеровского процес-
процесса — гауссовские.
Условия 0—II в определении винеровского процесса можно
заменить условиями 0 и B).
Существование винеровского процесса будет доказано в гл. 5.
Будет доказано также, что траектории винеровского процесса
можно сделать непрерывными, перейдя, если надо, к стохасти-
стохастически эквивалентному ему процессу.
Докажем одно интересное свойство винеровского процесса.
Микротеорема. Сумма квадратов приращений винеров-
винеровского процесса, соответствующая разбиению а — t0 < t\ < ...
... <tn — b отрезка от а до Ь, сходится к b — а в среднем
квадратическом при измельчении разбиения:
1. i. m. Yj (wtt+i ~~ шиJ==Ь ~~" a' C)
Доказательство. Сосчитаем математическое ожидание
и дисперсию суммы в C). Имеем
/1-1 П-\
в силу независимости wt.+l — wt., / = 0, 1, ..., я—1,
п-1 п-1
D .Z (t»/j+I - ш,.J= Е D (а»//+1 - ш,.J =
% (wti+l - wtiy - (М (wt{+l - w
"Z [3 (ti+l - kf - (ti+l - nf\=2 "E {tl+l - f,J.
iQ i0

20 ОСНОВНЫЕ ПОНЯТИЯ [ГЛ, I
л-1
Но последняя сумма не превосходит max (ti+l — t?) • ? C*+i — U) =
= F — a) • max (^+1 — tt)y что, по предположению, стремится
Eo(^+1 — wtiJ—{b—a)^ =D
к 0. Итак, ___ _
?=ЭЧ
при измельчении разбиения, т. е. сходимость в среднем квадра-
тическом имеет место.
То, что мы говорим дальше, относится к винеровскому процессу с непре-
непрерывными траекториями.
Мы видим, что винеровская случайная функция обладает свойством, не-
непривычным для функций, с которыми мы обычно имели дело: приращение
гладкой функции имеет тот же порядок, что приращение аргумента, и сумма
квадратов приращений стремится к 0; а для функций, изменяющихся скач-
скачками, такая же сумма стремится к сумме квадратов скачков на отрезке от а
до Ь, и предел не зависит непрерывным образом от а, Ъ (эти два случая
имеют место, в частности, для траекторий случайных функций во всех рас-
рассмотренных ранее примерах). Чтобы построить непрерывную (не случайную)
функцию, обладающую подобным свойством, пришлось бы проявить много
изобретательности.
Пример непрерывной, но нигде не дифференцируемой функции строится
не очень просто, а винеровские траектории, как можно доказать, почти все
являются такими функциями.
Кстати, заметим, что из доказанной микротеоремы не вытекает, что для
почти всех траекторий винеровсксго процесса lim ^ (w^ — wt*Y при из-
измельчении разбиения отрезка от а до Ь будет существовать: из сходимости
в среднем квадратическом вытекает сходимость по вероятности, но не сходи-
сходимость почти наверное; можно лишь утверждать, что для какой-то последова-
последовательности разбиений с вероятностью 1 этот предел существует и равен Ь — а.
Задача 5. Обозначим через ап @ ломаную с вершинами в точках
k/2n, J] (wii+\)/2n~~ Wil2nY )' Д°кажите' что последовательность случай-
случайных функций an(t) с вероятностью 1 сходится к t равномерно на любом ко-
конечном отрезке [0, Т].
Полученное нами свойство процесса wt показывает, что, по-
видимому, Wt будет обладать неограниченной вариацией на лю-
любом отрезке. Предлагается связанная с этим задача.
Задача 6. Докажите, что при измельчении разбиения сумма абсолют-
абсолютных величин приращений w% сходится по вероятности к оо, т. е. для любого
положительного А
при max (/г+i — ti) -> 0.
Указание. Найти математическое ожидание и дисперсию суммы; вос-
воспользоваться неравенством Чебышёва,

§ 1.2] ПРИМЕРЫ СЛУЧАЙНЫХ ПРОЦЕССОВ 21
5. Многомерный винеровский процесс (выходящий из 0)—>
случайный процесс wu / ^ 0, со значениями в (Rr,<%r)t удовле-
удовлетворяющий условиям 0, I п. 4 и условию
1Г. Случайный вектор wt — ws, 0 ^ s ^.t, имеет нормальное
распределение с математическим ожиданием 0 и матрицей ко-
вариаций (t — s)E (E — единичная матрица порядка г).
Такой процесс можно представлять себе как г независимых
друг от друга винеровских процессов:
Задача 7. Пусть wt = (до), ..., wfy , t <= [0, оо), — r-мерный винеров-
винеровский процесс, w0 = 0. Докажите, что любое событие из а-алгебры #"!, порож-
порожденной случайными величинами wt, t ^ 0, любое событие из а-алгебры 3~2Г
порожденной случайными величинами w2v ..., и любое событие из определен-
определенной аналогичным образом ог-алгебры ^т независимы.
Задача 8. Докажите, что, когда максимальный отрезок разбиения
a = to<ti< ... <tn = b отрезка от а до b стремится к 0, V (w\ — ш!ЛХ
^(wb — wti) -^ 0 в среднем квадратическом.
6. Процессом Коши (выходящим из 0) называется случай-
случайный процесс It, 0 ^ t < сю, удовлетворяющий условиям 0, I
пункта 2 и условию
II". Приращение h+h — h имеет распределение с плотностью
р (х) = n~lh/ (h2 + х2) (распределение Коши).
Задала 9. Выпишите конечномерные распределения процесса Коши.
7. Пусть |i, ..., ?п, ... — независимые случайные величины
с одной и той же непрерывной функцией распределения F(x),
Обозначим через F*n (х), — оо < х < оо, эмпирическую функ-
функцию распределения, вычисленную по наблюдениям &, ..., \nt
r>t t \ ЧИСЛО {^i ^Х, 1 ^ / ^ п]
Fn(x) = .
Так как & случайны, то ясно, что F*n(x), x^R1, будет слу-
случайной функцией. Что это будет за случайная функция?
Прежде всего, оказывается, что случайная функция Yn (t) =
= F*n (i7" (*)) — t,t& [0, 1] (где F~l — обратная к F функция,
т. е. F(F~l(t))= t), имеет одни и те J4 к
же конечномерные распределения для ^Р nTV J4^ Nwhv—Г
любой непрерывной F. Траектория \^ ^ \j
этой случайной функции имеет такой ^
вид (рис. 5): она делает h скачков Рис.5,
вверх величины 1/п, а в промежутках между ними убывает с уг~
ловым коэффициентом —1.
Ясно, что Yn(t) при /г~>оо стремится к 0 со скоростью по-
ряда 1/уп, так как это разность частоты и соответствующек
вероятности. Имеет место следующий интересный результат.

22 основные понятия [гл. i
Задача 10. При п—>-оо все конечномерные распределения случайного
процесса V^^«@» f s [0, 1], сходятся к гауссовским распределениям.
Оказывается, эти предельные распределения являются конечномерными
распределениями некоторого процесса Z(t), 0 ^ t ^ 1, с непрерывными траек-
траекториями. Это показывает путь, на котором можно найти асимптотические рас-
распределения различных функционалов от эмпирической функции распределения,
используемых в математической статистике; например, статистики Колмого-
Колмогорова Уя* sup \f*(x) — F(x)\= sup \л/n-Y„{t)\ . Вывод асимпто-
тического распределения разбивается на две части: доказательство того, что
"Р { sup | л/п *Yn(t) \>х) -> Р { sup I Z (t) | >х}, и нахождение послед-
ней вероятности.
8. До сих пор мы рассматривали случайные функции лишь
с числовым параметром t: T^Rl\ читатель легко придумает
примеры, где Т ^ R2t и т. п. Рассмотрим пример случайной
функции с гораздо более «экзотической» областью определения.
Пусть на вероятностном пространстве (Й,#~, Р) задана слу-
случайная величина ?, причем М |?|< <х>. Обозначим через S мно-
множество всех под-а-алгебр а-алгебры ST. Для любой а-алгебры
^G=g (т. е. $Ф<^@~) определено условное математическое
ожидание М (?| ^), причем определено, вообще говоря, не един-
единственным способом (хотя любые два варианта М (| | si) равны
друг другу с вероятностью 1). Поставим в соответствие каждому
^eg случайную величину \л — произвольный вариант М (? | s4).
Тогда \л, <& ^ 3, — случайная функция.
Если мы выберем какие-либо другие варианты условных ма-
математических ожиданий, то новая случайная функция будет
стохастически эквивалентна прежней.
Задача 11. Докажите, что система случайных величин \^ Л^.%% рав-
равномерно интегрируема.
§ 1.3. Обзор методов теории случайных процессов
Можно классифицировать разделы теории случайных про-
процессов по применяемым методам и соответственно по тому, ка-
какие именно стороны в изучаемых процессах являются объектом
нашего внимания.
1. Случайный процесс является функцией от ^еГ со зна-
значениями в множестве всех случайных величин. Для него можно
изучать те же вопросы и теми же методами, как в теории функ-
функций, в математическом анализе. Так, раздел книги М. Лоэва
«Теория вероятностей», ИЛ, М., 1962, посвященный случайным
процессам, носит название «Элементы случайного анализа». По-
Пожалуй, это название следует отнести только к части теории,
где изучаются понятия сходимости, непрерывности случайных
функций, производной, интегралов и т, п. Некоторое отличие

§ 1.3] ОБЗОР МЕТОДОВ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ 2?
от обычной теории состоит в том, что здесь нет фиксированного
одного естественного понятия сходимости, а рассматриваются
различные виды сходимости, соответственно непрерывности,
производной и т. п.
Из пространств случайных величин, рассматриваемых в та-
таких аналитических задачах, для нас важнейшим является евкли-
евклидово пространство интегрируемых в квадрате случайных вели-
величин L2(Q, ST, Р). Скалярное произведение определяется в нем
так:
F, 4)=M6ij.
Если случайная функция %t при любом /gJ интегрируема в
квадрате, то определено скалярное произведение
Эта функция от двух переменных задает g*, t^T, однозначно
с точностью до изометрического линейного преобразования про-
пространства L2.
По-видимому, не имеет смысла рассматривать только мо-
моменты второго порядка М?*15, не рассматривая момента пер-
первого порядка; поэтому в качестве характеристик интегрируемой
в квадрате случайной функции вводятся математическое ожи-
ожидание М?* и корреляционная функция K(t,s) (или Kt(t, s)>
или Kn(t> s))t которая определяется как ковариация случайных
величин it и lSi t, sgT:
Значение K(t9s) при 5 = t — это не что иное, как дисперсия &.
Корреляционная функция очень простым образом связана-
с начальными моментами:
К (t,s)= МЫ.-MhW.
или, через скалярные произведения,
K(t,s) = (lit Ь)-(?/. 0A.6.).
Математическое ожидание и корреляционная функция задают
случайную функцию однозначно с точностью до изометриче-
изометрического линейного преобразования L2, оставляющего на месте
вектор 1.
Задача 1. Докажите, что любая корреляционная функция
обладает свойством неотрицательной определенности: для лю-
любых комплексных Cj и любых tj е Т сумма 2 cfikK (fy> tk)
/i к
ствительна и неотрицательна.

24 ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 1
Легко вывести такие свойства корреляционных функций, как \ К {t> s) | ^
<Ч*, t)K (s, s), K(s, t)~K(t, s)n т. д.; но все подобные свойства яв-
являются следствиями свойства неотрицательной определенности (оно, как мы
увидим в дальнейшем, необходимо и достаточно для того, чтобы функция
могла быть корреляционной).
Если имеется две случайных функции g*, t e Г, и r\t, t еГ, можно рас-
рассмотреть их взаимную корреляционную функцию
U s) = cov Ци %).
Совместная корреляционная функция ^ и r^, t e Г, определяется как
матричная функция
и s)
Легко понять, как определяется совместная корреляционная функция более
чем двух случайных функций.
Раздел нашей теории, занимающийся только моментами
первых двух порядков, — корреляционная теория случайных
функций — это самый простой раздел. Случайные процессы
здесь рассматриваются, в сущности, как кривые в гильбертовом
пространстве. В рамках корреляционной теории мы можем рас-
рассматривать только линейные функции от случайных величин
(или линейные преобразования случайных функций), потому
что, например, зная Щ и Dg, мы еще не знаем М sin21. Для
многих понятий теории случайных процессов существуют их
упрощенные аналоги, касающиеся только первых двух момен-
моментов. Обычно такие понятия обозначают тем же термином, но
с добавлением слов «в широком смысле»; так, независимость
«в широком смысле» — это некоррелированность и т. п.
Комплексные случайные величины мы рассматриваем здесь вовсе не из-за
стремления к предельной общности. Дело в том, что наибольшие достижения
корреляционной теории относятся к стационарным случайным процессам (см.
§ 4 этой главы и гл. 4). Этому объекту случайного анализа в обычном ана-
анализе отвечают скорее всего периодические функции, а разложение периодиче-
периодических функций в ряд Фурье значительно лучше выглядит в комплексной
форме
Задача 2. Найти математические ожидания и корреляционные функции
для случайных функций примеров пп. 1—4, б—7 § 2.
Задача 3. Найдите корреляционную функцию для случайной функции
вида ?* = YiMO+ ••• +Y/i/?n(O» гДе fu ••-, fn — произвольные числовые
функции от t е= Г, a Yi» • • -f Y« — некоррелированные случайные величины
-с дисперсиями d\, ..., dn.
Методы, упомянутые в этом пункте, мы будем рассматривать
в гл. 2—4.
2. С другой стороны, lt((o) можно рассматривать как функ-
функцию от со, принимающую значения в пространстве функций,
и изучать эту функцию со->|.((о) теми же методами и с тех же
точек зрения, как это делается в теории обычных случайных
величин или случайных векторов. Двумя основными группами

§1.3]
ОБЗОР МЕТОДОВ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ
понятий здесь являются понятия, касающиеся а) распределе-
распределений и б) независимости и зависимости,
а) Для случайной функции можно рассматривать вероят-
вероятности вида Р {?. е А}, где А — множество в бесконечномерном
функциональном пространстве. Частный случай таких вероят-
вероятностей— конечномерные распределения. (В частности, вероят-
вероятность вида Р {(Ц, ..., ltn) е Гг X ... X ГЛ} — это вероятность
того, что траектория |. пройдет через ряд вертикальных «ворот-
цев», — см. рис. 6). Некоторые разделы теории имеют дело
только с конечномерными рас-
распределениями не выше опре-
определенного порядка (с не более
чем двумерными распределе-
распределениями имеет дело корреляци-
корреляционная теория, а также доволь-
довольно значительная часть теории
марковских процессов, связан-
связанная с теорией полугрупп).
Что касается собственно
бесконечномерных распреде- ~
лений, то здесь есть несколь-
несколько групп задач.
ai) Мы знаем, что в конеч-
конечномерном случае вероятности
Р{?еЛ}, где А—любое борелевское множество, однозначно
определяются заданием функции распределения, т. е. вероятйо-
стей событии вида {ii^xb..., In^^}. Будут ли конечномерные
распределения играть аналогичную роль для бесконечномер-
бесконечномерного случая? Мы увидим, что ответ положительный для беско-
бесконечномерных борелевских множеств. Однако многие представ-
представляющие интерес множества в пространстве функций оказы-
оказываются не борелевскими; например, множество всех функций на
отрезке от 0 до 1 с верхней гранью, не превосходящей какой-
нибудь константы с. Действительно, в примере, приведенном
в конце § 1, у случайных процессов g* и t]t одни и те же
конечномерные распределения, но Р{ sup ?*^1/2}=1, а
Рис. 6.
Р{ sup %<!1/2} = 0; если бы множество функций с верхней
о<* < 1
гранью, не превосходящей 1/2, было борелевским, этого не могло
бы быть. Для какого-нибудь случайного процесса ?* множество
{sup ?* ^ с) может вообще не быть случайным событием и не
иметь вероятности.
Далее, мы знаем, какими свойствами должна обладать
функция, чтобы она была функцией распределения; аналогично
возникает вопрос: какими свойствами должна обладать система

26 ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. I
распределений, чтобы она была системой конечномерных рас-
распределений какой-либо случайной функции? Ответ дает тео-
теорема Колмогорова (см. § 5.1).
аг) Для конечномерных распределений бывает, что случай-
случайная величина (вектор) почти наверное принимает значения из
какого-то множества Л, не совпадающего со всем Rl (Rn). Так,
для вырожденного нормального распределения в Rn в качестве
А можно взять линейное многообразие меньшего числа измере-
измерений; для показательного распределения Л = [0, оо), для рас-
распределения с канторовской функцией в качестве функции рас-
распределения А — канторовское множество. В конечномерном
случае обычно легко узнать, будет Р{?еЛ} = 1 или нет; для
бесконечномерного случая та же проблема — узнать, будут ли
при почти всех со реализации (выборочные функции) принадле-
принадлежать такому-то множеству, или: будут ли почти все реализации
обладать таким-то свойством — более сложна.
Если Т счетно, все представляющие интерес множества
-функций оказываются бесконечномерными борелевскими мно-
множествами, например: множество функций, имеющих предел при
i->oo; множество всех неубывающих функций; множество всех
функций, удовлетворяющих условию Липшица с данной кон-
константой, и т. п. Для таких множеств Р {?. е А} полностью
определяется конечномерными распределениями, так что можно
ставить вопрос так: обладают ли почти все реализации про-
процесса с данными конечномерными распределениями таким-то
свойством} В принципе задача разрешима, но может быть
трудной.
Сюда относятся, например, результаты типа усиленного закона больших
чисел, указывающие условия, при которых lim (li + ... + ?я)/я = 0 с ве-
П->оо
роятностью 1 (для простоты предполагаем М^ = 0). Здесь идет речь о по-
попадании 6, в множество последовательностей, для которых среднее арифмети-
арифметическое первых п членов стремится к 0 при п -+- оо. Заметим, что обычный за-
<кон больших чисел сюда не относится (!).
Для несчетного Т ситуация еще сложнее. Здесь самые инте-
интересные множества в пространстве функций оказываются не боре-
борелевскими— от множества функций с верхней гранью, не пре-
превосходящей су рассмотренного в п. ai), и всех множеств, приве-
приведенных в качестве примеров выше, до множества всех непре-
непрерывных функций или множества, состоящего из одной только
функции, тождественно равной нулю. Для этих множеств ве-
вероятность Р {?. е А} может вообще не иметь смысла, и уж
во всяком случае она не определяется однозначно конечномер-
конечномерными распределениями (как показывает все тот же пример § I).
Таким образом, естественная постановка задачи о «свойствах
<, вероятностью 1» — такая: существует ли процесс с данными

§ 1.3] ОБЗОР МЕТОДОВ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ 2Г
конечномерными распределениями, реализации которого почти
все обладают такими-то свойствами?
Со «свойствами с вероятностью 1» связана группа теорем, известных под
названием законов нуля или единицы (О—1). Теоремы этой группы утверж-
утверждают, что при таких-то условиях (связанных с характером взаимной зависи-
зависимости значений случайной функции) все события из такой-то а-алгебры имеют
либо вероятность 0, либо 1. Те а-алгебры, о которых идет речь в законах 0—1,
обычно получаются предельным переходом из а-алгебр, порожденных случай-
случайным процессом (см. § 3.1); доказательство теорем такого рода может со-
состоять в установлении того, что любое событие из рассматриваемой а-алгебры.
не зависит само от себя.
аз) Заметное отличие теории бесконечномерных распределе-
распределений от конечномерных состоит в том, что, тогда как важным
классом конечномерных распределений являются распределе-
распределения, имеющие плотность, в бесконечномерном случае такого
класса нет. Дело в том, что в конечномерном случае есть мера
Лебега — особая мера; в частности, инвариантная относительно
сдвигов и вращений и преобразующаяся простым образом при
аффинных преобразованиях. В бесконечномерном случае такой
привилегированной меры нет. Можно рассматривать плотности,,
но одних распределений относительно других. Не то, чтобы это
сильно усложняло теорию, но это придает ей непривычный вид.
Конкретные результаты в этой области (установление абсолютной непре-
непрерывности или сингулярности одного распределения относительно другого, на-
нахождение плотности) могут получаться предельным переходом от конечно-
конечномерного случая (см. § 5.3, а также § 7.3).
б) Для исследования зависимости в теории случайных про-
процессов развит специальный аппарат.
Прежде всего, это различные семейства а-алгебр, связанные со случай-
случайным процессом (см. § 3.1). Для многих случайных процессов существенна за-
зависимость будущего и прошлого — некоторые из вводимых а-алгебр конкрети-
конкретизируют неопределенно-интуитивное понятие будущего, другие — прошлого, и
пользуясь ими, мы можем дать точную математическую формулировку задачи.
Далее, оказывается, характер зависимости будущего от прошлого, имею-
имеющий место, если под настоящим понимать произвольный фиксированный мо-
момент времени, может измениться, если настоящее — случайный момент вре-
времени. В связи с этим вводится класс случайных моментов времени — случай-
случайных величин, принимающих значения в множестве Т (или в Г, пополненном
несобственной точкой + оо),— так называемых марковских моментов. Это,,
грубо говоря, такие случайные моменты т, что ко времени т известно, насту-
наступило уже т или нет. Пример не марковского момента: ?* — числовая случай-
случайная функция на Т = [0, 1] с непрерывными реализациями; т(со)—то значе-
значение /, для которого ?<(о) максимально (если таких значений несколько, бе-
берем, скажем, наименьшее). К моменту т мы еще не знаем, будет ли \% наи-
наибольшим значением, — это определится лишь к моменту t = 1. Пример мар-
марковского момента (не претендующий на полную точность): момент первого
достижения какого-нибудь множества, т. е. т(о>) = mm{t е Т: §* (со)е Г}, при-
причем если таких t нет, то т полагается равным + оо.
Оказывается, некоторые свойства зависимости будущего от прошлого со-
сохраняются для марковских моментов. Чтобы уточнить это утверждение, вво-
вводятся еще новые а-алгебры случайных событий (см. гл. 6).

28 ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. Г
3. Можно изучать ^(ш), (еГ, ©ей, как любую функцию
двух переменных. К функциям двух переменных относится, в
сущности, только одна общая теорема — теорема Фубини; од-
однако она составляет обоснование приема замены математиче-
математического ожидания интеграла интегралом от математического ожи-
ожидания, который позволяет получить большое число серьезных
результатов.
Этот прием — в более простом варианте замены математического ожида-
ожидания суммы суммой математических ожиданий — с успехом применяется в эле-
элементарной теории вероятностей; так, в применении к математическому ожи-
ожиданию биномиального распределения он дает п-@-<7 + \-р) вместо более
сложного ? k • C^pkqn"k.
Важным понятием, относящимся к этой области, является
измеримость случайной функции.
Пусть на Т задана а-алгебра s&\ случайная функция \% на-
называется измеримой, если функция ^(со) измерима по паре
(?, со) относительно а-алгебры ^Х^« Если Т счетно, то любая
случайная функция автоматически измерима (в качестве $?
берется а-алгебра всех подмножеств Г). При несчетном Т для
измеримости случайной функции недостаточно, чтобы Ъ{®) при
любом фиксированном t было ^-измеримо (это выполняется
автоматически), а при любом фиксированном о ^-измеримо
по t (хотя это и необходимо). Достаточное условие измеримости
дает следующая задача.
Задача 4. Пусть Т — отрезок числовой прямой (или интер-
интервал, или полуинтервал), s4> — $T — система борелевских под-
подмножеств Т. Пусть X — метрическое пространство, $=$х — а"
алгебра его борелевских подмножеств, ?*, t^T, — случайный
процесс со значениями в (Х93$х)* Докажите, что для измеримо-
измеримости процесса достаточно, чтобы все выборочные функции были
при всех t непрерывны справа (или слева).
Следующая микротеорема — приспособление к случайным
функциям теоремы Фубини и в доказательстве не нуждается.
Микротеорема. Пусть ?*, tеГ,-измеримая {относи-
{относительно а-алгебры s4> на Т) случайная функция; \1—мера на (Г, $$-).
Пусть хотя бы один из интегралов \ М | It I й (<#) или
т
М \ ||/1p,(dt) конечен. Тогда
т
\ A)
Рассматривать свойство измеримости случайных функций приходится не
только в связи с теоремой Фубини.

§ 1.4] ВАЖНЕЙШИЕ КЛАССЫ СЛУЧАЙНЫХ ПРОЦЕССОВ 29
Задача 5. Пусть g^ /ef,- случайная функция; на множестве Т за-
задана сг-алгебра s4>, и случайная функция ^ измерима. Пусть т (со) — случай-
случайный элемент (Т, <Л). Докажите, что \х == \х (Ш) (со) — случайная величина.
Для неизмеримого случайного процесса его значение в случайный момент
времени вовсе не обязано быть случайной величиной.
4. Разумеется, можно изучать случайные процессы, комби-
комбинируя методы пп. 1—3, или применять методы^специально вы-
выдуманные для какого-либо узкого класса процессов; но об этом
мы будем говорить не здесь.
§ 1.4. Важнейшие классы случайных процессов
В теории случайных процессов выделяются различные широ-
широкие классы случайных функций; эти классы, вообще говоря,
пересекающиеся.
1. Случайная функция \и t^T, принимающая значения в
(X, 9$) = (R\ $l) — или (Rn, $п), — называется гауссовской, если
все ее конечномерные распределения — нормальные (гауссов-
ские), т. е. случайный вектор (^ , ..., |^) имеет нормальное
распределение при любых tu ..., tk^T.
Примеры, приведенные в § 2, — не гауссовские случайные
функции, за исключением примеров, связанных с винеровским
процессом (см. формулу B) § 2), и примера 1.
Задача 1*. Выясните, при каких условиях на случайные величины Л,
t] процесс It примера 1 § 2 — гауссовский.
Многомерная центральная предельная теорема является основанием того,
что гауссовские случайные функции иногда оказываются в каком-то смысле
предельными для сумм возрастающего числа независимых случайных функций.
Таков пример 7 § 2 (выясните, какие случайные функции нужно складывать,
чтобы получить Fn (х)).
2. Мы говорим, что числовой (или векторный) случайный
процесс lu tеГsZ?1, — процесс с независимыми прираще-
приращениями, если его приращения на неперекрывающихся отрезках
не зависят друг от друга: для t0 ^ t\ ^ ... ^ tny t{ e Г, слу-
случайные величины
независимы.
Рассмотренные в § 2 пуассоновский, винеровский процесс, процесс Коши —
процессы с независимыми приращениями (это входит в их определение —
требование I). Другой класс примеров относится не к произвольному Гд/?1,
а к Г = Z+ = {0, 1, 2, ...}: последовательность gn с независимыми прираще-
приращениями, go = 0 — это не что иное, как последовательность сумм независимых
случайных величин gt = ^ — |Оэ |2 — 1ь • • •
2'. Соответствующее понятие «в широком смысле»: случай-
случайный процесс It, M|g*P<oo, называется процессом с некорре-

30 ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. I
лированными приращениями, если его приращения на непере-
неперекрывающихся отрезках некоррелированы, т. е. для t0 ^ t\ ^
^ h ^ U имеем
Достаточно потребовать только некоррелированности ?*, — %Uf
I/2 — hi Аля любых t0 ^ tx ^ t2. Действительно, в этом случае
ДЛЯ А)<*1^2<*3
cov Aи — ?/0, In — I/,) =
= cov (ttl — %и, lh — |л) — cov (lu — ?,0, &, — lh) = 0.
Если математические ожидания всех рассматриваемых случайных величин
равны 0, то некоррелированность совпадает с ортогональностью относительно
скалярного произведения (|, т|) = M|fj, так что говорят о процессах с ортого-
ортогональными приращениями. Это — кривые в гильбертовом пространстве, обла-
обладающие таким свойством: части кривой, отвечающие значениям параметра,
меньшим или равным какого-то / и большим или равным t, лежат в ортого-
ортогональных друг другу линейных многообразиях. В конечномерных пространствах
таких кривых (непрерывных) нет.
Если h,t — процесс с независимыми приращениями, М| %t |2 <
<оо,то он также является и процессом с некоррелированными
приращениями; если %t — гауссовский процесс с некоррелиро-
некоррелированными приращениями, то это также и процесс с независимыми
приращениями.
Такое соотношение между понятиями «в узком смысле» и
«в широком смысле» типично; см. далее.
3. Стационарные процессы. Мы говорим, что случайный про-
процесс \и t^T^Rlr является стационарным, если для любого
действительного h его конечномерные распределения не меняют-
меняются при сдвиге на h:
Ф;, tn=Ot^h.....in+h9 A)
если только tb ..., tn> /j + A, ..., tn-\- h^T.
В той мере, в какой теория случайных процессов отражает какие-то яв-
явления реального мира, понятие стационарности случайного процесса отражает
идею неизменности условий, в которых протекает процесс. Математическими
моделями многих практически важных процессов, содержащих в себе эле-
элементы неопределенности, с разумной степенью приближения могут служить
стационарные процессы. Так, это понятие может быть полезным, если речь
идет о колебаниях движущегося с постоянной скоростью экипажа (но не того
же экипажа при торможении) или о последовательности знаков (букв) ка-
какого-либо текста.
Конечно, понятие стационарного процесса важно и с чисто математической
точки зрения.
В качестве множества Т значений временного параметра
чаще всего рассматривают Z?1, или /?+= [0, сю), или множество
Z1 всех целых чисел, или Z+ = {0,1,2,...}, или натуральный ряд
{1,2,...} (в последних трех случаях говорят о стационарных
последовательностях).

§ 1.4] ВАЖНЕЙШИЕ КЛАССЫ СЛУЧАЙНЫХ ПРОЦЕССОВ 31
Из примеров, рассмотренных в § 2, стационарными являются
процессы примеров 1, 3.
3'. Числовой случайный процесс ^называется стационарным
в широком смысле, если у него существуют первые и вторые
моменты и они не меняются при сдвиге:
Mtt+h = MZt, K(t + h, 5 + А) = /С (/, s). B)
Легко видеть, что условия B) равносильны тому, что М^
не зависит от tt а корреляционная функция зависит только от
разности t — s:
Здесь вторая функция, которую мы тоже обозначили буквой /С,
носит название корреляционной функции стационарного про-
процесса:
В корреляционной функции стационарного процесса аргумент t
имеет смысл разности двух моментов времени.
Если стационарный процесс имеет два первых момента, то
он, как легко понять, будет стационарным и в широком смысле;
для гауссовских процессов оба понятия совпадают.
Стационарные процессы мы будем иногда называть стацио-
стационарными процессами в узком смысле (если нужно будет под-
подчеркнуть их отличие от стационарных в широком смысле).
Задача 2. Пусть wu t ^ О, — винеровский процесс, выходящий из нуля.
Положим %ь*=>е~гхю 2^, — оо<*<оо. Докажите, что \t — стационарный про-
процесс; найдите его корреляционную функцию.
Стационарные процессы в широком смысле допускают интересную интер-
интерпретацию в терминах геометрии гильбертова пространства: это почти то же
самое, что винтовые линии в гильбертовом пространстве интегрируемых
в квадрате случайных величин. Винтовая линия — это такая линия, которую
можно двигать саму по себе, совмещая любую точку с любой; для этого необ-
необходимо и достаточно, чтобы при определенном выборе параметра на кривой
скалярные произведения (|^ — \t<t \t^ — |^g) не менялись при любом сдвиге tL,
t2, /з> U- Для стационарных процессов это, конечно, выполнено, так что все
стационарные процессы в широком смысле — винтовые линии, но не все вин-
винтовые линии в гильбертовом пространстве — стационарные в широком смысле
процессы. Легко проверить, что стационарные в широком смысле процессы —
это те и только те винтовые линии в гильбертовом пространстве, которые ле-
лежат на поверхности сферы вида {х: (х, х) = о + т2, (х% 1) = т}.
3". Обобщения стационарных процессов. Однородное (или стационарное)
случайное поле — случайная функция на множестве Т = Rn, удовлетворяю-
удовлетворяющая условию A) для произвольного вектора h. Однородное изотропное
поле — это такое, для которого конечномерные распределения не меняются не
только при сдвиге, но и при вращении вокруг любой точки. Вообще, можно
рассматривать случайные функции, конечномерные распределения которых ин-
инвариантны относительно той или иной группы преобразований множества Т.
Более сложно понятие однородного изотропного векторного поля: это —
случайная функция g(f) на Т ===,Rn со значениями в (Rnt $tn)t удовлетворяю-

32 ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 1
щая условию A) и такая, что для любого вращения g совх\:естное распределе-
распределение g~ll(gti), .•., g^^igtn) совпадает с совместным распределением
%(ti)t ...» ? (tn)- Разумеется, можно рассматривать однородные изотропные
тензорные поля (постарайтесь дать определение, если вы знакомы с тензо-
тензорами) и дальнейшие обобщения в этом направлении.
Случайный процесс It называется процессом со стационарными прираще-
приращениями, если у него не меняются при сдвиге to, tu •.. * tn на h совместные рас-
распределения приращений lt — %t , lt — lt , ..., lt ~lt • Процессами со ста-
стационарными приращениями являются, конечно, все стационарные процессы,
процессы примеров 2, 4, 5, 6 § 2 (но не все процессы с независимыми прира-
приращениями) и, например, такой процесс:
lt = A cos (ц* + ф) + а* + р,
где ф не зависит от (Л, г\9 а, Р) и имеет равномерное распределение на [0, 2я).
Можно дать определение процесса со стационарными приращениями вто-
второго порядка, под которое подойдет, в частности, тот же процесс с добавкой
случайной параболы, и т. д.
Понятие стационарности приращений, как и понятие стационарности, от-
отражает представление о неизменности условий протекания процесса, но
по-другому. Процессы (и поля) со стационарными приращениями, не являю-
являющиеся стационарными, возникают при построении математической модели та-
таких физических явлений, как, например, турбулентность. Так, хорошей мо-
моделью поля скоростей турбулентного потока оказывается изотропное векторное
случайное поле со стационарными приращениями.
Ясно, каковы соответствующие понятия «в широком смысле». В частности,
процессы со стационарными в широком смысле приращениями — это в точ-
точности винтовые линии в гильбертовом пространстве.
4. Другой чрезвычайно важный (и с точки зрения теории,
и для возможных приложений) класс случайных процессов —
класс марковских процессов. Это — такие процессы, в которых
будущее и прошлое при фиксированном настоящем независимы,
или, если выразить то же самое несимметричным относительно
направления времени образом, — те, в которых будущее зави-
зависит от прошлого только через настоящее.
Эту общую идею можно превратить в точное математиче-
математическое определение, причем даже не одним способом. Определе-
Определения будут даны в гл. 8.
Мы увидим, что процессы примеров 2, 4, 5, 6 § 2 (процессы с независи-
независимыми приращениями) окажутся марковскими процессами; также примеры 3,
7, но не 1.
Задача 3. В примере 7 § 2 докажите, что для х\< ... < хг < ... < хт
P{F*n{xl)^klln> /e1»---» '-1» <+ Ь..., т I F*n (xi) = kiln) e
= Р К (*/) = *//"• /- 1. • •.. * - 11 /? (*<) = Ь/п) X
Хр К (*/) = *//"• /e/+ I*—т|^Ю = **/»}¦
У классов стационарных и марковских процессов есть до-
довольно обширное и интересное пересечение; об этом см. § 8.7.
5. О некоторых других классах случайных процессов (мар-
(мартингалы, суб- и супермартингалы) см. гл. 75

Глава 2
«Элементы случайного анализа»
§ 2.1. Сходимости, непрерывности, производные,
интегралы
1. Для случайных величин, как уже говорилось, рассматри-
рассматривают не один какой-то вид сходимости, а много различных ви-
видов. В соответствии с этим мы рассматриваем различные виды
непрерывности, производной и т. п. Однако сначала мы дадим
некоторые критерии сходимости в терминах конечномерных
распределений.
Микротеорема 1. Пусть М|^Р<оо при всех t. Для
того чтобы существовал l.i.m. g* при t—>to (или при ?—»оо),
необходимо и достаточно, чтобы существовал конечный предел
Mlils nPu t> S->t0 (или t, S->oo).
Заметим, что это условие можно заменить на условие су-
существования конечных пределов Mg* при /->^о и корреляцион-
корреляционной функции K(t,s) при t, s->t0.
Доказательство. Необходимость — тривиальное след-
следствие непрерывности скалярного произведения по паре аргу-
аргументов. При этом lim Mlils— М| 1. i. m. g* p (соответственно
lim Mlt= M 1. i. m. gb a lim К [t9 s) — дисперсия этой случай-
ной величины).
Для доказательства достаточности проверим выполнение
условия Коши:
lim М|&-Б,р= lim [М||,Р - M&L - МЦ, + М|?,р] = 0.
Задача 1. Докажите, что ряд J] \п из некоррелированных случайных
величин сходится в среднем квадрэтическом тогда и только тогда, когда схо-
оо оо
дятся ряды 2 Щп, Yj D%n'
n=l rv=\
Микротеорема 2. Для того чтобы существовал предел gf
в смысле сходимости по вероятности при t-+t0 (или при /-> оо),
необходимо и достаточно, чтобы существовал предел при
2 А. Д. Вентцель

'34 ЭЛЕМЕНТЫ СЛУЧАЙНОГО АНАЛИЗА [ГЛ. 2
/, s-±t0 (цли при t, 5->oo) двумерных распределений Ф^, |5 в
смысле слабой сходимости.
Доказательство. Необходимость. Пусть lt-^-^Ц {t-*tQ);
тогда случайный вектор (lt, ls)—> (т|, т)) при tt s—>tQ. Но из
сходимости по вероятности вытекает слабая сходимость распре-
распределений, значит, Ф^, is -> Фт], х\.
Достаточность. Заметим, что если t, s-+t0) то 5 может сов-
совпадать с t. Так как распределение (?*, &) сосредоточено на бис-
биссектрисе первого и третьего координатных углов, то и предель-
предельное распределение сосредоточено на этом множестве (дока-
(доказать!). Рассмотрим неотрицательную непрерывную функцию
действительного аргумента /8, равную 1 вне е-окрестности нуля
и 0 в нуле. Имеем (по неравенству Чебышёва)
Но fe(x,y)—непрерывная функция двух переменных, причем
ограниченная; поэтому при /, s-+t0 интеграл справа стремится
к \ и?^""!/)^^^)' гДе Ф — предельное двумерное распре-
R2
деление. Так как оно было сосредоточено на множестве {* = */},
то интеграл равен 0 и выполняется условие фундаментальности
по вероятности.
Задача 2. Пусть 5ь ..., ?я> •••—независимые случайные величины,
имеющие одинаковое распределение с Mg/ = O, Dg/ = cr2>0. Известно, что
существует предельное распределение для ?ai = Ei+ ••• 4-?«)/o>V^
(стандартное нормальное распределение). Существует ли lim (P) t,n?
П->оо
Задача 3. Докажите, что если g/ — стационарный процесс, то
lim (Р) ?/ не существует, за исключением случая, когда процесс g/ эквива-
лентен постоянному по t: P \%t = |^J = 1.
2. Теперь займемся понятиями непрерывности.
О непрерывности в смысле сходимости почти всюду, так же, Как далее
в этом параграфе о дифференцировании^ интегрировании в смысле сходимо-
сходимости почти всюду, мы не будем здесь говорить: это связано со свойствами реа-
реализаций с вероятностью 1, которые мы будем рассматривать в гл. 5.
Непрерывность в смысле сходимости по вероятности назы-
называется стохастической непрерывностью; это самый слабый из
рассматриваемых видов непрерывности.
Случайная функция %и tsTt называется стохастически не-
непрерывной в точке to^T, если ?/~^>?*0 при t-*t0. Стохасти-
Стохастическая непрерывность случайной функции, как легко понять,

§ 2.1] НЕПРЕРЫВНОСТИ, ПРОИЗВОДНЫЕ, ИНТЕГРАЛЫ 35
относится к свойствам, однозначно определяемым ее двумер-
двумерными распределениями; конкретные примеры процессов, кото-
которые мы приводили, являются стохастически непрерывными (если
имеет смысл об этом говорить), несмотря на то, что их реали-
реализации могут быть разрывными, — например, пуассоновский про-
процесс. Это происходит потому, что разрывы на каждой реализа-
реализации— в своих точках, и вероятность того, что разрыв будет
именно в данной точке t, равна 0.
Следующая задача делает понятным то, что, рассматривая процессы
с независимыми приращениями, мы не рассматриваем процессов с независи-
независимыми значениями.
Задача 4. Пусть |t, t е [0, 1], — случайный процесс, такой, что все ct
независимы друг от друга и имеют одинаковую плотность распределения р.
Докажите, что этот процесс не стохастически непрерывен ни в какой точке.
Ясно, как определяется непрерывность в среднем.
Предлагается доказать следующие .микротеоремы, из кото-
которых первые обобщают известные свойства непрерывных функ-
функций, а последние две дают критерии непрерывности в терминах
двумерных распределений.
Задача 5. Если случайная функция %t схотастически не-
непрерывна на компактном множестве А ^ Г, то она равномерно
стохастически непрерывна на этом множестве, т. е. для любого
е > 0 и любого г] > 0 существует б > 0 такое, что Р{|^ —
— Is | ^ е} < л для t, s (= А, р (/, s) < fi.
, Задача 6. Если случайная функция ^ непрерывна в сред-
среднем в степени р ^ 1 на компактном Л, то она равномерно не-
непрерывна в среднем в степени р на этом множестве. (Мы не
даем определения равномерной непрерывности случайной функ-
функции в среднем, но указываем только, что эта равномерная не*-
прерывность определяется, как для любой функции, принимаю-
принимающей значения в нормированном пространстве.)
Задача 7. Если случайная функция |* непрерывна в сред-
среднем в степени р ^ 1 на ко мл акте Л, то существует константа
С < оо такая, что М|It\р ^ С при <еЛ.
Задача 8. Для того чтобы случайная функция ?* была
стохастически непрерывна на множестве Г, необходимо и до-
достаточно, чтобы распределение Ф^, %s было слабо непрерывно
по паре (t,s) на множестве Ту(Т.
Задача 9. Для того чтобы случайная функция |* была не-
непрерывна в среднем квадратическом на множестве Г, необхо-
необходимо и достаточно, чтобы была непрерывна по (/,s) на Т\Т
функция Mltls, или же чтобы М?* было непрерывно по t,
а корреляционная функция K(t,s) — по паре своих аргументов.
Микротеоремы задач 6, 7 сохраняются для функций в про-
произвольном банаховом, а 9 — в произвольном евклидовом

36 ЭЛЕМЕНТЫ СЛУЧАЙНОГО АНАЛИЗА [ГЛ. 2
пространстве; доказательство можно провести совершенно так
же, как для числовых, функций.
3. Ясно, что производная случайного процесса определяется
как предел (?*+& — h)/h при /i^O в смысле соответствующей
сходимости. Естественно, из дифференцируемости в среднем (по
вероятности) вытекает соответствующая непрерывность. Усло-
Условия дифференцируемости по вероятности и в среднем квадра-
тическом нам дают микротеоремы п. 1; так как при примене-
применении этих микротеорем должна идти речь о совместных рас-
распределениях &t+h — h)/h и (h+h'—h)/h'f т0 дифференцируемость
по вероятности — свойство, определяемое конечномерными рас-
распределениями процесса, не выше чем третьего порядка (диффе-
(дифференцируемость в среднем квадратическом, как и все свойства,
относящиеся к корреляционной теории, — распределениями не
выше чем второго порядка). Рассмотрим примеры дифференци-
дифференцирования в различных смыслах.
Винеровск'ий процесс не дифференцируем даже в смысле
сходимости по вероятности. Действительно, будь он дифферен-
дифференцируем в какой-то точке t, существовал бы слабый предел рас-
распределения (wt+h—®>t)lh при А->0, а это — нормальное рас-
распределение со средним 0 и дисперсией |/i|-1->cx), и оно при
Л->0 уходит на — со и со.
Процесс примера 1 § 2 дифференцируем по вероятности
(разумеется — раз он обладает дифференцируемыми траекто-
траекториями), а также в среднем в степени р, если М (Л • г\)р < со.
Пуассоновский процесс дифференцируем по вероятности, но
не дифференцируем в смысле сходимости в среднем ни в какой
степени р^\. Действительно, легко видеть, что lim (P) (§*+л—
л-» о
— 1*)/А = 0, ибо с вероятностью 1 эта дробь равна 0 при всех
достаточно малых А. Значит, предел в среднем, если он суще-
существует, тоже должен быть нулевым почти наверное. Но матема-
математическое ожидание р-й степени модуля отношения приращений
>{+h} при Л-»0.
, Этот пример показывает, что нет большого смысла строить
наш «случайный анализ», основываясь на понятии дифферен-
дифференцирования по вероятности: ведь для того, чтобы можно было
развивать сколько-нибудь далеко идущие теории, нужно, чтобы
функция однозначно с точностью до константы определялась
своей производной (это нужно, в частности, для вывода фор-
формулы Ньютона — Лейбница), а этой однозначности здесь нет.
Напротив, для сходимости в среднем такая однозначность имеет
место:
Задача 10. Пусть ft — функция на числовой прямой или
какой-либо ее части, принимающая значения в банаховом про-
пространстве. Если для всех t^[ayb] существует производная этой

§ 2.1] НЕПРЕРЫВНОСТИ, ПРОИЗВОДНЫЕ, ИНТЕГРАЛЫ 37
функции f? = lim (ft+h — ftVh в смысле сходимости по норме в
ft->0
этом пространстве и ft=O на отрезке [а, 6], то ft = fa при
t<=[a,bl
Посмотрим на дифференцирование случайных процессов
с точки зрения корреляционной теории.
Задача 11. Докажите следующую микротеорему: для того
чтобы случайный процесс |* был непрерывно дифференцируем
в среднем квадратическом на интервале (а, 6), необходимо и
достаточно, чтобы функция М^|5 обладала на множестве
(а,Ь)Х(а,Ь) непрерывной смешанной производной второго по-
порядка по t и s (или чтобы Mlt было непрерывно дифференци-
дифференцируемо по t и существовала непрерывная смешанная производ-
производная d2K(tys)/dtds от корреляционной функции).
Из доказательства автоматически получается, что
d2K(t,s)/dt ds — корреляционная функция процесса !-,*. Более
того, легко находится совместная корреляционная функция про-
процесса и его производной:
1г (t, s) кп, (/, 5
Аналогично можно выписать совместную корреляционную
функцию процесса и его производных до второго порядка, если
?" существует, и т. д.
Задача 12. Пусть g*— стационарный (в широком смысле) процесс-
с корреляционной функцией K(t) = (I + \t\ + t2/3)e~^K Сколько раз он
дифференцируем в среднем квадратическом?
Задача 13. Пусть ?*, —оо <; t < оо, — случайный процесс р нулевым
математическим ожиданием и корреляционной функцией K(t, s)=est. Уста-
Установите, что он бесконечно дифференцируем в среднем квадратическом, и най-
найдите матрицу ковариаций случайных величин g—lf |__j, ?__j, |0, gj.
Что касается конечномерных распределений |?, то найти совместное
распределение ?#,..., |* можно, зная совместные распределения %t \
\ п 1
L ,t , ..., L , \± ,h при малых /ь, .... /г„, т. е. 2/г-мерные распределе-
ния самого процесса. При этом можно найти также совместное распределе-
распределение |/ , ..., %t , |/ , ..., gj как слабый предел распределений
1 п \ п
Точно так же можно найти совместные распределения значений |^, |^, ^
в « точках, но только здесь не обойтись 2д-мерными распределениями
процесса ^ (вопрос к читателю: достаточно ли Зм-мерных распределений?).
Итак, все такие задачи разрешимы, но могут быть довольно громоздки.

38 ЭЛЕМЕНТЫ СЛУЧАЙНОГО АНАЛИЗА [ГЛ. 2
Задача 14*. Пусть двумерные распределения Ф/5 случайного про-
процесса |/, 0^*^ 1, задаются при s Ф t плотностью
если \х\,\у\<1,
| arcsin х + arcsin у | > л — | / — s |;
если | а: |, | # |< 1,
| arcsin л; + arcsin # | ^ я — | ? — s |,
[ arcsin x •— arcsin y\ <\t — s\;
в остальных случаях.
Докажите, что этот процесс дифференцируем в среднем квадратическом. Най-
Найдите распределение %t.
Задача 15. Пусть |*— гауссовский стационарный процесс с корреля-
корреляционной функцией K(t) = 1/A + /2), М|* = 0; он дифференцируем в сред-
среднем квадратическом. Найдите совместное распределение g0> ?0.
4. Теперь обратимся к интегрированию. Как определить
ь
%tdt7 Если случайный процесс непрерывен в смысле выбран-
а
ного вида сходимости, интеграл естественно определить как
предел интегральных сумм
при измельчении разбиения а = ?0 < U < ... < ?n_i <C tn = b
в смысле соответствующей сходимости, где 5г- — произвольная
(не случайная!) точка между U и ^-+,ь
Оказывается, как и в случае дифференцирования, здесь все
хорошо в случае сходимости в среднем (р^\) и плохо для
сходимости по вероятности, что показывают следующие две
задачи.
Задача 16. Докажите, что если процесс g* непрерывен
ь
в среднем на [а, Ь\ то существует \ lt dt в смысле сходимости
в среднем. и
Задача 17. Пусть Г = [0,1], т —случайная величина, рав-
равномерно распределенная на этом отрезке; g^ = 0 при t <c: т
и ^t=l/(t — т) при t > т. Докажите, что этот процесс стоха-
стохастически непрерывен на отрезке [0,1], а \^й в смысле сходи-
о
мости по вероятности не существует.
При решении задачи 16 можно повторять доказательства
интегрируемости числовой функции, используя равномерную не-
непрерывность (задача 6); только нужно выбрать доказательство,
не использующее верхних и нижних сумм, а состоящее в непо-

§ 2.1] НЕПРЕРЫВНОСТИ, ПРОИЗВОДНЫЕ, ИНТЕГРАЛЫ 39
средственной проверке выполнения условия фундаментальности.
' Соответствующая микротеорема справедлива в любом банахо-
банаховом пространстве»
Разумеется, можно определять несобственные интегралы в
среднем как пределы соответствующих интегралов по меньшим
отрезкам; теория здесь совершенно аналогична той части тео-
теории римановских интегралов, которая не использует понятий,
связанных с неравенствами между числами (а только между
абсолютными величинами, чему в банаховом пространстве со-
соответствуют нормы). Например, если функция \t непрерывна
оо
в р-среднем на интервале @, оо) и \ (М | \t f)l/p di< 00, то
о
оо
существует несобственный интеграл \hdt в смысле сходи-
сходимости в среднем в степени р. °
Выполнены также теоремы о дифференцировании интеграла
от непрерывной функции по верхнему пределу или о дифферен-
ъ
цировании интеграла \F(t, s)%sds по / и т. п.; имеет место
а
формула Ньютона — Лейбница.
Пользуясь этим, мы можем получить новые примеры диф-
дифференцируемых в среднем случайных функций; например, если
lt — пуассоновский процесс, то для lt = \ lsds имеем ?? = ^.
о
Определение интеграла в среднем никак не связано со свойствами реали-
реализаций случайной функции: реализации интегрируемой в среднем случайной
функции могут быть неинтегрируемы. Если все (или почти все) реализации
интегрируемы, то все равно мы должны различать, с одной стороны, интеграл
ъ
в среднем — обозначим его (Lp) \ g* dt — случайную величину, определяемую
а
как предел в среднем интегральных сумм; с другой стороны, функцию, ставя-
ставящую в соответствие элементарному событию со значение интеграла вдоль
ъ
траектории \ %t (<*>) dt (мы не можем, восбще говоря, утверждать, что это —
а Ь
случайная величина). Ёудет ли (Lp)\\tdi с вероятностью 1 совпадать с
Ь а
\ It dt, вычисленным отдельно вдоль каждой реализации?
а
Если >все реализации интегрируемы по Риману, ответ на этот вопрос по-
положителен. Действительно, ?р-интеграл является пределом интегральных сумм
в среднем, а стало быть, и по вероятности; с другой стороны, интеграл вдоль
каждой реализации — это предел тех же самых сумм, причем это выполнено

40 ЭЛЕМЕНТЫ СЛУЧАЙНОГО АНАЛИЗА [ГЛ. 2
для любого элементарного события. Из сходимости всюду также вытекает
сходимость по вероятности, и совпадение почти наверное обоих интегралов
следует из единственности предела по вероятности (точнее, почти-единствен-
ности). В случае интегрируемости по Риману интеграл, вычисленный вдоль
каждой реализации, оказывается случайной величиной (т. е. измеримой функ-
функцией от ш) как предел последовательности интегральных сумм.
В частности, рассмотренный выше интеграл от пуассоновского процесса
можно понимать как интеграл вдоль каждой реализации. Заметим, что траек-
траектории процесса ?* не дифференцируемы, а лишь кусочно дифференцируемы*
хотя ?* дифференцируемо в среднем в любой степени.
Если реализации g* не интегрируемы по Риману, они все же могут быть
интегрируемы по Лебегу, и перед нами стоит вопрос о совпадении риманов-
римановского интеграла в среднем с лебеговским интегралом вдоль каждой реали-
реализации.
Задача 18. Пусть случайная функция !•*, t е [а, 6], измерима и непре-
непрерывна в среднем в степени р ^ 1. Тогда почти наверное
(Ь \ Ъ
(LP)\\ g, Л )(©)«$?,(©) Л, A)
Чг ' а
где слева стоит интеграл в среднем, а справа — интеграл, определенный от-
отдельно для каждой реализации.
В гл. 2, 4 рассматриваются только интегралы в среднем, в последующих
главах — интегралы вдоль каждой реализации. В силу задачи 18, для измери-
измеримых случайных функций это не приведет ни к каким недоразумениям.
Зная все конечномерные распределения случайного процесса \и мы мо-
ь
жем в принципе найти распределение \ \* dt или совместное распределение
а
этой случайной величины с величинами того же рода, значениями |^, %t
и т. п.; но ничего такого же простого, как с производными, здесь нет. Нахож-
Нахождение распределения интеграла от случайной функции сводится к нахождению
предельного распределения сумм возрастающего числа случайных величин
%s,'^if причем ни о какой независимости или ослаблении зависимости между
ними нет и речи. Находить такие распределения иногда удается обходными
путями (см. для марковских процессов § 10.3, п. 4).
5. В отличие от задачи нахождения распределений интегра-
интегралов от случайных функций, задача нахождения их первых и
вторых моментов достаточно проста.
Микротеорема 3. Пусть ?(/)— непрерывная в среднем
квадратическом случайная функция, М 11(^) |2 < со. Тогда
AUt\dt, B)
COV
/Ь d \ Ь d
covf J | @ dt, \ I (s)ds \ = J J Kn it, s) dt ds.
>Л И ' П. С
D)

$ 2.1] НЕПРЕРЫВНОСТИ, ПРОИЗВОДНЫЕ, ИНТЕГРАЛЫ 41
Доказательство. Прежде всего, если B) доказано,
формулы C), D) равносильны таким:
E)
а а
Ь d Ъ d
и
Формулы B), E) легко получаем из непрерывности скалярного
произведения по первому аргументу; например, B):
ъ
Ы \l (t) dt = М 1. i. m. ? % (Sl). (ti+l -
a
(l. i. m. ^ l(st) • (*,+, - tt), l) = Hm (^ I (st) ¦ (tl+l - tt),
b
= lim ^ M| (st) ¦ (ti+1 -h)=\ Ml (t) dt.
Формула F) получается применением того же приема к E),
с использованием непрерывности скалярного произведения по
второму аргументу.
Формулы B) — F) остаются справедливы и для несоб-
несобственных интегралов; доказательство состоит в том же исполь-
использовании непрерывности скалярного произведения в применении
к предельному переходу от собственных интегралов к несоб-
несобственным.
Совершенно так же доказывается формула
. /Ь d
covl\f(t)t(t)dt,
^а с
Ъ d
= \ \f(t)W)K^(t,s)dtds. G)
а с
Пусть теперь А — линейный интегральный оператор:
ъ
Af(t)=\A(t,s)f(s)ds. (8)

42 ЭЛЕМЕНТЫ СЛУЧАЙНОГО АНАЛИЗА [ГЛ. 2
Рассмотрим соответствующий интегральный оператор, приме-
применяемый к случайным функциям:
и
AUt)=\A(t,s)l(s)ds,
где интеграл понимается в среднеквадратическом смысле. Из
формул B), G) вытекает следующее правило преобразования
среднего и корреляционной функции при интегральном преоб-
преобразовании случайной функции:
Математическое ожидание A%(t) получается применением
оператора А к функции М?(.), а корреляционная функция —
применением к корреляционной функции Кц (•>•) оператора
А как к функции от t при фиксированном s и оператора А, ком-
комплексно-сопряженного к Л, по s при фиксированном t:
(9)
9 s). A0)
Здесь индексы у Л и Л означают неременные, по которым при-
применяется оператор. Комплексно-сопряженный оператор опреде-
определяется формулой
Если применить оператор А к Kib(t,s) лишь по первому
аргументу, получается взаимная корреляционная функция слу-
случайных функций Л?(.) и ?(.):
s)\ A1)
это вытекает из формулы C).
То же самое правило было получено нами и для дифферен-
дифференцирования; легко получить, что оно годится и для линейных,
операторов, содержащих любые комбинации производных и ин-
интегралов, например: Л* (t) = 1{а (*)) + Ь (t) I' (t) + с (t) I" (t) +
4- J B(t,s)l'(8)ds,
6. Задача 19. Найдите совместное распределение wt и \ wsdsy
о
еровский процесс),
ча 20. Пусть wu t ^ t), — винеровский процесс. Докажите, чта
"~5 — 2е2 ^"~5)) ws ds существует как интеграл в среднем квадрата-
j

§ 2.2] СТОХАСТИЧЕСКИЕ ИНТЕГРАЛЫ 43
ческом, и найдите математическое ожидание и корреляционную функцию про-
процесса gfc t ^5 0.
Задача 21. Пусть ?* — стационарный процесс с Mg^ = 0 и корреляцион-
ной функцией K(t). Выразите М
лкь
ltdt
2
через K(t). Установите харак-
о
тер предельного поведения этого математического ожидания при Т-*-оо для
случая абсолютно интегрируемой от —оо до + оо функции K(t).
Задача 22*. Докажите, что винеровский процесс до* представляется
при 0 <Г t < я/2 рядом Фурье wf = ]Г Хп sin B/г — 1) t, где Хп — независи-
независимые случайные величины. Найдите ЪЛХп, ОХп.
7. У читателя может возникнуть вопрос: справедливо ли правило, сфор-
сформулированное в п. 5, для линейных операторов, не представляющихся в виде
комбинации дифференцирований, умножений на функции и интегральных опе-
операторов? Оставим этот вопрос без ответа, укажем только, что на него я
нельзя ответить прежде, чем будет уточнена его формулировка. Дело в том,
ь
что -77- \ (t) или \ A (tt s) I (s) ds — не просто применение к случайной функ-
а
ции оператора дифференцирования или оператора, задаваемого формулой (8).
Здесь существенным элементом является перенесение определения дифферен-
дифференцирования (интегрирования) на случайные функции, с заменой входящих
в определения пределов пределами в среднем квадратическом. Поэтому здесь
возникает много предварительных вопросов, которые нужно разрешить или
обойти: как для линейного оператора построить его аналог «в среднем квад-
квадратическом», который можно будет применять к интегрируемым в квадрате
случайным функциям? для каких операторов это можно сделать? и т. п.
§ 2.2. Стохастические интегралы
от неслучайных функций
Значительно более специфичными для теории случайных
ь
процессов, чем интегралы \ \t dt, являются стохастические ин-
а
Ь
тегралы \ f{t)dlt. Такие интегралы не имело бы смысла вводить
а *
для дифференцируемых случайных функций gf: можно было
ъ
бы взять вместо этого \ / (/) %'t dt. Мы будем рассматривать
а
стохастические интегралы относительно процессов с некоррели-
некоррелированными приращениями, а такие процессы недифференци-
руемы.
Идея введения интегралов относительно процессов с некоррелированными
приращениями фактически состоит в том, что случайная величина представ-
представляется в виде «суммы бесконечного числа бесконечно малых некоррелирован-
некоррелированных слагаемых», что соответствует общему духу теории вероятностей.

44 ЭЛЕМЕНТЫ СЛУЧАЙНОГО АНАЛИЗА [ГЛ. 2
1. Прежде всего мы займемся изучением процессов с некор-
некоррелированными приращениями.
Пусть It, t^T^R1, — процесс с некоррелированными при-
приращениями. Будем для простоты считать, что Mg*s=0 (для
того чтобы в ковариациях можно было не вычитать математи-
математического ожидания). Докажем, что существует неубывающая
функция F(t), t^Ty такая, что приращение ?* — ?«, s<Ct, s,
^еГ, имеет дисперсию, равную F(t) — F(s).
Пусть ^ — произвольный элемент множества Г. Для t = t0
функцию F положим равной 0; для t>t0 положим F(t) —
= M|g,— gj2, для t<t0 определим F(t) как — M|g,— lu\\
Доказав, что
F(t)-F(s), A)
мы тем самым докажем и монотонность F. Для to^s<t имеем
Обе сопряженные друг другу ковариации по предположению
равны 0, а М |g5 — ltt\2 = F(s)9 откуда получаем A). Для
s <t^t0 выкладка точно такая же, с использованием того, что
?ffl — ls представляется в виде суммы двух некоррелированных
приращений по меньшим промежуткам. Если s < t0 < t, то
M\llfM\llJ + M\l^ F(t)F()
Легко понять, что процесс с некоррелированными прираще-
приращениями тогда и только тогда непрерывен (непрерывен справа,
соответственно слева) в среднем квадратическом, когда„ непре-
непрерывна (непрерывна справа, слева) функция F. Пределы в сред-
среднем квадратическом на +оо или на —-оо существуют тогда
и только тогда, когда F(-\-oo)<c оо, соответственно F(—оо)>>
'>— оо.
Задача 1. Докажите, что любой процесс с некоррелированными прира-
приращениями с нулевым математическим ожиданием имеет пределы в среднем
квадратическом слева и справа в любой точке t0 e Т.
2. Пусть ?* — процесс с некоррелированными (ортогональ-
(ортогональными) приращениями с нулевым математическим ожиданием,
определенный на отрезке числовой прямой от а до Ь, включаю-
включающем эти концы или нет (а, Ь могут быть равны — оо, +°°)-
Предположим, что ^ непрерывно справа в среднем квадрати-
квадратическом; тогда функция F(t)9 задающая дисперсии приращений,
цорождает конечную или а-конечную меру на рассматриваемом
отрезке такую, что мера полуинтервала (s,t] равна F(t)—F(s).

§ 2.2] СТОХАСТИЧЕСКИЕ ИНТЕГРАЛЫ 45
Мы определим стохастический интеграл
ъ
B)
для любой (неслучайной) функции f^L2(dF) (т. е. интегри-
интегрируемой в квадрате относительно dF(t)).
Прежде всего определим интеграл для ступенчатых функ-
функций: f(t) =/о при * <*ь f(t) = h при *i<* <*2, .,., /@=/n-i
при fn_i
= /n при / > fn, где а <
< b. Если конец а или b
не включается в рассмат-
рассматриваемый отрезок, то мы _^
будем рассматривать ~* 5 Jf Tz . • • ta^ tn b
только функции с /о = 0, рис 7#
соответственно f п = О
(рис. 7). Для таких функций совершенно естественным образом
положим
i{f) = tn{l4+l-ht), C)
где под t0 подразумевается а, а под tv+i — &. В силу нашего
соглашения относительно /о, /п то, что & может быть не опреде-
определено в а или в й, не влияет на определение интеграла. Заметим
также, что определение C) корректно: если функция / по-раз-
по-разному представляется в виде ступенчатой (ввиду того, что зна-
значение функции на соседних ступеньках может быть одно и то
же), на выражение C) это не влияет. Совершенно ясно, что
/(/) линейно зависит от /:
D)
Я
Далее, легко видеть, что М/ (/) = О, М | / (/) р = 2 | ft |2 X
X>(F(ti+l)--F(tt)). По-другому это выражение для дисперсий
можно переписать так:
ъ
M\Hf)f=\\f(t)?dF(t). E)
а
Задача 2. Докажите, что для ступенчатых функций fug
ъ
а

46 ЭЛЕМЕНТЫ СЛУЧАЙНОГО- АНАЛИЗА [ГЛ. 2
Это означает, что у нас имеется изометрическое (а значит,
и взаимно однозначное) соответствие между множеством сту-
ступенчатых функций в гильбертовом пространстве L2(dF) и не-
некоторым множеством в пространстве L2(d?) интегрируемых
в квадрате случайных величин. Это соответствие единственным
образом продолжается по непрерывности на замыкания этих мно-
множеств: функции f^L2(dF), являющейся пределом в среднем
квадратическом последовательности fn ступенчатых функций,
ставится в соответствие /(f) = l. i. m./(fj. Этот предел суще-
ствует в силу принципа Коши; чтобы доказать, что I{f) не за-
зависит от выбора последовательности fn—+f, берем две такие
последовательности и составляем из них одну, перемежая члены.
В результате каждой функции f из замыкания множества
ступенчатых функций в L2(dF) ставится в соответствие случай-
ъ
ная величина /(f)=\/(t)dlt- Но это замыкание совпадает со
а
всем L2(dF) (читатель должен научиться доказывать это!), по-
поэтому интеграл B) определен для всех интегрируемых в квад-
квадрате функций.
Свойства стохастического интеграла получаются предельным
переходом от ступенчатых функций: равенство D) выполняется
почти наверное; математическое ожидание стохастического ин-
интеграла равно 0,, а дисперсии и ковариации задаются форму-
формулами E), F).
Ясно, что если функция F(t) непрерывна слева, то стохастический инте-
интеграл строится точно так же, но в качестве исходных берутся функции, по-
постоянные на полуинтервалах, замкнутых слева.
3. Менее элементарные свойства стохастических интегралов. В следующих
задачах |* — процесс с некоррелированными приращениями с М^ = 0, и дис-
дисперсии его приращений задаются непрерывной справа функцией F(t).
Задача 3. Пусть It — процесс на отрезке [а, Ь] (включая концы), функ-
функция /(/) непрерывна на этом отрезке. Тогда
при измельчении разбиения а = t0 < ti < ... < tn < tn+i = b (st- — произ-
произвольная точка между t\ и t%+\).
Из результата задачи 3 легко вывести правило интегрирования по частям:
если / непрерывно дифференцируема, то
а а
(последний интеграл в среднем квадратическом).

§2 2] СТОХАСТИЧЕСКИЕ ИНТЕГРАЛЫ 47
Задача 4. Пусть функция / интегрируема в квадрате на любом конеч-
конечном отрезке, на котором определен процесс ?*. Определим случайный про-
процесс t]t следующим образом:
t
при t<t0 под \ понимается— \ I. Докажите, что г^ — также процесс
U t '
с некоррелированными приращениями с нулевым математическим ожиданием
t
и функция, задающая дисперсии его приращений, есть G (t) = \ | f (s) |2 X
XdFis). Если gGL2(dG), то почти наверное
6 6
Задача 5. Пусть функция f(t, Я) непрерывна по паре аргументов
(/ изменяется в отрезке от а до Ь, может быть, бесконечном, Я — в конеч-
ъ
ном отрезке от с до d)\ \ max | f(t, Я) P*/F(f)<со. Тогда почти наверное
сГг., 1 гГс 1
\ I \ / \t* Я) с?Я I с?^ ==s \ I \ f (f» Я) ^^/ I с?Я
J I J I * J I J * I
а *"С J с a J
(последний интеграл понимается в среднем квадратическом).
4. В этом параграфе мы рассматривали лишь стохастические интегралы
от неслучайных функций /; это —раздел корреляционной теории. Значительно
интереснее теория стохастических интегралов, в которой мы можем брать ин-
интегралы от случайных функций (далеко не всех!); естественно, в этом случае
от случайной функции |* приходится требовать значительно больше, чем про-
просто некоррелированность приращений. Такие стохастические интегралы мы рас-
рассмотрим в гл. 12.

Глава 3
Некоторые понятия общей
и корреляционной теории случайных процессов
§ 3.1. Связанные со случайной функцией а-алгебры
и пространства случайных величин
1. Теория случайных процессов, в отличие от более элемен-
элементарных разделов теории вероятностей, проникнута духом скорее
функционального анализа, чем классического математического
анализа: рассматриваются в первую очередь не отдельные слу-
случайные события, случайные величины, функции, а пространства
функций, случайных величин, а-алгебры событий или даже це-
целые семейства а-алгебр, операторы в этих пространствах и т. п.
Пусть на вероятностном пространстве (Q,^F\ P) задана слу-
случайная функция,^, t^T. Введем а-алгебру, порожденную этой
случайной функцией, — наименьшую а-алгебру, содержащую
все события вида {^ е В), feT, 5gI. Обозначать мы ее бу-
будем ZTt (или 2Гц, t e г, если нужно будет указать, к какой слу-
случайной функции она относится):
Эта ст-алгебра имеет смысл совокупности всех событий, о на-
наступлении которых можно узнать, наблюдая нашу случайную
функцию.
С а-алгеброй @~т можно связать различные пространства
случайных величин, порожденные случайной функцией (интуи-
(интуитивный смысл — случайные величины, которые можно вычис-
вычислить пр данной случайной функции); важнейшим из них яв-
является пространство интегрируемых в квадрате случайных ве-
величин, порожденное ?*, <еГ:
L2T = Llttt^T = L2(Q, $~т, Р).
Ясно, что 3~т^&~ и L2T<=L2 (Q, 5r, P).
Другим важным евклидовым пространством, связанным со
случайной функцией, является пространство Нт = Н\ t^T слу-
случайных величин, линейно порожденное %t, t e Т. Оно опреде-
определяется (в случае числовой случайной функции с конечной дис-
дисперсией) как замыкание в пространстве L2(Q, У, Р) множе-

§ З.Ц СВЯЗАННЫЕ СО СЛУЧАЙНОЙ ФУНКЦИЕЙ а-АЛГЕБРЫ 49
ства всех линейных комбинаций значений случайной функ-
функции и 1:
(здесь черта означает замыкание). Легко видеть, что Нт ^ 1>т>
й + & + + &(Г
( р )
потому что случайные величины вида с0 + с&х + ... +
измеримы и пределы в среднем таких случайных величин также
^г-измеримы. (Точнее говоря, в любом классе эквивалентных
друг другу случайных величин из Нт есть случайная величина
из ?г.) Случайные величины из Нт — это, в сущности, те слу-
случайные величины, которые можно линейно вычислить по ?*,
Пространство Нт — аналог пространства LT «в широком смысле» (мы
уже говорили, что в рамках корреляционной теории рассматриваются лишь
линейные функции).
Пространство Lj содержит, так сказать, ту же информацию, что а-ал-
гебра 2Гт, но освобожденную от излишних тонкостей — всего, что касается со-
событий нулевой вероятности. При переходе к пространству Нт «выбрасывается»
еще больше информации — все, что не укладывается в линейную схему.
Иногда нам придется рассматривать также пространство
Нт — замыкание множества линейных комбинаций &, t g Г,
без свободного члена:Нт = {с^ + ... + cnlt , tv ..., fner}.
Это — пространство случайных величин, представимых в виде
результата применения линейной операции к рассматриваемой
случайной функции. Ясно, что Нт порождается подпростран-
подпространством Нт и одномерным подпространством констант.
Пространства LT, Нт, Нт — евклидовы полные простран-
пространства; если они оказываются еще сепарабельными, то это гиль-
гильбертовы пространства.
Задача 1. Докажите, что в LT всюду плотно множество случайных
величин вида f (lt ,..., lt V где f — ^-измеримые функции, tlt ..., tn^T.
Задача 2. Пусть |^, /еГ,- стохастически непрерывный случайный
процесс, То — счетное всюду плотное подмножество Т, Докажите, что в h\
всюду плотно множество случайных величин вида f (^ , ..., ^ Y ^» • • •»^G^o*
Выведите отсюда, что пространство h\ сепарабельно. (А значит, сепара-
бельно и Нт s Ly.)
Пространства Нт, Нт не являются ^-пространствами — npocTpaHCTBaJ
ми всех интегрируемых в квадрате функций на каком-либо пространстве с ме-
мерой; но они могут быть изоморфны таким пространствам. Стохастический ин-
интеграл дает возможность установления изоморфных (т. е. линейных изометрич-
ных) соответствий этих пространств с пространствами интегрируемых в квад-
квадрате функций на числовой прямой, на чем основываются результаты
гл. 4.

50 ПОНЯТИЕ ОБЩЕЙ И КОРРЕЛЯЦИОННОЙ ТЕОРИИ [ГЛ. 3
Задача 3. Пусть !¦*, /еГ, — гауссовская случайная функция. Докажите,
что совместное распределение любых случайных величин т^, ..., т] е Н„ —
гауссовское.
Задача 4*. Пользуясь результатом предыдущей задачи и изоморф-
ностью всех бесконечномерных гильбертовых пространств, докажите, что для
любого гауссовского процесса g* с дискретным временем или непрерывного
в среднем квадратическом гауссовского процесса ^с непрерывным временем
с Mgj = 0 либо существует конечное число независимых гауссовских случай-
случайных величин tjj,..., \ и функций ^(t), ..., fn(t), /еГ, таких, что lf =
=== X h О ^/ почти наверное, либо существует винеровский процесс до*, t е
1
е [0, 1], и функция /(/, 5), /еГ, sg[0, 1], такая, что lt = \ f (/, s) dw почти
oJ
наверное, /еГ.
2. Если Г ^ Z?1, т. е. речь идет о случайном процессе, мы бу-
будем рассматривать также следующие а-алгебры и пространства:
Заметим, что последняя a-алгебра состоит из всех событий
{Н^еВ}, В^$. Вводятся также пространства, порожденные
частью случайной функции:
и Р) и т. п.;
линейно порожденные:
и т. д.
Наглядный смысл, скажем, &*\s,t\ и L[S, ц такой: это — то; что
можно узнать, наблюдая случайный процесс на отрезке от $
до /.
Совершенно очевидны включения типа &*\St ц ^ ЗГ\и, ц при
^^ при /<*', H[s,t\^H>s и т.'п.
3. В ряде задач оказываются нужны a-алгебры и простран-
пространства случайных величин, связанные с процессом еще более
сложным образом.
На основе введенных нами ог-алгебр #"<*, #~>/, (F\stf\ вво-
вводятся а-алгебры

§3.1] СВЯЗАННЫЕ СО СЛУЧАЙНОЙ ФУНКЦИЕЙ а-АЛГЕБРЫ 51
которые, как показывают обозначения, являются предельными
для ?Г<5, ^>s при s-*t+y s-*t—, s->—oo, 5->4-°°, соот-
соответственно для а-алгебр, отвечающих конечным отрезкам вре-
временной оси, — предельными, когда эти отрезки сжимаются.
Приведем здесь точные определения только для некоторых
из этих а-алгебр: по определению
S > t S U < S
Все эти пересечения — ст-алгебры, как пересечения каких-то мно-
множеств а-алгебр.
Наглядный смысл этих а-алгебр такой: к #""<*+ принадле-
принадлежат все события, о наступлении которых можно узнать по на-
наблюдению процесса на отрезке от —оо до t и сколь угодно мало
вправо за точку t\ к #">+Оо — события, о наступлении которых
мы узнаем по сколь угодно далеким вправо отрезкам нашего
процесса; к ^и-,п — те, о которых можно узнать по сколь
угодно малому отрезочку налево от точки t, и т. п. О а-алгебрах
^"<_оо, ^">+оо говорят как о о-алгебрах «хвостов» (слово
«хвост» в математике употребляется, когда от функций берутся
отрезки, определенные в окрестности бесконечности).
Задача 5. Пусть |ь ..., gn, ... — последовательность случайных вели-
величин. Докажите, что следующие подмножества пространства элементарных со-
событий принадлежат ^r>+Oo: { lJm ?п = а}> {существует конечный предел %п
"" Я-»оо
при д-> оо}.
Приведем пример, показывающий отличие ст-алгебры fF^ t+ от ^^ ft
Пусть Т = [0, оо), траекториями %t являются все непрерывные функции. По-
Положим т (со) = inf {t: %t> 1} или + оо, если таких t не существует. Событие
{т ^ 2} принадлежит а-алгебре #"^2+(пока это не доказано, точнее было бы
говорить не событие, & множество).
Действительно, легко видеть, что
П U {h>1) (J>
п=\ рац. t
(непрерывная функция тогда и только тогда где-то на отрезке [0, 2 + l/ri]
выходит за уровень 1, когда она больше 1 в какой-нибудь рациональной
точке этого отрезка). События {lt> 1} здесь входят в ^^2+i/rt» значит, их
счетная сумма тоже принадлежит этой cr-алгебре. Далее, пересечение в A)
можно взять не от 1 до со, а от любого натурального п0 до со; тогда все
события, участвующие в этом пересечении, будут принадлежать ^^2+\/nQ
(ведь ^"<2+i/n~~^<2+i/no ПРИ п^по)- Итак, событие {т^2} принадлежит
любой из сг-алгебр ^"^2+1/«0* Значит, оно принадлежит любой а-алгебре ^^ f
при />2: ведь для любого t>2 можно взять п0 такое, что 2-\- !/до</, и
тогда имеем {т<2} е ^"^2+1/Ло s ^"<** Наконец, заключаем, что {<2}
е П ^"<^==
t>2

52
ПОНЯТИЕ ОБЩЕЙ И КОРРЕЛЯЦИОННОЙ ТЕОРИИ
[ГЛ. Э
В то же время событие {т < 2} не принадлежит а-алгебре #"<2: наблю-
наблюдая процесс только до момента 2, мы не всегда можем сказать, наступил уже
момент т или нет (рис. 8). Точный вариант этого наглядного соображения:
доказывается, что для любого события из ^%^2 соответствующее множество
траекторий вместе с каждой траекторией содержит любую другую, совпадаю-
совпадающую с ней на отрезке [0, 2]; левая траектория не принадлежит {т ^ 2],
а правая — принадлежит, значит, {т ^ 2} ф ZF^ 2.
Т-2
^ а-алгебр #~<_оо, #~>+оо мы не можем указать значе-
значений lt случайного процесса, которые заведомо измеримы отно-
относительно них; это дает возможность предположить, что они в
каком-то смысле вырождаются в тривиальные сг-алгебры. При
некоторых условиях, касающихся зависимости & при разных t9
для а-алгебр #~<_оо, #">+оо выполняется закон нуля или еди-
единицы (о законах 0—1 мы впервые говорили в § 1.3, п. 2а2)).
Задача 6. (закон 0—1 Колмогорова). Пусть \h ..., %п, .,. незави-
независимы. Докажите, что Р(Л) = 0 или 1 для любого события Ле^>+оо.
В частности, согласно задаче 5, последовательность независимых случай-
случайных величин либо с вероятностью 1 сходится, либо с вероятностью 1 расхо-
расходится; легко доказать, что то же касается и рядов с независимыми слагае-
слагаемыми, средних арифметических (Si + ••• + ?«)/« и т. п.
Задача 7. Пусть последовательность независимых случайных величин
?п с вероятностью 1 сходится. Докажите, что тогда существует число а такое,
что P{lim ?„ = а} = 1.
П->оо
Задача 8. Определим а-алгебру &{и t+] как f] ^ w], где 9rKi% u] »
и> t
= о {%s> t<s^. и]. Рассмотрите пример какого-либо случайного процесса и
выясните, будет ли для него а-алгебра ^^ t+^ состоять только из событий
с вероятностями 0 и 1 (будет ли иметь место закон нуля или единицы).
4. Ясно, как определяются пространства случайных величин
-?<*+, H^t+, L^t-, H^t~, •?>+«>, #>+оо и т. д. Для пространств
?, ..., ?[*-.*+] одинаковый результат дают определения
2(Q, &~^t+, P), ..., и определения ?<*+= П L2<s, ...
s>t
Пространства Я<^+, ... определяются как пересечения, напри-
например: #<-оо = П Я^ 8.
s
Законы 0—1 очень просто формулируются в терминах про-
пространств L2; соответствующие пространства состоят только из

f 3.2]
ОПЕРАТОРЫ СДВИГА
53
констант, т. е. закон 0—1 тогда и только тогда выполнен для
а-алгебры j^s^, когда пространство L2 (Q, <я?, Р) одномерно.
С пространствами Я< t+ и подобными связаны задачи, относящиеся к кор-
корреляционной теории случайных процессов. Аналог «в широком смысле» кол-
могоровского закона 0—1 очень легко доказать:
Задача 9. Пусть Ь, ..., Б», ...-некоррелированные интегрируемые
в квадрате случайные величины. Докажите, что пространство п>+оо состоит
только из констант.
§ 3.2. Операторы сдвига
В этом параграфе мы будем рассматривать случайные про-
процессы заданные на множестве Т = R\ или #+= [0, оо), или
Z* = {..., —2, —1, 0, 1, ...}, или Z+ = {0, 1,2,...}. На множе-
множестве Т в этих случаях определен сдвиг: t->t + h. Мы хотим
ь t о
Рис. 9.
определить операторы сдвига, действующие на события и слу-
случайные величины, связанные с нашим процессом.
1. Введем следующее предположение. Пусть для любого со е?2
и любого h&T существует, причем единственное, элементарное
событие co+e=Q такое, что ^«) = ^+Л(°>) пРи всех 'еГ-
Обозначим через Qh оператор в пространстве Q, сопоставляющий
элементарному событию <о элементарное событие со?: со^==0Лсо.
Оператор 0Л сдвигает траектории %t влево на Л; на рис. 9 изо-
изображен случай Г = [0, оо).
Обозначение ©+ соответствует принятому в книге И то и
М а к к и н а, 1968, 9Ло) — обозначениям, принятым в книгах Д ы н-
кина, 1959, 1963.
Теперь определим сдвиги уже не элементарных событии,
а событий — подмножеств Й.
Пусть A s Q. Тогда можно рассмотреть множество Qh А ==
= {со: 6Лсо € А} — прообраз А при отображении Qh.
Рассмотрим примеры.
ссмотрим примеры.
А = {g/ s Г}. Легко видеть, что бд А = (со:
©л
А)

ПОНЯТИЕ ОБЩЕЙ И КОРРЕЛЯЦИОННОЙ ТЕОРИИ
[ГЛ. 3
б) В = {lt = а при t > t0). Здесь в"!В = {$t+h еэ а при * > *0} =
= {g,ssa при *>A + U-
в) C=*{lim?, = 0}, В данном случае BhlC = {limlt+h = 0} =
= {lim ?* = 0} = С.
Изобразим на рис. 10 пример б), взяв 71 = [0, оо).
Рис. 10.
Мы видим, что условия, задающие событие, при применении оператора
6J*1 сдвигаются вправо на К. Это не удивительно, потому что мы должны сдви-
сдвинуть траекторию (реализацию) влево и посмотреть, удовлетворяет ли она ус-
условиям, задающим данное событие; это все равно, что сдвинуть эти условия
вправо, оставив траекторию без изменения
В примере б) при t0 — 0 множество В состоит из единственной точки,
я д~^1В — более чем из одной.
Теперь определим операторы сдвига, действующие на слу-
случайные величины, даже просто: функции, определенные на Й
(случайная величина, как мы помним, — это не любая функция
на Й, а только измеримая). Полагаем для функции ц(со) на Q
Примеры.
А) е^ = w
Б) Т = [0, оо), lt
числовой случайный процесс с непрерыв-
непрерывными
траекториями; ц (со) = \ %s ds (интеграл определяется от-
о
дельно
t
для
каждой
t+h
о
траектории). Здесь, естественно, влг| ==
\ls+hds== J lads.
h
0 h
В) Случайный процесс — такой же, как в предыдущем при-
примере; т ((о) = inf {t: lt (со) gT}- момент первого достижения мно-
множества Г c:Rl (если таких t нет, полагаем т(ш) = + оо). Чертеж
приведен на рис. 11. Здесь в^т—inf {t^h: ^еГ}-А; это
первый после h момент достижения Г, уменьшенный на h.
В частности, для тех элементарных событий, для которых
б 0 Л

i 3.2]
ОПЕРАТОРЫ СДВИГА
55»
Впоследствии мы докажем, что функции т), т примеров Б) и В) в случаег
например, открытого Г — случайные величины, т. е. что они измеримы.
Легко понять, что операторы сдвига можно ввести не только в случае
Т = R\ R+t Z1 или Z+, но и когда Т — произвольная полугруппа; например,,
для Т = Rn или для окружности.
2., Посмотрим, какими свойствами измеримости обладают
введенные нами операторы сдвига. В силу а), А) а-алгебра @~[S,th
порожденная случайными величинами lu, s^u^t, под действием.
оператора б^1 переходит в а-алгебру, порожденную случайными
величинами lu+h, s<a</, т. е. ^~[5+л,*+ftj. Аналогично &r>t
переходит в @~^t+h) &~^t переходит в ST^t+h для T = Rl или Z\
а если T — R+ или Z+, то #~</ переходит в ^[н, t+щ (понятно,
почему: ведь в этом случае #~<* = #~[о, *]). Читателю предла-
предлагается самому подробно провести доказательство:
Задача 1. Пусть Г = [0, сю). Докажите, что для любого
события Aefr = f>o его сдвиг QhlA^@~^h.
Любое случайное событие из а-алгебры 5ГГ, порожденной
случайным процессом, под действием оператора &н1 переходит
в событие, т. е. в подмножество Q, принадлежащее @~. События,
не принадлежащие #~т, могут под действием оператора 6л"
переходить в подмножества, не являющиеся событиями.
Что касается случайных величин, то величина, измеримая
относительно &*и, *]> переводится оператором. 0^ в случайную
величину, измеримую относительно &~ih+s, h+th и т. д.
Однако неверно, что операторы Эл переводят L^St ^ или H^S) ц в L%h+St h^
или H[h+st h+ty Операторы 0л вообще могут быть неприменимы к элемен-
элементам L2. Ведь элементы L2 — это не случайные величины, а классы эквива-
эквивалентных друг другу случайных величин, и из того, что y^j ~ ti2, может не
вытекать, что 8^ ~ 0^r]2. Здесь дело в том, что а-алгебры #~j5 ^ и прочие
и операторы 6л определяются совершенно независимо от вероятностей меры
Р, а пространство L2 тесно связано именно с мерой, В пп. 4^ 5 мы покажем,
что для стационарных процессов операторы сдвига переводят эквивалентные
случайные величины в эквивалентные и что они действуют, таким образом,
на порожденных процессом пространствах
процессов в широком смысле).
L\
и Нт (для стационарных

56 ПОНЯТИЕ ОБЩЕЙ И КОРРЕЛЯЦИОННОЙ ТЕОРИИ 1ГЛ. 3
3. До сих пор мы требовали существования и единственно-
единственности ю^ такого, что ?* (<<>?) = ?*+ft (<*>)• Это требование довольно
ограничительно; в частности, из него вытекает, что двум раз-
различным элементарным событиям не может соответствовать одна
и та же траектория. Оказывается, если требовать только суще-
существования, но не единственности сод*» операторы 6/Г1, 6л, можно
определить — правда, в применении не ко всем подмножествам
п (функциям на Q), но, во всяком случае, ко всем измеримым
относительно ^V
Допустим, что есть два элементарных события со^1 и со^2 та-
таких, что ?Дш+1) = ^@+2)==^+л(со); докажем, что для случай-
случайного события Ле^г либо и cdJ1, и coj2 принадлежат Л, либо
оба не принадлежат. Обозначим через $i> систему множеств, ко-
которые либо содержат и со^1, и со+2, либо не содержат ни одного
из этих элементарных событий; легко видеть, что s4> — а-алгебра,
она содержит события {^ gB}, /еГ, BgI; значит, она содер-
содержит минимальную or-алгебру, содержащую все эти события:
Таким образом, в определении 6*7^ = {со: (oJgA} все равно,
какое из элементарных событий со+ брать.
Аналогично, если г\ — ^~г-измеримая случайная величина,
то /п(со^1) = 'п((о^2), так что 9ят](со) определяется однозначно.
Действительно, иначе существовало бы множество BgI {$ —
а-алгебра, заданная в пространстве, в котором принимает зна-
значения т); по условию она содержит все одноточечные множества)
1^кое, что Ti^oD/f*1) принадлежит ему, а ^((о^2) — нет; но тогда
множеству {т|ЕВ}е^г будет принадлежать со*1, а со^2 — нет,
что невозможно.
4. Определим операторы сдвига в случае, когда !•* — ста-
стационарный процесс, не вводя никаких предположений относи-
относительно существования со+. Для случайной величины т]е?2 вида
П = /(^, ..., Ья), tu ..., *яе7\ A)
положим
вАт1 = /F/|+А, ..., Ьп+н). B)
Докажем, что оператор Qh осуществляет изометрическое отобра-
отображение Ьт в себя; для этого вычислим М | 0дг] |2:
X X
f .... *Л)|*Ф t+h(dXl... dxn) =
~j-]|/(*1..».*.)РФ,, i. №... dxn) =

§ 3.3] ЗАДАЧИ НАИЛУЧШЕЙ ОЦЕНКИ 57
Это, прежде всего, показывает, что определение, даваемое фор-
формулами A), B), корректно. Дело в том, что одна и та же
случайная величина ц может, вообще говоря, иметь различные
представления A), причем соответствующие величины B) мо-
могут не совпадать. Но если
(хотя бы только почти всюду), то
так что ЭдТ] определяется однозначно с точностью до множеств
вероятности 0, т. е. однозначно как элемент L2.
Оператор 8л. стандартным образом продолжается по непре-
непрерывности на замыкание множества случайных величин вида
A), т. е., согласно задаче 1 предыдущего параграфа, на все
L%\ при этом изометричность сохраняется.
Для стационарного процесса можно определить и операторы
б^1, действующие на события из @~т, — тоже с точностью до
событий вероятности 0. Событие 6/Г1 А определяется как такое,
индикатор которого почти наверное равен Qh%a\ при этом при-
приходится доказывать, что Qh%A почти всюду равно 0 или 1. Точно
так же операторы 8^ можно распространить на неинтегрируе-
мые случайные < величины, положив, например, 0дг| =
tet
gg]
5. Для стационарных в широком смысле процессов мы не
можем, вообще говоря, определить операторы 0д на простран-
пространстве Lt> но можем определить их на Нт. Для случайных вели-
величин ц вида к\ = с0 + cilti + ... + cnlfn полагаем Qhi) = с0 +
+ ... +сд|*я+л. Это — изометричный оператор, и он
продолжается по непрерывности, оставаясь изометричным, на
все Нт. Операторы 6/Г1, действующие на события, не удается
определить, хотя бы потому, что случайная величина %а может
не принадлежать Яг.
§ 3.3. Задачи наилучшей оценки
1. К числу теоретико-вероятностных задач, наиболее тесно
связанных с приложениями, относятся задачи оценки каких-
либо неизвестных величин по наблюдениям случайных объ-
объектов.
Пусть на вероятностном пространстве (Q, ^", Р) задана
случайная величина ц и случайный процесс ?*, <еГ, Требуется.

58 ПОНЯТИЕ ОБЩЕЙ И КОРРЕЛЯЦИОННОЙ ТЕОРИИ [ГЛ. 3
.найти для г] наилучшую в среднем квадратическом оценку по
наблюдению случдйного процесса, т. е. оценку f), которую можно
вычислить по &, (еГ, и для которой
М| tj — f\ P=min.
Уточним постановку задачи. Пусть случайная величина ц
интегрируема в квадрате. Задача состоит в том, чтобы найти
такую случайную величину fj из пространства Lr = ??,,* е= г* по-
порожденного наблюдаемым случайным процессом, что для лю-
<бой другой fj e Ьт
MlT]--fjf<M|ri--fjp.
Оказывается, эта задача всегда разрешима. Мы можем уста-
установить это двумя различными способами. Во-первых, мы знаем,
что в полном евклидовом пространстве существует ортогональ-
ортогональная проекция любого вектора на любое замкнутое подпростран-
подпространство и эта проекция есть ближайший к исходному вектору эле-
элемент подпространства. Это означает, что решение нашей за-
задачи имеет вид
fj = 14^24. (!)
Иначе говоря, т| — такой вектор из Ь\у что для любого ? е Ь2Г
(ч-fi, О-о,
лли, записывая это через математическое ожидание,
0. B)
Здесь ? пробегает все элементы Ьт* Но лри этом комплексно-
сопряженная к ? случайная величина ? также пробегает все
Хг> так что условие B) можно заменить на
M(r]-fi)? = O, ?e=L?. C)
С другой стороны, искомое ц представляется в виде услов-
условного математического ожидания
D)
Вероятног это хорошо известно читателям, но приведем дока-
доказательство. Пусть f) — проекция rj на Ьт; докажем, что вы-
выполняется D). То, что г\ измеримо относительно STTi очевидно;
остается проверить, что М%дТ]=М%дТ| для любого события
А е вГт. Но это вытекает из C) с ? = ха.
2. Нахождение оценки г\ состоит из двух этапов: во-первых,
мы должны найти способ вычисления fj no %u t еГ, а во-вто-

§ 3.3] ЗАДАЧИ НАИЛУЧШЕЙ ОЦЕНКИ 59
рых, применить этот способ к наблюденным значениям про-
процесса. В какой форме может быть представлено решение пер-
первой части задачи? Вспомним, что (согласно задаче 1 § 1) лю-
любой элемент Lt представляется в виде предела в среднем
случайных величин вида /(?*,» ..., ltn), tu ..., tn^T. Таким
образом, способ вычисления г\ можно задавать последователь-
последовательностью натуральных чисел n(k), последовательностью измери-
измеримых функций fh от n(k) переменных и последовательностью на-
наборов U(k), ..,, tn(h)(k) элементов Т. При этом
Способ вычисления f] по %и t еГ, мы можем в принципе
найти, если нам известны совместные распределения
Ф-п, it it случайной величины ц и любого числа значений
случайного процесса. Рассмотрим для простоты случай, когда
множество Т конечно или счетно.
Если Г={*1, ..., Q, то
Функцию / можно найти следующим образом. Рассмотрим про-
пространство L2(dO^it it ) функций ц)(у, хи ..., хп), измери-
V 1 it/
мых и интегрируемых в квадрате относительно совместного рас-
.пределения т|, lti, ..., \tn. Функция f(x\9 ..., хп) есть проек-
проекция в этом пространстве функции, тождественно равной у, на
замкнутое подпространство функций, зависящих только от по-
последних п координат.
В случае бесконечного счетного Т = {t\, ..., tn, .. } вос-
воспользуемся леммой:
Задача 1. Д^/Г2^««»— Ип ^ ... — неубывающая по-
последовательность замкнутых подпространств полного евклидова
оо
пространства Н\ Нто — замыкание линейного пространства U Hni
т) — произвольный вектор из Я. Тогда при /г->оо
В применении к Hoo = Lt, Hn — I?{tv ...,*„} это означает, чта
Ч = 1. i. m. f\ny где цп = М (r\ \lt, ..., & ) = fn (^ , ..., Ьп),
М->оо
(Впоследствии — в гл. 7 — мы увидим, что fjn также сходится
к г\ почти наверное.)
Для несчетного Г, в случае стохастической непрерывности ^, мы можем
(в силу задачи 2 § 1) обойтись всюду плотным подмножеством {/ь • • • > tn>.. .}с:Г;
в противном случае берем всевозможные T0~{tl} ..., /й,„,)сГи выби~

€0 ПОНЯТИЕ ОБЩЕЙ И КОРРЕЛЯЦИОННОЙ ТЕОРИИ 1ГЛ. 3
раем из всех f\T — М Л) | lt ,..., \t , .. Л то, для которого М 1т]—fjr |2=min.
/В принципе это требует лишь знания всех распределений Ф^ | #,.t g
V ч ' ! п
и сравнения несчетного множества вариантов.^
Принципиальная разрешимость задачи нахождения наилуч-
наилучшей оценки не означает, что существуют эффективные способы
ее решения. Задача все же решается в некоторых классах слу-
случаев, но решение ее подчас весьма сложно.
3. Рассмотрим различные частные случаи задачи наилучшей
оценки.
Задача фильтрации. Нас интересуют значения случайного
процесса ци а наблюдаем мы случайный процесс g*, который
получается из r\t действием какой-то помехи. Простейший слу-
случай: %t = y\t + ?>и гДе случайный процесс ?* («шум»), скажем,
не зависит от r\t. Посложнее: It = f(t, %и *\t) или It— решение
дифференциального уравнения g? = i^ + /(if> ?*) с начальным
условием 1о = "По и т. п. Требуется оценить какое-то значение
ч]/о по наблюдению'всех It, t^T («отфильтровать помеху»).
Задача экстраполяции (прогнозирования). Пусть ?* — слу-
случайный процесс, причем нас интересует его значение в момент
iu а наблюдаем мы процесс лишь до какого-то момента t0 < t\.
Здесь в качестве наблюдаемого It, t gT, берется gf, t «g; tOt
а величина iq, подлежащая оценке, есть lti (говоря языком
евклидовых пространств, требуется спроектировать |fj на L%to).
Такая постановка задачи отражает черты, характерные для многих прак-
практических ситуаций: нашему наблюдению может быть доступно только настоя-
настоящее и прошлое, и нас часто интересует вопрос предсказания будущего (про-
(прогнозирования). Другая точка зрения на ту же задачу —как на чисто матема-
математическую: речь идет об экстраполяции — продолжении функции ?* за пределы
¦отрезка t ^ t0, на котором она известна (о приближенном продолжении, в оп-
определенном смысле наиболее точном).
С математической точки зрения ^совершенно такой же яв-
является задача экстраполяции процесса, наблюдаемого при
t ^ tOi до значения t{ < t0.
В задачах прогнозирования для случайных процессов речь
может идти об оценке по It, t ^ t0, случайных величин г), от-
отличных от значений lty, например: т] = /(?*,), Ч = /(Ь1, ..., lin)
или, вообще, т) — произвольный элемент L\. К таким задачам на-
название задачи экстраполяции, пожалуй, уже не подходит.
В задачах интерполяции случайных процессов речь идет об-
оценке значения g,&, где ^о лежит между теми значениями t,
для которых |« доступны наблюдению. Так, мы можем наблю-
наблюдать ^ при К^и при t ^ t2, где t\ < U < t2y или наблюдае-
наблюдаемыми могут быть Ikh, k = 0, ±1, d=2, ..., ^о ф kh.

§ 3.3] ЗАДАЧИ НАИЛУЧШЕЙ ОЦЕНКИ ' 61
Можно рассматривать очень много различных (причем осмы-
осмысленных с точки зрения практики) разновидностей задачи
оценки. Например, речь может идти об оценке значения в точ-
точке t0 случайного поля ?,t (t пробегает, скажем, какую-то область
Т на плоскости) по наблюдениям %t в какой-то части области Г,
не содержащей t$, или об объединении задач прогнозирования
и фильтрации и т. п.
4. Задача наилучшего прогнозирования имеет большое зна-
значение для теории случайных процессов.
Пусть I*, t& T ^/?\ —случайный процесс, причем множе-
множество Т неограничено снизу. Для случайной величины г\^Ьт обо-
обозначим через r\<t ее наилучшую оценку по |5, s ^ t:
Так как 1<<е^ при t^t', то средний квадрат ошибки пред-
предсказания М | у] — л<*|2 — невозрастающая функция от t. Все ее
значения заключены между нулем и дисперсией tj; поэтому су-
существует
lim М|ч-^|», F)
t
причем он лежит между 0 и Dtj.
Случайный процесс ^ называется регулярным слева, если
для любой T]Glr предел F) равен От] (т. е. при t, далеких
влево по оси времени, невозможен прогноз более точный, чем
указание Mrj). Случайный процесс называется сингулярным
слева, если этот предел равен 0. Это означает, что для любой
T)eL| просто М |т) — 'П<^|2===0 ПРИ любом t, т. е. 4 = ^^ почти
наверное. Иначе говоря, при любом t любая случайная вели-
величина г\ из Ьт принадлежит также и L%t (точнее, в любом классе
эквивалентных друг другу случайных величин, принадлежащем JLr,
найдется случайная величина eL^), или, окончательно,
г2 г2
Таким образом, регулярным признается положение, когда с течением вре-
времени случайность полностью обесценивает всю информацию о далеком прош-
прошлом E ^ /, ?-*•— оо); возможность совершенно точного прогнозирования свя-
связана с какой-то особенностью, вырожденностью процесса.
Разумеется, могут быть процессы не регулярные и не сингулярные, а на-
находящиеся между этими двумя крайностями.
Аналогично, если Т неограничено сверху, вводится понятие
регулярности справа: ?>+«> состоит только из констант, и сан*
п 9 9
гулярности справа: JL> + оо = ?> t = Lr*
Регулярность или сингулярность процесса однозначно опре-
определяется его конечномерными распределениями (см. п. 2).

62 ПОНЯТИЕ ОБЩЕЙ И КОРРЕЛЯЦИОННОЙ ТЕОРИИ [ГЛ. 3
5. Теперь перейдем к аналогам рассмотренных задач «в ши-
широком смысле» — к задачам наилучшей в среднем квадрати-
ческом линейной оценки.
Пусть т| — интегрируемая в квадрате случайная величина,
It, t^T, — интегрируемый в квадрате случайный процесс. Тре-
Требуется найти случайную величину f| еЯг = Я^, *е=7удля которой
М|т) — fj|2 = min.
Решение задачи наилучшей линейной оценки есть
т. е. такой вектор из Яг, что
М(г)-г|)?=0
для любого ?еЯг. Это условие можно заменить на
Способ вычисления fj — линейной оценки ц — по . g*, t еГ,
полностью определяется математическими ожиданиями Mtj,
Mlt и ковариациями Drj, cov(t], |Д Ku(t, s); причем, так как
эти данные проще, чем совместные распределения Фц,^ ,.*.,it ,
1 П
которые нужно знать для нахождения наилучшей нелинейной
оценки, задача наилучшей линейной оценки значительно ближе
к эффективной разрешимости.
Ясно, что средний квадрат ошибки наилучшей линейной
оценки не меньше, чем средний квадрат ошибки наилучшей
оценки (ц ближе к большему пространству ?г, чем к меньше-
меньшему Яг).
Можно рассматривать задачи наилучшей линейной фильтра-
фильтрации, линейной экстраполяции (прогнозирования), интерполя-
интерполяции. Например, задача наилучшего линейного прогнозирования-
есть задача нахождения проекции на пространство Я<г0. Для
решения таких задач в случае стационарных процессов развита
мощная теория (см. Дуб, 1956, гл. XII; Розанов, '1963,
гл. II, III); с частью этой теории мы ознакомимся в § 3 сле-
следующей главы.
6. В связи с задачами наилучшей линейной оценки мы рас-
рассматривали пространства Яг, Я<*0 и т. п.,г однако оказывается,
что здесь можно обойтись пространствами Яг и т. п., получае-
получаемыми как замыкания множеств линейных комбинаций значений
случайного процесса без свободного члена. Пусть г) — случайная
величина, %и t еГ, — случайный процесс, М| г\ р, М11* р < оо.
По предположению, нам известны все моменты первого и вто-
второго порядка, в частности, пг=Мц) т* = М|*, Положим rH=s

§ 3.3] ЗАДАЧИ НАИЛУЧШЕЙ ОЦЕНКИ 63
— г) — т, l°t = lt—-mt. Математические ожидания rj°, g° равны О,
а ковариации остаются прежними. Пространство #°о t^T — за-
замыкание множества линейных комбинаций значений gj, /еГ, —
обозначим для краткости Hf. Мы уже говорили, что матема-
математическое ожидание fj — наилучшей линейной оценки ц — равно
Mr), т. е. т. Легко проверить, что
Иначе говоря, задачу можно решить, оставаясь в пределах про-
пространства случайных величин с нулевым математическим
ожиданием, а потом только прибавить математическое ожи-
ожидание.
7. Введем понятия линейной регулярности и сингулярности.
Пусть |* — интегрируемый в квадрате случайный процесс на
неограниченном снизу множестве Т\ случайная величина
ч\ e #г. Обозначим через f\<t наилучшую линейную оценку этой
величины по ge, 5^/: ?\<t = npH **!• Случайный процесс назы-
называется линейно регулярным слева, если для любого ц из Нт
lim М | т] — f\<t |2"= Drj;
f-> — оо
он называется линейно сингулярным слева, если этот предел
равен 0, т. е. средний квадрат ошибки тождественно равен 0.
Аналогично вводятся понятия линейной регулярности справа
и линейной сингулярности справа.
Легко понять, что из регулярности процесса вытекает ли-
линейная регулярность (раз его нельзя сколько-нибудь точно про-
прогнозировать никак, то нельзя и линейно), а из линейной син-
сингулярности — просто сингулярность (линейный прогноз сколь
угодно точен).
8. Посмотрим, какими свойствами обладает задача линей-
линейного прогнозирования для стационарных в широком смысле
процессов (тот же вопрос можно поставить для линейного про-
прогнозирования и стационарных в узком смысле процессов, но
мы собираемся конкретно рассматривать только задачу линей-
линейного прогноза).
Пусть lt — процесс, стационарный в широком смысле, на
Г = #1 = (_ оо, оо) или на r==ZI = {..., —2, —1, 0, 1, ._>.
Так как оператор сдвига 8л переводит g*e в |*в+л, а простран-
пространство H^t в H^t+h, то, как легко проверить, для любого т)еЯг

64 ПОНЯТИЕ ОБЩЕЙ И КОРРЕЛЯЦИОННОЙ ТЕОРИИ [ГЛ. 3
в частности, для любого tQ>t
(Разумеется, все эти равенства должны выполняться почти на-
наверное.) Далее, средний квадрат ошибки прогноза
м | |/о - (?)<* |2 = м | е, [&_, - (СЗ<0] I2 = м I &-* - (Со<о12
зависит только от tQ — t; обозначим его o2(tQ — t). Функция
естественно, равна 0 при t ^ О, не убывает при положитель-
положительных t; она схремится к о2 = Dg* при /->+оо для линейно ре-
регулярного слева процесса и к 0 для линейно сингулярного.
Задача 2. Докажите, что в случае непрерывного в среднем'квадрати-
ческом стационарного процесса |ь t e 7?1, функция o2(t) непрерывна.
Для линейной сингулярности достаточно, чтобы o2(s) = 0
хотя бы при одном 5 > 0; действительно, в этом случае процесс
можно со сколь угодно большой точностью продолжить со зна-
значений t ^ ^о до t0 + 5, затем до t0 + 25, и так можно .добраться
до любого t > t0 (на языке гильбертовых пространств: Я<*0 =
#flr Я)
Микротеорема. Для стационарного в широком смысле
числового процесса g*, t^T, T = R1 или Z1, линейная регуляр-
регулярность слева и линейная регулярность справа равносильны. Точ-
Точно так же равносильны линейная сингулярность слева и справа.
Доказательство. Как ЪШ'уже говорили, решение за-
задачи линейного прогноза однозначно определяется математи-
математическим ожиданием и корреляционной функцией процесса. Зна-
Значит, линейные регулярность и сингулярность определяются кор-
корреляционной функцией процесса (математическое ожидание на
них никак не влияет). Регулярность (сингулярность) справа
процесса %t — это то же, что регулярность (сингулярность)
слева процесса %t = ?-*• Но корреляционная функция этого ста-
стационарного процесса /Cj(O==^Cg(—t) — K%(t). Эта корреля-
корреляционная функция отличается от Ki(t) только заменой / на —iy
значит, и функция
задающая ощибку экстраполяции «назад», отличается от функ-
функции a2(t) — ошибки при экстраполяции «вперед» — только за-

§ 3.3] ЗАДАЧИ НАИЛУЧШЕЙ ОЦЕНКИ 65
меной i на —/. Но o2(t) действительно, поэтому d2(t)=o2(t),
откуда вытекает утверждение микротеоремы.
Для нелинейной регулярности (сингулярности) и стационарных в узком
смысле процессов соответствующее утверждение неверно.
Заметим, что мы доказали нашу микротеорему только для числовых про-
процессов; для векторных стационарных в широком смысле процессов доказа-
доказательство не проходит, потому что корреляционная функция (матричная) прч
обращении направления времени заменяется на комплексно-сопряженную
транспонированную.
Задача^ 3*. Пусть (lt, r\t), t e (— оо, оо), — двумерный стационарны"!
в широком смысле процесс (т. е. Щг, Мт^ = const, a cov(^, ls), cov(g,, r\s)9
cov (p)t, r\s) зависят только от t — s). Пусть H^t — пространство, линейно
порожденное случайными величинами ?5, r\s, s<[*; H>t — величинами |^, т] ,
s>t. Может ли быть М | lt - ^PH<olt |2 ^= м | Е-< - пря>0?-* |2?
9. 3 а д а ч а 4. Пусть к\ — случайная величина, |^, /еГ,- случайный
процесс, причем все совместные распределения Ф^ ^ ,...,?/ — гауссовские.
i п
Докажите, что в этом случае наилучшая оценка ц по ?/, t еГ, совпадает
с наилучшей линейной оценкой.
В частности, для гауссовского процесса наилучший прогноз его значения
в любой момент времени — линейный. С этим, конечно, связан (но непосред-
непосредственно отсюда не вытекает) тот факт, что для гауссовских стационарных
процессов регулярность и линейная регулярность равносильны (см. Розанов,
1963, гл. IV, § 9).
3 А. Д. Вентцель

Глава 4
Корреляционная теория стационарных
(в широком смысле) случайных процессов
§ 4.1. Корреляционные функции
В этом параграфе мы рассмотрим некоторые примеры и ре-
результаты, относящиеся к «элементарной» части теории, — то,
что получается применением к стационарным процессам ме-
методов § 2.1. В следующих двух параграфах мы будем основы-
основываться на материале гл. 3 и § 2.2.
1. Найдем математическое ожидание и корреляционную функ-
функцию стационарного процесса примера 1 § 1.2: lt = A cos (r^ + ф)>
где Л, т) имеют произвольное совместное распределение на
[О, оо)Х[0, оо), ф не зависит от них и распределено равномерно
на [0, 2я). Легко видеть, что М?* существует тогда и только
тогда, когда МЛ < оо (имеем М | ?* | = М1101 — МЛ • М | cos ф |),
и при этом
2я
о
Моменты второго порядка существуют, когда МЛ2 < оо; в этом
случае
Kl @ = Щц.Лз = МЛ2 COS (T| (s + t) + ф) COS (T]S + ф) = -
= Y [М Л2 cos цг + МЛ2 cos (т| Bs + /) + 2ф)].
Второе математическое ожидание равно нулю, потому что слу-
случайная величина r]Bs + 0 + 2ф, приведенная по модулю 2я
к отрезку [0, 2я), не зависит от Л и имеет равномерное распре-
распределение. Преобразуем первое:
$ \ A)
0 0 0
хде \х — конечная мера на [0, оо), определяемая равенством
оо
и (в)=4 И *2ф^{dx dy)=т МА2%В (л)-
о в
о в
Здесь всюду интегралы от 0 до оо берутся, включая точку 0.

§ 4.1] КОРРЕЛЯЦИОННЫЕ ФУНКЦИИ , 67
В качестве \х может выступать любая конечная мера на
[0,оо).
Если определить меру v на jR1, перенеся половину меры \i
с @, оо) симметрично на (—оо, 0), то формула A) перепи-
перепишется в виде
Ki(t)= \e*4(dy). B)
— оо
Мы видим, что корреляционная функция — преобразование
Фурье симметричной меры на R1. Для v (dy) = " , \ , например,
К (t) ==е~\*', т. е. корреляционная функция получается такая же,
для совершенно не похожих ни на случайное гармоническое ко-
колебание, ни друг на друга процессов примера 3 § 1.2 и за-
задачи 2 § 1.4.
Чтобы получить корреляционную функцию вида B) с про-
произвольной — не обязательно симметричной — мерой v, достаточ-
достаточно рассмотреть процесс ^ = Л^П^+Ф), где г\ может принимать
и положительные, и отрицательные значения.
2. Линейный дифференциальный оператор с постоянными ко-
п к
эффициентами Р\—)—/ я&—г, если его можно применить
\dtj ^ dt*
к стационарному процессу ?*, переводит его также в стационар-
стационарный процесс % = ^("^")^- Формулы (9), A0), (И) § 2.1
имеют в данном случае вид
Мт><= Р Ц
-s)9 , D)
) Kn(t-s). E)
Здесь Р — многочлен с комплексно-сопряженными коэффициен-
коэффициентами пи. Дифференцирование k раз функции Кц (t — s) no s
сводится к &-му дифференцированию функции Кц по ее аргу-
аргументу и умножению на (—l)h; с учетом этого формула D)
превращается в
Из формулы E) получаем
/СЧ1 (О = Р(-§) Кп (t), Kir, @ = P(r4t) Кц 0).

68 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ [ГЛ. 4
Если ?* —Q(rl?*» тем же путем находим
Рассмотрим частные случаи.
а) Р(х) — х. Здесь ' Kw (t) = — K'ii(t)9 а совместная корреля-
корреляционная функция |, ?' есть
Если функция /Сц действительна (в частности, для действи-
действительного lt)> то /C|i @) = 0, как производная в нуле четной
функции, и it, |J некоррелированы (частный случай — в задаче 16
§ 2.1).
б) Для_Р(х)= 1+х + х2 будет Р(—х) = Р{—х) = 1 — х +
+ #2, Р(х)Р(—х)= I -{- х2 -\- х4, так что корреляционная функ-
функция процесса ?* + ?? + ?*' получается из Kn(t) применением
такого дифференциального оператора: Кп (') + Kii @ + К& @-
3. Интегрирование. Законы больших чисел. Статистика ста-
стационарных случайных процессов. Производная стационарного
процесса, если она существует, — тоже стационарный процесс.
Что касается интегрирования, то неопределенный интеграл от
стационарного в широком смысле процесса (который суще-
существует, если только корреляционная функция непрерывна) во-
вовсе не обязан быть стационарным процессом; более того, не
всегда можно так подобрать «произвольную постоянную» — слу-
случайную величину, прибавив которую можно сделать из интег-
интеграла стационарный процесс.
Задача 1. Докажите, что если %t — непрерывный в среднем квадратиче- >
ском стационарный процесс, m ~ Mg* ф 0, то не существует случайной ве-
величины г\ такой, что ц + \ %s ds — стационарный процесс,
о
Более общий вопрос: существует ли стационарный процесс %>
являющийся решением линейного дифференциального уравне-
уравнения с постоянными коэффициентами Р{~7т) ^ — h? (Если ответ
на этот вопрос положителен, а 0 — устойчивое решение для со-
соответствующего однородного уравнения, то к t]t неограниченно
приближаются при увеличении t решения при всевозможных на-
начальных условиях.) Решить эти задачи и найти характеристики
соответствующих случайных процессов мы сможем в § 2.

§ 4.!) КОРРЕЛЯЦИОННЫЕ ФУНКЦИИ 69
т
Представляет интерес существование 1. i. m. Г" \ & dt (в
случае непрерывного в среднем квадратическом стационарного
п
процесса) или 1. i. m.n~! X |& (в случае стационарной после-
последовательности).
Задача 2. Докажите, что если корреляционная функция стремится
к нулю на бесконечности, то
U
Li. m. -J—tbdt^m F)
И
ИЛИ
/1,-1
* V \h~m G)
1. 1. т. -
(т — математическое ожидание).
В следующем параграфе мы докажем, что предел F) (или
G)) всегда существует; только этот предел не всегда является
константой — это какая-то интегрируемая в квадрате случай-
случайная величина. Например, для процесса It = Л cos (r)t + q>) пре-
предел F) равен 0, если ц ф 0, и Л cos ф при ц = 0.
Результаты типа закона больших чисел представляют собой основу реше-
решения ряда задач математической статистики, относящихся к случайным про-
процессам. Если математическое ожидание m и корреляционная функция K(t)
стационарного процесса |* нам неизвестны, но мы можем наблюдать процесс
на отрезке от 0 до Т, то естественной оценкой для математического ожидания
будет (в случае непрерывного времени)
т
Этаv оценка — несмещенная, но не является, вообще говоря, наилучшей. За-
Закон больших чисел для |* означает состоятельность этой оценки.
А как оценить по наблюдению g*, /e[0, Г], корреляционную функцию
или функцию Q (t)»Mif+sls? Несмещенной оценкой для Q(t) будет
h+&ds.
Состоятельность этой оценки сводится к закону больших чисел для процесса
r\s = %8+th. Этот процесс для стационарного в широком смысле процесса &
вовсе не обязан быть стационарным в широком смысле (если |* стационарен
В узком смысле, то ца также стационарен).
Задача 3*. Пусть %t — действительный гауссовский стационарный про*
цесс с нулевым математическим ожиданием и непрерывной корреляционной
функцией K(t)f стремящейся к нулю на бесконечности. Найдите выражена

70 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ [ГЛ. 4
для корреляционной функции процесса r)s = ?8+*?s- Выясните, является ли
QT (t) состоятельной" оценкой для K(t).
Указание. Для случайных величин ?ь |2, ?з, ?4, имеющих гауссовское
совместное распределение со средним 0 и матрицей ковариаций Ftj), смешан-
смешанный четвертый момент MgiJkis&i = ^12^34 + ^13^24 + bub2s-
4. Условие неотрицательной определенности (см. задачу I
§ 1.3) в случае стационарных процессов превращается в
' (8)
(Cj — комплексные числа, tj— элементы Г).
Имеют место следующие теоремы.
Теорема 1. Для того чтобы последовательность К(п),
—оо < п < оо, была неотрицательно определенной (т. е. чтобы
для любых комплексных Cj и целых tj выполнялось (8)), необ-
необходимо и достаточно, чтобы она представлялась ё виде
где F — неубывающая функция на отрезке [—я, я]. Соответ-
Соответствующая мера определяется однозначно (а функция — одно-
однозначно с точностью до постоянного слагаемого и значений в
точках разрыва).
Теорема 2 (Бохнера — Хинчина). Для того чтобы непре-
непрерывная функция K(t), —оо < t <C оа, была неотрицательно
определенной, необходимо и достаточно, чтобы она представля-
представлялась в виде
где F — неубывающая ограниченная функция на (—оо, оо). Со-
Соответствующая мера на числовой прямой определяется одно-
однозначно.
Доказательство второй теоремы, более сложной, можно про-
прочесть в учебнике Гнеденко, 1961, § 39; теорему, касающуюся
последовательностей, полезно доказать самому, пользуясь эле-
элементарными сведениями из теории рядов Фурье и свойством
компактности ограниченного семейства мер.
Функция F называется спектральной функцией. Вычисления
п. 1 показывают, каким образом для любой неотрицательно
определенной функции К или неубывающей функции F можно
построить пример соответствующего стационарного процесса.
Если функция F абсолютно непрерывна с производной /(X),
то последнюю называют спектральной " плотностью стационар-
стационарного процесса (последовательности)..

§ 4.2] СПЕКТРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 71
Спектральная функция имеет «физический смысл» функции распределе-
распределения, описывающей распределение энергии случайного колебания по разным
частотам; спектральная плотность — плотность распределения энергии по ча-
частотам.
Укажем, какие спектральные плотности соответствуют некоторым из
рассмотренных ранее корреляционных функций: для K(t) = е~~а ' *' (пример 3
§ 1.2; задача 2 § 1.4) / (Я) = я-а/(а2 + Я2); для последовательности некор-
некоррелированных величин с дисперсией а2 будет f (Я) = o2j2% на всем отрезке
от — зт до я.
Решение задачи 21 § 2.1 говорит нам, что BяГ)"
\ *~
яв-
0
ляется асимптотически несмещенной оценкой для спектральной плотности f(k).
Вычисления показывают, что дисперсия этой оценки, скажем, в случае гаус-
совского процесса не стремится к 0 при Т -*¦ оо, и оценка оказывается несо-
несостоятельной. Как в таком случае следует находить по опытным данным спек-
спектральную плотность? Этому вопросу посвящена обширная литература, как
чисто математического, так и прикладного, «инженерного» характера. См., на-
например: Г. Дженкинс, Д. Ватте, Спектральный анализ и его приложе-
приложения, вып. 1, «Мир», М., 1971; Э. X е н н а н, Анализ временных рядов, «Наука»,
М., 1964. В этой книге коснуться вопросов статистики случайных процессов мы
не сможем.
Мы рассмотрели здесь спектральные представления корре-
корреляционных функций; это — переход к следующему параграфу,
где речь идет о представлении самих случайных функций.
§ 4.2. Спектральные представления
1. В этом параграфе и в следующем мы будем рассматри-
рассматривать только процессы с нулевым математическим ожиданием
на Т = R1 или Z1?
В § 3.2 мы уже говорили о важности установления изоморф-
изоморфных соответствий между пространствами Нт и достаточно про-
простыми /^-пространствами. Это нужно уточнить: важными для
исследования стационарных процессов оказываются такие изо-
изоморфизмы, при которых группе операторов сдвига Qh на Нт
соответствует достаточно простая группа операторов; а для за-
задач линейного прогнозирования важно, чтобы также простран-
пространствам #<* соответствовали достаточно простые подпростран-
подпространства ^-пространства.
Йа таких изоморфных соответствиях основываются спект-
спектральные представления стационарных процессов.
Теорема. Пусть корреляционная функция стационарного
в широком смысле процесса %и t^R1 (соответственно t^Zl)t
М it = 0, представляется в виде
= $
etadF(k)

72 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ [ГЛ. 4
D-
I соответственно \ ), причем функция F выбрана непрерывной
справа. Тогда существует процесс Z(X), —оо<Коо (соот-
(соответственно —п^Х^п), с ортогональными приращениями с
нулевым математическим ожиданием, М| Z (Х2)—Z (Хх) \2=F (Х2)—
F(Xi)9 такой, что
\ A)
Процесс Z(X) непрерывен справа в среднем квадратическом.
Если потребовать Z(—оо) = 0 (соответственно Z(—я) = 0), то
процесс Z(X) определяется однозначно с точностью до экви-
эквивалентности.
Стохастический интеграл
\f(X)dZ(X) B)
устанавливает взаимно однозначное изометрическое линейное
соответствие между пространствами L2 (dF) и Нт\ при этом
eitx^->^u а операторам 6л, соответствуют в пространстве L2(dF)
операторы умножения на eiKh.
Доказательство. Начнем строить отображение /(/), ко-
которое, как мы затем докажем, будет задаваться формулой B).
Функции / вида
/(Я) = с,еш«+ ... +спемп C)
поставим в соответствие случайную величину
Uf) = cilu+ ... +cnltn- D)
Отображение / совершенно очевидным образом линейно; про-
проверим, что оно изометрично:
М | cxltl + ... + cnlin |2 = X cfitK (tj - tk) =
? J еш*7Ъ dF (X) = J | f (X) f dF (X)
(интегралы, как и прежде, по (—оо, оо) в непрерывном и по
[—я, я] в дискретном случае).
Из изометричности и линейности вытекает, что для fx = /2
почти всюду (dF) соответствующие /(fi), /(/2) совпадают почти
наверное, т. е. что это отображение из пространства L2(dF)
в Нт- Оно продолжается по непрерывности до изометрического
(а стало быть, взаимно однозначного) линейного соответствия
между замыканиями множеств функций вида C) в L2(dF) и

4 4.2] СПЕКТРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 73
случайных величин вида D) в #г. Последнее замыкание, по
определению, совпадает со всем Нт; первое совпадает с L2(dF).
Это не вытекает — даже в случае отрезка [—л,п] — из того,
что любая интегрируемая в квадрате функция разлагается в
сходящийся в среднем квадратическом ряде Фурье: ведь
Х2([—я, я], dF)?=L2([—я, я], dx). Доказательство можно
провести, например, так: в пространстве L2(dF) всюду плотно
множество ограниченных функций, в нем — множество ограни-
ограниченных непрерывных или даже дважды непрерывно дифферен-
дифференцируемых, в нем — периодических функций с теми же свой-
свойствами, а каждая из них разлагается в равномерно сходящийся
ряд Фурье *).
Утверждение о виде операторов, соответствующих 8^, выте-
вытекает из того, как определяется /(/) для функций вида C).
Теперь положим Z (Я) = / (Х(_оо, х]) (соответственно Z (Я) =
= /(х(__ЯрЯ#])). Это — процесс с ортогональными приращениями
с нулевым математическим ожиданием и дисперсиями прира-
приращений, равными приращениям функции F. Действительно,
MZ(A,)=0, потому что это случайная величина из #г; далее,
М [Z (*,) - Z (Я,)] [Z (Я4) - Z (А3)] = MI (x,Xl.
Для (А4Д4] — (АаДг] получаем F(X2) — ^(^1), для непересекаю-
непересекающихся (Х1Д2], (ЯзД41 — нуль. Непрерывность Z(X) справа вы-
вытекает из непрерывности справа F(X).
Наконец, для ступенчатых функций
I(f) и стохастический интеграл — изометрические отображения;
они совпадают на всюду плотном в L2(dF) множестве ступен-
ступенчатых функций, а значит, — и всюду.
2. Рассмотрим очень простой пример спектрального пред-
представления. Для процесса примера 1 § 1.2, к которому мы воз-
возвращались в предыдущем параграфе, имеем &=Л cos(rjf+(p) =
= -^е^ет + -g- e~**e~ix*\ это уже готовое спектральное пред-
представление. Соответствующий процесс с ортогональными прира-
приращениями Z(X) постоянен на интервалах (—оо,—ц), (—т|,т|)
и (т), оо), а в точках —ц и rj он делает скачки, равные
*) На дубе — сундук, в сундуке — заяц, в зайце — утка, в утке — яйца;,
б нем — иголка, а в иголке — Кощеева смерть.

74 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ [ГЛ, 4
А А
соответственно ~9-^~/ф и-^-е** (если rj = 0, то процесс делает
один скачок A coscp).
Заметим, что здесь процесс Z(X) с некоррелированными при-
приращениями отнюдь не является процессом с независимыми при-
приращениями. Это — общая ситуация для всех вещественнознач-
ных процессов: для них непременно 1 Z(—Х\)—Z(—Я2) =
= Z(^2—) —Z(X\—) с вероятностью.
Задача 1. Пусть It — действительный стационарный процесс с мате-
математическим ожиданием т и спектральной плотностью /(А,). Рассмотрим ко-
колебание частоты Л (неслучайной), модулированное по амплитуде при помощи
It, т. е. т]« = ?« cos (At + ф), где Л = const, <р — независимая от ?* случайная
величина, равномерно распределенная на [0, 2п).
Напишите спектральное представление для r\t\ найдите соответствующую
спектральную функцию.
3. Рассмотрим применения спектральных представлений к
исследованию стационарных процессов.
а) Линейные преобразования. Пусть линейный оператор А
задается комбинацией линейных дифференциальных операторов
с постоянными коэффициентами и интегральных операторов
с ядром, зависящим только от разности аргументов. Такие опе-
операторы инвариантны относительно сдвигов, и их применение/ к
стационарным процессам приводит снова к стационарным про-
процессам. Посмотрим, что получится при применении такого опе-
оператора к процессу, заданному спектральным представлением
A). Имеем
= \.\.т.
ОО *л»
= ( lim /Г1 (еа {i+h) - ем) dZ (А) = [ еш ¦ IX dZ (X). E)
—оо —>оо
Предел в среднем квадратическом здесь существует тогда и
только тогда, когда функция К" \е1 — l) сходится при /i->*0
к IX в среднем квадратическом относительно dF(X), т. е., как
оо
легко провыть, при \X2dF(X)<oo. Полагая W (X) —
—оо ,
\ i\\dZ(\i), приводим E) к виду
оо
i;= J eiMdW(X)
(-оо, AJ

§ 4.2] СПЕКТРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 75
(см. задачу 4 § 2.2); это — спектральное представление процесса gj.
Спектральная функция /V "этого процесса легко находится:
(—оо, Ц
(—00, Я,]
Аналогично для дифференциального оператора Py-jj) спек-
спектральное представление % —^("^fJS* задается формулой
оо
= \
а спектральная функция
(-оо, Ц
Посмотрим, что будет для интегральных операторов:
оо
= [ B(t-S)tsdS:
00 1- 00 -.
J J B(t-s)elXsdZ(X) \ds =
—00 L —00 J
00-00 -.
= U J B(t-s)easds \dZ(l).
•—00 L—00 J
(Здесь применяется результат задачи 5 § 2.2; для простоты
предположим, что функция В обращается в 0 вне конечного от-
отрезка, т. е. интеграл по s фактически собственный.) Делаем во
внутреннем интеграле замену s = t + и; он превращается в
оо
еш »g(X)f где g(X)= \ В(—u)eiKudu. Отсюда получаем спек-
—оо
тральное представление:
оо
r\t= S e^g{K)dZ{%). F)
То же будет для несобственного интеграла (при условии его
сходимости в среднем квадратическом). .
Теперь мы можем сформулировать общее правило, которое
будет годиться и для дифференциальных операторов, и для ин-
интегральных, и для их комбинаций.
Спектральное представление процесса v\t = Alt задается
формулой F), где g(X) при каждом X получается следующим
образом: нужно применить оператор А к функции еш и взять

76 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ [ГЛ. 4
полученную функцию в точк? t = О (это можно записать такой
формулой: g(h) = Aea-@)).
Спектральная функция процесса r\t задается формулой
(
J G)
(-», Я]
Если существует спектральная плотность ft (А,), то спектральная
плотность процесса r\t = Л?* получается из нее умножением на
kwi2
Это же правило применимо к инвариантным относительно сдвигов опера-
операторам, действующим на функции от дискретного аргумента.
Задача 2. Пусть \п> — оо < я < оо, — стационарная в широком смысле
последовательность "со спектральной плотностью /(Я), Яе [— я, п]; М|д = 0.
00
Каковы условия существования ть = Л?п = 1. i. m. V qk\n~b и как выра-
жается спектральная плотность этой стационарной последовательности?
б) Интегрирование, стационарные решения уравнений. Реше-
Решение уравнения ^("^Т"I!* — !* находится в виде
оо
%= \
—оо
оо
если только \ | Р(/A) f2 dF (X) < оо; если же этот интеграл рас-
—оо
ходится, из результата подпункта а) легко вывести (от против-
противного), что решения нет. В случае, когда коэффициент ао мно-
многочлена Р при нулевой степени равен 0, к решению можно при-
бавить произвольную случайную величину ?,
некоррелированную с Z (А,). В частности, ста-
стационарный вариант неопределенного инте-
оо
грала существует, когда \ Х~2 dF(X) < сю, и
—оо
задается формулой
оо
Рис.12.
Задача 3. Электрическая схема, представленная на рис. 12, состоит из
источника тока, устройство которого не указывается, конденсатора емкости С
и сопротивления R. Пусть ток, испускаемый источником, представляет собой
стационарный случайный процесс |* с математическим ожиданием /0 и кор-
корреляционной функцией К% (t) = (А/J * е~~а t '• Найдите математическое ожи-
ожидание и дисперсию напряжения r\t на конденсаторе при стационарном режиме
(т. е. при условии, что r\t — стационарный процесс).

§ 4.3] РЕШЕНИЕ ЗАДАЧИ ЛИНЕЙНОГО ПРОГНОЗИРОВАНИЯ 77
Заметьте, что здесь нельзя непосредственно применить развитую теорию,
потому что М?/ Ф 0.
в) Закон больших чисел. В дискретном случае
Функция под знаком интеграла стремится при п% — щ—> оо к 1
для % = 0 и к 0 для остальных X; при этом она мажорируется
интегрируемой в квадрате относительно dF(X) функцией 1, так
что имеет место сходимость в среднем квадратическом. По-
Поэтому
—л
В непрерывном случае пользуемся задачей 5 § 2.2:
.i. т.7-Ц- \hdt = l. i.m. \ -r-?-r
(разумеется, в обоих случаях вместо Z@+) можно взять
Z@))
))
Итак, предел среднего существует всегда и равен скачку
случайной функции Z в нуле (в смысле сходимости в среднем
квадратическом). Необходимое и достаточное условие сходи-
сходимости среднего к математическому ожиданию (в нашем случае,
когда Mh = 0, — к нулю)—непрерывность спектральной функ-
функции F(k) в нуле.
§ 4.3. Решение задачи линейного прогнозирования
1. Установим для некоторых стационарных процессов, являются ли они
линейно регулярными (сингулярными).
Примером линейно сингулярного процесса может служить It =.
= Лсоб(^ + Ф), где совершенно точный линейный прогноз осуществляется ис-
использованием формулы %ti = ltl_2nn- Также сингулярен будет процесс с ана-
аналитической корреляционной функцией, например K(t) — 1/A -\-t2). В этом
случае процесс вблизи любой точки на оси времени разлагается в ряд Тей-
Тейлора, сходящийся в среднем квадратическом; линейная формула, осуществляю-
осуществляющая абсолютно точный прогноз на небольшой промежуток времени, — такая:
6/, = It, + К (h - *о) + ll (h - 'oO2 + • • •

78 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ [ГЛ. 4
Линейно регулярными являются: последовательность |* с некоррелирован-
некоррелированными значениями; последовательность ее разностей Ц^ = %k — 6д—р стацио-
стационарный процесс с корреляционной функцией /((*) = A — |^|) V 0 (доказать!).
Пользуясь этим последним примером, мы обнаруживаем, что стационар-
стационарный процесс может быть сингулярным и в то же время линейно регулярным:
. процесс %t — A cos(t]/ + ср) — случайная синусоида — допускает абсолютно
точный нелинейный прогноз, но он линейно регулярен, если подобрать (А, г\)
так, чтобы у него была соответствующая корреляционная функция.
2. Рассмотрим применение к задаче линейного прогнозиро-
прогнозирования спектральных представлений; ограничимся более простым
случаем стационарных последовательностей.
я
Изоморфное соответствие /«-> \f(X)dZ(K) между простран-
—я
ствами L2([—я, я], dF) и Н^т сводит задачу прогнозирования ?т
по значениям gn, я^О*), к задаче нахождения элемента g
замыкания в L2(dF) линейной оболочки функций einK, п^.0,
такого, что eimk — g(K) ортогонально этому подпространству
в смысле соответствующей метрики. Достаточно ортогонально-
ортогональности ко всем образующим этого пространства; поэтому условия
на g следующие:
A)
Условие линейной сингулярности заключается в том, чтобы
множество линейных комбинаций функций einXr n ^ 0, было
всюду плотно в L2(dF). Достаточно, чтобы только функцию ei%
можно было приблизить в среднем квадратическом этими ли-
линейными комбинациями.
В качестве примера докажем следующую микротеорему.
Микротеорема. Замкнем отрезок от —я до я в окруж-
окружность. Если на этой окружности существует дуга длиной более
половины окружности, на которой мера, соответствующая спек-
спектральной функции, равна нулю, то рассматриваемая стационар-
стационарная последовательность линейно сингулярна.
Доказательство. Положим e~iK = z, и пусть середине
той дуги, на которой мера не равна нулю, соответствует при
этом точка z0. Выберем настолько больше N > 0, чтобы всюду
на этой дуге было \Nz0—,г|<АЛ (Непременно сделайте чертеж.)
*) Задача прогнозирования по наблюдению случайной последовательности
до момента п ф 0 сводится к рассматриваемой задаче при помощи операторов
сдвига; см п. 8 § 3.3.

§ 4.3] РЕШЕНИЕ ЗАДАЧИ ЛИНЕЙНОГО ПРОГНОЗИРОВАНИЯ 7)9
Тогда
rfi_l_ * _ 1 I Nzo-z
~ 2~-Nz + (zNz)-~ Nz^ {Nz)* "T
^ n=0
причем ряд сходится равномерно на дуге, на которой мера от-
отлична от нуля. Значит, он сходится и в смысле L2(dF).
Можно доказать, что для линейной сингулярности достаточно обращения
меры dF в нуль на сколь угодно маленькой дуге. В связи с этим предлагается
необязательная задача.
Задача 1*. Можно ли функцию 1/г приблизить равномерно сколь угод-
угодно точно многочленами на всей единичной окружности комплексной плоскости,
за исключением произвольно малой дуги?
3. В случае линейно сингулярных последовательностей на-
наилучший (абсолютно точный) линейный прогноз находится при
самом доказательстве сингулярности: например, для последо-
последовательности, удовлетворяющей условиям микротеоремы преды-
предыдущего пункта, прогноз на один шаг дается формулой
1 <0 п=д ° k=Q П °
Посмотрим, что мы можем сделать в регулярном случае.
Рассмотрим самый простой, по-видимому, случай, когда
у нашей стационарной последовательности существует спек-
тральная, плотность f(X)> ограниченная сверху и снизу двумя
положительными константами: 0 < С\ ^ f(X) ^ С2 < оо, —я <g
^ X ^ я. В этом случае функция на [—я, я] принадлежит
L2(dF) тогда и только тогда, когда она интегрируема в квад-
квадрате относительно меры Лебега, и понятия сходимости в сред-
среднем квадратическом, замыкания и т. п. относительно меры dF
и относительно меры Лебега совпадают (не совпадают скаляр-
скалярные произведения, ортогональность, проекции).
Введем ряд пространств функций на [—я, я]. Прежде всего,
определим пространства А<о и А>о — подпространства L2[—я, я],
являющиеся замкнутыми линейными оболочками множеств функ-
функций {einhy n <; 0} и {einK, n > 0} соответственно (безразлично, рас-
рассматривать замыкание в пространстве ?2([—я, я], dF (X)) или
в L2 ([— я, я], dX)). Любой элемент L2 [— я, я] представляется
единственным образом в виде суммы элемента из А<о и элемента
из А>о; но подпространства А<о и А>о не ортогональны в смысле
L2(dF(X)) (только в смысле L2(dX)). Для того чтобы функция
принадлежала А<0 (соответственно А>о), необходимо и доста-
достаточно, чтобы ее коэффициенты Фурье, отвечающие положитель-

80 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ [ГЛ. 4
ным (соответственно неположительным) степеням eil, были равны
нулю (потому что любая функция из L\—я, я] разлагается в схо-
сходящийся в среднем квадратическом ряд Фурье). Пространства
А<0, А>0 соответствуют при спектральном представлении нашей
случайной последовательности пространствам случайных величин
Я о „о
<о» п >о*
Условие наилучшего прогноза A) можно теперь переписать
в виде
я
J[e»»* —g (A,)] f (А,) *-'»*<«,:= О,
—Я
ИЛИ ,
(причем geA<0).
Далее, рассмотрим множество С<0(С>0) функций на [—я, я],
приближаемых сколь угодно точно линейными комбинациями
функций einKy n^.0 (соответственно п^О), в смысле равно-
равномерной сходимости (все эти функции непрерывны на отрезке
[—я, я] с отождествленными концами). Эти множества замк-
замкнуты не только относительно сложения и умножения на число,
как h<0 и А>0, но и относительно умножения функций друг на
друга (т. е.-С<0, С>0 — алгебры функций). Это вытекает из
того, что произведение двух тригонометрических многочленов,
содержащих только неположительные (неотрицательные) сте-
степени eiX, — опять такой же многочлен. Более того, для g e С<0
также и expgeC<0 (из-за того, что целая функция ег сколь
угодно точно приближается многочленами в смысле равномер-
равномерной сходимости в любой ограниченной области комплексной
плоскости). Легко доказать также, что:
Задача 2. Если g{^h<Q9 g2sC<0, то адеА<0; если
Я, ^й>о> ?2еС>о> то S:g2^ Ко-
Покажем, как решается задача наилучшей линейной экстра-
экстраполяции в предположении, что спектральная плотность f(K)
(непрерывная) представляется в виде
f2W, C)
/< f^ /г(Я) =/i (Л,) при— я
Условие B) переписывается теперь в виде

§ 4.3] РЕШЕНИЕ ЗАДАЧИ ЛИНЕЙНОГО ПРОГНОЗИРОВАНИЯ 81
Функции J2(X) = fx (X), ?2(к)~ = f\(X) 1 принадлежат С>о; значит,
умножая выражение D) на f2(X)"~l, получаем* равносильное
условие:
Обозначая эту функцию через h(X)i получаем условие наилуч-
наилучшего линейного прогноза:
Требование принадлежности g подпространству й^о равносильно
требованию g • fi gA^o, так как /i, /Г1 еС<0. Значит, дело сво-
сводится к тому, чтобы представить функцию eimXfi(X) в виде
суммы функции из й<о и функции из А>о. Но это разложение
получается очень легко, если разбить ряд Фурье этой функции
(сходящийся в среднем квадратическом) на сумму по неполо-
неположительным степеням eiK и по положительным.
Проделаем это. Пусть
(ряд сходится в смысле L2[—я, я]). Тогда
+ с-т + с-^е-* +...
Ясно, что первые слагаемые (до с~т+{еа) представляют собой
h(X)f а бесконечный ряд, начинающийся с с~т дает g(X)f{(X).
Значит^ наилучший прогноз получается следующим образом:
функция
g (I) = [с-т + с.т-хе-а + с-т-ге-ш + ... ] f, (Я,) E)
разлагается в ряд Фурье
и прогноз для 1т по значениям |„, п^О, дается формулой
(О<0 = 60l0 + 6-li-l + Й-2^-2 + • • • F)
(сходимость в среднем квадратическом).

82 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ [ГЛ. 4
Что касается средней квадратической ошибки прогноза, то
она равна
—я
я
\. G)
При m~>oo это выражение стремится к
5 J= /С@) =
/1=0
Таким образом, здесь имеет место линейная регулярность.
4. Чтобы можно было применить построенную теорию, нам
нужно научиться разлагать спектральную плотность на сопря-
сопряженные друг другу множители, принадлежащие вместе с их
обратными С^о, соответственно С>о. Для любой достаточно
гладкой (на окружности) положительной функции / это можно
сделать следующим образом. Логарифм положительной функ-
функции столь же гладок, как и сама функция; значит, его можно
разложить в равномерно сходящийся ряд Фурье:
lnf(X)=...+
причем ,в силу вещественности логарифма а—п — ап, а0 действи-
действительно. Эту функцию можно представить в виде суммы двух
сопряженных друг другу функций: -у + а~хе~а + a^2eiK + . -.
из С<о и -у + ctxeiK + а2е2а + ... из С>о« Теперь остается по-
положить fx (Я) = ехр | у- + а-хе~ а + а~2е~2а + ... |, и анало-
аналогично для /2. Функции /i и f~l принадлежат С<о, как ехр от
функций из С<о.
Пользуясь разложением ег = 1 + z + ^2/2 + ..., мы можем
выразить коэффициенты Фурье функции fx через а0, а-1э а_2) •. •
В частности, с0 == 1 + -^- + °9t + ... = еа°/2. Отсюда
(8)
(г )
а? A) = 2я | с0 f = 2пе«> = 2л ехр < Bn)~~l J In f (Я) <*Л >.

§ 4.3J РЕШЕНИЕ ЗАДАЧИ ЛИНЕЙНОГО ПРОГНОЗИРОВАНИЯ 83
- Заметим, что для практических применений нам зачастую важнее знать
ошибку наилучшего прогноза, чем формулы, осуществляющие этот прогноз.
Дело в том, что, если наилучший прогноз окажется сложным и неудобным
для вычисления, мы можем вместо него пользоваться какой-либо более про-
простой — но не наилучшей — оценкой; но нам необходимо знать, много ли мы
при этом теряем, намного ли лучших результатов мы могли бы добиться, ис-
используя наилучшую оценку.
Выше мы предполагали, что функция f — гладкая, настолько, что ряд
Фурье для ее логарифма равномерно сходится. Но нам совершенно нет не-
необходимости, чтобы к функции In f(X) равномерно сходились именно частич-
частичные суммы On(X) ее ряда Фурье, — достаточно, чтобы это были любые три-
тригонометрические многочлены. Пользуясь теоремой Фейера, говорящей, что к
любой непрерывной периодической функции равномерно сходятся суммы
ал(Я) = E0(Я) + 5:(Л)+ ... +5п-,(Л))/л (см. Колмогоров и Фо-
Фомин, 1968, гл. VIII, § 2), мы получаем представление C) для любой непре-
непрерывной положительной спектральной плотности.
Для разрывных, но ограниченных сверху и снизу спектральных плотно-
плотностей мы можем получить аналогичные результаты, воспользовавшись' вместо
пространств С^о, С^о пространствами функций, к которым последователь-
последовательности тригонометрических многочленов с неположительными (неотрицатель-
(неотрицательными) степенями е сходятся почти всюду, оставаясь равномерно ограни-
ограниченными.
5. Указанный метод факторизации плотности является, об-
общим, и, значит, в конкретных случаях выгоднее пользоваться
не им, а какими-нибудь методами с более узкой областью при-
применимости. Так, часто приходится рассматривать случай, когда
}(%) представляется рациональной функцией от eiK:
P(eiK)
P и Q — многочлены. Из действительности отношения много-
многочленов на единичной окружности вытекает, что их корни (корни
и полюсы рациональной функции P/Q) разбиваются на пары
симметричных относительно окружности (т. е. получаемых друг
из друга инверсией), и еще они могут иметь какой-то кратности
корень 0:
Р(г) ^(г-г1)(г-гГ1)-...-(г-гп)(г-г^)
Q(z) (z-Wl)(z-wrl)-...-(z~wm)(z-wZ1)'
где k может быть и положительным, и отрицательным, и нулем.
Пусть корни Zu .••, Zn> w\, ..., wm no модулю больше еди-
единицы, а 2Т\ ..., Zn\ wTl9 ..., шт1 — меньше. Перепишем вы-
выражение для P/Q:
Р(г) _ r k+n-m (zi — z) (zx — z-1) • ...-(zn — z) (zn — z-1)
Q (z) o<* (шд - z) (»» - z~») • ... . {wm - z) (wm - z->)'

84 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ [ГЛ. 4
{
При г = еа дробь действительна, поэтому коэффициент С тоже
действителен, а степень k-\-n — т = 0. Таким образом, полу-
получаем
Теперь в /, (К) включаем множитель -\/С и те скобки, в кото-
которых участвует е~а:
При этом / (Я) = fx (А) • f{ (Я); докажем, что fufil & C<0. Для этого
достаточно проверить, что для | а |> 1 функция (а — e~a)~l
(то, что (а — е"а) е С<о, очевидно). Имеем
= а-1
(а — е-^Г1 = а
Рассмотрим пример: /(Я) = 5+ 4 cos Я (соответствующая кор-
корреляционная функция: /e@)=10ji, /C(± 1) = 4я, /С^'
Нп|> 1). Имеем
*) = е-а [2е2а + 5^и + 2]
Здесь первый множитель есть МЯ), а второй /2(Я). По форму-
формулам E), F) получаем для прогноза на один шаг
Для прогноза на большее число шагов g = 0, т. е. наилучший
линейный прогйоз не использует наблюдаемых значений g0»
6-ь |_2, ...; ошибка прогноза (?т)<0 = 0 равна Щт= 10я.
Средний квадрат отклонения от истинного значения прогноза
на один шаг равен 2я|со|2 = 8я, т. е. и прогноз на один шаг
тоже очень плох в данном случае.
Задача 3. Найти наилучший линейный прогноз для gm по значениям
?w, n ^ 0, в случае стационарной последовательности с математическим ожи-
ожиданием 2 и спектральной плотностью f(X) = B5 + 24 cos Я) (корреляцион-
vl . 2я / 3 41 я I Ч
ная функция /С(п) = -=г-1 — — I J.
Не забудьте учесть, что М \п Ф 0, и внести в формулы для прогноза со-
соответствующие изменения.

§ 4.3] РЕШЕНИЕ ЗАДАЧИ ЛИНЕЙНОГО ПРОГНОЗИРОВАНИЯ 85
6. Формулы E)—(8) могут сохранять смысл и тогда, когда плотность
f(X) в некоторых точках обращается в нуль или в бесконечность, но их при-
применение уже не обосновано. Полезно посмотреть, что можно при этом сказать
о задаче наилучшего линейного. прогноза. Наилучший прогноз в этом случае
не обязательно представляется в виде суммы ряда F), потому что соответ-
соответствующая функция g(K) может не принадлежать L2(dh), имея точки, при
приближении к которым она слишком быстро растет.
Задача 4*. Найдите наилучший прогноз за 1 шаг для стационарной
последовательности со спектральной плотностью f(%) = 2 + 2cosX (K@) =
*= 4л, K(±l) = 2jt, /С(я) = 0 при \п\ > 1).
А. Н. Колмогоровым было доказано, что стационарная в широком смысле
последовательность, имеющая спектральную плотность, тогда и только тогда
линейно сингулярна, когда
я
lnf(X)<tt«-co (9>
(этот интеграл уже возникал у нас в формуле (8)), и тогда и только тогда
линейно регулярна, когда интеграл сходится.
Задача 5*. Докажите, что из сингулярности следует (9) (в случае,,
когда есть спектральная плотность).
Задача 6*. Приведите пример стационарной в широком смысле последо-
последовательности, не являющейся ни линейно регулярной, ни линейно сингулярной.
Формулы для наилучшего линейного прогноза в случае стационарного-
процесса с непрерывным временем можно также написать по аналогии с фор-
формулами для стационарной последовательности, используя вместо рядов
Фурье преобразования Фурье. Разумеется, после того, как формулы напи-
написаны, их следует доказать.
В частности, для корреляционной функции K(t) = сг2е"~с"' имеем
а л/а/п
а — А '
Здесь первая функция
о
f, (Я) = а л/а/л [ eateai dt
представляется в виде интеграла Фурье только по отрицательным значе-
значениям t, а вторая — комплексно-сопряженная к первой. По аналогии с форму-
формулой E) имеем для прогноза на время s > О
о
Этой функции (константе) соответствует такой наилучший линейный прогноа
для Is по {lu t < 0}:
В более сложных случаях g содержит слагаемые вида Сп(/Я)п, а также
остаток, стремящийся к нулю на бесконечности; в (|5)<о это дает 2 ^гЛ^—
п
линейную комбинацию производных в последний наблюдаемый момент вре-
времени плюс интеграл с некоторой плотностью по всему прошлому процесса.
Задача 7*. Найдите наилучший линейный прогноз для стационарного
процесса с корреляционной функциейK(t) = A + а|*|)е~а'*'.

Глава 5
Бесконечномерные распределения. Свойства
с вероятнрстью 1
§ 5.1. Распределения случайных функций. Теорема
Колмогорова о конечномерных распределениях
1. В § 1.3, п. 2а), мы уже наметили проблемы, о которых
будет идти речь в этой главе. Прежде всего скажем, что такое
распределение случайной функции.
Распределение случайной величины или случайного век-
вектора— это мера в измеримом пространстве (Rl,3$l) или
G?n, J?n), определяемая соотношением ф^(С)= Р{^еС}. Рас-
Рассмотрим случайную функцию ?*, t еГ, принимающую значения
в измеримом пространстве (Х,<%). Для нее роль пространства
Rn должно выполнять, естественно, пространство Хт всех функ-
функций Хи tеГ, со значениями в X.
Цилиндрическими множествами в пространстве Хт будем
называть множества вида {л:.: (л;^, ..., л;/й)еЛ|, tit ..., ^яеГ,
i4elft. (Объяснение названия: в частном случае X = Rlt
Г = {1, 2, 3}, п = 2 это просто цилиндры с образующими, па-
параллельными одной из координатных осей.) Легко видеть, что
цилиндрические множества образуют алгебру, но, в случае бес-
бесконечного Г, не а-алгебру. Определим а-алгебру ШТ в простран-
пространстве Хт — наименьшую а-алгебру, которая содержит все ци-
цилиндрические множества. Ясно, что $т является также наимень-
наименьшей а-алгеброй, содержащей все множества вида {^еД},
/еГ, А е-Я.
Распределением случайной функции |*, tеГ, мы будем на-
называть вероятностную меру Ф^# в пространстве (Хт, &т), опре-
определяемую соотношением Ф|#(С) = Р{|. еС}; т. е. значение этой
меры на множестве С в функциональном пространстве опреде-
определяется как вероятность того, что выборочная функция принад-
принадлежит этому множеству.
Почему вероятность Р {?. е С} определена для любого
С е J?T? Рассмотрим множество всех подмножеств Хт, для ко-
которых эта вероятность определена, т. е. If1 (С) принадлежит
У — нашей основной а-алгебре в вероятностном пространстве.
Это множество множеств является а-алгеброй, и оно содержит
все множества вида {xt e А}\ значит, оно содержит и наимень-
наименьшую а-алгебру, содержащую все такие множества, т. е. Шт.

§ 5.1] . ТЕОРЕМА КОЛМОГОРОВА 87
На бесконечномерные распределения переносятся многие по-
понятия и результаты, известные нам для конечномерных; в част-
частности, для нас важно следующее свойство: если / — ^-изме-
^-измеримый функционал, то
= \f(x.)<t>i.(dx.)9
х
причем оба интеграла сходятся или расходятся одновременно.
Это — теорема о замене переменных в интеграле Лебега (см.
введение).
2. Рассмотрим немного подробнее а-алгебру &т. Оказы-
Оказывается, для любого множества С из этой а-алгебры существует
не более чем счетное число элементов tu t2, ..., /п, ...еГ та-
таких, что принадлежность функции множеству С определяется
только ее значениями в точках tu t2, ... Точнее, существует
множество Л, принадлежащее счетному произведению а-алгебры
$1 самой на себя $Г = <% X # X • • • > такое, что С состоит из
тех и только тех функций х., для которых (xti, хи, ,..)gA.
Иначе говоря,
{К U, ...}sr
где ${*1'*2' "']{Хт) — а'алтебра в пространстве Хт, порождаемая
множествами вида {xti е Л}, Ле1, /=1,2,...
Доказательство этого несложно. Указанная несчетная сумма
а-алгебр, как легко видеть, сама является а-алгеброй (здесь
используется то, что сумма счетного числа множеств {tu t2^...}
сама счетна); она является частью 3§т\ и так как &т — наимень-
наименьшая а-алгебра, содержащая все {^g^}, /gT, A^<%, to обе
а-алгебры совпадают.
Отсюда следует, что в случае несчетного Т такие множества>
как {х.: supxt^c}, или множество всех функций, непрерывных
t€=T
в точке tQf или множество всех непрерывных справа функций,
не принадлежат $т. Соответственно не измеримы относительно
$ такие функции на RT (т. е. функционалы): sup xu lim xt и т. п.
Рассмотренное нами свойство а-алгебры $т напоминает факт, рассмот-
рассмотренный в § 3.1, — то, что для любой случайной величины к\ из h\ существуют
последовательность tit t^ ..., tn, ... элементов Т и последовательность
функций fn от п переменных такие, что т) = 1. i. m. fn (lt , ..., %t V Это не
tt->oo V 1 tl/
удивительно, потому что а-алгебра ЯГт состоит из прообразов множеств из
$т при отображении ©->§. (со). Однако любой факт, относящийся к ^-про-
^-пространством, справедлив лишь с точностью до множеств меры 0, тогда как
результат, доказанный выше, вообще не касается никакой меры.

88 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ {ГЛ. 5
т
3. Далее, а-алгебра & порождается алгеброй цилиндриче-
цилиндрических множеств:
и
По теореме о продолжении меры мера на а-алгебре $}т одно-
однозначно определяется своими значениями на алгебре, порождаю-
порождающей $т. Это означает, что распределение Ф&. случайной функ-
функции однозначно определяется конечномерными распределениями
Ф*,, ...> tn при всевозможных различных tu ..., tn^T.
Более того, вспомним, что а-алгебра $п = Jf X • • • X $ определяется как
о-алгебра в X", порожденная множествами i4iX...X^n, /4jeJf, а си-
система всех таких множеств образует полукольцо, содержащее X. Так как
мера продолжается однозначно также и с полукольца, то распределение слу-
случайной функции %t однозначно определяется значениями мер Ф* f
*г ••" п
f
п
произведениях множеств из $, т. е. вероятностями Р/^ е Ait ..., ^ е АЛ.
Посмотрим, какими свойствами должна обладать система
конечномерных распределений.
Легко понять, что должны выполняться следующие простые
условия.
I. Если 1Ь 1Ъ ..., in — перестановка чисел от 1 до п\ tlf ...
..., tn — произвольные элементы Т; А{, ..., Ап — произвольные
множества из 3§, то
X At2X •.. X 4,Л)=Ф*Л... tn(
II. Для любых tu ..., tn, tn+l<=T; Au ..., Лле^
Otl...tn(AiX ... ХАп).
Действительно, вспоминая, что такое конечномерные распре-
распределения, убеждаемся, что речь каждый раз идет об одной и
той же вероятности — о Р {Ьг ^ Аи ..., |*л е Ап).
Система распределений Q>tt...tn на (Хп> $п)> t\f .•., tn^T,
п= 1, 2, ..., называется согласованной, если выполнены усло-
условия I, II (условия согласованности). Мы установили, что си-
система конечномерных распределений любой случайной функции
является согласованной.
Конечномерные распределения играют по отношению к бес-
бесконечномерным приблизительно ту же роль, что функция рас-
распределения по отношению к распределениям на R1 или Rn,
а условия I, II — ту же роль, что простейшие свойства функции
распределения (O^F^l; монотонность в случае R1 и не-
немного более сложное условие в случае /?п). Неожиданным ока-
оказывается поэтому, что, кротме этих условий, на систему рас-
распределений, чтобы ей соответствовала какая-то случайная функ-

§ 5.1] ТЕОРЕМА КОЛМОГОРОВА 89
ция, не нужно накладывать никаких дополнительных условий
типа непрерывности (аналогичных требованиям lim F(x) = Q,
lim F(x) = \, lim F(x) = F(x0) для функций распределе-
ния). Во всяком случае, никаких дополнительных требований
не нужно в случае (X, $) = (Rly &1) или (Rny $n). (Все требова-
требования непрерывности уже заключаются в том, чтобы Ф^ ... t были
мерами.)
4. Теорема Колмогорова (о конечномерных распре-
распределениях). Пусть любому конечному набору не совпадающих
друг с другом элементов tu ..., tn множества Т поставлена в
соответствие вероятностная мера Ф^ ... tn на (Rny Mn). Для того
чтобы эти меры составляли систему конечномерных распреде-
распределений какой-либо случайной функции, необходимо и достаточно
согласованности системы {Ф^ ... *д, t\, ..., tn^.Ty n= 1, 2, .. Л.
Доказательство. Необходимость — причем не только
для числовых случайных функций, но и для принимающих зна-
значения в произвольном измеримом пространстве (X, <М) — уже
доказана.
Достаточность. Мы построим распределение Ф на (RTf $T),
соответствующее данной системе конечномерных распределений.
Затем в качестве основного вероятностного пространства возь-
возьмем (RTy 9Pу Ф). При этом каждое элементарное событие а>
есть функция х. на Т с действительными значениями; случай-
случайную величину |*(<о) мы определим как значение этой функции
в точке t: g*(x.) = #*. Случайная функция ?*, (еГ, и будет
искомой. х
Определим вероятностную меру Ф сначала не на а-алгебре
$ту а на порождающей ее алгебре цилиндрических множеств.
А именно, для множества
С = {х.: (xtv ..., xtn) €= Л}, B)
где Ае#, положим
Ф,2...,п<Л). C)
Но одно и то же цилиндрическое множество С может быть
представлено в виде B) по-разному — с разными наборами
tu ..-, tn^T и соответственно разными множествами Л, так
что нужно еще доказать корректность этого определения.
Задача 1. Выведите из условий согласованности, что раз-
разным представлениям цилиндрического множества С в виде B)
отвечает одно и то же значение Ф(С), вычисленное по фор-
формуле C).
Теперь докажем счетную аддитивность функции множества
Ф(С) на алгебре цилиндрических подмножеств RT, и тогда эту

90 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. 5
функцию можно будет продолжить до меры на порожденной
этой ч алгеброй а-алгебре Шт. Счетная аддитивность функции
множества, определенной на алгебре, равносильна ее конечной
аддитивности плюс выполнение условия непрерывности в нуле:
оо
из -С:эС2р ... эС,2..., П С„=0, должно вытекать
lim Ф(С„) = 0.
Конечная аддитивность очевидна — она вытекает из аддитив-
аддитивности мер Ф/, ... * И), Ле1п (ведь для любого конечного
числа множеств вида B) можно выбрать общий набор
tu •••> ^п). Докажем непрерывность в нуле. Для счетной по-
последовательности цилиндрических множеств Сп можно выбрать
счетную последовательность tu ..., tn, ... элементов Т такую,
что каждое из рассматриваемых множеств связано с каким-то
конечным числом элементов этой последовательности. Без огра-
ограничения общности можно считать, что
Сп = {х.: (xtv ..., xtn) €= Ап], Ап e= ЗР. D)
Предположим, что счетная аддитивность не имеет места, т. е.
существует такая последовательность Сх э С2 э ... з Сп э ...,
оо
П Crt=0, множеств вида D), для которой Ф(СП) не стре-
мится к нулю при /г~>оо. Последовательность Ф(СП)—невоз-
растающая (в силу конечной аддитивности), ограниченная снизу
нулем; значит, предел у нее есть, но, по нашему предположению,
не равный 0, а положительный. Иначе говоря, Ф(Сп)>8>0
для всех п.
До сих пор все наши рассуждения были применимы не
только к пространству RT вещественнозначных функций, но и
к пространству Хт функций, принимающих значения в произ-
произвольном множестве X. Теперь настало время воспользоваться
свойствами мер в Rn. Известно, что для любой конечной меры
йа (Яп,38п) внутри любого борелевского множества можно вы-
выбрать компактное множество сколь угодно близкой к нему меры.
Применим это к мере Ф^ ... tn и множеству Ап; получим, что
существует компакт Кп ^Ап такой, что Ф^ ... tn(An \ Кп) < е/2*.
Введем обозначение:
Dn = {х.: {xtv ..., xtn) е= /Ц;
из определения Кп вытекает, что Dn s Cn. Изменим немного
множества Dn так, чтобы получить невозрастающую последова-
последовательность множеств с тем же пересечением:

§ 5.1} ТЕОРЕМА КОЛМОГОРОВА 91
Эти множества, подобно Dni соответствуют некоторым компак-
компактам Кп в Rn:
K'n=(Ki X Rn~l) П (К2 X Rn~2) П .. • П (X-i X Rx) П Kn
(Kn — компакт как пересечение я— 1 замкнутых множеств и
одного компакта).
Докажем, ч?о Ф (D'n) > 0. Имеем
= Ф(С„)-ф(й (Cn\Dt))>B-?q>(Cn\Di).
Из того, что Сп образуют невозрастающую последовательность,
вытекает, что 1-е слагаемое в последней сумме не превосходит
Q>(Ci\Di) = Q>tl.>. tt (At\Ki) < е/2*. Отсюда получаем Фф'п) >
>е-е/2— ... —e/2rt>0.
Раз Ф^ ... tn(Kn) = ФФп)> 0 при всех п, то компакты Кп
непусты, /
Задача 2. Пусть Ки Къ •.., К'п> ... —последовательность
непустых компактов в Rl, R2, ..., Rn, ,.., такая, что множества
D'n = {x.: (xt%y ..., xtn)G Kn} образуют невозрастающую последо-
вательность. Докажите, что пересечение П Dn непусто.
Решив эту задачу, получаем
П С„эП Dn=f\ Б'пФ0,
/j=sl д=1 Л=1
что находится в противоречии с предположенной нами пустотой
пересечения Сп. Это доказывает счетную аддитивность Ф.
Продолжая мзру Ф на а-алгебру $т, получаем искомое ве-
вероятностное пространство и случайную функцию.
Теорема доказана.
5. Мы сформулировали и доказали теорему Колмогорова
для случайных функций, принимающих значения в (Rl, J?1); од-
однако единственное, что мы использовали, — возможность найти
в любом множестве из Jfn компакт с мерой, сколь угодно близ-
близкой к1 мере этого множества. Это свойство выполняется для
произвольных мер на борелевских множествах в а-компактных
метрических пространствах (см. Халмош, 1953, §§ 51, 52).
Значит, теорема Колмогорова вместе с ее доказательством
остается справедливой для случайных функций со значениями

-92 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. 5
в (Х,<%), где X — а-компактное метрическое пространство,
<% = <%х — а-алгебра его борелевских подмножеств, т. е. а-ал-
гебра, порожденная открытыми подмножествами.
Что касается множества Г, то специально отметим, что оно
может быть совершенно любым.
6. Примеры применения теоремы Колмогорова.
а) 'Мы можем доказать существование последовательности
независимых случайных величин с данными распределениями
Фь Фг, ..., Фп, ...-—объекта изучения, привлекающего столь
большое внимание. Полагаем Ф/^2... in = ФA X Ф/2 X • • •
... ХФ/Л (if Ф h при / Ф k). Согласованность этих распределе-
распределений следует из того, что для конечного числа случайных вели*
чин все в порядке.
Более того, нам совершенно безразлично, счетно или нет
множество Г, на котором мы собираемся определить нашу слу-
случайную функцию; т. е. если для любого (gT задано распреде-
распределение Ф/, то существует случайная функция с независимыми
значениями, имеющая Ф* в качестве одномерных распределе-
распределений. (Плохие свойства такой случайной функции составляли
предмет задачи 4 § 2.1.)
б) Для любой действительной функции m(t) на Гц любой
действительной неотрицательно определенной функции K(t,s)
на Ту^Т (т. е. ?) cfikK(fy, h)^0 для любых tj&T и ком-
плексных су, это равносильно K(ty s) s= K(s,t) и выполнению
условия неотрицательной определенности для всех действитель-
действительных Cj) существует действительная гауссовская случайная
функция It с m(t) = Mh и K(t,s) в качестве корреляционной
функции.
Здесь в качестве Ф^ ... tn берем n-мерное нормальное рас-
распределение с вектором математических ожиданий (m(t\), ...
..., m(tn)) и матрицей ковариаций (K(tj,th)9 /, Л«= 1, ..., л);
для существования такого достаточно неотрицательной опреде-
определенности матрицы.
Согласованность распределений вытекает из того, что нор-
нормальное распределение однозначно определяется математиче-
математическим ожиданием и матрицей ковариаций, и того, что распре-
распределение любого подвектора нормального вектора снова нор-
нормально.
В частности, теперь мы можем установить существование
винеровского процесса. Действительно, гауссовский процесс
с нулевым математическим ожиданием и корреляционной функ-
функцией K(t,s)= tAs — винеровский процесс, так что достаточно
проверить неотрицательную определенность этой функции.
Можно не проверять этого непосредственно, а воспользоваться

$ 5.2] СВОЙСТВА С ВЕРОЯТНОСТЬЮ I 93
тем, что t As является корреляционной функцией пуассонов-
ского процесса (при а = 1).
Конечно, имеется еще тысяча путей доказательства того же:
например, можно прямо проверить согласованность выписанных
в § 1.2, п. 4 распределений или воспользоваться результатом
задачи 4* § 3.1 в применении к счетной последовательности не-
независимых нормальных @, 1) случайных величин.
Далее, возвращаясь к задаче 10 § 1.2, мы видимг что суще-
существует гауссовский процесс Z(t), 0 ^ t ^ 1, конечномерные рас-
распределения которого являются предельными для ^/nYn(t) при
п—> оо, — это процесс с нулевым математическим ожиданием и
корреляционной функцией K(t,s)— t As — ts.
в) 3 а д а ч а 3*. Докажите существование процесса Коши (определение
см. в § 1.2, п. 6).
7. Рассматривая распределения случайных функций, мы имели дело с
функциональным пространством RT (или Хт) только как с измеримым про-
пространством. Однако известно, что наиболее интересные результаты, касаю-
касающиеся функциональных лространств, относятся к случаю, когда в них рас-
рассматривается та или иная топология. Пусть Е — какое-нибудь пространство,
состоящее из функций на множестве Т (возможно, не всех функций), на кото-
котором задана структура топологического пространства; в Е определяется а-ал-
гебра борелевских множеств $Е ¦— наименьшая сг-алгебра, содержащая все
открытые множества. Если выборочные функции |*(со) при всех со принадле-
принадлежат Е, мы можем рассматривать распределение ?. в ^ — функцию Ф^(С)=*
«в Р {|. е С}, С е &Е. (Конечно, вопрос о существовании Р {|. е С} при
всех С е &Е в случае того или иного функционального пространства Е
нуждается в выяснении.)
Рассмотрение распределений в функциональных пространствах с тополо-
топологией интересно, в частности, потому, что оно позволяет ставить вопрос о схо-
сходимости распределений — о таком важном- для теории вероятностей виде схо-
сходимости, как слабая сходимость: ~\
+ Ф, если $ f (*.) Фп (dx.) -> $ f {x.) Ф (dx.)
Е Е
для любого ограниченного непрерывного .функционала f. Здесь наиболее важ-
важную роль играют результаты, позволяющие при каких-либо условиях выве-
вывести слабую сходимость бесконечномерных распределений из сходимости ко-
конечномерных. Общие результаты в этом направлении получены Ю. В. Прохо-
Прохоровым, А. В. Скороходом и Н. Н. Ченцовым (журнал «Теория вероятностей
и ее применения», 1 A956)); им посвящена гл. IX в книге Гихмана и
Скорохода, 1965. В частности, в этой главе разбирается пример, затро-
затронутый нами в п. 7 § 1.2.
В этой книге мы не будем заниматься этим кругом вопросов.
§ 5.2. Свойства с вероятностью 1
1. Займемся свойствами выборочных функций, выполненными
с вероятностью 1. Для каких множеств CczRT можно утвер-
утверждать, что Р{^.еС} = 1? Мы видели, что для многих
представляющих интерес множеств С эту вероятность нельзя

94 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. 5
найти, зная конечномерные распределения, потому что Сф$т и
Ф*. (С) не определено. (Это не означает, разумеется, что
Р {?. е С} не существует.) Как мы уже говорили в § 1.3, п. 2аг),
в случае несчетного Т лишь редко задача о свойствах с ве-
вероятностью 1 может быть решена в такой формулировке:
По данным конечномерным распределениям указать, равна
вероятность того, что выборочная функция принадлежит С, еди-
единице или нет.
Здесь естественные постановки задач — такие:
а) По данным конечномерным распределениям указать, су-
существует ли случайный процесс с такими распределениями, для
которого Р{^.еС} = 1.
б) По данным конечномерным распределениям процесса %t
указать, существует ли процесс \и стохастически эквивалентный
ему (т. е. Р {It ф It) = 1 для всех / е Т), такой, что
РA.еС}=1.
в) Пусть почти все выборочные функции процесса %t с дан-
данными конечномерными распределениями обладают некоторым
свойством: Р{^,еС} = 1. Указать, будут ли почти все выбо-
выборочные функции обладать некоторым более сильным свойством,
т. е. будет ли Р {?. е= D) = 1, где DczC.
Разумеется, эти постановки задачи связаны друг с другом.
Так, если б) решается положительно, то также и а), потому
что стохастически эквивалентные процессы имеют одни и те же
конечномерные распределения.
2. Относительно задачи в постановке а) можно сформулиро-
сформулировать следующую теорему.
Теорема 1. Для положительного ответа на вопрос а) не-
необходимо и достаточно, Фтобы внешняя мера рассматриваемого
множества С с RT, соответствующая мере Ф|.:
• Ф*. (С) = inf {ФгЛА): А=>С,А<= В3},
была равна единице. При этом всегда существует случайная
функция с данными конечномерными распределениями, у кото-
которой все реализации принадлежат С.
Что касается необходимости, то здесь нечего доказывать; до-
докажем достаточность.
Пусть Ф|. (С)=1. Возьмем в качестве пространства эле-
элементарных событий множество С, в качестве основной а-ал-
гебры @~ совокупность всех подмножеств С, представимых в
виде С П В, В^$т (проверить, что это — 0-алгебра!); случай-
случайный процесс определим так: lt(x.) = xt) x.&C. Остается опре-
определить вероятность Р. Если А е Ф0 представляется в виде
С Л В, Bg#, положим Р(Л) = Ф|.(?).

¦§ 5.2] СВОЙСТВА С ВЕРОЯТНОСТЬЮ 1 95
Нужно проверить корректность этого определения. Пусть
А = С П В{ = С П В2, Вь В2 е= JF. Тогда С П (Si А В2) (Л обозначает'
симметрическую разность множеств) — пустое множество, т. е.
C^RT\{B{kB2). Но тогда в силу сделанного предположения
Ф5.(/?Г\(В,ДВ2))=1, т.е. Фг. (BiAB2) = 0, откуда O*.(fli) =
После того, как корректность определения доказана, счет-:
ная аддитивность Р доказывается совсем просто; Р — вероят-
вероятностная мера, потому что Р (С) = Ф$. (/?г) = 1. Наконец, конеч-
конечномерные распределения построенного случайного процесса —
те, что были даны заранее, т. е. соответствующие распределе-
распределению Ф|.:
Р {,. е С: (lti (x.)t ..., ltn (x.)) еЛ} =
3. В силу доказанной теоремы задача о свойствах с вероят-
вероятностью 1 в постановке а) в принципе разрешима, потому что
распределение процесса полностью определяется конечномер-
конечномерными распределениями. Однако значительно больший интерес
лредставляют критерии, позволяющие установить существова-
существование процесса с заданными свойствами реализаций по конечно-
конечномерным распределениям не выше определенного порядка k.
В конкретных случаях очень часто бывает удобнее не рассмат-
рассматривать внешние меры, а решать задачу в постановке б).
Начнем с одной микротеоремы, чтобы показать, какого рода
здесь могут быть результаты и как они могут доказываться.
Микротеорема. Пусть &, tеГsR\ — случайный про-
процесс, для которого Р {6« ^ &} = 1 при s ^.t. Тогда существует
•стохастически эквивалентный ему процесс |*, почти все траек-
траектории которого — монотонно неубывающие функции.
Доказательство. Прежде всего, в каждой точке t^T,
предельной для Г слева (справа), существует lim (P)?, (НпГ(Р)|,).
s+t >t +
Действительно, если tx>t2> .. • > tn > ..., tn(~T, tn\t, то
последовательность \t сходится с вероятностью 1, так как она
почти наверное монотонно убывает и ограничена снизу |*.
Обозначим предел этой последовательности ?*+• Для достаточно
близких к t справа точек 5
где п может быть сделано сколь угодно большим, и, значит,
эта вероятность стремится к 1 при всяком положительном е.

96 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. Б
Задача 1. Для всех точек <еГ, за исключением, быть мо-
может, счетного множества, Р {?*— = S< = 6#+} = 1, т. е. скачков
не более чем счетное число. Доказать.
Далее, рассмотрим счетное множество Го е Г, всюду плот-
плотное в Г и, кроме того, содержащее все точки, где g* не является
стохастически непрерывным. Так как множество То счетно, то
Р {Is < It Для всех s < t, 5, t €= Го} = 1.
Теперь, чтобы получить процесс %и продолжим почти все траек-
траектории It по непрерывности с Го на Г \ Го. А именно, для точек
/ е Г \ Го, являющихся предельными справа для Го: tn [tytn^ Го,
положим |, = lim %t , причем, если конечный предел не су-
ществует, положим |* = 0; если же t не является точкой, пре-
предельной справа для Го, то она будет предельной слева (изоли-
(изолированные точки включаются в Го— иначе Го не будет всюду
.плотно в Г), и применяется аналогичная конструкция с tn\t.
Для t e Го полагаем |* = St. Легко понять, что с вероятностью 1
траектории процесса |* не убывают по t.
Остается доказать, что Р {\t = ? J = 1 для любого t ^ Г.
Для / е Го это выполнено тривиальным образом. Пусть t ф Го;
рассмотрим ту самую последовательность tn-*t, которая ис-
использовалась при определении |1?. С вероятностью 1 |*= lim \ =
= 6/J или ^_, а эти величины с вероятностью 1 равны \t.
4. Внимательный читатель, может быть, заметил в приве-
приведенном доказательстве некоторые логические проблемы. Мы
пользовались таким приемом: если вероятность какого-то со-
события равна 1, то и вероятность любого его следствия также
равна 1 (Р(Л)=1, А ^Б=#Р(В)= 1). Это, конечно, верно, но
только в том случае, если это следствие также является собы-
событием (принадлежит основной сг-алгебре).
Вообще говоря, это может быть не так. Например, для
(Q, $Г', Р) = ([0, 1], ^[o,i], mes) в качестве множества А можно
взять дополнение канторовского множества; Р(Л)=1, но су-
существуют не борелевские множества 5, A cz В с: [0,1].
Примененный нами прием законен для случая, когда основ-
основная а-алгебра полна относительно меры Р.
Напомним это понятие.
Пусть (X, зФ, \i) — пространство с мерой; а-алгебра s4> называется пол-
полной относительно меры |и, если все подмножества множеств ц-меры 0 ^-из-
^-измеримы: из ^Gi/, В ?i Л, ц (А) = 0 вытекает Bg^ (и, стало быть,
(ЯH)
Если а-алгебра .я^не полна, можно определить ее пополнение зФ относи-
относительно меры \i. В бФ включаются все множества В, заключенные между

§ 5.2] СВОЙСТВА С ВЕРОЯТНОСТЬЮ 1 97
двумя ^-измеримыми множествами равной меры: В е sft если существуют Аи
A2&S&, А1 s В s А2, ц (А2 \Ai)в 0; & оказывается а-алгеброй. Мера \х
однозначно продолжается на зФ; чтобы получить это продолжение, достаточно
положить [I (В) = ц (Ах)« \х (А2).
Разумеется, операция пополнения основной а-алгебры относительно ве-
вероятностной меры не наносит ущерба возможным практическим применениям.
В дальнейшем при рассмотрении задач о свойствах с ве-
вероятностью 1 в постановках б), в) цъ\ будем все время пред-
предполагать, что основная а-алгебра У полна относительно меры Р.
Впрочем, в доказанной нами микротеореме это, в конечном
счете, не нужно: в приведенном доказательстве каждый раз при
применении приема Р(Л)=1, Л^В=ФР(В)=1 множество В
оказывается измеримым (в первый раз А = {?, монотонно убы-
убывает и ограничено снизу ?*}, В = {существует конечный
lim L }; во второй А = {?* монотонно на Го}, В = {продолже-
ние It функции ^ с То на Т монотонно} = А).
5. Проследим структуру доказательства микротеоремы п. 3;
она будет такой же для многих других доказательств.
Выбирается счетное множество Го, всюду плотное в Т. Это
множество выбирается не совсем произвольным образом — в ча-
частности, выбор Го осуществляется так, чтобы процесс был сто-
стохастически непрерывен в точках Т \ То. Затем проверяем, что
процесс Ъ на Го с вероятностью 1 обладает свойством, обеспе-.
чивающим возможность такого его продолжения на Г, для ко-
которого выполняется данное свойство С. Далее выбираем опе-
операцию (обычно предельную операцию), которая осуществляет
такое продолжение (в случае микротеоремы п. 3 для точек
t е Т \ Го, предельных для Го справа, — предел по последо-
последовательности tn \ t\ для остальных — предел по последователь-
последовательности tn f t) ¦ При этом нужно позаботиться о том, чтобы эта
операция приводила к определенному результату не только
с вероятностью 1 в применении к выборочной функции !*, но
и всегда, — иначе случайные величины \и которые мы хотим
определить, окажутся заданными не на всем пространстве Q,
а только на почти всем (в случае нашей микротеоремы, если
конечный предел не существовал, мы брали вместо него 0).
Обозначаем результат применения этой операции |* (/еГ\Г0);
доказываем ^"-измеримость %t. Для Ге Го полагаем |* = ?*.
Итак, процесс, почти все траектории которого обладают свой-
свойством С, уже получен; остается доказать, что он стохастически
эквивалентен первоначальному: Р {% = gJ = 1 для любого
feT, Для t е Го доказывать нечего; для t &Т\Т0 исполь-
используется стохастическая непрерывность процесса & и совпадение
(почти наверное) пределов по вероятности и с вероятностью U*
4 А. Д4 Вентцель

«98 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. 5
6. Теорема 2 (теорема Колмогорова). Пусть %t, t&[a,6],—
случайный процесс на вероятностном пространстве € полной от-
относительно вероятностной меры основной о-алгеброй. Пусть су-
существуют положительные константы С, г и р такие, что для всех
.я, t e [a, b]
M|g,-E,P<C|*-s|!+e. A)
Тогда существует стохастически эквивалентный данному процесс
fz, почти все траектории которого непрерывны по t.
Доказательство. Прежде всего, из A) вытекает сто-
стохастическая непрерывность \t. Рассмотрим на отрезке [а, Ь] под-
подмножество Го, состоящее из точек вида k/2n, k и п — целые,
п ^ 0. Применяя к A) чебышёвское неравенство, мы можем
написать
Выбирая <7==2~е/2Р< 1, получаем
г = 2-е/2<1.
Из B) вытекает, что при любом п
max
< (b - aJn • С • 2~n. rrt = F - а) С • Л (З)
Ряд из этих вероятностей сходится, поэтому, согласно лемме
Бореля — Кантелли, с вероятностью 1, начиная с я = /го(о)),
все \\\A<n
Докажем, что для таких со, для которых это так, функция
|г (со) равномерно непрерывна на Го. Сейчас мы докажем, что
если 5 и t — произвольные двоично-рациональные числа,
\s — ?| < l/2n, s <; t, со знаменателями, не превосходящими 2т
(т ^ п ^ по), то
lb-LI<2 Ё fle. . D)
Докажем это по индукции. При т = п, раз |s —1\ < 1/2п, то s
и f совпадают, так что обе части в неравенстве D) обращаются

§ 5.2] СВОЙСТВА С ВЕРОЯТНОСТЬЮ 1 99
в нуль. Предположим, что для значений т, меньших т0, D)
доказано; докажем эту формулу для т0. Обозначим через s'
ближайшее справа к s двоично-рациональное число со знамена-
знаменателем, меньшим 2m° (s' = 5, если знаменатель 5 после сокра-
сокращения меньше, чем 2т\ и s =s + 1 /2m°, если он равен 2т°).
Аналогично определим /' — ближайшее к t слева двоично-рацио-
двоично-рациональное ч-исло со знаменателем, меньшим 2т\ Имеем s' <^ ?,
\s' — f|^|5 — /|<1/2п; пользуясь неравенством D) с т =
= т0 — 1 для s' и V и неравенствами |\v — %t\, \ls, — ls\ < qm\
получаем D) для s n t.
Теперь для двоично-рациональных s ф /, | / — 51 < 1/2"°, выбе-
выберем п^п0 такое, что l/2n+1 <!| / — 5 |< 1/2"; или иначе: п <
< — log2U — s|^«+l* Из D) получаем
Ег 9nn+
где показатель Гёльдера а== — log2q>0.
Это означает, что функция ?*(<*>) равномерно непрерывна на
Го, а значит, ее можно продолжить по непрерывности с двоич-
двоично-рациональных значений аргумента на все t e [a, b] (суще-
(существование конечного предела во всех иррациональных точках
проверяется с помощью критерия Коши).
Положим теперь ft = & для t еГ0, а для остальных te[a, b]
определим |* как предел |s, когда 5 стремится к t9 пробегая
двоично-рациональные значения, если этот предел существует,
и как 0, если он не существует. Нетрудно проверить, что опре-
определенное таким образом |t будет измеримо относительно нашей
основной 0-алгебры. С вероятностью 1 для всех t e {a, b] одно-
одновременно осуществляется первая возможность — существование
предела, и выборочная функция непрерывна по t.
Остается доказать, что Р{1* = Ы = 1« Для двоично-рацио-
двоично-рациональных t это верно по определению; для остальных почти на-
наверное
так как процесс стохастически непрерывен.
Теорема доказана.
7. Замечание 1. Если |/ — случайный процесс, определен-
определенный на неограниченном промежутке времени, то для существо-
существования эквивалентного ему процесса с непрерывными траекто-
траекториями достаточно, чтобы A) было выполнено для }/ — s|=^ft,,
4*

100 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. 5
где h — положительная константа. Действительно, неограничен-
неограниченный промежуток можно разбить на счетное число отрезков
длины <ft и на каждом из них определять |* отдельно; при
этом вероятность того, что выборочная функция ft будет всюду
непрерывна, равна вероятности пересечения счетного числа со-
событий вероятности единица, а значит, и сама равна 1.
В частности,
а) любой стационарный в широком смысле процесс имеет
модификацию с непрерывными траекториями, если только он
дифференцируем в среднем квадратическом; здесь в качестве р
можно взять 2:
если процесс дважды дифференцируем в среднем квадратиче-
сйом, то его траектории можно считать один раз непрерывно
дифференцируемыми и т. д.;
б) существует винеровский процесс с непрерывными траек-
траекториями, потому что для винеровского процесса wt
Замечание 2. Из условия A) вытекает существование
процесса \t не просто с непрерывными на отрезке [а, Ь] траекто-
траекториями, а с траекториями, удовлетворяющими условию Гельдера
|1* —Isl^tU — s\ay a > 0. Константа К здесь случайна (или
можно взять неслучайную константу, но тогда неравенство бу-
будет выполняться только при \t — s|^/i, где h > 0 случайно).
Предлагается необязательная задача.
Задача 2*. Для винеровского процесса Wt, 0 ^ t ^ 1, установите, при
каких а К = sup(\wf— ws\/ \t — s|<*) конечно с вероятностью 1.
Замечание 3. Доказанная теорема обобщается на слу-
случайные поля в /?w; в этом случае вместо A) нужно требовать,
чтобы момент приращения не превосходил C\t — s|m+8, потому
что число пар соседних двоично-рациональных точек со знаме-
знаменателями 2П, а значит и слагаемых в C), будет порядка Bп)т,
Задача 3. Докажите, что существует гауссовский процесс Z(t)t 0^
^ t ^ 1, с нулевым математическим ожиданием и корреляционной функцией
K(tys) =*As — ts, почти все реализации которого непрерывны.
8. В некоторых случаях задачу о том, существует ли про-
процесс с заданными конечномерными распределениями, почти все
реализации которого обладают свойством D, удобно разбить
на две: первую — о том, существует ли процесс с данными рас-
распределениями, почти все реализации которого обладают свой-
свойством С, и вторую — задачу в постановке в) п. 1. (Это выгодно,
если полученные задачи оказываются проще первоначальной.)

5.2]
СВОЙСТВА С ВЕРОЯТНОСТЬЮ 1
101
Скажем несколько слов о решении задачи о свойствах с ве-
вероятностью 1 в постановке в).
Она может решаться для Си!)е1г из-за того, что D пред-
представляется в виде D=C Л В, В е ,$т, Ф$. (В) = 1. В этом случае
; D (если сг-алгебра 2Г полна отро-
То же будет в случае С (] В
сительно Р).
9. Сепарабельность. Свойству сепарабельности уделяется большое внима-
внимание во многих книгах по теории случайных процессов; его можно рассматри-
рассматривать как очень слабое требование регулярности реализаций — настолько сла-
слабое, что у каждого процесса существует сепарабельная модификация; и мож-
можно доказывать результаты такого рода: если процесс сепарабелен, а его ко-
конечномерные распределения удовлетворяют таким-то требованиям, то почти
Рис. 13.,
все выборочные функции обладают такими-то свойствами (результаты в по-
постановке в), п. 1).
Случайный процесс g*, ^еГ, называется сепарабельным, если в Г суще-
существует счетное подмножество Го такое, что с вероятностью 1 для всех
t е Г \ Го %t (©) принадлежит множеству частичных пределов ?в(со) при
s-+t, ser0. Иначе говоря, почти все реализации должны обладать следую-
следующим свойством: график ^(°>)» * <= Г, содержится в замыкании графика ?s(w),
s е Го (этим свойством обладают, например, функции на рис. 13 слева и в се-
середине, но не функция на том же рисунке справа).
Теорема 3. Пусть ?<, ^gT, — стохастически непрерывный случайный
процесс на вероятностном пространстве (Q, 9~У Р), причем а-алгебра 9*
полна относительно вероятности Р. Тогда существует стохастически эквива-
эквивалентный ему сепарабельный процесс ft, t e Г, принимающий значения в рас-
расширенной числовой прямой [—оо, оо]; при этом в качестве множества сепара-
сепарабельности Го может быть выбрано любое всюду плотное в Г счетное подмно-
подмножество.
Доказательство. Разумеется, для /еГ0 мы оставляем |< как есть:
ft = ?«. Для t е Г \ Го мы оставляем %t = %t, если |« попадает в множество
частичных пределов |, при_?_-*-^,ss Го; если же ?* не попадает в это мно-
множество, то полагаем |*= lim %s. При этом нужно доказать три вещи. Во-
s+t
9
первых, что таким образом получится случайный процесс; для этого доста-
достаточно доказать измеримость множества At = {?< ф множеству частичных пре-
пределов \% при s ->¦ ty 5 е Го} и измеримость функции lim %St которая ясна,
s+t
так как эта функция равна inf sup
m I s—t | < \im
T

102 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. 5
Задача 4. Докажите, что
а, Р рац.
П U
m=l | s—* |<l/m
Во-вторых, нужно проверить, что полученный процесс сепарабелен; но это
ясно. В-третьих, — что он стохастически эквивалентен первоначальному; для
этого достаточно доказать, что Р(Л*) = 0. Но это вытекает из того, что
It при $->¦*, s е Го, а значит, существует последовательность ^п -> ?,
Го, такая, что |^ = lim %t почти наверное.
Замечание 1. Если рассматривать только процессы, принимающие
числовые значения (без ±о°), то утверждение теоремы неверно, и по понят-
понятным причинам (постройте пример!).
Замечание 2. Разумеется, в качестве Т можно взять любое сепара-
бельное метрическое пространство, а не только часть R1; в качестве простран-
пространства X, в котором лежат значения g*, — компакт (вместо интервалов с рацио-
рациональными концами нужно тогда брать счетную базу открытых множеств).
Замечание 3. Если процесс не стохастически непрерывен, то, оказы-
оказывается, у него тоже есть сепарабельная модификация, только множество се-
сепарабельности Го нельзя выбирать произвольным всюду плотным в Т под-
подмножеством (см. Дуб, 1956, гл. II, § 2, теорема 2.4).
Теорему Колмогорова и микротеорему п. 3 можно переформулировать
следующим образом: если процесс g* сепарабелен и если выполнено условие A)
(или Р {gs ^ g*} = 1 при s ^ t и т. п.), то почти все реализации процесса
непрерывны (монотонны, ...).
Однако польза от рассмотрения свойства сепарабельности не так уж зна-
значительна, потому что, разбивая задачу о свойствах с вероятностью 1 на две,
мы получаем одну задачу слишком легкой, а другую — слишком ненамного
более легкой, чем первоначальная.
§ 5.3. Абсолютная непрерывность бесконечномерных
распределений и плотности
Распределения случайных функций — меры на (XT,<ffiT)y и,
естественно, имеет смысл говорить об абсолютной непрерывности
одного распределения относительно другого, сингулярности и т. п.
Помимо теоретической важности, все эти понятия также очень
важны для задач математической статистики, связанных со слу-
случайными процессами. В этом параграфе материал дается в ос-
основном в виде задач — и типа упражнений, и типа микротеорем.
В задачах общего характера всюду приняты следующие обо-
обозначения: Ф — распределение случайной функции |*, /gT, на
вероятностном пространстве (Q, У, Р); Ф' — распределение слу-
случайной функции т|*, /еГ, на (Q', ^F7, P') (случайные функции %t
и r\t принимают значения в одном и том же измеримом про-
пространстве); Ф^ ... tn и Ф? ...-*— соответствующие конечномерные
распределения.
1. Задача 1. Докажите, что распределения следующих процессов на
Т = [0, 1] сингулярны друг относительно друга: винеровского процесса wtf
процесса It = wt + 1 и r\t = 2wt.

§ 5.3] АБСОЛЮТНАЯ НЕПРЕРЫВНОСТЬ И ПЛОТНОСТЬ ЮЗ
Ук азание. Чтобы доказать сингулярность, скажем, Ф^# и Ф^, доста-
достаточно придумать ^-измеримый функционал f такой, что f(?.) принимает
с вероятностью I какое-нибудь одно значение a, a f(T].)~~c вероятностью I
значение Ь Ф а. Тогда для множества Са =* {*.: f (х.) = а} будет Ф^ (Са) = !,
ф<п. (са) в °> а Для его Дополнения Ф^# (#г \ Са) =* О, Ф^ (/?г \ Са) = 1.
Если распределение Ф' абсолютно непрерывно относительно Ф,
то существует плотность h(x.) = <?>f{dx.)IG)(dx.)y измеримая отно-
относительно ЗР\ для любого С €ё $т
^). A)
В силу известных свойств интеграла Лебега при этом для лю-
любой ^-измеримой функции /
f (х.) Ф' (dx.) = 5 f (x.) h {x.) Ф (dx.)t B)
причем если один из этих интегралов расходится, то и другой
тоже. Пользуясь формулой A) § 1, формулы A) и B) можно
Переписать в виде
C}jt, C)
, D)
где я = АF»), М7 — математическое ожидание, соответствующее
вероятностной мере Р'. Легко видеть, что п — неотрицательная
случайная величина, измеримая относительно ,f^^r, с Мя= 1.
Задача 2. Чтобы неотрицательная ^-измеримая функ-
функция h(x.) была плотностью распределения случайной функ-
функции r\u /sf, на пространстве (?У, ?"', Рг) относительно распре-
распределения случайной функции %iy t еГ, на (Q, #~, Р), необходимо
и достаточно, чтобы
J я(©)Р(dm)
для любых /1э ..., /nsr, Aef1, где зх(со) = Л(|.(оо)).
Задача 3. Для того чтобы распределение Ф' было абсо-
абсолютно непрерывно относительно Ф, достаточно, чтобы для лю-
любого е > 0 существовало б > 0 такое, что для любых tu ..., tn e Г,
Ле# из Ф*2 ... tn(A)<6 следует Ф^ ... ^(Л)<е.
Задача 4. Для того чтобы распределения Ф и Ф' были
сингулярны, достаточно, чтобы для любого е > 0 существовали
th ..., tn^T, A^Bn такие, что
-в, Ф^ ... tlk(Xn\A)> I -e.

104 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. Б
Задача 5. Пусть Wt — винеровский процесс, выходящий из нуля; %t =
= Wt + bit Докажите, что распределение процесса ?*, 0 ^ t ^ 1, абсолютно
непрерывно относительно распределения w^ 0 ^ t ^ 1, с плотностью
Фг (dX.)
Задача б*. Докажите, что условия абсолютной непрерывности и син-
сингулярности задач 3, 4 не только достаточны, но и необходимы.
Если при каких-то tu ..., tn распределение Ф^ ... ^ не
абсолютно непрерывно относительно Ф^ ... /ft, то ясно, что бес-
бесконечномерное распределение Ф' не абсолютно непрерывно от-
относительно Ф; если же все конечномерные распределения
<DJ ... tn абсолютно непрерывны относительно Ф^ ... tn, то рас-
распределение Ф' может быть и абсолютно непрерывно относи-
относительно Ф, и нет, и даже сингулярно. Случай, когда для всех
конечномерных распределений имеет место абсолютная непре-
непрерывность, самый интересный., Введем в этом случае обозначение
Задача 7. Если при некотором 0 < а < 1 для любого е > 0
существуют /,, ..., tn^T такие, что
то распределения Ф и Ф' сингулярны по отношению друг
к другу.
Задача 8. Пусть ?/, 0</< 1, — процесс Коши (см. § f.2, п. 6),
t|j=sgj + ?/, 0^/^1. Докажите, что при с Ф 0 распределения Ф^ и Ф^
сингулярны друг относительно друга.
Подставим в функцию htx... tn(x\, .. •, хп) значения xtx, ..., xtn
произвольной функции х. е Хт. Легко видеть, что при переста-
перестановке t\f ..., tn функция htx ... tn(xtly ..., xtn) меняется только
на множестве Ф-меры 0, и можно так выбрать варианты плот-
плотности E), чтобы htx ... tn(xtv ..., xtn) зависело только от х. и
от множества S = {tu ..., tn}^T. Обозначим эту функцию hs:
Это — плотность распределения Ф' относительно Ф, но не на
всей а-алгебре Jfr, а только на ее под-0-алгебре $S (Х7), поро-
порожденной функционалами xt%, ..., Xtn (т. е. состоящей из мно-
множеств вида {*.: (xtl, ..., ^J e Л}, Ле#), (Докажите)!

5.3] АБСОЛЮТНАЯ НЕПРЕРЫВНОСТЬ И ПЛОТНОСТЬ Ю5
Интеграл в формуле F) записывается через /г3(х.}как
п \ [hs(x.)]a<S>(dx.).
т
Условие задачи 7 можно переписать также, пользуясь инте-
интегралами по Q вместо интегралов по Хт. Введем для каждого
конечного S — {tiy ..., tn}sf случайную величину
*s = hs(l.) = htl...tn(bi, ••-, 60-
Интеграл в формуле F) — не что иное, как Мя".
2. Теперь займемся вопросом о том, как плотность h(x.)
бесконечномерных распределений находить по плотностям ко-
конечномерных— по htx ... tn{xu . • •> хп) или hb{x.)\ или, что то же,
как находить я = h (?•) по введенным выше случайным величи-
величинам Яя.
Может оказаться, что, когда берутся конечные множества
5, все более плотно заполняющие Г, п8 сходится к какой-то
случайной величине я* (скажем, сходится по вероятности). Вве-
Введем соответствующие определения.
Пусть a (S) — числовая функция от конечных подмножеств 5
множества Т. По определению числа а — предел a(S) при не-
неограниченно возрастающем 5 (обозначения: a(S)-+a при Sf,
или lim a (S) = а), если для любого г > 0 существует конечное
s *
множество SqST такое, что \a(S) — а|<Се для всех S, 50S
s= 5 с= Г. В соответствии с этим определяется сходимость по ве-
вероятности: если ?(S) — случайная функция, определенная на ко-
конечных подмножествах Г, то | = lim(P) |(S), если limP{|?(S) —
Si S ^
— 11 ^ 8} == 0 Для любого e > 0.
Итак, предположим, что существует случайная величина
я* = Нт(Р)я5.
s*
Может показаться, что если такой предел существует, то
распределение Ф7 абсолютно непрерывно относительно Ф и я*
совпадает (почти наверное) со случайной величиной я, полу-
получаемой подстановкой выборочной функции g. в бесконечномер-
бесконечномерную плотность. Однако это не обязательно так, хотя бы по-
потому, что Мя* может быть не равно 1. -*
Задача 9. Докажите, что М я* <: 1.
Задача 10! Если распределение Ф7 абсолютно непрерывно
относительно Ф, то Мя*= 1. Докажите.

106 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. 5
Задача 11. Докажите: если Мя* = 1, то распределение Ф'
абсолютно непрерывно относительно Ф и я* = я = АF») (почти
ч , , ч Ф' (dx.)
наверное), где h (х.) = ф *dxj .
Задача 12*. Распределения Ф и Ф' сингулярны друг относительно
друга тогда и только тогда, когда Мя* = 0 (иначе говоря, когда я* = 0 по-
почти наверное).
В § 7.3 мы докажем, что предел случайных величин rtg, связанных с плот-
плотностями Ф' относительно Ф на а-алгебрах ^S(XT), существует почти навер-
наверное для любой неубывающей последовательности конечных множеств Sn ^ Т.
Однако при решении конкретных задач нам не нужно ссылаться на этот об-
общий факт, потому что существование предела Us нами так или иначе все
равно будет устанавливаться.
Задача 13. Пусть wtt t e [0, 1], — винеровский процесс, r\t =wt — ctwi
(с — константа). При каких с имеет место абсолютная непрерывность Ф^
относительно Фда# и как выражается плотность?
В приведенных до сих пор задачах мы сталкивались только
с крайними ситуациями: либо оба распределения были абсо-
абсолютно непрерывны друг относительно друга, либо сингулярны.
Это совершенно не обязательно.
Задача 14. Пусть gt, t е [0,1], — пуассоновский процесс с параметром
а > 0; r\t ess 0, t e [0,1]. Будут ли распределения Ф^#, Ф^# абсолютно непре-
непрерывны друг относительно друга? Найдите плотность распределения Ф^# отно-
относительно Ф|#.
Следующая задача очень важна, в частности, для теории
диффузионных процессов. Это целая большая теорема.
Задача 15. Пусть wt — винеровский процесс на отрезке
от 0 до Г (^ оо), It = wt + %. Для того чтобы распределение
Ф|. Было абсолютно непрерывно относительно Фш., необходимо
и достаточно, чтобы функция ср* была абсолютно непрерывной,
ф0 = 0 (т. е. <p*=\<p.sds, где точка означает дифференцирова-
о
г
ние по времени) и чтобы \ $dt < со. При этом плотность Ф*
о
относительно Ow задается формулой
т т
d
Указание. Нужно доказать сначала, что Мя=1.
Так как я > 0, то абсолютная непрерывность взаимна. Легко
доказать, что если ср* не является абсолютно непрерывной функ-
функцией с интегрируемой в квадрате производной или Фо^'О, то
распределения Ф^. и Ф^,. сингулярны.

$ 5.3] АБСОЛЮТНАЯ НЕПРЕРЫВНОСТЬ И ПЛОТНОСТЬ 107
Результат задачи 15 непосредственно и самым естественным
образом обобщается на r-мерный винеровский процесс:
3. Небольшой кусочек теории не в виде задач.
Пусть распределение Ф' случайной функции т)^ t еГ, абсолютно непре-
непрерывно относительно Ф — распределения g^, t еГ, причем плотность нам
известна. Пусть нам известно Ф^ — распределение случайной величины ?,
получаемой применением к \f некоторого $ -измеримого функционала
f: g = f(g.). Что можно сказать тогда о распределении Фх случайной вели-
величины T = f (rj.), определенной по случайной функции щ так же, как ? по lt?
Оказывается, распределение Фт будет абсолютно непрерывно относи-
относительно Ф^; действительно, из Ф^ (Л)=0, Л е #*, вытекает Ф {*.: f (x.)^A}=0,
откуда Ф'{#.: /(*.)еЛ}=0, т. е. Фг(Л) = 0. Как выражается х ^ Х' ?
Обозначим эту плотность, которая по теореме Радона — Никодима суще-
существует, через g(x). Имеем Р' (т g Л) = \ g(x) Ф^ (dx), или по-другому:
G)
Л}
С другой стороны, в силу C)
{1} 5 (8)
Так как в G) функция #(?) измерима относительно а-алгебры, порожденной
случайной величиной С, а интегрирование ведется по произвольному множе-
множеству из этой сг-алгебры, то формулы G), (8) означают, что g(l) являются
одним из вариантов условного математического ожидания М (я|С), или, в
другой форме записи:
в(*)-М{я|С-*}. (9)
Разумеется, эта плотность определяется однозначно лишь с точностью до мно-
множеств Ф^-меры нуль. Чтобы найти ее, достаточно знать совместное распреде-
распределение случайных величин я и С.
Предложим несколько необязательных задач.
Задача 16*. Пусть g^, t е Г, —- случайная функция на вероятностном
пространстве (Q, #", Р), п — произвольная неотрицательная случайная вели-
величина на этом пространстве, Мзт=1. Положим Р' (В) = М%вя, 5ef. Дока-
Докажите, что распределение Ф' случайной функции %t на вероятностном про-
пространстве (Й, ^*, Р') абсолютно непрерывно относительно Ф — распределения
случайной функции %t на пространстве (Qy !Ff P).
Известно (см. Ито и Маккин, 1968, задача 1.7.1), что совместное рас-
распределение максимума винеровского процесса wt с непрерывными траекто-
траекториями на отрезке [О, Т] и его значения в конце этого отрезка задаются плот-
плотностью, которую мы сейчас выпишем. Считаем w0 = 0, положим

108 БЕСКОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ [ГЛ. 5-
max
Pw i ti
T
. Тогда
)==/B/яГ3I/2
\
B6
0,
если
[J/2T, 0 :
b
<
0
или
b
b
>
<
a;
a
Пользуясь этим и результатами задач 2, 13, в которых устанавливается, что-
плотность распределения соответствующих процессов относительно распреде-
распределения винеровского процесса зависит только от значения траектории в послед-
последний момент времени, а также формулой (9), решите следующие задачи.
Задача 17* Найдите распределение случайной величины
max (wt + bt),
где wt — винеровский процесс с непрерывными траекториями, a b — константа»
Предельным переходом получите распределение max (w+ + bt).
0<*<ооЧ г 1
Задача 18*. Найдите распределение случайной величины
max
где с — константа, не равная 1, Предельным переходом найдите также это
распределение при с = 1.

Глава 6
Марковские моменты, прогрессивно измеримые
случайные функции
Эта глава не разбивается на параграфы.
1. Пусть дано неубывающее семейство а-алгебр '&*t в про-
пространстве элементарных событий, t бГ ^ R1: &rst=,9mt при
s ^.t. Все эти а-алгебры мы будем предполагать под-сг-алгеб-
рами основной а-алгебры ИГ.
С примерами таких семейств а-алгебр мы уже знакомы: та-
таковы, например, а-алгебры ^~<*, определенные по какому-ни-
какому-нибудь случайному процессу (см. § 3.1), или — в случае непре-
непрерывного времени — i?~<*+.
Дадим определение марковского момента.
Пусть т(ю) — случайная величина, принимающая значения
из Т или значение +°°- Мы говорим, что т — марковский мо-
момент (относительно данного семейства а-алгебр), если для лю-
любого /еГ событие
Рассмотрим пример — самый простой, когда и время дискретно: Г —
= {О, 1, 2, ...}, и а-алгебры ST^ &~ъ ИГь ... — это просто конечные алгебры,,
каждая из которых порождается каким-то конечным разбиением простран-
пространства Q (требование !F0 е &"\ е fF2 — • • • сводится в этом случае к тому,
чтобы каждое следующее разбиение было мельче предыдущего). Пусть %Ог
lh 5г> •.. — симметричное случайное блуждание на целочисленных точках
прямой, начинающееся из нуля. Его можно представлять себе так: произво-
производится ряд бросаний монеты и ?/1 = ?я-1 + 1» если в ПгМ бросании выпадает
герб, bn — in—i — Ь если решка (?0==0). В качестве 0-алгебр 2Гп возьмем
а-алгебры ^^^^а {J^, k^nj. Здесь алгебра ^0 порождается целым/ раз-
разбиением пространства элементарных событий, т. е. в #~0 войдут два множе-
множества: 0 и Q; &~х — разбиением Q = {gj = — 1} U {gj = 1}; ^2 — разбиением
Q — {Ei — — 1. Б» — — 2} U {gi — — 1, g> — 0} U {?i — 1. Б2 — 0} и {6i — 1. Б2 — 2}.
и т. д.
Рассмотрим случайный момент т первого достижения нашим блужда-
блужданием точек ± 2 (если случайное блуждание не достигает их никогда, пола-
полагаем т = оо):
min{/: |gj|=2}, если'такие / есть;
+ оо в противном случае.
Это — марковский момент, потому что событие {т ^ п} при каждом п скла-
складывается из элементов разбиения, порождающего fFn. Конечно, {т
' -" - далее, {т<2} - {|,--1, |, == - 2} U {I, = 1,

по
МАРКОВСКИЕ МОМЕНТЫ
[ГЛ. 6
(рис. 14), {т^З} = {т^2}; {т^4} состоит из элементов разбиения, входя-
входящих в {т<2}, и еще четырех: {^ = — 1, |2 = 0, ?3 == — Ь 64 =» — 2} U
U {gi = — 1, g2 = o, 6,-1, Б4 —2}U{6i —l, §2 = 0, g3 — — Ь Б4 — — 2} и
U {g, == 1, g2=0, Бз— 1. 14 = 2} (рис. 15), и т. д.
Рассмотрим еще один пример, связанный с тем же семейством а-алгебр
#"п. Пусть
{max {/: 1 < i < 4, | g^ | = 2}, если такие /
0
есть;
в противном случае.
Это — последний момент достижения точек ±2 от начала блуждения до мо-
момента 4, если к этому моменту какая-нибудь из точек ±2 была достигнута
(мы не берем в качестве примера по-
следний момент среди всех натураль-
натуральных i, |?г|= 2, потому что, оказывается,
с вероятностью 1 число достижений то-
точек ±2 бесконечно и последнего момен-
та нет). Случайный момент о* — не мар-
марковский. Действительно, например, со-
событие {сг ^ 2}, как легко проверить,
осуществляется тогда и только тогда,
когда \^\ Ф 2; оно не содержит цели-
целиком ни одного из событий, порождающих алгебру ^"г, и не принадлежит этой
алгебре.
Из рассмотренных примеров уже видно, в чем суть понятия
марковского момента. Будем интерпретировать а-алгебру grt
Рис. 14.
-2
-2-
-2
Рис. 15.
как совокупность всех событий, о наступлении или ненаступле-
ненаступлении которых нам становится известно к моменту t. Тогда, если
при каком-то о) марковский момент принял значение ty то к мо-
моменту / нам это уже известно. Такова приведенная в качестве
примера случайная величина т. Случайная величина о не обла-
обладает этим свойством; скажем, в случае |i = 1, ?2 = 2, g3 = U
g4 = 0 (герб — герб — решка — решка) а = 2, но узнаем мы об
этом лишь к моменту t = 4 (потому что еще в момент t = 3
мы можем ожидать, что выпадет последовательность герб —
герб — решка — герб).
Коротко говоря, марковский момент — это такой случайный
момент, о наступлении которого можно узнать, не зная того,
что будет после этого момента.
С этим связан другой термин для марковского момента, от-
отчасти более выразительный, — случайная величина, не завися-
зависящая от будущего, принятый в книге Дынкина, 1959. Однако

ГЛ., 6] МАРКОВСКИЕ МОМЕНТЫ 11 f
этот термин очень длинный, к тому же одна из основных обла-
областей применения этого понятия — теория марковских процес-
процессов, где оно связано с очень важным строго марковским свой-
свойством, так что в настоящее время употребляется более короткий
термин.
Отметим особо, что понятие марковского момента никак не
связано с вероятностью Р на пространстве элементарных со-
событий, а только с самим этим пространством и заданными на
нем а-алгебрами.
2. Дальнейшие примеры и свойства марковских моментов. Прежде всего,
любой неслучайный момент т(со) = ?(еГ)—это марковский момент (и
также т(со) ss +oo). Рассмотрим несколько классов более интересных при-
примеров.
Все доказательства, связанные с марковскими моментами, — просто тео-
теоретико-множественные выкладки; однако они приобретают смысл (и упро-
упрощаются), если все время не упускать из виду наглядный смысл понятия мар-
марковского момента как момента, определяемого по прошлому случайного про-
процесса.
Задача 1. Пусть gtt, /г = 0, 1, 2, ..., —случайная последовательность^
принимающая значения в измеримом пространстве (X, <%); Г — произвольное
множество из $. Определим тГ как первый момент достижения последова-
последовательностью \п множества Г: тг = min {п: \п е Г} или + со, если случай-
случайная последовательность \п так и никогда не достигнет Г. Докажите, что
тг — марковский момент относительно семейства а-алгебр &~<п> /г=»0, U
2, ...
Задача 2. В условиях предыдущей задачи пусть Г2, Г2, ..., Гл, ... —
измеримые подмножества X. Положим Tj^^minf^: ^е^} или + со, если
последовательность не достигает ГУ, т2 = min {п>т1: ^ft е Г2}, если Ti<oo
и последовательность достигает Г2 при й>ть и + со в противном случае;
вообще, tk+l — первый после %k момент достижения Tk+l: Tk+l=*
= m\n{n>xk: %n^Tk+l} или + со, если т^=оо или последовательность
не достигает Tk+1 после момента xk.
Докажите, что tj, т2, ..., xk> ... —марковские моменты.
• В частности, это справедливо для первого, второго, третьего и т. д^
моментов пребывания в одном и том же множестве Г.
Задача 3. Пусть g/, t е [0, со), — случайный процесс, простран-
ство (X, &), в котором он принимает свои значения, — метрическое про-
пространство с сг-алгеброй борелевских подмножеств. Предположим, что траек-
траектории \t (со) непрерывны, Г — замкнутое множество. Пусть тг — первый?
момент достижения Г: Tr = min{f: ^еГ}, если такие t есть, и тг = со,
если %t не достигает Г. Докажите, что тг — марковский момент относи*
тельно семейства cr-алгебр &~^t> * е №> оо)-
Пример п. 3 § 3.1 показывает, как решается
Задача 4. В условиях предыдущей задачи пусть Г — открытое мно-
множество, тг = inf {t: lt е у;} (или + оо, если lt не принадлежит Г ни при:
каком t e [0, со)). Тогда тг, вообще говоря, не является марковским момен-
моментом относительно семейства а-алгебр ^%^, но является марковским момен-
моментом относительно семейства а-алгебр #"^+.
Этот результат сохраняется и в случае, когда траектории не непрерывны,,
а только непрерывны справа.

112 МАРКОВСКИЕ МОМЕНТЫ [ГЛ. О
Задача 5. Для того чтобы случайная величина т была марковским мо-
моментом относительно семейства а-алгебр &*^t +>порожденного каким-то слу-
случайным процессом, необходимо и достаточно, чтобы {т < t) e fF^ t при лю-
любом t.
Задача 6. Пусть т — марковский момент относительно семейства
0-алгебр STft t&T. Докажите, что случайная величина т измерима относи-
относительно а-алгебры $Г^ = о ( [J &"Л •
УеГ )
Очень легко доказываются такие свойства марковских моментов:
если Т|, т2 — марковские моменты, то rt А т2, %\ V т2 — тоже марков-
марковские моменты;
если Ть т2, ..., %п> • • • ~ марковские моменты, хх < т2 ^ ... ^ тл ^ ...,
то т= lim тл — гоже марковский момент (предполагается, что пределы
Я-*оо
всех возрастающих последовательностей элементов Т принадлежат Г).
Действительно,
{t1
{т,
U
и все эти события принадлежат #"*.
Если х — марковский момент, то, скажем, т+1 и 2т(Г = [0, оо)) —тоже
марковские моменты, но т/2 не будет, вообще говоря, марковским моментом
(относительно того же семейства а-алгебр).
3. Связанные с марковскими моментами о-алгебры. Мы ин-
интерпретировали (т-алгебру yt как совокупность всех событий,
о наступлении которых нам становится известно к моменту /.
Такая а-алгебра связана-с любым неслучайным моментом t^T.
Оказывается, и с каждым марковским моментом т можно свя-
связать ог-алгебру #"т, имеющую смысл системы всех событий,
о наступлении которых мы узнаем к моменту т.
По определению Ле^, если A^ST^ — of (J &~Л и для
любого /еГ
=0-,. B)
Докажем, что #~т — а-алгебра. Прежде всего, Qe^"t, потому
что Q П {* < t) — {г <; t) s STt в силу определения марковского
момента. Далее, если A^STX, то и О\ЛУ
И совсем уже просто доказывается, что счетная сумма множеств
из ЗГХ снова принадлежит этой системе множеств.
Легко видеть, что для не марковского момента т определенная таким об-
образом система событий не окажется а-алгеброй.
Интуитивно понятно, каков смысл определения #~т при помощи требова-
требования B): пусть наступление или ненаступление события А становится нам из-

ГЛ. 6} МАРКОВСКИЕ МОМЕНТЫ - 113
вестным к моменту т; тогда если к моменту t нам стало известно, что т ^ tt
то мы должны также узнать, наступило ли А.
В случае семейств а-алгебр #"^или P'^t + для °"алгебр, связанных с
марковским моментом т, мы будем употреблять обозначения #"^ т, &~*
Для марковского момента т примера п. 1 а-алгебра &гх по-
порождается всеми #~< оо-измеримыми подмножествами множества
/=oo} (имеющего меру 0) и счетным разбиением множества
} U l }Ul 2}{
р
/t=oo} (имеющ
{t<oo} = Ui =
1 E
12 0, 1з 1, l42}UUil, ^2 0, g3l, U2}[)
U{li = -1, 12 = 0, h = -U 64 = 0, E6=-l. |e = —2}U ...
В качестве примера случайной величины, измеримой относительно
с-алгебры 3TV можно рассмотреть число попаданий в точки 0
и 1 до момента т.
Задача 7. Докажите, что марковский момент т всегда измерим отно-
' сительно а-алгебры #~т.
Задача 8. Докажите, что если т и а — марковские моменты,
т((о)<а((й) при всех ю, то $ГХ г #V
Задача 9. Пусть т — марковский момент, а •— случайная величина,
принимающая значения из Т [} {оо}, причем а(со)^т(ш) при всех ю. Тогда,
если случайная величина а измерима относительно !FXi то а — также мар-
марковский' момент.
Задача 10. Для произвольных марковских моментов а, х событие
{т<а} измеримо относительно а-алгебр $Гv tF0> !FX л а.
4. Теперь займемся связанными с данным неубывающим се-
семейством а-алгебр 9~и /gT, свойствами измеримости случай-
случайных функций.
^Случайная функция %, t gT, называется согласованной
с семейством а-алгебр &~tf если при любом / случайная вели-
величина i)t измерима относительно yt.
Примерами случайных функций, согласованных с семейством
а-алгебр, могут служить: для произвольной случайной последо-
последовательности |о, ?ь |2> • • • и семейства а-алгебр #"<„, л=0,
1, 2, ..., —функции вида r)«= 2] /(А, Ы; Для случайного про-
цесса |/, — оо < t < 00, с дифференцируемыми траекториями и
семейства iF<*, / e/J1, — случайная функция l't (действительно,
\'t измеримо относительно 9r^v как предел случайных величин
лE/"^-1/д))* Дальнейшие примеры мы приведем (в форме за-
задач) после того, как будет введено еще одно, более сложное
понятие прогрессивной измеримости.
Пусть Т — борелевское подмножество R}\ обозначим через $^t
а-алгебру всех борелевских подмножеств множества ГП(—°°, *]<
Случайная функция t\t, t^T, называется прогрессивно измери-
измеримой относительно неубывающего семейства а-алгебр Т^ если

114 МАРКОВСКИЕ МОМЕНТЫ [ГЛ. 6
для каждого t^T функция t\s (со) на множестве (Г П (— °°, t]) X
измерима по (s, со) относительно а-алгебры $ XF
В этом термине слово прогрессивно употребляется в связи с тем, что
требования измеримости с возрастанием t все время меняются. Другой тер-
термин — случайная функция, не зависящая от будущего, — передает то, что зна-
значения случайной функции вплоть до момента / определяются тем, что известно
к этому моменту (интерпретация а-алгебры #~<) и не зависит от того, что
станет известно в будущем; но этот термин не передает связи понятия с из-
измеримостью случайной функции
Пример случайной функции, не согласованной с семейством
о-алгебр и не прогрессивно измеримой: в условиях примера п. 1
т)п = ?ю-п, п — О, 1, ..., 10. Здесь значение случайной вели-
величины г]2, например, становится нам известным только к мо-
моменту п = 8.
Для счетного Т понятия случайной функции, согласованной
с семейством сг-алгебр, и прогрессивно измеримой случайной
функции совпадают, но для несчетного Т это уже не так:
Задача П. Из того, 4Torjs(o) $^* X ^-измеримо на (Г f|(— °°> t] )X&
вытекает, что t\t (со) ^-измеримо.
Обратное, вообще говоря, неверно.
Задачу 4 § 1.3 легко приспособить к прогрессивной измери-
измеримости:
Задача 12. Пусть случайная функция т|/(/бГ (Г —отрезок, интервал
или полуинтервал), согласована с семейством а-алгебр Ф'и t ^ Т\ пусть
выборочные функции r\t непрерывны справа (или слева). Тогда случайная
функция т|^ прогрессивно измерима.
Задача 13. В условиях предыдущей задачи пусть т —марковский мо-
момент. Докажите, что % = % <©) (со) — функция на множестве {ю: т (со) < оо},
измеримая относительно а-алгебры $FX-
Задача 14. Пусть Т — интервал с левым концом а\ т^, /еГ,- слу-
случайная функция, прогрессивно измеримая относительно семейства 0-алгебр 0^f,
t еГ Пусть ?/ (со) eltjs (©) ds существует как интеграл Лебега при любом
а
t еГ. Тогда & — тоже прогрессивно измеримая случайная функция.
Задача 15, Пусть |*, 0 ^ t < оо, — случайный процесс с непрерывными
справа траекториями в метрическом пространстве X (в качестве а-алгебры &
на этом пространстве взята а-алгебра &х его борелевских подмножеств);
/ (t, б)) — ограниченная числовая 38^ ^ X ^-измеримая функция на
[0, оо) X X. Докажите, что тогда \ f (s, |5) ds — прогрессивно измеримая слу-
о
чайная функция относительно семейства а-алгебр ^^/, 0</<оо.
Задача 16. Пусть Т — отрезок, интервал или полуинтервал, Т^
<бГ,- неубывающее семейство а-алгебр, х — марковский момент. Дока*

ГЛ.6] МАРКОВСКИЕ МОМЕНТЫ Ц5
жите, что случайная функция %< х(t), /еГ, определяемая как 1 при t<т
и как 0 при t ^ т, прогрессивно измерима.
Задача 17. В условиях задачи 15 пусть т — марковский момент отно-
х
сительно семейства а-алгебр &~^f Докажите, что ф = \ /(s, ?s)ds — !Г^Х-
о
измеримая случайная величина (если этот интеграл расходится как интеграл
Лебега, полагаем *ф = 0).
5. Пусть Т — борелевское множество, @~t, t^T9 — неубываю-
неубывающее семейство а-алгебр. Введем в пространстве ГХ^ а-ал-
гебру ЯЗГ, состоящую из всех А ^ Т X й таких, что для лю-
любого /еГ подмножество А[\({— со, ^]XQ) измеримо относи-
относительно М^гУ^&'г. Полезно иметь в виду, что прогрессивно
измеримые функции — это не что иное, как ^F-измеримые функ-
функции от (/, со). (Нужно, конечно, помнить, что а-алгебра $$Г
зависит от того, какое берется множество Т и семейство
с-алгебр 3Ft.) ,
6. Еще раз напомним, что введенные в этой главе поня-
понятия— чисто теоретико-множественные и никак не связаны с ве-
вероятностью и мерой (поэтому и глава такая короткая).

Глава 7
Мартингалы
§ 7.1. Мартингалы, субмартингалы, супермартингалы
I. Пусть (Q, (F, Р) — вероятностное пространство; !FU /e
gTSjR1,- неубывающее семейство а-алгебр ((Ft s (F). Слу-
Случайная функция \и tet, называется мартингалом относительна
семейства 0-алгебр ЗГи если
а) случайная функция |* согласована с семейством а-алгебр
(Ft (т. е. It при любом / ^/-измеримо);
б) для любых 5, t е7, s ^.t, почти наверное
!,= М(Ы^). A)
Согласно определению условного математического ожидания
(см. Феллер, 1967, т. 2) мы считаем, что Mi* конечно при
всех t.
Естественно, раз речь идет о математических ожиданиях,
g* — числовая или векторная случайная функция.
Условное математическое ожидание относительно fFs, по
определению, — ^-измеримая случайная величина, такая, что
выполнено определенное интегральное соотношение. Поэтому
с учетом а) условие б) можно переписать так:
hdP B)
А А
для любых s, isr, s<t, Ле <FS.
Случайная функция ^, /g7, называется субмартингалом
относительно данного семейства а-алгебр, если выполнены усло-
условия а) и
б7) для любых s}/er, 5</, почти наверное
Б,<М(?,|*-,); C)
супермартингалом, если вместо условия б) выполняется
б") для любых 5, t еГ, 5 ^ f, почти наверное
D)
щие
Суб- и супермартингалы рассматриваются только принимаю-
е значения из R1 (или из расширенной числовой прямой).

§.7.1] СУБМАРТИНГАЛЫ, СУПЕРМАРТИНГАЛЫ ЦТ
Условие б') (соответственно б")) можно переписать в ин-
интегральном виде:
$$<*Р E)
для s, /eT, s^t, A^3TS (соответственно ^). Мартингал,
принимающий значения в Rl> является одновременно суб- и
супермартингалом; если субмартингал взять с обратным зна-
знаком, получится супермартингал.
Первый пример мартингала — симметричное случайное блуждание по це-
целочисленным точкам прямой (мы его рассматривали в п. 1 предыдущей гла-
главы). Его можно рассматривать как суммарный выигрыш одного из игроков
в игру с подбрасыванием монеты при ставке 1 после п партий. Вообще, лю-
любой мартингал относительно семейства а-алгебр ^"п, связанного с последо-
последовательными подбрасываниями монеты, можно интерпретировать как суммар-
суммарный выигрыш одного из игроков в орлянку, если ставка в каждой партии
назначается в зависимости от результатов предыдущих партий (?о s const ин-
интерпретируется как начальная плата за участие в игре).
Термин мартингал был введен в 1939 году Ж. Биллем. Французское слова
«martingale» означает часть конской упряжи — ремень, не позволяющий ло-
лошади вздергивать голову; но оно означает также удвоение ставки при про-
проигрыше. По-видимому, последовательность суммарных выигрышей игрока,
пользующегося этим приемом, — простейший пример мартингала, не являю-
являющегося процессом с независимыми приращениями.
2. Примеры мартингалов.
а) Винеровский процесс wu t^O, выходящий из нуля
( = О), является мартингалом относительно семейства по-
порожденных им а-алгебр #~<*. Действительно, он тривиальным
образом согласован с #~<* и при O^s^f почти наверное
= ws + M(wt — ws
потому что случайная величина wt — w8 независима от всех со-
событий а-алгебры #~<5. (Это вытекает из того, что wt — ws не
зависит от любого конечного числа порождающих эту сг-алгебру
случайных величин wt{, ..., wtn, O^t^ ... ^tn^.s.)
Совершенно так же получается, что пуассоновский процесс
lu t^zO, go = 0, после вычитания из него at (его математиче-
математического ожидания) становится мартингалом; и вообще, если ^,
t ^ 0, go = 0, — процесс с независимыми приращениями,
М|* = 0, то это мартингал.
Следующая задача показывает, что мартингал — что-то_ промежуточное
между процессом с независимыми приращениями с нулевым средним и про-
процессом с некоррелированными приращениями.
Задача 1. Пусть &, /бГ, — мартингал относительно семейства fT-t,
М 1 It |2<°°. Докажите, что ?* имеет некоррелированные приращения.
б) Пусть 1и 0<*<оо, go = O, М^зз0, — процесс с незави-
независимыми приращениями, М(?* — l^f = F{t) — F(s) при 0<<^

118 МАРТИНГАЛЫ [ГЛ.7
Тогда Щ •— F (t) — мартингал относительно ^"<г Согласованность
процесса с семействбм а-алгебр тривиальна; далее,
почти наверное при
В частности, для винеровского процесса wu ^
w0 = 0, мартингалом относительно ^< t = &~ws, s < t является
ws,
в) Если I — случайная величина, M|g|<oo, ь
неубывающее семейство а-алгебр, то lt— M (| |^), t^T, — мар-
мартингал: для ^
М (|« |*Г,) = М (М (| |Г<) 1^-,) = М F UF,) = |,.
Обобщением этого примера служит пример п. 8 § 1.2; только в том при-
примере Т = Зг—не подмножество ^1 и вообще не линейно упорядоченное, а
только частично упорядоченное множество.
г) Следующий пример связан с плотностями бесконечномер-
бесконечномерных распределений. Пусть на произвольном пространстве X за-
задано неубывающее семейство а-алгебр 9Ги t e Г, и на а-ал-
а-алгебре ^", содержащей все #"*, заданы две вероятностные меры
Ф и Ф\ Пусть мера Фг абсолютно непрерывна относительно Ф
на каждой из а-алгебр #Y, обозначим соответствующую плот-
плотность через ht(x). Функция ht(x), если ее рассматривать как
случайную функцию на вероятностном пространстве (X, (F, Ф),
оказывается мартингалом. Действительно, плотность ht(x) при
фиксированном t — это функция, измеримая относительно 3T
и такая, что для любого Af
А
¦Согласованность ht(x) с семейством (F% есть; остается прове-
проверить A) или, что то же, B). Но если Ag^s, to также
= Ф'(А)= \ht(x)O(dx).
А
В частности, мы можем взять X — RT, ЗГ — $Т> а в качестве
неубывающего семейства а-алгебр последовательность MTl (RT) s
#Kr) t(t)

§7.1]
СУБМАРТЙНГАЛЫ, СУПЕРМАРТИНГАЛЫ
конечные подмножества Г (см. § 5.3). Мы получаем, что плот*
ности hTl (х.)9 hT2 (x.)f ..., hTn (#.), . •. на пространстве (RT, $ту Ф)
образуют мартингал. Другое выражение того же факта: случай-
случайные величины пТп = hTfi (?.), п = 1, 2, ... на пространстве
(Q, У9 Р) образуют мартингал относительно семейства о-алгебр
&~Тп = в{Ъь te=Tn}, /i=l, 2, ...
3, Построить сколько угодно примеров субмартингалов (и
супермартингалов) нам дает возможность следующая
Микротеорема. Пусть ?*, ^еГ, —мартингал относи-
относительно семейства а-алгебр @~t, t еГ; пусть f — выпуклая вниз
числовая функция такая, что существует М/(|*). Тогда f(%t),
/еГ,- субмартингал.
Доказательство. Согласованность /(?*) с семейством 3Tt
проверять не нужно; проверим, что для /(?*) выполнено неравен-
неравенство E), т. е. что для любых
\f(h)dP. F)
А
\
Из выпуклости f(x) вниз сле-
следует существование для каждого
Хо опорной прямой y = f(xo)-\-
t+ С (х0) • (х — Хо), лежащей под
графиком y = f(x) (рис. 16).
(В качестве С(х0) можно взять,
например, правую производную в
точке #о). Воспользуемся этим для
стве х\ получим
Рис. 16.
в качестве
в каче-
качеИдея состоит в том, чтобы проинтегрировать это неравенства
по множеству А и получить F). Однако будем осторожнее: инте»
грал ^ С(?5)-(?* — ls)dP, может быть, расходится из-за неогра-
А
ниченности функции C(ls); поэтому возьмем интеграл лишь no-
множеству AN = A(]{\C(ls) |<#}
\f(lt)dP> \f(h)dP+ J
AN AN AN
Второй интеграл в правой части здесь равен 0; действительно
Л=^ а
М [С (У • & - У \STS] = С (У . М
= 0

120 МАРТИНГАЛЫ [ГЛг 7
почти наверное. Отсюда
\f{lt)dP> \f{ls)dP\
Aft Aft
устремляя N к бесконечности, получаем F).
Микротеорема доказана.
Заметим, что эта микротеорема годится также для мартин-
мартингалов с векторными значениями, и доказательство остается тем
же; только вместо опорной прямой нужно использовать опорную
плоскость или гиперплоскость.
Из одного только винеровского процесса wu t ^ 0, w0 = 0,
получаем множество примеров субмартингалов: \wt\, w], w*9
2
#Wty eWf (последнее при 0 ^ t <2/c); супермартингал wtAc
(функция у = хАс выпукла вверх).
4. Пусть Wu t ^ 0, Wq = 0, — r-мерный винеровский процесс,
f(x)—непрерывная супергармоническая функция в Rr (т. е. не-
непрерывная функция, значение которой в каждой точке х не
меньше среднего ее значений по любой сфере с центром х).
Если Mf(wt) при положительных t существует, то f(wt),t^09-^
супермартингал относительно семейства #~<*.
В одномерном случае это вытекает из результатов п. 3, по-
потому что все супергармонические функции на R1 — выпуклые
вверх; приведем доказательство*для многомерного случая. Для
0 ^ s ^ t почти наверное М (/ (wt) I^"<s) = <p(t0s), где
Ф (х) = [2я (t - 8)] ~rl2 \ er\ У-* W (*-)/ (у) dy
Rr
(докажите, пользуясь конечномерными распределениями). Ин-
Интегрирование по Rr можно заменить интегрированием функции f
лто сферам {у: \у — #| = р} и интегрированием результата с ка-
каким-то весом по р; каждый интеграл по сфере не превосходит
интеграла от значения f(x) функции f в центре сферы, так что
Ф (х) < [2я (/ - s)Vrl2 J er\ у~* № »-)/ (х) dy = f (x).
Rr
Отсюда вытекает f (ws) !> М (/ (wt) |У<*).
В частности, в двумерном случае супермартингалом является
r\t = —ln\wt — хо|, а в r-мерном (г ^ 2) r\t=l/\wt — лг01г~2,
потому что / (х) = —In | х — Хо |, f (х) = 1/1 х — х01 г~2 — супер-
супергармонические функции в соответствующих пространствах (мы
полагаем /(#о)=+0°, так что r\t может принимать значение
+ °°; но P{%= oo} = P {wt = #o} = 0 при t > 0).
5. 3 а д а ч а 2. Для того чтобы последовательность %п была мартинга-
мартингалом, необходимо и достаточно4 чтобы при всех п почти наверное
-М Fд+11 Уп) =* In- Докажите§

§ 7.2J МАРТИНГАЛЫ И МАРКОВСКИЕ МОМЕНТЫ 12t
§ 7.2. Неравенства и равенства, связанные с мартингалами
В этом параграфе мы рассмотрим математические ожида-
ожидания значений мартингалов и полумартингалов в случайный мо-
момент времени, причем в марковский момент.
1. Пусть Т — конечное множество; для простоты обозначе-
обозначений будем считать, что Г = A, 2, ..., N}. Пусть ln, n = 1, 2, ...
..., N, — субмартингал относительно семейства а-алгебр SF\ s
Задача 1. Пусть т — марковский момент, принимающий
значения 1, 2, ..., N. Докажите, что почти наверное
1*<М(Ы#\). A)
Если проинтегрировать A) по всему Q, получим Mgt^M?#.
Микротеорема задачи 1 довольно простая; следующая слож-
сложнее.
Микротеорема 1. Пусть %п — субмартингал, т — мар-
марковский-момент, принимающий значения 1, 2, ..., N. Тогда
M^<Mgt. B)
Доказательство. Имеем
M|t= \ hdP+
- J hdP+ \ t2dP~ J hdP+ ...
{t>l} {т>1} {t>2}
lndP~ \ tndP+...+ \ lNdP. C)
Так как {%> п— 1}==Q\ {т<п— 1} е^"й-ь имеем
5 ?п^Р= J Maj5r^)dP> 5 ^,rfP. D)
{t>n-t} {t>n-l} {t>n-l}
Из (З) и D) получаем B).
Так же легко доказать, что (почти наверное)
11<М(и^). E)
Формулы A), (б) подсказывают нам, что имеет место
Микротеорема 2. Пусть %п — субмартингал, % и а —
два марковских момента, 1 ^ т ^ а ^ N. Тогда почти наверное
F)
! 3 а д а ч a 2. Докажите эту микротеорему.
Из F) вытекает, в частности, что M?t ^ М^ для марков-
марковских моментов т, а, т <; а.

122 МАРТИНГАЛЫ [ГЛ. 7
Для мартингалов неравенство F), естественно, обращается
в равенство; для супермартингалов меняет знак.
2. Посмотрим, можно ли перенести неравенства (для мар-
мартингалов— равенства) предыдущего пункта на случай непре-
непрерывного времени. Пусть Т — отрезок, интервал или полуинтер-
полуинтервал. Очевидно, идея должна состоять в том, чтобы приблизить
произвольные марковские моменты т, о марковскими момен-
моментами тп—*т, ап-хт, принимающими при каждом фиксирован-
фиксированном п конечное число значений, воспользоваться для них ре-
результатами предыдущего пункта; затем, пользуясь свойствами
непрерывности реализаций %и получить STft->|x, lo^-^la и вы"
вести то, что нужно, при помощи теорем о предельном переходе
под знаком математического ожидания. При этом придется
предположить реализации g* непрерывными не то справа, не то
слева — в зависимости от того, будет ли тп сходиться к т сверху
или снизу. После некоторого размышления становится понятным,
что тп должно сходиться к т сверху, и, стало быть, речь должна
идти о непрерывности справа: ведь, скажем, тп=[2пт]/2п, вообще
говоря, не марковский момент, а хп = ([2wr] + 1 )/2п — марков-
марковский момент в силу задачи 9 гл. 6.
Итак, будем предполагать, что реализации It непрерывны
справа. Оказывается^ это еще не обеспечивает сохранения ре-
результатов предыдущего пункта.
Например, пусть wti t^O, — винеровский процесс, выходя-
выходящий из нуля, с непрерывными траекториями. Положим т =
= min {t: wt = —1} (если wt не достигает —1, полагаем т=оо).
Это — марковский момент относительно семейства а-алгебр
Задача 3. Докажите, что т с вероятностью 1 конечно.
Выбросим из пространства элементарных событии те эле-
элементарные события, для которых т= оо; тогда т будет конеч-
конечным марковским моментом.
Мы видим, что О = доо Ф M(t»T|flr<0)= Мшт = —1.
3. Таким образом, для перенесения результатов п. 1 нл не-
непрерывный случай нужно накладывать некоторые дополнитель-
дополнительные условия, кроме непрерывности реализаций справа. Эти
условия связаны с применением теорем о предельном переходе
под знаком интеграла Лебега. Некоторые результаты будут
связаны с теоремой о мажорируемой сходимости или, общее,
с применением равномерной интегрируемости; другие — с при-
применением леммы Фату (естественно, это будут результаты типа
неравенств). Мы не можем ожидать получить что-либо инте-
интересное из теоремы о монотонном предельном переходе, так: как
соответствующие результаты для полумартингалов с монотон-
монотонными реализациями тривиальны.

§ 7.2] МАРТИНГАЛЫ И МАРКОВСКИЕ МОМЕНТЫ 12$
Микротеорема 3. Пусть Т — отрезок или полуинтервал
с правым концом ?тах; &, (еГ, — мартингал относительно се*
мейства STh / ^ Г, с непрерывными справа реализациями. Пусть
т, а — марковские моменты, т^а^^тах. Тогда почти на-
наверное
Доказательство. Прежде всего, gt — ^-измеримая
случайная величина в силу задачи 13 гл. 6. Поэтому достаточно
доказать, что
\ \odP G)
для любого события ^eft (при этом мы заодно докажем,,
что gT и 1а интегрируемы). Положим хп = ([2пт] + 1)/2п, если
([24] + 1)/2*с=[— д, *Ш1Х]; если ([2пт]+ 1)/2я попадает левее —л,
полагаем тл== — я; если правее tmax, тя = ^тах- Аналогично опре-
определим Оп = (— П) V ([2W0r] + l)/2* Д <тах. ЯСНО, ЧТО ТЛ<(ТП, Ttt>T,
о^/г^0"» т« I т> 0л 4 а ПРИ Пг*00 Д^я всех ©. Согласно задаче 9
гл. 6, хп и ап — марковские моменты; они принимают конечное
число значений, поэтому для них имеет место формула F):
Ь.-М(Ь,.|<ГО- . (8)
Так как т ^ тд, то событие А е ^"t s ^"t/| и из (8) получаем
<*• (9)
J
Из непрерывности реализаций справа вытекает |t= lim gT r
/l->oo n
|0= lim ^ . Покажем, что в формуле (9) можно перейти к пре-
Л-»оо П
делу под знаком интеграла. Имеем почти наверное (опять-таки
согласно результатам п. 1)
К = м (Ь«ж I Гч), Ь. = М (|/гаах | ^„)-
Согласно задаче 11 § 1.2, случайные величины \Хп, \Оп равно-
равномерно интегрируемы, и предельный переход под знаком интег-
интеграла законен. Получаем формулу G),
Микротеорема доказана.
Задача 4. Пусть \и ^ > 0, — супермартингал с непрерывными справа
реализациями, \t ^ 0 при всех /. Докажите, что М|о ^ M|t для любого ко-
конечного марковского момента т.
Задача 5. Для винеровского процесса ш*, t ^ 0, с непрерывными траек-
траекториями, выходящего из нуля, найдите вероятность того, что wt достигнет
раньше точки а, чем b (а < 0 < b) %

124 МАРТИНГАЛЫ [ГЛ. 7
4. Неравенство Колмогорова, Неравенство Колмогорова —
обобщение неравенства Чебышёва. Первоначально оно было
получено А. Н. Колмогоровым для сумм независимых случай-
случайных величин с нулевым математическим ожиданием, но затем,
как и неравенство Чебышёва, значительно обобщено.
Микротеорема 4. Пусть Т — конечное множество (с мак-
максимальным элементом fmax), h — субмартингал относительно се-
семейства о-алгебр !FU t^T\ пусть %t принимает только неотри-
неотрицательные значения. Тогда для любого е > О
Р {max lt > e} < M?w/e [= max Mg,/e].
Доказательство. Положим т = min{t^T: ?<^e}, а если
таких t нет, положим r — tmux. Это — марковский момент отно-
относительно семейства а-алгебр #\=^ = <F^tS<* (задача 1 гл. 6). Но
из того, что случайная функция \f согласована с #%, /gT, вы-
те'каеъ что &~^t s #Y, поэтому т — марковский момент также
относительно семейства ЯГ и t&T,
Далее, max^^e тогда и только тогда, когда gT^e; по че-
Ыт
бышёвскому неравенству для неотрицательной случайной вели-
величины gt
Р {& > } Р {^ > } < Mg/ < МЬ/в.
Р {max& > е} = Р {^ > е} < MgT/8 < МЬшах/
Для неотрицательных с упер мартингалов неравенство
Р {max ?; ^ в} ^ max Mg^/e
остается верным, но при доказательстве используется неравенство М|т
5. Теперь посмотрим, как выглядит неравенство Колмогорова
для бесконечного Г.
Микротеорема 5. Пусть ?*, tеГс= 7?1, — неотрицатель-
неотрицательный субмартингал с непрерывными справа реализациями (или с
непрерывными слева, или сепарабельный). Тогда для любого
г>0
Р {supg*>e}<sup Mgj/e.
Доказательство. Пусть rjE^s.-.s^s.,. — воз-
возрастающая последовательность подмножеств Т такая, что для
каждой точки /еГ существует последовательность tny сходя-
сходящаяся справа к t, причем каждое tn^Tn. Тогда sup lt =
t€=T
==lim max I*. Из того, что supg*^ey не вытекает, что maxg^e
при достаточно больших п\ однако сумма неубывающей после-

7.2] МАРТИНГАЛЫ И МАРКОВСКИЕ МОМЕНТЫ 125
довательности событий {max lt ^ e} содержит в себе событие
{sup If > e}. Поэтому
P{sup|*>e}<P (U {maxg*>e}) = lim P{max^>e}<
*е=Г \n=l t<=Tn / n->oo teTn
^ lim max M^/e ^ sup М^/е.
Теперь оценим P{supg^e}:
Р {sup If > e} == lim P {sup lt > в'} < lim sup M^/e' = sup
Микротеорема доказана. ^.
6. Микротеорема п. 3 § 1 позволяет нам получить неравен-
неравенство Колмогорова для мартингалов:
если gj, t е Г, — мартингал с непрерывными справа реализа-
реализациями, f — неотрицательная выпуклая вниз функция, то для лю-
любого г > О
Р {sup f (h) > е) < sup M/ (g,)/e. A0)
Б частности, взяв функцию f (x)=(x—mJ, где m=Mlt(=const)f
получаем для е > 0
Р {sup | ^ - т | > е} < sup M (h - mJ/82. A1)
Классическое неравенство Чебышёва дает лишь
Р{I S* — /и |>e}<sup М(& — тJ/82.
Неравенство A1) сохраняется и для мартингалов с вектор-
векторными значениями, но участвующую в нем дисперсию нужно
тогда записывать как М | ^ — т |2. Другой частный случай не-
неравенства A0) получим, взяв f(x) — ecxf c>0:
Р{suph>K}<sup Meel*lee*i
другие — взяв f (x) = ecx, с < 0, или f (x) = \ x \:
{p|^|>}<
или /(#) = I xf\ a^l, в частности, *4, и т. д.
7. Задача 6. Пользуясь неравенством Колмогорова A0) с f(x)=e9
, выведите как можно более точную оценку для Р { max | ws | ^й}, где
— винеровскин процесс с непрерывными траекториями, выходящий из нуля.

126 МАРТИНГАЛЫ [ГЛ. 7
Закон повторного логарифма для винеровского процесса.
Задача 7*. Пусть wu t ^ О, — выходящий из 0 винеровский процесс
с непрерывными траекториями. Докажите, что для любого ? >0 с вероят-
ностью 1 существует число Т такое, что | Wf | < /8 (/) = A + е) <^2t In In t при
Указание. Для Q>1 рассмотрите счетное число событий Лп =
= {\wt\ ^ fz(Qn) при каком-то / е [0, Qn + *]}. Пользуясь оценкой задачи 6
и леммой Бореля — Кантелли и подобрав соответствующим образом Q, полу-
получите утверждение задачи.
Задача 8*. Докажите, что для любого е > 0 с вероятностью 1 суще-
существуют сколь угодно большие t такие, что | Wt\> fe (/) = A — е) ^J2t In In t.
Указание. Рассмотрите счетное число независимых событий
Задачи 7#, 8* можно суммировать следующим образом: с вероятностью 1
Tim \wt\/^2t\n In / = 1.
t-*oo
Локальный закон повторного логарифма.
Задача 9*. Докажите, что с вероятностью 1
lim | wt |/д/2*1п | in / | =1.
t t
Задача 10*. Пусть %t = wt + \ ф5 dst t > 0, где \ $\ ds < oo. Дока-
o о
жите, что с вероятностью 1
§ 7.3. Теорема о сходимости супермартингалов
1. Выведем еще одну оценку, относящуюся к мартингалам
и супермартингалам. Пусть |п, п= 1, ..., N, — супермартингал
относительно семейства с-алгебр #"п, причем все gn ^ 0. Рас-
Рассмотрим положительные числа с<йи обозначим через v число
пересечений последовательностью &, ..., %N полосы от с до d
в направлении снизу вверх. (Так, для реализации, изображен-
изображенной на рис. 17, значение v равно 2.) Докажем, что
Mv^Mh/(d~c). % A)
Для доказательства продолжим данный нам супермартин-
супермартингал, положив gjv+i = ?jv» &~n+i — @~n) от этого он не перестанет
быть супермартингалом. Определим марковские моменты сгь ть
02, Т2, ... следующим образом. Положим о\ равным наимень-
наименьшему из тех п от 1 до N, для которых gn ^ с; если таких п нет,
положим d = N + 1. Далее, х\ определим как наименьшее из
тех п от о\ + 1 до N, для которых ln ^ d\ если таких п нет,
хх = N + 1. Затем о2 определяется как min {п > х\\ In ^ с}
или как N + 1, если таких п нет; тг так же определяется через

§ 7.3]
ТЕОРЕМА О СХОДИМОСТИ СУПЕРМАРТИНГАЛОВ
127
о2, как ti через ои и т. д. Ясно, что ак = тк = N+1 при
2k > N. На рис. 17 а{ = 6, п « 10, а2 = 12, т2 = 16, а3 = 18,
т3 и все следующие за ним равны N + 1 = 22. То, что это всё
марковские моменты, мы уже доказывали (задача 2 гл. 6).
С величиной v они связаны следующим образом: событие
{v ^ k) равносильно {%k ^N].
Рис. 17.
УК /7
Докажем, что RaKy, Р{т*<АГ}<Р{т*-1<АГ}с/с<>
А > 1. Пользуясь определением условных вероятностей, мы
можем написать
N
n=*l
Чебышёвское неравенство дает нам почти наверное
). B)
\^n)/d. C)
На множестве {ok = n} случайная величина xk>n\ поэтому
ttk:=lxkvn на этом множестве и условное математическое ожи-
ожидание в C) почти наверное равно М (БтЛ v« I ^я) < Б« (последнее
неравенство — по результатам предыдущего параграфа в приме-
применении к супермартингалам). На множестве интегрирования в B)
?*<?; поэтому
Р{т*<ЛГ}<Р{ak^N} . c/d^PЫ-^N} • cjd.
Что же касается P{x{^N), то эта вероятность не превос-
превосходит MlxJd^MZJd.
Итак, Р {v > k) < (c/df-1 Щг/а9 откуда
= Z р

128 МАРТИНГАЛЫ [ГЛ. 7
2. Посмотрим, какие следствия из этого можно вывести.
Теорема 1. Пусть It — неотрицательный супермартингал
на счетном подмножестве Т числовой оси относительно семей-
семейства а-алгебр STt, /gT; supMg*<oo. Пусть основная о-ал-
t
гебра событий 2Г полна относительно вероятностной меры Р.
Тогда с вероятностью 1 выборочная функция \t имеет конечные
пределы слева и справа во всех предельных точках множества
Т (в том числе^и в предельных точках, не принадлежащих Т).
В частности, если Т имеет своей предельной точкой +оо,
существует lim \и а если — оо,— то соответствующий предел
на —оо.
Доказательство. Для функции f{t)t определенной на
бесконечном подмножестве Т< числовой оси, можно определить
число пересечений полосы от с до d в направлении снизу вверх
как. верхнюю грань тех k, для которых существуют точки S\ <C
t\ < 52 < ... < 4-i <.sk<.tk из множества Т такие, что
f(si)^c, f(ti)^?d. Разумеется, число пересечений полосы мо-
может быть равно 0 или оо.
Если мы определим число пересечений v полосы от с до d
для функции It, то это будет функция от со (пока мы не можем
сказать, что случайная величина).
Занумеруем каким-нибудь образом все точки нашего счет-
счетного множества Т: tu t2, ..., tn, ... Обозначим через vn число
пересечений снизу вверх полосы от с до d функцией ?*, опреде-
определенной лишь на конечном множестве {t\,.«.,tn}. Легко понять,
что при любом со v — предел монотонно возрастающих к нему
vn. Так как vn — случайные величины, причем для- них выпол-
выполнена оценка
Mvrt < МЫп(tt tn)j{d - с) @ < с < d),
то и v — случайная величина, и ее математическое ожидание
Mv<supM|*/(d — с).
t<~T
Во всяком случае v с вероятностью 1 конечно. Взяв все ин-
интервалы (с, d) с положительными рациональными концами
(а их счетное множество), получаем, что с вероятностью 1 вы-
выборочная функция пересекает снизу вверх любой интервал с ра-
рациональными концами только конечное число раз. Отсюда вы-
вытекает, что функция I* (о) не может совершать бесконечное
число колебаний, а в каждой предельной точке множества Т
имеет конечные или бесконечные односторонние пределы. Ос-
Остается доказать, что с вероятностью 1 бесконечные пределы
исключаются. Для того чтобы где-то был бесконечный предел,

§ 7.3] ТЕОРЕМА О СХОДИМОСТИ СУПЕРМАРТИНГАЛОВ 129
нужно, чтобы было хотя бы одно пересечение снизу вверх бес-
бесконечного числа из интервалов A,2), B,4), ..., Bn,2n+1), ...
Из оценки P(vJ> l)<]$up M^/rf вытекает, что сумма вероят-
ностей сходится, и по лемме^ Бореля — Кантелли получаем, что
с вероятностью 1 невозможно,, чтобы осуществилось бесконеч-
бесконечное число пересечений.
Это рассуждение не годится в наименьшей предельной точке
7, если она не принадлежит Г, так как для наличия бесконеч-
бесконечного предела в этой точке нет необходимости в пересечении ка-
какой-либо полосы в направлении снизу вверх. Чтобы сделать
его годным, дополним множество Т элементом —оо, по опреде-
определению меньшим всех элементов Т, положим g = SUP М|„
1Г
любом t\ It остается супермартингалом
и для t ^ {—оо} U 7, и к нему мы уже можем применить наше
рассуждение: для бесконечного предела в наименьшей предель-
предельной точке нужно, чтобы |;, t е{—оо} U Г, пересекло снизу вверх
любую полосу (ct d)y с^ g_oo.
Разумеется, теорема относится и к неотрицательным мар-
мартингалам.
Аналогичная теорема выполняется и для субмартингалов, но в ее доказа-
доказательстве используются пересечения сверху вниз (см. Гихман и Скороход,
Теория случайных процессов, т. I, «Наука», М., 1971, гл.-II, § 2).
Условие неотрицательности в теореме отбросить нельзя; пример — вине-
ровский процесс.
Полнота оснований о*-алгебры $Г относительно вероятности Р исполь-
используется для того, чтобы из Л ? В, Р(Л) = 1 мы могли заключать Р (В) = 1»
3. Доказанную теорему мы можем перенести и на несчетное
Т — для случайных функций с реализациями, непрерывными
справа (или слева); утверждается существование с вероят-
вероятностью 1 конечных пределов слева (справа) в каждой точке,
на 4"°° и на —°° (если имеет смысл о них говорить). Другой
вариант перенесения теоремы на несчетное Т: для стохастически
непрерывного супермантингала существует стохастически экви-
эквивалентный ему с реализациями, непрерывными справа и имею-
имеющими предел слева в каждой точке (и на ±оо).
4. В качестве приложения докажем теорему —вариант «в
узком смысле» задачи 1 § 3.3.
Теорема 2. Пусть f^^c ... <=,д~п<^ ... <^дг — не-
неубывающая последовательность о-алгебр; обозначим через ёГо*
наименьшую о-алгебру, содержащую все ?Гп. Пусть § — слу-
случайная величина с конечным математическим ожиданием. Тогда
почти наверное
MdUrj^limMGUFJ. D)
Л-»оо
5 А. Д. Вентцель

130 МАРТИНГАЛЫ [ГЛ. 7
Доказательство. Достаточно доказать D) только для
неотрицательных случайных величин, ибо если это выполняется
для случайных величин ?+ = g V 0 и g_ = (—g) V 0, то тем са-
самым и для g. Если |^0, то, согласно теореме 1, предел в D)
почти наверное существует. Обозначим через ц случайную ве-
величину, равную этому пределу, если он существует и конечен,
и 0 в противном случае. Эта случайная величина измерима от-
относительно ^""оо*, она интегрируема как предел равномерно
интегрируемой последовательности случайных величин (см.
введение); поэтому достаточно проверить, что
\ J E)
А А
для любого множества Ле^. Достаточно доказать E) для
произвольного множества А из порождающей &'м алгебры (J &~п.
п
Для Ле^"„ имеем
= \ lim
Здесь мы воспользовались равномерной интегрируемостью и
тем, что ylGfft, начиная с k = п, и интеграл от M(g|^)
равен интегралу от g.
Частный случай только что доказанной теоремы — соответ-
соответствующее утверждение относительно условных вероятностей од-
одного и того же события.
Задача 1. Пусть f i э f 2 з ... з &~п ^ ... — невозрастающая по-
последовательность а-алгебр; обозначим через #"оо пересечение всех этих сг-ал*
гебр. Пусть g—случайная величина с конечным математическим ожиданием.
Докажите, что тогда почти наверное
M(g| *•«>)- lim M(l\fn).
П->оо
5. Еще одно применение теоремы о сходимости мартинга-
мартингалов— к плотностям мер (см. п. 2г) § 1 этой главы и § 5.3). Так
как последовательность пт — неотрицательный мартингал, то
¦с вероятностью 1 существует п* = lim тст .
fl->OO
Этот результат — некоторое ослабление и в то же время обобщение из-
известной теоремы Лебега, согласно которой любая монотонная функция дей-
действительного переменного почти всюду дифференцируема. Действительно,

§ 7.3] ТЕОРЕМА О СХОДИМОСТИ СУПЕРМАРТИНГАЛОВ 13]
пусть на отрезке [0, 1] задана неубывающая функция /; будем для простоты
считать, что / — функция распределения. Дифференцируемость в точке х озна-
означает, что существует lim (/B) — f (#))/(?— #). Из нашей конструкции
у * х, г * х
мы выводим существование почти всюду не этого предела, a lim ([ (k/2n) —
— f((k-l)/2n))/\/2n), где(^-1)/2/г<л:<^/2/г. Для этого достаточнс
взять в качестве Ф меру Лебега, в качестве Ф' — меру, соответствующую:
неубывающей функции /, а в качестве а-алгебр &~п — конечные алгебры, поро
ждаемые полуинтервалами ((k — l)/2n, k/2n], к = U ..., 2П.
6. 3 а д а ч а 2*. Пусть wt, t ^ 0, — трехмерный винеровский процесс с не
прерывными траекториями, выходящий из нуля. Докажите, что с вероят
ностью 1 lim \wt\-oo; что для любой точки х0 е R3 с вероятностью 1
процесс wt ни при каком t не попадает в х0 (при хо = 0 не вернется в нул]
ни при каком положительном t)%

Глава 8
Марковские процессы. Основные понятия
§ 8.1. Марковские процессы и марковские семейства
1. Объясним, что мы будем называть марковским случай-
случайным процессом (или просто марковским процессом). Пусть
имеется измеримое пространство {Х,$)> в котором все одното-
одноточечные множества измеримы; будем называть его фазовым
пространством. Точки фазового пространства мы будем назы-
называть состояниями. (Терминология заимствована из физики; зна-
значение случайного процесса It интерпретируется как состояние,
в котором находится некоторая (физическая) система в момент
времени t.)
Пусть имеется случайный процесс g*, t^T^R1, со значе-
значениями в фазовом пространстве (Ху$). Введем для любого
<еГ а-алгебры #"<*, #">* и T^t (см. § 3.1).
Случайный процесс \г называется марковским, если для лю-
любого (еГи любых событий A s #~<*, В е #~>* почти наверное
). A)
Согласно системе наших обозначений, условная вероятность от-
относительно сг-алгебры 2T=t может быть записана как условная
вероятность Р( |g*).
Заметим, что в силу симметрии определения A) из того, что
\и ? е Г, — марковский процесс, вытекает, что тот же случай-
случайный процесс с обращенным направлением времени g_*, /ge— T§
тоже марковский.
Задача 1. Проверить, что требование A) равносильно любому из сле-
следующих двух:
для любого /еГи Bef^ почти наверное
P(B\r<i)^P(B\^mai)\ B)
для любого А е &*^t почти наверное
C)
2. Теперь, когда дано определение марковского процесса,
уместно немного еще поговорить о терминологии. Марковский
процесс, определенный на множестве Т, состоящем только из
целых чисел, — т. е. марковская последовательность'— назы-

$ 8.1] МАРКОВСКИЕ ПРОЦЕССЫ И СЕМЕЙСТВА 133
вается, согласно традиции, цепью Маркова (или марковской
цепью). Особенно просты дискретные цепи Маркова, т. е. те,
для которых X— конечное или счетное множество (а а-алгебра
Jf, естественно, — а-алгебра всех его подмножеств); среди дис-
дискретных цепей выделяются конечные цепи (для которых фазо-
фазовое пространство конечно).
Другой- важный класс — это марковские процессы с непре-
непрерывным временным параметром (Г = [0, оо) или (—оо, оо)),
но с конечным или счетным X. Их называют иногда (дискрет-
(дискретными) - цепями Маркова с непрерывным временем (см., напри-
например, книгу Чжун Кай-лая «Однородные цепи Маркова»,
«Мир», М., 1964).
Для дискретных цепей Маркова с дискретным или непрерывным временем
определение марковости можно дать, не используя понятия условной вероят-
вероятности относительно сг-алгебры и даже вообще не вводя сг-алгебр #"<^, &~-^t>
SF^t: для любых sx < ... < sm < t < tx < ... < tn% ^М^еГ, и любых
*и • • •» Хт* х> Уъ • • •» if/isl таких, что Р {%t = х) Ф О, должно быть
Образцы, следуя которым можно доказать равносильность этого опреде-
определения приведенному выше общему определению и дать другие эквивалентные
ему, будут даны в § 2.
3. Прежде чем рассматривать примеры, дадим определение
переходной функции марковского процесса. Мы говорим, что
функция P(s, xf t,T), определенная для s, ^еГ, $ < t, x&X,
ГеЛ, является переходной функцией марковского процесса §*,
<еГ, если
а) при фиксированных s, ?, а: функция P(stx,t,*) является
вероятностной мерой на а-алгебре $ (вероятностной — т. е.
РE,х,*Д)«1);
б) при фиксированных 5, tt Г функция P(s, •,#, Г) измерима
относительно а-алгебры Ш\
в) P(s9xy 5, Г) = бзс(Г), т. е. это мера, равная 1, когда Гэа:,
и 0, когда Г ф х\
г) для любых stg.t, x^X9 Ге^ почти наверное
РШеГЦЛ = РE, lSit, Г). D)
Заметим, что измеримость правой части D) относительно
о-алгеб'ры a(§s) — одно из двух требований к условной вероят-
вероятности— автоматически вытекает из б).
Необходимо помнить, что требования а)—в) налагаются
только на функцию Р (•,•,•,•) и не касаются случайного про-
процесса ?*(со), тогда как требование г) говорит о связи между со-
собой этих двух объектДв.

134 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. &
В силу задачи 1 из условия D) вытекает более общее: почти
наверное
h,t, Г). (б>
Сделаем еще одно замечание: формулу D) можно пере-
переписать в другой форме (с тем же смыслом), а именно:
P(s, x,t, Г) = Р&е=Г|?, = *}
(т. е. левая часть является одним из вариантов этой условной
вероятности). Таким образом, значение переходной - функции
Р E, х, t, Г) следует интерпретировать как условную вероятность
того, что в момент времени t система находится в множестве
состояний Г, при условии, что в данный момент 5, предшествую-
предшествующий t, она находилась в состоянии х\ мы будем называть это
значение вероятностью перехода из состояния х в момент s
в множество Г к моменту /. При этой интерпретации становятся
понятны требования а) и в) (б) — чисто техническое требова-
требование: просто мы никогда не рассматриваем неизмеримых
функций).
Однако для несчетного пространства X требования а) и в),
не говоря уже о б), не вытекают автоматически из главного
требования г); более того, ниоткуда не вытекает существование
для любого марковского процесса переходной функции. Но мы
не будем заботиться об этом, а просто будем рассматривать
только марковские процессы, обладающие переходной функцией.
Задача 2. Пусть wu t ^ О, Wq = 0, — винеровский процесс, выходящий
из нуля. Докажите, что этот процесс — марковский. Найдите соответствую-
соответствующую переходную функцию.
Заметим, что, тогда как определение марковского процесса совершенно
симметрично относительно замены прошлого на будущее, его описание при
помощи переходной функции существенно несимметрично: оно связано с на-
направлением «от прошлого к будущему». В связи с этим представляет интерес
ответ следующей задачи.
Задача 3. Найти переходную функцию для процесса g* = W-t, — оо <с
<*<0 (lo = wo = O).
4. Сделаем еще одно замечание о переходных функциях,
прежде чем двигаться дальше. Если X счетно (или конечно) „
а $ состоит из всех его подмножеств, то для задания меры на
пространстве {Х,$) достаточно задать счетный набор чисел —
меры всех одноточечных множеств. Поэтому переходная функ-
функция определяется заданием матрицы вероятностей перехода
(или переходной матрицы) Pst9 зависящей от двух моментов
времени s ^ t:
p'* = (p(s9 Xj t9 y)t X9 y<=X),
p(s> x, t, y) = P(s, x, t, {y}).

§ 8.1] МАРКОВСКИЕ ПРОЦЕССЫ И СЕМЕЙСТВА 135
(Элементы матрицы мы обозначаем буквой р малое, строки и
столбцы нумеруем элементами X. Величина p(s,x,t,y) имеет
смысл обычной условной вероятности P{lt = y\ls = х}.)
Требование а), налагаемое на переходную функцию, превра-
превращается в требование того, чтобы матрица Pst была стохастиче-
стохастической, т. е. состояла из неотрицательных элементов с суммой 1
в каждой строке: ?p(s, х> t, y)=\\ требование б) отпадает,
у
как тривиально выполненное, а в) превращается в условие
pSs _ ? (? — единичная матрица).
Для марковских процессов на несчетном фазовом простран-
пространстве, например {X,3S) = (Rl,$l) или (Rr,$r)> иногда имеет смысл
говорить о плотности вероятностей перехода, или переходной
плотности, т. е. о функции p(s,xy t,y), ^Х-^-измеримой по (х,у)у
неотрицательной и такой, что P(s, х, tt Г)=\ p(stxttty)dy для
всех s,x, t,Г,5 <Zt (для s=?, конечно, не имеет смысла говорить
о плотности, потому что все распределение сосредоточено в од-
одной точке х). Здесь dy означает интегрирование по некоторой
фиксированной мере, например мере Лебега в случае евклидова
пространства или его части.
Таким образом, условие в) для переходных плотностей ни-
ничем не заменяется; условие б) — требованием ^Х ^-измери-
^-измеримости плотности, условие а) — требованием неотрицательности
J(s, х, t, y)dy=l.
5. Рассмотрим примеры марковских процессов (а также не марковских).
а) Предлагается решить следующие задачи. Полезно, решая их, прежде
чем искать строгое рассуждение, постараться наглядно представить себе, дей-
действительно ли в рассматриваемых случайных процессах будущее зависит от
прошлого только через положение системы в настоящий момент времени.
Задача 4. Пусть |ь ?г, •¦., ?п, ... — независимые случайные величины
с одной и той же плотностью распределения р(х), положительной на всей
прямой. Укажите, являются ли следующие случайные последовательности це-
цепями Маркова:
а) ?ь 5я» •• •> i«i •• •;
б) So, S,, 52, ..., Srt, ..•, где S0=*0, S, «?„ S2« g, + |2, ..., Sa =
•= ii + ... +E»t •••;
в) S+t S+, S+,..., S+f..., где S+=:0 при Sn<0, S+=*Sn при Srt>0;
г) Ло, T|i, Л2, ..-, %»..., где %==max(S0, Slf ..., Sn);
д) (So,r]o), (SbTji), f«,, Eп,Лп), .«»(в качестве фазового пространства
берется RlXl0>°°))-
Для тех, которые окажутся цепями Маркова, укажите переходные вероят-
вероятности «за один шаг», т. е. Р(п,хуп+ 1,Г).
Задача 5. Для,таких же |ь ?г, •••» ?п, ... построим случайный про-
процесс с непрерывным временем: Г = [0, оо), положив St = Sk-(t — k) -f-

136 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
(k + 1 — t) для k ^ t ^ k + 1. Будет ли этот случайный процесс
марковским?
Задача 6. Докажите, что процессы примерно 2, 3, 6, 7 § 1.2 — марков-
марковские; найдите соответствующие переходные функции.
Задача 7. Винеровский процесс с отражением. Докажите, что \wt\>
t ^» о, — марковский процесс, где wt — винеровский процесс. Найдите пере-
переходную функцию.
б) Под схему марковского процесса хорошо подходят некоторые про-
процессы, происходящие в реальном мире. i
Например, так называемое броуновское движение — движение маленькой
частицы в жидкости под влиянием ударов молекул. В качестве фазового про-
пространства здесь берется (#3, $г), и если инерция частицы пренебрежимо мала,
то описание блуждания частицы при помощи марковского процесса оказы-
оказывается достаточно точным: будущее движение частицы зависит только от по-
. ложения, которое она занимает в настоящее время, а не зависит от того, как
и откуда частица туда пришла, потому что удары молекул, которые- ей пред-
предстоит испытать, — это удары других молекул, чем ударявшие ее в прошлом,
или тех же самых, но совершенно изменивших свое движение в результате
многочисленных столкновений.
Если нельзя не учитывать инерцию частицы (например, при рассмотре-
рассмотрении движения одной молекулы в разреженном газе), то мы уже не можем
считать изменение координат (!•*, г]*, ?*) протекающим в соответствии с мар-
марковским процессом: будущее движение зависит также от значения скорости
A^, r\t, tt) в настоящий момент времени. Но если мы рассмотрим другое фа-
фазовое пространство, а именно (Я6, -$6),, т. е. будем фиксировать положение ча-
частицы и значение ее скорости, то марковское приближение хорошо подходит
к этому случаю.
Пока что мы не можем сказать ничего разумного о переходной функции
броуновского движения.
в) Пусть теперь броуновская частица движется не в жидкости, а в рас-
раскаленном газе, if в определенный момент она вспыхивает и сгорает. При по-
помощи какого фазового пространства можно описывать такой процесс? Доба-
Добавим к фазовому пространству R3 (или R6) одну дополнительную точку *т
снабдим это пространство сг-алгеброй о*(^3, {*}) и будем в нашей идеальной
схеме считать, что частица вместо того, чтобы исчезать, попадает в состоя-
состояние * и навсегда там остается. Естественно, при этом P(s, *, /,Г) = б*(Г).
При помощи введения такого дополнительного состояния — «загробного*
мира» — удается избежать рассмотрения марковских процессов, определенных
лишь до какого-то случайного момента времени (см., например, задачу 2 § 6).
В книгах Дынкина, 1959, 1963 приняты другие определения, согласно
которым марковский процесс может быть определен лишь до некоторого слу-
случайного момента, когда он обрывается; это усложняет определения, но позво-
позволяет обойтись без введения дополнительного состояния. При такой концепции
процессы, обрывающиеся с положительной вероятностью, называются некон-
неконсервативными.
г) Марковские процессы возникают также, например, в задачах теории
массового обслуживания. Пусть, скажем, у нас есть система с одним каналом
обслуживания, с отказами (т. е. если заявка на обслуживание приходит, когда
канал занят, она получает отказ). Предположим, что заявки на обслуживание
приходят «совершенно хаотическим образом» (как говорят в теории массового
обслуживания, заявки образуют простейший поток) и а — среднее число за-
заявок, приходящих в единицу времени, а время обслуживания первой заявки,,
второй заявки и т. д. — случайные величины с одной и той же функцией рас-
\ х
пределения F(x)= \ f(y)dy (/— плотность распределения), причем не зави-

§ 8.1] МАРКОВСКИЕ ПРОЦЕССЫ И СЕМЕЙСТВА 137
сящие друг от друга и от прихода заявок. Будем описывать состояние системы
массового обслуживания при помощи фазового пространства, изображенного
на рис. 18. Здесь точка 5 соответствует тому, что канал обслуживания свобо-
свободен, а точка х на луче [0, оо)—такому состоянию системы, когда канал за-
занят, причем уже в течение времени х. Движение системы происходит следую-
следующим образом: то она находится в состоянии 5, то на полупрямой [0, оо); на-
находясь в точке «S, система может внезапно перескочить в точку 0 луча (что
соответствует приходу заявки), и она начинает двигаться вправо с единичной
скоростью. Затем в какой-то момент система (или частица, изображающая
ее) опять перескакивает в состояние «S (конец обслуживания); там она
остается какое-то время, а потом опять скачет и т. д.
as oo
Рис. 18.
Можно доказать (если уточнить свойства потока заявок), что это будет
марковский процесс.
Что касается переходной функции, то здесь легко выписать переходную
функцию за малый промежуток времени At с точностью до бесконечно малых
высшего порядка по сравнению с At. Это весьма общая ситуация. Как мы
увидим впоследствии (§ 10.2), это уже однозначно определяет и всю пере-
переходную функцию.
Так вот, для х = S
Р (t, S, t + At, {S}) «1-аДНо (At), F)
где а — «плотность потока заявок»; для любого h >» 0
Р (ty S, t + At, [0, h)) = а At + о (At),
р (ty S, t + At, [h, oo)) = 0
при малых Ш. Откуда берется F)? Дело в том, что мы еще не уточнили, что
значит «простейший поток заявок»; один из возможных способов — это при-
принять за определение марковский характер процесса и соотношение F).
Теперь для л; е [0, оо). Если обслуживание продлилось время х, ав тече-
течение еще промежутка времени At закончилось, то система попадает в состоя-
состояние S и с вероятностью 1 —о (At) остается там в течение времени At. Поэтому
с точностью до о (At)
Р (t, х, t + Д*, {S}) == Р {т <=(х, x + At]\ x>x),
где т — длительность обслуживания. Значит,
Р (t, х, t + At, {S}) = 1 ^{*]{x) At + o (At);
далее,
P (t, x, t + At, {x + At}) == 1 - 1 !^XF\X) M + o (At);
P(t, x, t + At, [0, oo)\{x + At}) = o(At).
д) За дальнейшими примерами марковских процессов (в частности, цепь
Маркова, возникающая при тасовании карт) автор отсылает читателя к книге
Феллера, 1967.
6. Перейдем к определению марковского семейства случай-
случайных процессов (или, короче, марковского семейства). Это

J38 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. в
понятие связано с представлением о возможности начать слу-
случайное движение системы по произволу в любой точке фазо-
фазового пространства. Определение будет довольно сложным, но
эта сложность оправдана.
Пусть фиксировано некоторое множество Т на числовой
прямой и фазовое пространство {Х,<М) и задана функция
P(s,xtt,Г), удовлетворяющая условиям а)—в) п. 3. Пусть
имеется пространство элементарных событий Q, и на ГХЙ
задана произвольная функция ?*(со), принимающая значения
в X. Заметим, что это еще не случайный процесс, так как на Q
не только нет пока никакой вероятностной меры, но даже еще
и не задано никакой а-алгебры. Свяжем (см. § 3.1) с функцией
gf(co) а-алгебры &*т = в{1и tenT}, &~ { <0 &
{5 0, \] {U }
Далее, предположим, что для каждого s еГ и каждого
xgX на a-алгебре ^>s определена вероятностная мера PSjx.
Мы говорим, что набор элементов (?*(со), Ps> x) является мар-
марковским семейством с переходной функцией Р (•, •, •, •), если
при любых 5, х
I). случайный процесс ?*(со), fe7TI[s, оо), на вероятност-
вероятностном пространстве (Q, iF>5, Ps,x) — марковский;
II) этот марковский процесс обладает указанной переход-
переходной функцией;
Ш) Р,Л1, = *}=!. G)
Более подробно, от семейства процессов It, <erfl[s,oo),
на вероятностных пространствах (Q, #~>s, Ps,x) требуется сле-
следующее. Во-первых, это должно быть семейство марковских
процессов, т. е. для любых s, xy t ^ 5, Ле !F\St ^, В е 5^~>* дол-
должно быть
Р* х (АВ | Ь) = Р5> х (А | It) PSi x (В | lt) (8)
Р&, х-почти наверное, (Здесь берутся условные вероятности, со-
соответствующие исходной вероятностной мере Ps, x на а-алгеб-
ре ^~>$; соответственно мы должны пояснить, почти наверное
относительно какой вероятностной меры имеет место равенство.)
Во-вторых, это должно быть семейство марковских процессов
с общей переходной функцией Р(., ., ., .), т. е. для s^t^iu
из Г, для любого хе! и Г из $ почти наверное (Ps,x) должно
быть
Ps, X{U €= Г \P{8t fl} = Р (/, lti и, Г) (9)
(заметим, что это выражение не зависит не только от поведе-
поведения процесса на отрезке от 5 до t, за исключением последней
точки, но также и от s и от х). Требование III) в расшифровке

§ 8.1] ' МАРКОВСКИЕ ПРОЦЕССЫ И СЕМЕЙСТВА 139
не нуждается: оно означает, что вероятность PS)X берется в
предположении, что процесс в момент s выпускается из точки х
(с этим связано также то, что мы рассматриваем процесс
только на значениях t ^ s и берем события только из а-алгебры
Формулы (8) и (9) можно записать в форме интегральных соотношений,
вспоминая определение условных вероятностей относительно а-алгебры. На-
Например, (9) означает, что для любого Л е ЗГ^^ ц
Р., х (Л П {la es Г}) - J Р (t, h @), и, Г) Ps,, (rf©).
А
В частности, если здесь в качестве А взять все Q, положить ? = s, а вме-
вместо а взять tt то получим, что
Ps, х {If €= Г] = ^ Р (S, Is @), ^, Г) Р5, х
Q
Так как в силу G) |s((o) = a: почти наверное (Ps, *), то подынтегральная
-функция почти всюду равна P(s, x, t, Г). Значит,
Отсюда вытекает, что в случае марковского семейства, а не отдельного про-
процесса переходная функция определяется однозначно (а не почти однозначно).
Можно рассмотреть семейство винеровских процессов, вы-
выходящих из всевозможных начальных точек, — марковское се-
семейство {wh PStX) с плотностью вероятностей перехода (в г-мер-
ном случае)
p(s, х, t, y) = [2n(t-s)rr/2e-\y-
т. е. с переходной функцией
Р (s, х, t, Г) = [2я (t - s)]'r/2 J е-» v~* № its) dy
г
(при s < t\ при s = t, как и для любого марковского процесса»
R(tT) 8(T))
() (
Существование такого семейства (и даже с непрерывными
траекториями) читатель легко докажет; но с этим и другими
примерами можно подождать до § 3, где будут развиты соот-
соответствующие общие методы.
Термины цепь Маркова, цепь Маркова с непрерывным вре-
временем применяются не только к марковским процессам, но и
к целым семействам.
7. Ту же идею о возможности выпустить марковский процесс из любой
точки можно выразить по-другому. Можно рассмотреть семейство марковских
процессов !|**(ю), причем ^'х (со) = х\ зато вероятность Р в этом случае

140 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. S
можно взять не зависящей от х (на такой концепции строится изложение
в книге И то, 1963), Оказывается, семейства такого рода можно свести
к марковским семействам; но мы не будем на этом останавливаться. Мы еще
коснемся этих вопросов, когда будем говорить о стохастических уравне-
уравнениях (§ 12.4).
§ 8.2. Различные формы марковского свойства
1. Приведенные в § 1 определения марковского процесса
и марковского семейства можно преобразовать в различные эк-
эквивалентные формы, причем иногда удобно пользоваться одними,
иногда другими.
Во-первых, мы можем превращать исходное симметричное
определение в определение, описывающее характер зависимости
будущего от прошлого (или прошлого от будущего). Во-вторых,
в нашем определении участвуют условные вероятности, так что
мы можем перевести его (полностью или частично) в интеграль-
интегральную форму. Затем, часто удобнее оперировать с математиче-
математическими ожиданиями, чем с вероятностями, и наши определения
можно перевести в форму, использующую вместо произвольных
множеств из некоторых ст-алгебр произвольные функции, изме-
измеримые относительно этих сг-алгебр*). Наконец, а-алгебры
#"<*, @~>t, ^[s, t] порождаются некоторыми алгебрами событий,
например iF<* — алгеброй событий вида {(g^, ..., gS|n) s Г},
S\, •••> Sm^t, Felm, или некоторыми полукольцами событий
(#~<* — полукольцом событий {ЦеГ1!,..., 6J/f|srm}, su ..., 5m<f,
Fj, ..., FmeJ?). Оказывается, определениям марковского про-
процесса и семейства (марковскому свойству) можно придать
форму, в которой вместо произвольных ^Г<г, #"><-, &~[S,t]-
измеримых случайных событий будут участвовать произвольные
Jfw- или ^-измеримые множества или функции.
Итого получается минимум 64 различных формы определе-
определения марковского процесса и 64 — марковского семейства (не
говоря о таком объекте, как марковский процесс с данной пе-
переходной функцией), а на самом деде еще' гораздо больше, по-
потому что некоторые части определения можно перевести в дру-
другую форму, а остальные — оставить по-старому. Разумеется, мы
не можем ни привести их все с доказательствами, ни даже, дать
в виде задач. Мы приведем важнейшие типы переходов одного
вида марковского свойства в другой.
Некоторые формы марковского свойства будут даны в сле-
следующих параграфах, в частности, в § 3 — условия в терминах
конечномерных распределений.
*) Математическое ожидание относительно вероятностной меры PS)x
будем обозначать Ms*x*

§ 8.2] РАЗЛИЧНЫЕ ФОРМЫ МАРКОВСКОГО СВОЙСТВА 141
2. Приведем решение задачи 1 § 1.
Достаточно доказать, что формулы A) и B) предыдущего
параграфа равносильны. Пусть дано A), выведем B). Вос-
Воспользовавшись определением условной вероятности, получаем,
что нужно доказать следующее: для любого B^fF^t и любого
А Sr
= $ Р (?|#~=*)dP. C)
А
(Начнем нумерацию формул с C), чтобы не путаться.) Но Р (АВ) =
*=МР(AB\&~=t\ что, по условию A), равно M[P{A\&~=t)X
ХРE 1^"*=»*)]- С другой стороны, правая часть C) равна
м [Р (в | *-_,) Ха\ = м м [Р (в i ^=<) %А | <г_]=
(здесь мы пользуемся возможностью выносить из-под знака
условного математического ожидания величину, измеримую от-
относительно соответствующей а-алгебры). Получаем выражение,
равное левой части C).
Теперь выведем A) из B). Нужно доказать, что для лю-
любого С из ^"W
P(ABC)~=*\P(A\&*-t)P(B\9*~t)dP. * D)
с
Здесь А и В —события из &~<t и ST^t. Правую часть можно
преобразовать к виду М [Р(Л |ЗГв*)Р(В |#"W)%C]. Преобразуем
левую часть- Р(ABC) = ММ [%АХв%с \^<t] = M%a%cP(B \F<t).
Здесь мы пользуемся тем, что Л е ^<f и С е ^=^ s ^/. За-
Заменим Р (В \@~^t) почти наверное равной ей, в силу условия
B), условной вероятностью P(B\@~=t) и снова представим это
математическое ожидание в виде математического ожидания
условного математического ожидания, на этот раз относительно
а-алгебры @~=t'
Р(ЛВС)=ММ [%А%СР(В \r.t) 1^]=М[ХсР(? \Р-№(%а \&~=t)l
что совпадает с правой частью D). *
Задача 1. Докажите, что для того, чтобы случайный про-
процесс %и t ^Т, был марковским, необходимо и достаточно, чтобы
для любых Si ^ 52^ ..» ^ sm ^ t ^ t\ ^ ... ^tn, Si, t, ti e Ty
и любых множеств Г^ ..., Гт, Дь ..., Аде^ было почти на-
наверное
E)

142 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
Задача 2. Для того чтобы случайный процесс ?*, t^T,
был марковским, необходимо и достаточно, чтобы для любых
S\ ^ s2 ^ • • • ^ sm ^ t ^ h ^ • • • ^ *п из Г и любых ограничен-
ных .^-измеримых функций fb . ¦., fm, glf ..., gn было почти
наверное
М (/, F.,) • • • • • U (lSm) • «г, (Ь.) -..-.•& (Ь.) I Б/) =
= М (f, (I,,)..... fm (Lm) 16<) M (gl (bl)..... & (Ьв) 11,).
3. Приведем еще некоторые другие формы марковского свой-
свойства.
Пусть Р (s, х, t, Г) — функция, удовлетворяющая условиям
а)—в) п. 3 предыдущего параграфа. Для того чтобы случайный
процесс gj, t еГ, был марковским процессом с данной переход-
переходной функцией, необходимо и достаточно, чтобы при всех s ^.t,
FgI было почти наверное
P{lte=r\P<8}=P(s, g,, U Г). F)
Это — формула E) предыдущего параграфа; ее необходи-
необходимость уже была доказана. Для доказательства достаточности
нужно вывести из F), скажем, что для любых t\ ^ t2 ^ ...
... ^ tn, больших или- равных s, и любых измеримых подмно-
подмножеств фазового пространства Гь Гг, ..., Гп почти наверное
Р^еГ, Ь^Г.^-Р^еГ, g^srjb} G)
(см. задачу 1 предыдущего и задачу 1 этого параграфа).
Задача 3. Докажите, что если для случайного процесса
выполнено условие F), то для любых s < f из Г и любой огра-
ограниченной ^-измеримой функции / почти наверное
где
g(x)=\p(s,x, t, dy)f(y) (9)
X
— ^-измеримая функция.
Теперь докажем чуть более сложное вспомогательное утвер-
утверждение.
Лемма 1. Для любых s ^ t\ ^ ... ^ tn и любых ^-изме-
^-измеримых функций f ь ..., fn почти наверное

§ 8.2] РАЗЛИЧНЫЕ ФОРМЫ МАРКОВСКОГО СВОЙСТВА 143
где ^-измеримая функция ф определяется повторным инте-
интегралом
ср (х) = \ Р E, х, tu dy{) f{ (y{) \P(tu yu t2, dy2) f2 (у
X X
tn-»ya-»tn,dyjfn(yn) A1)
(порядок интегрирования — с конца).
Для п= 1 это — утверждение задачи 3. Естественно дальше
доказывать по индукции.
Пусть A0), A1) доказаны для п\ добавим еще одно tn+x^tn
и функцию /я+1. Так как 0-алгебра @~<tn э#~<5 (ведь <rt>5), то
(разумеется, почти наверное). Но согласно формулам (8), (9)
внутреннее условное математическое ожидание есть почти на-
наверное gn (ltn), где
gn(x)=\jP(tn, х, <л+„ dyn+l)fn+l (yn+l)
х
— Jf-измеримая функция; применяя формулы (Ю), A1)
с fn-gn вместо /п, получаем утверждение индукции для п-\- 1.
Вернемся к доказательству формулы G). По лемме левая
часть есть почти наверное <p(?s), т- е- она почти наверное совпа-
совпадает с величиной, измеримой относительно а-алгебры a(gs). По
множествам из этой a-алгебры левая и правая части G), по
определению, имеют равные интегралы (используем, что
ff(?9) = 5r==s s ^~<s); значит, они почти наверное совпадают.
4. Мы вывели новую форму марковского свойства F) для
марковских процессов; посмотрим, какую новую форму мы полу-
получим для марковских семейств. Так как марковское семейство —
это семейство марковских процессов с общей переходной функ-
функцией, то нетрудно видеть, что условие марковскости примет та-
такой вид: для s z^t ^.и, х ^Х, ГеЙ
Ps,x{tu^T\&~[s,ti} = P(t, lu и, Г) A2)
почти наверное (Ps, x). Это — формула (9) предыдущего пара-
параграфа; оказывается, ею можно заменить оба условия I) и II)
в определении марковского семейства (но условие III) нужно
оставить),

, x9 ti9dyi)^P(tl9 у» t2 \
' г2 г, -
144 МАРКОВСКИЕ ПРОЦЕССЫ, ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
Разумеется, условиям F) и A2) можно придать интеграль-
интегральную форму или форму, использующую математические ожи-
ожидания.
5. Из доказанной в п. 3 леммы можно сделать, в случае мар-
марковских семейств, интересные выводы. Рассмотрим формулы
A0), A1) для вероятностной меры Ps х и !х=*%т, •••> tn—^v:
Р„ * {Ьг е Г„ ..., Ьв е= Тп \&~<s) = ф (у, A3)
где функция
A4)
^-измерима. Проинтегрируем A3) по всему й; с учетом того,
что Is = х почти наверное (Ps, x), получим
Р„ х {lti еГ, Ьве Г„} = Ф (х). A5)
Итак, вероятность такого события ^-измерима по х. Исходя из
этого, мы докажем, что вероятность PS,X(B) любого события
В е #">s также измерима по х. При этом мы воспользуемся
следующей теоретико-множественной конструкцией.
Назовем систему множеств s? ^-системой, если она замкнута
относительно сложения конечного числа непересекающихся мно-
множеств, вычитания из множества его части и монотонного предель-
предельного перехода: ДВе^, АВ = 0 =#>AUВеs4-\ Л, Веs?y Лэ
оо'
2В#Л\Ве^; Аи А2, ,,,Gi, Ax^A2s ... =Ф U ^Gi,
Всякая а-алгебра является ^-системой, но не всякая jn-си-
стема является а-алгеброй: она может не содержать вместе
с множествами А и В множеств АВ и A U В. Буква \х в названии
означает основную операцию, характерную для системы, — мо-
монотонный предельный переход.
Так же, как для любой системы множеств <в% доказывается
существование наименьшей а-алгебры а(9*), содержащей *&,—
так же доказывается и существование наименьшей ^-системы
,fi(<??), содержащей ^\ Из того, что любая а-алгебра является
pi-системой, вытекает \i(ff)^ о (Ф). .
Лемма 2. Пусть система Ф подмножеств некоторого мно-
множества X содержит X и замкнута относительно взятия пересе-
пересечения пары множеств: А, В^^^АВ^^. Тогда \х (Щ = а (^).
Мы будем пользоваться этой леммой, не доказывая ее, по-
потому что ее доказательство, хотя и несложное, было бы совер-

§ 8.2] РАЗЛИЧНЫЕ ФОРМЫ МАРКОВСКОГО СВОЙСТВА 145
шенно лишним в этой книге (см. Халмош, 1953, Дынкин,
1959, лемма 1.1).
Итак, докажем измеримость по х вероятности PStX(B) для
всех B^ip~^s- Обозначим через ^ систему всех множеств В,
для которых это так. Легко видеть, что S? — это ц-система:
действительно, например, из Л, В е ^, А 3 В вытекает, что
Ps,Jc {А \ В) = P3t х (А) — PSt х (В) — измеримая функция, т. е.
Л\Ве^. Мы уже доказали измеримость P5t^-вероятности
для событий вида [ltl еГ15 ..., g,n е== Г„}, s < ^ < ... < tnf
Г1!, ..., Гп^$9 т. е. система ^ множеств такого вида со-
содержится в $. Отсюда вытекает, что $ э ц, ((g?). Лемма здесь
применима, потому что ^ замкнуто относительно пересечений.
Получаем 3? э jx (^) = а (9^) = ^>s, т. е. измеримость вероят-
вероятности имеет место для всех событий из #"">$•
6. Пользуясь только что установленным фактом, выведем
еще одну форму марковского свойства — в противоположность
указанной в п. 4, с виду очень сильную, но на самом деле экви-
эквивалентную предыдущим.*
Если (g/, P5fх) — марковское семейство, то для любых s^t
и события В е iF> *
Ps.x{B\F{Stt]) = Pu%MB) A6)
почти наверное относительно вероятностной меры Р3,х*
Иначе говоря, поведение процесса после момента времени
/ при условии, что фиксировано его течение до момента t,—
такое же, как если бы он начинался в момент t из точки ?*(©).
Доказательство. Раз B^tF^t, то вероятность PitX(B)
измерима по х относительно а-алгебры J?, и, подставляя в эту
функцию вместо х случайную величину ?*(со), мы получаем дей-
действительную случайную величину, измеримую относительно
*?\=* = а(?*), а тем более относительно 8F[s,tb Значит, доста-
достаточно доказать, что интегралы левой и правой части по произ-
произвольному множеству А е #~[s, t] совпадают, т. е.
\Pt.itw{B)Ps.x№. A7)
Зафиксируем А. Как функции В, обе части A7) являются
мерами. Для событий В вида {S^^Fi, ..., hn ^ IV}, t ^ t\ ^
^ ... ^ tn, A6), а значит, и A7) выполнены (в силу формул
A0), A1) и A5)). Отсюда, как мы это уже делали (например,
при решении задачи 1 этого параграфа), заключаем, что A7)
выполняется и для а-алгебры, порожденной событиями указан-
указанного вида, т. е. для B^@~^>t-
Мы уже говорили, что эта новая форма марковского свой-
свойства равносильна прежним. А именно, для того чтобы пара

146 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
(SbPs,*) была марковским семейством с данной функцией
^(•> •»•»•) (удовлетворяющей условиям а)—в) п. 3 § 1) в ка-
качестве переходной функции, необходимо и достаточно, чтобы
было выполнено A6| и, кроме того,
Ps.x{hezT} = P(s,x9t, Г)
(чтобы у процессов семейства была данная переходная функ-
функция). Условие Ps, x{?>s = x} = 1 выполняется при этом автома-
автоматически, так как эта вероятность равна значению переходной
функции Р (s, х, s, {х}).
Конечно, условия A6), A7) можно представить в форме,
использующей математические ожидания:
Ms, х (Ч \&~[s. fl) = Mt, ltt] (П. H. (Ps, *)),
Здесь А — произвольное событие из &~[s,t], ? и ц — ограничен-
ограниченные случайные величины, измеримые: ? относительно ST[S) fj, у) —
относительно ^">л
7. Марковское свойство относительно данного семейства а-алгебр. Введем
одно определение, близкое к нашему определению марковского процесса, но
не совпадающее с ним. Пусть на пространстве элементарных событий Q за-
задано неубывающее семейство а-алгебр ST%, /еГ; пусть задан случайный про-
процесс ?*> t еГ. Мы будем говорить, что ?* — марковский процесс относительно
семейства а-алгебр Ф%, если, во-первых, процесс ?*, /gT, согласован с семей-
семейством а-алгебр, а во-вторых, для любых t ^. и, Ге^ почти наверное
Р{6в€=Г|<Г,}«Р(/, ?,,и, Г). A8)
Любой марковский процесс является марковским относительно а-алгебр
&~<^t', для некоторого класса процессов мы докажем (§ 9.2), что они яв-
являются марковскими относительно семейства #"\^?+
Для марковских семейств, естественно, нужно при каждом s брать свое
семейство а-алгебр #"8*§ t^T{)[s, oo); для них из соответствующего усло-
условия A8) можно, как показано выше, вывести, что для любого Bef^^ почти
наверное (Р5> х)
§ 8.3. Конечномерные распределения марковских процессов
1. Пусть ?*(со) — функция на Ty^Q со значениями в данном
фазовом пространстве; PS)X при каждом s и х —вероятностная
мера на о-алгебре @~^s\ P(s,x,t,F)—функция, удовлетворяю-
удовлетворяющая условиям а)—в) п. 3 § 1. Чтобы пара (it, Ps,x) была мар-
марковским семейством с данной переходной функцией, необходимо
и достаточно, чтобы конечномерные распределения ^ относи-

§ 8.3] КОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ 147
тельно вероятностных мер Ps x задавались формулой (s ^
^ U ^ ... < tn)
= \ Р (s, х, tu dyi) \ ... \ Р (/„_„ уп-и tn, dyn). A)
Г1 Г2 ТП
Доказательство, Необходимость была уже доказана
в прошлом параграфе (формулы A4), A5)). Остается вывести
из A) какую-либо форму марковского свойства. Сначала ре-
решим следующую задачу.
Задача 1. Из формулы A) вытекает, что для любой огра-
ограниченной ^-измеримой функции f
= J P(s, x, tl9 dy{) J ... J P(tn-u Уп-ь tn, dyn) f (yl9 ..., yn).
X XX
Теперь докажем, что
^ЛЬ»еГЩ.й} = Р(^<. »> Г)
почти наверное (Р5,ж), или, что то же:
Р,. х (А П {1и е Г}) = J Р (*, g<f и, Г) rfP,,,
л
для любого А е flT[5 ^, или: для любых 5 ^ tx ^ ... ^ tn = f ^ и,
J P(t,buU,T)dP99X. B)
ЧвГя>
Правая часть есть математическое ожидание случайной вели-
величины Хг (^)«" Хг F/JP(/, 6^, и, Г); согласно задаче 1 она
равна (вспомним, что t = tn)
J P (s, х, *р d^) J ... $ Р (^Р yn_v in> dyn) %Ti
Г, Г,
»-i, y*-i, tn, dyn) P (tn, yn, и, Г) = J P (s, ж, /„
r2
... ^ P (*„_„ ?/„_„ /„, dyn) ^ P (/„, «/„, и, dz).
г" г
В силу формулы A) этому же равна и левая часть B).

148 МАРКОВСКИЕ ПРОЦЕССЫ, ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
2. С марковскими процессами, не входящими в семейства,
дело обстоит сложнее. Будем иметь дело только с процессами,
обладающими переходной функцией. Подставим, как ранее,
в формулы A0), A1) предыдущего параграфа индикаторы про-
произвольных Jf-измеримых множеств и проинтегрируем по
всему Q:
= J Ф3 (dx) J РE, х, tl9 dyx) \..Л P(tn-i, Уп-и "**, dyn). C)
Х Г Г Т
Х Г1 Г2 ТП
Мы видим, что конечномерные распределения определяются
не одной только переходной функцией, а еще одномерными
распределениями <PS.
Совершенно так же, как в п. 1, доказывается, что если ко-
конечномерные распределения случайного процесса задаются
формулой C), то это — марковский процесс.
Теперь мы можем единым методом решить некоторые из за-
задач § 1. Читателю рекомендуется возвратиться к ним, найти
конечномерные распределения и убедиться в том, что рассмат-
рассматриваемые процессы — марковские.
Задача 2\ Докажите, что любой процесс с независимыми прираще-
ниями gf, t ^ 0, go = 0, — марковский.
3. Разумеется, конечномерные распределения должны быть
согласованы друг с другом. Сейчас мы выведем условия, необ-
необходимые для этого (для марковских семейств).
Пусть s z^t ^.и. С одной стороны,
P8.x{lu^T} = P(s,x9 и, Т);
с другой стороны, эта вероятность равна
PStX{tt^X> lu^T}=\P(s, x, U dy)P(tt У, и9 Г).
X
Итак, получаем так называемое уравнение Чэпмена — Колмо-
Колмогорова:
P(s, х, и, Г)= \ P(st х, U dy)P(t, у, и, Г). D)
Для процессов Маркова с дискретным фазовым пространством уравнение
D) превращается в
р (s, х, и, г) = ? р (s, х, t, у) р {t, у, и, z). E)

§8.3] КОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ 149"
Но это означает просто, что соответствующие матрицы перемножаются:
В частности, для дискретной цепи Маркова вероятности перехода полностью
определяются заданием матриц вероятностей перехода за один шаг, т. е.
л—1 ч
потому что ^"«Д />*.*+!.
Задача 3. Проверьте, что матричная функция
- 2е~3 <* -«>)/3 A + 2<Г3 « -»>)
удовлетворяет уравнению Чэпмена — Колмогорова.
(Заметим, что эта функция удовлетворяет требованиям а)—в) п. 3 § U
налагаемым на переходную функцию: матрица Pait s ^ /, — стохастическая*
psa a- ?t Каким образом была построена функция P8t, станет ясно позже,
когда мы больше узнаем о марковских процессах.)
Для плотности вероятностей перехода место E) занимает
р (s, х, ut z)» ^ р ($, х, t, у) р (t, у, и, z) dy.
X
Соотношение F) также обобщается — на случай произвольных марковских,
семейств; об этом мы будем говорить в следующем параграфе.
Задача 4. Пусть Т — произвольное подмножество прямой и любой паре
его элементов s ^ t сопоставлены действительное число mst и неотрицатель-
неотрицательное число o*s?. Для s ^ t из Г, х е R1 определим P(s, #,/,•) как нормальное
распределение со средним mat-x и дисперсией о*^. Найдите условия на msi
и ог^, необходимые и достаточные для того, чтобы выполнялось уравнение
Чэпмена — Колмогорова.
Заметим, что у гауссовского марковского процесса с нулевым математи-
математическим ожиданием должна быть переходная функция именно такого вида, по-
потому что для многомерного нормального распределения условные распределе-
распределения — нормальные с постоянной дисперсией и средним, зависящим линейно от
случайной величны, относительно которой оно берется.
4. Поговорим об условиях согласованности в случае мар-
марковских процессов (а не семейств).
Задача 5. Докажите, что одномерные распределения свя-
связаны с переходной функцией условием: для любых 5 ^ t и
Ot(T)=*\Os((lx)P(s,x9t9T)9 . G)
X
Уравнение Чэпмена — Колмогорова D) для марковских процессов, не вхо-
входящих в семейства, выполняется не для всех х> а только для почти всех отно-
относительно Ф5-меры. В этом нет ничего удивительного: ведь и переходная
функция (если она есть) определяется марковским процессом лишь почти
однозначно. Мы не будем приводить здесь доказательств; и вообще мы будем
стараться уделять поменьше внимания слишком уж плохим процессам: если
нам понадобится, мы введем дополнительное предположение, что уравнение
Чэпмена — Колмогорова выполняется для всех х.

150 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
5. Оказывается, уравнение Чэпмена — Колмогорова не только
^необходимо, но и достаточно для того, чтобы конечномерные
распределения, задаваемые формулой A), были согласованы.
Теорема К Пусть P(s,x,t,r), s^t, sy t^T, x^X,
Ге1, — функция, удовлетворяющая условиям а)—в) л. 3 § 1
и уравнению D). Определим для любых s <^:t\ < ... < tn и
х^Х вероятностную меру Фх, х. tt tn на (Хп, 3t) формулой
=\РE, X, tUdyX)\P{tb Уи t29dy2)
X
Р (<я_р У^. tn9 dyn) Xr(^i Уп)
X
(порядок интегрирования — с конца). Тогда при фиксированных
.5, х эти меры образуют согласованную систему конечномерных
распределений.
Доказательство. Прежде всего нужно доказать, что
последовательное интегрирование:
X
дает каждый раз Лл-1-измеримую функцию от уи ..., Уп-\\
^п-2.измерИМуЮ функцию от уи ..., уп-2 и т. д. Это предостав-
ляется читателю, вооруженному методами и результатами пре-
предыдущего параграфа, в частности леммой 2.
Теперь нужно проверить:
= Ф*.*;*2.....*Я(Г2Х ... ХГЯ), (9)
Os. x; tv .... t^v tt. t. + v .... tn (Г,Х • . . Xri-lX^X^ + lX . . . ХГ„) =
= Ф*. x; tv .... tt_v ti+l tn{ViX ... Xr*-iXr<+iX - • ХГЛ), A0)
•Ф*. x; tv .... tn_v tn (Гх X • • • X Гп-1 XX) =
= <»*.xitv....tn_l(TiX...rn-i). A1)
Формулы (9), A0) выводятся из уравнения Чэпмена — Кол-
Колмогорова при помощи следующей леммы.
Задача 6. Пусть функция Р(% •,%•) удовлетворяет усло-
-виям а)—в) п. 3 § 1 и уравнению Чэпмена — Колмогорова.

§ 8.3] КОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ 161
Тогда для любой ограниченной измеримой функции / на фазо-
фазовом пространстве X, для любых s^/^м и^е!
\ Р(s, х, U dy) \ Р(U у, щ dz) f(z)=\p(s, ху и, dz) f (z). A2>
XX X
При выводе формулы A0) полагаем
P(tn-U Уп-U *п>
Ti+2
s = ti-u t = tiy и = ti+u а в качестве х берется переменное-
Ух~\\ обе части A0) оказываются интегралами от выражения
A2) по одному и тому же множеству. При выводе (9) еще
проще: 5 — это 5, а х — это х.
Для вывода формулы A1) не нужно даже использовать
уравнение Чэпмена — Колмогорова: она следует из P(tn-U
Теорема доказана.
6. Теорема 2. Пусть X — о-компактное метрическое про-
пространство, $ = $х — о-алгебра его борелевских подмножеств.
Пусть P(s,x,t,T), s^t, s, t^T, x^X, Г^<%, — функция,
удовлетворяющая условиям а)—в) п. 3 § 1 и уравнению Чэп-
Чэпмена— Колмогорова. Тогда существует марковское семейства
(Ъи Ре, х) с Р (s, х, t, Г) в качестве переходной функции.
Доказательство. Воспользуемся только что доказанной
теоремой и теоремой Колмогорова (см. § 5.1). При любых sax
мы можем в качестве пространства элементарных событий взять
XTU[S'CO\ в качестве основной а-алгебры — ^Гп[5'оо) и определить
случайный процесс %i(x.) = xt и вероятностную меру P'StX на
(XTU[StOO\ $Tu[s'oo)), относительно которой конечномерные рас-
распределения процесса будут <PS, x-, tv .-..*„•
Это еще не то, что нам надо: мы хотим; чтобы для всех s, x
было одно и то же пространство элементарных событий. Этому
легко помочь: берем Q = Хт, определяем %t(x.) как xti рас-
рассматриваем G-алгебру #~>s = ^rn[s' ^{X ), порождаемую в
пространстве Хт функционалами Хи t^T[][s, oo), и переносим
вероятностную меру с пространства X n[s>oo) естественным об-
образом на пространство Хт. А именно, легко видеть, что любое
множество А е J?rn[5> ^(X7) представляется, причем единствен-
единственным образом, в виде
оо)
>

152 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
тде х\ означает сужение функции х. на множество Г Л [s, °°): Xt =
= xt9 ^еГПк °°) (функция х\ принадлежит пространству
хта is, оо)^ цоЛагаем ps x (л) = p'8t x (л')#
Теперь у нас есть пространство элементарных событий Q,
функция lt (со), t е Г, со <= й, со значениями в X и при каждом s
и л: мера Ру,* на измеримом пространстве (Q, ^">s). Остается
доказать, что (?*, PStX) — марковское семейство с данной заранее
переходной функцией. '
Вероятностная мера PStX на событиях вида
задается формулой
P (s, x9 tu dyx) J ... J Р (*Я_1Э ^-!, /Я1 rfr/J. A3)
Г1 Х2 ХП
Из того, что переходная функция удовлетворяет условию в)
б. 3 § 1 (P(t,x, t,T) = 6Х(Г))> вытекает, что формула A3) вы-
лолнена также для s ^ t\ ^ t2 ^ ... ^ tn. Теперь утверждег
ние теоремы следует из результатов п. 1.
Теперь мы можем установить, скажем, существование семейства вине-
ровских процессов, выходящих из всех точек.
7. Теорема 3. Пусть X— ^-компактное метрическое пространство, Ш =
= 38х — о-алгебра его борелевских подмножеств. Пусть P(s,x,t,T)—функ-
P(s,x,t,T)—функция, удовлетворяющая условиям а) — в) п. 3 § 1 и уравнению Чэпмена — Кол-
Колмогорова. Пусть vt(T), t&T, Ге^ при фиксированном t — вероятностная
мера на (X, $), причем ее значения, соответствующие разным моментам вре-
времени s ^ t, связаны уравнением vt (Г) = \ vs (dx) P (s, x, t, Г). Тогда су-
X
ществует марковский процесс, для которого P(s,x,t,T) является переходной
¦функцией, a vt(T) — одномерными распределениями: vt (Г) = Р {%t e Г}.
Доказательство такое же, как у теорем 1, 2; мы его не приводим.
Если в множестве Т есть наименьший элемент t0, можно не проводить до-
доказательство этой теоремы заново, а воспользоваться теоремой 2 и положить
для A s ^^ tо=== *^*т '
и. АЛ), A4)
где Р$, х — вероятности для марковского семейства, соответствующего данной
переходной функции. Для произвольного Т формула A4) также верна для
любого tо е Т и всех А е ^"^fo; но нет такого t0, чтобы &~^t0 исчерпывало
асе ^Г ** ^ °

§ 8.4] СЕМЕЙСТВА ОПЕРАТОРОВ 153:
§ 8.4. Семейства операторов, связанные
с марковскими процессами
0. Пусть (Х,Щ — измеримое пространство. Мы будем свя-
связывать с ним два банаховых пространства. Первое, Б, — про-
пространство всех ограниченных «^-измеримых числовых функций
f(x) на X с нормой ||/1|= sup | f (х) | (сходимость в смысле
х<=Х ,
этой нормы — это равномерная сходимость). Второе, V, — про-
пространство всех счетно-аддитивных числовых функций множества
(или «обобщенных мер», или «мер,со знаком», или «зарядов»;
см. Колмогоров и Фомин, 1968, гл. VI, § 5), определенных
на сг-алгебре Jf; в качестве нормы элемента vgV мы возьмем
его полную вариацию на всем пространстве: ||v|| = |v| (Я)
(определение см. там же). Нетрудно видеть, что для ||v|| вы-
выполнены все свойства нормы; доказательство полноты прост-
пространства V см. Гихман и Скороход, 1965, гл. II, § 1, теорема 5.
Между пространствами В и V имеется определенная связь.
Положим
{v,f)=\f(x)v(dx)
X
(интеграл определяется как \ / {х) v+ (dx) — \f(x) v" (dx), где
x x
v=v+ — v~ — разложение Жордана; см. все тот же параграф
книги Колмогорова и Фомина, 1968). При этом каждому
элементу v ^ V ставится в соответствие линейный функционал
(v, .) на В9 а каждому элементу f е В — функционал (., /) на V.
Таким образом-, мы получаем естественное вложение Vt в В*
(пространство, сопряженное к В), а В — в V*. Норма элемента
и норма соответствующего линейного функционала совпадают;
|fv||=sup|<v, />|,
ш 11=1
||/||=sup|<v,/)|
И v 11=1
(это нуждается в доказательстве, но мы его не приводим).
Линейные операторы в пространстве В мы будем записы-
записывать слева от обозначения элемента В; Af, Pstf и т. п., а в V —
справа: vB и т. п.
1. Теперь определим операторы, связанные с переходной
функцией марковского процесса (точнее, семейства: будем пред-
предполагать, что уравнение Чэпмана — Колмогорова выполнено
всюду). Сначала введем операторы Pst, s^it, s, t^T, на про-
пространстве В: для /еВ определим Pstf как функцию, значение

154 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
которой в точке х задается формулой
Pstf(x)=\p(s,x,t,dy)f(y). A)
Здесь существование интеграла и его ограниченность обеспечи-
обеспечиваются тем, что P(s,х, t, •)—конечная мера; измеримость
Pstf(x) по х — измеримостью P(s, •,?, Г).
Переходная функция однозначно определяется семейством
операторов Pst: разным переходным функциям соответствуют
разные семейства операторов (докажите!). Однако не каждому
семейству операторов соответствует какая-то переходная
¦функция.
Выпишем семейство операторов, связанное с переходной функцией вине-
.ровского процесса, хотя этот пример (как и любой другой на нашем уровне
знаний) не очень интересен: просто какие-то интегральные операторы. Для
. P (s> x, t, у) f (у) dy = [2л (* - s)]-112 \ e-[y-x'><2 ^~s)f (</) dy.
J J
Rl -oo
Посмотрим, какими свойствами обладают операторы PSK
Прежде всего, по самому способу построения ясно, что это ли-
линейные операторы; остальные свойства получаются из свойств
переходной функции. Из того, что P(s, х> ?, •)—мера, а не про-
просто счетно-аддитивная функция множества, вытекает, что опе-
оператор Pst переводит неотрицательные функции в неотрицатель-
неотрицательные; то, что это вероятностная мера, дает нам
| P"f {х)\<,\р E, х, U dy) || f || = || f ||. B)
X
Отсюда же вытекает, что P8tl = 1. Измеримость по х мы уже
учли. Из P(stx, s, Г)= 6х(Г) получается, что Pss — тождествен-
тождественный оператор. Посмотрим, что дает уравнение Чэпмена — Кол-
Колмогорова: при s ^ t ^ и
, u,dz)f(z) =
P(s,x,t, dy)P(t, у, u,dz)f{z) =
- \ Р (s, х, t, dy) \ Р (*, у, ut dz) f (z) = Pst (Ptuf) (x).
Иначе говоря,
pstt = ps*. ptu. C)
Это -*- обобщение формулы F) предыдущего параграфа.

§ 8.4] СЕМЕЙСТВА ОПЕРАТОРОВ 155-
Формулу B) можно записать так: ||PS*/|| ^ ||/|| или ||PS'|| ^
^ 1. Операторы в банаховом пространстве, не увеличивающие
норму элемента, естественно назвать сжимающими.
Итак, мы установили следующие свойства операторов Psi
в пространстве В:
а) Pst — линейные операторы;
б) Psi — сжимающие операторы, т. е. они не увеличивают
норму элемента;
в) Pst — операторы, сохраняющие положительность, т. е.
они переводят неотрицательные элементы в неотрицательные;
г) Р°Ч = 1;
д) pss = ? (тождественный оператор);
е) psu = pst.ptu при 5 < / < и.
2. Введем теперь операторы в пространстве V. Будем их
обозначать также Psi (s ^.t,sft gT), но записывать справа от
обозначения элемента V: vPst. Положим по определению
x,t9 Г). D>
Существование интеграла обеспечивается измеримостью пере-
переходных вероятностей по х; счетная аддитивность функции
vpst — счетной аддитивностью P(s,х, /, •)• То, что P(s,х, /, •) —
вероятностная мера, влечет за собой \\vP8t\\ ^ llvll, vPst(X) =
= v(X) и то, что оператор Psi переводит меры (т. е. неотрица-
неотрицательные vgV) опять в меры. Уравнение Чэпмена — Колмого-
Колмогорова превращается в
при s <; / ^ w, или
(Заметим, что, при внешнем совпадении с формулой C), фор-
формула E) имеет другой смысл: не говоря о том, что здесь рас-
рассматриваются операторы на другом пространстве, порядок их
применения другой: в C) сначала применяется оператор Ptur
а потом Pst9 а здесь сначала Pst, а потом Ptu.)
Формулировка свойств операторов Psi в пространстве V
остается такой же, как для операторов Psi в В (см. предыдущий
пункт), за исключением г), которое заменяется на
г7) vPst (X) = v (X); в частности, вероятностные меры пере-
водятся в вероятностные.
Операторы Pst в пространствах В и V сопряжены друг другу
т. е. для /eJB, vgV

166 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ ~ [ГЛ. 8
(точнее, оператор P8t на V — сужение оператора в В*, сопря-
сопряженного к оператору P8t в В, и наоборот), Справедливость F)
вытекает из того, что обе части равны
\(dx)P(s9 x,t, dy)f(y).
Свойства операторов P8t вводном пространстве можно выводить из
свойств операторов Pat в другом; в частности, формулу E) можно вывести
из C) (или C) из E)), пользуясь тем, что сопряженный оператор к произ-
произведению— это операторы, сопряженные к сомножителям, перемноженные в
другом порядке.
Задача 1. Докажите, что \\Р8Ц\ = 1.
3. Операторы Pst связаны непосредственно лишь с переход-
переходной функцией, а не со случайным процессом. Укажем, в каком
отношении они находятся к марковским процессам и марков-
марковским семействам, т. е. каков их вероятностный смысл.
Определение A) переходите
Pstf(x)=MStXf&), f&B. G)
Пользуясь этими операторами, можно в еще одной форме за-
записать марковское свойство:
М„х(/(EJ \FlStй) = Ptuf (h) in. н. Р„х).
Что касается операторов, действующих на меры, их вероят-
вероятностный смысл более прозрачен. Пусть v — вероятностная мера
на (Х,$). Если мы выпустим наш процесс в момент времени 5
из случайной точки, имеющей распределение v (т. е. рассмотрим
марковский процесс g*f < е Г A [5, оо), соответствующий вероят-
вероятностной мере P5tV(^) — ) v(dx)PSfX(A); ср. предыдущий па-
параграф, п. 7), то распределение в момент t ^ s будет как
раз vPst:
Итак, операторы P8t в пространстве V описывают эволюцию од-
одномерного распределения с течением времени.
4. Естественно возникает такой вопрос. Пусть дано семей-
семейство операторов P8t в пространстве В (будем говорить о прост-
пространстве функций, так как вообще удобнее иметь дело с функ-
функциями, чем с мерами), и пусть это семейство удовлетворяет
условиям а)—е) п. 1. Можно ли утверждать, что существует
марковское семейство, которому соответствует данное семей-
семейство операторов? Оказывается, для ответа на этот" вопрос су-
существенно, совпадает ли пространство В*, сопряженное к В,
с пространством V мер со знаком или имеет место строгое
включение: В* id V. Равенство В* = V будет иметь место для

$ 8.4] СЕМЕЙСТВА ОПЕРАТОРОВ 157
конечного фазового пространства X: оба банаховых простран-
пространства— конечномерные, одного и того же числа измерений; но
уже для счетного X, пользуясь теоремой Хана — Банаха, можно
построить пример линейного ограниченного функционала, не
представимого в виде интеграла; т. е. B*z* V.
Посмотрим, что будет, если В* = V (т. е. для конечного X). Любой ли-
линейный ограниченный функционал qp(f) представляется в виде (v,/), где v —
некоторая мера со знаком; применим это к функционалу Pstf(x) (s, t и х
фиксированы). Получим Pstf(x) = \ Р (sf x, t, dy)f(y)t где P(stxftt • ) —
X
мера со знаком (в данном случае интеграл сводится к сумме). В силу в),
P(s, х, t, •)—мера, т. е. неотрицательная счетно-аддитивная функция множе-
множества; она является вероятностной в силу г). Измеримость по х здесь три-
тривиальна; д) превращается в P(sy xy s, Г) = бх(Г), а е)—в уравнение Чэп-
мена — Колмогорова.
Вся беда в том, что в большинстве случаев математического
исследования мы имеем дело с бесконечными множествами,
а для конечного фазового пространства незачем вообще рас-
рассматривать операторы — можно обойтись просто матрицами.
К счастью, при некоторых ограничениях на пространство
(Х,&) банахово пространство V будет сопряженным простран-
пространством по отношению к определенному пространству функций.
А именно, пусть X — компактное метрическое пространство;
$ = $х — множество всех борелевских подмножеств Х\ С —
пространство непрерывных числовых функций на X, Все непре-
непрерывные функции на компакте автоматически ограничены и из-
измеримы, так что С ^В. Известно, что любой линейный ограни-
ограниченный функционал на пространстве С представляется в виде
интеграла по некоторой мере со знаком:
Ч>(f)-<v,/)-$v (<**)/(*),
причем функционалу, принимающему на неотрицательных функ-
функциях неотрицательные значения, соответствует неотрицательная
мера v (для случая, когда X — отрезок, это — теорема Ф. Рисса;
общий случай см. Халмош, 1953, § 56). Это, вместе с тем
фактом, что разным мерам соответствуют разные функционалы
(доказать!), и означает, что V — С*.
Это не спасает, однако, положения во всех случаях. Дело
в том, что операторы Pst действуют на пространстве В и, тем
самым, переводят любую функцию из С в некоторую функцию,
принадлежащую пространству В, но, вообще говоря, эти опера-
операторы нельзя рассматривать как действующие в пространстве
непрерывных функций. Требование PstC s С является ограниче-
ограничением— не слишком жестким и не слишком уродливым, но

158 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ.8
ограничением. Это ограничение выделяет некоторый класс мар-
марковских семейств; так как ограничение' PsiC ^ С было впервые
введено В. Феллером, такие марковские семейства называются
феллеровскими.
5. Феллеровские марковские семейства. Пусть X — метриче-
метрическое пространство, Я = &х; С—пространство ограниченных
непрерывных функций (на некомпактном X могут быть неогра-
неограниченные непрерывные функции). Семейство (?/, Ps.x) назы-
называется феллеровским, если PstC ^С при любых ^ ^ t. Иначе го-
говоря, для любой непрерывной ограниченной функции f на I
функция Pstf(x) должна быть непрерывна по х (ограниченность
выполняется автоматически): при х-*Хо^Х должно быть
Р E, ху /, dy) f(y)->\P (s, х0, t, dy) f (у).
X X
Итак, требование феллеровости семейств-а (касающееся,
между прочим, только его переходной функций) состоит в том,
что распределение Р (s, x, t\ •) слабо сходится к Р (s, xq, ty •)
при х-*Хо\ т. е. это — требование, состоящее в слабо непрерыв-
непрерывной зависимости переходной функции от второго аргумента
(точка отправления). Это весьма естественное требование, что,
разумеется, не означает, что оно выполнено для всех марков-
марковских семейств.
Приведем примеры феллеровских и не феллеровских мар-
марковских семейств. В качестве X возьмем прямую R\ $ = 3&1.
Процесс %t устроим следующим образом: это — неслучайное
движение вправо с единичной скоростью, т. е- |* = ?« + ^~~ s.
Естественно, переходная функция такого процесса будет
Р ($, х, /, Г) = 6*-и_5 (Г). Строим семейство операторов Pst:
оо
P«f (X) = \ Р (S, X, t, dy) f(y) = f(X + t- S).
Это — сдвиг влево на t — s; оператор этот, естественно, перево-
переводит непрерывные функции в непрерывные, т. еч семейство таких
процессов — феллеровское. Чтобы понять это, можно было и не
строить семейства4 операторов, а просто заметить, что распреде-
распределение P(st х, t, •), сосредоточенное в точке Ж + * — 5, зависит
слабо непрерывным образом от,х.
Теперь рассмотрим такое семейство процессов на (Т?1,^1):
на левой полупрямой — движение влево с единичной скоростью,
на правой полупрямой — вправо; а траектория, начинающаяся
в пограничной точке 0, идет с вероятностью 1/2 влево и с ве-
вероятностью 1/2 вправо. Запишем это формально с помощью

§8.4]
вероятностей Ps,x'
СЕМЕЙСТВА ОПЕРАТОРОВ
159
= l, х>0;
=l, х<0;
Легко видеть, что это — марковское семейство; соответствую-
соответствующие ему операторы Pst:
f (у I // сЛ^ V >* П»
f (ж-(<-«)), *<0;
jf(t-s)+±f(-(t-s)), x=0.
На рис. 19 показано, как действует оператор Ps* на произволь-
произвольную непрерывную ограниченную функцию f. Функция Pstf тер-
терпит разрыв в нуле, значит, рассматриваемое семейство — не
t-s
st
f(x)
Рис. 19.
феллеровское. Это можно было видеть сразу: распределения,
соответствующие начальной точке 0 и близким к ней справа
и слева точкам, далеки друг от друга, а именно: первое сосре-
сосредоточено поровну в точках t — s и —(/ — s), симметричных от-
относительно нуля; распределение, соответствующее начальной
точке, близкой к нулю, но лежащей справа от него, сосредото-
сосредоточено вблизи точки t — st а слева — вблизи — {t — 5).
Конечно, легко построить примеры феллеровских и не фел-
леровских марковских цепей.
6. Любому феллеровскому марковскому семейству соответ-
соответствует семейство операторов Pst на пространстве С, удовлетво-
удовлетворяющее требованиям а)—е) п. 1. Сейчас мы докажем, для слу-
случая компактного фазового пространства, обратную теорему.
Теорема. Пусть X — компактное метрическое простран-
пространство, 3S = $х. Пусть на пространстве* С непрерывных функций
на X задано семейство операторов Pstt s^t, 5, t&T^R\
удовлетворяющее требованиям а)—е) п. 1. Тогда существует
феллеровское марковское семейство (lu t e T\ PS|3C), которому
соответствует данное семейство операторов.

160 МАРКОВСКИЕ ПРОЦЕССЫ, ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
Доказательство. Достаточно доказать, что Pstf пред-
представляется в виде
PHf(x)=\P(s, x,-t,dy)f{y), . (8)
где Р(», •,•,•) — функция, удовлетворяющая многократно упо-
упоминавшимся ранее требованиям а), б), в) п. 3 § 1 и уравнению
Чэпмена — Колмогорова.
Зафиксируем 5, t, х\ тогда Pstf(x), согласно условиям а),
б), — линейный ограниченный функционал на С (с нормой ^1),
и, значит, он представляется в виде интеграла от f по некото-
некоторой мере со знаком. Обозначим эту меру — она, конечно, зави-
зависит от 5, t, х — через P(s,x, t, • ); мы получили формулу
(8), остается установить свойства функции Р (s, х, t, Г). Как
функция последнего аргумента это — мера в силу условия в);
это — вероятностная мера в силу г). Условие д) превращается
в требование в) (P(s,х,s, Г) = 6*(Г)). Что касается требова-
требования б) и уравнения Чэпмена — Колмогорова (которое должно
появиться из условия е)), то тут необходима некоторая техника.
Требование б) состоит в измеримости по х функции
P{stxtt9T) или, что то же, \P(s, х, t, dy)%v(y). Это — выра-
х
жение того же вида, что и (8), но только вместо непрерывной
функции / в нем стоит разрывная. Пусть сначала множество Г
замкнуто. Известно, что для любого замкнутого множества Г
в метрическом пространстве X можно построить непрерывную
функцию f на X, равную 1 на Г и лежащую строго между ну-
нулем и единицей вне Г. (Например, в качестве такой функции
можно взять f(x) = ехр[—-р(х, Г)], где р — расстояние.) Функ-
Функция fn принадлежит С для любой положительной степени /г,
поэтому функция
X
непрерывна, а стало быть, измерима по Борелю. Устремим п
к бесконечности; получим, что функция
Р{8, х, t, Г)= \P(s, x, t, dy)%T(y) =
X
= [p(s, x, t, dy) lira fn(y)= \\m-\P(s, x, t, dy)f(y)
A A
измерима по л: как предел сходящейся в каждой точке последо-
последовательности измеримых функций.

§ 8.4] СЕМЕЙСТВА ОПЕРАТОРОВ 161
Чтобы перейти от замкнутых Г к произвольным борелевским
множествам, мы пользуемся леммой 2 § 2. При операциях сло-
сложения непересекающихся множеств, вычитания из множества
его части и монотонного предельного перехода измеримость
P(st х, t,T) сохраняется, поэтому она имеет место для наи-
наименьшей системы \i (замкн.) множеств, содержащей все замк-
замкнутые множества и замкнутой относительно указанных опера-
операций; пересечение замкнутых множеств замкнуто, ц (замкн.) =
= а (замкн.) = а (откр.) = $х, и измеримость установлена.
Теперь покажем, что имеет место уравнение Чэпмена — Кол-
Колмогорова. Имеем
\ Р (S, X, U, UZ) Г (Z) = (Р'Т) (X) = Р" (Р'Т) (X) =
X
$ \U У, и, dz)fn(z).
X
Переходя к пределу при я->оо, получаем
P{s, х, и, Г)= \ P(s, х, t, dy)P(t, у, и, Г). (9)
X
Здесь в качестве Г можно взять любое замкнутое множество.
Чтобы перейти к произвольным борелевским множествам,
можно воспользоваться той же леммой, что и выше, а можно
тем, что обе части (9) являются мерами как функции Г.
7. Приведем пример применения доказанной теоремы. Рассмотрим пара-
параболическое уравнение с частными производными
du{s,x) I d2u(s,x)
Fs +2 Ъ72
с граничными условиями
ди E, *) I ди (s, x)
дх Ijc—о дх
= 0. A1)
Уравнение A0) описывает распространение тепла в стержне, причем гранич-
граничные условия A1) соответствуют случаю теплоизолированных концов стержня.
Существует единственное решение задачи A0), A1) в полуполосе (s, x) e
е (—оо, t] X [0,1], удовлетворяющее при s = t условию
и (tt x) = f(x), A2)
где f — данная функция из С = С [0, 1 ].
Обозначим через Pstf(x) значение решения и задачи A0) — A2) в точке
(s, x), s < t, х е [0,1]. При s = t имеем Pssf(x) = f(x), т. е. оператор P8S =
s= E. При s <. t функция P8tf(x) дифференцируема по х, а следовательно,
непрерывна; значит, оператор Pst переводит С в С. Ясно, что это линейный
оператор. Далее, этот оператор является сжимающим и сохраняющим поло-
положительность— это следствие принципа максимума для параболических урав-
уравнений; с физической точки зрения это соответствует тому, что тепло в про-
процессе теплопроводности не может переходить от более холодных участков к
6 А. Д. Вентцель

162 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
более теплым, и, стало быть, максимальная температура с течением времени
не увеличивается, а минимальная не уменьшается. Легко видеть, что P3tl = 1,
потому что -Ц- + i -gr - О, |L Ц - |i [_} - 0. Наконец, для того
чтобы найти w(s, *), если дано, что м(и, я) = /(л:), можно решить уравнение
во временном промежутке [t, u]t а потом решить его во временном проме-
промежутке [s,t] с тем м(?,*), которое было получено; иначе говоря, Psuf =
= Psi(Ptu{), f е= С, или Psw = Р«</"«.
Итак, выполнены все нужные требования и семейству операторов Pst со-
соответствует марковское семейство. Впоследствии мы увидим, что класс мар-
марковских семейств, связанных с уравнением теплопроводности и другими пара-
параболическими уравнениями, — очень важный класс (это так называемые диф-
диффузионные процессы).
Заметим, что здесь нам приходилось говорить о решении уравнения в
полуполосе (—оо, /] X [0, 1], а не в полуполосе, бесконечной вверх, как это
нам привычно и как, разумеется, следует делать, если рассматривается не
/1л\ ди I д2и _ _
уравнение A0), а уравнение -г- —-—у=0. Это связано с тем, что мы
хотим, чтобы оператор Psu представлялся в виде произведения операторов,
где первым применяется оператор Piu, а вторым Pst. Для операторов, дей-
действующих на меры, порядок как раз противоположный; поэтому они связаны
ди 1 д2и
с решением уравнения — —-—- = 0 «вверх», а не уравнения A0)
«вниз». К этой теме мы еще вернемся в гл. 11.
§ 8.5. Однородные марковские семейства
1. Переходная функция P(s,x, t,T) называется однородной
(по времени), если она определена для s, t еГ = R\
/?+(=[0,oo)), Z1(= {...,—1,0,1,2,...}) или Z+(= {0,1,2,...})
и если она не меняется при сдвиге вдоль временной оси:
Р (s -{- А, х, t + ft, Г) = Р (s, x, t, Г). Такая переходная функция за-
зависит только от разности t — 5 (^R+ или Z+): можно ввести
такую функцию P(t,x, Г) от трех аргументов, что P(s, xy t9T) =
= Р (t — 5, х, Г). Условия, которым должна удовлетворять
функция P(t, х, Г) (для процессов с непрерывным временем <е
^[0, оо), для цепей Маркова t — целое неотрицательное; х^Х,
Г е Jf), следующие:
а) P{t,x,*) — вероятностная мера на {Х,$)\
б) измеримость по х\
в) Я@,*,Г)=6*(Г);
г) уравнение Чэпмена — Колмогорова: для s, t ^ 0
sy x, Г)=$Р(*, х, с1у)Р(8,у,Г).
х
Значение P(t,xy Г) называется вероятностью перехода из со-
состояния х за время t в множество Г. В случае дискретного вре-
времени говорят также: за t шагов.

§8 5] ОДНОРОДНЫЕ МАРКОВСКИЕ СЕМЕЙСТВА 163
Большинство рассмотренных ранее переходных функций
были однородными; но, например, переходная функция про-
процесса задачи 3 § 8.1 — неоднородная.
2. Однородным переходным функциям ставятся в соответ-
соответствие семейства операторов, зависящие от одного параметра;
P1f(x)=\P(t,x,dy)f(y),
vPt(T)=^v(dx)P(t9x9 Г),
где t ^[0, оо) для процессов с непрерывным временем, t = 0, 1,
2, ... для цепей. Операторы Pst выражаются через операторы
этих однопараметрических семейств так: Pst = Рг~8. Свойства
операторов Pst превращаются в следующие:
а) Р* — линейные операторы на соответствующем банахо-
банаховом пространстве;
б), в) это сжимающие и сохраняющие положительность опе-
операторы;
г) РП = 1,
Д) Р° = Е;
е) pt+s p
Обозначение Р* внешне совпадает с обозначением степени оператора, и
с этим хорошо согласуются свойства д), е); для дискретного времени опера-
операторы Р1 действительно являются степенями одного оператора Р = Р1. Но
для непрерывного t это уже не так.
Свойство е) показывает, в частности, что операторы данного
семейства можно множить друг на друга; как мы знаем, умно-
умножение операторов ассоциативно; значит, семейство операторов,
связанных с однородной марковской переходной функцией, об-
образует полугруппу.
Эта полугруппа является гомоморфным образом полугруппы
неотрицательных чисел по сложению (для цепей Маркова —
неотрицательных целых чисел), поэтому ее полный титул — од-
нопараметрическая полугруппа операторов.
Свойства д), е) можно сформулировать так: Р*— однопа-
раметрическая полугруппа, содержащая единичный оператор
(если полугруппа содержит единичный оператор' не на нулевом
«месте»: Р1 = Е, t ф 0, то Е = Р* = Р°+* = Р°Р* = Р°Е = Р°,
т. е. и Р°= Е). В дальнейшем вместо однопараметрическая по-
полугруппа операторов, содержащая единичный оператор, мы бу-
будем говорить коротко: полугруппа.
Дискретные полугруппы (^ = 0,1,2,...) полностью опреде-
определяются заданием оператора Р1 (или, что то же, вероятностей
перехода за один шаг РA,*, Г)); полугруппы с непрерывным
параметром по понятным причинам так просто задавать нельзя.

164 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
Однако ясно, что для того, чтобы задать Р* при всех t ^ О, до-
достаточно задать Р1 только в сколь угодно малом отрезке [О, Л]
вблизи нуля: Р* на отрезке [A, 2ft] определится как P^pt-h^
и т. д. Оказывается, при некоторых условиях регулярности
можно ввести инфинитезимальные, дифференциальные характе-
характеристики полугруппы, которые, описывая ее предельное поведе-
поведение вблизи нуля, позволяют однозначно восстановить всю полу-
полугруппу.
Теория полугрупп операторов — весьма развитая область
, функционального анализа (см. книги: Э. Хил л, Функциональ-
Функциональный анализ и полугруппы, ИЛ, М., 1951; Э. Хилле и Р. Фил-
лип с, Функциональный анализ и полугруппы, ИЛ, М., 1962;
К. И оси да, Функциональный анализ, «Мир», М., 1967), и она
успешно применяется к теории марковских процессов.
3. До сих пор мы говорили только о переходных функциях
и связанных с ними операторах; обратимся к марковским се-
семействам с однородной переходной функцией. Если выполнены
условия, при которых можно определить операторы сдвига 0^,
6/Г1 (существование для любой траектории Е*(со) и любого h^T
траектории lt(®') = &+л(ю); см. § 3.2), то из формулы для ко-
конечномерных распределений марковского семейства (§ 3, фор-
формула A)) вытекает, что для любого Bef>o
Рз.х(в71В) = Ро.х(В). A)
Действительно, обе части — меры как функции В, и они совпа-
совпадают на а-алгебре #~>о, так как совпадают для множеств вида
{Г Г} <)<*<< Г
Р*. х {!,+/, еГ„..., ls+tn е Г„} = Ро, х {lti еГ, bes Г„}.
Задача 1. Докажите, что любое событие Де^5 может
быть представлено в виде Л=97]В, Bef^o.
Таким образом, вероятности Ps, x однозначно определяются
вероятностями Ро, х, и все можно свести к семейству мер P*= Ро, х.
зависящему только от одного параметра jfel Это делает по-
понятным следующее определение.
Пусть Т = /?+ или Z+; (X, 9$) — измеримое пространство;
P(t, х, Г)—функция, удовлетворяющая условиям а)—в) п. 1.
Пусть на пространстве элементарных событий задана функция
\i@), /gT, ©ей, принимающая значения в X, и для любых
АеГ и со е Q существует хотя бы одно со+ е Q такое, что
h(®h)~h+h(®) ПРИ всех t<=T. Определяются а-алгебры #~>0,
#"<*, порождаемые множествами {^еГ}, sgT, соответственно
s^^. Пусть Рх при каждом х е X — вероятностная мера на
а-алгебре &~^ 0. Пара (lt> Px) называется однородным марковским
семейством с переходной функцией Р (t> xy Г), если для любых t,

§ 8.5] ОДНОРОДНЫЕ МАРКОВСКИЕ СЕМЕЙСТВА 165
АеГ, jcgI, Ге! почти наверное (PJ
РЛ^+»вГ|^<#}-Р(А>6рГ). B)
При этом уравнение Чэпмена — Колмогорова (условие г))
выполняется автоматически.
Марковское свойство B) можно переписать в большом
числе различных эквивалентных форм; скажем, с условными
математическими ожиданиями, в интегральной форме: для tf
h<=T, jfEl, / gB и любого события А #"
Конечномерные распределения однородного марковского се-
семейства записываются так: для 0 ^ tx ^ ... ^^п, Ге Jfn
— tn-u yn-u dyn).
Имеет место следующая теорема существования.
Теорема 1. Пусть X — а-компактное метрическое прост-
пространство, $ = $х. Пусть P(t,x,Y) —функция от t g! (=/?+
или Z+), xgX, FgI, удовлетворяющая условиям а)—г) п. 1.
Тогда существует однородное марковское семейство с Р(*,»,«)
в качестве переходной функции.
Это — приспособленная к однородному случаю теорема 2
§ 3. Единственное, что нуждается в отдельном доказатель-
доказательстве,— это то, что выполнены условия, обеспечивающие суще-
существование операторов сдвига. Но эти условия выполнены для
случайных функций, которые получаются конструкцией, приме-
примененной при доказательстве теоремы Колмогорова; при этом
траекториями оказываются все функции, и между траекториями
и элементарными событиями имеется взаимно однозначное со-
соответствие.
Переносится на однородный случай также теорема п. 6 пре-
предыдущего параграфа:
Теорема 2. Пусть на пространстве С непрерывных функ-
функций на компактном пространстве X задана полугруппа Рг сжи-
сжимающих и сохраняющих положительность операторов такая,
что РЧ = 1. Тогда существует феллеровское однородное мар-
марковское семейство (lt,Px) на (Ху$х), которому соответствует
данная полугруппа.
4. Марковское свойство для однородных марковских се-
семейств можно сформулировать в более сильной с виду форме,
соответствующей формуле A6) § 2. Предоставим его доказа-
доказательство читателю.

166 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
Задача 2. Докажите, что если (?*,Р*)—однородное мар-
марковское семейство, то для любого события В е #~>о и любых
t еГ, х gX почти наверное (Рх)
Px(QTlB\&-<t) = Ptt(B). C)
Марковское свойство в фррме C) интерпретируется так: по-
поведение процесса после момента t при условии, что фиксиро-
фиксировано его течение до этого момента, такое же, как если бы мы
выпустили его из точки h(®)*
Некоторые другие формы марковского свойства, родствен-
родственные форме C): для любой ограниченной #~^о-измеримой слу-
случайной величины ц почти наверное (Рх)
или: для любой ограниченной #~> о-измеримой случайной вели-
величины у\ и любого Ле^^
$$*о); D)
или: для любой ограниченной #~> о-измеримой величины rj и любой
ограниченной #"< ^-измеримой величины ?
5. Оказывается, неоднородные марковские семейства можно при по-
помощи некоторого искусственного приема свести к однородным.
Пусть T = R+ или Z+ и (lv t<=T; Ps х) — неоднородное марковское
семейство. Введем
новое фазовое пространство X' = Т X X; в качестве а-алгебры &' возь-
возьмем а-алгебру всех множеств Г s Х\ для которых любое сечение Ts =
= {х: ($, х) е Г} измеримо относительно $;
новое пространство элементарных событий п' = Т X &; со' = E, со^
sgT, (ueQ;
новые траектории \t (со ) = |^ (s, со) == (s + ^, |s+^ (®)) со значениями
вГ;
новые вероятностные меры Р'х, (А) = P[St х) (А) = PSt х (Л5), где As =
= {со: E, со) е Л};
новую переходную функцию (однородную), определенную при t^T^
х' «(s, х) ЕГ,Ге J';
Ts+f),
Покажем, что это будет однородное марковское семейство, причем имен-
именно с данной переходной функцией. Достаточно проверить выполнение условий,
налагаемых на переходную функцию, возможность определить операторы
сдвига и выполнение условия
Р'х, (А Г) (ш': \'t+h W) е Г}) = Ы'Х,%А (со') Р' (А, $ (со'), Г). /ls^, (б)

§ 8.6] СТРОГО МАРКОВСКИЕ ПРОЦЕССЫ 167
Покажем только, как проверяется последнее условие. Слева здесь, со-
согласно определению вероятности Р^,, стоит Р5>Х(Л5 П {со: %'t+h (s, со) ^Г}),
As = {со: E, со) е А) е tFfo s+^. Второе со-множество здесь, в силу определе-
определения новых траекторий, можно заменить на {со: |8+<+л(со) еГв+f+ii), В пра-
правой части E), опять-таки в силу нашего определения новой вероятностной
меры, стоит Ms§ xtAs (со) р' (fc t't (s, со), Г). Но ^ (s, со) ». (s + f, gs+, @)),
и значение переходной функции под знаком математического ожидания равно
P(s + l»?s+t (<*>)> $ + * + КTs+t+h). В силу марковского свойства для исход-
исходного марковского семейства, правая часть превращается в PStX(AsO {со:
W*(<B>sr»+H-*})> т" е- в левую часть E)-
Смысл введенного нами преобразования, превращающего неоднородное
марковское семейство в однородное, очень простой: мы просто вводим еще
одну дополнительную пространственную координату, по которой происходит
равномерное движение направо со скоростью 1; при этом неоднородность по
времени превращается в неоднородность по пространству, которой мы не
боимся.
Отныне, если не оговорено противное, мы будем рассматри-
рассматривать только однородные марковские семейства.
§ 8.6. Строго марковские процессы
1. При изучении марковских процессов бывают ситуации, в которых нам
важно, сохраняется ли свойство независимости будущего от прошлого
при фиксированном настоящем, если настоящее понимать не как значение
процесса в фиксированный момент времени t, а как значение его в случайный
момент времени. Рассмотрение этого вопроса показывает, что, во-первых, даже
для самых хороших марковских процессов здесь в качестве настоящего
-нельзя брать произвольный случайный момент времени. Например, предпо-
предположим, что наш случайный процесс достигает какой-нибудь точки а конечное
число v раз, причем v — случайная величина, принимающая значения 1, 2,
3, ..., /г, ... Обозначим через т тот момент времени, в который процесс до-
достигает этой точки в [(v -f- 1 )/2]-й раз; тогда прошлое и будущее относи-
относительно этого момента зависимы, хотя положение процесса в момент т фикси-
фиксировано: это — точка а. Действительно, число раз, которые процесс побывал
в данной точке до момента т, — случайная величина [(v —1)/2], принимаю-
принимающая значения 0, 1, 2, ...; число раз, которые процесс побывает в этой точке
после т, — случайная величина [v/2], принимающая те же самые значения. Но
они никоим образом не независимы, потому что эта пара случайных величин
может принимать не любые значения, а лишь совпадающие друг с другом или
отличающиеся на единицу. Приходится поэтому ограничиться только маркое-
?кими моментами; для них точно определяется, что означает независимость
будущего и прошлого при фиксированном настоящем, и это получается неко-
некоторое особое свойство процесса, строго марковское свойство. Так же, как и
марковское, оно имеет ряд формулировок различной силы и применимости и
различного вида.
Затем, и это во-вторых, оказывается, что есть «плохие» марковские про-
процессы, для которых зависимости прошлого и будущего нет для неслучайных
моментов, но она есть для марковских случайных моментов. Это означает, что
строго марковское свойство — не только не то же, что марковское, но даже
и не эквивалентно ему (а сильнее).
Все дальнейшие формулировки относятся к марковским се-
семействам, а не к отдельным процессам,

168 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
2. Пусть (|f, Рх) — однородное марковское семейство (/gT =
= [0, оо) или {0, 1, 2, ...}). Пусть в пространстве элементарных
событий задано неубывающее семейство сг-алгебр 5Г%У t e Г,
^0"
Микротеорема 1. Пусть процесс ?*(со) прогрессивно из-
измерим относительно семейства 2Tt (см. гл. 6, п. 5). Тогда пе-
переходная функция P{t, х, Г) измерима по (/, х) относительно
о-алгебры $ТУ^$ при любом Ге1.
Доказательство. Разумеется, здесь есть что доказы-
доказывать только для T = R+. Достаточно для любого t^O прове-
проверить измеримость P(s, xy Г) при (s, x) e [0, t]XX относительно
$\о, t] X $- Введем ^о, *] X ^-измеримое множество А = {E, со):
0^5^/, ls (со) ^ Г} s [0, /] X й- Переходная вероятность
P(s, д:, Г) — не что иное, как Р^-вероятность сечения этого мно-
множества «на уровне 5», т. е.
РЛсо: E, со)е=Л}. A)
Докажем больше, чем мы хотели заранее: что для любого
&[о, t] X ^-измеримого подмножества [0,^]Х^ функция A) на
множестве [0, flX^ измерима по E,х) относительно а-алгебры
Я[о, t] X Я.
Ясно, что система si* всех таких множеств замкнута относи-
относительно сложения непересекающихся множеств, вычитания из
множества его части и монотонного предельного перехода; она
содержит все множества вида С X В, где С — произвольное бо-
релевское подмножество отрезка [0, f|, а В — произвольное со-
событие из &°% (для них выражение A) равно %c(s) • РХ(В), а по-
последняя вероятность измерима по х как вероятность любого
события из @~>0). Поэтому sf> 3 \х{С ХВ: С ее #[о> t], В е Tt\
(см. § 2, п. 5). Система множеств вида СХВ содержит всё
[0, t] X ^ и замкнута относительно пересечения двух множеств:
(C1XBi)n(C2X52) = (CinC2)XEinB2), причем оба сомно-
сомножителя принадлежат нужным а-алгебрам. По лемме 2 § 2
$Ф^.о{СХВ'. Ce^fo,/], B^STt), что, по определению, есть
^[о, t] X #"*• Это доказывает микротеорему.
Марковское семейство (|ь Рх) называется строго маркое-
ским относительно семейства а-алгебр ЗГи если
а) случайный процесс It прогрессивно измерим и
б) для любого марковского момента т; любой функции
г| = т) (со), принимающей значения из множества ГЩ00}, опре-
определенной на Qt={t<oo} и измеримой относительно а-алгебры Ф*%\
любого хЕХиГб^и любого события A s Q% П ^л = {t> Ц < °°}»
принадлежащего #~т,
Р, (А П {1Х+Ц s Г}) - J Р („, gT> Г) Р, (Л»). B>
л

§ 8.6] СТРОГО МАРКОВСКИЕ ПРОЦЕССЫ 169
Интеграл имеет смысл, потому что функция P(t), gT, Г) из-
измерима относительно &*% (а значит, и относительно 5^>о). Дей-
Действительно, тит) измеримы относительно ЗГХ\ функция ^ про-
прогрессивно измерима, поэтому случайная величина gr измерима
относительно &~х на множестве {х < оо}; функция (т|, gT) со зна-
значениями в (Г X X, $т X 3S) измерима относительно @~%) в силу
доказанной микротеоремы функция P(ty x, Г) измерима относи-
относительно $ТУ^$> и результат подстановки в нее измеримой функ-
функции измерим.
Формулу B), выражающую одну из форм строго марковского
свойства, можно переписать в виде
РЛ^+чвГ|*\}=/>(||,Бт,г) C)
почти наверное (Рх) на множестве {т, rj < 00} (вне этого мно-
множества условная вероятность равна, естественно, нулю, потому
что при т=оо или т]=оо случайная величина 1Х+Г] не может
принадлежать множеству Г, так как попросту не определена).
Правая часть C) измерима относительно ?Г%, интеграл от этой
правой части по любому А е #\, A s {т, ц < оо} равен в силу B)
вероятности пересечения этого события с {1Х+Ц^ Г}; это и озна-
означает, что выполнено C).
Другие равносильные формы строго марковского свойства:
для / е= В
M*[/Ft+n)I^J-^/Ft) D)
почти наверное (Р*) на QtO^V,
$ f (^+л) Р, (^са) = J P7 (I.) P, (^со) E)
А А
для 4Gft, Л^{т, т] < оо}; или, что то же,
МДл/(^+Т1)=МДлР^(^); F)
и т. д.
Строго марковское семейство является марковским относительно семей-
семейства a-алгебр &~t (определение см. в п. 7 § 2). Это вытекает из того, что не-
неслучайный момент t является марковским,
3. Микротеорема 2. Любая (однородная) цепь Мар-
Маркова является автоматически строго марковской относительно
семейства а-алгебр iF<n> n = 0, 1,2,...
Доказательство. Требование а) выполнено, так как Т
счетно, а цепь согласована с данным семейством a-алгебр; до-
докажем, что выполнено B). Имеем
U ЛП{т = т}П{п = «}Л{1«+пеГ}). G)

170 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
Так как ц и А измеримы относительно ^~<т, то пересечение
первых трех сомножителей измеримо относительно ^F< m. Раз-
Разбивая выражение G) на счетное число слагаемых и применяя
к (т, п)-му слагаемому простое марковское свойство относи-
относительно момента /п, получаем
т=0 п=0
Заменяя здесь в подынтегральной функции т на т, п на ч\ и со-
собирая интегралы снова воедино, получаем правую часть B).
Совершенно так же доказывается и
Микротеорема 3. Для произвольного марковского се-
семейства и семейства о-алгебр IF^t строго марковское свойство
B) выполняется, во всяком случае тогда, когда т и ц прини-
принимают не более чем счетное число значений.
Впоследствии мы докажем, что любое феллеровское марковское семейство
с непрерывными справа траекториями является строго марковским относи-
относительно сехмейства а-алгебр iF^ t и, даже более того, &~^ t+ (не будем
сейчас говорить о том, почему речь идет о непрерывности справа). В частно-
частности, это относится к винеровскому процессу.
4. Приведем примеры применения строго марковского свой-
свойства.
а) Пусть имеется дискретная цепь Маркова %t, t = 0, lt
2, ..., с вероятностями перехода р(п,х,у)9 п = 0, 1, 2, ..., ху
j/б! Обозначим через f{nyx,y) вероятность того, что ?< впер-
впервые при положительном t достигает у в момент я, вычисленную
в предположении, что go = х, т. е.
Тогда
р(п, х, y) = f(n, xy y) + f(n— 1, х, у)рA, у, у)+ ...
... +/0,*, у)р(п-1, У, у). (8)
Это получается применением строго марковского свойства
B) к моменту т первого достижения точки у, г) = (п — т) V 0,
Г = {*/}, Л = {т<я}.
Формула (8) и ее частный случай при х = у являются основными при
изучении предельного поведения р^х.у) при я->оо (см. Феллер, 1967,
т. 1, гл. XIII, § 3, гл. XV, § 5).
б) «Принцип отражения» для винеровского процесса. Пред-
Предположим, что доказано, что винеровский процесс — строго мар-
марковский. Пусть фиксированы какие-то точки ^<ае^ и t > 0.

§ 8.6] СТРОГО МАРКОВСКИЕ ПРОЦЕССЫ 171
Рассмотрим марковский момент т — первый момент достижения
a, r) = (t — r)V0, rsf, Л = {т</}. Запишем формулу B):
Р Лт < U wt s Г} = J Р (* - т, а, Г) Рх (Ао). (9)
Если отразить множество Г в точке а, то, в силу симметрично-
симметричности нормального распределения, вероятность (9) не изменится.
Для множества Г^(—оо,а) получим
Рх{*<*> ^еГ} =
= Рх {* < t9 ^ €= 2а — Г} = Px {wt е= 2а — Г}. A0)
Второе равенство выполняется потому, что если траектория на-
начинается в точке х < а, а в момент t оказывается правее а, то
она непременно побывает в точке а до момента t.
Из формулы A0) можно получить распределения различ-
различных случайных величин, например совместное распределение
wt и max ws и т. п. (ср. задачи 17*, 18* § 5.3). В частности,
из формулы A0) при Г = (—оо,а) получаем
wte(a, oo)} =
= 2[1-ф((а-х)[Л/ТI
(Сравните найденное распределение с оценкой задачи 6 § 7.2.)
Дифференцируя функцию распределения, получаем плотность
распределения случайной величины т: рх (t) = —===• e~{a~xW2t9
t > 0.
Задача I. Пусть (wfi Px) — семейство винеровских процессов с не-
непрерывными траекториями, выходящих из всех точек прямой; т — первый мо-
момент, когда wt достигает 0. Положим w\~wt при /<т, ш^ = 0 при t^x
(иначе: Wf. = Wf д т); это — винеровский процесс, остановленный в момент
первого достижения нуля. Докажите, что (wfy Px, x e ^+)"~марковское се-
семейство; найдите переходную функцию.
5. Теперь рассмотрим пример марковского, но не строго
марковского семейства. Ясно, что это будет не цепь Маркова
и не феллеровское семейство — в частности, вряд ли какой-либо
из приведенных ранее примеров.
Пусть (wt, t^0\ Px)— семейство винеровских процессов,
выходящих из каждой точки прямой. Изменим это семейство
в одной' точке следующим образом: положим It = Wt9 если

172 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. &
ю0ф0у и \% = 0, если Wq = 0; пример траектории, выходящей
не из нуля, и траектории, выходящей из нуля, см. на рис. 20.
Семейство (\и t ^ 0; Рх) будет марковским с переходной функ-
функцией
-1=- [e-<y-*W*dy, хфО;
бо(Г), х = 0.
Действительно, эта функция измерима и всем хороша; нужно
доказать, что для t, h ^ 0, ^sf<i, Ге!1 будет при любом
xe=Rl
^ A1)
Но если х Ф 0, то с вероятностью 1 & = wt\ вероятностная
мера Рх слева и справа та же, что для винеровского процесса,
выходящего из точки х. При
этом P*ftt = O} = Px{wt =
ssa 0} = 0 и функция под зна-
знаком интеграла совпадает с со-
соответствующей переходной
вероятностью для винеров-
винеровского процесса при значении
второго аргумента =7^=0, т. е.
почти всюду. Итак, в этом
случае A1) сводится к мар-
Рис. 20. ковскому свойству для вине-
винеровского процесса. Если же
х = 0, то здесь все будет так же, как у марковского процесса,
состоящего в состоянии на месте; а, именно, если А содержит
элементарное событие, для которого ш0 = 0 (а значит, lt = 0)r
а Г^0, то обе части A1) равны 1, в противном случае — нулю.
В то же время семейство %t не будет строго марковским:
взяв х ф 0 и подставив в B) T = min#: ?* = 0}, т| = A—t)V0,
Л = {т<1}, Г = /?1\{0}, получаем слева Р* {т< 1, \х Ф 0} =
= Р*{т<1} = 2[1—Ф(|*[)]>0, а справа 0.
Траектории \% непрерывны, так что мы можем быть уверены, что это се-
семейство не феллеровское; и действительно, соответствующая полугруппа пере-
переводит непрерывные функции, вообще говоря, в разрывные (рис. 21).
Разумеется, можно привести примеры, когда строгой марковости нет из-за
нарушения условия измеримости а): таков, например, процесс с независимыми
значениями из задачи 4 § 2.1; но такие теоретико-множественные тонкости и
уродства неинтересны.
6. Выведем форму строго марковского свойства, которая бу-
будет касаться не событий, состоящих в попадании процесса в ка-

. 8.6]
СТРОГО МАРКОВСКИЕ ПРОЦЕССЫ
173
кой-то один момент в какое-то множество, а произвольных со-
событий из а-алгебры *Г>о (ср. формулы A6) § 2, C) § 5).
Прежде все^о для строго марковского семейства процессов ?*
введем операторы сдвига 8Т, 87 на случайное время.
Пусть т = т (со) — случайный момент, измеримый относи-
относительно #~>о> принимающий значения из множества Ги{°°}«
В пространстве Q определены операторы 0*, <еТ, вообще говоря,
не однозначные, а ставящие в соответствие одному элементар-
элементарному событию со целое множество элементарных событий 6*со.
f(x)
Plf@Ml0)
х
X
Рис. 21.
Оператор Qx мы определили как оператор, ставящий в соответ-
соответствие элементарному событию со элементарные события 8т<о =
— вт (о)®- Иначе говоря, 8гсо — результат подстановки в (неодно-
(неоднозначную) функцию 8*со вместо первого ее аргумента функции от
второго, а именно т(со). Аргумент t в 6/со должен принимать
только конечные значения, а т может равняться оо; в этом слу-
случае 0tco не определено, потому что не определено б^со. Это озна-
означает, что оператор 8Т определен, вообще говоря, не на всем Q,
а только на той его части Qt, где т< оо. Множество пх опе-
оператор 8t отражает в Q (совсем не обязательно, чтобы все 8t(o
или хотя бы одно из этих элементарных событий принад-
принадлежали QT). Итак, для oeQT определяется множество элемен-
элементарных событий 0T(D, для каждого из которых It (8t©) = lx+i (со).
Теперь для событий Ле^>0 определим 87*Л как прообраз
при отображении 8Х: в7*Л составим из тех элементарных собы-
событий со, для которых хотя бы один из элементов 8Т0 е А (можно
доказать, что при этом автоматически все 8тсо е Л). Оператор 87
отображает любое событие из а-алгебры ^>о обязательно
в какое-то подмножество Qt; докажем, что это будет также
событие из S^o-
Легко видеть, что все события Л, для которых это так,
образуют а-алгебру; поэтому достаточно проверить сохранение
измеримости лишь для событий {^еГ}, порождающих а-ал-
а-алгебру 9Г>^ Но 871{^еГ} = {|г+/еГ}, и измеримость этого

174
МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ
[ГЛ. 8
множества вытекает из того, что случайная функция ^ про.
грессивно измерима.
Далее, для #"*>0-измеримой функции ту == т) (со) на Q опреде-
определяется 0x11 = 11(8^@) — функция, определенная всюду на множе-
множестве Qt. Доказывается, что значение ц одно и то же для всех
элементарных событий 6tco (см. § 3.2, п. 3) и что полученная
функция #~>0-измерима. Рассмотрим примеры.
Пусть т — момент первого достижения процессом множества Г с: X: т =
= inf {t: ^еГ}. Здесь Qx состоит из тех элементарных событий, для которых
траектория вообще когда-либо достигает Г. Сделаем чертеж для случая,
когда ?f — процесс с непрерывными траекториями на прямой, а множество
Г — отрезок (рис. 22). Изобразим сдвиг траектории. (Для траектории, начи-
начинающейся в пределах отрезка Г, т = О, так что сдвиг траектории совпадает
с ней самой; на рис. 22 изображен случай |0 ф Г.)
Для события А = {gj >0} прообраз выразится так: Э^1А = {т < оо,
?t+i>°}- Мы видели, что для события В = { lim lt=0} любой его сдвиг 6^]?
совпадал с ним самим. Но 971^=3{т<оо, lim \х = 0], что, вообще говоря,
будет лишь частью события В. Третий пример: если С ~{10фГ}, то
67 С = {т<со, |т ?= Г}, что в данном случае является невозможным собы-
событием. Таким образом, может* быть А ф 0, в~1А = 0.
В качестве примеров действия оператора 9t на функции рассмотрим 6тт,
что в данном случае равно 0 на всем множестве определения, т. е. на йт,
8тг] = г|-- т на QT, где г] — первый момент достижения верхнего конца
отрезка (см. рис. 22). Если же мы рассмотрим случайный момент р первого
достижения какой-либо точки афТ, то 8тр равно Р — т только в том слу-
случае, если траектория прежде достигает Г, чем точки а. И т. д.
Форма строго марковского свойства, использующая опера-
операторы сдвига, запишется так: для любого марковского момента т,
любого события Ле^т, Л?Йт, любого события В^^>о при
любом х^ X
to). A2)
B)=)Ph(B)\
А
Иначе это можно записать так:
A3)-

§8 6] СТРОГО МАРКОВСКИЕ ПРОЦЕССЫ 175
почти наверное (Рх) на множестве {х < оо}; в' форме с матема-
математическими ожиданиями:
?\) = Мцл " A4)
почти наверное (Рх) на том же множестве или
м,|9тЧ = м,|ЛМ, A5)
где g и ц — ограниченные случайные величины, g — равная 0 вне
множества Qt и ^-измеримая на этом множестве, а т] — 5г>о-
измеримая.
Строго марковское свойство A2) выводится из строго мар-
марковского свойства B) или E) с ц = h = const так же, как вы-
выводится марковское свойство в форме A6) — A7) § 2: сначала
для событий В вида B==ilt еГ,, ..., lt s ГЛ, 0<^ ^ ...
... ^tn, а затем распространяется на все В е?Г-*0> причем изме-
измеримость РХ(В) по л:, которая здесь существенна, уже не нужно
доказывать заново. Мы не будем проводить доказательства.
Строго марковское свойство в форме A2) — A5) можно ин-
интерпретировать так: поведение процесса после марковского мо-
момента т, при условии, что фиксировано течение процесса до
момента т, такое же, как если бы процесс был с самого начала
выпущен из точки gt.
7. В качестве применения дается
Задача 2. Пусть (lt,t = 0, 1,2, ...; Рх) — цепь Маркова на фазовом
пространстве (Ху $). Пусть Y — ^-измеримое непустое подмножество X.
Обозначим через хп n-й момент времени, не считая нулевого, когда ?/ е Y;
если It побывало в множестве Y менее чем п раз при t> 0, полагаем хп — оо.
Для тех элементарных событий, для которых ?0 е Y, определим новую слу-
случайную последовательность к\п, п = 0, 1, 2, ...: т|0 = |0; т)Л = ?т , если тЛ < оо,
и % = >(< (дополнительное состояние), если %п = оо. Те элементарные собы-
события, для которых g0 Ф У> выбросим; зато добавим еще одно элементарное
событие ю_?, причем положим г\п (со^.) ^ >(<, п = 0, 1, 2,... Положим
Р^{со^.} = 0, xgF; Р^|со^| = 1. Докажите, что (%, « = 0, 1, 2, ...; Р*,
jcgKU {>(<})—марковская цепь на фазовом пространстве (Y U й<}, ^ (К U {>!<}))»
где $ (Y U {>(<}) — наименьшая сг-алгебра, содержащая все ^-измеримые под-
подмножества Y и одноточечное множество {>}<}.
Смысл этой формально изложенной конструкции таков: мы наблюдаем
за цепью \t только в то время, которое она проводит в множестве У, и это
снова получается цепь Маркова (она может вместо Y попадать в дополни-
дополнительное состояние >[< если возвращение в множество Y происходит с вероят-
вероятностью, меньшей 1). Для доказательства стоит сначала выписать переходную
функцию.
Задача 3*. Пусть wu t ^ 0, — одномерный винеровский процесс с не-
непрерывными траекториями, выходящий из нуля; обозначим через то момент
первого достижения процессом точки а. Докажите, что та, а ^ 0, — процесс
с независимыми приращениями. Найдите соответствующую характеристиче-
характеристическую функцию.

176 МАРКОВСКИЕ ПРОЦЕССЫ. ОСНОВНЫЕ ПОНЯТИЯ [ГЛ. 8
§ 8.7. Стационарные марковские процессы
1. Найдем условия, при которых марковский процесс будет
стационарным.
Прежде всего, ясно, что стационарные марковские процессы
могут обладать только однородными переходными функциями
(ведь стационарность — это однородность по времени).
Далее, введем определение.
Инвариантной мерой, соответствующей однородной переход-
переходной функции (или инвариантной мерой однородного марков-
марковского семейства), называется мера |л на фазовом пространстве
(Х,^), удовлетворяющая условию
lx(T)=\jii(dx)P(t,x,n *>0, Ге1 A)
х
Можно рассматривать как конечные инвариантные меры, так
и меры, принимающие также значение +оо. Для конечной
меры условие A) в наших обозначениях (§ 4) запишется так:
Вероятностную инвариантную меру (т. е. \i зз jaP', \х(Х)=\)
называют также стационарным распределением марковского се-
семейства.
Примеры инвариатных мер предлагается получить, решив
следующие задач».
Задача 1. Существуют ли конечные инвариантные меры для семейства
винеровских процессов? Докажите, что мера Лебега — инвариантная мера для
этого семейства.
Задача 2. Найти все инвариантные меры, соответствующие матрице
вероятностей перехода задачи 3 § 3.
Задача 3. Приведите пример марковского семейства с двумя не про-
пропорциональными друг другу конечными инвариантными мерами.
2. Микротеорема. Пусть lu t^T(=R\R+9Zl или Z+),—
стационарный марковский процесс. Тогда любое одномерное
распределение Ф* этого процесса — некоторая инвариантная
мера (одна и та же для всех t):
Ф*(Г) = Р{6,е=Г}«ц(Г), B)
где [I S5 iiP*.
Обратно, если \i — вероятностная инвариантная мера для
переходной функции P(t9x9T) и если фазовое пространство —
о-компактное метрическое пространство со своей борелевской

§ 8.7] СТАЦИОНАРНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ 177
о-алгеброй, то существует стационарный марковский процесс
с данной переходной функцией, такой, что выполнено B).
Доказательство первой части тривиально. Для дока-
доказательства существования марковского процесса, удовлетво-
удовлетворяющего B) и имеющего данную переходную функцию, поль-
пользуемся теоремой 3 § 8.3; его стационарность следует из фор-
формулы C) того же параграфа (при этом мы полагаем
P(s,x,t9T)=P(t-s,x,T)).
Доказанная микротеорема позволяет строить примеры ста-
стационарных марковских процессов.
Задача 4. Найти все одномерные стационарные гауссовские марков-
марковские процессы, непрерывные в среднем (т. е., скажем, найти корреляционные
функции всех таких процессов).

Глава 9
Марковские процессы с непрерывным временем.
Свойства траекторий. Строго марковское свойство
§ 9.1. Свойства траекторий
1. В этом параграфе мы укажем некоторые условия на
переходную функцию, при которых существует марковское се-
семейство с непрерывными или непрерывными справа траекто-
траекториями, обладающее данной переходной функцией. Условия та-
такого рода выводились нами для произвольных процессов (тео-
(теорема Колмогорова); но, конечно, к большему числу марковских
процессов могут быть применены условия, специально для них
предназначенные.
Пусть X — полное метрическое пространство; введем обо-
обозначения: Ue (х) = {у: р (х, у) < е} — е-окрестность точки х,
V? (х) = {у: р (х9 у)'^ г} — ее дополнение. Пусть на фазовом
пространстве (X, <М) = (X, $х) задана переходная функция
/>(*,*, Г), /е[0, оо). Положим
ae(A)= sup P(t,x,VB(x)).
Теорема 1 (теорема Дынкина — Кинни). Пусть ae(h) =
*z=o(h) при /i->0 для любого положительного г. Тогда суще-
существует марковское семейство с данной переходной функцией,
все траектории которого непрерывны.
Доказательство проведем, пользуясь теоремой 1 § 5.2.
(Можно было бы воспользоваться приемом построения про-
процесса, стохастически эквивалентного данному, непрерывным
продолжением со счетного всюду плотного множества То с:
cz[0, оо); но тогда возникли бы некоторые трудности с требо-
требованием возможности ввести операторы сдвига (§ 8.5, п. 3): ведь
никакое счетное Го не инвариантно относительно сдвигов на
любое /ig[0, оо).) Возьмем в качестве С множество всех не-
непрерывных функций на [0, оо) со значениями в X. Пусть
(h,Px) — марковское семейство с данной переходной функцией.
Мы докажем, что из С ^ Л,Л e^f0'оо) вытекает Р* {?. ^Л}=1
при любом х. Тогда мы сможем взять в качестве пространства
элементарных событий множество С, на нем а-алгебру ^7, со-
состоящую из множеств вида С Л В, В е ^[0' °°\ и при каждом х
определить вероятность Р'х на $Fr такую, что процесс ^ (*.)==

§ 9.1] СВОЙСТВА ТРАЕКТОРИЙ 179
= xt будет иметь те же конечномерные распределения, что g*.
Получим марковское семейство (??, Р?) с данной переходной
функцией; траекториями будут все непрерывные функции и
только они. Нужно еще проверить, что определены операторы
сдвига; но это вытекает из того, что сдвиг любой непрерывной
функции непрерывен.
Зафиксируем множество А из $[0> °°\ содержащее С. При-
Принадлежность функции х. е Х[о' оо) множеству А определяется
ее значениями в счетном числе точек tu t2, ..., tny ...
Задача 1. Пусть Го = {^, t2, ..., tn, ...}. Докажите, что
среди всех А е^Го(Х[э< оо)), А^>С, есть наименьшее, Ло: оно
состоит из всех функций х., равномерно непрерывных на мно-
множестве ГОП[О, N] при любом N.
Докажем, что Р* {?. е Ло} = 1; раз Ло ^ А, отсюда получится
и Р* {?. s Л} = 1. Для этого используем выражение множества Ло
через более простые.
оо оо оо
Задача 2. Докажите, что X10'оо) \ Ло = U U П Втту где
iV=l m=l n=l
ЛГ/i-l
BNnm= U U
k0 tT(\[k/
o(\[/, (+)/J
Оценить Px {|. e BNntn) нам поможет следующая
Лемма. Пусть tb t2, ..., tk^ih. Тогда
Px {% ,l4, . •.. Ц s f/e (x)} > 1 - 2ae/2 (A).
Доказательство. Введем марковский момент т =
= minj^: lt фие(х)\ или + оо, если все %im e /7е(л:), 1</<^.
Нам нужно доказать, что Р* {т < /г} ^ 2ае/2 (Л). Положим
г) = Д — т, Л = {т^/г} и воспользуемся строго марковским свой-
свойством (оно выполнено, так как случайные величины т и г\ ди-
дискретны):
(А П {1н ^ Vm (*)}) =f J Р (Л - x,lx, U&!2 (х)) Рх (d«). A)
л
Точка gt находится от х на расстоянии ^е, поэтому все точки
из U&/2(x) удалены от 1Х болыие чем на е/2, т. е. Ue/2(x) s Ve/2(gt).
Значит,
Р (А - т, 5„ С/е/2 (*)) < Р (А - т,
a
e/2
Отсюда следует, что вероятность A) не превосходит ае/г(/г). Имеем
Из доказанной леммы вытекает, что Р^ {^ е Ue (x) для всех
Го П [0, /г]} ^ 1 —- 2а8/2 (Л); это следует из того, что событие

180 ПРОЦЕССЫ С НЕПРЕРЫВНЫМ ВРЕМЕНЕМ [ГЛ. 9
под знаком вероятности — предел последовательности событий
Slta e Ue (х) для всех t. < ft, I < i < п\.
Используя марковское свойство относительно момента s,
получаем, что также Рх {lt e Ue(ls) для всех /еГ0П[5,5 + А]} =
= Рх (QJl{lt е Ue (%) для всех * е (Го - s) П [О, Л]}) > 1 - 2ае/2(Л).
Из этих оценок вытекает неравенство
Р* (|. е= Вл/„т} < Мг • 2ai/2nJ B/п)-> 0 (л -> оо);
оо
так как fl BNnm <= B^m для любого я, то
1
п=1
для всех п и Рх \ g. s П ^т [ = 0. Отсюда
Р^ {g, ^ А0} — 0, что доказывает теорему.
2. Теорема 2. Пусть для любого г > 0 существует h > 0
такое, что ae/2(/i)< 1/2. Тогда существует марковское семей-
семейство с данной переходной функцией, траектории которого имеют
пределы справа и слева в каждой точке временной оси.
Доказательство этой теоремы сходно с доказательством теоремы 1 и ос-
основывается на той же лемме. Не будем приводить его, только дадим основ-
основной пункт в виде необязательной задачи.
Введем определение. Пусть функция f(t), заданная на каком-то подмно-
подмножестве Т числовой оси, принимает значения в метрическом пространстве. Мы
будем говорить, что f (t) имеет k е-колебаний на Г, если существуют t0 < t\ <
<...<*а, ti&T такие, что p(/(*i-i),f(*O) ^ Е» * = 1, --., К причем k —
наибольшее из таких чисел. Например, функция sin/, 0 ^ / ^ 10, имеет шесть
1-колебаний.
Задача 3*. Пусть 0 ^ tx ^ ... ^ /^ ^ h; обозначим через v число
е-колебаний в последовательности |0, %t > ..., |^ . Тогда Р^ {v ^ пг] <
<[2«г/4(/0Г ' *
Совершенно так же, как раньше, получаем для числа v8 [5, s + h]
е-колебаний функции It (®) на множестве Tof)[s, s + h] (TQ счетно) оценку
Рх {v8 [s, s + h] !> m) ^ [2ag/4 (Л)]ш; во всяком случае с вероятностью 1 это
число колебаний конечно.
Далее нужно иметь в виду, что функцию на То со значениями в полном
метрическом пространстве тогда и только тогда можно продолжить на [0, оо)
без разрывов второго рода, когда она для любого е > 0 имеет конечное число
е-колебаний на каждом конечном отрезке.
Теорема 3. Пусть аг(h) —> 0 при h —>0 для любого г > 0.
Тогда существует марковское семейство с данной переходной
функцией, траектории которого непрерывны справа и имеют
пределы слева в каждой точке.
Заметим, что условие Пта8(Л) = 0 является условием равно-
мерной стохастической непрерывности соответствующего марков-
марковского семейства. Действительно, для 0<!s^ обозначим через В

§ 9.1] СВОЙСТВА ТРАЕКТОРИЙ 18!
событие, состоящее в том, что р(?0> h-s)^B- Имеем Рх {р(^, ?*)^е}=
= РДе715)= М^ (В). Но Ру (В)=Ру {р (?0, Б,.,) > е} =
= Р./ (р (У, Its) >l) = Py Ш-, е= F8 (t/)} = P(t — s, у, Vz (у)) <
^ae(tf — s). Поэтому Pjc{p(L» Ы^8}^ае(^—5)->0при t — 5->0.
Но это и есть равномерная стохастическая непрерывность—равно-
непрерывность—равномерная и по начальной точке х, и по всему множеству [0, оо)
изменения s, t.
Доказательство. Из условия теоремы 3 вытекает усло-
условие теоремы 2; пусть (?*, Рх)—марковское семейство с траек-
траекториями без разрывов второго рода с данной переходной функ-
функцией. Положим ft = ?м_, ?е[0, оо) (предел справа, по предпо-
предположению, существует). Стохастическая эквивалентность |* и ?*
вытекает из стохастической непрерывности &; (|*, Рх)—мар-
Рх)—марковское семейство с данной переходной функцией, его траек-
траектории непрерывны справа, а пре-
пределы слева в каждой точке оста-
остались прежние. % \ j
Отсюда, в частности, вытекает, что J |
траектории стохастически непрерывных,
однородных по времени процессов с не-
независимыми приращениями можно счи-
считать непрерывными справа и имеющими
пределы слева; это относится, например,
к процессу Коши.
3. Приведем еще пример при-
применения теоремы 3. Матрице
вероятностей перехода задачи 3 § 8.3 отвечает марковское се-
семейство на фазовом пространстве из двух состояний с непре-
непрерывными справа и имеющими пределы слева траекториями;
т. е. все траектории — ступенчатые функции с конечным числом
ступенек на каждом конечном промежутке времени, причем
в ступеньку включается ее левый конец, но не включается пра-
правый. То же самое будет для любой счетной цепи Маркова с не-
непрерывным временем, для которой sup[l— P(t> x, {*})]->О
х
при ?-*0. Это вытекает из теоремы^3, если на фазовом про-
пространстве ввести метрику, задающую дискретную топологию:
р(х,у)= 1 при хФу\ функции без разрывов второго рода от-
относительно этой метрики — это как раз ступенчатые функции
(рис. 23).
Обобщению этого на несчетное фазовое пространство (Х,<%)
препятствует то, что теорема 3 сформулирована нами для слу-
случая, когда фазовое пространство — это метрическое простран-
пространство с a-алгеброй борелевских множеств, т. е. с-алгеброй, по-
порожденной всеми открытыми множествами. В дискретной то-
топологии (р(#,*/)=1, хфу) все множества открыты и

182 ПРОЦЕССЫ С НЕПРЕРЫВНЫМ ВРЕМЕНЕМ [ГЛ. 9
<г-алгебра борелевских множеств — это система всех подмно-
подмножеств X. Но мы не умеем задавать меры на всех подмножествах
несчетного множества, за исключением мер, которые на самом
деле сосредоточены на каком-то счетном числе точек в этом
несчетном множестве. К счастью, теорему 3 (и предшествую-
предшествующие ей 1, 2) можно обобщить, потребовав, вместо <М = ЫХ>
того, чтобы метрика р(х,у) была измерима (относительно $)9
и того, чтобы а-алгебра $ порождалась измеримыми откры-
открытыми множествами. Из этой видоизмененной теоремы выво-
выводится
Теорема 4. Пусть Р (ty х, Г) — переходная функция мар-
марковского семейства на произвольном фазовом пространстве
(Х,$). Если sup[l — P(t, xy {#})]-> 0 при t->0, то существует
х
марковское семейство с этой переходной функцией, все траек-
траектории которого — непрерывные справа ступенчатые функции
с конечным числом ступенек на каждом конечном промежутке
времени.
4. Имеются различные обобщения теорем этого параграфа;
в частности, теоремы, обеспечивающие непрерывность траекто-
траекторий только до момента перескока в дополнительную точку ¦)?,
в которую процесс попадает вместо того, чтобы исчезать (ср.
§ 8.1, п. 5в)). См. Дынкин, 1959, гл. 6, Гихман, Скоро-
Скороход, 1965, гл. IV, §§4, 5.
§ 9.2. Строго марковское свойство
для феллеровских марковских семейств
с непрерывными справа траекториями
1. Мы докажем, что все феллеровские марковские семейства
с непрерывными справа траекториями являются строго марков-
марковскими относительно семейства о-алгебр ?Г< t + {t ^ [0, оо)) #
Прежде всего докажем вспомогательный результат.
Задача 1. Пусть т — марковский момент относительно
семейства а-алгебр ?Г<*+. Тогда %п = {[2п%]-\- \)/2п — марковский
момент относительно семейства а-алгебр ^<* и соответствующая
ему а-алгебра Зг<Т/г ^^<т+.
Теперь пусть у нас имеется феллеровское марковское семей-
семейство (?ь Рх) с непрерывными справа траекториями на метриче-
метрическом фазовом пространстве^, Jf = ^. Требование прогрессивной
измеримости, входящее в определение строго марковского се-
семейства (§ 8.6, п. 2), обеспечивается непрерывностью справа
траекторий. Нужно доказать, что
\^Aх)Рх(с1@) A)

§ 9.2] СТРОГО МАРКОВСКОЕ СВОЙСТВО 18$
для любой функции |еВ, где относительно т, т), А выполняется
следующее условие:
А + +) х — произвольный марковский момент относительно
семейства а-алгебр #"<*+; rj — произвольная функция на QT =
= {т < 00} со значениями в [0, оо], измеримая относительно #~<т+;
Л5Г ЛОПО
Нам известно (см. § 8.6), что A) выполнено, если
А) т — дискретный марковский момент относительно семей-
семейства #~<г, т] —функция на QT, принимающая счетное число зна-
значений из [0, оо], измеримая относительно # Л
Введем еще промежуточное условие:
А +) т — произвольный марковский момент относительна
семейства ^</+; т] — функция на QT, принимающая счетное
число значений, измеримая относительно #~ Af
ЛЙП^
При условии А) A) уже доказано; отсюда мы перейдем
к A) при условии А+), а затем уже при условии А++). Для:
последнего перехода нам понадобится еще один вспомогатель-
вспомогательный результат.
Задача 2. Для /еС функция P*f(x) при каждом х непре-
непрерывна справа по t.
Формулу A) достаточно доказать только для функций f^C
(переход ко всем /gB осуществляется так же, как при доказа-
доказательстве теоремы п. 6 § 8.4).
Предположим, что / е С; т, т), А удовлетворяют условию А +).
Возьмем тп = ([2\] + l)/2n, a r\ и А оставим без изменения*
Согласно задаче 1, для хп, % А будет выполнено условие А),
поэтому
Здесь Рц( при каждом ©gQ^ — непрерывная функция (исполь-
(используется феллеровость). Устремим п к оо; при этом хп | т, в силу
непрерывности траекторий справа |т ->6Т> |t +T,">lt+n- Исполь-
Используя непрерывность числовых функций /(•) и Рл/(«), получаем,
ЧТ0 ^(Ч+О^К^-ь^ ^/(StJ^^/^t) ПРИ всех ^ так как
все эти функции ограничены || f ||, то законен предельный переход
под знаком интеграла и из B) вытекает A). Итак, A) доказана
в предположении А +)•
Пусть теперь т, tj, А удовлетворяют условию А + +)• Поло-
Положим ца = ([2пц\ + \I2п, а т и А оставим без изменения. Для т,

184 ПРОЦЕССЫ С НЕПРЕРЫВНЫМ ВРЕМЕНЕМ [ГЛ. 9
-т]п> А выполнено условие Л+), значит,
* W«) = S P**f F,) Ря (*»>)• C)
\ f (
Л
Устремим п к оо и воспользуемся задачей 2; получим, что
Р^п! (I?)-* РЧ (U ПРИ любом coeQ^nQ-rv To, что в левой части
подынтегральная функция стремится к /(?т+л), так же, как и
раньше, вытекает из непрерывности траекторий справа. Предель-
Предельный переход от C) дает нам A) при условии А + +).
2. Теперь обоснованы все применения строго марковского
свойства к винеровскому процессу (§ 8,6, п. 46), задачи 1, 3*).
3. Наконец теперь мы можем понять, почему требуется непрерывность
справа, а не слева. При переходе от дискретных г) к произвольным мы могли
бы совершенно так же воспользоваться непрерывностью слева, положив
r)n = [2nr]]/2n; но при оперировании с т существенно, что мы заменяем эту
величину на большие хп. Здесь дело в том, что т определяется своим прош-
прошлым (и ближайшим будущим). Случайная величина тп, будучи функцией от т,
тоже определяется прошлым и ближайшим будущим относительно т; но это
прошлое и ближайшее будущее — прошлое по отношению к тп, так как
Хп > т. Это и приводит к тому, что Тп — марковский момент относительно
семейства а-алгебр @~^f Напротив, если бы мы взяли хп < т, то не полу-
получили бы, в общем случае, марковского момента, потому что прошлое по от-
отношению к х частично является будущим для хп <С т, и даже не «ближай-
«ближайшим» будущим.
4. Из доказанной теоремы следует, что феллеровские мар-
марковские семейства с непрерывными справа траекториями яв-
являются марковскими относительно семейства о-алгебр ST<t +
(см. § 8.2, п. 7). В частности, для таких марковских семейств
имеет место
Закон О—1 Р. Блюменталя. Для любого события fiGf<0+
и любого х^Х либо Рх(В) — 0, либо Рх(В) = 1.
Доказательство. Пользуемся (строго) марковским
Свойством (формула A2) § 8.6) относительно момента т = О,
А = В. Получаем
Р* (В) = Р* (ВВ) = Рх (Ябо-'В) = J Ри (В) Рх (da) =
в
Разумеется, РХ(В) может зависеть от х (это будет ^-изме-
^-измеримая функция, т. е. в данном случае индикатор какого-то бо-
релевского подмножества X).
5. Доказанная теорема обобщается на случай, когда вместо простран-
пространства С берется не все пространство непрерывных функций, а лишь его под-
подмножество, достаточно плотное в пространстве В (чтобы две меры совпадали,

§ 9.2] СТРОГО МАРКОВСКОЕ СВОЙСТВО 185-
если совпадают интегралы по ним от любых двух функций из данного под-
подмножества). Например, в случае сепарабельного локально комнатного X до-
достаточно потребовать, чтобы P*f было непрерывно для любой финитной (т. е.
обращающейся в 0 вне некоторого компакта) непрерывной функции:
Р'СфИн ?= С.
Дадим несколько задач, связанных с материалом этого параграфа лишь,,
может быть, методом решения.
Задача 3. Пусть (grt, Рх) — цепь Маркова на фазовом пространстве (Х,&).
Обозначим через х (х) первый момент, когда 1п покидает точку х: х (х) =
= min {п: \п ф х} (если \п = х при всех п е Z+, полагаем х (х) = + со).
Докажите, что х (х) имеет (относительно вероятности Рх) геометрическое рас-
распределение с параметром q (х) е [О, I], т. е. Рх{%(х) = п} = [1— q (x)] q(x)n~\
п=1, 2, ..., и что случайные величины %(х) и 1Х^ независимы (также
относительно вероятности Рх).
Конечно, о %х (Х) имеет смысл говорить, только когда q(x) < 1, иначе
с Р^-вероятностью 1 т (х) = со.
Задача 4. Пусть (g/, P^) — марковское семейство с непрерывными
справа траекториями; т (х) = inf {t: ^фх). Докажите, что т (х) имеет пока-
показательное распределение с параметром А(#)е[0, оо], т.е. Рх {х (х) > t) =
е\ />.
(То, что т (х) — случайная величина, следует из задачи 4 гл. 6.)
Для семейства винеровских процессов в каждой точке Я(лс) = + со^
Рх{т(*) = 0} = 1.
Задача 5. Найдите ЯA), ЯB) для процесса с матрицей вероятностей
перехода задачи 3 § 8.3.
Задача 6*. Вытекает ли из условий задачи 4, что т (х) и |т ^х) неза-
независимы?

Глава 10
Инфинитезимальные операторы
§ 10.1. Инфинитезимальный оператор полугруппы
1. Мы уже говорили (§ 8.1, п. 5г), что типичной для марков-
марковских процессов является такая ситуация, когда мы знаем пере-
переходные вероятности за малый промежуток времени At с точ-
точностью до о (ДО, и что этого при известных условиях регуляр-
регулярности достаточно для того, чтобы восстановить всю переходную
функцию. В этом параграфе мы введем инфинитезимальный
оператор — как раз такую характеристику, которая задает по-
полугруппу операторов, связанную с марковским семейством,
с точностью до бесконечно малых выше первого порядка. Что
она однозначно определяет переходную функцию, мы увидим
в следующем параграфе.
Инфинитезимальный оператор определяется для любых по-
полугрупп (также и групп) линейных операторов в банаховом
пространстве, независимо от того, связаны они с марковскими
процессами или нет.
Пусть в банаховом пространстве Е задана полугруппа огра-
ограниченных линейных операторов Р1У 0 ^ t < оо, Р° = Е.
В отличие от операторов Рг, инфинитезимальный оператор
(мы будем обозначать его А) будет определен, вообще говоря,
не всюду на ?, а только на некотором его подмножестве DA,
и это не будет ограниченный линейный оператор. По определе-
определению / е DA> если существует lim t~l (/>'/ —• f) в смысле сходи-
сходило
мости по норме; этот предел и есть, по определению, значение
оператора А на элементе /:
Л/= lim Г1
Иначе говоря, Af — правая производная от Plf в нуле:
Разумеется, область определения Л, DA — линейное подпро-
подпространство (хотя, вообще говоря, незамкнутое), а А — линейный
оператор.
2. Рассмотрим примеры (связанные с марковскими процес-
процессами), Инфинитезимальный оператор полугруппы P*f9 связан-

§ 10.1] ИНФИНИТЕЗИМАЛЬНЫЙ ОПЕРАТОР ПОЛУГРУППЫ 187
ной с марковским семейством, будем называть инфинитези-
мальным оператором марковского семейства.
Если вспомнить, какую норму мы рассматриваем в про-
пространстве В, определение Af можно переписать в виде
Af (х) = lim Г1 (P'f (х) - f (x)) = lim Г1 (Mxf (h) - / (*)),
причем / принадлежит области определения, DA, если этот пре-
предел равномерен по х.
а) С детерминированным процессом движения вправо с единичной ско-
скоростью на прямой связана полугруппа сдвигов: Pff(x) =f(x-{-t). Имеем
Af (x) = lim Г (f (x + t) - f (x)) = d+f(*) 9 nv
t*o dx v r
Однако не нужно забывать, что эта правая производная должна существо-
существовать равномерно по х.
Задача 1. Из того, что предел A) существует равномерно по х, вы-
вытекает равномерная непрерывность функции f. Докажите.
Более того, функции t~l(f(x + t)—/(*)), стало быть, тоже ограничены^
d+ Цх)
и равномерно непрерывны, а значит, и их равномерный предел —^—— огра-
ограничен и равномерно непрерывен. Отсюда вытекает, что функция / дифферен-
дифференцируема не только справа, но и слева.
Окончательно получаем, что Da состоит из тех и только тех функций fr
которые ограничены и равномерно непрерывны вместе с первой производной:
/ е= С^вн, и Af(x) для них равно /¦' (х).
б) Рассмотрим еще один детерминированный процесс — решение системы^
dxt
обыкновенных дифференциальных уравнений ~т— = Ь (xt) в r-мерном про-
пространстве. Не будем здесь находить в точности область Da определения ин-
финитезимального оператора: заранее ограничимся непрерывно дифференци-
дифференцируемыми финитными функциями (/^?фин)' Для таких функций при t-+®
г
равномерно по х> так что f^D и Af (х) = } Ь1 (х)—-г (х).
f^i dxl
в) 3 а д а ч а 2. Найдите инфинитезимальный оператор (матрицу) для-
полугруппы задачи 3 § 8.3.
г) Для счетной марковской цепи с непрерывным временем с траекто-
траекториями, непрерывными справа, существуют Я(/)е[0, со), Пц такие, что
il{fM. задачи 4,6* § 9.2). По ним
можно построить (бесконечную в случае бесконечного счетного фазового про-
пространства) матрицу (uij):uij =s %(i)rtij при j Ф i, #и = —МО- Если
supX(i) < оо, то DA совпадает со всем В (пространством ограниченных по-

188 ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ [ГЛ. 10
следовательностей), и инфинитезимальный оператор задается матрицей
Evo) B)
(докажите).
Если supM0 = °°, то сумма B) для некоторых f<=J3 неограничена.
В случае ограниченности X(i) (или, что то же, ац) можно доказать, что дан-
данной матрице соответствует единственная марковская цепь (единственная в
смысле конечномерных распределений). В случае неограниченных ац и это
может быть не так. Это будет для тех марковских цепей, которые могут за
конечное время совершить бесконечное число перескоков из состояния в со-
состояние, проходя через бесконечное число различных состояний (непрерыв-
(непрерывность справа этому не препятствует). Связано это с тем, что матрица (ац)
определяет поведение цепи при перескоках из состояния в состояние (!•*- =
= U It — ltf+ == i)t а информация о том, что с ней делается после «ухода на
бесконечность» (когда g*_ не существует), в матрице (ац) не содержится.
Задача 3*. Приведите пример двух цепей Маркова с непрерывным вре-
временем, с разными конечномерными распределениями, с одной и той же мат-
матрицей (ац): a{i = —t2, ait i+\ = i2 (остальные — нули).
д) 3 а д а ч а 4. Для полугруппы, связанной с r-мерным винеровским про-
процессом, докажите, что множество С[^вн всех функций /, ограниченных и рав-
равномерно непрерывных вместе с производными первых двух порядков, содер-
содержится в Da, и для таких функций Л/ = -~- А/ (А — оператор Лапласа).
е) Задача 5*. Докажите, чго для семейства процессов Коши, т. е. для
марковского семейства с переходными плотностями p(t,x,y)=n~lt/(t2-\-
+ ( — *J)» инфинитезимальный оператор определен на всех функциях из
(н0 не только на них)> и Для f e (i
оо
А( (х) = я-1 J If (у) -/(*)- Г (х) • arctg (у - x)]f(y - *J dy.
(Вместо функции arctg z можно взять любую другую нечетную ограничен-
ограниченную функцию, равную 2+ O(z2) при Z-+-0).
ж) Обратимся к примеру п. 5г) § 8.1 (процесс, связанный с системой мас-
массового обслуживания). Предположим, что появляющаяся там функция
f(x)l(\—F(x)) равномерно непрерывна и ограничена. Возьмем функцию ф,
принимающую произвольное значение в точке S и принадлежащую С^вн на
tO, оо). Полученные нами формулы для переходных вероятностей за беско-
бесконечно малый промежуток времени А? превращаются в
Р^ф (S) =* ф (S) [1 — а А*] + ф @) • а М + о (А/),
-откуда
ЛФ (к) » Ф' (х) + г 1}^{х) • [Ф (S) - ф (х)].
з) До сих пор мы не имели случая подчеркнуть чрезвычайную важность
области определения Da. Оказывается, инфинитезимальные операторы, отве-

§ 10.1] ИНФИНИТЕЗИМАЛЬНЫЙ ОПЕРАТОР ПОЛУГРУППЫ 189
чающие совершенно отличным друг от друга марковским процессам, могут
задаваться одной и той же формулой и отличаться только областями опре-
определения.
Задача 6. Инфинитезимальный оператор Л семейства винеровских про-
процессов с отражением wt (задача 7 § 8.1) на [0, оо) определен на функциях
f е Ср2^вн таких, что f'@+) = 0, и для них Af = — f"; инфинитезималь-
инфинитезимальный оператор А0 семейства винеровских процессов на [0, оо) с остановкой
в нуле wj (задача 1 § 8.6) на функциях / е С{^вн, для которых f @+) = 0,
и A°f » у Г-
Конечно, эти марковские семейства близки друг к другу, но различны
(в смысле конечномерных распределений).
и) В примере п. 7 § 8.4 можно доказать, что решение уравнения A0)
с граничными условиями A1), дважды непрерывно дифференцируемое по х
и один раз по t вплоть до границы полуполосы, существует для любых ко-
конечных условий f е СB)[0,1], Г@+) = f'(l—) =0. Отсюда вытекает, что все
такие функции принадлежат области определения инфинитезимального опе-
оператора А соответствующей полугруппы, и для uuxAf—-^ \". Мы увидим (§ 2,
задача 7), что DA не только содержит СB>[0,1] Г) {/: Г@+) = f'(l —) == 0},
но и совпадает с этим множеством.
3. Рассмотрим важное понятие, связанное с полугруппами
и инфинитезимальными операторами; ограничимся случаем
сжимающей полугруппы на пространстве В ограниченных из-
измеримых функций.
Введем в В подпространство Во, состоящее из функций, для
которых
7
это — функции, на которых полугруппа Р* сильно непрерывна
справа в нуле. То, что Во — линейное подпространство, оче-
очевидно; но, кроме того, оно еще и замкнуто, а значит, является
банаховым пространством. Действительно, если fn-+f, fn^BOf
то
П51| P4f - f || < ШII P'f - Р% || + lim I! P*fn - f J +1| fn - f ||; C)
f*0 t+Q t^0
второй член в правой части равен нулю, а
Так как эта норма мала, левая часть C) равна нулю, и f eBo*
Оказывается, если f e Во, то функция P*f со значениями
в нашем банаховом пространстве равномерно непрерывна по t
на всем луче [0, оо): для ^

190 ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ [ГЛ. 10
Отсюда, в частности, вытекает, что пространство Во будет инва-
инвариантно относительно операторов Pf\ для /ей0 будет также
р'/еВо, так как pVf = P'+/7->Pff при /г|0.
С инфинитезимальным оператором пространство Во связано
так: ?)л^В0(из существования предела t~l(pff — f) следует
ЦГЧР'/-/)!-= 0A), |р7-/1=О@->0при *_*<)); значит, для
f<=DA имеем Pff <= Во, Г1 (Р*/ -- /) е= Дъ а значит, Af =
= lim Г (Pff — f) e J50. To есть и область значений ACh инфи-
нитезимального оператора также входит в Во.
4. Мы знаем, что Af — правая производная Pff в нуле в смысле
сильной сходимости. Докажем, что если f e DA, то и P*f e DAi и
АР*! = Р*А! = ±РЦ D)
в смысле той же сходимости. По определению APff —
= lim /f (РНР*1 — P'f); пользуясь полугрупповым свойством, по-
лучаем, что это выражение—не что иное, как lim Л"*1 (pt+hf—pff)f
т. е. правая производная от P*f (существование APff равносильно
существованию -jr Pff, и если они существуют, то равны). Еще
раз воспользуемся полугрупповым свойством: РнРг1 — Pff =
= pi+hf _ ptf^pt (phf _ ^_и докажем> чт0 Птр^-1 (p*f -f) =
= P*Af. Имеем
I = 1P* [Л (Phf - f) - Af]»<
Чтобы доказать D), нам остается проверить, что и левая произ-
производная от Pf равна тому же выражению. Имеем
^ ||р<-ь (_ hyl (/ - Phf) - Р'-ЛА/1 +1 Pf~hAf — PfAf [[.
Первая норма не превосходит Ца" {Phf —/) —Л/|->0 (Л| 0),
вторая стремится к 0 потому, что Af Д
Если обозначить Plf через w^, то для ui получаем дифференциальное
уравнение = Л^^ с начальным условием uQ = /. Частный случай этого,
при принадлежащем изменении обозначений, —уравнение A0) — A1) примера
п. 7 § 8.4.

10.1] ИНФИНИТЕЗИМАЛЬНЫЙ ОПЕРАТОР ПОЛУГРУППЫ 191
Переводя D) в интегральную форму, получаем
t t
p*f = f + J AP'f ds = / + J p'Af ds. E)
5. Для полугрупп на В> связанных с марковскими семейст-
семействами, имеет место очень важный
Принцип максимума. Если функция f имеет абсолютный
максимум в точке х (т. е. f{x)^f(y) для всех jsl) и /е?)л,
то Л/(*)<0.
Доказательство. Имеем Mxf(?*)^f(x),
Af (*) = Jim Г1 (MJ (Б,) - f (х)) < 0.
Задача 7. Для того чтобы полугруппа сжимающих линейных опера-
операторов Р* на В удовлетворяла условию РЧ = 1, необходимо и достаточно,
чтобы 1 s/)a, A\ s 0.
6. Важный класс примеров полугрупп на произвольном ба-
банаховом пространстве Е задается формулой
где А — определенный всюду на Е ограниченный линейный опе-
оператор. Сходимость в F) можно понимать не только как силь-
сильную сходимость — сходимость в применении к любому f^E,
но и как сходимость в смысле операторной нормы; она обеспе-
обеспечивается тем, что члены ряда мажорируются по норме членами
сходящегося числового ряда ^(^\\А\\)п/п\. Полугрупповое
свойство сводится к тому, что eV+s)A = etAesA, и легко прове-
проверяется (вообще еА+в = еАев, если операторы А я В коммутри-
руют). То, что у полугруппы (в действительности даже группы)
etA инфинитезимальным оператором будет именно Л, прове-
проверяется так:
| А ||21| /Ц/2+
При помощи формулы etA была получена матрица задачи 3
§ 8.3; матрица А —у _ „ 1 была подобрана так, чтобы
выполнялся принцип максимума и А\ = 0.

192 ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ [ГЛ. 10
7. Для полугруппы Р*, действующей на меры (точнее, счетно-аддитивные
функции множества), мы также можем рассматривать инфинитезимальный
оператор (его можно обозначать той же буквой Л, но писать ее справа от
обозначения меры):
в смысле сходимости по вариации; его область определения будем обозна-
обозначать дй. Из (\i, Р*0 = (\1Р*> /) следует, что для f e DA, \i e AD
Это еще не вполне значит, что оператор А, действующий на меры, — сопря-
сопряженный к оператору А, действующему на функции.
Задача 8*. Пусть из того, что (\i^ f) = (м-2, f) для всех / е Во выте-
вытекает jii = \i2- Докажите, что ji e AD тогда и только тогда, когда существует v,
принадлежащее пространству Vo сильной непрерывности полугруппы, действую-
действующей на меры, такое, что (\i, Af) = (v, f) для всех f &DA', при этом \iA = v.
(To есть оператор Л, действующий на меры, — оператор, сопряженный
к оператору, действующему на функции, суженный до оператора в простран-
пространстве Vo-)
§ 10.2. Резольвента. Теорема Хилле — Йосида
1. Резольвентой полугруппы операторов Рг называется се-
семейство операторов Rx, определяемых формулой
dt. A)
Это — преобразование Лапласа полугруппы. Уточним это опре-
определение. Интеграл A) можно определить для полугруппы в
произвольном банаховом пространстве, но мы для простоты
ограничимся случаем пространства В.
Пусть (?*, 0 ^ t < оо; Рх)— марковское семейство, причем
процесс ?* прогрессивно измерим относительно семейства а-ал-
гебр ^"</. Тогда функция Р1Цх) измерима по (t,x) для лю-
любой функции /еВ (см. § 8.6, п. 2). Полагаем для f^B, x^X
(x)dt. B)
Здесь интеграл сходится, во всяком случае, при % > 0 (в этой
книге мы не будем рассматривать резольвенту при комплекс-
комплексных %)\ сходимость вытекает из \P*f(x) | ^ ||/||. Функция RJ
измерима (теорема Фубини) и ограничена: \\RJ|| ^ X II/II, т.е.
RJ^B. Ясно, что #х, % > 0, — линейные операторы, они огра-
ограничены: ||/?х11 ^ Аг1. Семейство операторов /?х называется ре-
резольвентой полугруппы Рь (или соответствующего марковского
семейства).

§ 10.2] РЕЗОЛЬВЕНТА. ТЕОРЕМА ХИЛЛЕ — ЙОСИДА 193
При любом х функция Rxf(x) является преобразованием
Лапласа от числовой функции Р*!(х), /е[0, оо). Знание
Rbf(x) при всех X > 0 позволяет восстановить функцию Рг!{х),
t ^ 0, с точностью до функции, отличной от нуля лишь на мно-
множестве значений t лебеговой меры 0 (см. Колмогоров и Фо-
Фомин, 1968, гл. VIII, § 6, также §§ 3, 4). Если /еВ0, то функ-
функция Ptf{x) непрерывна по t, и она восстанавливается по ^х/(#),
Я > 0, в точности однозначно.
Это означает, что по резольвенте R% однозначно восстанав-
восстанавливается полугруппа Р1 на пространстве Во ее сильной непре-
непрерывности. Пусть пространство Во содержит достаточно много
функций — настолько много, что из (v, /) = 0 для всех f ^ Во
вытекает v = 0; например, в случае, когда фазовое пространство
(X, $) — а-компактное метрическое пространство с сг-алгеброй
Ых его борелевских подмножеств в качестве $, доста-
достаточно, чтобы В0^С или даже Во з Сравн. Тогда по резоль-
резольвенте однозначно восстанавливается переходная функция, а зна-
значит, и все конечномерные распределения марковского семейства.
Задача 1. Докажите, что из равномерной стохастической непрерывно-
непрерывности марковского семейства (см. §9.1, п. 2) вытекает Во э СраВн.
2. Найдем резольвенту для семейства одномерных винеровских процессов.
Имеем
оо Г оо -I
\ в~м \ p(t, х, у) f (у) dy\
оо г оо 
= Ш e-Mp(ttx,y)dtmy)dy,
-оо L0 J
R\t (*) =\ в~м \ p(t, х, у) f (у) dy\dt
0 J
где плотность р (/, х, у) = Bя/)~/2 е"^"x^2tt Воспользовавшись справочни-
справочником интегралов (например, И. М. Рыжик и И. С. Г рад штейн, Таблицы
интегралов, сумм, рядов и произведений, Физматгиз, М., 1962), находим
V2X • -
Итак,
1 Х ~~ aJ2% J ТКУ) У-
— оо
3. Пользуясь теоремой Фубини и полугрупповым свойством,
доказываем:
e-uPi+hf (x) dt = ем J e~KsPsf (x) ds, D)
ед Я,ц>0, yi^K. E)
7 А. Дг Вентцель

194
ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ
[ГЛ. 10
В частности, операторы Р\ RXf R^ перестановочны. Формула E)
называется резольвентным уравнением; ее можно переписать
в виде R^RK = ЗД = ([I - ЯГ1 (#л - RJ.
Резольвентное уравнение дает возможность установить, что
область значений оператора R^ одна и та же при всех
% > 0: RjJS = R^B. Вообще говоря, не любую функцию из В
можно представить в виде RJ; но если мы ее представили в таком
виде, то она также представляется в виде ^[/ + A^— к) Rrf].
Задача 2. Докажите, что R^B s BQ.
Задача 3. Докажите, что для любого f
/ = lim KRKf.
B0
F)
Раз преобразование Лапласа однозначно задает P*f, все свойства Рь
должны найти отражение в свойствах R\. Тому, что \\Pl\\ ^ 1, отвечает
\\R%\\ ^ h~l\ из того, что Рг сохраняет положительность, вытекает, что и опе-
операторы Rx сохраняют положительность: R^f ^ 0 для / ^ 0. Полугрупповому
свойству Pt+S — PlPs соответствует резольвентное уравнение; F) отвечает
„ свойству Р° = Е (точнее, тому, что lim Plf =
Rx y^"x t ^ о
4. Оказывается, оператор RKy если
его рассматривать только на Во, яв-
является обратным к оператору ХЕ—А,
определенному на DA. Иначе говоря,
эти операторы осуществляют обрат-
обратные друг к другу взаимно однознач-
однозначные отображения Во на DA и обратно
, ' (Рис 24).
Нужно доказать, что для / е Во функция RKf е/)д и
(ХЕ — A)RJ = f и что для f^DA будет RK (If — Af) = f. Доста-
Достаточно, конечно, рассмотреть ARJ и R^Af.
Для / е JB0 в силу формулы D)
= lim j
h b 0
Рис. 24.
= lim /Г
•l\e*h\ e-uP*tdl-\ e-uPlfdi[,
oo
вычитая и прибавляя \ e-^P'-f dt, получаем, что ARJ = — f +

10.2] РЕЗОЛЬВЕНТА. ТЕОРЕМА ХИЛЛЕ - ЙОСИДА 195
Для feD4 в силу формулы D) предыдущего параграфа
оо оо
xAf = 5 e-ktP'Af dt = J e~M -^Р(}сН =
Следствия, Во-первых, оператор А однозначно задает
полугруппу на Во. Действительно, по оператору А находятся
операторы ХЕ — Л, К > 0, цр ним — резольвента (кстати, теперь
понятно, почему употребляется такое название), а по резоль-
резольвенте однозначно восстанавливается полугруппа.
В частности, получаем, что для равномерно стохастически
непрерывного марковского семейства на о-компактном фазовом
пространстве конечномерные распределения однозначно опре-
определяются инфинитезимальным оператором.
Во-вторых, область определения DA всюду плотна в Во. Это
вытекает из DA = R^B0 и F): для любой функции / е Во
существует равномерно 'сходящаяся к ней последовательность
функций из R%B0.
В-третьих, оператор А замкнут, потому что представляется в виде
ЯЕ — /??" , а замкнутость оператора R* вытекает из того, что он ограничен
и рассматривается на замкнутом множестве (а именно Во). Напомним, что
оператор А (вообще говоря, неограниченный) называется замкнутым, если его
график — множество пар (f, Af)—замкнут, иначе говоря, если из fn^DA,
fn-*f, Afn-^g вытекает f^DA> Af = g. Все операторы, получившиеся в
примерах п. 2 § 1, где мы в точности нашли инфинитезимальный оператор,
естественно, замкнуты; в тех случаях, когда мы нашли инфинитезимальный
оператор лишь на функциях из ?фиН или ^равн» найденные операторы, во-
вообще говоря, не замкнуты, но имеют замкнутое расширение (а именно ин-
инфинитезимальный оператор). Для любого оператора, имеющего замкнутые
расширения, всегда есть наименьшее замкнутое расширение, или замыкание
оператора. Можно доказать, что в примерах д) (г > 1), е) п. 2 § 1 инфините-
зимальные операторы суть замыкания найденных операторов на Ср^вн. Суще-
Существуют операторы, вообще не имеющие замкнутых расширений (придумайте
пример), но у нас они встретиться не могли.
Задача 4. Докажите, что Во есть замыкание множества R^B.
Задача 5. Пользуясь формулой C), докажите, что для семейства одно-
одномерных винеровских процессов йД = С^вн.
Для семейства r-мерных винеровских процессов, г "> 1, это будет уже не
так, ибо оператор Лапласа не замкнут (см. Н. М. Гюнтер, Теория потен-
потенциала и ее применения к основным задачам математической физики, Гостех-
издат, М., 1953, § 14).
В-четвертых, не может быть двух полугрупп с одним и тем же простран-
пространством Во, таких, что инфинитезимальный оператор А одной из них является

196 ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ ч [ГЛ. 10
расширением инфинитезимального оператора В другой: Db cz Da, и Bf = Af
для / e Db. Действительно, тогда мы получили бы, что оператор ХЕ — Л
взаимно однозначно отображает и множество Da, и его часть (Db) на одно
и то же множество Во.
5. Приведем без доказательства теорему, дающую необхо-
необходимые и достаточные условия для того, чтобы данный оператор
был инфинитезимальным оператором сильно непрерывной полу-
полугруппы сжимающих операторов (доказательство можно про-
прочесть у Дынкина, 1963, гл. I, § 4, или И то, 1963, § 38).
Теорема Хилле — Иосида. Для того чтобы линейный
оператор А с областью определения DA в банаховом простран-
пространстве Е был инфинитезимальным оператором сильно непрерыв-
непрерывной полугруппы сжимающих операторов Р1 (сильно непрерыв-
непрерывной, т. е. Р*}-**} при ?->0 для любого /е?), необходимы и до-
достаточны следующие условия:
а) DA всюду плотно в Е\
б) при любом X > 0 существует определенный всюду на Е
оператор (ХЕ— Л)-1;
в) || {ХЕ- Л)-1 |К Я.
В случае полугруппы на подпространстве пространства В
ограниченных измеримых функций условие
г) операторы (ХЕ — Л)-1 сохраняют положительность
необходимо и достаточно для того, чтобы полугруппа сохраняла
положительность; условие
Д) lsDA, 41=0,
— для того, чтобы РЧ = 1.
Часть, касающаяся необходимости, фактически уже нами
доказана.
Для сильно непрерывных полугрупп в пространстве С не-
непрерывных функций на компакте условия б)—г) превращаются
в следующие условия:
б') уравнение XF — AF = / имеет хотя бы одно решение для
любого f € С, X > 0;
в7) выполнен принцип максимума (см. § 1, п. 5).
Задача 6 Докажите, что из условия в') вытекают в), г), а также
единственность решения в б'), т. е., что из б'), в7) вытекает условие б).
Задача 7. Оператор, ставящий в соответствие каждой функции
/ е= С<2>[0, 1] Л {/: Г@+) = f'O—) = °) функцию -j Г, является инфинитези-
инфинитезимальным оператором сильно непрерывной полугруппы сжимающих и сохра-
сохраняющих положительность операторов Рг в С[0, 1], Рь\ « 1. Докажите.
Это — инфинитезимальный оператор полугруппы, возникающей в примере
п. 7 § 8.4. (Мы уже нашли, что DA =э СB) [0, 1 ] П № Г <0 +) « /' A -) = 0}, и
для таких функций Af = -g f"; строгое включение отпадает в силу одного из
следствий результатов п. 4.)

§ 10.3] СВЯЗЬ С МАРКОВСКИМИ ПРОЦЕССАМИ 197
§ 10.3. Инфинитезимальные операторы
и марковские процессы
Раз инфинитезимальный оператор однозначно задает конеч-
конечномерные распределения марковского семейства, то в терминах
инфинитезимальных операторов в принципе можно формулиро-
формулировать любые условия, касающиеся конечномерных распределе-
распределений, решать любые задачи, связанные с марковскими процес-
процессами. Многие задачи, оказывается, можно решать не только
в принципе.
1. Сначала займемся сугубо теоретическими вопросами.
Как связаны свойства инфинитезимального оператора со
свойствами непрерывности траекторий} У нас есть условия су-
существования марковского семейства с данными свойствами
траекторий в терминах функций ае(Л) = sup P(t, х, Ve(x))
t < л, * е= х
(§ 9.1). Оказывается, условие lim ае(А) = 0 выполняется при
h ^ 0
очень слабых предположениях, а оно обеспечивает непрерыв-
непрерывность справа и наличие пределов слева у траекторий.
Микротеорема 1. Пусть для марковского семейства на
компактном фазовом пространстве X пространство В0^С =
= С(Х). Тогда выполнено условие равномерной стохастической
непрерывности.
Доказательство. Пространство X покрыто окрестностями
ие/з(х),jgI; выделим конечное покрытие ие/з(х\), ..., ие/з(хп).
Для каждой точки xt возьмем неотрицательную непрерывную
функцию fi{x), равную 0 в ?/е/з(#/) и 1 в У2е/з(х). Эти функции
принадлежат Во, так что для любого б > 0 существует h0 > 0
такое, что | P*fi (х) — fi {х) | < б при всех / от 1 до п, всех х ^ X
и /<Л0. Для x^Ue/3(xi) получаем
б > P'fi (X) > Р (t, X, F2e/3 (Xt)) > Р (t, X, Ve (X))
(используется выбор функции fi и то, что Ve (x) ^ V2e/z (#*))•
Отсюда ае(/г)^б при h^h0; так как б произвольно мало, то
lim <xe (А) = 0.
л i о
В терминах инфинитезимального оператора условие В0^С
формулируется так: DA всюду плотно в С.
Теперь займемся непрерывностью траекторий, точнее, воп-
вопросом о выполнении условия Дынкина — Кинни: oce(/i) =o(h)
при h | 0 для любого е > 0. Этому условию, грубо говоря, со-
соответствует локальность оператора А.
Оператор А будем называть локальным, если из того,
что /, g gDa и эти функции совпадают в некоторой окре-
окрестности UB(x) точки х, вытекает Af(х) = Ag(x). Примеры —

198 ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ [ГЛ. 10
всевозможные дифференциальные операторы; нелокальными
являются интегральные операторы.
Легко видеть, что из условия Дынкина — Кинни вытекает
локальность инфинитезимального оператора. Действительно,,
если f совпадает с g в иг(х), то
\Af(x)-Ag(x)\ =
t ^ 0
lira Г'|р'(/-?)(*)! =
P(t,x,dy)[f(y)-g(y))
t ^ 0
— 1
Однако обратное утверждение в точности не верно. Верно бо-
более сложное утверждение:
Микротеорема 2. Пусть К — компакт, А — инфините-
зимальный оператор марковского семейства на нем. Пусть опе-
оператор А локален^ и для любого е>0 м любой точки х суще-
существует неотрицательная функция f e DAi равная нулю в 1/е/з (х)
и положительная вне U2&/3 (х). Тогда выполнено условие Дын-
Дынкина — Кинни.
Задача 1. Докажите микротеорему 2.
Задача 2. Докажите, что полугруппе задачи 7 предыдущего параграфа
отвечает марковское семейство с непрерывными траекториями.
2. Мы использовали теоремы 1, 3 § 9.1; теперь посмотрим,
когда выполнены условия теоремы 4 § 9.1.
Задача 3. Если инфинитезимальный оператор А — определенный на
-всем пространстве В ограниченный оператор, то sup [1 —P(t,xt{x})] ^ ЛИИ-*
-*0(/|0).
Это обеспечивает возможность выбора траекторий непрерывными справа
ступенчатыми функциями с конечным числом ступенек на любом конечном
промежутке времени.
Задача 4*. Может ли быть, чтобы sup [1 — P(t, х, {х})] ->¦ 0 (t \ 0), на
х
оператор А был неограничен или определен не всюду на В?
Рассмотрим подробнее процессы с ограниченным инфинитезимальным опе-
оператором, т. е. с полугруппой Р* = etA. Легко доказать, что оператор А — пре-
предел операторов г~х(Рг — Е) в смысле сходимости по операторной норме. Опе-
Операторы Р1 — интегральные, значит, и t~l(Pl — Е)—интегральный оператор;
Г1(Р* -
где бя(Г) —единичная мера, сосредоточенная в точке х. Предел интегральных
операторов в смысле сходимости по норме — опять интегральный оператор.

$ 10.3] СВЯЗЬ С МАРКОВСКИМИ ПРОЦЕССАМИ 199
Действительно, норма интегрального оператора Qf (х) = \ Q (tt x, dy) f (у), где
X
Q (t, х, .) — мера со знаком, равна sup | Q (t> х> .) | (X) *); поэтому сходи-
X
мость таких операторов по норме означает равномерную по х сходимость
соответствующих мер по вариации. Из полноты пространства V вытекает су-
существование А (х, .) = lim t~l [P (t, x, .) — 6я (.)] в смысле сходимости по
t * о
вариации равномерно по х. Итак,
^(x9dy)f(y). * A)
Задача 5. Докажите, что мера А(х} •) неотрицательна на подмноже-
подмножествах Х\ {х}, неположительна на {х}, А(х, X) = 0; функция А(х, Г) измерима
по х и 0 ^ А (х, {х}) ^ — С > — оо при всех х. Обратно, каждой такой функ-
функции соответствует марковское семейство с ограниченным инфинитезимальным
оператором, задаваемым .формулой A).
Теперь пусть траектории процесса (— непрерывные справа ступенчатые
функции. Процесс будет строго марковским (потому что его траектории непре-
непрерывны справа относительно дискретной топологии в фазовом пространстве,
я переходная функция является феллеровской относительно этой топологии).
Процесс будет происходить следующим образом: начинаясь в точке ху он
'будет находиться в ней случайное время х(х) с показательным распределе-
распределением с параметром Я(дг), после чего перескочит в другую точку у = ?-t(*)> не*
зависимую от т(#), с каким-то распределением я(#, Г), Г S X \ {х} (за-
(задачи 4, б* § 9.2); затем движение — в силу строго марковского свойства —
будет происходить так, как если бы частица начинала его в точке у: она будет
в ней находиться в течение показательного случайного времени с параметром
Х(у), и т. д. '
3 а д а ч а 6. Докажите, что X (х) = — А (х, {х} ); п (х, Г) = Рх {gT (x) <=Г}=
= А (х, Г)Д (х) при Г s X \ {x}t К (х) > 0.
Задача 7. Пусть Af(x) = a\f(x+ 1) —f(x)]. Найдите etA. Какое мар-
марковское семейство соответствует этой полугруппе?
X
3 а д а ч а 8*. Возьмем (X, Я) = ([0, 1], % ц), Af (x) =[[f (y)-f (x)) dy;
о
здесь показатель времени пребывания Я (л:) = х, а распределение я (л:, •) в
момент перескока — равномерное на отрезке [0, л:). Докажите, что вероятности
лерехода будут задаваться формулой (соответствующей формуле Р1 = Е 4-
4- tA + t2A2/2\ + ...)
Р (t, х,Т)=*е~ xt6x (Г) + \ te~zt
ГП[0.*)
dz.
3. Рассмотрим вопрос, важный, в' частности, для прило-
приложений.
Как находить по инфинитезимальному оператору стационар-
стационарное распределение для данного марковского семейства} Из
(iP* = ц вытекает, что (л е aD и \хА = О. Итак, дело сводится
к тому, чтобы найти ненулевое неотрицательное решение
*) Для меры со знаком v через |v| обозначается ее полная вариация;
см. Колмогоров и Фомин, 1968, гл. VI, § 5,

200 ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ [ГЛ. W
уравнения \iA = 0 и пронормировать его, разделив на ix(X)
(чтобы мера от всего пространства равнялась единице).
Найдем стационарное распределение для процесса примера п. 5г) §8.1.
Мы нашли (§ 1, п. 2ж)) инфинитезимальный оператор, действующий на функ-
функции (гладкие):
ЛФ (х) = Ф' (х) + х l(f{x) [Ф E) - Ф (х)).
Нужно найти такую меру \х, чтобы (ц, Лф) = 0 при всех ф е Сравн> т. е.
{5} а [Ф @) - Ф (S)] + J ц(«*ж)| Ф'(ж) + _1М_ [Ф (S) - ф (ж)] |=0,
Выберем ф (S) == 1, ф (х) == 0, х е [О, со); получим
со
J 1 Г \Л)
X
Теперь возьмем ф (S) = 0, ф (х) ===== Ч -ф (у) dyt где а|э — произвольная не-
о
прерывная функция, отличная от нуля лишь на конечном отрезке; получим
оо оо _. X -,
L о J
в правой части:
5 () *) *у-
0 0 l-r/ J
Так как функция ф — произвольная из Сфин, то меры совпадают и
J (дс) |i (dx) J
о о
Изменяем порядок интегрирования в правой части:
Плотность ^ меры р, по мере Лебега удовлетворяет уравнению
ИЛИ
Решаем это уравнение: -^гАг в \~1. р (ц\ * 0ТКУАа 5 (^) = с * A ""

10 3] СВЯЗЬ С МАРКОВСКИМИ ПРОЦЕССАМИ 201
Итак, \i (Г) = с • \ [1 — F (x)] dx для Г s [0, сю). Находим |х {?}:
Найдем меру от всего X = {S} U [0, оо):
li{S} + ii [0, сю) - с (а-* + J [I _ F (х)] dx).
оо
Но \ [1 — F (x)] dx — не что иное, как математическое ожидание т вре-
о
мени обслуживания. Вывод: если т = оо, стационарного распределения нет?
если т < оо, то м-{^} = a~l/(a~l + m), а на [0, оо) стационарное распределе-
распределение задается плотностью (а*1 + т)'1[\ —F(x)].
Задача 9. Найдите стационарное распределение для марковского се-
семейства задачи 7 § 10.2.
Задача 10*. Пусть имеется система массового обслуживания с одним
каналом обслуживания, с очередью. Поток поступающих заявок — простей-
простейший, с плотностью а; время обслуживания — показательное, со средним т
(т. е. с параметром т). Тогда число It заявок, находящихся в системе
(т. е. обслуживаемых или стоящих в очереди) в момент t, — цепь Маркова
с непрерывным временем с такой инфинитезимальной матрицей: {ац)\аг, t+i =
= a, i = 0, 1,2, ...; ait г-i = яг1, аи = —-(а + т), /=1,2,...; а00 = —а
(остальные — нули). Докажите, что при am < 1 существует предельное рас-
распределение {qf, /==0, 1, 2, .. .}, <7у>0, J] Qf= *: 1*т ^ (*» *» {/} ) = <7/ ПРИ
ат^ 1 распределение числа заявок в очереди уходит при /->-оо на бесконеч-
бесконечность: lim Р (/, /, [Ny со)) = 1 для любых натуральных Nt i.
t->oo
4. Представляет интерес нахождение математических ожи-
ожиданий и распределений различных функционалов от траекторий
t %
процесса, таких, как /(?*), }g(ls)ds, f(|t), ^g(yds, где т —
о о
момент первого достижения какого-нибудь множества Г, и т. п.
В виде математических ожиданий такого рода функционалов
могут быть представлены и вероятности разных событий, свя-
связанных с процессом; например, вероятность того, что %t достиг-
достигнет множества Fi раньше, чем Гг, — это математическое ожида-
ожидание 5СГ \г (?т)> где т — м°мент первого достижения множества
Г! U Г2!
Здесь мы рассмотрим более простой случай функционалов,
связанных с неслучайным моментом t; задачи, связанные с мо-
моментами первого достижения множества (выхода из области),
мы рассмотрим, для диффузионных процессов, в гл. 13.

202 ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ [ГЛ. iff
Математическое ожидание и (t, х) = MJ (lt) = P*f (x) можно
найти как единственное (ограниченное) решение уравнения
^^ x), t>0, xt=X, B)
с начальным условием
и@, x) = fW C)
(во всяком случае, когда начальное условие f^DAy см. § 10.1;
единственность ограниченного решения u(t, #) = P*f (x) вытекает
оо
из того, что преобразование Лапласа vK(х) = \ е~ыи (t, x) dt
о
удовлетворяет уравнению Xvx — Avx = f, а его решение един-
единственно: vx = RJ). Эта задача, в сущности, — не что иное, как
задача о нахождении распределения значения %t для процесса,
начинающегося в произвольной точке х, т. е. о нахождений
переходной функции по инфинитезимальному оператору.
Далее, рассмотрим функцию v (t, х) ±= Мх [ g (ts) ds =
t
= \ Mxg{ls)ds= \ P<!g(x)ds (It предполагается прогрессивно из-
о о
меримым относительно #"<*)•
Задачами. Докажите, что для g е Во функция v — единственное ра-
растущее не быстрее, чем линейная функция от t, решение задачи
2°SL*L~Av(t,x) + gW, D)
v @, х) = 0. E)
Задачи B) — C) или D) — E), может быть, трудно решить,
но это — задачу привычного для нас типа.; например, если А —
дифференциальный оператор, это задача Коши для уравнения
в частных производных. Но как подойти к вопросу о нахождении
распределения \g(^s)ds? Задача будет решена, если" удастся
( * \
найти характеристическую функцию М*ехр yz ^ g (ls) ds r . Сов-
местное распределение \g(?5)d.s и lt будет найдено, если мы
о
научимся находить M^exp

$ 10 3] СВЯЗЬ С МАРКОВСКИМИ ПРОЦЕССАМИ 203
Мы возьмемся за более общую задачу нахождения функции
w (t, х) = Мх ехр | J с (У ds J / (h) F)
для комплексных или действительных функций с и f — безраз-
безразлично (предыдущая задача получается из этой при с(х) =
ig{),f() )
Теорема. Пусть (?*, Рх) — равномерно стохастически не-
прерывное марковское семейство, на метрическом фазовом про-
пространстве X, функция f^DA, с — ограниченная равномерно не-
непрерывная функция (с^Сравн). Тогда функция ад, определяе-
определяемая формулой F), — единственное растущее не быстрее, чем
eat, решение задачи
дш(*; Х) = Aw (t, x) +c(x)w (t, x), G)
w@,x) = f(x). (8)
Доказательство будем проводить с использованием из-
известных уже нам сведений ив теории полугрупп. Определим ли-
линейные операторы Р*, t^O, формулой
Это будут линейные ограниченные операторы: \\РЧ\\ ^ eatt где
<% = sup Rec(x). Они образуют полугруппу. Действительно,
X
ft+8 \
Р *+'Нх) = м, ехр ] \ с (Ы du \ f (h+s) =
= MJBMjexp|jc(gj?te+ \ сFJrfa Jf (Б*+,) l^<*J =
Условное математическое • ожидание, по марковскому свойству,
t
равно w (s, Ь) = Psf &t). Отсюда P^sf (х) = Мхехр]]с &и) du \ X

204 ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ [ГЛ. 10
Обозначим инфинитезимальный оператор полугруппы Р*
через А. Докажем, что Dj = DА и на этом множестве Af =
= Af + cf. Имеем
lim ГЧР7 —f)=Hm rl{Pff — Pff)+l\m r^P'f — f)- (9)
Прежде чем продолжать доказательство, предложим читателю получить
более простой результат самостоятельно.
Задача 12. Докажите, что || Pff — Pff ||< (et ll c " — l) ||/||. Пользуясь
тем, что Pff -— f = (Р*/ — Р^) + (Р*/ — /), выведите отсюда, что полу-
полугруппа Рг сильно непрерывна на том же самом пространстве 2?0, что Р', и
только на нем.
Теперь докажем, что 1-1(РЦ(х) — Pff(x)) равномерно по х
сходится к с (х) f(x) для всех |еВо; это покажет, что крайний
левый и крайний правый пределы в (9) существуют или не
существуют одновременно, а если существуют, то отличаются
на cf. Имеем
(y A0)
(кстати, эта формула решает задачу 12). Далее, интеграл
\c(ls)ds не превосходит *||с||, так что exp \ \c(ls)ds >— 1 =
о lo J
t
= \с (h) ds + О (t2) при t \ 0, где О (t2) равномерно по всем траек-
о
ториям. Отсюда разность A0) равна М^ \c(ls) ds • /(?,) + O(t2)
о
равномерно по х. Так как f^B0, то Mxf(li)->f(x) (t I 0) равно-
равномерно по л: и
t
MJ-1 \jc(x)ds-f (lt) = с (х) MJ (lt) -+c(x)f (x)
0
тоже равномерно. Значит, остается доказать, что
t
М*Г' \[c(ls)-c(x)]ds-f(b)->0 A1)
о
равномерно по х^Х.
Пусть дано е > 0; выберем б > 0 так, чтобы \с(х) — с(у)\<
<е/2||/|| при р(х, */)<^6. Разобьем математическое ожидание

§ 10.3] СВЯЗЬ С МАРКОВСКИМИ ПРОЦЕССАМИ 205
в A1) на два слагаемых: интеграл по событию { sup p (х, ls) <! 6}
0 <s<*
и по событию { sup р (х, ls) > б}. Первый не превосходит е/2,
второй оценивается сверху выражением
2|кН1/11-РЛ sup р(х,
Но из леммы § 9.1 следует, что
Рх{ sup
0<<
Отсюда вытекает, что математическое ожидание в A1) меньше е
при достаточно малых t сразу при всех ^gI
Это доказывает D% = DAJ Af = Af + cf.
Теперь, если sup Re с (x) ^ 0, то полугруппа Р* состоит из
x _
сжимающих операторов и w {t, x) = Pff(x) — единственное огра-
ограниченное решение уравнения -^- = Aw (= Aw + cw) с начальным
условием w \t=0 = f.
Если же sup Re с (х) > 0 или мы интересуемся решениями,
х
растущими, но не быстрее экспоненты, то берем достаточно
большое положительное а и рассматриваем
wa (/, х) = e~**w (/, х) = М,, exp | J [с (У - a] ds I f (?,).
Это,— единственное ограниченное решение задачи ™а = Awa
~f ce~atw — ae~atw, или -^- = Aw + cw, w k.o = f•
Теорема доказана.
Задача 13*. Для цепи Маркова с непрерывным временем на К = {1,2}
с инфинитезимальной матрицей f J (т. е. цепи задачи 3 § 8.3) най-
найдите характеристическую функцию времени, проведенного в состоянии 1 до
момента t.
t
Заметим, что для нахождения распределения \ g (gs) ds можно обой-
о
I г 1
тись только действительными функциями, вычисляя М^ ехр \ К \ g (ls) ds ?
^ 0 '
при действительных Я.

206 ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ [ГЛ. 10
Уравнение G) (с начальными условиями (8)) позволяет явно найти рас-
распределения различных функционалов, например, от винеровского процесса,
t
в частности, \xf » mes ( [0, t] f| {s: w >0} ) = \ %@> oo) (ws)ds- He будем при-
o
водить соответствующих сложных выкладок; вывод распределения \it можно
прочесть в книге Гихмана и Скорохода, 1965, гл. VIII, § 5.
Задача 14*.'Напишите выражение в виде математического ожидания
функционала от траекторий, решающее задачу—^ ' =Aw (t, x) +c(x) w (t, x) +
+ g{x)t w@,x) *f()
5. Задача 15. Пусть %t прогрессивно измеримо, fsZK, Докажите,
t ' A
что f (It) — \ Af (ls) ds — мартингал относительно семейства а-алгебр ST^t
о
о
й каждой из вероятностных мер

Глава 11
Диффузионные процессы
§ 11.1. Что такое диффузионный процесс?
1. Прежде всего скажем, что, в противоречии с введенной
нами терминологией, под диффузионным процессом мы будем
понимать, точно говоря, не случайный процесс, а некоторое
марковское семейство случайных процессов.
Более точными были бы термины «диффузионное семейство» или «семей-
«семейство диффузионных процессов». Но первый из них был бы не понятен ни-
никому, кто знаком с теорией диффузионных процессов, и читатели этой книги
оказались бы в положении людей, говорящих на не известном никому языке;
а «семейство диффузионных процессов» — хороший термин, но только, ска-
скажем, для множества диффузионных процессов, чьи переходные вероятности
зависят от какого-нибудь параметра и: Ри (t, x,T).
Диффузионные процессы — это, грубо говоря, те марковские
семейства, инфинитезимальные операторы которых суть диффе-
дифференциальные операторы, строго марковские семейства, траек-
траектории которых непрерывны. Примером диффузионного процесса
может служить семейство винеровских процессов, выходящих
ив всевозможных начальных точек.
Почему «грубо говоря»? Дело в том, что даже для такого
случая, как семейство винеровских процессов в Rr (г>1),
инфинитезимальный оператор в точности не совпадает с у А
(Д — оператор Лапласа), так что соотношение инфинитези-
мального оператора и дифференциального оператора нужно
уточнить. Можно по-разному уточнять, ослаблять, усиливать .
требование непрерывности траекторий. Кроме того, в уточне-'
нии нуждается и то, требуем ли мы в определении чего-то од-
одного, свойств инфинитезимального оператора или непрерывно-
непрерывности» траекторий, или требуем и того и другого. Эти свойства,
как мы видели, близки друг к другу, но все же не совпадают;
поэтому мы можем, варьируя их сочетания, получать близкие
друг к другу, но все же разные определения.
Уточнения определения диффузионного процесса могут про-
производиться в разных направлениях, так что нет единого стан-
стандартного определения диффузионного процесса, а есть различ-
различные рабочие определения, или, можно сказать, имеются опре-
определения разных классов диффузионных процессов,

208 ДИФФУЗИОННЫЕ ПРОЦЕССЫ [ГЛ. U
Название диффузионные процессы объясняется тем, что они являются ма-
математическими моделями движения отдельной частицы в процессе диффузии —
проникновения одного вещества в другое за счет беспорядочного движения
молекул — и в ряде других, сходных с диффузией физических процессов. Из-
Известно, что количественная сторона таких процессов хорошо описывается
с помощью дифференциальных уравнений с частными производными; с другой
стороны, траектории реальных физических частиц, естественно, непрерывны.
Диффузионные процессы оказываются полезными также при изучении со-
совершенно других явлений действительности; в частности, они возникают как
предельные для дискретных моделей, описывающих различные биологические
явления, такие, как изменение с течением времени численности особей опреде-
определенного биологического вида или концентрации гена в популяции.
Теория диффузионных процессов, естественно, тесно связана с теорией
дифференциальных уравнений в частных производных, причем эта связь — дву-
двусторонняя. С одной стороны, результаты из теории дифференциальных урав-
уравнений можно применять к диффузионным процессам (см. гл. 13), с другой —
рассмотрение диффузионных процессов позволяет получить некоторые резуль-
результаты, касающиеся дифференциальных уравнений.
Одно из применений диффузионных процессов к дифференциальным урав-
уравнениям— приближенное решение уравнений методом Монте-Карло: процесс
моделируется при помощи той или иной стохастической процедуры, и мате-
математические ожидания функционалов от реализации процесса находятся при-
приближенно как средние арифметические по большому числу независимых
реализаций.
2. С диффузионными процессами могут быть связаны дифференциальные
операторы не выше чем второго порядка. Легко установить, что если диффе-
дифференциальный оператор содержит с ненулевым коэффициентом, скажем, третью
производную /"', то он не удовлетворяет принципу максимума: можно найти
функцию, имеющую в некоторой точке Xq абсолютный максимум, в то время
как значение оператора в этой точке положительно. Значит, оператор может
содержать лишь производные первого и второго порядков (члена c(x)-f(x)
не должно быть, потому что инфинитезимальный оператор должен удовлетво-
удовлетворять условию Л1 зз 0), т. е. иметь вид -^- a (x)f" (х) + Ь (х) f (x) или, в много-
многомерном случае, — / at] -г— + / Ь1 ——г. (К чему здесь множитель 1/2,
1 *-г? дх1 дх* *-* дхь
мы скажем в следующем параграфе.) Принцип максимума не позволяет
также коэффициентам быть произвольными, а именно, матрица (а*'(х)) должна
быть неотрицательно определенной при любом х (в одномерном случае про-
просто я^О). Таким образом, дифференциальный оператор, связанный с диф-
диффузионным процессом, должен быть эллиптическим оператором второго по-
порядка или «вырождающимся эллиптическим», т. е. обращающимся в каких-то
точках или даже всюду в параболической (или гиперпараболический, или даже
вообще в оператор первого порядка).
В этой книге мы ограничимся рассмотрением диффузионных
процессов во всем пространстве Rr. Дадим точное определение.
Марковское семейство (^, Рх) на фазовом пространстве
(Rr, $r) мы будем называть диффузионным процессом в Rr,
если
а) его инфинитезимальный оператор определен на всех фи-
нитйЫх дважды непрерывно дифференцируемых функциях
(разумеется, не только на них: например, DA всегда содержит
тождественную единицу) и существуют непрерывные вектор-

§ 11.2] ОБРАТНОЕ И ПРЯМОЕ УРАВНЕНИЯ КОЛМОГОРОВА 20&
ная функция {ЬЦх)) и матричная (а^(х)) (матрица (а^(х))
при любом х симметрична и неотрицательно определена) такие,
что для /
б) все его траектории непрерывны.
Дифференциальный оператор L будем называть производя-
производящим оператором диффузионного процесса.
Возможность удовлетворить условию б) почти следует из условия а).
Действительно, компактифицировав RT добавлением одной точки оо, полу-
получаем марковское семейство, удовлетворяющее условиям микротеоремы 2
§ 10 3; его траектории могут быть выбраны непрерывными. Но непрерывность
траекторий в компакте Rr U {оо} не означает непрерывности траекторий перво-
первоначального процесса в Rr\ траектория может уйти на бесконечность и прийти
из бесконечности. Таким образом, сущность строгого требования непрерыв-
непрерывности б) состоит в запрещении ухода на бесконечность — выхода на границу
области, в которой задан процесс.
§ 11.2. Результаты Колмогорова. Обратное
и прямое уравнения
В этом параграфе излагаются в переработанном виде ре-
результаты, содержащиеся в §§ 13, 14 работы А. Н. Колмогорова
«Ober die analytischen Methoden in der Wahrscheinlichkeits-
rcchnung», Mathemat. Ann. 104 A931), 415—458 (русский пе-
перевод: УМН, V A938), 5-41).
1. Пусть на Rr заданы непрерывные функции a^(x)t ЬЦх),
i, /= 1, ..., г; пусть L — соответствующий им дифференциаль-
«й оператор: Ц = ± ? „«-^+?„¦ А.
If I i *
Теорема 1. Пусть (%t, Р*) — марковское семейство на
\Rr,88r) такое, что при любом е>0 равномерно по х выпол-
выполняются следующие соотношения:
P(t, х, Ve(x)) = o(t), A)
\ [у1 -xl)P(t, x, dy) =bl(x)-t + o(t), B)
5 (У1 ~ *') (У1 -х')Р (/, х, dy) = a11 (*)•* + о @ C)
Ue (х)
при ?->0 (здесь Ue(x)— е-окрестность точки х, Ve(x) — ее до-
дополнение). Тогда инфинитезимальный оператор этого марков-
марковского семейства определен на всех функциях f из CpLa (то есть

210 ДИФФУЗИОННЫЕ ПРОЦЕССЫ , [ГЛ 1Г
ограниченных и равномерно непрерывных вместе со своими
частными производными первого и второго порядка) и на них
он равен Lf.
Прежде чем доказывать теорему, поговорим о смысле условий A) — C),
Первое из них — достаточное условие для существования марковского семей-
семейства с данными переходными вероятностями, с непрерывными траекториями.
Легко доказать, что при условии A), если B) и C) выполнены при каком-то
одном положительном е, то они выполнены и при всех 8 > 0. Выражения
в левых частях B), C) —не что иное, как «урезанные» математические ожи-
ожидания и ковариации M^gJ — я*), М^ (gj — **) (|| — *^) (собственно, для
получения ковариации нужно еще вычесть произведение математических ожи-
ожиданий, но оно имеет порядок O(t2) = o(t)). Условия B), C) означают, что
.эти величины имеют первый порядок относительно t при малых t. Коэффи-
Коэффициенты пропорциональности Ь{(х), а{Цх) поэтому называют локальными мате-
математическими ожиданиями {локальными средними) и локальными ковариа-
циями (в одномерном случае, а также при i = j — локальными дисперсиями).
Другие названия: для коэффициентов bl(x)—коэффициенты переноса (или
сноса, или дрейфа] или вектор Ь(х) называют вектором переноса)) для мат-
матрицы а{Цх)—матрица диффузии (в одномерном случае а(х)—коэффициент
диффузии). Эти названия связаны с физической интерпретацией диффузион-
диффузионных процессов. Для броуновского движения в однородной и изотропной среде,
когда на частицу не действуют никакие посторонние силы, кроме ударов мо-
молекул, естественно считать коэффициенты диффузии и переноса не завися-
зависящими от х и инвариантными относительно вращений, т. е. b(x)=sQr
(а*э(х)) ?= а-Е\ это означает, что такое однородное симметричное броунов-
броуновское движение с точностью до множителя — винеровский процесс.
Доказательство теоремы. Пусть /sCp2iBH, б — про-
произвольно малое положительное число. Выберем г > 0 так, что-
чтобы приращения всех вторых частных производных / на от-
отрезках длины, меньшей е, были меньше б; по этому е выберем
h > 0 так, чтобы при t <c; h все o(t) в A) — C) были по абсо-
абсолютной величине меньше, чем б-?, для всех х. Воспользуемся
разложением Тейлора:
2 i,
где | a | = | a (#, y)\< -^-б при | у — x |< e. Подставим это выра-
выражение в формулу
P'f(x)= \P(t9x,dy)f(y) =
Rr
f(y)P(t,x, dy)+ ] f(y)P(t,x,dy)9
Ub[x) VQ(x)

§ 11.2] ОБРАТНОЕ И ПРЯМОЕ УРАВНЕНИЯ КОЛМОГОРОВА 211
вернее, в первый интеграл в правой части; получим
P'f(x)-f(x) =
()L i
Us(x)
, x, dy) + 5 lf(y)-f(x)]P(t,x,dy).
В силу B), C) первый интеграл будет равен
i II
плюс слагаемое, не превосходящее
и в силу выбора h этот интеграл будет отличаться от t • Lf (x)
менее чем на
Второй интеграл в силу A) оценивается по модулю величиной
211/11-о@, и ПРИ t^h он не превосходит 2||/||f-6. Значит,
\(-г(РA(х) — f(x)) — Ц(х)\ не превосходит при малых t сколь-
скольких-то б; так как б произвольно мало, то получаем, что эта
разность равномерно стремится к нулю при ?->0, т. е. f^DA
и Af = Lf.
Пример — вычисление инфинитезимального оператора вине-
ровского процесса (задача 4 § 10.1).
В условиях теоремы 1 (gb Px) оказывается диффузионным
процессом с производящим оператором L (если сделать траек-
траектории непрерывными).
2. Условия теоремы 1 слишком ограничительны*); из них,
в частности, вытекает, что коэффициенты Ь{, а^ ограничены во
всем пространстве (иначе для некоторых f^C^Ln оператор L
будет давать неограниченную функцию Lf). Эти условия можно
обяабить, если ограничиться финитными функциями /.
Теорема Г. Пусть (&, Рх) — марковское семейство на
(Rr,$!r) такое, что условия A), B), C) выполняются при t->0
равномерно по х в пределах каждого ограниченного множества^
*) Настолько ограничительны, что мы не смогли привести ни одного кра-
красивого или интересного с точки зрения приложений примера, кроме винеров-
ского процесса,

212 ДИФФУЗИОННЫЕ ПРОЦЕССЫ [ГЛ. 11
и для каждого ограниченного К существует ограниченное мно-
множество К' zd К такое, что
x,K) = o(t) D)
при /->0 равномерно по x^Rr\ К'. Тогда инфинитезималь-
ный оператор определен на всех функциях /sC^L (дважды
непрерывно дифференцируемых финитных) и на них он ра-
равен Ц.
Доказательство. Пусть / — гладкая финитная функ-
функция, обращающаяся в 0 вне компакта К\ выбираем /(' и> /С по
условию теоремы, Нужно доказать, что 1~1(Р^(х) — f(x))-+
->Lf(x) при ?->0 равномерно по x^Rr. В случае х ^ К' дей-
действует доказательство теоремы 1; в случае хф.К* — условие D).
Примеры.
а) Для однородного по времени гауссовского марковского семейства (за-
(задача 4 § 83 в однородном варианте) переходная плотность задается фор-
формулой
р (t, х, у)
a(t)
где m(t), t ^ О, удовлетворяет уравнению m(t + s) = m(t)m(s), a o2(t) свя-
связано с этой функцией уравнением O2(t + s) = m2(t) -g2(s) + o2(s). Можно
доказать, что общее непрерывное решение системы этих уравнений имеет вид
m(t)= ebt!2, o2(t) = аЬ-ЦеМ — Х) при Ь ф 0, G2(t) = at при Ь = 0.
Легко проверяется выполнение условий A) — C) (равномерно в пределах
каждого компакта) и D). Локальное-среднее и локальная дисперсия оказы-
оказываются равными
lim Г~1МХ (lt - д:) == lim t~l (m (t) • х - х) = -^ * х9
а (х) = lim ^M^ (lt - xf %{ e) (lt - х) - lim Г1о2 (t) = a,
производящий оператор Ц {х) =-тг [af" (х) + ^Jt/' (x)],
б) Еще один гауссовский пример, на этот раз двумерный: (wt, §0» где
Wt — винеровский процесс, %t «= |0 + \ ^5 ^. Распределение в момент t при
о
начальной точке w0 = х, g0 «¦ ifr — нормальное, с математическими ожида-
ниями (^, ^/ + ^) и матрицей ковариаций I 2 3 J (см. задачу 19 § 2.1).
Локальные математические ожидания и локальные ковариаций равны произ-
производным этих функций в нуле (интегралы по Ve((x,y)) отличаются от инте-
интегралов по всей плоскости лишь на o(t)). Отсюда Ь1 (х,у) = 0, Ь2(х, у)=х,
аи(хуу) S3 1, а12 = а21 = а22 = 0. Производящий оператор Lf(x,y) =
1 d2f , df n
S=Z~2~T~T + х~д~* Оператор оказывается не эллиптическим, а вырождается

§ 11.2] ОБРАТНОЕ И ПРЯМОЕ УРАВНЕНИЯ КОЛМОГОРОВА 213
в параболический; и соответствующий процесс, как мы видим, — тоже в ка-
каком-то смысле вырожденный: случайность не отпущена ему полной мерой —
вторая координата полностью определяется первой (и начальной точкой).
в) Положим It = ф(о><)> где ф(*)—гладкая возрастающая функция
(ф'(я) > 0), растущая на ±оо быстрее, чем е0*2 при любом с; wt вине-
ровский процесс. Математическое ожидание МХЪ при / > 0 не суще-
существует, но локальное среднее и локальная дисперсия существуют и равны
Ь (х) - Ф" (ф-> (*))/2, а (х) = (Ф' (ф-1 (х№ Ц (х) ~ 1 (Ф'.(ф-! {х)))*Г U) +
+ -jt ф"(ф~! (х)) ? (х). Этот оператор можно представить в виде -k-~zj-j>
где и(х) = ф^)- (Докажите.)
г) Посмотрим, каким диффузионным процессом можно приблизить про-
процесс изменения численности особей какого-то вида (см. § 1). Пусть коэффи-
коэффициенты рождаемости и смертности (среднее число рождающихся и погибаю-
погибающих в единицу времени особей в расчете на одну особь) зависят от общего
числа п особей (потому что от него зависит, хватит ли всем пищи) и равны
соответственно г(п), 1(п). На малом отрезке времени можно считать n(t) « п,
а значит, г и / — тоже приближенно постоянными. При этом естественное
приближение к реальности состоит в том, чтобы считать числа рождений и
смертей за малое время независимыми пуассоновскими процессами с пара-
параметрами П'Г(п),*п-1(п). Отсюда Mn[n(t)—п] « п(г(п)—l(n))-ty а диспер-
дисперсия « п(г(п) + 1(п)L. Получаем Ь(п) = п(г(п) — /(п)), а(п) = п(г(п) +
+ 1(п)); процесс связан с дифференциальным оператором Lf (п) = -^ п(г {п) +
~ty + п (г (п) — I (n)) ~т~* Функцию tiN(t,n)s выражающую ве-
вероятность того, что в момент t (не малый) число особей будет ^N, если все
duN
начиналось с п особей, можно найти как решение задачи Коши: —LuN\
uN @, п) = 1 при п ^ 0 при я > N.
Разумеется, хорошим диффузионное приближение может быть только при
больших п.
3. Теорема 2. Пусть инфинитезимальный оператор диф-
диффузионного процесса определен и совпадает с производящим
оператором L на всех дважды непрерывно дифференцируемых
функциях /, убывающих вместе с производными —А-, —г-
дх1 дх1
дх1 ' дх{ dxi
на бесконечности не медленнее, чем некоторая функция у(х)
(->0 при |л:| —> оо). Предположим, что переходные вероятности
диффузионного процесса задаются плотностью: Р (t, x, Г) =
= \p(t, х, y)dyy где функция p{t,xyy), определенная на
г
(О, оо)Х Rr У\Ягу непрерывна по всем трем переменным вместе
с первой частной производной по t и частными производными
первых двух порядков по х\ хК Пусть, наконец, имеют место
оценки
дР дК д2Р ^пи ,л«/«л E)
dt

214 ДИФФУЗИОННЫЕ ПРОЦЕССЫ [ГЛ. П
где C(t,y) — непрерывная положительная функция на @, оо)Х
X Rr- Тогда переходная плотность удовлетворяет следующему
уравнению:
др (/, х,у) = 1_ у ц {) д>р (t х у) + у | ( dp (t, х у) '
dt 2 ?jj w dxtdxj Lj дхг W
или, короче, -^- = Lxp. (Индекс х означает, что оператор при-
применяется к плотности при фиксированных ty у как к функции
ют х.)
Условия теоремы довольно громоздки, например, требуется,
чтобы плотность и ее производные оценивались функцией
C(tyy)y(x)9 а не просто С(у)(р(х)\ но здесь ничего не поде-
поделаешь, потому что соответствующее распределение при /~>0
•сходится к распределению, целиком сосредоточенному в одной
точке (на языке обобщенных функций: p(t,x,y)->8(y — х) при
/—*0 для любого хе/?г), и плотность не может не расти, когда
/ приближается к нулю.
Доказательство. Прежде всего, оценки E) обеспечи-
обеспечивают возможность производить дифференцирование под знаком
интеграла в формуле
P'f(x)= \p(t, xy y)f(y)dy,
Rr
где f — произвольная ограниченная измеримая функция, обра-
обращающаяся в нуль вне некоторого компакта:
Ш\ f(y)dy.
дх1 дх> J дх* дх* ' Уи ' *
При этом в силу требований, наложенных на плотность, полу-
полученные функции при любом фиксированном ?>0 будут убы-
убывать на бесконечности не медленнее, чем const *ф (х), а значит,
P*f будет принадлежать DA.
Теперь возьмем в качестве / функцию из C$m; она будет
принадлежать DA, а для таких функций —д/ = АР f (x)
(формула D) § 10.1). По условию теоремы, применить опера-
оператор А к функции Pff, убывающей вместе с производными с ука-

§ 11.2] ОБРАТНОЕ И ПРЯМОЕ УРАВНЕНИЯ КОЛМОГОРОВА 215
занной скоростью на бесконечности, — это все равно что при-
применить оператор L; пользуясь формулами G), переписываем,
это уравнение в тккои виде:
или
U,.л д*р«,х,у)
¦ +
Л7Г " " '• дХ>аг1
Функция в квадратных скобках непрерывна по у; раз интеграл
от ее произведения на любую финитную гладкую функцию ра-
равен нулю, то сама функция тождественно равна нулю.
Теорема доказана.
Условия теоремы 2 можно привести к более естественному виду, если*
решить следующую задачу.
Задача 1*. Пусть коэффициенты оператора L удовлетворяют условиям:
Ь1(х) -ф(#)> а1 э(х) • ср(х)-*~ 0 при |#|->оо. Тогда из того, что все финитные-
дважды непрерывно дифференцируемые функции принадлежат области опре-
определения инфинитезимального оператора, причем для них Af = L/, вытекает,
что то же выполняется для дважды непрерывно дифференцируемых функ-
функций /, удовлетворяющих условию: /, df/dx\ d2f/dxldxi = О(ф(х)) при=
|*|->оо.
4. Теорема 2 — перевод на язык дифференциальных урав-
. нений общего соотношения из теории полугрупп dPlfldt = AP*f~
следующая теорема выводится из соотношения dPff/dt = PfAf.
Введем ограничения на коэффициенты о}\ Ь{\ пусть функции
а{э(х) дважды, а Ь{(х) один раз непрерывно дифференцируемы
(ограниченность производных не предполагается). Тогда для
дифференциального оператора определен (на гладких функ-
функциях) формально сопряженный оператор L*:
Теорема 3. Пусть (gt, P«)—диффузионный процесс с про-
производящим оператором L, Предположим, что плотность вероят-
вероятностей перехода обладает непрерывными частными производ-
производными первого порядка по t и первых двух порядков по у\ уК

216 ДИФФУЗИОННЫЕ ПРОЦЕССЫ [ГЛ. II
Тогда переходная плотность удовлетворяет такому уравнению:
^Доказательство. Пусть feC$,H* Тогда f ^ DA и
^^ = PtAf(x) PfLf(x). Записываем это через плотность и
ее частную производную по t, получаем
Разобьем интеграл в правой части на г2 интегралов со вторыми
частнЬши производными и г интегралов с первыми и в каждом
из этих интегралов произведем интегрирование по частям. Для
финитной функции / внеи'нтегральные члены пропадут, и по-
получим
- Z ^7{b'iy)p {t> x>
Это означает, что функция в квадратных скобках тождественно
равна нулю. *
Пример. Для процесса п. 2а) -?- = у [а -^ — by -j- —
Полагая ~^~==^* из (8) получаем уравнение для плотности инвариант»
ной меры относительно меры Лебега: Lyp=*0.
Задача 2. Найдите инвариантную меру для процесса п. 2а) при
b < 0.
5. Уравнение F) называется обратным уравнением Колмо-
Колмогорова, (8)—прямым уравнением Колмогорова или уравнением
Фоккера — Планка. Поясним, с чем связаны названия обратное
и прямое уравнения.
Для неоднородного по времени процесса (?*, Ps> x) можно
доказать аналоги теорем этого параграфа, в которых будут

§ 11.2] ОБРАТНОЕ И ПРЯМОЕ УРАВНЕНИЯ КОЛМОГОРОВА 217
участвовать локальные средние bl(s,x) и локальные коварна-
ции a^(sy х), зависящие от времени. (При доказательстве мож-
можно использовать сведение неоднородных марковских семейств
к однородным — см. конец § 8.5.) Уравнение F) в этом случае
принимает вид
dp {s, х, t, у) _
ds ~
"¦
и уравнение (8) — вид
dp (s, xy t, у) <
dt
> y)p{s> х> '• ^""Е^г^^ у)р(&>*>*>у))-
(Ю)
Первое из этих уравнений связано с дифференцированием по
левому концу временного промежутка, второе — по правому.
С точки зрения теории дифференциальных уравнений урав-
уравнение (9) означает, что плотность вероятностей перехода есть
фундаментальное решение параболического уравнения
ds 2 ^ дхг дх* Y
Действительно, фундаментальным решением называется как раз
функция p{s,x,t,y), s < ty x,y <=Rr, удовлетворяющая при каж-
каждом фиксированном у уравнению (9), требованию регулярно-
регулярности того типа, что наложили мы (условия E) и пр.), и стре-
стремящаяся к 6 (у — х) при sf t (что можно сформулировать так:
\ p(s,xttty)f(y)dy->f(x) при s\t для любой f из Сфин). Иначе
говоря, это функция, при помощи которой представляется в виде
w(s,х) = \ p{syxytyy)f(y)dyy s<Ct, единственное ограниченное
решение задачи Коши для рассматриваемого параболического
уравнения с «конечным» условием u(t—,х) =f(x) (мы говорим
не о начальном условии, потому что уравнение вида -^- + Lu— О
ди ,
решается «вниз», в отличие от уравнения вида -^ — Lu\
ср. § 8,4, п. 7).

218 ДИФФУЗИОННЫЕ ПРОЦЕССЫ [ГЛ. If
Уравнение A0) означает, что переходная плотность яв-
является также фундаментальным решением уравнения -^r = L*v.
В теории дифференциальных уравнений тот факт, что одна и
та же функция р (s, xf t, у) при изменении роли ее аргументов
служит фундаментальным решением двух сопряженных друг
другу параболических уравнений, хорошо известен.
Задача 3*. Для гауссовского процесса Z(/), 0 ^ t ^ 1, с нулевым
средним и корреляционной функцией s /\t — st докажите, что он марковский;
найдите соответствующую переходную функцию; найдита локальные среднее
и дисперсию 6(s,x), a(s,x); выпишите дифференциальный оператор L, связан-
связанный с процессом (переходная плотность будет удовлетворять обратному и
прямому уравнениям с оператором L и сопряженным ему).

Глава 12
Стохастические уравнения
§ 12.1. Стохастические интегралы от случайных функций
1. Пусть на вероятностном пространстве (Q, ЗГ, Р) задана
неубывающее семейство а-алгебр @~t^@~, t ^ 0, и винеров-
, ский процесс wu t ^ О, w0 = О, с непрерывными траекториями,
согласованный с семейством ST\ и такой, что приращения
wu — w% после момента t независимы от а-алгебры STt. (Иначе
говоря,- wt — винеровский процесс, для которого выполняется
марковское свойство относительно семейства а-алгебр &*t\
см. п. 7 § 8.2).
В качестве а-алгебр $Ft можно взять сг-алгебры #%^ = %Гw ^ s^f ил»
&~^t +, порожденные самим винеровским процессом; но для некоторых це-
целей можно использовать другой выбор этих а-алгебр. Например, сг-алгебра &~t
может порождаться произвольной случайной величиной г\ и не зависящим от
нее винеровским процессом: &~t = a(rj; wa,s ^ /). Другой пример: wt — одна
из компонент многомерного винеровского процесса, а a-алгебра $~t порож-
порождается всеми его компонентами вплоть до момента t.
Пусть Т — неотрицательное число или +оо. Мы определим
стохастический интеграл
т
Hf)=\f(t,
для случайных функций f (t, со), прогрессивно измеримых относи-
т
тельно семейства &~t и таких, что М \ | f(t, со) fdt < оо. Пользу-
о
ясь введенной в конце гл. 6 a-алгеброй 3&&0, можно сказать, что
мы определим стохастический интеграл для функций f из
Щ[0, T)XQ,$$~> mesXP).
Теорема 1. Пусть ш/ и ^t — винеровский процесс и се-
семейство о-алеебр, связанные друг с другом так, как описана
выше.
Существуетf и притом единственное, отображение f->I(f)
пространства L2($g~) = L2([Q, Т) X &> ЯЗГ, mes X Р) б про-
пространство L2(Qt Ф~, Р) такоеу что

220 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
а) отображение I линейно: почти наверное I{c\fx + ^2) —
= cj(fi) + c2lШ* где си с2 — константы, fu f2&L2($&');
т
б) отображение I изометрично: М| /(/) р= М \ | f (t, ©) fdt\
о
в) / (лх^ f2)) = Л * (^, — и\) л0**™ наверное, где ц — про-
извольная, измеримая относительно 2Ttx случайная величина,
интегрируемая в квадрате (т.е. т|е!2(^,)), 0^^1^/2^Г.
Ярм эго.и отображение I обладает также следующими
свойствами:
г) случайная величина /(/) п/ш любом f ^L2($&~) изме-
измерима относительно ЗГТ (в качестве ^^ берется a (\J ^"AV
точнее, существует &~т-измеримый вариант стохастического ин-
интеграла Л (\) (ведь I(f)—элемент L2(Q), т. е. не случайная ве-
величина, а класс эквивалентных друг другу случайных величин;
так вот, в этом классе есть случайная величина, измеримая от-
относительно ^""г);
д) М (/ (f) | ^s) = 0 почти наверное, если функция f
обращается в нуль при t < 5; М/(/) = 0 для любой /е
е) М(/(f)/(«f)[y,)=Mjf(ff со)?(f, a,)dt\rs\ почти навер-
наверное, если fug — функции из L2 (J№"), обращающиеся в нуль
при t < 5;
ж) I(f) = 0 почти наверное на множестве Ле^"г, если
f(t, оэ) = О для всех сое Л, t < Г.
Доказательство. Сначала построим стохастический ин-
интеграл для ступенчатых случайных функций на [0, Г). Случай-
Случайную функцию f(t,(d) мы будем называть ступенчатой, если
существуют точки 0 < t\ < ?2 < ... <С tn (неслучайные) на от-
отрезке [0, Т] (tn = Т в случае конечного отрезка, tn < 00 в слу-
случае Г=оо) такие, что f (^, co)= f @, о) при всех fe[0, fi); =
= f(^i, со) при всех *е[*ь f2); ...; = /(*п-ь<о) при. ^е
^ [tn-i, tn); = 0 при / ^ /л (в случае Т = оо). Ступенчатые
прогрессивно измеримые случайные функции — это функции
вида
-. +Чя-1Хг*я_11гя)@, (О
где гH = г\0 (со) — ^"Измеримая случайная величина, <п1 — 5r/i-
измеримая, ..., x\n_x—9ri -измеримая (Л/(®) = /(^> ©))• Об-
Обратно, любая функция вида A) — прогрессивно измеримая сту-
ступенчатая функция. Принадлежность этой функции L2([Q, )Х^)
означает, что все rL2(Q)

§ 12.1] СТОХАСТИЧЕСКИЕ ИНТЕГРАЛЫ 221
Согласно требованию в), для функции Ч?вЗСг*.,* ) О сто"
хастический интеграл можно положить равным только
r).-(wt — ЯУ/.) (или случайной величине, почти наверное рав-
равной этому произведению). Поэтому для ступенчатой функции
следует положить по определению
т п-\
\ f (t, со) dwt = I (f) = ? f (/,, со) (wlM - wu).
0 t=0
Легко проверяется, что это определение корректно (т. е. /(/)
не меняется при добавлении новых точек разбиения), что ото-
отображение / на ступенчатых функциях линейно, что для них
выполняется условие г) (З^-измеримость /(/)). Проверим вы-
выполнение для ступенчатых функций из L2\$3~) условий б),
д), е). Имеем
М | / (/) Р = М [ Z | f (th со) Р (wn+l - щ,J +
+ 2 ReE
Математическое ожидание t-го слагаемого в первой сумме
представим в виде математического ожидания условного мате-
математического ожидания относительно а-алгебры STt^
MM(\f(th *
= М [ \f(th со) Р М ((wu+l - wuy | Риу\ = М | / (th ш) Р (^+I - U)
(пользуемся тем, что 1 / (tiy со) р измеримо относительно &~ц)- Сумма
г
этих математических ожиданий дает \ M\f(t, со) Рdt.
о
С (t, /)-м слагаемым второй суммы сделаем то же, получим
2 Re М [/ (/;, о>) (wtf+l - ш,7) П?^) М (wu+l - wH \ ^)] = 0.
Доказательство д): пусть s = tx; тогда
п-\
1=1

222 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
Представляем i-e слагаемое в виде условного среднего от
условного среднего относительно а-алгебры &~ti^iF8; получаем
М[М (f (f,, со)(wti+l -wu)\ ГиI5г5] =
= M [f (*„ со) M (wii+l - wt. |Pu)[ ^-J = 0 (п. н.)-
Задача 1. Докажите е) (для ступенчатых функций).
Теперь изометрическое линейное отображение / множества
ступенчатых случайных функций fel2([О, Т) X Q, $У>
mesXP) в L2(?2), как обычно, продолжается по непрерывности
на замыкание множества ступенчатых функций в L2([0, Г)Х
X й) и получается изометрическое линейное отображение этого
замыкания в L2(Q). (Мы не можем сделать ничего другого,
если хотим, чтобы выполнялось условие б).) Напомним, как
производится продолжение по непрерывности: если случайная
функция / является пределом в L2([0, Г)ХЙ) ступенчатых про-
прогрессивно измеримых функций /п, то последовательность fn в
L2([0, Г)ХЙ) фундаментальна; значит, фундаментальна и по-
последовательность I(fn) в L2(Q) (расстояния между элементами»
в ней те же), а так как пространство L2(Q) полно, то суще-
существует
Чтобы завершить построение стохастического интеграла,
нужно доказать, что замыкание множества ступенчатых слу-
случайных функций в JL2([0, Г)ХЙ, &!F, mesXP) совпадает со4
всем этим пространством.
Задача 2. Рассмотрим пространство L2 = jL2([Q, Г)) функ-
функций, интегрируемых в квадрате относительно меры Лебега на
отрезке от 0 до Т. Для / е L2 и h > 0 определим ступенчатую
функцию fh: fh(t) = O при 0<^<Л и при t*^h~\ fh(t) =
kh
= h~l \ f(s)ds'upn kh^t < (k+ l)hAfi~\ Докажите, что
(k-\)h
fh~~*f (hiO) в смысле сходимости в среднем квадратическом.на
т т
[О, Г), причем J | fh (t) P dt < J | f (t) P rf/ при всех /г.
О О'
Теперь для случайной функции f^L2(${F) рассмотрим по-
последовательность ступенчатых функций fn(t, 0), определяемых
kin
как п \ f(s9 <u)ds при k/n ^ / < (fe + l)/n, причем если этот
(fe-D/rt
интеграл расходится, мы заменяем его нулем. Согласно теореме
Фубини этот последний случай может иметь место лишь с веро-

§ 12.1] СТОХАСТИЧЕСКИЕ ИНТЕГРАЛЫ 223
ятностью 0, причем интеграл является функцией от со, измери-
измеримой относительно а-алгебры #"*/л. Это означает, что fn —
ступенчатые случайные функции из L2 ($&~). Согласно задаче 2
т т т
$1 /nft со) рЛ< \ \f(t, со) fdt и \ | fn(t, со) -/(*, со) рЛ-*0(/1-»оо)
О 0 0
для всех тех со, для которых функция /(•,©) интегрируема
в квадрате. Отсюда по теореме о мажорируемом предельном
т
переходе получаем, что М \ | fn (t, со) — / {t, со) |2 dt->0.
о
Стохастический интеграл построен. Остается показать, что
при продолжении по непрерывности сохраняются свойства
г)—ж). Для свойства г) это просто; сохранение д) и е) прове-
проверяется почти одинаково. Для е) требуется проверить, что
A Lo J
для любого Л е УВу если f, g ===0 при ^ < 5. Для ступенчатых
функций B) нам известно. Определим /n, gny как было указано
выше; fn = gn — 0 при f < 5, так что
J ' (/я) / (fifj Р №>) = J h fn ft CO) grt (ff CD) Л
л л Lo J
C)
Правая часть (З) отличается от правой части B) не более
чем на
АО АО
Т
ИГ Г
J J n
т
л л
У. D)
Интегралы \ \ не превосходят \ \> и выражение D) не превос-
>0 E)
Л О
т
А 0 Q 0
ходит

224 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
(|| || — норма в L2([0, Г)Х ^); используется неравенство Ко-
ши — Буняковского). Левые части B) и C) отличаются не бо-
более чем на
это опять-таки не превосходит
+ \\Hfn-fn-\\ngn-g)\\- F)
В силу изометричности / выражение F) равно E) и стремится
к 0 при /г-> оо.
Итак, предельный переход в C) дает B).
Задача 3. Докажите, что из выполнения свойства д) для fn (., .) сле-
следует его выполнение для f(., .) = l.i.m. fn (., .).
/l-»oo
Теорема доказана, за исключением п. ж).
Задача 4. Докажите утверждение ж) теоремы,
2. Примеры. Пусть wu t ^ 0, wo — О, — винеровский про-
процесс.
а) Сама функция w% прогрессивно измерима и интегрируема
т т
в квадрате на [О, Г)ХЙ, Г < оо: ^Mw)dt=\tdt = T2/2. По-
о о
J
смотрим, что такое будет \wtdwt. Возьмем разбиение O = fo<
о
< t{ < ... </л_1</п = Г отрезка и ступенчатую функцию
т
f (/, со), равную wt. при tt^t < ^+1. Имеем \ М(/(?, со) — wtfdt =
о
= У \ М (wt — wt.J dt = -у ^ (^-+1 — tiJ. При измельчении
; t io
разбиения эта сумма стремится к нулю, так что
Г л-1
wt dwt = l.i.m. Yj wtt O*i+1 - Щ
i=0

§ 12.1] СТОХАСТИЧЕСКИЕ ИНТЕГРАЛЫ 225
(предел при max(^+1 — tt)->0). Рассмотрим тождество
я—1 п—\
«-1 д-1
2 K+1 - whf+2 2
Левая часть не зависит от разбиения; первая сумма в правой
части сходится в среднем квадратическом к Т (см. § 1.2). От-
Отсюда
т
б) Пусть т — марковский момент; случайная функция
%<т@> равная 1 при /<т и 0 при t ^ т, прогрессивно изме-
измерима (задача 16 гл. 6). Докажем, что если Мт <С оо, то
оо
\
о
%<%{t)dwt=wx (п. н.). (8)
о
Задача 5. Проверьте, что (8) выполняется для марковских моментов,,
принимающих конечное число значений t\t ..., tn.
Теперь для произвольного марковского момента т возьмем
марковские моменты та = дЛ([2пт]-(-1)/2п (см. гл. 6, п. 2).
Они сходятся к т при я —>оо, причем все тп мажорируются слу-
случайной величиной т+1, имеющей конечное среднее. Отсюда
вытекает, что %< t(#)(«) = l.i.m. %<х (.)(•)'> из свойств стохастиче-
стохастического интеграла получаем
оо " оо
С f
\ %<x(t)dwt = \Л.т. \ %<т (t)dwt*=zlA.Tu.wx . (9)
о
С другой стороны,
A0)
в смысле сходимости при всех со. Если одна и та же последо-
последовательность случайных величин сходится в одном и том же
вероятностном смысле к двум случайным величинам, то пре-
пределы почти наверное совпадают. В формулах (9) и A0) речь
идет о разных видах сходимости, причем из сходимости одного
вида не вытекает сходимость другого. Однако из обеих сходи-
мостей вытекает сходимость по вероятности, так что w% и
8 А. Д. Вентцель

226 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
оо
\ Х< х (t) dwt — пределы wx по вероятности. Значит, они сов-
О
падают.
Приемом приведения сходимости в среднем квадратическом и сходимости
при всех (или почти всех) со к «общему знаменателю» сходимости по вероят-
вероятности мы будем пользоваться в следующем параграфе, чтобы устанавливать
совпадение с вероятностью 1 разных выражений со стохастическими интегра-
интегралами.
Из (8) получается интересное следствие: для любого мар-
марковского момента х с конечным математическим ожиданием
Mwx = Ot M (tiytJ= Мт. A1)
Задача 6. Может ли быть, чтобь? для марковского момента т было
Мх = оо; но Mw%, M (w%J конечны? М з.~ г ли при этом Mwx Ф О?
Задача 7. Пусть Л, b — положительные константы, т — первый момент,
когда I т^ | =* Ь V' А + t (в силу закона повторного логарифма (задача 8*
§ 7.2) такое т с вероятностью 1 конечно). Докажите, что Мт = оо при
$ ^ 1. При Ь <С 1, предполагая, что Мт <С °°, выразите Мт через А е Ь*
Задача 8*. Докажите, что IV! т <С оо при b < 1.
3. Задача 9. Пусть прогрессивно измеримая функция
/(?, ю), 0 ^ t <; Т <С сю, непрерывна по t в среднем квадрати-
квадратическом. Докажите, что "тогда
т п-\
^f(t, (o)dwt = U.m.]T f(t?, ^)(mi+l — ml) A2)
О ?=0
Бри измельчении разбиения 0 = t0 < tx < , •. < tn_x < tn == Г.
* В интегральной сумме в A2) f(tit со) нельзя заменить на f(s^, ca), где
st — произвольная точка из отрезка [tit ^ + 1]; например,
l.i.m. / Wj. § Ш/ "--" w/ | ==::;: i Wf -j" 1I2 тг* 1.1 .гп. У w* (Wf ~~ Wf \
t2 T
4. Определим \f(t> &)dwt как \ X^lt ^ @ / Ct ®)dwv 0<^<
ft 0
^t2^T. Легко видеть, что \ = \ — \ почти наверное,
tv о о
Рассмотрим \ f {s, со) dws (со) при /, пробегающем отрезок
о
[0, Т]. Какими свойствами будет обладать этот случайный про*
цесс? Вспомним, что при любом t этот стохастический интеграл
определяется, однозначно лишь с точностью до множеств ве«
роятности 0; поэтому нужно иметь в виду, что можно выбират^
разные варианты этого стохастического интеграла,

5 12.1] СТОХАСТИЧЕСКИЕ ИНТЕГРАЛЫ 227
Теорема 2. Пусть feI2([0, Г)Х^, ^#~, mesXP). Рас-
Рассмотрим случайный процесс
J 0<f<2\
о
Тогда
а) х\и t ^ [О, Г], — мартингал относительно семейства а-ал-
гебр $Ft (в качестве SFшп берется /UVY
б) M(\^~4J\Fs) = M\[\f(uy<u)Uu\&rA (n. я.)
Существует такой вариант выбора случайных величин rif,
что
в) случайная функция %, 0 ^ t ^ Г, прогрессивно изме-
измерима;
г) для почти всех со траектории i)t(&) непрерывны по t на
всем отрезке [0, 7] (б тол* числе и слева в точке оо, если Г=оо).
Доказательство проводится, естественно, следующим
образом. Сначала а)—г) проверяются для ступенчааых функ-
функций; впрочем, а) и б) фактически у нас уже доказаны для
всех функций f^L2(<%&") — они следуют из пп. д), е) тео-
теоремы 1. Затем предельным переходом эти свойства устанавли-
устанавливаются для не ступенчатых f.
Задача 10. Проверьте выполнение в), г) для ступенчатых f.
Пусть теперь fn — такая последовательность ступенчатых
функций из U (%&-), что М \ | fn (*, ©) - f (t, &)?dt< 1/10",
0
г
n= 1, 2, ... Тогда M \ | frt (/, со) — /n+1 (/, со) f dt < 2/10л, и так
о
как V [frt+1 E, 0) — fn E, 0)] <2до5 — мартингал с непрерывными тра-
о
екториями, то согласно неравенству Колмогорова
( \ * * 11
Р \ sup \ L+1 ($> ©) rf^ —\fn (s, со) йш5 ^ 1/2 ? ^
< М К [fn+l (s, о) - fn (s, ю)] йш, /A/2"J < 1/2".
8*

228 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
Так как ряд из этих вероятностей сходится, то по лемме Боре-
ля — Кантелли получаем, что с вероятностью 1 осуществляется
лишь конечное число событий в фигурных скобках. Это озна-
означает, что с вероятностью 1 ряд
t / t t
, <o)dws — iJMs, a>)dws
0 ^0 0
s\ + ...
s\+ ...
• • • +1 \ fn (s> °>) dws — \ fft-i (s, со) do>5
4 0
равномерно сходится на отрезке [О, Г]. Теперь остается выбрать
в качестве нужного нам варианта r\t такой:
t
lim \fn(s, a>)dwSy если последовательность
tt"*°°o интегралов сходится; A3)
О, если она расходится.
Этот предел прогрессивно измерим, и с вероятностью 1 % не-
непрерывно по t как предел равномерно сходящейся последова-
последовательности непрерывных функций. При фиксированном t слу-
случайная величина r\t является вариантом стохастического ин-
теграла \f(s, со) dws-
о
Утверждение г) теоремы можно сформулировать по-другому: если а-ал-
гебры fFt полны относительно вероятностной меры Р, то траектории г|* могут
быть выбраны непрерывными при всех t, со. Действительно, заменим разрыв-
разрывные траектории тождественным нулем; из-за полноты сг-алгебр условие
в) не нарушится.
Утверждение п. 26), касающееся значения Wt в марковский
момент т, переносится на непрерывный вариант стохастического
ОО ОО i . „
интеграла; если М \ \f(s, co)|2ds<oo, тот]т==\ %<x(s)f (s, ®)dwsf
о о
где г]т — результат подстановки т = т(со) в непрерывный ва-
вариант % стохастического интеграла \f(s, &)dws: r\% = цх (fi)) @).
о
В частности, так как стохастический интеграл имеет нулевое
среднее, то Мт]г = 0. ГБолее выразительно, но менее точно:
М

f 12.1J СТОХАСТИЧЕСКИЕ ИНТЕГРАЛЫ 229
5. При построении диффузионных процессов с помощью стохастических
интегральных уравнений (§ 4) нам понадобится выпускать траектории из раз-
разных точек фазового пространства и рассматривать стохастические интегралы
от функций вида f(x;s, со), При этом необходимо заботиться о техническом
требовании измеримости по х: Измеримость по (t, со) мы обеспечили примене-
применением измеримой операции перехода к пределу A3), выбрав быстро сходя-
сходящуюся последовательность fn(m,'). Но для f(x;s, со) в общем случае при-
применить этот прием не удается, потому что мы не знаем, как выбрать последо-
последовательность fn(x\ s, со), сходящуюся быстро сразу при всех х. Эту техническую
трудность мы преодолеваем для класса функций /(•; •, •), удовлетворяющих
некоторым ограничениям.
Пусть (X, 38) — измеримое пространство. Рассмотрим на пространстве
ХХ[0»°°)Х^ функции f(#;tf, со) такие, что для любого t ^ О функция
f(x\s, со) на множество XX [0, flX^ измерима относительно ст-алгебры
^ X i$[o,*]X ^"*; это — функции, измеримые относительно произведения о*-ал-
гебр 38 X 38^.
Теорема 3. Пусть f (x; t, со) — функция на множестве X X [0, оо) X
т
X й, измеримая относительно Ш Х-^ У и такая, что М \ | f (x; t, со) |2 dt <oo
о
при любых х G X, Т <со. Пусть существует функция К (хУ Г)<оэ, х е X,
Т<оэ, такая, что Ni\f(x; t, со) — f (л:; s, со)|2</С(д:, T)-\t — s\ при всех
х s X; s, t^T. Тогда существует вариант стохастического интеграла
t
r\ (x; ty со) =я \ f (x; s, со) dws,
также измеримый относительно $ X &&* и непрерывный по t при почти
есех 0.
Доказательство. Для ступенчатых функций fn $ X ^^-измери-
^^-измеримость и непрерывность по t функции
t
\
О
dws
очевидна. Полагаем fn(x; t, со) = f (x; [10ft/]/10rt, со); r\(x; ty со) =
= lim \ f^ (#; 5, со) ^ш5> если этот предел существует, и 0 в противном
Я->оо J
случае. При любом х с вероятностью 1 имеет место равномерная сходимость
на любом конечном отрезке изменения t.
6. Если wt = (w], ..., о>?) — многомерный винеровский про-
процесс, то для функции / (*, со) — (f{ (t, со), ..., fr (t, со)), /, s L2([0, Г) X
т
X Q> ^^", mes X Р) стохастический интеграл \ f (t, со) dwt я
о
Г г
fttt* <b)dw\ определяется просто как сумма интегралов

?30 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
относительно отдельных компонент:
г Т
? 5 f,с «)<*»{.
Он обладает всеми теми же свойствами; в частности,
М
т г
т г
0 'U*\
7. Можно определить стохастический интеграл от прогрессивно измеримой
т т
функции, для которой М \ | f \2 dt я оо, но \ | f |2 dt сходится с вероят-
о о
ностью 1; такие стохастические интегралы уже не будут мартигналами, но ряд
хороших свойств для них все же останется (см., например, Гихман и Ско-
Скороход, 1965). Мы не будем вводить таких интегралов в этой книге.
§ 12.2. Стохастические дифференциалы. Формула Ито
1. Пусть wt — одномерный винеровский процесс, STt — а-ал-
гебры, связанные с ним так, как было сказано в предыдущем
параграфе. Пусть ?*> t^O, — прогрессивно измеримый случай-
случайный процесс, принимающий значения в (Rl, 381). Мы говоримг
что этот процесс имеет стохастический дифференциал
если
почти все траектории ?<*(ю) непрерывны;
f('>©)> ?(*><о)—прогрессивно измеримые случайные функ*.
ции, f — принадлежащая L2([0, Г)Х^) при любом конечном Г,
g — интегрируемая в первой степени по любому конечному от-
отрезку при почти всех со;
почти наверное при всех t
t
\(s, a>)ds.
Теперь пусть дан r-мерный винеровский процесс wt =
= (до{, ..., wrA и семейство а-алгебр Уг\ определим, что зна-
значит, что /-мерный случайный процесс 1^ = (!},..•, Ц) (почти
все реализации которого непрерывны) имеет стохастический диф-
дифференциал
t, со) dt, A)

§ 12.2J ^ СТОХАСТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЫ. ФОРМУЛА ИТО 231
где f(t, ю) — прогрессивно измеримая матричная функция
(f/(*> «>))> г = 1, ..., /, /=1, ...,>; g--векторная: g(t, g>) =
«=(g'I(/, ш), ..., g (?, ю)).,Запись A) в координатной форме:
1 f/C)M+ ?(, ^ *=L-..>/ B)
(обозначения, принятые при обращении с тензорами: индекс,
встретившийся один раз внизу, один раз вверху, напоминает,
что по нему надо провести суммирование). По определению
A) или B) означают, что
t г t
0 /=l 0
Формулировка примера 2а) предыдущего параграфа на языке стохастиче-
стохастических дифференциалов: d(wtJ = 2wtdwt + dt.
2. Теорема 1. Пусть 1-мерный процесс-^ имеет стохасти-
стохастический дифференциал A) (в другой форме—B)); F(ttx)t
t ^ 0, x^RK — числовая функция, непрерывно дифференцируе-
дифференцируемая один раз по tt два раза по х\ х^ причем частные производ-
производные —т ограничены. Тогда случайный процесс F(t, IA также
дх1
имеет стохастический дифференциал
z u /==l ax ax ftel
Вероятно, читатели несколько подавлены этой формулой.
Покажем, из каких соображений можно прийти к ней. Это,
помимо всего прочего, поможет читателю научиться самостоя-
самостоятельно выписывать эту формулу — и в общем виде, и в кон-
конкретных частных случаях, а также наметит путь доказательл
ства.
В стохастическом дифференциале есть члены Цйт[ поряд-
порядка (dt)l/2 ((wl+dt — wfy нормально со средним 0 и стандартным
отклонением a=^/dt) и члены gldt порядка dt; вводить
ялены более высоких порядков, например (dt)^2, бессмысленно^

232 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
они все равно пропадут при интегрировании (интегральная
сумма из слагаемых порядка (Д03/2, с числом слагаемых по-
порядка (А^) стремится к 0). Выпишем разложение Тейлора
для F(t-\-dt, %t+dt), причем будем брать члены разложения до
тех пор, пока не пойдут члены порядка выше, чем dt. Диффе-
Дифференциал гладкой функции h(t) имеет порядок dt, так что для
нахождения dF(t,h(t)) нужно брать разложение Тейлора
только до членов первого порядка: следующие будут уже по-
порядка (dtJ. Для нахождения дифференциала dF(t,^t) нужно
будет взять, кроме членов второго порядка, еще члены вида
1-Щ7й^1{' а членов ilF{dtJ' ~?hdtdlt и членов
разложения третьего порядка брать уже не нужно — они по-
порядка (dtK/2 или выше. Записываем разложение:
^ + y ^w D)
dxl * 2 ?j dxl dx1 W * V '
i ij
В слагаемых —TdU приводим подобные члены с dw\ и с dU
дх1 ъ 1
Далее преобразуем dlldl{:
dU dli - (Е fl dwf + g* di) (E f/ dw\ + gl di} - g f{f{ dwf dw\
(члены с dw\dt, (dtJ отбрасываем, как бесконечно малые по
сравнению с dt). Произведение дифференциалов dw\dw\ имеет
порядок dt\ но что с ним делать ддлыне? Вспомним, что диф-
дифференциалы нас интересуют только как то, что мы будем ин-
интегрировать. Какие значения следует приписать интегралам
t t
\dw\dwl?
s
Результаты пп. 4, & § 1.2 показывают, что первый интеграл сле-
следует положить равным t — s, а. второй — нулю (это всего лишь
наводящие соображения, но уже ясно, что при доказательстве
нужно будет опираться на результаты пп. 4, 5 § 1.2). Итак,
(dw)y нужно заменить на dt, a dw)dw\ при /гф1 — на 0. По-
Получаем dVt d\\ = Yj fifi dt; подставляя выражения для dl\ и dl\ d\\
в D), получаем C).
Формулируем правило оперирования со стохастическими
дифференциалами: чтобы найти dF(t,\t), записываем разложе-
разложение Тейлора для F(t + dt, g* + dgf) вблизи точки (t,lt) до чле-

§ 12.2] СТОХАСТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЫ: ФОРМУЛА ИТО 233
нов со вторыми производными; само собой, вычитаем из него
F(t9?t). Затем (dtJ, dtdw\, dwhtdw\ с кФ1 выбрасываем, а
(dwffi заменяем на dt. Ну, еще стоит привести подобные члены.
Формула C) была получена К. Ито и называется его име-
именем; она носит также название формулы замены переменных
в стохастическом интеграле (потому что стохастические диф-
дифференциалы, по определению, — сокращенное выражение неко-
некоторых интегральных соотношений).
Примеры рассмотрим после доказательства теоремы.
3. Доказательство теоремы 1 проведем в случае
г == I = I — просто из-за удобства обозначений. Дело в том,
что мы будем рассматривать последовательности функций,
сходящиеся к f(u, со), g(u, со), и в многомерном случае нам
пришлось бы пользоваться громоздкими обозначениями вроде
f){n){u, со), g^n){u, со) *). Итак, требуется доказать:
F (t, lt) - F (s, Ы = $ -fj (и, I.) f («, «) dwu +
S
t
E)
(из предположений теоремы вытекает, что стохастический ин-
интеграл имеет смысл).
Возьмем последовательность ступенчатых функций f<n> e
eL2(J^Sr), сходящихся к / в этом пространстве, и последова-
последовательность ступенчатых прогрессивно измеримых $пЦи,(о), схо-
сходящихся при почти каждом со к g(u, со) в среднем в первой
степени на отрезке [0, t) (как это делается для f, показано
в предыдущем параграфе; та же конструкция приводит к нуж-
нужному результату и для g). Положим
t
J f{n) (и, ©) dwu + \ g<»> (u, со) du.
о в
Задача 1. Докажите, что Q*\ O^s^.t, равномерно схо-
сходится к ls по вероятности в том смысле, что для^ любого в > О
*) Впрочем, доказательство со всеми формулами годится и в многомер-
многомерном случае, если понимать под g, g^n\ -г— векторы, а под f, fn\ ^ 2
матрицы и множить их в нужном порядке, транспонируя то, что следует,

234 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ {ГЛ. 12
Отсюда вытекает, что достаточно доказать E) лишь для
ступенчатых функций. Действительно, пусть доказано, что
F (t, ?«»>) - F (s, 6J»>) = \ -дд~ (и, ?<„»>) /<»> (и, со) dwa +
S
t
При /г->оо левая часть F) сходится по вероятности к левой
части E). Стохастический интеграл в правой части — тоже,
и даже в среднем квадратическом. Действительно,
М
t
5 If (и,
s
t
OX V
IT1)/""
(a,
*
со)
f(u, a>)dwu
iu)f(u,«>Jc
G)
Среднее под знаком интеграла здесь не превосходит
-|f (я, 6J»)) f | /<«) (и, ш) - / (и, со
2М
Первое математическое ожидание не превосходит const X
X М | f{п) {и, со) — f {и, со) |2, и интеграл \ от него стремится
к 0. Во втором математическом ожидании первый сомножитель
сходится к нулю по вероятности, и оно стремится к 0 для всех и,
для которых случайная величина const • \f(u, со) |2, мажори-
мажорирующая всю последовательность, имеет конечное среднее, т. е.
для почти всех и. Интеграл от s до I также стремится к нулю
по теореме о мажорируемом предельном переходе. Итак, вы-
выражение G) стремится к 0 при я-*оо.
Что касается обычного, не стохастического интеграла в пра-
правой части F), то он сходится к соответствующему интегралу
в E) по вероятности; но мы не будем доказывать в точности
это, а покажем, что некоторая подпоследовательность этих ин-
интегралов с номерами nh->oo будет сходиться с вероятно-
вероятностью 1/ Последовательность nh мы выберем так, чтобы

§ 12.2] СТОХАСТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЫ, ФОРМУЛА ИТО 236
t
\\f(nb)(ut to) — f(u, <d)\2du-+0 не только в среднем, но и а
о
вероятностью 1 и чтобы l\?k^-*la равномерно по а<< также
с вероятностью 1 (для этого достаточно выбрать fik так, чтобы
? Р { max I 6<"*> - L > 1/2*} < оо\ Функции gK> (и, ш)
с вероятностью 1 сходятся в среднем в первой степени к
g(u, со) уже по нашему первоначальному предположению. При
этом с вероятностью 1 функция под знаком не стохастического
интеграла в F) с номером пк сходится в среднем при &->оо
к такой же функции в E), а из этого вытекает сходимость
интегралов.
Раз,левые и правые части F) с номерами nk сходятся по
вероятности к левой и правой частям E), то из F) получаем,
что почти наверное выполнено E).
Итак, будем доказывать E) для ступенчатых f, g. Доста-
Достаточно доказать эту формулу для одной ступеньки, т. е. для
случая, когда f{u, а>)г=зг)((о), g(u9 со) = ?(о) при s ^ и < t, ц
и ? измеримы относительно #%, М|т]|2<оо. Требуется дока-
доказать, что почти наверное
hit ь1 i , h I q h 1 —
t
+ J [4f («• S«) + U (и, U • 5 + j ^г (и, tu) • rf] du. (8)
Функция под знаком стохастического интеграла с вероятно-
вероятностью 1 непрерывна по и, а значит, и непрерывна в среднем
квадратическом (так как она мажорируется случайной вели-
величиной const- |r]|eI2(Q)); поэтому
при измельчении разбиения 5 = t0 < ^ < ... < ^n-_i <С ^п = ^.
Из сходимости в среднем в (9) вытекает сходимость по ве-
вероятности (мы заранее переходим к «общему знаменателю»,
потому что из лебеговского интеграла появится сходимость
с вероятностью 1). Представляем F(ttlt) — F(s, |s) в виде
Z[(^+i> hi+l) — F(tit Ц)]; требуется доказать, что хотя бы

236 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
для какой-то последовательности измельчающихся разбиений
л-1
-¦§зк*ь &,)• л-
г=0
%¦ (« W du +
% (« W du + \^- (и, U • Idu + J -j-g-(и, у • tj»d«; A0)
тогда (8) будет доказано. (Мы могли бы вынести ?, ц2 из-под
знаков интеграла, но нам это не нужно.)
Воспользуемся, как мы наметили, разложением Тейлора!
Здесь U — точка между ^ и ^+ь ^ — между g^., Ц+1# Вспоми-
Вспоминая, что 1и = ls+ц- (wu—ws)+? • (a—s), lii+—hi = Ti • (wti+l—wti)+
+ S*(^+i"" h), приводим левую часть A0) к виду
- t,rj\.
я-l n-1
Здесь суммы ?4f(?''*'<+.)'(''+«-*'>' E?(«'^'(('«-«
с вероятностью 1 сходятся к \ -^- (t/, |e) da, \ -gj (t/, gJ • 5 du,
s s
хотя первая из них — не интегральная сумма (используем то,
что ступенчатые функции со значением -лг('ь ?*г-м) ПРИ
«е[^, //+1) сходятся к -zf(u9 lu) равномерно по и от s до 0*
Суммы, содержащие (^.+1 — wt.){ti+l — tt)} (tHl — ttf, стремятся

§ 12,2] СТОХАСТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЫ. ФОРМУЛА ИТО 237
к 0 при измельчении разбиения; например, первая из них:
4sZ-S-('i.ii,)K+1-«*,)('*+.-'
max
d2F
max
если maxOfj+i — f*)^ft; и это выражение стремится к 0 при:
А->Ов силу равномерной непрерывности дои, s<!tt^/.
Остается доказать, что для какой-то последовательности
разбиений
Возьмем разбиения, осуществляемые точками вида i/2m (i — целые),
где т=\ для первого разбиения, 2 для второго и т. д. Для
простоты предположим, что s и t двоично-рациональные (ясно,
что достаточно доказать всё только для отрезков с двоично-
рациональными концами). Согласно задаче 5 § 1.2, ломаные
ат(и, со) с вершинами в точках I k/2m, ?
с вероятностью 1 сходятся к и равномерно по we [s, t]. Сумма
в A1) —не что иное, как \Gm{uy (o)dam(u, со), где Gm(u, со)=*
1тт) при */2т<и < (i +Л)/2т. Сходимость A1) с ве-
вероятностью 1 получается из задачи 5 § 1.2 и следующей задачи.
Задача 2. Пусть - ат (и) — последовательность монотонных
функций, сходящаяся к и равномерно по «g[s, t]9 Gm (и) — по-
последовательность функций, сходящаяся равномерно к непрерыв-
непрерывной функции G (и). Тогда \ Gm (и) dam (и) -> \ G (и) du при т-> оо.
S S
Теорема доказана (в одномерном случае).
Единственное, чем нужно дополнить доказательство в много-
многомерном случае, — это проверить, что при k ф1
t
\ @т(и> ю)da%(и> со)—>0 (т-> оо),
S
где а^ (и, со) — ломаная с вершинами в точках
/-1

238 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
Мы можем не приводить отдельного доказательства, а приме-
применить тот же прием, что при решении задачи 9 § 1.2: предста-
представить а*{ в виде a*f(», ю) = йт(и, <*)— \о%{щ а)—[а^(«, ©),
где aj^, a^[, а^—-ломаные, построенные по суммам квадратов
приращений винеровских процессов w\, wlunwu — (до* — wlu)f'\/~2.
4. Теорема 1'. Результат теоремы 1 сохраняется, если даже
частные производные —г не ограничены, но
t
М
du < оо.
_ i—i t-a fir* n -y - * -
0
Доказательство. Нужно доказать, что почти наверное
2
о /=i L^==i
Условие теоремы обеспечивает существование стохастического
интеграла.
Для доказательства возьмем последовательность гладких
функций FN(t9x) с ограниченными частными производными,
таких, что FN(tyx) совпадает с F(tyx) при |jc|^iV. Для них
формула A2) выполнена. Для элементарных событий co^AN=
= { max |?J<Af} имеем FN(t>b) = F(t>h)9 точно так же
dFM dFM dFM
производные —-^, •—f-, —j-^-r в точках (w, gtt), u^tf сов-
падают с соответствующими производными функции F\ по-
поэтому оба интеграла в A2) для функции FN и для функции F
совпадают (лебеговские — потому, что совпадают функции под
знаком интеграла, стохастические интегралы совпадают почти
всюду на AN по той же причине в силу теоремы 1 § 1, п. ж)).
Итак, формула A2) выполнена для функции F почти навер-
наверное на множестве AN. Значит, она выполнена почти навер-
оо
ное и на множестве (J Ац% а это множество содержит все

§ 12.3) РЕШЕНИЕ ПОСЛЕДОВАТЕЛЬНЫМИ ПРИБЛИЖЕНИЯМИ 239
элементарные события, для которых ?s непрерывно, т. е. оно
заполняет почти всё Q: Pi U^jvl^l' Это доказывает
Vjv—1 /
теорему.
5. П р и м е р ы.
а) Для одномерного винеровского процесса d (wtyi=nw1}~1 dwt +
+ Clwr2dty т. е.
t t
wft ~" wo ~ \ nws"] dws + \ C2nw*~2 ds.
о о
б) Задача 3. Докажите, что если fel2 ([О, Т) X й, 9&&~, mes X Р)> то
ехр
о
Задача 4*. Докажите, что если при этом | / (t, со) 1 <С С < оо, то
( * f }
< \ f E, (о) dws —5" \ / E, соJ rfs?- мартингал.
^ о о J
6. Мы рассматривали стохастические дифференциалы для
*е[0, оо). Совершенно так же мы можем рассматривать слу-
случайные функции, обладающие стохастическим дифференциа-
дифференциалом лишь при / е [5, оо) или при t е [tu t2].
§ 12.3. Решение стохастических уравнений
методом последовательных приближений
1. Пусть в пространстве Rr заданы две (измеримые) функ-
функции: о(х), значения которой — квадратные матрицы порядка
г: a(Ar) = (aj.(x)), и r-мерная векторная функция ?(*) =
(Ч) {))
Рассмотрим стохастическое дифференциальное уравнение
dlt = a(lt)dwt + b(lt)dt, A)
или, в координатах, — систему уравнений
Напомним, что уравнение A) по определению означает, что
функция |* прогрессивно измерима и при t ^ s почти наверное
t t
h = h + J or A„) dwu + \b (|e) du. C)

240 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
Ясно, что правильная постановка задачи решения стохасти-
стохастических уравнений должна включать еще задание начальных
условий.
Мы применим к решению стохастических уравнений метод
последовательных приближений. От коэффициентов мы потре-
потребуем, чтобы они удовлетворяли условию Липшица.
Естественно, если не накладывать на коэффициенты о(х), Ь(х) никаких
ограничений, нельзя утверждать ни существования, ни единственности реше-
решения. Здесь та же ситуация, что для обыкновенных дифференциальных урав-
уравнений, и ясно почему: ведь при a ss 0 A) превращается в обыкновенное диф-
дифференциальное уравнение.
Пусть существует константа L такая, что при любых х,
y^Rr
lbi(x)-bi(y)\> |a<(*)-or<@)|<I.|*-jH, *, /=1, ..-, г. D)
Из D) вытекает, что Ъ\ о1, растут на бесконечности не быстрее,
чем | х |: для какого-то К > 0
\Ь*(х)\, |а}(д;)|<КA+|Х:|2I/2. E)
Теорема 1. Пусть выполнено условие D). Пусть слу-
случайная величина г\ со значениями в (Rrt38r) измерима относи-
относительно ?FS и интегрируема в квадрате: М|г)|2<°о. Тогда су-
существует решение стохастического уравнения A) при t^s
с начальным условием %s == т\. При этом М|^|2 конечно и
ограничено на любом конечном участке изменения t.
Доказательство. Определим последовательные при-
приближения формулой
t t
Цп) = п + J а (?<?-") dwu+\b F<»-*>) du. F)
В качестве нулевого приближения возьмем ^0) = т
Докажем прежде всего, что все %{f\ t^s, д=1, 2, .„., дей-
действительно определены.
Задача 1. Пользуясь оценками E), докажите, что если
%n~l\ t^s> — прогрессивно измеримая функция, М jl^1^2 огра-
ограничено на любом конечном участке изменения ty то Qtn) опреде-
определено, прогрессивно измеримо и MJI^j2 ограничено на любом
конечном отрезке.

12.3] РЕШЕНИЕ ПОСЛЕДОВАТЕЛЬНЫМИ ПРИБЛИЖЕНИЯМИ 241
Теперь оценим М||(/*+1)-— ?(/*} |2. При п=0
t t
s
2
+ 2М
Первое математическое ожидание равно ? М (а| (т))J • (/ — s) ^
< г2/С2МA +1 л Р) • (* - s); второе -ZM (Ь1"(ц)J • (/ ~ sJ < r/C2 X
ХМA+1л12)'(^-5J- Итак,
М11«» -1?» |2 < 2^2М A +1 т] р). (г2 (f _ s) + г (* - sJ). G)
Теперь при п > О
I * *
М $ [or (|<«)) - a (I'r'O] dwu + J [6 (!«„»') - b (Ц»-•>)
I
2 Z M (J lbi W -&i FL-'•)]dM) •
Используем условие Липшица:
Первый интеграл в правой части (8) не превосходит
t
L2 \ M |?<f> — Ijf*!2^; для оценки второго интеграла пользуемся
неравенством Коши — Буняковскогр:
М J
8
(t - 5) • J M [ ij' - IJ,"-1' J2

242
Отсюда
СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ
1ГЛ 12
м I 6!f+1) - 1{и]Р<2L2 • (г2 + г (t - s)) • \ М1?<*> -
s
Из G) и (9) находим следующую оценку:
Г!)|2
!)|2da. (9)
< 2L2(r2 + r(t - s)) 2K2- М A +1 л I2)- J [г2 (и - s) + г (и - sJ] rfa.
Здесь (г2 + г(t-s)) \ [гЦи-s) + r(u-sJ]du= (r2 + r(t-s))X
[4l ( s) + r(t-sJ]2/2. Ясно, что
при интегрировании здесь каждый раз будет появляться мно-
множитель l/(«+l). По индукции получаем
< 2К2М A +1 т) р) BL2)" • [г2 (t-s) + r(t- sJ]n+ll(n + 1)!.
Расстояние в пространстве JL2(Q) между $f*l) и ?,[п) не пре-
превосходит
const (LV V^2(/ — 5) + г (f — 5J)л
ряд из этих расстояний сходится. Отсюда немедленно получаем
сходимость последовательности Цп) в среднем квадратическом,
причем равномерную в любом конечном отрезке изменения t.
Более того, &"'{(&) при почти всех со сходится равномерно на
любом отрезке [5, Г]. Действительно,
Р{ max |g(«+i)-^)|^i/2«\<
Первая вероятность оценивается с помощью неравенства Кол-
Колмогорова (ведь стохастический интеграл — мартингал); она не
превосходит

§ 12.33
РЕШЕНИЕ ПОСЛЕДОВАТЕЛЬНЫМИ ПРИБЛИЖЕНИЯМИ
243
Вторая вероятность оценивается с помощью неравенства Чебы-
шёва: она не больше
М 0\ | Ь (ff) - Ь ОГ'>) | duj
(Г-
Так как факториалы стремятся к бесконечности чрезвычай-
чрезвычайно быстро, то ряд из вероятностей A0) сходится;'4 по лемме
Бореля — Кантелли max |^я+1) — g^l < 1/2", начиная с не-
которого ft, ис вероятностью 1 существует равномерный по лю-
любому конечному отрезку предел
(Для порядка, если предел не существует, положим g* равным,
скажем, ц.) Этот предел имеет место также и в среднем квад-
ратическом равномерно по любому конечному отрезку.
Реализации случайной функции ?* с вероятностью 1 непре-
непрерывны; она прогрессивно измерима как предел прогрессивно
измеримых случайных функций; gs = т], так как |^л) = т| при
всех п. Докажем, что It — решение уравнения A), оно же C).
Для этого перейдем к пределу в формуле F). Левая часть
сходится к ?ь интегралы в правой части сходятся в среднем
квадратическом к соответствующим интегралам с |* вместо
|<>
М
М
/ &п)) -
\ М | Б«») - lu f du -> 0,
k)Jdu.{t-s)-+ 0.

244 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
Получаем
t t
Теорема доказана.
Задача 2. Докажите оценку:
2. Теорема 2. Если выполнено условие D), то решение %$
уравнения A) с начальным условием ^ = ц единственно с точ-
точностью до эквивалентности.
Доказательство. Сначала докажем, что если ^ и ^J —
решения A), ls = l's = % M|g,|2, Mj^|2 ограничены на любом
конечном отрезке, то при t^s почти наверное ?j = gr Имеем
t t
s
t
MI l't -1( |2 < max M | %'u -luf- BL2 [r2 (t-s) + r(t- sJ])n/nl
Так как п произвольно, получаем M|gJ —Б/|2 = 0.
Теперь пусть lt, |J, />s, —произвольные решения A), ls =
= l's = т|. Введем марковские моменты т^ = min {t е [5, оо): | \t |+
-j-||J| = iV}; из непрерывности реализаций \t> l't вытекает, что1
почти наверное т#—>оо при N—>оо. Имеем почти наверное
t
Задача З. Докажите, что при всех N9 n
выведите отсюда, что l't = lt почти наверное.
Задача 4. Пусть It — решение A) с начальным условием %s
|j — с начальным условием %s =* т^ • Докажите, что

§ 12.3] РЕШЕНИЕ ПОСЛЕДОВАТЕЛЬНЫМИ ПРИБЛИЖЕНИЯМИ 245
3. Теорема 3. Пусть выполнено условие D). Тогда суще*
ствует функция lt (х; ©) от t е [0, оо), x&Rr, gjgQ, со значе-
ниями в Rr, такая, что
а) при любом t^O функция ?>s(x; со) на множестве [О, /] X
X Rr X & измерима по (s, х, со) относительно а-алгебры $\о t] X
ХХ^
б) при фиксированном х \t(x\ со), t^O, является решением
уравнения A) с начальным условием %0(х; со) = ^:.
Доказательство. То, что решение уравнения A) с на-
начальным условием ?о = х существует, нам уже известно; нуж-
нужно только доказать, что решение можно выбрать определен-
определенным регулярным, измеримым образом. Для этого достаточна
проследить, чтобы все предельные переходы, осуществляемые
при доказательстве, проделывались каким-то одним, регуляр-
регулярным способом.
Часть этой работы мы уже проделали в § 1 (теорема 3)*
Применим эту теорему к нашим последовательным прибли-
приближениям.
Нулевое приближение ?(,0)(-г> со)^д; обладает нужными свой-
свойствами измеримости. Если 1[п)(х; со) обладает этими свойствами,
то они переходят к <rj A\п)(х; со)) и bl(J^(x; со)). Условие
М | а) (?»> (*; 0)) - о) (?<*> (*; со)) |2 < К (х, Т) • | Г- s I
при x^Rr, s, t^T вытекает из условия Липшица: это мате-
математическое ожидание не превосходит
t
L2M | ?<»> (х; (о) - |J») (х; о) |2 <2L2 J] \ М \р\ (Е«,»-п (х; со))]2 du +
M [6' A«Г»(х; со))]2 rf« • (t - s)
* S
max M [ЕЦ1)^; co)|21. (t — s)
(считаем 5^/; при п = 0 эта выкладка не нужна). Из тео-
теоремы 3 § 1 вытекает, что существует вариант стохастического
интеграла
о
обладающий нужными свойствами измеримости. Измеримость
относительно $[o,t]X$rX&~t лебегова интеграла

246
СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ
[ГЛ. 12
вытекает из его непрерывности по верхнему пределу и изме-
измеримости функции под знаком интеграла. Итак,
обладает теми свойствами измеримости, что нужно.
Полагая lt (х; ©) = lim l[n) (х; со), если этот предел существует,
и, скажем, ^(а:;со) = 0 в противном случае, получаем искомый
вариант решения стохастического уравнения*
4. Замечания.
Метод последовательных приближений — не единственный метод, примени*
мый к стохастическим уравнениям; результаты, касающиеся существования,
•единственности, оценок решений, можно получать другими методами, при дру-
других предположениях относительно коэффициентов.
Полученные результаты без изменений переносятся па случай, когда раз-
размерности винеровского процесса wt и решения |* не совпадают (матрица б J
в этом случае не квадратная).
§ 12.4. Диффузионные процессы, задаваемые
стохастическими уравнениями
• 1. Пусть wt—(w\, ..., а>?), t^0, — г-мерный винеровский
процесс, выходящий из 0. Основное вероятностное простран-
пространство будем обозначать (Q, 8Г, Р); пусть а-алгебра У порож-
порождается винеровским процессом: 9r = &'wvf>fr Положим 3^==
= ^ays,s<^; обозначения ^>о, @~^t зарезервируем для а-алгебр
того процесса, который мы построим при помощи стохастиче-
стохастических уравнений.
Предположим, что каждому ©gQ и h ^ 0 соответствует
рЙ такое, что а^(фЛсй)== wt+h((o)—Ш/^со) при t^Q
(рис. 25); это выполнено, например, если в качестве Й рас-
рассматривается пространство всех непрерывных функций, выхо-
выходящих из 0. Так же как для операторов 9^, определяются опе-
операторы ф^, действующие на события, и для случайной

§ 12.4] ДИФФУЗИОННЫЕ ПРОЦЕССЫ 247
величины г| определяется щг\((й) = t)(<P/i(o). Легко видеть, что
поэтому операторы ф^, фл сохраняют измеримость относи*
тельно а-алгебры (Г, а события и случайные величины, изме-
измеримые относительно #~*, переходят в ^Гм^-измеримые. Так как
винеровский процесс имеет независимые приращения, полу-
получаем, что Ф~]Л, Ле^", независимо от любого события из-
а-алгебры #Y, соответственно для любой случайной велц-
чины т|, измеримой относительно &*9 ф*т] независимо от а-ал-
а-алгебры grt.
Задача 1. Пусть f(x, (о) — неотрицательная функция на
Rr\Qy измеримая относительно БГХ^~; положим F(x) =
= М/(л:, со). Тогда для любой ^-измеримой случайной вели-
величины т] со значениями в (Rr, $r) почти наверное
M[f(r)(co), <p,<o)|^] = FD). A)
Отсюда, в частности, получаем
М/(л, Ф*со)=МР(г]). B)
2. Теперь рассмотрим r-мерное стохастическое уравнение
dlt = a(U)dwt + b(h)dt C)
с коэффициентами а (#) = (а* (х)), Ь (х) = (Ь1 (х), ...., Ьт (х))9 удо-
удовлетворяющими условию Липшица.
Построение диффузионного процесса при помощи стохасти-
стохастических уравнений мы разобьем на несколько теорем.
Теорема 1. Пусть g*(x;(o) — решение уравнения C) с на-
начальным условием х, построенное в теореме 3 предыдущего па-
параграфа. Тогда при любых s, h^O, x^Rr почти наверное
%s+h (х\ со) = Ън (Is (х; со); ф5со).
Доказательство. В силу единственности решения сто-
стохастического уравнения (теорема 2 предыдущего параграфа)
достаточно показать, что случайная функция г)/(со) =
= h-s(ls(x', со); фясо) удовлетворяет при t ^ s уравнению C);
тому же уравнению и с тем же начальным условием rjs(co)=*
= ls(x; со) удовлетворяет &(х; со), t ^ «.
Требуется доказать, что почти наверное
s+h s+h
v\s+n (<">) = Is (*'. ю) + J a (r\u) dwu+ ^b (r\u) du. D)
s s
Прежде всего, нужно доказать, что стохастический интег-
интеграл здесь определен. Прогрессивная измеримость случайной

248 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ , [ГЛ. 12
функции ци, а значит, и a(r)w), Ь(ци) обеспечивается свойст-
свойствами измеримости ^(х;со) и оператора cps. Далее, нужно до-
доказать, что (jj (j\u), s ^. и ^Z s -\- h, принадлежит L2 ([s, 5 + h) X
Х?2). Для этого достаточно доказать интегрируемость в квад-
квадрате по [s,s-f/i)XQ векторной функции г\и. Мы докажем
больше: что г\и непрерывно в среднем квадратическом.
Для и, og[s, s + A], u^v положим f<(x, со) = | gy-5(x; со) —
— gw_s (x; со) |2, i7 (#) = M/(x, со). Это математическое ожидание
не превосходит
М[&'&(*; «О)]2#•(»-«)<
max M| &(*; 0) |2] < ^
0 - и) • 4 (г2 + г/г)/С2[1 +1 х I2] [I + (K/LJexp{4L2[r2/* + rh2]}]
(последнее неравенство в силу задачи 4 предыдущего параграфа).
Согласно B)
= Mf (%s (х; со), Ф,со) = MF (ls (x; со)) <
v _ и). Const • М [1 +\ls(x; со) |2] <(о - и) • const' • [1 +\х I2].
Итак, riu, а в силу условия Липшица и <Г/('ПИ)> ^1{%) не"
Брерывны в среднем квадратическом; стохастический интеграл
в D) имеет смысл. Согласно задаче 9 § 1 стохастический ин-
интеграл в этом случае будет пределом в среднем квадратиче-
квадратическом интегральных сумм. Для не стохастического интеграла
это еще проще:
Задача 2. Докажите, что
Таким образом, D) сводится к тому, что
2
->0 E)

§ 12.4] ДИФФУЗИОННЫЕ ПРОЦЕССЫ 249*
при /г->оо. Чтобы доказать E), введем следующую функцию;
6 (h. х}'— Л/1 ?». (х* со) ~— х -™~ х с i ? (jc* сом \хю —~ tiy  —~-
v/i V"'» Л'/ |Т| Ъп \"^у ' <Lmd v yj^iih/fi ^ ' / L (& + 1)л//1 kh/пл
4Z.1 2
F)
Эта функция измерима по х\л при п->оо она стремится к О1
(потому что ?*(л;;со)—решение C)). Функция под знаком ма-
математического ожидания в E) получается из такой же функ-
функции в F) заменой со на (ps(o и х на ?s(x, со) (потому что в обе
формулы входят только приращения винеровского процесса).
В силу формулы B) математическое ожидание в левой части
E) равно M8n(h, ?Д#; со)). Чтобы вывести из сходимости к нулю
бп сходимость к нулю М бп, достаточно установить, что
fin (A, ls(x; со)) мажорируются интегрируемой случайной вели-
величиной.
Задача 3. Докажите, что бп (h, x) ^ C(h)[\ + |*|2] при всех /г, где
)
Значит, бп(й,Ы^;со))<С(/г)[1+|^(^;о))|2], M|gs(x; со) |2<оо,
поэтому M8n{h, ls(h; co))->0 при п~+оо. Формула E) дока-
доказана, а с ней и вся теорема.
Теперь определим функцию P(t,x,T)= P {g*(x; <ar)e Г}. Эта
функция измерима по х, является вероятностной мерой как
функция Г е Jfr, при f = 0 эта мера сосредоточена в точке х.
Теорема 2. При любых t, h, х и Г ejfr not/Tw наверное
Р {^/+Л (*; со) е Г | Tt) = Р (Л, g, (*; 0), Г). G)
Доказательство. В силу теоремы 1 в левой части мы
можем заменить ?m(#;co) на |л(!*(*; со); <р*со), а всю услов-
условную вероятность — на условное математическое ожидание ин-
индикатора Хг от этой случайной величины. Применяя формулу
A), получаем G).
Мы уже получили семейство марковских процессов с об-
общей переходной функцией, причем мы можем выпустить наши
случайные процессы из любой точки х. Чтобы придать по-
построенному нами математическому объекту форму марков-
марковского семейства, поступим следующим образом. Возьмем в ка-
качестве нового пространства элементарных событий простран-
пространство Q'=RrXQ с элементами сог=(^;со); траектории ^(о/) =
= Ых\ оз), t ^ 0, у нас уже есть. Определим стандартным обра-
образом ст-алгебры ^>о = #\, *>о и <F<* = iFg5f s<* в Q'. Для под-
подмножества A s Rr X ^, измеримого относительно #~>о, положим
Рл(А) = Р{со: (*; со)е=Л}. (8)

250 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
Вероятность (8) определена для любого Лб^">0, так как
4 = {(o:feffl)ei}Gf. Действительно, это выполнено для
А = {©': h (со") е Г}: ведь {©: (*; со) е= А} = {©: & (*; со) ЕГ}а
#"<?#"*. Отсюда вытекает также, что Л*е5Г* для Ае#"<*.
В пространстве Of можно определить операторы сдвига 9S,
^O для этого достаточно положить 05©' = 8S(#; ю) = (|^(х\ со);
<р,,хо) е= Q'. Действительно, %t (в,©') == g* (g, (я; ©); ф,©) = %s+i (x; co)=
^=^+Л°>0- Правда, это выполняется при каждом х лишь с ве-
вероятностью 1 при всех t^O. Чтобы справиться с этим, допол-
дополним пространство Q' достаточно большим множеством элемен-
элементов ©' произвольной природы и определим для них траектории lt (©')
так, чтобы траекторией могла быть любая непрерывная функ-
функция; множеству всех добавленных элементарных событий при-
припишем Р^-вероятность 0 при всех х.
Теорема 3. Пара (%и Рх) — марковское семейство с пере-
переходной функцией P(t, x> Г).
Доказательство. Нужно проверить, что
P{h+h^T\^<t} = P(h, lt(u')9 Г)
почти наверное для t, h^Q, x^Rry FeJfr; иначе говоря, что
для любого iGf<i
Р* (А П fe+A е Г}) = Мх%л (соО Р {К h (©О, Г). (9)
Учитывая определение (8), мы можем переписать (9) в виде
Р (Ах П {li+h(х; со) €= Г}) = М%Ах (©) Р(А, Ъ (х; ©), Г).
Это равенство вытекает из Ax&!Ft и формулы G).
3. Теперь установим, что построенное марковское семейство —
диффузионный процесс, и найдем его производящий оператор.
Траектории непрерывны, потому что это решение стохастического
уравнения. Обозначим полугруппу операторов, связанную с &,
через Р*, ее инфинитезимальный оператор — через А.
Теорема 4. Любая функция f e С^ш принадлежит об-
области определения DA инфинитезимального оператора, и для
таких функций
еде ali {х) = 2 alk (x) a!k (x) (в матричной форме: (а11 (х))=а (х) а* (х)).
До казательство. Применим формулу Ито к /(?*(#; со)):

§ 12.4] ДИФФУЗИОННЫЕ ПРОЦЕССЫ 25!
Обозначим для краткости множитель перед dw{ через ®/ (& (х; ©));
введем вектор © = (©ь ..», 6Г) (в — буква «эс» готическое про*
писное). Что касается множителя при dt, то он равен Lf (It (#; to)),
где L — введенный нами дифференциальный оператор. Соотно-
Соотношение для стохастических дифференциалов означает по опре-
определению, что
t t
f(h(x; ©))=/(|o(jrf »))+$©&(*; *))dws+
Здесь to(x; <о) = лс. Возьмем математическое ожидание от обеих
частей; математическое ожидание стохастического интеграла
равно нулю, поэтому
t
Mf {h (х; со)) = f (х) + М \ Lf (ls (х; ©)) ds.
О
Перепишем эту формулу, пользуясь математическими ожида-
ожиданиями Мх и изменяя порядок интегрирования:
или
t
P'f(x) = f(x)+\p<Lf(x)ds. A1)
О
Задача 4. Докажите, что любая функция f e C(|L принад-
принадлежит пространству Во сильно» непрерывности полугруппы.
Так как пространство Во замкнуто, то Во содержит замы-
замыкание Сфш; в частности, ВоЭСфИН.
Задача 5. Докажите, что любая f e C(|L принадлежит DA
и Af*=Lf. .
Задача 6. В § 11.2, п. 26) мы нашли производящий оператор двумер-
двумерного диффузионного процесса I wfi ^ — ^о + \ w$ds L Найдите его по-
V о )
другому, пользуясь теоремой 4.
Задача 7. Пользуясь результатом задачи 4 предыдущего параграфа*
докажите, что построенный в п. 2 диффузионный процесс — феллеровский
(а значит, и строго марковский).
4. Доказательства теорем 1—4 можно перенести на случай, когда коэф-
коэффициенты не удовлетворяют условию Липшица, лишь бы имела место тео-
теорема существования и единственности решения Стохастического уравнения »
существовал измеримый вариант \t (x; со) такого решения.
Можно доказать (см. Дуб, 1956, гл. VI, теорема 3.3), что любой диф-
диффузионный процесс можно задать с помощью стохастических уравнений.
Определяются стохастические интегралы относительно мартингалов; полагаем

252 СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ [ГЛ. 12
t t
it = h — \ b (Is) ds и строим процесс иу^= \ a (Is)" ^Is- To, что это вине-
о о
ровский процесс, доказывается с помощью следующего результата: если Wt —
процесс с непрерывными траекториями, wt и wlj. — t — мартингалы, то wt —
еинеровский процесс.
Задача 8*. При помощи какого стохастического уравнения можно за-
задать гауссовский процесс Z(t), 0 ^ t < 1, с„ нулевым средним и корреляцион-
корреляционной функцией t /\s — ts?
Приведенные результаты непосредственно здесь неприменимы, потому что
процесс неоднороден по времени.
5. Мы видели (задача 15 § 5.3), что при помощи стохастических интегра-
интегралов выражается плотность распределения до* + ф@ относительно распределе-
распределения винеровского процесса. Аналогичная формула имеет место для плотности
распределения одного диффузионного процесса на конечном отрезке времени
относительно распределения другого диффузионного процесса, отличающегося
от него только сносом.
Для простоты ограничимся одномерным случаем. Пусть |* — решение сто-
стохастического уравнения d%t = o(lt)dwt + b(\t)dt с начальным условием
|0 = х\ l't — решение уравнения d^t = a (|?) dwt + b' (|?) dtt |q = х. Пусть
о*(#) =7^0. Обозначим через Ф распределение в пространстве (/?[°> Т1, ^[°» г]),
соответствующее случайному процессу ?*, 0 ^ t ^ Г; через Ф' — распределе-
распределение случайного процесса |^, 0 ^ t ^ Т. Тогда плотность распределения Ф*
относительно Ф задается формулой
Т
(I.) = ехр < \ a (h) (У (h) ~ b (h)) dwt -
{См. И. В. Г и р с а н о в, О преобразовании одного класса случайных процес-
процессов с помощью абсолютно непрерывной замены меры, Теория вероятностей и
ее применения 5, № 3 A960), 314—330. Существенный пункт доказательства —
проверка того, что математическое ожидание выписанного выражения равно Ц
ср. с задачей 4* § 2.)

Г л а в а 13
Связь диффузионных процессов
с уравнениями в частных производных
Мы уже знаем, что диффузионные процессы связаны с
задачей Коши для уравнений в частных производных параболи-
параболического типа: решением этой задачи являются, например, функ-
функции вида
t
v(t,x) = Mx\
О
w(t, x) = Мхехр\ \с(У ds\-f (У;
см. § 10.3, а также § 11.2. В этой главе мы будем говорить
о связи диффузионных процессов с задачей Дирихле для урав-
уравнений эллиптического типа: решением этой задачи оказываются
функции типа и(х)= Mx(p(gt) или т(х)==Мхху где т — первый
момент выхода процесса из области. В одномерном случае эл-
эллиптические уравнения превращаются в обыкновенные урав-
уравнения второго порядка, но для них рассматриваются не задачи
с начальными условиями, а краевые задачи. В случае вырож-
вырождения диффузионного процесса, т. е. не строго положительно
определенной матрицы диффузии а^'(я), вместо эллиптических
уравнений получаются параболические; часть результатов мо-
может быть отнесена к ним.
Сначала мы рассмотрим уравнения для функций, связан-
связанных с моментом выхода из области, в случае дискретных це-
цепей Маркова; это нам поможет ознакомиться с возникающими
проблемами на более простом материале.
§ 13.1. Уравнения, связанные с дискретными цепями Маркова
1. Пусть (!*, Рх)—цепь Маркова на конечном или счетном
пространстве л; через Р будем обозначать оператор Р\ связан-
связанный с вероятностями перехода за один шаг: Pf(x) =
= MJ(|1) = ?p(l, x, y)f(y). Пусть D — подмножество Х\ % —
У
первый момент выхода из D: т = min {n: Ъ

254
связь диффузионных процессов с уравнениями
[ГЛ. 13
Задача 1. Пусть (р(х) — числовая функция на X\D; по-
положим и (х) = Мх ф (Ъх) (предполагается, что математическое
ожидание существует; для тех элементарных событий, для ко-
которых т= оо, т. е. In не выходит из D, вместо ср(?т) берем 0).
Ч Докажите, что функция и удовлетво-
удовлетворяет уравнению
(Р-Е)и(х) = 0, х€=Д A)
и «граничным условиям»
и(*) = ф(*), xt=X\D. B)
Если X, например, решетка на плоскости, при-
причем переходы в цепи возможны только в ближай-
ближайшие соседние точки, то функция и(х) в D дей-
действительно зависит от значений <р(х) в точках
«границы» D, если в нее включать точки, не при-
принадлежащие Д но соседние с какими-либо точ-
точками D (рис. 26).
Уравнению A) удовлетворяет, в ча-
частности, вероятность того, что в момент
выхода из D цепь попадает в определен-
определенное множество Т ^X\D: ведь функция и {х) = Рх {?т е Г}
представляется в виде Мдг(?т).
В случае, когда множество D состоит из конечного числа
элементов хи ..., хп> задача A) — B) сводится к системе п
уравнений A) с п неизвестными w(*i), ..., и(хп):
= ? рA, xit х)у(х), /=1, ..., п. C)
/—1
Решение задачи A) — B) (или системы C)) существует для
любой ограниченной функции ф, но может быть не единствен-
единственно. Это будет в случае, когда ?п может навсегда остаться в
множестве D:
Задача 2. Докажите, что функция и(х) = Р*{т = сю} удовлетворяет
уравнению A) в D и дополнительному условию и(х) =0 при х е X \ D.
В случае бесконечного D решение Сможет быть не един-
единственно и в случае Рх {т = сю} = 0. Пример: симметричное
случайное блуждание по целочисленным точкам прямой
(p(l?t, *'г+ 1) =рA,/, i— 1) = 1/2, остальные рA, t, /) — нули);
?> = {1, 2,...}; u{i)=i при i > 0, =0 при i < 0. Здесь
r(P — E)u(i)= 0 при i^D; граничное условие — нулевое.
Задача 3. Пусть функция ф неотрицательна. Докажите, что ио(х) =?
М (it) •"" наименьшее неотрицательное решение задачи A) — B).

§ 13.2] РЕШЕНИЯ, ДОПУСКАЮЩИЕ ГЛАДКОЕ ПРОДОЛЖЕНИЕ 255
т-1
2. Теперь рассмотрим функцию v(x) = Mx
Задача 4. Докажите, что функция v — решение задачи
(Р — Е) v (*) = — g(x), xeD; D)
»(*) —0, xe=X\D. E)
Частный случай g ss 1 дает нам уравнение для математиче-
математического ожидания времени выхода т(х) = Мх%: (Р — Е)т(х) = — 1,
x^D (если М^т < оо).
Задача 5. Если D конечно и Рх {т<оо} = 1 для всех x&D, то
M*t<oo. Докажите.
Задача 6. Найдите математическое ожидание времени выхода из
D = {1, ..., п—1} для симметричного случайного блуждания на прямой.
Задача 7. Докажите, что т(х) = Мжх — наименьшее неотрицательное
решение уравнения (Р — E)v(x) =—1, x&D (среди решений со всевозмож-
всевозможными неотрицательными значениями вне ?))»
Задача 8. Найдите математическое ожидание времени выхода из
D = {1, 2, ...} для несимметричного одномерного случайного блуждания
(р A, i, i + 1) == р, р A, i, i — 1) = q, p + Я == 1) *
3. Для первоначального ознакомления с вопросом о связи между марков-
марковскими процессами и уравнениями данных нами задач достаточно; следующая
задача не обязательная.
Задача 9*. Выведите уравнение для функции
т-1 п-1
г(х)-Мх ? g(In) Ця Ath
t=0
§ 13.2. Случай решений, допускающих
гладкое продолжение
0. В случае непрерывного времени и непрерывного фазового
пространства мы уже не можем брать множество D произволь-
произвольным, а должны ограничиться каким-нибудь более или менее
узким классом множеств. Мы будем рассматривать замкнутые
множества D, а затем еще далее сузим этот класс. Моментом
(первого) выхода процесса |* из D будем называть т =
= inf {t: gj^Z)}*). В случае диффузионного процесса
min{?: ЬфЩ не достигается: в момент т процесс находится
еще в Z), а именно на границе dD этого множества. Мы устано-
установили (гл. 6, задача 4), что момент первого выхода из замкну-
замкнутого множества будет марковским моментом относительно се-
семейства cr-алгебр ^"</+ для любого процесса g* с непрерыв-
непрерывными справа траекториями.
*) Почти такие же результаты можно получить для открытых D и момен-
моментов min {t: It ^ D}\ см. И то и Маккин, 1968, гл. 7. Разница касается
только более тонких результатов.

2S6
связь диффузионных процессов С уравнениями
[ГЛ. 13
Сделаем общий чертеж для всего этого параграфа
(рис.27).
1. Мы уже понимаем, что стоит прежде всего заняться во-
вопросом о конечности т.
Задача 1. Пусть (%ь Рх) — марковское семейство, и пусть существуют
константы Т и 6>0 такие, что Рх{х<Т}>6 для всех хе/). Тогда для
всех х
дВ рдг {х^пТ} <A — б)л, A)
я = 0, 1, 2,..., и Мл:т<Г/6.
Задача 2*. Пусть (it, Р*) — фелле-
ровское марковское семейство с непрерыв-
непрерывными справа траекториями. Если D — ком-
компакт и Рх {х < оо} > 0 для всех х е D, то
выполняются условия задачи 1 и М^т ко-
конечно и ограничено.
Это — аналог задачи 5 § 1.
Пусть теперь в r-мерном пространстве задан диффе-
дифференциальный оператор с непрерывными коэффициентами
—I—г + У] *' М —Г ¦ (?*» Р*) ~~ Диффузионный
и дх дх I
Рис. 27
-?т
процесс с производящим оператором L. Предположим, что
этот процесс — феллеровский, т. е. соответствующая полу-
полугруппа переводит непрерывные ограниченные функции в не-
непрерывные.
Микротеорема 1. Пусть D — компакт, х — момент вы-
выхода из него. Пусть v(x)—дважды непрерывно дифференци-
дифференцируемая функция, определенная в Rr, обращающаяся в 0 вне
некоторого компакта, содержащего D, неотрицательная в Dy
и Lv(x)^.—с<0 при x^D. Тогда Мхх ^ c~lv (x) для лю-
любого jcgD.
Доказательство. • Функция v принадлежит области
определения инфинитезимального оператора диффузионного
процесса; поэтому согласно задаче 15 § 10.3 случайная
функция
B)
будет мартингалом относительно семейства сг-алгебр ^<* (и
любой из мер Рх). Это будет также мартингал относительно
семейства а-алгебр #~<*+, потому что диффузионный процесс
(It, Рх) обладает марковским свойством относительно этого
семейства сг-алгебр (в силу непрерывности траекторий и фел-
леровости; см. § 9.2). Из микротеоремы 3 § 7.2 вытекает, что
для любого Т ^ 0
| = 1>(*), C)

§ 13.2] РЕШЕНИЯ, ДОПУСКАЮЩИЕ ГЛАДКОЕ ПРОДОЛЖЕНИЕ 257
потому что т Л Т — марковский момент относительно семей-
семейства а-алгебр #~<*+.
Из C) получаем
[ТАГ -,
Учитывая, что здесь
находим
Переходим к пределу при Г->оо (пользуясь монотонностью
х AT как функции от Т); получаем
v(x)^s с Мхх,
что и требовалось доказать.
Приведенное доказательство можно обобщить на феллеровские марков-
марковские процессы с непрерывными справа траекториями.
Задача 3*. Пусть |* — семейство пуассоновских процессов с парамет-
параметром а, выходящих из всевозможных точек прямой; ff^ = |^ — at; D = [0, 1]1
т = inf {t: щ <? ?>}- Докажите, что М*т < а-1-х- (/ + 1 — *)-
Доказательство микротеоремы 1 можно было бы провести, пользуясь не
задачей 15 § 10.3 и свойствами мартингалов, а стохастическими интегралами.
Если процесс ?* задается стохастическим уравнением d^t = сг(|^) dwt +
-f b(%t)dt, где Wt — винеровский процесс, то случайная функция rj*, определяе-
определяемая формулой B), есть почти наверное v (|0) + \ ® (Es) dws, где @ — непре-
о
рывная ограниченная векторная функция (см. § 12.4). Так же, как в 12.1, по-
т
лучаем, что почти наверное ч\х д т == v (|0) + \ @ (gs) • х< х {s) dws; беря
о
тематическое ожидание Мх от обеих частей, получаем C).
Микротеорема Г. Пусть D — замкнутое множество,
v(x)—дважды непрерывно дифференцируемая функция, опре-
определенная в некотором открытом множестве, содержащем ?>
(не предполагается, что функция v или ее производные огра-
ограничены) . Если v (х) ^ 0, Lv (х) ^ —с < 0 в D, то Ыхх ^
Доказательство. Введем компакты DN = D П {х:
c\^N}; tjv — моменты выхода из DN. Ясно, что xN\x при
-> оо. Изменим функцию v вне DN так, чтобы она осталась
9 А. Д. Вентцель
ма-

258 СВЯЗЬ ДИФФУЗИОННЫХ ПРОЦЕССОВ С УРАВНЕНИЯМИ [ГЛ. 13
гладкой, но сделалась финитной. Оператор L — локальный, так
что Lv(x) в DN останется прежним. По микротеореме 1
MxxN^v(x) при x^DN\ отсюда Mxr — lim MxxN ^ v (x) для
JV-»oo
всех jcgD.
Приведем конкретные примеры применения доказанных
микротеорем.
Микротеорема 2. Пусть множество D расположено в
пределах полосы {х: \xl\^R}; пусть коэффициент диффузии
вдоль первой координаты all(x) не меньше а$ > 0 при jceD,
а коэффициент переноса bl(x) не превосходит по модулю кон-
константы В. Тогда Мхх конечно и ограничено в D.
Доказательство. Положим v(x) = ch CR— ch Cx\ где
С — константа (a ch — гиперболический косинус). Функция
v (х) неотрицательна в D\ найдем Lv(x):
Lv (х) = — Щ- а11 (х) ch Сх{ - Cbx (x) sh Cxl.
Положим
тогда будет
С2 С2
^ahC1 +
q i*/(j v^n \~j sv | л n-y Л! О I X
C2 t^2
-7-aochCxl < 7-
Отсюда по микротеореме V
М,т < -~ [ch CR - 1] < -g- exp {4BR/a0}.
Второе применение — к задаче 8* § 12.1: рассматривается двумерный диф-
диффузионный процесс с производящим оператором "о"я~2"+я~» D = {(х у):
\ х К b VА + у}> и функция v(а:, у) = Ь2(А + у) — х2.
2. Перейдем теперь к задаче Дирихле.
- Будем говорить, что D — замкнутая область, если множе-
множество D замкнуто, множество его внутренних точек связно и
любая точка D — предельная для внутренних точек (Миран-
(Миранда, 1957, гл. I, § 1). Границу dD области будем называть глад-
гладкой, если в окрестности любой своей точки она представляется
уравнением xl = f(x2, ..., хг), или x2 = f(x\ #3, ..., xr)y ...f
или xr = f(x\ ..., xr~l), где / — трижды непрерывно диффе-
дифференцируемая функция.

§ 13.2} РЕШЕНИЯ, ДОПУСКАЮЩИЕ ГЛАДКОЕ ПРОДОЛЖЕНИЕ 259
Имеет место следующая теорема существования и единст-
единственности (Миранда, 1957, гл. V, § 36, теорема 36.1):
если D — компактная область с гладкой границей; коэф-
коэффициенты оператора L непрерывно дифференцируемы, причем
матрица aij(x) строго положительно определена; функция g,
заданная в D, непрерывно дифференцируема, а функция ф, за-
заданная на dD, трижды непрерывно дифференцируема, то су-
существует (причем единственное) решение задачи Дирихле
Lv(x) = -g(x), xt=D; E)
v{x) = <p(x), xz=dD, F)
дважды непрерывно дифференцируемое в D вплоть до гра-
границы.
Теоремы, касающиеся возможности гладкого продолжения
функции за пределы замкнутой области, где она определена
(Миранда, 1957, гл. II, § 16), дают нам возможность утвер-
утверждать, что решение v(x) при выполнении указанных выше
условий может быть продолжено до дважды непрерывно
дифференцируемой функции в открытом множестве, содержа-
содержащем D.
Микротеорема 3. Пусть коэффициенты диффузии и пе-
переноса диффузионного процесса (\и Рх) непрерывно диффе-
дифференцируемы, матрица диффузии невырождена; пусть D — ком-
компактная обладть с гладкой границей; в D задана непрерывно
дифференцируемая функция g, а на границе dD этой области —
трижды непрерывно дифференцируемая функция <р. Тогда
— единственное решение задачи E) — F).
Доказательство. Решение задачи Дирихле, как уже
было сказано, существует; нужно доказать только, что оно
есть среднее от указанного функционала от траектории |*. Про-
Продолжим функцию v на все пространство дважды непрерывно
дифференцируемым образом, сделав ее финитной. Определим
случайную функцию г]* формулой B); тогда имеет место фор-
формула D). Переходим в этой формуле к пределу при T-*oot
учитывая, что случайная величина под знаком Мх мажори-
мажорируется случайной величиной \\v\\ + \\Lv\\x (математическое ожи-
ожидание которой конечно по микротеореме 2):
= М x\v (У - \ Lv (У dsl = Мх ГФ
v (х) = М x\v (У - \ Lv (У dsl = Мх ГФ (У + J g (|,) rfsl. G)

260 СВЯЗЬ ДИФФУЗИОННЫХ ПРОЦЕССОВ С УРАВНЕНИЯМИ [ГЛ. 13
Микротеорема доказана. Частные случаи: и(х)= M*(p(?t)
удовлетворяет уравнению Lu = 0 с граничным условием
и \dD = ф; v {х) = Мх ^ g (У ds — уравнению Lv = —g с нуле-
о
вым условием на границе; т(х)— Мхт — уравнению Lm —
= —1с нулевым граничным условием.
3. 3 а д а ч а 4. Пусть (wt, Рх) — семейство одномерных винеровских
процессов, тз — момент первого выхода wt из отрезка [с, d]. Докажите, что
Рх {wx = d) = (х — c)/(d — с); Мхх = (d — x)(x — с) для х <= [с, d].
Задача 5. Для произвольного одномерного диффузионного процесса
с коэффициентами диффузии а(х) > 0 и переноса Ъ(х) найдите вероятность
того, что процесс выйдет из отрезка [с, d\ через правый конец.
Задача 6. Пусть (wt, Р*) — семейство двумерных виншювских процес-
процессов, D — кольцо между двумя окружностями д{ = {#: |xf = г} и д2 =
= {х: \х\ = #}, т — момент выхода из D. Докажите, что Р* {тх ^ дЦ =»
= (In ^ — In I л: | )/(\п R — In г). Предельным переходом при R -> оо получите
отсюда вероятность когда-либо достичь д\\ предельным переходом при г->0 —
вероятность достижения точки 0.
Задача 7. Найдите те же вероятности для трехмерного винеровского
процесса.
Из результата задачи б можно вывести, что траектория двумерного ви-
винеровского процесса с вероятностью 1 рано или поздно проходит сколь угодно
близко к любой точке плоскости; это же будет справедливо для любого не-
невырожденного диффузионного процесса, для которого существует функция щ
удовлетворяющая уравнению Lu, = 0 вне некоторого компакта и такая, что
и(х)-+оо при -|я|->оо. Из результата задачи 7 выводится, что |о>*|->оо
при ?-*-оо (почти наверное); мы уже получили это с помощью супермартин-
супермартингалов (задача 2* § 8 3).
Задача 8. Найдите математическое ожидание времени выхода г-мер-
ного винеровского процесса из шара {х: \х\ ^ R}.
Задача 9*. Найдите математическое ожидание времени выхода дву-
двумерного винеровского процесса из угла \ (х, у): \ у \ ^ х • tg -jr- >.
Задача 10*. Конечно ли математическое ожидание времени выхода трех-
трехмерного винеровского процесса из октанта {(xl,x2,x3): х[ ^ 0, х2 ^ 0, хъ ^ 0}?
4. Известно (Миранда, 1957, гл. I, § 10), что решение задачи Дирихле
E)—F) может быть записано в виде
v (х) == ^ G (*, у) g (у) dy + ^ -^- (х, у) ф (у) doyt
где G —< функция Грина для задачи Дирихле, -г ее производная по вну-
ОПу
тренней нормали в точке у, границы, doy означает интегрирование по поверх-
поверхностной мере на dD. Каков вероятностный смысл этой формулы?
х
Первый интеграл есть М^ \ g(!f)j^; отсюда можно вывести, что мате-
о
натическое ожидание времени, проведенного процессом в множестве Г ^ D до
момента t, равно \ G (х, у) dy. Второй интеграл равен М*ф (|т); отсюда по-

§ 13.2J РЕШЕНИЯ, ДОПУСКАЮЩИЕ ГЛАДКОЕ ПРОДОЛЖЕНИЕ 261
лучаем, что случайная точка ?t имеет плотность распределения относительно
поверхностной меры на dD, равную ——(х, у) (х — точка, из которой начи-
ОПу
нается процесс, у — точка, в которой берется плотность).
Задача И*. Пусть wt — двумерный винеровский процесс; D =»
= {(хх,х2): х2 ^5 0}. Докажите, что распределение значения w\ первой коор-
координаты в момент выхода из D задается плотностью PxiX2 (у) = п~хх21((х2J +
+ (у — XхJ) ((хх, х2) — точка, из которой начинается процесс).
5. Для замкнутой области с гладкой границей момент т выхода из об-
области совпадает с моментом хд первого достижения границы (он же — мо-
момент первого выхода из внутренности замкнутой области). Действительно,
%д — марковский момент (задача 3 гл. 6). Продолжим решение т(х) задачи
Lm = —1, т \dD =0 на дополнение D и применим формулу G) к функции т
и марковскому моменту %д. Получим т (х) = М^т^. В то же время т (х) =
= М^т, т. е. М^ (т — %д) = 0. Но %д ^ т для всех со, поэтому почти навер-
наверное хд = т.
6. Аналоги задач 3, 7 § 1:
Задача 12. Пусть (%fy Рх)— произвольный феллеровский диффузи-
диффузионный процесс, D — произвольное замкнутое множество. Если и — дважды
непрерывно дифференцируемая функция, определенная в некотором откры-
открытом множестве, содержащем D, неотрицательная в Z), Lu = 0 в D, и(х) =
*= ф(#) над/), то mxq> (gt) ^ и (х) (если т = оо, вместо ф(?т) берем 0).
Если v — дважды непрерывно дифференцируемое в открытом множестве, со-
содержащем Д и неотрицательное в D решение уравнения Lv = —g в D,
х
g ^ 0, то bi\x
о
Задача 13*. Пусть D = {(хх, х2) i x2^ 0}. Найдите наименьшее неотри-
неотрицательное решение задачи Аи = 0 в D, и(хх,0) = 1/A + (а;1J) на 3D. Ука-
Укажите бесконечное число других неотрицательных решений.
7. Раз речь уже зашла о неограниченных областях, читателю предлагается
решить необязательную задачу.
Задача 14*. Докажите следующую теорему типа Фрагмёна — Линде-
' лёфа для гармонических функций (о теоремах этого типа см. Е. М. Л а н-
д и с, Уравнения второго порядка эллиптического и параболического типов,
«Наука», М., 1971, гл I, § 6): если и(х,у)—непрерывная функция в угле
D = {(х, у): | у | ^ х tg a/2), гармоническая внутри угла и равная нулю на
сторонах, и если и (х, у) = о \{л/х2 + У2) ) при л/х2 -f- у2 -> оо, где C > а,
ТО U {Ху у) 5S 0.
Указание. Положим DR = D(] {(х, у): л/х2 + У2 < R}; т„ — первый
момент выхода двумерного винеровского процесса w^ из ?)„. Функция zn^ —
аналитическая в угле D; Re (х + iy)n^ — гармоническая функция в том
же угле. Пользуясь этим, выведите оценку
1 cos (яа/2р)].
Далее используйте формулу и (ху у) = М^ уи (w \
8. У нас есть три способа использования марковских моментов: равенства,
связанные с мартингалами, стохастические интегралы и строго марковское
свойство. В этом параграфе мы показали, как применяются два первых

262
СВЯЗЬ ДИФФУЗИОННЫХ ПРОЦЕССОВ С УРАВНЕНИЯМИ
[ГЛ. 13
способа; интересные результаты можно получить и при помощи строго марков-
марковского свойства.
Задача 15*. Пусть (wu Р*)—семейство винеровских процессов, D —
произвольное замкнутое множество, Г — борелевское подмножество его гра-
границы. Докажите, что р(х) = Рх {wx gT) — гармоническая функция внутри D.
9. Какой вид принимают результаты п. 2 для вырожден-
вырожденных диффузионных процессов и параболических уравнений?
Рассмотрим только случай процесса с производящим операто-
ром у "л~т + у» т- е- двумерного диффузионного процесса
Пусть D — замкнутая область вида {{х,у): 0^.у^.Т9
fi(y)^ * < Ы#)}, гДе /i и /г — трижды непрерывно дифферен-
дифференцируемые функции (рис. 28).
У
Т
О
Рис. 28.
Теорема существования и единственности
(Фридман, 1968, гл. III, § 3). Пусть в криволинейном четы-
четырехугольнике D задана непрерывно дифференцируемая функ-
функция g(x,y), на боковых сторонах — трижды непрерывно диф-
дифференцируемые функции ф1 (г/) и ф2(#), на верхнем основа-
основании — трижды непрерывно дифференцируемая функция ф (х),
причем выполняются условия согласования: ф?(Г) + -ггЧР" (ft (^)) +
+ g (ft (Т)> Т) = 0, 1=1, 2. Тогда существует единственное
решение v (х, у), (л:, у) gD, уравнения
ди 2 дх
D>
удовлетворяющее на боковых сторонах и на верхнем основа-
основании D условиям
v(U(y), y) = vt(y), i=h 2; (9)
v(x, Г) = ф(х), A0)
причем это решение дважды непрерывно дифференцируемо
вплоть до границы.

13.2] РЕШЕНИЯ, ДОПУСКАЮЩИЕ ГЛАДКОЕ ПРОДОЛЖЕНИЕ 263
На нижнем основании никаких условий задавать не нужно.
Микротеорема 4. Пусть х — момент выхода процесса
г) из D. Тогда функция
v (х, tj)=MXty\\g (ws, i\s) ds + x{4t.r} • Ф (wx) +
X{4t<r, w^h (M} • Ф2
— единственное решение задачи (8)— A0).
Доказательство состоит в том, что мы продолжаем
решение v с сохранением гладкости за пределы области Z),
применяем к v(wuy-\-t) формулу Ито и пользуемся форму-
формулой D) с нужным изменением обозначений.
Зная связь краевых задач со случайными процессами, мы можем лучше
понять, почему не нужно задавать никаких условий на нижнем основании D:
точка (wt, Tit) просто не может оказаться принадлежащей нижнему основа-
основанию. Столь же понятен и факт из теории дифференциальных уравнений, со-
состоящий в том, что v(x0, у0) не зависит от значений g(x,y), cpi(y) при у < у0.
10. Результаты п. 2 касались уравнения Lv== — g и мате-
математических ожиданий функционалов от траекторий диффузион-
диффузионного процесса ф (gT) + \ g (g5) ds. Чтобы найти распределение
о
нужно рассматривать математическое ожидание вида
и т. п. Для них доказывается
Микротеорема 5. Пусть (^, Рх) — диффузионный про-
процесс в Rr с производящим оператором L; с(х) — непрерывная
действительная функция на Rr. Пусть w(x) — дважды непре-
непрерывно дифференцируемая функция, определенная в открытом
множестве, причем в компакте D она является решением за-
задачи Дирихле
Lw(x) + c(x)w(x) = — g(x), xe=D; A1)
w (x) = ф (х), x^dD. A2)
Пусть
Мх \ ехр\ 2 \ с {Is) ds\dt < оо.
о Со
х
\g(Wds,

264 СВЯЗЬ ДИФФУЗИОННЫХ ПРОЦЕССОВ С УРАВНЕНИЯМИ 1ГЛ. 13
Тогда
v (х
(х) = Мх Fexp | \ с (У ds \ <р (У +
\\ . A3)
Доказательство проведем для диффузионного процесса,
задаваемого стохастическим уравнением d?t = (l)d{b(%)dt
Положим
- \ exp Не (lu) du I [Lw (У + с (У w (У] ds.
о to J
Применим формулу Ито:
с (У л| • |X 15- (I,) • a} &) dw[ +
+ 1ш (|f) dt + w (U ¦ с {U dt - [Lw (lt) + с (\t) • w (It)] dt}.
Члены с dt сокращаются. Отсюда получаем
Ч, = По + $ Х<т W ехр | 5 с (У Л } ? "И" (W a/ &) dW
( используем конечность М^ \ ехр \ 2 \ с (У ds i d/ I. Берем М^
\ oJ I oJ 3 /
от обеих частей, получаем
откуда вытекает A3).
Условие конечности Мх \ ехр ^2 \ с (?s) dsK dt выполнено, во всяком
о I. о )
случае, когда с(х) ^0 и Мхх < оо# Оно также выполняется для с(х) ^ с0|
где с0 — достаточно малая положительная константа, если выполнены усло-
условия задачи 1 (потому что распределение % мажорируется показательным).

§ 13.3] РЕГУЛЯРНЫЕ И СИНГУЛЯРНЫЕ ТОЧКИ ГРАНИЦЫ 265
Это хорошо согласуется со следующим результатом из теории диффе-
дифференциальных уравнений (Миранда, 1957, теоремы 21.1, 21. II, 21. III, 36. II):
для фиксированных непрерывно дифференцируемых а*з(х),Ъ{(х) и области D
с гладкой границей можно указать положительную константу Со та-
такую, что решение задачи Дирихле (И) — A2) существует для всех не-
непрерывно дифференцируемых с(х)^с0. Константа с0 может быть выбрана
сколь угодно большой, если выбрать область D с достаточно малой мерой
Лебега.
Задача 16. Найдите преобразование Лапласа распределения момента t
выхода одномерного винеровского процесса из полупрямой D = [0, оо), т. е.
wx (Х) = Мхе~Кх, Я>0.
Задача 17*. Докажите, что если М/г < /С<<*> в D, то ЬАхесх ^ 1 -{-
+ Мх%1{ \—сК) при 0 < с < К~1.
К выводу микротеоремы 5 можно было бы применить теорему п. 4 § 10 3
и результаты, касающиеся мартингалов.
Задача 18*. Сохраняется ли результат микротеоремы 5, если условие
% , t ч х
\ exp i2 V с (Is) ds\ dt<оо заменить условием М* \ eCat dt, co^c (x)?
о I о J о
о
§ 13.3. Регулярные и сингулярные точки границы
1. В этом параграфе мы будем говорить для простоты о за-
задаче Дирихле для однородного уравнения Lu = 0.
В случае невырожденных диффузионных процессов и обла-
областей с гладкой границей и(х) = Мхф(|т) непрерывно во всей
замкнутой области D. Оказывается, для областей с негладкой
границей точки dD делятся, вообще говоря, на два класса: ре-
регулярные точки, при приближении к которым функция и при-
приближается к ф(#), и сингулярные, для
которых это не так. Определение регу- Регулярная
лярности можно дать и на языке диф- ^
ференциальных уравнений, и на языке
случайных процессов. Возьмем за осно-
fey вероятностное определение.
Пусть (gb Рх) — феллеровское марков-
марковское семейство с непрерывными справа
траекториями, D — замкнутое множество,
т — момент выхода %t из него. Точка
Хо е dD называется регулярной точкой •
границы D, если Рхо{т = О}= 1. Точка
Xo^dD называется сингулярной, если эта вероятность равна 0.
Иначе говоря, сингулярная точка — это такая, что траектория
1и начинающаяся в ней, непременно хотя бы маленький про-
промежуток времени проведет в D (рис. 29). Согласно блюмента-
левскому закону 0—1 (§ 9.2, п. 4) Р*0{т = 0} не может быть
строго между 0 и 1,

266 СВЯЗЬ ДИФФУЗИОННЫХ ПРОЦЕССОВ С УРАВНЕНИЯМИ [ГЛ. 13
Примером регулярной точки может служить любая точка гладкой гра-
границы в случае невырожденного диффузионного процесса: из результатов п. 2
предыдущего параграфа вытекает, что MXot = 0 для х0 е 3D.
Пример сингулярной точки:
Задача 1. Пусть D — единичный круг {(х, у): х2 + у2 ^ 1}, из которого
выброшены кружочки {(*, у): (х — \/2пJ + у2<(\/2пУ}, п= 2, 3, 4, ... До-
Докажите, что @, 0) — сингулярная точка границы D (для двумерного винеров-
ского процесса).
Для процесса (wt, <H*==rlo + O> соответствующего уравнению теплопро-
проводности, и криволинейного четырехугольника D (рис. 28, § 2) точки верх-
верхнего основания регулярны (тривиальным образом); точки боковых сторон тоже
регулярны (это вытекает из закона повторного логарифма — см. задачу 9*
§ 7.2); точки нижнего основания, кроме уголков, сингулярны (ясно).
Теорема 1. Если х0— регулярная точка границы, то для
любого h > 0 вероятность Рх {х < К\ —> 1 при х-> х0.
Доказательство. Выберем е>0 и докажем, что суще-
существует 6 > 0 такое, что Рх {т < К} > 1 — 8 при р (х7 х0) < 6.
Пусть ги г2, ..., гп, ...—рациональные точки интервала
@, h). Из РХо {т < h) — 1 вытекает, что
Выберем п так, чтобы эта вероятность была > 1—тг или, если
перейти к противоположному событию,
Перепишем вероятность в виде математического ожидания
Существует неотрицательная непрерывная функция f(x), рав-
2б
ная 1 на D, такая, что MxJ(lr^- ... */(^О ^ ~з~~*
тельно, в качестве такой функции можно взять
с достаточно большим N, так как
Jim M,0^(gri). ... -fN(lrn)=MXo%D(lri)- ... -Хо(Егл).
Далее, из феллеровости марковского семейства вытекает, что
функция F(x)= Mxf(lr^ • ... • f(lrn) непрерывна; следовательно,
существует б > 0 такое, что MJ (grj) • ... • f AГп) < & при
р (х, xQ) < б. Отсюда
и
Р, {т < А} > 1 - в.

§ 13.3] РЕГУЛЯРНЫЕ И СИНГУЛЯРНЫЕ ТОЧКИ ГРАНИЦЫ 267
Теорема 2. Пусть (lt, Рх) — феллеровский диффузионный
процесс; D — замкнутое множество, х — момент выхода из D;
и(х)= Млф(?т), где ф — функция, заданная на "границе. Если
х0 — регулярная точка границы D, то для любой ограниченной
непрерывной функции ф имеем: и{х)-»ф(л:0) при х—>х0, xgD
{и, само собой, и(хо) — ц)(хо)).
Доказательство. Пусть б — произвольное положитель-
положительное число. Выберем 8 так, чтобы при р(#, х0) < е было |ф(дс) —
— Ф (*о) I < 6/3. Имеем
и(х) ~ф(хо) | = | М*[ф(У — ф(х0)] К
^) + 211р^ A)
Первое математическое ожидание разобьем на две части: по со-
событию
Ah = {It €= Ue (xQ) для всех t < h)
и по его дополнению.
Задача 2. Докажите, что Рх(ЛА)->1 при Л | 0 равномерно
по х s ?/8/2 (х0)-
Выберем h так, чтобы Рх (Ah) > 1 — -g- IIЛII для х € (/е/2 (jc0);
тогда
М t1 - Ч] Iф ^ ~ ф(х°) I < Tf
М Д{т < h\*>Ah | Ф (St)~Ф (*о) | < SUP
Последнее слагаемое в A) стремится к 0 при x-+Xq в силу
теоремы 1; получаем, что
\и(х)— ф(#о) | < S
в достаточно малой окрестности точки Xq.
Напротив, когда х0 — сингулярная точка (например, @,0) для области
задачи 1), можно указать ограниченную непрерывную функцию ф на дД для
которой и(х) будет разрывно в точке Xq и даже и(х0) ф ф(#о)* Достаточно
положить ф (х) = ехр {—р (х, х0)},
2. Теорема 3. Пусть (^, Рх) — феллеровский диффузион-
диффузионный процесс с непрерывно дифференцируемыми коэффициен-
коэффициентами сноса и дважды непрерывно дифференцируемыми коэф-
коэффициентами диффузии, образующими в каждой точке невы-
невырожденную матрицу] Д — произвольное замкнутое множество;

268
СВЯЗЬ ДИФФУЗИОННЫХ ПРОЦЕССОВ С УРАВНЕНИЯМИ
[ГЛ. 13
Ф — ограниченная борелевская функция, заданная на 3D. Тогда
функция и(х)= Мхф(?т) дважды непрерывно дифференцируе-
дифференцируема во всех внутренних точках D, и Lu = 0.
Доказательство. Гладкость коэффициентов обеспечи-
обеспечивает существование функции Грина для всех ограниченных об-
областей с гладкой границей (Миранда, 1957, гл. III, § 21,
теорема 21. VI). Произвольную внутреннюю точку окружим
ограниченной замкнутой областью Г){ cz D с гладкой границей
dD\\ обозначим через ti момент первого выхода процесса из
D\ (рис. 30). Воспользуемся строго марковским свойством от-
относительно марковского момента %\ "(учитываем, что %\ ^ т,
)
и (х)=
Но
it) = M*8tl<p (it) = MxMi
xu{l%)= \ ^—Gx(x9 y)u(y)doyy
\
dDx
где Gi(х,у) —функция Грина области Dx (см. предыдущий па-
раграф, п. 4). Такой интеграл является непрерывной функцией
от х внутри D\ для любой ограниченной измеримой функции и (у)
на dDh Внутри D\ выберем область D2 с
гладкой границей; имеем точно так же
= \ д7Г°2(*> y)u(y)doy.
dD2 У
B)
Функция и на dD2 непрерывна; согласно
теоремам 21,1, 21.VI книги Миранда,
1957 решение уравнения Lu = 0 внутри D2
с непрерывными граничными условиями
и (у) на dD2 существует и задается фор-
формулой B). Но это означает, что функция
и дважды непрерывно дифференцируема
внутри D2 и Lu = 0.
Теоремы 2 и 3 дают следующее. Пусть
(lu Рж)—феллеровский диффузионный про-
процесс с гладкими коэффициентами, причем матрица диффузии
невырождена. Тогда для любой замкнутой области D и лю-
любой непрерывной ограниченной функции ф на dD существует
функция
()(М(|))
Рис. 30.
определенная на D, являющаяся решением уравнения Lu = 0
во внутренних точках Д и и(х)->ф(х0) при x->Xq, jceD, для
всех регулярных точек Xq границы Юл

13.3] РЕГУЛЯРНЫЕ И СИНГУЛЯРНЫЕ ТОЧКИ ГРАНИЦЫ 269
Если решение задачи «Lu = 0 внутри Д и(х)-хр(хо) при х-^Хо для
всех регулярных точек х0 границы D» единственно, это значит, что мы
нашли, как следует ставить задачу Дирихле для областей с плохими грани-
границами: в регулярных точках требовать определенных пределов, а в сингуляр-
сингулярных ничего не требовать. Однако, вообще говоря, единственности здесь нет
(пример — задача 13* § 2; можно построить пример и для ограниченной об-
области, но с сингулярной точкой на границе). Для единственности нужно еще
требовать по крайней мере ограниченности и. Не будем обсуждать этого во-
вопроса здесь; отошлем читателя к книге Ито и Маккина, 1968, § 7.12 (где
рассматривается случай многомерного винеровсдого процесса и открытой об-
области).
С вопросом о правильной постановке задачи Дирихле в случае наличия
сингулярных точек связан результат следующей задачи.
Задача 3 Обозначим через «S множество сингулярных точек гра-
границы /). Докажите, что P*{?t е 5} = 0 для любого хеД
3. Мы увидели теперь важность понятия регулярности гра-
граничных точек. Рассмотрим некоторые примеры, связанные
с этим понятием.
Критерий Пуанкаре: для многомерного винеровского
процесса, если точки х0 е 6D можно коснуться снаружи об-
области D маленьким конусом К (рис. 31), то эта точка регулярна.
Рис. 31.
Доказательство. Предположим, что точка Хо сингуляр-
сингулярна; тогда с Р*0-вероятностью 1 момент хк первого достижения
винеровской траекторией внутренности конуса К положителен
(потому что тк^т). Построим так много конусов Ки ..-, Кп,
конгруэнтных К, с вершиной хОу чтобы они закрыли целую окре-
окрестность точки х0. Из инвариантности винеровского процесса от-
относительно вращений следует, что P*0{^/q > 0}= 1; иначе го-
говоря, с вероятностью 1 процесс в течение положительного вре-
времени не достигает ни одной из точек внутри какого-либо из
конусов, т. е. остается в точке лго. Но этого не может быть, хотя
бы потому, что Р*о {wt = х0} = 0 для любого t > 0.
Более тонкие критерии и примеры см. Ито и Маккин,
1968, гл. 7.

270
связь диффузионных процессов с уравнениями
[ГЛ. 13
Задача 4. Найдите регулярные и сингулярные точки границы квадрата
{(х,у); \х\, \у\ ^ 1} относительно диффузионного процесса (wr т^ = ti0 ¦+*
t
w ds). Иначе говоря: на какой части границы этого квадрата нужно
0 1 д2и , ди
задавать граничные условия для уравнения -у -g-f + х -^— = О?
О. А. Олейник («О задаче Дирихле для уравнений эллипти-
эллиптического типа», Математический сборник, 24 A949), 3—14) до-
доказала, что регулярные (сингулярные) точки будут одни
и те же для оператора
__ 1 у пи
d2
дх1 дх1'
д
дх1
(матрица аг^' предполагается невырожденной). Этот результат
можно получить, пользуясь теорией случайных процессов.
А именно, мы уже говорили (§ 12.4), что распределения соответ-
соответствующих случайных процессов %t, %t в {(Rr){0> T\ ($r)[Ot T]) абсо-
абсолютно непрерывны друг относительно друга; значит, из событий,
определяемых по конечному промежутку времени, для них одни
и те же имеют вероятность 0. В частности, это относится и к со-
событиям {т = 0}, {т > 0}.
Локальный закон повторного логарифма (задача 9* §7.2) — утверждение
о регулярности или сингулярности точки @,0) для определенных областей
vJ
0
X
Рис. 32. •
относительно диффузионного процесса (wt, v\t = т]о +1) (рис. 32). Результат
теоремы 3 переносится и на этот процесс, что дает возможность перевести за-
закон повторного логарифма на язык дифференциальных уравнений:
для любой непрерывной функции ф на границе области
х \ <A - е)
In | In у |}, 8>0,
1 д2и ди
существует решение уравнения -^ ~j~y + -о— = 0 внутри D, принимающее
на dD граничные значения ф;

§ 13.3] РЕГУЛЯРНЫЕ И СИНГУЛЯРНЫЕ ТОЧКИ ГРАНИЦЫ 2?!
для области
U, у): О<?/<#о> |л:|<A+в)л/271п|1п у \}
существует непрерывная функция ф на 0D такая, что решения задачи:
"о" ~л~Т "I" 7Г~ в 0 внутри D, м = ф «a dD — не существует.
Результат статьи И. Г. Петровского «Zur ersten Randwertaufgabe der War-
meleitungsgleichtmg», Compositio Math. 1 A935), 383—419, касающийся необ-
необходимых и достаточных условий существования непрерывного решения крае-
краевой задачи для уравнения теплопроводности в областях вида, изображенного
на рис. 32, оказывается в то же время решением- теоретико-вероятностной
задачи: пусть wt — одномерный винеровский процесс, выходящий из 0; для
каких функций f(t) с вероятностью 1 \wt\^f(t) при достаточно малых f>
Читателю, который хочет узнать больше о связи диффузи-
диффузионных процессов с уравнениями в частных производных и те-
теорией потенциала, полезно прочесть гл. 7—8 книги Ито и
Маккина, 1968.
Задача 5*. Постарайтесь понять, каков теоретико-вероятностный смысл
неравенства Харнака: для любой открытой области D и любых ее двух
точек х, у существует константа С такая, что для любой неотрицательной
гармонической в D функции и(х) выполняется неравенство С~1и(х)^ и(у)^:

Решения задач
§ 1.2
1. Нужно доказать, что для любого множества Celft и любых действи-
действительных h, th ..», tn
Р {(A cos h {tx + h) + Ф] A cos ft (tn + h) + Ф]) в С} -
— P {(A cos (rtfi + Ф),..., A cos (т^ + ф)) e= C}. (•)
Обозначим через В множество троек (х, yt z), х 5* 0, # ^ 0, 2е [0, 2я), таких,
что (# cos (#f i + z), ..,, ^ cos (t/^n + z)) e С; это множество — борелевское.
Для любого действительного z положим (г) 2Jt = % — 2я^, где к — целая
часть от z/2n. Тогда (*) перепишется в виде
Р {(А, ц, (Ф + т,АJ„) еВ} = Р {(А, % <р) е В}.
Теперь учтем, что (Л, г\) и ф независимы, т. е. их совместное распределение
представляется в виде произведения двумерного и одномерного: Ф^р —
= ФА X Фф, — и воспользуемся теоремой Фубини. Получим, что требуется
доказать равенство
J OAfi(dxdy)O9{z: (х, у, {z + yhJjt)e=B}
о о
5 \ Ачфг: (х, yt z)<==B}.
0 0
Но множество под знаком Фф в левой части получается из множества в пра-
правой части сдвигом на yh и приведением по модулю 2я; распределение Фф —
равномерное, т. е. не меняющееся при сдвиге, обе части равнм, и все
доказано.
2. Решение приведено в § 1.2.
3. Найдем, скажем (для tl<t2<tz), Р (т^ = — 1, %2== 1, %з = 1} =
= Р {выпал герб, g^ нечетно, g^ — %t нечетно, g^e — ?^ четно^ + Р {выпала
решка, lti четно, J^ —g^ нечетно, |^$ — g^2 четно) = [Р {выпал герб} Р{Е^
нечетно} + Р {выпала решка} Р {|^ четно}] • Р {lti — ltx нечетно} Р {^з — %tf
четно}. Вероятность в квадратных скобках равна 1/2; Р {lti — |^ нечетно} =s
со
= S •а ^r+'i)!^1 g^^2"^l) = A "" e~2"Цг"^12' a тРетья вероятность
естьA+^"а^<""^))/2. Ясно, как находится вероятность любых значений
\ х-

РЕШЕНИЯ ЗАДАЧ 273
5. Функции ап@ —неубывающие; из сходимости последовательности не-
неубывающих функций к непрерывной неубывающей функции на всюду плотном
подмножестве отрезка, включающем его конць!, вытекает равномерная сходи-
сходимость; значит, достаточно доказатьт* {ап (t) -> t) =* 1 для всех / = k/2m. Имеем
оо оо
для п>т M(an(t) - tf = 2t. 2~nt М ? (ап (t) - tJ = ? Щап (t) - О2 < оо.
п=0 /1=0
оо
Раз у суммы ряда J] (аЛ @ — О2 конечное математическое ожидание, то с
вероятностью 1 он сходится и an(t) —1-*~0.
п-\
6. М2 = -у/21% ? л/ti+i — */->оо при max (^ + i — **)->0, D2 =
n-i
*= ^ A - 2/я) (^+, - U) = A - 2/я) F - а); при М2 > А имеем Р {2 < Л} <
< Р {| 2 — MS | > М2 — А) < D2/(M2 — ЛJ, что стремится к нулю.
7. Достаточно проверить, что для любых 0 ^ tx ^ ... ^ tn независимы
случайные векторы (w\ , w\ , ..., w\ V ..., (ш? , twj , «.., wrt \ Их совме-
совместное распределение — гауссовское, и, чтобы установить независимость, до-
достаточно проверить, что любая координата /-го вектора и любая координата
/-го, / Ф и некоррелирозаны. __
8. Легко проверить, что wt = (w] + wf)jл/2 — также винеровский про-
процесс, поэтому
м-1
- -^J - 1Л-т- S
= 1 [2 F - а) - F - а) - F - а)] = 0.
9. Для 0 < tx < ... < tn находим плотность:
где х0 == ^о e 0.
10. Рассмотрим случайные векторы г\ =« (Х/—оо, F~l (tt)]
•'- х(-оо. ^-»(^)]F/))' !<^<«- Легко видеть, что
=г V (tj1 — Мт]?); цо многомерной центральной предель-

274 РЕШЕНИЯ ЗАДАЧ
ной теореме для одинаково распределенных слагаемых распределение этого
вектора сходится к нормальному с нулевым средним и такой же матрицей
ковариаций, как у г^. (Что касается последней, то cov(% x i (IX
*(-..*-и)]F|))-вЛ'-Л)
11. Согласно определению достаточно проверить, что для любого е>0
существует число К такое, что
для всех cisg. Почти наверное | М (g | <А) | <С М ( | g | | <А)\ поэтому
(последнее — по определению условного математического ожидания: ведь
область интегрирования ^-измерима). Но известно, что если | — интегри-
интегрируемая функция, то для любого е>0 существует б>0 такое, что V 1g1 dP<e>
А
как только Р (Л)<6. Значит, достаточно указать такое 7С> что Р {М (| g 11 <Л)>
>/С}<6 для всех ot. Неравенство Чебышёва дает нам
Р {М ( U I I dt) > К) < /С-'ММ ( | % | | dt) = /C-JM 111;
итак, достаточно взять К = 6~ М | g |.
§ ЬЗ
ь Z cidkK(trh)t=ssCOV(TiClh-' ЕСЛ^Л>° (это-дисперсия).
оо
2.1. М|/^0; /<С(^ 5) = \ cos Я (/ — s) \i (dX), где мера pi на [0, оо) опре-
о
деляется так: у>(В) = — МА%в(г\). Вывод см. § 4.1.
2. Mg, = at; для 5 < / имеем К (t, s) == cov (g/, |j) = cov (gs, g5) +
+ cov (g* ~ ^, gs) = Dg5 + 0 = as. Учитывая и случай s > t, получаем
К (/, s) = a • (s Л *).
3. Пользуясь результатом задачи 3 § 1.2, находим Mrj^O;
( 2
)/
4. Мш^О, ft (t, s) — t A s (аналогично 2).
6. Mgf и ТС (t, s) не существуют.
7. МУЛ(*) = 0, /Су (М) = Ц5-^5 (см. решение задачи 10 § 1.2).
3. (,) lh()KH+ +^^@/7п)
4. Пусть сначала g (t, со) ^— ступенчатая случайная функция на Г с точ-
точками скачков tv<t2< ... <tn\ т. е. имеются случайные величины g0, Si»
g2> .... gft такие, что g (/, 0) = g0 (со) при t<tv g (f, ю) = gi @) ПРИ ^i < ^ <

РЕШЕНИЯ ЗАДАЧ 275
<2, , 6(, ) ?ni() Р nl<n, t(t, Ю) = |П(Ш) При >я.
Тогда функция g(., •) измерима относительно а-алгебры ^г X ^"; действи-
действительно, для любого измеримого подмножества Л пространства X, в котором
лежат значения g (f, со),
{(*, со): ?(U)ei) =
= (^П(~оо,^))Х{со: go (со) е= Л} U [*i, *2) X {со: ?, (со) е= Л} U ...
... U ря-1, /л) X {со: ?л_, (со) еЛ}и(ГП [*л, оо)) X {со: 1п (со) е= Л}.
Все слагаемые здесь, по определению, принадлежат 0&т X ^", значит, и
сумма принадлежит этой ст-алгебре.
Теперь пусть g (tf, о) — произвольная случайная функция с реализа-
реализациями, непрерывными справа. Определим случайную функцию gft (t, со), поло-
положив ее равной g (([2nt] + 0/2я, со) для всех /еГ, за исключением тех, для
которых ([2nt] + 1)/2я§?7\- для этих оставшихся / определим g/* (*, со) как
g F, со), если Ъ — правый конец отрезка Г, и как произвольный элемент
^el, если у отрезка Т нет правого конца. Так как ([2nt] + 1)/2яф? при
п->оо, то grt (^, со) ->g (tt со) npr/ всех (t, со). По доказанному функции
grt (., .) измеримь! относительно $т X ^, значит, измерим и их предел g (., .).
(Напомним, что X — метрическое пространство, а в качестве а-алгебры &
взята ст-алгебра &х борелевских подмножеств X.)
Если реализации непрерывны слева, доказательство остается тем же,
только вместо [2nt] + 1 берется [2я/].
5. Отображение со -> ?т (со) (со) измеримого пространства (Q, !F) в изме-
измеримое пространство (X, <%) измеримо как произведение измеримых отобра-
отображений to -> (т (со), со) пространства (Q, ?Г) в (Т Х&, с^Х^Н и (/, со)-> g^ (со)
пространства (ГХ^, с^ X ^) в (X, #).
§ 1.4
1*. Необходимое и достаточное условие: существует у^ такое, что
р {т] в у0) = 1; распределение Л — показательное (т. е. Р{Л = 0}=1 или
А имеет плотность ае~ах при д:>0).
§2.1
1. Полагаем Tb = ?i+ ••• + ln\ находим Kx\r\(n> m) == Dg, + ...
... + DlnAm; применяем микротеорему 1 § 2.1.
2. Совместное распределение ?,п, ?2« сходится к нормальному с пара-
параметрами [ @, 0); ( ) I, а распределение (?л, ^л) — к нормаль-
V V1/V2 1 //
ному f @, 0); Г И. Значит, предел Q>tntm при n->co, m->oo не суще-
существует и не существует lim (Р) ?л.
Й-»оо
3. Указание: воспользоваться микротеоремой 2 § 2.1. Другой способ
решения: положить т^ —arctgg^ и применить микротеорему 1 § 2.1.
4. Имеем при t Ф t0
SS P(x)p(y)dxdy.

276 РЕШЕНИЯ ЗАДАЧ
При 8 -> 0 это выражеьие стремится к
со со
p(x)p(y)dxdy = \ ^ p(x)p(y)dxdy=l;
X ф у — оо — оо
значит, при каком-то положительном е оно >1/2. При этом е имеем
т. е. сходимость по вероятности не имеет места.
5—7. Доказательства, известные нам для числовых функций, пере-
переносятся на случайные функции.
8—9. Следуют из микротеорем 1—2 § 2Л.
10. Для любого 8>0 и любой точки t0 e [я, b] существует такая
окрестность U точки t0, что для t^U имеет место неравенство \] ft — f/0||<
< е • | / — /01. Предположим, что ft Ф \а для какого-то t ^ [a, b]. Тогда
существует 8>0 такое, что \\ft— fall>e«(f — а). Обозначим через t0
нижнюю грань всех таких t. Ясно, что в этой точке должно быть || ft — fa ||=
= 8 • (^о — й): ведь, для / е [а, ^0) выполняется неравенство || ff — fa \\ ^
^ е • (/ — а), для t, сколь угодно близких к to справа, — противоположное
неравенство, а функция f непрерывна (потому что дифференцируема). Полу-
Получаем, что для t, близких к /0 справа, имеет место неравенство || ft — fa II =
= 8 • (t — а), что противоречит определению ?0-
11. Доказательство не приводится. Используется непрерывность ска-
скалярного произведения и микротеорема I §' 2.1.
12. Имеем М ?* == m, /C^(^,s) = K(t — s). Математическое ожидание
дифференцируемо (с нулевой производной), так что все дело в том, сколько
раз можно взять смешанную вторую производную от корреляционной функ-
функции. Частное дифференцирование по / функции от t — s сводится к взятию
производной от функции одного переменного, а дифференцирование по s —
к взятию производной с обратным знаком. Функция К дифференцируема
4 раза, a KY @) не существует; значит, процесс дифференцируем в среднем
квадратическом два раза, а три — уже нет.
14*. р ,(г) = BпГ1\п х"*у L=r при |г|<1, р . (г) = 0 при |г|>1.
15. Распределение (|0, ?q) — гауссовское как предел совместных рас-
распределений go» (In —" ?o)/h- Это гауссовское распределение имеет нулевое
среднее и матрицу ковариаций
/ К dKIds \ /1 04
KdKldt d2K/dtds)t=s=o \0 А У
Это означает, если сказать по-другому, что |0 и ?0 независимы и имеют
нормальные распределения со средними 0 и дисперсиями соответствен-
соответственно 1 и 4.
18. Достаточно провести доказательство при р = 1 (потому что из схо-
сходимости в среднем в степени р > 1 следует сходимость в среднем в первой
степени). Интеграл в правой части существует в силу теоремы Фубини, потому
что
ь
И II* (о) ИР (<*©)< F -a) max М1Ы<оо.

РЕШЕНИЯ ЗАДАЧ
277
Интеграл слева в A) — предел в среднем интегральных сумм J] ?s^ • (/t- — ti-x)
при измельчении разбиения a=tQ<tl< ... <^ = &, si^[t._v t.]y а инте-
п t^
грал справа можно представить в виде с^ммы У \ 1^ dU Оценим мате-
математическое ожидание модуля разности i-x слагаемых:
М
J (It-hi)
dt
max
4-х
h
Так как процесс, непрерывный в среднем, равномерно непрерывен в среднем,
то, выбирая б >» 0 так, чтобы М |?* — gs| < 8 при \t — s\ < 6, получаем, что
для разбиений с отрезками длины меньше 6 математическое ожидание модуля
разности интегральной суммы и интеграла вдоль траектории не превосходит
е- (Ь — а). Значит, интегралы в обоих смыслах являются пределами в среднем
интегральных сумм, а значит, они с вероятностью 1 совпадают.
19. Это распределение — гауссовское (доказательство для данного част-
частного случая не приводим, чтобы не дублировать решения задачи 3 § 3.1);
средние равны 0, а матрица ковариаций
(t, t)
Kww {t, s) ds
t t t
\Kww(u>*)du \\Kww(u9
10 0 0
du ds
t t*/2
(мы помним, что Kww (U s) = t A s)- Плотность распределения равна
i2 Г1
20. M^ = 0, Кц (t, s) == е~''"~5|/б — б"1 ^5 '/12. Это - стационарный
процесс.
2 т Т Т Т
21. М
ea% dt
о о
J J 6***6'***К (t - s) dt ds.
о о
Сделаем замену переменных t — s = и, (t — s)/2 «я о; получим \ (Г — |«|) X
-г
оо
Г-хюэто выражение есть Т- \ eauK(u)du + o(T)>

278 РЕШЕНИЯ ЗАДАЧ
22*, Естественно, коэффициенты Фурье должны получаться по формуле
Я/2
Совместное распределение любого числа Хп — гауссовское. Ясно, что
МХп = 0, а чтобы найти дисперсии и ковариации этих случайных величин,
перейдем к стохастическим интегралам:
Я/2 Я/2
) dB\)t^ cosBn-\)tdwt
о
(внеинтегральный член обращается в нуль). Отсюда
Я/2
Bп~\){2т~\)
Я/2
~\) J C0S BП "" 1} ' C0S Bm "" 1} ' dt
При т ф п этот интеграл обращается в 0, а при m = п дает DZrt =
= 4я—VB« — IJ.
Сходимость ряда Фурье вытекает из сходимости ряда из DXn, а то,
что его сумма равна wt (почти наверное), выводится из полноты системы
{sinBn— 1)*, л= 1, 2, ...} на отрезке от 0 до л/2.
§ 2.2
1. Достаточно доказать существование конечного lim_M
2. Пусть f (t) принимает постянные значения между точками a, tlt t2, ...
• ••> tnt b\ g (/) — между точками а, ^, t2> ..., /rt., 6. Объединив точки ti9 t'it
перенумеруем их по порядку: a<t(<t?< ... <t^<b. Обозначим через fQt
fv ..•> fm-p fm значения, которые функция f(t) принимает соответственно
при t<t'{9 t'{<t<tr2, ...,С-1<КС ^>С чеРез ft. ft. •••* ffm-i.
^rm — соответствующие значения функции ?(?)• Имеем
Здесь слагаемые с ]Ф1 обращаются в 0; получаем
m Ь

РЕШЕНИЯ ЗАДАЧ
279
3. Положим f*(t) = f (st) при **<*^*/+1 (/(so) в точке а)> тогда рас-
ъ
сматриваемая интегральная сумма есть \ f* (t) dlt,.
а
М
=M
Имеем
2 ь
а
-f*(t)\2dF(t)^[F(b)-F(a)] max
0<i<
что стремится к нулю при измельчении разбиения.
Вывод правила интегрирования по частям:
max If (*) - f (*) I2»
i=0
l.i.m. / (Ь) \ь - f (а) 1а-? hi+1 (f (tt+l) ~
4. Задачу во много раз проще решить самому, чем смотреть в ответ.
Равенство (с вероятностью 1) стохастических интегралов докажите сначала
для ступенчатых g.
5. Прежде всего нужно проверить, что оба интеграла имеют смысл. Для
стохастического интеграла в правой части:
ь d 2 ь
[ [f(t, X) dX dF (t) <[(c — dJ max | f (/, Я) |2 dF (t) < oo.
Для обычного интеграла в правой части: достаточно проверить, что
ь
\ f (t, Я) d\i — непрерывная в среднем квадратическом случайная функция
а
от Я. Имеем
Ь Ь
При X' -> Я функция под знаком интеграла стремится к 0, причем она ма-
мажорируется интегрируемой относительно dF (t) функцией 4 max I / (t, Я) |2;
поэтому предел интеграла равен" 0 и
ь
Л -^ Л
f(t,
, к)

280 РЕШЕНИЯ ЗАДАЧ
Для разбиения с = Я0<Я1< ...<ЯЛ-!<ЯЛ ~rf отрезка от с до d по-
d f" ft "I
ложим f* {t, A) = / (t. %t) при Я/ ^ Я< Я^+х- Ясно, что \ I \ f(tt Я) dgf I ^Я =
ft-l Г о -| ft r«-l т
Y^ I f аь I м rn I
гГг 1
X dlt = l.i.m. \ I \ Г (/, Я) d% I rf|^ при измельчении разбиения; докажем,
что \ I \ f (/, Я)^Я I d\t также равен этому пределу — тогда все будет дока-
а *~с -¦
зано. Снова пользуемся формулой для дисперсии сгохастического интеграла:
М
еГг 1 гЧг 1
\ \ t (U Я) dX \d%t - \ \ Г (U Я) dh d%t
а с -^ а с
2
Ъ d
\ \[\{Uh)-r(U
а
с
dF @.
Функция под знаком интеграла здесь также стремится к нулю (при измель-
измельчении разбиения), и она мажорируется функцией 4 (d — сJ max | / (t, Я) |2.
А
Нужное нам предельное соотношение доказано, а с ним и вся микротеорема
о возможности перемены порядка интегрирования.
§ 3.1
1. Для любого пространства с конечной мерой (X, Л, \i) в пространстве
т
L2 (Х> <А> И-) всюду плотно множество функций вида f (х) = ^ ck%A {x),
4S(i. Если а-алгебра Ж порождается алгеброй <Aq (<Л = а(<Л0)), то
всюду плотно и множество линейных комбинаций индикаторов множеств
Ak е <Л0. В данном случае в качестве <А0 можно взять систему множеств
вида {(ltv .... ltn)<sB).
2. Легко видеть, что всюду плотно множество случайных величин вида
f (|^, ..., ltn)t f|, ,,., ffl е Г, где f — функция не только измеримая, а не-
непрерывная и ограниченная. Выбирая ^е»Г0, t^-*ti при &->оо, получаем
f(lt, — ltn) = lim(P) f (I (м ..., | {ь\ Но для последовательности огра-
k->°° Ч f )
)
ничейных в совокупности случайных величин из сходимости от вероятности
вытекает сходимость в среднем; это доказывает нашу микротеорему.
Сепарабельность b\ теперь выводится из сепарабельности пространств
3. Это будет так для величин вида с0 + cfetf + ... + сп^п (потому
что любые линейные комбинации случайных величин, имеющих совместное
гауссовское распределение, тоже будут иметь гауссовское распределение;

РЕШЕНИЯ ЗАДАЧ 281
проще всего это доказывается, по-видимому, с помощью характеристических
функций). Если T]? = l.i.m. т^Ч где т//0 — величины указанного вида, то схо-
димость имеет место также и по вероятности, и «по распределению», т. е.
совместные распределения r\[k\ ...,т]^) сходятся к распределению (т^, ...
• ••» %)• Остается заметить, что слабый предел последовательности гаус-
совских распределений — тоже гауссовское распределение.
4*. Из непрерывности в среднем ?*, /еГ, вытекает сепарабельность
пространства Н%. Если Н% конечномерно, то выбираем в нем ортогональный
базис T)i, ..., i)n и получаем, что имеет место представление первого рода.
Если же это пространство бесконечномерно, то оно изоморфно L2 [О, 1]; за-
зафиксируем некоторое изоморфное соответствие. "Обозначим через Wf случай-
случайную величину из Яу, соответствующую при этом изоморфизме функции %[о, t\*
Величины wt, 0<^t<^ 1, образуют гауссовский процесс с нулевым математиче-
математическим ожиданием и корреляционной функцией Mwtws =* \ %[0> t] (и) %[Qt s] (и) du =
о
г=5д/, т. е. винеровский процесс. Если определить / (t, •) как функцию
в L2 [0, 1], соответствующую случайной величине |^, получаем искомое пред-
представление.
оо оо с»
5. { lim In^o) = П U П {\Ъп — а\<\/т} при любом натураль-
ном k. Здесь все события {| %п — а | < \/т\ е ^>k> так что { lim ln = a} s
*"" /1-Х»
e^>fe ПРИ ЛК)б0М ^» Т* е« { lim %П — а} ^ ^Г> + сх>-
Для второго события пользуемся представлением
оо оо с» оо
ПУП П tl6*-l,l<l/m}.
m=l no=k п=Па s=rc0
6. Д g f ^+оо, а значит, А ^ &~{l2tt,,y Эта а-алгебра порождается
алгеброй U @~[\,П], значит, для любого е>0 существует натуральное п = пе
и событие Л8е#~A>/г] такое, что Р(ЛАЛе)<е. Раз Л принадлежит
^~>n+i — о*-алгебре, независимой от @~[\,пу то Л и Л8 независимы: Р(ЛЛ8) =
= Р (Л) Р(Л8). Левая часть отличается меньше чем на 8 от Р (Л); правая —
от Р {АJ. Отсюда | Р (Л) — Р (ЛJ1 <2е, а так как г произвольно, то
Р(Л) = Р(ЛJ (Л не зависит само от себя). У этого квадратного уравнения
два корня: Р (Л) = 0 и Р (Л) = 1.
7. Для любого х имеем
P{ li ?<} () или 1;
а определится как точка, где F делает скачок.
8. Для стохастически непрерывного процесса #"^ t+^ содержит, во вся-
всяком случае, события, отличающиеся лишь на множества вероятности 0 от
событий о-алгебры ST^; так что в случае винеровского процесса для ^^ +]
закон 0—1 не будет выполняться. Для того же винеровского процесса и
сг-алгебры ^*^о+ в ^(о. о+} в § ^t2 доказывается закон 0—1 Блюменталя.

282 РЕШЕНИЯ ЗАДАЧ
Для пуассоновского процесса тривиальность а-алгебры #~^0+доказать совсем
легко.
Еще пример. Процесс с двумя траекториями: Р {т^==?} = Р {т^== —1} =
= 1/2, $Г^ 0+] = !Fiti ^+] = @~т, и в каждой из этих сг-алгебр есть события
вероятности 1/2 ^ О, 1.
9. Н,х 2 . .} порождается ортогональными векторами 1, glt |2, ...; про-
произвольная случайная величина т]<=Я^+0О ортогональна gj, |2, ..., а значит,
пропорциональна 1.
§ 3.2
1. Самому так самому.
§ 3.3
1. Последовательность г\п = пря г\ имеет ортогональные приращения;
п
она ограничена в норме: || г\п \\^\\г\\\. Значит, существует предел г\п; обо-
обозначим его т]^. Из х\п е Нп s Яоо вытекает, что ri^ e Я^. Чтобы доказать,
что ц = пря ц, остается проверить, что (г\ — г] , г\) = 0 для fj e Я . При
т^п имеем (т} — T]m, fj) =0 для fj е Ял; устремляя т к оо, получаем, что
(т} — rioo, fj) = 0 для г\^Нп. Это означает, что (ц — т^, fj) =0 для всех
оо
fj e (J Я^, и доказательство заканчивается переходом к замыканию.
2. Расстояние от вектора до его проекции непрерывно зависит от вектора.
4. Наилучшая оценка fj = l.i.m. M (т^ 11* , ..., |* ) при некотором выборе
П->оо Х 1 П/
последовательности tu ...^ tn, ••• еГ. Но в случае совместно нормально
распределенных случайных величин условное математическое ожидание одной
из них относительно других есть линейная функция от них. Иначе говоря,
проекция г\ на Ltt t л совпадает с проекцией ц на Я^ ..., * \ и ПРИ"
надлежит Я^,. Значит, также в г\^НТ.
§ 4.1
1. Производная стационарного в широком смысле процесса, если суще-
существует, всегда имеет нулевое математическое ожидание.
2. В случае непрерывного времени
IV3
U
*2-*1
2
2(t2-t1rlRe J [(t2 - t,) - и] К (и) du -> 0,
t
если только lim t \К (и) du = 0.
*->оо J
о
3*. Смешанный момент находим как г—г—г—г— е?
dZidz2dz3dzA
Далее, /^ (s) == М^+цт1и - Щ3+иЩи = /С (О2 +/С (sJ + К (з + О /С (s- 0-
— /С (/J = К (sJ + /С (s + t) К (^ — t) -*> 0 при s <-> оо; рассматриваемая оценка
состоятельна.

РЕШЕНИЕ ЗАДАЧ 283
§4.2
1. Спектральная функция складывается из чисто разрывной функции
со скачками величины т2/4 в точках ± Л и из абсолютно непрерывной
с плотностью -j- f (Я + Л) + ~ f (Я — Л).
я
2. % = J (l - в"'31)" еап dZ (Я), ^ (Л) = B - 2 cos Я)" ^ (Я), причем
—я
л
для существования ч\п нужно \ B — 2 cos Я)"" f% (Я) с?Я< сю.
—я
3. Уравнение, описывающее схему: Cx\t + R"li]t = |f. Ясно, что для ста-
стационарного решения Мт^ = /?М|^ = /?/0. Полагая |J = lt — М^, tjJ = r\t— Mrj^
oo
из ft == i[ бД^ rfZ (Я) получаем
где P (iX) = R + С/Я. Спектральная плотность
вычисляем дисперсию (например, пользуясь вычетами):
§4.3
2. Докажем второе. Пусть gln -> gi в среднем квадратическом, g2n -> g*
равномерно, где
gin (Я) = с1я1ва + ст2еш + сшъеш + ...,
с2п0 + с2гг1еа + с2Л2е2а + с2пъеш
(суммы — конечные). Легко видеть, что
При этом ging2n -> ^1^2 в среднем квадратическом:
11?2 < II (gin - 5i) S2n \\L2 + II ^i (g2n - ft) llz* <
gin — ft Hi* * II S2n \\L* + II gi We • II ft/i - ft llc~> 0.
3. ftXJ-fHM-MX), где
-Jrm-... Имеем
o4

284 РЕШЕНИЯ'ЗАДАЧ
Теория непосредственно применима лишь в случае M|rt = 0; поэтому положим
|0 = §п — М?Л = |Л — 2. Наилучший прогноз есть
Вычислите сами средний квадрат ошибки прогноза.
4*. f (Я)_= /, (Я) • fTW. /,(*)= 1+«"Л; формула E) дает g(X)=.
= (l+g""^) . Применение этой формулы не обосновано, но оказывается,
что действительно g — проекция е1% на замкнутую оболочку {ет\ п < О}, т. е.
имеет место формула A):
я
Остается найти элемент пространства Н^о» соответствующий g (Я) (мы пред-
предполагаем Mgrt = 0). Фуькция ^(Я) не разлагается в ряд Фурье, так что
формула F) неприменима. Однако можно воспользоваться, например, тем,
что (l + qe~1^) ->A + e~tk) при q f 1 в смысле сходимости в L2 (dF)\
получаем тгкое выражение для наилучшего линейного прогноза:
Средний квадрат ошибки прогноза равен
я
т. е. половине дисперсии оцениваемой величины.
6*. После сказанного очевидно, что искомая последовательность не дол-
должна иметь спектральной плотности, и мы легко находим пример: /С@) = 1,
К(п) = 1/2 при п ф 0. Случайная последовательность с такой корреляцион-
корреляционной функцией получается из последовательности некоррелированных случай-
случайных величин прибавлением одной и той же для них всех случайной вели-
величины.
7*. Вычисления аналогичны приведенным: f (Я) = 2а3я"~ 1/(а2 + Я2J;
^__ 0
ft{X) = л/2а3п (а + /Я) = - л/2а\~х \teatemdt\ g(l) = e-as [l+as +
§ 5.1
1. Пусть C = {*.: (xt^ ..., л:^ е Л} = Гл;.: fxfff ..., ^ЛеЛ; тре-
требуется доказать, что
Ф, t {А)-О, t,{A% (.)

РЕШЕНИЯ ЗАДАЧ * \ 8 ^
Прежде всего, при данных tu .. •, tn множество А восстанавливается
однозначно по С, а именно, А состоит из всех наборов значений (xt , ...,xt \
возможных для функции ^,еС.
Рассмотрим сначала случай, когда tlt ..., tn, — это переставленные в дру-
другом порядке tu ..., tn (а стало быть, п? = п). Множество А' в этом случае
состоит из точек множества А с переставленными определенным образом коор-
координатами. Обе части равенства (*) — меры, и, чтобы доказать (*) для всех
Де^п, достаточно проверить это равенство для порождающего $п полу-
полукольца множеств А вида AiX - • -У\ Ап> Л*е#4. Но для таких множеств
(*) — не что иное, как первое из условий согласованности.
Далее рассмотрим случай, когда набор tx% ..., tn, включает в себя
tu ••-, tn\ причем будем считать, что /}, ..., /^занумерованы так, что пер-
первые п из этих элементов — это tu ..., tn (независимость от порядка нумера-
нумерации мы уже проверили). Тогда легко видеть, что А = Л X^tt'"re» и выпол-
выполнение (.*) для всех А &&п доказывается так же, как в предыдущем случае,
с использованием второго условия согласованности.
Наконец, в общем случае рассматриваем множество {/", ..., t"n\ =
==Й>""УП{^-.м('}; имеет место представление С = Г*.: /лу,, ...
• ..» Xjr \ ^ А"\, и мы видим, что обе части (*) равны Ф.г/ ,„ {А").
гпп) ] г\ •- *пя
2. Доказательство, в сущности, повторяет доказательство компактности
гильбертова кирпича (см. Колмогоров и Фомин, 1968, гл. II, § 7,
пп. 1, 2), и можно было бы, несколько изменив ход доказательства теоремы,
воспользоваться непосредственно этим фактом. Однако все же приведем ре-
решение задачи.
Из Dj ^ Dr? ^ ... ^Dn э ... следует, что при любом т проекции ком-
компактов Кту Кт+!>..., Кп> ... на первые т координат образуют невозра-
стающую последовательность. В каждом из компактов К*п выберем точку
*п = (хпи " ч хпп)- Последовательность {xni} первых координат точек хп
состоит из элементов компакта /Cf, выберем из нее последовательность {#ttq},
сходящуюся к x^i^K^ Рассмотрим последовательность {(xn^t xn,^)yn ^2\;
она состоит из элементов /^2» и мы выделим из нее подпоследовательность
{(хп"\* хп)}> сходящуюся к (xooU xoo2) e #2* ^3 подпоследовательности
{(^л» хп* хп"з)} выделяем подпоследовательность, сходящуюся к точке
(хоо\> х<х>2> -^ооз) е ^з» и т* д* «^юбая функция хь е RT, принимающая значе-
значения: хоо1 в точке t{i x^z в t2, ..., принадлежит всем Dn.
3*. Условия существования процесса с независимыми приращениями с
данными распределениями приращений и соответствующее доказательство
можно найти в книге И то, 1960, § 6. Можно также воспользоваться резуль-
результатами § 8.3 настоящей книги.
§ 5.2
1. Это можно доказать, пользуясь тем, что любая функция без разрывов
второго рода со значениями в метрическом пространстве имеет самое боль-
большое счетное число разрывов (а сходимость по вероятности задается метри-
метрикой). Другой способ доказательства: функция F(t) = M arctg %t монотонна,
а значит, имеет не более счетного числа разрывов; в точках непрерывности

286 РЕШЕНИЯ ЗАДАЧ
F(f) из lt_^lt^lt+ и +]
получаем |^__ = %t = ^+ (почти наверное).
2*. Ответ: при а<1/2 и только при них.
3. М (Z (t) - Z (*))* = 3 [М (Z (/) - Z (s)J]2 == 3 [/С а 0 + К (s, s)
- 2К (t, s)]2 = 3[/-^ + s-52-2(/As) + 2/s]2 = 3 [ 11 - s \ — (t - sJ]2
<3(/J
)
4. Множество частичных пределов замкнуто; так что, если выполняется
событие в левой части, существует интервал (а, |3) с рациональными концами,
содержащий точку gi (со) и такой, что ни один из частичных пределов не
только не принадлежит этому интервалу, но и не совпадает с его концами.
Отсюда вытекает, что для достаточно близких к t точек s еГ0 будет
gs ф. (а, C), т. е. выполняется событие в правой части. Обратно, если правая
часть выполняется, то ни один из частичных пределов не лежит в (ос, C), a gt
как раз лежит в этом интервале, так что совпасть им никак невозможно.
§ 5.3
1. Сингулярность распределения %t относительно распределений w^ y\t
проверяется при помощи функционала f (хт) = х0: для ?. он с вероятностью 1
принимает значение 1, а для ш, ит|, — значение 0. Чтобы проверить сингу-
сингулярность Ф^у и Ф^ , воспользуемся тем, что предел по вероятности
п
Л (wtk -~ wtb - У ПРИ измельчешш разбиения 0 = /0<^< ... <^ = 1
k== 1
равен 1 (см. § 1.2, п. 4); для т^ соответствующий предел равен, естест-
естественно, 4. Правда, этот предел по вероятности — еще не ^°» ^-измеримый
функционал; однако решение задачи дает, например, такой функционал:
2. Левая часть есть Ф' /#.: (xt , ¦.., хЛеД а правая
\ h(xm) Ф (dx,), так что равенство, о котором идет речь*
{*••¦(%• •-**)**}
эквивалентно
где С — произвольное цилиндрическое множество.
Необходимость ясна; достаточность получается распространением равен-
равенства (*) с алгебры цилиндрических множеств на порожденную ею о*-ал-
гебру <$т*
4. Положим С& = fxm: (xt , ..., х^ \^ А\, где А — то множество, о ко-
котором говорится в условии задачи. Имеем Cg е $ , Ф(С )>1—е,
оо оо
Ф' (Хт \ СЕ)> 1 - е. Положим С = (J П Cmh' D = U П [*Т Х Cmk]>
п*=*\ k—n n==l k=n
это — непересекающиеся подмножества Хт. Лемма Бореля — Кантелли дает
нам Ф(С)=1, Ф/(?)) = 1, а это означает сингулярность мер Ф, Ф',
5. Воспользоваться результатом задачи 2. Это — частный случай за*
дачи 15.

РЕШЕНИЯ ЗАДАЧ 287
7. Выберем /ь ..., tn так, чтобы
Воспользуемся задачей 4. В качестве множества А возьмем /(*,, ..., хп):
ht __t (л:, лгп)<1/б|; в силу чебышёвского неравенства
-8.
С другой стороны,
* 1 • • • ttl
$¦••$
hti_tn(x1,...,xn)f<S>ti_tJdxl... dxn)<
<A/е)'-ае2<е,
что и требовалось.
8. Пользуемся результатом задачи 7 при а= 1/2.
9. Мя<?=1; далее применяется лемма Фату.
10. Доказывается, что л;^ == М (л | ^~5)> где ZTs — а-алгебра, порожден-
порожденная конечным числом случайных величин g^, /e5. Согласно задаче 11 § 1.2
jtc равномерно интегрируемы; отсюда вытекает, что возможен предельный
переход под знаком математического ожидания: Мя= lim Мяо = 1.
11. Достаточно доказать для любого конечного So ^ Т, что Р' {г|. gC} =
= ^5С{|. ес}я* для произвольного Ce^s°(^r) (см. задачу 3). Выберем по-
последовательность конечных подмножеств Sn ^T, Sn^. So, для которых
ns ->я* (п->со). Пусть Sn=$t\n\ ..., /^|; обозначим через Л^ то мно-
множество, через принадлежность которому координат х^, /g5 , определяется
множество С:
(такое An существует, потому что So ^ Sn).
В силу леммы Фату
М%{?# е с}я* < lim М%{Ь(-с}л3 .
Выражение под знаком предела записывается через конечномерное распре-
распределение так:

288 РЕШЕНИЯ ЗАДАЧ
Но это — не что иное, как Ф'(л) {п) (Ап) = Р7 {г\. е С}. Итак,
1 - т
Совершенно так же — с заменой множества С е <%s% (ХТ) на множество
Xт \ С е $5° (Хт) — доказывается, что
м A - Хй.еС))^<* ~ р/ fa-e СЬ
Так как по условию Мя* = 1, то отсюда получаем
и в (*) имеет место равенство.
Микротеорема доказана.
12*. Задача решается с использованием условия сингулярности, данного
в задаче 7, которое оказывается не только достаточным, но и необходимым
(в случае абсолютной непрерывности конечномерных распределений).
13, Разумеется, абсолютной непрерывности нет при ?=!, потому что
при этом Р {т^ =0} = 1, а Р {w{ =0} =0 и Ф^ и Фда# сингулярны. Пусть
сФ\, Возьмем 0</2<... <//г~1 <tn 5SS51. Совместная плотность распре-
распределения
/г
X exp I - |*j - x.__{ +T—j(t. - t^x)
(Полагаем to = O, лго = О. Формулу (*) можно получить, например, пользуясь
тем, чт© r\t — гауссовский процесс со средним 0 и корреляционной функ-
цией Кц(t, s) = t Л s — Bс — с2)ts.) Деля на р^ ### ш^ ^ (^, ..., ^ft)
1 г^ ry I —J5T Г • ^то означает,
что имеет место абсолютная непрерывность бесконечномерных распределе-
распределений с плотностью
%. (dx.) 1 (Г 1 1 *Ц
<bw.(dx.)-\l-c\ exP\L'~ <1 — с)» J 2 J
(здесь, в отличие от формулы (*), Х\ — ве независимое переменное, а зна-
значение функции хт в точке 1).
15. В случае ф0 ф 0, естественно, имеет место сингулярность; будем
рассматривать случай ф0 = 0. Для 0 = t0 < t\ < ... < tn ^ Г, tn<oo нахо-
находим (#0:=0):

РЕШЕНИЯ ЗАДАЧ 289
Отсюда для S = {tb ..., tn) или S = {0, tt tn] получаем:
Если ф* не является абсолютно непрерывной функцией с интегрируемой
в квадрате производной, то вторая сумма может быть сделана сколь угодно
большой за счет выбора U, ..., tn (см. Ф. Рисе и Б. Секефальви-
Надь, Лекции по функциональному анализу, ИЛ, М., 1954, лемма из § 36);
в этом случае задача 7 позволяет установить сингулярность: '
Мя^2 = ехр<-^
"S - ^ 1 8 Lu
что сколь угодно мало.
Если q>j = \ ф^ ds, ф. е!2 (О, Г), то
lim > -^— —-?— в= \ ф! dt
S A l~J ti — ti-i J l
i=l 0
(это вытекает из леммы, на которую мы уже ссылались, — Рисе и Секе-
фальви-Надь, 1954, § 36). Докажем, что
т
lim
' ' Z-J ti — li-x \ *i 4-Х)
О
*, - •'!-,) - Jф*rf^-
Для этого, как мы знаем, достаточно проверить, что ступенчатые функции
ПрИ /f-i <
при / > tn
сходятся при S\ к ф^ в среднем квадратическом на отрезке от 0 до Т.
Предоставляем читателю проделать это самостоятельно.
Если это доказано, получаем, что
Ит
( Т Т
)я5 = я*==ехр| J ф, Ж»,-у J Ф
Согласно задаче 11 остается проверить, что Мя* = 1. Но это вытекает из
т
того, что tj =5 V ф^ dwt — гауссовская случайная величина с нулевым средним
о
Ю А. Д. Вентцель

290 РЕШЕНИЯ ЗАДАЧ
Т
и дисцерсией а2 = \ <pf dt:
о
l.
16*. То, что Р' — вероятностная мера, устанавливается легко. Абсолют-
Абсолютная непрерывность распределений: из Р {g. e С} =Ф(С) =0, Се/, выте-
вытекает Р' {?. е С} = М%^# s Cj3X = 0. Однако, вообще говоря, зх =? -т^- (|.)
(=М(я|<Гг)).
Такая конструкция дает возможность из одного случайного процесса
получить различные другие (см., например, Дынкин, 1963, введение, § 6;
гл. 10, § 4).
ф
17*, Положим ? = max до,, ть == ш^ + ^^» т = max ть, -
Ф^ (dx.)
g (х), . , ,—г-=г/г(л;.), я==/г(до.)« В силу задачи 15 имеем зг
(dx.)
= ехр {6дог — Ь2Т/2у Упомянутая формула (9) дает
оо
а {Х) = М {ebwr-b'TI21?=1!4- 5 е^-627'^,,,., с (У. х) dy:
— ОО
а рт (л:) == р^ (д:) • g (x). Итак, считаем: при л:>0
При х ^ 0 плотность, естественно, равна 0.
Теперь выясним, что будет с этим распределением при Т -> оо. Если
6 = 0, плотность равномерно в каждом конечном промежутке стремится
к нулю, т. е. распределение уходит на +оо. Это означает, что с вероят-
вероятностью 1 sup w+ = lim max w. «¦ оо. То же будет и в случае
Ь > 0, хотя бы потому, что в этом случае x\t > w%% Напротив, при Ь < 0
первый член в выражении для плотности стремится к нулю, а второй — к
(потому что lim ф( "" х Т16Г 1l — ф (+ °°) - Я Таким обра-
Г-»оо V Л/Т )
зом, распределение max x\t в этом случае — показательное с парамет*
ром 2|6|и

РЕШЕНИЯ ЗАДАЧ .. 29F
18*. Аналогично предыдущей задаче, если мы обозначим рассматриваемый
максимум через т, имеем (плотность бесконечномерных распределений вы-
вычислена в задаче 13):
РхМ
х* A-с)*-2;е2 Clillf
V2"
Конечно, эта формула действует при х>0, а при #<0 плотность равна Q.
Устремим с к 1, получим предельную плотность: р (х) = Axe~*xi<b (+ со)=*
=4*?~2x2, х>0; р(х) = 0 прил:^0. Так как это выражение имеет инте»
грал 1, то это — плотность предельного распределения, т. е. плотность рас*
пределения случайной величины max (w4 — tw\
о<* < 1 v г 1У
Глава 6
ft0
2. {тА<п}= U "П
0<п, <п2 < ... <nft<n (=0
"ft ^Г2}П ... П
Задачу 3 мы решим на основании задач 4, 5, решения которых мы сей»
час приведем.
5. Пусть т — марковский момент относительно &'<i+. Имеем {т</} =
ОО ^ ,
U {т< t — 1/я}; каждое слагаемое здесь принадлежит
t-i/n)+ ~ ^<
а значит, и сумма принадлежит ^"</.
Обратно, пусть {х <t] е ^^^ 1три всех f. Пользуемся тем, что {х < /}
П где ^ — любое натуральное число; получаем, что»
оо
Для ^==1,2,,,,, откуда {т<*} е f]
k
П
s> t
10*

292 РЕШЕНИЯ ЗАДАЧ
4. Если It (со) непрерывно справа, то для открытого множества Г
{т</}= У {?Г€=Г}.
рац r<t
То, что любое элементарное событие, принадлежащее правой части, при-
принадлежит также и левой, ясно, причем даже и не для открытых множеств.
Обратно, если x<t9 то существует s<t такое, что |5еГ. Раз множество
открыто, а траектория непрерывна
справа, то она не может сразу же
после s выйти из Г; т. е. для и, до-
достаточно близких к s справа, ^еГ
(рис. 33). Среди этих и есть и ра-
рациональные, причем меньшие t.
Итак, мы представили {х < t]
в виде суммы счетного числа собы-
событий, принадлежащих &~^t> значит^
{x<t} ^^<и и в силу задачи 5
х — марковский момент относительно
семейства ^<^+*
3. Через Тп обозначим 1/я-окрест-
ность Г: Тп = {х: р (х, Г) <!/«}; это —
открытые множества, дающие в пересечении Г. Если траектория непрерывна,
то моменты хп первого достижения Тп (хп = inf {t: ^ е Гге)) сходятся к т,
причем если т>0, то хп<х (рис. 34; если т = 0, то все хп тоже равны 0).
Докажем сходимость: раз хп — неубывающая последовательность, то сущест-
существует Тоо= lim хп <= [0, оо]. Ясно,
что Too ^ х- Поэтому при Too = оэ
имеем т = оо; если же х^ < оо,
то в силу непрерывности траек-
траектории имеем gt = lim %x . Но —
оо /г->оо ft
тоже в силу непрерывности траек-
Рис. 33.
тории
принадлежит границе
Тп и для любого
точ-
ка
чит,
содержится в множестве
Рис. 34.
. Предел, ?т , также содержится в этом множестве, а зна-
оо
оо
р) {х: р (х, Г) ^ \/k} = Г. Но это означает, что в момент Too
мы уже достигли множества Г, т. е. т ^ Too. Окончательно имеем т
= lim xn.
Отсюда выводится, что при
и из результата задачи 4 получаем, что {т *О} е ^^t при f>0. Что же
касается t = 0, то {т ^ 0} = {т = 0} = {?0 еГ),и это множество принадлежит
^<-г = ^~<о по совсем ДРУг°й, более простой причине.
6, Очевидно,

РЕШЕНИЯ ЗАДАЧ 293
7. Докажем, что {т ^ с) е #"т. Измеримость этого множества относи-
относительно Ф"'оо — результат задачи 6; далее, для ^еГ
8. Пусть А е ^х\ докажем, что А е @~Ф Во-первых, по условию А ^;
во-вторых, А П {(Т ^ t] = Л П {т ^ t} f[ {a < t] e ^ как пересечение принадле-
принадлежащих этой сг-алгебре событий ЛA{т^^} и {cri^tf}.
9. {<r<*}=»{<x<*}n{T<*}e=^V
10. В силу задачи 8 наименьшая из этих ст-алгебр — ^"тАа, так что
достаточно показать, что {т < о*} е &х А G. Во-первых, {т < а} е 2Г^ потому
что {т<ог}= U {т<г}П{а>г}== (J [{т<г}\{ог<г}]. Далее, {т<а}П
рац г рац г
J
рац г < t
Здесь каждое слагаемое суммы по рациональным г принадлежит $Гr e ЯГ^
последнее слагаемое тоже принадлежит @~t> значит, этой a-алгебре принад-
принадлежит и сумма.
11. Теорема Фубини.
12. Случайные величины г\Чу s <T t, измеримы относительно a-алгебры $Ff
(следует из @~s^?Ft). Поэтому измеримость функции % (со) на {Т Г) (—оо, ^])Х^
относительно a-алгебры $^ty^ZTt вытекает из задачи 4 § 1.3 в применении
к случайной функции %, s е Т {] (— оо, t], на измеримом пространстве (Q, &~t).
13. Нужно доказать для Cel измеримость множества {% е С}
относительно ^^ и измеримость {т]т е Cj f) |т ^ ^) относительно &~f. Эти
измеримости следуют из результата задачи 5 § 1.3 в применении к (Г, s&) =
= (ТУ$Т), соответственно (ГП(—oo,f], ^^).
14. Так как ^ (ю) непрерывно по /, достаточно доказать, что случайная
функция t,t согласована с семейством #"f. Но ^/-измеримость случайной
величины t,f вытекает из теоремы Фубини.
15. Функция ls на [0, /] X Q измерима относительно 38^ ^ X %Ft B силу
задачи 12; значит, отображение (s, со) -> (s, |s (со)) пространства ([0, /] X ^»
%, <] X ^) в ([0, t] X ^, ^[о t\ X $) измеримо, а значит, и числовая функ-
функция f(s, ^(со)) измерима относительно ^f0> ц X ^- Далее применяется пре-
предыдущая задача.
16. При любом t случайная величина %<x(t) измерима отьосительно ?Г^
остается воспользоваться задачей 12.
17. Результат почти вытекает из задач 15 и 13 — остается неясной только
измеримость ч]? = ?t на множестве {т = оо} (где, в частности, интеграл может
расходиться). Другой возможный путь решения — представить -ф как
оо
\ f(s,ls)%<%(s)ds, воспользоваться задачей 16 и применить теорему
о
Фубини.
Этот же результат сохраняется и для неограниченной функции f.
§7.1
1. M(|f-Ss) (lu ~ It) = MM ((I, - Is) (lu ~ It) |Г,) = М (F, - h) X
2. М(|„+2|Г„) = М(М(|п+2|^„+1IГ„) = М(|„+1|^«) = 1« и т. д.

294 РЕШЕНИЯ ЗАДАЧ
§ 7.2
1. |t измеримо относительно #~t; достаточно доказать, что \
А
< \ \N dP для любого А е 5rt. Разобьем интегралы по А на интегралы па
А
А Г) {т = п} и докажем для каждого из них неравенство отдельно. Имеем
А П {т = п) €Е ^ц
н
мр= S
} АО {т
в силу формулы E) § 1.
2. Докажем, что \gtdP< I |a dP для любого Л е #~t.-Повторяем
А А
А А
доказательство микротеоремы 1:
N N
S
JV
ЛП{т=/г,
S 6*dpl>Z S ?«dP=$
,a>JV-l} J n=l ЛП{1+я} Л
n=l
3. Имеется тысяча различных способов доказательства; в частности»
утверждение вытекает из результата п. 46) § 8.6.
4. Положим %п = \2пх + l]/2rtA n\ %п->% при п->сю, причем, начиная
с некоторого п, % ^ т. Поэтому |- = lim |т и М|т = М lim |т ^
< Ит М|Т < Urn Mgo = M|o (используем то, что %п — марковский момент
/г-»°° rt м->оо
с не более чем п • 2rt значениями).
5. Положим T = min{/: wt = a или &}; т^ = тЛ^. В силу микротео-
микротеоремы 3, Мдот = Mw0 = 0. Величины wx ограничены по модулю констаьтой
\а\ V \Ь\, и Мшт= lim Мшт = lim Мш0 = 0. Но Mwx = a• Рiwx = a} +
= а}), откуда Р {wx = а} = b/(b —a).
cw2f 12 сб2/2
6. P{ max | o>J >5}<Me r/ :e • математическое ожидание равно
1 Г есхЧ2в-№ dx = (, _ с/)-«А при с < 1/Л Минимум A _
•у2зх/ J

РЕШЕНИЯ ЗАДАЧ 295
посдостигается при с = \/t — \/б2 (если t<б2; при t^d2 это выражение тем
меньше, чем меньше с>0). Получаем Р{ max |су5|>6} < у et/b2 - e~62/2t
0<<*
при t<62 (при t ^62получается только тривиальная оценка: вероятность^ l).
7*, 8*. В задаче 7* Q берется очень близким к 1, в задаче 8*, наобо-
наоборот, — очень большим.
9*. Можно повторить решение задач 7*, 8*, а можно воспользоваться тем,
что wt = tw j —другой винеровский процесс.
~Т
10*. Вытекает из задачи 9* и абсолютной непрерывности распределения ?«
на конечном отрезке относительно распределения Wt (задача 15 § 5.3).
§ 7.3
1. Полагаем ^ = ^Г_&, где k пробегает все целые отрицательные зна-
значения; М (? | *&k) — мартингал относительно этого неубывающего семейства о-
алгебр. Существование предела вытекает из теоремы 1 так же, как при доказа-
доказательстве теоремы 2. Доказательство равенства интегралов еще проще, чем
в этой теореме.
2*. | wf — х0 I — супермартингал с непрерывными реализациями;
sup М(| wt — х0 |-1) = М (| ш0 — лг01 —ж) ===== | xQ (-1 < оо при хп Ф 0. Поэтому
с вероятностью 1 существует lim (| wt — xQ I") и конечные пре-
делы | ^"-"^ol" справа и слева в каждой точке /;>0. Отсюда вытекает,
что с вероятностью 1 | wt — xQ \~~l < оо при всех t^O, т. е. wt Ф х0 ни при
каком t^O. Для xQ — 0 можно взять супермартингал | wf |-1, ^^б>0;
так как sup М (I w, |-1)== М(| w« I-1) == !_ С _1_ еН * 12/26 rf < т0
t>d Kl t{ } ч б1 } BябK/2 J \х\
к этому супермартингалу применима теорема о сходимости, и с вероятно-
вероятностью 1 Wf ф 0 ни при каком /^б>0, т. е., в конце концов,-ни при каком
положительном t.
Далее, lim (| w^ — х0 [—[) почти наверное равен 0, потому что соответ-
t ->оо
ствующий предел по вероятности lim (Р)(|и^ — xoi"l):=s^' ^т0 означает,
что почти наверное | т^ |-> оо при /-> оо.
§ 8.1
1. Решение см. в § 8.2.
2. Переходная функция
Р (s, х, U Г) = . 1 [ е-^~*™ <'-s» dy
при t > s (естественно, P(s, x, s, Г) = бх(Г), как для каждой переходной
функции). Доказать, что это марковский процесс, легче всего пользуясь ко-
конечномерными распределениями (см. результаты § 3).
3. Нужно найти Р {lt е= Г | ^~<s} ^ P {lt е Г | gs}, s < t < 0 (для
s = t находить переходную функцию, конечно, не надо, это мера, сосредото-
сосредоточенная в одной точке — точке выхода). При t = 0 рассматриваемая условная
вероятность, естественно, равна бо(Г). При s < ? < 0 пользуемся двумерной
плотностью винеровского процесса:
о (х ,л ! е~У212 (~t)-(X-y)V2 (s+t)

РЕШЕНИЯ ЗАДАЧ
ехр { (у (//s) *)/2 (*/«) (* - а)),
(t — s)/s
Иначе говоря, условное распределение g* при условии, что |s = #, — нор-
нормальное со средним (t/s) х и дисперсией (t/s) (t — 5).
4. а) Да, Р (п, х, п + 1, Г) = \ р (у) dy,
j
Г
б) Да, P{n,x,n+\9T)=a^p(y-x)dy.
г
в) Нет. Действительно, при х > О условная вероятность Р {s^" > 0 | S* =* О,
О оо
Sf = а:} равна интегралу \ \ р (у — х) р (z — у) dy dz и, естественно, за-
—оо О
висит от х.
г) Нет, потому что для х>0 условная вероятность Р {г\ъ>х | tj2 =s x>
оо
Т), = 0} будет другая, чем Р {т]3 > х | т]2«Jf, тц e ^}» первая равна \ р (г) сГа?э
о
0 оо
а вторая \ \ р (у) Р (z — у) dy dz, т. е. меньше.
—оо 0
д) Да, Р (п; х, у\ п + 1; Г)« \ р Eг — #) rfar, если Г — подмноже-
подмножество прямой {(и, v) : и = х), задаваемое условием на вторую координату
оеГ;= \ p(z — у) dz, если Г —
подмножество прямой {(«, v) : и = и}, зада-
задаваемое условием « = »sf, и = 0 для Г,
не пересекающегося с указанными двумя
прямыми (точнее, лучами). См. рис. 35, где
изображены два луча, на которые можно
ч попасть из точки (х,у) фазового простран-
пространства (имеет смысл рассматривать только
точки с у ^ х).
р «с Доказательства не приводим.
' f 5. Изобразим траекторию случайного
процесса на чертеже (рис. 36). Этот случай-
случайный процесс — не марковский, так как, например, условное распределе-
распределение S4,7 при условии,, что S4,e « «, а 54,5 = ГЛ сосредоточено в точке 2м — v,
а эта точка зависит от vt чего не могло бы быть для марковского про-
процесса.

РЕШЕНИЯ ЗАДАЧ 297
6. Приводим только переходные функ ции.
2. Р(а, x.t.T)- e~a(f"s»• 6Х(Г) +a(t-s)e-a{t~s^6x+1(r)+(a(t-s))>X
Xe-a<t-s)/2l.6x+2(T)+ ...
3. Матрица вероятностей перехода:
+ е~2а <*-'>)/2 (! - е~2а ('-*>/
6. Плотность вероятностей перехода р (s, xt t, у) = я~! {t — s)/((t — sJ
П
Рис. 36.
7. Для процесса F*n(F~l (t)) переходная функция
Р (s, ^/д, U
7. Переходная функция
P(s, ^, /, Г)» ; } f [e-<if-*№ (/-*) + e-df+^/2 (^-,)] ^
У2я(/-5) J
§ 8.2
1. Необходимость ясна, так как формула E)—частный случай формулы
A) § 1. Докажем достаточность. Зафиксируем su ...i sm < t, Гь ,.., Гт е
sin докажем, что почти наверное
,,..., ^те
для любого события Sef^j, Для этого проверим, что для любого мно-
множества Г <= $ . "
В левой части здесь стоит функция от множества В, являющаяся мерой. Пра»
вая часть также является мерой как функция от В. Действительно, это — не-
неотрицательная функция на &*^t* a ее о-аддитивность вытекает из почти-ог-ад-
дитивности условной вероятности. В силу E) обе меры совпадают на полу-
полукольце событий вида {^j е Д1( ..., ^fl е Дй}, ti^t, Д/ <= $; значит (см.
введение), они должны совпадать и на порожденной этим полукольцом 0-ал-
гебре, т. е, на T^t.

298 РЕШЕНИЯ ЗАДАЧ
Аналогично, исходя из (**), зафиксировав теперь В<
доказываем, что для любого А е ^~<f
P(A\lt)P(B\h)P(d<*), (***)
что равносильно тому, что почти наверное выполнена формула A) § I,
(В (***) обе части — меры как функции множества А.)
2. Достаточность следует из предыдущей задачи, если положить // = %г.»
gl = XA.' Что касается необходимости, то требуемое равенство, разумеется,
имеет место для индикаторов измеримых множеств; в силу линейности услов-
условного математического ожидания — также для линейных комбинаций таких
функций, т. е. для ступенчатых ^-измеримых функций с конечным числом сту-
ступенек. Но любую ограниченную измеримую функцию можно представить в
виде предела равномерно сходящейся последовательности таких ступенчатых
функций; при равномерном предельном переходе имеет место, конечно, сходи-
сходимость условных математических ожиданий. Поэтому требуемое равенство вы-
выполняется для всех ограниченных измеримых функций.
3. Доказательство здесь такое же, как в предыдущей задаче: для / = %г
почти наверное
М (/ (h) | ^<s) = Р {It S Г | ST<S) = Р E, Ъ89 /, Г) - J /> (S, ls, U dy) Хт (у);
X
для линейных комбинаций индикаторов это равенство сохраняется ввиду ли-
линейности, с одной стороны, условного математического ожидания, а с Дру-
Другой — интеграла, и предельный переход (равномерный) дает требуемое соот-
соотношение для любой ограниченной измеримой функции.
§ 8.3
1. Прежде всего, обе части имеют смысл. Достаточно доказать утвержде-
утверждение задачи для f(yu ..., Уп) = Хр (#ь • • •» #«) (тогда оно будет доказано и
для ступенчатых функций, а значит, и для всех измеримых). Для / = %г ле-
левая и правая части — меры как функции Г; на полукольце множеств вида
Г1! X • • • X Tw> Ti e ^, меры совпадают, значит, и на а-алгебре, порожденной
полукольцом, т. е. на J?n.
3. Решение — просто выкладка. Матрица Pst была построена как в^"*5^
«? + (*-sM/ll + (/-s)MV2!+ ..., где (J *
4. msu = mtu • msi\ a2stl = m)u • a% + o2tu.
5. Очень легкая задача.
6. Для индикаторов — для ступенчатых функций — для всех.
§ 8.4
1. \\Pst\\ ^ 1; норма операторов в В не меньше 1, так как Psi\ ss 1; нор-
норма сопряженных операторов та же.
§ 8.5
1. Система всех Л, представимых в таком виде, — а-алгебра; она со
держит все события вида {|^Г} t^ Tjf

РЕШЕНИЯ ЗАДАЧ 299
2. Левая часть, в силу формулы A6) §2, есть почти наверное Р^ ^ (б^Я);
в силу A) это то же самое, что Р^ (В).
§ 8.6
1. Переходная функция Р° (tf x, •) процесса с остановкой в нуле состоит
из части, сосредоточенной в точке 0, и абсолютно непрерывной части; поль-
пользуясь принципом отражения, находим ее плотность: (й-(у-х)г№ __
). для доказательства того, что (w], Px^ — маркевское семей-
семейство, пользуемся простым марковским свойством.
2. По индукции доказывается, что %п — марковские моменты, причем
на множестве {Tft<oo} выполняются соотношения tn+k = %а + 6Т т^,
+ \
Далее, переходной функцией цепи vn должна быть функция Q (k, х, Г)=*
-Р,{^еГ}, xe=Y, TczY; Q (k, xy {*}) = Px{xk = oo}, xe=Y; Q(fc,*,r) =
= 6*(Г). Марковское свойство для этой цепи состоит в том, что цочти на-
наверное должно быть
Р* {%+fe €= Г | т|„ ..., цп) = Q (k, %, Г).
На множестве {цп = *} это очевидно, на {% =^= *} = {тд<сх)} это следствие
строго марковскзго свойства для цепи it относительно марковского момента тп.
Конечно, сам факт гораздо очевиднее до доказательства, чем после него.
3*. Характеристическая функция %ь — Tfl, 0 ^ а ^ Ь, задается формулой
ехр {- (Ь — а) У|~гТ • A — i sgn z)}.
§ 8.7
1. Если Г — компакт, то переходная вероятность Р (tt х, Г) -> 0 при
t-> со; для любой конечной меры \i интеграл \ \i (dx) P (t, х, Г) -> 0 при * -> со.
Поэтому если \х — конечная инвариантная мера, то \i (Г) = 0 для любого ком-
компакта и ц, = 0. Для меры Лебега в
Rr: V dx P {tt х, Г) = \ dx Г \ р (^, д^, у) d*/1
S [ \р ^х'у) d*\dy ^ \dy ==mes (r)>
Г lRr J Г
2. \{} \{}
3. Любая конечная цепь Маркова более чем с одним классом существен-
существенных состояний.
4. Ограничимся случаем нулевого среднего. В силу задачи 4 § 8.3 дело
сводится к тому, чтобы найти все непрерывные числовые функции т;, о%
t > 0, о\ > 0, такие, что mt+s = mt • ms, a)+s = m) • a2s + a|. Кроме того, тре-
требование существования гауссовской инвариантной меры — скажем, с параме-
параметрами @, а2) — дает еще условие а2 = щ • а2 + а\. Отсюда получаем
nit = e~~at, a>0; erf == or2A — е~ш). (Случай а«0 — этот процесс, тожде-
тождественно по t равный одной и той же гауссовской случайной величине.) Кор-
Корреляционная функция /(@вЛ"а1^; спектр также легко вычисляется.

300 РЕШЕНИЯ ЗАДАЧ
§ 9,1
1. Во-первых, С s Ло: любая непрерывная на [0, оо) функция равномерно
непрерывна на любом множестве вида Го Г) [0, N]. Далее, если ЛэС, /Is
е $Т*(Х®' °°^), то Ло ^ А Действительно, предположим, что х.бА0; это
означает, что для любого # функция Xt, ^еТ0П [0, N], равномерно непрерывна.
Продолжим эту функцию непрерывным образом на всю полупрямую [0, оо);
обозначим полученную функцию через хф. Так как принадлежность функции
множеству А определяется лишь ее значениями на TQi a xt g С s Л, то функ-
функция х9 совпадающая с ## на Го, также принадлежит А. Но нам и нужно
было доказать, что из х. <= Ао вытекает х. е А.
2. Равенство между множествами доказывается всегда одинаково: из
того, что функция х. принадлежит одной части, выводится, что она принад-
принадлежит и другой.
3*. Доказательство этой оценки и всей теоремы 2 (а также следующих за
ней теорем 3, 4) можно прочесть в книге Д ы н к и н а, 1959, гл. 6. См. так-
также Г и х м а н и Скороход, 1965, г. IV, § 4.
§ 9.2
1. Достаточно проверить, что для любого Ле^т+ (в частности, для
А = п) ЛП{^Л</} e^^f. Но для 0</<1/2л это событие вообще невоз-
невозможное; для больших t, так к^к хп принимает только значения, кратные 2~\
имеем {хп < 0 = {*п < Ь12п) = {т < k/2n}> где k/2n < / < (k + l)/2". Поэтому
А П {гп ^ 0 = А П {т < k/2n) e ^^kj2n (здесь используется результат задачи 5
гл. 6), а эта а-алгебра является частью ^^t-
2. Если tn\ty то %f -> It Для всех со; в силу непрерывности / также
/ ftf )->}(&)> и> пользуясь ограниченностью /, осуществляем предельный
переход: P*"f (х) = М^ (hn) -> Mxf fa) == P*f (x).
3. Px{x(x)~n, 6t(*)er}«P*ffii- ... -бл-i-*. ^еГ\{4Н
~P(\,x,{x))n-l-P(l,x9T\{x)).
4. Положим %n = min {k/2n: \unn ф х}\ легко доказать, что хп\х(х)
при всех со (используется непрерывность справа). При f >0 имеем {т ()^/}
поэтому
Hm Px{xn>[2nt]/2n} =
n, x, W)t2"t] - lim P (l/2« *, WJ"' = [Рл {% (x) > 1}]'.
= Hm
Получаем показательное распределение с параметром
%(х)=* Hm 2/г|1пРA/2л, л:, {*} )|.
б. Имеем ЯA)= Hm 2n
—3/2 Л
In -±-Ll =« Hm 2n | In [I - 1/2*
3 I n-»oo
+ о A/2*)] | = 1; аналогично Я B)'= 2.
6*. Использовать то, что M^t(*)>*/ (^tU))^ lim M*x{tn^*}^i'
где /eC, а обозначение %п — то же, что при решении задачи 4.

РЕШЕНИЯ ЗАДАЧ , 301
§ юл
1. Элементарно.
/~-1 1\
2- А~{ 2 -2>
3*, 4, 5*. Решения не приводятся; что касается задачи 4, см. доказа-
доказательство теоремы 1 § 11.2.
6. Продолжим произвольную функцию f, заданную на [0, оо), четным
образом на левую полупрямую, положив f (х) = / (| х |), * е /?!. Легко про-
проверить, что полугруппа Р', связанная с винеровскими процессами с отраже-
отражением, задается формулой P*f (x) = Pff (#), где Pt — полугруппа, связанная
с семейством обычных винеровских процессов на (— со, оо). Если f e
е С(р2^вн [0, оо), /'(()+) = О, то feC^BH(—со, со), откуда вытекает, что
определено Af (х) = lim Г1 (?* f {х) - / (*)) = lim Г1 (Р1 f(x) - f (x)) =
-1 V (х) - -5- Г W при х € [0, со).
Аналогично для процесса с остановкой в нуле: полагаем /° (#) = / (х)
при х ^ 0, /° (^) = 2/ @) — / (— х) при х <0; полугруппа, связанная с м;^
задается формулой Р0^/ (*)« Р'/°(х); для f е= С(^вн [0, оо), //л @+) = 0, функ-
функция /° е С(р2^вн (— со, со), откуда все следует.
7. Необходимость ясна; достаточность: Pt\ =Р°1 + 1 PSA\ ds~ 1.
о
§ 10.2
2. Для /еВ требуется доказать: PhR%f-> #;J при /г10- Имеем
е-^Р5/ <fc.
я о"
со
Добавим и вычтем \ e~%sPsfds; получим
h
Ioo JJ II К {I
<(eu — i)-я" Ш + л. llfll->o
Выберем" д> 0 так, чтобы || Pff — f || < е/2 при / ^ 6; тогда
I
|
<^J«-w||^f-fH^ + X J a-w || Я*/ — / В Л < e/2 + •-*« .
о 6
При достаточно больших Я это будет меньше е.

302
РЕШЕНИЯ ЗАДАЧ
4. Во э R^B з /?д,В0; R^B0 всюду плотно в Во, a R^B — и подавно.
5. Что ?>д э Cp2JBH, мы уже выяснили (задача 4 § 1); нужно доказать,
что ?>л г Ср2^вн. Прежде всего, любая функция, задаваемая формулой C),
равномерно непрерывна, потому что
jL-I{Kf(x)
— ОО
и эта производная ограничена по норме константой V2A || f ||. Отсюда
Во s Сравн (см. предыдущую задачу). Для непрерывной ограниченной f полу-
получаем, далее,
dx2
И
:-2f(*) + V2A, \ e-r'z^y-x*f(y)dy.
Любая функция F е йд представляется в виде Rift feBos Сравн> откуда
~-t = At -[G ^равн» ^равн'
7. Ясно, что leD^, Л1=0. Далее, в пространстве С [0, 1] всюду
плотно множество С*2* [О,. 1J; докажем, что в этом множестве всюду плотна
область определения йд = С^ [0, 1] (] {/>
f @ +) = /'( 1—) = 0}. Существует функ*
ция h s СB) [0, оо), лежащая между 0 и 1,
равная тождественно 1 в какой-то окрест-
ности точки 0 и нулю вне некоторой боль-
большей окрестности 0. Пусть f e СB^ [0, 1];
«исправим» эту функцию, положив
U (х) - Г (x)—'[f (x)—f @)] h (x/s)—[f (*)—
— f A)J Л (A — x)/e). Эта дважды непре-
непрерывно диффереьцируемая функция близка
к f, а в некоторых окрестностях точек О
и 1 обращается в константу (рис. 37).
Выведем принцип максимума. Если
f(x) максимально во внутренней течке
отрезка, то в точке максимума f = 0, /" ^0, Af == -^ }" < 0. Произ*
вольная функция из С*2* [О, П может принимать максимум в граничной точке
и при этом иметь положительную вторую производную; например, f(jt)=»
= х + х2. Но от функций из DA требуется f @) = /' A) = 0; поэтому, ска*
жем, вблизи точки 1 имеем f (*) = f (I) +(аг— \J-f"(\)/2 + о ((х — IJ), н
если бы f"(l)>0, то в окрестности 1 было бы f (#)>/(!).
Докажем, наконец, существование решения уравнения %F — AF = f, т. е.
уравнения KF — — F' == / с граничными условиями F'{Q)=*Fr (I) = 0, для
Рис. 37.

РЕШЕНИЯ ЗАДАЧ
303
любого f е С. Какое-то решение уравнения KF —~ F"
f, конечно, суще-
существует, но оно не удовлетворяет граничным условиям. Обозначим произволь-
произвольное решение этого уравнения через F и будем искать F в виде F плюс
решение соответствующего однородного уравнения Xg — — g" = 0. Обозна-
Обозначим через gl9 g2 любые два линейно независимых решения однородного
уравнения. Мы хотим найти функцию F (x)=* F (х) + с^г (х) + c2g2 (х) такую,
что F' @) = /?/ A) = 0. Отсюда для clt с2 получаем систему линейных урав-
уравнений
Мы могли бы выписать g\, g2 в явном виде и проверить, что определитель
этой системы не обращается в нуль при Я > 0; но это вытекает из более об-
общих соображений, а именно из того, что в силу принципа максимума решение
единственно. Значит, решение существует при любой правой части.
§ 10.3
1. Выделим
конечное покрытие пространства X окрестностями
хп). Для каждой точки xt возьмем неотрицательную
*W*i)> . -...
функцию fj e DA, равную 0 в ?/8/3 (#t.) и положительную вне ?/2г/з (*/)•
любого б>0 существует /го>О такое, что
I ГХ (P'fi (х) - h (x)) - Aft {x) 1 < б . min (f{{у): у s= V28/3 (xt)}
при 1 < i < п, л: е X, t < /г0. Если at e i/e/3 (д;^), то ft (x) = 0, Л// (x) = 0 и
^'/i W < ^ • ° minff, (у): у е 728/3 (лг^)}; отсюда Р {t, x> Vt (x)) <
2. Проверяется условие микротеоремы 2 (рис. 38).
О
О
Рис. 38.
3. Вытекает из || Pff - /1| = К Ps Af ds I < ^ Ц Л |h It f ||.
6. При НО имеем Р (*, х, Г) = Р^г (*) = [Я + М + о (/)] %г
•= Хг (^) + tA (*> г) + ° @- Согласно задаче 4 § 9.2 Я (*) = lim 2rt | In P
*» W) Iв И (^» W I = — А (*» W )<• Далее, доказывается, что Р^ {|r (JC) e Г} =•
= lim P(l/2n, х, Г)/[1 — Р(\/2п, х, {х})]> где Г — измеримое множество,
П-»оо
не содержащее х. Числитель здесь равен 1/2^* А (х, Г) + о A/2";, знамена-
знаменатель эквивалентен 1/2* • Л (х), откуда л (х, Г) » Л (л:, Г)Д()

304 РЕШЕНИЯ ЗАДАЧ
7. Представляем А в виде В — аЕ, где Bf(x) = af (x + 1). Имеем
еМ в tf«*-«** в в-а^ . ^В e е~а* [^ + /в + ,2/?2/2 , + _]. отсвда ^f (jc)e
сю
= e'at [f (х) + atf (x + 1) + a^2f (* + 2)/2! +...]= ? (a/)fe e~a7* ! -f (jc+Л).
ft=0
Этой полугруппе соответствует семейство пуассоновских процессов с не-
независимыми приращениями.
9. Нужно найти меру ц такую, что \ [i(dx)-?f" (л:)=0 при всех f ^D^.
l
Возьмем g<=C[0, Г], положим g° (x) = g (х) — \ g(y)dyt h(x)~
о
X ^ X
= \g° (у) dy, f(x') = 2 \h (y) dy. Легко видеть, что f s />л, потому что
о ' о
1 i 1
ЛA)=Л @)=0. Поэтому 0= jj ц (^) ^0 (ж) — ^ц (dx)g(x)-n [0, 1] ^ (у) dy,
0 0 О
1
или, иначе, \ g (х) [ц (dx) — \х [0, 1] ^л;] = 0. Так как g — произвольная функ-
о
ция из С, то мера со знаком \х (•) — \х [0, 1] mes(») равна нулю, т. е. инва-
инвариантная мера с точностью до множителя есть мера Лебега.
t tt
luJn\ Psgds=Pfg; с другой стороны, Л \Psgds=*\imfrl\ P^\Psgds —
* -. t+h
\ ^55 ds I. Разность в квадратных скобках здесь равна \ Psg ds—
о J h
t t+h h t
Psg ds—[ Psg ds, откуда A [ Psg ds = Pfg — g.
Единственность решения. Положим vk(х) =» \ е~м v (t, x) dt\
о
интеграл сходится при Я>0. При преобразовании Лапласа задача D) — E)
превращается в уравнение %v^ — AvK =» Я"" g, решение которого единственно.
t
12.\Р*?(х)-Р(!(х)\=
Отсюда lim || P(f — f \\ = litn || Pff — f% и множества функций /, для которых
эти пределы равны нудю, — одни и те же для Р* и Р*ш

РЕШЕНИЯ ЗАДАЧ
ехр | J с (Is) ds >f(lt) + J ехр | J <? (|а) rf« >
15. Во-первых, f (%t) — \ Af (|s) ds измеримо относительно fF^f. Bo-
o
вторых,
о
почти наверное; в силу марковского свойства второе и третье слагаемые
Г'Г 1 'Г
равны соответственно Pf sf (gs) и — M§s I \ Af(%u) du I ==— \ РИЛ/ (?s) d«-
L о Jo
Пользуясь тем, что Pf~sf (у) — f (#) = \ PuAf (у) du, получаем, что выра-
вырао
5
жение (*) почти наверное равно f(|s)— \ Л/(?ы) dw.
о
Если выполнено марковское свойство относительно какого-нибудь не-
неубывающего семейства а-алгебр SF* э ^"<^ (см. п. § 8.2), то f (It) —
t ^
— \ Af (%u) du оказывается мартингалом относительно SFt
о
§ И.2
2. Уравнение для плотности инвариантной меры имеет такой вид:
»0, откуда a ~-z— — hyp =* const, р (у) =
e—by*/2a ^y ^ ^ I.Неопределенный интеграл при а >• 0, & < 0 не
ограничен ни сверху, ни снизу, поэтому из положительности меры вытекает С==0.
Отсюда р (у) ==* Deby^2a> т. е. с точностью до множителя это — нормальное
распределение с нулевым средним и дисперсией а/|6|.
При 6^0 конечных инвариантных мер нет.
3*. При фиксированных s, x, t переходная функция p(s,x,t,.)—нормаль-
p(s,x,t,.)—нормальное распределение со средним хA — 0/0—s) и дисперсией A — /)•(* —
); b(stx) =—#/A—5), a(s,x) si; с процессом связан диффе-

306 РЕШЕНИЯ ЗАДАЧ
д , 1 д2 X д Л7
ренциальныи оператор -~—(-— -g-j т-^—"ТТ""- Уравнения для переходной
плотности /?(s, х, t, у):
dp 1 д2р х dp _ dp __ 1 д2р д ( ур \
ds "*" 2 дх2 \-s дх ' а* """ 2 а#2 "*" а// V i -/ У
Результаты § 11.2 не применимы непосредственно, потому что процесс не опре-
определен при / > 1 (с этим легко справиться) и потому что коэффициент сноса
имеет особенность при s = 1. Однако достаточно легко проверить, что урав-
уравнения все же выполнены (возможный путь: заменой переменных превратить
полуинтервал [0,1) в [0, °о)).
Контрольный вопрос: какому уравнению удовлетворяет функция u(syx) =
= М {f(ZD2))\Z(s) = х] при s < V2?
§ 12.1
1. Пусть 0<5 = ^<B< ... <^<Г, tn<co, f(tt(d) = g(tt со) = 0прц
t<snnpnt^tn;f(ty со) = /(/., со), g(t, co)==g(^, со) при tt<^t<ti + v Имеем
Ё f (',. со) (ш,|+1 - wt() "^ g (tj9 со) (
Ё
Слагаемые с /</ представляем в виде условного среднего от условного
среднего относительно сг-алгебры $F\ , и они обращаются в 0; точно так же
(I \
слагаемые с />/. Слагаемые с / = / дают М I \ /(/, ®)g(tt ©) dt \ ^s L
г
2. Прежде всего, \\fhU)fdt^
[T/h]
^(s)
(если Г нацело
о
делится на h или Т = 4- со, имеет место равенство). По неравенству Коши
kh
f(s)ds
{k-\)h
| / {s) |2 rfs, так что
ik-l)h
[Tlh\'h T
|f(OI2^<5 \f(t)\*dt.
Остается доказать, что /а ->¦ / для любой / е L2. Легко проверить, что
это выполняется в случае, когда / — ступенчатая функция. Множество ступен-
ступенчатых функций всюду плотно, т. е. для произвольной функции /б!2 и лю-
любого е>0 существует ступенчатая функция /е, ||/ — /е||<е. Имеем
Первое слагаемое стремится- к нулю при h -> 0+, и оно меньше е при доста-
достаточно малых положительных h\ второе меньше е, а третье, по доказанному»
меньше второго. Эго доказывает сходимость /л~^/.

РЕШЕНИЯ ЗАДАЧ 397
3. Доказательство такое же, как для свойства е), но проще.
4. Для ступенчатых случайных функций очевидно; если произвольная
функция f(t,<d) обращается в 0 при сое Л, / < Т, то ступенчатые функции
/п(^,со), определяемые осреднением ее по маленьким отрезочкам, также обра-
т т
щаются в 0 при со е A, t < Г, откуда \ fn {t, со) dwt = 0 и \ f (/, со) dwt = О
о о
почти наверное.
5. Пусть 0<^<*2< ... <tn; функция %<x(t) принимает на каждом
из полуинтервалов [0, t{), [tu t2), ..., [tn-i> tn) постоянное (случайное) зна-
значение, а при t^tn тождественно равна нулю. Имеем (считая /0 == 0):
оо П—1
{z>ti}(Wti+i'^Wti)' Когда т пРинимает значение h*
о
стохастический интеграл оказывается равным w+ +(w* — w* \ + .,,
1 \_ 2 1\)
6. Пример: т — первый момент достижения точки 1; Мдот = 1, Мку^=1.
7. Если Мт < оо, то Мт == Mw2x = Mb2 • (Л + т) = Ь2А + 62Мт. При b < 1
получаем Мт = Ь2А/(\ — Ь2)> при 6^1— протироречие.
8.* Сначала доказать, что М(тД^)< Ь2Л/A — б2).
9. Повторяется с очевидными изменениями решение задачи 3 § 2.2.
10. Случайная функция Т)^ (со) задается формулой т^ (со) = / @, со) • ш^ +
+ ^С0К^2~Ш0+"-+^
при te=[tlt ti+l\; при /> ^л — формулой r\f (со) = / @, со) • и;^ + ...
... +f (^-р <°) *(ш^ ~ ^^ Y Непрерывность по ? вытекает из непре-
непрерывности по t траектории wt (со). Из этого и из ^-измеримости v)t при
любом t вытекает прогрессивная измеримость.
§ 12.2
- 1. Для стохастических интегралов используем неравенство Колмогорова:
max
[ ({n) (и, &) da>u -[ f (ut a>)dwa >e
t
< M JI f{n) (и, со) - f («, со) I2 rf«/(e/2)« -> 0;
о
для лебего'вских:
Pi max U(rt)(«. co)^«-f^(«, a>)du
2l

308
РЕШЕНИЯ ЗАДАЧ
2.
jj Om (и) dam (и) - $ G (и) du
I Gm (и) - О (и)
и) +
\ G (и) dam («)-$<? (и) <*«
S S
Первый интеграл не превосходит sup | Gm (и) — G (и) \ [ат (О — «/я (s)] -> О
и
при т -> оо; разность интегралов по am и по и стремится к 0, потому что
функция G непрерывна, а из равномерной сходимости функций распреде-
распределения вытекает слабая сходимость мер.
( l t >
3. Применить формулу Ито к ехр < \ f%K % (s)dw — ~ \ /2х<% (s)ds>9
Ц N * J N )
где
J f dws -у
О О
§ 12.3
1. Прогрессивная измеримость стохастического интеграла как функции
верхнего предела — см. § 1; обычного — задача 14 гл. 6. Оценка М||^М2;
+3M
< ЗМ | Л I2 + 3 (г2 + г (f - s)) /С2 J [1 + М | ^'^
(аналогичные оценки проведены подробно при доказательстве теоремы 1).
2. По неравенству Коши — Буняковского
2
м
м
3. Имеем:
Л**-*'ЛТ„Г<2М
t
2М
S«) - « (I.)] t<
<2L2(r2+r(/-s))M

РЕШЕНИЯ ЗАДАЧ
309
Начиная с неравенства М 11^ л т — %t л х ~ < N2y по индукции получаем
нужное неравенство. Из него — М | %'t Л — ^ д т^ 2 = 0 (так как /г можно
взять сколь угодно большим). Значит, почти наверное \'t = lt при / <! т*,»
а так как N тоже можно взять сколь угодно большим, то и при всех t.
4. Пусть l[n\ %t n — последовательные приближения, сходящиеся к ^, |?
соответственно (^^т], |? ^sr/J. Имеем
откуда по индукции получаем
2du
+ CL2 [Г2 (^ _ 8) + г ^ _ 5J]J/2! + ... + CL2 [г2 (/ - s) + г (t - s)*]
Предельный переход приводит к нужной оценке.
§ 12.4
1. Сначала докажем формулу A) для функций f, являющихся индика-
индикаторами множеств из $т X &*'• требуется доказать, что почти наверное
Р {со: (л (о), q>, (со)) е= А | STt} = Рл (г]), (*)
где F А (х) = Р {со: (х, ©) g4 Ле1гХ #"*• Правая часть измерима отно-
относительно #"у, по определению условного среднего (*) означает, что для
любого С е Ft
Обе части здесь — меры как функции от Л, так что достаточно доказать эту
формулу для множеств А из некоторого полукольца, порождающего а-ал-
гебру кг X $Г. В качестве такого полукольца возьмем систему множеств
вида Ux,<d):xe=T;wt^(d)<Z:Tv ..., ш^(ю)€=Гп|, где Г, Гр ..•, Тп — боре-
левские множества. Для множеств из этого полукольца F {х) = %F (лс)»Р fwt e
еГ1} ..., а;^ е Г \; (**) принимает такой вид:
и истинность этого равенства вытекает из независимости приращений и
однородности винеровского процесса.

310
РЕШЕНИЯ ЗАДАЧ
Произвольную неотрицательную измеримую функцию f (х, со) представ-
представляем в виде монотонного предела линейных комбинаций индикаторов:
s+h
2. М
3. в(|(А,*)<4М|Ы*;ш)|« + 4|*|» +
я—1
h2 • sup M |
| u-v \hf
|2 < const/я -> 0.
4M
Л-1
Для первого слагаемого оценка уже получена; третье равно
4 S
четвертое слагаемое не превосходит
max
а М | \и (х; со) |2 уже оценено.
4. Из формулы A1) получаем \\P*f — /||<t\\Lf||->
5. Из той же формулы: ЦГ С?'/ —f)— ?f И^Г
max
6. Стохастические уравнения: dwt = ^ш^, rfg^ == wt dt\ коэффициенты:
lsO, б2 (л:, у) = х, aj = l, прочие — нули. Отсюда а11 зз 1, a12 = a<21=s
'^ + i
7. Из оценки М | lt (х\ со) - lt {у\ со) |2 < 3 | х - у |2 exp {3L2 [Л + г*2]}
вытекает, что lim (Р) Ъ>±(у\ со) = |. (л:; со); из сходимости по вероятности
у
следует слабая сходимость распределений: Р (tt у, ~)->P(tt x, .)• Это и есть
феллеровское свойство.
8*. Коэффициенты диффузии и сноса суть соответственно 1 и —х/([—s)
(см. задачу 3* § 11.2); полагая ст = 1, выписываем стохастическое уравнение:
dZ (t) = dwf 1 __ + dt (это случай, не рассмотренный нами: неоднородный
ло времени и с особенностью в коэффициенте сноса).

РЕШЕНИЯ ЗАДАЧ ЗП
§13.1
Решения задач этого параграфа можно получить, воспроизводя в боле?
простой обстановке решения задач и доказательства микротеорем следующего
параграфа; но полезно сначала заняться задачами, связанными с цепями Мар-
Маркова, а потом только обратиться к диффузионным процессам.
6. Уравнение: т(х + 1)/2 — т(х) + гп{х — 1/J = — 1; 0<х<п; решение!
т(х) = х- (п — х) для 0<л;</г.
8. Уравнение: v (х + 1) • р — v (x) -f v (x — 1) • q = — 1, jc > 0; общее ре-
решение: v (х) = х/(р — <7) + С1 + С2 (<7/р)"*" при *>0, /?=т^<7, w (л;) = — х2 +
+ С! + С2# при лг^О, р = q = \/2. При р^# неотрицательных решений
нет и, значит, М^т = оо; при p<q наименьшее неотрицательное решение
есть т {х) = x/(q — р).
9*. q(x)Pz(x)-z(x) = -
§ 13.2
1. Используем марковское свойство:
по индукции получаем оценку A), а дальше пользуемся тем, что
2*. Решение аналогично доказательству теоремы 1 § 13 3.
3*. Инфинитезимальный оператор марковского семейства (т^, Р^) за-
задается формулой Af (х) = a If (х + 1) — f (x)] — af {x). Гладкая финитная
функция v(x)y определяемая формулой а~1'Х*A+ 1 — *) при 0<а:</ + 1,
удовлетворяет уравнению Av (х) == -— 1 при х^ [0, /]. Из этого вытекает, что
v(x) = Mx[v(^AT) + (x ЛТ)]>Мх(х ЛП
Предельный переход при Т -> оо дает нужную оценку.
4. Собственно, решать, после того, как прочтен предыдущий текст, уже
нечего.
5. Искомая вероятность р (х) — решение задачи — а (х) р" (х) +¦
+ Ь (х) р' (х) == 0, р (с) = 0, р (d) =я 1. Общее решение уравнения есть Сх X
X I е~2Ь 1*Уа i*) dx + C2; решение, удовлетворяющее граничным условиям:
х Id
J (у) dy
6. Достаточно проверить, что ~Д1п|#| = 0. Теперь займемся предель-
предельными переходами. Обозначим через тг, т., т0 момент первого достижения
окружностей радиуса г, R и точки 0. При Я -> оо момент xR стремится
к бесконечности, поэтому lim P {t,<TD} = Pvft,< ею) (это — вероятность
монотонного предела событий), т. е. вероятность когда-либо достичь dt
равна 1.
Далее, т0 =» lim т , поэтому Ру (т0 < то| == lim Р {тг < т Л = 0 при всех
U r^Q ' X К V KJ r^Q X К Г К1
х фО; предельным переходом при /?-> оо получаем Р^{то<<»} =0.

312 РЕШЕНИЯ ЗАДАЧ
Почему нельзя получить Рх {т0 < оо} предельным переходом от Р* {тг < оо)
при г|0? Дело в том, что, тогда как р| {тг<т^} == {то<т^}, пересечение
г >о
П {тг< оо} не совпадает с {т0<о°}, потому что Нттг может быть равен оо.
г>0 г*°
точно так же Рх {т0 < оо} =* 0 при #=^0 (ср. задачу 2* § 7.3.).
8. tn{x)=*{R2 — |*|2)/г; в частности, среднее время выхода для траек-
траектории, начинающейся в центре шара, равно Rljr.
Совершенно так же, если D — область, ограниченная поверхностью вто-
второго порядка: D = f х: v (х) == ]Г Л//*1** + J] Bix1 + С > 0 \ , имеем
---Ду (д;) ss \ Л/j. Отсюда вытекает, что М^т<оо, если У Л//<0; в случае
i i
ограниченной области Д т. е. эллипсоида, М^т = v {х) /I ^ Ац I. Можно до-
/| i I
казать (например, используя стохастические интегралы), что это выполняется
и для неограниченной области и что ЬАхх я оо, если J]
9*. М^, ^=8 (a:2 sin2 (a/2) — i/2 cos2 (а/2))/cos а при а<я/2, ^
для острого угла, М^ ^т = ©о для прямого или тупого.
10*. Конечно.
оо
И*, Проверяется, что и{х1, х2)=* \ рхххг (у) f (у) dy — ограниченное
—оо
решение задачи — Аи = 0 в D, «(л:1, д:2) -> f (у) при (jc1, jc2)-> (у, 0)е<Ш.
12. Вне компакта D^ == D f) {^ I лг | < Л^} изменим функцию и, оставив ее
гладкой, но сделав финитной. Имеем для x=*DN: и (х}=* М^м ^т V где
Ту — момент выхода из D^.
Устремляем Л^ к бесконечности, пользуемся леммой Фату: и (х) ^
М lim и (Ъ%КТ)>МХЧ>(ЪХ)> потому что если т<оэ, то «(?ТаЛ = ф(?т)
Л^->оо V N/ V N/
при достаточно больших Л^; при т = оо нижний предел неотрицателен,
а вместо <p(?t) берется 0.
Доказываем второе утверждение:
lim v(lx) + fAx lim
15*» Окружим точку х сферой «S«{у: | у — л: •= е}; момент первого
достижения этой сферы обозначим через %s. Для траекторий, начинающихся

РЕШЕНИЯ ЗАДАЧ
3C
внутри сферы, 8tsT = r —ts, Q%swx — wx. Пользуемся строго марковским
свойством относительно момента т^:
р (х) = Рх {шт с= Г} = Рх
Г}
Но ясно, что в силу сферической симметрии винеровского процесса распре-
распределение |т на сфере — равномерное; поэтому ЪЛхр (|т \ — среднее р(у)
по сфере 5.
Итак, функция р в каждой точке равна своему среднему по любой сфере
с центром в ней, не выходящей за пределы области, т. е. это гармоническая
функция.
§ 13.3
1. Выпустим винеровскую траекторию из точки @,0). Вероятность того, что
она достигнет п-го маленького кружочка до выхода из большого круга, не пре-
превосходит вероятности достичь этого кружочка
раньше выхода из круга {(х, у) : (х—1/2пJ-Ь
+ У2 ^ 4} (рис. 39). Эта последняя вероят-
вероятность равна (in 2 — ln(l/2n))/(ln 2—ln(l/2nS))
(см. задачу 6 § 2), т. е. (п + 1)/(м3 + 1). Ряд
из этих вероятностей сходится, процесс с ве-
вероятностью 1 до выхода из круга достигает
лишь конечного числа из маленьких кружоч-
кружочков, откуда Ро> о{т > 0} = 1.
2. Возьмем непрерывно дифференцируе-
дифференцируемую неотрицательную функцию g (z) на [0, со),
равную z2 в 2е-окрестности точки 0 и нулю
вне некоторого отрезка. Обозначим через
их(у) следующую функцию в Rr: их(у) =
= 8 ( I У — х | ). Эти функции принадлежат
и легко видеть, что дхля х е Ue (x0)
Рис. 39.
нормы || Lux || = max
ограни-
ограничены сверху каким-то числом К. Мы знаем, что их (?*) — \ Lux (ls) ds—
t
мартингал; поэтому их {%t) — \ Lux (|s) ds + Kt — субмартингал, причем не-
о
отрицательный. Пользуемся колмогоровским неравенством: для х е 1/Е/2 (*о)
Рх {It Ф Ue (х0) при каком-то / < А}<
max ux(%t) >еЩ <
<t<ft
Я{ max 1Ь-
0<<<Л
e-^MJ
ux(U)-
J
h =4e-

314
РЕШЕНИЯ ЗАДАЧ
3. Строго марковское свойство относительно момента т: для любого
ыТИЯ A S ^г И Любого СОбыТИЯ В е iFV
Стр
СОбыТИЯ A
<т+
но
И Любого СОбыТИЯ В
(B)Px(du).
Положим А = {|t g5},B = {т>0}; имеем: Э^Я = в^1 {т>0} — {9тт>0} =
— №>О} = 0. Левая часть (*) равна Р* @) « 0; в правой части Р^ (В) — 1,
потому что |г — сингулярная точка границы. Полу-
Получаем 0 = Р*(Д).
4. Регулярные точки границы показаны жирными
линиями на рис. 40. Стрелки указывают направление
сноса.
Менее всего ясна регулярность граничных точек
@,1), @,-1).
5*. Теоретико-вероятностный смысл — абсолют-
абсолютная непрерывность с ограниченной плотностью друг
относительно друга распределений точек выхода из
области для траекторий, исходящих из точек х и у.
Однако, чтобы полностью правильно это понять,
нужно рассматривать не геометрическую границу
области, а границу Мартина (понятие о границе Мартина можно получить,
прочитав § 8.5 книги Ито и Маккина, 1968).
Рис. 40.

Список обозначений
гф — следует
-» — общин знак для различных видов сходимости, в том числе слабой
сходимости мер
(Р)
—> — сходимость по вероятности
f — а) монотонно стремится снизу (в том числе и о неубывающей по-
последовательности множеств);
б) вид сходимости, введенный в § 5.3
\ — монотонно стремится сверху
черта над выражением означает; а) комплексно-сопряженное;
б) замыкание
[ ] — а) целая часть; б) просто скобки
+> употребляются, когда речь идет о пределах справа, слева; напри-
например: f(l-)= Hm f(x)
*»i
lim — общее обозначение для предела в различных смыслах
lim (P) — предел по вероятности
l.i.m. — предел в среднем квадратическом
mes — мера Лебега
wt —• винеровский процесс (определение см. в § 1.2)
Р (#» У) ~ расстояние между точками х и у в метрическом пространстве
R1 —- действительная прямая
R+ = [0, оо)
Rn — «-мерное евклидово пространство
Хт — пространство всех функций на множестве Т (произвольном) со
значениями в X; в частности, R = (R ) — пространство всех
вещественнозначных функций
Z1 — множество всех целых чисел (положительных, отрицательных и 0)
Z B] >0}
Ф (х) = —-==- \ e y*12 dy — функция Лапласа
'у2я J
— оо
Of ttf —«-мерное распределение значений случайной функции в точках
*„..-,/„ (см. § 1.1).
Рукописными буквами обозначаются различные системы множеств, чаще
всего а-алгебры.
$1 — сг-алгебра одномерных борелевских множеств
$п — а) «-кратное произведение на себя произвольной а-алгебры $;
б) а-алгебра «-мерных борелевских множеств

316 СПИСОК ОБОЗНАЧЕНИЙ
М^ — а-алгебра борелевских подмножеств X, т. е. наименьшая сг-алгебра,
содержащая все открытые подмножества метрического пространства X
Мт — а) наименьшая а-алгебра в пространстве Хт, содержащая все цилин-
цилиндрические множества (см. § 5.1)
б) частный случай этого обозначения, когда (Xt <%) = (Rlt «$*), т. е.
вместо ($1)т мы пишем $т.
Полужирным шрифтом обозначаются различные функциональные про-
странства, например: В (X, @)% BOt C^H, Н>+оо, V.
Рубленый шрифт используется для обозначения:
Р — вероятности
М — математического ожидания
D — дисперсии
pSf x — вероятностная мера, соответствующая марковскому процессу из
данного семейства, начинающемуся в момент s в точке х (см.
§8.1)
рх — вероятностная мера, соответствующая марковскому процессу из
однородного марковского семейства, начинающемуся в момент О
в точке х (см. § 8.5)
Ms, X9 Мд: — соответствующие математические ожидания

Литература
И. И. Г и х м а н, А. В. Скороход, Введение в теорию случайных про-
процессов, «Наука», М., 1965.
Б. В. Гнеденко, Курс теории вероятностей, Физматгиз, М., 1961; также
другие издания этой книги.
Дж. Л. Дуб, Вероятностные процессы, ИЛ, М., 1956.
Е. Б. Д ы н к и н, Основания теории марковских процессов, Физматгиз, М,
1959.
Е. Б. Д ы н к и н, Марковские процессы, Физматгиз, М, 1963.
К- И т о, Вероятностные процессы, выпуск I, ИЛ, М., 1960.
К- И то, Вероятностные процессы, выпуск II, ИЛ, М, 1963.
К. И т о, Г. М а к к и н, Диффузионные процессы и их траектории, «Мир»,
М., 1968.
A. Н, Колмогоров, С. В. Фомин, Элементы теории функций и
функционального анализа, изд. 2, «Наука», М., 1968
К. Миранда, Уравнения с частными производными эллиптического
типа, ИЛ, М., 1957.
Ю. А. Розанов, Стационарные случайные процессы, Физматгиз, М.<
1963.
B. Ф е л л е р, Введение в теорию вероятностей и ее приложения, т. 1 и 2,
«Мир», М., 1967; т. 1 издавался также раньше тем же издательством A964 г.).
А. Фридман, Уравнения с частными производными параболического
типа, «Мир», М, 1968.
П. X а л м о ш, Теория меры, ИЛ, М., 1953.

Предметный указатель
Бесконечномерные борелевские мно-
множества 25, 86
— распределения 25, 86
, плотности 102
Броуновское движение 17, 136, 210
«В широком смысле» 24
Вероятностный процесс 13
Выборочная функция 13
Гильбертов кирпич 285
Задача Дирихле 253
— интерполяции 60
— Коши 202, 217
— линейного прогнозирования 62, 77
— фильтрации 60
— экстраполяции (прогнозирования)
60
Задачи наилучшей оценки 57
Закон повторного логарифма для ви-
неровского процесса 125, 270
Законы больших чисел для стацио-
стационарных процессов 68
— нуля или единицы 27, 52, 184
Измеримость прогрессивная ИЗ
— случайной функции 28
Инвариантная мера 176
Инфинитезимальный оператор 186
Корреляционная теория случайных
функций 23
— функция 23
взаимная 24
совместная 24
стационарного процесса 31
Марковский момент 27, 109
— процесс 32, 132
Марковское свойство 140—146, 166
— -^однородное 162
МарЖг! л 116
М&ртТШЕалы и супермартингалы, су*
ществование пределов 126
Микротеорема 5
Момент достижения множества 111
^-система 144
Неотрицательно определенные функ-
функции 23, 70
Непрерывность в среднем 35
Неравенство Колмогорова 124
Неубывающее семейство а-алгебр 109
Оператор замкнутый 195
— локальный 197
Операторы, связанные с марковским
семейством 153
— сдвига 53, 173
Переходная плотность 135
— функция 133
однородная 162
Полугруппа операторов 163
Принцип максимума 191
Пространства случайных величин, ли-
линейно порожденные случайной
функцией 48
, порожденные случайной
функцией 48
Процесс винеровский 17
многомерный 21
, непрерывность реализаций 100»
остановленный 171
, предел суммы квадратов при*
ращений 19
с отражением 136
, существование 92
-— диффузионный 207
— Коши 21
— Маркова см. Марковский процеса
— пуассоновский 15

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
319
Процесс с независимыми приращения-
приращениями 29
— с некоррелированными (ортого-
(ортогональными) приращениями 29, 43
— со стационарными приращениями
42
— стационарный 30
в широком смысле 31
марковский 176
Равномерная интегрируемость 9
— непрерывность в среднем 35
— стохастическая непрерывность 35,
180
Распределения конечномерные 14, 88
Реализация 14
Регулярная точка границы 265
Регулярность линейная случайного
процесса 63
— случайного процесса 61
Резольвента полугруппы 192
Согласованности условия 88
Спектральная плотность 70
— функция 70
Спектральное представление 71
Стационарное распределение марков-
марковского семейства 176
Стохастическая матрица 135
— непрерывность 34
— эквивалентность 14
Стохастический дифференциал 230
— интеграл 43, 219
— процесс 13
Стохастическое уравнение 219, 239
Строго марковское свойство 167, 174
Субмартингал 116
Супермартингал 116
а-алгебры, порожденные случайной
функцией 48
— «хвостов» 51
Траектория 13
Сепарабельность случайного процесса
101
Сильная непрерывность полугруппы
189
Сингулярная точка границы 265
Сингулярность линейная случайного
процесса 63
— случайного процесса 61
Случайная последовательность 13
— функция 13
гауссовская 29
, согласованная с семейством
а-алгебр ИЗ
Случайное поле,..изотропное вектор-
векторное со стационарными прираще-
приращениями 32
« однородное (стационарное) 31
— изотропное 31
«Случайный анализ» 22, 33
Случайный процесс 13
Уравнение Чэпмена — Колмогорова
148
Уравнения Колмогорова 209—218
Феллеровские марковские семейства
158
Формула Ито (замены переменных в
стохастическом интеграле) 230—
233
Фундаментальное решение уравнения
параболического типа 217
Цепь Маркова 133
Цилиндрические множества 86
Эмпирическая функция распределе-
распределения 21

Александр Дмитриевич Вентцель
КУРС ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ
М., 1975 г., 320 стр.с илл.
Редактор М, Б, Невельсон
Техн. редактор Я. ДО. Аксельрод
Корректоры Г. С. Плетнева, Е. #. Строева
Сдано в набор 13/XI 1974 г. Подписано к «печати 14/VIII 1975 г.
Бумага 60X90Vie тип. № 3. Физ. печ. л. 20. Усл. печ. л. 20.
Уч.-изд. л. 22,43. Тираж 40 000 экз. Цена книги 93 коп.
Заказ № 403.
Издательство «Наука»
Главная редакция физико-математической литературы
117071, Москва, В-71, Ленинский проспект, 15
Ордена Трудового Красного Знамени
Ленинградская типография № 2
имени Евгении Соколовой Союзполиграфпрома
при Государственном комитете Совета Министров СССР
во делам издательств, полиграфии и книжной торговли.
198052, Ленинград, Л-52, Измайловский проспект, 29