Справочник по теории вероятностей и математической статистике - Скороход А.В., Королюк В.С., Портенко Н.И., Турбин А.Ф.

Автор: Скороход А.В. Королюк В.С. Портенко Н.И. Турбин А.Ф.
Теги: математика теория вероятностей математическая статистика издательство наука главная редакция физико математической литературы
Год: 1985
Похожие
Теория вероятностей и математическая статистика.
Теория вероятностей и математическая статистика
Теория вероятностей
Теория вероятностей и математическая статистика
Текст
                    СПРАВОЧНИК
ПО ТЕОРИИ
ВЕРОЯТНОСТЕЙ
И МАТЕМАТИЧЕСКОЙ
СТАТИСТИКЕ
ИЗДАНИЕ ВТОРОЕ
ПЕРГРЛЬОТЛИНОЕ И ДОПОЛНЕННОЕ
I" 2
 КВА «НАУКА»'
| 1 \ВНАЯ РЕДАКЦИЯ
' 11 :ИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
1 . >5 .
22.17
С74
УДК 519
В. С. КОРОЛЮК, Н. И. ПОРТЕНКО,
А. В СКОРОХОД, А. Ф. ТУРБИН
Справочник по теории вероятностей и математической статисти-
ке/В. С. Королюк, Н. И. П о р т е н к о, А. В. Скороход,
А. Ф. Турбин.— М.: Наука. Главная редакция физико-математи-
ческой литературы, 1985. — 640 с.
Справочник представляет собой расширенное и переработанное
издание книги «Справочник по теории вероятностей и математической
статистике» под редакцией В. С. Королюка, вышедшей в 1978 г. в
издательстве «Наукова думка».
По широте охвата основных идей, методов и конкретных резуль-
татов современной теории вероятностей, теории случайных процессов
и отчасти математической статистики «Справочник» является един-
ственным изданием подобного рода.
Для научных раб<
Владимир Семенович КОРОЛЮК, Николай Иванович ПОРТЕНКО,
Анатолий Владимирович СКОРОХОД, Анатолий Федорович ТУРБИН
СПРАВОЧНИК ПО ТЕОРИИ ВЕРОЯТНОСТЕЙ
И МАТЕМАТИЧЕСКОЙ СТАТИСТИКЕ
Редактор Н. И. Воронина
Художественный редактор Т, Н. Кольченко
Технический редактор В. Н. Кондакова
Корректор Е. В. Сидоркина
НВ № 12662
Сдано в набор 26.12.84. Подписано к печати 23.10.85. Формат 84X108'/is.
Вумага тип. 2. Гарнитура литературная. Печать высокая. Усл. печ. л. 33,6.
Усл. кр.-от. 33,6. Уч.-изд. л. 43,88. Тираж 70 000экз. Заказ № 458. Цена 2 р. 50 к.
Ордена Трудового Красного Знамени издательство «Наука»
Главная редакция физико-математической литературы
117071 Москва В-71, Ленинский проспект, 15
Ленинградская типография № 2 головное предприятие ордена Трудового Крас-
ного Знамени Ленинградского объединения «Техническая книга» им. Евгении
Соколовой Союзполиграфпрома прн Государственном комитете СССР по делам
издательств, полиграфии и книжной торговли. 198052 г. Ленинград, Л-52, Измайлов-
ский проспект, 29
_ 1702060000—161	„„	© «Наукова думка», 1978.
С •— пё.,<по»—ГТ----51—85	© Издательство «Наука».
0ao(02j—85	Главная редакция
физико-математической
литературы, с изменениями, 1985
ОГЛАВЛЕНИЕ
Предисловие ко второму изданию..............................в
Часть первая
ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Глава 1. Вероятностное пространство........................11
1.1.	Случайный эксперимент.............................11
1.2.	Аксиомы и основные свойства вероятности...........13
1.3.	Определение вероятностного пространства...........16
1.4.	Случайные величины................................18
1.5.	Группы случайных величин . . •....................21
1.6.	Математическое ожидание...........................27
1.7.	Условные вероятности и математические ожидания . . 32
I лава 2. Последовательности независимых событий и величин 38
2.1.	Закон нуля и единицы.............................38
2.2.	Схема Бернулли....................................40
2.3.	Предельные теоремы для схемы Бернулли.............41
2.4.	Последовательности независимых случайных величин.
Закон больших чисел ...	 43
2.5.	Неравенство Колмогорова. Усиленный закон больших
чисел..................................................47
2.6.	Закон повторного логарифма........................50
2.7.	Ряды из независимых случайных величин.............52
2.8.	Сходимость функций распределения..................53
Глава 3. Аналитический аппарат.............................55
3.1.	Производящие функции..............................55
3.2.	Преобразование Лапласа............................60
3.3.	Характеристические функции........................64
Глава 4. Центральная предельная теорема....................70
4.1.	Центральная предельная теорема для последователь-
ностей независимых случайных величин...................71
4.2.	Центральная предельная теорема для независимых
случайных векторов.....................................77
4.3.	Локальные предельные теоремы.....................79
4.4.	Уточнение центральной предельной теоремы и асимпто-
тические разложения....................................82
4 5 Большие уклонения..................................87
I	л	и и а 5. Безгранично делимые распределения............89
I» I. Суммы независимых случайных величин и их распре-
деления ...........................................89
4
ОГЛАВЛЕНИЕ
5.2.	Определение и основные свойства безгранично дели-
мых распределений ....................................91
5.3.	Предельные теоремы для схемы серий ..............96
5.4.	Предельные теоремы для нарастающих сумм в R . . 99
Глава 6. Основные вероятностные распределения.............105
6,1.	Характеристики случайных величин................105
6.2.	Дискретные распределения........................108
6.3.	Непрерывные распределения ......................116
6.4.	Распределения Пирсона...........................133
6.5.	Многомерные распределения.......................135
6.6.	Устойчивые распределения........................141
6.7.	Сингулярные распределения.......................143
Глава 7. Случайные блуждания..............................145
7.1.	Процессы восстановления.........................145
7.2.	Классификация случайных блужданий на прямой . .150
7.3.	Функционалы на случайном блуждании..............152
7.4.	«Задача о разорении» для полунепрерывных случай-
ных блужданий........................................155
7.5.	Факторизационнйе тождества......................156
Глава 8. Цепи Маркова.....................................163
8.1.	Определение цепи Маркова........................163
8.2.	Однородные цепи Маркова.........................172
8.3.	Цепи Маркова с дискретным множеством состояний 192
Часть вторая
ТЕОРИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ
Глава 9. Основные понятия теории случайных процессов . . 205
9.1.	Определение случайного процесса.................205
9.2.	Измеримость и интегрируемость случайных процессов 212
9.3.	Сепарабельность. Свойства выборочных функций . . . 215
9.4.	Потоки 0-алгебр и согласованные с ними процессы . . 219
9.5.	Абсолютная непрерывность мер, соответствующих слу-
чайным процессам.....................................224
Глава	10. ^-теория....................................229
10.1.	Пространство гильбертовых случайных величин
®, Р)	.................................229
10.2.	Стохастические	меры и интегралы .'..............233
10.3.	Линейный прогноз и фильтрация гильбертовых слу-
чайных функций .......................................238
Глава 11. Стационарные процессы...........................240
11.1.	Стационарные в широком смысле случайные процес-
сы ...................................................240
11.2.	Спектральное представление корреляционных функций 245
11.3.	Спектральное представление стационарных процессов 248
11.4.	Аналитические свойства стационарных процессов и
их траекторий.........................................251
11.5	Эргодическая теорема...........................  253
11.6.	Линейные преобразования (фильтры) ....... 255
ОГЛАВЛЕНИЕ
Б
11.7.	Процессы с дробно-рациональными спектральными
плотностями............................................
11.8.	Прогнозирование, интерполирование и фильтрация
стационарных процессов.................................
11.9.	Разложение стационарного процесса................
11.10.	Решение задач линейного прогнозирования, интерпо-
лирования и фильтрации.................................
11.11.	Стационарные в узком смысле случайные процессы
260
263
269
271
277
Глава 12. Случайные поля ...............................285
12.1.	Основные определения.........................285
12.2.	Свойства выборочных функций..................288
12.3.	Однородные случайные	поля....................291
12.4.	Изотропные случайные	поля....................301
12.5.	Обобщенные случайные	поля....................303
Глава 13. Мартингалы .................................311
13.1.	Определения. Общие свойства...................311
13.2.	Мартингалы с дискретным параметром............314
13.3.	Мартингалы с непрерывным временем.............320
13.4.	Семимартингалы и стохастические интегралы .... 329
Глава 14. Марковские процессы...........................339
14.1.	Марковские случайные функции..................339
14.2.	Марковские йроцессы. Определение и основные свой-
ства ................................................344
14.3.	Мультипликативные функционалы от марковских про-
цессов ..............................................353
Глава 15. Однородные марковские процессы............358
15.1.	Определение и основные свойства...........358
15.2.	Полугруппы операторов, связанные с однородными
марковскими процессами...........................361
15.3.	Характеристические операторы строго марковских про-
цессов ...............................................366
15-4. Процессы со счетным множеством состояний ....	370
15.5.	Функционалы от марковских процессов.......378
15.6.	Преобразования марковских процессов	.	....	384
15.7.	Однородные диффузионные процессы	в евклидовых
пространствах ................................... 391
15.8.	Непрерывные процессы па прямой............396
15.9.	Предельное поведение вероятностей перехода эргоди-
ческих марковских процессов...........................400
Глава 16. Процессы с независимыми приращениями............403
16.1.	Определение и общие свойства....................403
16.2.	Стохастически непрерывные процессы с независимыми
приращениями..........................................406
16.3.	Однородные процессы. Асимптотические	свойства . . 409
16.4.	Функционалы от процессов с независимыми прираще-
ниями ..............................................  414
16.5.	Процесс Пуассона................................420
16.6.	Виперовский процесс.............................422
6
ОГЛАВЛЕНИЕ
Глава 17. Ветвящиеся процессы.............................................427
17.1.	Ветвящиеся процессы с одним типом частиц (дискрет-
ное время) . ...	........................427
17.2.	Ветвящиеся процессы с одим типом частиц (непрерыв-
'ное время)...........................................432
17.3.	Ветвящиеся процессы с конечным числом типов частиц
(дискретное время) .................................. 438
17.4.	Ветвящиеся процессы с конечным числом типов ча-
стиц (непрерывное	время)......................444
17.5.	Общие	марковские	ветвящиеся процессы......................448
Глава 18. Предельные теоремы для случайных процессов . . 451
18.1.	Слабая	сходимость	мер в	метрических пространствах	451
18.2.	Слабая	сходимость	мер в	гильбертовом	пространстве	454
18.3.	Предельные теоремы для непрерывных случайных про-
цессов ...............................................458
18.4.	Предельные теоремы для процессов без разрывов вто-
рого рода.........................................464
Глава 19. Стохастические дифференциальные	уравнения	.	.	468
19.1.	Диффузионные процессы......................................468
W.2. Стохастические интегралы	но	тотегровситаду	wpwntwy	472
19.3.	Стохастические дифференциальные уравнения для не-
прерывных процессов...................................483
19.4.	Стохастические дифференциальные уравнения для про-
цессов с разрывами................................... 511
Часть третья
МАТЕМАТИЧЕСКАЯ СТАТИСТИКА
Глава 20. Основные понятия и задачи математической стати-
стики ................................................525
20.1.	Статистическая структура .......................................525
20.2.	Статистики..................................................... 527
20.3.	Основные задачи математической статистики . . . .531
20.4. Распределение выборки...........................................534
20.5.	Процедуры проверки гипотез .....................................542
Глава 21. Теория оценивания параметров....................................550
21.1.	Задача оценивания и свойства	оценок..........................55(1
21.2.	Методы построения оценок .......................................556
21.3.	Доверительные области . . . ....................................559
Глава 22. Оценки параметров некоторых распределений , . . 562
22.1. Оценки параметров нормального распределения . . . 562
22.2. Оценки параметров биномиального и пуассоновского
распределений ........................................................... 565
22.3. Оценки параметров равномерного распределения и
Г-распределепия ................................................. 567
Глава 23. Метод наименьших квадратов......................................570
23.1.	Линейные модели регрессии........................................570
23.2.	Свойства МНК-оцепок..............................................572
23.3.	Оценка параметров линейной	регрессии.........................577
ОГЛАВЛЕНИЕ
7
I	! я ii a 24. Статистика случайных	процессов.............581
'.’1.1. Различение гипотез.............................581
'21.2. Различение гипотез для процессов с независимыми
приращениями........................................584
21.3.	Различение гипотез для диффузионных процессов . . 591
21.4.	Различение гипотез о среднем значении гауссовского
процесса................................................594
24.5.	Различение гипотез о корреляционной функции гаус-
совского процесса.......................................598
24.6.	Оценки параметров распределений для случайных про-
цессов .................................................605
I лава 25. Статистика стационарных в широком смысле слу-
чайных процессов.......................................610
25.1.	Свойсша статистических оценок характеристик стацио-
нарных процессов........................................610
25.2.	Оценки неизвестного среднего.....................611
25.3.	Оценки параметров регрессии......................617
25.4.	Оценки спектральной плотности и спектральной функ-
ции стационарных последовательностей....................621
25.5.	Оценки параметров спектральной плотности.........626
< ннсок литературы.........................................628
Предметный указатель.....................................  633
ПРЕДИСЛОВИЕ КО ВТОРОМУ ИЗДАНИЮ
Настоящее второе издание справочника в основном содержит
тот же материал, чго и предыдущее, однако некоторые главы суще-
ственно переработаны с учетом современного состояния теории ве-
роятностей.
Очевидно, что ни для какой активно развивающейся науки не-
возможно дать полное ее изложение даже в справочной форме,
поэтому справочник содержит систематическое изложение основных
положений теории вероятностей, теории случайных процессов и ма-
тематической статистики, а также описание методов и идей, уже
четко оформившихся и получивших широкое применение как в тео-
ретических, так и прикладных исследованиях.
Среди многочисленной и разнообразной литературы, посвящен-
ной теории вероятностей и ее приложениям, справочная литература
выполняет свою функцию, представляя в сжатой форме специали-
стам по теории вероятностей материал из смежных областей, а спе-
циалистам, работающим в области приложений, в обозримом виде
классификацию основных направлений и методов теории вероятно-
стей, а также возможность ознакомиться с основными фактами
избранного направления без доказательств и обоснований. Для бо-
лее глубокого изучения интересующего вопроса нужно использовать
приведенную в справочнике литературу.
Теория вероятностей использует довольно широко аппарат дру-
гих разделов математики, информацию о которых следует искать в
справочной литературе по соответствующим разделам. Что касается
теоретико-вероятностных сведений, то они все содержатся в спра-
вочнике, при этом отдельные главы справочника написаны так, что-
бы нми можно было пользоваться практически независимо (хотя в
отдельных главах могут быть ссылки на любую из остальных).
Справочник содержит большой фактический материал и может
быть полезен как читателям, желающим ознакомиться с фактами с
целью их применения, но не интересующимся математическими до-
казательствами, так и специалистам в области теории вероятностей
для справок в их научной работе.
Справочник не содержит материала по приложениям (теория
массового обслуживания, теория надежности, теория информации,
стохастическая аппроксимация, управляемые процессы), для освеще-
ния этих вопросов нужен специальный справочник. Тем не менее, в
качестве иллюстраций основных методов теории вероятностей при-
кладные задачи широко используются.
Справочник состоит из трех частей.
Часть первая — теория вероятностей (гл. 1—8) — содержит основ-
ные определения вероятностного пространства, случайной величины,
математического ожидания, условных вероятностей и математиче-
ских ожиданий, независимости. Здесь рассматриваются последова-
ПРЕДИСЛОВИЕ ко ВТОРОМУ ИЗДАНИЮ
9
щльности независимых событий и величии, а также связанные с
ними законы больших чисел, центральная предельная теорема, без-
1 ранично делимые распределения и предельные теоре№ы Для схемы
<ерий Описаны аналитические методы, используемые 6РИ исследова-
нии сумм независимых случайных величин (гл. 3). В rJ- 6 приведены
' ведения обо всех основных распределениях, используемых в теории
ироятностей и ее приложениях. Глава 8 содержит большой мате-
риал (включая новейшие результаты), широко нсполь^Уемьп'! в при-
южениях, по цепям Маркова. Здесь, в частности, при?олятся самые
общие результаты по эргодической проблеме и центраНы,0Й предель-
ной теореме.
Первые две главы этой части составляют необходимую основу
для понимания всех разделов теории вероятностей.
Остальной материал этой части составляют специальные вопро-
<ы теории и ее приложений (центральная предельная теорема с
уточнениями, случайные блуждания, цепи Маркова).
Наибольшая вторая часть справочника посвящена теории случай-
ных процессов. В главах 9, 10, 12, 18 изложены общиё понятия, ме-
 оты и факты теории случайных процессов (и функций)- остальные
। павы посвящены конкретным классам случайных ироцессов' стацио-
и |рные процессы, мартингалы, марковские процессы- однородные
зрковские процессы, процессы с независимыми приращениями,
1 егвящиеся процессы, стохастические дифферепциаль,,ые урав-
„ Во второй части содержится весь фактический материал, кото-
рый обычно излагается в книгах по теории случайных процессов,
наибольший интерес для приложений традиционно представляют
' гациоиариые процессы, однородные марковские проц£ссы- процессы
< ^независимыми приращениями и ветвящиеся процессы- Материал по
< бщей теории случайных процессов специалистам по приложениям
может быть полезен для большего понимания конкретных фактов.
Активно развивающиеся в настоящее время мартингальные методы,
стохастические дифференциальные уравнения и предельные теоремы
несомненно имеют большие перспективы в приложениях. Главы, по-
священные этим разделам, во втором издании существе’1110 расши-
В третьей части излагаются основные понятия математической
статистики, а также приведены важнейшие факты н? теории про-
верки статистических гипотез, теории оценивания, нзложеи метод
наименьших квадратов. Статистика случайных прб'цебсов в настоя-
щее время находится в процессе интенсивного развития и трудно
выделить прочно установившуюся структуру Исключением является
линейная теория статистики стационарных процессов- которая до-
вольно полно отражена в справочнике. Сведения же по общим во-
просам статистики случайных процессов не претендуй на полноту,
а имеют цель иллюстрировать основные постановки зйДач и методы
их решения.
Главы разбиты на пункты, нумерация которых проведена по
главам, пункты —на подпункты, все они имеют названия. Это по-
зволит читателям непосредственно знакомиться с интеРесУ,0ЩИм их
вопросом. Для удобства читателей справочник снабжен предметным
указателем. Читатели, интересующиеся более подробном изложением
вопроса или доказательствами приведенных утверждений- могут вос-
пользоваться читературой, указанной в конце глав.
10	ПРЕДИСЛОВИЕ КО ВТОРОМУ ИЗДАНИЮ
Работу над справочником авторы разделили следующим обра-
вом: В. С. Королюк — гл. 3, 7,. 10, 18, 20; Н. И. Портенко — гл. 2,
8, 14, 15, 19, 21, 22; А. В. Скороход —гл. 1, 5, 9, 12, 13, 16, 18, 24;
А Ф. Турбин —гл. 4, 6, 11, 17, 20, 23, 25.
Авторы допускают, что изложение как по форме, так и по со-
держанию не лишено недостатков. Все замечания и предложения
будут приняты с благодарностью.
При подготовке рукописи к печати большую помощь оказали
Н. Ф. Рябова и Л. В. Лобанова, которым авторы выражают глубо-
кую признательность.
Авторы
Часть первая
1Е0РИЯ ВЕРОЯТНОСТЕЙ
Глава 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО
1.1. Случайный эксперимент
1.1.1. Определение. Одним из наиболее важных понятий в теории
вероятностей является понятие эксперимента. Эксперимент состоит
» том, что производится испытание при выполнении некоторого ком-
плекса условий, которые либо создаются искусственно, либо осуще-
ствляются независимо от воли экспериментатора. Эксперимент задан,
если определены его условия и указаны события, наступление или
ненаступлепнс которых следует наблюдать.
Эксперименты можно разделить на два класса. В одном из них
результаты экспериментов заранее предсказуемы на основании есте-
ствепнонаучшлх законов. Эти эксперименты носят название детерми-
нированных. В другом классе экспериментов при одних и тех же
условиях возможно наступление исключающих друг друга событий.
Теоретическое изучение таких экспериментов и составляет предмет
теории вероятностей; они носят название случайных (стохастиче-
ски) пли вероятностных экспериментов.
Примеры случайных экспериментов.
I.	Изделия выпускаются партиями по п штук. Проверка качества
изделий приводит к их разрушению. Поэтому для проверки партии
на качество отбирают m изделий (т < п). Эксперимент заключается
в выборе m изделий из партии и их проверке. Результат экспери-
мента— число обнаруженных дефектных изделий.
2,	Розыгрыш лотереи можно рассматривать как случайный экс-
перимент, результатом которого является выпадение выигрышей на
определенные лотерейные билеты.
3.	В биологическом опыте самоопыления растение, полученное
перекрестным опылением двух сортов, наследует по каждому при-
знаку гены обоих родителей. Нельзя сказать заранее, как эти гены
скомбинированы в том или ином семени, полученном в результате
самоопыления: по каждому гену (если он различен в материнском
и отцовском сорте) возможны три комбинации: доминантный — до-
минантный, доминантный — рецессивный, рецессивный — рецессивный.
Следовательно, такой опыт можно рассматривать как случайный
эксперимент.
4.	Взвешенная в жидкости частица движется в результате
столкновений с молекулами жидкости, находящимися в хаотическом
тепловом движении. Опыт, в котором наблюдается движение такой
частицы, можно рассматривать как случайный эксперимент, резуль-
татом которого является траектория движения броуновской частицы.
1.1.2. Алгебра событий. Рассмотрим множество ЗД событий, кото-
рые можно наблюдать в некотором стохастическом эксперименте.
12	ГЛ. I. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	[1.1.8
Выделим прежде всего два специальных события — достоверное со-
бытие U, которое обязательно происходит в эксперименте, и невоз-
можное событие V, которое не может произойти в эксперименте.
Для каждого события А из введем противоположное собы-
тие А, которое состоит в том, что А не произошло. Событие A-f-B
заключающееся в том, что из двух событий А и В проис-
ходит по крайней мере одно, называется суммой (или объединением)
событий А и В. Событие АВ (/("] В), заключающееся в том, что
происходят одновременно А и В, называется произведением (или
пересечением) событий А и В. Событие Л\В называется разностью
событий А и В; оно состоит в том, что происходит А и не про-
исходит В.
Два события А и В несовместимы, если А П В — невозможное
событие.
События Ei, Ег, ..,, Е„ образуют полную группу событий, если
они попарно несовместимы н Bi I) Ez U... LlBn = (JB* — V, т.е- из
k
этих событий происходит одно и только одно.
Непустое множество событий й, которое удовлетворяет условиям:
J) если Л ей, то А ей;
2) если А, В ей, то A U В е й,
называется алгеброй событий.
1.1.3. Элементарные события. Говорят, что событие А влечет
событие В (А с. В), если событие В наступает всегда, когда насту-
пает А. Событие Е называется элементарным, если для всякого со-
бытия А случайного эксперимента оно влечет либо А, либо Л.
Случайный эксперимент называется конечным, если имеется полная
группа элементарных событий. В теории вероятностей рассматри-
ваются лишь такие случайные эксперименты, в которых каждое со-
бытие является суммой всех элементарных событий, влекущих это
событие. Такой случайный эксперимент описывается множеством
элементарных событий £2 (его элементы обозначают буквой ю с раз-
личными индексами, например, сг/, со", со*, со1 и т. п) и некоторым
классом его подмножеств й, называемых событиями. Этот класс под-
множеств должен удовлетворять следующим условиям:
1)	£!ей (£2—достоверное событие; оно происходит, какое бы
элементарное событие ни произошло);
2)	Й содержит пустое подмножество 0, которое интерпрети-
руется как невозможное событие;
3)	если Z ей, то Аей, где А — £2\Л;
4)	если / ей и В ей, то A (J В е й и ЛПВей.
Класс подмножеств Й, удовлетворяющий условиям 1)—4), на-
вивается алгеброй множеств.
В том случае, когда £2 конечно, й совпадает с классом всех под-
множеств £2.
Важным примером случайного эксперимента является экспери-
мент, в котором измеряется некоторая величина g. В качестве эле-
ментарных событий здесь можно взять события вида (g = х), где
х — некоторое фиксированное значение. Поэтому множество элемен-
тарных событий естественно отождествить с Множеством точек на
прямой. Если априори известно, что g может принимать лишь зна-
чения из некоторого множества М, то это множество и следует рас-
сматривать как множество элементарных событий. В процессе изме-
рения естественно предполагать возможность наблюдения события
।  1	1.2. АКСИОМЫ И СВОЙСТВА ВЕРОЯТНОСТИ	13
где а < b — произвольные числа. Всевозможные ко-
......... сумму таких полуинтервалов (а и b могут принимать и б$с«
...... значения) можно рассматривать как алгебру событий, сЬя*
1.ИП1ЫХ с экспериментом.
1.2. Аксиомы и основные свойства вероятности
1.2.1. Частоты событий. Одной из существенных особенностей
 л> чайных экспериментов является возможность повторять их скбЛъ
\ । одно большое (в принципе неограниченное) число раз. Если SJ —
множество элементарных событий эксперимента, то осуществление
п.сперимента означает выбор некоторой точки ы s Q, а повторение
>юго эксперимента п раз означает выбор последовательности точек
">t, ..., к>„ в £2. Пусть И — алгебра событий, наблюдаемых в экспе-
рименте, Лей. Обозначим число появлений события Ави экспери-
ментах через А,,(Л) (если «геЛ, то А произошло в i-м экспери-
' сите). Величина vn (Л) = -i- kn (Л) называется чистотой появления
• обытия А в п экспериментах. Она до некоторой степени характери-
зует объективную связь между условиями эксперимента и собы-
। ием Л, указывая, как часто эти условия вызывают событие А От-
метим, что Ч.(Л) меняется как с п, так и с изменением серии экспе-
риментов.
Отметим основные свойства частот:
1)	если U — достоверное событие, то v„(t/)“ 1;
2)	если V—невозможное событие, то v„(v)= 0;
3)	для всякого Лей имеет место неравенство 0^ vn(A)^ 1|
4)	если Л с: В, то Гг(Л) v„(B);
5)	если Л и В несовместимы, то v„(A-|-B) = уп(Л) + vn(B)j
6)	если Л], Л2...Лл попарно несовместимы, то
ak	\ k
7)	для всех Лей справедливо равенство
v„(A)= 1 — т„(Л).
1.2.2.	Аксиомы вероятности. Важным, экспериментально уста-
новленным фактом является свойство устойчивости частот. При уве-
личении числа экспериментов частоты событий колеблются около
некоторых чисел, не зависящих ни от числа, ни от серии эксперимен-
। <>в, причем частоты неограниченно приближаются к этим числам,
и ида п->-оо. Эти числа естественно связать с каждым событием,
происходящим в случайном эксперименте. Они называются вероят-
ностями и определяются чисто аксиоматически В теории вероятно-
1ей существование вероятностей постулируется и свойства их опре-
|еляются аксиомами вероятности, которые приводятся ниже.
1)	Каждому событию Л@й отвечает число Р(Л), принимаю-
iii-'e значещю из ГО, 1] и называемое вероятностью Л,
2)	ЕсЛи А и В — несовместимые события, то Р (Л-|-В) = Р (Л)-|-
I Р(В).
3)	Р (U) = 1, где U — достоверное событие.
14	ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	[1.2.3
Если понимать вероятность как предел частоты, то естествен-
ность перечисленных аксиом следует из свойств 1), 3), 5) частот.
Из этих аксиом вытекают следующие свойства.
4)	Если V — невозможное событие, то Р (V) = 0.
б) Р (Д) = 1 - Р (Д).
6)	При А с: В справедливо неравенство Р (Д) Р (В).
7)	Если Ai, Аг, ..., Д* — попарно непересекающиеся события,
то
afe	X fe
?,л‘Нр(л>-
8)	Для любых двух событий Д и В
Р (Д + В) = Р (Д) + Р (В) - Р (Д Л В).
0) Для любых событий At, Аг, .... At,
\(«1	/ i=i
М)) Пусть At, Аг, Ап—некоторые события ч^цг,„ tk~
= А, А, ... А, . Тогда
*1 *2 fe
Р(Д1 + Д2+ ... +л„)=^Р(Д/)-£ Р(Л ) + ...
г-1	»</	'
Е p(\...d+•••
1.2.3. Классическое определение вероятности. Предположим, что
в эксперименте имеется полная группа элементарных событий:
Ei, Ег, ..., Еп. Тогда каждое событие из И имеет вид
m
A==ZElk’	(2.1)
fe=l к
где (ц, Г2, .... 1m)—некоторое подмножество множества (1, 2, ..,,«).
Следовательно, по свойству 7)
m
Р(Д)-£Р(£()- % Р(Я/).
fe-l 4 В,сЛ
Таким образом, в случае конечного эксперимента вероятность лю-
бого события определяется вероятностями элементарных событий
(исходов).
Для многих конечных экспериментов из соображений симметрии
можно априори установить, что элементарные события имеют оди-
наковую вероятность. Тогда вероятность каждого элементарного со-
бытия равна 1/п (я — число исходов), а вероятность события А вида
(2.1) равна m/п. Если элементарные события имеют одинаковую
вероятность, то они называются равновозможными исходами, а те
из них, которые влекут А, — благоприятствующими исходами. Сле-
• l|	1.2. АКСИОМЫ И СВОЙСТВА вероятности	15
». и.цельно, в этом случае Р (Л) равно отношению числа благопри-
I । • । кующих исходов к числу всех равновозможных исходов.
Приведенное определение вероятности называется классическим.
11 ри решении задач на классическое определение вероятности
 'и дует вычислить число всех равновозможных исходов в экспери-
•i'iii<>, а затем — число благоприятствующих исходов. Обычно это
'||>*|ю сделать комбинаторными методами.
Пример, т шаров раскладываются по п ящикам (т > и).
Г-к- расположения равновероятны. Какова вероятность того, что не
и.ищется ни одного пустого ящика?
Занумеруем ящики, и пусть mi — число шаров в ящике с номе-
ром i. В качестве множества элементарных событий возьмем группы
но п чисел (mi, тг, тп), где mi 0 и У, тг = иг. Число эле-
|.| тарных событий можем определить так: поставим каждому со-
бытию в соответствие последовательность из нулей и единиц по та-
। «му правилу:
0...0 10...01... 1 о ... 0.
fflj	тг	Шп
В этой последовательности п—1 единиц и т нулей. Каждой такой
последовательности из нулей и единиц соответствует элементарное
• ••бытие (mi, mi, .... т„), где mt — число нулей до первой единицы,
,,, — число нулей между первой и второй единицами и т. д. Коли-
••• етво указанных последовательностей, очевидно, равно Ст+п-и
'Ьобы определить число благоприятствующих исходов, нужно сосчи-
|.пь число последовательностей, для которых mi 1. Но оно совпа-
дет с числом последовательностей (т,, т2.....т,г)> Для которых
'I, ^0 и У т1=т—п (mi = mi— 1). Значит, число благоприятству-
ющих исходов равно Искомая вероятность имеет вид
cm-’i	(« - W (« ~ DI mt
f) =----:---= ---------------------------- «=
cm+n-i (n — 1)1 (m — п)Цт + n — 1)1
________ml (m — 1)!____
(m — n)l (m + n — 1)1 ’
1.2.4. Геометрические вероятности. Это вероятности в экспе-
риментах с бесконечным числом исходов, которые интерпретируются
। -ж выбор наудачу точки из некоторого множества в Rm. Предпо-
лагается, что множество имеет некоторую геометрическую форму.
< «бытием назовем следующее: выбранная точка принадлежит задан-
ной части фигуры. Вероятность такого события определим как отно-
шение евклидова объема (площади, длины) части фигуры к объему
(площади, длине) всей фигуры.
Пример (задача о встрече). Два лица договариваются
•  встрече на заданном промежутке времени I. Лицо, пришедшее пер-
вым, ожидает в течение времени а < I, затем уходит. Какова ве-
рш гность встречи?
В качестве множества элементарных событий рассмотрим квад-
। 1г, состоящий из точек (х, «/), О х ig I, 0 < у 1, где х и у —
щ < ня прихода первого и второго лица. Благоприятствующие исходы
16
ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО
П-3.1
образуют точки, для которых |х — г/| < а, т. е. точки квадрата ме-
жду прямыми у ~ х — а, у = х + а. Легко вычислить, что площадь
этой фигуры равна Z2—(I — а)2, площадь квадрата составляет I2,
искомая вероятность равна
l-(Z-c)2//2.
1.3. Определение вероятностного пространства
1.3.1. о-алгебра событий. В тех случайных экспериментах, в ко-
торых алгебра событий содержит бесконечное множество событий,
приходится рассматривать и бесконечные последовательности собы-
тий, и операции над ними. Простейшими среди этих операций яв-
ляются объединение и пересечение бесконечной последовательности
событий. Если алгебра, событий такова, что с каждой бесконечной
последовательностью событий Ак она содержит и события [~|
ft
[J Ak, то такая алгебра называется о-алгеброй. Событие Лй со-
стоит в том, что происходят все события Ак одновременно, а собы-
тие у лй — в том, что из последовательности событий Ал происхо-
дит по крайней мере одно.
Последовательность Ак называется монотонно убывающей, если
Аь^зАь+i для всех k, и монотонно возрастающей, если Д(сЛ4|.
Событие Р Ak называется пределом убывающей последовательно-
k
сти, а событие у Ak — пределом возрастающей последовательности
событий. Препл монотошюй",(т.е. монотонно возрастающей пли мо-
нотонно убыс.ющей) Последовательно сти А обозначается НтЛ*.
Алгебра обытий Я бмудет о-алгеброй, если со всякой монотонной
посдедовате. ностыг J она содержит и ее предел.
При псгроеслни п-алгебр множеств широко используется опера-
ция а-вамг йвння алгебры множеств, о-замыкзнием алгебры Йо на-
зывается наименьшая о-алгебра Й, содержащая Йо; она обозначается
о(й0). Ее еще ’’чзывают о-алгеброй, порожденной алгеброй Йо-
Класс множеств ц называется монотонным, если с каждой мо-
нотонной последовательностью множеств он содержит и ее предел.
При рассмотрении j-алгебр часто полезна следующая теорема о мо-
нотонном классе.
Теорема. о(й0) совпадает с наименьшим монотонным клас-
сом, содержащим й0.
Если вероятность определена на о-алгебре, то предполагается,
что она удовлетворяет еще одной аксиоме, обобщающей аксиому
вероятности 2) (п. 1.2.2) и называемой расширенной аксиомой сло-
жения-.
2') Если Ak—последовательность попарно несовместимых со-
бытий, то
Р(У 4)“=5р(4)-
Эта аксиома эквивалентна следующей аксиоме непрерывности.
1.3.2)	1.3. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	17
3) Для всякой монотонной последовательности Д*
P(lim ДА) = НшР(ДА).
1.3.2. Вероятностное пространство. Вероятностным простран-
ством (полем вероятностей) {й, й, Р) называется совокупность трех
объектов — пространства элементарных событий й, о-алгебры Я под-
множеств пространства й— сг-алгебры событий, вероятностной меры
Р(Д), определенной для Дей, для которой Р (й) = 1.
Мерой на о-алгебре подмножеств й называется неотрицательная
счетно-аддитивная функция Р (Д) множества, т. е. такая функция,
для которой
Р(У 4) = SP(4)
для всякой последовательности попарно не пересекающихся мно-
жеств Ак из й.
Если Р (й) = 1, то мера называется нормированной.
Измеримым пространством {й, И} называется пара объектов—
некоторое множество й и некоторая cr-алгебра его подмножеств й.
Таким образом, вероятностное пространство — это измеримое про-
странство с нормированной'мерой на нем.
Если й содержит не более счетного числа элементов и й есть
множество всех подмножеств й, то вероятность полностью опреде-
ляется своими значениями па элементарных событиях. Пусть й =
= {он, юг, ...}, Р({w/;}) == Ph> — одноточечное множество, со-
держащее <о4. Тогда
P(/»=S^a(wJ
k
где x-i(<o) — 1 при оеД, Хо(<о)—0 при <о^Д. Функция %/i(<o) на-
зывается индикатором события Д. Вероятностные пространства опи-
санного вида называются дискретными.	R
Рассмотрим вероятностное пространство, для которого Й совпа-
дает с m-мерным евклидовым пространством R"1. Такое пространство
исходов естественно рассматривать в тех экспериментах, в которых
наблюдаются значения m вещественных величин. Буде,... обозначать
координаты точки ieRK через (х1, хг, ..., х"). В'качсстве й возь-
мем о-алгебру, содержащую множества точек вида
{х: Qi х1 < bi....а,п sC xm	b,„},	(3.1)
где —со at < bi 4-oo — вещественные числа. Такие множества
называются полуоткрытыми справа параллелепипедами. Конечные
суммы полуоткрытых справа параллелепипедов образуют алгебру Йо
в Rm. Наименьшая о-алгебра й, содержащая алгебру й0, совпадает
с наименьшей о-алгеброй множеств, содержащих все открытые и
замкнутые множества из R"1. Эта о-алгебра называется борелсвской
<т-алгеброй, а множества из й — борелевскими.
Всякое множество из й получается с помощью операции пре-
дельного перехода, примененного не более счетного числа раз к мно-
жествам из й0. Поэтому для задания вероятности на й (учитывая
аксиому непрерывности) достаточно задать ее на й0. Поскольку мно-
жества из Йо представимы в виде суммы попарно непересекающихся
18
ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО
(1.3.3
полуоткрытых параллелепипедов, то достаточно определить меру иа
множествах вида (3.1).
1.3.3. Функции распределения. Пусть
G (Ъ.....bm) = Р (х: - оо < х1 < Ьь ..., - оо < хт < Ьт}. (3.2)
Обозначим через A^6)G (х1,..., хВ!) = G (х1.....хк *, b, хк+1, ..
..хт) — G (х1, ..., х*-1, a, xk+i, ..., хт) приращение функции
G(x*, ...,xm) по 6-му аргументу на полуинтервале [а, Ь). Тогда
справедлива формула
Р ({х: at < х1 < 6t....ат < хт < Ьт}) ==
.....л <з.з>
Таким образом, всякая мера па измеримом пространстве {йга,Я}
однозначно определяется функцией G(x‘, .. , xm) вида (3 2). Чтобы
соответствующая мера была нормированной, необходимо и доста-
точно, чтобы выполнялось условие
1)	lim G (х1, ..., хт) = 1.
х*->«>,..., хт->оо
Укажем еще некоторые условия, которым необходимо удовле-
творяет G. Из аксиомы непрерывности следует, что
2)	lim G (х1, ..., хт) — 0 для всех /г=1......т.
х^-> -оо
3)	lim G (х1.............хт) = G (Ь|,..., Ьт), каковы бы
х’ 4 6....хт 4 Ьт
ни были blt ..., Ьт, т. е. функция G(x‘, ,,,, xm) непрерывна по
совокупности аргументов слева.
Из (3.3) следует
” 4'А. .,> -	<«'....«"’>>»•
Функция G(x‘, ..., xm), удовлетворяющая условиям 1)—4),
называется m-мерной функцией распределения. Одномерной функ-
цией распределения (т — 1) называется неубывающая непрерывная
слева функция F(x), определенная на R и удовлетворяющая усло-
виям
lim F (х) = 0, lim F (х) = 1.
Х->--со	х->+оо
Всякой m-мерпой функции распределения отвечает единственная
вероятностная мера на {Rm, И).
1.4.	Случайные величины
1.4.1.	Определение случайной величины. Случайные величины —
это величины, измеряемые в случайных экспериментах. Случайная
величина полностью определена, если известен исход эксперимента <о.
Таким образом, случайная величина g на вероятностном простран-
стве (Q, V1, Р), описывающем данный случайный эксперимент, есть
некоторая функция элементарного события £(<о), Тот факт, что мы
1.1.2]	1.4. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ	19
можем измерять эту величину в нашем эксперименте, означает, что
возможно наблюдать событие: значение величины | принадлежит
данному интервалу Д, каков бы ни был этот интервал. Значит,
{о: ?(®)еА} ей,	(4.1)
Функции e(w), удовлетворяющие для Всех интервалов Д усло-
вию (4.1), называются измеримыми относительно 0-алгебры й или
^-измеримыми. Для измеримой относительно й функции Е(о>) соот-
ношение (4.1) выполнено для всякого борелевского множества
Дей.
Случайной величиной на вероятностном пространстве {й, й, Р}
называется всякая й-измеримая функция Е(со), определенная на Q.
Случайные величины часто обозначают Е вместо £(«>), не указывая
на зависимость от элементарного события.
Простейшим примером случайной величины является величина
Ул (со)—индикатор события А: х4(со)=1, если ме=Л; %4(со)=О,
если с» А.
Другим примером случайной величины служит дискретная слу-
чайная величина, принимающая не более чем счетное множество
различных значений {xi, х2, ...}. Очевидно, что события {Е(со) =
= X/} = Ai попарно несовместимы и |J А/ — S1. Пусть
i
Р(И£) = Р{и<о) = ^} = Р{5 = ^} = Рг
Набор вероятностей и чисел {х,} называется распределением
дискретной величины |. Оно определяет вероятность попадания ве-
личины Е в любое множество Л на прямой:
РаеЛ)= £ Pl.
Х1^А.
1.4.2.	Распределение случайной величины. Распределением
произвольной (случайной) величины Е называется мера
P5(A) = P(M(®)eA)),	(4.2)
заданная па cr-алгебре борелевских множеств из R. Из (4.1) следует,
что для всех борелевских множеств {со: Е(о>) еД) ей, и поэтому
правая часть (4.2) определена.
Как следует из результатов § 1.3, для задания распределения
величины g достаточно задать функцию
Fj W = PS ((- °°> x)) = P(g<x),
которая называется функцией распределения величины £ и является
одномерной функцией распределения.
Если Е — дискретная величина, для которой Р {Е = xfJ — р(, то
Fi w — Е Pi - Е р*е (х ~ *<)
Xt<X I
где е(х)= 1, если х > 0; е(х)=0, если х 0. Обозначим через
F^ (х + 0) предел справа F& (х) в точке х. Величина скачка функ-
ции распределения Fg (х + 0) — Fg (х) совпадает с вероятностью
20
ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО
11.4.2
РО-х); если Р {£=х} >0, то х называют атомом распределения
случайной величины £. Говорят, что § имеет непрерывное распреде-
ление, если Г| (х)' — непрерывная функция. В этом случае любое
фиксированное значение £ может принимать лишь с вероятностью 0.
Величина ?. имеет абсолютно непрерывное .распределение, если суще-
ствует такая функция f % (х), что
х
Fl М = J h (0 dt.	(4.3)
— оо
Функция (х), удовлетворяющая соогпошеншо (4.3), назы-
вается плотностью распределения величины £. Если %, имеет плот-
ность распределения, то се распределение выражается формулой
P?(A)=p5(0<tt	(4.4)
Л
(интеграл в (4.4) понимается как интеграл Лебега). В частности,
b
Р£ ((«, *>)) = J h (0 dt =» Г5 (6) - Г5 (а).
а
Плотность распределения удовлетворяет следующим двум оче-
видным условиям:
a)	ft (t)	0 для почти всех I;
ОО
б)	J f5(f)rff=l.
— оо
Любая измеримая по Лебегу функция (/), удовлетворяющая этим
двум условиям, может выступать в качестве плотности некоторой
случайной величины.
Примеры плотностей распределения.
1.	Плотность величины £, равномерно распределенной на [а, 6]:
f	0,	х < а,
П (х) = < 1/(6 — а), а^х^Ь,
I	0,	х > Ь.
2.	Показательная плотность распределения:
(	0, х < 0,
=	х>0.
3.	Нормальная плотность распределения:
ft
6 V2n6
Величина g имеет решетчатое распределение, если она дискретна
и все ее возможные значения имеют вид a-f-kh, А = 0, ±1,
1 ',11
1.5. ГРУППЫ СЛУЧАЙНЫХ ВЕЛИЧИН
21
Величина h называется шагом распределения. Максимальное Я, для
которого при некотором а
£ Р {| = а + kh} = 1,
k
существует, если только Е принимает с положительной вероятностью
хотя бы два значения. Это Я называется максимальным шагом рас-
пределения. Если возможные значения Е равны а + kh, то Я = dh,
1де d— наибольший общий делитель таких разностей Ао — k2, для
которых Р {Е = а + kth} >0 и Р {Е = а + й2/г} > 0. Среди решетча-
тых величин выделяется важный класс целочисленных величин, для
которых
£ Р« = *)=1.
fe=-oo
Примем обозначение pk = Р {Е =® k}.
4.	Величина Е имеет биномиальное распределение, если при не-
которых 0 < а < 1, п > 0
pfc = 0, RO; pk = c'‘ak(\ - a)n~k, k^n- pk = 0, k>n.
5.	Величина E имеет геометрическое распределение, если при не-
котором 0 < а < 1
Рь = 0, k < 0; pi, = а*(1 — а), А^О.
6.	Величина Е имеет распределение Пуассона, если при некото-
ром а > 0
ak
рк = 0, Я < 0; Pfe = -^-e~a, й>0.
1.5. Группы случайных величин
1.5.1, Совместное распределение случайных величин. Пусть па
вероятностном пространстве (О, й, Р) заданы m случайных величин
Ыю). • • •, Em (со). Тогда для всех at < bi, ..., am < bm
{co: ai Ei (co) < bi, ..am < (co) < bm} =
m
= П {co: ak < Efe (co) < bk} <= 91. (5.1)
k— 1
Обозначим через (Ei(<o), Em(co)) точку в Rm, а через Д по-
луоткрытый параллелепипед:
Д = {с: ai < х‘ < bi......am < xm < bm}.
Соотношение (5.1) можно переписать так:
{со: (Ес (со), ..., Em (со)) е Д) <= й.
(5.2)
22	гл. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО
Используя (5 2) и равенства
11.5.2
fj {«: (51 (со).и («)) <=	= f со: (gi (со),..|т («)) <= |~| В*],
A	I	kJ
|J {й>: (11 (со)» • • • ,	(о)) Е	(Bl (°)> • • • > Вт (<*>)) е Ц В*|,
справедливые для всякой последовательности множеств из Rm, уста-
навливаем, что (5 2) справедливо, если Д — произвольное борелев-
ское множество из Rm.
Мера и» . , определенная на борелевских множествах соот-
»р ••• £т
ношением
.....  (В) = Р ( {о: (gj (о), .... Вт (“)) е В} )	(5-3)
называется совместным распределением случайных величин gi.....gn,
или распределением случайного вектора B=(gi(«), ..., Bm(w))
в Rm. Как указывалось в § 1 3, для определения меры Rg ... g
достаточно задать функцию
Flv ...Лт (*>’ • • ” Хт) = Р ( {ш: £1 И < *4» ’ ‘ И < М ) =
~ Р {£1 <	• • •> 5m < *m)> (5.4)
которая называется совместной функцией распределения величин
Bi> • • •. Вт. Эта функция является m-мерной функцией распределе-
ния и, следовательно, удовлетворяет условиям I)—4J. Зная сов-
местную функцию распределения величин gi.......gm, можно опреде-
лить и совместную функцию распределения величин g^,.... gj
где 0 < h < ... < it m:
\......lik (Ч’ • • - %) “A.......Sm.........1/Ct” ... ik (5-5>
(под F (+ оо) понимается lim F (x)). Соотношение (5.5) следует
x-> + oo
непосредственно из (5.4), если только {g, < 4-оо} —достоверное со-
бытие. Совместные функции распределения подмножества случайных
величин, получаемые из функции распределения всех величин, назы-
ваются маргинальными (частными) функциями распределения (фор-
мула (5.5) определяет k-мерные маргинальные распределения).
В частности, зная F^....., определяем и функции распределения
величин g(i:
k
Ft (x) = Ft Е (+ ОО, ...,+ ОО, X, + оо, .... + оо).
ЬА	£1....6т
1.5.2. Дискретные и непрерывные распределения. Если каждая
из величин Е,л имеет дискретное распределение, то говорят, что слу-
чайный вектор (gf, .. , gra) также имеет дискретное распределение
!'(или что совместное распределение величин gi, .,,, gm дискретно).
1 • ’I
1.В. ГРУППЫ СЛУЧАЙНЫХ ВЕЛИЧИН
23
11>сгь %* принимает значения {{/*, 02» • • •}• Тогда совместное рас-
пределение величин gt, .... определяется вероятностями
pli..'т==Р^|*=Ч’ ^2==^2..........
Пера, задающая совместное распределение gt, ,..,gm, задается в
>юм случае равенством
...б,„ (В) = Е р/р.... /,лв (А...О*
>ле ХвО/1.....«/")= 1, если («/'..г/")е= /3; %в(у', .... /")=«0,
<ч ли (у', .... ут) ф В; (у1...ут) — точка в Rm. Совместная
функция распределения задается формулой
Г«.................'»>-	. S „ "b..............’«
....
Примером m-мерного дискретного распределения является
«/-мерное полиномиальное распределение. Величины целочисленны,
т
причем при некоторых pt О, I = 1, ..., т, У*, р( = 1 имеет ме-
i=i
<то равенство
Р {St = h.....Im = 'ml =
fll _lml Pl • • • Pm. если «ft > °: k =1.m~.
il + • • • + im = n>
О в остальных случаях.
Величины gt.....g,n имеют совместное абсолютно непрерывное
распределение, если существует такая измеримая по Лебегу функ-
ция „д (Xj,	что совместное распределение величин
gi, .., Вт определяется формулой
....5m (В) = J • • • 5 .....(*i..........М dxl • • •
в
(справа записан m-кратный интеграл Лебега). Тогда функция
fgj...(Х[, .... хт) называется совместной плотностью распреде-
ления величин g>, ..., gm. Совместная функция распределения вы-
ражается через совместную плотность по формуле
Ч.....Sm (х1....Хт)=~
*1 хт
= $ ••• $	...5т(Р1.....Pm)d»t
Из этого соотношения следует формула для плотности:
дт
............Х">)	= d-ч ...дхт \...Ьт (*»....
24	гл. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	[1-5.2
Отметим, что существование производной, стоящей в правой части
последнего равенства, для почти всех xt, ..., хт еще не обеспечи-
вает существования плотности. Чтобы последняя существовала, не-
обходимо и достаточно выполнения условия
<х>	оо
Sr дт
••• \ -ч----х--Г* t (х,, .... xm}dxt ... dx =^1.
J dxt ... дхт Ч...' 1	1 т
— СО	—оо
' Свойства совместной плотности:
а)^р ...,5 (х1> • • хт) ° для почти всех xi,...,Xm',
ОО	оо
б) J ••• $4,.....1т(х1.......Xm)dXi...dXm*=l.
—оо — оо
Всякая измеримая по Лебегу функция g(xi, ..., хт), удовлетво-
ряющая этим двум условиям, может выступать в качестве совмест-
ной плотности некоторых т случайных величин и называется т-мер-
ной плотностью.
Проинтегрировав плотность по аргументам X/, j =/ ii, .... 1ь, от
—сю до -f-oo, получим совместную плотность распределения величии
tz >•••>£; . В частности,
1 lk
ОО	оо
$ ••• \kt......im(xP	xk+i’ z
— OO	— oo
V —v— . *
m-1
X dXj ... dxk_x dxk+l... dxm.
Примеры m-мерных плотностей.
1. Случайный вектор (gi, ..., gm) равномерно распределен в
ограниченном измеримом множестве G с Rm, если совместная плот-
ность величин gi, ,.., gm имеет вид
.....£ (А1>
Ь1.....'
•> кт)
1
mes Q ’
О,
(хь ..хт) в= G;
(xi.хт)& О,
где mes G — лебегова мера G в Rm.
2. Случайный вектор (gi, ..., gm) имеет невырожденное нор-
мальное распределение, если существуют такие числа .........ап и
невырожденная симметрическая положительно определенная мат-
рица С — || С/, ||, что совместная плотность распределения величин
gj, ..., gra имеет внд
....(*1. • •: хт) = (2n)-m/2 [det С]1'2 X
( т
X exp J Ctl — аД (xt - С/) j.
1.5. ГРУППЫ СЛУЧАЙНЫХ величин
25
1.5.3. Функции случайных величин. Зная совместное распределе-
HUI величин gi, ..., gm, можем определить функцию распределения
в< ко юрой функции g (gi..gm) от этих случайных величин, где
lb, ..., хт)—некоторая борелевская функция, определенная на
ит. е. функция, измеримая относительно а-алгебры борелевских
тожеств в R'”. Пусть ц = g(gi, gm), тогда
W = Pfrl < *} = J J ...............1т
e(*i...лт)<х
(|десь х *= (xi, ..., хт) — переменная интегрирования в Rm; иите-
। рал — интеграл Лебега по мере р. . — берется по области
(v: g(xt, хт) <_ х}, являющейся борелевским подмножеством
в Rra).
Пусть g(xt, хт) —дифференцируемая функция и
Если существует совместная плотность величин gi, ..., gm, то вели-
 ина 1] также имеет плотность, определяемую формулой
т-1
S’" J .............Хт) | grad g(xi.....xm) I ’
8(*i...xm)~x
где интеграл справа — поверхностный интеграл по (т—1)-мерной
поверхности в Rm, задаваемой уравнением g(xi, ..., хт) = х.
Пусть gl(Xl, .... Хт), gz(xt...Хт), .... gk(X{, .... X,,) — бО-
релевские функции, заданные на Rm. Положим тр •= g<(gi....gm).
Тогда совместное распределение величин т)±, .,,, гр определяется
формулой
Ч......$•••$	r51....
(«1 (*1.хт).....Ик(х1....хтУ)еС
для борелевского множества С с R*; интеграл справа берется по
множеству {х: g(x) еС), где g «=» (gp ..., gk)—точка в R*.
Предположим, что функции gt, ..., g* (k < tn) дифференци-
руемы и существует совместная плотность распределения величин
gi, .... gm, тогда совместная плотность распределения величин
ip, .... тр выражается формулой
т—к
^1,....Ък (^1...J'*)*™	S ’ ’ ’ S ..........lrn .......X
(81 (•*!••••>хт) •••
•••8ft(*l..хт))еС
28
ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	р.5.3
Интеграл справа — поверхностный интеграл по поверхности размер-
ности т — k, определяемой системой уравнений gi(xt..........xm) =
= ye, ...; gi< (xi, ..., xm) = yk, a
D(gi....gfe)
D(xZi,..„ xZfc)
dgi	dgi
dXli ”• dxlk
dSk	dgk
dxl, •” dxlk
есть якобиан функций gi....gk по переменном x, ,
'i
Рассмотрим распределения простейших функций
чайных величин.
Распределение суммы (разности) двух величин.
пределения суммы (разности) задается формулой
от пары слу-
Функция рас-
^.±6.W=’ ^,lAdx'. dx*).
X1 ± хг<х
Если существует то
dty.
Если и — дискретные целочисленные величины: =?{£[=• ft,
12 ==/}. ТО
оо
PU,±§2=/)=. X PZTftfc.
—аз
Распределение произведения двух величин. Функция распреде*
ления произведения задается формулой
П МЕ1д,(^1. dx7).
Если существует то
оо
/j&W- § hi.uQ’ ~)"jTp
— оо
Распределение отношения двух величин. Функция распределен
ния отношения задается формулой
dx*).
x'lx‘<x
Если существует fE(/Es. то
—ОО
1-0*21
1.6. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ
27
1.6. Математическое ожидание
1.6.1. Математическое ожидание дискретной величины. Пусть в
случайном эксперименте наблюдается некоторая случайная величи-
на g, которая может принимать конечное число значений at...Cw
с вероятностями pi....рн. Если Xi,_____, хп — наблюдения нашей
величины в п последовательных осуществлениях эксперимента, то
среднее значение реализаций можно представить в виде
N
~(xi+x2+ ••• +*«)=£ akvn(Ak)‘
k-i
где Л —события {g = ak}, v„ — частота события. Заменяя частоты
на вероятности, получим выражение
N
М£ “ £ akPk’
которое называется средним пли математическим ожиданием случай-
ной величины g.
Если £ —произвольная дискретная случайная величина, прини-
мающая значения а* (Л= 1, 2, ...) с вероятностями р*. то Mg ='
сю
*= akPk> сслн только ряд справа сходится абсолютно. Отме-
Л-1
тнм некоторые свойства математического ожидания дискретной ве-
личины.
1)	М (gi + g2) = Mg! + Mg2;
2)	М (Zg) = ZMg для всех Z;
3)	если P{gi = g2)=l, то Mg, = Mg2;
4)	если g 0, то Mg 0;
б)	если P{g=»c}=l, то Mg = c.
1.6.2.	Математическое ожидание произвольной величины. Для
определения математического ожидания произвольной случайной ве-
личины g введем последовательность дискретных случайных величин
gn, определяемых равенством gn — kin, если kjn g < (k + I)In,
k = 0, ±1, ±2, ...; n = 1, 2, ... Очевидно, что |g„— g| sC 1/n.
Если Mg,j существует при некотором n, то оно существует для всех п
и существует предел
ОО
lim Mgn= lim У — Р { — < g <	}.
л->оо	71->оо	П I tl	ft )
k-* — oo
Этот предел называется математическим ожиданием величины £ и
обозначается Mg. Таким образом определенное математическое ожи-
дание также удовлетворяет свойствам 1)—5). Если g — неотрица-
тельная случайная величина, то считаем Mg всегда определенным и
Zk D ( k k + 1 1
—' I "IT -------------J
A=0
расходится.
28	ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	П-6.3
1.6.3.	Формулы для вычисления математического ожидания. Если
Г80с) — функция распределения величины g, то
ОО	оо
Mg — х dF^ (х) при | х | dEg (х) < оо
— оо	— оо
Г(интегралы справа являются интегралами Стилтьеса и вычисляются
как пределы интегральных сумм). Если существует плотность (х)
величны g, то
©о	оо
Mg = xfg (х) dx при I х | fg (х) dx < оо.
— оо	— оо
Если величина g = g(co) задана на вероятностном пространстве
(£2, 81, Р}, то ее математическое ожидание может быть вычислено
с помощью интеграла Лебега по мере Р:
Mg(«) = J g(w)P(d<»),
при условии, что интеграл справа существует.
Пусть gt, .... gm — случайные величины, Ft Е (х,,...
.... хт) — их совместная функция распределения, g(xt,	, хт) -*•
некоторая борелевская функция. Тогда
М£ ($1.....£т) =$•••$ £ (*,.........*т) dF^..(х,......хт),
если только интеграл справа абсолютно сходится (он понимается как
m-кратный интеграл^ Лебега— Стилтьеса); если g— непрерывная
функция, то его можно вычислять как интеграл Римана — Стилтьеса.
В том случае, когда „существует совместная плотность величии
gi, ..., gm, предыдущая формула принимает вид
.........U)- Х
= $ • • • $ S (*р • • - хт) .(х,......xm) dxj ... dxm,
если только m-кратный интеграл Лебега в правой части абсолютно
сходится.
1.6.4.	Моменты случайных величин. Величина
Mg* = х* dF^ (х), k = 1, 2......
называется k-м моментом величины g (если указанное математиче-
ское ожидание существует); k-й момент величины (g — Mg) назы-
вается k-м центральным моментом. Он вычисляется по формуле
М (g - Mg)ft = J (х - Mg)*dE6 (x).
k-й момент случайной величины |g[ называется абсолютным k-м
моментом величины g.
I I|	1.6. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ	29
Особую роль играет второй центральный момент, который на-
nn.it 1ся дисперсией величины и обозначается Dg:
" -M(g-Mg)2=Mg2-(Mg)2 =
= (х - Mg)2 (х)	$ х2 (х) - ( $ * dFl (*)/•
'Iля абсолютно непрерывных величин дисперсия вычисляется по
формуле
Dg == ^ (х — Mg)2 (х) dx == x2fg (х) dx — ( xf6 (x) dx'j .
Для дискретной величины g, принимающей значения ak с вероят*
костями pk,
Dg=£4pft-(£flftPft)2.
Заметим, что Dg всегда определена, если определено Mg, но
может принимать значения 4-оо.
Величина a = VDg называется среднеквадратическим отклоне-
нием величины g.
Отметим одно важное свойство величины Dg: если Dg = O, то
Р {g — Mg} = 1, т. е. в этом случае величина g с вероятностью 1
постоянна.
Пусть gt, ..., gm — случайные величины с совместной функцией
распределения Г. Е (х,,..., х,„). Величины
'%.............
Q S "  § *11 • • • xm dFli.lm (xl’ • • •’ xrn) = M£11 • • •	’
где kt, km 0, ki +... + km = k, называются смешанными мо-
ментами величин gt, .... gm порядка k. Среди смешанных моментов
особую роль играют смешанные моменты второго порядка. Вели-
чина
М (g — Mg) (n — Мп) — cov (g, п)
называется ковариацией величин g и тр Величина
cov (g, п)
Ге-’)== VDgD^
называется коэффициентом корреляции величин g и 1)- Отметим не-
которые свойства коэффициента корреляции:
D
2) если |	| = 1, то с вероятностью 1 выполняется соотно-
шение	___
a-Mg) + Mn
(т. е. в этом случае g и п связаны линейным соотношением). По-
этому можно рассматривать как меру линейной зависимости
80
ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО
Ц.6.«
величин 5 и t]. Если величины | и ц таковы, что = 0, то они
называются некоррелированными.
Пусть .......попарно некоррелированы. Тогда
т	т
Нели |i, ....	— случайные величины, для которых М|2 < оо,
*=“1.....т, то матрица J? = l|6Zy||z	где &г/== cov(|z, &)
называется ковариационной (корреляционной) матрицей для величин
Bi.....|т (вектора (|i......|т))- Корреляционная матрица поло-
жительно определена, т. е. для любых комплексных он....ат вы-
полнено неравенство
т
где й — комплексно сопряженное число к а.
Вычислим математические ожидания и дисперсии некоторых
случайных величин с дискретными и абсолютно непрерывными рас-
пределениями:
а)	5 — целочисленная величина, равномерно распределенная на
[0, JV]: P{5=fe} = ^Jpr, й = 0, i,...,N,
N
fe-0
N
n* V* м ’	W2 JV.
D5=2ufe W+l (,2)’“12 + 6’ (
fe-o	\
6)	5 имеет биномиальное распределение: P {5 =* k). =»
•=C^ak(l — a)N~k, й~=0, 1......N; 0<a<l,
N
kC^ak (I — a)N~k = Na,
N
D| = £ k2C^ak (1 - a)N~k — №a2«= Na (1 - a);
k^o
в)	5 имеет геометрическое распределение:
P (£ =. fc) (1 — a) afc, fe = 0, 1,0 < a < I,
oo
M5 = 2^ fe (1 —a) afe —
Л=“0
oo
nt V* 1.9	\ ft	( a V a + a2 a2	a____
g —(1 a)“	M-a) “(1-a)2 (1 — o)2	(1 — «)г*
I (. и
J.6. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ
3!
г)	£ имеет распределение Пуассона: Р = 4 =~гг е°» Л в
Я1
-О, 1, 2,а> О,
Л-0
оо	со
«-Е‘!-£--‘-°г-ЕЧк“+
ЬО	Л=0
°° k
Л=0
д)	| имеет равномерное распределение на [fl, 6]:
ь
....	1 С . ь + а
а
Ь
nt 1 С 2 .	/6 + «\2 p-aV
d==t^v	=hd:
a
e)	| имеет показательное распределение:	(x) => 7,e~}'x, x 0;
4 (*) = 0, x < 0,
CO
= H xe~Zjc</x = -L
J	**
0
2 -lie „12	11
x e ex X2 v	v ,
ж)	£ имеет нормальное распределение: 1t(*) = —7==-
'\l‘2.nb
X/ ( <X ~ °)2 1
XexpJ — -------L
I 26	J
CO
Mt f	1	f <* ~ °)2 )
Mfe = \ —X CXp -------------------> dX = CJ
J V2n6 I 26 J
DE = -v=
у2л6
CO
S.	f (x — fl)2 )
(x — a)2 exp {-----------------s dx = 6.
I 26 J
— OO
32
ГЛ. Г. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	[1.7.1
1.7. Условные вероятности и математические ожидания
1.7.1. Условная вероятность относительно события. Условной
вероятностью события Л относительно события В, для которого
Р (В) > 0, называется величина
Р(Л| Z3)
_ Р (Л П В)
Р(«)
Отсюда вытекает формула умножения вероятностей
Р (Д П В) = Р (/11 В) Р (В) = Р (В | Д) Р (Л),
позволяющая вырази п, Р (Л | В) через Р (В | Д):
Р (Л I В)
_ Р(В|Л)Р(Л)
P(Zf)
Приведем также общую формулу умножения вероятностей:
Р
= Р(Д1)Р(Дг]Д,)...р1 Д„
Формула полной вероятности: пусть /?,......Е„— полная группа
событий (предполагаем, что Р (£,•)> 0, 1—1, ..., п). Тогда для
всякого события А
п
р (Л) = £ Р (Д I £fc) Р (Ek).
/г-=1
Формула Вайсса лает выражение для условных вероятностей
одного из событий полной гр)ины Et, ..., Е„ при условии, что
произошло событие А:
£ Г ИI О) Р (О)
Эта формула называется также форму гой для геро.чтности гипотезы
после испытания. Предположим, что событие Л может происходить
при гипотезе IB, заключающейся в том, чго пропилило событие Ei,
с вероятностью Р (Л | Ei), а Р (/:z) — вероятность гипотезы II,. Фор-
мула Байеса позволяет вычислить условную вероятность гипотезы IB,
при условии, что произошло событие А, через вероятности гипотез
и вероятности события Л при различных гипотезах.
Пример. Имеется п урн, содержащих черные и белые шары.
Вероятность события, заключающегося в том, что извлечен черный
шар из h-\\ урны, равна р*. Выбирается наудачу (с вероятностью
1/и) одна урна, после чего из нее извлекается шар. Какова вероят-
ность того, что мы выбрали /?-ю урну, если шар оказался черным?
Если событие заключается в том, что выбранная урна была k-й,
а событие А — в том, что шар оказался черным, то
Pl Т • • • + Рп
1.7.2]	1.7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И МАТ. ОЖИДАНИЯ 33
1.7.2. Условное распределение случайной величины. Рассмотрим
некоторую величину £. Выражение
(х1ЛУ — Р({^<х1ПЛ)
Ч(х1л' р (Л)
называется условной функцией распределения величины £ относи-
тельно события А. Она определена, если Р (Л) > 0. Если Ej (х | Л)
абсолютно непрерывна и
х
Fz(x\A)= J
— оо
то ft (/[ Л) называется условной плотностью распределения величи-
ны £ относительно события Л. Как условная функция распределения,
так и условная плотность распределения обладают свойствами функ-
ции распределения и плотности распределения соответственно. Мо-
менты, вычисленные по условной функции распределения, называют-
ся условными моментами величины. В частности, выражение
М (| | Л) =Л х dfj (х|Л),
если интеграл справа сходится абсолютно, называется условным ма-
тематическим ожиданием величины | относительно события Л. Если
£ задана на вероятностном пространстве (Й, 81, Р), то для условного
математического ожидания можно привести другое выражение:
М(||л)==‘р7лГ $ 5 (<>) р (<М.
7 А
Пусть Et.......Еп— полная группа событий, Р (Ej) > 0 (i =a
= 1, .... и). Справедлива следующая формула полного математи-
ческого ожидания-.
п
Mg ~ £ М (£ | Ek) Р (Ек).
Можно привести и некоторое обобщение этой формулы. Если С
имеет вид С — U Е(к, то
£(ф)Р(Ло)=- £ М (61 Ек) Р (Ek).	(7.1)
Предположим, что событие А заключается в том, что {а £ < 6}.
Тогда условная функция распределения
£j (х | а < £ < Ь) =
0, х < а,
Ft W “ Ft
(b)-Ft(a) ’
1, x > b.
a x <b.
2 В. С. Королюк и др.
84
ГЛ. I. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО
П.7Л
есть распределение урезанной величины g или урезанное распреде-
ление. Запишем математическое ожидание и дисперсию для урезан*
иого распределения:
ь
м а | {а < g < b}) = -jj-—- J х aFl (х},
а
D(g|{a<g<fc)) =
Ь	/	Ь	* 3
=	(i) - (a) J Х* dF* М ~ ( Fs (fe) -fE(«) J x dFtW) •
b	6 a	'	* a	'
1.7.3. Условная вероятность и условное математическое ожидА*
ние относительно о-алгебры. Если Et, ...» Еп—полная группа собы*
тий, то всевозможные объединения и пустое множество 0 об*
разуют наименьшую о-алгебру, содержащую множества £*. Обозна*
чнм эту а-алгебру через Sic. Предположим, что Mg существует. Слу-
чайная величина M(g|?lo), на Еь равная М (g | £^), называется
условным математическим ожиданием величины g относительно
о-алгебры Йо- Она удовлетворяет следующим условиям:
1) М (g | ЭГ0) измерима относительно о-алгебры Йо;
2) для всех С е Йо
J g (и) Р (<to) = § М (g | ST0) Р («М.
С	с
Первое условие означает, что М (g | Яо) постоянно на множе-
ствах Ех Второе условие следует из (7.1).
Рассмотрим общин случай. Величина т) Slo-измерима, где Йо —
некоторая о-алгебра событий из й, если для всякого интервала А
{<о: т] (<о) е А} е йс.
Случайная величина т] называется условным математическим ожида-
нием величины g относительно о-алгебры йс с Я, если: а) величи-
на т) йо-измерима; б) для всех С е Йо
g (со) Р (do) = т) (со) Р (tfco).
С	с
Заметим, что эти два условия однозначно с вероятностью 1 опре-
деляют величину т]((о). Если T|i(w) также удовлетворяет этим усло-
виям, то
J IП (о) — i'll (®) I Р (da>) =
=	“ 11 Р	J (ю) — 41 («>)) Р (da)=*
{П~П1>0)
«= J (g (to) - g (<£>)) P (d®) + J (g(C0)-g(«>))P(dto)=O,
<П1-П>0)	14-41>O)
1.7.41	1.7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И МАТ. ОЖИДАНИЯ 35
так как{ф —	{*1—т]с>О}ейо в силу Ио-измеримости
I) — г]1. Условное математическое ожидание величины Е относительно
« алгебры Йо обозначается М (Е I й0). Оно всегда существует, если
м I £ | < ОО.
Выражение Р (Д [ Sl0) = М (и) | ЯД где уд (то) — индикатор
множества А, называется условной вероятностью А относительно
о-алгебры Ио.
Будем говорить, что а-алгебра й счетно порождена, если суще-
ствует такая алгебра й', содержащая не более чем счетное число
множеств, что й является наименьшей о-алгеброй, содержащей И'.
Так как условная вероятность определяется лишь с вероятностью 1.
то Р(Д/И0) можно менять на множестве Р-меры 0. Если й счетно
порождена, то выражение для Р (Д | Яо) можно определить так,
чтобы почти при всех со оно было вероятностной мерой по Д. При
этом условное математическое ожидание величины вычисляется по
формуле
М(И«о)= $6(<о)Р(Ло|Яо).
Выражение (х |	== Р ( {<в: Е (со) < х} | й0) называется ус-
ловной функцией распределения величины £ относительно а-алгебры
Йо; если же
X
/Ч(х|Я0)= J	то Г6(х|Я0)
— ОО	/
называется условной плотностью распределения величины Е относи-
тельно а-алгебры Й.	’
1.7.4.	Свойства условных вероятностей и условных математиче-
ских ожиданий.	_,
1)	Формула полного математического ожидания:
Mg = М [М (£I Яо)1;
2)	формула полной вероятности:
Р (Д) = М [Р (Д I Яо)1;
3)	йо-измеримый миожитель т) может быть вынесен из-под зна-
ка условного математического ожидания:
М(Еп|Я0) = т]М (g I ад;
4)	формула повторных математических ожиданий: если
й0 с Й1 с й, Йо и й, -— а-алгебры, то с вероятностью 1
м (е । ад = м (м (Е । ад । ад-
5)	предельчый переход по условию в условном
ожидании: пусть й* — а-алгебры (И* с й*+1 а й) и
шая а-алгебра, содержащая 81ft. Тогда с вероятностью 1
lim М(Е[ЙД.
математическом
Я», — иаимень-
36	ГЛ. 1. ВЕРОЯТНОСТНОЕ ПРОСТРАНСТВО	11.7.S
1.7.5.	Способы вычисления условных распределений. Пусть £ и
т} — две случайные величины. Через обозначим о-алгебру мно-
жеств вида {со:	где В — всевозможные борелевские множе-
ства на прямой; называется а-алгеброй, порожденной величи-
ной т]. Функция Fj (х | 51^) называется условной функцией распре-
деления величины при заданном tj. Эта случайная величина
8lTj-измерима и потому является борелевской функцией от т). Будем
обозначать ее значение при т) = у как F^ (х ] т) = у). Пусть т] имеет
плотность распределения (у). Тогда
где Г*. (х, у) — совместная функция распределения величин g и ц.
Если существует совместная плотность f (х, у) величин g и т},
то выражение
7^j-fb4(x- И
определяет условную плотность распределения величины g при ви-
данном 1):
м (Б IТ) = У) =	] к dx -г— Fl, п (х, у)
будет условным математическим ожиданием величины { при задан-
ном Г].
Пусть Е1, ...,£« и т)1, ..., т)п — некоторые случайные величины,
......ч — о-алгебра, порожденная величинами т]1.....т)п, т. е.
о-алгебра множеств вида
{о: (гр (со)..t]„(co)) еВ},
где В — всевозможные борелевские множества в Rn; (ф,	rjn)—<
точка в R".
Функция
\.....(*'.......*"»!%......П„)“
=р({Д{ю: ^(ш)<л0 ч...............
называется совместной условной функцией распределения величин
gi, .... при заданных тр, ,,., rjn. Эта случайная величина яв-
ляется функцией величин тр, .... цп. При q* == yt, ,,., т;л = у„ бу-
дем обозначать ее
\.....^|Ч1.....П„(*1....Xm\Vi.....УпУ
1 7.6]	1.7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И МАТ. ОЖИДАНИЯ 37
I ели т]1, ,,., т]п имеют совместную плотность распределения
Ч...............Ут)- то
Ч.....8т|П1.....Пп(*1.........•••’	Уп)~
________1_______________д"
..... пп(У1.Уп)^--	дУа	6‘.5~’ ”•.(Х‘..........Хт'
У\...Уп)>
r«e Fl,...lm. 4l.....n„ (*1...xm-	У1- • • -	Уп) -	совместная	функ.
ция распределения величин gi, ..., gm и 7)t.т)п. Если существует
совместная плотность /g , П[............. (xj......хт, yi, .... уп)
ВеЛИЧИН gi, ,.., gm и T)i, ..., »]«. то
Ч.....lm I П(...Пп (*1....Хт I Уг • • •’ Уп) “
=(1/Ц.....^(«'l.....Уп)) fl,...1т. Ч,...ПЯ(Х1......хт- Уу • • •> Уп)
является условной совместной плотностью величин gi, .... gm при
УСЛОВИИ, ЧТО Т)1 = у,, Пп = Уп-
1.7.6.	Независимость. События А и В называются незави-
симыми, если Р (Л П В) — Р (Л) Р (В). Для независимых событий
Р (А | В) = Р (А), Р (В | А) = Р (В).
Величина g не зависит от события А, если
Fg(x|A) = Fg(x).
Событие А не зависит от о-алгебры Йо, если с вероятностью 1
Р(А|И0) = Р(А).
Чтобы А не зависело от Ио, необходимо, чтобы А не зависело
от любого события В cz Ио, и достаточно, чтобы А не зависело от
событий из некоторой алгебры Ио, такой, что Ио — наименьшая о-ал-
гебра, содержащая Ио. Если Р (A f] Ai) = Р (А) Р (Ai) для всех
А г Ио, AicrHt, то о-алгебры Ио и И4 независимы. Величина g не
зависит от Ио, если 91g (о-алгебра, порожденная величиной g) и Ио
независимы. Для этого необходимо и достаточно, чтобы с вероят»
костью 1
Величины g и т) независимы, если независимы о-алгебры Sig и
йч. Для независимых величин g и т)
Fl, ч (х> и) = Fl W (“>•
где Fgit)(x, и) — совместная функция распределения g н т); Fg(x) и
(и) — функции распределения g и г] соответственно.
Величины gi, ..., gn независимы в совокупности, если
р1,...1п (*!• • * •» хп) Fl, (х1) " • *	(*«)•
S8
ГЛ 2. НЕЗАВИСИМЫЕ СОБЫТИЯ И ВЕЛИЧИНЫ
[2.1Л
Две группы величин (Jji, £m) и ('ll, .... л») независимы,
если
fit...1т, Ч1.чп ......Хт’ ^1’ • • •’ ^я) =
= Flt..... im{xv • • Хт) Ч.Чп(Ур • • УпУ
Здесь74..........!)„• Flt.....im' \..^—совместные фувц«
ним распределения величин (|4.Т)п), (gi, |m), (тц, Ч»)
соответственно. Если группы величин (gi, gm) и (гц, с.., Цп)
независимы, то
Л.....?т|Ч1..П„(х1....хт\У1.....yn)-Flt.............
Обозначим через И(Л, •• , Ая) наименьшую алгебру, которая
содержит множества At, . ,, А„. События At.А„ называются
независимыми (в совокупности), если для всех k = 1, 2, п со-
бытие Ак не зависит от алгебры Я(Д1, .... Д*_], Лл+i, Дя).
Если события Ак независимы, то
pf П Л*1=П р<л*>-
\fc=l /	Л=1
События Alt , А„ независимы тогда и только тогда, когда
для всех 1 б < 12 < .. < 1™ ^2 п, т п,
/ tn \ т
р(ДлгЦр^)-
Пример. Пусть эксперимент состоит в выборе наудачу одного
из четырех шаров. Предположим, что три из них занумерованы
цифрами 1, 2, 3, а на четвертом шаре имеются все эти три цифры.
Обозначим через А, (I = 1, 2, 3) событие, состоящее в том, что на
выбранном шаре имеется цифра i. Очевидно, что
Р (Л») = Р (Д2) = Р (Лэ) = 1/2,
Р (Д1П А2) = Р (Д, П Д8) = Р (Д2 П Дз) = 1/4,
Р(Д,,ПЛ2ПДз) = 1/4,
так что события At, Аг, As попарно независимы, во не являются
таковыми в совокупности.
Литература: [19, 23, 44, 68, 89].
Глава 2. ПОСЛЕДОВАТЕЛЬНОСТИ НЕЗАВИСИМЫХ
СОБЫТИЙ И ВЕЛИЧИН
2.1. Закон нуля и единицы
2.1.1. Теорема Бореля — Кантелли. Пусть {Аг, п > 1}—после-
довательность событий (предполагается фиксированным вероятност-
ное пространство {й, Я, Р} и Д„ е Я). Событие, состоящее в том,
что происходит бесконечное число событий Да, называется верхним
пределом последовательности {А„, п 5» 1} и обозначается lim Дя.
«.1.2]	2.1. ЗАКОН НУЛЯ И ЕДИНИЦЫ
39
Нижним пределом lim Ап последовательности {А,, п 1} назы-
вается событие, состоящее в том, что не происходит лишь конечное
число событий А*. Имеют место равенства
ОО ОО	оо оо
lim Ап = П [J Ak, lim Ап = J Ak.
П — 1 k-.n	n — 1 fe—n
Последовательность событий {An, О 1) называется последова-
тельностью независимых событий, если для каждого п события
Ai, А...... Ап независимы, т. е.
при любых п = 1, 2, ...; 1 гС и < i2 < ... < i„ <Z оо.
Теорема Борел я—Кантелли 1. Если последователь-
ность событий {А» п >! 1} такова, что у, р (Ап) < оо, то
______	п
Р (lim Ап) = 0.
2. Если для последовательности независимых событий {А,,
п 1} У Р (Лп) = + оо, то Р (lim Лп) = 1.
п
Из этой теоремы следует, что для последовательности независи-
мых событий {Лл, п 1} событие lim Ап происходит с вероятностью
либо 0, либо 1.
2.1.2. Закон нуля и единицы Колмогорова. Пусть {йп, п 1} —
последовательность сг-алгебр событий (й„с:й). Обозначим через
ОО
[J SIrt минимальную о-алгебру, содержащую все о-алгебры
п~т
оо оо
n т, а через lim — а-алгебру [J т-е- tf-алгебру со-
ч	n=m
оо
бытии, входящих в о-алгебры [J при всех m = 1, 2, ... .
n—m
Последовательность о-алгебр (й„, п 1} называется последова-
тельностью независимых о-алгебр, если всякая последовательность
юбытий {Ап, п 1} такая, что А„ е йп, является последователь-
ностью независимых событий.
Теорема. Если {й„, п~^ 1}—последовательность независимых
о алгебр, то всякое событие из о-алгебры lim йя имеет вероятность
либо 0, либо 1.
Последовательность случайных величин k 1} называется
i епедователыюстыо независимых случайных величин, если для всех
। йетвительных чисел Хь (/г= 1, 2, ...) последовательность событий
! , < х J (k = 1, 2, ...) является последовательностью независи-
II 'X событий. Если {£„, п 1}—последовательность независимых
, <айных величин, a f(xt......хп, ...)—такая функция бесконеч-
|| > > числа переменных xi,, что величина £ = f(£i, .... £п, ...) изме-
рима относительно Итй„, то из закона нуля и единицы следует, что
40
ГЛ. 2. НЕЗАВИСИМЫЕ СОБЫТИЯ И ВЕЛИЧИНЫ
12.2.1
£ с вероятностью 1 принимает
зависимых случайных величин
п	п
4 Е i Xlk с
следовательности независимых
со
V либо с вероятностью
расходится.
одно значение. В частности, для не-
{&t, * > 1} величины lim lim
вероятностью 1 постоянны. Для no-
случайных величин {g*, k 1} ряд
1 сходится, либо с вероятностью 1
I 2.2. Схема Бернулли
2.2.1.	Биномиальное распределение (распределение Бернулли).
Пусть Ai, А2, ..., А,,— независимые события, каждое из которых
имеет вероятность р. Положим q = 1 — р, и пусть v — число тех
событий Ак из совокупности {Д1, Аг....Лп), которые произошли.
Тогда v — биномиально распределенная случайная величина (иначе
говоря, величина v имеет распределение Бернулли), т. е.
Вр (п, т) = Р {v = т} -= C"pmqn~m, т^О, 1, 2.......п. (2.1)
На практике очень часто используется схема Бернулли: произ-
водится п независимых (в теоретико-вероятностном смысле) испы-
таний (экспериментов), в каждом из которых с вероятностью р мо-
жет произойти некоторое фиксированное событие А. Тогда вероят-
ность того, что в серии из п испытаний событие А произойдет ровно
т раз, равна Вр(п, т) (т = 0, 1, 2, ..., п).
Пример. Предположим, что каждое изделие, выпускаемое на
некотором предприятии, может оказаться бракованным с вероят-
ностью р. Тогда вероятность того, что в партии из п изделий ока-
т
жется не более чем т бракованных, равна Вр (п, k).
Среднее число появлений события А в серии из п испытаний
п
равно У тВр (п, т) = пр.
т—0
Дисперсия числа появлений события А в п испытаниях равна
п
У т2Вр (п, т) — п2р2 >= npq.
tn =0
Если т изменяется от 0 до п, то вероятности ВР(п, т) сначала
возрастают, а затем убывают, достигая наибольшего значения при
pi »= [пр р], если число пр + р нецелое; если же пр + р целое, то
Имеются две максимальные вероятности: ВР (n, пр -f- р) и
Вр(п, пр — q).
2.2.2.	Полиномиальное распределение. Предположим, что в ре-
зультате каждого из п независимых испытаний может произойти
рдно из т событий Л», Л2, Ат с вероятностями plt рг, рп
соответственно (pi + р« +... + pm == 1, р< 0). Обозначим через Vi
1’3.1)
2.3. ТЕОРЕМЫ ДЛЯ СХЕМЫ БЕРНУЛЛИ
41
число тех испытаний, в которых произошло событие Аг, i = 1, 2, ...
.... т. Тогда
р {v, = iv V2 = i2.....vm = lm} =	№ •  • Pl™. (2.2)
где i* 0 и it + «a +... + Im = n. Это распределение называется
полиномиальным. При т = 2 оно превращается в биномиальное.
2.2.3.	Биномиальное приближение для гипергеометрического рас-
пределения. Предположим, что из совокупности п предметов, из
которых Hi предметов 1-го вида и п2 предметов 2-го вида (ni-f-n2=
= п), производится выборка без возвращения группы k предметов
(k п). Обозначим через v число предметов 1-го вида в выборке.
Распределение величины v называется гипергеометрическим и вы-
числяется по формуле
Pnin (k, т) = Р {v = т) = ——, т = О, 1, 2, .... min (k, nt).
С"	(2.3)
При п -> оо и rii/n р справедливо соотношение
Р„х„(А, m) + Bfi(k. т),
так что схему Бернулли можно рассматривать как выбор без воз-
вращения из бесконечной совокупности предметов.
Аналогично пусть п — совокупность предметов, из которых име-
ется m предметов t-ro вида (1 = 1, 2, .... г), и из этой совокупно-
сти производится выбор без возвращения группы k предметов. Обо-
значив через V/ число предметов i-ro вида в выборке, будем иметь
rmirm2 rmr
Р{Vi = Wil,.... vr = mr) =-------.
Здесь mi + тг т, = k, 0 truant, nt + п2 + п, = п.
При И -><» И Л1/П -> pt.....n,/n -> р,
Р (v. == т„ ..., v, = ml -► —;—-----------г • • • Pmri
VI 1’ г rj	... mrl rl 2 гг ’
т. е. в пределе получаются полиномиальные вероятности.
2.3.	Предельные теоремы для схемы Бернулли
2.3.1.	Закон больших чисел. Обозначим через v„ число появлений
события Л в серии из п независимых испытаний. Пусть р — вероят-
ность появления события Л в одном испытании. Тогда при любом
с > О
Jim р{|^-р| >е} = 0.	(3.1)
П->оо I. I П I )
Говорят, что последовательность случайных величин {£я, п > 1}
сходится по вероятности к случайной величине £, если для каждого
с > О
lim Р (I g„ - g | > в) = 0.
»-»оо

ГЛ. 2. НЕЗАВИСИМЫЕ СОБЫТИЯ И ВЕЛИЧИНЫ
[2.3.2
Таким образом, предыдущее утверждение означает, что частота Vn/rt
появления события А в серии из п независимых испытаний сходится
по вероятности к вероятности р появления события А в одном испы-
тании
2.3.2.	Нормальное приближение для биномиального распределе-
ния. При больших п подсчет вероятностей Вр(п, т) может оказаться
весьма затруднительным. Поэтому очень важной задачей является
отыскание асимптотических формул для величин Вр(п, т) при
п оо.
Теорема Муавра — Лапласа.
•=В„, хпт = (/ге — а,^/Вп. Если В„ -+ оо
Положим пр = ап, npq =
при n-t-oo и хп, т ограни-
чено, то
ВпВр(п, т)
lim   -------г—
п->оо 4>(хп,т)
(3.2)
где <р (х) — -~=^ е х
у2л
Утверждение теоремы справедливо также и в случае, когда
Хп. т ограничено, а р и q зависят от п, но так, что Вп->-оо.
Интегральная предельная теорема Муавра —•
Лапласа. В условиях предыдущей теоремы для произвольных
Xi < х- справедлива асимптотическая формула
Х2
Р (%! <	а-~ < хД---------- е“р/2 dt, п -> оо, (3.3)
I Вп ) -у2л J
где vn — число появлений события Л в серии из п независимых ис-
пытаний, если в одном испытании событие А происходит с вероят-
ностью р.	___
Другими словами, распределение величины (vn — np)/V«P<7
асимптотически нормально со средним 0 и дисперсией 1.
2.3.3.	Пуассоновское приближение биномиального распределения.
Пусть производится серия из п независимых испытаний и вероят-
ность р осуществления события А в одном испытании зависит от п
так, что последовательность b„ — np„qn ограничена.
Если Ь.,-*-0, то либо р„-*-0, либо «у,,—»-0 при п-*-оо. В первом
случае
о>-й~ О
Поэтому
п
У В_ (п,/п) = 1 — В (п, 0) —0 при п оо.
'п п
п-1
Во втором случае В (п, п) ~ 1 и У В_ (п, т) -*-0.
рп	А-*  рп
т -.)
Рассмотрим теперь случай, когда существуют такие постоянные
Ci и С2, что 0 < Ct < С2 < оо и Ci < Ьп < Се при всех п. Тогда
•.Ill	' S.4. ЗАКОН БОЛЬШИХ ЧИСЕЛ	<3
ппбо рп->0, либо ^„-*0. Рассмотрим первый случай, ибо второй
< цедится к первому в силу формулы
ВР(п, т) — Вр(п, п—т).
Так как рл-*0, то qn-+ 1 и, стало быть, Ь„ ~ ал — пр„-
Теорема Пуассона. Если при некоторых постоянных Ct и
<1 0 < Ci <ап < Сг < оо, то для всех m = О, 1, .
вп* -а
В (п,т)-------"те ".	(3.4)
Рп	ml
В частности, если ап -> а при п оо, то величина v« — число по-
явлений события А в серии из п независимых испытаний — при ука-
анных предположениях имеет асимптотически пуассоновское рас-
пределение с параметром а.
Формула (3.4) выполнена и в том случае, когда np^-t-0
,и2/п-»-0 при п-*-<х>.
2.3.4.	Асимптотическое поведение полиномиальных вероятностей.
Положим
р„ (т„ т„ ..., т )  ---:—--------г р^'р™? ... ртг,
п' и 2 rf milm2I .../пг! 1	2 гг
где mi + т2 +... + т, = п,	pi + р2 +... + р, = 1, р/ 0;
г — некоторое фиксированное целое число (г 2). Если величины
npi — 01. пр2 — а2, ..., npr-i == о,_1 ограничены, то при п-> оо
Pn(mv mv..„ mr)~
~ —j—— -----------г- атю"12 ... amr—ie“(°i+	+er—i)-	(3.5)
mitmj	i 2 r-i	'
Здесь mi, m2, ...» wip-i — произвольные неотрицательные целые
r-1
числа, mr = n —
i«=>l
Если г также может изменяться вместе с п, п оо, и все вели-
чины as, 02,	, а,-!, а, = прТ ограничены, то для произвольных це-
лых неотрицательных /ni, m2, ...» тг при я оо
.	\ '^2зтм с т
Рп (mV .......тг) ~	а1 ’ • • • агГ- (3-6)
2.4.	Последовательности независимых случайных величин.
Закон больших чисел
2.4.1.	Критерий независимости последовательности случайных
величин. В п. 2.1.2 введено понятие последовательности независимых
случайных величин. Пусть {£„, n 1}—такая последовательность.
Обозначим через й* о-алгебру событий вида	где
А — произвольное борелевское множество на прямой. Из определе-
ния последовасельности независимых случайных величин следует,
44
ГЛ. 2. НЕЗАВИСИМЫЕ СОБЫТИЯ И ВЕЛИЧИНЫ	(2.4.2
что последовательность о-алгебр {йл, n 1} является последова-
тельностью независимых ст-алгебр. Приведем один критерий незави-
симости случайных величин
Теорема 1. Для того чтобы величины Bi, Вг, ..., Вп были не-
зависимы, необходимо, чтобы для всех ограниченных борелевских
функций
М (gi (Bi) •.. gn (В„)) == Mg, (Bi) ... Mg„ (Bn),
и достаточно, чтобы это равенство выполнялось для всех непрерыв-
ных ограниченных функции gt, ..., gn.
В частности, если Bi, Вз, • • •, В« независимы и Mgft (k —;
«= 1, ..., п) существует, то
п	п
мП^=11мв£.
i=I	Z=1
Для независимых случайных величин Bi.Bn
п	п
D£‘‘-£DJ‘-
если только существуют DBfe (k = 1, 2.n).
Если независимы две группы случайных величин (gi, ..., Bn) и
(Bi, •••, В™), то для произвольных борелевских функций f(Xl, .... х„)
И g(gi, Ут) случайные величины В = f(51, •••, В«) и В =
= g(Bi....Вт) независимы.
2.4.2.	Неравенство Чебышева. Пусть В — произвольная случай-
ная величина и g(x)—неотрицательная четная и неубывающая
на [0, +°°) функция. Тогда для всех а О
-g 8-£\ < Р { IB I > а) С	(4.1)
п. н. sup g (В) ь	g (а)
Величина, стоящая в знаменателе левой части неравенства, назы-
вается почти наверное верхней гранью случайной величины g(B)
и определяется так:
п. и. sup g (В) = inf {С: С > 0 и Р {g (В) > С} = 0}.
Полагая в неравенстве (4.1) g(x) = |л[г (г > 0), получаем
-M|gr~<<P{IBI>a}<^.	(4.2)
п. н. sup | В I	а
Применив это неравенство к величине В — МВ, получим
M|B-MBK-ar <p(lg ME|>fl|< М1В-МВГ ,43.
пТнГбйрТВ —МВ К <Р(1§~МВ1>«}<------------г-----• (4.3)
При г = 2 отсюда следует неравенство Чебышева:
P{|g-Mfi|>«}<-^-.	(4.4)
2.4. ЗАКОН БОЛЬШИХ ЧИСЕЛ
45
2.4.3.	Сходимость в среднем. Последовательность случайных ве-
i "нн {g„, п 1} сходится в среднем порядка г (г > 0) к случай-
ir-.ii величине g, если
lim M|gn —g|r=0.
Л->оо
 ходимость в среднем порядка 2 называется сходимостью в средне-
адратическом. Если g„->g в среднем порядка г, то g«-*g в сред-
। м порядка г' при всех г' г и М | gn |г М | g |г. Применяя пра-
' е неравенство в (4.2) к величине gn — g, получаем, что из сходи-
ости в среднем порядка г (г > 0) следует сходимость по вероят-
I "(ти. Левое неравенство в (4.2) дает обратное утверждение: если
>>>>< ледовательность {g„, п 1} сходится по вероятности и п. и. рав-
। > мерно ограничена, го она сходится и в среднем порядка г при
।к.бом г > 0.
Последовательность случайных величин {gn, п 1} называется
, непомерно интегрируемой, если
lim sup
С->оо п
$	|g„|dP(«>)=0.
Для того чтобы g„-»-g в среднем порядка г, необходимо и до-
|.1точно, чтобы gn-»-g по вероятности и последовательность |gn|r
< ыла равномерно интегрируемой.
Пусть g(x)— произвольная борелевская функция, заданная на
прямой, и пусть А — множество точек разрыва g(x). Если последо-
। цельность {g„, n Jss 1} сходится по вероятности к случайной вели-
чине g и P{ge*»4} = 0, то g (gn) сходится по вероятности к нели-
шне g(g). Если, кроме того, sup М |g (gn) 1Го = С < оо при некото-
п
I ом го > 0, то g(g„) ->g(|) в среднем порядка г при любом г < г о.
I ' частности, если g„ -> g по вероятности, то lim Р {gn < х} = P{g < х}
П-»оо
11 любого такого х, что Р {g = х) = 0.
2.4.4.	Закон больших чисел. Так называют теоремы, дающие
 човия, при которых
-►о
।  вероятности. В п. 2.3 1 приведено утверждение, относящееся к
 мо Бернулли. Заметим, что если vn — число появлений события А
п
' рии из п независимых испытаний, то vn — £ где & — СЛУ’
пн. 1я величина, равная 1, если в i-м испытании событие Л пррцзо-
। >, и равная 0 в противном случае. Тогда


ГЛ. 2. НЕЗАВИСИМЫЕ СОБЫТИЯ И ВЕЛИЧИНЫ
[2.4.4
46
Рассмотрим более общую задачу. Пусть заданы последователь-
ность независимых случайных величия {?,«, п «= 1, 2, ...} и числовая
последовательность {0„, п = 1, 2, ...} такая, что 0„->оо при
п-*-оо. При каких условиях существует такая числовая последова-
тельность {ап, п = 1, 2, ...}, что при п -> оо
п
КгЕ
/г-1
по вероятности? Ответ на этот вопрос дает следующая теорема.
Теорема 2. Пусть {gn, н =Э= 1}—последовательность незави-
симых. случайных величин Fn (х) = Р {^п < *} Обозначим через т„
медиану случайной величины g„, г. е. любое из чисел, удовлетворяю-
щих неравенствам Р {En 5» m„} 5» 1/2 и Р {£п 7 шп} Для того
чтобы существовала последовательность постоянных {04 n 1} та-
кая, что при П—> оо
п
~ аи * °
Аг»" t
по вероятности, необходимо и достаточно выполнения условия
п 09
ЕС (X - tn. )2
\ °- <4-5>
.. . +
Если это условие выполнено, то
п
an = ’^E(zn*+ J (x~mk)dFk W
" fe-l\ |	| <Т₽„	)
где т — произвольная положительная постоянная.
Следующая теорема дает условия применимости к данной по-
следовательности независимых случайных величин закона больших
чисел в классической форме.
Теорема 3. Пусть п 1}—последовательность незави-
симых случайных величин, Fk (х) = Р < xj. Предположим, что
М |	| < °° {k = 1, 2, ...). Для того чтобы при п -> оо
п	п
k=l
по вероятности, необходимо и достаточно выполнений следующих
условий:
п
О X J dFft(x)->0;
*=1	> п
(ОД)	2.6. УСИЛЕННЫЙ закон БОЛЬШИХ ЧИСЕЛ	47
п
2)4Г J (x-M^)rffft(.t)->0;
*“1 |Jt-MJA|<n
п	л
3)4-£f	$	(*-муч«-
*=1 (|x-MtA|<«
J (x-MydFA(x)Yp0.
x—M|A|<n	J)
Простое условие применимости закона больших чисел содержит,
ся в следующей теореме.
Теорема 4. Если последовательность независимых случайных
величин {£„, п 5= 1} такова, что Dgn существует и —~ -> 0 при
П-*-оо, ТО
по вероятности.
Если величины (n = 1, 2, ...) имеют одну и ту же функцию
распределения F (х) = Р {£п < х}, то они называются одинаково
распределенными.
Теорема 5. Если {Ея, п 1} — последовательность независи-
мых, одинаково распределенных случайных величин и если суще-
ствует математическое ожидание Mgn = а, то при П-> оо
по вероятности.
2.5.	Неравенство Колмогорова. Усиленный закон больших чисел
2.5.1.	Неравенства типа неравенства Колмогорова.
Теорема 1 (Колмогорова). Если случайные величины
1г, независимы и < оо, то при любом а > О
(5.1)
i=i
Если, кроме того, | С < оо для всех k — 1,2, ..., то
k
(5.2)
Распределение величины £ называется симметричным, если ве-
личины £ и —§ одинаково распределены. Величина 1- с симметрич-
ным распределением называется симметричной. Если Е(х)—функция
48
ГЛ. 2. НЕЗАВИСИМЫЕ СОБЫТИЯ И ВЕЛИЧИНЫ Р-ВЛ
распределения симметричной случайной величины, то F (х) =а
= 1—F(—х + 0).
Теорема 2. Если величины gi, &2, .>• > ьл независимы и сим-
метричны, то
Теорема 3. Если случайные величины gi, £2, ..., gn независи-
мы и для некоторых а > 0 и а < 1
Р
п
i-k+i
>oS<a, k= 1, 2, п — 1,
го при всех С > О
2.5.2.	Сходимость почти наверное. Последовательность случайны?
величин {g„, п 1} сходится почти наверное (или с вероятностью 1)
к случайной величине g (gn -* g п н. или gn g (mod Р)), если
Р {со: |g„(<o)-g(<o)l-^0) = l.
Последовательность g„ -> g п. н. (почти наверное) тогда и только
тогда, когда для всякого в > О
р{ U {iuw-si>e}p°
при П -> оо.
Из сходимости п. н. следует сходимость по вероятности. Обрат-
ное, вообще говоря, не верно. Однако всякая последовательность g4,
Сходящаяся к g по вероятности, содержит подпоследовательность,
сходящуюся п. н. Более того, gn->g по вероятности тогда и только
тогда, когда всякая подпоследовательность последовательности gn
содержит подпоследовательность, сходящуюся к g п. и. Из теоремы
Бореля — Кантелли следует, что достаточным условием сходимости
g* к g с вероятностью 1 является сходимость для каждого в > О
рада
ОО
£ Р{| U-ВI > е).
п Q 1
2.5.3.	Усиленный закон больших чисел. Это одна из форм закона
больших чисел, в которой вместо сходимости по вероятности утвер-
ждается сходимость п. н. (с вероятностью 1).
Наиболее общо задача может быть сформулирована так: дана
последовательность независимых случайных величин {gn, п =
“ 1» 2, ...) и числовая последовательность рп такая, что Дл-»-оо
2.5.3]
2.5. УСИЛЕННЫЙ ЗАКОН БОЛЬШИХ ЧИСЕЛ
49
при и-»-оо. При каких условиях существует такая числовая после-
довательность {ая, п = 1, 2, ..что при п-> оо
-%
-►О
с вероятностью 1?
Теорема 4. Пусть {|П) п = 1, 2, ...}—последовательность
независимых случайных величин. Предположим, что оо при
п-*-оо, и пусть существуют такая подпоследовательность $Пки такие
числа Ci и Сг, что для всех достаточно больших k
₽п. ,,
1<С1<-^-<С2<оо.
"	Sn —Sn
Положим Sn*= д &2, Тк=“------—g—-——, ft=l, 2, ..., SB(i=0.
2^1	P"*
Для того чтобы при п->оо
д— (Sn ~ oiSn) О
Рл
почти наверное, необходимо и достаточно, чтобы выполнялось одно
из условий:
1)	Ть — mTk-^0 п.н. при /г->оо;
2)	Р (| Тк — mTk | > е} < оо для любого в > 0.
Здесь mSb и тТц обозначают медианы случайных величин S*
и Т* соответственно.
Удобное для проверки достаточное условие применимости уси-
ленного закона больших чисел к данной последовательности незави-
симых случайных величин содержится в следующей теореме.
Теорема 5. Если {£„, п 1} — последовательность независи-
ОО
ZDgfe
 сходится, то
2-1
с вероятностью 1 при п оо
2-1	2-1
Следующая теорема относится к одинаково распределенным сла-
гаемым.
Теорема 6. Если п > 1} — последовательность независи-
мых, одинаково распределенных случайных величин, для которых
60	ГЛ 2. НЕЗАВИСИМЫЕ СОБЫТИЯ И ВЕЛИЧИНЫ
Mgn конечно, то с вероятностью 1
п
4=1
Если же величины не имеют конечного математического ожида-
п
ния, то последовательность — с вероятностью 1 не огра-
k=i
ничена.
Следствие. Если vn — число появлений события А в серии из
п независимых испытаний, то Vnln-^-p с вероятностью 1 при п-ь-оо,
где р — вероятность появления события А в одном испытании.
2.6.	Закон повторного логарифма
Пусть задана последовательность независимых случайных вели*
чин {!;я> п>1} с нулевыми математическими ожиданиями:
(n = 1, 2, ...). Приведенные в § 2.5 теоремы типа усиленного за*
кона больших чисел дают информацию о порядке роста сумм
п
s« = Е при я->оо. Так, если выполнены условия теоремы 5
Л=1
(п. 2.5.3), то 5п/л->-0 при л-»-оо с вероятностью 1. Оказывается,
что при некоторых дополнительных предположениях о случайных ве-
личинах можно получить более точную информацию об асимпто-
тическом поведении таких сумм.
Говорят, что числовая последовательность {an, n 1} принад-
лежит нижнему классу, если Р {найдется бесконечно много значе-
ний п 2s 1, для которых S„ > а„} = 1. Если же эта вероятность
равна нулю, го скажем, что последовательность {а«, п 2s 1} при-
надлежит верхнему классу.
Ниже будут приведены теоремы, дающие условия, при которых
с вероятностью 1 lim sup 'S„== 1, где {с„, п 1} — некоторая не-
ограниченно возрастающая числовая последовательность. Это будет
означать, что при любом е > 0 числовая последовательность
{(1—г)с„, n ;ss 1} принадлежит нижнему классу, а последователь-
ность {(1 + е)с„,	1}—верхнему классу. Тем самым последова-
тельность {Сп, п 1} в некотором смысле характеризует порядои
роста сумм Sn при п -> оо.
Теорема I. Пусть {£„, п 2s 1}—последовательность незави-
симых случайных величин, для которых
Mgft = 0, М^Соо.
Обозначим через Рк(х) функцию распределения величин и поло-
жим
п
J u2dFh(x), х>0:	£ М&
2.6. ЗАКОН ПОВТОРНОГО ЛОГАРИФМА
51
(6.1)
(6.2)
Предположим, что ВП-+оо, и пусть выполнены условия
для любого в > 0 и какого-нибудь k0, при котором In In Bfei > 0.
Тогда с вероятностью 1
1.	Sn
lim sup--------------гт-
n->oo (2Вп In In Вп)'•
1.
(6.3)
Если для последовательности независимых величин {^, k 1}
выполнено с вероятностью 1 соотношение (6 3), то говорят, что эта
последовательность удовлетворяет закону повторного логарифма. Та-
ким образом, условия (61), (6 2) являются достаточными для того,
чтобы последовательность {£*, k 1} удовлетворяла закону повтор-
ного логарифма Достаточным условием для выполнимости соотно-
шений (6 1) и (6 2) является следующее условие:
k
(6.4)
при всяком В > 0.
Следующая теорема также содержит достаточное условие для
того, чтобы последовательность независимых случайных величин удо-
влетворяла закону повторного логарифма
Теорема 2. Пусть задана последовательность независимых
случайных величин k 1}, для которой М&А: = 0,	< оо
п
(х) = Р {gft < х), В„=У М^. Пусть Вп-ь-оо при n-t-oo и
<>„ I1» I"V+t s.-1 Ё ч (в GstcD
k—lla
при некотором б > 0 и любом фиксированном е > 0, где k0 и Lt,
таковы, как и в теореме 1 Тогда последовательность {£„, п 1}
удовлетворяет закону повторного логарифма.
Теоремы 1, 2 применимы и к величинам —£/<, и потому в усло-
виях этих теорем
lim inf------—------п- = — 1
n->oo (2Bn In In Bn) *
с вероятностью 1, а следовательно, и
lim sup-------------гт- = 1
n>oo (2Вп In In Bn) '*
С вероятностью 1,
52	ГЛ. 2. НЕЗАВИСИМЫЕ СОБЫТИЯ И ВЕЛИЧИНЫ
Следующая теорема относится к одинаково распределенным
случайным величинам.
Теорема 3. Пусть {£*, k 1) — последовательность незави-
симых одинаково распределенных случайных веЛичин, для которых
—0, Dgfe= 1. Тогда с вероятностью 1 при ri~*a>
lim sup . Sn =1.	(6.5)
-y2n In In n
Теорема 3 допускает следующее обращение.
Теорема 4. Пусть {£„, п 1}—последовательность незави-
симых одинаково распределенных случайных величин, для которых
с вероятностью 1 выполнено условие (6.5). Тогда
= м^=1.
2.7.	Ряды из независимых случайных величин
Пусть {|П1 п	1} — некоторая последовательность случайных
ОО
величии. Ряд Ед называется сходящимся с вероятностью 1,. если
п
частичные суммы У сходятся с вероятное™0 1 при л->оо.
Теорема 1. Пусть {!•„, п I) —последовательность независи-
СО	оо
мых случайных величин. Если сходятся ряды	и DU
СО
то ряд jp' Ik сходится с вероятностью 1. Об рати0 > если величины
с вероятностью 1 ограничены (при некотором С > 0 для всех п
P{i£n| > С) =• 0) и ряд У, сходится с вероятностыо 1, то схо-
оо	оо
дятся ряды Mik и
Теорема 2 (о трех рядах). Для сходимости с вероятностью 1
ряда из независимых случайных величин {{„, -ft О необходимо,
чтобы для каждого С > 0, и достаточно, чтО^ы при некотором
С > 0 сходи пись ряды
оо	оо	со
Др{Ш1>С}. £MU(C),
где
— если |
(О. если Ц4|>^'
Теорема 3. Если {|п, п 1}—последовательность неотрицат
тельных случайных величин, то для сходимости ° вероятностью 1
2.8.1]	2.8. СХОДИМОСТЬ ФУНКЦИЙ РАСПРЕДЕЛЕНИЯ	S3
оо
ряда £* достаточно, чтобы при некотором С > 0, и необхо-
димо, чтобы при всех С > 0 сходились ряды
сю	оо
£ р {& > С], £ Mgfe (С),
еде
__f если С,
0, если gft>c
Ряд, составленный из величин называется сходящимся по
вероятности, если сходятся по вероятности его частичные суммы.
Для рядов из независимых случайных величин сходимость по ве-
роятности влечет сходимость с вероятностью 1.
Последовательность случайных величин п 1} называется
ограниченной по вероятности, если
lim sup Р {| т)п| > Я} =0.
А->4-оо п
Если {£„, п > 1} — последовательность независимых симметрич-
п
ных случайных величин и	ограничены по вероятности, то
оо
ряд сходится с вероятностью 1.
Аналогичные результаты справедливы и в том случае, когда
рассматриваются суммы независимых случайных векторов Аналогом
теоремы о трех рядах в этом случае будет следующая теорема.
Теорема 4. Пусть л У 6* — ряд, составленный из независи-
мых случайных векторов. Для сходимости этого ряда почти навер-
ное необходимо, чтобы для всех С > 0 сходились ряды
У Mgft(C), £ M|b(C)-Mgfe(C)P, У Р{|6*|>С),
k** 1	fe53!
и достаточно, чтобы эти ряды сходились при некотором О 0.
Здесь £*(С)—вектор, определяемый формулой
g*(C) f 0, если |6*| >С.
2.8.	Сходимость функций распределения
Излагаемые здесь определения и факты естественным образом
переносятся на общий случай сходимости вероятностных распреде-
лений в метрических пространствах (см. § 18,1).
2.8.1,	Определения. Последовательность функций распределения
(ф. р.) РП(х) сходится в основном к ф. р. Р(х) (Рп=>Р), если при
П—г оо
Р„(х)->Р(х), хеС(Р),
(8.1)
54
ГЛ. 2. НЕЗАВИСИМЫЕ СОБЫТИЯ И ВЕЛИЧИНЫ
I2.&2.
где С(Р)—множество точек непрерывности предельной ф. р. Р(х).
Для сходимости ф р. в основном достаточно сходимости ф. р. ва
счетном всюду плотном множестве точек числовой прямой R.
Последовательность ф. р. Рп(х) слабо сходится к ф. р. Р(х)
(Рп-Р), если при п —> оо
со	оо
§ f(x)dPn(x)-> f(x)dP(x), /(x)e=C(R),
— оо	— со
(8.2)
где C(R)—множество непрерывных и ограниченных функций на
числовой прямой R.
Слабая сходимость и сходимость в основном ф. р. эквивалентны
и обозначаются чаше всего так: Рп => Р-
Пусть а„ — последовательность случайных величин с ф. р.
Pn (х) = Р {«п < и а — случайная величина с ф. р. Р(х) =
= Р{а<х). Слабая сходимость ф. р, Р„=> Р означает, что
Jim Mf (а„) = Mf (а), f (х) е С (R).	(8.3)
П-д><х>
Если имеет место слабая сходимость ф. р. (8 2), то говорят, что
последовательность случайных величин а„ сходится по распределе-
й
пию к а (а,п ——> а).
Из сходимости последовательности случайных величин а„ по
вероятности к случайной величине а следует сходимость по рас-
пределению. Обратное утверждение неверно, за исключением случая,
когда имеет место сходимость к постоянной.
Слабая сходимость (8 2) может быть обобщена на более широ-
кий класс рае-юмерно интегрируемых функций g(x):
Jim sup \ [ g (х)| dPn (х) — 0.
с-»оо л J
1Х|>0
(8.4)
Теорема о сходимости. Если последовательность ф. р.
Р„(х) слабо сходится к ф. р. Р(х) и функция g(x) равномерно инте-
грируема и непрерывна, то
сх>	©о
lim g (х) dPn (х) - g (х) dP (х).	(8.5)
п-хсо J	J
— оо	— оо
2.8.2.	Компактность и плотность семейства функций распределе-
ний. Семейство ф. р. (Рц, 6 е 6} слабо компактно, если любая по-
следовательность ф. р. семейства содержит слабо сходящуюся к ф. р.
последовательность. Предельная ф р. не обязательно принадлежит
данному семейству.
В определении слабой компактности существенно, что пределом
последовательности служит функция распределения, удовлетворяю-
щая условиям нормировки: Р(—ос) = 0, Р(-|-оо) = 1.
Если расширить класс ф. р, не предполагая выполненными усло-
виями нормировки, то слабая компактность будет иметь место для
любого семейства таких обобщенных функций распределения.
Теорема ] (Хелли). Всякое семейство {сц:Ое0| неубы-
вающих, непрерывных слева функций €ц(л), удовлетворяющих
Il.l.lf	3 I ПРОИЗВОДЯЩИЕ ФУНКЦИИ	55
условию 0<<Se(—оо), S0(+°o)d, компактно (секвенциально),
I е. из любой последовательности функций семейства можно выде-
лить подпоследовательность, сходящуюся в основном к функции
0(х) того же типа-, неубывающей непрерывной слева и удовлетво-
ряющей условию О -С ®( - оо), @(4-оо)	1
Семейство ф. р. {Р0: 0 с-0) плотное, если для каждого е > О
можно указать такое число Л'е > 0, что
sup [ 1 - Рв (Кв)' + Л) (- Л'е) ] < е.	(8.6)
(tee
Фундаментальную роль в вопросах слабой сходимости ф. р. иг-
рает следующая теорема.
Теорема 2 (Прохорова). Семейство ф. р. {Р& Веб) слабо
компактно тогда и тотько югда, когда оно плотное.
2.8.3.	Расстояние между функциями распределения. Выделение
различных типов сходимости ф р. эквивалент по. но существу, вве-
дению в пространстве всех ф. р структуры определенного топологи-
ческою пространства. При этом топология, как правило, задается
метрикой (расстоянием) в пространстве ф р, отвечающей тому или
иному типу сходимости
Наиболее употребшельными мприками являются расстояние но
вариации и расстояние Лсвн
Расстояние по вариации между двумя ф. р. Р и Q определяется
формулой
ОО
V (Р, Q) = J | dP (х) - dQ (х)|.	(8.7)
— ОО
Расстояние Леви между' двумя ф р. Р и Q определяется соот-
ношением
L (Р, Q) = inf {h: Р (х — h) — h^Q (х) Р (х + /г) -|- h ух cz R).
(8 8)
Слабая сходимость ф. р эквивалентна сходимости к нулю расстоя-
ния Леви, т. е.
Р„ => Р эквивалентно L(P,., Р) -> 0, »->-оо.	(8 9)
Заметим, что в случае, когда предельная ф. р Р непрерывит,
слабая сходимость равномерна:
sup | Рп (х) — Р (х) I О, п > оо.	(8.1 )
— оо<Х<^ + °°
Литература: [И, 60, 63, 64, 81, 831.
Глава 3. АНАЛИТИЧЕСКИЙ АППАРАТ
3.1.	Производящие функции
3.1.1.	Определения, свойства. Пусть v — целочисленная неотри-
цательная случайная величина с распределением вероятностей
Р (V = /г) = pk, k = 0, 1, 2, ...	(1.1)
Бв	ГЛ 3 АНАЛИТИЧЕСКИЙ АППАРАТ	(МЛ
Производящей функцией распределения (1.1) случайной вели-
чины v называется ряд
р (г) = Mzv = £ z%, | z К 1.	(1.2)
A-0
Для группы п целочисленных неотрицательных случайных вели-
чин vi, ........ совместная производящая функция определяется
рядом
Р (гг z2,..zn) = Mz^2
Z ^...^pkk K (1.3)
ftp *2.*n>o	3 n
гДе Pklkt... kn = p (vi = kv	= kn).
Производящая функция аналитична внутри единичного круга
|z| < 1. Распределение вероятностей (1.1) однозначно определяется
своей производящей функцией:
Р4»7^(0), p'fei (°) °“ Р (z) 1г-о> *>0.	(М)
Часто оказывается полезным (особенно в асимптотическом ана-
лизе) представление распределения интегралом Коши:
ъ—ss S
W-P
Определим хвост распределения:
Р (v > k) = qk = £ pA+f. k > 0.	(1.6)
г—I
оо
' Производящая функция Q (z) = £ zkqk последовательности
k^O
А 0) связана с производящей функцией p(z) распределения
Р*> k 0} соотношением
.	(1.7)
В частности, математическое ожидание Mv выражается формулой
Mv^Q(l) = ^9fc.	(1.8)
Факториальные моменты случайной величины Mvlm, = M[vX
X (v — 1) • • • (v — m + 1)] вычисляются во формуле
। 1 dm
MvImI =	p (z) |z_j, m > 1.	(1.9)
3.I.IJ	8.1. ПРОИЗВОДЯЩИЕ ФУНКЦИИ	57
В частности, математическое ожидание Му и дисперсия Dv
определяются соответственно формулами
Mv-p'W;
Dv = p"(l) + p'(l)-[p'(l)l1-	7
Для вычисления факториальных моментов можно также исполь-
зевать следующее разложение производящей функции:
СО
р (z + 1) •= £ zmBm, Вт~±-MvIml. (1.10
т—О
Если производящая функция p(z) случайной величины у опре-
делена при всех |z | < z0 (для некоторого ze > 1), то все моменты
mk=s‘ Mv* при k 1 существуют и определяются производящей
функцией
СО
р (s) e Р (es) — У ~ тк.	(1.12)
k-0
Производящая функция на интервале (0, 1) имеет вероятност-
ный смысл;
р (s)«P{v<r), 0<s<l,	(1.13)
где т — случайная величина, не зависящая от у и имеющая геомет-
рическое распределение с параметром s:
Р {•€«=» Л) = s* (1— s), ft>0,	(1.14)
с производящей функцией
р1(г) = Мгг = -р~-.	(1.16)
Равенство (1.13) можно интерпретировать следующим образом:
р (я) >= Msv есть вероятность того, что число успехов v в некото-
рой серии испытаний не превосходит числа т наступивших подряд
успехов в испытаниях Бернулли с вероятностью успеха в отдель-
ном испытании, равной s.
Композиция (свертка) двух целочисленных распределений
{рл, k 0) и {qk, k 0} задается формулой
к	к
^Яр/Ь-г-ТЛ-гЪ k>°’	(bl6>
г—0	/-—О
и обозначается через
{сц, k Js 0) = {Pk, k > o}*{^, k > 0).	(1.17)
Распределение суммы у = ц + у двух независимых случайных
величин с распределениями вероятностей слагаемых {р*, k 0} и
{?* А 0} определяется композицией (1.16):
k
Р (н + V = k) ~ ck = £ prqk_r, ft > 0.	(1.18)
/-«0
58	ГЛ. 3. АНАЛИТИЧЕСКИЙ АППАРАТ	[3.1.2
Производящая функция pv (z) суммы v = Vi + vz 4-... + vn
независимых случайных величин равна произведению производящих
функций слагаемых:
Pv (г) = PVl (z) PV2 (z) ... pv„ (z).	(I.t9)
Пусть v — неотрицательная целочисленная случайная величина
С производящей функцией <р (z) = Mzv. Производящая функция
v
Py(z) суммы у = ^ рь независимых между собой и не завися-
щих от v одинаково распределенных случайных величин р* с произ-
водящей функцией р (г) = МгцА равна суперпозиции производя-
щих функций <р(г) и p(z):
Pv (z) = Ф [Р <z)l-	(1-20)
3.1.2.	Примеры. 1. Биномиальное распределение Bp(n,k)=-
(q==l-p) имеет производящую функцию
bp(n, z) = (q + рг)п.	(1.21)
Случайная величина v с биномиальным распределением пред-
п
ставима в виде суммы v— pfe независимых, одинаково рас-
к—1
пределенных бернуллиевых случайных величин с производящей
функцией Ppk (z) = q + pz, принимающих два значения: 0 с ве-
роятностью q и 1 с вероятностью р.
2. Распределение Пуассона pfc (а) = е~а (k^O, а > 0)
имеет производящую функцию
p(z, а)=	(1.22)
Сумма р + v независимых случайных величин, имеющих пуассонов-
ское распределение с параметрами а и Ь, имеет пуассоновское рас-
пределение с параметром а + Ь.
3. Сложное распределение Пуассона задается производящей
функцией
П(г) = е'а11-₽(г)|, ptz^'Mz'1,	(1.23)
где р(г)—производящая функция некоторых неотрицательных слу-
чайных величин р.
Случайная величина у со сложным распределением Пуассона
V
(1.23) представима в виде суммы у = рй, в которой слагаемые
Ра — независимые одинаково распределенные величины с производя- '
щей функцией р (z) = а число слагаемых v, не зависящее
от (is (k 1), имеет распределение Пуассона с производящей функ-
цией Mzv = e-a(I~4
©.1.3]
ал. производящие функции
3.1.3. Теорема непрерывности и тауберова теорема.
Теорема непрерывности. Пусть {рk0} (п =я
= 1,2,...) — последовательность распределений вероятностейцелочис-
ленных случайных величин v, с производящими функциями рДг).
Для сходимости распределений при каждом конечном k О
lim P{h=Ph	(I-24)
П->ОО
необходимо и достаточно, чтобы при любом s из полуинтервала
О С s < 1
ОО
lim р„ (л) ==р (s) = У, shpk.	(1.25)
П->оо	"(J
Заданная на полуоси (0, +°о) функция L(t) называется мед-
ленно меняющейся при t -> оо, если при любом х > О
lim L (tx)IL (/) = 1.
<->ОО
Медленно меняющаяся функция £(/) представима в виде
{ t
L (t) = а (/) ехр ] \ dy >,	(1.26)
IJ У I
где е(/) -> 0 и a(l) -> а С оо при оо, я =/= 0.
со
Тауберова теорема. Пусть ряд a(s)= £ ansn сходится
м»0
при 0	5 < 1 у ап 0. Тогда при 0 хХ с <; со следующие два
соотношения эквивалентны:
(1 — s)c a (s) со £	а-* 1-0,	(1.27)
п
^E^nc+i)1*'0- "-*00-	(L28)
Г ели последовательность а„ монотонна и 0 < с < оо, то соотноше-
ние (1.27) равносильно соотношению
—то —1—£ (ц), я->оо,	(1.29)
пс 1 Г (с)
СО
еде Г (с) = хс~'е~х dx — гамма-функция Эйлера.
о
во
ГЛ. 3. аналитический аппарат
[3.8.1
В частности, при L(t) А соотношения (1.27)—(1.29)' имеют
соответственно следующий вид:
lim (1 — s)ca(s) =	A}	(1.3d)
s-»l-0		
1 V4	A .	(1.31)
П->оо ne Zu «	Г(с+1)’	
k~(S		
lim an -	A	(1.32)
c—1 Л->оо n.	Г(с) ’	
3.2.	Преобразование Лапласа
3.2.1.	Определение. Формулы обращения. Пусть £— неотрица-
тельная ^случайная величина с функцией распределения вероятностей
Преобразованием Лапласа р(Х) функции распределения Р(х)’
(или случайной величины g) называется функция
СО
р (X) — Me-** е~Кх dP (х),	(2.1)
о
определенная для Re X О и аналитическая при Re X > 0.
Предполагается, что точка 0 включена в область интегриро-
вания.
Теорема обращения. Функция распределения Р(х) одно-
значно определяется своим преобразованием Лапласа р(Х): в каж-
дой точке непрерывности функции распределения
Р(х)= lim V -Ц^-р(4)(Х).	(2.2)
k^Kx
Здесь р<*>(Х) —производная k-ro порядка! Р<А)(Х) = (— l)ftX
ОО
X J e'KxxkdP(x).
о
Преобразование Лапласа р(Х) можно представить в виде ряда
00 fe	00
р(М=>£	«*A = Mgft=» JxftdP(x), й>1. (2.3)
k—О	о
в любом интервале 0 X < Хо, в котором ряд сходится. Если такой
интервал сходимости ряда (2.3) существует, то последовательность
моментов {/и*, k 0} однозначно определяет функцию распределе-
ния Р(х).
Преобразование Лапласа р(Х) при вещественных X > 0 имеет
вероятностный смысл:
PW = P{g<T), Х>0,	(2.4)
* 2,1]	8.2. ПРЕОБРАЗОВАНИЕ ЛАПЛАСА	61
|де т — случайная величина, не зависящая от £ и имеющая показа-
1 единое распределение с параметром X:
Р {т > 0 = e~Kt	(2.5)
с преобразованием Лапласа Me~ST = Х/(Х + а).
Равенство (2.4) в приложениях интерпретируется следующим
образом: р (X) = Ме-А® при Х>0 есть вероятность того, что мо-
мент успеха (восстановления, вызова, отказа и т. д.) g наступит до
момента прекращения наблюдений т, имеющего показательное рас-
пределение.
Если случайная величина g имеет плотность и(х) = Р'(х), то
преобразование Лапласа записывается в виде
ОО
р (X) = Ме-^ == е~Кхи (х) dx.	(2.6)
о
Формула обращения в этом случае имеет вид
Нт ±2112—/-2Л Р(п~1)(£к
(Я—-1)1 \Х/	\Х/
или для почти всех х > О
c+loo
(2.8)
ах J	л	'
С—/со
где с> 0 и интеграл берется вдоль любой прямой Re X = с > О и
понимается в смысле главного значения, т. е. как предел интеграла
вдоль отрезка [с — 1А, с 4- 1Д] при А-> оо.
Если плотность распределения и(х) непрерывна, то
c+ioo
J pWeKxdk.
с-l»
функция распределения Г(х) суммы £ = В + л двух независи-
мых неотрицательных случайных величин g и t) с функциями распре-
деления Р(х) и Q(x) определяется сверткой
х	х
Р («) — Q (х - у) dP (у) = ( Р (х — у) dQ (у)	(2.9)
о	о
и обозначается F = P*Q.
Преобразование Лапласа (X) суммы g + т) двух независи-
мых случайных величин равно произведению преобразований Лап-
ласа слагаемых:
= ₽£ W Рх\
(2.10)
62
ГЛ. 3. АНАЛИТИЧЕСКИЙ АППАРАТ
[3<2,«
Равенство (2 10) равносильно следующемуз
Ме-М£+п) = ме-А£ме-Ч	(2.11)
Пусть v — целочисленная неотрицательная случайная величина
с производящей функцией <р (г) = Мг\ Преобразование Лапласа
V
р (Л) суммы 1) = V независимых между собой и не зависящих
от V, одинаково распределенных случайных величин gs с преобразо-
ванием Лапласа р (X) = Me определяется суперпозицией функ-
ций <p(z) и р(Х):
f v 1
pn (X) = М exp I — s j => qp [p (X)].	(2,12)
3 2.2. Предельная теорема. Вполне монотонные функции.
Теорема непрерывности. Если последовательность
Рп(х) функций распределения сходится к функции распределения
Р(х), то их преобразования Лапласа рг(к) сходятся к р(Х) —пре-
образованию Лапласа предельной функции распределения Р(х) —.
в каждой точке X > 0 Обратно, если последовательность преобра-
зований Лапласа р„(Х) сходится при каждом X > 0 к пределу р(Х),
то р(Х) есть преобразование Лапласа функции распределения Р(х)
и Рп(х) сходятся к Р(х). Предельная функция распределения Р(х)—•
собственная (Р(+°о) = 1) тогда и только тогда, когда р(Х)->1
при Х->0
Заданная на (0, оо) функция р(Х) называется вполне монотон-
ной, если она имеет производные р(л) (X) при любом п > 0, и
(—1)«р("’(М > 0, Х>0.	(2 13)
Теорема о представлении. Функция р(Х) на (0, °о)
является преобразованием Лапласа некоторого распределения веро-
ятностей тогда и только тогда, когда она вполне монотонна и
р(0) = 1.
Критерий вполне монотонности 1 Произведение
вполне монотонных функций — вполне монотонная функция
2 Суперпозиция <р(р(Х)) вполне монотонной функции <р(Х) с
положительной функцией р(7), производная которой вполне моно-
тонна, также вполне монотонна
3 Предеи последовательности вполне монотонных функций есть
вполне монотонная функция.
Для описания меры U, сосредоточенной на полуоси (0, +°о),
используется неубывающая функция распределения U(x) =
=U ((0, х)).
Принцип сдвига. Пусть U — мера на (0, оо) с преобразо-
ОО
ванием Лап часа и (X) = e~KxU (dx), сходящимся при X 0. Тогда
о
функция
ОО
рwе~кк dp W	(2-14)
М (II /	J
0
I>5 2|	82. ПРЕОБРАЗОВАНИЕ ЛАПЛАСА	63
мляется преобразованием Лапласа распределения вероятностей
X
р Ы - -~- J е’^и (dy).	(2.15)
о
Принцип сдвига позволяет все утверждения относительно преоб-
разований Лапласа распределений вероятностей перенести на пре-
образования Лапласа мер, сосредоточенных на полуоси (0, оо).
СО
Тауберова теорема. Пусть и (Z) = е (dx) — пре-
о
образование Лапласа меры U, U (х) = U ((0, х)). При 0 с < оо со-
отношения
к(Х) со Х-с£(1/Х), Х-*0.	(2.16)
U °° Г(с4-~1)~ L Х "*	(2'17)
равносильны. Если существует монотонная плотность U'(x), то из
(2 17) при 0 < с < оо следует, что
хс-1
V W °° Т^Г L Х "* °0”	(2-18)
Здесь L(x)—медленно меняющаяся функция: lim (£ (х/)/£ (х)) » 1
Х-»оо
при любой i > 0.
Примеры 1. Экспоненциальное распределение Р(х) = 1 — е-а*
(а > 0) имеет преобразование Лапласа
р(Х) = а/(а 4-Х).	(2.19)
2. Гамма-распределение с плотностью вероятностей
и(х; р, =	х>0, в > 0, р > 0, (2.20)
имеет преобразование Лапласа
р(*;р.«)~(тттГ	<221>
3. Сложное пуассоновское распределение задается преобразова-
нием Лапласа
-ОС	\
р (К) = exp J a J (е~*"х — 1) dF (х) L а > 0.	(2.22)
I о	)
Соответствующая функция распределения представима в виде
ОО
р (ж)=е° Е w-
n-0
Здесь Fn*(x) —п кратная свертка функции распределения F(x) сама
с собой.
64	ГЛ. 3. АНАЛИТИЧЕСКИЙ АППАРАТ	[3.3.1
Случайная величина £ с распределением (2.23) представима в
v
виде С = V где — независимые одинаково распределенные
к-о
неотрицательные случайные величины с функцией распределения
F(x), v— не зависящая от случайная величина с пуассоновским
распределением с параметром а.
Понятие преобразования Лапласа распространяется естествен*
ным образом на многомерные распределения. Определение (2.1) со*
храняется в случае Р(х) = P(xi, х2, ..., хп), если только понимать х
и Л как векторы: х = (xi, х2, ..., хп), 7.= (М, л2, .... Хп), а их
произведение >.х — как скалярное произведение векторов; Лх =»
=£ hXk‘
3.3.	Характеристические функции
3.3.1.	Определение. Основные свойства. Характеристической
функцией (х. ф.) случайной величины £ с функцией распределения
F (х) = Р (£ < х) называется комплекснозначная функция
ОО
f (!) =	eitx dF (х).	(3.1)
— ОО
В частности, если существует плотность распределения вероят-
ностей p(x)=Fz(x), то характеристическая функция есть преобра-
зование Фурье плотности распределения:
ОО
f(l)= eltxp(x)dx.	(3.2)
— ОО
Для дискретной случайной величины, принимающей значения х*
с вероятностями р*. х ф. представима рядом
f (О = £ eitxkpk.	(3.3)
Характеристическая функция определена при вещественных t
для любой случайной величины. Приведем основные свойства харак-
теристических функций:
1)	f(0) = 1, |f(/)|	1, -оо < t < +«=;
2)	f(t) равномерно непрерывна на числовой оси;
3)	при каждом целом п > 0 для любых комплексных чисел
Zi, Z2, ,,., 2Л и любых вещественных чисел tit t2, ,,., tn
п
S	(зл)
к, г=1
(положительная определенность х. ф.);
4)	f(—0 = f(t)—эрмитовость;
3.3.31
3 3. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
65
5)	х. ф. суммы независимых случайных величин равна произве-
дению х. ф. слагаемых:
=	(З.П
6)	при 1] =	+ Ь, где а и b — постоянные,
(t) — (at) e/l>t.
(ЗА")
Основные свойства х ф 1) —4) являются определяющими.
Теорема (Бохнера — Хинчина). Для того чтобы непрерывная
функция f(t), заданная на вещественной оси и удовлетворяющая
условию /(0) = 1, была характеристической функцией, необходимо
и достаточно, чтобы она была положительно определенной.
3.3.2.	Примеры. 1 Нормальное распределение с плотностью
1	(
о У2л	(
(х — с)2 )
---1------- J. имеет
2о2 J
х. ф.
f (/) = exp J iat —
2. Равномерное распределение на интервале |х| < а имеет х. ф.
f(/) = smat/(at).
ak
3 Пуассоновское распределение pk~ ~7Те“ (&=>0) имеет х. ф.
ПО = cxp(/i(<-"— 1)}.
4. Распределение Бернулли
Вр(п, k) — C^pkq'1'k IfA^k^n)
(биномиальное распределение)
имеет х. ф. /(/) = (<7 + ре")п
(q ^\—р).
5. Гамма-распределение с плотностью
(х > О,
р > 0) имеет х. ф. f (/) = (1 —
3.3.3. Взаимная однозначность и непрерывность соответствия
между х. ф. и распределениями вероятностей.
Теорема обращения. Функция распределения F(k) одно-
значно определяется своей х ф. f (t). Если х, у — точки непрерыв-
ности F(x), то имеет место формула обращения
с
1	Г	p-ity
F (х) — F (у) =lim \±----------------------(3.5)
C co
—c
В частности, если |f(z)//| нпгщрпрусма на бесконечности, то
1 С р-Чх^. р-Иу
F (х) — F (у) ~J -----------------------}(t)dt.	(3.6)
— CO
Если же x. ф. f (/) суммируема на вещественной оси, то функция
распределения F(x) имеет ограниченную непрерывную плотность
р(х) = Г'(х), которая определяется формулой
ОО
— оо
3 В. С. Королюк и др.
(3.7)
66
ГЛ. 3. АНАЛИТИЧЕСКИЙ АППАРАТ
[з.з.з
Для решетчатого распределения
п/'г
Pft=P{| = a + ^} = A- J e-ltW-kh)f (/)dt	(3.8)
-л/h
Различные формулы обращения можно получить, используя ра-
венство Парсеваля. Пусть f (/) = Ме1^ и tp (t) = Me1*4 — х. ф. не-
зависимых случайных величин £ и t] с функциями распределения
F (х) = Р {£ < х} и Ф (х) = Р {ч < х}. Равенство Парсеваля зада-
ется формулой
оо	оо
J 4>(/)dF(/) = J f(t)d*(t).	(3.9)
— оо	—со
Правая и левая части формулы (3.9) являются различными фор-
мами записи выражения
Одним из вариантов записи равенства Парсеваля является фор-
мула обращения (со сглаживанием)
1	С	г
----——. 1 exp
а -у 2л J	I
— ОО
| dF (t) =
2о2 J
ОО
1 f f c2t2 1
= -57 \ exp ( — itx-----------— I f (t) dt.
— 00
(3.10)
Величина скачков функции распределения определяется соотно-
шением
Т
F(x + 0)-F(x)= lim А \ e~itxf (t) dt, (3.11)
у-хх, 2Г
так что в точках непрерывности х функции распределения F(x)
т
lim А- \ е - ltxf (t) dt = 0.	(3.12)
Т^ОО £1 J
-г
Теорема непрерывности. Последовательность функций
распределения Fn(x) слабо сходится к функции распределения F(x)
тогда и только тогда, когда последовательность их х. ф. fn (t) схо-
дится к непргрывной предельной функции f(t). При этом f(t) есть
х. ф. предельной функции распределения Р(х) и сходимость fa(t) к
f(t) равномерная в каждом конечном интервале.
Если последовательность интегрируемых х.ф. f„(t) сходится в
ОО
среднем к предельной х.ф. f(t), т.е. | fn (t)—f (t) | dt -> 0 при
— OO
П->оо1 то последовательность соответствующих плотностей распре-
3.3.4]
3.3. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
67
деления рп (х) сходится равномерно к предельной плотности рас-
пределения р(х).
3.3.4.	Свойства регулярности. 1) Если функция распределения
Г(х) абсолютно непрерывна, то lim [/(01 = 0.
11 |->м
2)	Если функция распределения F(x) имеет абсолютно непре-
рывную компоненту, то lim sup I f (t) | < 1.
I t I -> °o
3)	Для решетчатого распределения p){ = P {£ = a + kh} x. ф.
представима в виде
ОО
Г(П = е'°* £ elkhtpk,	(3.13)
k= —оо
так что | {(2л//г) | = 1. Обратно, если при некотором to 0 спра-
ведливо равенство ]f(to) | = 1, то соответствующее распределение
решетчатое
Максимальный шаг распределения равен h тогда и только тогда,
когда модуль х. ф. меньше единицы при 0< |/| < 2л/h и равен
единице при t = 2л/h.
4)	Для произвольной х. ф. /(/) существует
т
lim -L ( |Н0|2<И=Ур1	(3-14)
7'->оо Л J	£—4
где pk — величины скачков функции распределения, и суммирование
ведется по всем скачкам.
5)	Если функция распределения F(x) удовлетворяет условию
Липшица с показателем у < 1, то при Г->оо
т
у-J и(П12л = о(г-¥).	(3.15)
-г
Из условия
ОО
I f(t) I dt < оо	(3.16)
1
следует, что функция распределения F(x) удовлетворяет условию
Липшица с показателем у.
6)	Пусть /(/)—непрерывная неотрицательная четная функция,
выпуклая в области I > 0 и удовлетворяющая условиям /(О') — 1,
lim )(() = 0. Тогда /(/) есть характеристическая функция. Отсюда
<->оо
следует, что существуют х. ф., совпадающие па конечном или беско-
нечном интервале, но не тождественно равные.
7)	Если х. ф. имеет вид f(t) =ехр{7\(()}, где Pk(t)—полином
{ст2/2 )
/а/----2— I’
где а и п — вещественные параметры.
8)	Характеристическая функция неотрицательной случайной ве-
личины не может обращаться в нуль на конечном интервале.
3*
£g	ГЛ. 3. АНАЛИТИЧЕСКИЙ АППАРАТ	[3.3.5
9)	Характеристическая функция f(х) вещественна (f(t) = f(t))
тогда и только тогда, когда соответствующее распределение симмет-
рично: 1—F(—х + 0) = F(x).
3.3	.5. Моменты и семиинварианты. Моменты случайной величи-
ны £ определяются значениями соответствующих производных харак-
теристической функции:
mk =	= (- i)kfw (0), k 1.	(3.17)
Если существует абсолютный момент a v — М ' £ |w < со, то
имеет место разложение
H0 = l + £-^-™A + o(/w).	(3.18)
fe=i
Для достаточно малых значений t главная ветвь log/(/), кото-
рая стремится к нулю вместе с /, представима в виде
10g / (0 = £ Ул + о (tN),	(3.19)
Ы
где семиинварианты (кумулянты) ук определяются формулой
1 г dk	1
= • <3-2°)
I L at	J/=o
Связь семиинвариантов у* и моментов т/{ ~ выража-
ется формулой
k	'	п
г-1	1 = 1	1
(3.21)
Суммирование производится ио всем целым неотрицательным ре-
шениям уравнения щ + 2п2 + ... + 'г/г* = k.
Для того чтобы существовал абсолютный момент чспюю по-
рядка взпСоо, необходимо и достаточно, чтобы [(/) = Р2„(1) 4- о(!2")
при /->(), где Р2п(1)—полином степени 2п.
Для существования производной необходимо и достаточ-
но, чтобы были выполнены условия
с
lim xk (1 — F (х) + F (— х)) = 0; lim ( хк dF (х) = mh. (3.22)
При этом [(к'(0) = ikmk.
3.3	.6. Неравенства. Для оценок х. ф. используется следующее
неравенство:
е“- для любых п 1 и / >	_У И*	/п+1	323) L k!	(п + 1)! fe^O 0.
3.3.7|
3 3. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
69
1.	Пусть т>0 ит >0 таковы, что тх > 1. Тогда

т
4г $l{t)dt
-t
(3.24)
1
тх '
Из этого неравенства, в частности, следует, что равностепенная не-
прерывность семейства х. ф. в пуле равносильна слабой компактно-
сти соотетстаующсго семейства распределений.
2.	Для всех вещественных / имеет место неравенство
0^ 1— Ref(2Z) 4(1 —Ref(/)).
(3.25)
3.	Если If (/) | с < 1 для 111 > е > 0, то при 111 < е

(3.26)
4.	Для ограниченной случайной величины 5 с ||| < с и диспер-
сией о2 х. ф. удовлетворяет неравенствам
е-а’р<|/- (/)|<е-а'/г/3 для |/|<1/(4с).	(3.27)
5	Характеристическая функция f(/) случайной величины с огра-
ниченной плотностью р(х)^с и конечной дисперсией о2 удовлетво-
ряет неравенствам
If (f)[<exp|__Ar| для |(|>-5-;	(3-23)
IfWICexp}-^^-^} дня всех f. (3.20)
Здесь Л — абсолютная постоянная.
3.	3.7. Характеристические функции многомерных распределений.
Пусть £= (|(, |2, ..., 5Д—случайный вектор со значениями в ев-
клидовом пространстве R" с ф. р. F (х) = Р (£] < Xi, £-2 < хг, .. •
..., gn < х„}, х — (Х|, х2, .. ., х„) s R".
X. ф. случайного вектора 5 определяется равенством
f (/) = Me*У =Л е*х) dF (х),	(3.30)
R"
п
где t = (tv t2.tn), (t, x) — y1 tkxk — скалярное произведение
векторов t и x.
Свойства x. ф. многомерных распределений аналогичны свой-
ствам х. ф. случайных величии. Укажем некоторые отличия. Момен-
тами (смешанными моментами) случайного вектора 5 — (51. ?2> • • •
.... 5ч) называются числа
(3,31)
70	ГЛ. 4- ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА	[3.3.7
Число k — ki + kz 4- ... + kn называется порядком момента. Момен-
ты с целыми индексами можно определить дифференцированием
х. фл
(-i)kdkf(t)
к^2—кП dtl'dt*2 ...dtknn
(3.32)
t=o
Примеры. 1. Двумерное нормальное распределение задастся
плотностью вероятностей
1
i \	1	1	1 Г (x — c)2
p (xj, x2) =--------------7=T exp {---------------------7Г --------T-
2ло1<т2 V1 ~ P (	2(1—p ) [. °T
— «) (x — t>) , (-'
— 2p-----------------------—
-b)2
°2
С х. ф.
iat। )- ibt2 —
Параметры распределения имеют следующий смысл:
« = b=Mg2; о? = М^, crl = Wl; Р-МодУ-'
2. Многомерное нормальное распределение задается плотностью
Vo ( 1	,)
....«„) J.
п
Р (м......хп)
где Q (хь х2, ..хп) = £ bl{r (xk - ak)(xr - aj - положительно
k, г=1
определенная форма, D—определитель матрицы В = {bkr, 1 k,
г п}. Соответствующая х. ф. имеет вид
f (Л, t2, tn) = exp ] iat —
где матрица вторых моментов о={о/;, 1 sj i sC j si n}
соотношениями о = В~г; с,, = Mg,^,М'— ^7
Литература: [12, 23, 64, 89, 98].
Глава 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА
Термин центральная предельная теорема в теории вероятностей
означает любое утверждение о том, что при выполнении определен
вых условий функция распределения суммы индивидуально малых
случайных величин с ростом числа слагаемых сходится к нормаль-
ной функции распределения. Исключительная важность центральной
предельной теоремы объясняется тем, что она дает теоретическое
объяснение следующему многократно подтвержденному практикой на-
4.1.1]
4.1. ЦПТ ДЛЯ СЛУЧАЙНЫХ ВЕЛИЧИН
71
блюдению: если исход случайного эксперимента определяется боль-
шим числом случайных факторов, влияние каждого из которых пре-
небрежимо мало, то такой эксперимент хорошо аппроксимируется
нормальным распределением с соответствующим образом подобран-
ными математическим ожиданием и дисперсией.
4.1. Центральная предельная теорема
для последовательностей независимых случайных величин
4.1.1. Центральная предельная теорема при наличии конечных
дисперсий. Пусть {gz,, k 1} — последовательность взаимно незави-
симых случайных величин с функциями распределения Gk (х) =•
= Р < х}' имеющих конечные математические ожидания Mg6 =
п
= ак и дисперсии Dgft — a'k, причем в'^ = о2к > 0 для п 1.
Нормированной суммой случайных величин gt, £2, ..., gn назы-
вается случайная величина
п
£ (Zk~ak)>
А=1
которая характеризуется тем, что Мт]п = 0, Di]n = 1 для любого
п 1.
Пусть /•'„ (х) — функция распределения нормированной суммы т]ч
и Ф (х) — —\ е~2^2 dz—нормальная (0, 1) функция распре-
— ОО
деления. При наличии конечных дисперсий центральная предельная
теорема устанавливает условия, при которых имеет место соотно-
шение
lim Б„(х) = Ф(х)	(1.1)
П->оо
равномерно относительно хе (—оо, оо).
Одна из наиболее простых и в то же время наиболее часто при-
меняемых (особенно в статистических приложениях) форм централь-
ной предельной теоремы связана с последовательностью одинаково
распределенных случайных величии.
Теорема Леви—Линдеберга. Вели {gt, k Js 1}—по-
следовательность взаимно независимых одинаково распределенных
случайных величин, то для функции распределения Fn(x) нормиро-
ванной суммы т]п =—— па'} имеет место соотноше-
ние (1.1), а = Mgfc, a2—Dgfc.
Важный частный случай теоремы Леви — Линдеберга, формули-
руемый для случайных величин g*, имеющих распределение Бернул-
ли, представляет следующая теорема.
Центральная предельная теорема Муавра —
Лапласа (интегральная теорема Муавра — Лапласа). Если v„
есть число наступлений некоторого события в серии из п независи-
мых испытаний, в каждом из которых вероятность наступления этого
72
ГЛ. 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА	14.1.1
события равна р, причем 0 < р < 1, то для функции распределения
fr,(x) нормированного отклонения от среднего числа наступления
события Tin — —====== имеет место соотношение (1.1).
V«P(1-P)
Пример 1. Требуется оценить вероятность отклонения частоты
v„/n появления события в схеме испытаний Бернулли от вероятности
р, 0 < р < 1, не более чем на е, где е — произвольное положитель-
ное число:
р II -т- -р I< ’} “ ф ('	- ф (- ‘
е Vn/(P(1-P)>
»-------—	(	„-zJ/2 л-
J 6 dZ'
-eVn/(p(l-p))
Для конкретных значений п, р, е правая часть этого равенства на-
ходится из таблиц нормальной функции распределения
В случае разнораспределенных случайных величин одна из ос-
новных причин, в силу которой функция распределения Fn(x) нор-
мированной суммы может не сходиться к нормальной функции
распределения, связана с неравноценностью слагаемых в сумме г]п.
Одним из условий, обеспечивающих равномерность вкладов слагае-
мых (g* — ak)!Bn в гр,, является условие равномерной малости
°ь
lim max — 0.
n->oo 1 < t>n
(1.2)
Это условие не достаточно для выполнения центральной предельной
теоремы. Это показывает следующий пример.
П р и м ер 2. Пусть Р {g/s==OJ = 1 — l//r, Р {gfe = ± kj =ЛЦ21г2).
п
Тогда М^ = 0, Щй=1,	Для величины iq„ соот-
ношение (1.1) не выполняется, так как г]и->0 с вероятностью 1.
ОО
поскольку ряд	сходится с вероятностью 1. Последнее еле*
/г-1
дует из того, что
Е р{^*°}=Е ^<о°-
k-i	А-i
и значит, в силу теоремы Бореля — Кантелли, среди величин с
вероятностью 1 лишь конечное число отлично от нуля.
Наиболее удобно проверяемые достаточные условия дает сле-
дующая теорема.
4.1.1]
4.1. ЦПТ ДЛЯ СЛУЧАЙНЫХ ВЕЛИЧИН
78
Теорема Ляпунова. Если для последовательности взаим-
но независи пых случайных величин {£«, k 1} существует 6 > О
такое, что
п
п’Х>в2+ё X МI - ak |2+6 = °>
п л-1
(13)
то для функции распределения Fn (х) нормированной суммы Т]п =в
п
=	— aft) имеет место (1.1).
” Л-1
Условие (1 3) называется условием Ляпунова.
Наряду с (11) условие Ляпунова достаточно для выполнения
соотношения
ОО	с»
н'^оо $|x|2+SrffnW = vk $ i*i2+6*-*!/2^=
— оо	—оо
оо
=	|x|2+e d<b (X). (1.4)
— СО
Если имеет место сходимость к нормальному распределению (11) и
выполнено соотношение (1.4), то условие Ляпунова необходимо для
того, чтобы имела место равномерная малость в смысле (12).
Пример 3. Пусть случайные величины & взаимно независимы
и имеют распределение
P{lft=±A) = l/2.
В этом случае MEfe = O, Dlk — c2k<=k2,
B2n^^k2 = »(»+D(2n+l)
I
ri	r>
м|Ел13 = /г3> E Ml^l3“2 =
ft-l	Л-1
Следовательно,
n !-
i-	1 V м 11 la r 3 V3 n4 n
llm "ZT / M I = lini----------ТГПГ= °’
n->oo Bi	n-><x>	4	n4+ ‘
n Л—1
и, таким образом, условие Ляпунова выполнено.
Наиболее общим условием, обеспечивающим выполнимость цен»
тральной предельной теоремы для последовательности случайных
74
ГЛ. 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА (4.1.2
величйн k 1}, имеющих конечные дисперсии, является усло-
вие Линдеберга: для любого е > О
п
Пт > У I	(x-akfdGkM=0,
В2	J
" *“>|x-e*|>eBrt
где Gk (х) — функции распределения случайных величин
Теорема Линдеберга — Феллера. Пусть {£*, k > 1}—
последовательность взаимно независимых случайных величин. Для
того чтобы функция распределения Fn(x) нормированной суммы
п
1}п = -д— (|ft — afe) удовлетворяла соотношению (1.1) и усло-
п *-1
еию равномерной малости (1.2), необходимо и достаточно, чтобы
выполнялось условие Линдеберга.
Условие Ляпунова является достаточным для выполнения усло-
вия Линдеберга в силу неравенства
п	п
X J (* — ak)2<iGk	— a*l+6’
" k-l\x-ak\>eBn	е п k-l
4.1.2. Общие условия сходимости к нормальному распределению
для последовательностей независимых случайных величин. Пусть
Ш, k 1} — последовательность взаимно независимых случайных
величин с функциями распределения Gft (х) = Р {£ft < х) и =»
п
«= —V ₽ — а t где {а„) и {рл >0} — некоторые последователь-
Pn л—л ® п
k*>*\
НОСТИ постоянных.
В отсутствие предположения о конечности моментов может ока-
заться тем не менее, что существуют последовательности постоянных
{«л} и {₽л > 0} такие, что для функции распределения Fn(x) =
= Р{т]л < имеет место соотношение (1.1).
Теорема 1. Пусть случайные величины fy, одинаково распре-
делены, G (х) = Р < xj. Для того чтобы существовали последо-
вательности постоянных {an} и {Рл > 0} такие, что для функции
распределения Fn (х) = Р {т]п < х) имело  бы место соотношение
(1.1), необходимо и достаточно, чтобы
lim х2Р{|£, |>х} / z2dG(z) = 0.	(1.5)
Х->О0	/ J
/ |z|<X
Условие (1.5) эквивалентно следующему: функция d(x) =
«= J z2 dG (z) медленно меняющаяся, т. е. для любого с > 0
М(<Х
lim
ж-><»
d (ex)
1.
(1.6)
1 I 2]
4 T. ЦПТ ДЛЯ СЛУЧАЙНЫХ ВЕЛИЧИН
75
Принято говорить, что если существуют последовательности по-
. юянных {aj и {₽я > 0} такие, что функция распределения Fn(x)
। чучайной величины т]п = -g— / .^k — ап’ где имеют общее рас-»
и ре деление G(x), сходится к функции распределения F(x), то G(x]
притягивается к F(x) или G(x) принадлежит области притяжения
распределения F(x); таким образом, условие (1.5) является необхо-
димым и достаточным условием притяжения распределения G(x)
к нормальному распределению. Общие вопросы, связанные с описа-
нием всех возможных предельных распределений для т)п, рассмо'
|рены в гл. 5.
Пример. Пусть случайные величины имеют общую плот-
ность распределения
(	2 , . ।
г ч I Т-----FT In X ,
g(x) = < 1х|3
I О,
|х|>1,
|х|<1.
Дисперсия случайных величин с такой плотностью бесконечна. Тем
не менее урезанный (по уровню х 1) второй момент
X
d(x) — \ z2g (z) dz — 4 \	dz == 2 In2 х
|zf<x	1 Z
является медленно меняющейся функцией. Следовательно,
Теорема 2. Пусть случайные величины (k 1) взаимно
независимы и Gt(x) —их функции распределения. Для того чтобы
существовали последовательности постоянных {ап} и {р„ > 0} та-
кие, что выполнено условие равномерной малости lim max Р{1Ы >
> е0и} = 0 для любого е > 0 и для функции распределения Fn(x)
случайной величины
,k — ап имеет место соотношение
(1.1), необходимо и достаточно, чтобы существовала последователь-
ность постоянных уя (уп -> оо при п-^-оо) такая, что
У' J dGft(x)->0,
*-»l*l>vn
76	ГЛ. 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА	,4 1.3
Если такая последовательность у„ существует, в качестве
а( и можно взять суммы урезанных математических ожиданий
И дисперсий:
4.1.3. Центральная предельная теорема в схеме серий. Схемой
серий называется двойная последовательность случайных величин
1	k kn, /г„->оо, п > 1}, в которой случайные величина
%пъ • • • > inkn, образующие n-ю серию, взаимно независимы для
любого п. Схема суммирования последовательностей есть частный
случай схемы серий. Так, в случае конечных дисперсий п-я серия
имеет вид g„i, g„,, ..., g„„, где

(s о?*)
-1/2
Общая форма нейтральной предельной теоре-
мы в схеме серий. Пусть {£„*, 1 k sg k„, п 1}—схема
серий, a Fr,lr(x) и Fn(x)—функции распределения случайных вели-
чин и —	соответственно.
Для того чтобы lim Fn (х) = Ф (х) равномерно по х еэ
П—>оо
е (—оо,оо) и выполнялось условие равномерной малости

(1.7)
для любого фиксированного е > 0, необходимо и достаточно, чтобы
были выполнены условия
и-»00 А=1
fc” С
„^ооХ J Xdf"‘W=0’
А=1 [х |<е
(1.8)
I	4.2. ЦПТ ДЛЯ СЛУЧАЙНЫХ ВЕКТОРОВ
77
4 2. Центральная предельная теорема
дня независимых случайных векторов
4 2.1. Многомерный аналог интегральной теоремы Муавра —
и nt iaca. Рассмотрим схему независимых испытаний, в каждом из
  и>рых может осуществляться одно из т событий At, Л2, ..., А„
т
 жроятностями pt, р2, ..., рт, причем 0 < р. < 1, <7=1— У,р,- > 0.
t*=l
Пусть vn(i)—-число наступлений события /, в серии из п испы-
пий, т]п (z) >= (уп (i) — npt)l-yjnPi (1 — pz) — нормированное откло-
ните от среднего числа появлений события А/ в серии из п испы-
। ’ичй, г]п = (т]и(1), т]„(2), ..., г]„(пг))—вектор нормированных от-
। тоиеиий, компоненты которого — зависимые случайные величины,
Fn (х) = Fn (Xi...хт) = Р {Т]п (1) < Xi.Т]п ('») < хт}-
Теорема.
lim Fn (х,...хт) =
П->оо
Х1 Хт ( т
1 С С J 1 v i n Ixz
VfZn^detC J J 1	2	1	1J
X dZi ... dzm, (2.1)
где С = {cJJt i, j = 1, ..., m} — матрица ковариаций вектора
t	l>	i =
<7/ = M»)n (Z) r)n (/) = |	/ PiPi	, . =.
detc = (1-P.X1-Z) ...(i-pm) *
— (l, 1)-й элемент матрицы С-1, причем
I ------------------> i = 1,
Д-1) = |	___1________________
 --------------------——	i j.
I	<7
4.2.2. Многомерные аналоги теорем Леви — Линдеберга и Лин-
деберга — Феллера. Пусть {gn = (g", g". • • •> n = 1, 2,...} —
последовательность взаимно независимых случайных векторов с ма-
тематическими ожиданиями МЕп = а,! и ковариационными матрица-
ми Сп = cov In = М [g „ — ап] [gn — ап]Г (здесь т означает транс-
п
локирование вектор-столбца [£п — нп]). Пусть Вя — С2 — кова-
1=1
78	ГЛ. 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА	(4.2.2
п
риационная матрица суммы |{ и — ее квадратный корень.
Если матрица Вп положительно определена, то вектор
п
Т]„ = В“1/2	—oz) называется нормированной суммой случай-
I «1
цых векторов ..., |п. Вектор т|„ характеризуется тем, что
Мт)п=»0 (нулевой вектор) и cov т]„ = Мт1„т^ = / (единичная
k X /'матрица).
Обозначим через Fn(x) <= Fn(xh х2...хк) функцию распреде-
ления нормированной суммы тр,:
(Х„ Х2, ..., Xk) — Р {n" < Х„ Т12 < Х2,  •T)fe < *4-
гдет]”—/-я компонента вектора rjn, и пусть ф0>;(х)—й-мерная
Нормальная функция распределения с нулевым средним и единичной
ковариационной матрицей.
Теорема 1. Если {|n, п 1} — последовательность одинаково
распределенных взаимно независимых случайных векторов, M|ft = а
и матрица С = cov |л положительно определена, то для функции
распределения Fn(x) = Fn(xi, х2,	х*) нормированной суммы
п
Т)п д -^-С~1/2 У' (|z — az) имеет место соотношение
lim Е„(х)-=Ф	(х)	(2.2)
л->»	' ‘
равномерно относительно х s R*.
В случае разнораспределенных случайных векторов |п имеет ме-
сто следующее утверждение.
Теорема 2. Пусть Gt(x) *= G((xi, ..., хк) — функции распре-
деления случайных векторов |/, М|( = а(, и ковариационная матри-
п
ца Вп суммы |z положительно определена при любом п. Для
того чтобы для функции распределения Fn(x) нормированной суммы
п
•цп<=В~112	— имело место соотношение (2.2) и для лю-
бого е > О
lim шах Р{|||. — а,|1> ea/SpB~} = 0,
111 * 111 v п>
где Sp Вп — след матрицы Вп, необходимо и достаточно, чтобы вы-
полнялись условия: для любого е > О
п
/“1||J£-ezlI>eVs₽ Bn
3 1.11
4.3. ЛОКАЛЬНЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
79
(многомерный аналог условия Линдеберга) и
Hm inf
П->оо XER*
(Впх, х)
II х||2
>0.
(2.4)
4.2.3. Центральная предельная теорема для случайных векторов
в схеме серий. Пусть £п1, 1п2, lnkn (п = 1, 2, ...) — последова-
тельность серий независимых и одинаково распределенных в каждой
серии случайных векторов со значениями в евклидовом простран-
стве R*. и пусть Gn(x)—функции распределения векторов g„i
(/ = 1.....kn).
Теорема 3. Если существуют вектор а е R? и неотрицательно
определенная симметричная матрица В, для которых при всех
z е R* и е > 0 выполняются равенства
lim kn
п~>оа
Gn (dx) = (z, a),
Hm Г (	(z,'x)2 Gn(dx)~( (	(z, x) Gn (dx)Y1 =»
J J (2-6)
и» (Bz, z),
fe/l
то распределение случайного вектора T]rt = при п-*-оо сла-
l-i
бо сходится к нормальному распределению с характеристической
функцией
<р (г) = ехр р (а, г) — у (Bz, z) |.	(2.6)
4.3. Локальные предельные теоремы
4.3.1. Локальные предельные теоремы для плотностей. Пусть
{St, k 1}—последовательность взаимно независимых случайных
величин с функциями распределения Gk (х) = Р < х} таких, что
п
сумма	для п По имеет плотность распределения. Не умень-
шая общности, можно считать, что «о = 1. Локальные предельные
теоремы для плотностей выясняют условия, при которых плотности
fn(x) распределений нормированных сумм либо (в общем случае)
п
сумм вида г)п=~й—— ап с соответствУюш-им образом по-
” fe~i
добранными последовательностями постоянных {ап} и {рп > 0),
удовлетворяют соотношению
lim fn (х) = <р (х)	(3.1)
П->оо
80
ГЛ. 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА
(4.3.1
.	.	.	1	— х2/2
равномерно относительно хе (—оо, оо), где q> (х) =»—е ' —
у/2л
плотность стандартного нормального распределения.
I. Случай конечных дисперсий.
Теорема 1. Если случайные величины в последовательности
й > 1} одинаково распределены, имеют конечное математиче-
ское ожидание M£fe = а и дисперсию D|fe = о2, и fn(x)— плотное! ь
распределения нормированной суммы т)п — —
то для того, чтобы имело место соотношение (3.1), необходимо и
достаточно, чтобы существовало такое N, что
sup fN (х) < оо.
В случае разнораспределенных случайных величин определим
класс Мг последовательностей случайных величин {§*, k 1} с ко-
нечными математическими ожиданиями MEjfe = afe и дисперсиями
о| = причем — У, o2k > 0, п 1, характеризующийся тем,
что среди распределений G«(x) случайных величин не более г раз-
личных.
Пусть Пк (k = 1.....г) есть число распределений й-го типа
первых п членов последовательности {^, k 1} из Мг.
Теорема 2. Если последовательность случайных величин {§«,
k 1} принадлежит классу Мг, причем Вп-*-ск> при п-*-ск>, суще-
п
ствует плотность f„ (х) нормированной суммы т)„ == ~g~ (ьА — ак)
и выполнено условие
пь
lim min -—g— == оо,	(3.2)
n->oo	In Од
то для того, чтобы имело место соотношение (3.1), необходимо и
достаточно, чтобы существовало такое N, что
sup fN (х) < оо.
X
II. Общие условия сходимости к плотности
нормального распределения. Обозначим через fn(х) плот-
ность распределения случайной величины
п
fe-i
где случайные величины независимы и имеют одинаковое распре-
деление G (х), а {а„} и {£„ >0} — некоторые последовательности
постоянных.
Теорема 3. Для того чтобы существовали последовательности
постоянных {ап} и {рп > 0} такие, что для fn(x) имеет место (3.1),
необходимо и достаточно, чтобы выполнялись следующие условия^
4.3.21
4 3. ЛОКАЛЬНЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
81
1) функция распределения G(x) принадлежит области притяже-
ния нормального распределения (п. 4.1.2);
2) существует такое N, что supf„ (х) < оо.
х п
4.3.2.	Локальные теоремы для решетчатых распределений. Пусть
{1л, п 1}—последовательность взаимно независимых случайных
величин, имеющих одинаковое решетчатое распределение G(x), т. е.
(см. и. 1.4.2) случайные величины принимают значения из неко-
торой арифметической прогрессии {/и-}- kh}, h>0, k=0, ±1, ±2, ...
Пусть случайные величины имеют конечное математическое
ожидание =» а и дисперсию = о2, и пусть Рп (г) =»
( п
= Р S У sz = nm + rh
I Ml
Теорема Гнеденко Для того чтобы равномерно относи-
тельно г (—оо <; г < оо) имело место соотношение
lim I РУ— Рп (г) — <р (xnr) I = О,
П~>оо I П	|
(3.3)
где <р (х) =—т=^е х /2— плотность нормального (0, 1) распределе-
-у2л
ния, а хпг = (п (т — а) + rh)l(? л/п), необходимо и достаточно,
чтобы шаг h распределения G(x) был максимальным.
В частности, если случайные величины !;/> имеют распределение
Бернулли, то теорема Гнеденко переходит в локальную теорему
Муавра — Лапласа.
Локальная теорема Муавра — Лапласа. Если ве-
роятность р наступления события отлична ст нуля и единицы, то
вероятность Рп{т) того, что в серии из п независимых испытаний
событие наступит ровно г раз, удовлетворяет соотношению (3.1) с
г — пр	-----г
х„г = -	. .< - и а = Vp (1 — р).
V пр (1 — р)
В отсутствие предположения о конечности моментов имеет место
следующая теорема.
Теорема 4. Для того чтобы для некоторых последовательно-
стей постоянных {а,,} и {р„ > 0} равномерно по г (—оо < г < оо)
имело место соотношение
lim |-Ь-Рп{г)_<р(хпг)1=0,
Л->оо I п	|
(3.4)
еде <р(х)—плотность нормального (0, 1) распределения и хпг =«
= (пт — апрп + rh) /0П, необходимо и достаточно, чтобы были вы-
полнены следующие условия: 1) общая функция распределения G(x)
случайных величин притягивается к нормальному закону (п. 4.1.2);
2) шаг h распределения G(x) максимален.
82
ГЛ. 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА
[4.4.
4.4.	Уточнение центральной предельной теоремы
и асимптотические разложения
4.4.1.	Неравенства Эссеена и Берри — Эссеена. Пусть {ga,
k 1} — последовательность взаимно независимых случайных вели-
чин, имеющих конечные математические ожидания MEfe=cfe и дис-
п
Персии Dgfe = a2k и В? — a2k > 0. Предположение о существо-
вании моментов порядка выше чем 2 позволяет установить не только
факт слабой сходимости функции распределения F„(x) нормирован-
п
ной суммы Т)д = -д—	(?fe—°fe) к нормальной (0, 1) функции
п й=1
распределения Ф(х), но н выяснить, каким образом это происходит.
Теорема 1. Если для некоторого положительного 6^1 су-
ществуют М |	— ak |2+е, то
п
8ир|Г„(х)-Ф(х)|<Д-1т^ M|gfe-afe|2+e, (4.1)
где А — абсолютная константа.
Неравенство (4.1) в случае 6=1 называют обычно неравен-
ством Эссеена. В частности, если случайные величины gt, ..., 5"
имеют одинаковое распределение и 6 = 1, неравенство (4.1) перехо-
дит в неравенство
sup I Fn (х) - Ф (х) | < А МЦ1~_а|3-.	(4.2)
х	а 'уп
Неравенство (4.2) называется неравенством Берри — Эссеена.
Абсолютные константы в (4.1) и (4.2) не могут быть меньше
величины 1/-/2л. Наименьшее значение константы А в неравенстве
Берри — Эссеена равно
/—	о3
sup 11 м 1— а|3 s“p 1 Fn ~ Ф М I’
где первый sup берется по всем п и всем функциям распределения
Fn(x), имеющим конечный третий момент и нулевое среднее. Точное
значение этой константы неизвестно. Известно, однако, что
Hm sup sup V» м 11 °—-гга-1 Fn (x) — Ф (x) | =	.
n-»oo f x M | gi a |	g -y2n
По современным оценкам значение абсолютной константы А в
неравенстве (4.1) не превышает число 0,7915, а в неравенстве (4.2)—.
число 0,7655. Неравенство Берри — Эссеена допускает следующие
усиления и модификации:
1) IF„(х) - Ф (х) | < А	1з?
a 'Vn (1 +1 х I3)
4.4.2]
4.4. УТОЧНЕНИЕ ЦПТ
83
2)	если р(₽) (Fn, Ф) — расстояние между Fn и Ф в метрическом
пространстве £Р (р 1), т. е.
то
Р,р) (Fn, Ф) < A M|S1 й|3.
а3 уп
Порядок оценок в (4.1) и (4.2) нельзя улучшить, не вводя до-
полнительных предположений.
4.4.2.	Уточнения центральной предельной теоремы в многомерном
случае. Пусть k 1}—последовательность взаимно независи-
мых одинаково распределенных случайных векторов со значениями
в R4 с вектором математических ожиданий = а и положительно
определенной ковариационной матрицей В = cov
Неравенство Берри — Эссеена в многомерном случае имеет вид:
п
если G„(x) —функция распределения вектора —т=- > то
ft
, k	.
*supfe| Gn (х) - Ф0.в (X) |< А (А)( £ pz	(4.3)
где Фо, а(х)—нормальная функция распределения с вектором мате-
матических ожиданий 0 и ковариационной матрицей В; Л(й)—абсо-
лютная константа, зависящая только от размерности Л; р< =
= М[^|3/(М(^)2)3/2;^-/-я компонента вектора £я; Л = det В;
Ли — 1~Ъ главный минор ковариационной матрицы В.
В частности, при k = 2 неравенство (4.3) принимает вид
sup | О. W - Ф„. „ W | < Л (2) Х1АЙ.. 1 .	(4.4)
Л с= i\	1 /V	у ft>
Оценка (4.4) имеет смысл лишь для значений X, которые не очень
близки к ±1, т. е. когда распределение вектора gi не очень близко
к вырожденному.
Оценка скорости сходимости, верная при любых предположе-
ниях о характере зависимости компонент вектора gi, имеет вид
sup I Gn W ~ фо, В W I < в (fe)
Xe=RB
РР
(4.5)
где В (£) — постоянная, зависящая только от размерности k.
84
ГЛ. 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА
[4.4.3
4.4.3.	Асимптотические разложения для сумм случайных вели-
чин. Асимптотические разложения в центральной предельной теореме
основаны на разложении функций по полиномам Чебышева — Эр-
мита Нт(х), определяемым любым из равенств
(х) = (- 1)т ехг'2 е-х’/2
dx т
Ят(х)=т! У - 1 -IL*----------t
A! (tn — 2/г)! 2ft
(4.6)
где [m/2] означает целую часть числа т/2.
Несколько первых полиномов Чебышева — Эрмита имеют вид
Я0(х) = 1; Hi(x) — x; Нг (х) = х1 — 1; //3 (х) = xJ - Зх;
Hi (х) = х4 — 6х2 + 3;	(х) = х5 — 10х3 + 15х; ...
Обозначим /-и семиинвариант случайной величины через у,, и
пусть
m -	ki
Qm (х) =------е-х^ У Hnl^-'2s—t (х) П , V U 2Г+2 ) >
-\/2л	11 kA \(/ + 2)1о'+27
I = 1 *
(4.7)
qm (х) = -yL е~^2 У Hm+2S (х) П — („ \+-г+2-) • (4-8)
V2n	11 ktl \(l + 2)!ol+2 J
где суммирование ведется по всем неотрицательным целочисленным
решениям уравнения ki + 2/ги 4- • • • 4- rnkm — т, a s = ki + к.г + ...
- . . 4" km.
Теорема 2. Если взаимно независимые и одинаково распре-
деленные случайные величины Е„ (п 7г 1) имеют конечный абсолют-
ный момент порядка г :> 3 ,	= а-> DEra — о~ и для них вы-
полнено условие Крамера (С)
lim |g(z) | < 1,
Z->oo
(4.9)
еде g(z)—характеристическая функция распределения G(x) ==
~ Р{?л < х}, то равномерно относительно хе (—оо, оо) для функ-
ции распределения Еп(х) нормированной суммы т]„ =---------7=^Х
а 'фп.
XI / Ej — I имеет место асимптотическое разложение
Г—2
Fn (х) = Ф (х) + У + о (п-{г-2)/2),	(4.10)
4л з;
,л. УТОЧНЕНИЕ ЦПТ
85
где Ф (х) —нормальная (0, 1) функция распределения, a Qm(x)
определяются равенством (4.7).
оо
В частности, если г = 3 и Из
a)3 G (dx), то
Fn (х) = Ф (х) +..= (1 - х2) -Д=- e-v/2 + о
6о3 у/п	у/2п
Разложение (4.10) имеет различные модификации и усиления,
а именно в условиях сформулированной выше теоремы
г-2
(1 + |х|г) Г„(х)-Ф(х)-
= о (п~(Г~2)р). (4.11)
т — 1
Для любого р> \/г
со
г—2
Q/ (х)
Fn (х) - Ф (х) - } —
р
dx = o(n~{r~2}pp). (4.12)
Для любого р ^5 1
Ф (х) |Р dx =
Г—2
5-1 Q[ (х)
р
dx + o(n-<r+P-W).
Для любого Р 5s 1
(4.13)
|| Fn (х) - Ф (х) ||р = £
г 2 Qt (х)
+ о(п-{г~2}12),	(4.14)
оо
ряв Ilf (х)||р =
1/р
I , если
функция f (х) удовлетво-
р
ряст условию
Теорема 3. Если взаимно независимые и одинаково распре-
деленные случайные величины (п 1) имеют решетчатое рас-
пределение со значениями в прогрессии {tn -J- hk}, h > 0, k = 0, ±1,
±2, ..., шаг h максимален, Mgn = a, Dgn = о1 > 0 и существует
конечный абсолютный момент порядка г 3, то равномерно отно-
сительно хе(-оо, оо) для функции распределения Fn(x) нормиро-
1
ванной суммы т] —-------—
а у/п
имеет место асимптоти-
86
ГЛ. 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА
[4.4.2
ческое разложение
г-2
(7^) s,
<ii5)
где
г-2
х—, Q. (х)
Ф„г(х) = Ф(х)+}
1^1
_f 1, если I имеет вид
1 I — 1, если I имеет вид
l=,4k+i или l = ik + 2,
I = 4fe + 3 или I = 4fe;

cos 2л/'х
22/~* (nj)2z ’
<?	_ V sin 2n>x
Теорема 4. Если взаимно независимые и одинаково распре-
деленные случайные величины £я (n 1) имеют конечный абсолют-
ный момент порядка г 3,	= a, Dgn = <т2 > О и плотность
]п(х)\распределения нормированной суммы т\п
ограничена для некоторого п = N, то равномерно относительно
х е (—оо, оо) имеет место асимптотическое разложение
fn (х) = <р (х) + У q‘/~-
0(„-<г-2)/2),
(4.16)
где <р(х) = —-р=е х^2—плотность нормального (0, 1) распределе-
•у2л
ния-, qi(x) определяются формулой (4.8).
Теорема 5. Если взаимно независимые и одинаково распре-
деленные случайные величины |п (и 1) принимают лишь целочис-
ленные значения, максимальный шаг распределения равен 1 и суще-
ствует конечный абсолютный момент порядка г 3, то равномерно
относительно k е (—оо, оо)
« V,7 г, (4) _ Ф <«.,) + £	+о h-t'-V),
С п 1
где Рп (k) = Р J — k I; xnfe = —;	<p(x) — плотность
нормального (0, 1) распределения, а функции ?i(x) определяются
формулой (4.8).
4.5.2]
4.5. БОЛЬШИЕ УКЛОНЕНИЯ
87
4.5.	Большие уклонения
4.5.1.	Зоны нормальной сходимости. Пусть gi, ga....|п, ... —
последовательность одинаково распределенных взаимно независимых
случайных величин.
Если случайные величины удовлетворяют условиям (инте-
гральной) центральной предельной теоремы, то из равномерной схо-
димости функции распределения Fn(x) нормированной суммы т]п к
нормальной (0, 1) функции распределения Ф(х) следует, что равно-
мерно по х из каждого конечного интервала имеют место соотно-
шения
1 —	(х)
1 — Ф(х)
П > ОО,
Fn (-
Ф(- х)
-> 1, п->оо.
(5.1)
Аналогично, если случайные величины удовлетворяют усло-
виям локальной предельной теоремы для плотностей и fn(x) есть
плотность распределения нормированной суммы т)я, то равномерно
по х из каждого конечного интервала имеет место соотношение
fn(x)/—Д=-е	и->оо.
' <2л
(5.2)
Соотношения (5.1) и (5.2) могут иметь место равномерно по х,
меняющихся в отрезках [0, Л(«) ] или [—Л.(п), 0], где Л(и) —неубы-
вающая функция, неограниченно возрастающая вместе с п. Такие
интервалы называются зонами (интегральной в случае (5.1) и ло-
кальной в случае (5.2)) нормальной сходимости. Представление об
интегральной зоне нормальной сходимости дает следующий пример.
Пример. Пусть случайные величины gi, £2, ... описывают схе-
му независимых испытаний Бернулли. Из того, что
f п	___________ "Ъ
1 — Fn (*) = Р < У, > X ^пр (1 — р) + пр >,
I л-1	У
следует, что для любых х> (1—р)/Р имеет место равенство
'1__1ф(х) ^аким образом, в интервале [0, О (V^)l соотно-
шение (5.1) может не иметь места.	__
Для зон нормальной сходимости Л (п) = о (Vп). В частности,
е _
если Л (и) = о (Vя ), то соответствующие зоны называются узки-
ми, если же Л (п) — па, где 0 < а < 1/2 — заданное число, то со-
ответствующие зоны называются мономиальными.
4.5.2.	Индивидуальные асимптотические разложения в схеме
больших уклонений. Пусть случайные величины £», определенные
выше, удовлетворяют условию Крамера:
Нй > 0 такое, что М ехр {й |	| } < оо,	(5.3)
обеспечивающему существование всех моментов g*. В этом случае
зоной интегральной и локальной (если существует ограниченная
плотность вероятности случайных величин нормальной сходимо-
сти является узкая зона.
88	ГЛ. 4. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА	[4.5.3
Обозначим через f(z) характеристическую функцию случайных
величин и пусть ф(г) — Inf (г). При выполнении условия Кра-
мера (5.3) ф (z) является аналитической функцией в окрестности
нуля. Для достаточно малых z равенство ф' (s) — z опреде-
ляет з как аналитическую функцию переменного z.
Степенной ряд Х(г) = Zi + z?.a + гг/.з + ..., определяемый со-
отношением
z3Z (z) == ф (s) — зф' (s) + -i- ф" (s),
называется рядом Крамера. Если = 0, то
- Уз , у4аг-3у|	Т5о2- юу4т3о+ 15у3
Л‘ 3!о3’ Л2—	41о6	’ Лз“	5!ав
где а2 =	и у» — i-й семиинвариант случайной величины
При выполнении условия Крамера (5 3) для xJ>0 и x = o(Vn)
имеют место соотношения
1 — Fn (х) _
1 - Ф (х)
Fn (- х)
Ф (— х)
Если случайные величины кроме того, имеют непрерывную
и ограниченную на всей оси плотность вероятности /(х), то для
г > 1 и х = о п ) имеют место соотношения
Соотношения (5.4) и (5.5) носят индивидуальный характер по
той причине, что ряд Крамера Z(z) определяется всеми семиинва-
риантами и потому однозначно определяется соответствующей слу-
чайной величиной.
4.5.3.	Зоны нормальной сходимости и асимптотические разложе-
ния. Пусть р(п)—как угодно медленно растущая к бесконечности
положительная функция и 0 < а < 1/2. Для того чтобы зоны
[о, и“р («)] и [— и“р (п), О] были зонами нормальной сходимости,
необходимо и достаточно, чтобы
М exp {| Zh |ад(2а+1)}<оо.
(5-6)
При a < 1/6 условие (5.6) является необходимым для того,
чтобы зоны [О, nap («)] и [— rtap (п), О] были зонами локальной
нормальной сходимости, и достаточным, чтобы таковыми были зоны
[О, п“/р («)] и [— п“/р («)> О].
5.1.1]
6.1. СУММЫ НЕЗАВИСИМЫХ СЛУЧАЙНЫХ ВЕЛИЧИН
89
Пуст:> 1/6 а < 1/2. Рассмотрим ряд чисел
i 1 з 1 , «+1	1
6’ 4 ’ 10 ’ 2'rt + 3’’"'*2’
и пусть s таково, что
1 s+1	1 s+2
2 s + 3^O<2 s + 4 ‘
(5.7)
(5.8)
Для того чтобы зоны [о, п“р (п)] и [— пар (п), о] были зонами
(интегральной) нормальной сходимости, необходимо, чтобы было
выполнено условие (5.6) и чтобы все моменты Es вплоть до ($4-3)-го
совпадали с моментами нормального (0, 1) распределения. Эти два
условия достаточны, чтобы зсны [0, и“/р («)] и [— и“/р (и), 0]
были зонами (интегральной) нормальной сходимости.
При выполнении условия (5.6) в зоне [0, и“/р (и)] равномерно
по х имеют место соотношения
1 - Fn (х) ~ [1 - Ф (%)] exp f	),
Fn (— x) ~ Ф (— x) exp I-— Z(sl f—7=^11,
l V» \Vn / J
(5.9)
где Xf*l(z) —отрезок ряда Крамера длиной s, a s определяется
условием (5 8). В отличие от разложений (5.4) соотношения (5.9)
имеют собирательный характер, ибо они верны для классов случай-
ных величин, удовлетворяющих условию (5.6) и имеющих одинако-
вые отрезки ряда Крамера длины s, т. е. одинаковые моменты до
(s + 3) -го порядка включительно.
Литература: [5, 24, 34, 60, 64, 74].
Глава 5. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ
5.1.	Суммы независимых случайных величин
и их распределения
5.1.1.	Свертки распределений. Пусть gi и Еа— две независимые
случайные величины со значениями в Rm, а р, и ра— соответствен-
но их распределения, т. е. меры, определенные на борелевских мно-
жествах А из Rm соотношениями р,(А) = P{g/eA}. Тогда рас-
пределение суммы |1 + Е,а, которая, очевидно, также является слу-
чайной величиной в Rm, задается мерой
р (А) = \ р! (А — х) р2 (dx),
где А — х= {у. // + хе=А}. Мера р называется сверткой мер pi
и р2, она может быть еще представлена так:
Р (А) == Pi (dx) р2 (dy).	(1.1)
х+у е А
90 ГЛ. 5. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ [5.1.2
Свертка мер pi и обозначается pi*g2- Из (1.1) видно, что опе-
рация свертки коммутативна: [Xi*[i2 = [i2*[xi. Пусть Ft(x) p:eR'")—
функция распределения величины Е/. Функция распределения вели-
чины Ei + определяется равенством
F (х) = j Ft (х — у) dF2 (у).
Функция F(x) называется сверткой функций распределения /\ и Fz
и обозначается F = FtxFz- Если существует плотность распределения
/,(х) величин Ен то будет существовать и плотность f(x) их суммы,
при этом
f (*) = J fl (X — у) f2 (у) dy;
f также называется сверткой ft и fz.
Заметим, что для существования плотности распределения сум-
мы Ei + Ег достаточно, чтобы лишь одно слагаемое имело плотность.
Если, например, существует fi(x), то
f w=J f‘ —(d^)-
Если Ei. Еа> ..., Eft — независимые случайные величины из Rm,
то распределение ц их суммы Е = Е< + Ег + ... + Eft задается сверт-
кой распределений р; отдельных слагаемых:
р = gj *	, * pk,
где р( * р2 * ...	— (pt * ... * рл_]) * рлопределяется индуктивно.
Используя коммутативность и ассоциативность сложения случайных
величии, легко убедиться, что и операция свертки обладает этими
свойствами.
5.1.2.	Характеристическая функция суммы независимых случай-
ных величин. Распределение случайной величины определяется ее
характеристической функцией, т. е. преобразованием Фурье соответ-
ствующей меры. Оказывается, что при сложении независимых слу-
чайных величин характеристическая функция суммы весьма просто
выражается через характеристические функции отдельных слагае-
мых.
Теорема. Пусть Еь Еа,	Eft'—независимые случайные вели-
чины со значениями в R"1,	(z) = Me (z g R"1) — характери-
стическая функция величины Е», Е = Еj +	+ Efe. f (z) = Мс;'z'Ч
Тогда f(z) = ft(z) ...fk(z).
Доказательство этого утверждения следует из того, что матема-
тическое ожидание произведения независимых случайных величин
равно произведению математических ожидании, и из независимости
сомножителей в правой части равенства
/<г’6)=Пе(‘-Ч
/=1
Можем установить аналогичное соотношение для преобразова-
ний Лапласа; если Е; (/ == 1, .... k)—независимые неотрицательные
5.2. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ
 । ,ч.liiiiue величины и | = ^+...+^» <Ру (X) = М£ > ф (А) —
k
Me’ -Л», TO <Р W = И Ч’е (h).
i=l
Предположим, что величины принимают значения лишь из це-
численной решетки в R'" (т. е. Е,- имеют с вероятностью 1 цело-
численные координаты). Тогда вместо характеристических функций
\ добио рассматривать производящие функции
hj (z) = М?А
i де z = (z*, ..., zm) — точка из Cm — комплексного /Д-мерного про-
га r.
(транства, | z^ | = 1, a zx — JJ (zk)x (tcRk), x*=(xl, xm)
6=1
(CM. § 3.1).
Обозначим через h (z) производящую функцию величины £ =«
= £14-.- + Тогда h(z) = ht (z) ... hi, (z).
5.1.3.	Примеры. 1. Пусть Ei и E?.— независимые гауссовские ве-
личины в R'”,	= Bi, — корреляционная матрица величины
Тогда характеристическая функция величины & равна
fk (z) = exp { i (z, «ft) — -1 (Z?/.z, z) j.
Если f(z)—характеристическая функция величины Ei + то
f (z) = exp { i (z, ai + a2) — у ((Bi + B2) z, z) j.
Таким образом, &i+?2 также имеет гауссовское распределение со
средним «j+«2 и корреляционной матрицей Bi -|- В2.
2.	Пусть и Е-—•независимые пуассоновские случайные вели-
чины с параметрами at и я2 соответственно. Их характеристические
функции имеют вид
= exp {<д (<->"— 1)}.
Характеристическая функция суммы записывается в виде
/(/) = cxp{(ai + я2) (е“ — 1)}.
Сумма также имеет пуассоновское распределение с параметром
«1 + я?..
5.2.	Определение и основные свойства
безгранично делимых распределений
5.2.1.	Определение. Распределение вероятностей р в Rm назы-
вается безгранично делимым, если для всякого п можно указать
такое распределение р„, что р представимо в виде л-кратиой свертки
распределения рн самого с собой:

п раз
92 ГЛ. 5. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ (5.2.2
Таким образом, величина £ имеет безгранично делимое распределе-
ние, если для всякого п существуют независимые одинаково рас-
пределенные величины £nt, ^п2, .... такие, что
5 =	+ • • • + ^пп-
Можно дать определение безгранично делимого распределения и в
терминах характеристических функций. Пусть <p(z) (zeR") —
характеристическая функция распределения
<р (z) = el <z’р (dx);
если р безгранично делимо, то для всякого п существует характери-
стическая функция <p„(z) такая, что
<₽(*) = <pn(z)n.
Характеристические функции безгранично делимых распределе-
ний называют безгранично делимыми характеристическими функ-
циями. Перечислим некоторые их существенные свойства:
1)	безгранично делимая характеристическая функция не обра-
щается в нуль;
2)	arg<p(z) всегда можно считать непрерывной функцией;
3)	если определить для t > О
<₽(*)' = [<p(z)|'exp{i/argq>(z)},
где arg<p(z)—непрерывная функция, то <p(z)f для всех t > 0 яв-
ляется характеристической функцией, притом безгранично делимой.
5.2.2. Общий вид безгранично делимой характеристической
функции. Для каждой безгранично делимой характеристической функ-
ции <p(z) в R1" можно указать: 1) а е Rm; 2) линейный неотрица-
тельный оператор В, действующий в Rm; 3) конечную меру П(-) на
борелевских множествах Rm, для которой П({0}) =0 ({0}—мно-
жество, состоящее из одной точки 0) такие, что имеет место фор-
мула
Ф (z) = exp | i (a, z) — у (Bz, z) +
+ (2l)
где |x| = V(*, x) • Эта формула называется формулой Леви. В том
случае, когда П = 0, <р (z) будет характеристической функцией гаус-
совского распределения.
Формула (2.1) дает каноническое представление безгранично
делимой характеристической функции. Три элемента — а, В, П—•
определяются характеристической функцией однозначно. Приведем
теорему о сходимости безгранично делимых характеристических
функций.
Теорема. Последовательность безгранично делимых характе-
ристических функций может сходиться только к безгранично дели-
мой характеристической функции. Если <p„(z) определяются форму-
лой (2.1), в которую вместо а, В и П подставлены соответственно
5.2 2J
6.2. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ
93
Вп, Пя, то qn(z) сходится к <p(z), определяемой формулой (21),
тогда и только тогда, когда выполняются условия:
а) для всякой непрерывной ограниченной функции g(x) на Rra,
для которой g (0) = 0,
lim \ g (х) Пп (dx) = \ g (х) П (dx);
П->оо J	J
б) lim { (Впг, г) +
J I л I	)
=(Bz,Z)+{^^n(dx);
1 I л I
в) lim ап = а.
Для характеристических функций в R можно уменьшить число
определяющих элементов до двух Для всякой безгранично делимой
функции <p(z) в R существуют yeR и неубывающая непрерывная
справа ограниченная функция G(x), для которой G(—оо) = 0 та-
кие, что
<р (z) = exp
+<»
— ОО
-T&)-4^dGW • <2-2)
1 Т Л J Л
При этом подынтегральная функция
гри x = 0 доопределена по непрерывности равной —z2/2. Формулу
(2.2) называют каноническим представлением Леви — Хинчина; его
элементы у и G однозначно определяются характеристической функ-
цией. Из теоремы следует, что для сходимости последовательности
характеристических функций <ря(г), представимых по формуле (2.2),
если в ией у и G заменить на уя и Gn, к функции <p(z), задавае-
мой формулой (2 2), необходимо и достаточно, чтобы выполнялись
условия: а) уя->-у; б) Gn(x) -*-„G(x) почти для всех х и бл( + «>)-*•
->-G(+oo).
Приведем еще некоторые формулы для безгранично делимой
характеристической функции в одномерном случае.
Каноническое представление Леви:
о
Ьгг
2
<р (г) — exp { Zyz
etzx — 1
izx
Izx
14-х2
) dM (х) , (2.3)
gizx — j
О
где у е R, b > 0, W (х) и М (х) не убывают соответственно на
(—оо, 0) и (0, оо), ЛЦ—оо) = 0, М(-)-оо) — 0 и
о	1
х2 dN (х) + х2 dM (х) < оо.
-1	о
84 гл. 6. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ [5.2.3
Для безгранично делимых распределений в R с конечной дис-
персией характеристическая функция может быть представлена по
формуле Колмогорова:
<	р (z) = exp | iyz + (eizx — 1 — izx) ~ dK (х)	(2.4)
где К(х) —неубывающая непрерывная справа ограниченная функ-
ция, для которой К(—оо) = 0; подынтегральная функция при х=0
доопределяется по непрерывности равной — z2/2.
Если величина £ неотрицательна и имеет безгранично делимое
распределение, то ее характеристическая функция имеет вид
f	оо	V
<	р (z) = exp | iyz + (е*гх — 1) dM (x) I, (2.5)
l о	)
где 0, a M(x) —неубывающая функция, для которой Af(-}-oo)=
= О, х dM (х) < оо.
о
Если величина | имеет безгранично делимое арифметическое
распределение с шагом ft, то ее характеристическая функция имеет
вид
<	p(z) = exp< гуг+ (etzkfl—V)Ck >,	(2.6)
\	k “ — ОО	)
где y и ft — целые, 0, £	< оо.
5.2.3. Примеры безгранично делимых распределений и характе-
ристических функций.
1.	Распределение Пуассона. Величина g имеет арифметическое
распределение с шагом 1 и Р (£ = ft) = afce~°/ft! (ft^O). Харак-
теристическая функция имеет вид
<p(z) = ехр{а(е‘*—1)},	(2.7)
т.	е. представима по формуле (2.6) с ft = 1, у = 0, Ci = а, Ск — 0,
ft =/= 1.
2.	Обобщенное (сложное) распределение Пуассона. Пусть Ei,
5г, ... — последовательность независимых одийаково распределенных
величин в Rm с распределением ц, a v — не зависящая от них слу-
чайная величина, принимающая целые неотрицательные значения.
п
Положим So — 0, sn“ Е %>k' Тогда величина = sv имеет обоб-
щенное распределение Пуассона. Если рп* обозначает п-кратиуго
свертку меры р, р°* — распределение величины, равной 0 с вероят-
ностью 1, то
ОО
-^-^‘(Л),	(2.8)
п—0
5.2.3]
6.2. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ
95
где а — параметр пуассоновского распределения, входящий в фор-
мулу (2.7). Характеристическая функция величины £ имеет вид
<р (z) = exp < а X (eizx — 1) р (dx)
(2.9)
т. е. может быть представлена
ляемой равенством П (Л) »
которого (а, г) =
(2, х)
1 + I х |2
по формуле (2.1) с мерой П, опреде-
iF 1*	— О и а е Rm, для
1 Т I X I
ц (dx).
3.	Нормальное распределение. Характеристическая функция та-
кого распределения в Rm получается, если в формуле (2.1) положить
11=0, а в одномерном случае — если в формуле (2.2) взять G(x) =0
для х < 0, G (х) = G (0) для х > 0.
4.	^-распределение. Такое распределение в R задается плот-
ностью:
„а-1
Ра W — г (а)'е х, х > 0, ра (х) = 0, х < 0, а > 0.
Характеристическая функция такого распределения имеет внд

(2.10)
и представима по формуле (2.3) с
СО
v=«) TFx5"е Xdx' i==0’
о
Г p~v
N (х) «= 0, М (х) “ — \ -du.
ЗУ
х
5.	Устойчивые распределения. Так называется семейство рас-
пределений в R, для которых характеристические функции задаются
равенством
<р (z) = exp {zyz — С | z |“ (1 + z0co (z, a))},	(2.11)
где у gR, С > 0, | § К 1, 0 < a<2, со (z, а) = signz tg-5- a, a#= 1,
2
co (z, 1) =— In (z).
При a — 2 устойчивое распределение является нормальным. Ха-
рактеристическая функция устойчивого закона при а < 2 может
быть записана по формуле (2.3), если положить в этой формуле
Ь = О, N (х) = Ct/\ х |1+a, М (х) = - С2/х1+“, где С< > 0, С2 > 0 —
некоторые постоянные. Для плотностей устойчивых распределений
явные выражения отсутствуют, за исключением случаев: 1) а = 1/2,
96	ГЛ. 5. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ 15.3.1
₽ = ±1; 2) а = 1, р = 0; 3) а = 2. Для а =* 1/2, Р = 1, у = 0
плотность имеет вид
р(х) = _^х-3/2е-С72х.
*у2л
при а = 1, р — 0, у = 0 получаем распределение Коши с плот-*
костью
р W = л (х2 + С2) •
Для всех устойчивых распределений плотность существует, и ее
можно вычислить по формуле обращения, так как <p(z) абсолютно
интегрируема.
Отметим характерную особенность устойчивых функций распре-
деления: F будет устойчивой функцией распределения, если для
любых at > 0, аг "> 0, bt и Ь2 существуют а > 0 и b такие, что
F(atX -|- bI)*F(n2x + bz) — F(ax + b)
(другими словами, свертки однотипных распределений приводят к
распределению того же типа). С помощью этого свойства опреде-
ляют иногда класс устойчивых распределений, а затем выводят фор-
мулу (2.11) для характеристической функции.
5.3. Предельные теоремы для схемы серий
5.3.1. Общие теоремы. Рассмотрим последовательность серий
случайных величин £п1, ..., (первый индекс указывает номер
серии, второй — номер величины в серии), принимающих значения
из Rm и независимых в каждой серии. Эти величины называются
предельно пренебрегаемыми (или бесконечно малыми), если для вся-
кого е > 0 выполняется условие
lim sup Р { | gni | > е} = 0.
n-»oo l^kn
В этом пункте формулируются условия, при которых суммы
k„
tl
tn = 22 ^>ni предельно пренебрегаемых величин имеют предельное
i-1
распределение. Первый важный факт, который здесь установлен,
можно сформулировать так: если предельное'распределение величин
существует, то оно обязательно безгранично делимо.
Используя этот факт, мы сведем общую задачу о предельных
распределениях для сумм независимых случайных величин к следую-
щей: найти условия, которые нужно наложить на распределения
отдельных слагаемых, чтобы суммы имели в качестве предельного
данное безгранично делимое распределение.
Обозначим через распределение величины в R"1 и опреде-
лим далее такое ani е Rm, чтобы для всех г е R” выполнялось
равенство
KJ.11	5.3. ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ ДЛЯ СХЕМЫ СЕРИЙ	07
Введем на R’’’ меру П„ так, чтобы для всякой ограниченной непре-
рывной функции g(x)
& (х) Пп (dx) = У g (х - anl) y-L—цп{ (dx).
Теорема 1. Для того чтобы последовательность vn распреде-
лений величин £„ слабо сходилась к безгранично делимому распре-
делению с характеристической функцией <p(z), определяемой равен-
ством (2.1), необходимо и достаточно выполнения следующих усло-
вий-.
k„
п
a) lim У\ап! = а-,
П~^оо j __ |
6)
lim lim
е^О n->oo
(x — an!, z)2 цп1 (dx) — (Bz, z)
1-1 | х |<е
в) для всякой непрерывной ограниченной функции g(x)
lim f [g (x) — g (0)] П„ (dx) = ( [g (x) — g (0)] П (dx).
n->oo J	J
Замечание. Если выполняются только два последних усло-
kn
вия теоремы, то распределение — ап, где ап= апр сходится
1=1
К безгранично делимому распределению, характеристическая функ-
ция которого <p(z) задается формулой (2.1), если в ней положить
а = 0. Наоборот, если прн некотором выборе векторов ап е R"1
величина £„ — ап имеет предельное распределение с характеристиче-
ской функцией (2.1), то выполняются два последних условия тео-
ремы и
(kn
lim I У =
П-»оо	/
Для случайных величин, принимающих значения в R, условия
сходимости более простые. Пусть Fni(x)—функция распределения
величины £„/,
kn *	2
ащ = \ . ~-г- dFni (х), Оп (х) = У \ dFni (у + ani).
J * I X	L—Л J * i У
/«=1 —оо
Теорема 2. Для того чтобы последовательность Fn(x) функ-
ций распределения величин слабо сходилась к некоторой предель-
ной функции распределения, необходимо и достаточно выполнения
kn
условий-, а) существует lim V anj = У', б) последовательность
П-+<х>
4 В. С. Королюк и др.
98 ГЛ 5 БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ 153Я
функций Gn(x) слабо сходится к некоторой неубывающей функции
G(x). Если эти условия выполнены, то характеристическая функция
предельного распределения задается формулой (2.2).
kn
Замечание. Если выполнено второе условие, то tn — У*, Ди/
/—1
имеет предельное распределение, характеристическая функция кото»
рого определяется формулой (2 2) с у = О.
5.3.2. Применение общих теорем. Используем эти общие резуль»
тэты для формулировки сходимости к конкретным безгранично де»
лимым распределениям.
1.Условия сходимости к вырожденному рас»
пределению. Пусть задана последовательность серий случайных
величин tm, .... tnkn со значениями в Rm, независимых в каждой
серии. Для того чтобы существовала такая последовательность век-
торов ап е R”, что для всякого е > 0
lim Р {| tn — «п I > е) = 0,
П->оо
где tn= X tm (т. е. tn — ап->0 по вероятности), необходимо и
1
достаточно выполнения условий:
кп
а) У, Д«/ — ап -> 0;
/-I
kn
V1 Г I х — anl I2
(обозначения такие же, как в теореме 1).
2.	Условия сходимости к нормальному распре»
делению. Для того чтобы случайная величина tn имела предель-
ное нормальное распределение в R™ с характеристической функцией
<р	(z) =• exp 11 (a, z) —(Bz, z)
необходимо и достаточно, чтобы выполнялись условия:
kn
a)	lim Уд„/==а;
n->o°
б)	для всех г > 0
£РШп/1>е} =
в)	при некотором е > 0
lim
п->оо
кп -	"1
(Bz, z) — У 1 (ж — ап}, г)2 рп/ (dx) I = 0.
/•==11	J
6.4.1]
6.4 ТЕОРЕМЫ ДЛЯ НАРАСТАЮЩИХ СУММ В R
99
3.	Условия сходимости к обобщенному распре-
делению Пуассона. Последовательность £„ имеет предельное
обобщенное распределение Пуассона, если выполняются условия-.
п
а)	существует lim V Р {£и/ ¥= 0);
n-»oo /У
б)	существует мера v(dx) на Rm такая, что для всякой ограни-
ченной непрерывной функции g(x) на Rm
kn
lim У ( [g (*) - g (0)1 Рл/ (dx) = ([g (x) - g (0)] v (dx).
п-X» J	J
/«1
Если эти условия выполнены, то характеристическая функция
предельного распределения задается формулой
q>(z)«=exp{ \ (е‘- 1) v (dx)
4.	Условия сходимости к арифметическим рас»
пределениям. Пусть величины принимают только целые зна-
чения. Для того чтобы имели предельное распределение, необхо-
димо и достаточно, чтобы выполнялись условия:
п
а)	существует lim V Р {£«/	0} = С;
П-Ь-оо
б)	для всякого целого m существует
lim 22 Р {?„/ — tn} — Cm
П-*оо
д Сд 7. <-т- Если эти условия выполнены, то характеристическая
m
функция предельного распределения имеет вид
<р (z) = ехр { — С + 22 Cmelzm } = exp { 22 Cm (etzm — 1)} •
Замечание. Если положить во втором условии Ст — 0 для
т Ф 1, получим условия сходимости к распределению Пуассона.
5.4. Предельные теоремы для нарастающих сумм в R
5.4.1.	Теорема для нарастающих сумм. Будем рассматривать
последовательность независимых случайных величин |t, ?2, ...
.  в R. Нас будут интересовать следующие вопросы: когда
существуют такие постоянные А„ и Вп, что величины
(4.1)
4»
100 ГЛ. 5. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ Г5.4.1
имеют предельное распределение; как выбрать постоянные Ап и Вп',
каким будет это предельное распределение? Эту задачу можно све-
сти к задаче суммирования величин в схеме серий, если положить
U = 0.2)
'’^dF^x + mJ, (4.3)
п
где ank такие, что V ank = An. Если величины (4.2) будут пре-
k^\
дельно пренебрегаемыми при некотором выборе а„ь, то они будут
предельно пренебрегаемыми, если положить апь — т*, где zn* — ме-
диана величины g„, т. е. такое число, что	1/2. P{lfc<
^mfe)^l/2- Постоянные В„ следует выбрать так, чтобы существо-
вал отличный от нуля конечный предел
п
lim У"1 inf
n-»oo Z—< а
k= 1
где Е*(х)—функция распределения величины £*. После того как
выбраны Вп, можно взять
п
А„= У Гт.+В„ \ ——5-dFb(« + m.)l.	(4.4)
и / । I « п J д2 । v2 к\ ' я/ I ' '
L V + Х	J
Теорема 1. Если для данной последовательности можно
выдрать Вп так, чтобы выполнялось условие (4.3), и при атом для
всякого в > 0
то для существования у t,n предельного распределения необходимо и
достаточно, чтобы выполнялись следующие условия-, существует не-
убывающая функция G(x) такая, что G(—оо) = 0, G(+oo) < оо
и почти для всех у
п VBcn
Е J вЧ7 * (*+"** + ank) = ° М’
ft-1 — оо °П-ГХ
а
„ оо
lim У \ ——=-dFb(x + m. + а .) = G (+ оо),
Zu J Вгп + х2	k nk’
—DO П
где
со
С №
апк= Вп J п2 ,	2 dpk (Х + mk)‘
'	-СО П~Г Х
Если это условие выполнено, то характеристическая функция
предельного закона задается формулой (2.2) с у = 0.
5.4. ТЕОРЕМЫ ДЛЯ НАРАСТАЮЩИХ СУММ В R
101
5.4.21
В случае, когда выполнены условия теоремы 1, в качестве пре-
дельного распределения для величины £„ могут выступать не все
безгранично делимые распределения, а лишь некоторый класс таких
распределений, называемый классом L
Распределения класса L характеризуются следующим свойством:
для них функция G в формуле (2 2) обязательно в каждой точке
1 + х2
0 имеет левую и правую производные и функция —--------G' (х)
не возрастает при х < 0 и не убывает при х > 0 (при этом С'(х)
может обозначать любую производную — левую или правую, воз-
можно, не одну и ту же в различных точках). Если использовать
представление (2.3) для характеристических функций безгранично
делимых распределений, то класс L совпадает с множеством тех
распределений, для которых функции N и М в формуле (2 3) лога-
рифмически выпуклы, т. с. N(—е~х) и М(ех) выпуклы (первая —
вниз, вторая — вверх). Примерами распределений класса L могут
служить устойчивые (в том числе нормальные) распределения.
5.4.2, Применение общей теоремы.
1. Сходимость к вырожденному распределению. Выбором доста-
точно быстро растущих постоянных Вп можно добиться того, чтобы
сходилась к нулю по вероятности. Этот факт не представляет ин-
тереса, если Дп/Вп-»-0. Если же последнее условие не выполняется,
п
то можно указать такие постоянные Сп, что-g— — 1 сходится
” fe-i
по вероятности к нулю. В этом случае постоянные С„ в определен-
п
ном смысле характеризуют рост случайных сумм У t,k, а сами
суммы называются относительно устойчивыми.
Пусть постоянные А„ и Вп выбраны в соответствии с формула-
ми (4.3) и (4.4). Если lim -б2- = 00. то для всякого е>0
п->оо tsn
Возьмем другое условие относительной устойчивости. Пусть су«
ществуют такие постоянные Сп, что выполнены условия:
п
2) если Ffe(x) — функция распределения величины £*, то
С„
П	лП
У* _L. \ х dFk (х) = 4-00,
—i Сп i
“СЛ
102
ГЛ. 5 БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ
155.4.2
Тогда соотношение (4 5) выполняется, если положить
А
п
(х).
Предположим теперь, что величины одинаково распределены
И неотрицательны, Р > 0} > 0. Для относительной устойчивости
сумм необходимо и достаточно выполнения следующего условия!
t
/х ф-го)] 5 х dF м=+°°
о
(в случае, когда 1—F(t0) =0 при некотором to, считаем, что
С/0 = +оо при С > 0, так что это условие выполняется) Постоян-
ные Ап такие, что выполняется соотношение (4.5), можно взять
равными Ап = п х dF (х), если Сп таковы, что A,JCn-+- 4~оо и
о
lim п (1 — F (Сп)) = 0. Здесь F(x)—общая функция распределе-
П->оо
ния случайных величии £,к.
Пример. Пусть величины принимают значения 2" (п = О,
1, 2, .,.) с вероятностью 1/21 ь1. Тогда для 2" t < S'4 1
1
ф-П0]
t
Г	2”
\ х dF (х) — —р п -> + оо.
о
Если взять Ап = п1пп, то будет выполнено (4 5): С„ здесь можно
взять, например, равным п-\/1пп.
2. Сходимость к нормальному распределению. Пусть — после-
довательность независимых случайных величин с функциями распре-
деления Г*(х). Не ограничивая общности, будем считать, что их
медианы zn* — 0 (иначе можно было бы рассматривать величины
t* — mk).
Для того чтобы существовали такие постоянные А„ и Вп, что
случайная величина
ЦРЧ п -> ре имеет предельное нормальное распределение и дед всех
е > О

Л 4 3]	'	5.4. ТЕОРЕМЫ ДЛЯ НАРАСТАЮЩИХ СУММ В R ЮЗ
необходимо и достаточно, чтобы существовали такие постоянные Сп,
по
° дг£р(|Е‘|>с»>-0-
п	г	2
2) lim J \ *2 dFk W J х dFk 1=+°°«
При этом можно положить
п
| х* dFk (х) — f J х dFk (х)
Л-l 11 * КС,,	Мх|<Сп
п
Лп=£ J xdFk(x).
fe-1 1х|<С„
Характеристическая функция предельного нормального закона будет
иметь вид <р(z) = е-2*2.
5.4.3.	Предельные теоремы для одинаково распределенных сла-
гаемых. Пусть gi, ...независимы и одинаково распределены.
Укажем условия, при которых существуют такие постоянные Ап и
В„, что величина
при п -► оо имеет предельное распределение. В этом пункте нас бу-
дут интересовать предельные распределения, отличные от вырожден-
ного и нормального, так как сходимость к последним уже рассма-
тривалась ранее. Кроме того, ограничимся лишь случаем величин
со значениями в R.
Теорема 2. Если величины t,n имеют предельное распределе-
ние, то оно обязательно устойчиво.
Функция h(t), определенная для t > 0 (либо для всех целых
/ > 0), называйся регулярно меняющейся, если для всех k > 0 су-
ществует
при ti оо, tiltz k. Этот предел (он, естественно, зависит лишь
от k) обязательно имеет вид ka (—оо < а < -f-oo). Показатель а
называется степенью регулярно меняющейся функции-, при а = 0
функция называется медленно меняющейся. Регулярно меняющаяся
функция степени а представима в виде h (/) = tah0 (t), где fto(O—
медленно меняющаяся функция.
Примерами медленно меняющихся функций служат:
а)	функция h(t), для которой lim h (t) существует и не ра-
t-»oo
вен 0;
104 гл. 5. БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ (5.4.3
б)	h (f) = (log f)$, каков бы ни был показатель Р;
в)	h (t) = [log log (t + 1)]₽ для всех p.
Общий вид медленно меняющейся функции дает формула
h (t) = С (t) exp
« (г)
2
dz
где существуют lim С (f) =/= 0 и lim а (г) = 0.
t->4-oo	г-»+«>
Условия сходимости к устойчивым законам с показателем а
дает следующая теорема.
Теорема 3. Для того чтобы существовали постоянные Ап и
Вп такие, что величины £„ имели предельное устойчивое распределе-
ние с показателем а, необходимо и достаточно, чтобы
а)	функция h(t) — 1—F(t)+F(—t) (Z > 0) была регулярно
меняющейся степени а (0 < а < 2);
б)	существовал предел
lim —j—r— = Л.
/->оо Л (О
Если эти условия выполнены, то характеристическая функция
предельного устойчивого закона будет иметь вид
<р (z) = exp {/yz — С | z |° [1 + ip® (z, а)]}	(4.6)
(см. формулу (2.11)), где у и С — некоторые постоянные, зависящие
от выбора постоянных А„ и Вп; а — то, что упомянуто в условии а);
Р = 2Х— 1, где 1 взято из условия б).
Выбор постоянных Вп можно осуществить способом, не завися-
щим от значений а и X, именно, В„ можно выбрать так, чтобы
lim nh (Вп) = 1	(4.7)
П->оо
(из регулярности функции h следует, что это всегда возможно).
При выборе А„ следует рассмотреть три случая.
1)	а < 1, А„ = 0. Если Вп выбрано в соответствии с (4.7), то
в формуле (4.6) у == 0, С — ——-—- cos — а (Г — гамма-функция
Эйлера).
2)	1 < а < 2. В этом случае существует а и А„ = па.
При таком выборе Ап и Вп будем иметь в (4.6) у = 0, С =
Г (2 — а) я	.
= —~'ja	cos — а (Г — гамма-функция Эйлера).
3)	а = 1. В этом случае можно взять А,
х
х2+В2п Х
XdF(x) (В,, определяются из (4.7)). При таком выборе постоянных
Аа н Вп будем иметь

sin t>	1 I ,
----Т~ “ —7i—i---За* I
V2 v (1 + V2) J
о
л и т е р а т у р а: [23, 24, 33, 34, 51, 60, 64, 68, 89, 94].
Г 1 и 6.1. ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ВЕЛ11ЧИН	108
Глава 6. ОСНОВНЫЕ ВЕРОЯТНОСТНЫЕ
РАСПРЕДЕЛЕНИЯ
В этой главе систематизированы результаты о функциях, опре-
деляемых случайными величинами и случайными вРкт0Рами> и при-
водя гея основные сведения о наиболее важных вероятнос™ь1х Рас*
нределспиях
6.1.	Характеристики случайных величин
6.1.1.	Функции распределения и плотность распределения. Пусть
£ — случайная величина. Функцией распределения случайной вели-
чины £ называется функция
f \ (%) = Р {£ < х}.
Имеют место следующие свойства:
а)	0 С (х) ’С 1;
б)	Fj (х) не убывает, непрерывна слева *) и удовлетворяет усло-
виям
F>\—
6	Х->оо s	6	х-*°°
(в случае F^ (оо) = 1 случайную величину | называют собственной,
в случае F^ (оо) 1 — несобственной, при этом 1 —' ^5 (°°) = Р (I =*
= °°});
в)	F% (х) имеет не более чем счетное число разРЬ1В0В (скачков);
г) F^ (х) может быть представлена в виде
F^ (х) = а/^> (х) + р/=|ас) (х) 4- y^s) (х)	(1.1)
(разложение Лебега), где а > 0, 0	0, у 0, а + ₽ + V = 1»
F^ (х) — ступенчатая функция распределения, F^ (х) — абсолютно
непрерывная функция распределения, (х) — сингулярная функ-
ция распределения (т. е. непрерывная функция расг)Ределения такая,
что	(х) = 0 почти всюду по мере Лебега).
Распределения, порождаемые функциями распрсЛелсния F^ (х)
(х),	(х), называются соответственно дискретными> абсолют-
но непрерывными (относительно меры Лебега) и си11гУляРными- Если
F^ (х) =	(х), то существует неотрицательная функция (х)
такая, что
X
Е5(Х)= J hWdu,
— со
*) Если функция распределения определена раВеиством F^ (х) в
= Р х), то F% (х) непрерывна справа.
103	гл. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ	[6.1.2
которая называется плотностью распределения (порождаемого
F6(z)). Таким образом, любая функция распределения является
сме?ью дискретной, непрерывной и сингулярной функций распреде-
ления.
6.1.2.	Моменты и семиинварианты. Обозначим через mt и ц»
соответственно fe-й начальный и k-й центральный моменты случайной
величины g (см. и. 1.6.4):
+оо
/nA = Mgft== xkdF^(x),
— ОО
©о
= М (g-Mg)* = J (x-Mg)*dFs(x).
—-ОО
Начальные и центральные моменты связаны очевидными соотноше-
ниями (mo = go = 1)
k	k
Пусть v* = M[g|*— k-й абсолютный момент. Имеет место не-
равенство
„Аз-fil „Аз-Й2„&2- ftl
для любых 0 ki sg ki fes (неравенство Ляпунова}, Vi^Vv?
3__	г
< Vv8 < • • • < V^r-
В связи с моментами возникают следующие два вопроса (так
называемая проблема моментов).
Имеются константы ав, at, аг, ... .
1. При каких дополнительных условиях эти константы являются
моментами некоторой случайной величины g?
2. Если эти константы являются моментами некоторой случай-
ной величины g, то может ли существовать другая случайная вели-
чина Т| с теми же моментами? Если да, то при каких дополнитель-
ных условиях моменты определяют случайную величину g единствен-
ным образом?
Ответ на поставленные вопросы даёт следующая теорема.
Теорема. Последовательность чисел ав, 'at, аг, ... с аа = 1
является последовательностью моментов некоторой случайной вели-
чины g, принимающей значения в [О, 1] тогда и только тогда, когда
(—l)rA'aft > О, k > 1, г > 1,
еде Дга* — r-я разность, определяемая рекуррентно:
^ak=ak+i~ak<
&.2ak = & (Aafe) = ak+2 — 2aft+1 + afct
^4 = &^r“,afe>
0.1.3]
6.1. ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ВЕЛЦЧИН
107
В общем случае ответ на первую половину второго вопроса
утвердительный; например, у семейства плотностей
f /„х Г с ехр { — ахл} {1 + е sin ₽хл}, *>о,
'е( ’ to, х<0,
где с — нормирующая константа,
(0, 1/2), а > 0, ₽ = atgltt, 1®1 <1.
моменты совпадают для всех е.
Для абсолютно непрерывных распределений моменты однозначно
определяют распределение, если
1) в случае х с: (—оо, 0)
(х) < М I х |Р-1 ехр { - а | х |х}
для М, а, 0 > 0, X 1 и всех |х| > хв для не>гОТОрОГО Хо > д.
2) в случае х е [0, оо)
fl (х) < Afxe-1 ехр { — ах*}
для Л1, а, Р 0, X 1/2 и всех х хв, начиная q некоторого
ла > 0 (критерий Стилтьеса).
Для произвольных распределений, сосредоточеннЬ1Х на (—оо, оо),
моменты однозначно определяют распределение, если> например,
п
a)	lim sup < оо, либо
П-»оо п
2п___
б)	lim sup -3^2" < оо, либо
Я-> оо 2/2
оо
в)Х аГ.....= °°-
и=0 Vfen
6.1.3. Характеристики формы и расположения. £сли случайная
величина £ абсолютно непрерывна, то значения х, е которых плот-
ность (х) достигает своего максимального значеИИЯ) называются
модами. Если мода единственна, то распределение случайной вели-
чины называют унимодальным, в противном случае мультимодаль-
ным.
Если g — дискретная случайная величина и Р {g = } = р^ то
ее модами называются те значения х,, для которых
Р {£ = х,}= max рг
Медианой случайной величины £ называется Значение
которого
Fl (х') <1/2, Fi (х' + 0) > 1/2.
ДЛЯ
108
ГЛ 6. ВГРОЯТПОСТНЫЕ РАСПРЕДЕЛЕНИЯ	[6.2.1
Для случайной величины g с абсолютно непрерывным распреде-
лением медиана определяется как значение х', для которого
X7	СО
( f (я) dx = t f (х) d v — 1/2.
Кванты 1Ь порядка «. а < / (0, 1). е< '• .чткчие ха, для которого
Если £— случайная величина с абсэгногио непрерывным распреде^
лением, то квантиль ха порядка а определяется равенством
Мешана является квантилью порядка 1/2
Если случайная веллчина § имеет колгч;п:е моменты до чегвер-
того включитеть::о, то вс шчииа
JI. М (s — М;.3
V(DIP
называеия ко 1ффц",нг>' <ом асыкыегрии, а
есть коэффициент эксцесса се распределения. Эти величины харак-
теризуют степень отличия функции распределения F^ (х) от функ-
ции распределения Ф(х) стандартного нормального распределения,
для которого коэффициенты асимметрии и эксцесса равны пулю.
6.2. Дисклетт<ые распределения
6.2 1. Вырожденное распределение. 1. Случайная величина §
имеет выро кдениое распределение, сосредоточенное в а, если
Р {g = а} = 1.
Функция распределения:
2. Характеристическая функция:
ЧФ) = г1'".
Моменты:
Mgfc = uA; Щ=о.
3. ’Вырожденное распределение описывает неслучайные величи-
ны. Верно обратное утверждение: если случайная величина !; имеет
конечное математическое ожидание и нулевую дисперсию, то
Р {§ ==	= 1,
I.	 i|	6.2. ДИСКРЕТНЫЕ РАСПРЕДЕЛЕНИЯ	109
»
С>.2.2. Распределение Бернулли. 1. Случайная величина Е, имеет
р.п прсделспне Бернулли с параметром р (0 < р < 1), если
P{g=l} = p, P{g = O) = l—р.
Функция распределения:
( 0,	х «С О,
F (х) = < 1 — р, 0 < х < 1,
(. 1,	х > 1.
2.	Характеристическая функция:
<!(/) - 1 +р(е«-1).
Мимен п.г
Mt/ р: Dr, р (1 — р).
3.	Распределение Бернулли играет фундаментальную роль в тео-
рии вероятностей и математической статистике, являясь моделью лю-
бого случайного эксперимента, исходы которого принадлежат двум
взаимно исключающим классам.
6.	2.3. Биномиальное распределение. 1. Случайная величина §
имеет биномиальное распределение с параметрами (п, р) (0<р<1,
п 5?. 1), если
р {g = p} = с*р* (l-p)n-ft, Л = 0.....п.
Функция распределения:
I У сУ(1-р)п-*, /<х</+1,
F (х) = {
11, X > п,
(0, х < 0.
2.	Характеристическая функция:
<Р (0 = [1 + Р (elt - 1)]»
Моменты:
ME, ==//р, Mg2 — пр + п (п — 1) р2. Mg3 — пр (1 — р) (1 — 2р),
= Зп2р2 (1 — />-) -|- пр (1 — р) (1 — 6р (1 — р)); Dg = пр (1 — р).
Мода: т = p(n -f- 1) — 1 х ejp(n -}- 1).
Коэффициент асимметрии: — (д — р)/^\/пр (1 — р); коэффи-
1-6р(1-р)
циент эксцесса:	.
яр(1 —р)
Центральные моменты цк — М (£ — М£)й могут быть вычислены
по формуле
[Ь
"g*-i+“d7r
3.	Биномиальное распределение является моделью случайных
экспериментов, состоящих из п независимых однородных испытаний
ПО	ГЛ 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ	[6.2.3
Бернулли: если g* (k — I, ..., я) независимы и имеют расггределе-
п
ние Бернулли с параметром р, то случайная величина g== gft
k^i
имеет биномиальное распределение с параметрами (п, р).
4.	Если р таково, что пр(1—р)>9 и 1/(л + 1)< р < nf(n-f-l),
то можно пользоваться следующими приближенными формулами:
Вр [tl, k) = Р {g = k} « -
Vnp(l—р) kVnp(l—р)/
где <р (х) = —j== е —плотность стандартного нормального рас-
пределения, либо
Bp(n, k)
(х 4- 0,5 — пр \
Vnp(l—р} /
х — 0,5 — пр
'•J пр (1 — р)
X	X
где Ф (х) = \ <р (я) du = —т=- 1 du — функция стандарт-
J	•у2л J
— СО	— оо
кого нормального распределения.
При тех же значениях р для функции распределения F(x) можно
использовать приближение
Е(х)
«Т> ( х ~t0,5 ~ пр
V V«p (1 — р)
Если яр3/2 > 1,07, то ошибка при использовании нормальной функ-
ции распределения вместо биномиальной не превосходит 0,05 при
всех х.
Если р имеет одинаковый с 1/я порядок при больших п либо
р < 0,1, можно использовать приближение распределением Пуас-
сона
ь	k I
ВР (п, k) «е~пр, F (k) « У е~пр.
Z-0
(х) — функция распределения бета-распределения с пара-
Пусть Еа₽
метрами а и р. Тогда
Ptt<*) = Fn_ft>fc+1 (1-р).
Если r\mi т2— случайная величина, имеющая /•'-распределение с
(mi, тг) степенями свободы, то
= Р Vl2(n-fe), 2 (fe+1)
(fe + 1) (1 - р) 1
(п — k) р У
«  IJ
6.2. ДИСКРЕТНЫЕ РАСПРЕДЕЛЕНИЯ
111
(i.2.4. Отрицательное биномиальное распределение (распределе-
ние Паскаля). 1. Случайная величина g имеет отрицательное бино-
миальное распределение (распределение Паскаля) с параметрами
р), если *)
P{g = X) = C*+ft_1pr(l-p)fe, А=0, 1, 2, ...
2 Характеристическая функция:
Mown пл:
Mg -л(1 — р)/р: Dg<=>r (1 — р)/р2,
М - Mg)3 =.<(‘
Р
М (g - Mg)4 = Г (1 ~ p) (Зг (1 - p) + 6 (1 - p) + p2).
Коэффициент асимметрии: Yi =; коэффициент экс-
Vr (1 - p)
6 , p2
uecca: y2 = -- + r (1 _ p).
3.	При натуральном г отрицательное биномиальное распределение
описывает число испытаний в схеме Бернулли, необходимых для
того, чтобы получить значение 1 ровно г раз.
Если случайные величины gs (k — 0, 1, 2, ...) независимы и
имеют логарифмическое распределение, то случайная величина
т
g = V gfe, где v не зависит от g^ и распределена по закону Пуас-
j£o
соиа с параметром X, имеет отрицательное биномиальное распреде-
ление с параметром г — —X/in р.
Еще одна характеризация отрицательного биномиального рас-
пределения состоит в следующем.
Пусть р — случайная величина, имеющая Г-распределение с
плотностью f (х) = Кпха~'е~Кх (х О)- Пусть ц — случайная
величина, при фиксированном значении р = т имеющая распреде-
„	Г-. ,	, ।	х —т tnk
ление Пуассона с параметром т: г (т] = к | у. = т) = е
(/г = О, 1, ...). Если положить X = р/(1—р), а = г, то безуслов-
ное распределение случайной величины т] будет отрицательным би-
номиальным:
Р(Ч = А) = Сг\й_1рг(1-р)6.
*) Для нецелых г величина определяется так:
(г + fe-l) (r + fe-2)...r
kl
112
6.2. ДИСКРЕТНЫЕ РАСПРЕДЕЛЕНИЯ
[6.2.6
В такой интерпретации отрицательное биномиальное распреде-
ление имеет приложения к статистике несчастных случаев и заболе-
ваний, к задачам, связанным с количеством особей данного вида в
выборках из биологических популяций, и т. д.
4.	При фиксированном р отрицательное биномиальное распре-
деление безгранично делимо.
6.	2.5. Геометрическое распределение. 1. Случайная величину §
имеет геометрическое распределение с параметром р (0<р<;1),
если
Р {g = k} = р (1 - p)k, k — Q, 1, 2, ...
2. Характеристическая функция!
Моменты:
Mg = (l-p)/p; Dg = (l-p)/p*,
М (g - Mg)3 = (1	, м (g- Mgr == 9(1у р)2 +
2 —— n
Коэффициент асимметрии: yi =>= —.	; коэффициент эксцес-
V1 —Р
„ , Р2
са: у2 = 6 + t
3.	Является частным случаем отрицательного биномиального
распределения с г = 1. Описывает число испытаний в схеме Бер-
нулли, необходимых для того, чтобы получить значение 1 ровно
один раз.
4.	Важность геометрического распределения объясняется свой-
ством, называемым отсутствием последействия: для любых tn, п О
Р {g > tn + п I g > mJ = Р {g > п}.
6.	2.6. Гипергеометрическое распределение. 1. Случайная величи-
на g имеет гипергеометрическое распределение с параметрами (N,
р, п) (0 < р < I), если

k = 0,'..., n.
2.	Характеристическая функция:
_ [АГ(1 — p)lln] V [Wp](fMfle*ff
4’ '	АГ1"1 Д' [AT (1- p) - n + Z]U)/i ’
I —и
где C(C—1) (С —2) ... (C —Z+ 1); <p(Z) является решением
дифференциального уравнения
(1 —е“)	— (ti + Np)^- + Npntf\ — Npruf + N =
ell	ui	j	и*
6.2.7]
6.2. ДИСКРЕТНЫЕ РАСПРЕДЕЛЕНИЯ
113
Моменты:
N — п
= пр; Щ = -jy — пр (1 — р),
м (I -	»р (I - р> <1 - ЭД:
М tt - МВ< -	<» <v +1) + 6» <.v - «) +
+ Зр (1 — р) [п (N — п) (N + 6) — 2Л/г j}.
.	(1-2р)(АГ-2п) д/лГ=1
КокЬфнпwn г псиммеi рпп: у, «= —т^-	- 	;
V "/> ( — Р) (W — п)(Ы — 2)
I   >i|il|i 11111 И' 111 Нч 11«'< ' .1
N4N 1)
' и (Л/-2) (N - 3) (N - п) *
..Гбп —6А'+1 Зп(ДГ —n)(l(W—12)	1
XL Np(l—p) +	№(-ЛГ-1) Г
3.	Типичная схема, в которой появляется гипергеометрическое
распределение: проверяется партия готовой продукции, которая со-
держит А'р годных и Л'(1—р) негодных изделий. Случайным обра-
и>м выбирают п изделий. Число годных изделий среди выбранных
описывается гипергеометрическим распределением.
4.	Если п мало по сравнению с А' (практически, когда
« < O,1.V), то
f>k r^tl-k
^Cy(l-p)n~k.
CN
6.	2.7. Распределение Пойа. 1. Случайная величина !• имеет рас-
пределение Пойа с параметрами (N, р, n, s), если
Р{£ = Л} =
__ ft (ft + а) .,. [ft + (ft — 1) s] с (с + s) .   [с + (я — fe — 1) а]
N(N + s) ... И + (п- l)s]
где ft — Np, с •= N (I — р).
2.	Момешы:
...	..-о	п + р + 1 + sIN
ЫЪ^пр, Ы?*=пр-----------------1
пр /< I 1 + ns/N
D^npa-p) .^-^.
3.	Распределение Пойа появляется как модель следующего экс-
перимента: имеется урна, в которой находится ^p белых и А'(1 — р)
черных шаров. Наугад вынимают шар и после определения цвета
ого возвращают в урну вместе с s новыми шарами того же цвета.
1огда | означает число выниманий белого шара в серии из п выни-
маний. Этот эксперимент широко используется при моделировании
эпидемий заразных заболеваний,
114	гл. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ	16.2.8
4.	Если п мало по сравнению с N, то
Р {? = &}« C*pk
6.	2.8. Распределение Пуассона. 1. Случайная величина g имеет
распределение Пуассона с параметром 1 (1 > О), если
тА
Р {| = ^=-тГе-\ А = 0, 1, 2, ...
I
2.	Характеристическая функция:
<р (/) — ек
Моменты:
Mg = X, Mg2 = X2 + X; Dg = Z.
Центральные моменты jxfe = М (g — Mg)ft могут быть найдены
из соотношений:
А-2
либо ==/гХ|хй_1 + X
1=о
k-i
начальные моменты: для k 1
/=» о
Коэффициент асимметрии: у, = X/^jK коэффициент эксцесса:
Ya = 1Д.
3.	Распределение Пуассона является приемлемой моделью для
описания случайного числа появления определенных событий в фик-
сированном промежутке времени, в фиксированной области про-
странства.
4.	Если пр -» X, то C^pk (1 — p)n~k -> -^j- е~\ Для больших Л,
имеет место приближение
Р {g < fe) « Ф
где Ф (х) — нормальная (0, 1) функция распределения.
Если Fm(x) —функция распределения /^распределения с т сте-
пенями свободы, то
р {I k} = 1 — Г2(А+1) (2X).
Если g имеет распределение Пуассона с параметром %, то для
больших 2. случайная величина Vf имеет распределение, близкое
к нормальному с параметрами (V*. 1/4).
5.	Распределение Пуассона безгранично делимо. Если сумма не-
зависимых случайных величин распределена .по закону Пуассона, то
и каждое слагаемое распределено по этому закону.
Пусть gi( g2, ... — последовательность независимых одинаково
распределенных случайных величин и v — случайная величина, имею-
&2.10]	6.2. ДИСКРЕТНЫЕ РАСПРЕДЕЛЕНИЯ
115
щая распределение Пуассона с параметром Л. Распределение слу-
v
чайной величины & = Zk называется сложным, пуассоновским
распределением.
Характеристическая функция случайной величины
где ф(0—характеристическая функция случайной величины §*.
6.2.9.	Обобщенное биномиальное распределение. 1. Случайная
величина £ имеет обобщенное биномиальное распределение с пара-
метрами (п, pi, рг, .... ра} (0 < pi < 1, I = 1, .... л), если
П(1-р4). *=о.
i-I
=
..П — 1,
п
JJ рр k = «.
1-1
2.	Характеристическая функция:
Ч)(П=П[1+/’ие“-1Я-
Моменты:
= L pk’ м&2 “ Е pk + X pkPi’ =X pfe (‘ - Pa)-
k^l	&==*1
3.	Пусть £i, ^2.... Ел — независимые случайные величины
имеющие распределение Бернулли с параметрами pt, рг, .... ра со-
п
ответственно. Тогда случайная величина Е = У, fes имеет обобщен-
ье
ное биномиальное распределение.
1 1
Если р=— £ Pk и = J2 Рй“Р2> т0 0§==яр(1-р)-
—пвр р.Поэтому дисперсия биномиального распределения с парамет
рами (п, р) на п дисперсий случайной величины Е с распределением
Р {£ = рй} = 1/п больше, чем распределение случайной величины Е,
с обобщенным биномиальным распределением.
6.2.10.	Логарифмическое распределение. 1. Случайная величина Е
имеет логарифмическое распределение с параметром р (0 < р < 1),
если
116
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
[6.2.11
2. Характеристическая функция:
45 (/) = hTFln [1 “(I “ р} giiJ=1 “ ЙГ7|П [’
Моменты:
Mg = -	Mg
6 Р In Р 6
(1 - р) <
р-П
(i-р) t2
р-21
Dg
1 -Р м£з_ (1-р)(2-р)
р21пр’ 6 р3 In р 1
1 -Р
р2 In р
1 —Р
In р
3.	Логарифмическое распределение является предельным для
отрицательного биномиального распределения в следующем смысле.
Если гр — случайная величина, имеющая отрицательное биномиаль-
ное распределение с параметром (г, р), то
л _ o\k
lim Р {rjr = k | 7]r > 0} ---:
r->0	Л In p
4.	Логарифмическим называют также
величины g, у которой
р {£ = k} = logm (k + 1) - logm k,
распределение случайной
k= 1,..m — 1.
6.2.11.	Распределение Бореля — Таннера. 1. Случайная величю*
на | имеет распределение Бореля — Таннера с параметрами (г, а)'
(0 < а < 1), если
р U = k} = -7^ kk~T~}e~akak~r, k«г, г + 1....
\к
2.	Моменты: Mg = r/(r — а); Dg — аг/(1 — а)3.
3.	В теории массового обслуживания распределение Бореля —<
Таннера определяется как распределение числа требований, обслу-
женных на периоде занятости в системе массового обслуживания с
пуассоновским входящим потоком с параметром а и постоянным
временем обслуживания в том случае, когда в начальный момент
длина очереди равна г.
6.3.	Непрерывные распределения
6,3.1.	Равномерное распределение. 1. Случайная величина g
имеет равномерное распределение на отрезке [а, 6] (а < Ь), если
1/(6 — а), хе [я, Ь],
0, х £ [а, Ь].
Здесь и далее через f(x) обозначена плотность вероятности соответ-
ствующей случайной величины (рис. 1).
2.	Характеристическая функция:
ф (0 “ (elib — etta)!(b — a) It,
f (х) = |
6.3.2J
6.3. НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ
117
Моменты:
.	(b а}2
^-(b-a)(k+D	=	^=-Т-
Коэффициент асимметрии: уч = 0; коэффициент эксцесса: уг =
= 9/5.
3.	С помощью линейного преобразования = (§ — а)ЦЬ — а)
приводится к равномерному распределению на отрезке [О, 1]. Равно-
мерное распределение является непрерывным аналогом распределе-
ний классической теории вероятностей, описывающих случайные экс-
перименты с равновероятными исходами.
Рис. 1. Плотность равномерного
распределения
Рис. 2. Плотность треугольного
распределения
4.	Погрешность, происходящая от округления числа, удовлетво-
рительно описывается равномерным распределением на отрезке
[-1/2, 1/2].
Если случайная величина £ имеет непрерывную функцию распре-
деления /•'j-(х),то случайная величина g = /?j(g) имеет равномерное
распределение на отрезке [0, 1]. Этим объясняется широкое исполь-
зование равномерного распределения в статистическом моделирова-
нии (методы Монте-Карло).
6.3.2.	Треугольное распределение (распределение Симпсона).
1. Случайная величина g имеет треугольное распределение (распре-
деление Симпсона) на отрезке [с, й], если
С 2	2
с . I -г------------7Т----I а + ь — 2х I, х <= [я, 6],
f U) = S Ь — а (Ь — а)г	'
(.0, х ф. [я, й]
(рис. 2).
2.	Характеристическая функция:
Моменты:

(& - fl)2 (k + 1) (k + 2)
(b - я)2
24 *
Dg
118
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
[6.3.3
Коэффициент асимметрии: уд — 0; коэффициент эксцесса: уг =»
= —3/5.
3.	Если и £,2 — независимые случайные величины, равномерно
распределенные на отрезке [а/2, Ь/2], то случайная величина g =.
= '£< + Е2 имеет треугольное распределение.
6.3.3.	Показательное (экспоненциальное) распределение. 1. Слу-
чайная величина £ имеет показательное (экспоненциальное) распре-
деление с параметром X > 0, если
f(x) = P^’
(о,
(рис. 3).
2. Характеристическая функция:
х < 0
<р(/) = 2-/(2.— it).
Моменты:
MVJ = XI/Xfe: Dg=l/X2.
Медиана: т = 1п 2/2.; коэффициент асимметрии: уд ~ 2; коэф-
фициент эксцесса: уг ~ 6.
Рис. 3. Плотность показатель-
ного распределения
Рис. 4. Плотность гипсрэкспо-
иенциальпого распределения
3. Непрерывный аналог геометрического распределения. Обла-
дает свойством отсутствия последействия:
P{g>l + sH>S} ==₽{£>[},
в связи с чем является основным в теории скачкообразных марков-
ских процессов
6.3.4. Гиперэкспоненциальное распределение. 1. Случайная вели-
чина £ имеет гиперэкспоцепцналыюе распределение с параметрами
т
(т\ at, аг, ..., а,„;	7.2, ..., 2.от), aij-.ii 5s 0, J"* ak == 1 (смесь экс-
/Д
поненцпалышх распределений), если
т
f (х) = <
о,
х>0,
х < 0
(рис. 4),
6.3.5]
6.3. НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ
119
2. Характеристическая функция:
ak%k
X. — it
к
Моменты:
т
л=1
3. Введем случайные величины (k = 1.......т),	принимающие
/ т	\
значения 0 или 1, причем Р {Ik — 1} — afe, Р < У, ^=1 ?“!•
k~ 1	}
Если (k = 1, ..., m) —независимые случайные величины, имею-
щие экспоненциальное распределение с параметром X* соответствен-
т
но и не зависящие от то случайная величина £== У I k&k нмеет
гиперэкспопепциальное распределе-
ние с параметрами (т; оы, ...,ал-<;
Х1, . . . , Хт).
6.3.5. Нормальное распределе-
ние. 1. Случайная величина g имеет
нормальное распределение с пара-
метрами (т, о2), если
f(x) = -1
у‘2л а
X Е (— ОО, оо)
Рис. 5. Плотность нормального
распределения
(рис. 5).
Наряду с приведенным выше
представлением плотности нормального распределения используется
следующее:
f (х) = ехр (
V ПС (.
р2 (х —- »г)2
Е2
где р = 0,4769... является решением уравнения
Р
e~x‘‘i2dx = -\!л,
о
а Е — р с определяется из соотношения
Р { | £ — | ^Е) = Р { | g — m ( > Е} = 0,5
и называется срединным (или вероятностным) отклонением.
2.	Характеристическая функция:
ft2<32
imt----
2
120	ГЛ. 6. ВЕРОЯТНОСТНЫЕ РЛСПРЕДГЛГППЧ	I6.3.S
Моменты:
112/г + 1=°-	- (~‘А ~ 1) О2\
где р,. — М (g —	-- ,-н, Dg = о2 для А 2, М£/ =
= w.'Mg4"1 + (А — 1)	'
Коэффициенты аеимморьн и л.,цссса равны нулю, мода и ме-
диана совпадаю! с ш
3.	Фуидачентальная роль, ьоюрую играет нормальное распреде-
ление, сбьяснчется тем, чю при широких предположениях суммы
случайных величин с ростом числа слагаемых ведут себя асимпю-
тически нормально. Соответствующие условия составляют содержа-
ние центральной предельной теоремы.
С помощью линейного преобразования д = (g— m)/o нормаль-
ное распределение с произвольными параметрами (т, о) приводится
к стандартному нормальному закону с параметрами (0, 1) и с функ-
цией распределения
х
Ф (х) = —-L_- f e’-^dz.
•у2л J
— ОО
X
Табулируется, как правило, функция Фо (х) = —т=- \ e~z'adz,
у/2л J
о
связанная с Ф(х) соотношением <1>(х) = 1/2 + Ф<1(х).
Для вычисления Ф(\) при малых х можно использовать
Ф (*) = — +
2
,	1	(_____X3 х5	t п x2n+1	\
V 2д \	2-3	2122 • 5	л! (2«-j-1) 2n )
ОО
либо отношение Миллса R (г) = -у/Чл ----~~ — f y'}lidy,
е л 1 J
х
которое раскладывается в непрерывную дробь:
„,.1123	п
R (х) — —~ • —р- • —;— • —j— • ... • —j— •...
х+ х+ х+ х+	х+
Нормально распределенная случайная величина с большой ве-
роятпооыо лрш1цмас| шачения, ближпе к своему математическому
ожиданию, что выражгкчея прсиилом сигм:
(0,3173..., А=1,
Р{1Е-ш|>Ао}==-1 0,0455 .... А = 2,
(0,0027 .... А = 3.
Чаще всего используется правило трех сигм.
6."'.6]
6.3. НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ
121
4.	Нормальное распределение безгранично делимо. Если сумма
двух независимых случайных величин имеет нормальное распределе-
ние, то и каждая случайная величина имеет нормальное распреде-
ление.
Нормальное распределение может встретиться под названиями:
второй закон Лапласа, лапласовское распределение, гауссовское рас-
пределение, распределение Лапласа—-Гаусса, распределение Гаус-
са — Лапласа.
Рис. 6. Плотность гамма-распределепия
6.	3.6. Гамма-распределение. 1. Случайная величина £ имеет гам-
ма-распределение с параметрами (а, X) (а > О, X > 0), если
х > 0,
х<0
(рис. 6).
2.	Характеристическая функция: ср (/) — (1 — Л/Х)~п.
Моменты:
М= а(а+ ••• (« + * — D . п
X*	' X2
Мода: »] = (а — 1)/Х, а 1; коэффициент асимметрии; yt =*
= 2l-^a", коэффициент эксцесса: \г — 6/а.
3.	Гамма-распределение является непрерывным аналогом отри-
цательного биномиального распределения. При а = 1 гамма-распре-
деление совпадает с показательным, а при а = п/2, X = 1/2 — с
Х2-распределснием с п степенями свободы. При X — пр и а = п
гамма-распределепие называется эрмшговским распределением с па-
раметрами (п, р) и описывает распределение длительности интер-
вала времени до появления п событий процесса Пуассона с пара-
122
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
(6.3,7
метром ц, используемым в теории массового обслуживания и теории
надежности.
При н->оо эрланговское распределение стремится к вырожден-
ному.
При а = m-f-1 и X = I гамма-распределение называют пока-
зательно-степенным распределением с параметром т, функция рас-
пределения которого имеет вид
т I
1-0
При фиксированном X гамма-распределение безгранично делимо.
Рис. 7. Плотность бета-распределения
6.3.7. Бета-распределеиие. 1. Случайная величина !• имеет бета-
распределение с параметрами (а, Р) (а > О, Р > 0), если
( Г(а+Р) д-1
f(x) = i Г(а)Г(р)
IO, х£[0, 1]
(1 -
х е [0, 1];
(рис. 7)'.
2. Характеристическая функция:
„/л _ Г(а+Р) V <»)fer(a+fe)
Г(а) L /г(Г(а + Р + k)
fe=o
6.3.8]
6.3. НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ
123
Моменты:
==_____«(«+ 1) (o + fe —1)__
£	(а+Р)(а+р+1) ... (а+P + fe—l)
____Г (о -J- fe) Г (а Р) .
Г (о) Г (а + р + k) *
аР
Dg («+Р)2(а + Р+1) •

.. _	2 (р — а) 71 +а + Р
Коэффициент асимметрии: yi == —------—-------коэффи-
(2 +а + Р)7аР
6 [(а - р)2 (а + Р + 1) - аР (а + р + 2)]
циент эксцесса: у2 --------ар (а + р + 2) (а + р + з1-----•
3. Бета-распределение появляется, например, как распределение
порядковых статистик
Если gi, 5г, - - •, 5п независимы и равномерно распределены на
отрезке [0, 1] и 5< i), 5(2), • • , 5(л) — упорядоченные по возрастанию
величины 5* (k = 1, ..., п) (5(ю называется k-й порядковой стати-
стикой), то плотность вероятности
fe-й порядковой статистики
5<*> имеет бета-распределенпе с
ос = k, р = п — + 1.
При а > 1, Р > 1 бета-рас-
пределение унимодально с модой
в точке х — (а—1)/(а + р —2).
Если а = ₽ = 1, то бета-распре-
деление совпадает с равномерным
на отрезке [0, 1] распределением.
При р = а + 1 бета-распределе-
ние называется обобщенным рас-
пределением арксинуса, при ос —
нуса.
6.3.8. Распределение Коши. 1. Случайная величина 5' имеет рас-
пределение Коши с параметрами (а, 1) (К > 0), если
.	1 Ь
Т(х)~ я ' К2 4- (х - а)
Рис. 8. Плотность распределе-
ния Коши
Р = 1/2 — распределением аркси-
(рис. 8),
2. Характеристическая функция:
q>(t) = exp{iat—Я[/|}.
Математическое ожидание случайной величины, имеющей рас-
пределение Коши, не существует, хотя интеграл в смысле главного
значения равен
X f к dx __________а
дТоо^ J Л2 + (х-а)2 — V
-А
Второй момент бесконечен.
3. Параметр а является модой и медианой. Распределение Коши
безгранично делимо.
124
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
(6.3.9
6.3.9. Распределение Лапласа (двойное экспоненциальное рас-
пределение). 1. Случайная величина £ имеет распределение Лапласа
(двойное экспоненциальное распределение) с параметрами (а, X)
(X > 0), если
f (х) = е~л 1 *~а ', х е (— оо, оо)
(рис. 9).
2. Характеристическая функция:
<р (0 = X2eita/(t2 + X2).
Моменты:
м^+1 = а2б+1 (2й+1)!,
М£2* =
а2**-1»
2 (k — 1)! X2'
D| = —,
X2
A J
Мода и медиана совпадают с а; коэффициент асимметрии)
yi = 0; коэффициент эксцесса: уз = 6Х — 3.
3. Пусть 6т, ?2 — независимые случайные величины, имеющие
экспоненциальное распределение с параметром X. Случайная величи-
на 6 = gi — 6з + а имеет распределение Лапласа с параметрами
(а, X). Появляется в качестве предельного распределения в схемах
Рис. 9. Плотность двойного
экспоненциального распре-
суммирования случайного числа слу-
чайных слагаемых.
6.3.10. '/^-распределение. 1. Слу-
чайная величина 6 имеет /^-распреде-
ление с а степенями свободы, если
f(x) =
( —----------xtt/2~’e~x/2, х > 0,
= < 2а/2Г (а/2)
V 0, х С 0
деления
(рис. 10).
2 Характеристическая функция:
<р (/) = (! — 2(7)~а/2.
Моменты:
Mgft = a(a4-2) ... [a4-2(6- 1)]; D| = 2a,
р3 = 8a, p4 = 48a -f- 12a2, ...
Коэффициент асимметрии: xl = '^8/w, коэффициент эксцесса:
уз = 12/a.
3. Многочисленные применения ^-распределения в теории веро-
ятностей и математической статистике основаны на следующей его
интерпретации.
Пусть gi, 62, ..., 6л — независимые случайные величины, имею-
щие стандартное нормальное распределение. Случайная величина
п
6 = У, 61 имеет ^-распределение с п степенями свободы.
6.3 10]
6.3. НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ
Если т] == (ти, т]2, ’Пл) —n-мерный нормальный вектор с ма-
тематическим ожиданием m === (ть •••> m”} и невырожденной
ковариационной матрицей С= {G/, Ъ •••> т0 случайная
величина
п
где т означает операцию транспонирования и Сц
цы С-1, имеет ^-распределение с п
Если |—случайная величина,
имеющая ^-распределение с
п степенями свободы, то случ-
ная величина V2£ —
имеет приближенно стандартное
нормальное распределение.
4. Один из критериев провер-
ки согласия эмпирических данных
с гипотетической функцией рас-
пределения F(x) основан на из-
учении х2-статистики Пирсона
ft
| =	— т)тС ’(rj — т)
— элементы матри-
степенями свободы.

npt
где р! = F(xt)	Хо =
произвольное разбиение интервала
(—оо, оо), щ— число наблюдений,
попавших в полуинтервал [х;-1, х,).
В предположении истинности гипо-
тезы %2-статистика Пирсона имеет
в пределе при и = У л, °о
0<а<2
. О

Т&Л.
^-распределение с (k—^-степеня-
ми свободы и не зависит от F(x).
5. Если £i, £2......—	незави-
симые случайные величины, имею-
щие нормальные распределения с
параметрами (mi,о2), (т2, о2), ...
..., (тп, о2)
распределение
п
соответственно, то
случайной величины
ю>2
ёг
а-2
Рис. 10. Плотность ^-распре-
деления
называется нецентральным распределением с п сте-
i-i
пенями свободы и параметром нецентральности
Плотность распределения вероятностей:
f (к\ - е(Х+т)'2 к п/2-1 у (>пх/4)1
2п/2	Ь jlTd + nr/)'
126
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
[&З.П
Характеристическая функция:
<₽ w=ехр { tSf) ° “ 2л7) ~nt2’
Моменты:
Mg = т -|- я; Dg = 4т + 2п.
Для больших значений параметра т нецентральное /^распределение
с п степенями свободы приближенно совпадает с нормальным
(я + т, ^2 (п + 2m)) распределс-
Рис. 11. Плотность /-распре-
деления
нием.
/^-статистика Пирсона в пред-
положении, что теоретические ве-
роятности равны (pj, .... pft).
имеет асимптотически нецентраль-
ное ^-распределение с k — 1 сте-
пенями свободы и параметром не-
центральное™
т =
Pi
6.3.11. /-распределение. 1. Случайная величина g имеет /-распре-
деление с а степенями свободы (а > 0), если
(	1	а-1 -х»/2
fW = j 2а/2-1Г (а/2)
to, х<0
х> 0,
(рис. 11).
2. Характеристическая функция:
оо
Г (а/2) L, kl \ 2 Г
л=»о
Моменты:
2Й/2Г ((а + fe)/2) .
---------Г(а/2)--------*
ве_„ + (2_^[£<™Г-
3. Если 51, 5а, ..., In — независимые случайные
величины, имею-
щие стандартное нормальное распределение» то
имеет /-распределение с п степенями свободы.
При п — 2 /-распределение называется иногда распределением
Рэлея (Рэлея — Райса).
При п — 3 /-распределение называется распределением Максвел-
ла и описывает распределение скоростей молекул разреженного газа.
6.3.13J
вЗ. НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ
127
6.3.12. Распределение Стыодента (/-распределение). 1 Случай-
ная величина | имеет распределение Стьюдента (/-распределение) с
а степенями свободы (а > 0), если
. Г((а+1)/2)
Г (а/2)
х е (— оо, оо)
(рис. 12).
2. Характеристическая функция:
У^Г((а-Ц)/2)
Р ( ) ~ Г (а/2) Х
х Д(2fe)l c"~1+fc(2 1'1 )П'1-Й
если n — (a + l)/2 — целое число.
Моменты:
M£2ft-1 = 0,
= aT (а/2 - fe) Г (fe + 1/2)
э	'tfn Г (а/2)	'
_ ( а/(а — 2), если а > 2,
s 1 оо, если а ^2.
2fe < а;
3. Если т] и £— независимые случайные величины, причем г]
имеет стандартов нормальное распределение, а £ — ^-распределе-
ние с п степенями свободы, то | = т] Vн/£ имеет распределение
Стьюдента с п степенями свободы.
Рис. 12. Плотность распределения Стыодента
Во многих статистических приложениях параметр a — натураль-
ное число. При a = 1 распределение Стьюдента совпадает с рас-
пределением Коши. Распределение Стьюдента появляется при про-
верке гипотезы о среднем нормально распределенной генеральной
совокупности при неизвестной дисперсии.
При больших значениях а распределение Стьюдента асимптоти-
чески сближается с стандартным нормальным распределением, /-рас-
пределение безгранично делимо.
6.3.13. F-распределение (распределение Фишера — Снедекора).
1. Случайная величина £ имеет Е-распределение (распределение
128
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
[6.3.13
Фишера — Сне декора) с (пи, тг) степенями свободы, если
т\ + тг
2
-2 .xmi/2-! (т2 + т1Х)~<т‘+т№
к 0, х < О
(рис. 13).
2. Моменты:
1|/2 4- /г) Г (ш2/2 — /г) m;fe
Г («'1/2) «г* Г (/«г/2)
если
т9
2k <т2, Mg =--------—
т2 — 2
2.’«» (nij + т., — 2)
Dt___________________________
>»i (ш2 — 2)2 (т2 — 4)
,, m2 (nii — 2)
Мода: ----------т~оГ» т‘ > 2-
mi (т2 + 2)
.. ..	(2т, + т2 — 2) V8 (т2 — 4)
Коэффициент асимметрии: \>|-----------------------------
т' > 6
3. Если и — независимые случайные величины, имеющие
^-распределение соответственно
г E.I/«11
случайная величина g =	~
(т> — 6)	+ т2 — 2
с tilt и тг пенсиями свободы, то
ИМСС1 Г-раснределснпе с (mlt тг)
^>2.
О	(.0^-2) tn „
Рис. 13. Плонюсть f-распределения
Г

2
степенями свободы, в связи с чем «1 называют числом степеней сво-
боды числителя, а т2 —числом степеней свободы знаменателя. В част-
ности, если Xi, Хг, ... х„, — выборка из нормальной (щ, о2) гене-
ральной совокупности, a yit у2, уп,г — выборка нз нормальной
(а2, О2) генеральной совокупности, то статистика
т,	.	m,
.1 у {х _ х)2/—Ц-У {у( -yf.
mi — 1 Z-c ' ‘	' / m2 — 1 Z— ' 1	•
1=1 ' 1=1
'll
6.3. НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ
129
mi	т,
1 '' *' ~	xi>	пмсет ^-распределение с
j—i	•	1=1
("I,— 1, 1111,— I) степенями свободы.
4. Если g, п gj — независимые случайные величины, причем Еа
। /ест у"- распределение с тг степенями свободы, a g4 имеет пецеп-
||>).'ь,нэе ^-распределение с /н4 степенями свободы и параметром
gl//"l	Г \
и центральности т, го $ — имеет нецентральное г-распреде-
lentie с («н, т>) щсиспямп свободы и параметром пецептралыю-
, .и т
6.3.14. Логарифмически нормальное (логнормальное) распредс-
" чме. 1. Случайная величина g имеет логарифмически нормальное
1 югпормальнос) распределение с параметрами (т, о2), если
(рис. 14).
2 Моменты:
(In х—т)2'
2о2
Mg1 = exp {-j /г2о2 4- km
Dg — e0'+2/’'[е”’— 1].
Рпс. 14. Плотность логариф-
мически нормального рас-
пределения
Коэффициент асимметрии: = (еа‘ 4- 2) у е°г — 1 ; коэффици-
ент эксцесса: у3 = еЛ°г 4- 2е3°" 4- Зе20’ — G.
3 Если q имеет нормальное (0, 1) распределение, то g =>
= ехр{ог] 4-/н} имеет логнормальное распределение с параметра-
ми (/», о!).
Широко используется в статистической физике, ст.ынсгической
геологии, экономической статистике, биологии и т. д.
4 Логнормальное распределение можно получить как частный
случай так на тыкаемого распределения Кептсйнд, имеющего плот-
ность вероятности
f (О
1	... ( [G (х) - ml2 ) [ dG (х) I
,—-— схр <	> |"————— I
о V2л (.	2<т2 J I dx j
где 0(х)—монотонная дифференцируемая функция. Если g имеет
распределение Кеитейна (/и, о2, G(x)), то т| = G(g) имеет нормаль-
ное (0, 1) распределение. Распределение Кептенна появляется как
результат применения центральной предельной теоремы к схеме сум-
мирования вида х/4-i = х, 4- ?/ ыйг(х/)| где г,— независимые случай-
X
ные величины, G (х) =
du
g(u)‘
В, С. Королюк и др.
130
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
1в.З 18
6.3.15. Логистическое распределение. 1. Случайная величина g
имеет логистическое распределение с параметрами (т, о2), если
(рис. 15).
2. Характеристическая функция:
<р(/) = Л(1-т-^-/)г(1+/-^-/).
Моменты: Mg = zn, Dg = o2.
Мода и медиана равны т\ коэффициент асимметрии: yi «= Oj
коэффициент эксцесса: у2 = 1,2.
3. Логистическая функция распределения по форме мало отли-
чается от нормальной функции распределения и наряду с последней
используется, например, в медико биологических исследованиях для
анализа эффекта различных лекарств, ядов и т. д.
Рис. 15. Плотность ЛО1ИСГИ-
ческого распределения
Рис. 16. Плотность распре-
деления Парето
6.3.16. Распределение Парето. 1. Случайная величина £ имеет
распределение Парето с параметрами (хо, а) (а >0, хо > 0), если
( а ( х°\а~|~1
/ W = < хД х J »
(.0, х < Хо
X > Хо,
(рис. 16).
2. Моменты:
(	а	2	п
Mg*—- ”	X*, А < а; Dg = { (а-1)(а-2) *<”
а~	(оо, а<2.
3. Распределение Парею есть усечение на интервале (хо, о°) сте-
пенного распределения с параметром а, имеющего плотность вероят-
ности
ах_(а+1>, х>0,
0, х<0.

Встречается в задачах экономической статистики.
6.3.17. Распределение Шермана,- 1. Случайная величина g имеет
распределение Шермана с п степенями свободы (параметром л),
« з 18!
6.3 НЕПРЕРЫВНЫЕ РАСПРЕДЕЛЕНИЯ
131
если

п
£ tnbmxm~\
П
О, х
п
1де Ьт
п-т
целое неотри-
нательное число, удовлетворяющее неравенствам
« — г—1	п — г
-----<	г-7-
п -J- 1	п -J- 1
(рис. 17).
2. "
Моменты:
1
п+1
к п + 1
2пв+24-л(п —1)"+2	/
1
2 (п+1)
D? (п + 2) (п + I)"'*'2
Пусть на отрезке [0, 1] с равномерным распределением вы-
п точек Упорядочим точки на отрезке, и пусть Ei— длина
п + 1
3
браны
< го интервала слева из п -J-1 возможных интервалов
п+1
Случайная величина
п
имеет распределе-
ние Шермана с п степенями свободы.
Рис. 17. Плотность рас-
пределения Шермана
f(x)
Рис. 18 Плотность распределе-
ния дисперсионного отношения
Фишера
6.3.18. z-распределение (распределение дисперсионного отноше-
ния Фишера). 1. Случайная величина £ имеет г распределение (рас-
пределение дисперсионного отношения Фишера) с (tnt, т3) степеня-
ми свободы, если
2т^!2т^
f (л-)= —
Г
,/2г ( mi + т3
еП!,х
--------------, х е (— оо, оо)
,2лА(т, +т,)/2
(рис. 18)
5*
132
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
16.3.19
2. Характеристическая функция:
Г (	17 ’l Г { т2 — it
„ их _ (	\,7/2 V 2	7 К 2 J
U.)	г(^)г(Л)
Моменты:
М£ = 0;	+-^,
2 intm?
3. Если т] — случайная
величина, имеющая ^-распределение с
(«1, тг) степенями свободы, то
g = — in т] имеет z-распределение с
(Wi, тг) степенями свободы.
Широко используется в дисперсион-
ном анализе.
6.3.19. Распределение Вейбулла —
Гнеденко. 1. Случайная величина g
имеет распределение Вейбулла — Гнеден-
ко с параметрами (а, л) (а, X > 0), если
/(*)
.а-1е-Л*а
(рис. 19).
2. Моменты:
М£*=х~й/аг (—

d*=x-2'“
Рис. 19. Плотность рас-
пределения Вейбулла —
Гнеденко
F(x) = e-Kxa.
3. Появляется как предельное рас-
пределение максимума. Пусть случайные
величины взаимно независимы и оди-
наково распределены и Р «С х J < 1
для х < оо. Положим
g*«=max[Slt Ь •••. М-
Для того чтобы при некотором выборе
констант ап распределения Fn(x) случай-
1 г
них величин -----|п сходились к рас-
ап
пределению F(x), не сосредоточенному
в 0, необходимо и достаточно, чтобы функция 1 — F(x) была пра-
вильно меняющейся*) с показателем а (а < 0). В этом случае
*) Функция 1—F(x) называется правильно меняющейся с по-
казателем. а, если 1 — F (х) — x'lL (х), где Цх)—медленно меняю-
щаяся функция, т. е такая, что L(tx)IL(t) -+1 при 1->-оо и любом
х> 0,
6 1.3]
6.4. РАСПРЕДЕЛЕНИЯ ПИРСОНА
133
Распределение Вейбулла— Гнеденко часто используется в тео-
рии надежности для описания времени безотказной работы при-
боров.
6.4.	Распределения Пирсона
6.4.!.	Определение. Распределениями Пирсона называются не-
прерывные распределения, плотности вероятности которых являются
решениями дифференциального уравнения
df (х) Qix4-co .
dx fro + 2biX -f- b2x2 ' ' ‘
(4.1)
где Оо, at, bo, fri, fra — параметры распределения. Распределения Пир-
сона полностью определяются первыми четырьмя моментами.
Пусть рл — fr-й центральный момент случайной величины, имею-
щей распределение Пирсона. Тогда, если Ci = 1, то
НзСн + ЗРг)	,	Н3(ц44-3^)
“•--------* ’ '----------------------, <«)
Рг (4р2Щ — 3(*з)	2Р2Р4 — 3|>з 6р2
6о==------------------, =---------------,
где А = 10ц4ц2 — 18р| — 12ц|.
В соответствии с распределением корней квадратного трехчлена
fro + bix -f- fr2x2 различают 12 типов распределений Пирсона.
6.4.2.	Тип 1*).	1. Р < О, КО, fro + 2fr)X 4- Ьгхг =
= (а 4-х) (—р 4-х) fr2 (а, р>0).
2.	Плотность вероятности:
f(x) =
\--------------------------(а 4- к)т (Р - х)п, х е [-а, PJ,
В=)(а4-Р) + + B(nt+1. я+1)
'-О, х <=£[— а. Р],
ГМДИ+.. „+1)-Г<р±-Р..^+1>,
3.	Если а = р (следовательно, 1 = 0) и т = п, то соответ-
ствующие распределения имеют тип II. Распределения типа II имеют
вертикальную ось симметрии.
Если т=—п, то соответствующее распределение имеет тип XII.
4.	Распределениями Пирсона типа I являются бета-распреде-
ления.
6.4.3.	Тип III. 1. D < 0, 1 = оо, fro 4- 2btx -f- fr2x2 = 2(а + x)frb
2.	Плотность вероятности:
( bm+l
/ю-1т£+тг*>-«• ‘>*
1-0, х < — а.
*) Через D обозначен дискриминант квадратного трехчлена
Z) •= frufr2 — fr j, 1 = fr У ^frofr2)»
134	гл. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ	16.4.4
3	Распределениями Пирсона типа III являются гамма-распре*
деления.
6.	4.4. Тип IV. 1. О > О,	ho + 261Х + Ьгх2 =*:
*= (х2 + а2) Ъг-
2.	Плотность вероятности:
f (х) == с(а2 -f- х2)~т ехр v arctg , х е (— со, со), т 1/2,
где
ОО
с~1—	(а2 + х2)~т ехр v arctgdx.
— оо
6.	4.5. Тип VII. 1. D > О, ). = 0, bo + 2bjX + bix2 = (а2 x2)ha.
2 Плотность вероятности:
/<*>== B(m- Т/2, 1/2) ^+х^т'	")’ m>i-
3.	Распределением Пирсона типа VII является распределение
Стьюдента.
6.4.6.	Тип V. 1. D = О, А = J, ho + 2btx + Ьгх2 = (х + a)2ha.
2.	Плотность вероятности:
/<х) = ]т^Г=ПГх"те“™’ Y>0’ m>1’ л>0’
АО, X < о.
6.4.7.	Тип VI. 1. О<0, Х>1, 6о 4-2hjx + 52х2 — (x-J-a)X
X(x-₽)h2.
2.	Плотность вероятности:
/(*)=
{(а 1- РЛ —
в/ +Р)--------1--Гн- (x + a)m (*-₽)", х>₽, т — 1 > 0.
В (—т — п—1, п + 1)
п > -1,
О, х С р.
6.4.8.	Тип VIII. 1. D < О, X < 0, ho + 2hi* + ЬгХ2 = x(a х)Ь».
2 Плотность вероятности:
,, х	<* + xs[—«»о], — 1<т<0,
I (х) = <
'О, х ф [—а, 0].
6.4.9.	Тип IX. 1. D < О, Z < 0, be + 2btx bzX2 «= х (а + х) Ьа.
2. Плотность вероятности:
1<х)-1^^’(Л + а)'Л’ хе1-°’°Ь иг<~1-
/ \л/ •— \ u
to, х [— а, 0].
6.Б.1]
6.5. МНОГОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ
133
6.4.10.	Тип X. 1. D = 0, X »» 0, bo + 261Х + Ь^хг =» ba, «i ™ 0.
2.	Плотность вероятности:	,
Х>°’ V>°’
(О, х<0.
3.	Распределением Пирсона типа X является показательное рас-
пределение.
6.4.11.	Тип XI. 1. D •= О, Z неопределенно, Ьо + 26ix J- Ьгх* = 6о,
ai =/ 0.
2.	Плотность вероятности:
1	С	х2 1
f (х) ~	— ехр !---------I, X Е (- оо, оо).
-?2л <т	I	2a2 J
3 Распределением Пирсона типа XI является нормальное рас-
пределение.
4. Распределения Пирсона широко используются в математиче-
ской статистике при сглаживании распределений эмпирических дан-
ных. Для определения распределения Пирсона, аппроксимирующего
наблюденные данные, вычисляют первые четыре момента и из урав-
нений (3 2) находят оценки параметров.
6.5.	Многомерные распределения
6.5.1.	Полиномиальное распределение. 1. 6-мерный случайный
вектор g а= (g1; g5; ... t gft) имеет полиномиальное распределение с
параметрами (п; р(, р>, ..., рь) (о < р( < I, £ р{ — 1), если
Р (g = т} = Р {gj = mv g2 = т2...gft =	=
k
для m = (nip m2, ..., mfc), m{ = n.
i-'t
2.	Характеристическая функция:
<Ч\П
Ф (0 = Ф t2, ..., tk) = p,e J .
Моменты:
Mg = tip = n (pr p2, ..., pk),
cov (gp £,) = M (g( — Mgf) (gf - Mg,) = -nplPl, i Ф /;
D£z == nPl (1 - p,).
3.	Полиномиальное распределение есть многомерный аналог би-
номиального распределения. Маргинальное распределение каждой из
компонент вектора g есть биномиальное распределение. Если
136	гл. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ	I6.S.2
£<*>, 1<2>. ••> 1<г) — независимые A-мерные случайные величины с па-
раметрами («1, р), (п2, р), (пг, р) соответственно, то вектор
Г
£=	имеет полиномиальное распределение с параметрами
Z-1
(P = (Pv P2>---'Pk))-
Полиномиальное распределение является моделью случайного
эксперимента, представляющего п независимых испытаний, исходом
каждого из которых является событие одного из k непересекаю-
шихся классов; pi (0 < р, < 1) означает вероятность того, что ре-
зультат любого испытания принадлежит t-му классу, причем
k
6.5.2.	Равномерное распределение. 1. Пусть S — ограниченное
борелевское множество в R*. Обозначим через mes S его А-мерную
меру Лебега.
Случайный вектор (£i, Ез.........£*) имеет равномерное рас-
пределение в S, если mesS > 0, и его плотность вероятности [(*) =
«= /(Xi, .....хк) равна
{1/mes S, xeS,
О,
В том важном частном случае, когда S — A-мерный параллелепипед
S = [ai, bi] X [о2, 62] X... X [а*, М.
х е S,
2 Характеристическая функция в случае прямоугольной области
имеет вид
Д (е"Л _ euial)
= (tv .............—	-~k	k	•
t-1	t-1
6.5.3.	Двумерное нормальное распределение. I. Двумерный слу-
чайный вектор | «= (gi, g2) имеет нормальное распределение, если
его характеристическая функция <j>(/) = ф(С, С) равна
<j> (/) = exp р (яг,/, + m2t^ — у (c„/f 4-	+ c224)j,
2
причем квадратичная форма Q (/) = Q (/,, /„) == V с]0 = с21,
неотрицательна, т. е Q (/)	0 для любых действительных h, h.
Если ранг квадратичной формы Q(t) равен 2, т. е. детерминант мат-
рицы С = {сц, i, /=1,2} отличен от нуля, то двумерное нормаль-
6.5.3]
6.5. МНОГОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ
137
ное распределение называется невырожденным или собственным.
Если ранг квадратичной формы Q(t) равен 0 или 1, то двумерное
нормальное распределение называется вырожденным или несоб-
ственным.
2.	Если случайный чзектор | имеет ,невырожденное нормальное
распределение, то его плотность f{x) == f(xt, х2) равна
“ 2па{а2 V1 — р2
Хехр	..7
I 2(1—р)
(Х| — mi)2
2р (*! — mi) (х2 — т2)
С1С2

Рис. 20. Плотность невы-
рожденного двумерного
нормального распределения
следующий: mt •= Mgz, cr2 =»
где
det С =- СцС-q — с,2 — о2а2 (1 — Р2)
(рис. 20).
Смысл величин mt, т2, Oi, о2 и р
г,,. . ......	... .	м (l! — т()(Ег — m?)
=0^3=1,	р =-----------------
коэффициент корреляции компонент и |2-
Плотность невырожденного двумерного нормального распределе-
ния удобно записывать в виде
VD|tDg2
f (х) -------* exp f--------- Q~* (х. — m., х2 — m2)l “
2naia2Vl— Р2 I 2	J
=	eX₽ (“7 hl1 (*1 - ml)2 + ^2 (*1 - ml) (^2-/«s) +
+ c22 (x2 тг)2]^ >
2
где Q-1 (/], Z2) == £	Су1 — элементы матрицы С-1,
i.l-l
Маргинальные плотности нормального распределения:
, .	1	(	(х,— ГП,)21
ft. (х0 “ “7=—ех₽ J------12-----?•	‘= *• 2-
' V2jtoz (	2of	J
Условная плотность распределения компоненты Ei при условии,
что |2 = а, равна
f (Xi | Ь = а) =
1	(	’ Г	рол,	J2)
ох V2n (1 - рг) |	(1 —Р ) L	v2 К J J
138	ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ	[в.5.«
М {Bl I £2 == “} = mi + ~ (а — т2), М {(в,— m,)2 | Ва = а} =»
==о2(1-Р2).
Плотность невырожденного нормального распределения сохра-
няет постоянное значение на эллипсах
t f (х? - mt)2 2р (х, — m,) (ха - т2) (х2 - т2)2]
2(1— р2)1 о,	ato2	«г J
называемых эллипсами равных вероятностей, причем вероятность по-
падания вектора В — (В<, Вз) внутрь такого эллипса равна 1 —е~'" -
3.	Если двумерное нормальное распределение вырождено, то в
случае, когда ранг квадратичной формы Q(h, /2) равен нулю, оно
сосредоточено в точке m = (mt, m2), т.е.
Р U — щ] <== 1.
Если ранг квадратичной формы Q(l\, tz) равен единице, то нор-
мальное распределение сосредоточено на прямой, определяемой соб-
ственным вектором матрицы С. который соответствует ненулевому
собственному значению.
6.	5.4. Многомерное нормальное распределение. 1. Случайный век-
тор В = (?i, §2,  ., £/•) имеет многомерное нормальное распределе-
ние, если его харакгерпетическая функция <р(0 = t2...........t»)
имеет вид
<р (/) = ехр	—i- tTCt j,
где С — неотрицательно определенная симметрическая k X ft-матри-
ца, tT — транспонированный вектор-столбец / е R*.
Если ранг матрицы С равен ft, т е. det С =/= 0, то распределение
называется невырожденным или собственным. Смысл вектора m =
— (mi, mk) и матрицы С = {с,;, I, j — 1..........ft} следующий:
m = (zn,, ..., mk) = (MB,, ..., MBfe) = MB,
C={cz/, z, /— 1, ..., ft} = {M (Bt- — m.) (By — nij), i, i=\.ft) =
=> M (B — m) (B — m)r — ковариационная матрица
Если det C 0, то С-1 называют матрицей точности.
2. Если случайный вектор В имеет невырожденное нормальное
распределение, то его плотность распределения ,f(x) — f(xi...хк)
равна
f (х) — —— 1—	ехр I —- (х — m)T С""1 (х — т)1.
V(2n)fcdetC 12	)
Пусть В(п = (Ет, ..., £г), 6<2) = &и, .... Соответственно
такому разбиению случайного вектора В вектор математических
ожиданий m представим в виде /л<*> == (mi, ..., mr), zzz<2> =>
= (m^i, ..., mk), причем /nn)=MB(,) (z = 1, 2), и ковариацион-
ная матрица С представима в блочном виде
£ __ Г Сп Сц 1
L c2i С22 J
6Е.51
6.5. МНОГОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ
139
где Си, С)2, Си, С2з являются соответственно гХс гХ(*— г)-,
(/г — г) X г-, (4 — г) X (k — г) -матрицами, причем
С. =М (g(,)
ч
Маргинальное распределение вектора g(/> является нормальным
с вектором математических ожиданий т<'> н ковариационной мат-
рицей C,f, и соответствующая плотность распределения, при условии
что det Сц =/= 0, имеет вид
}ф (х(Л) _	----1—.....  схр	| _ 1	(х"> - «»))],
V(2л)Г/det Сн	I 2	'
Г1 = г, r2 = k — r.
Если случайный вектор g = (gi, .., £») имеет невырожденное
нормальное распределение, то условная плотность распределения
f<*)(x<o|g<2) = а<2)) вектора g<*>, при условии, что g(2> — в(2), равна
/(1)(Х(П|^)=^))=
-V (2л)г V det С
X ехр { - 1 (?» -	(С„ - С,«'С,,)-' (х<" - »<")},
где и/1» +	(t/2' — w/2)), причем
М {ё”> | g(2> = а<2)) = /«“> + С12С^ (а<2> - щ<2>);
М {(V’ -	- т™)т | g'2' = а<2>) = Cn - Cx2C^C2i.
3. Если случайный вектор £ = (gi, ..., gA) имеет вырожденное
нормальное распределение и ковариационная матрица С имеет ранг
г (0 г < k), то существует прямоугольная k X r-матрпца В такая,
что С — ВВТ, и r-мерный случайный вектор go, имеющий нулевое
математическое ожидание и единичную ковариационную матрицу та-
кие, что g = m + Bgo.
4. Многомерное нормальное распределение является наряду с
одномерным одним из основных распределений теории вероятностей
и математической статистики, что, прежде всего, связано с централь-
ной предельной теоремой.
6.5.5. Распределение Дирихле. 1. Случайный вектор g =
«= (gi, ..., g*) имеет распределение Дирихле с векторным парамет-
ром а = (си......а„) (ai > 0, i — 1, ..., k), если
( Г (а, +а2+ ... + ctfe) ^а, . xaft х е s>
f(x) = f(Xl,...,xk)= j Г(а,)Г(а2) ... Г (a*) 1 к
* 0, х S,
(	к
где 5 — (4 — 1) -мерный симплекс: S = < х е Rft: xt == 1, х{ О,
К	/®=* 1
140
ГЛ. в. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ	[в-5.6
2. Моменты:
1	А	Я£Я»	я,
М§=-«, а0==£я/;	Dgz=-.
3. Распределение Дирихле является многомерным аналогом бета-
распределения.
6.5.6. Многомерное распределение Стыодента (/-распределение).
1. Случайный вектор g = (gi, ga, ..., ik) имеет k-мерное распреде-
ление Стыодента (/-распределение) с п степенями свободы, вектором
сдвига m и матрицей точности Т, если
Г VdetT
Г (у) 7(2Л)* *
г 1	-	-|-(М-п)/2
[l+-^(x-/n)rT(x-m)J
где Т — симметрическая положительно определенная матрица.
,	2. Моменты:
Mg = m: covg = M(g-m)(g-/«)7'=--^— Т~\ п>2.
fl £
3. Если к) имеет нормальное распределение с нулевым вектором
математических ожиданий и невырожденной ковариационной матри-
цей С — T~l, a t, имеет х2-распределение с п степенями свободы, то
*vfl
вектор g — (gi.....gft), где g. =	+ mi> имеет ft-мерное
распределение Стыодента с п степенями свободы, вектором сдвига m
и матрицей точности Т.
Если случайный вектор g имеет ft мерное распределение Стыо-
дента с п степенями свободы, вектором сдвига m и матрицей точно-
сти Т, то случайная величина
g.= ^-(&-/n)rT(g-m)
имеет F-распределение с ft и п степенями свободы.
6.5.7. Распределение Уишарта. 1. Пусть g — симметрическая
ft X ft-матрица либо, что эквивалентно, ft (ft -f- 1)/2-мерный вектор.
Обозначим через X симметрическую положительно определенную
ft X ft-матрицу. Случайная матрица g имеет невырожденное распре-
деление Уишарта с п степенями свободы и матрицей точности Т,
если det Г =/= 0 и
(det Г)"/2(detХ)!"-*-1»/2	__ Г
f (X) =,,---1--------------------------ехр < — ySpTXh
2пй/2лА(й-1)/4 Д’ г	)
где Sp ТХ обозначает след матрицы ТХ.
2. Характеристическая функция: пусть / — симметрическая мат-
рица вида
[2/ц /12 ... tlk
....................
tlk ^2k • • • 2/feft
6.6.2]
6.6. УСТОЙЧИВЫЕ РАСПРЕДЕЛЕНИЯ
141
Характеристическая функция распределения Уишарта определя-
ется на множестве симметрических матриц вида (4.1):
...г detr Г/2
ф (Z) L det (Г - it) J *
3. Пусть g(,), £(£), ..., g<n> — независимые нормально распреде-
ленные векторы с нулевыми математическими ожиданиями и
невырожденной ковариационной матрицей С. Случайная матрица
|	имеет распределение Уишарта с п степенями свободы
и матрицей точности Т = С-1. Распределение Уишарта является
многомерным аналогом %2-распределения.
6.6.	Устойчивые распределения
6.6.1.	Определение. Функция распределения F(x) называется
устойчивой, если для любых действительных сп >0, а2 > 0, bi, bi
найдутся а > 0 и b такие, что имеет место равенство
F(flix -j- bi)*F(azX + bz) = F{ax + b),	(6.1.)
где * — операция свертки.
Если q>(/)—характеристическая функция устойчивого распреде-
ления, то для любых at > 0 и az > 0 найдутся b и а > 0 такие,
что
Важная роль устойчивых распределений связана со следующим ре-
зультатом.
Теорема 1. Пусть £2, in— независимые одинаково
распределенные случайные величины и
п
k-l
где рп > 0 и а„ —некоторые нормирующие и центрирующие кон-
станты соответственно.
Если F.,(x)—функция распределения случайных величин цп, то
предельными распределениями для Fn (х) при п->- оо могут быть
лишь устойчивые распределения.
Обратно, для любого устойчивого распределения F(x) суще-
ствует последовательность случайных величин вида (6.2) такая, что
Fn(x) сходится к F(x) при п~тоо.
Отсюда, в частности, следует, что устойчивые распределения
безгранично делимы.
6.6.2.	Характеризация устойчивых распределений.
Теорема 2. Для того чтобы функция распределения <р(/)
была устойчивой, необходимо и достаточно, чтобы логарифм ее ха-
рактеристической функции <р(/) имел вид
In ф (/) = iyt — с j i ]“ |1 + ф -щ со (/, a)j,	(6.3)
142
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
16.6.3
где а, р, у, с— постоянные, причем —1	р 1, 0^а^2, с>0 и
tg -g- а, если а 1,
(6.4)
— In 111, если а==1.
л 1 1
Параметр а называется параметром устойчивости или характеристи-
ческим показателем.
Все устойчивые распределения с характеристическим показате-
лем а > 0 непрерывны, и их плотности в каждой точке имеют про-
изводные всех порядков.
Из (6.3) следует, что плотность вероятности устойчивого рас-
пределения имеет вид
OQ
f (х; а, р, у, с) =
— оо
x(1 + z₽|7r°>(z,a))}rft (65)
Плотности устойчивых распределений не выражаются через элемен-
тарные функции, за исключением следующих случаев:
1)	нормальное распределение устойчиво с характеристическим
показателем а — 2,
2)	распределение Коши устойчиво с характеристическим показа-
телем а = 1;
3)	распределение с плотностью
( - .-L — е~1/2х, х > О,
f М = < -у2лх8
to, х<0,
устойчиво с характеристическим показателем а = 1/2;
4)	вырожденное распределение устойчиво с характеристическим
показателем а = О
Для плотности f(x; а, 0, у, с) устойчивого распределения с
а > 0 имеют место равенства
c~llaf ((х — у) с~,/2; а, ₽, 0, 1), а =/= I,
С'1Н(^)~₽|1ПС:1'₽>0’1)’ a==L
Следовательно, не уменьшая общности, можно считать, что у = О,
с — 1 Если f(x, а, 0) == f(x; а, р, 0, 1) , то
/(х; а, Р) — f(—х; а, — Р).	(6.7)
6.6.3.	Асимптотические разложения. Если А(х)—устойчивое рас-
пределение с характеристическим показателем а, то существует кон-
станта Ci > 0 такая, что
lim х“ {1 — F (х) + F (— х)} « cj.	(6.8)
«-><»
6.7.1]
6 7. СИНГУЛЯРНЫЕ РАСПРЕДЕЛЕНИЯ
143
Каждый устойчивый .чакон с характеристическим показателем а
(О < а < 2) имеет конечные абсолютные моменты всех порядков р
(О < р < а).
Пусть f(x; а, 0)—плотность устойчивого распределения. Если
О < а -< 1 и х > 0, то
! (х; а, 0) =- -1- У (- l)ft+1 sinГ-^ а (0 +	0 x~h,\
k “1
(6.9)
В случае а > 1 ряд справа в (6 9) расходится.
Если 1 < а < 2, х > 0, то
/ (.х- а, 0)
1 У /_ п* Г «/г + *)/«)
п Zj 1	' akl
А=0
xkX
x~[^(i+(i+4)-V₽)]. <e.io>
В случае а < 1 ряд справа в (6 10) расходится.
Если а = 1, х > 0, то для любого N
JV
fG + ^lnx, 1, 0)=А-У х~к + О (x~N~2),
\ «П	х SIX k\
k =0
со
где bk — Im e~ttk (z -f- Z0 — ~ In Z^ dt.
0
6.7.	Сингулярные распределения
6.7.1.	Распределения канторовского типа. Пусть р и q — целые
положительные числа, L(q) — {Zi, i2, ..., /«}, где 1 ii < i2 <Z ..
 . < ia p. Положим Co = [0, 1] и построим последовательность
Ct, C2, ..., C„, ... подмножеств отрезка [0, 1] с помощью следую-
щего алгоритма: разобьем Со на р равных частей, обозначим через
Д'» /-й по счету открытый интервал длины 1/р, полученный в ре-
зультате разбиения, и положим Cj = C0\ |J Д^\ с каждым
Ze£(q)
из р — q отрезков, составляющих С>, поступим аналогично. Описан-
ный алгоритм приводит к искомой последовательности множеств Со,
Ci, С2, ..., Сп, ...
Примем обозначения
fn W =
Yn.
0,
хеС„,
х^С„,
X
Fn (х) = fn («) du,
о
144
ГЛ. 6. ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
[6.7.2
где определяется условием
I
tn W 1,
о
Предел F (х) ~ lim Fп (х) назовем функцией распределения
канторовского типа С{р, L(q)}. Поскольку Л (Сп) = ( р
я->оо, где Ц-)—мера Лебега, то распределение, порождаемое
F(x), сингулярно: F (х) = 0 для х е [О, 1]\С. Совершенное мно-
жество С является фрактальным в том смысле, что его размерность
Хаусдорфа — Безиковича равна
In р
6.7.2.	Квазиравномерные функции распределения канторовского
типа. Пусть р = 2/п + 1 (п. 6.7.1) —нечетное положительное число,
Со, Ci, С2, ..., Сл, ... —последовательность замкнутых множеств,
определенная выше. Определим новую последовательность С*, С*,
С*, ..., С*, ... следующим образом: Сд=С0, С* = С( и, начи-
ная с п = 2, через С* будем обозначать множество, получаемое
из Сл так, чтобы соседние отрезки, образующие Сп (для п k
k фиксировано), были равноудалены друг от друга в С* (для
п>Л строятся так же, как в п. 6.7.1). Обозначим
... f Yn» х е ^п»
fn (х) — <
(О, х$ёС*.
Г
Рп М » \fn (и) dut
О'
Предел/^(х)== lim ^>(х)
\ р q /	\ m -f i /	n->°*
назовем квазиравномерной функцией распределения канторовского
типа С{р, k}, поскольку для любого хе [О, 1], е>0 найдется k
такое, что
lim | ^пк) (х) — х I < е.
П->оо
6.7.3.	Сингулярные распределения Салема. Пусть а е (0, 1) и
1/2. Определим S(a)—преобразование отрезка прямой, соеди-
няющей точки {х, у} и {х + Дх, у + Аг/} плоскости (Дх > О,
Ду > 0) в двухзвенную ломаную, соединяющую точки {х, у},
{х + Дх/2, у + аАу} и {х + Дх/2, у + аДу}, {х + Дх, у + Ду}. По-
ложим Г0(х) «= х (хе[0, 1]). К каждому из отрезков, соединяю-
7Л.П
7.1. ПРОЦЕССЫ ВОССТАНОВЛЕНИЯ
145
тих {0, 0} и {1/2, 1/2}, {1/2, 1/2} и {1, 1}, применим преобразова-
ние S(a) и обозначим результат через Ft(x). Далее поступаем
аналогичным образом: делим полученные отрезки ломаных пополам
и к каждому применяем преобразование S(a). Пусть Fn(x) —функ-
ция, полученная после /г-го шага описанного алгоритма.
Функцию F (х) = lim Fп (х) назовем функцией распределения
Салема типа S(a); опа определяет сингулярное распределение, по-
скольку	=0 для всех хе [0, 1], за исключением счетного
числа точек вида /г/2т, k = 1.2га — 1, т = 1, 2, .
Литература: [8, 41, 49, 72].
Глава 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ
7.1. Процессы восстановления
7.1.1. Определение. Основные теоремы. Последовательные суммы
п>0, Со = ёо = О,
/г-0
(Ы)
независимых неотрицательных одинаково распределенных случайных
величин с функцией распределения f (х) — P{&s<x} образуют
моменты (точки) восстановления (переключения, наступления неко-
торого события и т. п.).
Процессом восстановления называется величина
v(t) — max {n: sC /},	(1.2)
определенная при каждом t 0. Так что
v(t)=n, t < п 0,	(1.3)
или иначе
ОО
*(<) = £ х(€»<0-
П-1
(1.4)
Траектории процесса восстановления ступенчаты, непрерывны
справа и имеют скачки, равные единице, в точках восстановления
(п 0).
Процесс восстановления v(t), остановленный в показательно
распределенный момент времени т с параметром s (0 < s < Г),
имеет геометрическое распределение с параметром f (s) = Me
P{v(T) = n}=r(s)(l-f(s)).	(1.5)
Производящая функция
MzvW = sJe-s'MzvWdf
о
(1.6)
146
ГЛ 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ
[7.1.1
представима формулой
1 —*/(*)
Для факториальных моментов
ОО
Mv (т)1"1 = s J e~stMv (/)!"! di
имеет место формула
Mv(T)[«]=n![^Lr я>1#
L *	/ J
В частности,
ОО
Mv (т) = s
\ e~s/Mv (0 dt =», —Ш—.
J т^п.)
(1.7)
(1.8)
(1-9)
(1.10)
Функция N (/) = Mv (/) + 1 называется функцией восстановле-
ния. Функция восстановления JV (!) конечна при всех t > 0 и пред-
ставима через распределения сумм в виде (см. (1.4))
ОО
лчо = Е ркпСо.
п=0
(1.П)
Функция восстановления удовлетворяет интегральному уравнению
восстановления
t
JV(/) =1 +	(t-x)dF{x), />0.	(1.12)
о
Асимптотическое поведение функции восстановления определяется со-
отношением при МЕ,«	J 00 Г	1	/1141 t	Mg
Теорема 1. Уравнение восстановления
i
и («)=£(«)+ j и (i ~ х) df'(X), t>0,	(1.14)
о
в котором g (/) ограничена в каждом конечном интервале, имеет
единственное решение U(t) на полуоси [0, 4-00), представимое в виде
t
U(t')^^g(t-x)dN(x).	(1.16)
о
Теорема восстановления. Ес^и распределение величин
В* неарифметическое, то для всех h > 0
lim [Л7 (14- Л) - ?/ (/)] =% Л/Mgj.	(1.16)
<-»оо
7-1.21
7.1. ПРОЦЕССЫ ВОССТАНОВЛЕНИЯ
н/
£
Если же величины Е» имеют арифметическое распределение, то
(1.16) имеет место для h, кратных шагу распределения
Функция g(t), заданная на полуоси [0, +<эо), непосредственно
интегрируема по Риману, если
СК>	ОО	оо
g(t)dt = Um е У £*=> lim в У g£,	(1171
е->0	е->0 X—J
О	«“I	п—1
где нижние и верхние римановы суммы в (1.17) определяются экс
тремумами функции g
min g(l), g®== max g (t), л-I, 2,...
(n-l)e</<ne	(n-l)e<tCne
Теорема 2 (восстановления узловая). Для функции g(l), не-
посредственно интегрируемой по Риману на полуоси |0, +«>), о чнт
чае неарифметического распределения выполняется cooihoiiii'hiic
I	оо
lim \g(t-x)dN (x) = ~\g(t)dt-,	(1.IH)
l-tx J	M6t J
0	0
в случае арифметического распределения Е» с шагом d выполняется
соотношение
t+nd	„
lim \ g(t + nd-x) dN	g(t + kd). (1.19)
п-*-<» J	MS1 t—I
0	A-0
Процесс восстановления с запаздыванием задаоси пачи ш.иым
распределением Fo (/) =P(g0<Ii), отличным от распределении / (/)
остальных интервалов между моментами восстановления
Процесс восстановления с постоянной скоростью восстановлении,
когда функция восстановления N(t) линейна по Р. N(t) = at 4- 1,
называется стационарным процессом восстановления.
Примеры. 1. Процесс восстановления с показательным рас-
пределением интервалов между скачками Р (Ей СО = I — в'
(t 0) является пуассоновским процессом с функцией восстановле-
ния N(t) = al + 1 (1^0). Таким образом, пуассоновский процете
восстановления стационарный.
2 Процесс восстановления с начальным распределением
t
Fa V) = Р (Ео < 0 = -щ; J [1 ~ F WI dx (1.20)
о
также стационарный. Его функция восстановления N(t) =l/(Mg1)4-t
Распределение (1.20) называют стационарным распределением за
иаздываиия.
Распределение (1.20) служит предельным для линейчатых про-
цессов (см п. 7.1.3, следствие 1).
7.1.2. Дополнения и уточнения. 1. Если интервалы между мо-
ментами восстановления Ел имеют равномерно непрерывную плот-
ность p(t) и функция q (/) = sup р (х) интегрируема на полуоси
х>1
148
ГЛ. 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ
17.1.2
[О, +«>), то функция восстановления N(t) имеет ограниченную рав-
номерно непрерывную производную для которой
lim N' (/) = 1/Mgi-	(1.21)
/->оо
2.	Для неарифметического распределения F(t) с конечной дис-
версией DE/. = а2 < сю выполняется соотношение
[/ 1	Га!2	1
мНЧтйГ- +У-	<1‘22>
Mg! J	L Mgi J	2
3.	Для процесса восстановления имеет место усиленный закон
больших чисел.
p(limlv(O = -SjH-=L	(1-23)
4.	Если величины имеют устойчивое распределение с пара-
метром а > 1 и Me = е сК (с > 0), то
lim =	(1.24)
t->oo ta с
Б Если величины имеют интегрируемую характеристическую
функцию f (s) = Mets5fc и f(s) — 1 ~ cs log s при s 0, to
<L2S)
6. Пусть i]* (k 1)—последовательность независимых одина-
ково распределенных случайных величин с Mettt|* = <р (X). Общий
процесс восстановления задается соотношением
V(l)
(1-26)
где v(t) —процесс восстановления, определяемый моментами восста-
п
новления £„ = У gfc (п > 0) с Me =₽ [ (s).
/7=0
Характеристическая функция общего процесса восстановления,
остановленного в показательно распределенный момент т с парамет-
ром з (0 < s < 1), имеет вид
Me<Xvc(x) = s £>~s'Meav“(/) dt
о
и определяется соотношением
MSfiMVo (?)	1 ~~ f (s)
1 — ф (X) f (s) ’
В частности, при М |	| -< оо
Му0(() = мПлМу (О;
(1.27)
(1.28)
(1.29)
7.1.3}
7.Г. ПРОЦЕССЫ ВОССТАНОВЛЕНИЯ
1 1<»
при < оо
Р (lim v0 (0/v (f) =» Mqft) =* I.
(1.30)
7.1.3.	Линейчатые процессы восстановления. Этими процессами
определяются следующие соотношения: перескок, или остающееся
еремя ожидания момента восстановления,
Yi’ = Cv(«)+1-^	<Ь31)
нсдоскок, или время, прошедшее с момента восстановления,
Y< “1— ?v (/)•	(1.32)
Процессы yf и у£ являются кусочно-линейными. Между дву-
мя соседними точками восстановления и Crt+i процесс у/ убы-
вает линейно от |к+1 до нуля, а процесс у^ возрастает линейно or
пуля до g„+l.
Сумма yt = yf + yt =?v!f)+1 есть длина интервала между
соседними моментами восстановления, накрывающего точку t. Заме-
тим, что распределение	не совпадает с распределением
при фиксированном k.
В качестве исходных соотношений для изучения линейчатых про-
цессов восстановления можно принять следующие стохастические со-
отношения, в которых равенство — понимается в смысле совпадения
распределений случайных величин, стоящих по обеим сторонам ра-
венств:
V^'h,, />0; yt = -t, f<0;	(1.33)
уГ	+	z>°-
Совместная производящая функция для yf н yf задается форму-
лой
М ехр {- Ау+ -	« Мехр{-Ш-Мехр{-(|Н-в4.}
Производящие функции линейчатых
определяются формулами
М схр	=«
1 — М ехр {— 41}
(1.35)
процессов восстановления
Мехр{—ftgi}~Мехр{—4il
1 — М ехр {— 41}
(1.36)
= s j ехр{— s/}Mcxp {—
о
и
М ехр {—	=*
ОО
— S ехр {—$/} Мехр {—	) dt — s *
о
1 - М ехр {- (s + 2,)Ы
1 — М*ехр {—41}
(1-37)
)50	ГЛ. 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ	[7,2.1
Теорема 3. При М|/с < оо в случае неарифметического рас-
пределения величин существует
СО
lirn^ Р (у/ > х, yt' > у) == -щ-	[1 — F(u)]du; (1.38)
х+у
в случае целочисленных величин существует
lim Р (у+ = k, ъ - г) = -А- Р (Е, > k + г),	(1.39)
t ОО	’’*Ь1
когда t пробегает натуральный ряд чисел.
Следствие 1. Предельные распределения у^1' и yj* при
i-*oo совпадают с распределением стационарного запаздывания:
х
Дт Р (у+ < х) = Р (yz- < х) = J (1 - F (у)) dy. (1.40)
О
Следствие 2.
х
/4™ р+V/~ л)=wr itJaF
о
В частности,
lim М [у?' + уГ1 =2М|..	(1.42)
/->оо	1
Примеры. 1. Если Р (Е;. х) = 1 — е~ах, то и
Р (у+ < х) = 1 - е~ах.	(1.43)
X
2. Если Р (g0 < х) = -щ-	[1 — F (у)] dyt то
о
х
р (у<+ < *) =	§ I1 — F (у)] dy,	(1.44)
о
что поясняет стационарность процесса восстановления со стационар"
ним запаздыванием Jjo-
7.2.	Классификация случайных блужданий на прямой
7.	2.1. Критерий возвратности. Последовательность сумм
£ Еп. «>0, Ео = О,	(2.1)
Ikl
независимых одинаково распределенных случайных величин Е* ®
функцией распределения F(x) (0<F(0) < 1) определяет случайное
блуждание на вещественной прямой.
7.2.21
7.2 СЛУЧАЙНЫЕ БЛУЖДАНИЯ НА ПРЯМОЙ
151
Величины g,t называют шагами (скачками) блуждания, суммы
7,.. определяют положение блуасдаттня и момент п (после п шагов).
Функцией восстштовления случайною блуждания (/г	0) на-
зывается функция интервалов
<х>
N (А) =*£ Р (£„ с= Л),
и—0
(2 2)
где А— ннгериал иа вещественной прямой
Lc.nn /•--арифметическое распределение с шагом d, то всегда
предполагается, чю интервал А содержи! ио крайней мере одну
точку вида nd.
Теорема 1. Имеет место альтернатива: либо И(А) < оо для
всех конечных интервалов, либо N(A) = оо для всех интервалов.
Случайное блуждание £„ (п 0) называется невозвратным, ее ли
/У(Л) < оо для всех конечных интервалов, и возвратным, ее ми
И(А)= оо для всех интервалов
Введем случайную величину Vi — число попаданий случайною
блуждания (тт 0) в интервал А:
OQ
VA= Е
и и
(2.3)
Теорема 2 Для невозврат него случайного блуждания число
попадании в i',anc<)i>nT конечный интервал конечно с вероятностью
едаттттца, а математическое ожидание числа попаданий в интервал А
равно Мул — N (/I).
Для возвратного случайного блуждания число попаданий в каж-
дый конечный интервал равно бесконечности с вероятностью единтть с.
Теорема 3 (общий критерий возвратности случайного блу-
ждания). Случайное блуждание со скачками g, невоззрагно тогда
и только тогда, когда
.. f |? _____________1
stl J '° 1 ~ sM ехр
(2-4)
Критерий (2 4) сохраняется и для случайных блужданий в ко-
нечномерном "вклидовом пространстве. т.е. когда = (Jj^i, -
.,	—m-мерные случайные век юры. При этом Xgfc =
^rZkr — скалярное произведение векторов X и С —контур,
содержащий начало координат
В частности, двумерное случайное блуждание возвратно, если
= 0 и < оо.
Случайное блуждание в трехмерном (а также в m мерном при
нт > 3) евклидовом пространстве невозвратно.
Теорема 4. Одномерное случайное блуждание со скачками
" М | gfe | < оо возвратно тогда и только тогда, когда М£& == 0.
7.	2.2. Типы случайных блужданий. Введем случайные величины
с+ = sup £п. с = inf С
п^-тт
(2.5)
152	ГЛ. 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ	[7.3.1
Теорема 5. Существует только три типа случайных блу-
жданий-
1)	осциллирующий'. Р {g+ = оо) — Р {g“ = — оо) = 1;
2)	уходящий о — оо: Р (g“ = — оо) = 1, Р (£+ < то) = 1;
3)	уходящий в + то: Р (g+ = оо)= 1, Р ({J- > —оо) -= 1.
Случайные блуждания, уходящие в —то или 4-то, очевидным
образом невозвратны
Среди осциллирующих случайных блужданий имеются как воз-
вратные, так и невозвратные Например, случайное блуждание с
распределением Коши скачков — возвратное и осциллирующее; слу-
чайное блуждание с симметричным устойчивым распределением
скачков с параметром а < 1 — невозвратное и осциллирующее.
Факторизационные тождества (§ 7.5) дают следующий критерий
уходящих в —оо случайных блужданий.
Теорема 6. Для того чтобы Р (sup < то) = 1, необходимо
п>0
и достаточно, чтобы выполнялось условие
СО
24-Р(Еп>0)<°°-	(2-б)
При этом
со	ч
P(sup ?n = 0) = expl — V -^-Р(£п>0)|.	(2.7)
n>0	I	Z-J	П	4
I	п-1	)
Аналогичный критерий имеет место для случайных блужданий,
уходящих в 4-то.
Заметим, что всегда
ОО
£1р(£„ = 0)<«,	(2.8)
п—1
Поэтому условие (2 6) эквивалентно также одному из следующих
условий:
ОО
У4р(^>0)<то, P(sup£„< 0) > 0.	(2.9)
L-л П	п>1
п-1
7.3.	Функционалы на случайном блуждании
7.3.1.	Лестничные величины. Строгие верхние лестничные точки
случайного блуждания (л 0) определяются соотношениями
T^> = min{n>l: £„>()},	(3.1)	(3-1')
т+
Случайная величина есть момент первого вхождения слу-
чайного блуждания £п (п 0) на полуось (0, 4-°°) > а Y+* — поло-
жение случайного блуждания в момент первого вхождения на полу-
7.3.Ц	7.3. ФУНКЦИОНАЛЫ НА СЛУЧАЙНОМ БЛУЖДАНИИ 153
ось (0, +<»), или, иначе, величина первого перескока нулевого
уровня.
Случайное блуждание = C (ц — £ ц> («^0) стохастиче-
т^'+л.
ски эквивалентно случайному блужданию	Строгие верх-
ние лестничные точки Т^=« min{n> 1:	> 0} и	блу-
Т4-
ждания (п > 0) являются вторыми лестничными точками блу-
ждания (и 0). При этом пары случайных величин (•<<> YO>) и
(т(_Д Y+') независимы и одинаково распределены. Аналогично могут
быть определены (т^\ при каждом целом k 1.
Последовательности	k 1] и {у^\ k 1J определяют
процессы восстановления, вложенные в случайное блуждание Сп
(и > 0).
Вложенные процессы восстановления обрываются для случайных
блужданий, уходящих в —оо. Вероятность обрыва процесса на ко-
нечном шаге равна дефекту величины г+:
/	°0	’I
P(T+ = oo) = P(Supgn«0) = exp J	±p(jn>o)l	(3.2)
I	п-1	)
Если Р ( sup £«== °о) = 1, то т+ — собственная случайная вели-
п>о
чина и
(3.3)
Аналогичные соотношения имеют место для строгих нижних
лестничных моментов
х- »=» min {/i > 1:	< 0),	(3.4)
а именно:
Z °0	\
Р (т_ = оо) = Р (inf gn = O) = expJ — У >(g„<0) I (3.5)
п>0	1 Z-J П	I
(.	п-1	)
4-р(?п>°)
(3.6)
Таким образом, имеют место соотношения
~PGn = °)|/P(K = “).
(3-7)
154
ГЛ. 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ
(7.3.2
Имеет место альтернатива: один из лестничных моментов т+ или
т_ — несобственная случайная величина, блуждание уходит в —оо
или +оо, и тогда Мт_ < оо или Мт+ <оо; или Mt+ = М т_ == оо
(для осциллирующих блужданий).
Для лестничных величин т+ и у+ при Мт+ < оо имеет место
тождество Вальда-.
Мт+=Му+М^,	(3.8)
при 0 sS < оо.
Пр им ер 1. Случайное блуждание в схеме Бернулли опреде-
ляется скачками g* = ± 1 с вероятностями р и q — 1 — р соответ-
ственно. При p>q бернуллиевское случайное блуждание уходит в
-i-оо и Мт+ = 1/(р —<?). Р (Т- — оо) = 1 — q/р- при р <_ q блужда-
ние уходит в —оо и Мт_ — l/(q— р), Р(т+ — оо) = 1 —p/q; при
р =“ q = 1/2 случайное блуждание в схеме Бернулли — осциллирую-
щее и возвратное с Мт+ = Мт_ = оо.
7.3.2.	Верхние функционалы. Верхние функционалы от случай-
ного блуждания (п 0) определяются соотношениями
Ё„= max 54, п>0, Ёо = О,	(3.9)
On = min (k: 5fe = Snl, n^O, 0O — 0,	(3.10)
vn=X	x(?4>0). n>0, vo = O.	(3.11)
Теорема 1. Имеют место следующие соотношения:
ОО	Ж оо
£ z“P(g„ = O) = exp| £-^-Р(£„<0) I, (3.12)
ОО	f OO	V
£ 2"P(v„ = n) = exp| £ ^-Р(5„>0)|,	(3.13)
п-1	1п=1	)
P(0„ = fe) = P(0s = A)P(5„_ft = O).	(3.14)
Кроме того, случайные величины 0« (номер первого максимума)
и vn (число положительных членов последовательности) 5* (1 k
одинаково распределены.
Для симметричного и непрерывного распределения скачков £/<
при всех п: Р (£, > 0) — Р (£„ > 0) — 1/2, распределения величин
т+, £л и 0л не зависят от распределения
М/+ = 1 - VF=7, Р (т+ = п) ==	(3.15)
Р(О„ = л) = Р(£„==О)=-^^-.	(3.16)
2г" (п!Г
С помощью формулы Стирлинга определяется асимптотическое
поведение вероятностей (3.15) и (316):
Р(0П = п) = Р (5n = 0) ~	(3.17)
7.4. «ЗАДАЧА О РАЗОРЕНИИ»
155
Р (е„ = k) ~ 1/(л V* (« — *))-
(3.18)
Последнее соотношение называется локальным законом арксинуса.
В общем случае имеет место следующий закон арксинуса.
Теорема 2. При условии сходимости ряда
£ 4[4-p<t“>0>]
п-1
< ОО
(3.19)
Л	__
lim Р (0п < хп) =a lim Р (Vn < хп) = — arc sin Vx. (3.20)
П->оо	П->оо	Зь
Условие (3.19) выполняется очевидным образом для симметрич-
ных случайных величин Ел, а также при = 0 и Dgo < оо.
Пример 2. В теории систем обслуживания важную роль иг-
рает процесс ожидания Wn (п 0), который задается соотношением
1Г„+, = max (0, Wп + £„), п > 0,
при заданном значении (нли распределении) 1Г0 и заданной после-
довательности случайных величин п 0.
Если случайные величины последовательности £„ (п 0) неза-
висимы и одинаково распределены и IV'o *= to = 0. то случайные
п
величины W„ и tn = max
имеют одинаковое распределение.
7.4.	«Задача о разорении» для полунепрерывных
случайных блужданий
Различные практические ситуации приводят к «задачам о разо-
рении», которые в терминах случайных блужданий tn (п 0) фор-
мулируются следующим образом. Имеется два поглощающих экрана:
верхний в точке х > 0 н нижний в точке —у (у >0); Т = х + и.
Определим моменты выхода случайного блуждания fn (п 0),
to = 0 из отрезка [—у, х] (моменты разорения) через нижний и
верхний уровни:
= min {п: tn < — 1/1. т* = min {и: tn > х).	(4.1)
Вероятности выхода случайного блуждания tn (п 0) (вероят-
ности разорения) через нижний и верхний уровни определяются
следующим образом:
QT (*) - Р {t„ < X, О < п < тг_х),
Qr(x) = Pk„>x-7’, 0<л<тх).
Производящие функции моментов разорения определяются соот-
ношениями
Вт (х, z) == М [ztr~xx (tn < X, 0 < п < тг_х)],
Вт (х, г) = М (tn > х — Т, 0 < п < т*)].
ГЛ. 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ
17.5.1
156
Пусть распределение величины скачков £ решетчатое и полу-
непрерывное снизу, т. е P(g — I) =1 я fZz^-= p(z).
Потенциал {Rk, k 0} на полуоси k 0 случайного блуждания
£п (я > 0) с производящей функцией р{г) скачков задается соот-
ношением
оо
Г (Z) = £	= [р {z) - I]"1.	(4.4)
ь=о
Резольвента {Rk (А), k > 0} на полуоси k >> 0 случайного блу-
ждания t,n (п > 0) с производящей функцией скачков p(z) задается
соотношением
ГА & “ Д W - ч"*-	<4-Б>
Теорема. Для вероятностей разорения (4 2) имеет место фор-
мула
QT (х) = 1 - QT (х) =- RX/RT, 0 < х < Т. (4.6)
Для производящих функций моментов разорения (4.3) имеют место
формулы
Br(x. X)-.«x(k)/Rr(k),	(4.7)
[Т -|	х
1 - (А - 1) £ Rk (A) J Rx (X)/Rr(l) + (А-1) £ R*(A).
(4.8)
Заметим, что при Mg < 0 потенциал может быть задан распре-
делением максимума £ = max £п:
п> о
Rk = Р (max < Й)/(Р (max £„ = 0) Р (g « - 1)).	(4.9)
п>0	п>0
7.5.	Факторизационные тождества
7.5.1.	Основные факторизационные тождества. Пусть задана
последовательность g* (/г Js 1) независимых одинаково распределен-
ных величин с характеристической функцией ф(А) = М expfiAg*}-
Последовательность сумм gn (n^O), to = 0, определяет слу-
чайное блуждание на числовой оси.
В теории случайных блужданий важную роль играют фактори-
зационные тождества для функции 1 — z<p (А) вида
1 — z<p (А) =	(z, А) ф_ (г, A), Im А = 0,	(5.1)
в котором множители факторизации ф±(г, 7.) аналитичны в обла-
стях Ini Л > 0 и 1m А < 0, непрерывны и ограничены в замкнутых
полуплоскостях Im Л > 0 и Im A 0 соответственно.
Функция ф+(г, А) (ф-(г, А)) называется положительной {отри-
цательной) компонентой факторизации.
Задача факторизации, т. е. представления х ф. в виде (5.1), яв-
ляется одним из вариантов проблемы Коши — Римана в теории гра-
ничных задач для аналитических функций.
1 5.Ц
7.5. ФАКТОРИЗАЦИОННЫЕ ТОЖДЕСТВА
157
Основное факторизационное тождество легко следует из разло-
жения
(	00	k 'J
1 — zip (X) = ехр {In (1 — zip (X))} = exp 1 — У' — <pfe (X) 1.	(5.2)
(.	k-i	)
Теорема 1. При |z| < 1, ImX = 0 функция 1—z<p(X) пред-
ставима в виде
где
1 — zip (X) = ip+ (z, X) <p_ (z, X) <p0 (z).
(5.3)
(5-4)
Функции ip+(z, X) и ip_(z, X) являются соответственно положи-
тельной и отрицательной компонентами факторизации и удовлетво-
ряют дополнительно следующим условиям:
inf I <р. (z, X) I > 0, q>± (z, ± i со) = 1.	(5.5)
Im Z О
Компоненты факторизации tp±(z, X) и <р0 (z) имеют вероятностную
интерпретацию в терминах граничных функционалов от случайного
блуждания (п > 0).
Строгие лестничные моменты вводятся следующим образом:
т+ = min {k > 1:	> 0J, т_ — min {A > 1:	< 0).	(5.6)
Лестничные величины определяются соотношениями
(5.7)
Величина т+ называется временем первого достижения (ехожде-
i ия) положительной полуоси (0, +°о).
Аналогично т_ есть время первого достижения отрицательной
•юлуоси (—со, 0).
Лестничная величина у+ (у_) называется первой положительной
(отрицательной) суммой или точкой вхождения па полуось (0, +°°)
((—со, 0)).
Заметим, что случайная величина т+ определена только па тех
последовательностях сумм (п Js 1), для которых £ = sup > 0.
_ «> 1
1 > противном случае, когда t, ==: 0, пола! аем т+ = со
Аналогично т_ — несобственная случайная величина, если
S’ А = inf £п>0) > 0.
tl 1
158
ГЛ. 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ
[7.5 t
Теорема 2. При |г| sg 1, ImZ = 0 справедливо факториза-
ционное тождество
J — z<p (Л) =*
= {( — M[e/XV+zT+x (т+ < °°)]} {• ~ M[eftV“zT~x(t_<°°)]}$0(z).
(5.8)
Функция q>o(z) определена в (5 4).
Определим лестничные величины, порожденные случайным блу'
жданием л Js 0, соотношениями
т' = min (k > 1: Сь >°}.
г к f	(5.9)
< = min{fc>l:
(5.10)
т±
Теорема 3. При |z|	1 имеют место равенства
1 — м[е<МГ+гТ+х (т^ < oo)]=<p0(z) {1 — м[е >Л| z^Zf^ < оо)]},
(5.11)
Г 1^4°—	, п .1	f г ft-Y_ т_	*11
1—М[е г % (т_ < оо)J —	(г) (I — М[е г Z(T-<OO)J|
(5.12)
При этой
Фо (z) = 1 — М [zT-f X (V°+ = о)] = 1 — М [zT-x (V- — °)]>	(5-13>
Теоремы 1—3 позволяют получить целый ряд соотношений для
граничных функционалов от последовательности сумм (nJsO).
Следствие 1 При [г[ I
f	СО	к
1 — м[е'М+гТ+х (т+ < оо)] = exp |	-у-м[е'Л’Ах(£/г > °)1| ’
(. k-i	J
(5.14)
(5.15)
Следствие 2 При lin Z = 0
1 — ф (Л) = [1 — м(е/?1¥'1 х(т4 < °°))]{1 ~ M[ef?V-%(T- < °®)]}*
(5.16)
Распределение максимума t, = max t,n последовательности сумм
/г 0
(«>0) также определяется компонентами факторизации.
 Г. .'|	7.Б. ФАКТОРИЗАЦИОННЫЕ ТОЖДЕСТВА
159
Теорема 4, Если р = Р (т+ •< оо) < 1, то при Im X 5s О
Me *=(1 — р) {1 — М [e’Xv+x (т+ < ос)]} *,	(5.17)
и in
Me'Xt = (1 — р0) {1 — М [е Xv+% < оо)] ] .	(5.18)
П роизводящая функция распределения максимумов =
 = max(0, {Ji, .... С„) определяется следующим образом.
Тождество Поллачека — Спицера. При |z| < 1, ImA^O
СЮ
= ехр	М ехр {/Z max (0, £„)) J. (5.19)
7.5.2. Примеры явных формул. Существует класс распределе-
ний, для которых компоненты факторизационных тождеств имеют
явные аналитические выражения.
1. Распределения лестничных величин Y+ « V0. и максимума
t = max t,n имеют простые явные аналитические выражения в од-
п >0
ном важном для приложений случае (в теории систем обслужива-
ния, задачах о разорении и др.)—случае полунепрерывных распре-
делений величины скачков, когда, например, правый хвост распреде-
ления скачков показательный:
1 — ф (х) = Р (| > х) = Се~ах (С > 0, а > 0), х > 0. (5 ?•»
При х < 0 распределение Р (| < х) =Ф(х) произвольно. В этом
«лучае величины у1. и т+ независимы и
Р (у+ < %) = р (1 — е~ох), р = Р(т+<оо).	(5.21)
Кроме того,
р(£<х)= 1 -ре-а(,-Р>х, 1-р = Р(£ = 0).	(5.22)
Если существует Wig = 0, то р — Р(т+ < оо) = 1, но
•’ (т_ <; оо) = 1 — aMg < 1, и тогда
X
Р (х) = Р (у?. <х) = Ф (х) + а Ф (у) dy, х<0, (5.23)
— оо
и имеет место формула Хинчина — Поллачека
Р (min < х) => (1 - вМ£) У Р'1' (х), х 0.	(5.24)
п—0
Если Mg < 0, то р ~ Р (т+ < оо) < 1 (но Р (т- < оо) == 1)'.
К ощланта р в этом случае определяется равенством
р = 1 — Ц0/а,	(5.25)
160
ГЛ. 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ
[7.5.2
где Цо — единственный положительный корень уравнения ф(—/цо) =
= 1.
Распределение y’L определяется формулой (5 23).
Приведенные в примере формулы также имеют место, когда ве-
личина скачков представима в виде разности двух независимых не-
отрицательных случайных величин g = g+ — с Р (g+ х) = е~аг
(х> 0) и Р (|- < х) = Ф(х) (х >0). В этом случае при х > 0
ОО
ф (х) = р (g < х) = 1 - Се~ах, С== Р“ахб/Ф-(Х), (5.26)
о
а при х 0
оо
ф (х) = Р (g < X) = 1 - Ф_(- х) - е~ах е~аус1Ф- (у). (5.27)
-х
При этом лестничная величина у °, имеет плотность
Р (v°- < х) = аф- (*)•
Аналогичные результаты имеют место для решетчатых распре-
делений с геометрическим распределением положительных скачков:
Р(§>А) =С<?/г’1 (С>0, <?>0), й=1, 2, ...	(5.28)
(при <7 = 0 полагаем q° = 1).	'
2. Показательное случайное блуждание задается двусторонним
показательным распределением величины скачков:
ф(1) = Ме«_7Т»я_—гя..	(5.2Э)
В этом случае явные выражения для компонент факторизации
<Р± (z, X) (см. теорему 1) определяются формулами (при b а)
<Р+ (г, X) = 1 -	<р_ (z, X) = 1 —	(5.30)
а —	и “г (Л
2и (г) = а + b — V(a + b)2 — 4abz. .	(5.31)
Из теоремы 2 следуют выражения для производящих функций
лестничных моментов
м [z't+ [% (т° < оо)]] = и {z)ja,
V г	т	(5.32)
МI [z _	(т°_ < оо)]] = и (z)/b.
При b < а дефект случайной величины т+ равен 1 — 6/а = Р (т+ =
= оо).
Распределения лестничных величин у± являются показательными
с плотностями ае~ах и be~bx соответственно.
Т.П II	7.5. ФАКТОРИЗАЦИОННЫЁ ТОЖДЕСТВА	16J
Распределение максимума (при b < а) также показательное:
Р( max £„<*)== 1- —	(5.33)	{
п ' а
3. Биномиальное случайное блуждание определяется биномиаль-
ным распределением величины скачков: P(gft=+l) = P> Р(^=—1)=»
= q, р + q = 1, <р (Л) = Me R = ре +qe
Компоненты факторизации определяются формулами
ф+ (z, Z) = 1 - еЛ«+ (z), Ф_ (z, Л) = 1 — elZ,«_ (z),	(5.34)
«+ (z) = (1 — Vl — 4pqz2 )l%qz, и_ (z) == (1 — Vl — bqpztyipz,
_____________________________________ (5.35)
Фо (z) = (1 + Vi — 4pqz> )/‘2.	(5.36)
7.5.3. Граничные функционалы. Верхние граничные функционалы
на случайном блуждании (я^О), связанные с достижением по-	|
ложительного уровня, определяются следующим образом.
Момент первого достижения положительного уровня х > 0:
= min {fe > 1:	> х|.	(5.37)
Величина первого перескока положительного уровня х > 0:	।
Yx = Srx-x.	(5.38)	I
Теорема 5. При |z| < 1, Iml > 0, Im р. > 0
1-----С elKxdxM [z^e^ у (тх < оо)]	• (5-39)
1 J	<Р+ (г, А)
При этом т t-о = т+, у+о = Y+-
Если характеристическая функция ф(1) =	величины
скачков аналитична в некоторой полосе —lo < Im 1 < 0 и
ф(—ilo) > 1, то имеет место тождество Вальда: при х > 0
«л Г	. ,1	—Л(г)х
М [z хе * X (Тх < oo)j = е ,	(5.40)
где l(z) —наибольший корень уравнения
1 — zf (—/l(z))=0.	(5.41)
Тождество Вальда имеет место в более общей ситуации для
момента выхода случайного блуждания £и (л 0) из конечного
интервала (— а, Ь):	= min {л: ф (— а, 6)} и положения точки
в момент выхода £ а в следующей форме:
ХЬ
Mpf (Ml”*exp {-Чта}}-1.
5 В. С. Королю к и др.
162	гл. 7. СЛУЧАЙНЫЕ БЛУЖДАНИЯ	р.6,3.
Это тождество используется в последовательном анализе для оцен*
ии распределения т£.
Для полунепрерывного распределения величины скачков, имею*
щего показательный или геометрический хвост Р (£ х) = Се~ая
(С > 0, а > 0, х > 0) или (в решетчатом случае) Р (В k) ==j
= С^*~‘ (С > 0, q 0, k = 1, 2, ...), случайные величины х* и у,
независимы и
Р (Тх > 11	< оо) = е~ at	(5.42)
или (в решетчатом случае)
Р (Yx > k [ хх < оо) =® qk.	(5.43)
Из тождества Вальда (5 40) следует
М (тл < оо)] = ——е~к *	(5.44)
или (в решетчатом случае)
М {z*x% (хх < оо)] == * 1	— е~к <г) х.	(5.45)
Из формул (5 44), (5 45) следует
Р (Тх = п) = рп (х) + 4-	[^ Рп (х)1,	(5.46)
Н	44 ил L. '•	-I
или (в решетчатом случае)
Р (тл =«)•=
=4р•=х)+т=т Г4р (?п=х) - р «« -х - ‘Я-
• 4	1 Ц L ’*	<4	I
(5.47)
Здесь рп (х) = -^-Р (?м < х) — плотность распределения суммы
при х > 0.
Для полунепрерывного решетчатого случайного блуждания с
— 0, т. е. с Р (g > 1) = 0,
P(Tjc==zl) = Ap(EnE=x).	(5.48)
I Определим момент 1-го достижения максимума
е„ = пйп{й: £* = £„}
и случайную величину v₽ с геометрическим распределением
Р {vp = ft) = (1 — р) рк, k > 0, 0 < р < 1.
Теорема 6. При ]г] < 1, ImX = Imц = 0
М [ехр {	- gVp) + г v₽] =
ev
“ <P+ (zp, p) M [exp {ZX (JVp — tvp)}] Mz P,
e
причем Mz P *= lim <j> (p, X)/<p (zp, Л).
/К—> ~ oo
e.f II	8 1. ОПРЕДЕЛЕНИЕ ЦЕПИ МАРКОВА	[&J
7.5.4. Время пребывания над положительным уровнем
«*<«)-£ х(С*>*) <*><»•
fe-i
Теорема 7. Пусть Dn (z, *) = MzQ* д (а> г, х) —
ОО
« y*f wrtDft (z, х). Тогда
оо
Г „	1 ср, («, А)
J в d* D (“• *’ Х) =	• ф2'(игДТ “ 1 - D («•	+°)’
+о	+
1	,	ф, («, А)
D (и, г, +0) =  - lim —+-------— ь
1 — и ГК-* - оо ф+ («Z, А)
zr.	Р , («) (а — 1к)
Если выполнено условие (5 20), то <р , (и, л) ==	—--—
+	ар (и) — <л)
следовательно,
D (и, г, х) -	-----(-------D (и, г, +0) ) е “^+ <*>*,
1 ~~ tl	\ 1 и	/
1 р, (и)
о<“.^.+»>-т^г-7^гг-1’ ₽+<"’-11 {Ev„ - 0).
Л и г е р а т у р а: [11, 12, 47, 84, 86, 87, 891.
Г л а в а 8. ЦЕПИ МАРКОВА
8.1. Определение цели Маркова
8.1.1. Определение цепи Маркова. Одним из наиболее важных
обобщений понятич последовательности независимых случайных ве-
личин является понятие последовательности величин, связанных в
цепь Маркова
Пусть задано вероятностное пространство (Q, 8, ^). Измеримое
отображение (Q, 8) -* (X, 8), где (X, 8) — некоторое измеримое
пространство, называется случайным элементом в (X, ®).
Последовательность {g„, и = 0, 1, 2, ...} случайных элементов
в измеримом пространстве (X, 8) называется цепью Маркова, если
для любых ГеВил=|, 2....С вероятностью I
р {5л е Г I go, Ь....5«-i} = р {^Л е г I gn_,}.
Пространство (X, 8) называется фазовым пространством цепи.
Всякую последовательность (случайных или неслучайных) эле-
ментов {g,, п = 0, 1, ...} пространства (X, 8) можно рассматривать
। 1к движение некоторой системы (точки, частицы) в фазовом про-
< <ранстве: нз начального состояния go в момент времени 1 система
переходит в состояние gt, затем в момент времени 2--в состояние g?.
и г. д. Понятие цепи Маркова, таким образом, выделяет из совокуп-
ности всевозможных движущихся систем так называемые системы
6*
164	ГЛ 8. ЦЕПИ МАРКОВА	[8.1.1
бгз последействия, или системы с отсутствием памяти. В детермини-
рованном случае это те системы, для которых состояние в момент
времени п однозначно определяется состоянием этой системы в мо-
мент времени п — 1 независимо от того, каким было движение до
этого момента. В отличие от детерминированных стохастические си-
стемы без последействия обладают тем свойством, что по состоянию
системы в момент времени и — 1 однозначно определяется не со-
стояние системы в момент времени п, а лишь вероятность, с какой
она в этот момент времени находится в том пли ином множестве
состояний.
Примеры. 1 Последовательность независимых случайных эле-
ментов п = 0, 1, 2, ...} образует цепь Маркова, так как
Р {*„ е Г | Ео, ...,	= Р {Е/г е Г |	= Р {Е,г е Г).
2.	Случайные блуждания. Пусть X — аддитивная коммутативная
группа и Э — некоторая а-алгебра подмножеств X, согласованная
с операцией сложения в X, те. если Ге?, то Г + х = {х + г,
z е= Г} е? при любом х е X. Предположим, что задана последова-
тельность независимых случайных элементов {т|п, п = О, I, 2, ...} в
(X, S). Тогда последовательность {g« = т;о + r}i + ... + T)^, п =и
«= 0, 1, 2, ...} является цепью Маркова в фазовом пространстве
{X, ®), так как для всех Г е S3 и п = 1, 2, ...
Р {g„ е Г11й, g,...._ Р + 7]„ е r | J.
Такая цепь называется случайным блужданием в X.
Пусть, например, X — совокупность всех векторов из евклидова
пространства Rm, координаты которых в некотором фиксированном
базисе ei, е2, .... е1п целочисленны; S — о-алгебра всех подмно-
жеств X. Если случайные векторы гр, туг, ... со значениями в X
независимы и одинаково распределены, то блуждание {|п =
= i]o + »!* + ••• + т]п, п = 0, 1, 2, .. } называется случайным блу-
жданием по целочисленной решетке в R"1. Здесь т)о — произвольный
не зависящий от последовательности {гр,, п— 1, 2, ...} случайный
вектор, принимающий значения в X. В частности, если векторы гр
(й == 1, 2, ...) принимают значения ±ец ±е2, .... ±ет с вероят-
ностями 1/(2т) каждый, то блуждание происходит таким образом,
что частица (система) за единицу времени из данной точки перехо-
дит с равной вероятностью в одну из соседних точек (соседними
к точке хеХ называются точки вида х ± ei, х ± е2, .... х±ет).
Такое блуждание называется простейшим симметричным блужда-
нием по целочисленной решетке в R”.
Другой пример случайного блуждания получим, если положим
X — Rm, ® — а-алгебра борелевских подмножеств Rm, а {'г)*» k =
= 1, 2, ...}—независимые одинаково распределенные случайные
векторы в Rm
3.	Случайные блуждания с границами. Пусть X — коммутатив-
ная аддитивная группа, а 9— а алгебра подмножеств X, согласо-
ванная с операцией сложения в X (см. пример 2). Для произволь-
ного множества Й ей обозначим через след о-алгебры Й на мно-
жестве D, т.с. а-алгебру множества вида ГП D, Г с?. Предполо-
жим, что для некоторого фиксированного множества D е 9 задано
измеримое отображение <р: (X \£>, S5X\D) -> (D, 9О)-, а для некото-
рого подмножества D' cD, D' ей, — измеримое отображение
Я.1.11	8.1. ОПРЕДЕЛЕНИЕ ЦЕПИ МАРКОВА	160
ф: (D', SSo') -> (D, 0О). Пусть {т)я, п = 1, 2, ...} —последователь-
ность независимых одинаково распределенных случайных элементов
в (X, S), a ijo — не зависящий от последовательности {т}п, л =а 1,
2, ...} случайный элемент в (£), Йо). Положим go = 40 и
£/i+i = Хд' (£д) Ф (£«) "Ь Хд\д' (£п) {(£п + ^In+i) Хд (5n + *l/i+i) +
+ Ч>(£п+*1п+1)^\д(£„+*1„+1И- п = 0. 1. 2,..., (1.1)
где Хг (х) — индикатор множества Г сХ, т. е. функция, равная 1
при хеГ и равная 0 при х Г. Тогда последовательность {g„,
п = 0, 1, 2, ...} образует цепь Маркова в (D, SD), называемую
случайным блужданием с отражением.
Движение частицы при таком блуждании можно описать сле-
дующим образом. Если в некоторый момент времени частица попала
в точку х е I)', то в следующий момент времени опа попадает
в точку ф(х) е D. Если же в момент времени л |„ = хеС то
в момент времени п + 1 частица попадает в точку х 4~ Щыы при
условии, что х + т]„ н s О; в противном случае она переходит в
точку <р(х + чпи)-
Рассмотрим некоторые частные случаи этой модели, а) Пусть
X — целочисленная решетка на прямой, D — множество всех неотри-
цательных целых чисел, D' — пустое множество, <р(х) = О для всех
х е X \D, а {т)„, л = 1, 2, ...} — последовательность независимых
одинаково распределенных случайных величин, принимающих значе-
ния 4-1 и —1 с вероятностями 1/2 каждая. Тогда, если т]о — не за-
висящая от последовательности {т]л, л 1} неотрицательная цело-
численная случайная величина, то последовательность {g„, л = 0,
1, 2, ...}, где в соответствии с формулой (1.1) go == Ч”> En i« =~-
— (^п4-Чп+1)Хо(5п4-Пп+1) (п = 0, 1, 2, ...), образует цепь Мар-
кова, называемую простейшим блужданием с задерживающим отра-
жающим экраном в нуле. При таком блуждании во всех точках
х > 0 блуждающая частица ведет себя точно так же, как и при
простейшем симметричном блуждании, т. е. из х она попадает в
одну из точек *4-1 к х—1 с вероятностями 1/2. Попав в точка/
х = 0, частица находится в ней некоторое случайное время, имею-
щее геометрическое распределение, а затем уходит в точку х = 1.
б)	Чтобы получить простейшее блуждание с отражением в нуле
без задержки, нужно выбрать X, D, (р и {т)я, л = 0, 1, 2, ...} та-
кими же, как и в случае а). В качестве D' возьмем множество,
состоящее из одной точки х = 0 (О'= {0}), и пусть ф(0) = 1.
Тогда go = т]о, |п-и = Х{о }(£--) +Хо\{0} (Ы (£« + *l«+i) (« = 0, 1«
2, ...). Это означает, ч’то, попав в точку х — 0, блуждающая части-
ца следующим шагом выйдет оттуда и попадет в точку х = 1. Во
всех остальных точках (х > 0) частица ведет себя точно так же,
как и в предыдущем примере.
в)	Аналогично можно построить случайные блуждания и с дву-
мя отражающими экранами. Пусть, например, а и Ь — два целых
пела, а < Ь, и пусть D означает совокупность всех целых чисел на
отрезке [а, Ь], £)'={Ь}, ф(Ь) — Ь — 1, tp(x) =а для всех целых
’ < а и <р(х) — Ь для всех целых х > Ь; последовательность {•)]„,
л = 1, 2, ...} такая же, как и в случае б); Т]о—не зависящая от
последовательности {г)п, л 1} случайная величина, значениями
।'порой служат целые числа отрезка [а, />]. В этом случае go =
166	ГЛ 8 ЦЕПИ МАРКОВА	J8.1.I
+ s = X|fc) (ё«) — 1) + X[fl,	+ Ч«+*)Х[с, fc](?n + Лл-и) "Е
4-	<2X{a-i}(S" + *!«+*)] («=0, 1, 2, .,.), т.е. последовательность {gn,
п = О, 1, 2, ...} представляет собой простейшее случайное блужда-
ние, для которого точка а является задерживающим отражающим
экраном, а в точке Ь происходит отражение без задержки.
г)	Приведем еще один пример многомерного случайного блу-
ждания с отражением. Пусть X = Rm; S3 — о-алгебра борелевских
подмножеств R”1; eit е2, .... ет — фиксированный базис в Rm. Через
т
х‘ обозначим i-ю координату вектора х е Rra, так что х — х1е^
l«= 1
гп
Положим D = {х:, х е Rm, х1 :> 0}, <р (х) = — х'е1 4- х*е1 Для
1—2
всех х е R"’ \D, D' = 0 (0— пустое множество). Предположим
еще, что задана последовательность независимых одинаково распре-
деленных случайных векторов в R™ {?)„, п = 1, 2, ...} и не завися-
щий от этой последовательности случайный вектор т]о е D. Тогда,
если
*1о> 4j+i = (“» + ^n+l)	(-n + ^n+i) + ЧР (5Л + т1„+]) X
X *Rm\n + W n = 0. J. 2, ...
то последовательность {|n, п = 0, 1, 2, ...} представляет собой цепь
Маркова в полупространстве (D, 53л). Это пример случайного блу-
ждания, при котором отражение происходит по закону отражения
светового луча па гиперплоскости х1 — 0.
д) Пусть (X, S) — аддитивная коммутативная группа с о-ал-
геброй, такая же, как и в примере 2. По заданному множеству
Do ей и последовательности {»]«, п = 0, 1, 2, ...} независимых слу-
чайных элементов в (X, 53) построим новую последовательность
!{£„, и = 0, 1, 2, ...} по формуле = тщ. ^п+1=1пХв„ (£„) +	+
<4 4n+i)Xx\Do(^n) (я ~ 0, ’>2>	)• Эта последовательность образует
цепь Маркова в (X, ®). Она называется случайным блужданием с
поглощением во множестве IX- При таком блуждании частина, ока-
завшаяся в момент времени п в некоторой точке х Do, в следую-
щий момент времени смещается в точку х + %ц. Если же частица
попала в какую-либо точку множества De, то там и остается на-
всегда.
4. Простейшее блуждание с переменными вероятностями. Пусть
X— совокупность всех неотрицательных целых чисел, ® — о-алгебра
всех подмножеств X. Точки х е= X будем интерпретировать как со-
стояния некоторой системы. Предположим, что эта система в мо-
менты времени 0, 1, 2, ... изменяет свои состояния таким образом,
что, оказавшись в момент времени п в состоянии х > 0, в момент
времени и 4-1 она попадает в одно из состояний х — 1, х, х 4- 1
с вероятностями qx, гх, рх соответственно (рх -f- qx 4- гх = 1). Если
х = 0, то переход возможен лишь в состояния 0, 1 с вероятностями
го и ро соответственно (го4-ро= 1). Предположим также, что ука-
занные переходы в момент времени «4-1 совершаются независимо
(в теоретико-вероятностном смысле) от движения системы до мо-
мента п. Это означает, что если Е(1 — состояние системы в момент
8.1.11
8.1. ОПРЕДЕЛЕНИЕ ЦЕПИ МАРКОВА
167
времени п, то для Ге9 в л = 0, 1, 2, ...
p{UierIMt............5„} = Р{В„+1еГ|?п}.
Иначе говоря, последовательность {gn, п = 0, 1, 2, .. } образует
цепь Маркова, которую назовем простейшим блужданием с перемен-
ными вероятностями.
Строго говоря, цепь Маркова в этом примере нельзя считать
заданной, поскольку априори не известно, можно ли задать вероят-
ностное пространство (ft, 8, Р) и случайные величины go, It,  ,
определенные на Q, так, чтобы выполнялись все условия, наложен-
ные на gn. Ниже будет сформулирована общая теорема (см. теоре-
му 2), показывающая, в частности, что последовательность {g„, п =
= 0, 1, 2, . .}, определяющая простейшее блуждание с переменными
вероятностями, может быть задана на некотором вероятностном
пространстве
5 Системы массового обслуживания. Рассмотрим некоторую си-
стему, имеющую *п мест для обслуживания. Предположим, что и
случайные моменты времени (целочисленные) в систему поступают
требования на обслуживание, которые при наличии свободных мест-
сразу же начинают удовлетворяться. Если свободных мест нет, то
поступившие требования создают очередь. Каждое требование об-
служивается некоторое случайное время, после чего сразу же поки-
дает систему. Пусть выполнены следующие условия:
а)	в каждый момент времени с вероятностью р может поступить
лишь одно требование на обслуживание независимо от числа требо-
ваний, поступивших до этого момента;
б)	если некоторое требование в момент времени п обслужи-
вается, то с вероятностью q его обслуживание может закончиться
к моменту времени п + 1 независимо от того, сколь долго оно об-
служивалось до этого момента;
в)	обслуживание на каждом из m мест не зависит от обслужи-
вания на остальных местах и, кроме того, не зависит от входящего
потока требований.
Обозначим через g„ число всех требований в рассматриваемой
системе обслуживания в момент времени п (включая те, которые
обслуживаются, и те, которые стоят в очереди). Тогда {£„, п = О,
1, 2, ...) —цепь Маркова, для которой при всех /ге[1, иг]
+	Clkql(l-q)k-i +
+ pClk+'ql+l(i-q)k-l~l, /=“0, 1, 2, .... k,
Заметим, что C^+1 = 0, так что Р |g„+l — 0 | g„ = fej = (1 — р) qk.
При k — О
р0«и=о1^ = о}“‘-Р’ p{Ui“46„==°}-P-
Наконец, при k > tn
Р {£n+l “ k - j | g„ =	= (1 - P) Clmqf (1 - fl)"*’' +
+ pC'm+‘fl'+1 (1 - fl)"*-'-1,	/ = 0, I, 2,... m,
[8.1.г
168	гл. 8. ЦЕПИ МАРКОВА
Во всех этих случаях, если г > 1, то
р {U1 = * + '-|Еп = *)-0.
Если tn =*= 1, т. е. в системе имеется лишь одно место для об-
служивания, то цепь {gn, п = 0, 1, 2, ...} совпадает с цепью при-
мера 4, для которой го = 1 — р, ро = р, а при х > 0
Рх=Р(1 —?). ?х = ?(1—Р). rx«=(l — р)(1 — q) + p<h
8.1.2.	Критерий марковости. Пусть задана последовательность
{gn, п = 0, 1,2,...} случайных элементов в измеримом пространстве
(А, ©) (вероятностное пространство (й, 8, Р} считается фиксиро-
ванным). Обозначим через 8л минимальную о-алгебру событий, отно-
сительно которой измеримы случайные элементы go, gj, .... gn, а
через 8" — минимальную а-алгебру событий, относительно которой
измеримы случайные элементы gn, .......... Иначе	говоря, 8л —
cr-алгебра всех событий, связанных с эволюцией последовательности
до момента п включительно, а 8"—о-алгебр а всех событий, связанных
с эволюцией последовательности после момента я, включая сам мо-
мент времени п. о-алгебра 8л порождается событиями вида {gt е Г}
при всех k = 0, 1, 2.....п, Ге®. Аналогично о-алгебра 8я по-
рождается событиями {g<. е Г} при k > п, Гб®
Определение цепи Маркова означает, таким образом, что для
всех я = 0, 1, 2, ... и Г е Э с вероятностью 1
P{U1е г13«} = р {^+1е r|g„}.
Теорема 1. Пусть (gn, п == 0, 1,2,...} — последовательность
случайных алементов в измеримом пространстве (X, ®). Следующие
утверждения эквивалентны:
1)	последовательность {g„, п = 0, 1, ...} является цепыо Мар-
кова:
2)	для всех п = 0, 1, 2, ..., m = 1, 2, ..., Ге® с вероят-
ностью 1
P{Umer|S4 = P^mer|^
3)	для любых Ае8л-1, Ве»“+1 (я =₽ 1, 2, ...) с вероят-
ностью 1
pHnB|g„) = P{X|g„)P{B|g„);
4)	для любой ограниченной %п+1-измеризюй случайной величи-
ны т] с вероятностью 1
М{п|3„}==м ММ-
Если считать момент времени п «настоящим», то тогда 8л-1 —
это «прошлое», а 8"+1 — «будущее». Утверждение 3) означает, та-
ким образом, что для цепи Маркова при известном «настоящем»
«прошлое» и «будущее» условно независимы.
8.1.3.	Уравнение Колмогорова — Чепмена. Пусть {gn, п = 0, 1,
2, ...} — цепь Маркова в фазовом пространстве (X, ®) и 0 < i <
< tn < п. Тогда в силу свойств условных вероятностей и марков-
ского свойства имеем с вероятностью 1
p{^rIQ = M{P{g„erfgmj|gA}.
>11 Я	8.1. ОПРЕДЕЛЕНИЕ ЦЕПИ МАРКОВА	169
'то соотношение называется уравнением Колмогорова — Чепмена и
является фактически следствием формулы полной вероятности и
парковского свойства.
Рассмотрим условную вероятность Р(|„еГ|£*} (0 Eg k < п,
Г е SB). При фиксированных k, п, Г эта вероятность представляет
< < бой ©-измеримую функцию от Вообще говоря, нельзя утвср-
-кдать, что при фиксированных k, п, © функция Р(£пеГ|£*} яв-
ляется мерой на 8.
В самом деле, из свойств условных вероятностей следует, что
чля каждой последовательности {Гг, r« 1, 2, ...} непересекакь
|цихся множеств из а-алгебры S с вероятностью 1 выполнено
/	оо	оо
Urri^Hxp{^erriM-
I Г=1	)	г-1
При этом множество тех ю, для которых это равенство не имеет
места, зависит от последовательности {Гг, г — 1, 2, ...}. Для дру-
гой последовательности это исключительное множество будет дру-
1 нм, н поэтому нельзя утверждать, что для почти всех © условная
вероятность Р{£„ е Г|£*} является мерой иа 8.
Тем не менее во многих случаях такое утверждение справедли-
во. Именно если X — полное метрическое сепарабельное простран-
ство, a S — о-алгебра борелевских подмножеств X, то существует
такая функция Р(А, х, п, Г), 0 < k <. п, хеХ, Ге8, что при
каждых k, п и Г с вероятностью 1
Пад-P(k, п, г),
и при этом P(k, п, х, Г) ©-измерима при фиксированных k, п, Г,
а при фиксированных k, х, п — это вероятностная мера на ®. Оче-
видно, при k = п должно быть Р(п, х, п, Г) — хг (ж)> где Хг (х)
индикатор множества Г.
Если для данной цепи {£„, п = 0, 1, 2, ...) в пространстве
(X, В) такая функция P(k, х, п, Г) существует, то она называется
вероятностью перехода. В терминах вероятностей перехода уравне-
ние Колмогорова — Чепмена может быть записано так:
р (*. П. Г) = ( Р (т, у, п, Г) Р (A, tk, т, dy).
X
Это равенство выполняется с вероятностью 1. Во многих случаях
выполняется более сильное равенство
Р (А, х, п, Г) = Р (т, у, п, Г) Р (А, х, т, dy)
х
для всех 0 < А т п, х&Х, Ге®, которое также называется
уравнением Колмогорова — Чепмена для вероятностей перехода. Ве-
роятность перехода P(k, х, п. Г) можно интерпретировать как
условную вероятность Р {£п е =* х}.
Заметим, что условные вероятности вида Р {£„ е Г|£* «= х} для
длиной случайной последовательности {£„, п = 0, 1, 2, ...} могут
удовлетворять уравнению Колмогорова — Чепмена без того, чтобы
>ia последовательность была цепью Маркова.
170
ГЛ 8 ЦЕПИ МАРКОВА
18.1.4
Пример 6 В урне лежат четыре шара, занумерованных циф-
рами 1, 2, 3. 4 Из нее наугад вынимают шар, замечают его номер
и возвртщают обратно. Предположим, что эта процедура продол-
жается сколь угодно долго. Обозначим через ц, номер шара, выну
того на п-м шаге. Для / = 1, 2, 3 пусть А^п> обозначает событие,
состоящее в том, что ip. — j или тр. = 4. Положим	(т =
= 1, 2. ..) равным 1 или О в соответствии с тем, произошло или
не произошло событие А^'\ 1огда для xt, х2. хз. каждое из кото-
рых равно либо 0. либо 1, имеем
Р = М = Р (б« = Ъ I = хз} = п>т-
Поэтому для !i <Z tn <_ п имеем
1/2 = р {gn = xJ = р = а-2 ! gm=0} р {gm==o I Ей=х,}+
+ р{^ = ЧЧ=ЧР{Ч = Ч^Ч
т е в данном случае уравнение Колмогорова — Чепмена для услов-
ных вероя гное гей выполнено Тем не менее
Р {Чт+З" 44m Т2= l’ ^3m+t = l}=1,	^1=1, 2, ....
и потому последовательность {J,, п = 1, 2, ...} нс является цепью
Маркова.
8.1.4.	Построение цепи Маркова по вероятности перехода. Пусть
(X, S3) — некоторое измеримое пространство. Предположим, что для
всех хеА', Г е 83 и целых k, п таких, что 0 sg, k < п, задана чис-
ловая функция P(k, х, п. Г), удовлетворяющая условиям:
а)	при фиксированных k, п, Г опа S-измерима;
б)	при фиксированных k, х, п она является вероятностной ме-
рой на S;
в)	для всех 0 sj k < tn < п, х е X и Г е S выполнено соот-
ношение
Р (k, х, п. Г) = Р (k, х, т, dy} Р (т. у, п, Г).
х
Спрашивается, существует ли на некотором вероятностном про-
странстве (£1, 8, Р) цепь Маркова {£„, п = 0, 1,2,...), для которой
P(k, х, п. Г) была бы вероятностью перехода, т. е. с вероятностью 1
Р&теГ1М = Р(*> "’Ч-
Ответ на этот вопрос дает следующая теорема.
Теорема 2 / ели функция Pt's, х, п, Г) удовлетворяет усло-
виям а) -в), то сущее tet/tot верояниктное пространство (Q, S, Р)
и последо м tелые.н i к п Й, 1, 2, .. } случайных элементов из
(X, S) такие, но нот тедовательносъ {Р„, п = 0, 1, 2, ...} является
цепью Маркова с вероятное тыо перехода Р(k, х, п, Г).
Указанное в теореме 2 вероятностное пространство может быть
Построено следующим образом. Положим £2 = Л'“, 8 = S". Это
означает, что элементами множества й являются всевозможные по-
следовательности вида от — (.Со, Хт, Хг, ...), где х< е X, а 8 — мини-
8.1 Л1	8.1. ОПРЕДЕЛЕНИЕ ЦЕПИ МАРКОВА	171
мальная о-алгебра подмножеств 12, содержащая все множества вида
{ц>:хоеГо, е Г).........................хп t= Г„)	(1.2)
г.ри всевозможных п = 0, 1,2, .... Го, Г]...Г„ е S3.
Далее, пусть р, — произвольная вероятностная мера па S3. На
множествах вида (1.2) зададим числовую функцию Р формулой
Р {«: х0 <= Го, xi еГь ..., х„ е Г„) ==
= р. (JxG) Р (0, х0, 1, dxi) Р (1, Х|, 2, cfx2) ...
г» г,	г,
...	Р(п~- 1, хп_|, п, (1хп).
г
п
Эта функция продолжается до вероятности й меры Р на измеримом
пространстве (12, 8). Положим для п — 0, 1, 2, ... с,, = ;„(<») = т,,
если w = (Хо, xi, х2, ...). Тогда па вероятностном пространстве
(12, б, Р) последовательность {2jn, п — 0, 1, 2, .. } случайных эле-
ментов в (X, S3) образует цепь Маркова, для которой эданная
функция P(k, х, п, Г) являемся вероягноспю перехода ГЬ и этом
начальное состояние имеет распределение р, назьчлемое (...чиль-
ным распределением цепи.
По функции Р(1г, х, п, Г) цепь Маркова может бнпь построена
неоднозначно: имеется произвол в выборе вероятностною простран-
ства и начального распределения. Однако, если для двух цепей в
(•дном и том же фазовом пространстве: {Е„, п — 0, 1, 2, .. }, за-
данной на вероятностном пространстве (12, б, Р), и {£„,
п = О, I, 2, ...}, заданной на вероятностном пространстве (12', б',
Р'), — совпадают вероятности перехода и начальные распределе-
ния, то такие цепи стохастически эквивалентны в том смысле, что
для любых п— 0, 1, 2, ... и произвольного набора {П, i =
,= 0, 1, 2....п) измеримых множеств из фазовего пространства
выполнено
Р Гц. £1 е Г1..........ln = Р' <= 1’о.
е г....... U е гД
Это означает, что печь Маркова в указанном смысле однозначно
определяется своей вероятностью перехода тт начальным распреде-
лением.	•>
8.1.5.	Другое определение цепи Маркова. Пусть заданы вероят-
ностное пространство (12, g, Р) и определенная на нем цепь Мар-
кова {£н, п = 0, 1, 2, ...} в фазовом пространстве (X, ®). Предпо-
ложим, чго вероятность перехода эюй цепи удовлетворяет условиям
а)—в) и. 8.1.4. Т(лда при любых 1г 0 и хеХ на о алгебре б*,
порожденной случайными элементами 5», и, > определены ве-
роятностные меры РАл такие, что с вероятностью 1 для	вы-
полнено (Л) = Р{Л|бл) (папомним, что — о-алгебра, порож-
денная случайными элементами Ео, •••> £*) Таким образом,
Р«л(Л), Л е б'!, задасг условную вероятность события Л при усло-
вии F,s = х. В частности, вероятность перехода цепи определяется
через меры PAjt по формуле
Р (fe, X, п, Г) = Pftx {£д с= Г), 0 < fe < п, х е X, Г е».
172
ГЛ. 8. ЦЕПИ МАРКОВА
(8.2.1
Иногда под цепью Маркова понимают следующую совокупность
объектов:
I)	измеримое пространство (ft, ff);
2)	последовательность {g„ = g„(co), п = 0, 1,2,...} измеримых
при каждом п отображений пространства (О, 8) в измеримое про-
странство (X, ®);
3)	семейство вероятностных мер (k — целые неотрицатель-
ные числа, хеХ), заданных на о-алгебрах ®'г с: Д, если выполнены
следующие условия:
а) при фиксированных k, п и Г, О sg k < п, ГеЭ, функция
P(k, х, п, Г) = Р*х{£„ е Г} ©-измерима;
61 Р/;Г{^Г} = У.гИ;
; в) для всех г е А', 0 s; /г < и и Г ей
рл-Ж+1е П 8 Л = рпЕ JUis Г1
С Рлх-всроятностью 1.
Если задана цепь Маркова в смысле такого определения, то, по-
ложив для любой вероятностной меры р, заданной на (X, 0),
р!'г)И)= J Р/гх(Л)р(ЙХ),	* = 0,1,2....
х
получим последовательность £,г, ^+i, ik 12, ... случайных элементов
в (X, 3), заданную на вероятностном пространстве (ft,
которая образует цепь Маркова в смысле определения, данного в
начале § 8.1.
Таким образом, марковская цепь в смысле последнего определе-
ния представляет собой целое семейство цепей Маркова (в смысле
первою определения), «начинающихся» в момент времени k в точ-
ке х.
Функция Р(/г, х, п, Г), определенная в условии а), называется
вероятностью перехода цепи.
Две цепи Маркова (в смысле последнею определения), задан-
ные в одном фазовом пространстве, называются эквивалентными,
е"ли у н''х совпадают вероятности перехода. Если по эквивалентным
цепям построить цепи Маркова в смысле первого определения с од-
ними и теми же начальным распределением и начальным моментом,
то они будут стохастически т. вниален1пымп.
Заметим, что по функции P(k, х, п, Г), удовлетворяющей усло-
виям теоремы 2, В'ччда можно построить цепь Маркова п смысле
последнего определения.
8.2.	Однородные цепи Маркова
8.2.1.	Определение однородной цепи Маркова. Пусть задано ве-
роятностное пространство (ft. 5, Р). Цель Маркова {£„, /1 = 0, 1,
2, ...} в фазовом пространстве (X, 0) с вероятностью перехода
P(k, х, п, Г) называется однородной, если P(k, х, п, Г) прсдсг-ш-
ляет собой функцию от х ст X, l’f-У и п— /г, 0 eg /г <' п Обозна-
чим ч' рез Р(п, х. Г), п > 0, х е X, Г ст S, функцию, для которой
7\//', -V, п, ") = Р(п — k, х, Г).
8 2 1]	8.2. ОДНОРОДНЫЕ ЦЕПИ МАРКОВА	173
При п — 0 естественно положить Г (О, х, Г) = %г(х). Функция
Pin, х. Г) называется вероятностью перехода однородной цепи.
В соответствии с п 8.1.4 опа удовлетворяет условиям:
а)	при фиксированных п и Г, п = 0, 1, 2....Ге9, функция
Р(п, х, Г) ©-измерима;
б)	при фиксированных п и х, п ~ 1, 2, ..., х^Х, функция
Р(п, д', Г) является вероятностной мерой па S;
в') при всех 0 k < in < п в Ге!) с вероятностью 1 выпол-
нено соо 1 ношен не
р (п — k, t,k, Г) = Р (п — tn, у, Г) Р (т — k, lh, с!у).
х
Ниже всюду будет предполагаться, что вероятность перехода
инородной цепи Маркова удовлетворяет условиям а), б) и следую-
щему, несколько более сильному, чем в'), условию:
в)	при всех т > 0, п > 0, те А' и Г ее S3 выполнено соотно-
шение
Р (ш + п, х, Г) = Р {т, х, dy) Р (н, у. Г),
х
называемое уравнением Колмогорова — Чепмена.
Положим Р(х,Г) = Р(1, х, Г). Функция Р(х, Г) называется тте-
/п'пностыо перехода ж один шаг. Из уравнения Колмогорова—
Чепмена следует, чго вероятность перехода за п шагов, т. е. функция
Р(п, х, Г), выражается через Р(х, Г) при помощи рекуррентных со-
О1 ношений
Р {п + 1, х, Г) = Р (п, у, Г) Р (х, dy) =
X
= Р (.У, Г) Р (я, х, dy), «=1,2, ..«
х
Поэтому, зная начальное распределение р однородной цепи (т е.
> , ру |т(Г) — Р{^|С-Г}, Гее®) и вероятность перехода за один
ia:-, можно в принципе определить вероятность произвольного собы-
ия, снизанного с эволюцией рассматриваемой цепи, т. е. произволь-
шо события из л алгебры 8", порожденной элементами go, gi,
, ... Именно для событий вида
Л == {go е Го, gi d i, • •gn е Г„},
« = 0, 1, 2...Го, Г,.....Гяе!1,
 -сем
г' И) = И S Р dX^ ’ • ’ 5 Р ^«-2’ Р (Хп-1’Ги)-
Го Г,	Г„_)
. ,ix как события указанного вида образуют алгебру, а 5°—минтт-
 тдытая о-алгебра, порожденная этой алтсброн, то вероятность про-
ст ..иного события из 04 однозначно восстанавливается по верояг-
I  "1 всевозможных событий ттчтя отбытия /1.
Отсюда следует, что все однородные цени Маркова в одном и
I же фазовом пространстве (возможно, па разных вероятностных
174	ГЛ. в. ЦЕПИ МАРКОВА	(8.28
пространствах), у которых совпадают начальные распределения и
вероятности перехода за один шаг, стохастически эквивалентны. Это
означает, что вероятности событий типа события А для всех 'таких
цепей одни и те же.
Вероятность перехода за один шаг Р(х, Г), хеХ, Ге8, удо-
влетворяет условиям.
А) при фиксированном Ге 8 функция Р(х, Г) ©-измерима по х;
Б) при фиксированном х е X она является вероятностной мерой
на 8.
Если на некотором измеримом пространстве (X, 8) задана функ-
ция Р(х, Г), хеХ, Г ев, удовлетворяющая условиям А) и Б), то
можно построить однородную цепь Маркова, для которой эта функ-
ция была бы вероятностью перехода за один шаг. Разумеется, с
заданной вероятностью перехода за один шаг существует не одна
цепь. Однако все они отличаются друг от друга (с точностью до
стохастической эквивалентности) лишь начальным распределением.
8.2.2.	Другое определение однородной цепи Маркова. При изу-
чении однородных цепей Маркова удобно не фиксировать начальное
распределение, а рассматривать целое семейство однородных цепей,
«начинающихся» в произвольной неслучайной точке фазового про-
странства. Пусть {g„, п = 0, 1, 2, ...}—однородная цепь Маркова
в фазовом пространстве (X, 8), заданная на вероятностном про-
странстве (О, 8, Р) Для каждого хеХ можно построить семейство
мер Р* на о-алгебре 8°, порожденной случайными элементами go,
51........задав их на событиях вида А„(Г0, Г1, ..., Гп) = {go® Го,
51 е Г,...g„ е Гл) формулой
Рх{А„ (Го, Г,....Г„)}=-
- Хг. <*) $ Р (*• dxl)  • • \ Р (Хп-Ъ dxn-\> Р (Хп-1- Гп).
Г,	г„_,
а-затем продолжая Р, до меры на 8°. Если Лей0, то с вероят-
ностью 1 Р^ (А) = Р (А | g3). Поэтому Р,(А), Лей0, хеХ, есте-
ственно интерпретировать как условную вероятность события А при
условии go — х Если go имеет распределение р, то сужение меры Р
на о-алгебру б" (8° с 8) совпадает с мерой
Рц (А) - р (dx) Рх (А), А е go.
х
Построенное семейство мер (Рг, х е X} на 8° обладает сле-
дующими свойствами:	"	1
1)	при фиксированных Ге8 и п = О, 1, 2, ... функция
Р(п, х. Г) = Px{g„ е. Г} 8-измерима,
2)	Рг&еГ} = Хг(х),хеХ, Ге 8.
3)	при всех хеХ, Ге® и п, «—О, 1, 2, ... с Р«-вероят-
ностью 1 выполнено соотношение
Рх
Здесь 8m — минимальная о-алгебра, относительно которой измеримы
элементы go, gi, .. , gm
Иногда под однородной цепью Маркова понимают совокупность
Объектов:
8.2.3}	«.2. ОДНОРОДНЫЕ ЦЕПИ МАРКОВА	175
а)	последовательность {£« == £и(<о), п = 0, 1, 2, ...} измеримых
отображений измеримого пространства (й, 8) в измеримое простран-
ство (X, ©);
б)	семейство вероятностных мер {Р*, хеХ], заданных на о-ал-
гебре 8°. порожденной случайными элементами gD, £i,	•   > если
только выполнены условия 1) —3).
При таком определении однородная цепь Маркова в фазовом
пространстве (X, S3) будет обозначаться (£и, Рж). Фактически это
целое семейство однородных цепей Маркова в первоначальном опре-
делении. Для того чтобы получить однородную цепь Маркова с
фиксированным начальным распределением ц, нужно рассмотреть
последовательность {&,, n==0, 1, 2, ...} на вероятностном простран-
стве (Й, 8°, Рц), где
РцИ)= J Рх И) ц (</х), Ле^о.
х
Две однородные цепи Маркова (£„, Р*) и (gn, Рл) в одном и
том же фазовом пространстве (X, 8) (возможно на разных вероят-
ностных пространствах) эквивалентны, если для всех х е X, Г s ©
px{gier}-p;{6;®r).
Если по эквивалентным цепям Маркова построить марковские
цепи в смысле первоначального определения с одним и тем же на-
чальным распределением, то они будут стохастически эквивалентны.
Заметим, что по функции Р(х, Г), удовлетворяющей условиям
А) и Б) п. 82.1, всегда можно построить цепь Маркова (£,,, Р*),
для которой Pxfgi «= Г} = Р(х, Г). Такая цепь единственна с точ-
ностью до эквивалентности.
8.2.3.	Следствия марковского свойства. Пусть (|п, Рх) — одно-
родная цепь Маркова в фазовом пространстве (X, S3) в смысле
определения п. 8.2.2. На о-алгебре 8°, порожденной случайными эле-
ментами £о, gi, .... определим семейство операторов в* (А = 0, 1,
2, ..>), отображающих 8° в 8° следующим образом. Для событий
вида Rne.r) (л — 0, 1,2...ГеВ) положим
е* Г) -{ln+h еГ).
Кроме того, потребуем, чтобы операторы сохраняли все теорети-
ко-множественные операции, т е чтобы для всех А, е 8° выполня-
лись соотношения
«.{у л}- у ел- ’•{ I?л'}" О6,А"
•MVi-VW,
Тем самым операторы 0* однозначно определены.
Если A s 8°, то 0*А е 8', где 8* — о-алгебра, порожденная эле-
ментами Е*, Е.л+1, ... Из свойств марковости и однородности сле-
дует, что для всех Ае8°, хеХ, k = 0, 1, 2, ... с Рл-вероят-
ностью 1 выполнено
(2.1)
176	гл 8. ЦЕПИ МАРКОВА	[8.2.4
где 8« — о-алгебра, порожденная элементами ga, gt, .... g«. Более
общим образом, если В е St, А е 8°, то при всех х е X выполнено
Рх (й Л М)e J % <Л) РХ	(М
в
Операторы 6» можно применить и к случайным величинам. Для
$°-измсримой случайной величины £ положим т[ = (Kg, если при всех
вещественных а
ей{|=я} = {п = «}-
Если g — 8°-измерима, то 0tg— ^‘-измерима.
Из равенств (2.1) и (2 2) следуют соотношения
мх {е<Л 1ад =Л5> м* WJ “ м*
где g— 8°-измернмая случайная величина, т) — St-измеримая слу-
чайная величина, — знак математического ожидания по мере гя
\k =я 0, 1, 2, . ). Первое из этих равенств выполняется с Р«-веро-
ятностью 1 при естественном требовании суммируемости по мере Р«
величины g (т е интегрируемости функции g(ro) по мере Р«). Для
выполнения второю равенства достаточно потребовать, чтобы вели-
чины g и r]04g были Р «-суммируемы.
Если g и т) неотрицательны, то оба равенства справедливы без
каких-либо дополнительных ограничений.
8.2.4.	Строгая марковость. Пусть (gn, Р«)—однородная цепь
Маркова в фазовом пространстве (X, ®). Если интерпретировать g„
как положен ге движущейся частицы в момент времени », то фор-
мула (2.1) показывает, что в каждый фиксированный момент вре-
мени движение начинается как бы заново
Оказывается, что таким свойством обладают и некоторые -слу-
чайные моменты времени. Пусть St (k =* Q, 1, ...), как н прежде,
обозначает минимальную о-алгебру событий, порожденную элемен-
тами go, gi, .. , gt, aS* (k = 0, 1, 2, ...) — минимальную а-алгебру
событий, порожденную случайными элементами gt, gt+i, ... Неотри-
цательная целочисленная случайная величина т, вообще говоря, не-
собственная (т е. для некоторых го возможно т(го) = +°о), назы-
вается марковским моментом, если при любом п — 0, 1, 2, ... собы-
тие {т Sn-измеримо ({т^я) е$л). Это. означает, чтодлятого,
чтобы узнать, произошло ли событие {т п}, нужно «проследить»
за эволюцией цепи лишь до момента времени п включительно За-
метим, чго требование {т < п} е Sn при всех п равносильно требо-
ванию, чтобы {т > п} «= Sn при всех п, или требованию, чтобы
{т = п} е Sn при всех п.
Пусть т — марковский момент для однородной цепи Маркова
(gn, Р«). Обозначим через St совокупность всех событий Aeg",
для которых /1Г1 {т н) еS„ при всех и = 0, 1, 2, ... Тогда
St—о-алгебра событий В o-алгебру St входят те события, для
которых узнать о том, произошли они или нет, можно, проследив
за эволюцией цепи лишь до случайного момента времени т
Простейшим примером марковского момента т может -служить
фиксированный (неслучайный) момент времени п. Для него 8 % сов-
падает с Sn,
8.2.4]	8 2. ОДНОРОДНЫЕ ЦЕПИ МАРКОВА	177
Другим примером являются моменты первого достижения неко-
торых множеств. Пусть Г — некоторое измеримое множество из фа-
зового пространства. Положим r = inf{t: g* е Г}, причем если для
данного <о при всех k = 0, 1,2, ... 5«(и) Г, то полагаем т(<о) =
= 4-оо. Тогда т является марковским моментом и называется мо-
ментом первого достижения множества Г.
Заметим, что если т —марковский момент для однородной цепи
Маркова (5я, Рж), то величина т 8х-иэмерима. Если, кроме того,
т < -f-оо почти наверное относительно rt при всех хеХ, то
случайный элемент 5т также 8 т- -измерим. Здесь 5 т = 5 т (ед (<в) =
= 5п(вк) дли ле {t» я}.
Всякая однородная цепь Маркова (5я, Р*) в фазовом простран-
стве (X, ®) обладает следующим свойством строгой марковости- для
любого марковского момента т и любых целых п 0, х е X, Ге9
выполняется соотношение
почти наверное относительно меры Р* на множестве {т < 4-°°}.
Здесь Р(п, х, Г)—вероятность перехода цепи за п шагов, т. е.
Р(п, х, Г) = Р45„<=Г}.
Свойство строгой марковости показывает, что при фиксирован-
ном состоянии 5т в марковский момент т последовательность
{Вп+т, п = О, 1, .. } представляет собой однородную цепь Маркова
с начальным состоянием 5т> имеющую такие же вероятности пере-
хода, как и исходная цепь, и не зависящую от а-алгебры 8т* Иными
словами, «ели т— марковский момент для цепи (5s, Рг) и т < 4-°°,
то частица, находящаяся в момент времени п в состоянии Е„, начи-
нает движение заново в момент времени т
Пусть заданы однородная цепь Маркова (5п, Рх) в фазовом
пространстве (X, ®) и марковский момент т. Положим для каждого
Ле 8°
ьи » [J {т«=л} п еяд
и—О
и для всякой 8°-измеримой случайной величины 5
0т'5 в ®п5 (®)>
если t(ci)’> — п. Тогда:
а)	для любого Д е 8° и х е X
Рх{°И|8т} = *\(Л)
почти наверное относительно Р* иа множестве {т < 4-°°};
б)	для любых А е 8°, В е 8х и х е X	\
рдвле/}- Jp^^pjdco);
в
в)	если т]—8°-измеримая Рх-суммируемая случайная величина,
то
почти наверное относительно Рх на множестве {т < 4-°°};
1^8	ГЛ 8. ЦЕПИ МАРКОВА	[8.SJJ
г)	если г)— ^-измеримая случайная величина, а £— ^-измери-
мая случайная величина, то при всех л е А'
в предположении, что величины »] и £0ХЦ суммируемы по мере Р<
(хеА).
Если t] и t неотрицательны, то в) и г) выполнены без каких-
либо дополнительных О1раничений
8.2.5.	Операторы, связанные с цепью Маркова. Пусть Р*)—
однородная цепь Маркова в фазовом пространстве (X, ®) с вероят-
ностью перехода за один шаг Р (х, Г), х е X, Г е 8. Обозначим
через Я банахово пространство всех счетно-аддитивных веществен-
ных функций ограниченной вариации (зарядов), заданных на ©-ал-
гебре ©, с нормой, равной вариации заряда, а через ЗЯ — банахово
пространство всех вещественных ©-измеримых функций, заданных
на X, с нормой, равной супремуму модуля функции. Ядро Р(х, Г)
порождает операторы в пространствах й и ЗЯ, действующие по фор-
мулам
<рР (Г) = Р (х, Г) <р (dx), ф е Я Г е SB,
х
Pt (*)== f (у) р (х, dy), f е Яй, х (= X.
X
Оба эти оператора линейны, непрерывны и имеют нормы, не превос-
ходящие 1 При этом они положительны в том смысле, что цР О
для р > 0 и Р{ > 0 для f > 0. Для <реЯ и f е ЗЯ положим
<<₽./) = J t (*) <р (dx).
х
Тогда при всех <р е Я и f е ЗЯ <<рР, f> = <<р, Pf).
Обозначим через Рп п-ю степень оператора Р. Из уравнения
Колмогорова — Чепмена следуют соотношения
Рп1 (х) = f (у) р (п, х, dy) = МЛ/ (In), п = 1, 2, .... х е X,
X
<рРп (Г) = (j Р (и, х, Г) <р (dx) —
х
= q (dx) Рх{E;i еГ}, п=1, 2,.... Ге S3, ([ЕЙ,
X
(Я>Р" f) = (<P. Pnf) = § <Р (dx) ^Р (п, х, dy) f (у) = (dx) Mxf (£„).
xx	x
При n = 0 естественно считать Р° = I, где I — тождественный опе-
ратор.
Разумеется, оператор Р можно применять и к неограниченным
©-измеримым функциям, а также к зарядам неограниченной вариа-
ции, лишь бы имели смысл интегралы, определяющие этот оператор.
” Л !>(	8 2 однородные ЦЕПИ МАРКОВА	179
8-измеримая вещественная функция f(x) (xesX) называется
< i/пергармонической (субгармонической), если для всех х е X имеет
место неравенство Pf(x) < f (х) (Pf(x) > f(x)). Если для всех
х<=Х имеет место равенство f(x) = Pf(x), то f(x) называется гар-
монической. Неотрицательная супергармоническая функция вазы
иастся эксцессивной.
Заряд <р (вообще говоря, неограниченной вариации) называется
инвариантным, если уР = <р. Конечная инвариантная мера р (т. е.
неотрицательный инвариантный заряд ограниченной вариации) на-
пивается стационарной. Стационарную меру всег-да можно норми-
ровать и считать вероятностной. Если для данной цепи ((•„, Р*)
шествует стационарная мера ц, то, взяв ее в качестве начального
распределения, те. положив Р{|оеГ} = р(Г), будем иметь
Р(Х (g„ е Г} = J ц (dx) Рх (g„ е Г) - рРп (Г) =.
X
= ц(Г), п = 0, 1, 2........ Ге®,
Значит, распределение элемента по мере Рр не меняется во
времени. Более того, для 0 nt < и2 < ... < Пп, Гь Г2.......Г* es
е 8, г > 0 имеем
Рц {&nt+r е Гь lnj+r е Г2,..., ink+r е “
И (dx0) Р (th + г, xQ, dxi) Р (п2 — th, xt, dxt) ...
х г,	Г,
••• $ p(nk ~ nk-v xk-v dxk> = M (dXo) 5 P(ni' xo’ dxt) X
x	Г,
X §P(n2~ ПГ XV dX2> *•'	— nk-t‘ Xk-1‘ dxk)^
Г2	rfe
= pu {Ц 6» Гр Ц e r2........Це Г,J,	k =. 1, 2,...
Это означает, что последовательность {£„, п = 0, 1, 2, ...} в фазо-
вом пространстве (X, 8), заданная на вероятностном пространстве
(Й, 8°, Рц), является стационарной последовательностью.
Таким образом, если для данной цепи существует стационарная
мера, то, взяв ее в качестве начального распределения, получаем
цепь, называемую стационарной цепью Маркова.
ОО
Определим оператор G = Рп. Он называется потенциалом
п—о
цепи. Этот оператор применим не ко всякой 9-измеримой функции
ОО
(например, для f (х) ея 1 Gf (х) = Рп1 (*) в+ °й). В частности,
п^О
г.ожет оказаться, что область его определения состоит из единствен-
ной функции f (х) s 0.
180
ГЛ. 8. ЦЕПИ МАРКОВА
18.2.5
Для ле!, Ге® положим
G (х. Г) ₽ GXr (х)« £ Р"хг (х) = £ Р (п. х, Г).
/1«а»0	Л «О
При фиксированном хе/ G(x, •)—мера на ®, возможно, тожде-
ственно равная бесконечности Функция G(x, Г) называется ядром
потенциала. Если G|f|(x) < оо для некоторой S-измеримой функции
/(х), хе/, го
Gi {х)= f (у) G (х, dy).
X
Ядро потенциала имеет простой вероятностный смысл. Посколь-
ку Р(п, х, Г) — МЛХг(£п)> то
G(x, Г) = МХ £xr(U
п-о
т. е. G(x, Г) есть среднее число моментов времени, в которые си-
стема находилась в состояниях множества Г, при условии, что В на-
чальный момент она находилась в состоянии х.
Пусть f(x) js 0 и ф(х) = Gf(x) < -|-оо	(хе/). Тогда
(Р-/)<Р = -А где / — тождественный оператор. Последнее равен-
ство означает, что оператор G в некотором смысле обратный к опе-
ратору / — Р и что потенциал неотрицательной функции эксцессивен.
Наоборот, если /(х) (хе/)—эксцессивная функция, то f(x) =
= G<p(x) + Л(х), где <р(х)>0, а Л(х)—гармоническая функция,
т. е. h = Ph. Это утверждение является аналогом известной теоремы
Рисев из теории диффереициальных уравнений.
Пример 1. Пусть X— целочисленная решетка на прямой,
S — о-алгебра всех подмножеств X. Предположим, что задана по-
следовательность {i|„, п — 1, 2, ...} независимых одинаково рас-
пределенных случайных величин со значениями в X. Если т]о —не
зависящая от последовательности {т)„, п 1} целочисленная слу-
чайная величина, то последовательность {Е« = т|о + r]i + ... + т],г,
п = 0, 1, 2, ...} образует однородную цепь Маркова (случайное
блуждание по целочисленной решетке). Положим
Ф (&) » Мл ехр V04i}» 0 «5 R.
Для вероятности перехода за п шагов имеем формулу
Я
Р(п, х. г/) =2^ j e-®^-x}qn($)de, « = 0,1,2,..., х, уех
-Л
Поскольку о-алгебра Э состоит из всех подмножеств X, то доста-
точно знать Р(п, х, у) для всех х, у е/, так как для Гс / имеем
Р («, х, Г) = £ Р (п, х, у).
«еГ
Предположим далее, что ф(0) обращается в единицу лишь в точ-
ках, кратных 2л, и пусть существует математическое ожидание ве-
8.2.7]
8.2. ОДНОРОДНЫЙ ЦЕПИ МАРКОВА
181
личины П* (* — U 2, ...), причем а « Mt]» & 0. Тогда для ядра
потенциала справедлива формула
еь
г-ч	1	1 Г е«(*-Д)
с (X, у) = 2, Р (п. х, у)	J Ret—® d0 =
л«0	-я
1 t 1 f (I— фс (9))cos0 (х -,у) — <J>S(6) sin9(х — у) п
= 2T^T+йГ J	11 -Ф(6)|*
-я
X, у е X,
где <₽с(0) e Req)(0), q>«(0) = lmq>(0). В частности, если величины
т]» (k = 1, 2, ...) принимают лишь значения 4-1 н —1 с вероятно-
стями р и q соответственно, p + q — 1> Р— Q = а > 0, то
У>х,
у<х.
8.2.6.	Вероятностное представление решения задачи Дирихле.
Пусть Р(х, Г) —вероятность перехода за один шаг некоторой одно-
родной цепи Маркова в фазовом пространстве (X, SB); SB-измеримую
вещественную функцию f(x), заданную на X, назовем гармонической
на множестве Г е SB, если для всех х е Г выполнено равенство
f(x) = Pf(x).
Следующая задача является аналогом задачи Дирихле из тео-
рии дифференциальных уравнений.
Пусть заданы множество D е SB и определенная на множестве
X\D вещественная SB-измеримая функция g(x). Требуется найти
такую SB-измеримую функцию f (х), чтобы иа множестве D она была
гармонической, а вне D совпадала с заданной функцией g(x).
Запишем решение такой задачи в вероятностных терминах.
Пусть т — момент первого попадания во множество X \D для цепи
Маркова с вероятностью перехода за один шаг Р(х, Г):т =
— inf {л: л 0,	причем, если для некоторого <в £„(<в) еС
для всех л == 0, 1, 2, ..., то полагаем т(<о) = 4-<х>. Для всех х е X
положим f(x) ±=	При этом, если т = 4-со, то считаем
g (Ет) == 0; для xq&D f(x) = g (х). Нетрудно проверить также, что
fix) гармонична на множестве D.
Решение такой задачи не единственно.
8.2.7.	Функционалы от цепи Маркова. Пусть (£*, Р»)—одно-
родная цепь Маркова в фазовом пространстве (X, SB). Для веще-
ственной SB-измеримой функции v (х) (хеХ) положим
п
11п=- (^01’(6Д
Случайная величина Т]п представляет собой функционал от цепи
Маркова Рх). Это означает, что ^-измерима.
182
ГЛ 8 ЦЕПИ МАРКОВА
18.2.7
Распределение величины t]„ определено, если известна функция
«е (х, Г, А) - У Мл {еЛч"	е 1} Р (й, х, Г) 6",'
п~о
где х е X, Ге8, б и А — вещественные числа, причем 0 в < !,
Можно доказать, что функция «в является единственным реше*
вием двух интегральных уравнений:
ив (х, Г; Л) = Рв (х, Г) + J (1 - e~iKv п0 (//, Г; А) Р0 (х, dy),
х
U6 (х, Г; А) = Рв (х, Г) + J (1 - e~iKv Р0 (у, Г) п0 (х, dy. А),
х
где
Р6 (х. Г) = £ 6"Р (п’ х’ Г)> х е Х’ г е 0 < 0 < 1.
»=о
Такие уравнения могут быть полезными при изучении пределы*
кого поведения величин tb при и->°о. В частности, может оказать*
ся, что
*1 = £v (U <
П—О
Это будет так, если, например,
I ч (у) I G (х, dy) < оо.
.X
Здесь G(x, Г) — ядро потенциала цепи. В этом случае, положив
и (х; А) = Мд.е<Хт11
будем иметь интегральные уравнения для функции ц(х; А):
и (х; А) = Р (х, dy) и (у, А),
X
и (х; А) = 1 + (1 - в'•<*»<»)) U (у, А) О (х, dy), (2-3)
х
где Р(х, Г) —вероятность перехода за один шаг.
Пример 2 Пусть X счетно и ® — о-алгебра всех подмно*
жеств X. Положим для некоторого уо е.Х
(0 при р0.
ОО
Тогда величина т)„ = У v (gn) есть число тех моментов времени,
п-0
в которые цепь находится в состоянии ц<> за время от 0 до +°°.
8.2.81	8.2. ОДНОРОДНЫЕ ЦЕПИ МАРКОВА	(83
В предположении, что G(yn, у») < оо, уравнение (2 3) примет вид
и (х; к) « 1 + (1 — в-а) и (у0; X) G (х, ув).
Из этого уравнения находим
и (х; X) — 1 - - + ------J--------
d d l—d(l~elK)’
где c=G (х, уо), d*=G (уа, уй) (с < d). Отсюда
PxK-O} = l-C/d,
РхК.°"}°7 • —1, Л-1. 2..................хе=Х,
т е. величина т]^ распределена по геометрическому закону. При
этом Мд],, = G(x, уй)
8.2.8.	Предельные теоремы для цепей Маркова. Пусть задана
однородная цепь Маркова (£„, Рх) в фазовом пространстве (X, 8).
Важной задачей является изучение предельного поведения ве-
роятностей Р(п, х, Г) при л-»-оо. В § 8.3 эта задача будет подробно
рассмотрена для того случая, когда множество X счетно или ко-
нечно. Здесь приведены основные результаты для общего случая
при выполнении условия Деблина, которое в дальнейшем будет обо-
значаться символом (Д). Сформулируем его.
Существуют конечная мера <р на о-алгебре 8 (<р(Х) > 0), целое
число #о 1 и положительное число в такие, что для всех х еХ
и всякого Ге8, для которого ф(Г) sg в, выполнено неравенство
Р (k0, х, Г) < 1 - е.
Приведем примеры марковских цепей, удовлетворяющих
условию (Д).
3. Для цепи Маркова с конечным множеством состояний поло-
жим, что ф(Г) равна числу точек во множестве Г Тогда Г = 0,
если только ф(Г) < 1. Стало быть, при ф(Г) < 1 Pin, х. Г) = 0, и
условие (Д) выполнено. Таким образом, условие (Д) не наклады-
вает никаких ограничений на конечные цепи Маркова.
Если множество состояний счетно, то условие (Д) выполнено,
например, в том случае, когда ряд V Р (х, у) сходится равно-
|/<=Х
мерно относительно х е X. Здесь Р (х, у) — вероятность перехода за
один шаг из состояния х в состояние у. Однако требование равно-
мерной сходимости указанного ряда значительно сильнее усло-
вия (Д).
4. Пусть X — борелевское множество в Rm, а 3 — о-алгебра бо-
релевских подмножеств X. Предположим, что существует такая бо-
релевская функция двух переменных р(х, у) (х, у&Х), что
Р (х. Г)» J р (х, у} dy, х @ X, Ге 8.
г
Очевидно, должно быть р(х, j) >0 и
I Р У) dy^l. .
184	" ГЛ. 8. ЦЕПИ МАРКОВА	(8.2.8
В этом случае условие (Д) выполнено, если, например, mes X < ро,
а функция 'Р(х,у) ограничена или равномерно относительно х инте-
грируема по у. Однако и здесь оба эти условия значительно сильнее
условия (Д), поскольку из них следует, что равномерно по х
Р(х, Г)-* 0 при mes Г -> 0, в то время как условие (Д) требует’
лишь, чтобы при малых mes Г функция Р(х, Г) была меньше еди-
ницы равномерно по х.
Множество Ге® называется последующим за состоянием х»,
если Р(п, хо, Г) = 1 при всех п — 1, 2, ... Из условия (Д) следует,
что если Г — множество, последующее за состоянием хй, то ф(Г) > е.
Если множество Г является последующим за каждым входящим
в него состоянием, то оно называется инвариантным. Инвариантное
множество, не содержащее никаких инвариантных подмножеств мень-
шей ф-меры, называется минимальным. Всякое множество, последую-
щее за некоторым состоянием, содержит минимальное инвариантное
множество. Два минимальных инвариантных множества либо не
пересекаются, либо отличаются друг от друга лишь на множество
ф-меры 0.
Пусть К1, №, ..., КУ — такие минимальные инвариантные мно-
жества, что К‘ П К1 — 0 при ( ^ /, q> (К1) > е и произвольное ми-
нимальное инвариантное множество отличается от некоторого К1
лишь на множество ф-мсры 0 Очевидно, что 1 N ф(Л)/е. Если
в некоторый момеиг времени система попадает во множество К1, то
она в нем остается навсегда. Более того, справедливо следующее
утверждение.
Теорема 1. Если выполнено условие (Д), то существуют по-
стоянные Сир, О 0, 0 < р < 1 такие, что
(	N	\
1 — Р ( п, х, Il I < Ср* «»= 1, 2, ..., х s X.
\	i-i	/
Из этой теоремы и теоремы Бореля — Кантелли следует, что,
каково бы ни было начальное состояние системы, с вероятностью 1
через конечное число шагов система окажется в одном из множеств
К1. Обозначим через F<(x) вероятность того, что система, выйдя из
состояния х, когда-либо достигнет множества К1'.
fo «*'})•
Так как, попав в К1, система навсегда там остается, то
р! (х) = lim Р (п, х, К1)-
П~>оа
Если хе К7, то Я (х) =5= 1. Кроме того, для всех х е X
N
У F> (х) = 1.
/ “1
Из множества К1 можно выбросить такое его подмножество К1
нулевой ф-мсоы (возможно, пустое), что Р(х, К1) = 0 для всех
limP(n, х, К') я» 0 равномерно относительно хеХ и
П->оо
при этом множество К' может быть разбито на dj (1 dt<z<x>)
B.2.8J
8.2. ОДНОРОДНЫЕ ЦЕПИ МАРКОВА

класс можно
Положим
нспересекающихся подмножеств (/=0, 1,2, ...,dy—l), для которых
Р (х, К0 = 1 при х е (t = 1,2.......d^ £под понимаем
Л'} Будем считать, что X1 из К1 уже выброшено, так что
df-i
[J К{ — К1. Множества & (J « 1, 2......Л?) назеваются зргр-
м
дическими классами, а (/ = 0, 1, ..., dj—1)—циклическими
подклассами класса К1. Если система на некотором шаге попадает
в класс К1, то при dy > 1 во все последующие моменты времени оиа
будет циклически двигаться по подклассам этого класса. При dj = 1
класс К1 называется апериодическим.
Назовем множество Г е0 множеством несущественных состоя-
ний, если lim Р [п, х, Г) = 0 для всех г е Л-
п~»оо
Таким образом, множество состояний X марковской цепи, удо-
влетворяющей условию (Д), может быть разбито на некоторое
число эргодических классов К1 Ц •= 1, 2, ., , N) н множество не-
состояний [J К1. При этом каждый эргодический'
разбить на некоторое число циклических подклассов,
для х ® X, i =« 1.2, ..., N, ( «я= О, 1, .... dy — 1
существенных
= (J 
\п-=1	1	/
Если при некотором п к\, то это же верно н для всех k п.
Отсюда
Гу [х) “= Wm Р (нд>, х, К
Очевидце, Гу (х)«1 для х е Ху. Кроме того, для х е X
аГ1
Y г'(х)~г'(х).
Сформулируем теперь основную теорему о предельном поведе-
нии вероятностей Р(н, х, Г) при п->ос.
Теорема 2. Пусть выполнено условие (Д). Тогда существует
такая система вероятностных мер njj (j — 1, 2, ..., N, I = 0, 1, ...
. ., d, — 1), заданных на в, что для всех х^Х, Г а: К' [разумеется,
Ге»)-
df-l
Р + «, *. г) - Flr (х) 4+т (Г),
где индекс г + т рассматривается по модулю dp При зтом
(к{) = 1 и я{ (Г) > 0 при <р (ГЙ К*) > 0« Стремление к пределу
в етом соотношении равномерно по х и Г,
188
ГЛ. 8. ЦЕПИ МАРКОВА
18.2.8
В частности, если х&к!,то lim P(nd,-(-m, х, Г) = п£(Г)
П-Ьоа '	'	7
при г t + m (mod Заметим, что Р (nd{ + m, к. Г) =
= р (ndj + m, х, Г П к'г) при х & K’t и г &* i + m (mod df).
Из этой теоремы следует сходимость средних по Чезаро. Имен-
но, равномерно относительно х е X и Ге®
lim ± У Р (k, х, Г) = У F1 (х) я/ (Г).
П->оо п *—*
fc-1
/-1
где
df-l
п/(Г) = 7~Х Я‘(Г)’ Ге®’
1 1=0
так что nf является вероятностной мерой на о-алгебре В, причем
я/ (/</) = I и л'(Г) > 0, если <р(ГПК') > 0.
Обозначим
п
И, (Г) = Кт 4 У Р (k, X, Г).
Л П ->оо Л *
(2.4)
При каждом х е X функция рх является вероятностной мерой на В,
N
так как Р(х) :>0 и V f'(x)=l. Если хеК1, то рх совпадает
1-1
с мерой п1. Если Г — множество несущественных состояний, то
МП =0
Теорема 3. Если выполнено условие (Д), то при каждом
к е X мера р, является стационарной (см. п. 8.2.5). Наоборот, вся-
кое стационарное распределение может быть записано в виде
N
У р,лг, где числа р, неотрицательны и в сумме равны единице.
1-1
Следствие. 1) Предел в соотношении (2.4) тогда и только
тогда не зависит от х, когда имеется только один эргодический
класс.
2) Предел Р(п, х. Г) при п-ноо существует тогда и только
тогда, когда ни один из эргодических классов не содержит цикли-
ческих подклассов, т.е d, = 1 при всех /.
Предположим теперь, что на X задана вещественная ©-измери-
мая функция v(x). Следующая теорема является аналогом закона
больших чисел для последовательности {&(£„), п = 0, 1, 2, ...}.
Теорема 4. Если выполнено условие (Д) и v(x) (х е X) та-
кова, что
IО (у) 1П1 (dy) < оо, /==• 1, 2,W,
Kl
fi.V.9]
8.2. ОДНОРОДНЫЕ ЦЕПИ МАРКОВА
187
ю для любой вероятностной меры р на S3 с Рц -вероятностью 1
Л
существует предел lim J- о (Eft), и он равен j о (у) (dy)
при £>(«) ® К', где Рд (•) = Рх (•) р (dx).
X
В частности, если имеется только один эргодический класс, т. е.
Л' = 1, то
f	п
Ри I ,im	=S=1,
и fn-»oo	п	L-i	' «'	J	I
V	fe-О	X	'
где л— единственное стационарное распределение. (Заметим, что
v (у) л (dy) = Мя о(Е^), где Мя (•) есть среднее ио мере Рл.)
х
Следующая теорема описывает флуктуации величины
1 ”
— V о 0jfc) вокруг предельного значения.
Теорема 5. Предположим, что для данной цепи Маркова вы-
полняется условие (Д), существует только один эргодический класс
и юн апериодичен. Обозначим через л единственное стационарное
распределение цепи. Пусть задана вещественная ^-измеримая функ-
ция v (х) (х е X), для которой при некотором б > О
J | о (х) |2+6 л (dx) < оо.
Тогда существует предел
и если о2 > 0, то для любого начального распределения р
lim Р
п-»л 11
п
Л«0
а
— ОО
равномерно относительно а е R,
8.2.9. Эргодичность. Возвратность по Харрису. Однородная
цепь Маркова (£„, Р») в фазовом пространстве (X, ®) называется
эргодической, если для всех х е X почти наверное относительно Р*
существует неслучайный и не зависящий от х предел
п-1
А-0
(2.5)
какова бы ни была ограниченная ©-измеримая функция о.
188
ГЛ S. ПГПТ! МАРКОВА
НФ
i
Из теоремы 4 следует, что эргодической будет цепь Мирков^
удовлетворяющая условию (Д) и имеющая лишь один эргодический
класс (см. п. 8.2.8).	|
Теорема 6. Пусть в фазовом пространстве (X, ®) задана*
однородная цепь Маркова (Ел, Р*). Следующие утверждения эквиъ
валентны:	|
1)	цепь (Ел Р») является эргодической;	:
2)	для всякого хеХ, Ге® существует не зависящий от *1
предел
п-1
lim - У Р (k, х, Г);
п-><» п Lj
Л-о
значение этого предела равно л (Г), где л — стационарная вероят-
постная мера для цепи (Ел, Р*), т.е. мера на (X, ®), для которой
л(Х) «= 1 а при всех Ге®
л (Г) = Р (х, Г) л (dx);	(2Л)
X	<
3)	для цепи (Ел, Рх) существует стационарная вероятностная
мера и не существует ограниченных гармонических функций, отлич-
ных от постоянных.
Для эргодической цепи (Е», РЛ) предел (2 5) (временное сред-
нее) совпадает со средним от функции v по мере л (пространствен-'
ное среднее);
п
lim 4 У ° Ga) - \ « («) л (dx)	(2.7)
П->оо П	\	j
Л-0	X
почти наверное относительно меры Рц, каким бы ни было началь-
ное распределение р. Полагая здесь о(х) =/г (х), хеХ, Ге®,
где /г (X) — индикатор множества Г, получим
п
дт.4-£мы-»<п-
Л-1
откуда следует, что множество положительной л-меры цепь посе-
щает бесконечно много раз почти наверное'относительно меры Рх
при любом хеХ. Это свойство эргодической цепи лежит в основе
понятия возвратности по Харрису.
Однородная цепь Маркова (Ел, Рх) в фазовом пространстве,
(X, S3) называется возвратной по Харрису, если существует такая'
нетривиальная a-конечная мера ц на ®, что при любом х s X почти
наверное относительно меры Рх
ОО
£хг(£а) = + °°
для всякого такого множества Г е8, для которого р.(Г) > в. Меру
8 8.91	8.2. ОДНОРОДНЕЕ ОДНИ МАРКОВА
ц в эхом опредежаим называют мерой, доставляющей возвратность
цепи, а саму цель называют также ^.-возвратной. В соответствии
с этим эргодическая цепь является л-возвратной.
Если цепь (U Р») возвратна ио Харрису и для нее существует
стационарная вероятностная мера, то такая цепь является эргоди-
ческой.
При весьма широких предположениях о фазовом пространстве
возвратные но Харрису цепи Маркова обладают инвариантной ме-
рой, однако не обязательно конечной, а лишь о-конечной. Иначе
говоря, для возвратных по Харрису цепей, уравнение (2 6) во мно-
гих случаях имеет неотрицательное решение л (Г), для которого,
сообща говоря, л(Х) «₽ <ю, ио существует счетный набор множеств
оо
r„eSS, л = I, 2, ... таких, что Г1 аг Г2 с:..., |J Гл = Xи л(Гп) <
п-1
< оо. Тощее, справедлив следующий результат
Теорема 7. Предположим, что цепь (£я, Р,) в фазовом про-
странстве (X, ®) возвратна по Харрису, и пусть о алгебра ® порож-
дается счетным набором своих элементов (в таком случае о алгебру
S называют счетно порожденной). Тогда для цепи (g„, Рх) суще-
ствует единственная с точностью до положительного множителя не-
отрицательная инвариантная а-конечная мера л и цепь является
л-возвратной. Если при этом некоторая а-конвчная мера р достав-
ляет возвратность цепи, то р абсолютно непрерывна относителен
но я.
Аналогом эргодической теоремы для возвратных по Харрису це-
пей (т.е. аналогом соотношения (2.7)) является следующее утвер-
ждение.
Теорема 8- В условиях теоремы 7 при всех х&Х Р „-почти
наверное имеет место соотношение
/ п	п	X
Jim. (.X ° ^/2^ “ j = § » ()0 «(rf!/)/j «<У) Л (dy)
для любых Ъ-измеримых и суммируемых по мере л функций и, о
на X, причем н (у) я (dy) ¥> 0.
X
Циклическое разложение возвратной по Харрису цепи, а стало
быть, и решение вопроса о предельном поведении вероятностей
Р (п, х, Г) при и -> оо можно получить из следующего утверждения.
В формулировке этого утверждения фигурирует оператор 01, опре-
деление которого приведено в п. 8.23 (мы предполагаем, что про-
1транство элементарных событий R замкнуто относительно сдвигов,
1 е для всякого oeQ существует со'ей такое, что |п(ю') =
= £л+1(ю) при всех п = 0, 1, 2,.. ).
Комплексное число г называется собственным числом операто-
ра 01, если существует такая комплексноэначная ^“-измеримая ве-
тчина т), что Оо] = гц Ря-почти наверное и Мя|1)| >0. В этом
• лучае величина т] называется собственной. Заметим, что число z=l
вляется, очевидно, собственным, и ему соответствует собственная
величина 7](со) bs 1.
190
ГЛ 8 ЦЕПИ МАРКОВА
[8.2.9
Теорема 9. В условиях теоремы 7 число d собственных чисел
оператора 0t конечно и они совпадают с корнями степени d из 1.
Собственному числу ехр {ikn'dd}, fe = (, 1, . d- 1, отвечает
единства нал с точностью до мультипликативной константы и Рп-ак*
вивалентности собственная величина ехр {2knir(t,0)/d}, где г(х)—
^-измеримая функция на X со значениями в конечном множестве
{0,1,. ,*-!}.
(Здесь л под знаком экспоненты обо тачает число, равное отно-
шению длины окружное ш к ее диаметру, в отличие от л, обозна-
чающего инвариант их ю меру)
Из этой теоремы нетрудно вывести, что в фазовом простран-
стве X возвратной по Харрису цепи (со счетно порожденной а-алгеб-
рой ®) можно выделить пепересекающиеся подмножества Ко, Ki, ...
.. , Kit-t езЭ такие, что Р(х, К,+1) = 1 для х & К, (/ = 0,1,...
...,</ - 1 ) (считаем Ка = Ко) и при этом для всех хе X о
\ d-i
РА-верояп:остью 1 множество X \ Н Kt посещается цепью лишь
\/=о
конечное число раз Другими словами, выходя из произвольного со-
стояния х е X, цепь рано или поздно попадет в одно из множеств К/
и дальше будет двигаться по этим множествам циклически
Число d называется периодом цепи Если d = 1, цепь назы-
вается апериодичеткой Множества К, называются циклическими
подклассами цепи
Обозначим через т момент первого попадания цепи во множе-
d~\
ство (J К]. Как уже отмечалось, этот момент конечен Р*-почти
/-о
наверное при любом х е X. Положим Р, (г) = Px{|tsK,}, х е X,
d-1
j — 0, 1, .. , d — 1 Тогда Ру (х) — 1 при всех x е X и Г, (х) = 1
А
при х е К,.
Далее, возвратная по Харрису цепь называется положительной,
если мера л, существование которой утверждается в теореме 7, ко-
нечна (предполагается, что о-алгебра Э счетно порождена). Если же
л (А) = оо, то цепь называется нулевой.
Следующая теорема описывает поведение вероятностей Р(п. х, Г)
при п -> оо для возвратных по Харрису цепей
Теорема 10 Предположим, что возвратная по Харрису цепь
Маркова (£;„, РА) задана в фазовом пространстве (X, Э) со счетно
порожденной с-алгеброй ®. Тогда'.
1)	если цепь положительна со стационарной вероятностной ме-
рой л и апериодична, то при всех х е X равномерно относительно
Ге»
lim Р (л, х, Г) = п (Г)'
П-> эо
2)	если цепь нулевая, то для всякой измеримой функции а,
суммируемой по инвариантной мере,
lim \v (у) Р (п, х, dy} = 0, хе X;
J
A
8.2.9]	8.2. ОДНОРОДНЫЕ ЦЕПИ МАРКОВА	191
3)	если цепь положительна и имеет период d > 1, то при всех
х ел равномерно относительно Гей
a-i
lim Р (nd + m, x,T) = d У Fr (х) л (Г f] Кг+Л
п->°®	г=о
где симма г m рассматривается по модулю d-, в частности, если
х е К], то
lim Р (nd + tn, х, Г) = йл (Г f] Кг)
И->оо
равномерно относительно Г, где j m = r(modd).
Сформулируем центральную предельную теорему для функ-
ционалов от цепей Маркова.
Теорема 11. Пусть задана однородная эргодичешая цепь
Маркова (5ч, Рх) в фаговом пространств (X, ©) со t'teino по-
рожденной о алгеброй ®> и пусть на пространстве (X X X, © X ®)
определена вещественная измеримая функция и(х,у), для которой
Мп о(5о, Si) = 0, Mn oz(5o, 51) <. оо (по-прежнему л означает ста-
ционарную меру цепи). Предположим далее, что найдется такое
множество De® положительной п-меры, для которого
D	J
sup
п
п
$ n(dx)Mx^t>(5ft_1, 5Й)
А	Л-1
(2.8)
каково бы ни было Ac D (Ле®).
Тогда независимо от начального распределения цепи случай-
ные величины
п
имеют в пределе при п -> оо нормальное распределение со сред-
ним 0 и дисперсией о2 0. При этом о2 = 0 тогда и только тогда,
когда найдется такая ^-измеримая функция а(х), что
V (5о. 51) = я (Е1) - я (go)
почти наверное относительно меры Рл.
Следующая теорема дает условия применимости центральной
предельной теоремы в терминах резольвенты цепи
Обозначим через Тг = Т2(Х, ®, л) гильбертово пространство
всех вещественных ©-измеримых функций с л-интегрируемым квад-
ратом. Пусть Р — оператор в Тг, действующий на функцию f е Т2
по формуле
Pf (х) = ^Р (х, dy) f (у),
X
192
ГЛ. 8. ЦЕПИ МАРКОВА

а П —проектор, проектирующий функцию feL2 в постоянную функ-’
цию nf (х) = л (dy) f (у).
Наконец, для Ze[0, 1) положим
п-0
Теорема 12 Пусть цепь Маркова (|я, Рх) и функция о(х, у)
удовлетворяют всем условиям предыдущей теоремы, за исключением
неравенств (2.8). Предположим, что
slip j/?,— -7-Ц-nil' <оо.
о<А.<1« *	1,—*
Тогда справедливо утверждение теоремы Ц.
8.3.	Цепи Маркова с дискретным множеством состояний
8.3.1.	Матрицы вероятностей перехода. Рассмотрим однородные
цепи Маркова (£л, Р*) в фазовом пространстве (X, ®) в предполо-
жении, что X счетно или конечно, а ® — о-алгебра всех подмно-
жеств X. Такие цепи определяются вероятностями перехода за один-
шаг в одноточечные множества Р(х, у) = Рх{|, = у} (х, у^Х),
ибо для произвольного ГсХ имеем Р(х, Г) = Р<(|1еГ} =
= У, Р(х, у). Числа Р(х, у) (х, у&Х) образуют матрицу Р, воз-
ре=Г
можно бесконечную, в х-й строке которой расположены вероятности
перехода за один шаг из состояния х во всевозможные состояния
у е X, а в у-м столбце — вероятности перехода за один шаг из
всевозможных состояний х е X в состояние у. Элементы матрицы Р
неотрицательны, и сумма пх по строке равна 1. Такне матрицы на-
зываются стохастическими Каждая стохастическая матрица опреде-
ляет единственную с точностью до эквивалентности однородную
цепь Маркова, для которой вероятности перехода за один шаг сов-
падают с элементами этой матрицы
Вероятности перехода за п шагов Р(п, х, у) также образуют
стохастическую матрицу, и она равна л-й степени матрицы Р, как
это следует из уравнения Колмогорова — Чепмена:
Р(п, х, у)=	£ Р(х, ZjJPfXp г2) ... P(zn_1, у),
zi...zn-ie*
где х, у е X, п — 2, 3, ... При п — 0 естественно считать функцию
Р(0, х, у) = 1 для х = у н Р(0, х, у) = 0 для х =/= у, так что
вероятности перехода за 0 шагов образуют единичную матрицу I.
В случае, когда X конечно, для вероятностей перехода за п ша-
гов справедлива следующая формула:
А 1 d’nk~l VhnMxuW\
*	(»ч-')'	,™-Ц' (3',)
8.3.3J
8.3. ДИСКРЕТНОЕ МНОЖЕСТВО СОСТОЯНИИ
193
где л = О, 1,2, ... ; х, I/ еX; Xi, Лг, ..., кг — различные корни урав-
нения det(M — Р) —0; ть тц, ..., тг — их кратности соответ-
ственно; Мед (%) —алгебраическое дополнение элемента у-it строки и
х-го столбца матрицы X/ — Р, фа(Х) = (X — X*<)_mftdet(X/ — Р).
8.3.2.	Классификация состояний. Состояние у е X достижимо
из состояния если при некотором п — 0, 1, 2, ... Р(п, х, у) >
> О. Если у достижимо из х, а х достижимо из у, то состояния х
и у называются сообщающимися. Тем самым во множестве X вво-
дится «отношение», обладающее свойством симметрии, рефлексивно-
сти и транзитивности Стало быть, множество X можно разбить на
непересекающиеся классы сообщающихся между собой состояний.
При этом никакие два состояния из разных классов не сообщаются
между собой, однако для состояний данного класса могут быть до-
стижимы состояния других классов. Иначе говоря, из данного со-
стояния система может перейти с положительной вероятностью в
любое другое состояние того же класса Кроме того, возможен вы-
ход да данного класса состояний, но вернуться в исходный класс
система не может.
Марковская цепь (£и, Рх) называется неприводимой, если лю-
бая пара состояний х, у е X представляет собой сообщающиеся со-
стояния. Другими словами, все состояния неприводимой цени обра-
зуют один класс сообщающихся состояний.
Состояние х называется существенным, если любое состояние,
достижимое из х, сообщается с х. В противном случае оно назы-
вается несущественным. Для несущественного состояния х суще-
ствует по крайней мере одно состояние у, достижимое из х, такое,
что х недостижимо из у.
Нетрудно убедиться в том, что из существенного состояния до-
стижимы только существенные состояния. Отсюда следует, что в
каждом классе сообщающихся состояний либо все состояния суще-
ственны, либо все несущественны.
На множестве классов сообщающихся состояний, на которые
разбивается пространство всех возможных состояний данной цепи,
можно ввести частичный порядок при помощи следующего отноше-
ния. Говорят, что класс следует за классом Х^ если хотя бы
для одного хеЛо существует такое у е Х$, что у достижимо из х.
(Отсюда следует, что из любого состояния х е Ха достижимо любое
состояние у е Х$, если только Яр следует из Хп ) Такое отношение
между классами обладает свойством рефлексивности и транзитив-
ности, однако не обладает симметрией, и потому порождает частич-
ный порядок во множестве классов. Очевидно, что только классы
существенных состояний (если только они есть) обладают тем свой-
ством, что за ними не следует никакой другой класс. Если для дан-
ной цепи число классов сообщающихся состояний конечно, то суще-
ствует хотя бы один класс существенных состояний. В общем слу-
чае может не найтись ни одного класса существенных состояний.
Если начальное состояние цепи находится в каком-либо классе
существенных состояний, то система никогда не выйдет из этого
класса. Поэтому, если все классы состоят из существенных состоя-
ний, то цепь фактически разлагается на несколько цепей, соответ-
ствующих каждому такому классу.
8.3.3.	Периодичность. Обозначим через &(х}, (хеХ) наиболь-
ший общий делитель тех чисел п, для которых х, х) > О. Если
7 В. С. Королюк и др.
194	ГЛ. 8. ЦЕПИ МАРКОВА	18.3.4
Р(п, х, х)= О для всех п = 1, 2, .... то будем считать d(x) — ее.
Можно показать, что в каждом классе сообщающихся состояний
d(x) постоянно. Общее значение d = d(x) для х из данного класса
называется периодом этого класса. Класс называется апериодичным,
если его период d — 1. При d > 1 класс называется периодичным.
В соответствии с этим неприводимая цепь называется периодичной
или апериодичной в зависимости oi зело, будет лн ее период больше
единицы или равен единице.
Следующая теорема показываез, з ак происходит движение в пе-
риодичном классе сообщающихся сосюянпи
1 е о р е м а 1 Каждый класс К сообщающихся состояний пе-
риода d (d <_ оо) можно разбить на d попарно не пересекающихся
подмножеств Ко, Ki, .... Ka-i так, чтобы за один шаг из Ki (i —
— О, 1, ..., d — 2) система могла перейти лишь в состояния множе-
ства Kin, а из Ka-i — только в состояния множества Ко При этом,
если хеК,,	то существует такое по = пе(х,у), что при
всех п > по
Р (nd + г — i, х, у) > 0.
В часгюсти, дпя вых п >• по — п,(х, х) P(nd, х, х) > 0
Мпожспча К, (i = О, 1, 2, .... d — 1) называются псдкласоами
пер подичее коз о кч.кса < ообзцающнхе я сеюзояппи
Пример JIyi.ii> X - - пепочпе ле иная решетка на прямой и си-
стема двззжезея зак. як» из <<>< зоязшя х е: X за один шаг возможны
лишь переходы в состояние х + 1 с всрояiпостно р и в состояние
л — 1с вс роя шестью у, р + у = 1 (р, у < 0). Такая цепь неприво-
дима и периодична с периодом 2 Подклассы Ко и Ki — это соответ-
ственно совокупности четных и нечетных чисел
8.3.4.	Возвратность. Пусть ту — момент первого после нуля до-
стижения состояния у е X, т е т1; = inf {/г: п — 1, 2, .... £п = у},
причем в случае Е„ =# у для всех п = 1, 2, ... полазаем ти = +°°-
Положим f(0, х, у) = 0 и f(n, х, у) = Рх{т^ — п} (п = , 2, ...
.... х, з/еХ). Обозначим
СО
/•' (X, у)	(«, Г, у) = Рх {т < СО}.
п-0
Г(х, у} есть вероятность того, что система, выйдя из состояния х,
кегда-лззбо попадает в состояние у, при х = у F(x, х) есть вероят-
ность того, что система, выйдя из состояния х, когда-либо возвра-
тится в это состояние.
Состояние х называется возвратным, если F(x, х)= 1, и невоз-
вратным, если F(x, х) < 1.
Свяп> между вероятностями перехода и вероятностями первого
достижения зи таете я формулой
II
Р (п, х, у)-^ У, j (А-, л, у) Р (п — It, у, у), /1=1, 2, ...,х, уеХ
А О
Полагая для X с_ |0, 1)
оо	оо
Ph (*. У) = У, КгР (п, х, у), FK (х, у) = £ Fnf (и, X, у),
О	п«0
8.3.51
8.3 ДИСКРЕТНОЕ МНОЖЕСТВО СОСТОЯНИЙ
105
из предыдущей формулы получаем соотношения
!\(х’ %) = Т- Р' (V| х) > рк = Fk(х-	У-
Эти формулы приводят к следующему результату.
Теорема 2 Состояние х возвратно тогда и то гько тогда,
когда
ОО
(1 (х, х) = У, Р (п, X, X) = ОО,
п=»)
и невозвратно, когда
ОО
G (х, х) — У Р (п, х, х) < оо.
П •” )
В неаозспатнзм мучав
0(х>х)
Да псе можно показать, что сообщающиеся состояния потратим
или певосвратны одновременно, так что свойство возвратности явля-
ею< свойством класса сообщающихся состояний Поэтому можно
оворигь о возвратности пли невозвратности неприводимой цепи
М >ркова
С юдующая теорема дает критерий возвратности неприводимой
цепи /Маркова в терминах эксцессивных функций
Теорема 3 Неприводимая цепь Маркова возвратна в том и
только том случае, когда всякая эксцессивная функция постоянна.
Более точно, если цепь неприводима и возвратна, го единствен*
ной эксцессивной функцией (с точностью до постоянного неотрица-
тельного множителя) является функция, тождественно равная еди-
нице. Это означает, что система неравенств
У Р (х, у) <р (;/)< <р (X), х е= X,
уеХ
ке имеет неотрицательных решений, отличных от решений вида
<р(х) «=« const
Наоборот, если цепь (не обязательно неприводимая) имеет хотя
бы одно невозвратное состояние, то всегда существует непостоянная
эксцессивная функция; например,
{1, если у — х0,
F (У, -Ко). если У =/= х0,
где хо — фиксированное невотвратнос состояние.
8.3.5.	Свойства возвратных состояний. Обозначим через
q(x, У) (х, У е X) вероятность того, что система, выйдя из состоя-
ния х, попадет в состояние у бесконечно много раз. Используя свой-
ство строгой марковости цепи, можно показать, что q{x, у) =«
= F(x, у), если только состояние у возвратно. В частности,
q (у, у) = 1 длч всякого возвратного состояния у. Другими словами,
вероятность того, что система побывает бесконечно много раз в воз-
вратном состоянии у, выходя из х, равна вероятности того, что у
будет когда-либо достигнуто из состояния х.
7*
ГЛ. 8. ЦЕПИ МАРКОВА
<8X6
юв
Более того, если состояние х возвратно и </) > 0, то
q(x, у) = 1, т. е., выходя из возвратного состояния х, система обя-
зала посетить достижимое из х состояние у бесконечно много раз.
При этом F(y, х) > О В частности, если х возвратно и у дости-
жимо из х, то у достижимо из х с вероятностью 1 (F{x, у) = 1).
Далее, если у невозвратно, то q(x, у) = 0 для всех хеХ и, в
частности, q(y,y)=O. Это означает, что невозвратные состояния
система посещает лишь конечное число раз (последнее, разумеется,
следует также и из теоремы 2).
Таким образом, из возвратных состояний достижимы лишь воз-
вратные состояния Возвратные состояния существенны.
8.3.6.	Предельное поведение вероятностей перехода.
Теорема 4. Для х, у &Х справедливо соотношение
N	IN
F (х, у) - lim £ Р (п, х, у) /У Р («, у, у),
fal I fa
Из этой формулы следует, что для всех х и у из одного воз-
ОО
вратного класса G{x, у) = Р (и,	0) = + °0- Если же у невоз-
п««0
вратио, то G(x, у) < оо при всех х е X.
Более точные результаты могут быть получены применением тео-
ремы восстановления. Обозначим через Ту момент первого после
нуля достижения состояния у (см. п. 8 3.4). Далее, положим
t*+1 «=inf {а: а >	£» *"«}* А = 1, 2, 3,..
причем полагаем т*+* = 4- оо, если ф у для всех п > т*. Из
свойства строгой марковости цепи следует, что величины тЕ т® —
—iyi гу~ху> ••• независимы и одинаково распределены по мере Pv,
если только у — возвратное состояние. Если начальным является со-
стояние х, F{x, у}= 1 и у возвратно, то относительно меры все
эти величины независимы между собой и, за исключением первой,
одинаково распределены. Это обстоятельство позволяет применить
теорему восстановления для изучения предельного поведения вероят-
ностей перехода Р(п, х, у) при п-*-оо.
Обозначим через ту среднее число шагор до первого возвра-
щения в состояние у, т. е.
СО
ту = У «Ж У, у) =	<4-00.
Н = 1
Теорема 5. а) Если состояние у невозвратно, то при всех
х&Х
lim Р (п, х, у) = 0;
п-»«>
t б) если х» у лежат в различных классах существенных состоя-
ний то при всех п Р(п, х, у} «=©;
8.3.71	83. ДИСКРЕТНОЕ МНОЖЕСТВО СОСТОЯНИЙ	19/
в)	если х и у принадлежат одному классу существенных состоя-
ний с периодом d, причем xeKi, у е Кг, где К/ — подклассы, вве-
денные в теореме 1, то
lim Р (nd +1, х, у) =dlm
П-^оо	°
при условии I as г — i (mod d) и
P(nd + I, x, у) — О
при условии I =/= г — i(modd); в частности, если d = 1, т.е. класс
апериодичен, lim Р (п, х. у) <=* l/m :
П->оо	*
г)	если состояние х несущественно, а у принадлежит классу
существенных состояний с периодом d, то для всех г == О, 1, 2, ...
..., d — 1
lim Р (nd + г, х, у) •= Fr (х, у)-,
П-»-оо
еде
Fr (х, у) - У / (п, х, у).
п-1
n-rfmdd)
d-1
Заметим, что Fr (х, у} > 0 и У F? (х, у) *"F (х, у) < I. Крэме
г-0
ТОГО, Fr(x, У) ха P„{g„ «Я у ДЛЯ НСКОТОрОГО ner(modd), П > 0}.
Из этой теоремы следует также несколько более грубый резуль-
тат о сходимости средних по Чезаро.
Следствие. Если считать, что для невозвратных состояний у
mv = то, то для всех х, у еХ существует предел
N
Jim 7тУ'.Р х> = я <*• £)•
оо /V 4-U
М-0
причем
г ч F Ur УУ
ту
8.3.7.	Положительные и нулевые классы. Возвратное состояние
у называется нулевым, если lim Р (nd (у), у, у)—0, и положи-
П->со
телымм, если lim Р {nd {y)t yt у) > 0. Легко установить, что в воз-
оа
вратном классе состояний либо все состояния одновременна положи-
тельные, либо нулевые. Если у — положительное состояние, то
ту < оо и st(y) « л(у, у) = l/mv. Для нулевого состояния л^) в» 0.
Оказывается, свойство класса быть положительным или нуле-
вым тесно связано с проблемой существования инвариантных мер.
Для марковских цепей со счетным иля конечным множеством
состояний естественно рассматривать меры (заряды) лишь на одно-
точечных множествах: д(#) == ибо для tcX имеем
Н(Г)- £ К (у).
4» а Г
1§8
ГЛ. 8. ЦЕПИ МАРКОВА
{8.3.7
Заряд ц(1/), заданный для у еКсХ, называется инвариантным
на множестве К, если р(у) = У Ц (х) Р (х, у) для всех у е К.
хеК
Теорема 6. Если К — класс существенных состояний, то вся-
кий инвариантный на множестве К заряд ц, удовлетворяющий усло-
вию
У, 11* ('/)!<«>.	(3.2)
деК
имеет вид р(у) — сл(у), еде у^К, а с — произвольная постоянная.
Следствие. 1) Если К — положительный возвратный класс,
то единственным инвариантным на К зарядом, удовлетворяющим
условию (32) и условию
У й)-1,	(3.3)
деК
является мера
N
я (у) == lim, -у У Р (п, у, у), у<=К.
п—0
При этом, если d— период класса К, то для любого подкласса Ki
(j «= О, 1, 2, ..., d — 1) имеем
Е =
ДеКу
2)	Если К—нулевой возвратный класс, то единственный инва-
риантный на К заряд, подчиненный условию (3.2), тривиален
(!*(«/) = 0, уе=К).
3)	Если марковская цепь произвольна, а р (у) (у ^Х) — абсо-
лютно суммируемое решение системы уравнений
Ц(р) = У 1* (х) Р (х, </), у<=х,	(3.4)
х<=Х
то для всякого невозвратного состояния у» должно быть [*((/<>) = 0.
4)	Для того чтобы неприводимая цепь Маркова была положи-
тельно возвратной, необходимо и достаточно, чтобы система уравне-
ний (3.4) имела нетривиальное абсолютно суммируемое решение.
5)	Неприводимая цепь Маркова имеет стационарное распреде-
ление тогда и только тогда, когда она положительно возвратна.
6)	Если цепь неприводима, положительно возвратна и аперио-
дична, то единственным решением системы (3 4), удовлетворяющим
условиям (32) и (3 3), является мера
I* (у) = lim Р (п, х, у).
п->оо
Следующая теорема описывает все возможные стационарные 
распределения для данной цепи (если таковые имеются).
Теорема 7. Пусть (t,n, Рх) — однородная цепь Маркова с дис-
кретным множеством состояний. Обозначим через £)в (а е Л) поло-
8.3.8]	8.3. ДИСКРЕТНОЕ МНОЖЕСТВО состоянии fgg
жительные возвратные классы, причем Da D$ при а =/= pt где А —•
счетный набор индексов. Положим D — |J Da. Мера ц(х) (хе/)
а&А
стационарна тогда и только тогда, когда существует последователь-
ность величин {Ла, а s А}, Ла> 0 и У Ла = 1 такая, что
аеЛ
. ._______________(	0,	если	x&D,
U W	|	если	х 6 poi а s А.
8.3.8.	Вероятности с запрещением. Пусть Г — некоторое мно-
жество	состояний,	ГсХ. Положим	для х, уеХ	и	я =. 1,	2, ...
ТР (п,	х,	у) =	£	Р (X, г,) Р (гр г2)	...	Р (zn_p у).
ZVZ2....гП-!еХ'Г
Так определенная величина задает вероятность того, что система за
п шагов перейдет из состояния х в состояние у, не побывав ни в
один из моментов времени 1, 2, .... п — 1 в состояниях множе-
ства Г. Такие вероятиосги называются вероятностями с запрещением
или табу-вероятностями. Если Г = {z}, то будем писать гР(п, х, у)
вместо {г)Р(я, х, у). Очевидно, /(я, х, у) = уР(п, х, у).
Для всех и = I, 2.....х, у, z е X, Г с: X, г & Г, имеют место
равенства
rP (я, X, У) = г ГР (я, X, у) + У Z1 rP (k, X, 2) ГР (Я — k, Z, у),
' *-1
п-1
ГР (я, х, у) = z ГР (я, X, у) + ГР (k, х, z) z ГР (я — k, Z, (/),
где г, ГР (г, х, у) = {г) игР (г, х, у).
Положим гР(0, х, у) == X{(/}W ПРИ х^Г и гР(0, х, у)~0
при х а Г, где %в (х) — индикатор множества В с: X. Далее, если
Г = {у, z}, то естественно обозначить tf(n, х, у) =я (г,е)р(п> х> У)
для я = 1, 2, .... х, у, zsX. Это есть вероятность того, что си-
стема, выйдя из состояния х, впервые на я-м шаге окажется в со-
стоянии у, не заходя при этом в моменты времени 1, 2, ..., я— 1
в состояние z. Положим еще f (0, х, у) — О С учетом этих обозна-
чений и соглашений из предыдущих равенств легко получить фор-
мулы
ЖР (я, х, у) =. У J {k, X, у) ZP (п - k, у, у) + 6„0Х{В}(«). у,
k^Q
f (П, х> У) ир (*> х) xf (« — х’ У)’ х^ ff,
справедливые при л = 0, 1, 2......где %г(х)—индикатор множе-
ства Г, а бл0 = 1 при я = 0 и б„о = 0 прн я =/= 0. Отсюда, полагая
ЖС (х, у) =* У ЖР (я, х, у), еГ (х, у) <=> у J (я, х, у),
п-0	п-0
200
ГЛ. 8. ЦЕПИ МАРКОВА
[8.3.9
находим
гс (х, у) = Цу} (*) + ZF <х> у) (</> у), У,
F (X, у) = yG (х, х) XF (х, у), х^ у.
Если х и у — сообщающиеся состояния, то очевидно, что
JF(x, у)> 0. Поэтому из второго соотношения имеем
0<„G(x,x) = -^^<oo, х^у,
если только х и у сообщаются. Теперь из первого соотношения для
Сообщающихся состояний у и г получаем
„F (г, у)
« < aG (z, y)—F (у, z) 	У г.
Далее, можно показать, что для х и у из одного возвратного
класса справедливо соотношение
[N	IN	-|
У Р (п, X, у) У Р (п, X, х) I.
„“а	/	J
Отсюда следует, что для возвратных состояний xG{x, х)= 1. Кроме
того, если х и у — состояния из одного положительного класса, то
«G(x, у) = п(у)/л(х).
со
Обозначим тлу == МЛТу == У (п, х, у). Величина тХ11 есть
П-1
среднее время до первого достижения состояния у, если начальным
было состояние х. При х — у величина туу совпадает с введенной
ранее величиной mv.
Теорема 8. Если F (х, у) — 1, то У G (х, z) « т
у	Ху
z с, Л
’ Из этой теоремы следует, что ряд У XG (х, у) сходится для
и
положительно возвратного класса и расходится для нулевого класса.
Как следует из теоремы 6, в случае, когда К — нулевой возврат-
ный класс, не существует инвариантного на У( заряда ограниченной
вариации, отличного от тривиального заряда. Следующая теорема
показывает, что в этом случае существует инвариантная на К мера
бесконечной полной массы.
Теорема 9. Пусть К — возвратный класс. Единственным неот-
рицательным решением системы уравнений
И (У) = У И W р (X, у), у<=К,
X л
удовлетворяющим условию |i(zo)=l для некоторого го^К, яв-
ляется мера zoG(Zo, у) (!/еК).
8.3.9.	Эргодическая теорема. Пусть (|«, Рх)—однородная цепь
Маркова, состояния которой образуют один возвратный класс X.
8.3.9]	8.3. ДИСКРЕТНОЕ МНОЖЕСТВО СОСТОЯНИЙ	201
Предположим, что на X задана вещественная функция о(х), и рас»
смотрим функционал
Пп (»)e Е ° (h)- п-0,1,2,...
k-0
Для у е X положим ty = Inf {n: п = 1, 2, ...,	= у],
т*+1 -= inf {п: п > т*,	— у}, k = 1, 2,...
(см. п. 8.3.6). Так как все состояния рассматриваемой цепи обра-
зуют один возвратный класс, то при всех х, у&Х и k «= 1, 2, ...,
Р* {т^ < оо}= 1. Величину t]„(o) можно представить в виде
1#- 1	v^<n)-l	п
Е f(U+ Е	X с(^)«
Л—О	Л— 1
где
г*14-!
V
tk(y,v}-= £ v(jr), fe—I, 2,...,
г-г*
a vy(n) —случайная величина» для которой ху* п, туу > "
(иначе: vy (и) = max {fe:	n) » mln {fe: t*+1 > nJ). Заметим,
что в силу строгой марковости цепи величины £а(</, о) (fe = 1,
2, ...) независимы и одинаково распределены, причем распределение
величины Щу, v) по мере Рх не зависит от х. Действительно, для
вещественных а имеем
Рх {?Л (V. f) < а} = МХРХ {0^ (у, о) < а | g =
и	У
— м A k &	< а) = РУ {21 (у> °) < «}•
ху
Далее, можно показать, что из существования момента р-го порядка
величины t,k(y, о) при некотором уеХ следует существование его
при любОхМ уеХ В частности, если р— 1, то при условии
Е yG (У- «) I " («) I < °°
г е X
имеем
{2ft (у. V)} == Е »G {у- г} v (2)-
z^x
Обозначим
““ Е xG (-х’уУ> °
у^х
Оказывается, если Sx(v) конечно (под этим будем понимать условие
?G (х, p)Jo(p)l==Sjc (| v |)<оо)при некотором х sX, то оно ко-
г х
Ц"1но и при всех х. Аналогично, если Sx(v) ¥= 0 При некотором х.
202
ГЛ. 8. ЦЕПИ МАРКОВА
18.3.10
то это же справедливо и для всех х. Кроме того, если Sv(u) и
Sx(v) конечны, то отношение 5Л(и)/5х(о) не зависит от х. В случае
положительно возвратной цепп*б(х, у) = п (</)/эт(х), так что в этом
случае
n(x)Sx(o) = У л {у) v(y),
у^х
где л({/)—стационарное распределение цепи.
Следующая теорема носи г название эргодической теоремы. В ее
доказательстве решающую роль играет представление величины
т]п(и) в виде суммы независимых одинаково распределенных случай-
ных величин и некоторых добавок (см. выше).
Теорема 10. Если цепь (£„, Рх) неприводима и возвратна, а
заданные на пространстве состояний функции и и о таковы, что
величины Sx(u) и Sx(v) конечны и не равны нулю, то справедливо
соотношение
lim
N -> оо
N	К	1
Е «(ы/Е	“ s« (°)
n=0	n—0	J
почти наверное относительно меры Рх при любом хеХ (правая
часть этого равенства, как отмечалось выше, не зависит ог у).
Следствие 1) Если неприводимая цепь положительно воз-
вратна, а функция v (х) (х е X) удовлетворяет условию
Е л (у) | v (у) | < оо, то Рх-почти наверное (при всех хеА):
деХ
N
П—0	yetX
Это означает, что среднее по
{р(6п), п = 0, 1, 2, ...} сходится
стационарному распределению.
2) Если для неприводимой
времени для последовательности
к среднему от функции о(х) по
положительно возвратной цепи
Е я (У) I о (у) | < оо, то при всех х е А'
уеХ
N
4 Xv“ Xп v (г/)
n-О	jeX
lim Мд
iV->oo
3) Для неприводимой положительно возвратной цепи Рх-почти
наверное (при всех х е X')
i \	v« (г1)
vv (п)
lim -------== п (у), lim ----------- I,
п-ъ- оо П	п -У оо П
где vy (п) и т^— величины, определенные выше.
8.3.10. Центральная предельная теорема для цепей Маркова.
Предположим, что цепь Маркова (|я, Рх) неприводима и положи-
тельно возвратна, a v(x)—вещественная функция, заданная на со-
8.3.10]
8.3. ДИСКРЕТНОЕ МНОЖЕСТВО СОСТОЯНИИ
203
стояниях цепи. Выше отмечалось, что для существования среднего
^xtk(y, v) достаточно, чтобы
£ I» (У) I п (у) < оо,
у^х
где п(у) —стационарное распределение. При этом условии
Mx&to, IN)-MX £ |v(6r)l-
У
Предположим теперь, что для функции v выполняется несколько
менее жесткое условие, а именно
Положим для у е X
’су+1 ~ 1
М*|ЕЙ(». f)| = Mx £ p(gr) <оо.
’Г1-1
И1/ to) — мх £ v (6г).
4
(3.5)
Величина gvto) не зависит ни от х е X, ни от k =» 1, 2, ...
Теорема 11. Если неприводимая положительно возвратная
цепь Маркова и функция v таковы, что ]iv(c) существует (т.е. вы-
полнено условие (3.5)), то предел по вероятности Рх (х е X) вели-
чины	v (|п) существует и равен si (у) р,, (v) feeX).
n-o
Отсюда, в частности, следует, что величина ntoJPtto) не зави-
сит от. у.
. Положим теперь для у г X, k = 1, 2, ...
t>h (У- f) = Ел (у. ») - « to) »у to) (*y+l - rf)-
Величины 6* to, о) (k = 1, 2, ...) независимы и одинаково распре-
делены по мере Рх (хе^Х), причем распределение Px{6*to, v) <
.< а) не зависит от х. Очевидно, что Мх6* (у, v) = 0. Обозначим
o2to) = MJ6ftto, о)]2.
Можно показать, что если (о) < оо для некоторого у е X, то это
справедливо и для всех у s X.
Теорема 12. Если для неприводимой положительно возврат-
ной цепи Маркова и функции v выполнено 0 < о у to) < оо, то
справедливо соотношение
lim рх {_> to)-"a.. < Д------»	( е-№ <
п->оо <. 'у Ьп /	У2л J
—оо
204	ГЛ. 8. ЦЕПИ МАРКОВА	18.3.10
где хеХ, а — п ооизвольное вещественное число, а — л (у) щ (р) ,
Ъ = л (у) <Jy (f). Величины а и b не зависят от выбора уеХ.
Из теоремы 11 следует, что -i-	(о) -> а по вероятности Рх.
Теорема 12, таким образом, показывает, что флуктуации величины
~ Чл (°) вокруг среднего значения а распределены асимптотически
нормально, если только существует второй момент величины
б*(р, р) и он отличен от нуля
, Замечание. Величину i]n(o) можно представить в виде
Vy(n)-1
Ч« (р) = а (г/Я) - т^) +	£ SA (у, t>) + V' + V",
ft =4
где V'n и v'^ совпадают соответственно с первым и третьим сла-
гаемыми в представлении для величины Ч«(р), приведенном в п. 8.3.9.
Обычный ход рассуждений при доказательстве предельных теорем
для величины т),,(о) состоит в доказательстве асимптотической ма-
лости величин Vn и Vn (с определенным нормировочным множите-
лем) и применении классических предельных теорем для сумм неза-
висимых случайных величин к сумме
Vyf.n)-l
У, 1У, о).
Ь-1
Предположение теоремы 12 означает, что распределение величины
fitly, р) принадлежит области притяжения нормального закона, и
потому в пределе здесь получается нормальное распределение. Пред-
полагая, что распределение величины fitly, о) попадает в область
притяжения других устойчивых законов, можно получить другие
предельные теоремы для величин ч«(^)-
Литература: [19, 28, 31, 40, 63, 73, 78, 83, 89, 97, 100, 112,
Часть вторая
ТЕОРИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ
Глава 9. ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ
СЛУЧАЙНЫХ ПРОЦЕССОВ
9.1.	Определение случайного процесса
9.1.1.	Конечномерные распределения. Случайным процессом на
вероятностном пространстве {Q, 0, Р} называется семейство слу-.
чайных величин g(/, w), зависящих от вещественного параметра t,
принимающего значения из некоторого множества Т. Это множество
называется областью определения процесса. Сами случайные вели-
чины £(/, о>) могут быть либо вещественными, либо комплексными,
либо векторными То пространство X, в котором J-(t, со) принимает
свои значения, называется фазовым пространством процесса. В зави-
симости от фазового пространства процесса говорят о числовых,
ьомплекснозначпых или векторных процессах. Как и при обозначе-
нии случайных величин, для процессов аргумент со часто опускают и
пишут §(/) вместо £(/, со). Одной из основных характеристик слу-
чайного процесса являются его конечномерные (частные) распреде-
ления— набор функций, определенных для каждого натурального k
соотношениями
{k	1
П U
где /1, ^...ДеГ; Ai, А2,...,Ак— борелевские множества из
области значений процесса.
Конечномерные распределения удовлетворяют следующим оче-<
видным условиям:
1)	при фиксированных ti, t2, .... tk функция Ft t,	, tk 01’ • • •
,.., Ak) является совместным распределением k случайных величин;
2)	Ftt..... tk(Ai..Ak)=^Fth......fZfe0i,- •" ’ какова
бы ни была перестановка ч, ..., ik чисел 1, 2, ...» h
3)	если X — область значений процесса, то
Ftt....tk(Ai...........Ak-1<	....01...........Л*-1)
Конечномерные распределения Ft	0j> • • • » могут
задаваться конечномерными плотностями распределения — такими
функциями ff t Zft(xp ’ X/i)’ чт0
....Tft0i......M-V'i.........................Xk}x
Ai Ah	Xdx^-.dx^
206 ГЛ. 9. ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [9.1.1
Ответ на вопрос, при каких условиях существует случайный
процесс, для которого данные функции	^(Д(......Дй)
являются конечномерными распределениями, дает следующая тео-
рема.
Теорема! (Колмогорова). Пусть функции pf	(Др...
.., , Дй) определены при Ц, ..., UeT, Alt ..., е Й(А') (о-ал-
гебра борелевскпх множеств в конечномерном евклидовом простран-
стве X). Тогда для того, чтобы существовал случайный процесс, для
которого Ft^ _	’ ^k) являлись бы конечномерными рас-
пределениями, необходимо и достаточно, чтобы выполнялись усло-
вия 1) —3). В качестве вероятностного пространства можно взять
пространство {Й, ©, Р}, где Й— множество всех функций a>(t),
определенных на Т, принимающих значения из Л; о-алгебра ©— это
О-алгебра, порожденная цилиндрическими множествами, т. е. множе-
ствами вида
{и: о («,) е Д,....<о (tk) е= Ak} =	.....tk (Др .... Ah),
а мера Р определяется соотношением
Р (Cft....tk 01> • • • > Лл)) —	....• • • ’
Искомый случайный процесс на этом вероятностном пространстве
определяется равенством
§(/, «) = ы(Г).
Функции 5(/, о>) при фиксированном w называются выборочны-
ми функциями (или траекториями, или реализациями) случайного
процесса.
Предложенная в теореме Колмогорова конструкция построения
случайного процесса с заданными конечномерными распределениями
приводит к слишком широкому пространству выборочных функций.
Иногда желательно строить процесс, у которого выборочные функ-
ции обладают некоторыми свойствами регулярности (например, из-
меримы, непрерывны, дифференцируемы и т. д).
Два случайных процесса называются стохастически эквивалент-
ными в широком смысле, если совпадают их' конечномерные распре-
деления.
Теорема 2. Для того чтобы для данного процесса существо-
вал стохастически эквивалентный в широком смысле процесс, выбо-
рочные функции которого принадлежат множеству F с й, необхо-
димо и достаточно, чтобы P*(F) = 1, где Р*— внешняя мера, по-
строенная по мере Р, определенной в теореме Колмогорова-,
Р* (G) =~ inf У Р (Cft),
С <= (J С/е А
к
где Сь — цилиндрические множества и G — произвольное множество
из Й.
При выполнении этого условия в качестве вероятностного про-
странства, на котором задан процесс, можно взять {К, ©*, Р *}; здесь
8.1.2]	fi,i. ОПРЕДЕЛЕНИЕ СЛУЧАЙНОГО ПРОЦЕССА	207
®* — о-алгебра подмножеств П вида F f| С, где С е ©, а сам про-
цесс по-прежнему определяется соотношением
го) = го(/).
Пусть £(/, го) Itf-T)—некоторый случайный процесс (веще-
ственный, комплексный или векторный), определенный на произ-
вольном вероятностном пространстве {Й, ®, Р}. Если FT— про-
«транство всех функций с теми же значениями, что и £(/, го), а
©г — наименьшая о-алгебра, содержащая все цилиндрические мно-
жества из Г/, то отображение
го ->g (•, го)
является измеримым отображением пространства {О, ©} в {Ft, ©?},
те. для всякого Ле®, {го: £(•, го) гоз/1} с <?. J)10 оюбражеппс
переводит меру Р в некоторую меру [ч:
^(Л) = Р({го: |(-, го) еЛ}), Ле ^,
Мера () называется мерой, соответствующей случайному про-
цессу g(f, го). Она совпадает с мерой, построенной по конечномер-
ным распределениям в теореме Колмогорова.
Конечномерные распределения процесса го) удобно задавать
с помощью характеристического функционала процесса!
X (g) = М ехр j (g (Z, го), dg (0)},
определенного для всех ступенчатых функций g па Т со значениями
в X; (£, dg)—скалярное произведение в X; интеграл в показателе
экспоненты — интеграл Стилтьеса.
9.1.2.	Моментные функции. Пусть £(/, го) — числовой случайный
процесс, для которого М |£(/, го) |"‘< оо. Тогда при k^.m опре-
делены функции
'М'1......<л) = ^(/1, ro)...|(/ft, го).
Функция mk(ts, ..., tk) называется k-й моментной функцией про<
цесса £(/, го). Если М]£(/, го)|*<оо, t е Т, для всех k, то для
процесса определены моментные функции всех порядков.
Среди моментных функций наиболее употребительны функции
первых двух порядков: wii(f)—среднее значение процесса; вместо
ш2(/1, t2) обычно рассматривают функцию R(tt, t.) = tz) —
— nii(/i)/Hi (^2), которая называется корреляционной функцией. Сред-
нее значение может быть любой функцией, определенной на Т. Кор-
реляционная функция ₽(/i, /2) положительно определена: для всех
It, tz, .... tn из Т и вещественных xt, х2, ..., хп
tk)xiXk>0-
всякая положительно определенная функция R(ti, t2) является кор-
{ сляционной функцией некоторого процесса.
Пусть £(/, го)—случайный процесс со значениями в конечно-
' <рном евклидовом пространстве X. Функция a{t), определенная
208 ГЛ. 9. ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [9.1.3
на Т и принимающая значения из X, называется средним значением
процесса, если для всех zеХ
М (g (/, го), а) = (а (/), г).
Функция В (A з), определенная при t, seT, значениями кото-
рой служат лишенные операторы в X, называется операторной кор-
реляционной функцией векторного процесса, если при z, иеХ
MQ (I, ®)> z) (g (з, го), и) =• (В (/, s) z, и) + (а (0. «) (« («), «)•
Операторная функция B(t, s) также положительно определена:
если zt, ..., z* е X, h.tk е Т, то
tfizi, z^O.
Кроме того, она симметрична в следующем смысле: В(t, s) =В*( s, t),
где В* — оператор, сопряженный к В.
Операторная- корреляционная функция может быть задана своей
матрицей в некотором базисе; такая матрица называется корреля-
цивнной матрицей векторного процесса.
Пусть %i,(t) и ga(/) —два случайных процесса на одном и том
же вероятностном пространстве. Функция
«12 (A S) “ Mg, (/) g, (3) - Mg! (/) Mg, (s)
называется взаимной корреляционной функцией процессов gi(0 и
gs(O- Если bkk(t, s) (k = 1, 2) —корреляционная функция процесса
Ь(0, то матричная функция
Г«11 (t, s') bit (t, 3)1
Ь15(А s) b21(t, s)i
положительно определена, т. e. для всех’ Xi, х», ,,,, х»: yi, {/», ч.,
Л, fa,..., tk
k
Е (&ii (*р </) xixi + *12 (*«• */)	+ xfii) +
<U“‘	+«22(f<. QP1P/)>O.	(1.1)
Всякая симметрическая положительно определенная операторная
функция является корреляционной функцией некоторого’ процесса.
Поэтому выполнение условия (М) необходимо » достаточно! чтобы
«1,(А ®) была’ взаимной корреляционной функцией процессов g1((t)
и Ы*).
9Л.З. Стохастическая непрерывность. Пусть случайный, процесс
g(^) задан на некотором интервале 1. Он называется стохастически,
непрерывным в некоторой точке fa g£ Т, если для всякого е > 0
lim P{|g(O-mi>e} = 0.
Если процесс стохастически непрерывен в; каждой точке интерва-
ла Т, то говорят, чго он стохастически непрерывен на интервале Т.
(Это определение относится1 не только> к числовым, во> и к векторным
процессам. В последнем случае | • | обозначает' норму вектора.);
Пусть процесс g(0 стохастически непрерывен на Т. Тогда справед-
ливы следующие утверждения;
9.1.51	ЭЛ. ОПРЕДЕЛЕНИЕ СЛУЧЛЙН0ЕО ПРОЦЕССА.	209
1.	Если f(t,x}—непрерывная- функция при tel, х S X, где
X — область значений £(/}, то /(1, £(0) является также стохастиче-
ски непрерывным процессом на Т. .
2.	Пусть при некотором б > 0
sup МША 1(0)11+в<~.
где f — такая функция, как в утверждении 1; тогда функция
tAf(t, непрерывна no t.
3.	Пусть f — такая, как в утверждении 1, и числовая неотрица
тельная функция X(ft)f + оо при /1-»-4-оо. Если
supMf (/, И0)МША 6(0)1) <«>.
t
то Mf(t, l(t)) —непрерывная функция.
4.	Если при некотором б>0 sup l*’+e < °0, то момент-
ные функции tnj(tx, ..., j s^. k, процесса £(/) непрерывны no со-
вокупности переменных.
5.	Если процесс стохастически непрерывен на ограниченном
замкнутом множестве Т, то он равномерно стохастически непреры-
вен, т. е. для всех е > О
lim sup	Р{|НА)-Е(А)1>е} = 0.
ft 4 0 Г,, h a Т
1*|-ЙКЛ
в. Процесс называется ограниченным по вероятности на
множестве Т, если
lim sup Р {| £ (/) [ > с] = 0.
О + «г fsl
Если процесс стохастически непрерывен на ограниченном замкнутом
множестве Т, то он ограничен но- вероятности.
9.1.4. Процессы с дискретным фазовым престравством. Во мно-
гих задачах область значений, процесса является счетным множе-
ством. Для таких процессов конкретный вид фазового пространства
не существен1. Пусть область возможных значений X состоит из эле-
ментов (xt, Хг, ...}, Т — область определения процесса- Конечномер-
ные распределения процесса тогда удобно задавать с помощью ве-
роятностей
.....tn (h....М = р {5 (А) = ........I (tn) == Чп}-
Зная эти вероятности, можно определить н конечномерные распреде-
ления процесс» пог формуле
, i„(Л1....Ап), ==	Z % ...,tn(ki............
*й,еЛ1.....*ft„®
9.1.5. Процессы с дискретным временем. Если множество- Т,
на котором, определен; процесс,, есть либо последовательность неот-
рицательных целых чисел, либо последовательность всех целых чи-
сел; т® тогда называется процессом с дискретным временем или
случяймой. последовательностью.
210 ГЛ. 9. ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [9.1.5
Пусть Т » {0, 1, 2, Будем писать вместо |(п, со). Ко-
нечномерные распределения последовательности полностью оп-
ределяются функциями распределения
Fn (Аъ • • • > Лп) — Р {So е Ло, • • • > I» в Ап}.
Вместо этих функций распределения иногда удобнее задавать услов-
ные функции распределения £„ при заданных Ео, ..., En-i
I'n {А I л».-> Ага_]),
это такие функции, что с вероятностью 1
Р{1„ели0, .... gn_1} = r„0igo, ....
Если Т = {0, ±1, ±2, то используются конечномерные распре-
деления
(Л_и, ...» Ло, , Лй) =
= Р {So е 4- Bl е Ар g_i е Л-1......1п е Ап, 1_п е= А_н).
Их также можно задавать с помощью условных распределений
Р {Вп е А 11(), gp S-ц •••. In-i> В_п+1}’>
Р{В-„еЛ|Е0, К,............1„_р U„+1. !„}•
Примеры случайных процессов.
1. На вероятностном пространстве {Й, ©, Р}, где Й есть [0, 1];
© — о-алгебра борелевских множеств этого отрезка; Р—мера Ле-
бега па [0, 1], процесс |(/, со) при I е [0, 1] определяется равен-
ством
Конечномерные распределения процесса (его фазовое пространство
состоит и) двух точек: 0 и 1) определяются соотношениями:
при /1 < t2 < ... < tn
р{1(4=0, ..., ц//_1)=0, ц/,) = 1.........
— Ч~ Ч-i»
при 1 < I < п
Р{В(4=0, ...» |(4) = 0} = 1-/„,
Р{В(4 = 1......1(4) = 0 = 4
Во всех остальных случаях P{|(/i) = ku	К 4 = kn}=0
'(kt, ..., kn принимают значения 0 и 1).
Процесс КО является стохастически непрерывным: при е •< 1,
tt <Z tz
р {11 (4 - В (4 I > e) == P {| (/,) = 0, s (О) = 1} = t2 - it.
Однако почти нее выборочные функции процесса являются разрыв-
ными.
Этот пример показывает, что стохастическая непрерывность не
влечет непрерывности выборочных функций
2. Процесс Пуассона — это процесс Е(0. значениями которого
служат неотрицательные целые числа, определенный при t 0, если
0.1.51	9.1. ОПРЕДЕЛЕНИЕ СЛУЧАЙНОГО ПРОЦЕССА	211
его конечномерные распределения при 0 t0 < ti < ... < 1п за-
даны равенством
Р {? (G) 335	& (G) 353 ^2» • • • » & (#п) 33 Ы5=3
( ТТ	-а^1}
------------------е ' 1 1 если
(*/ -*/-!)'
О в
остальных случаях.
описывает число редких событий, происходящих за
Этот процесс
время t (например, число космических частиц, зарегистрированных
счетчиком, или чисто вы ювов, пос lynnBuiiix на телефонную станцию,
и т. и). Число а > 0 пкывакн параисцюм прицепа, a
Процесс Пуассона можно построить следующий обраюм Пусть
т)с, тц, ... — последовательность независимых одинаково распреде-
ленных неотрицательных величии, для которых
Р {r)k> t] — e~at.
Если e(z) = 1 при г 0, e(z) — 0 при z <; 0, то функция
оо Z k \
НО»
k=^l \	£«**1	7
является процессом Пуассона (последняя формула задает процесс
i ак функцию t и со, поскольку от со зависят величины ip).
3. Процесс чистого роста. Пусть т|* такие же, как и в преды-
дущем примере, а л-> О— некоторая последоватепьность, для ко-
ОО
торой Y' -J- = + оо. Процесс вида
Z—< Aft
6(0
называется процессом чистого роста. Выборочные функции этого про-
цессанеубывающие целочисленные ступенчатые функции, все скач-
ки которых равны 1, £(0) = 0.
4. Одномерное броуновское движение [винеровский процесс) —
процесс w(0> определенный при t 0; его конечномерные распре-
деления определяются совместными плотностями распределения вг-
лйчин w(h), .... w(tn) при ti <. is < ... < tn, которые имеют
вид
п
Пиг '1-1)г1/2ех₽
1 Axi~xf-i)a
2 —
где tQ = 0, х0 — О, a Xi, Ха,
хп — вещественные переменные.
212
ГЛ. 9. ПОНЯТАЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ
49.24
Процесс uijt} может служить вероятностной моделью явлений
диффузии или броуновского движения (w(t)—одна из координат
диффундирующей частицы).
9.2.	Измеримость и интегрируемость случайных процессов
9.2.1.	Измеримые случайные процессы. Случайный процесс! (/, <о),
заданный на борелевском множестве Т с фазовым пространством X,
называется измеримым, если !(/, w) измеримы относительно о-ал-
гебры Sr X®, где Sr — о-алгебра борелевских множеств на Т;
® — о-алгебра событий вероятностного пространства {Q, 6, Р}> на
котором определен случайный процесс. Это означает, что для вся-
кого борелевского множества А с. X
{(/, со): ! (/, со) е= А} <= «ВГХ@
(произведение о-алгебр ® и ® есть минимальная о-алгебра, содер-
жащая множества В X 5, тде В е®, Sg0).
Если процесс Е(/, и) измерим, то почти для всех со выборочные
функции !(-, со) являются борелевскими функциями t.
Процесс, который строится по конечномерным распределениям в
теореме Колмогорова (см. § 91), не будет измеримым. Возникает
вопрос: при каких условиях по данным конечномерным распределе-
ниям можно построить измеримый процесс?
Воспользуемся понятием стохастической эквивалентности двух
случайных процессов (оно отличается ст понятия стохастической
эквивалентности в широком смысле, введенного в § 91). Два про-
цесса !i-(/) и !г (t), определенных на одном и том же вероятностном
пространстве {£2, ©, Р} и заданных на одном и том же множе-
стве Т, называются стохастически эквивалентными, если
₽К1(0-Ь(0)-1 vteT.
Очевидно, что стохастически эквивалентные процессы имеют одина-
ковые конечномерные распределения.
Теорема Если процесс !(/) стохастически непрерывен на бо-
рвлевском множестве Т, то существует измеримый процесс !'(/),
стохастически эквивалентный !(/).
Этот процесс !'(/) можно определить как предел процессов
ln(t) = Ц^) при t ев [/„л, tnk+1), где ink Е Т и max |/пй+1 — tnh |->
П -> оо
->0. Для тех пар (t, to), для которых указанный предел не су-
ществует, полагаем (<) = 0.
Следствие Если !(/) имеет не более чем счетное множество
точек разрыва, то существует измеримый процесс ?z(i), стохастиче-
ски эквивалентный |(f).
Отметим некоторые важные свойства измеримых процессов.
1)	Пусть tp(Z, х}— функция, измеримая относительно ®гХ®х,
где 8х — о-алгебра борелевских множеств в фазовом пространстве .К
рассматриваемого процесса. Если
М|ф(11, !(/.)) I ... I<p(/fe. &(<*)) I < °о V<1.tk^T,
то функция
«(#1.....tk) = М<р (/„ | (/,))...	! (tk))
является бцрелевской, т. е. измеримой относительно 83^.
12.2]	».2. ИЗМЕРИМОСТЬ И ИНТЕГРИРУЕМОСТЬ	213
В частности, все моментные функции измеримого процесса яв-
ляются борелевскими.
2)	Если <₽(#, х)—ограниченная ®т X ©^-измеримая функция, то
Ф (А £ Cf, со)) dt
1
существует для почти всех со; этот интеграл — ©-измеримая вели-
чина, и
м J Ф (f,	и)) J Мф (АЕ (А Сй) dt
т	т
(это утверждение является следствием теоремы Фубини).
3)	Если М |Е(А со) | < оо и М | Е (А со) | dt < оо, то для почти
т
всех со существует £ (А ®) di.
9.2.2.	Интегрирование случайных процессов. Пусть Е(0—изме-
римый вещественный стохастически непрерывный случайный процесс
на отрезке [а, 6]. Приведем условия, при которых выборочные функ-
ции Е(0 с вероятностью 1 принадлежат LP[a, о], где 0 < р < 2, т.е.
ь
P{JlU01p^<oo} = l.
а
Обозначим через '/(g) характеристический функционал
Ь
X(fi)“Мехрр Е(О^4(Д
а
процесса Е(0, определенный на ступенчатых функциях g, заданных
на [а, #]:
Пусть tnh а + — (Ь — а), (Л=0, ..., п); т]о, п», ... •—незави-
симые случайные величины, равномерно распределенные на [О, Г];
So, Si, ... — случайные величины, не зависящие друг от друга и от
Т]0, t]i, а к  ДЛЯ которых
(т.е. S* имеют симметричное устойчивое распределение с показате-
лем р).
Введем случайный процесс на [а,. Ь]
п-1	*
i-o
где e(Z) = 0 при t <_ О, е(0 = 1 при t > 0. /
214 ГЛ. 9. ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ (9.2.2
Поскольку (0 — ступенчатая функция на [a, fc], определена
величина % (Xv₽). Поскольку v£ (•) — случайная функция, то и
X (&vn) будет случайной величиной.
Необходимым и достаточным условием для выполнения (2.1)’
является условие: для всех положительных X существует предел
ф (X) = lim Мх (ЛуЦ),
/1*> СО
удовлетворяющий соотношению ф(0+) = 1- При этом
ь
ф (А) = М ехр {$ ] g (О|Р«И }.
а
Пусть £(/) с вероятностью 1 принадлежит Lp[a, ft], р> 1. Тогда
для всякой ограниченной измеримой функции <р(0 на [а, Ь] с ве-
роятностью 1 определен интеграл
ь
dt.
а
Поэтому для такого процесса будет также определен характеристик
ческий функционал
6
Xi (<р) — М ехр g (0 <р (0 dt
а
Характеристические функционалы Х1(ч>) и х(£) связаны между собой
следующими соотношениями:
1)	Xi (Ч>) = Пт МХ (vn),
П -> ОО
где уп — последовательность случайных функций на [а, Ь] вида
Vn - X +ч/)в (' -	’
f-o
где г); — последовательность независимых, равномерно распределен-1
ных на [0, 1] величин;
2)	если g(/) —стохастически непрерывный процесс, то
X (g) = Пт Xi (Фп)>
п-^-оо
где <рл — такая последовательность измеримых функций, что
i
q>n(s)ds-+g(t)—g(a).
а
9.8.21
93. СЕПАРАБЕЛЬНОСТЬ
215
Рассмотрим в качестве примера процесс броуновского движения
w(t). Для него
1 i
% (g) — exp | j j min [/, s] dg (0 dg (a) J,
oo
откуда
(ф) =" exp {—-7 $ $min iz> ®ф dt rfs}*
oo
9.3.	Сепарабельность. Свойства выборочных функций
9.3.1.	Определение сепарабельно!о процесса. Пусть £(/)—слу-
чайный процесс с фазовым пространством X на вероятностном про-
странстве {Й, ©, Р}, заданный на множестве Т. Он называется се-
парабельным, если существует такое счетное плотное в Т подмноже-
ство / с Г и такое множество Л е 0, Р (Л) == 0, что для всех за-
мкнутых множеств Г с X и для всякого интервала (а, £)
{со: (/, со) еГ, I е (а, Р)ПО ~ {“: 5 (t ®) е ?•
t <= (а, р) П П <=: Л.
Множество / называется множеством сепарабельности процесса.
Если, например, ](/)—сепарабельный числовой случайный про-
цесс на [а, Ь] и 1 — {/1, ..., t/г, ...}, то
Р ( sup g (0 < х} == Р {sup Е (tk) < х} =
tI{
= lim Р {£ (П) < х.......£ (/„) < х},
П > ОО
Оказывается, переходя к стохастически эквивалентным процессам,
можно всегда процесс превратить в сепарабельный. Это утверждает
следующая теорема Дж. Л. Дуба.
Теорема 1. Пусть £(i)—случайный процесс с фазовым про-
странством X, являющимся конечномерным евклидовым простран-
ством, и X — некоторое компактное расширение X. Тогда существует
сепарабельный процесс £'(/) со значениями в X, стохастически эк-
вивалентный |(0-
Поскольку X — локально компактов пространство, такое ком-
пактное расширение X всегда существует. Если, например, X — пря-
мая, то, чтобы получить компактное расширение, следует добавить
к X точки ±оо.
Хотя в общем случае невозможно указать для данното процесса
множество сепарабельности, однако для стохастически непрерывных
процессов в качестве множества сепарабельности можно взять лю-
бое счетное всюду плотное множество / с: Г.
9.3.2.	Непрерывные процессы. Пусть {FT, ®г) — измеримое про-
странство, где Ft — множество всех функций со значениями в X,
определенных на Т, а ®г — о-алгебра, порожденная цилиндрическими
множествами. Если Ст — множество всех непрерывных функций на
Т (CtCzFt), то для несчетных Т Ст&®т. Поэтому, если процесс
246 ГЛ. 9. ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ №8.3
построен так, кай указано л теореме Колмогорова f§ S.1), то гово-
рить о непрерывности выборочных функций процесса не имеет сыте-
ла. Для сепарабельного процесса и замкнутого множества Т мно-
жество непрерывных выборочных функций измеримо, так как
{со:	со)е=Сг} =
СО ©о
= А U А {ш:|НЛ<о)-Ш<о)|<-±-}.
т-1 А—1 t, sei
Ilk
Здесь I — множество сепарабельности процесса. Для ново чтобы вы-
борочные функции сепарабельного процесса были с вероятностью 1
непрерывны, необходимо и достаточно, чтобы для некоторого счет-
ного плотного в Г множества I выполнялось соотношение
Goo оо	S
A U П {*1 w-<о) - <«• *> к-£-} гь
1-1 А—1 t.sel	'
|t-e|<l/A
Это соотношение требует для своей проверки знания всех ко-
нечномерных распределений и, как правило, не проверяемо. Следую-
щая теорема Колмогорова дает удобные достаточные условия не-
прерывности процесса.
Теорема 2. Пусть £(/) — сепарабельный процесс, заданный
на [а, М. Если существуют такие а > 0, р > 0 и К, что для ecext,
s е [о, t]
M|H0-4(s)l°<KU-s|,+₽»
то &(f) с вероятностью 1 непрерывен.
Рассмотрим применение этой теоремы к вопросу о непрерывно-
сти винеровского процесса. Для него при t > з величина w(t)—w(s)
имеет нормальное распределение со средним 0 и дисперсией t — s.
Поэтому
х
j«p{—з/ту}*
•— сю
сю
1 Г	" f К®
— оо
оо
J V&T
— со
Условия теоремы Колмогорова выполнены, если а > '2, 'Р — а/2 — 1.
Значит, сепарабельный винеровский процесс с .вероятностью 1 не-
прерывен.
9.3.3.	Процессы без разрывов второго рода. Пусть процесс КА®’)
с фазовым пространством X, являющимся конечномерным евклидо-
8.3.3]
О. СЕПАРАБЕЛЬНОСТЬ
217
вым пространством, задан на отрезке 4е» И Обозначим через D
множество функций x(t) со значениями из X, определенных на
[с, 4>], для которых яри Ь) определены пределы справа, а
при t е ft] — иределы слева. Функции из D являются функциями
без разрывов второго рода. Для того чтобы функция x(t) не имела
разрывов второго рода, необходимо и достаточно, чтобы
hm	sup min (| х (з) — х (/) |, | х («) — х (s) |) = 0.
Д->о	и
Пусть g(f, u>)—сепарабельный процесс, 1 — множество сепарабель-
ности. Тогда с вероятностью 1
sup min (Ц (s, со) — | (А ®) J, |£(«,®)~ £(«>®)1)=
= sup min (| g (s, co) — g (t, co) I, | g (n, co) — g (s, co) |).
t, s, и e 1
Поэтому для сепарабельного процесса необходимым и достаточным
условием того, что выборочные функции процесса принадлежат D,
т е. процесс с вероятностью 1 не имеет разрывов второгСГ рода, яв-
ляется условие
Р(П U fl {«nU«)~l(A^I<7}U
\r—1 i-l	t, в, uaJ
(J |co: |g(n, ©) —g(s, ®)Ky|)-"l.
Для проверки принадлежности D можно использовать число
е-колебаний функции. Говорят, что функция x(t) имеет на [a, fcj не
менее й е-колебаиий, если существуют такие точки /о<А
что
l*(#<+l)*”*(MI>* <“0, .... й—L
Для того чтобы х(-)еО, необходимо я достаточно, чтобы для
всех е > 0 функция x(t) имела на [а, Ь] конечное число е-коле-
баний.
Если g(i, u>) — сепарабельный процесс, 1 — множество сепара-
бельности, то g(-, й)еС с вероятностью 1, если g(-, со) для
всякого е > 0 имеет с вероятностью 1 конечное число е-колебаний
на /. Пусть /= U/п, где 1„— возрастающая последовательность
п
конечных множеств. Если ve— число е-колебаний на /, a v8—чис»
ло е-колебаний на 1п, то v8«=» lim v8. Зная совместное распре»
П->ео
деление величин g(A).	g(6>), где Jn^ М, можем вы-
числить распределение затем с помощью предельного пере»
хода—распределение vs и проверить условие Рра 'С °°} == 1-
Приведенные выше условия отсутствия у процесса разрывов
второго рода требуют знания всех конечномерных распределений
процесса и вычисления вероятностей весьма сложных событий.
218 ГЛ. 9. ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [9.3.4
Приведем некоторые достаточные легко проверяемые условия от-
сутствия разрывов второго рода
Теорема 3. Пусть g(0—сепарабельный процесс на [а, 6],
для которого существуют такие а > 0, ₽ > 0 и К, что при t -С
<.s< и
М (| ® (и) - g (s) 11 g (s) ~ 5 (0 I (« ~ 0,+P-
Тогда процесс g(/) с вероятностью 1 не имеет разрывов второго
рода.
В качестве примера рассмотрим пуассоновский процесс с пара-
метром а. Для него величины g(u)—g(s) и g(s)—g(<) незави-
симы. Взяв а =» 1, будем иметь
M|g(«)-g(s)||g(s)-g(t)l = M|g(tt)-g(s)|M|g(s)-g(/)l=»
= а2 (и — s) (s — t) С о2 (и — О2.
Таким образом, условия теоремы выполнены при а = 1, р =• 1,
К = а2. Значит, сепарабельный пуассоновский процесс не имеет
разрывов второго рода
Следующая теорема использует условные распределения про-
цесса. Пусть £(/)—некоторый процесс Обозначим через мини-
мальную о-алгебру, относительно которой измеримы величины g(u)
при и гС t.
Теорема 4 Пусть g(/)—сепарабельный процесс, заданный
на [а, &]. Если существует такая (неслучайная) функция <ре (h)
(в >0, h > 0), что фе(п) | 0 при h | 0 и с вероятностью 1
Р {I Е (< + Л) - 5 («) I > в | $} <«Рв (Л),
то процесс g(f) с вероятностью 1 не имеет разрывов второго рода.
Последняя теорема удобна для применения в случае процессов
с независимыми приращениями. Так называется процесс g(Z), для
которого величины g(f0), Е(М — Е(М. • • • > Е(М ~-E(^-i) незави-
симы при to С Ц С ... < tk Для процессов с независимыми при-
ращениями величина g(f + h)—g(Z) не зависит от 0-алгебры
(Л > 0); поэтому
Р {I Е(* + h) - g (/) | > в |8|} = Р (| g (t + й) - g (t) [ > в}.
Поскольку стохастически непрерывный на [а, 6] процесс будет'
и равномерно стохастически непрерывным на [а, 6], то
lim sup P{lE(f + ft)-E(/)l>e} = 0.
Л,о а<«/+Л<Ь
Следовательно, всякий стохастически непрерывный на [a, &J сепа-.
рабельный процесс с независимыми приращениями с вероятно-
стью 1 ие имеет разрывов второго рода.	i
9.3.4.	Условия непрерывности для процессов без разрывов вто-
рого рода. Пусть x(t)—функция из D. Выберем последовательность^
разбиений отрезка [а, 6]. а = tno С tnl < ,., < tnn = b, для кото?|
8 4 1J
84. ПОТОКИ С-АЛГЕБР
219
рой max (<п^+1 — tnk)-> °- Если я6 — число разрывов процесса x(f)
к
превосходящих е > 0, то
п-1
пе < lim У х(е, со) ( | * (tnk+l) - х (/пк) |),
П-»оо fc—О
где Х4 — индикатор множества А Поэтому, если число разрывов
случайного процесса «о), превосходящих е > 0, обозначим ve, то
П-1
КЧ < lim У МХ(е. то) ( 11 (tnk+l) - I (tnk) |) =
П->оо k^Q
CO
= lim У P Ш(Ч+1)-ЦЧ)|>е}.
п~>оо й=^0
Чтобы процесс был непрерывен, необходимо и достаточно, чтобы
vf — 0 для всякого е > 0. Таким образом, для непрерывности про-
месса, который с вероятностью 1 не имеет разрывов второго рода,
достаточно, чтобы для всякого е > 0
Хо Р { । ^	“1 (tnk} 1 > 8) “ °* (ЗЛ)
Поскольку сепарабельный процесс с независимыми приращениями не
имеет разрывов второго рода, если только он стохастически непре-
рывен, а условие (31) влечет стохастическую непрерывность, то
(31) достаточно, чтобы сепарабельный процесс 5(0 с независимыми
приращениями был непрерывен с вероятностью 1 Оказывается, что
/о условие и необходимо для непрерывности процесса с независи-
мыми приращениями.
Условие (31) необходимо и достаточно, чтобы сепарабельный
процесс с независимыми приращениями 5(0 был с вероятностью 1
непрерывен.
9.4.	Потоки о-алгебр и согласованные
с ними процессы
9.4.1.	Поток о-алгебр. При рассмотрении случайных процессов
удобно бывает пользоваться следующей схемой Пусть {Q, б, Р} —
основное вероятностное пространство. В о-алгебре б для каждого
1	0 выделяется под-о-алгебра б; событий, наблюденных до мо-
мента времени t включительно. Совокупность о-алгебр {б;}/	0 об-
разует поток о-алгебр (определение потока будет приведено ниже).
Процесс 5(0. определенный для t 0, называется согласован-
ным с этим потоком, если для всех t 0 величина 5(0 является
^/-измеримой. Естественно рассматривать только согласованные про-
цессы.
С каждым процессом |(0, определенным иа [0, оо), можно свя-
ать поток, с которым он согласован Минимальный в некотором
< мысле поток получится, если считать, что ничего, кроме случайного
процесса 5(0> не наблюдается, так что до момента t мы наблюдаем
220 ГЛ. 9. ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ f914J!
только траектории процесса на [0, /]. Тогда в качестве 8< естествен-
но взять о-алгебру, порожденную событиями {£(s) ей}, s t,
В ей, где (X, ®) — фазовое пространство процесса
Совокупность о-алгебр 8« cz 8, определенных для t > 0, назы-
вается потоком о-алгебр, если выполнены следующие условия:
а)	о-алгебра 8 полна *) относительно меры Р и 8о содержит
все события вероятности 0;
б)	для Qsgs</ 8s с 8/ (8/ монотонно возрастает с t);
, в) для всех I > 0 8r — f~| 8s (S< непрерывно справа по /).<
S>t
Заметим, что построенная выше по процессу £(/) совокупность
о-алгебр удовлетворяет лишь условию б) и не будет потоком. Од-
нако ее легко превратить в поток, пополняя о-алгебры множествами
меры 0 и рассматривая вместо 8/ о-алгебры 8/+=" Г] 8S. Эти
s>t
о-алгебры будут уже потоком.	’—
. 9.4.2. Моменты остановки и связанные с ними о-алгебры. Неот-
рицательная случайная величина т, которая может принимать зна-
чение -f-оо и определена на {Я, 8, Р)> называется моментом оста~
новки (м. о.) относительно потока {8*Ь>о> если для всех <5^-0
событие {т< О принадлежит 8ь Моменты остановки называются
еще марковскими моментами или моментами, не зависящими от бу~
Пущего.
Если поток {8/}<^о порожден некоторым случайным процес-
сом g(Z), то моменты остановки определяются поведением процесса
|(0 на отрезке [0, т]. Например, в случае непрерывного процесса
5(0 моментами остановки будут моменты достижения процессов»
некоторого замкнутого множества.	,
Пусть т—м. о относительно (ftp. Свяжем с т а-алгебру
тех множеств А е 8, для которых {г sg 0 П А е 8» для всех i > О;
о-алгебра 8т —-это события, которые наблюдаются до момента т
(включительно). Определим теперь о-алгебру 8т— как о-алгебру, по-
рожденную событиями вида А»П /), где At е8ь Это о-алгебра
событий, которые наблюдаются во все моменты, предшествующие t.
Отметим некоторые свойства м. о. н связанных с ними о-алгебр.
1) Если Ti и Тг — м. о., то Xi V тг и Т1 Д тг также м. о.
2)	Если тл (п = 1, 2,.. .> — м. о., то lim тп и. lim также м. о.
П->о° nt-Koe
3)	Если тио — м. о. и т < о при о < оо, то % cz 8, с: 8в_ с:
4)	Если г и о-и.0. н т<а, то 8<_с8?'_,
5)	Если тя — м. о. и тя | т, то 8г = ("} 8 ; если же tn f-T,
п
то 8,_ “ V а
г- п отп—.
6)	Если Тя—м. о. И Тя I Т, Тя > Т при Т < оо, ТО 8,““ П g_
если же тя f т, тп < т при т < оо,
то 8т- ~ V 8--
п
*) 8 полна относительно меры Р, если из тоге, что As В,
Р (А) = 0 и В с. А, следует, что В е 8-
9.4.3]
9.4. ПОТеКИ « АЛГЕБР
221
Т) Еслм <с, •« — м.о, то для Ае(?®
А П {о<т)еЛ(1(а<т}Е^_.
Эти свойства показывают, что а-алгебры, связанные с момен-
тами «остановки, ведут себя так, как и а-алгебры 8/, где t неслучай-
ны (яри этом и V fO.
г~ s<t )
Момент остановки х называется предсказуемым, если существует
послвдоватеявность м.о. Хл такая, что тл<тит„-+г.
Всякий момент остановки, не являющийся предсказуемым, на-
зывается непредсказуемым.
Пример. Пусть {87}—поток, порожденный случайным про-
цессам £ (/, а) = /заданным на вероятностном пространстве
{R+, ©+, Р}, где R+ = [0, оо), ©+ — борелевская а-алгебра, R+,
Р —некоторая вероятностная мера на ®+, не имеющая атомов.
Тогда величина т(ы) = <о является моментом остановки, но непред-
сказуемым.
Свойства предсказуемых моментов остановки (п. м. о).
в)	Если а — и. м. о., т — м. о., тогда ври А е 8а-
А П {с<т}е=§т_, {а<т}®$т_, {а —-г} —
3) Если —п. м. о. и тп|т, то т—и. м.ф.; если же т„|т и
тя = т для достаточно больших л (такое п, вообще говоря, случай-
но), те т — и. м.о.
Пусть <—некоторый момент естеновки Xeg. Полагаем
т, оеД
+ оо, <о А.
’А
10) Если т — п. м о, то тд — п м о. тогда и только тогда, когда
А <=&,_.
Поток о-адгебр называется квазинепрерывным слева, если
81 *= Й т- для п. м. о. т.
0.44. Основные а-алгебры и измеримость относительно етих
6-алгебр. Согласованный с потоком	случайный процесс
£(<) = £(/, ш) с измеримым фазовым пространством (X, В) назы-
вается прогрессивно измеримым (относительно	если дяя
каждого t > 0 функция £(з, <о), рассматриваемая на [0, /] X Й, из-
мерима относительно SB[0> ® fjr<t где SB[Oi <j — а-алгебра борелев-
ских множеств на [0, /].
Утверждение 1. Если £(/)—прогрессивно измеримый про-
цесс и т — м.о., то £(т) определено и является 8Т-измеримой вели-
чиной.
Утверждение 2. Если £(/)*—ограниченный числовой про-
грессивно измеримый процесс, то g (s) ds является Ъл-измеримей
величиной.
Будем рассматривать подмножеств® e-влгебры в+®8 (®+ —
а-алгебра борелевских множеств R+}. Такие множества «взываются
случайными. Вели С-еЭч.'КО, то /«'(if, <о) является измеримым -слу-
чайным процессом. Множеетео € называется овыасооанным, если
222
ГЛ. 9. ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ
(9.4.3
этот процесс согласован и прогрессивно измерим. Прогрессивная из-
меримость С означает, что
с п [о,
для всех t 0. Прогрессивно измеримые множества образуют
о-алгебру П. Измеримость функции £(/, ©) относительно П эквива-
лентна прогрессивной измеримости ю;.
Дебютом множества С называется величина deb С (го) =
= inf {/: (t, го) 6 С) (считаем inf 0 ~ +°о). Если 5 полна отно-
сительно Р, то deb С (го) есть случайная величина. Справедливо сле-
дующее утверждение.
Утверждение 3. Для всех Сел deb С есть м. о.
Условия прогрессивной измеримости случайного процесса дает
следующая теорема.
Теорема 1. Пусть фазовое пространство X является сепара-
бельным полным метрическим пространством. Тогда для прогрес-
сивной измеримости процесса достаточно, чтобы он был непрерывен
справа (слева) для всех t 0.
Среди случайных множеств выделим стохастические интервалы
[ст, т], jo, т] [а, т], ]а, т[, где а и т — м. о, каждый из интерва-
лов содержит те пары (t, го), для которых t при всех го удовлетво-
ряет соответствующим неравенствам, скажем о t < т для первого
интервала.
Пусть ЗГ — о-алгебра, порожденная интервалами [о, т[, где о,
т — произвольные м. о.; она называется о-алгеброй вполне измери-
мых множеств. Так как — непрерывный справа процесс, то он
прогрессивно измерим. Поэтому Fc П; о-алгебра 3F порождается
множествами {(0, го): го е А, Л ego) и [s, /[ХА где s<t — не-
случайные числа, А е 8S.
Если функция g(/, го) является Ж’-измеримой, то процесс £(/, го)
называется вполне измеримым или опциональным.
Теорема 2. В условиях теоремы 1 всякий непрерывный спра-
ва (слева) процесс ТГ-измерим.
Требование вполне измеримости процесса более сильное, чем
требование измеримости Ниже будет приведен пример прогрессивно
измеримого, но не вполне измеримого процесса. Два процесса 5(f)
и H'(f) называются неразличимыми, если
р[ U <ип¥=г(оН=о.
U>0	)
Теорема 3. Если для двух вполне измеримых процессов gt(/)
«Ь(0:
1) Р{Ь (т) = Ь (т)} - 1
для любого м. о., то gt(f) и &(!) неразличимы-,
2) для любой ограниченной измеримой функции f(x) из X в R
и любого м. о. т
Mf(g,(T)) = Mf(gs(T)),
то gi(/) и t,z(t) неразличимы.
Пример. Пусть w (t) — винеровский процесс. Множество, где!
ш(<) =/= 0, есть объединение счетного числа интервалов. Обозначим
через L множество левых концов этих интервалов и §(-/) = h
S.4.BJ
0.4. ПОТОКИ а-АЛГЕБР
223
Тогда £(/) П-измерим относительно потока, порожденного винеров-
ским процессом (зная процесс w (s) для s t, мы знаем множество
/-П[0, /), а Р{/е1} =0 для всех t> 0), но он не Ж°-измерим,
так как P{teL) =0 для всякого м. о. т, а, значит, Р{£(т) =
= 0} = 1, и, если бы g(Z) был Ж’-измерим, он по теореме 3 был бы
неотличим от нуля, что ие так, поскольку L непусто.
Обозначим через S3 о-алгебру, порожденную. стохастическими
интервалами [о, т[, где о и т— произвольные предсказуемые м. о.;
S? называется предсказуемой о-алгеброй S’ с. "И3. о-алгебра Ф — наи-
меньшая о-алгебра, относительно которой йзмеримы все непрерыв-
ные согласованные процессы. Еще 9 можно определить как о-ал-
гебру, порожденную множестьами {(0; со), аеА), Л0е6о и
Js, /j X А, где As e=gs, s < t.
^-измеримые случайные процессы называются предсказуемыми.
Теорема 4 Всякий непрерывный слева согласованный процесс
в полном сепарабельном метрическом пространстве является пред-
сказуемым.
Для предсказуемых процессов справедлив такой аналог теоре-
мы 3.
Теорема 3'. Если £i (Z) и ga (t) — предсказуемые процессы, то
утверждения теоремы 3 остаются в силе, если условия этой теоремы
выполнены лишь для предсказуемых м. о.
Связь между предсказуемостью и измеримостью устанавливает
следующая теорема.
Теорема 5. Для всякоеэ вполне измеримого процесса £(/)
существует такой предсказуемый процесс g'(Z) и такая последова-
селъность моментов остановки Ti, та, ..., что
t^k
:=1, 2, .
9.4.4. Существование измеримых модификаций. Пусть £(/)
(Z 0) — процесс в измеримом фазовом пространстве (X, 8) со
счетно порожденной о-алгеброй ©, согласованный с потоком о-алгебр
{8Ji>0. Этот поток будем называть непрерывным слева, если
X = V й =8, для всех Z > 0. Процесс g(Z) будем называть
1 s<t *	*
< четно порожденным, если пространство случайных величин {/в(£(0).
fi ей, Z 0) с топологией сходимости в среднеквадратическом яв-
ляется сепарабельным.
Теорема 6. Если процесс £(/) счетно порожден и для любых
АиВе% функция
mia (/)) iB а (з))
измерима по совокупности переменных s, t, то:
1) существует вполне измеримая модификация процесса £(/);
2) если, кроме того, поток {8/}^0 непрерывен слева, то суще-
ствует предсказуемая модификация процесса £(/).
Как следствие этой теоремы получаем существование в условиях
гсоремы прогрессивно измеримой модификации.
9.4.5. Измеримые проекции. Рассмотрим числовой процесс со)
па вероятностном пространстве {Й, 6, Р}, иа котором задан поток
224 гл. 9. ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ [915.1
о-алгебр	Будем предполагать, что £(/, и} ограничен или
неотрицателен, измерим, но не обязательно согласован с потоком
(&) со-
процесс °Е(0 называется вполне измеримой (опциональной)
проекцией процесса g(,/, <е), если он вполне измерим и для всякого
момента остановки т
Процесс pg(/) называется предсказуемой проекцией процесса £(т, о),
если он предсказуем и для всякого предсказуемого момента оста-
новки т
Mg (т, о) 1{х<оо} - Mpg (Т) 7{т<во}.
Вполне измеримая и предсказуемая проекции процесса опреде-
ляются однозначно. Предсказуемая проекция процесса совпадает с
предсказуемой проекцией его опциональной проекции.
Теорема 7. Всякий ограниченный или неотрицательный изме-
римый процесс имеет опциональную и предсказуемую проекции. Су-
ществует не более чем счетное множество моментов остановки {тп}
таких, что °g(f) = ”£(/) при t т„ для всех и.
9J5. Абсолютная непрерывность мер, соответствующих случайным
процессам
8.5.4. Меры, соответствующие случайным процессам. Пусть
g(f) —случайный процесс, заданный на множестве Т с фазовым про-
странством X; Ft — пространство всех функций x(t), определенных
на Т со значениями из X, @г — минимальная о-алгебра подмножеств
Fr, содержащая все цилиндрические множества. Мера pg, опреде»
ленная на ©г соотношением
Ц{(Л) = Р{И-)еЛ}, Ае@г,
называется мерой, соответствующей процессу £(•). Иногда вместо FTl
рассматривают некоторое другое множество функций (например,
Лт— пространство измеримых функций, DT — пространство функция
без разрывов второго рода, Ст — пространство непрерывных функ-
ццй). такое, что выборочные функции процесса с вероятностью 1
принадлежат этому множеству. Всякая ©r-измеримая функция
«р<х(-)) определяет некоторый функциоиял от процесса—случайною
величину	Пусть процесс е вероятностью 1 принадлежит Дь
Тогда такими функционалами будут, например,
sup IE (01,	dt,
t<=T	J
T
где f (t, x) — измеримая ограниченная функция.
Зная меру, соответствующую процессу, можно определить рас?|
пределение любого функционала от процесса. Для этого можно ис$
пользовать формулу: если <р(х(-))— ограниченный ©г-измернмы®
функционал, то
М<₽ (£(•))=
«£Э|	ЙЛ. АБСОЛЮТНАЯ НЕПРЕРЫВНОСТЬ МЕР	224
Подтему для любого ©г-измеримого функционала <р(х(-)) характе-
ристическая функция величины <р (£(•)) определяется равенством
। е/г*<ж,|*£ (rfx).
Fy
9.5.2. Абсолютная непрерывность мер. Одним нз вопросов, рас-
сматриваемых в теории мер, соответствующих случайным процессам,
является вопрос об абсолютной непрерывности этих мер. Приведем
необходимые определения. Пусть X — некоторое множество, на ко-
тором выделена а-алгебра подмножеств S3. Пара (X, 8) называется
измеримым пространством. Предположим, что на (X, ®) заданы две
меры р. и V. Говорят, что мера р абсолютно непрерывна относитель-
но меры v (обозначается ц С v), если р.(А) =0 для всех Лев,
для которых v(A) = 0. Если ц < v и v < ц, то говорят, что р и v
эквивалентны (ц ~ v). Меры риг сингулярны (ортогональны}
(P-Lv), если существует такое множество Se9, что p(S) = О,
v(X\S)==0. Каковы бы ни были ц и v, всегда возможно представ-
ление |i = gi + v = vi -}- v», где pi ~ vt, цг J_ v, v» _L р.
Теорема Радона — Никодима. Если р и v— конечные
меры и р С v, то существует ^-измеримая функция р(х) такая, «то
для всех Лев
р(Л)— ^p(x)v(rfx).
А
Функция р(х) определяется однозначно с точностью до мно-
жеств нулевой меры v.
Функция р(х) называется плотностью меры р относительно
меры v или производной и обозначается (х).
Для случайных процессов изучаются условия: 1) абсолютной
непрерывности одной меры относительно другой; 2) взаимной сингу-
лярности (ортогональности) мер; 3) в абсолютно непрерывном слу-
чае вычисляется плотность одной меры относительно другой. Ука-
жем на те применения, которые могут быть получены при изучении
вопросов абсолютной непрерывности.
Если известно, что Pg, С Pj, для двух случайных процессов
51(0 и Ы0> ТО всякое событие, которое имеет вероятность 1 для
процесса |s(0. будет иметь такую же вероятность и для £t(0-
В частности, если выборочные функции процесса 5г (0 с вероят-
ностью 1 обладают некоторым свойством (непрерывны, не имеют
разрывов второго рода, измеримы, дифференцируемы и т. п.), то
существует процесс (/), стохастически эквивалентный §i(0i выбо-
рочные функции которою с вероятностью 1 обладают тем же свой-
dp.
ством. Если, кроме того, известна плотность *  (х (•)), то вычис-
лсние математических ожиданий функционалов от процесса £t(-J
можно свести к вычислению математических ожиданий функциоиН-
лов от процесса £»(•), используя формулу
Мф(5(
8 В. С. Королюк я др,
226 гл. 9. понятия Теории случайных процессов IWJ.S
Эта формула позволяет вычислять и распределения функционалов]
р {ф (Е» (•)) < А} = МХ(-оо, м (Ф (Е1 (•))) -
“Мх(_то.а)(ф(Е2(-)»-^(Е2(-)),
, где ЗС(_ТО> А) — индикатор интервала (—оо, Z).
Если установлено, что	и указано то множество S,
для которого р^(5) = 1, jij2(S) = O, то можно решать следующую
статистическую задачу. Наблюдается процесс 6(0 (Ze 7), конечно-*
мерные распределения которого неизвестны. Известно лишь, что со-
ответствующая ему мера —либо мера либо Нужно по на-
блюдению определить, какая именно из этих мер отвечает 6(0-
(Например, при обнаружении сигнала на фоне случайного шума
gj, — распределение чистого шума, — распределение сигнала с
шумом. Нужно по наблюдению определить наличие или отсутствие
сигнала) Решение задачи, очевидно, такое: если £() eS, считаем,
что рЕ = рь; если |(-)0S, то Р; = Р:;
9.5.3. Абсолютная непрерывность мер, соответствующих случай-
ным процессам. Предположим, что процессы 6<(0 определены и
стохастически непрерывны на множестве Т, а Т„— возрастающая
последовательность конечных подмножеств такая, что UOi плотно
в Т. Обозначим через о-алгебру, порожденную цилиндрически-
ми множествами с основаниями в Тп- Если ?*йв^и1, •••»
то множества А из ©- имеют вид
'л
{*(•): е(/„1)...-.х(/йДя))еВЦ,
k
где Вк — произвольное борелевское множество из R п — Лп-мерно-
го евклидова пространства, (*р .... хк )—точка этого простран-
ства.
т
Обозначим через сужение меры на о-алгебру ©у .
т	п
Мера р^“ однозначно определяется функцией
..е...........-ч) -р {*< м -*•••«< (ч.) = ч>-'
Имеют место следующие утверждения.
т т
1..Если рь < то р{" < р{“ для всех п,
	
..............................(Ы)
4 чЛ
9ЛЛ1
9.5. АБСОЛЮТНАЯ НЕПРЕРЫВНОСТЬ МЕР
227
при ком
dyfn
^(х(-))-гя(Ч'я1)....*(Ч))-
2.	Пусть	—в-алгебра, порожденная величинами (in
«я 1, ,,,, k„). Тогда
т •	<
3.	Пусть для веек п существует функция g„ такая, что выпол-
нено (5.1) для веек борелевских множеств А.,..., А. из R. Тогда
1	Кп
с вероятностью 1 существует предел
...МЧ))-
Если при втом Мр = 1, то CPj, «
4.	Пусть существует функция g„ такая, что выполнено (5.1),
рй == gn (?2 (fnl), .... §2(z„fen)) “ последовательность р„ равномер-
но интегрируема; тогда Мр = 1.
В частности, это будет выполнено, если для некоторой функции
ф(Х), для которой ф (Л) f 4-00 при Л f 4- °°> sup Мрпф (рп) < оо
(например, sup Мр„ < оо при некотором а > I )
5.	Предположим, что функции g„, удовлетворяющие (5.1), поло-
жительные. Тогда с вероятностью 1 существует предел
*-Дги(м^--мч,)Г-
Если Р {pj = 0} = 0, то ~ gtj и
-^-(£г(-)) = Р. Р. = ^- (£.(•))•
Пример. Пусть £г(0 — а’(0. МО = ш(0 +«(?). где w(f) —
винеровский процесс, a(t)—некоторая непрерывная функция,
а(0) — 0. Найдем условия, при которых	если Т =• [0, 1J.
Пусть Tn==^-^f, k = 0, 1, .... 2" j. Используя то обстоя-
тельство, что	ПрИ /г = 0, .... 2" —1 неза
висимы между собой и имеют нормальное распределение с дисперсией
8*
228 ГЛ. 9. понятия ТВОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ 1КВД
1/2" и средними 0 при i = 2 и a (•" g? ) — а при 1=1,
убеждаемся, что
Эта величина имеет отличный от нуля предел, если
Последнее условие влечет существование интегрируемой с квадратом
производной o'(i), при этом
!
— J a' (f) dw (О
о
'(определение этого интеграла дано в и. 19.2). Таким образом,
р = ехр
1 1
\a'(t)dw(t)--И[а'(0Г^
J	* мл
о	о -
(6.2)
1
Поскольку J a' (f) dw (t) — нормально распределенная величина со
о
1
средним 0 и дисперсией J [a' (t)]2dt, то М₽= 1. Итак, правая
о
часть (5.2) дает плотность dp^/diL^ в случае существования пите--
грируемой с квадратом a'(t). В противном случае
Литература: [19, 27, 28, 36, 68].
10.1.21
10.1. ПРОСТРАНСТВО
ГлаваН). Я2-ТЕОРИЯ
10.1.	Пространство гильбертовых случайных величин
Si (О, <5, Р)
10.1.1.	Определение. Сходимость. Совокупность комплекснознач-
ных случайных величин g, заданных на вероятностном пространстве
{О, ®, Р) с конечным вторым моментом M|g|2 < <», образует ли-
нейное нормированное гильбертово пространство S’aCQ, ®, Р} со
скалярным произведением
(M)=>Mgn	(1.1)
и нормой
Ш«=[М |51г1,/2.	(1.2)
С помощью нормы определяется расстояние между случайными ве-
личинами из 2*2 {й, ®, Р}
Р (g. П) = Н& —ЧП-
Случайные величины g, принадлежащие St — Si {й, 0, Р), на-
зывают гильбертовыми случайными величинами.
Гильбертовы случайные величины g и т) называют ортогональ-
ными» если Mgij =» 0.
Приведенное определение StfQ, ®, Р} сохраняется и в более
общей ситуации для случайных элементов со значениями в измери-
мом полном гильбертовом пространстве 36. При этом ВЙ означает
скалярное произведение в 36, |g|2 =
Сходимость в пространстве St{Q, ©, Р} определяется в средне-
квадратическом:
1.1. tn. gn = g,
n-»oo
если lim ||g« —g|| = 0, или в эквивалентной форме
П->ОО	~
Um M|gn-gt2 = 0.
Я->о»
Из сходимости в среднеквадратическом (в с. к.) следует сходи-
мость по вероятности. Обратное неверно.
Однако если |gn| <т]е.2\., то нз сходимости g„ по вероятно-
сти следует сходимость и в среднеквадратическом.
10.1.2.	Ковариация, характеристическое свойство. Гильбертова
случайная функция {g(x), х е S} задается совокупностью гильбер-
товых случайных величин g(x), зависящих от параметра х, прини-
мающего значения в некотором параметрическом множестве S.
Ковариацией В(х, у) гильбертовой случайной функции {g(x),
хе SB} называется функция
В (Jr, у) «= Mg (х) g (у); х, у SB.
Ковариация В (х, у) является положительно определенной функцией^
S D(Xk'xr)Vr>Q
к, г—1
230	rjl- >0. 13-ТЕОРИЯ	'' ПО.ЕЗ
для любых п > 1, хи е № и комплексных чисел г*. При атом
п	п	2
Е в(Мгл=м Es(xfc)z* •
kt г»1	««!
Положительная определенность является характеристическим
свойством ковариации.
' Теорема I. Для того чтобы функция В(х,у) была ковариа-
ционной, необходимо и достаточно, чтобы она была положительно
определенной.
Свойства гильбертовых случайных функций, выраженные в тер«
минах свойств ковариационной функции, называют ковариационными
свойствами или свойствами второго порядка.
10.1.3.	Непрерывность случайной функции. Пусть Я? — метриче-
ское пространство с метрикой р.
Гильбертова случайная функция {£(*), хе Я?} называется не-
прерывной (в среднеквадратическом) в точке х«, если
М|£(х) —Е(хо)|2-*О, р(х, хс)->0.
Теорема 2 Для непрерывности £(х) в точке х0 необходима и
достаточна непрерывность ковариации В(х, у)=^ М£(х)С(у) в точке
(Xt), Хв).
Следствие. Если ковариация В(х, у) непрерывна в каждой
диагональной точке (х0, Хо) е № X 86, то она непрерывна и во всех
точках (х, у) е= Я? X Ж.
Заметим, что из непрерывности (в с. к.) случайной функции £(х)
не следует непрерывность ее выборочных функций.
10.1.4.	Дифференцируемость случайной функции. Пусть Я? =
а («, Ь) — интервал вещественной оси.
Гильбертова случайная функция {£(х), геЖ) дифференцируе-
ма (в с. к.) в точке хо. если существует
V (*о) = 1-1- п>. 4- It (Xt + Л) — с (х0)]; х0, х0 + Л е (а, Ь).
л-»о л
Случайная величина %'(хв) называется производной (в с. к.) слу-
чайной функции £(х) в точке jfo-
Теорема 3. Гильбертова случайная функция (£(х), хе (а, б)}
дифференцируема в каждой точке х0 интервала (а, Ь) тогда и
только тогда, когда существует обобщенная смешанная производная
второго порядка ковариации
I “ Нт -±- (В (х0 + Л, х0 + Л,) - В (хо, х0 + А,)-
дхду |x-v л,/ц->о ЛЛ1
— В (х© + Л, х0) 4- В (хо, Хс)].
При этом
меМ’ю
мГ(х)Е(у)-—ly* -
10.1.5.	Интегрирование случайной функции. Пусть Я?— полное
сепарабельное метрическое пространство с с-конечной мерой m(dx)
в И1(Ж}< «ю-
МЛ.Б1
10.1. ПРОСТРАНСТВО
231
Для измеримой случайной функции {£(х), хе^} интеграл Ле-
бега определяется так:
SC (х) tn {dx) - 1. i. m. \ £я (x) m {dx),
n-»oa J
a?	a?
(1.3)
где tn(x)—монотонно неубывающая последовательность случайных
функций, принимающих конечное число значений и таких, что
С (х) =» lim £п(х) с вероятностью 1.
Л->00	х'
Интеграл Лебега (1.3) можно также определить как предел
(в с. к.) лебеговых интегральных сумм
£ {х) m {dx) = L i. m. С (xft) m (6xk),	(1.4)
где
n
86 “ Уд Axfc, xfc e Axfc.
Теорема 4. Если конечен интеграл
J В (х, х) m {dx) < оо	(1.5)
зе
и tn{86) < оо, то для измеримой случайной функции (£(х), хе 36}
интеграл Лебега (1 3) с вероятностью 1 конечен и может быть опре~
делен либо соотношением (14), либо для каждой реализации £(х).
При этом
М IС (х) р m {dx) = В (х, х) tn {dx).
зе	зе
Следствие. Пусть функции ft(x)
5?i{86, X, tn) и выполнено условие (1.6).
существуют интегралы
{I = 1. 2) принадлежат
Тогда с вероятностью 1
/«=»!. 2,
ft (х) t (х) tn {dx),
ЗВ
\ \ /1 (*) в (х, У) fn («) m (d*) m W)-
зезе
Замечание. Несобственный (в с.к.) интеграл определяется
следующим образом: '
оо	N
(c(O<tt=d. Lm. ( ^{t)dt.
J	№->oo J
а	а
(U)
£32
ГЛ. 10. ^‘ТЕОРИЯ
ПОЛ»
Для существования несобственного интеграла (l.fj) необходимо
в достаточно существование
N М
Пт ( ( В (t, s) dt ds.
N.M-boo J J
a a
19.1.6. Разложение в ортогональные ряды. Пусть U(x),
к ts [в, й]} — непрерывная гильбертова случайная функция с кова-
риацией В(х, у). Согласно теории интегральных уравнений, ядро
В(х, у) может быть разложено в равномерно сходящийся ряд по
своим собствечным функциям <ря(х):
©О
В (х. — У, (X)	(1.7)
*т>фя (х) = J в (х, у) q>a (у) dy, J Фи (х) g>m (х) dx = б„т, (1.8)
а	а
причем собственные числа Хя положительны.
Положим
ь
£п — ? (х)Фп(х) dx.	(1.9)
а
фогда (см. следствие теоремы 4)
» 6
т в В (х. 5) Фн (х) 'Фт(р) йх dy — Мnmi	(1.10)
а а
i
М£ (X) gn = J В (х, у) <рп (у) dy = Лпфп (х).	(1.11)
а
’Гак что последовательность случайных величин gn (n > 1) ортого-
нальна.
Теорема 5. Измеримая и непрерывная (в с.к.) гильбертова
случайная функция g(x) на [а, Ь] представима рядом
С (х) = J £пФл (х),	(1.12)
Л=1
который сходится в Э?г при каждом х е [а, Ь].
В этом разложении {£», п 1} — ортогональная последователь-
ность случайных величин с М | £„ Is ™ лп, 1Я — собственные числа,
фя(х)—собственные функции ковариации В(х,у) случайной функ-
ции £(х).
Замечание. Если случайная функция g(x) имеет гауссовское
распределение при каждом х, тогда случайные величины в разло-,
женин (1.12) являются независимыми гауссовскими величинами 1Ц
ряд (1.12) сходится с вероятностью 1.
10.2.1]
10.2. СТОХАСТИЧЕСКИЕ МЕРЫ И ИНТЕГРАЛЫ
298
Пример. Процесс броуновского движения £(/) на (0, 1] с
£(0) = 0,	^-О, Dg (?) == t и B(t, s) = M?(0g(s) = mm(/. s)
представим в виде ортогонального ряда
Z, sin (п + 1/2). л/
®я (п+1/2)л
п-о
где — последовательность независимых'гауссовских случайных ве-
личин с параметрами М|п = 0, О£я = 1.
10.2.	Стохастические меры и интегралы
10.2.1.	Определение стохастического интеграла. Пусть 1Й, ®, Р}—
вероятностное пространство, Е — некоторое множество, — полу-
кольцо подмножеств Е.
Семейство гильбертовых случайных величии {£(Д),	удо-
влетворяющее условиям: I) t(AiUAa) «= ^(Д1)+?(Да) (mod ₽),
если Д1ПДг = 0; 2) М£(А«К(М =т(Д1ПД4, где т(Д)—функ-
ция множеств на £W; 3) g(0) =0, zn(0) =0, называется элемеН-
тарной ортогональной стохастической мерой, а пт(Д) — ее структур-
ной функцией.
Ортогональность стохастической меры £(Д) следует из свой-
ства 2): Mg(At)g(A2) = 0, если П Да = 0.
Структурная функция ш(Д) является элементарной мерой на
полукольце 8Й, так как она неотрицательна: /п(Д) = М ]£(Д) |2	0,
/п(0)=О, и аддитивна: m(&i U Д2) = пг(Д1) + /п(Д2), если Д1ПД»=*
= 0.
п
Стохастический интеграл от простой функции f (х) = с^хд (*)•
Д% е ЗЛ, заданной на Е, по элементарной стохастической мере
определяется соотношением
л
(H*)cw«£Cfec(Afe).	од
а-i
Предположим, что элементарная мера /п(Д)' полуаддитивна;
тогда она может быть продолжена до полной меры [Е, <5, т}.
Введем гильбертово пространство 2?&(Е, &, т) функций со ска-
лярным произведением
(А g) = \ f (х) g (х) т (dx).
Стохастический интеграл от /’(х)«Stx^E, S, т) по элементар-
ной стохастической мере {(А*) определяется соотношением
b W С = >• 1- m. fn W С W
(2.2)
234	ГЛ. I». tj-ТЕОРИЯ	[10.2.2
для произвольной последовательности простых функций fn(x) s
е Sz(E, S, т) таких, что
И (*) — fn М \2т (dx) -> О, П -> ОО.	(2.3)
Теорема 1, Для произвольной последовательности функций
f„(x)eSi(E, m) таких, что выполняется условие (2.3), имеет
место соотношение (2 2). Для любых j (х) и g(x) из St(E, &, т)
имеют место равенства
J (а/ (х) + Pg (X)] S (dx) = а J f (х) { (dx) + р J g (х) £ (dx),	(2.4)
где а, р — произвольные постоянные, и
М J f (х) С (dx) J g (х) £ (dx) = J f (x) g (x) tn (dx).	(2.6)
Замечание. Равенство (2 5) означает изометрическое соот-
ветствие между Si(Е, ё>, т) и Si(t,)—гильбертовым простран-
ством случайных величин Ч “ J f (х) £ (dx) с f (х) е S2 (Е,	т).
Изометрическое соотношение между Si(E, &, т) и S'z(t) мож-
но положить в основу определения стохастического интеграла.
Пусгь До —класс всех множеств Ле^, для которых /л(Л)<;<ю,
Случайная функция множеств
С(А)=$%ДМ№) = \t(dx)	(2.6)
а
является стохастической орки опальной мерой на Со, удовлетворяю-
щей условиям:
a)	e(U Ап) =£ £(Л„),
\п»-1	/ п—1
оа
бели [J Ап еЦ и Ak(\Af = 0 при k ф г,
п-1
б)	Mt (A) t (В)« т (Л п В), A, Be Lo-,
• в) £(Д) =t(A), AeSK.	'	, ->-
Теорема 2 Если структурная функция ш(А) элементарной
стохастической меры £(Д) полуаддитивна, то {^(А), Лей) может
быть продолжена до стохастической меры {С (Л), Ле До), причем
^f(x)l(dx)^^f(x)t(dx).	(2.7)
10.2.2.	Свойства стохастического интеграла. Пусть -ортого-
нальная стохастическая мера со структурной функцией гп, являю-
щейся полной мерой на {Е, Положим дли g(x)&Si(E, &, m)
К (А) - J (x)g(x)l(dx), А®гГ.	(2.8)
’iO2.2] IOS. СТОХАСТИЧЕСКИЕ МЕРЫ И ИНТЕГрдлЫ	ggjj
1)	Тогда Х(Л)—ортогональная стохастическая мера на {£, &}
со структурной функцией	/
I (A) e р g (*) Is т (dx).	(2.9)
А
2)	Если f (х) е й’а (Е, №, I). то f (х) g (х) е= S‘i (Е, &, т) и
J f (х) Я. (dx) «. f (х) g (х) J (dx),	(2.10)
3)	Если т (Л) < оо, то
С (Л) —	A. (dx).	(2,11)
4)	Пусть Т — конечный или бесконечный отрезок вещественной
прямой; В — о-алгебра борелевских подмножеств Т\ I — мера Ле-
бега.
Теорема 3 Для борелевской функции g(t, х)е <Ег(Т X Е,
ВХ&, IX ш) и g(t, x)&S?i(E, «, m) при каждом t<=T стохасти-
ческий интеграл
| (/) _ J g (t, х) £ (dx)	(2.12)
можно определить как функцию от t таким образом, чтобы процесс
i(t) был измерим.
Б) Если g(t, s) и h(t) — борелевские функции,
6 оо	b
J |g(f, s) \2 dt m (ds)< ео, ] Л (/) |2 d/< со, (2.13)
а —со	а
ТО
Ъ СО	ОО	Ь
j Л (о g (t, s) J (ds) dt — J (ds) ^h(t)g (/, s) dt. (2.14)
a — co	—o©	a
Замечание. Соотношение (2 14) имеет место и при а « —со,
со
6=4-00, если существует несобственный интеграл j h(t) g (t, s) dt
— 00
в смысле сходимости в Зз(Е, S, m).
6)	Пусть ft (0, t е [в, Ь]} — процесс с ортогональными прира-
щениями)
М ft (t2) -1 (М) ft (M - £ (t*)) - 0
для любых tt < h < h < /*, принадлежащих [c, b), непрерывный
(в с. к.) слева:
М1К0-i(s)l2-*O, aft
Пусть SW — класс всех полуинтервалов Л * [/,, t2), л <
< t£ ^'b. Определим элементарную стохастическую меру
(2.1Б)
238
РЛ. 10. fe-ТЕОРИЯ-
110.2.3
со структурной функцией
т ([/1, (2)) - М 11 (12) -1 (*i) I2 - F (f2) - F (#,),	(2.16)
где
Г(0-МЦ(0-6(в)Р*	(2.17)
Функция F(i) монотонно неубывающая непрерывная слева. Поэтому
структурная функция (2.16) допускает продолжение до полной меры
на (а, fr). Следовательно, определен стохастический интеграл Отнятье-
са по процессу с независимыми приращениями равенством
ь	ь
\f(t)dl(t)~\f(t)l(dt)
а	а
(2.18)
для произвольной борелевской функции f(/) s£P»(F). Определение
интеграла (2.18) сохраняется и при fr == 4*<®.
10.2.3.	Стохастический интеграл по векторной мере. Стохастиче-
ский интеграл обобщается на векторные стохастические меры. Пусть
5(A) « {«‘(Д), Е2(Д), .... 5₽(Д)}—векторная стохастическая (орто-
гональная) мера на со структурной матрицей m (Д) |т*(Д)} «=»
» Mg (Д)	(Д) (т* (Д) ™ Mgfe (Д) (Д), 1	/, fe "С р) удовлетворяет
условиям:
1)	£ (Д1U Дг)=°£(Д1) + g (Д2) (mod Р), если Д1П Д2 = 0;
2)	Mg* (A,) g/ (д2) -гл* (Ai fi Д2); Др Д2 «= Ж 1 < fe, / < р;
_____________________ р
3)	М|С(Д)|2~МС(Д)С(Д) = М£|С*(Д)|2<оо, 5(0)=» о.
р
Положим mQ (Д) = Sp m (Д) =• V m* (Д).
fe2*» 1
Если след т«(Д) матрицы щ(Д)—полуаддитивная функция
на Ш1, то т* (Д) могут быть продолжены до счетно-аддитивных
функций множеств на {Е, &}. Полная матричная мера т(Д) на
{£, &} обладает свойством положительной определенности:
п	п	|2
^^ХД/ПД^г^М £ Сг(Дй)г*| >0	(2.19)
для любых векторов zA«—{z^, z|, . .,,z£} и любых Д*е#
(К k < р).
Здесь 5Г(Д) —вектор-строка с компонентами 5;(Д) (/ = 1, 2, ...
введем пространство S’o {/По} простых функций f(x)=*
п
= сйХдй (Д* Е Ото)
со скалярным произведением
tf. е) = \ f W g (х) тй (dx).
10.2.4]	10.2. СТОХАСТИЧЕСКИЕ МЕРЫ И ИНТЕГРАЛЫ	23Т,
Далее определим пространство 2$(£) случайных векторов
в
t) ==» ^ ckt (Afe) (Afe e SR) co скалярным произведением.
k^i
(t]i, 4») == M41f)2.
Замыкание (в смысле с. к. сходимости) пространства случайных
величии 2$ {£} обозначим через 2^ (£), а пополнение 2’о{то) —
через 2а(ли).
Равенство
п
ч - J f (*) С (dx) =	с£ (AJ	(2.20)
fe-1
п
для f (х) cfeZife (х) устанавливает изометрическое отображе-
ние »] = 8(f) пространства 2’о(/по) иа 2$ (£), которое может быть
продолжено до изометрического соответствия ч— S(f) 2s (m#) на
S^t). При этом случайный вектор tj ==8(f) называют стохасти-
ческим интегралом и пишут
Ч в f (*) t (dx), f (х) е S?2 (ma).	(2.21)
Приведенные выше свойства стохастического интеграла содра-,
няются и в данном случае.
й 0.2.4. Интегральное представление случайных функций. С по-
мощью стохастических интегралов можно получать интегральные
представления различных классов случайных функций.
Теорема. Пусть задана р-мерная векторная случайная функ-
ция (£(х), Х&-8В} с ковариационной матрицей В(х1г x2) = M£(xt)X
XgT(x2) “*2)}. Д*(*1. *2)	(*1) 11(х2)(1 < Л * <
допускающей интегральное представление
B(xux2)^^g(xl,u) g (хг, uj m (du),	(2.22)
в котором ем (А) —положительно определенная матричная мера на
{Я, S5) с пц>(и) = Sp«i(w), g(x, и) —скалярная функция, удовлетво-
ряющая условиям: 1) g(x, и) е 2г {Я, й, гп0) при каждом х^35\
2) семейство функций {g(x,u), х е Я?) полно в &г{й, ®, то).
Тогда существует стохастическая ортогональная векторная мера
{£(В), Вей) со структурной матричной функцией т(В) яя'
= М£(В)Р'(В) такая, что с вероятностью 1 при каждом х случай-
ная функция {|(х), хе®’} представима в виде
I (х) =» g (х, и) I (du).	(2Л$)
При атом стохастическая мера (%(В)., B^fS) подчинена случай-
ной функции {|(х), х^З?) в том смысле, что {(Д)к ^^(J) яра
каждом В е&.
838
ГЛ. 10. tj-ТЕОРИЯ
Стохастическая мера {С(В), Be®} определяется с помощью
Изометрического соответствия между пространствами Д’» (5) кй’х(т),
при котором:
а)	8 (ж) -*-* g (ж. и), 8 (В) хв («);
б)	если т)( -*-* f( (u) (I -» 1, 2), то
— J fi (“) £ Mtj1 Пг =*	(«) fi («) т (*«)•
10.3. Линейный прогноз и фильтрация гильбертовых
случайных функций
Гильбертова случайная функция {8(ж), хеЖ} со значениями в
измеримом пространстве ГЕ, В’} порождает гильбертово простран-
ство случайных величин Д’»{£(ж), хеЖ), являющееся замкнутой
(в смысле с к. сходимости) линейной оболочкой семейства случай-
ных величии {g(x), же^1} и констант
Гильбертово пространство Д’гЙСх), хе Я?} является подпро-
странством гильбертова пространства Д’» {О, ©, Р} всех гильберто-
вых случайных величин, заданных на том же основном вероятност-
ном пространстве {Q, ©, Р}, что и семейство гильбертовых случай-
ных величин {£(ж), х е Я?}.
Наилучшее линейное приближение (оценка} £ гильбертовой слу-
чайной величины ge.S?2{fi, ®, Р} в пространстве 3?г{£(х), хе35}
определяется условием:
М|£-С|2СМ|С'-£|2, С' Е Д’г {| (Ж), же я?}.	(3.1)
Условие (3 1) означает, что оценка J имеет минимальную сред-
неквадратическую погрешность.
Из теории гильбертовых пространств следует, что элемент $
является проекцией £ на подпространство 2’г{^(х), хе3?} и опре-
деляется единственным (mod Р) образом системой линейных урав-
нений:
Mgg (х) = МЙ (х), хе ЗВ-	(3.2)
Среднеквадратическая Погрешность 6 приближенного равенства
5 л? 5 равна длине перпендикуляра, опущенного из конца вектора £
на подпространство ^2{g(x), х е$] и дается формулой
б2«М|Ё-СГ. '	(3.3)
В частности, выполняется условие несмещенности оценки-.
МЁ = МС-
Наилучшая линейная оценка £, определяемая системой (32),
является линейной функцией от §(х) с конечной дисперсией.
Задача построения оценки £ возникает при линейном прогнозе
(экстраполяции} случайного процесса {6(0, teT], когда требуется
оценить значение t,(t*) в некоторый момент времени t* по значе-
ниям процесса g(0 на множестве моментов времени Т, предшество-
вавших I*,
10.3 ЛИНЕЙНЫЙ ПРОГНОЗ И ФИЛЬТРАЦИЯ
23Q
Другим примером построения оценки 6 является задача линей-
ной фильтрации случайного процесса, которая состоит в следующем.
Наблюдается процесс 6(О=6(О+я(О, представляющий собой
сумму полезного сигнала 6(0 и шума »)(0- Требуется отделить сиг-
нал от шума, т. е. для данного t* нужно найти наилучшие линейные
приближения 6 е S’2{6(0. < е Т} для сигнала £(/*)•
Разумеется, линейная оценка 6 не всегда является приемлемой
с практической точки зрения. Однако в весьма важном случае, когда
все конечномерные распределения случайных величин {£(х), хе№}
нормальны и М£(х)—0, М£ = 0, иаилучшая линейная оценка в
хе Я?} является также наилучшей в с. к. смысле.
В этом случае
Ё“М[6|о(£(х), лей?)].	(3.4)
где o(g(x), хе Я?)—о-алгебра, порожденная совокупностью слу-
чайных величин {6(х), х
Примеры. 1. Пусть задана конечная совокупность линейно
независимых гильбертовых случайных величии (бь k = 1, 2, ..., п}.
Решение системы линейных уравнений (3.2) определяется формулой
(6ь 61) ... (61.6л) 61
Г
(6л. 61) ... (6л. 6л) 6л
(С, 61) ... (6. 6л)	0
(ЗЛ)
где Г = Г (gi, 6г, ..
{6*, А = 1, 2, ..., п)
,6«)—определитель Грама системы
Г (61. 62,
.... 6л) -
(61, 61) ••• (61. 6л)
(6л, 61) ••* (6л, 6л)
величин
(8.6)
Среднеквадратическая погрешность Са = М|£—определяет-
ся равенством
М_ Г (61.62.....6л,6)
f (61. 62. .’Тбл) *
(3.7)
2. Пусть задан гильбертов- непрерывный случайный процесс
{6(0, * е Iй» А]} с корреляционной функцией
R (t, s) = М {(б (Z) - а (0) (6(0 “ НО)], й (0 - Мб (Z).
Процесс (6(0,	Ь]} может быть разложен в ортогональ-
ный ряд
6(0“У блЧРлЮ.	(8.8)
л-1
в котором Mint™ = Х„йпт; кл и фя(/)—собственные эначенид в
собственные функции корреляционной функции R(t, в) на [в, Ь]1
»
Д (/, s) <рп (s) ds « Ап<г„ (/).
О
240
ГЛ II СТАЦИОНАРНЫЕ ПРОЦЕССЫ
111.1.1
В этом случае наилучшая линейная оценка С определяется соот-
ношениями
оо	Ь
{ - £ ^п, U = J & Ю dt,	(3.9)
п—1	а
а
сп = -^МЙ„~-^Як(ПФп(О<И. (ЗЛО)
а
где	_____
/?к(0 = Мй(0.
Среднеквадратическая погрешность оценки определяется формулой
**-М|С|»-£|спГ.	(З.п)
Практическое применение приведенных формул возможно при
гсловии знания собственных чисел и собственных функций ядра
?(А «)•
Литература: [19, 20, 50, 60, 70, 98].
Глава 11. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
Важное место в теории случайных процессов занимают процес-
сы, те или иные характеристики которых остаются неизменными при
сдвигах временного или пространственного параметра, или, в более
общем случае, процессы, определенные характеристики которых ин-
вариантны относительно некоторой группы или полугруппы преобра-
зований.
Такие процессы обладают определенными свойствами неизмен-
ности, стационарности. Чаще всего в качестве характеристик, инва-
риантных относительно заданной группы или полугруппы преобра-
зований, выступают либо моменты, либо конечномерные распреде-
ления.
& первом случае говорят о стационарности r-го порядка, если
свойством инвариантности обладают моменты до г-го порядка вклю-
чительно. Наиболее важный класс составляют процессы, обладающие
свойством стационарности второго порядка, обычно называемые ста-
ционарными в широком смысле.
Если в качестве инвариантных характеристик выбираются ко-
нечномерные распределения, то говорят о стационарности в узком
смысле и соответствующие процессы называют стационарными в уз-
ком смысле.
11.1. Стационарные в широком смысле случайные процессы
11.1.1. Основные определения. Пусть (й, 0, Р) —фиксированное
вероятностное пространство, на котором рассматриваются случайные,
процессы {£(/), t^T}, где Т — одно из множеств вида (—оо, оо),
[0, оо) (непрерывное время) либо {0, ±1, ±2,	(0, 1, 2, ,..}
(дискретное время).
tl.T.11 ПЛ. СТАЦИОНАРНОСТЬ В ШИРОКОМ СМЫСЛЕ	241
Процесс может принимать значения либо в R = (—оо, оо)
(действительный скалярный процесс), либо в комплексной плоско-
сти Z (комплексный скалярный процесс), либо в евклидовом про-
странстве R* (й-мериый действительный процесс), либо в й-мерном.
комплексном пространстве Z* (fe-мерный комплексный процесс).
Если {g(/), < е Г} — скалярный процесс и существует М|£(012
для f еТ, то функция C(t, s) = Mg(/)g(s) называется ковариацион-
ной функцией, а функция В (/, s) = М (/) — Mg (01 [g (s) — Mg (s)J —
корреляционной функцией процесса {g(0>
Если £(0 = (&(0>	•••» Е*(0)> t&T,— векторный процесс,
для которого существуют Mgz (О gm (t) (I, tn = 1...k),	то мат-
рица C(f, s)=»{cZm(Z, s); /, m — 1..................k},	где cZm(f, s) =
= Mgi(<)gm(s), называется ковариационной матрицей, а матрица
B(t, s) = {B(m (/, s), I, m == 1, ..., k}, где Blm (t, s) — M [gz (!) —
— Mgz (0] [Im (s) — Mgm (s)], — корреляционной матрицей процесса
{g(0> Is?}. Ковариационную матрицу C{t, s) можно представить
в виде
C(t, a)-Mg(0 6r(s),	(1.1)
где знак ^обозначает транспонирование вектор-столбца g(s) и пе-
реход к комплексно-сопряженным элементам.
В скалярном случае удобно считать, что gr (s) = g (s), поэтому
формулу (1.1) можно использовать как в скалярном, так и в век-
торном случае. В скалярном и векторном случаях C(f, s) и B(f, s)
часто называют ковариационной и корреляционной функцией соот-
ветственно
Случайный процесс {g(f), t^T} называется стационарным в
широком смысле, если его математическое ожидание Mg(l) = а не
зависит от t, а корреляционная функция B(t, s) зависит лишь о г
разности (f — s), т. е. если
B(t, s) = B(t — s).	(1.2)
Таким образом, если {g(0, t^T}—стационарный в широком
смысле процесс, то процесс {&((), teT}, где ga(/) =g(Z + «) и
иеГ фиксировано, имеет одинаковое с g(Z) математическое ожи-
дание Mgu(f) = а и корреляционную функцию B(t) = B(t, 0).
Дисперсия стационарного в широком смысле процесса совпадает
с В (0): М [g (0 - fl) [g (0 - а]г= В (0).
Корреляционная и ковариационная функции связаны соотноше-
нием
С (t, s) = В (t, s) + аат\
следовательно, для стационарных процессов C(t, s) = C(t— s).
Если Mg(Z) = 0, то корреляционная и ковариационная функции
совпадают. Более того, если С(/) — £(t, 0), то формула
С (t) = В (Г) + аат
показывает, что, не уменьшая общности, можно рассматривать про-
цесс с нулевым математическим ожиданием, так как всегда можно
перейти к процессу g0(/) a* g(Z) — Mg(0, для которого »то свойство
выполнено.
242	ГЛ ” "СТАЦИОНАРНЫЕ ПРОЦЕССЫ	|11Л.»
' Все рассматриваемые в этой главе процессы с непрерывным
временем предполагаются среднеквадратична (с. к.) непрерывными
справа, т.е.	<
lim М || 5 (а) — 5 (О II2 = 0> s,ieT.
«4 t
Пусть {5(0, /еТ) и {г)(0, /еТ)—стационарные в широком
смысле процессы с корреляционными функциями Sj(O в Вп(г) со-
ответственно.
Процессы {5(0> и {»](/), ГеТ} называются стационарно
связанными, если их взаимная корреляционная функция В^ (ts) «=»
= Mg(0rj7'(s) зависит лишь от разности (t— s). В связи с этим
Bt (t) и Вп (/) называет иногда автокорреляционными функциями.
Корреляционная функция B(t) стационарного процесса обладает
следующими свойствами.
1)	Эрмитовость:
о ( в(~ 0 (скалярный процесс),
Я (Г) == <	(I.O)
{ В (—/) (векторный процесс).
2)	Неотрицательная определенность:
N	_
В — tm) > 0 (скалярный процесс), (1.4)
I, т»1
каковы бы ни были Л7 1, tteT и комплексные числа fa
= 1, ..., N)-,
N
Y z?B (t{ — /т) zm > 0 (векторный процесс), (1.4')
I, т—1
каковы бы ни были N 1, ti е Т в векторы Zt (/=!,..., АГ).
3)	|В(0|	В(0) (скалярный процесс),
I в1,п (О I2 < Ва(0) Bmm (0) (/, m= 1.k) (векторный процесс).
4)	Если (в случае непрерывного времени) корреляционная функ-
ция В (О непрерывна в точке t — 0, то она непрерывна и в любой
другой точке t е Т.
6) Если 5(0 = (|i(0,	5*(0)—векторный процесс, то
функции
называемые коэффициентами взаимной корреляции компонент 5i((J
и Ь»(0> удовлетворяют неравенству
—1<Р/т(0<Ь	/, т = 1, ..., А,
и определяют степень линейной зависимости процессов 5/(0 и 5">(0<
Различные стационарные процессы могут иметь одинаковые ма«
тематическое ожидание и ковариационную функцию.
Если {5(0, /еТ) —стационарный процесс и для любого п > I
в любого набора {t^eT, k=\,,..,n} вектор "(5(0), 5(fe)« •••
11.1.81
ИЛ. СТАЦИОНАРНОСТЬ В ШИРОКОМ СМЫСЛЕ
243
.... 5(fn)) Имеет многомерное нормальное распределение, то {5(0,
tel} называется стационарным гауссовским (или стационарным
нормальным) процессом.
Стационарный гауссовский процесс определяется своим матема-
тическим ожиданием и ковариационной функцией.
Обратно, каждая функция m(t) « const и функция B(t), обла-
дающая свойствами (13) и (14), задают некоторый стационарны/
гауссовский процесс.
Пусть {5(0, t&T)—скалярный (действительный нли комлекс-
ный) стационарный процесс,

где N > 1 — любое
целое число, 6 е Т, ?.i — произвольные числа. Линейная оболочка
//о {5} всех таких случайных величин, построенных по процессу
Ш0. t&T}, является подпространством гильбертова пространства
S?n(fi,0, Р) интегрируемых с квадратом ©-измеримых функций на й
по мере Р. Введем в Wo {5} скалярное произведение по формуле
(5, п) “ М5п-
(1-5)
В случае векторных процессов аналогично определим линейную
оболочку Но {5} случайных векторов, построенных по процессу {5(0.
t е Т}, в которой вводится скалярное произведение
(£, t1) = SpM5n7’,	(1.6)
где Sp В означает след матрицы В; Яо{£} является подпростран-
ством гильбертова пространства 3?г(Р-, 0, Р) интегрируемых с квад-
ратом нормы по мере Р ©-измеримых векторнозначных функций
на й Гильбертово пространство Н%, являющееся замыканием Но{£}
по норме, порожденной скалярным произведением (15) (соответ-
ственно (1.6)), называется пространством значений стационарного
в широком смысле процесса {5(0, t&T}. С геометрической точки
зрения процесс {5(0. t&T} является кривой в пространстве
J?i(Q, 0, Р) и Н^ есть пересечение всех подпространств в
2МЙ, 0, Р), содержащих эту кривую.
11	.1.2. Примеры. 1. Пусть (m = 1. ••• ₽) — набор некорре-
лированных случайных величин таких, что
Mgm = O, =
где 6mi — символ Кронекера, о^ < оо. Если р = оо, то пусть
оо
и пусть Xm (т = 1, ..., р) — набор произвольных дей-
n=-t
ствительных чисел.
Л п, t
Процесс {5 (0, t <= Т}, где 5 (0 = е т £т, является стацио-
парным в широком смысле (см. § 10.1), так как М£ = 0 и В (f, s)*"
ш £ Л"‘(<"8,а^ = В(/-а).
m—1
244
ГЛ. It. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
[11.1.2
2.	Пусть (m = 1........р) — набор некоррелированных слу-
чайных ft-мерных векторов таких, что йй£м = 0,	==
т'
где Gm — эрмитова неотрицательно определенная k X ft-матрица
/ р	\
I < °°> если Р“°00 I• и ПУСТЬ (m — i, р) — набор
\rn-l	/
произвольных действительных чисел. Процесс {£(/), i&T}, где
Р ф
£ (7) = е т £т, «плястся стационарным в широком смысле, так
m—i
как Mg(0 = 0, B(t, s) = £	Gm*=B(t- s).
m—l
3.	Пусть £(/) = cos(1t] + ср), где <p — случайная величина, рав-
номерно распределенная на [0, 2л], а случайная величина т] не за-
висит от <р и имеет функцию распределения G(x). Процесс {1(0 •
[ е 7} является (действительным) стационарным в широком смысле,
так как
СО
Mg(Z) = O, B(t,s) = ~ $ cos [(/ - s) х] G (dx) = В (t - s).
— 00
4.	Пусть T = [0, оо) и {u> (/), t&T) —стандартный винеровский
Процесс. Процесс {£(/), * е *}> где 5(0 =w(t + h)— w(t) и h > 0 —
фиксированное число, является (действительным) стационарным в
широком смысле, так как Mj- (P) = 0 и
{О, если ) i — s 1 > ft,] „ „
1 i=*B li — s).
Л-р-б|, есла |/-s|<ftj	'	'
б. Пусть Т = {0, ±1, ±2, ...} н £(/) (/еЛ—стандартная
последовательность некоррелированных случайных величин, т. е.
М£(/) == 0, Mg(m)g([) = hmi, и пусть последовательность комплекс-
ных чисел с(0 (teT) такова, что У |с(0{2<°°-
1еГ
Случайная последовательность {?(0>	где £(/) =1
= У с (t — s) g (s), является стационарной в широком смысле;
seT
так как Mg(0 = 0, то
В (Z, з) - £ с (/ - з + m) 7(т) =>'В (/ - з).	г
теТ
6. Пусть Т = (—оо, <ю) и {?(/),	—стандартный k-мер-
ный процесс с ортогональными приращениями, т.е. Mg(/)=O,
M[g(<i)-g(W][g(s1)-g(s2)]r = O для /2</1<з2<з1 и
м к У) — I («)] [£ (0 — £ («)]Г = I i — з 11, Т№ 7 — единичная k X k-
матрица, и пусть матричнозначная функция C(t) (t е Т) такая, что
ОО
SpC(0Cr(0<M<oo.
Ih2.ll
11.2 КОРРЕЛЯЦИОННЫЕ ФУНКЦИИ
245
о»
Процесс {5(0. tе Т}, где g (О >= -С (f — s) (s) и интеграл
— ОО
понимается как предел в среднеквадратичном смысле, является ста-
ционарным в широком смысле; так как Mg(O = 0, то
ОО
B(t, «)=» Jc(l — s + и) Ст (и) du <=* В (t — s).
—co
Процессы в примерах 5 и 6 называются процессами скользящего
суммирования.
11.2.	Спектральное представление корреляционных функций
11.2.1.	Теорема Бохнера — Хинчина. Пусть {5(0, t е Т} — ста-
ционарный в широком смысле процесс с корреляционной функцией
В(0-
а)	Если {5(0. t&T}—скалярный процесс с дискретным вре-
менем, то
В(0«
л
$ eMdF (X),
-я
я
\ [cos М dC (X) + sin М dQ (А)] в случав
о
действительного процесса.
(2.1)
где F(X)—неотрицательная неубывающая функция, определяемая
по 13(0 однозначно, если потребовать, чтобы F(—л) =0 и Г(Х)
была непрерывной справа, С(Х)—действительная четная неубываю-
щая функция ограниченной вариации, Q (А) — действительная нечет-
ная функция ограниченной вариации.
б)	Если {5(0. t&T\—векторный процесс с дискретным време-
нем, то для B(t) имеют место представления (2.1), где F(K) — мат-
рица, приращения которой F(Xi) — F(kz) (А»	А,) эрмитовы и не-
отрицательно определены, С (Л)—вещественная симметричная мат-
рица, приращения которой C(ki)—С(Хг) (Xi Хг) неотрицательно
определены, Q (X) — вещественная кососимметричная матрица. Мат-
рица F(X) определяется однозначно по B(f), если потребовать, чтобы
F(—л) = 0 (нулевая матрица) и F(X) была непрерывной справа
(в смысле поэлементной сходимости).
в)	Если {5(0.	—скалярный процесс с непрерывным вре-
менем, то
ОО
j ем dF (X)
— оо
Я (0
~	(2-2)
\ [cos IX dC (X) + sin IX dQ (X)[ в случав
о
действительного процесса,
246
ГЛ. и. СТАЦИОНАРНЫЕ ПРОЦЕССЫ

где функции F(k), С(X) и Q(X) определяются тйк оке, как и 6 слу-
чае а), за исключением условия F(—оо) = 0.
г) Если {£(<), iе Т} — векторный процесс с непрерывным вре-
менем, то для B(t) имеют место представления (22), где матрицы
F(X), С(Х) и Q(X) определяются так же, как и в случае б), за
исключением условия F(—оо) = 0 (нулевая матрица).
Матрица F(X) называется (матричной) спектральной функцией
процесса {5(1), а мера, порожденная спектральной функцией
F(X), называется спектральной мерой. Матрицы С (X) и Q(X) назы-
ваются соответственно (матричной) коспектральной и
квадратурной спектральной функциями.
Имеют место равенства:
{F (л) (дискретное время),
F (°°) (непрерывное время),
4C(X)=(^W-
I 2 Re dF (X),
. (
dQ (X) = {
( 2 Im dF (X),
(матричной!
(2.3)
(2.4)
(2.6)
X = 0,
X =/= 0,
X = 0,
X =/= 0.
11.2.2. Примеры. 1. Пусть F-=(—oo, oo), g (/) =>	где
случайные величины ») и 5 независимы, Мт) = 0, Dt] = <r®, случай-
ная величина g имеет функцию распределения G&(x). Стационарный
процесс {£(/), t^T) имеет корреляционную функцию В^ (t) =j
СО
= I dG^ (X); следовательно, спектральная функция Fj (X)
1 = 0;
t 7b О,
равна Fj (X) =	(Л).
Пример показывает, что существуют стационарные процессы е
любой наперед заданной спектральной функцией.
2. Пусть Т = (0, ±1, ±2, ...} и Ш0, tе Т) —последователь-
ность некоррелированных случайных
Мб (0 б («) = Тогда
f с3,
В(О“{о,
я + Х ,
следовательно, F (X)» —г---и3.
хл
3. Пусть Т «= [0, <») и {5(0, t^T)—стационарный в широ-
ком смысле и марковский в широком смысле процесс. Последнее
означает, что о (в, и) — a(s, t)a(i, и), s <t < и, таг
( М| (0 б (s)	м 1t /.М2 -ъ. п
в (s, /) = <	М | б (S) |2 ’ м I £ (s) | >0,
ч 0, если M|g(s)P = O.
Корреляционная функция B(t) имеет вид
B(0 = e-a,/,a2. е>0, либо В(1)-.е*,в‘
(0—действительное число).
величин таких, что М| (I)»» О,
1{.2Л{
It.2. КОРРЕЛЯЦИОННЫЕ ФУНКЦИИ
247
В первом случае спектральная функция
р g2 « X or*
= — arctg—+ —
Во втором случае
/?(Л,=={о/
х>₽,
Л<0.
11.2.3. Спектральная плотность и моменты. Если Sm *
= ^mdF (X) < оо, Где Д совпадает с [—я, л] в случае дискрет-»
л
ного времени и с (—оо, ос) в случае непрерывного времени, то
называется т-м спектральным моментом.
Теорема. X2mdF (X) < оо тогда и только тогда, когда кор-
л
реляционная функция B(t) имеет производную порядка 2m в нуле.
В частносги, если (в случае непрерывного времени) F(k) изме-
няется лишь на ограниченном интервале, то существуют спектраль-
ные моменты любого порядка н корреляционная функция имеет в
нуле производные любого порядка.
Для спектральной функции F(X) имеет место разложение Ле-
бега-.
F (X) = Fi (X) + Л2 (X) + Ft (X).	(2.6)
Здесь Fi(X) абсолютно непрерывна относительно меры Лебега, т.е.
| J f(X)dX (дискретное время),
Л(Х) = |
I j f(k)dk (непрерывное время);
I —оо
Ft(k) может меняться только скачками в конечном или счетном мно-
жестве точек X; F3(X) непрерывна и имеет почти всюду по
мере Лебега равную нулю производную. Производная F( (X) =я f (X)
абсолютно непрерывной компоненты спектральной функции F(X)
называется (матричной) спектральной плотностью.
Пусть fim(X) есть (I, т)-н элемент матричной спектральной
плотности f(X) векторного стационарного процесса g(f) = (£i(0. ...
• ••. 6*(0). Величина
является комплексным аналогом коэффициента взаимной корреляции
компонент Б;(0 и £,„(/) на частоте X. В случае действительного
248
ГЛ. И. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
П1.3.Т
процесса |(/), согласно (2.4), (2.5),
lPimW|2»
<?lm W +
cll W стт W ’
Где c/m(Z) = C,m(X),	(X) = Q,m (X)	(/, m-1, .... k).
Величина pim(X), называемая коэффициентом когерентности, описы-
вает максимальную взаимную корреляцию компонент &(<) и gm(/),
достижимую за счет сдвига по фазе одной компоненты относительно
другой. При этом величина соответствующего фазового сдвига равна
Glm М = arctg
Qlm W
clm
Если {£(/), t^T]—векторный процесс с абсолютно непрерыв-
ной спектральной функцией /(!) и если его матричная спектральная
плотность f(X) = rz(X) имеет при почти всех X ранг г (1 г Л),
где k — размерность процесса, то {£(/), t е Т} называется процес-
сом ранга г. Если г = k, т. е. detf(X) =/= 0 для почти всех X, те
{Е(0, t^T} называется процессом максимального ранга.
11.3. Спектральное представление стационарных процессов
11.3.1. Спектральное представление. Спектральным представле-
ниям корреляционной функции B(t) вида (2.1)—(2 5) соответствую®
спектральные представления самого процесса {£(/)> teT).
Теорема 1. Для всякого стационарного в широком смысле
случайного процесса со спектральной функцией Е(Х) имеет места
спектральное представление
рш<£(4
НО = J ‘ [cos /X dt] (X) sin /X 48 (X)] в случае дейст- ^0
А	вительнаго процесса,
где Л = [—л, л], если время I дискретно-, Л = (—оо, со), если
время t непрерывно-, интегралы понимаются как среднеквадратичные
пределы последовательностей сумм Римана — Стилтьеса; £(Х), t](X),
6(Х)—процессы с ортогональными приращениями такие, что
М£ (X) = Mt] (X) = МО (X) = О,
М d£ (Л) dlT (X)— dF (X), М dt) (X) dtf (X) — dC (X),
т f dQ (X), X = 0,
мd®(X)der(X) = 4	’
\ dC (X), X=/=0,
м dt) (X) der (X) = — м de (X) dt)r (X) = dQ (X).
Если потребовать, чтобы процесс £(Х) был непрерывен справа в
среднеквадратичном, то он определяется единственным образом с
точностью до подмножества множества й нулевой вероятности.
Процесс £(Х) в представлении (3.1) называется спектральным
процессом, соответствующим стационарному процессу й(Г),
II З.п	МЛ СПЕКТРАЛЬНОЕ ПРЕДСТАВЛЕНИЕ	249
Пусть Г — произвольное борелевское множество из Л. Положим
Ф (Г) = dj (Л).Случайная (векторнозначная) функция множества
г
Ф(Г) обладает следующими свойствам»
1)	Ф (Г( U Гг) = Ф (Г,) + Ф (Га), если П П Г2 =. 0;
2)	МФ (Г) Фг (Г) = ^dF (Я);
Г
3)	МФ (ГО Фг (Г2)» 0, если Г, П Г2 = 0,
4)	если Г= П Гр П Гт=0, то Ф (Г)= У Ф (Г,) и ряд справа
1-1	1-1
сходится в среднеквадратичном (Ф(-) называют спектральной ме-
рой).
Свойства спектральной меры позволяют дать эквивалентное
спектральное представление стационарного процесса
5 (/) - eiU di (Я) — J еш Ф (dX).
Л	Л
Если {5(0, / е 7} — скалярный процесс, то элемент e,ttdt<X)
представляет собой гармоническое колебание с угловой частотой X,
случайной амплитудой и случайной фавой, определяемыми случай-
ной величиной
di (Я) = I di (X) |ехр {i arg (di (Я))},
Спектральное представление показывает, каким образом процесс
5(0 складывается из элементарных гармонических колебаний.
Спектральные процессы £(Я) в представлении (3.1) подчинены
процессу (5(0, в том смысле, что 5ей;,где//&—простран-
ство значений процесса (5(0, * ® 7^, а 5 есть предел в среднеквад-
ратичном выражений вида iN
Пусть {5(0,	—скалярный процесс со спектральной функ-
цией Г (Я). Обозначим через 3?z{F} гильбертово пространство функ-
ций <р(л), интегрируемых с квадратом по мере, порожденной /'(Я),
скалярное произведение в котором имеет вид
(ф. Ф) — J ф (Я) ф (Я) dF (Я),
Л
а интегрирование ведется по [—л, я] либо по (—со, со). В 3?z{F}
не различаются функции Ф1(Я) и-ф2(Л), для которых
j 1ф1 (Я) — фа (Я)] {ф| (Я) — фа (Я)] dF (Я) =» 0.
Непосредственным следствием спектрального представления (3.1)'
является изометрический изоморфизм 77| и S?t{F}, так как для вся-
кого найдется единственная /с точностью до определенной
250	гл. II. СТАЦИОНАРНЫЕ ПРОЦЕССЫ	(П.3.2
выше	эквивалентноегн)	функция ф(Х) е S’» {Г} такая, что
4= J Ф (X) dg (X), и, обратно, если <р(X) е S?z{F), то J <р (Л) dg (Х)=>
Л	Л
= t]e^. Соответствие ч-«-‘-ф(Л) является изометрическим; если
Ч< ** <р<(X) (i = 1, 2), то
(Ш. Ч*) = Мч.Ч» “ f' (М Фа (X) М | dg (X) |2 =.
Л
= j ф| (X) ф2 (Л) dF (К) = (Ф1, ф2).
Л
Для векторных процессов аналогичным образом определяется
гильбертово пространство £z{F} zn Xfc-матриц ф(Х) (т произволь-
но, но фиксировано, k — размерность процесса), в котором скалярное
произведение имеет вид
(Ф, ф) » J [Sp ф (X) dF (X) фг (X)],
л
и если т = k, то и S?z{F} изометрично изоморфны.
11.3.2. Процессы с абсолютно непрерывной спектральной функци-
ей. Разложению Лебега (2.6) спектральной функции F(X) соответ-
ствует разложение процесса {£(/), t е Г) вида
6 (О = Ei (О + Ег (О + Ез (О	(3.2)
на три взаимно ортогональных стационарных процесса.
Процесс Ei(0 имеет абсолютно непрерывную спектральную
функцию Fi(X). Такие процессы характеризуются следующим обра-
зом.
Теорема 2. Стационарный р широком смысле случайный про-
цесс {£(!),/<= Г) имеет абсолютно непрерывную спектральную
функцию тогда и только тогда, когда он является процессом сколь-
зящего суммирования, т. е. найдутся функции (матрицы) С (/) такие,
что.
а)	в случае дискретного времени
ОО
ЕЮ = £ C(Z-s) go(s),	(3.3)
—WU	*	’ >
ОО	о®
где 22 | <? (О I2 < 00 (скалярный процесс) либо J2 Sp С (t) Ст (t) <
— ОО	ОО
< оо (векторный процесс) и go(/)—стандартная стационарная по-
следовательность с некоррелированными значениями, при этом
4-00
f (X) =. F' (X) = ~ С (X) Ст (X), С (X) = У е~Ш С Ю>
ч	— оо
б)	в случае непрерывного времени
ОО
6(0= Jc(f-s)dge(s), •	(ЗА)
-О»
1М.11
АНАЛИТИЧЕСКИЕ СВОЙСТВА ПРОЦЕССОВ
251
оо	оо
где ] С (/) |2 dt < оо (скалярный процесс} либо j Sp С (0 Ст (0Х
- со	-ОО
Xd/<oo (векторный процесс) и ^>(1)— стандартный процесс с орто-
гональными приращениями, при етом f (К) *= F' (Л) « ~ С (А) Ст (Л),
•J-ос
C(Z) = e~iUC(t)dt.
— ОС
Для векторных процессов можно указать другую характериза-
цию, учитывающую тот факт, чго спектральная плотность f(X) мо-
жет иметь различные ранги при различных А.
Теорема 3 Векторный стационарный процесс {6(0, 1&Т}'
имеет абсолютно непрерывную спектральную функцию тогда и толь-
ко тогда, когда он может быть представлен в виде суммы не более
чем k (k — размерность процесса) взаимно ортогональных процессов
скользящего суммирования
k
I (0 “ У Е, (0,	(3.5)
где в случае дискретного времени
Е|(Л- Е с, (/-3)^(3),
se Т
У SpCI(0cf(0<oo,
Ci (0—k X 1-матрицы, &(з)—стационарные некоррелированные и
взаимно некоррелированные l-мерные случайные последовательности,
а в случае непрерывного времени
ОО
1,(0“ \cl(i-s)dtl(s),
— СО
оо
J SpCt(i)C{(f)di<oo,
— ОО
СД0—k X l-матрицы, £;(з)—стандартные взаимно ортогональные
процессы с ортогональными приращениями.
В частности, если процесс 6(0 имеет абсолютно непрерывную
спектральную плотность и постоянный ранг г, то 6(0 = ЕЛО, где
%,(f) —один из описанных выше процессов.
11.4. Аналитические свойства стационарных процессов
и их траекторий
' 11.4.1. Среднеквадратичная непрерывность и дифференцируе-
мость стационарных процессов. Пусть {6(0, t« 7} — скалярный про-
цесс с непрерывным временем, B(t) и F(k)—его корреляционная и
спектральная функции соответственно. Среднеквадратичная непре-
рывность п дифференцируемость стационарных процессов, являю-
щихся частным случаем гильбертовых случайных процессов, опреде-
ляются так же, как для последних (см. п. 10.1.3).
252
ГЛ IT. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
ШЛЯ
Теорема 1. Для того чтобы процесс {Щ}, teT} был средне-
квадратично непрерывным, необходимо и достаточно' чтобы его кор-
реляционная функция B(t) была непрерывна в нуле. Для того чтобы
процесс {В (0, t «= Т} имел среднеквадратичную производную поряд-
ка т, необходимо и достаточно, чтобы существовала 2т-я производ-
ная его корреляционной функции В (t) в нуле либо, что эквивалент-
но, чтобы существовал конечный 2т-й спектральный момент
ОО
J X2mdF(X).
— ОО
В частности, если действительный скалярный процесс {Е(0,
t е Т} имеет конечный второй спектральный момент Sg =>
ОО
= MdF(K), то процесс т)(Г) = (|'(0. Е(0). где i'(t)
—оо
означает среднеквадратичную производную в t, стационарен в ши-
роком смысле, и его матричная корреляционная функция Вч (/)
имеет вид
	~ оо	оо	~ eltK A2 dF (X)	eitK ft. dF (X)
вп(0-	— oo	*-oo co	oo e'^iXd/^X)	e“fcdF(X). _~oo	—oo	_
11.4.2. Аналитические свойства траекторий. Свойства траекторий
стационарных процессов с непрерывным временем описываются сле-
дующими теоремами
Теорема 2. Если
2В(0)-В(0-В(-П = о(—Ш-,)	(4.1)
\ I In 1111V
при t-+0 для некоторого q > 3, то процесс {£(/), feT} с такой
корреляционной функцией стохастически эквивалентен процессу,
траектории которого с вероятностью 1 непрерывны на любом ко-
нечном интервале.
Условие (4.1) выполнено, в частности, если B(t) имеет вторую
производную в нуле
Замечание. Для 1ауссовских стационарных процессов утвер-
ждение теоремы 2 верно, если вместо (4.1) выполнено условие
B(/) = B(0)-Of-—А /->0,
kllnUH’/
Т1.6. ЭРГОДИЧЕСКАЯ ТЕОРЕМА
2S3
Теорема 3. Если
GB (0) - 4В (О - 4В (-t) 4- В (21) + В (- 2t) ~ О (—(4.2)
V11n|f | \4J
при t-^O для некоторого <? > 3, то процесс {5(0, te^T} с такой
корреляционной функцией стохастически эквивалентен процессу,
траектории которого с вероятностью 1 непрерывно дифференци-
руемы.
Условие (4.2), в частности, выполнено, если В(/) имеет четвер-
ную производную в нуле.
Замечание. Для гауссовских стационарных процессов утвер-
ждение теоремы 3 верно, если вместо (4 2) выполнено условие
eW-B<o) + a.+0(T]EL5).
где С — константа
Аналогичным образом существование производных высших по-
рядков у траекторий стационарных процессов связано с поведением
корреляционной функции в нуле.
Теорема 4. Если спектральная функция В (К) стационарного
процесса отлична от нуля лишь на конечном интервале, то суще-
С7вует стохастически эквивалентный данному процесс, траектории
которого с вероятностью 1 аналитичны.
11.5. Эргодическая теорема
Пусть {5(0, / е У} стационарный в широком смысле процесс,
В (Г) н F(k) — его корреляционная и спектральная функции соот-
ветственно, 5 (0 = \ eiM dg (X) — его спектральное представление.
Величины

1-0
1
2s + 1
Т == {0, 1, 2, ... }, s — целые положительные
числа;
s

5 (0> Т = {0, ±1, ±2, ...}, s —целые поло-
жительные
числа;
— \ 5 (0 dt, Т => [0, co), s — положительные числа;
S J
о
s
ИГ \ 5(0 di, Т = (—оо, оо), s — положительные числд,
ХО J
называются временными средними.
264
ГЛ. II. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
Пусть

Т-СО, 1, 2,
*
2ГТТ £“<'>• ’-W ±1. ±8.-».
t<—9
S
-~-^B(t) dt, Т = [0, оо),
О
в
A..jB(0rft Г = (-00, 00).
-s
Существование среднеквадратичных пределов временных сред-
них fs при s -► оо составляет содержание эргодических теорем, или
закона больших чисел для стационарных процессов.
Теорема 1.
l.i.	m. gs = £ (0) — £ (0 —),	lim Bs = F (0) - F (0—).
S-> OO	S -> OO
Теорема 2. Для того чтобы l.i.m. gs = Mg (0 — 0, необходимо
S -> OO
u достаточно, чтобы спектральной функция F(k) была непрерывна
в нуле.
Достаточным для непрерывности F(X) в нуле является условие
11m В (t) = 0. При достаточно быстром стремлении В (/) к нулю
t->00
при t-+<x> временные средние gs мыут сходиться к Mg(0 = 0 не
только в среднеквадратичном, а значит, и по вероятности, но и с
вероятностью 1.
Теорема 3. Если существуют константы К > 0 и а > 0 та-
кие, что
S-l	S-I
•jr £	.
t, il-0	S-f-l
в случае дискретного времени и
S в	S
В (t - и) du dt'= -1-	В(о[1
О О	- s
в случае непрерывного бремени, то gs сходится к Mg(0 = 0 с ве-
роятностью 1.	1
Замечание. Теорема 3 сформулирована для скалярного про-
цесса. В векторном случае вместо В (0 надо взять Sp В (0.
Достаточным для выполнения условий теоремы 3 является ус-
ловие В(0 < у[0 у >.0. « >.0 — некоторые константы.
11.6.1]	11.6. ЛИЙЕЙНЙЁ ПРЕОБРАЗОВАНИЯ (ФИЛЬТРЫ) 255
11.6. Линейные преобразования (фильтры)
11.6.1. Определение линейного фильтра. Пусть {£(/), tel) —
стационарный в широком смысле процесс, B%(t) и Г|(Л)— его (мат-
ричные) корреляционная и спектральная функции соответственна
Представим, что процесс £(/) (как функция времени /) поступает
на вход некоторого физического устройства и преобразуется им так,
что на выходе устройства получается новый (преобразованный) про-
цесс {т)(0. <еТ}- .
Преобразование А процесса £(/) в процесс т) (1) = Л£(/) назы-
вается допустимым линейным фильтром (или просто фильтром),
если процесс т)(() представим в виде
©°
А (/ — з) £ (з) (дискретное время),
— СО
оо	(6.1)
А (1 — з) £ (з) ds (непрерывное время),
-ОО
где А(/) —гХ A-матрицы (г — размерность процесса »)(/), А —раз-
мерность процесса £(()) такие, что
оо со
£ £А(/,)В(/а-/1)Лг(М<оо
п(0
(дискретное время),
СО ОО	(6.2)
J J А (#1) В (tn — <i) hT (t2) dtt dt2 < oo (непрерывное время),
— oo —о©
а сумма и интеграл в (6.1) понимаются как среднеквадратичные
ь
пределы соответственно сумм А (1 — s) £ (s) и интегралов
—а
ь
J А (1 — з) | (s) ds при а, Ь -»<х>. функция Л (!) называется (мат-
—а
ричной) импульсной переходной функцией фильтра А
3 а м е ч а н.и е. Название это связано с тем, что если на вход
фильтра подана импульсная функция (в случае непрерывного вре-
мени дельта-функция Дирака с особенностью в нуле), то на выходе
фильтра будет А(1).
Пусть
£ е (/) (дискретное время),
//(/Z)
J е“,лА(/)Л (непрерывное время)
есть преобразование Фурье импульсной переходной функции А(1).
Условие (6.2) эквивалентно условию H(i%) e2’2(Fj) Функция
H(ity называется (матричной) частотной характеристикой филь-
тра А
256
ГЛ. II. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
(114,2
Если процесс 6(0 на входе фильтра А имеет спектральное пред-
ставление 6 (0 =» ем dt,(k), то процесс т)(0 на выходе фильтра
А
имеет спектральное представление >1(0“ J емН (/X) d£(X).
Л
В частности, если 6(0 и т) (0 — скалярные процессы, то H(ik)=»
= |//(iX) le^’*, и |//(<Х)| называется коэффициентом усиления
фильтра (па частоте к), а ф(Х) —фазой фильтра.
Процесс т)(0 = Л|(0 является стационарным, причем
00 оо
ЕЕ h (i + и) (m - л) hT(m) —
— ОО —оо
Яц (0 =
л
«= eitKH (/Л) dF^ (X) Нт (/Л) (дискретное время),
—л
оо оо
h (t + и) (о — и) hT (о) du do =*
— ОО —оо
(6.3)
оо
eltK H(ik) dF^ (Л) Нт (ik) (непрерывное время),
—оо
dFn (X) = 7/ (ik) dF^ (к) flT (ik).	(6.4)
Если существуют спектральные плотности ft, (к) и ft)(к), то
fn (к) = Н (ik) (к) Нт (ik).	(6.6)
Пусть {6(0, /еТ} и {>1(0, t^-T}—два произвольных стацио-
нарных в широком смысле процесса со спектральными функциями
Fi (к) и Ft\ (к). Ответ на вопрос, является ли процесс т] (I) линейным
преобразованием процесса 6(0, дзет следующая теорема.
Теорема 1. Пусть процессы {6(0. t^T} и {п(0. / е 7} сов-
местно стационарны, т.е. (объединенный) векторный процесс {(6(0.
П(0). ^7} является стационарным в широком смысле. Для того
чтобы процесс {т](0. < е 7} мог быть получен из процесса {6(0 >
t е 7} с помощью фильтра с частотной характеристикой H(ik), не-
обходимо и достаточно, чтобы соответствующие спектральные и
взаимные спектральные функции были связаны соотношениями
dFn(x) = H(ik)dFi(k)HT (ik), dFin(k)^dFi(k)HT (ik). (6.6)
11.6.2. Примеры фильтров. 1. Полосовой фильтр пропускает, не
изменяя, лишь гармонические составляющие скалярного процесса
£(/) с частотами в заданном интервале (а, Ь). Его частотная харак-
теристика:
Н W = Х(а, Ь) W == ( о, Л (а’ Ь).
П.в.З] 11.6 ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ (ФИЛЬТРЫ) 257
Импульсная переходная функция h(t) (для конечных а и 6)!
1W _ iat
В соответствии с расположением интервала (а, 6) полосовой
фильтр называют низкочастотным, среднечастотным или высокочас-
тотным.
Если а = —оо или (и) b = оо, то импульсной переходной функ-
ции не существует.
m
к про-
I «о
цессу {§(/), / s 7} с непрерывным временем можно применить тогда
и только тогда, когда конечен 2m-й спектральный момент
ОО
s2m - J X2mrf^(X).
m
Частотная характеристика Н (ZX) =	В частности,
1-0
если А = d/dt, то Н (ZX) = ZX. Импульсной переходной функции не
существует.
3. Дифференциальные уравнения. Рассмотрим фильтр, опреде-
ляемый линейным дифференциальным уравнением с постоянными
коэффициентами £л)(0 =-Mg (/), где L иЛ1— дифференциальные
операторы:
1	m
Erfn-/	—,	dm-l
С, —---г, М=)в. а
I dtn~l	1 dtm~t
1-0	1-0
Предполагается, что существует 2т-й спектральный момент процес-
са £(/).	{
Если М (ZX)/L (ZX) е &2 {FeJ, где L (ZX) = £ (ZX)I-/ С/ и
m
М (ZX) =	Bj, то существует фильтр, соответствующий
/=о
рассматриваемому дифференциальному уравнению, с частотной ха-
рактеристикой TZ(iX) = Al(iX)/L(iX).
11.6.3. Физически осуществимые фильтры. В фильтрах, опреде-
ляемых равенством (6.1), значения процесса {т)(0> t^T} на выходе
в момент t могут зависеть как от прошлых моментов времени
(s < Z), так и от будущих (s > t).
Реальные физические устройства лишены возможности предвос-
хищать будущее. Поэтому, если фильтр моделирует реальный объ-
ект, его импульсная переходная функция h(t) должна удовлетво-
рять условию физической осуществимости:
h(t)=O, Z<0.	(6-7)
Фильтры, удовлетворяющие условию (6.7), называются физически
осуществимыми.
9 в. С. Королюк и др.
258	ГЛ. п- СТАЦИОНАРНЫЕ ПРОЦЕССЫ	[11.6.4
Теорема 2. Для того чтобы скалярный процесс {5(Л, t^T}
со спектральной функцией F{k) был реакцией физически осуществи-
мого фильтра, на вход которого поступает стандартная некоррели-
рованная последовательность {Со(0» t^T} (в случае дискретного
времени) либо стандартный процесс с ортогональными приращения-
ми {£o(f), t&T} (в случае непрерывного времени), необходимо и
достаточно, чтобы его спектральная функция F{k) была абсолютно
непрерывной, а спектральная плотность f(X) удовлетворяла условию
я
J In f (Л) dk > — оо {дискретное время),
Г	(6.8)
f lnf(l)dl ,
1 —; -д— > — оо {непрерывное время).
J 1 т «
—оо
При выполнении этих условий процесс {g(f), t^T} на выходе
физически осуществимого фильтра можно представить в виде
t	оо
g (f)= h {I — s) Jo («). 52 IЛ (012 < 00 {дискретное время)’,
—co	i«=»0
/	Г	(6-9)
g (/)«= \ h{t—s) dto (s), \ | h {t) Is dt < oo {непрерывное
—co	0
время).
Замечание. Второе из равенств (6.9) записывают иногда в
виде
J h{t-s)e{t)dt,	(6.10)
— ОО
где е(0—процесс белого шума, представляющий собой обобщен*
ный (см. § 12.5) стационарный в широком смысле процесс; Me{f)=*
= 0, Me(f)e(s) = 6(f— s), где 6(f) —дельта-функция Дирака. Это
позволяет интерпретировать g(f) как реакцию физически осуществи-
мого фильтра на белый шум.
11.6.4. Факторизация спектральной плотности. В случае дискрет-
ного времени спектральная плотность ffk), удовлетворяющая пер-
вому из условий (6.8), допускает факторизацию
(6.11)
где ф(е"^) является граничным значением аналитической функции
.	11 С	-1- z I
Ф (z) = V2« ехр <---- \ In f (1) —я----dk ?,
I 4л J e —• 2	I
> -л	<
11.6.4]
11.6. ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ (ФИЛЬТРЫ]
259
v. е.
ф(е-й,)= lim <p(pe_/x),
Pll
при этом
р	+°°
h(t) = J- \etM9(e~tK)dk, <р(в-й)=Ул(Пе-гм.
—Л	—оо
В случае непрерывного времени спектральная плотность f(X), удо-
влетворяющая второму из условий (6.8), допускает факторизацию
fW=~l<f(zX)|2’
(6.12)
где q>(iX) является граничным значением аналитической в правой
полуплоскости функции
<р (z) = -ул ехр
1 С 1пНМ / +	,
2л J 14-Х* Z-J-tz
при этом
оо
Л(0 = 4г t e-,wq>(a)dl.
ZJV J
— оо
Векторный аналог теоремы 2 имеет наиболее простой вид в том
случае, когда процесс {5(0. t^T} на выходе фильтра имеет макси-
мальный ранг, т. е. спектральная плотность f (X) имеет почти всюду
по мере Лебега отличный от нуля детерминант.
Теорема 3. Для того чтобы векторный процесс {5(0. t^T}
максимального ранга со спектральной функцией F(X) был реакцией
физически осуществимого фильтра, на вход которого поступает
Стандартная последовательность некоррелированных случайных век-
торов {£о(О, te.T} (в случае дискретного времени) либо стандарт-
ный k-мерный процесс с ортогональными приращениями {&>(0.
teT] (в случае непрерывного времени), необходимо и достаточно,
чтобы спектральная функция Г(Х) была абсолютно непрерывной, а
спектральная плотность /(X) удовлетворяла условию
In det [f (X)] dK > — oo
(дискретное времт(),
(6.13)
In det [f (X)] ,,	.
—	' 2 ал > — оо (непрерывное время).
I т~ л
8*
260
ГЛ. И. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
Щ.7.1
При выполнении Итих условий процесс {т)(0> на выходе фи*
вически осуществимого фильтра можно представить в виде
t	со
Ч (О = У, A (i — «) g0 (s), У Sp А (0 Аг (0 < со (дискретное
-оо
время),
t	оо	(6.14)
Ч(Л= Л (Z — 5) £0 (rfs), Sp А (/) Аг (/) dt < со (непре-
— оо	0
рывное время).
В случае дискретного времени спектральная плотность f(A),
удовлетворяющая первому из условий (6.13), допускает факториза-
цию
W = 27 <Р (е~*) <РГ Л)-	(6-15)
где матрица <р(еразмерности АХ А является граничным значе-
нием аналитической внутри единичного круга матрицы <p(z), одно-
значно определяемой условиями
lim <jp (ре /х) <рг (ре ~,х) = 2nf (А),
р*1	4
х	Л
Idet <р (0) |2 = (2л)* ехр j J In det Щ (A)] dA
k,	-Д
11.7. Процессы с дробно-рациональными
спектральными плотностями
11.7.1. Теоремы о факторизации. Спектральная плотность //А)
называется дробно-рациональной, если /(А) либо ее элементы fmi(k)
(в том случае, когда f (к) — матрица) допускают представление в
виде P(e~iK)/Q (e~tK) (дискретное время) либо P(ik)/Q(ik) (не-
прерывное время), где Р(г) и Q(z)—некоторые многочлены.
Процессы с Дробно-рациоиальными спектральными плотностями
представимы в виде процессов скользящего суммирования, а вектор-
ные процессы, кроме того, имеют постоянный ранг.
Основной результат для этого класса стационарных процессов
содержится в теоремах о факторизации.
Теорема Г. Если /(А)—дробно-рациональная спектральная
плотность некоторого стационарного процесса с дискретным време-
нем, то она допускает факторизацию вида
/(>) = <
_1 | Р(е~а) 2
2л I Q(e~iK)
^-В(е-*)Вт(е-*)
(скалярный процесс),
(векторный процесс),
(7.1)
%
11.7.2]
U.7. СПЕКТРАЛЬНАЯ ПЛОТНОСТЬ
261
еде многочлены
р	р
P(z) = PfZ1 и Q(z) = Д qtzl
не имеют нулей
внутри единичного круга, причем, если f(X) = f(—X), то коэффи-
циенты pt, 1=1, .... р, и qi, 1=1, .... q, могут быть выбраны
действительными; В (г) — kX r-матрица (А — размерность процесса,
а г — его ранг), элементы которой дробно-рациональны относитель-
но г, причем матрица В (г) аналитична в единичном круге.
Теорема 2. Если f(X) — дробно-рациональная спектральная
плотность некоторого стационарного процесса с непрерывным време-
нем, то она допускает факторизацию вида
f(X) =<
I I Р (IX) р
2л | Q (ZX) |
В (IX) Вт (IX)
(скалярный процесс),
(векторный процесс).
(7.2)
где полиномы Р (г) = V ptzl и Q (z) = V qtzl не имеют нулей в
l-а	1-)
нижней полуплоскости, а если к тому же f(E) — f (—X), то поли-
номы P(iz) и Q(iz) имеют действительные коэффициенты; B(z) —
AXr-мерная матрица (А — размерность процесса, г —его ране), эле-
менты которой дробно-рациональны относительно г и матрица В (г)
аналитична в нижней полуплоскости.
Теоремы о факторизации дают следующие спектральные пред-
ставления процессов с дробно-рациональными спектральными плот?
н остями»
Е<°-
—л
оо
но- \
(скалярный процесс е дискрет-
ным временем),
(7.3)
(скалярный процесс с непре-
рывным временем).
где Со (X) — стандартный процесс с ортогональными приращениями»
п
£ (1) = \ eiKtB (e~iK) dZo W (векторный процесс с дискрет-
J	ным временем),
I (1) = \ ел*В (1Х) d£0 (X) (векторный процесс с непре-
рывным временем).
где £о(Х)—r-мерный стандартный процесс с ортогональными прира-
щениями, г —ранг процесса {£(/), 1s 7}-
11.7.2. Примеры. Следующие ниже примеры скалярных стацио-
нарных процессов с дискретным временем Т = {0, ±1, ±2, ...} пол-
ностью описывают класс процессов с дробно-рациональными спек-
тральными плотностями.
262
ГЛ. II. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
[11.7.2
1.	Процессы скользящего среднего. Пусть {£<>(/),	У}—стан-
дартная некоррелированная последовательность и т, I = 0,..., р, —»
произвольный набор действительных величин. Процесс {£(0, t&T},
где = аа£о(0 4-ai£o(f—1) +... + а₽£о(/— р), называется про-
цессом скользящего среднего порядка р.
Спектральная плотность:
fW = -^-lao + aie~,A+ ... +оре_,'л|2.
Спектральное представление:
31
6 (О = J [а0 + в)е-iK + ..,. + аре~ f₽x] d£0 (Z).
-Л
В частности, если at ® а/(р +1) (/ = 0, ..р), то
f	Рг_____sin2 ((р + 1) Z/2)
2л(р+02 sin2 (Z/2)
Л
а г 1_е“Нр+1)х ...
U0=(FTiT Г [-с-Ц.............
—л
2.	Процессы авторегрессии. Пусть {£<>(/), feT}—стандартная
некоррелированная последовательность. Рассмотрим уравнение в ко-
нечных разностях для определения процесса {£(/), feZ}:
6 (0 + Ы (t - 1) + ... + bqt (t-q)~ <т2£0 (0.	(7.5)
Решение этого уравнения, если оно существует как стационарный в
широком смысле процесс, называется процессом авторегрессии по-
рядка q. Стационарное решение уравнения (7.5) существует, если
нули полинома Q(z) = 1 + biz +... + Ьягч лежат вне единичного
круга.	И
Спектральная плотность:
f (Х) — 2л| 1+ fc1e-lX+ ... 4-Z>,e-z’x|2 ’
Спектральное представление:
л
нп-
-л
_________dtp (Z) '______
1+ Ь,е~а+ ... +bqe~1^ ’
где £о (%) — стандартный процесс с ортогональными приращениями.
Замечание. Процесс авторегрессии первого порядка является
марковским в широком смысле
3.	Сметанная модель авторегрессии и скользящего среднего.
Комбинирование моделей авторегрессии и скользящего среднего при-
водит к уравнению
ё (0 + М (* - 1) + b2l (t - 2) + ... +М(<-<7) =
= Оо?о (0 + °i£o (t — 1) + ... + Hpjfl (t — р)‘ (7-6)
11.8.11	11.8. ПРОГНОЗИРОВАНИЕ, ИНТЕРПОЛИРОВАНИЕ 263
Если нули полинома Q (z) == 1 + 6iz +... + feoz’ лежат вне единич-
ного круга, то уравнение (7.6) имеет стационарное решение {£(/),
t е Т}, называемое смешанным процессом авторегрессии и скользя-
щего среднего порядка (q, р).
Спектральная плотность:
f ш “°+ а'е~1К + ’ ’ • + Г
М,== 1+M~ix+ ... +М"‘’*1 ’
Спектральное представление;
f еш вр + ще 1К+ ... +аре~1рк
J 1+ М~,Х+... +
Л	*
d&> (М.
Примечателен тот факт, что адекватное описание наблюдаемых
на практике явлений, моделируемых стационарными процессами, до-
стигается (смешанными) моделями авторегрессии и скользящего
среднего, порядок которых не превышает 2.
11.8. Прогнозирование, интерполирование и фильтрация
стационарных процессов
11.8.1. Общие задачи прогноза, интерполирования и фильтрации.
1) Прогнозирование (экстраполяция). Предположим, что стационар-
ный в широком смысле процесс {|(f), feT} наблюдается в мо-
менты времени teTo, где То = {teT: t^to} либо То =• {teTi
to — h^t^to}, h> 0. Требуется на основе этих наблюдений дать
иаилучший среднеквадратичный прогноз этого процесса в некоторый
будущий момент 1* = Л> + т (т>0), т.е. требуется найти такой
функционал г) (/*)	(1), 1 е То) от значений процесса В (О в
моменты t е То, чтобы
МIIЕ (Г) - т) (П IP < М15 (Г) - Tjt (t*) IP, (8.1)
где Tji (/*)-—любой другой функционал от значений процесса £(/)
в моменты t^To-
2) Интерполирование. Пусть процесс {£(f), teT} наблюдается
в моменты t <= То cz Т, и пусть t* е Т — такой момент времени, что
t*q£To и найдутся ЪеТц (i = 1, 2), для которых Л </* </г.
Требуется на основе этих наблюдений процесса {£(/), t е Т}
наилучшим в смысле среднеквадратичного критерия образом проин-
терполировать значение процесса {B(f), f е f} в момент t*, т. е. найти
функционал t) (t*) = gt- (g (t), t e To) от значений процесса В (О ®
моменты teTo, для которых имеет место соотношение (8.1).
3) Фильтрация. Пусть в моменты t е Тв cz Т наблюдается про-
цесс £(/) — s(t} -f-6(f), представляющий собой сумму полезного
сигнала s(t) и шума 0(f), где {s(f), tel) и {6(f), fe <}—стацио-
нарные и некоррелированные процессы.
Требуется отделить (отфильтровать) шум 6(f) от сигнала s(f),
т.е. найти функционал ц (t*) =»g(.(B(f), f е То) от значений про-
цесса В(0 в моменты f е Тв такой, что
М18 (Г) - n (f) Ц2 < М Цз (Г) - щ (Г)I2,	(8.2)
264
ГЛ. 11. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
Ц1.8.2
где 1ц(/*) — любой другой функционал от значений наблюдаемого
процесса |(Z) в моменты t е Те.
Левые части (8.1) и (8.2) называют соответственно ошибкой
прогноза и интерполирования и ошибкой фильтрации.
Общее решение всех сформулированных задач дается следующей
теоремой (верной, впрочем, для любых гильбертовых случайных про-
цессов).
Теорема. Пусть — о-алгебра, порожденная значениями
процесса {£,(?), fe?} в моменты. te.Te Наилучший в среднеквад-
ратичном смысле функционал, решающий задачу прогноза, интерпо-
ляции или фильтрации, имеет вид
Ч(П = М{НП1&гД.	(8-3)
К сожалению, практическая ценность этой теоремы невелика,
так как эффективное вычисление правой части (8.3) является чрез-
вычайно трудной задачей.
11.8.2. Задачи линейного прогнозирования, интерполирования и
фильтрации рассматриваются в более простой постановке: функцио-
нал 1](/*) ищется в классе линейных функционалов от значений про-
цесса {§(?), *еГ} в моменты t е 7"о, т. е.
П (Г) = 22 С (s) £ (s) (дискретное время) (8.4)
S €= Го
либо
1) (Г) =• J С (s) § (s) ds (непрерывное время). (8.5)
Г»
В случае непрерывного времени даже для сравнительно простых
классов процессов функция C(s) в (8.5) оказывается обобщенной.
Рассмотрение линейных функционалов вида
ОО
TJ (Г) = J etKt'C (/*) dt (X),
— оо
(8-6)
где £(Х)—спектральный процесс, соответствующий процессу {£(0»
ОО
I е У), т. е. etKt dt (X) = 5 (0, позволяет проводить анализ, не
— ОО
оперируя непосредственно обобщенными функциями.
Задачи линейного прогнозирования, линейного интерполирования
и линейной фильтрации допускают простую геометрическую интер-
претацию.
Пусть Н$—пространство значений процесса {Е(0, Ze Т} и
(Го) —замкнутое подпространство в Н%, являющееся замыканием
в линейной оболочки случайных величин (векторов) g(Z,)
(tj е Те, j = 1, .... N). Задачи линейного прогнозирования и интер-
полирования состоят в нахождении величин f)(Z*), являющихся про-
екциями неизвестных значений Jj(Z*) как элементов из Н% на под-
пространство Hi(Te)', задача линейной фильтрации состоит в нахо-
ждении величин f)(Z*), являющихся проекциями неизвестных значе-
ний s(l*) из подпространства /У, cfZj иа подпространство Hi(Te).
• 1.8.31	ИЛ. ПРОГНОЗИРОВАНИЕ, ИНТЕРПОЛИРОВАНИЕ	26в
Пусть стационарный процесс {£(/), t&T) с корреляционной
функцией наблюдается в момент /еТосТ, н пусть {*](/).
t е Т} — стационарный и стационарно связанный с {£(<), t s Т}
процесс, а —их взаимная корреляционная функция.
Если предположить, что оценка fj(Z*) значения ненаблюдаемого
процесса {ц (?), t е Т} в момент t* et имеет вид
fj (/*) »=
У Ср (s) £ (s)
«вГ,
С(s) £ (s) ds
т.
(дискретное время),
(непрерывное время),
то функция Сtt (/) (/е7«), называемая импульсной переходной
функцией оптимального линейного фильтра, может быть найдена как
решение линейного (интегрального) уравнения Фредгольма первого
рода с эрмитовым ядром:
У Cft (s) (s — t) «= В । (t* — I), t <= Го (дискретное
ы gtо	время),
с	(«-7)
I Cf, (s) B. (s — t)ds*=> В . (Г — /), t e Г- (непрерыв-
J	4	ное время).
* d
Так, например, если To «= {/e (—co, co): t M, <* = *о + т, то
второе из уравнений (8.7) принимает вид
tt
( Cft (a) (s — «) ds =	(i* — и), и < /fl;
после замены /о— и = о, fa— s=z последнее уравнение переходит в
А?
$ Cr(zo — г) (о — z) dz — ^(т + о).	(8.8)
о
Если решение интегрального уравнения (8.8)' существует и един-
ственно, то t\(z) = Cft (fa — z) не зависит от fa, откуда
J Ct (s) В6 (/ - s) ds = В^ (т + f), t > О, (8.9)
о
и прогнозирующий процесс имеет вид
t	те
J Ct(s)|(5)ds=$ Ct(s)£(/-e)ds
—co	0
S66
ГЛ. 11. СТАЦИОНАРНЫЕ ПРОЦЕССЫ	[11.8.3
С ошибкой прогноза
оо оо
о? = В6(0)-$ J Cx(s)Bi(t~s')C^r)dsdt^
О о
оо
"=Вп(0)~ J I Ct (Л) |2 dFl (Л),
— 00
оо
где (X) — спектральная функция процесса 5 (f),	(/Л) = J Сч (f) X
о
X«'w dt— частотная характеристика оптимального фильтра.
11.8.3. Метод Винера. При некоторых дополнительных предполо-
жениях интегральное уравнение (8.9) может быть решено методом.
Предположенным Н. Винером. Именно, пусть процесс {£(/), teT},
Т яп [О, оо), абсолютно непрерывен и его спектральная плотность
fj(X) допускает факторизацию вида
ОО
ft(Х) = ЪГ1 ’ w |2’ ’(2) = ЪГ $ e~ztfl (/) Re z > °*
о
и пусть f4j(X)—взаимная спектральная плотность процессов {5(f)»
t е Т} и {т) (/), tt=T}, причем функция ft(ik) •“* A)j(M/4PGM инте-
грируема с квадратом, так что
ФО	оО
^(0 = J eiUf^)dk = J «"*(&)?($)*-
— ОО	—со
со
b G + s) h (з) ds,
о
где
ОО
fc(f)— e'Ml:(fX)dA.
— оо
Уравнение (8.9) может быть записано в виде
СО _*	ОО	_
I Ъ (т +1 + з) — ( Ст (и) h (/ + s — и) du I Л (s) ds — 0, t > 0.
о L	о	J
Последнее равенство выполняется, если
ОО
ь (т + f) - Ct (и) h[t-и) du, t > 0,	(8.10)
о
11.8.41	31.8. ПРОГНОЗИРОВАНИЕ. ИНТЕРПОЛИРОВАНИЕ 267
либо
i
Ь (т +1) = J Сч (и) h (t - u) du, t > 0.
0
Уравнение (8.10) решается с помощью преобразования Лапласа!
ОО
с'|Т|-5‘“-ягд (вп>
— оо
где
со	со
Вх (z) =А b (т + х) e~zx dx = eixK —	—----dk.
J	I	<р(1Х)(а-1Х)
11.8.4. Метод	Яглома. Как	отмечено в	п. 11.8.2, импульсная	пере-
ходная функция Ст (!) оптимального фильтра может не существо-
вать (точнее, может существовать лишь как обобщенная функция).
В таких случаях оказывается естественным обращение к частотной
характеристике (XX) соответствующего оптимального фильтра.
Так, если 7'о={/е(—оо, оо):	t* = fo+t, j(0 ““
сю	оо
= ^e,MdCj(Z), 1] (i) =»	elM d£n (А)— стационарно связанные про-
— ОС	— со
цессы, имеющие спектральные плотности fj(X) и f4(X) соответствен-
но, и (X) — их взаимная спектральная плотность, причем процесс
£(/) наблюдается на Тв, то ищется частотная характеристика CT(i7.}
оптимального линейного фильтра, т. е. такая функция, что для t* =.
•= tB + Т
со	со
f) (П - J etM*Cx (,Х)	(X), J I С, (iX) |2 fj (X) dX < ОО.
— co	“CO
Метод Яглома дает процедуру, позволяющую найти частотную
характеристику как функцию, однозначно определяемую некоторыми
условиями.
Теорема Яглома. Пусть спектральная плотность fg(X) огра-
ничена и выполнены условия:
СО
а)
— оо
б)	Cx(iX) является граничным значением аналитической в пра-
вой полуплоскости функции Сч (а), возрастающей при |z|-»oo не
быстрее некоторой степени Izl;
в)	функция ф(1Х) в (X)—CT(iX)fj(X) является гранич-
ным значением аналитической в левой полуплоскости функции ф(г),
ОО
для которой | ф (х + iy) ]2dy <оо для х < 0.
— ОО
?68
ГЛ. II. СТАЦИОНАРНЫЕ ПРОЦЕССЫ	И 1.8.4
Тогда однозначно определяется частотная характеристика Ct М)
оптимального фильтра, оценивающего величину
Т](Н = т](^о4-т).
При втом среднеквадратичная погрешность оптимальной оценки
Пример. Рассмотрим задачу чистого прогноза процесса {£(0.
teT}, спектральная плотность которого дробно-рациональна, т.е.
6(0 =»I)(0.
Ц(А) 2n|Q(iZ)|a’
где P(z) и Q(z)—многочлены степени р и q соответственно, нули
которых лежат в левов полуплоскости.
Если z^p) и 2^ — нули многочленов P(z) и Q(z) соответствен-
но. то имеют место представления
Р (г) = а П (z “ «’/P,)O/» Е °/ “ А
/-1 /“
Q (2) — b Д (а -	£ ₽/—?.
Пусть
Pt («) - <-0₽а Д (* +
Q, (z) - (-I)n b П (* +
/-1
Аналитическое продолжение функции ф (Й.) — [еЛт—Сх (Й)	(X)
имеет вид
♦w-b"-c,wl^gSg.
Условия теоремы Яглома требуют, чтобы функция Ct(z) имела вид
Сх(г)~Мх(2)/Р(2),
где Мх(х) — многочлен степени mt р — 1 такой, что
d'Mx (z)
del
I r dl (e^p (z))
dx1 2=2
/•nO, . .., P*~ 1, k ™ 1, .. Ле
11.9.2]	11.9. РАЗЛОЖЕНИЕ СТАЦИОНАРНОГО ПРОЦЕССА 269
11.9. Разложение стационарного процесса
11.9.1. Разложение Вольда. Пусть То={1<=Т: t < U
—замыкание линейной оболочки случайных величин, поро-
ждаемых значениями скалярного процесса £(/) для	(см.
п. 11.1.1). Обозначим > Q	Для подпространстваffg
/О €1 Г
имеют место следующие возможности:
Я£ = Я£ или
В последнем случае крайней является ситуация, когда = 0 (три-
виальное пространство, состоящее из нулевого вектора).
Если = то процесс {£(1), f еТ} называется сингулярным
(или детерминированным).
Если есть собственное подпространство пространства то
процесс {£(1), (еГ) называется недетерминированным.
Если /7| = 0, то процесс {£(0. feT} называется регулярным
(или вполне недетерминированным). С точки зрения задач (линей-
ного) прогноза сингулярность процесса {ЕМ, 1^7} означает, что
его линейный прогноз fjt (1) = f)(t*) (1* = f 4-т, т > 0) на любое
время т вперед безошибочен, т. е.
МО-I (* + *)•
Если же процесс {£(/), feT) регулярен, то наилучший линей-
ный прогноз бесконечно удаленного будущего состоит лишь в ука-
зании среднего, т. е.
lim (jt (!) = ME (1) e 0.
т-»«>
Пусть {£(/), t&T) и (ч(/), /еТ}—стационарные процессы
с пространствами значений я£ и соответственно. Процесс {п(1),
teT) вполне подчинен процессу {£(1), селя ^ц{0 а/^{0
для всех fe Т.
Теорема ! (разложение Вольда). Всякий стационарный про-
цесс {E(f), feT} может быть представлен и притом единственным
образом в виде
Е(О = Е’(О + Г(О.	(9.1)
где Es(0 и Ег(0—некоррелированные между собой процессы, впол-
не подчиненные процессу {£(/), f е Г}, причем процесс E*(f) сингу-
лярен, процесс E'(f) регулярен.
Величины |r(f) являются перпендикулярами в Н%, опущенными
из Е(1) на подпространство Я|, а величины &’(f)— соответствую-
щими проекциями.
11.9.2. Регулярная и сингулярная составляющие стационарного
процесса. Пусть F(A) —спектральная функция процесса {§(/),
t е Т) и Г (А) = Ft (А) + Fx(M 4- F3(K) — ее разложение Лебега, где
Fi(k) абсолютно непрерывна, Ег(А) кусочно-постоянна, Fa (А) непре-
рывна и почти всюду по мере Лебега имеет равную нулю производ-
ную. Функция Fi (А) является спектральной функцией регулярной
270
ГЛ. 11. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
[ti.9.2
составляющей £r(f), а	— спектральной функцией син-
гулярной составляющей 5s (0- Сингулярная составляющая может
быть прогнозирована в принципе безошибочно.
Пример. Пусть {§(0.	—стационарный процесс с дис-
кретным временем, спектральная функция которого кусочно-по-
стоянна: Fg(k) = /?2(Х). т.е процесс сингулярен.
Ищется линейный прогноз fix (io) процесса {£;(/), /eZ} по на-
блюдениям в моменты s to, т. е. требуется найти a* (k 0) та-
кие, чтобы ошибка прогноза
|оо	2
a£(.(0-k)
к-0
была минимальной.
Так как ошибка прогноза может быть представлена в виде
л
В5(о)“ J S
~л к, 1—0
и Fj(X) кусочно-постоянна, то можно указать аь такие, что
я
В6(°)- $	aftaze,y-i)i'dFE(%} = 0,
-л к, 1-0
<г. е. прогноз может быть сделан в принципе безошибочно.
Сингулярными являются скалярные процессы, у которых f(k) =
"-^-^(Л) обращается в нуль на множестве положительной
меры Лебега, либо
л
In F, (Л) dk = — то (дискретное время),
-л
co t
d% — — оо (непрерывное время).
— оо
Л
Если же J tn f'i (Л) dh. > — оо
-я
регулярная и сингулярная составляющие таких процессов равны
6Г (0 = J eiKt d? (X),	(t) = J eiM dt, (Л),
₽o	po
где £ (/) = ^ eiw (Л)—спектральное разложение процесса ft(0.
t e T}; po c A — множество нулевой лебеговой меры, на котором со-
средоточены точки разрыва (роста) функции Fz(h) + Fj(X); ро— до-
11.10.1	11.10. ЗАДАЧИ ЛИНЕЙНОГО ПРОГНОЗИРОВАНИЯ 271
волнение ро в Л. Любой векторный стационарный процесс ранга 1
либо регулярен, либо сингулярен.
Так как сингулярная составляющая стационарного процесса мо-
жет быть представлена в принципе безошибочно по бесконечно уда-
ленному прошлому, наибольший интерес в задачах прогнозирования,
интерполяции и фильтрации представляют регулярные процессы
Теорема 2. Для регулярности скалярного стационарного про-
цесса необходимо и достаточно, чтобы он был реакцией физически
осуществимого фильтра, на вход которого поступает стандартная
некоррелированная последовательность (в случае дискретного вре-
мени) либо стандартный процесс с ортогональными приращениями
(а случае непрерывного времени).
Условие теоремы 2 необходимо я достаточно для регулярности
векторного процесса максимального ранга. Процессы с дробно-ра-
циональными спектральными плотностями регулярны.
11.10. Решение задач линейного прогнозирования,
интерполирования и фильтрации
11.10.1. Линейное прогнозирование (экстраполяция). Пусть {£(!),
teT} — скалярный регулярный процесс с дискретным временем,
его спектральная плотность, £(/) =*
«Л
Я	С
“ J е,А/ d£ (К) — спектральное представление, 5 W “ С (/ —
—Я	оо
—s) Со (з) — представление в виде процесса скользящего суммирова-
СО
НИЯ, £ I С (/) Is < со.
Теорема 1. Наилучишй линейный прогноз £? (1) значения
+ (т > 0) по наблюдениям £(s) (s t) на время т вперед
я
1,(0-
-Я	'
(ЮЛ)
яде
ф(в-И,) = £ с (t)e~™ «М<ГЙ)= V С (t)e-1»
t=0
Ошибка прогноза о2“М1+ т) — (1) |2 равна
т-1	(	р	") т-1
<Г>£с(з)=-2лехр J lnf(A)dl| £|daf, (10.2)
««•о	(	—я	' в—о
где da определяются из соотношения
ехр l-j- г" etr& In f (Л) dnzn,
п— 1	—я	'	л—0
272
ГЛ. 11. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
111.10.1
В частности,
f	Л	ч
и? = 2л ехр < In f (к) dk г 
'	-л	'
(10.3)
»• е- о?/(2л) есть (непрерывное) среднее геометрическое спектраль-
ной плотности.
Пример 1 Пусть {£(<), е= Т) (7 = 0, ±1, ±2, ...) —мар-
ковский в широком смысле процесс с корреляционной функцией
б (0 =	।41 (а > 0). Спектральная плотность f(X) имеет вид
/W
оЧ1-Р2)
2л[ 1 — ₽e_,k|2 ’
₽ = е““.
Наплучшнй линейный прогноз на время т вперед дается форму-
лой
л
ft (О =" J dg (1) =	(О.
-л
ГД® g(X)—спектральный процесс, соответствующий процессу {£(0,
1 с= 7). Ошибка прогноза
о2 = а2(1 — e-2crc).
Пусть {§(/). /е?)—векторный регулярный процесс максималь-
ного ранга с дискретным временем, f (1) = -^-Ч|(в~Л)фГ	—
л
спектральная (матричная) плотность, £ (0 “ dg (X) — спек-
—л
тральное представление и матрица <p(z) разлагается в ряд
СО
SPOOLS b (п) zn.
n=0
Теорема 2 Наилучший линейный прогноз |т (0 ня время У
вперед дается формулой
л	г	Т-1	1
L (/) — $ е№«+т) | Ф(е- 1А) _ £ ь e-ltA I ф-Цв-А)^ (X).
—л	L	п—0	J
<1М>
Матрица ошибок прогноза на один шаг вперед
G = <p(0)q>/‘(0).	(10.5)
Пример 2. Пусть {£(/) = (Ь(0.......£*(0L * «П — смешан-
ный процесс авторегрессии и скользящего среднего, спектральная
Плотность которого имеет вид
/ (X) = ± б’1 (a~ix) A (a’AJ GAr (е-Л) ВТ~1
11.10-Ц	11.10 ЗАДАЧИ ЛИНЕЙНОГО ПРОГНОЗИРОВАНИЯ	273
где A(z) и В (г)—матричные многочлены, Д(0) = В(0) —1 (еди-
ничная k X ^-матрица), det G =А- 0. Здесь у(е-л) = B-l(e-rt)X
X Д(е-^)б1/2. Наилучший линейный прогноз (/) дается формулой
ОО
= £ c„ga-n).
п «0
J ф 1 (z). Матрица ошибок прогноза на один шаг вне-
оо
где Сп определяются как коэффициенты разложения^ C„zn =
/ 00
MS М"
\№Т
ред совпадает с G
В частности, для процесса авторегрессии (Л(г) = /) иаилучший
прогноз на один шаг вперед определяется по значениям £(/),
— 1), .... &(/ — <?)> где q— степень многочлена В(г).
Пусть £(/) —скалярный регулярный процесс с непрерывным вре-
менем, / (Л) = -т— [ <р (<Л) I2 — его спектральная плотность, £(/) =
со	f
=	(X) — спектральное представление, £ (f) = С (/ —
— CO	—DO
—s) </£ (s) — представление в виде процесса скользящего суммиро-
вания
Теорема 3. Наилучший линейный прогноз It (1) на время г
вперед дается формулой
ОО
6, (0 = J	ds W. (10-6)
где <р (1Л) = J С (s) ds. ф^ = J C (s) e ds. Ошибка прог-
o	т
ноза
t
o2 = ^[a(s)|2ds.	(10.7)
о
Пример 3. Пусть {£(0, I е 7}—процесс авторегрессии, спек-
згральнай плотность которого имеет вид
(Х) = 2л | Q («Л) |2 ‘
где Q(z) —полином степени <?>1, корни которого Р/ (/ = I.?)
Простые и имеют положительные действительные части. Наилучший
274
ГЛ. 11. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
II1.1C
линейный прогноз на время т вперед дается формулой
-ОО /=1	1^1
1-1 <¥=/
11.10.2. Интерполяция пропущенного значения. Пусть Т = {0,
±1. ±2, ...} и {£(0. te7}—стационарный процесс с абсолютно
непрерывной спектральной функцией F(X). Предположим, что из-
вестны значения B(s) (s to). Требуется найти нанлучшую (линей-
ную) интерполяцию f (to) пропущенного значения £(to). Величина
М [6 (io) -1 (io)] 1ВГ (io) - lT (io)l =
f а2 (скалярный процесс),
l С (векторный процесс)
называется ошибкой (матрицей ошибок) интерполяции пропущенного
значения.
Теорема 4. Если {£(/), t е Т} — скалярный процесс и
я
rw
< оо, где f(X) —его спектральная плотность, то наилучшая
линейная интерполяция f (to) пропущенного значения i(to) дается
формулой
я
t(io)« J
-Л
(Я ч “I-|
rwJyM Lew. (w.8)
—л *
где £(X) —спектральный процесс для {|(i), isТ}. При этом ошиб-
ка интерполяции
С я	ж -1
i 7w) •	(,м»
•Я	'
Пусть {5(t),	—векторный процесс и f(M—его матрич-
ная спектральная плотность. Обозначим через р-1>(Х) обратную
матрицу к /(Я.) (если detfW=?£0) либо обобщенную обратную
(если detf(A).= O). Последнее означает, что f<-l) (X) «= u(X) +
+ П(Я)]-! — П(Х), где П(Х) однозначно определяется соотношения-
ми f (Х)П(Х) = П (ХЩХ) = 0 и П (X) = П2(Х).
Теорема 5. Если {£(/), teZ)—векторный процесс и мат-
рица f(~,}(K) интегрируема, то наилучшая линейная интерполяция
f (Го) пропущенного значения £(М дается формулой
Я	г (	п	х(-1)	-]
к)= (е'«4/~<4- С|<-П(х,)л[• /<-“(*)Lew. аыо)
J	II лЛ	J	I	I
-Л	u >	-Л	*	J
11.10.3]	11.10. ЗАДАЧИ ЛИНЕЙНОГО ПРОГНОЗИРОВАНИЯ
275
где —спектральный процесс для {МО, При ST0M мат"
рица ошибок интерполяции
( п	у-П
О = 4л2 Н f-1) (X) d7. 7	.	(10.11)
*-я	'
Пример 4. Пусть {МО. Л — марковский в широком смыс-
ле процесс со спектральной плотностью
f(M =—. 1 " р2 П ,2 . Р = «'". а>0.
2л|1-ре-<х|
Наилучшая линейная интерполяция | (to) пропущенного значения
дается формулой
л
f (4) - J -J-L- И + е“а] dg (X) =
-Л
«= -ГГЙ5-6 (*о + 1) + -Лот Е('о - I).
1 т Р	1 т Р
Ошибка интерполяции
GS - (1 “₽2)/d + РО-
11. 10.3. Интерполирование значений стационарного процесса с
непрерывным временем по наблюдениям в равноотстоящие дискрет-
ные моменты. Пусть {МО. Л—скалярный стационарный процесс
с непрерывным временем, спектральная функция F(X) которого аб-
солютно непрерывна. Предположим, что наблюдаются значения Ми)
(п = 0, ±1, ±2, ...).
Теорема 6. Наилучшая линейная интерполяция t (/) процесса
{МО. по наблюдениям Мп) (и = 0. ±1. ±2,...) дается фор-
мулой
СО	✓ оо	ч
£ (0 - $ а™ ( f (X -J- 2л/) е“ ^+2лг>) х
«-О0	'/«в —со	'
(оо	X — 1
£ f (X + 2nZ) J dg(X), (10.12)
I — -оо	'
где f(K)—спектральная плотность процесса {МО. t&T) и MX)—
его спектральный процесс. Ошибка интерполяции а2=М | £(/)— £(/) |*
равна
©О
—оо
✓ ОО
!-( 2] НЛ + 2Я0
-ОО
оо
У, f(X + 2«o)
f (X) dX.
(10.13)
276	ГЛ. 11. СТАЦИОНАРНЫЕ ПРОЦЕССЫ	Н1..0.4
В частности, если о2 = О, то процесс {В (О, teT) может быть
безошибочно проиитерполирован по значениям £(п) (п = О, ±1,
±2, ...). Для этого необходимо и достаточно, чтобы f (X) обраща-
лась в нуль вне отрезка [—л, л]. В этом случае имеет место фор-
мула Котельникова — Шеннона
са
1(0=У-""(/~° EV).	(10.14)
Z-J л (у — г)
—оо
11-10.4. Линейная фильтрация. Задача фильтрации — выделение
сигнала s(t) по наблюдениям стационарного процесса £(/) =
= s(0+0(0 — имеет простое решение в том случае, если наблю-
дению доступны значения процесса 6(0 иа всем временном интер-
вале.
Пусть {6(0,	—скалярный стационарный процесс, имею-
щий абсолютно непрерывную спектральную функцию/^ (X), и пусть
fl (X), f, (X) и/е(Х)—спектральные плотности процессов 6(0, «(0
н 6(0 соответственно.
Теорема 7. Частотная характеристика оптимального фильтра
для выделения сигнала s(t) имеет вид
fl W
а среднеквадратичная ошибка фильтрации равна
(10.16)
А
Пусть {6(0, tc=T}—векторный стационарный процесс макси-
мального ранга с абсолютно непрерывной (матричной) спектральной
функцией F|(X), н пусть (X), 7«(Х) и 7е('Х)—производные спек-
тральных функций Ге(Х), fs(X) и Ге(Х) по мере p(dX) = SpdFj (X),
т. е.
J dFi (X) =	(X) р (dX), J dFs (X) = J fs (X) Ji (dX),
Г	Г	г	г
JdFe(X)-pe(X)|i(dX).
г	г
Теорема Я Частотная характеристика оптимального фильтра
для выделения сигнала s(t) имеет вид
Я(<Х) = МХ)№(Х),	<1017)
а матрица ошибок фильтрации равна
jLwff’MfeWkitdX).	(10.18)
А
Пусть 6(0 =s(0+ 0 (0—регулярный стационарный процесс
(имеющий максимальный ранг в данном случае), f|(X), f*(X)-4
11.ii.tn
11.11. СТАЦИОНАРНОСТЬ В УЗКОМ СМЫСЛЕ
277
спектральные плотности процессов |(f) я s(7) соответственно,
fs% (Z) — взаимная спектральная плотность я ^(Z)«=fs5
Через £т(7) обозначена нанлучшая в среднеквадратичном оценка
сигнала а(г-|-т) по наблюдениям процесса £(«) (u^l). В случае
т > О говорят о фильтрации с прогнозом, а в случае т < 0 —
о фильтрации с запаздыванием. Теоремы 7 и 8 описывают опти-
мальные фильтры в случае сколь угодно большого запаздывания.
Теорема 9. Пусть частотная характеристика fix(ZZ) оптималь-
ного фильтра для оценки сигнала s(t-f-T) по наблюдениям £(и)
(и t) имеет вид

У*, в fs 4- т) е~£Мф 1 (е-/х) {дискретное время),
S-0
г°®	т
I \ e~lKs а (з + г) ds I ф-1 (Ш {непрерывное время),
L®	J	(10.19)
где ф(е"|Х). ф(А) — компоненты факторизации спектральной плот*
нести ftw.
«
•2~ \ в1** g (Х)ф(е-а)Л {дискретное время).
eas g (Z) ф (1Z) dZ {непрерывное время).
Тогда, если Е (0 “ j eft< d£ (Z) — спектральное представление
A
процесса (0. t ® Т), то
в, (0 — J etMHT (1Z) dC (Z).	(10.20)
А
11.11. Стационарные в узком смысле случайные процессы
11.11.1.	Определение. Пусть {£(<)> 1еТ} — случайный процесс
со значениями в измеримом пространстве {X, ®}, Т — одно из мно-
жеств вида {0, ±1, ±2,	{0, 1, 2, ...} (дискретное время) либо
{—со, оо), [0, оо) (непрерывное время).
Процесс {5(0, tey называется стационарным в узком смысле,
если для любых 1,1* е г (k— 1,..., n, п > 1) таких, что 4-1 е Т,
совместное распределение в {£", 8"} случайных величин {E(/i + l),
E(7t + 0....Е(1я + f)} не зависит от t. *
Иными словами, процесс стационарен в узком смысле, если его
конечномерные распределения не меняются при допустимых
I#* 4; I а Г, k =ч 1.п) сдвигах времени.
278
ГЛ. И. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
111.11.2
Процесс {5ДО, 1еТ} стационарен в узком смысле, если для
произвольной ©’-измеримой функции f(xi, Хг, ..., х„) (йе1) ма-
тематическое ожидание М{(5(6 + 1), 5(6 + 0. . • •. 5ДО + 0) не
зависит от t, каковы бы ни были t, tn (k = 1.п, п 1) такие,
что tn + t ^Т.
Если 5(1)—стационарный в узком смысле случайный процесс,
f (х) — ©-измеримая векторнозначная функция, для которой
м If (5 ДО) Is < 00 >	то процесс т]ДО =*f(i(t)) стационарен в
широком смысле.
11.11.2.	Примеры. 1. Пусть Т = {0, ±1, ±2, ...} либо 7 = {0,
1, 2, ...} и {£(/), t е Т}—последовательность независимых и оди-
наково распределенных случайных величин. Процесс {5 ДО, t е 7}
является стационарной в узком смысле случайной последователь-
ностью.
2.	Пусть (5ДО,	—стационарная последовательность, опре-
деленная в примере 1, и пусть at (1е7) —последовательность дей-
ствительных или комплексных чисел такая, что ряд £ asg (t 4- а)
s^T
(s + f e Г) сходится по вероятности (и, следовательно, в силу
независимости 5(s) с вероятностью 1). Процесс {т](0, t^T}, где
т) ДО = as5 (1 + s), является стационарной в узком смысле слу-
s е г
чайной последовательностью.
3.	Пусть Т = {0, 1, 2, ...} либо Т = [0, оо) и {5(0, / @ 7} —
марковский процесс со значениями в {Ж, ©} (Ж — компактное метри-
ческое пространство), имеющий стационарное распределение р (•)
(инвариантную меру).
Если распределение 5(0) совпадает с распределением р(-), то
{5(0,	— стационарный в узком смысле случайный процесс.
4.	Пусть {т)(0, t е 7}, Т «= [0, со), — однородный процесс с не-
зависимыми приращениями. Если f(u, х)—непрерывная функция,
для которой
М | f (и, tj («)) | du < со,
о
то процесс
ОО
{5(0. te Г), где 5(0	(«. П (* + «)-Ч(0М«.
о
является стационарным в узком смысле.
5.	Гауссовский стационарный в широком смысле процесс явля-
ется стационарным и в узком смысле.
6.	Пусть {5(0.	—последовательность случайных векто-
ров, стационаоная в узком и широком смысле одновременно.
Процесс {цл(0. *е7}, где цлДО = 5ДО5Г(1 4-Л), <4- h& Т н
h фиксировано, является стационарной в узком смысле последова-
тельностью случайных матриц.
11.11.3. Преобравоваиия, сохраняющие меру. Пусть {5(0в Л—
стационарный в узком смысле случайный процесс со значениями в
{Ж, ©}. Через Жг обозначим пространство последовательностей
х =.{,„, х-i, х0, х(, ...} в случае дискретного времени либо про-.
J1.H.3J	11.11. СТАЦИОНАРНОСТЬ В УЗКОМ СМЫСЛЕ	279
странство функций x(t), fe(—со, оо}, в случае непрерывного вре-
мени 7; через 8 обозначим минимальную сг-алгебру в Хт, содержа-
щую цилиндрические множества, и пусть Pj — мера на 8, индуци-
руемая процессом {£(0, tsTj, определенная на цилиндрических
множествах из 8 равенством: для любых А* ей (/s еТ, k = 1, ...
.... л, п > 1)
Р£ {х <= х (fi) <= А......x(in)e=4re} =
= Ptt(G)E4
Пространство 1<£т, В, Р»1 называется представлением процесса
{6(0, /еП-
Для любого t 0, i s 7, преобразование St пространства Хт в
себя, называемое оператором сдвига времени, определим следующим
равенством:
ух е Xi = Stx, Xf (s) = x (t + s).
Имеют место равенства
StSs~.$f+s, So = 7,	(11.1)
где I — тождественное преобразование.
Условие стационарности процесса flj(0, 7еТ) означает, что
для произвольного цилиндрического множества С G Й
PS(C)-P6(SftC).
Пусть {‘У, 0, ц} — некоторое пространство с мерой и S — изме-
римое отображение {fy, S} в (У, &}. Преобразование S называется
сохраняющим меру, если для любого А е g
р(5-*Л) = р(Д),	(11.2)
где 5-1Л есть полный прообраз множества А при отображении S.
Преобразование S называется обратимым, если существует -та-
кое измеримое преобразование S~‘, что SS~‘ = S~*S = I. Преобра-
вование S-1 называется обратным к S.
Процесс {Е(0, teT} стационарен, если оператор сдвига вре-
мени S, в Хт сохраняет меру Pg.
Пусть (й, ®, Р) —основное вероятностное пространство, на ко-
тором определен процесс {£(0, teT}. Поставив каждому юей в
соответствие траекторию §(•, ®) процесса {£(0 ==£(/, «), teT),
можно определить измеримое отображение пространства (й, ©)
. в пространство (ST, 8).
Если Ту1 —отображение из (Хг, 8) в (й, ©), областью опреде-
ления которого является область значений преобразования то
преобразование St пространства Хт индуцирует взаимно однозначное
преобразование St пространства й по формуле
(11.3)
Преобразование Sf сохраняет меру Р. В свою очередь, преобра-
зование St порождает преобразование случайных величин со значе-
ниями в (£, 8): для любой случайной величины £(®) ej
(11.4)
280
ГЛ. 11. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
111.11.4
Всякий стационарный в узком смысле процесс может быть пред-1
ставлен в виде
1(0 = §16(0).	(Н.5)
В частности, если время t процесса 5(0 дискретно, то
6 (О “§15(0).
(И.6)
11.11.4. Эргодические теоремы. Теория стационарных в узком
смысле случайных процессов в той ее части, которая существенно
использует оператор сдвига, может рассматриваться как частный
случай эргодической теории сохраняющих меру преобразований не-
которого пространства с мерой в себя.
Одним из наиболее важных свойств стационарных в узком
смысле случайных процессов {5(0, t^T} является существование
- предела временных средних:
1-1
ч+(0 = 7 ^/£1(8)1 Г={0. ±1.±2,...) либо Г = {0, 1,2,...),
s—0
t
П* (О - Е 1 R (S)L 7 = t°- ± 1- ± 2. • -
t '*	(Н-7)
Ч+ (0 =-J- J f [5 (s)l rfs. T = (— оо, оо) либо T «=‘[0, oo),
0
t
n± (°V(s)1 ds’т *= °°>
~t
при^	где f — ©-измеримая (векторнозначная) функция и
Обозначим -через & с: ® и S-1 с: е с-алгебры, порожденные
случайными величинами 5 (s) для и | s | t О соответствен-
но, и пусть
@О0=р	П т5±*.
t^T	|еТ
Теорема Биркгофа. Если {5(0, 1 е 7} — стационарный в
узком смысле случайный процесс, то с вероятностью 1 существуют
пределы
lim т)+ (0 — tj+, lim tj* (0 = т)*,	(11.8)
!-»«>	t-»cc
причем
n+ == M о 15 (0)11 TJ±=м о II (0)11	”}.
Mn+ = M/(5(0)], Mif^MflfcO))!.
(11.9)
(П.ГО)
11.11.51	11.И. СТАЦИОНАРНОСТЬ В УЗКОМ СМЫСЛЕ	281
Событие А е® называется инвариантным относительно преоб-
разования St (St-инвариантным), если
P{Sf‘ (Л)ДЛ}-=0,
|де Л — символ симметрической разности множеств.
Класс всех Si-инвариантных множеств содержится в о-алгебрах
©" или ®±а“ (последнее в случае Т = (—оо, со) либо Т = (0, ±1,
±2, ...}).
Если любое Si-инвариантное множество имеет вероятность О
или 1, то преобразование Si называется метрически транзитивным
(эргодическим).
Очевидно, что если St — метрически транзитивное преобразова-
ние, то в условиях теоремы Биркгофа имеют место равенства
т)+ = МШ(0)], П*“М/и(0)].
Стационарный в узком смысле процесс {£(/), i е Т} называется
эргодическим, если о-алгебры ®“, ®±<в тривиальны, т. е. содержат
лишь события, вероятности которых равны 0 или 1.
Теорема 1. Для того чтобы стационарный процесс {6(0,
/ е 7} был эргодическим, необходимо и достаточно, чтобы выполня-
лось любое из двух условий:
1) преобразование St метрически транзитивно',
2) для любой SS-измеримой функции f(x) такой, что М |f(6(0)) | <
< оо, функция
г-1
lim -j- f(Sf*E(O)) (дискретное время),
t
Нт -т- \ f (Sui (0)) du (непрерывное время)
1-»оо • J
(П.11)
с вероятностью 1 постоянна.
Непосредственным следствием теоремы Биркгофа является сле-
дующая теорема.
Теорема 2 (усиленный закон больших чисел для стационар-
ных в узком смысле процессов). Если {£(/)> <е У}—эргодический
стационарный в узком смысле случайный процесс, то с вероят-
ностью
Hm т)+ (t) = М/ К (0)], Нт п* (О = W R (0)].
1-»оо	1->оо
11	.11.5. Примеры эргодических процессов. 1. Последовательность
независимых одинаково распределенных случайных величин {6(0,
/ е 7} с М11 (0) | < оо — эргодическая последовательность.
2.	Пусть {£(<)> t&T}—стационарный гауссовский процесс с
корреляционной функцией B(t). Если lim В (t)=0, то {6(0. teT}—
t-t-co
вргодический процесс,
282
ГЛ. И. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
[И.НЛ
3.	Пусть Ж= {1, 2, ..., л}, {?(<),	Т= {О, I, 2,
цепь Маркова со значениями в Ж и матрицей переходных вероятно'
стей
'О 1 0 ... О'
О 0 1 ... о
ООО...
1
1 о о ... о
(циклическая цепь Маркова).
Если распределение £(0) имеет вид Р {£ (0) = k} = 1/п, то {|(0,
t е= Г} — эргодическая стационарная последовательность.
4.	Если процесс {Е(0> Л эргодичен, то также эргодичен
процесс {i](0, t еТ}. где n(O=f (Е(** + *), £(*» + *).?(<» + <)).
t, /jsT’, fe = 1...п, п^1 и f(xt, хл, xn)—произвольная
©“-измеримая функция, М | f (£ (Л).g (frt)) [ < оо.
В частности, если {!(/), 1еТ} — последовательность независи-
мых Одинаково распределенных случайных величин, Т = {0, 1,2,...}
п—1
и f(х) = хл(х) — индикатор множества Лей, то —
5-0
Vn есть частота наступления события №)еЛ По теореме 2
Л
с вероятностью 1
Нт „ Мх (g (0))«. р {6 (0) s А}.
Н-»оо П	л
Это утверждение известно как усиленный закон больших чисел (см.
п. 2.5.3).
11.11.6.	Перемешивание. Пусть fa—временные средние, введен-
ные в и. 11.11.5. Говорят, что к стационарному (многомерному)
процессу {Е (?), i е 7} применима центральная предельная теорема,
если существуют пределы
lim М4Х==С
5->О0
для Т = [0, оо) либо Г = {О, 1,2, ...} или
Нт М2аЦ^«С
s->oo
для Т = (—оо, оо) либо Т = {0, ±1, ±2,...} и если
Нт F. (х) = Ф(х),
S->oo S (S)
где
(’p{7s'ts<x}, Г = [0, ОО) либо Г = {0, 1, 2,...},
Ч ИW — ( Р {V2s fs<x), Г=(-оо, оо) либо Т = {0, ±1, ±2,.. J
(неравенство в случае многомерного процесса понимается поэле-
ментно), Ф(х)—функция нормального (многомерного) распределе-
ния *с нулевым средним и дисперсией (ковариационной матрицей) С»
11.11.61
11.11. СТАЦИОНАРНОСТЬ В УЗКОМ СМЫСЛЕ
283
Наличие временных средних в (х) предполагает эргодичность
процессов, к которым применима центральная предельная теорема.
Однако даже при наличии всех необходимых моментов здесь тре-
буются дополнительные условия, более жесткие, чем эргодичность.
Простейший и в достаточной мере показательный пример эрго-
дического стационарного процесса, имеющего все моменты, к кото-
рому тем не менее не применима центральная предельная теорема,
дает пример 3 из предыдущего пункта (циклическая цепь Маркова).
Причина — в зависимости слагаемых в сумме
S-1
Пусть и (т > 0) — а-алгебры, порожденные про-
цессом £(/): ©L оо>= or{|(s), s</}, @“+t = a{E(s),	+
©Loo интерпретируется как прошлое, а ©^-г — как будущее про-
цесса 5(f). Применимость центральной предельной теоремы к ста-
ционарным процессам в существенной мере связана с выполнением
условий, обеспечивающих уменьшение зависимости прошлого ©Loo
от будущего при возрастании т. Одним из таких условий яв-
ляется следующее:
а (т) = sup | Р (ЛВ) — Р (Л) Р (В) | —>0
Л ее @—оо
_ 00
при т->оо, называемое условием сильного перемешивания. Функция
а(т) называется коэффициентом {сильного) перемешивания.
Процессы, удовлетворяющие условию сильного перемешивания,
являются эргодическими, поскольку условие эргодичности может
быть записано в виде чезаровских пределов:
1 а (т, А, В) -> О при з -> со (дискретное время).
S
— \ а (т, Л, В) dt -> 0 при з -> со (непрерывное время)
для любых А е ©Leo. В е гДе а (т’ А В)=Р (ДВ)—Р (Л) Р(В).
Эффективные критерии проверки условия сильного перемешива-
ния имеются для гауссовских процессов.
Пусть 5(f)—гауссовский стационарный процесс, Z/Le и —
 нльбертовы пространства, порожденные случайными величинами
5(a) для	соответственно (см. гл. 10).
284
ГЛ. 11. СТАЦИОНАРНЫЕ ПРОЦЕССЫ
(II П.Г
Положим
р (т)  sup Mfcfj.
{ей1
*	__м

Теорема Колмогорова — Розанова. Для гауссовских
стационарных процессов
а (т) р (т) 2ла (т).
В случае стационарных гауссовских последовательностей для
выполнения условия сильного перемешивания достаточно, чтобы
спектральная плотность ИХ) была непрерывной и положительной,
т.е. fa) >С>0.
11.11.7.	Центральная предельная теорема. Пусть Е(0 — случай-
ный процесс, стационарный в узком смысле, и I* — его временные
средние.
Теорема 3. Если процесс £(/) удовлетворяет условию силь-
ного перемешивания, М |	(0)]г<°° и процесс £(/)*" ЛВ(О]
имеет ограниченную непрерывную спектральную плотность f^W,
причем (в случае многомерного процесса £ (/)) det (0) т4 0, то для
применимости к процессу центральной предельной теоремы не-
обходимо и достаточно следующее условие-, для любого е > 0 су-
ществуют числа Ne и Гв такие, что
J llxlI’rf^toCe
l'xn>we
при з > Те, При этом дисперсия (ковариационная матрица)' пре-
дельного нормального распределения есть С =	(0).
Более легко проверяемые достаточные условия применимости
центральной предельной теоремы связаны либо с дополнительными
предположениями о стремлении коэффициента перемешивания а(т)
к нулю, либо с условиями, еще более жесткими, чем условие силь-
ного перемешивания.
Теорем а 4. Пусть
I) процесс £(/) удовлетворяет условию - сильного перемешива-
ния, причем
а (т) = О (т"(1+е>),
и М||£ (t) ||2+о < оо, £(/) = /[£(/) 1 при некоторых е > 0, а > 4/е;
2) спектральная плотность (л) процесса £(t) ограничена, не-
прерывна и (в случае многомерного процесса) det fj (0)	0.
Тогда к процессу £(/) применима центральная предельная тео-
рема. При этом дисперсия (ковариационная матрица) предельного
нормального распределения есть С ** 2nf(0).
Литература; [45, 46, 50, 70, 92, 93, 95, 102, 103]*
12.1.21
12.1. ОСНОВНЫЕ ОПРЕДЕЛЕНИЯ
285
Глава 12. СЛУЧАЙНЫЕ ПОЛЯ
12.1.	Основные определения
12.1.1.	Определение случайного поля. Конечномерные распреде-
ления. Случайным полем называется случайная функция нескольких
вещественных переменных. Приведем более точное определение.
Пусть (О, ©, Р)— некоторое вероятностное пространство, D — неко-
торое множество в Rm. Функция £(<о, хь ..., хт) =£(о, ж), опре-
деленная при oefi, (xt, ..., хт) =xeD, называется случайным
полем, определенным на множестве D, если при фиксированных
Xi, ..., хт она ©-измерима по <о.
Если R — область значений случайной функции |(ы, Xi, .... xm),
то говорят о скалярном поле, если же R" — о векторном. Наиболее
естественный пример случайного поля — это поле, заданное на
D X [О, Г], где D — некоторая область в трехмерном пространстве;
отрезок [О, Г] интерпретируется как отрезок времени. С помощью
таких полей можно описывать случайную эволюцию непрерывных
сред (например, распределение тепла при случайной теплопроводно-
сти и случайных источниках тепла, фильтрацию в случайной среде
и т. п.). Функции f(w, Xi, ..., xm) при всевозможных фиксирован-
ных ® являются выборочными функциями случайного поля.
Конечномерные распределения случайного поля £(w, х) (х е
ez OcR’) — это набор распределений
...(Л......... ^) = РIД {ё (ф, х*) е Af) J .
х‘,..., х* е D, k = 1, 2,...
(Л...... А» — борелевские множества из области значений !())-
При фиксированном k это fe-мерные распределения случайного
ноля.
Конечномерные распределения случайного поля удовлетворяют
условиям согласования.
1)	Для любой перестановки i<, .... in чисел 1.k
...лОЧ.........л‘б)=^.......,‘Ир-Мд).
2)	Для любого 6
...............................ж»-1 (А....А-1)
(R° — область значений функции £(•)).
Теорема Колмогорова (см. п. 9.1.1) утверждает, что для всякого
согласованного семейства конечномерных распределений существует
случайное поле £(о>, х) с данными конечномерными распределениями.
12.1.2.	Моментные функции. Рассмотрим случайное поле с чис-
ловыми значениями g(w, х). Функция
mk (х’,..., хй) = М£ (а, х’) ... Л (а. хй)
(если она определена при х'е£) (1=1, ..., А)) называется мо-
ш нтной функцией k-го порядка случайного-поля £(<о, х).
288
ГЛ. 12. СЛУЧАЙНЫЕ ПОЛЯ
[12.1.3
Моментная функция первого порядка
mi (х) = Mg (со, х) = а (х)
называется средним значением случайного поля. Функция
ihk (х1,..., xft) = М (g (со. х1) — а (х1)) ... (g (со, xfi) — а (хй))
называется центральной моментной функцией k-го порядка случай-
ного поля |(со, х). Центральная моментная функция второго поряд-
ка называется корреляционной функцией случайного поля-.
в (х, у) = Mg (со, х) g (со, у) — Mg (ш, х) Mg (со, у).
Пусть 1(со, х)—случайное поле со значениями в Rn, g(co, х) =
= (gt(<в, х), grt(co, х)). Векторная функция
а (х) = (а! (х), ...,ап (х)) = (Mgt (со, х).Mgn(со, х))
называется средним значением векторного случайного поля. Функция
В(ж, У), определенная на DX.D н принимающая матричные значе-
ния, для которой элементы матрицы В (ж, у) определяются равен-
ствами
Ьц (х, у} = Mgz (х) gy (у) — ог (х) <у),
называется корреляционной матричной функцией векторного случай-
ного поля. Старшие моментные функции векторного поля задаются
равенствами
mm[,.... mk (*р • •xft) = Mg 1 (xj ... g k (xft),
((ft (/A	-fl,'tn.	,
.................mn), g =gt *g2 -- - gn • Однако эти функ-
ции редко используются.
12.1.3.	Представление векторных полей ортогональными рядами.
Пусть D — ограниченное множество, g(x) —числовое случайное поле,
корреляционная функция которого В(х, у) существует, и
В (х, х) dx < оо
£1
(интеграл по мере Лебега). Тогда существует полная ортогональная
последовательность функций <рЦх) на D, являющихся собственными
функциями интегрального оператора с ядром В(х, у),
(*) == \ в (*• У) dV‘
при этом числа Хл неотрицательны и
5Z*<OO‘
Случайное поле g(x) представимо в виде ряда
СО
I (х) = а (х) + У Пдфд (*).
(1.1)
12.1.31
12.1. ОСНОВНЫЕ ОПРЕДЕЛЕНИЯ
287
|де т]ь — последовательность некоррелированных случайных величин,
МцА = О, = РяД (1.1) сходится в следующем смысле:
lim \ М
JV->©o J
D
Л
£ (ж) — а (х) — У i]fe<pft (х)
i-1
2
dx = 0.
Случайные величины Tj* определяются из соотношений
ч*—
Аналогичный результат справедлив и для векторных случайных
полей. Пусть поле |(х) имеет корреляционную матричную функцию
В (ж, У} = II Ьц(х, у) ||, для которой
J £*«(*. *)<**< °0-
D
Тогда существует такая последовательность X* | 0, для которой си-
стема интегральных уравнений
Аф* <*)“£$ ЬИ (ж. *) 91 <F> i = 1. < • «.	(1-2)
имеет решение при X = X*. Если
ч>й (*) = (q>k (*)»••• чр* <*))
является решением системы (1.2) при X = для которого
п
$ XhltoF*'- *•
то
I (ж) = а (х) 4- У T)fcq)fe (х),	(1.3)
fe-=i
где 1)* — последовательность некоррелированных случайных величин,
для которых Mi]fe = 0, Dr]ft = Xfe. Сходимость в (1.3) покоординат-
но такая же, как и в (1.1).
Примеры. 1. Гауссовские случайные поля. Поле |(х) назы-
вается гауссовским, если для любых х;, .... г(еО совместное рас-
пределение величин £(Х1), ..., 5(*t) является гауссовским. Анало-
гично векторное поле |(х) называется гауссовская, если совместное
распределение величин £i(*i)......b(*i), .... &(**). •••. £»(**)'
является гауссовским. Конечномерные распределения для гауссов-
ских полей Цх) полностью определяются функциями а(х) и В(х, у).
Функция а(х) может быть произвольной, а корреляционная 'мат-
ричная функция должна быть положительно определена: каковы бы
288	ГЛ. ,2- СЛУЧАЙНЫЕ ПОЛЯ	[12.2.1
ии были «1, ..., is eD и комплексные числа а},..а",..а*,...
а^, должно выполняться неравенство
Sbtt(xk>xt}
, I
(а —комплексно-сопряженное число к а).
2.	Поля с независимыми приращениями. Пусть £(*) — случайное
поле, заданное на R™ =* (х: xt >> О, I = 1.mJ. Обозначим для
прямоугольника П = {*: ai Xi bi, I — 1, ..., т}
w 4*»l“F(*l.......**-1»	bt xk+i..xm)~Ffxi......xk-i> а,
xk+i....м-
Если для непересекающихся прямоугольников П1, .... Пу, ка-
ково бы ни было .V, величины &nfg(x),.... ДПд^(х) независимы
между собой, то £(х) называется полем с независимыми прираще-
ниями. В том случае, когда £(х) — 0 на границе R™, стохастически
непрерывное поле |(х) имеет распределение, определяемое характе-
ристической функцией
МЛ^>===ехр{ап(х) + $(е,%г- l-j^r)dz)}’
(1-4)
где G (•, dz) — мера на R™ X (— °°> °°)> П4-{*:	{=•
= 1...mJ для a eR™ (подынтегральная функция в (1.4) при
г — 0 считается равной —№/2). В частности, гауссовское поле с не-
зависимыми приращениями в этих предположениях имеет характе-
ристическую функцию
Ме^(xi = ехр {1ка (х) - ~ и2 (П*) },	(1.5)
где а(х)—функция, а щ —мера на R™.
12.2.	Свойства выборочных функций
12.2.1.	Измеримые случайные поля. Интегрирование. Случайное
поле |(х) с заданными конечномерными распределениями, построен-
ное в теореме Колмогорова (см. аналогичный результат для слу-
чайных процессов в п. 9.1.1), имеет в качестве выборочных функций
все функции на D. Интерес представляет вопрос: при каких усло-
виях существует случайное поле с заданными конечномерными рас-
пределениями, выборочные функции которых принадлежат задан-
ному классу (измеримы, непрерывны, дифференцируемы и т. п.)?
Будем говорить, что два случайных поля £(х) и т](х), заданных
на одном и том же множестве D a: Rm, называются стохастически
эквивалентными, если
V*eDP{g(*)~n (*)}“!•
12.2.11
m. свойства выборочных функции
289
Пусть D — измеримое (борелевское) множество. Случайное поле
х) называется измеримым, если функция §(©, х) измерима от-
носительно ®Х8", где © — о-алгебра в вероятностном простран-
стве, ®т — о-алгебра борелевских множеств в Rm.
Случайное поле £(х) стохастически непрерывно в точке х0 е= D,
если Vе
lim P{|6(x)-g(x0)|>e} = 0.
*->л?о
Теорема 1 Пусть D — измеримое множество и случайное
поле £(х) стохастически непрерывно на D. Тогда существует измери-
мое случайное поле £'(х), стохастически эквивалентное £(х).
Пусть ц(<1х)—некоторая мера, определенная на борелевских
подмножествах D. Для измеримого поля £'(х) можно рассмотреть
вопрос о существовании интеграла
V (х) р (dx).
D
Множество тех <о, для которых этот интеграл определен (т е.
множество тех <о, для которых | £' (х) | р (dx) < <»), © измеримо,
D
и само значение интздрала также ©-измеримо. Поле интегрируемо
по мере ц, если
Р J I 5' (*) IМ (dx) < оо | = 1.
Достаточным условием интегрируемости поля по мере р, является
условие
М 1g'(ж) I p(dx) < оо.	(2.1)
D
Если (2.1) выполнено, то (в силу теоремы Фубини)
М 6' («) И W*) = Щ' (ж) И (dx).	(2 2)
D	D
Если g'(ж)—гауссовское случайное поле и J 6' (ж) р (dx) опреде-
D
лен, то этот интеграл также является гауссовской случайной вели-
чиной. При этом
М 6' (*) М (dx) =• ^ « (*) Р (dx),
D	D
D Г 6' (ж) ц (dx) 1 = В (ж, у) р (dx) р (dy),	(2.3)
Ld	J D D
10 В. С. Королюк и др.
200	ГЛ. 12. СЛУЧАЙНЫЕ ПОЛЯ	[12.2Д
где а(х) я В(х, у)—соответственно среднее значение и коррелж
ционпая функция поля |'(х). Заметим, что формула (2.3) справед4
лива для любых полей, для которых выполнено (2.1) и интеграл
справа в (2 3) сходится (абсолютно).
12.2.2.	Сепарабельное случайное поле. Поле £(х) называется?
сепарабельным относительно множества D, если Л счетно я
плотно в D и существует такое множество Ге®, что Р (Г) = 1»
и для всякой сферы S с Rm
{со: sup	£(х) = sup	g(x)}c=E\r,
хеЛЛЗ	*<=1>П5
{и:	inf	l{x)=> inf $(«»<= в\ Г.
жеЛЛS	хевЛS
Теорема 2 Для всякого случайного поля |(х) существует
сепарабельное поле |'(х), стохастически эквивалентное |(х).
Как я для случайных процессов, понятие сепарабельности удоб-
но использовать при исследовании свойств выборочных функций
случайного поля £(х). Пусть D компактно Для того чтобы случай-
ное поле £(х) было с вероятностью 1 непрерывным (т. е. чтобы
почти все его выборочные функции были непрерывными), необходи-
мо и достаточно выполнения условий:
1)	Е(х) сепарабельно относительно некоторого множества AclD;
2)	1(х) равномерно непрерывно на А с вероятностью 1.
Теорема Ченцова. Пусть сепарабельное случайное поле
задано на прямоугольнике Пв = {х: 0 xt =С п., i = 1, ...,
Если оно непрерывно на сторонах Г; = Па f) {х: xt = nJ и суще-
ствуют такие а > 0, 0 2> 0 и у >• 0, что для всякого прямоуголь-
ника П <= Па
М|ДП£ Ю Г<Т К(П)]‘+₽
(дп определено в 12.1, gi — мера Лебега в R1"), то поле |(xj
с вероятностью 1 непрерывно.
Эта теорема представляет собой обобщение теоремы Колмого-
рова о непрерывности случайного процесса на случайные поля.
12.2.3.	Непрерывность гауссовских полей. Для гауссовских слу-
чайных полей можно получить условия непрерывности случайного
поля через его корреляционную функцию.
Пусть |(х)—гауссовское случайное поле на компактном мно-
жестве D, а(х)— его среднее значение, В(X, у) —корреляционная
функция. Пусть выполнены условия: а) |(х) сепарабельно; б) а(х)—
непрерывная функция; в) существуют такие' постоянные у и б > 0,
что при р(х, хо) < 1/2 (р — расстояние в R’’’)
Г 1	-]-<1+е)
В (х0, *о) + В (х, х) — 2В (х, х0) < у ^1п	J
Тогда гауссовское поле £(х) с вероятностью 1 непрерывно.
12.2.4.	Дифференцируемость случайных полей. Поле £(х)
дифференцируемо в точке х0 (в средпеквадратическом), если суще-
ствуют такие случайные величины
-^-Ч(*о). к *=> I, 2, ,.tn.
12.3.2]
123. ОДНОРОДНЫЕ СЛУЧАЙНЫЕ ПОЛЯ
291
что
lim
Дх-»0
________!_______Y
р(*о> *о + А*)У
ё(хо + Дх)-|(хо)-
М
Величины & g (х0) при этом определяются как среднеквадратичен
Окк
ские пределы
, М(*о)
lim —*----
Axfc
где A*g(x) = £(х«...Лй+Дх*, ...» x.J — g(xi, .... xk..xm).
Для дифференцируемости g(x) достаточно, чтобы были дифференци-
руемы функции 41 (х) и В(х, у) (по каждому переменному). Если
окажется, что частные производные -=— g (х)
ахк
(это также некото-
рые случайные поля) непрерывны с вероятностью 1, то тогда вы-
борочные функции случайного поля g(x) будут дифференцируемыми
функциями х почти при всех о. Аналогично определяется кратная
дифференцируемость случайного поля. Достаточным условием
fc-кратной дифференцируемости случайного поля g(x) является суще-
ствование ft-го дифференциала у функции а(х) и у функции В{х,у)
по каждому переменному.
12.3.	Однородные случайные поля
12.3.1.	Определение однородного поля. Случайное поле g(x), оп-
ределенное на DczRm, называется однородным, если 1) D является
полугруппой по сложению (если х е D, у sD, то * 4- у e.D);
2) Mg (х) постоянно, Mg (х) g (у) зависит только от х — у. Наибо-
лее широко используются случайные поля, для которых D — группа
всех целочисленных точек R” и D — Rm. Первые будем называть
полями дискретного аргумента. Аналогично определение однородного
гккторного случайного поля
12.3-2.	Числовые поля дискретного аргумента. Пусть g (х) —такое
поле. Поскольку Mg (х) = а, где а постоянно, можно рассмотреть
повое поле g'(x) =• g(x)—а. Оно также будет однородным. По-
этому, не ограничивая общности, можно считать среднее значение
поля равным 0 Корреляционная функция поля В(х, у) имеет вид
В(х — у), где B(z)—функция, заданная на D и удовлетворяющая
условию положительной определенности
п
' Г BK-gl)ctk5i>°-	<зл>
«. /=!
каковы бы ни были n, Zi..zn е D, комплексные числа cq, ..., ал
(а/•—сопряженное к а, комплексное число). Из условия (3.1)
10*
292
ГЛ. 12. СЛУЧАЙНЫЕ ПОЛЯ
(12.3.2
следует спектральное представление для В (г):
т
(3.2)
где F(dk) — некоторая конечная мера на прямоугольнике
[— л, л)"1 «= {X,: — л kj < st, / = !,..., mJ;
f(di.) называется спектральной мерой случайного поля. Если эта
мера абсолютно непрерывна относительно меры Лебега на [—л, л)'д
и
F (С)	(X) di.
С
(/-—плотность В (di.) относительно меры Лебега), то /(X) назы-
вается спектральной плотностью случайного поля. В этом случае
(3.2) принимает вид
я	л
В(*)= J ... J
-л	-л
m
m	Ч
*=i	'
ехр < i
(3.3)
При определенных условиях спектральную плотность можем
выразить через корреляционную функцию
f m	\
f (>-) = (2я) ~га У* ехр < -1 £ zkKk [ В (г)	(3.4)
ze D	fe=l	s
’(ряд справа сходится в среднеквадратическом и равенство (3.4)
л л
вмеег место, если ...	(X) dX < ©о, или, что то же самое,
-л	-л
у	. J
m
У в=(2)<оо).
. е D
Существует комплекснозначная случайная мера с ортогональ-
ными значениями ф(с/Х) на [—п, л)”1, для которой
Мф(Л) ф (В) =F (ЛПВ).
такая, что для случайного поля Е(х) справедливо представление
Л Л ( гп	1
!(*)= $ ... J ехр < I £ v* р	<3-5>
Л -Л	feel
/
m
•а.з.з1 m. однородные случайные поля	293
Закон больших чисел для случайного поля.
Пусть g(x) *-• однородное поле в R”, для которого Mg(x) = 0, Тогда
существует предел в среднеквадратическом
Л.(йПт)” Е	м>
[Xj | <N, t=l.m
равный ф({0}), где {0} —множество в R™, состоящее из одной точ-
ки 0 а Rm. Для того чтобы предел (3 6) с вероятностью 1 равнялся
О = Mg (х) необходимо и достаточно, чтобы М | -ф ({0}) |2 = f ({0}) ™ 0.
Это же будет выполнено, если
Urn 11m	У	( ТТ —" 2fe6- В (г) = 0. (3.7)
6^0 w-*»	Z-U	I 11 Zk	I
i-i..m\k~l	J
12.3.3.	Векторные поля дискретного аргумента. Пусть g(x) —
однородное поле на целочисленной решетке Rm, принимающее зна-
чения нз Rf, a g‘(*), ..., g'(x)—компоненты поля. Будем предпо-
лагать, что Mg*(x) «= 0. Положим
М£‘(х)б'(у)
и обозначим матрицу || Ьц(х) Ц «= В(х). Для того чтобы (X 1-мат-
рица В(х) была корреляционной матричной функцией однородного
векторного поля дискретного аргумента, необходимо и достаточно,
чтобы для любых л, комплексных чисел а|, .... a*, ....	.....
и точек «i,,, •, zn е D выполнялось неравенство
Е Е	<3-3>
*, /-1 р, «-I
(это условие положительной определенности матричной функции).
Корреляционная матричная функция имеет следующее спек-
тральное представление', существует такие знакопеременные меры
FP«(dX) (р, q — 1......(J на (—я, я)'", что
л	л	(	m	\
(а) =-	... J ехр ) 1 £	[ FM	0.9)
—я	— л	* &-»1	'
\ —<v—
m
при этом матрица
к	<зл0>
неотрицательно определена для всякого борелевского множества А
из [—я, л)'". Матрица (3.10) называется спектральной матричной
мерой векторного поля. Если функция FM(Z) абсолютно непрерывна
относительно меры Лебега на [—л, п)т, т.е.
(Л) - fpq W Л»	(3.11>
А
294
ГЛ. 12. случайные поля
[12.3.4
то матрица	.j называется спектральной матрич-
ной плотностью векторного поля. Она также неотрицательно опреде*
лена
В случае существования спектральной матричной плотности
формула (3 9) принимает вид
л л ( m
bpq («) - J ... J ехр j i | fM (*) Л. (3.12)
—л -л	’
m
Если спектральная матричная плотность существует, то она мо-
кнет быть определена с помощью следующей формулы:
= lim (2л)У ехр < — i V zkKk > В (г) (1 — е)1 г11+ ••• +] z* I.
в-*о	I	)	(3J3)
Само случайное векторное поле также допускает спектральное
представление. Существует набор комплекснозначных стохастических
мер фр (<Д) на [—л, л)т, удовлетворяющих условиям
Мфр(Л) = 0, Мфр(4)ф^(В) = Гр(7(4ЛВ)
для любых борелевских множеств Л и В нз [—л, я)”*, при этом
Л	Я	f tn	"I
g”(x) - J ... j ехр j i У zkKk pp(dX). (3.14)
~п	—я	' к— 1	*
\	. t
m
12.3.4. Числовые поля непрерывного аргумента. Будем использо-
вать те же обозначения, .что и в случае числовых полей дискретного
аргумента Условие положительной определенности также имеет вид
(3 1), однако Zi, .. , z„ — теперь уже произвольные точки из R”1.
Корреляционная функция допускает спектральное представление
4-оо 4-оо ( m	1
B(z)= J ... J ехр | i £ Kk2k >F(dX),	(3.15)
— co	—co	ft»=l	*
m
где E(4)—конечная мера на Rm Эта мера называется спектраль-
ной. Если она абсолютно непрерывна, то ее плотность относительно
меры Лебега f(i.) называется спектральной плотностью В качестве
спектральной плотности может выступать любая неотрицательная
функция, интегрируемая на Rm. Соответствующая ей корреляцион-
ная функция выражается формулой
4-оо	4-оо	С m	Л
6 (г) = J J ехр | j zft | f (^) А. (3.16)
— ОО	—ОО	V	X
m
12.3.5)	12 3. ОДНОРОДНЫЕ СЛУЧАЙНЫЕ ПОЛЯ
295
В том случае, когда спектральная плотность существует, она
выражается через корреляционную функцию формулой
-l-оо 4-00 f т	т \
f (I) ав lirn^ • • • J ехр s — Z У — в У z| ? В (г) dz.
— ОО —ОО V.	'
Чи| 1 V г
т	(3.17)
Случайное поле также имеет спектральное представление
4-оо	4-оо	г т	\
£ (х) =	... J ехр jz У kkxk г ф (dK),	(3.18)
— оо	—оо	V А=4	'
tn
где —комплекснозначная стохастическая мера на Rm, для
которой Мф(Л) = О, Мф (Л) ф {В) = F (Л f] В) для всех борелев-
ских множеств А и В с Rm.
Закон больших чисел. Существует предел в среднеквад-
ратическом
Т т
m
Для того чтобы этот предел с вероятностью 1 равнялся нулю, необ-
ходимо и достаточно, чтобы F({0}) = О, последнее эквивалентно
условию
I	J ™ с \
Г	Г / тт sin 6zb \
Hm lim \ ... \	-------- lB(z) dz = O. (3.20)
в^О	/
С—V—>
12.3.5. Векторные поля непрерывного аргумента. Пусть однород-
ное поле g(x) определено на Rm и принимает значения из R';
(х).....g'(x)—его компоненты; М^(х)=О, Mg₽ (х) g9 (у) =
= bpq (х - у).
Обозначим через В (г) =|| bpq (z) ]|Pi fl=ll.г корреляционную
матричную функцию однородного поля Условие (38), как и в слу-
чае дискретного аргумента, является необходимым и достаточным,
чтобы непрерывная функция B(z) с матричными значениями была
корреляционной матричной функцией однородного векторного поля.
На Rm существуют такие знакопеременные меры ограниченной ва-
риации Fpg(dl), что справедливо спектральное представление
4-оо	4-оо	(	m	ч
bpq («) =* J ИР V’ X I FP4
— оо	— оо	V	'
>----V--
m
(3.21)
296
ГЛ 12. СЛУЧАЙНЫЕ ПОЛЯ
113.3.8
при этом для всякого борелевского множества Лс R" матрица
II_ г неотрицательно определена. Матричная мера
|| Fpq (<Л) |[р_	...i называется матричной спектральной мерой
векторного поля. Если эта мера абсолютно непрерывна относительна
меры Лебега на R1”, то матрица ||/p9	....j, составленная
нз плотностей fPa(X) = Fpp(dX)/<JX, называется матричной спектраль-
ной плотностью (эта функция при каждом X является неотрицатель-
но определенной матрицей). Матричная функция |[/р9 (X) [|А	...j
может выступать в качестве спектральной плотности, если при
каждом X она эрмитово симметрична, неотрицательна и
4-оо 4"Оо
j ...	| fpq (>-) |dK < оо при р, q = 1....I.
— СО	—со
m
Спектральное представление векторного поля имеет вид
-}-оо	-|-оо	z	m	х
1Р (х) = J . J exp | Z £ Яд £д 1 Фр (М),	(3.22)
— <х>	— со	>	*
m
где ф1 (dX), ..., фи (dX) — стохастические комплекснозначные меры
на R'", для которых
Мфр(Л) ф* (/?) = £„ (ЛП В).
12.3.6. Дифференцирование однородных полей. Поскольку от*
дельные компоненты векторного поля являются числовыми полями,
достаточно рассмотреть дифференцируемость лишь числового поля.
Пусть 5(л) —числовое однородное поле и F(dX) —его спектральная
мера. Для того чтобы существовала частная производная di(x)/dxi,
в смысле сходимости в среднеквадратическом, необходимо и Доста-
точно, чтобы существовала непрерывная производная д2В (х)/дх2к или
чтобы
4-ос 4*оо
|XftfF(dX)<oo.
При выполнении этих условий dg(x)/dx* также будет однородным
полем с корреляционной функцией д2В (х)/дх2к и спектральной ме-
рой
Л (Л)= J ... J|Xfc|!F(dX).
А
Для нахождения &£,(x)ldxk можно дифференцировать спектральное
12.3.7]
12.3. ОДНОРОДНЫЕ СЛУЧАЙНЫЕ ПОЛЯ
297
представление (3.18):
$ - $ <'Ч«Р
т	1
Z i-kxk f Ф (di).
*-1	*
(3.23)
т
Условия существования частных производных заключаются в
следующем. Для того чтобы существовала производная
дх^.^дх^
в смысле сходимости в среднеквадратическом, непрерывная в этом
же смысле, необходимо и достаточно выполнения одного из условий:
Й2"в (ж)
а) существует——-------, и эта производная непрерывна;
I2”’ 11 * I Кт \2Ят F
V
т
„	А (*)
Если эти условия выполнены, то —---------г— будет также
дХ1'...дхт^
однородным полем; корреляционная функция этого поля будет
<?пВ(х)
'	’ п 2"1 л 2пт ’
'...дхтт
а снеюральная мера этого поля имеет вид
Fn........ М) “ J ... J X?” •  • F W. (3.21)
A J
„	А (*)
Спектральное представление поля —-—E-i—~— можно пелу-
<3%!1 ... дх^п
чить дифференцированием формулы (3.18):
4-оо 4-оо
диЕ (ж) С . С
дх/...джтт
т
ехр ] I J i.kxk > ф (di).
’	А~1	)
(3.25)
12.3.7.	Дифференциальные операторы с постоянными коэффици-*
ентами. Пусть L	—> •••,	~ дифференциальный опера,
тор с постоянными коэффициентами; здесь £(flt fm)—полином
от /j, ..., fm степени п.
298
ГЛ 12. СЛУЧАЙНЫЕ ПОЛЯ
112.3.7
Если поле g(x) таково, что существуют частные производные до
порядка п включительно и они непрерывны в среднеквадратическом,
тогда можно к полю £(х} примени и> дифференциальный оператор
, ( д	д X
L i -х—> .... -ч-I- Обозначим
дхт)
"«-'•(-Д-........хг)и”- <’•“>
Тогда 1](х) — также однородное случайное поле с корреляционной
функцией
..4;)£(-к.........~4;)BW (И7)
и спектральной мерой (Л — борелевское подмножество Rm)
Л (Л) =	| L (Ма.....ikm) |2 F (Л).	(3.28)
А
Если £(х) имеет спектральное представление (3.18), то т] (•*)
имеет вид
4 со	-Loo	f т	ч
Ч (*) - $ ... J L (1\...........&т)	ехр L £ 4xk ( * (*)• (3-29)
— оо	— оо	* А—1	'
>---V-----'
т
Рассмотрим дифференциальное уравнение
L ..........$ W - ч (*).	(3.30)
где Т1(х) —некоторое однородное поле. Пусть ц(х) имеет спектраль-
ную меру Еч (dX.) и его спектральное представление
со	4*°°
Ч(х)=	... ехр
— СО	— OQ
т
т	ч
1X, ^kxk । а
fc-1	'
Тогда (3.30) имеет единственное решение, являющееся однородным
полем тогда и только тогда, когда
+оо 4-оо
V----
12.3.81
12 3. ОДНОРОДНЫЕ СЛУЧАЙНЫЕ ПОЛЯ
299
В этом случае решение (3 30) имеет вид
4-00	4-00	-
|(х)== S — S ехр г
—со	—с»	Ч
tn
т ч
у, м4*ч(л>>
fe-l '
(3.31)
а спектральная мера Fj (•) поля £ (х) — вид
F'(Л)“S	<“»
Л
12.3.8.	Интегральные преобразования числовых однородных по-
лей. Пусть g (х) —- числовое поле с корреляционной функцией
В(х) и спектральной мерой Fj (dl). Общее интегральное преобразо-
вание имеет вид
4-оо 4~°°
*1(*)и	$ к (х, у) £ (у) dу,
—ОО	— оо
т
где К (х, у) — такая функция, что для всех х существует
4-оо 4-оо
к (х, уд К (х, Уд В (yt — у2) dytdy2 < с».
—со —оо
т
Если К(х, у) = К{х— у) и К (я) — интегрируемая функция,
то тогда функция
4>оо 4-со
Ч (*) - J — J К (X - уУ g (у) dy	(3.33)
будет также однородным полем. Корреляционная функция Вч(х)
этого поля задается формулой
4-оо 4-со
J ... J	(3.34)
m
а спектральная мера поля Y](x) имеет вид
F4(A)-J...	(335)
A J
300
ГЛ 12 случайные поля
[12.3.9
Где
+ оа	4-оа z т	Ч
k (Л; =	... ехр )	р l*> dx' (3>36J
—со — оо, V	J
ы
Если существует спектральная плотность /$(*> для поля J(x),
то тогда и поле t) (х) имеет спектральную плотность
fn(X) = |fe(X)pfs(l)	(3.37)
12.3.9.	Интегральное преобразование векторного однородного
поля. Пусть |(х)—однородное поле со значениями в R', В^(х) —
матричная корреляционная функция поля £(х), Fs (dX.) •—матричная
спектральная функция £(х). Пусть далее К (ж)—матричная функ-
ция, отображающая R* в R" (т.е. матрица порядка /Хр). Если все
элементы этой матрицы абсолютно интегрируемы на R"1, та опреде-
лен интеграл
4-оо 4-00
Ч(х) =	... J K(x~y)1{y)dy	(3.38)
—-ОО	—ОС
т
(результат применения К к вектору § из Rp), при этом »](*) явля-
ется однородным векторным полем со значениями в Rp, Корреля-
ционная матричная функция Вч (х) имеет вид
4-ос	4*оо
<*> “ J J К (»1) В1 (* “ «I + »2) К* W <*М»2’ <3-39>
— 00	—оо
'—v—>
m
а матричная спектральная мера — вид
(Л) “ $ •• • S (х) dF*{Л) **(1) (зло)
А
где К* — матрица, сопряженная с К; К—матрица с элементами
Где йц — элементы матрицы К; К*—эрмитово сопряженная с Л
Если существует спектральная матричная плотность ||fj||(X) поля
|(х), то существует и спектральная матричная плотность для tj(x);
II fn IIW # Rl UII (М %* (М	(3 4«)
(I! IIМ ~ 1X ^-матрица).
J2-4.il
12 4. ИЗОТРОПНЫЕ СЛУЧАЙНЫЕ ПОЛЯ
301
12.4.	Изотропные случайные поля
12.4.1.	Однородные изотропные поля. Однородное случайное поле
g(x), определенное на Rm со значениями в R1, называется изотроп-
ным, если его корреляционная матричная функция В(х) зависит
лишь от |*|, где |*| —норма вектора в Rm. Пусть В(|х|) —корре-
ляционная функция числового однородного н изотропного поля.
Тогда В (г) допускает следующее представление:
оо
в (г). 2(т-2)/2Г (-J-) J J(m_2y2 (Лг) (V),m~2>'2 d® (А). (4.1)
о
где Щк) —бесселева функция первого рода порядка k, а Ф(А)—
неубывающая на [0, оо) функция ограниченной вариации. Она вы-
ражается через спектральную функцию однородного поля по фор-
муле
Ф(А)~ J F(dt>).	(4.2)
1«|<А
Функция Ф(Х) также называется спектральной функцией однород-
ного изотропного поля. Она выражается через В {г) следующим об-
разом:
00
Ф W-	(4.3)
о
Запишем теперь спектральное представление для самого поля.
Пусть (г, 01, .... От-а, <р) — сферические координаты точки в Rm
(ге[0, оо), 0(е[—л/2, п/2], <ре[0, 2л)). Обозначим через
S* (вр ..., 6т .2, ф), k •= 1, 2....й (п, т)=
(2н + т — 2) (п + т — 3)!
= (т — 2)1 и!
ортонормированную последовательность сферических гармоник сте-
пени п. Тогда, если Mg (х) = 0, то
« А (в. ПТ)
6 (*) e cm Xi ...................®ш-2> *₽) X
п-0 ft-1
ОО
X J /n+(m-2V2 (V) (V)«- тп2 ф* (db), (4.4)
о
где с^=2га ]Г (т/2)пт12, а ф„ (dX) (n=0,1,...;fc=l, ...,A(n,ni)) —
комплекснозначные случайные меры с ортогональными значениями
302
ГЛ. !2, СЛУЧАЙНЫЕ поля
1124.2
на [0, оо), причем для любых борелевских множеств Ai и Аг в
[0, оо)
М'|’п(л1)ч(л2)=ш J
A-lfi Л-2
Мф^Л^О.
12.4.2.	Однородные изотропные поля со значениями в R1. Пусть
В(|г|)—матричная корреляционная функция однородного изотроп-
ного поля, Ьц(г) —элементы матрицы В (г). Тогда
ОЙ
Ьц (г) = 2<т-2>/2Г	) J	(Ьг)<т~2>'2 d®lf (Л), (4.5)
о
где функции ФЧ(Х) определены на [0, оо), причем ппи Zi < ?.г мат-
рица |] ФгД/.г) •—Ф.,(Zi) II неотрицательно определена. Матрица
II Ф,, (Л) II = Ф(/.) называется спектральной матрицей однородного
изотропного поля. Формула (4,5) может быть записана в матричном
виде так-.
СО
в (г) = 2(п(-2)/2Г J .r(m_2)/2 (V) (Xr)<'”-2>/2 d® (X). (4.6)
о
Спектральное представление такого поля имеет вид
оо h (п, т)
ш=с™£ £	.....e«-2’*p)x
п=0 Л=1
со
X J /„+(m-2)/2 (М (V)(2'm,/2	W), (4.7)
Q
где ст и те же, что и в формуле (4.4), а -ф* (с/Л) — попарно ор-
тогональные случайные меры со значениями в R', для которых
М^(Л1)/^(Л2)= J с(Ф17(Л), МфХЛ1) = 0 (4.8)
Л1ЛЛ1
(jipn, .... i^1!, — координаты вектора
12.4.3.	Изотропные поля на сфере. Случайное поле ^(х), задан-
ное на сфере S пространств R"! н принимающее значения из R',
называется изотропным, если (х) постоянно, а корреляционная
матричная функция В(х, у} зависит лишь от углового расстояния
между точками сферы х, у.
Пусть £ (х) — числовое изотропное поле на сфере S. Тогда его
корреляционная функция имеет вид В (cos 6), где 0 — угловое рас-
12.5.11	12-5. ОБОБЩЕННЫЕ СЛУЧАЙНЫЕ ПОЛЯ	808
стояние между точками на сфере. Существуют такие неотрищиель*
ные коэффициенты что
t ”	С,т~2)/г (cos
В (cos 0) =» —- J bn - " _2)/2	- h (п, т),	(4.9)
ю'« „„о
где от—лебегов (т—1)-мерный объем единичной сферы в Rm,
со
()—многочлены Гегенбауэра и ряд brh(n, т) сходится.
п —о
Случайное поле при М|(х)=0 допускает следующее представ*
ление:
©о h mj
н =0	/г=1
где —случайные величины, для которых М|^ = 0,
Пусть теперь £(х)— векторное изотропное поле па сфере S. Его
матричная корреляционная функция имеет вид
1	C^^fcose)
В (cos в) = —- 2J ft («. т) (от--2)/а Вп, (4.11)
wn п~0	"
где Ва — последовательность неотрицательных симметрических мат*
СЮ
риц порядка I X Для которых ряд h (п> тУ Вп сходится. Если
П=О
М£(*) ==* о, то само поле имеет вид
оо к{п. т)
n-0
где — последовательность попарно некоррелированных случай*
них векторов, для которых
(i5^***»j^n— компоненты вектора a Z>^ — элементы матри»
цы вп).
12.5.	Обобщенные случайные поля
12.5.1.	Определение обобщенного случайного поля. Обобщенное
случайное поле в R" определяется следующим образом. Пусть D —
пространство вещественных функций <р(х) (xeRm), финитных и
бесконечно дифференцируемых, с топологией, задаваемой скрестно*
стями вида {<р; sup | у1®.. («)	| < « j П {ф: ф (х) = 0, 1 х | > ₽},
804	гл. 12. СЛУЧАЙНЫЕ поля	ца.6.1
где а, р > 0; 6 = 0, 1, 2, ф(с) = <р;	“
,Ь	I л
дк
"я------at— Ф (*); (*1, хт) — координаты ТОЧКИ.
OX f ••* 0Хг
*1 lk
Пусть далее {Й, S, Р} — фиксированное вероятностное простран-
ство. Семейство случайных величин £(ф), определенных на этом ве-
роятностном пространстве для всех <р е Р, называется обобщенным
случайным полем, если выполнены следующие условия:
а)	Р {£1 (^Ф + ₽Ф) “ «I (ф) + Р? (Ф)1 1 для всех а, Р е R,
<р, ф е D;
б)	£(ф„) ->-0 по вероятности, если фп->0 в топология D-
Конечномерные распределения обобщенного случайного поля
В(ф) —это набор функций распределений Гф]....Фя vl’ ••• где
Ф1.....<p«sP, h, .... t«eR (п = I, 2, Они согласованы:
при одинаковых перестановках знаков <pi, <рп и Л, ..., /л зна-
чения функции не меняются и
....М*1...............Г«)“£Ф1................
Дополнительные условия согласования возникают в силу а) и
б). Их удобнее формулировать в терминах характеристического
функционала обобщенного случайного поля, который очевидным
образом выражается через одномерные распределения:
х (ф) =	(ф> - J в" аГф (О.	(5.1)
z	\	/ п \
а') ехр J I У Kktk I dFVi....(/,.......tn) =“ х( £ Мл ]=*
~\eildF п Щ-,
. S ^ьФь
k=l R R
б') х(фи) -+1, если ф«->-0 в топологии D-
Теорема 1. Если заданы конечномерные распределения
Лр . <р * удовлетворяющие условиям а') и О'), го существует
на некотором вероятностном пространстве обобщенное случайное
поле с этими конечномерными распределениями.
(Это аналог теоремы Колмогорова о существовании случайной
функции с заданными конечномерными распределениями; см. п. 9.1 1.
теорема 1.)
Если для некоторого натурального г М I g (ф) < оо, ф е D, то
определены моментные функции обобщенного случайного поля
mk (*Р1...Ч’а) “	(Ф1)  •  (*₽*)’ ЯЧ.4'fe е D, k^r.
В ч юности,
mi (ф) = m (ф) = М| (ф)
называется средним значением обобщенного случайного поля, а
Ъ (фь Фг) = Mg (Ф1) £ (Ф2) — m (ф() m (ф2).
12.5.21
12.5. ОБОБЩЕННЫЕ СЛУЧАЙНЫЕ ПОЛЯ
305
его корреляционной функцией-, т(ф)—неслучайная обобщенная
функция на D, т2 (qpi, фа) — положительно определенная билинейная
фунцЦНЯ на D2.
Примеры. 1. Обобщенное случайное поле Е(ф) называется
гауссовским, если Е, (<р) для всех <р е D имеет гауссовское распре-
деление. Пусть т (<р) = МЕ (<р) и Ь (<р) = ME2 (ф) — т2 (ф). Эти две
функции полностью определяют гауссовское поле. Они называются
средним, значением и дисперсией этого поля, т(ф)—произвольный
непрерывный линейный функционал на D, а b (ф) — непрерывный
квадратический неотрицательный функционал на Ь. Последнее озна-
чает, что 6(фп)-»-0, когда ф„->0 в топологии D, и что билинейная
форма 6(ф1, фт), определяемая из равенства
Ь (а1Ф1 + а2ф2) = а\Ь (ф^ + 2а,а26 (фг ф2) + dfy (ф2),	(5.2)
является неотрицательно определенной
2. Обобщенное псле с независимыми значениями. Так называют-
ся поля £(ф), для которых величины ь.(ф<)...Е(фл) независимы,
каковы бы ни были Ф1.....фл s D такие, что ф,ф, = 0 при i =f= j.
Примером поля с независимыми значениями может служить поле,
задаваемое равенством
g (ф) = ф (х) ц (dx),	(5.3)
где |х — случайная мера с независимыми значениями на непересе-
кающнхея множествах; интеграл в правой части (5 3) является сто-
хастическим (см. § 10.2).
12.5.2. Однородные в широком смысле обобщенные случайные
поля. В дальнейшем мы будем рассматривать лишь £2-теорию полей,
в которой заданы лишь первые два момента поля Е(ф): т(ф) =
=	(ф) и b (ф) = ME2 (ф) — т'! (ф). Корреляционная функция поля
вычисляется с помощью формулы (5.2). Введем в D оператор сдви-
га 0а' 0аф(х) — ф(х 4- а), ф е D, а<= R™.
Обобщенное случайное поле Е(ф) называется однородным, если
для всех у е D, а ё R"1
m (ф) =» т (0аф), b (ф) «= Ь (0аф)-
В случае R™ — R — (—оо, оо) обобщенное однородное случайное
ноле с независимыми значениями (пример 2) называется процессом
обобщенного белого шума.
Теорема 2. Пугть Е(ф) — обобщенное однородное случайч-г
поле. Тогда существуют такая постоянная m0 <= R и мера
в R1", для которых при некотором р > 0
'j (1 + I Л 1Р>~1 F (di) < ~	(S.4)
Rm
такие, что
tn (ф) = та ф (х) dx,	(5.5)
Нф)=Д |ф(М12^ W.
306
ГЛ 12 СЛУЧАЙНЫЕ ПОЛЯ
112.6.2
где ф (А) = j е1 ф (х) dx ((-, •)—скалярное произведение
в Rm). Постоянная п0 и мера F(dX) определяются однозначно Фор-
мулы (55) и (56) при условии, что F(dl) удовлетворяет (5 4) при
некоторая р > О, задают среднее значение и дисперсию некоторого
однородного обобщенного случайного поля
Замечания 1 В том случае, когда F(Rm) < оо, найдется
такое однородное случайное поле t|(t) (в смысле § 12 3), что
g (ф) = т) (х) ф (х) dx.
2 Если |(ф)—комплекснозначное поле, то для его корреля-
ционной функции
b (Фь Фг) = Mg (фО g (ф;) — Mg (ф0 Mg (ф2)
справедливо представление
6 (фъ фг) == J Ф1 W Фг W Р 0^)»
где <рй (А) = ф^ (х) е1 х) dx, а мера F такая же, как в тео-
реме 1
Рассмотрим теперь векторные обобщенные случайные поля Поле
со значениями в R' задается набором I числовых обобщенных слу-
чайных полей g(<p) = (|1(ф), ... gi(<p))
В La-теории считаются заданными вектор
а (ф)« (Mg, (ф)...Mg/ (ф)> = (а, (ф),.... at (ф))
и матрица В(ф) = (б,/(ф)) (1, ] ~ 1>.... 1),
bkj (ф) = Mg* (ф) g/ (ф) — Mgfe (ф) Mg/ (ф).
Матрица В(ф) называется корреляционной матрицей почя g.
При этом а,(ф), ..., с,(ф)—произвольные линейные непрерывные
функционалы на D, а Ьч (ф) — непрерывные квадратические функ-
ционалы, удовлетворяющие условию симметричности- Ьц ва Ьщ по-
ложительной определенности для любых а,, а; е R
2 *//<Ф) а*а/>а
Обобщенное векторное поле g(<p) со значениями в R' называется
однородным, если для всех (реД и а е Rm в(ф) — п(воф), й(ф) =,
~ В (0оф)
Теорема 3. Пусть g(<p)—некоторое обобщенное векторное
случайное поле со средним значением а(ф) и корреляционной мат-
рицей В (у) Тогда существуют такой неслучайный вектор а и мера
F(dk) на борелевских множествах R™, значениями которой Служат
неотрицательные симметрические матрицы и для которой при неко-
тором р > 0
\ SpF(rfA)
J 1 + iAl"

12.5.2]	12 5 ОБОБЩЕННЫЕ СЛУЧАЙНЫЕ ПОЛЯ	307
(Sp—след матрицы), что
a (q>) = а <р (х) dx,	(5.8)
bki (ф) и J 1 ф (>) I2 FЦ (dk),	(5.9)
еде Fij(dK) —элемент матрицы F (dX) Вектор а и мера F(dk) опре-
деляются по полю однозначно Формулы (58) и (5 9) при условии
(57) всегда определяют среднее значение и корреляционную функ-
цию некоторого однородного обобщенного случайного поля
Замечание. Если Sp E(Rm) < оо, то существует такое обыч-
ное однородное векторное попе ч(х) = (4i(*L ..., ty(x)), что
(ф) = W ф (*)dx’ k =1..........i-
Теоремы 2 и 3 дают спектральное представление для дисперсии
или корреляционной матрицы числового (векторного) обобщенного
однородною поля Эти представления дают возможность получать
спектральное представление для самою поля
Теорема 2' В условиях теоремы 2 справедливо следующее
представление для £(ф)
I (ф) = m $ ф (х) dx + J ф (X) |х (dX),	(5 10)
где p(dX) —комплекснозначная случайная мера на борелевских мно-
жествах Rm, для которой Мр. (Л) = 0, Мр (Д) ц (В) = F (Л f) В). Эта
мера однозначно определяется по полю |(ф)
Теорема 3' В условиях теоремы 3 справедливо следующее
представление для £/<(ф)
(ф) == ак ф (х) dx + ф (X)	(dX),	(5.11)
где pi:(dX) (й = 1, . , /)—комплекснозначчые случайные меры на
борелевские множествах Rm, для которых Mpft (Д) = 0, Mpfe (Д) X
Хр/ = И П S). Эти меры однозначно определяются по полю
Ш).
Замечание Обобщенные случайные поля можно дифферен
пировать по правилам дифференцирования обобщенных функций,
при этом опять будут получаться обобщенные случайные поля
(например, ~~ (ф) = — £ (— Фх/;))-
Формулы (510) и (511), дающие представления однородных
случайных полей, можно дифференцировать по х сколько угодно
раз При этом в правую часгь вместо ф (X) подставляется преобра-
зование Фурье соответствующей производной с соответствующим
знаком Так, например, формула (510) дифференцируется следую-
щим образом
——1 (Ф) =- \ Ф (X) (-ох*1... хл* (^).
dxt 1 ... дх„^
п = ki + k2 4- • • • + km-
308
ГЛ. 12. случайные поля
[12.6.3
12.5.3.	Обобщенные поля с однородными приращениями. Обозна»
чим через Do множество тех ср s D, для которых J ф (х) dx = 0.
Поле £(<р) называется полем с однородными приращениями, если
оно определено при <p е Db, Mg (0оф) = Mg (ф), Mg2 (6оф) = Mg2 (ф)
для всех oeR’'. Векторное поле 1=(ф) = (Ь(ф),	|<(ф)) назы-
вается векторным полем с однородными приращениями, если,
Mg* (6e (ф)) = Mgfc (ф), Mg/; (0аф) g/ (0оф) = Mgfc (ф) g/ (ф) для всех
о Е Rm, ф S Do, k, j sZ ni
Теорема 4 Пусть £(ф) = (Ei(<P), 	£'(ф)),	— поле
с однородными приращениями со средним значением в(ф) и корре-
ляционной матрицей В (ср) Тогда существуют оператор из R" в R' —
IX п-матрица М, мера F(dK), определенная на борелевских множе-
ствах Rm, значениями которой служат неотрицательные i X 1-матри-
цы, f ({0}) = 0 и при некотором р > 0
IZ |2 Sp В (dX)
(1 + IX |2)*+1
(5.12)
а также набор матриц Ak> порядка m (А, 1^1), удовлетворяющих
условиям А6' = А>*, и akaдля всех ал, .... а е R — неотри-
цательная симметрическая матрица, такие, что
а (ф) = \ ф W (№*) dx.
(5.13)
Ьц (Ф) - \ 1Ф U) I2 FU (dZ) + \ \ (А«х, у) ф (х) ф (у) dx dy, (5.14)
где Ft,(dty—элемент матрицы F(dty. Матрицы М, (A, j =а
=- 1, ..., I) и мера F(d‘k) определяются однозначно. При сформули-
рованных предположениях формулы (513) и (514) определяют
среднее значение и корреляционную матрицу обобщенного поля с
однородными приращениями.
Спектральное представление корреляционной матрицы дает воз-
можность получить и спектральное представление для самого об-
общенного поля с однородными приращениями
Теорема 4'. В условиях теоремы 4 имеет место представление
gfe <ф) = U (>) Zk (db) + [ ф (х) (nfe, х) dx,	(5.15)
где Zt(db), Zz(db), ..., Zi(dk)—случайные меры на Rm, для кото-
рых 2*({0}) = 0, MZ* (Л) = 0. MZj (4) Zk (В) = F]k (А Л В);
41, ..., 41 — случайные векторы в R"1, для которых MZ^ (А) 4$ = 0
(A,	1,	если 4а=(4л.....4а).	то м4а = "4 где
‘«1 — вГ	г b" b}tn 1
		= М, М^ц'г=а^а^Ь^, I ".„Х1 = Л4Г.
..........................................*s »г s г зг • I е mi	>mm |
а! ... п?*	L bsr • • • "sr J
12,5.41	12.5. ОБОБЩЕННЫЕ СЛУЧАЙНЫЕ ПОЛЯ	309
Случайные меры Zt, Zt и векторы nji, .rj; однозначно
определяются по векторному полю с однородными приращения-
ми £(ф).
12.5.4.	Обобщенные однородные и изотропные Случайные поля.
Обозначим через О группу всех ортогональных преобразований Rm.
Для geG через gq>(x) будем обозначать <р(й""*х). Поле В(ф)
называется изотропным, если МВ (<р) = М| (яф). МВ» (ф). MB2 (go).
В этом пункте рассматриваются однородные обобщенные поля, яв-
ляющиеся дополнительно изотропными.
Теорема 5. Для того чтобы однородное случайное поле В(ф)
было изотропным, необходимо и достаточно, чтобы мера F(d%) в
формуле (5.6) была инвариантна относительно ортогональных пре-
образований R'”, т. е. чтобы для всякого борелевского множества
В с: Rm выполнялось равенство F(g(B)) = F(B). Для того чтобы
6(ф1, Ф2) была корреляционной функцией однородного изотропного
поля в Rm, необходимо и достаточно, чтобы она была представима
в виде
СО
б(Ч>1. фа) = J ( J Ф1 W фг (gHm ( I * — 0 I X) dx dy дФ (X), (5.16)
о ** Rra
еде Yn (Г) - 2<"-г^Г (л/2)	(0. lln-iV2-Функция Бес-
селя порядка (л —2)/2, а Ф(Х) —неубывающая функция на {0, оо),
для которой
со
(1 + V)"1 йФ (X) < оо.
о
Непрерывная слева функция Ф(Х), для которой Ф(0-}-) == ф(0)= 0,
определяется однозначно.
Замечание. Теорема сформулирована так, чтобы она была
справедливой и для комплекснозначного поля; определение изотрон
пости здесь очевидно.
Рассмотрим теперь многомерный случай — /-мерное поле В(ф) =
= (В»(ф). ••• Ь(ф))- Предположим, что каждому gsG соотвег
сгвует ортогональное преобразование Vt пространства R', так что
	(т.е. задано представление группы G ортогональ
ными IX /-матрицами) Будем говорить, что однородное /-мерное
поле В(ф) является изотропным, если
МВ (ЙФ) - М(УЙВ (ф), М (В (ЙФ), я)2 - М (ДЙВ (ф), г)2
для всех j е О, <ре D, zeR1; (., •) — скалярное произведение в R'.
Теорема 6. Пусть Ut*=I (единичная матрица) для всех
geG. Тогда для того, чтобы однородное поле В(ф) было изотроп-
ным, необходимо и достаточно, чтобы матричная мера F(dk) в фор-
муле (5.9) была инвариантна относительно ортогональных преобра-
зований R'n, т. е. чтобы для всякого борелевского множества В с: R™
F(fi) - F(g(B)),
810~	ГЛ. 12. СЛУЧАЙНЫЕ ПОЛЯ	112.5.4
Для того чтобы, матрица В(ф) = (Ь,, (ф)) была корреляционной
матрицей изотропного однородного случайного поля 1(ф), необходи-
мо и достаточно, чтобы она допускала представление
СО
Ъц(ч>)=\	ф(х)ф(1/)Уп(|х — y\h)dxdy®u(dK), (6.17)
0 Rm Rm
где Yn(t) такое же, как и в формуле (5.16), а Ф(,(Х)—элементы мат-
ричной симметрической возрастающей функции Ф(Х), для которой
оО
J(l+A,’)“I<f«>H (*)<«>. i—l,.... m.
о
Если Ф(Х) удовлетворяет перечисленным условиям, то '(517?
задает корреляционный оператор однородного изотропного вектор-
ного поля.
Второй случай, который мы здесь рассмотрим, это тп = I,
Vs~g.
Теорема 7 Пусть UK = g. Тогда г«(ф) = 0, а корреляцион-
ная матрица В(ф) = {by (<(>)) имеет вид	__
оо
Ьц (ф) в 5 5 § W Ф (г/)	(I * “ # 1 х) Х1Х/ +
0 R™ Rm
+ Y™(\x-yWbll}dxdyd<S>lW) +
СО
+ J J $ф(*)ф(у){г£’(1*-у!А)х,%/ +
0 RWR™
+ Y% (I х - у | X) 6Z/} dx dy ЙФ2 (1), (5.18)
где
<	x —у .	.
х— |Х — У\ =^ь •••• Хет),
У'” (/) = - 2<п"2)/гГ (n/2) Z-<"-2>%+2)/2 (/),
(/) = 2(п-2)/2Г («/2) /"п%2 (0.	
Y& (0 = 2(п-2)/2Г (Я/2) /-<«-2>/2 /(п+2)/2 (/),
у^ (f) =	(п/2)	(0 - t~nl2 J„/2(0].
а Ф1(Х), Фг(1) не убывают на [0, со), Ф1(0) = Ф2(0), Ф1(-|-0) ='
«= Фа(+0) и при некотором р> 0
<х>
J (1 + 2ьр)-1 d&i (Л) <00, (»1, 2.
0
13.1.1]	131. ОПРЕДЕЛЕНИЯ. ОБЩИЕ СВОЙСТВА	ЗИ
Наоборот, если Ф1(1) и Ф2(Л) удовлетворяют этим условиям, то
формула (5.18) определяет корреляционный оператор векторного
однородного и изотропного обобщенного поля.
Литература: [16, 104, 105].
Глава 13. МАРТИНГАЛЫ
13.1.	Определения. Общие свойства
Мартингалы и полумартингалы образуют важный класс процес-
сов, обобщающий процессы с независимыми приращениями. Он вклю-
чает в себя широкий класс процессов — марковские процессы, реше-
ния стохастических уравнений, управляемые случайные процессы
и др. Разработана специальная «мартингальная» техника изучения
случайных процессов Основы ее излагаются здесь.
13	.1.1. Определения. Пусть {£1, Р} — полное вероятност-
ное пространство, на котором задан поток о-алгебр (<5t)fer, где
7— некоторое подмножество вещественной прямой R. Это означает,
что монотонно зависит от I: при ti < f2, G, tz e T будет
a:	(В гл. Э дано несколько другое определение потока, мы
будем им пользоваться прн рассмотрении мартингалов с непрерыв-
ным временем.)
Семейство вещественных величин £(/) (1 е 7) называется мар-
тингалом, если у/ s 7 М ] £ (1) | < оо и
=	tv t2e=T. (1.1)
Семейство случайных величин £(/) (/ е Т) называется супер-
мартингалом, если у/ М£~ (1) = -i- М (| g (0 | — | (<)) < оо и
h<t2, tv t2<=T.	(1.2)
Семейство случайных величин |(f) (1еТ) называется субмар-
тингалои, если —В (£) является супермартингалом.
Мартингал является одновременно и супермартингалом, и суб-
мартингалом, верно и обратное: если |(t) (1 е 7) является супер-
мартингалом и субмартингалом одновременно, то £(f)—мартингал
Термины «мартингал», «субмаргингал», «супермартингал» относятся
также и к случайным процессам. Более точно, называя процесс
мартингалом (супермартингалом), следует указывать поток, относи-
тельно которого свойства (1.1) или (1.2) выполнены. Поэтому ис-
пользуется также термин «(&*)( еГ-мартилгал» («супермартин-
гал»). Иногда термин «мартингал» относят к процессам, для кото-
рых (1.1) выполнено для потока, порождаемого самим процессом
£(1), т. е. когда !?i = o(E(s), s t, seT) —наименьшая о-алгебра,
относительно которой измеримы все указанные в скобках величины.
В дальнейшем относительно о-алгебр будет предполагаться,
что они содержат все множества P-меры нуль. Тогда всякая моди-
фикация мартингала (супермартингала) также будет мартингалом
{супермартингалом) относительно того же потока.
312
ГЛ 13 МАРТИНГАЛЫ
[13.1.2
Супермартингалы и субмартингалы относятся к классу полу-
мартингалов (или семимартингалов); общее содержательное опреде-
ление полумаргннгала будет дано ниже в случае непрерывного вре-
мени
Вместо свойств (1 1), (12) и аналогичного свойства субмартин-
гала можно использовать интегральные неравенства:
J £ (/2) Р (d<o) < J А	А	1 «>) Р (dw)	(супермартингал).
$|(*2)Р(Ао) = $ Л	Л	1 (0) Р (dw)	(мартингал),	(1.3)
J Е (0) р (dw) > J А	А	& (М Р (d<o)	(субмартингал),
Л 6= tJfji fl < ^2> 0. ^2 е Т'
13	.1.2. Примеры. 1 Пусть {Q, в, Р} — произвольное вероят-
ностное пространство, (8Л/ет—поток а-алгебр на этом простран-
стве, т] — произвольная вещественная величина, для которой
М |t)| < ос. Тогда процесс
£(0=М(71|&)
является мартингалом.
2	Пусть	.. — последовательность независимых случай-
ных величин, для которых М | g* | < оо (А = 1,2, ...), £* = Ы-...
=	, £*); {£>. t&T} (Т = {I, 2, ...)) является
мартингалом тогда н только тогда, когда = О (Л = 1, 2, ...),
и супермартингалом, если MgfeCO (Л =1,2, ...).
3.	Если в условиях предыдущего примера М^“0 и < оо,
тб {tp t е7'} является субмартингалом.
4.	Если £(() (1^0)—процесс с независимыми приращениями,
то он будет мартита том при условии, что М£ (/) (f 0) суще-
ствует и постоянно.
5.	Пусть £(()—однородный процесс с независимыми прираще-
ниями, для которого при некотором Л	=а (X) < оо. Тогда
ехр{А£(()—Ипо(?,)} является мартингалом
6	1)1,  .—	однородная цепь Маркова в произвольном фазо-
вом пространстве X, h(x)—эксцессивная функция для этой цепи,
т. е. функция, удовлетворяющая неравенству
h (%) < J Л (у) Р (х, dy),
X
где Р(х, dy)—вероятности перехода для цепи. Тогда процесс
En = h(T}n) является супермартвнгалом относительно потока (8*,
k > 1}, где 8* = о(т)1, .. ,ф)
7.	Пусть »] (() (/ е Т) — марковский процесс с переходной веро-
ятностью Р(з, х, I, Л). Если Т содержит максимальный элемент tm,
то процесс
ко - р а, п (*)./«.
13.1.3)
131 ОПРЕДЕЛЕНИЯ ОБЩИЕ СВОЙСТВА
813
является мартингалом относительно потока б/ = о (i) (s), s t,
s eg Т)
8.	Пусть ft*, k 1}—последовательность вещественных слу-
чайных величин такая, что для всех п существует совместная плот-
ность распределения pn(xj, ..., хя) величин £t, ..., Если
*1)—произвольная последовательность функций, для ко-
торых при я 1
j I<7п (*!. • • •» хп) | dxi ... dxn < оо, j qn (Xi.x„) dxn =•
“ffn-l (Xi, .... Хя-1),
то последовательность
* ____ ^fe(£i.
является мартингалом относительно потока б* = o(gi, .. , £*).
В частности, ди могут быть fe-мерными распределениями некото-
рой последовательности случайных величин, и тогда £* есть отноше-
ние правдоподобия
9.	Пусть w(t) (t 0)—вииеровский процесс в Rm, б< = a(w(s),
s < и <р(х) — вещественная непрерывная функция на Rm. Процесс
<р(ш(/)) будет мартингалом относительно потока	если
q(x)—гармоническая функция; он будет супермартиигалом, если
<р(х) —супергармоническая функция, и субмартингалом, если <р(х)—
субгармоническая функция. Этот пример указывает на связь теории
мартингалов с классической теорией потенциала.
13.	1.3. Общие свойства. 1) Функция Mg (1) (f е Т): а) постоян-
на, если |(0—мартингал, б) не возрастает, если 5(f)—супермар-
тиигал, и в) ие убывает, если g(f) —субмартннгал
2)	Если 5(f) —супермартннгал (субмартингал), то для того,
чтобы £(/) был мартиш алом, необходимо и достаточно, чтобы Mg(f)
было постоянным на области определения.
3)	Если £1(1) и £»(/)—два мартингала (супермартингала) от-
носительно одного и того же потока о-алгебр	то
•4-(fts(f)—также мартингал (a, />eR) (супермартингал («,6еК+)).
4)	Если gi(f) и 5г(<)—два супермартингала относительно одного
и того же потока, то 51(0 A 62(f)—также супермартингал относи-
тельно того же потока, в частности, для всех ceR gi(f) Дс явля-
ется супермартингалом, если 51(f) —супермартингал.
5)	Если gif/) п g2(f)—два субмартингала относительно одного
и того же потока, то 5i(0 V 62(f) —субмартингал относительно того
же потока; в частности, для всех ceR fi(0Vc есть субмартингал,
если только gi(f)\— субмартингал.
6)	Пусть g(f)V- мартингал н f— вещественная, определенная
на R выпуклая вниз функция. Тогда процесс fft(f)) является суб-
мартингалом, если М (| f (£ (f)) I + f (g (t))) <00 (f e Г). В частно-
сти, субмартингалами будут |5(f)|, |5(f)|p (р>1), ft(f)—с) +
(здесь (х)+ = (|х| -4-х)/2) при условии существования математиче-
ских ожиданий этих величин.
7)	Пусть 5(f) — супермартингал и f(x): R->R выпукла вниз и
не возрастает. Тогда fft(f))—супермартингал, если только
М (If ft (/)) | —f ft ft))) < ос для всех i е Т
314
ГЛ. 13. МАРТИНГАЛЫ
(13.2.1
Приведем несколько свойств, относящихся к возможным измене*
ниям потока а-алгебр, при которых мартингалы остаются мартин-
галами.
8)	Пусть (1 е Т) является мартингалом (супермартинга-
лом) относительно потока е г- Если (gf)( е г — такой поток,
что gi cz g/ y/GZ и £(Z) Неизмерим, то £(<) будет мартингалом
'(супермартингалом) относительно потока (81)({=7
9)	Пусть g(<) (t е Т) является мартингалом (супермартинга-
лом) относительно потока (8/)/,= 7 и C?5f)/ei— такой поток, что
St zo и 81 с 5, V ©о, где ©а — о-алгебра, порожденная множе-
ствами Р-меры 0. Тогда |(f) будет мартингалом (супермартинга-
лом) относительно потока (tji)/ <3 г •
10)	Пусть Т— интервал прямой, £(/) (/ е Т)—стохастически
непрерывный мартингал (су пер мартингал) относительно потока
(<5i)f<=T- Тогда §(/) будет мартингалом (супермартингалом) отно-
сительно потока (&1+), _ г" где 151+= П
sf7. s>t
Свойства 9) и 10) показывают, что при рассмотрении мартин-
галов иелрерывяого аргумента естественно требовать от потока,
чтобы он был непрерывен справа и пополнен множествами Р-меры 0
(именно эти требования входили в определение потока в § 9.4).
13.2.	Мартингалы с дискретным параметром
В этом параграфе рассматриваются процессы £(/) (tel), когда
Т — одно из трех множеств: Z — все целые числа, Z+— неотрица-
тельные целые числа, Z-— неположительные целые числа. Относи*
тельно потока о-алгебр (81)1 е т аДесь не требуется никаких допол-
нительных предположений (полнота, непрерывность справа).
13.2.1.	Моменты остановки. Моментом остановки относительно
потока (г)Йге= р называется такая случайная величина т со значе-
ниями в Т (т. е. Z, Z+ или Z-), что событие {т = /} <= 8, для всех
t е Т. Через 8j обозначается о-алгебра множеств А, для которых
/1П {т >= /} е 81 у# е Г.
Последовательность определенная при k 6s Z+, называется
предсказуемой, если для всех k она 8а-1-измерима, при этом £о
должно быть постоянно.
Справедливы следующие утверждения.
1.	Пусть — предсказуемая последовательность, — мартин-
гал; положим
Чп = Solo + (11 “ Во) Si + • • • + (Ire — In—i) Ire-
Тогда (rj„, n 0) является мартингалом, если только М [ т)п | < оо
для всех п 0.
2.	Пусть (k 5s 0)—мартингал (супермартингал) и т — мо-
мент остановки, для которого Р N} = 1 при некотором N. Тогда
Mg, =M|o(№x<Mgo).
3.	Пусть g* (k О) —мартингал (супермартингал), т и а — мо-
менты остановки, для которых Р {о т Л’} = I при некотором N-
Тогда М (|,18„) = U (М(|,|ga)<U.
13.2.1]	13.2. МАРТИНГАЛЫ С ДИСКРЕТНЫМ ПАРАМЕТРОМ 313
4.	Пусть g* (А sS 0)—- супермартингал и т — момент остановки,
для которого Р	I. Тогда
М^м^м^,
М|Ц|<М|^| + 2М(^)“<3В^М|6П|.
5.	Пусть о— некоторый конечный момент остановки, такой, что
для мартингала |* (А' > 0) М |	| < °о. Тогда Совокупность случай-
ных величин (g-p т^а}, где т — моменты остановки, равномерно
интегрируема *). При этом gT = М (g01 grt) для всех моментов оста-
новки т о.
6.	Пусть It (k 0)—положительный супермартингал. Тогда
М | ga | < оо для всякого конечного момента остановки а. Если а и
т — два конечных момента остановки, для которых с т, то
M(gT|ga)<go.
Далее рассмотрим случай, когда момент остановки может при-
нимать значение -j-оо. Для этого понадобится понятие замыкания
мартингала (супермартингала) справа.
Мартингал (супермартиигал) g/, (&	0) называется замкнутым
справа, если существует такая величина g оо > ЧТО = М (goo I gfe)
(М (goo)" < + ~ И М (Еоо 1 8fe) < ёл)-
7.	Если g«—замкнутый справа мартингал, положим g-r = goo
при т = Ч-оо, где g™— величина, входящая в определение замыка-
ния мартингала. Тогда совокупность случайных величин (gT, т С оо),
где т — всевозможные моменты остановки, равномерно интегрируема
и для всех моментов остановки т
lT=M(U|gt)
©оо= V 8* V ©(goo), £де ®(g«) —о-алгебра, порожденная вели-
k
чиной	содержит вес события А из для которых
А П {т 0 е 8; при t < оо). Если 0	-j-oo —два момен-
та остановки, то
Р {gt [ So) = g<T-
8.	Если g* — замкнутый справа супермартингал, то, используя те
же соглашения, что и в предыдущем утверждении, имеем М jg-r|-< °°
для всех моментов остановки т, при этом
1т>М(|оо18т),
и если О^о^т^оо — два момента остановки, то
go>M(g,|gtf).
9.	Пусть g* (k 0) — замкнутый справа мартингал (супермар-
тингал) , а т„ (п > 0) — произвольная неубывающая последователь-
ность моментов остановки. Тогда последовательность L = L
*) Множество случайных величин {ge} называется равномерно
интегрируемым, если lim sup sup \ | g01 dP = 0.
4-» О Р(А)<4 a J
Л
3tc>
ГЛ. 13. МАРТИНГАЛЫ
[1злл
(п > 0) является мартингалом (супермартингалом) относительно по-
тока $я}л>0. где
10.	Пусть g* (k 0) —> замкнутый справа мартингал (супермар-
тингал), т — момент остановки, т оо. Тогда 6я = £пд< (« > 0J
является мартингалом (супермартингалом).
13.2.2.	Основные неравенства. Мартингйльные неравенства де-
лятся на две группы: неравенства, относящиеся к оценке распреде-
ления максимума или супремума процесса, и неравенства для рас-
пределения числа пересечений процессом полосы.
Рассмотрим процесс g« (feZ4).
1.	Пусть g( (t е Z+) — супермартннгал, X > 0. Тогда
а)
б)
в)
XP|Sup^^>AJ<Mg0- J gftrfP<Mg0 +
4 г*
+ 4МП&1-Ы;
хр f infе,<-А1	( EfedP<vMn&l-gfel;
V<ft	j	J	л
AP f sup |g,|>Al <3sup Mlgil-
It < k	I	t<;k
Эта группа неравенств иногда еще называется максимальной лем-
мой.
2.	Пусть £« (t ё= Z+) — мартингал, А > 0. Тогда
а)	ЛР {sup* Ef> AJ < iM [| | + E*];
б)	АР ( inf g(<- Al < J-М [| Efe I- Ы;
J 2
B) *P{sup |Etl>A}<M|E*|;
г) ДЛЯ a> 1 A“P Гsup lEtl>Al CM |Efe Iе, A>0.
v Л	J
3.	Пусть E* (t e= Z.f.) — супермартингал, Et > 0. Тогда
a)	AP 5s =*
б)	для а > 1 А“Р	« А“РI £t I >	<
С sup M|Ef|a.
4.	Пущь Et (f e Z+} — мартингал, gt 0- Тогда
a)	M sup|E<|<2('H-suPM|gn|in(|E„i V 1Л;
i>0	k n	)
б)	для a> 1 M /sup|gfha<( " У sup M|gn|a.
V>o ) \a — 1 / ft>o
112.2]	13.2. МАРТИНГАЛЫ С ДИСКРЕТНЫМ ПАРАМЕТРОМ 317
5.	Пусть g( (teZ+) —субмартингал, Ег 0. Тогда
а)	М sup & < 2 /Т 4- sup Mg„ In (| g„ | V Щ;
f>o V «	J
6)	для а > 1 М sup g? < (—sup Mg“.
i>o г — 1 / n>0
6.	Пусть g„ (п > 0) — мартингал, о„ (п > 0) — предсказуемая
последовательность, (un| 1,
1)п = Цо5о + Ц1 (51 — go) + • • • + t>n (5п — 5«—1)*
Тогда
a)	Z.P (sup | ты | >	< 18 sup М 1I;
In	) п
б)	если gn 0, то
ЛР {sup 11]П I > Z} < 9 sup М |	|;
в)	для всякого а > 1 существует такая постоянная со, что
М sup | »]п |“ < с„ sup М | gn |°
п	п
(это неравенство Бурнхольдера).
Рассмотрим теперь супермартингалы (мартингалы), определен-
ные на Z_ (Z). Для них справедливы аналогичные неравенства;
приведем лишь основные из них.
7.	Пусть g< — супермартингал, t е Z_ (/eZ). Тогда
a)	ZP f sup | gf | > Ц <3 sup M|g(|;
6)	Z.P f sup |gf|>M<3 sup M | lt I;
line* f in<k
в)	если g( 0, t e Z_, to
ЛРГ sup gi>n<Mg_ft;
j
для a > 1 XnP f 'up g* > Ц < sup M | gr |“;
l-ft</co i -ЛСК0
г)	если gi 0 (/ e Z), to
АР f sup gt>M<Mg_fe,
1|1|<й J
для a > 1 1ПР f sup It > M < sup I gf |a.
 MICA I
8.	Пусть g; — субмартингал, g( 0. Тогда
а)	M sup gr < 2 (1 + sup Mgf In (| gt | V 1));
б)	при a > 1 M sup g“ o i ) sup Mg“.
Здесь супремум берется либо по Z_, либо по Z в зависимости от
области определения субмартингала.
9.	Если gj — мартингал, то неравенства 8 остаются справедли-
выми, если в них заменить 5» на | g/ ].
318
ГЛ 13. МАРТИНГАЛЫ
[13.2.3
Рассмотрим теперь неравенства, относящиеся к числу пересече-
ний процессом полосы. Пусть at (/е Z) — некоторая последователь-
ность вещественных чисел, V с: Z — отрезок целых чисел, а < ₽ е R.
Говорят, что последовательность at пересекает полосу [а, ₽] на от-
резке V сверху вниз т раз, если можно указать такие точки It <
< tz < ... < tzm из отрезка V, чю at,	р, at? а, ... ,	>
а*2т а’ 11 пc'л,'”, У|1П ,а 1 11	точки, чтобы для них
выполнялись анало) ичныс iicpajuciicina 13 этом случае т называется
числом пересечений сверху вниз полосы |«, р| на отрезке V. Анало-
гично определяется число пересечений снизу вверх. Пусть — слу-
чайный процесс, заданный на Z4, Z_ или Z Обозначим через
тч[а, р] число пересечений им снизу вверх полосы [а, р] на отрезке V.
10.	Неравенства Дуба-.
а) (р — а)М Vy [a, ₽]<4'М (R*“al“(^
где k — sup [Z, t e V], если V ограничено сверху;
б) (Р —a)Mvz
+
[a, Pl < * sup -i- M ( |gfe - ct ] -	- a)) <
=C sup —a|;
feez+
аналогичные неравенства справедливы для Z_ и Z.
11.	Если V ограничено сверху и k ~ ьир |7, (е V], то
(Р - a) Р {vv [a, PI > п] < J (| Ба ~ а | ~ (Bft - о)) dP
{vy [а, Ы-Я}
(это неравенство Дубинса).
Для субмартингалов можно получить аналогичные неравенства
для пересечений сверху вниз, воспользовавшись тем, что —g» явля-
ется супермартингалом.
13.2.3. Теоремы сходимости. Одним из важнейших свойств супер-
мартингалов является существование предела при весьма общих
предположениях об их ограниченности.
Теорема 1. Пусть (п :> 0) является супермартингалом,,
для которого sup М |	| < оо. Тогда с вероятностью 1 существует
lim 1п.
П->оо
Аналогичное утверждение справедливо для супермартингала
(ns£0).
Теорема 2. Пусть £я (п Гэ 0) является супермартингалом.
Тогда
а)	если последовательность = (|Б«| — Бя)/2 (п>0) равно-
мерно интегрируема, то предел | = lim g существует и замыкает
п -> 00
супермартингал справа;
б)	наоборот, если супермартингал замкнут справа (т. е. суще-
ствует такая случайная величина что 2s М | §„)), то
равномерно интегрируемы и, значит, существует с вероятностью 1
предел | = lim
1[3.2.4]	13.2. МАРТИНГАЛЫ С ДИСКРЕТНЫМ ПАРАМЕТРОМ 31®
Теорема 3. Пусть gn (и < 0) — супермартингал относительно
потока (5п)л< о, для которого lim Mg~ < + оо. Тогда
о) последовательность gn равномерно интегрируема-,
б) с вероятностью 1 существует lim. gn = g;
в)	lim M|gn —g| = 0;
n-^— DO
r) g замыкает g, слева, т, e. g > M (gn !&_„), где == A
n
Теорема 4. Пусть gn (n > 0) —мартингал. Тогда
а)	если gn равномерно интегрируем, то с вероятностью I суще-
ствует lim gn = g, при этом lim М I g„ — g I = 0 u g = М (g 1 §n),
t. e. g замыкает мартингал gn справа-
б)	наоборот, если мартингал gn замкнут справа (т. е. g„ =;
=	где т)—некоторая величина с М | т] I < оо), то g„ рав-
номерно интегрируем, существует lim g_ = M (t] I V gf„) = g и
lim M|g„-g| = O.
«-> oo
Теорема 5. Пусть gn (n 0) — мартингал относительно по-
тока (&n)n<o- Тогда gn равномерно интегрируем, существует
lim	при этом lim Ml gn —g_«> 1 = 0 и замы-
п — DO	П-> —ОО
кает мартингал слева, т.е. g_M= М (grt | А Если, кроме того,
М (g0)a < ОО (а > 1), то lim МI g_„ - g„ |а = 0.
п->—оо
13.2.4.	Теоремы о разложении. Супермартингал gn (« s== 0) на-
зывается потенциалом, если gn > 0 и lim £„ = 0.
оо
Теорема 6. Для всякого супермартингала t,n (п 0), для ко-
торого lim Mg„ > — оо, справедливо представление
П->оо
Ед ” En "I"
где gn является потенциалом, а м„— мартингалом. Такое разложение
супермартингала единственно. При этом т]п является наибольшим
субмартингалом, ограниченным сверху супермартингалом gn.
Теорема 7. Если g« (п 0) — супермартингал, то следующие
три утверждения эквивалентны:
a)	lim Mg„ > — оо ;
П->ОО
б)	gn ограничен снизу субмартингалом:
в)	gH ограничен снизу мартингалом.
Теорема 8 (разложение Крикеберга для мартингала). Если
gn (п > 0) — мартингал, для которого sup М | g„ j < оо, тогда
п
р = sin — №
6п 6п 6п »
еде gJJ) и g^' — неотрицательные мартингалы, причем sup МI gn I =
п 1
= sup MgW + sup Mg^, является наименьшим неотрицательным,
п	п
320
ГЛ 13 МАРТИНГАЛЫ
[13.31
мартингалом, ограничивающим Е* сверху, а — наименьшим не-
отрицательным, ограничивающим сверху —
Теорема 9 (разложение Дуба). Для всякого супермартингала
(п 0) можно указать возрастающую предсказуемую последо-
вательность а„ («о = 0) и мартингал »}д такие, что = »]к — ал<
Если lim M£rt > — оо , то а„ ограничено и а№— lim ап таково,
п-^-со	п-> оо
что Мяд, < оо. Если £« — равномерно интегрируемый супермартингал,
то а„ ограничено, < оо, а мартингал т]л равномерно интегри-
руем
Справедливо и обратное', если Мам < оо и т]л — равномерно ин-
тегрируемый мартингал, то таким будет и супермартингал |п.
Теорема 10 Всякий потенциал представим в виде
£П=М[«оо“«,Ж].
где ап — предсказуемая возрастающая последовательность, во = 0,
«„= lim ап.
П->оо
13.3. Мартингалы с непрерывным временем
В этом параграфе рассматриваются мартингалы (супермартин-
галы и субмартин!алы), определенные на R+ (иногда на [0, оо]) от-
носительно потока о-алгебр	(иногда от этой совокупности
о-алгебр будет требоваться лишь монотонность). Основная цель
здесь — распространение результатов для последовательностей на
процессы с непрерывным временем.
13.3.1.	Теоремы о непрерывных справа супермартннгалах.
Теорема 1. Пусть |(f) — супермартингал, заданный на Rь от-
носительно монотонной совокупности о-алгебр (3{)(^0> D— счет-
ное и плотное в R+ множество. Тогда
а)	для почти всех со по мере Р у функции (•(<) для всех t s R+
существует предел справа
U*+) = Um Е(«)
s е D, s-^t
и для всех t > 0 — предел слева
g(f-)= Um g(s);
s e D, s 4 *
б)	для всех / e R+ существует M | g (f +) | и с вероятностью 1
$(*)>M(g (f-H|8t)
(неравенство превращается в равенство во всех точках, где (1)
непрерывно справа). Процесс £+(/) = £G+) является супермартин-
галом относительно совокупности о-алгебр (3f+)i>0’ г&е Sf+=
= р он является мартингалом, если £(/) —мартингал',
s>t
в)	для всех 1 > О М | £ (f —)|<оо и
g(f-)>М(&(f)	g(_= V 8,
13.3.1]	13.3. МАРТИНГАЛЫ С НЕПРЕРЫВНЫМ ВРЕМЕНЕМ 321
(неравенство превращается в равенство, если Mg (О непрерывно сле-
ва). Процесс 5-(О « g(#—) является супермартингалом относитель-
но совокупности <з-алгебр (б<-)г>о(бо-“= бо), 5-(0) — £(0); он
будет мартингалом, если таков £(/)
Очевидно, что Е+(0—непрерывный справа процесс; он будет
стохатически эквивалентен исходному, если Mg (О непрерывно спра-
ва. Поэтому имеет смысл рассматривать непрерывные справа супер-
мартингалы. -
Теорема 2. Пусть g(/) (leR|)—супермартингал по отно-
шению к (8rt)/>0, для которого 5(0 с вероятностью 1 непрерывен
справа. Тогда
а)	£(0 не имеет с вероятностью 1 разрывов второго podaj*
б)	5(0 является супермартингалом относительно потока б» *=•
= б/+ V ®о, где ®о — а-алгебра, порожденная множествами б Р -ме-
ры 0 ({£2, б, Р) — основное вероятностное пространство).
Теорема 3. Пусть g(0 (< е R+) — супермартингал, непрерыв-
ный справа. Тогда
а) XP{ suplg(t)|>M<3 supM|5(0l. A<=R+;
1еД	1еД
” б) если 6(0 —мартингал, то
;.р{ sup It(01 >М< sup м16(01,
1еД
при а > I
М sup | g (0	_£—V sup м । g (/)
tea	V. а —1 у
в)	если vj ([а, 6)] обозначает число пересечений процессом g(0
полосы [а, 6] на множестве А, то
MvJ([a, Я)< (Iа 1+	1НП1),
Далее будем предполагать, что	является потоком.
Теорема 4. Пусть 5(0 — непрерывный справа супермартин-'
зал. Тогда
а)	если sup М | g (f) | < оо, го с вероятностью 1 существует
lim g (0 = £«,, причем М | £«, | < оо;
t->oo
б)	утверждение а) имеет место, если супермартингал замкнут
справа величиной к), при этом > М (ч ] &«,_). еде Q»- “ V Ш!
в случае мартингала “ М (т> 18гте_);
в)	если супермартингал £(0 (мартингал) равномерно интегри-
руем, то б» замыкает 5(0 справа.
Теорема 5. Пусть 5(0—непрерывный справа супврмартин-
еал, определенный для t>0. Если lim Mg (0 < оо, то с вероят-
но
ностью I существует Нт £(0 = 5о. причем lim М |g (i) —’5о|”= &
t->o	i->o 1
Рассмотрим теперь значения процесса в моменты остановки.
И в. С. Королюк и др.
S22
ГЛ. J3. МАРТИНГАЛЫ
ЦЯЛ5
Теорема 6. Пусть |(f) (/е R+) — непрерывный справа супер-
мартингал, замкнутый справа величиной 5«, измеримой относи-
тельно о (<е Rf-). Тогда
а)	если т и v — два момента остановки, для которых т^а, то
существуют М11 (а) | u М | £ (т) | и
М(Е(а)|8тХ£(т);
б)	если тиа — произвольные моменты остановки, то
М(К(а)|®т)<5(аЛт);
в)	если Т — момент остановки, то
ftO-WAD
является супермартингалом (мартингалом, если £(f) — мартингал}.
Будем обозначать для момента остановки т через 8т- а-ал«
гебру, порожденную событиями вида АП (т< t}, где At
Теорема 7. Пусть 5(f) (f^»0)—непрерывный справа супер-
мартингал, замкнутый справа величиной Будем считать, что
1(0-) = g(0). Тогда
а)	если о и т — два предсказуемых момента остановки, для ко-
торых и т, то 5(с—) и 5(т—) имеют математические ожидания и
5 (а—) > М (5 (т -) 180_ )> М (5 (т) 180_)
(для мартингала неравенство превращается в равенство)'',
б)	пусть т—предсказуемый момент остановки, (f) " Е (О
t < т, (t) »=» 5(т —).	тогда, если 5(f)—непрерывный
справа супермартингал (мартингал), то fc’- (f) — также супермар-
тингал (мартинга^)’,
в)	если 6(f)—неотрицательный супермартингал, непрерывный
справа, т = inf [f, 5(f) = 0], то |(f) •= 0 при t т.
Теорема 8. Пусть 5n(f)—возрастающая последовательность
непрерывных справа супермартингалов, 5 (0 и SUP in (0> Тогда
п
6(f) в предположении, что 5(0) конечно, является процессом без
разрывов второго рода, непрерывным справа.
13.3.2. Супермартингалы класса (D). Локальные мартингалы и
супермартингалы. Пусть Т] (f) (f 0) — измеримый случайный про*
цесс. Он называется ограниченным в £‘ (по отношению к потоку
(81)/ > о)> если конечна величина
HIi = sup М| 1) (т) |/{т<оо},
т
где Т — пробегает все моменты остановки относительно потока
(81)/>о* Если семейство случайных величин т] (т) I{Т<<х>} равно*
мерно интегрируемо, то говорят, что t](f) принадлежит классу (D),
Теорема 9 а) Равномерно интегрируемый непрерывный спра-
ва мартингал принадлежит классу (D);
б)	замкнутый справа неотрицательный субмартингал принадле-
жит классу (D);
в)	для непрерывного справа супермартингала 5(f) существует
последовательность моментов остановки тп такая, что тп t оо и
£(f А тп) для всех п принадлежит классу (D)\
18A3J	13.3. МАРТИНГАЛЫ С НЕПРЕРЫВНЫМ ВРЕМЕНЕМ 323
г)	пусть |(0—неотрицательный непрерывный справа супермар-
тингал, Ем ва inf [/: g(0	п]; для того чтобы Е(0 принадлежал
классу (D), необходимо и достаточно, чтобы
Приведем пример неотрицательного равномерно интегрируемого
супермартингала, не принадлежащего классу (D).
Пусть w(Q— трехмерное броуновское движение, выходящее из
точки х 0. Тогда процесс 5(0 >“ |ш(01- ‘ является даже потен-
циалом; кроме того, он непрерывен с вероятностью 1. Пусть £л =•
= inf (f: 5(0 «и п}. При Ел < оо g(g„) «= п, а Р {£« < оо} = | х |/д
при |х| < п, так что Mg (gn) ^{С„<«>} ” Iх I для достаточно боль-
ших п. Из утверждения г) следует, что g(0 не принадлежит клас-
су (В).
Пусть g(0 (/ 5= 0)—непрерывный справа процесс, согласован-
ный с потоком а-алгебр	Говорят, что g(0 является ло-
кальным мартингалом (относительно потока Ое)/>о)» если суше*
ствует такая возрастающая последовательность моментов остановки
Тл, что 5(1 А тя) является равномерно интегрируемым мартингалом
и	Последовательность моментов остановки называется при-
водящей локальный мартингал. Момент остановки t приводит ло-
кальный мартингал 5(0, если g(f Ат) —мартингал.
Всякий мартингал является локальным мартингалом.
Теорема 10. Пусть Е(0 — локальный мартингал. Тогда
а)	если т, а — моменты остановки, т приводит 5(0 «а<т, то
о также приводит 5(0;
б)	сумма двух локальных мартингалов является локальным
мартингалом',
в)	если т и о — два момента остановки, приводящих g(0, то
таким будет и момент остановки т V о;
г)	для всякого момента остановки х процесс gT (0 ™ 5 (t Л т
является также локальным мартингалом;
д)	если 5(0 (f 0) — непрерывный справа, согласованный с
потоком (8i)/> о процесс, для которого существует такая последо-
вательность моментов остановки тя, чго sup 4-со u it) =
п
™ 6(f А Тл) является локальным мартингалом для всех п, то 5(0 —
также локальный мартингал.
13.3.3.	Теоремы о разложениях для мартингалов и квазимартин-
галов.
Теорема II. Пусть 5(0 —непрерывный справа мартингал. Он
ограничен в £* (т. е. || g Щ < со) тогда, когда он представим в виде
5(0“Е+(0-Г(0.
где g+(0 и gJ(0—два неотрицательных непрерывных справа мар-
тингала, причем эти мартингалы могут быть выбраны таким обра-
зом, чтобы
11Ц - II &+ +IIГ U* = Mg+ (0)+Mg" (0).	(3.1)
11*
824
ГЛ. IS. МАРТИНГАЛЫ
{13.3.3
При атом £+(() является наименьшим мартингалом, ограничиваю-
щим сверху £(/), а Е~(0—наименьшим мартингалом, ограничиваю-
щим сверху — |(0.
Теорема 12. Пусть £(()—локальный мартингал, непрерывный
справа. Он допускает единственное представление в. виде £(/) =
«= i+(t)	еде £+(*) и £“(/)—неотрицательные непрерывные
справа локальные мартингалы, такие, что выполнено (3.1).
Если £(*) — V(Q— V(0, где V « V ~~ неотрицательные супер-
мартингалы, то £*(0 — £ь(/) и £2(0—£-(0 являются неотрица-
тельными супермартингалами.
Пусть £(/) (t > 0) —некоторый непрерывный справа случайный
процесс, согласованный с потоком (grj)t >0, для которого М | £(01 <
< со для всех i 55= 0. Для замкнутого отрезка [а, Ь] введем вели-
чину
VarIa. w (Е) - sup М М (£ (//+ j) - £ (tf) | S(/) |,
где a e it < 0 < ... <Jn и Ь; супремум берется по всем разбие-'
дням отрезка (а, Ь1 Если величина Var^ bJ (|) < оо, то £(t) назы-
вается квазимартингалом (относительно потока О*)/ > о) на отрезке
[в, 8J. Если Varp, „[(£)•« sup УаГ|0 /](£) < со, то £(0 называется
квазимартингалом. Если определен £(«>), то определена Var[0> Mj(£),
и в случае конечности этой величины £(0 —квазимартингал на
[0, <»]. Если £(/) определен лишь при /<оо, то, полагая £0(0Ш*Е(0
при t < оо, |»(оо)	0 и Var*0, м] (Е)  Var[Of те|(Е°), будем гово-
рить, что £(/)—кйазимартингал вплоть до бесконечности, если
Var(0. «{<6) < <*>-
Теорема 13. Мартингал £(/) будет квазимартингалом вплоть
до бесконечности тогда и только тогда, когда он ограничен в Е1,
при атом
Var;o<Bej(£)«B|J1-supM|E(O|.
Теорема 14. Пусть £(?) определен при / > 0. Он будет квази-
мартингалом вплоть до бесконечности треда и только тогда, когда
он представим как разность друхнеотрицательных непрерывных
справа супермартингалов'. £(/) = £+(0—£“(<)• В атом случае су-
ществует такое единственное разложение указанного выше вида, что
Var[0> „j (£) -= Var[0< w) (Е+) + Var^ м] (£“) = М (£+ (0) +	(0)).
Для всякого другого разложения £(/) = £*(#)—£г(0 на два
неотрицательных непрерывных справа супермартингала процессы
Е’(0— £+(0 и £’(0~ Е~(0 будут неотрицательными супермартин-
галами.
Теорема 15. Пусть £(<)—квазимартингал на [0, оо[. Тогда
он допускает представление в виде
‘ tW«EoW + £+(O-E“(O.
13.3.4]	13.3. МАРТИНГАЛЫ С НЕПРЕРЫВНЫМ ВРЕМЕНЕМ 325
$де 5о(О—мартингал, §*(0—неотрицательные супермартингалы и
все процессы go, S+, непрерывны справа.
13.3.4.	Возрастающие процессы. Под возрастающим процессом
а(0 (* > 0) понимают согласованный неотрицательный непрерыв-
ный справа процесс, выборочные функции которого являются не-
убывающими. Ои называется интегрируемым, если Ма(оо—)
= lim Ма (0 < со. Разность двух возрастающих интегрируемых
1->оо
процессов называется процессом интегрируемой вариации. Возра-
стающий процесс а(0 называется непрерывным, если а(0) == 0 и
a(t) —непрерывная функция t с вероятностью 1.
Теорема 16. Пусть а(0—возрастающий процесс. Тогда су-
ществуют непрерывный возрастающий процесс ae(t), последователь-
ность моментов остановки тг и (неслучайных) постоянных kn такие»
что
a (I) » ас (0 + А.л
п
Если а(0 предсказуем, моменты т„ можно выбрать предсказуе-
мыми.- Процесс ae(t) определяется однозначно; он называется не-
прерывной частью a(t), а процесс
arf(0 — a(0-ae(0
называется чисто разрывной (скачкообразной) частью а(0.
Теорема 17. Пусть {(0 — измеримый неотрицательный про-
цесс, *5(0 и ”5(0 —соответственно его опциональная и предсказуе-
мая проекции (см. п. 9.4.6). Тогда
М 5(s)da(s) = M jj °£(s)Ja(s),
[0, оо]	[0, оо]
и в том случае, когда а(0 предсказуем,
М J £ (s) da (s)-M J *g(s)da(s).
№> oo]	]0, м[
Теорема 18. Пусть a(0 — возрастающий не обязательно со-
гласованный интегрируемый процесс (Ma (со —) < оо). Есла для
Каждого ограниченного процесса 5(0
М J g(s)da(s) = M J °J(s)da(s),
]0. оо]	[0, «]
то а(0 вполне измерим и, значит, является возрастающим процессом
в обычном смысле; если при тех же условиях
М J g(s)da(s)-M J ₽g(s)rfa(s),
[0. оо]	(Q, оо[
то alt) предсказуем.
Пусть а(0 (t 0) <— возрастающий интегрируемый не обяза-
тельно согласованный процесс. Опциональный возрастающий процеса
326
ГЛ. 13. МАРТИНГАЛЫ
рз.з.»
Р(0 называется опциональной дуальной проекцией процесса «(0,
если
м J(s)dp(s) = M °£(s)da(s)
(О, оо[	JO, oof
для всякого ограниченного измеримого процесса £(0.
Предсказуемый возрастающий процесс у(0 называется предска-
зуемой дуальной проекцией процесса а(0, если
М В (s) dy (s) == М J pl (s) da (s)
[0, oo[	10, oof
для тех же £(0.	I
Теорема 19. Пусть a(t) и Р(0—два возрастающих интегри-
руемых не обязательно согласованных процесса. \
а)	Для того чтобы они имели одинаковые опциональные дуаль-
ные проекции, необходимо и достаточно, чтобы для любого момента
остановки t М [а (оо —) — <х (т —) | J = М [₽ (оо —) — р\т —) 18tl
(«((У—) = £(0—) =0).
6)	Для того чтобы они имели одинаковые предсказуемые дуаль-
ные проекции, необходимо и достаточно, чтобы	]
М(а(0)|&) = М(Р(0)|&), М (а («>-)-а (/)!&)= /
= М(₽ («>-)-₽ (0]8,)
с вероятностью 1.	I
Пусть а(0 (/^ 0)—возрастающий (согласованный! процессу
Его предсказуемая дуальная проекция называется компенсатором.
Возрастающий не обязательно согласованный процесс (0
(t >s 0) называется локально интегрируемым, если существует воз-
растающая последовательность моментов остановки тп, Тп-^-роо,
для которой М (а (тл) — а (0)) < оо и М (а (0) | йо) < °° с вероят-
ностью 1. Процесс, представимый в виде разности двух возрастаю-*
щих локально интегрируемых процессов, называется процессом ло-
кально ограниченной вариации.
Очевидны определения опциональной дуальной проекции, пред-
сказуемой дуальной проекции и компенсатора для локально инте-
грируемого возрастающего процесса, а также для процесса ло-
кально ограниченной вариации.
Теорема 20. Всякий интегрируемый (локально интегрируе-
мый) возрастающий процесс имеет компенсатор, который также яв-
ляется интегрируемым (локально интегрируемым).
Теорема 21. Если i(t), Е(0) =0, есть локальный мартингал
конечной вариации, тогда он представим в виде g(0 = ц(0 —£(0,
где т](0 есть процесс локально ограниченной вариации, а £(0 —•
его компенсатор.
13.3.5.	Потенциалы, порождаемые возрастающими процессами.
Пусть р (i) (I е [0, со]) — возрастающий интегрируемый не обяза-
тельно согласованный процесс. Обозначим через v(t) непрерывную
справа модификацию мартингала v (0 = М (р (со) | gf): пусть далее
а(0—предсказуемая дуальная проекция р(0.
Супермартингал л(0 = v(0 — a(0 является потенциалом; оа
называется потенциалом, порождаемым возрастающим процессом
0(Ф
13.3.8]	13.3. МАРТИНГАЛЫ С НЕПРЕРЫВНЫМ ВРЕМЕНЕМ 327
Если р(/) обладает теми же свойствами и a*(t)—его опцио-
нальная дуальная проекция, то супермартингал
я* (О = М(₽(«)| &)-а*(*~)
также является потенциалом; он называется левым потенциалом,
порожденным возрастающим процессом р(/).
Теорема 22. Если а (<) (t > 0) — предсказуемый возрастаю-
щий интегрируемый процесс и Л(/)—порожденный им потенциал^
то
М[а(оо)р = М (л (s) + я (s -)) da (а).
[0, «[
Те.ор е м а 23. Если a(t) (t 0)—опциональный возрастающий
интегрируемый процесс и л* (/) — порожденный им левый потенциал,
то
М [а (оо)]2 = М J (л* (а) + л* (з +)) da (з).
(0, »(
Теорема 24. Пусть a(t)—возрастающий (опциональный?
процесс, который порождает потенциал (левый потенциал), ограни-
ченный сверху постоянней с. Тогда
а)	для всех п 1
М(а(со)]п<л]сп;
б)	для всех 0 < X < 1/с
М ехр {Ха (оо)}	1/(1 — Хс).
Теорема 25. Пусть a (t) — возрастающий интегрируемый
предсказуемый процесс, a tj (/) — неотрицательный измеримый не
обязательно согласованный процесс. Предположим, что для всякого
предсказуемого ограниченного момента остановки т выполнено
М»](т)<Ма(т—), а(0—)«=0;
тогда для всех X > 0 а предсказуемого ограниченного момента
остановки х
a)	М (»] (т) A X) < М (а ft —) Л X) + ХР {а ft —} > X};
б)	М fr) ft) Л X) < 2М (а (т —) Л X)-
в)	если т) (t) также предсказуем, то
ХР { sup п (0 > X} < М (а (х —) Л X) + ХР {а ft —) > X}.
t
13.3.6.	Разложение Дуба для супермартингалов. Разложение Ду-
ба для последовательностей приведено в п. 13.2.4. Обобщение этого
разложения на супермартингалы непрерывного аргумента принадле-
жит П. А. Мейеру.
Теорема 26. Пусть £(/)—неотрицательный супермартингал
класса (Ь). Тогда существует интегрируемый предсказуемый воз-
растающий процесс a(t), определенный при t е [0, оо], для которого
«(0) = 0 (но не обязательно а(оо) == а(оо—)) и
g(0 = M(a(oo)-a(0l&)	(3.1)
828
ГЛ. 13. МАРТИНГАЛЫ
нале
с вероятностью I; такой процесс a(t) определяется единственным
образом с точностью до неотличимости (т.е. два таких процесса с
вероятностью 1 совпадают для всех /). Наоборот, если а (О удовле-
творяет перечисленным выше условиям, то ^(t)—супермартингал
класса (D).
Процесс а (0 называется возрастающим процессом, ассоцииро-
ванным с супермартингалом £(/)•
Теорема 27. Пусть a(tj—возрастающий процесс, ассоцииро-
ванный с супермартингалом £(/) класса (В), Да(1) = a(t) —ce(t—).
Тогда Да(0 •= l(t—)—”Е(0. tde ₽£(/)—предсказуемая проекция
процесса Mi).В частности, а(/)—непрерывный процесс, если ^Mi) —
*=> —). Это условие эквивалентно следующему: для всякой возра-
стающей последовательности моментов остановки т„, для которой
lim тЛ < оо, будет lim М{ (тп)= MJ (11m tn).
«-»<»
Теорема 28. Пусть £(/) — неотрицательный супермартингал
класса (D). Тогда
СЮ-рЮ-аф,
где р(/) — замкнутый справа (а следовательно, равномерно интегри-
руемый, или, что то ясе самое, класса (В)) мартингал, а а(0 —
предсказуемый интегрируемый возрастающий процесс (ассоциирован-
ный с С(/) возрастающий процесс). Для того чтобы супермартингал
допускал указанное разложение, необходимо и достаточно, чтобы
супермартингал МО был класса (D).
Теорема 29. Пусть £(/)—супермартингал. Тогда £(/) имеет
единственное разложение вида
i (t) -р (t)-a(t),
еде p(Z) является локальным мартингалом, a a (t) — предсказуемым
возрастающим процессом, для которого а(0) = Ou Ма(/) < оо для
всех i > 0; а(0—интегрируемый процесс тогда и только тогда,
когда lim М{ (г) > — со.
f*»eo
Это разложение называется разложением Дуба для супермар*
тингала; процесс «(/) называется возрастающим процессом, ассо-
циированным с супермартингалом £(/).
Теорема 30. Пусть т](/)—неотрицательный супермартингал.
Тогда т](/) допускает представление
п(О-С(О + *(П,
где С(Л —-потенциал класса (D), a v(t)—локальный мартингал
Семейство случайных процессов {ge (/), 0 е б), согласованных
с потоком (&)*>()» равномерно принадлежит классу (D), если се,
мейство случайных величин {{в(т), 0Е0, т — конечный момент
остановки} равномерно интегрируемо.
Теорема 31. Пусть £и(0 (n^O, t е [0, оо[)—последователь-
ность неотрицательных супермартингалов и an(t) (п^О)— ассо-
циированные с ними возрастающие процессы. Предположим, что
а)	6л(0 равномерно принадлежит классу (В);
б)	для каждого момента остановки г М [ |0 (т) — |п (т) t -> 0.
Тогда для всякого момента остановки t	Л
М |ао(т) — ал (т) [->0.
1W]	13.4. СЕМИМАРТИНГАЛЫ	829
Если дополнительно slip [ 6л (0 — £в (О I -» О по вероятности, то
<>0
lim supMlac(f) — a„(f)|=O.
П->ОО t
13.4. Семимартингалы и стохастические интегралы
13.4.1. Семимартингалы. Основные свойства. Согласованный с
потоком о случайный процесс 6(0' (f>0) называется се-
мимартингалом, если он допускает представление 6(0 в6(0) +
+ a(0+v(0» где a (1)—процесс конечной вариации, и (О)»» О, а
v(0—локальный мартингал, v(0) = 0. Если можно указать такое
представление, что a(t) предсказуем, то 6(0 называется специаль-
ным семимартингалом.
Примером семимартингала, не являющегося специальным, может
служить такой: 6(0 = 0, t < 1, 6(0 = 6(0. t > 1, 8* = So, t < 1,
где So — тривиальная <т-алгебра, Si = Si, t >= 1, Si порождена 6(1).
Mg (1) не существует. Всякий предсказуемый процесс a (О в точ-
ке <= 1 должен Иметь неслучайное значение; тогда 6(0 — а(0 н&
может быть вокальным мартингалом. Условия, при которых семи-
мартингал ((а) является специальным, даются следующими утвер-
ждениями.
1	. Пусть 6(0 {I > 0)— семимартингал. Следующие утверждения
зквизалентны:
а)	5(0—специальный семимартингал-,
б)	существует представление 6(0 «< 6(0) + a(0 + v(tJ, где
a(f) —процесс локально интегрируемой вариации;
в)	для всякого представления 6(0	£(0) + a(0 + v(f), где
v(f)—локальный мартингал, a(t)—процесс локально интегрируе-
мой вариации;
г)	возрастающий процесс 6* (О = sup 16 (s) 1 локально инте-
грируем;
д)	возрастающий процесс в (i) — sup [ £ (з) — £ (а —) | локально
e<t
интегрируем.
2	Если для процесса 6(0 существует такая возрастающая по-
следовательность моментов остановки тп, что т„ сю с вероят-
ностью 1 и процесс 6(f Л тп) есть (специальный} семимартингал, то
6(0 ~ также (специальный) семимартингал.
S, nyCTb(Tt)f^t)—семейство конечных моментов остановки от-
носительно потока (tst)t > о, монотонно зависящих от i и непрерыв-
ных справа по t. Тогда
а)	семейство о-алгебр =	будет также потоком}
б)	если 6(f) —семимартингал относительно	то t(0
= ^(ti) будет семимартингалом относительно (0r)t>o*
4.	Произведение двух семимартингалов является семимартин-
галом.
5.	Если 6(f)—семимартингал, f —выпуклая функция, то '
7(6(0) — также семимартингал.
Пусть 6(f) и »)(/) —два локальных мартингала. Если 6(04(О
есть специальный семимартингал, то единственный предсказуемый
330	ГЛ. 13. МАРТИНГАЛ!*	(13.44
процесс <1, f]>«, локально ограниченный, равный нулю при f = О,
для которого Ё(0 Л (0—<§, t)>« является локальным мартингалом,
называется взаимной характеристикой | и 1). Для нее используется
обозначение <£, *1>-
6	Пусть !j(f) и т) (/)—два локальных мартингала. Тогда суще-
ствует единственный процесс локально ограниченной вариации 18, t]|<
Такой, что 8(0*] <0 —[8. ’ll* — локальный мартингал.
Квадратные скобки можно определить для любых семимартин-
галов, считая, что они линейны по любому аргументу и симметрич-
ны, и используя представление семимартингалов 8(0 = сс(О 4-vi(0.
т](0 = 0(f) -b’Viv). где аир конечной вариации, Vi, vg— локаль-
ные мартингалы. При этом
18, *11 = [а. ₽] + [а» Va] + [vi, 0] + VgJi
здесь [v4> vg] уже определено, а [у, б], где у не имеет разрывов
второго рода и непрерывен справа и о имеет конечную вариацию,
определяется равенством
t
It. — j Iv (s) - v («- )1 («).
Эта формула позволяет определить [a, 0], [а, vg] =« [vg, а] и [vt, 0].
Пример. Пусть 8(0—однородный процесс с независимыми
приращениями, имеющий представление
8 (О - aw (t) + J f (в) 9 (du X dt)i
здесь a eR, w(t) —винеровский процесс, f(nj —функция из R+ в R,
для которой при всех с < со j |<ej du < оо, a у (du X dt) —
центрированная пуассоновская мера на R?p у (du X di)»*
и р (du X dt) — du dt. где p(du X dt) имеет распределение Пуассона
с параметром dudt. Тогда
ЕЕ.Ы = аг+ ^f1(u)p(duXdt),
величина <8, 8> определена, если J f3 (и) du < со, и (8,	— (а® +
+ Jp(e)rfe)f.
7. Пусть 8(0 — семимартингал. Для того чтобы он был специ-
альным, необходимо и достаточно, чтобы возрастающий прйцёса
был локально интегрируемым.
13.4.2. Локально квадратически интегрируемые мартингалы.
Пусть v(f) —согласованный с потоком (§t)/>o непрерывный спрйва
процесс Он называется локально квадратически интегрируемым мар-
тинга^м, если существует возрастающая к оо последовательность
момейтов остановки тя такая, что v(<AtbJ—мартингал и
Mv2 (/ л тп) < оо. Будем обозначать множество локально квадра-
тически интегрируемых мартингалов через
13.4.21	,ЗЛ‘ СВМИМОТИНГАЛЫ	831
Справедливы следующие утверждения о локально квадратическн
интегрируемых мартингалах.
1.	Если v е= то определен процесс <v>< = <v, v>,, называе-
мый (квадратической) характеристикой £(<). При «т2е опре-
делен процесс <vi, v2>. Если <Vi, ve>< = 0 V/^О, то Vi и v2 ортого-
нальны ViJLva.
2.	Пусть V] (/), v2 (/) е= Bj(O> Ег (0 ~ измеримые процессы.
Тогда
<»	/®	ч 1/2
$ [ 61 (0 (О II d (vj, I < ( J II (0 d {^t j X
л»	V/*
хи 0(/)<*2)i I
'0	'
(это неравенство Кунита — Ватанабе).
3.	Пусть v (t) е Для того чтобы <y)t был непрерывным
процессом, необходимо и достаточно, чтобы для любого предсказуе-
мого момента остановки т с вероятностью 1 v(t) “ v(t—). Это
условие эквивалентно следующему, для всякого предсказуемого мо-
мента остановки г, для которого Mv* (т) < оо, будет М№ (т — ) ™
= Mva (т).
4.	Пусть v(t) е и v(t) непрерывен с вероятностью 1. Тогда
Л->0
по вероятности, где 0 = /о < h < ... < tn = t, К = max(/* — f*-iL
5.	Пусть v(/) и — непрерывная функция. Тогда
п
~ «£. £ М ([V W - V	IS**-!)-
6.	Пусть v (/) s v(0) = 0 и <v>j — непрерывная функция.
Тогда для е > 0 и с > О
р| sup |v(s)| >e|<~4-P{(v\>e}.
7.	Пусть v(f)s^2» v(°) — °, и <v>i — непрерывная функция.
Тогда для всякого момента остановки х
а)	М sup 1 v (s) | ЗМ (v)У2:
б)	для всех а е (0, 2) существует постоянная са такая, что
М sup | v (s) |“ < сЛЛ (v>№
0<S<t
ГЛ. 23. МАРТИНГАЛЫ
ЦВ.+.3
332
- в) для а > 1
М sup | v (s) |° < М Гз <v>y2 4- sup | v (s) — v (s —) |1“;
1 «<»
г) если sup| v(s) — v(s —) [а, то при а> 1
M sup | v (s) |e < M [3(vT)I/2+ ola.
0<s<x	l \ т/ 1
Теорема Леви, Пусть £(/) является непрерывным локаль-
ным мартингалом с характеристикой <£>/ = t, тогда £(/) —вине ров-
ский процесс, т. е, однородный процесс с независимыми приращения-
ми, для которого	—g(2) имеет нормальное распределение
со средним 0 и дисперсией h.
13.4.3. Стохастические интегралы по мартингалам. Пусть
т|(/)е.<2, ф(0—^-измеримая (предсказуемая) функция, для ко*
t
торой J ф2 (s) d (ч), < <ю V/. Тогда определен стохастический ин-
fl
теграл
Л(Ф, ч) — J Ф (s) <Гч («).
о
удовлетворяющий следующим условиям:
' I) если Ф1<ч> обозначает указанное множество функций ф(0»
то с вероятностью 1
h («ф! + ₽Ф8, Ч) —	(Ф1. Ч) + (Фъ Ч)< Фь <Ps« Ф» <Ч>>
2) It (ф, ч)«^2 и пРи фр ф2 е Ф2(ч>
t
V (фь ч). I (Ф2. ч)>4 = J Ф1 (®) Фа (*) d (ч>«;
о
3) если ф (0  l[tif и (0 фр где ф1 — {^-измерима, то
t
J /[2ь W Ч>1 dTl W “ fl Ь G A - ч (* А #0].
о
Эти свойства определяют стохастический интеграл однозначно
с точностью до неотличимости (два процесса Ь и неотличимы,
если р {sup | МП-$2 (0 1 = 0}=.!).
Свойства стохастических интегралов.
1)	Пусть чр Чге ^2 и Фде Фз(ча) =* 1, 2). Тогда
t
V (Фь 4i). (ф2. Ч:))< — \ ф! («) фй («) d (Чь Чй)«-
13.4.4]
13.4. СЕМИМАРТИНГАЛЫ
333
2)	Для произвольных щ и	справедливо представлена*
t
Пг (О — ( «(«) <ЙЦ («) + Па (О,
о
где fj2 Uh, а а (а) е= Ф2 ((щ», а (s) —
Э)	Пусть Т) € Л2, {rj)t непрерывно и <р е Фа<П>- Тогда
*
‘ б) MsuplJ((9. f])ls<4M V
.<«	J
Ч>’ (s) d (nV
в) для всех а е (0, 2) существует са такая, что
М (<F' Ч)Г<<?аМ
4>’(*)d<n)a
а/3
13.4.4. Случайные меры и стохастические интегралы. Пусть
(в, в)—некоторое измеримое пространство и й+ — о-алгебра боре-
левскнх множеств в R+. Будем рассматривать случайные меры, опре-
деленные на 8®В+. Нас будут интересовать два вида мер: мартин-
гальные и целочисленные. Будем говорить, что на 8®®+ задана
мартингальиая мера р, если для всякого множества СеС®8+ за-
дана случайная величина р(С) так, что выполнены следующие
условия:
1)	р(СЛеХ[0, <]) « р<(С) является ^/-локально квадратично
интегрируемым мартингалом;
2)	если Cif|Ci==0, Ci, C»e8®S5, to p(CiUC»)= p(Ci) 4-
+ p(Ci) и локальные мартингалы pi(Ci) и Ц/(С1) ортогональны;
3)	р(0) “0;
4)	для всякой последовательности попарно непересекающихся
множеств С» е 8 ® 0+
с вероятностью 1; ряд справа сходится по вероятности.
Для мартингальной меры р, существует ее (квадратическая) ха-
рактеристика <р)(С), определенная на 8®В+ и удовлетворяющая
следующим условиям:
1') <р>(СП0Х[О, /]) = <|х>/(С) —возрастающий предсказуе-
мый процесс;
2') если С» — последовательность попарно непересекающихся
Сь <= Й® ®+, то (р) ( у Cft) — £<р>(СА); ряд справа сходится «
вероятностью 1.
834
ГЛ. 13. МАРТИНГАЛЫ
UM4
Пусть Фг«р»—совокупность функций ф(0, f, mJ, измеримых
относительно 8®^ {^-предсказуемая о-алгебра), для которых
J Ф3 (6, I, ©) (jx) (dG X di) < co.
Интеграл J T (6, t, co) (p) (dG X dt), фигурирующий в опреде-
лении Фа «р», где ¥(0, I, <о) — 8 ® ^-измеримая неотрицательная
функция, определяется так, чтобы выполнялись свойства: а) адди-
тивность по У и неотрицательность; б) приТ (6, t, со) =
где IFj §л-измеримо и неотрицательно,
J W (G, I, и) (Р> (de х dt) - Tt (Р) (В х Kb it».
Для всех <реФг«р» можно определить стохастический инте-
грал	t
if (ф. Р) e J J ф ®) Р (йв X ds)
о е
так, что выполняются условия:
I)	он линеен по ф;
2)	Л (Ф. Р)е ^2 и при фр Ф2 е= Ф2 «р»
f
(if (Фь М). if (Ф». Р)>“ J Ф1 (в.«. ®) Ф» (в. в. ®) (Р> (dG X dsy,
3)	если ф(8, s, ®)ава ijgiffi, адфр ГД* В® Я и ф1 -измеримо,
то Jf (ф, и) =»Ф1р (В X [ii, А]П [0. fl)-
Свойства 1)—3) определяют однозначно интеграл по р (с точ-
ностью до неотличимости).
Случайная мера v на 8 ® ®+ называется целочисленной, если
v(C) принимает целые неотрицательные значения и v(0XB) 1
для всех t е R+. Для всякой целочисленной случайной меры v суще-
ствуют последовательности моментов остановки т* и 6-значных
измеримых величин 0* такие, что
v(C)-^i({eft.,A)eCj.
Интеграл по мере v определен для всякой 8 ®	® 8-измери-
мой неотрицательной функции f (в, i, со) с помощью формулы
J f (G. t, со) v (dGX dt) - (Gfo co)
к
и естественным образом распространяется на знакопеременные функ-
ции, если	| f (В*, тл, ®) | < с».
Так как v(C("|6X[0. fl)—непрерывный справа возрастающий
согласованный процесс, все скачки которого не превосходят 1. то
13.4.5]	13.4. СЕМИМАРТИНГАЛЫ	ЗЭД
существует компенсатор этого процесса, который мы обозначим
т(СП6Х[0, *]).
Случайная мера $(С)	$ (С Л 9 X R) называется компенсато-
ром целочисленной меры v. Тогда v(C) »v(C)—<’(С) является
мартингальной мерой, характеристика которой также совпадает о
v(C), т.е. <v> «• V, 0 называется компенсированной целочисленной
мерой. Можно убедиться, что для 8 ® ^-измеримых функций
J f (6, t, а) V (de х Л) — J f (О, t, со)«(d0 X dt) +
+ $ f (о,/,<&)<$> (de х<»)
при условии, что все интегралы в атом равенстве определены.
При рассмотрении целочисленных мер очень важную роль играет
следующая теорема.
Теорема 1. Пусть v — целочисленная случайная мера, ком-
пенсатор которой 9 неслучаен. Тогда v — пуассоновская мера с не-
зависимыми 'значениями, t.e. v(Ci), .v(C*) независимы, если
Ct, .С» попарно не пересекаются, и v(C) имеет распределение
Пуассона с параметром $(С).
13.4.5.	Точечные процессы. Точечным процессом называется По-
следовательность моментов остановки т„ (n > 1) (относительно фик-
сированного потока (8*)<>й), удовлетворяющая двум требованиям!
а) если тя -< оо, то тл+1 >• тя; б) для всякого t найдется такое я,
что тя > t.
Обычно точечный процесс задается последовательностью величин
т„, удовлетворяющих условиям а) и б) без требования, чтобы они
были моментами остановки, и без фиксации определенного потока.
Если такая последовательность задана, то наименьший поток, отно-
сительно которого тя будут моментами остановки, есть поток, для
которого & — cr-алгебра, порожденная событиями {тлеС} (я 1),
С — борелевское множество отрезка [0, /].
Со всяким точечным процессом можно связать целочисленную
меру на R+
которая в силу условия б) конечна для всякого ограниченного мно-
жества С. Процесс v([0, /]) является возрастающим. Его компенса-
тор относительно минимального потока (S/)f q, порожденного этим
процессом, определяется равенством
где F*(s|ti, т*-0—условная функция распределения величи-
ны Tk.
Маркированным точечным процессом называется последователь-
ность пар (т(, 01), (Тг; 0г), ..., где тя— последовательность мо-
ментов остановки, удовлетворяющая условиям а) и б), а В4 —
измеримые величины в некотором измеримом пространстве (0, 8).
836
ГЛ. 13. МАРТИНГАЛЫ
Ц3.4Л
Если имеется произвольная последовательность (тл;6и)„>1, то
поток n-алгебр	относительно которого эта последователь-
ность будет маркированным точечным процессом, можно указатц
полагая, что а-алгебра St порождена событиями вида {т* @ В,
0иеС} (А яв 1, 2, ...), где Вс[О,/] — борелевское множество,
С ев.
С маркированным точечным процессом можно связать целочис-
ленную случайную меру на 8 0 ®+ с помощью равенства
v(C)-2}Zttefe:tA)eC}.
Компенсатор v этой меры определяется равенством: для Ci в в
4CtX[0,f])-
„V/	( p{6fcgC,-Tfe
~ л	tT* > s 1 ’«• • •	’
Код знаком интеграла стоят условные распределения при заданных
т«,..., т*-1, 9«, ..,, 0*-i.
13.4.6.	Представление мартингалов. Формула Ито. Пусть g(0 —•
локально квадратично интегрируемый мартингал. Свяжем с ним це-
лочисленную случайную меру на 8 0Й+, где в — а-алгебра в R,
определяемую равенством
V(C)— Е
Это мера для множеств С= {х: |х| > е) X [0, /], а значит, идля
всякого измеримого подмножества этого множества. Если v (С) —
компенсатор этой меры, то
1Й-&Ю+ J *[v(dxX[0, Z])-v(dxX[0, f])l + ',
1*|<е
+ J xv(dxX(0. fl)+a(f).
1x|>e
где go (0 —непрерывный мартингал, а (О —предсказуемый процесс
ограниченной вариации.
Теорема 2 (обобщенные формулы Ито). Пусть 6(0•—про-
цесс, представимый в виде
t
ЕЮ «зa(f) + п(0 + $ ф(0. в. со)«(deXds)+
о 4
t
+ f $ч»(в,з,®)*(КвХ«М.
О 9,
13.4.61	13.4. СЕМИМАРТИНГАЛЫ	837
еде а (0—непрерывный процесс' ограниченной вариации', q(f)—не-
прерывный мартингал с характеристикой <т)>л v — целочисленная
мера на 0XR+; v—ее компенсатор, для которого v(CX[O, Л) —
непрерывная функция t, если только она конечна; 0i (j 0г «=» 0,
0* е 8, 01П О» ~ 0, а ф(0, s, со) —8 ® P-измерима и
f
J (®« s« ®) v X < со yf > 0, v (02 X [0> Л) <
о 01
Если g(x)—дважды непрерывно дифференцируемая функция из
R в R, то
t	t
g (В (0) = g (В (0)) + ( gf (Е («)) da (s) + -J- ( g" (E (s)) d (n)s +
V	* J
0 0
t
+ j |[ff(E(e-) + q>(0. s.®))-gr(E(s-»-
- g' (E (s -)) ф (0. s, ©)] 9 (d0 X ds) +
+ J g' (E (s)) rft) (s) + ( J te <E («-) + <₽ (0. S, ®)) - g (E (S -))1 X
о	о a
t
X V (dO x ds) + J J	(B (s —) + ф (0, s. «)) - g (E (s -))1 V (dGXds).
0
Теорема 3. Пусть В» (0 (A == 1.....tn)— случайные процес-
сы, представимые в виде
6ft(0-aA(0 + n*«) +
t	*
+ J фА (0> s, ®) v (rf6 X ds) + ( J Фк (0. е, a) v (dO X ds),
о а	о е>
еде a*(f)—непрерывный процесс ограниченной вариации; т)*(0 —.
'непрерывные мартингалы с непрерывными взаимными характеристи-
ками (т)*, 1Ъ>; у. 0(. 0» такие оке, как и в теореме 1; функции
Ф*(0, s, ш) 8 ® P-измеримы и для всех t
t m
J J Ф* (0, s, ®) v (d0 X ds) < co.
о a л-i
EcAWg(Ki, ,,,, x^)—дважды непрерывно дифференцируемая функ-
ция из Rm в R, го
338	ГЛ. 13. МАРТИНГАЛЫ	[13.4Л
g (St W....5m (0) - g (51 <O)..5rn (0» +
t
+ J E 4 (Si Ю» • - S« (s)) daA « +
о ft
m *
+1 E J eXf[Xl (Bi (s).....5m («)) d <5ft. 5,)s +
ft, 1-1 0
+j S +Ф1 te* s*...............ts>+ф,п (0, s'w)) "*
- Ф (51 (s). • • 5m (s)) - E e*r (s)...Sm (s)) Фг {0, 5*to)] X
Г—1	J
m t
X v (d9 X </s) + E J Sxk (Si (s-)..Sm («-)) drik (s) +
ft-1 о
*
+ tg fe ts "> + ф1t0> * ®)> • •*» Sm <* —) + (0. ®)) —
0 6i
- S (51 (s -)....5m (s -))] * (de x rfj) + J J [g (51 (s-) +
+ Ф1 (0, S, CO)).5m (s ~) + Фт (®* «» ®)) ~~
- g (St (s -). • • 5m -))] V (ff0 X ds}.
Отметим специально случай непрерывных процессов. Если
5*(0= «*(0 + »]*(0> где а*, я® и g(xi, ,,,, xm) такие же, как и в
теореме 2, тогда
g(61(0,...,SmW)-
m _
°g(5! (0),...» 5m (0)) + E J «**(S1 Sm Ю) *»*(») +
fe-1 0
m *
+4 E S 8vt (gi (s)i  • (s))d (4*’ n,^«+
ft, 1-1 0
m p
+ E }SXk (51 (s -).....5rn <s -)) d4ft (s).
ft-1 o
Литература: [18, 26, 27, 28, 38, 59, 62, 111, 116], Jt
U.MJ	M.I. МАРКОВСКИЕ СЛУЧАЙНЫЕ ФУНКЦИИ	339-
Г л а в а 14. МАРКОВСКИЕ ПРОЦЕССЫ
14.1.	Марковские случайные функции
14.1 Л. Марковское свойство. В основе понятия марковского про-
цесса лежит представление об эволюционирующих -во времени сто-
хастических системах, обладающих свойством «отсутствия последей-
ствия» («отсутствия памяти»). Такого рода процессы с дискретным
временем, называемые цепями Маркова, рассматривались в гл. 8.
В настоящей главе рассмотрены процессы Маркова с непрерывным
временем. Мы будем предполагать, что время изменяется в некото-
ром отрезке (интервале, полуинтервале) содержащемся во мно-
жестве всех действительных неотрицательных чисел. В частности,
возможно в" == [0, оо).
Пусть заданы:
а)	некоторое вероятностное пространство (£2, ВТ, Р);
б)	поток о-алгебр {8т, т.е. такое семейство о-алгебр
f е!Г, что Bieg иg,c8i при s < t, s, t е (Г;
в)	функция двух переменных £(/) «{(/, со), i&ST, соей, со
значениями в некотором измеримом пространстве (X, В) такая, что
EOT при каждом /е?" является измеримым отображением про-
странства (О, Йс) в (X, С).
Тем самым задан случайный процесс £ОТ, подчиненный потоку
о-алгебр {Йс, fe£T). В частности, о-алгебра № может совпадать с
минимальной о-алгеброй событий, порожденной всеми событиями
вида {со: 5(»)бГ}. Гей.се?", s^i. В общем же случае — это
более широкая а-алгебра.
Случайный процесс £(/), подчиненный потоку о-алгебр Йг, об-
ладает марковским свойством относительно этого потока, если при
всех s t (s, / Гб8 с вероятностью 1 выполняется соотно-
шение
Рй ОТ оr|gs) « Р {g (0 еГ [g (s)}.
Такой процесс будем называть марковской случайной функцией.
Термин «марковский процесс» зарезервируем для другого, более
удобного (с точки зрения изучения марковского свойства) понятия,
связанного с целым семейством марковских случайных функций (см.
также гл. 8).
Если интерпретировать £(/) как состояние (положение) некото-
рой системы (частицы) в момент времени t, то марковское свойство
означает, что такая система обладает свойством отсутствия после-
действия: при прогнозировании (в среднем) поведения системы в
«будущие» моменты времени по наблюдениям за системой во все
«прошедшие» моменты времени вплоть до «настоящего» существен-
ным является знание положения рассматриваемой системы лишь в
«настоящий» момент времени.
Пусть {£(0. tе — случайный процесс со значениями в не-
котором измеримом пространстве (X, й), подчиненный потоку о-ал-
гебр {0F<, t е £Г). Обозначим через 91, минимальную о-алгебру собы-
тий, порожденную событиями вида {со: g(s) еГ), (s, feST),
Г в ®, а через 9t' минимальную о-алгебру событий, содержащую все
события вида {<а: g(s) б Г), s£i (s, 1еУ), ГеЭ. Заметим, что
S/cBt, и если g(Q обладает марковским свойством относительно
340	ГЛ. И. МАРКОВСКИЕ ПРОЦЕССЫ	Щ.1Л
потока {Sr, 1 siF}, то £(<) обладает тем же свойством относительно
потока {Я/, te£F}.
Марковское свойство процесса R(0, относительно пото-
ка о-алгебр {Si, t s вквивалеитно любому из следующих свойств:
1) для любой ограниченной IB-измеримой функции /<х) (хеЛ)
и любых а t (a, teff~)
М {f (6 (0) 1" M If (I (0) 11 (0) n. н. P;
2) для любой ограниченной ^'-измеримой случайной величины 4
и любых s < t (s, telF)
M{4l8e}“Mfo|8(a)} п. н. Р;
8) ДЛЯ любых событий Ле^иВеЙ!
РИПЩ1Ю>-РИ1»(П}Р{В11«Й п. н. р.
Последнее свойство означает, что для процесса, обладающего
марковским свойством, события из «будущего» и «прошлого» при
фиксированном «настоящем» условно независимы.
14.1.2.	Вероятность перехода. Пусть {g(f),/e£T}—марковская
случайная функция со значениями в (X, в) относительно потока
<т-алгебр {St,	Следствием марковского свойства н формулы
полной вероятности является следующее соотношение:
Р16 (« «ГЦ №)} - М {Р й (ад «ГЦ (12)} 16 (ад),
справедливое почти наверное относительно меры Р при всех ГвЯ
и /1 < < 6 (/1, la, t* е!Г). Это соотношение называется уравне-
нием Колмогорова— Чепмена.
Особый интерес представляет случай, когда для условной ве-
роятности Р {£ (г) е Г ] j (а)} существует регулярная условная ве-
роятность, т.е. такая функция Р(а, х> К Г), хеХ, ГеЭ, s<i
(s, 1 eiF), что выполнены условия:
а)	при фиксированных s, х, t функция P(s, х, I, Г) является
вероятностной мерой на (X, в);
б)	при фиксированных s, t, Г функция P(s, х, /, Г) Ф-измерима}
в)	с вероятностью 1 при всех s, t, Г
Р (a, I (s), i, Г) - Р «(0 « Г Ц (а)}.
Если для данной марковской случайной функции существует
функция P(s, х, t, Г), удовлетворяющая условиям а)—в), то она
называется вероятностью перехода.
В терминах вероятности перехода уравнение Колмогорова—»
Чепмена запишется в виде
Р	i (6), ад Г) в J р (ад у, ад Г) р (tu g (ад, ад dy) п. н. Р,
X
где /| < h < 6 (ад ад еГ), Ге9.
Мы всегда будем предполагать выполненным несколько более
сильное соотношение для вероятности перехода; называемое также=
14.t .31	14.1. МАРКОВСКИЕ СЛУЧАЙНЫЕ ФУНКЦИИ	34]
уравнением Колмогорова'—Чепмена. Именно будем предполагать,
что при всех х в X, Г в ® н h < f» < /»(f i,	t3 e 3")
P (#i. x, h, Г) - J P (0, y, /», Г) P (0, x. ti, dy).
X
При весьма широких предположениях о фазовом пространстве
марковской случайной функции (об измеримом пространстве (X, ®))
вероятность перехода существует и удовлетворяет последнему соот-
ношению. Эти предположения сводятся к тому, чтобы о-алгебра 9
не была слишком богатой. Именно, если марковская случайная функ-
ция принимает значения в фазовом, пространстве (X, ®), изоморф-
ном борелевскому подмножеству некоторого полного сепарабельного
метрического пространства с 0-алгеброй его борелевских подмно-
жеств, то для такой марковской случайной функции вероятность
перехода существует и удовлетворяет уравнению Колмогорова —
Чепмена при всех х е X.
14.1.3.	Стохастическая эквивалентность. Конечномерные распре-
деления марковской случайной функции не определяются одной
лишь вероятностью перехода. Если в ST существует минимальный
эдемент tB, то, зная начальное распределение
р(Г)-Ра(#0)еГ), Г®»,
и вероятность перехода P(s, х, I, Г) марковской случайной функции,
можем определить все ее конечномерные распределения. Действи-
тельно, для to < /1 < ... < t„, Г», Г1.Гя s ® имеем
Р {g (М о Го, $ (6) е Г„ ...Д (/„) s Гп} =»
= ]х (dxB) J Р (f0, хв, <1. dxi) ... Р (/n-i, x„-i, tn, dxn).
Го Г,	Гп
Таким образом, если для двух марковских случайных функций,
заданных, возможно, на разных вероятностных пространствах, сов-
падают начальные распределения и вероятности перехода, то у них
совпадают и все конечномерные распределения. Это означает, что
такие две марковские случайные функции стохастически эквива-
лентны.
Если в Г существует минимальный элемент tB и если заданы
вероятностная мера р, определенная на (X, ®), и функция
P(s, х, t, Г), to s < t, s, t eJT, x eX, Гб®, удовлетворяющая
условиям а), б) п. 141.2 н уравнению Колмогорова — Чепмена (см.
последнее соотношение в п. 14.1.2), то всегда можно построить на
некотором вероятностном пространстве марковскую случайную функ-
цию, для которой мера р была бы начальным распределением, а
функция P(s, х, t. Г) — вероятностью перехода.
Предположим теперь, что в не существует минимального эле-
мента. Если {|(0,	— некоторая марковская случайная функ-
ция, то положим
^(П-РеЮбП, /егЗ", Ге®.
Вероятностная мера р, на (X, В) называется законом входа рас-
сматриваемой марковской случайной функции. Закон входа связав
842	гл- И- МАРКОВСКИЕ ПРОЦЕССЫ	[14.1.4
с вероятностью перехода следующим соотношением!
Р/ (Г) = Г (<fx) Р (s, х, I, Г),	Ге 5В. (1.1)
А
Зная закон входа и вероятен гь перехода марковской случайной
функции, можем определит те ее конечномерные распределения
J (dx,) J Р(1р хр i2, dx2) ... J P(f„_p X«-P fn- dxn)‘
Г1	Г2	rn
где ti < 4 <...< tn {ii, t2.....tneS~), Г,.......Г„е8.
Таким образом, марковская случайная функция в рассматривае-
мом случае определяется своими законом входа н вероятностью
перехода однозначно с точностью до стохастической эквивалентно-
сти.
Обратно, если заданы семейство вероятностных мер Ц|(Г),
ieT, Гей, и функция Р(ч, х, f. Г), s < t (s,	хеХ,
Ге8, удовлетворяющая условиям а), б) п. 14.1.2 и уравнению
Колмогорова — Чепмена, такие, что выполнено соотношение (1.1), то
на некотором вероятностном пространстве существует марковская
случайная функция, для которой закон входа совпадает с рг, а ве-
роятность перехода — с P(s, х, 1, Г).
14.1.4.	Обрывающиеся марковские случайные функции. Иногда
приходится иметь дело с системами, для описания которых приве-
денное определение марковской случайной функции недостаточно.
Пусть, например, |(1) означает число особей, имеющихся к мо-
менту времени t в некоторой биологической популяции. Тогда £(/)—
случайный процесс, фазовым пространством которого служат все
натуральные числа Может оказаться, что интенсивность размноже-
ний в данной популяции столь велика, что по истечении некоторого
конечного (вообще говоря, случайною) времени число особей в рас-
сма.} иваемой популяции становится бесконечно большим. Таким об-
разом, мы здесь сталкиваемся с ситуацией, в которой процесс |(£)
определен лишь на некотором случайном промежутке времени, по
истечении которого происходит исчезновение процесса из фазового
пространства (обрыв, взрыв, гибель). Приведенное ниже определе-
ние марковской случайной функции учитывает такую возможность.
Будем считать, что = [fo, оо]. Пусть даны:
а)	вероятностное пространство (£2, И, Р);
б)	случайная величина Е = £(<в), соей, принимающая значе-
ния в расширенном интервале ]7», оо];
в)	при каждом	сг-алгсбра подмножеств множества
£?	Е(1») >• /}, причем 0; |fij с: [5, с: 91 при s t '(s, t е ST),
где	— след 0 алюбры in множестве fit, т.е. совокупность
всех множеств вида Л П fir, /1 с" 15,;
г)	функция двух переменных £(£) = £(1, «), ш е fi, te
е [4, Е(о»)), со значениями в некотором измеримом пространстве
(X, S3) такая, что при всех t е и Г е 8 выполнено включение
{<о: |(/, ы) е Г) е &t.
14.1.4]	14.1. МАРКОВСКИЕ СЛУЧАЙНЫЕ ФУНКЦИИ	343
Система объектов а) — г) определяет обрывающуюся марков-
скую случайную функцию, если при любых в t (s, / е£Г), Ге8
выполнено соотношение
Pig (<)er|gI} = P{g«)er|g(s)}
почти наверное относительно меры Р на множестве fis. (Другими
словами, это соотношение выполняется для почти всех <о е £2S от-
носительно меры Р.)
Момент времени g(ro) называется моментом обрыва марковской
случайной функции, а величина £(«)—to называется ее временем
жизни.
Правая часть последнего равенства есть условная вероятность
относительно о-алгебры подмножеств множества Oj, порожденной
множествами вида {го: g(s) =Г), ГеЭ.
Предположим, что для Р {£ (0 о Г | g (s)} существует регуляр-
ная условная вероятность, т. е. функция /*(<;, х, t. Г), х сз X, в < t
(s, tefr), Ге8, удовлетворяющая условиям-
1)	при фиксированных s, t, Г функция P(s, х, t, Г) является
©-измеримой функцией от х;
2)	при фиксированных в, х, t функция P(s, X, t, Г) является
мерой на (X, ®) (не обязательно вероятностной, так как
P(s, х, t, X) < 1);
3)	при всех s t (в, t Ге®
Р{? (0er|g(s)} = P(s,g(s),t, Г)
почти наверное относительно Р на множестве (п. н. £2S, Р).
В этом случае функция P(s, х, t, Г) называется вероятностью
перехода марковской случайной функции. Она интерпретируется как
условная вероятность события {g(0 е Г} при условии g(s) = х.
В частности, величина ] —P(s, х, t, X) есть условная вероятность
того, что к моменту времени t марковская случайная функция обо-
рвалась (исчезла из фазового пространства) при условии g(s) = х.
Заметим, что если g(ro) вв +<ю, то определение обрывающейся
марковской случайной функции превращается в определение необры-
вающейся марковской случайной функции, заданной на “ [?о, «>).
Обрывающуюся марковскую случайную функцию всегда можно
превратить в необрывающуюся. С этой целью расширим простран-
ство X, добавив к нему некоторую «несобственную» точку афХ.
Положим Х<в) — X U {о}. Обозначим через ®<в> о-алгебру подмно-
жеств множества Х<“>, состоящую из множеств ГсЭ и множеств
Вида ГU {а}, Ге8.
Далее, для <о е {g(ro) < +«>} положим g(°’(/, го) = а при / Э5 g-
При t г [<о, Ца)) положим £<а)(1, ю)=£(/, °’)- Наконец, определим
6-алгебру , to i < со, как наименьшую о-алгебру подмно-
жеств £2, содержащую все о-алгебры при в ^.t. Тогда о-алгебры
(е У, образуют поток, и процесс {§<а) (0, / е &"} подчинен
атому потоку. Нетрудно проверить, что {g,o)(0. t^&~} есть необры-
вающаяся марковская случайная функция относительно потока
{Э,я), /еу}. Вероятность перехода P(s, х, t, Г) атой случайной
функции равна
f P(s,x,t,V[\X) + xr(a)[l-P(s.x.ttX)l хфа,
Ру,х, tr)-|Xr(e)t	x-fl,
ГЛ. и. МАРКОВСКИЕ ПРОЦЕССЫ
Н4.2.1
844
где Р(з, х, t. Г)—вероятность перехода исходной (обрывающейся)
случайной функции. Для процесса {£<о>(/), felT”} состояние а яв*
ляется поглощающим. Это означает, что, попав в это состояние,
процесс никогда из него не выйдет. Разумеется, это не единственный
способ превратить обрывающуюся марковскую случайную функцию
в необрывающуюся.
14.2.	Марковские процессы. Определение
' и основные свойства
14.2.1.	Определение. Как уже отмечалось в гл. 8, при изучении
марковского свойства случайных процессов удобно не фиксировать
начальное распределение процесса (да и сам начальный момент вре*
мени), а рассматривать целое семейство марковских случайных функ-
ций, «начинающихся» в произвольный момент времени в произволь-
ной точке фазового пространства. С точки зрения теории вероятно-
стей это означает, что на вероятностном пространстве имеется уже
не одна фиксированная вероятностная мера, а семейство мер Р«,
зависящих от временнбй и фазовой переменных и связанных между
собой марковским свойством. При этом мера Р« интерпретируется
как условная вероятность некоторого события, которое может про-
изойти после момента времени а при условии, что £(з) «= х. Будем
предполагать, что (Г = [0, оо).
Пусть даны:
а)	измеримое пространство (£2, Я), называемое пространством
. элементарных событий;
б)	семейство о-алгебр (0 < з < t < оо) такое, что
8$ c8ti при 0 < si < а С / < G < оо; условимся писать
вместо 8? и 8* вместо g£,;
в)	функция двух переменных £(/) = £(1, ©), tetr, oaQ, со
значениями в некотором измеримом пространстве (X, 8) такая, что
при любых O^s^t отображение |(1, •) пространства (Q, 8?) в
пространство (X, ®) измеримо; предполагается, что <т-алгебра ® со-
держит все одноточечные множества;
г)	семейство вероятностных мер {Р»*, s s ff~, х е X) на о-ал-
гебре 8'.
Систему объектов а)—г) будем называть (необрывающимся\
марковским процессом, если выполнены условия:
1) при любых 0 s < i, Ге® функция
Р(з, х, t. Г)-Р„{£(1)еГ}
есть 9-измеримая функция от х, причем Р (з, х, з, Г) ™ Хг (*)> где
Хг (*) — индикатор множества Г;
2) при любых 0 s А f2, х е X, Г е S3 с Р»„-вероятно*
стыо 1 выполнено соотношение
{S в г 18?} - p(h, £ (<1). Ъ Г).
Марковский процесс обозначается	Простран-
ство (X, ®) называется фазовым пространством процесса, функция
I4.J.2]	44.!. ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА	345
Р(е, х, t, Г)-~ вероятностью перехода. Заметим, что P(s, х, I, А)» 1
и, как следует из условия 2),
Р (а, х, Г) «в С Р (в, х, tu dy) Р (fx, у, ia, Г)
X
при всех 0 гС а < it < х sX, Гей, т. е. вероятность перехода
удовлетворяет уравнению Колмогорова — Чепмена.
Пусть (К#), рм)~ марковский процесс в фазовом про-
странстве (X, В). Обозначим через Л* минимальную о-алгебру со-
бытий, включающую в себя все события вида {£(«) е Г} при
и s [a, fl, Г а 0, а через 91* минимальную о-алгебру событий, со-
держащую все о-алгебры 91’ при t в; как обычно, вместо
будем писать 9U Очевидно, что ffl’sg’, Si’s;®’, и процесс (£(/),
Р«) также является марковским.
Следующие свойства марковского процесса являются простыми
непосредственными следствиями его определения:
1) для любого Лае Я* функция'Рм (Л) ©-измерима как функ*
ция х;
2) для любой ограниченной (неотрицательной) Я’-измеримой
случайной величины т) функция МмЧ ©-измерима как функция л;
В) для любого Ле S' с Р**-вероятностью 1
4) для любой ограниченной R'-измеримой случайной величины 1)
с Р «-вероятностью 1
Ь [ &<} - юЧ, s</j
б) если А е ®*, В е St*, то
Р« (АЛ В) - j P<s ((j (В) Р„ (До). я < #.
14.2.2. Расширение основных о-алгебр. Пусть (^(0. ^.Ре-
марковский процесс в фазовом пространстве (X, 0). Оказывается
возможным (и часто бывает полезным) некоторое расширение основ-
ных о-алгебр, входящих в определение процесса, с сохранением мар-
ковского свойства. Такое расширение целесообразно в связи с тем,
что о-алгебры 91’, 91’ не содержат многих важных с точки зрения
теории вероятностей событий. Указанное .расширение состоит в по-
полнении о-алгебр по системам мер.
Пусть Ц — некоторая конечная мера на (X, 0). Обозначим через
пополнение or алгебры 0 по мере щ Это означает, что А е ®и,
если существуют такие множества Ах, Аз е 0, что Ах s A s Аз и
р(А) к p(Ai). Через ©* обозначим о-алгебру, являющуюся пересе-
чением о-алгебр по всем конечным мерам ц, заданным на 9.
Множества из 0* называются универсально измеримыми множества-
818	ГЛ. I«. МАРКОВСКИЕ ПРОЦЕССЫ	ГН.2.3
лш, порожденным» о-алггброй В. Далее, о-алгебры 9’ пополним по
семейству мер {Рях, и s, х еХ} и обозначим это пополнение че-
рез 9*. Это означает, что А s 8fs, если для каждых и < s, х е X
найдутся множества Ai, А е ®’ такие, что Р«х (АО => Рих (А2) и
Ai S A s А.
Пусть обозначает о-алгебру, содержащую все такие собы-
тия Аей1, что при каждых и s, х е= X найдется событие Ate <5®,
для которого PUJC (АЛА|) = 0 где AAAi означает симметрическую
разность множеств А и Ai. Аналогично пусть 31s обозначает пополне-
ние сг-алгебры Э13 по семейству мер РИц, где usZs, р. — произволь-
ная вероятностная мера на (X, ®), a Pw определяется формулой
РИц (А) ц (rfx) Pux (А), А<=ЭД®.
X
Наконец, через§1® обозначим о-алгебру событий Лей' таких, что
При каждых к s и вероятностной мере р на (X, Э) найдется со-
бытие А] е ЭД®, для которого Pult (AAAt) = 0.
Можно доказать, что для всякой ограниченной Я®-измеримоЙ
случайной величины t] функция Msxt] Соизмерима как функция х
и что отображение |(f, •) пространства (й, ЭД0 (а стало быть, и
пространства (й, §/), поскольку ЭД/ <= Й/) в пространство (X, S3*)
является измеримым при всех s t. Кроме того, для всех s t и
Лей' с Pjx-вероятностыо 1 выполнено соотношение
Psx ИI §/} в Р« (0 №
Таким образом, процесс (? ((), 8/> PSJe) является марковским
в фазовом пространстве (X, 8*). Поэтому всегда, когда это удобно,
можно считать, что SB «	= gf, ЭД/ в ЭД/•
14.2.3. Условия регулярности. Пусть (| (f), S®, Psx) - марков-
ский процесс в фазовом пространстве (X, ®) с пространством эле-
ментарных событий (Й, й). Зафиксируем некоторое so 0, и пусть
р — некоторая вероятностная мера на (X, S3). Рассмотрим случай-
ную функцию {£(/)« t М. подчиненную потоку о-алгебр {ЭД/“,
/>з0|и определенную на вероятностном пространстве(й, ЭД®4, PS(Jl),
где
рз.ц И)« $ PS1X И) Н (dx), А е ЭД®4.
х
Она является марковской случайной функцией, определенной
при t so, с начальным распределением р и вероятностью перехода
P(tt, х, h, Г), совпадающей с вероятностью перехода марковского
процесса (£ (1), 8®. Р„)-
Таким образом, имея процесс Маркова, мы можем построить
бесчисленное множество марковских случайных функций, выбирая
начало отсчета времени и задавая начальное распределение.
MJ.JJ 34.2. ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА	847
Два марковских процесса, заданных в одном и том же фазовом
пространстве (возможно, на разных вероятностных пространствах),
называются эквивалентными, если построенные по ним марковские
случайные функции с одним и тем же началом отсчета и начальным
распределением стохастически эквивалентны (т. е. имеют одинаковые
конечномерные распределения). Отсюда следует, что марковские
процессы эквивалентны тогда и только тогда, когда у них совпадают
вероятности перехода. Таким образом, своей вероятностью перехода
марковский процесс определяется однозначно с точностью до экви-
валентности.
Рассмотрим теперь вопрос о том, всегда ли существует марков-
ский процесс с заданной вероятностью перехода. Ответ на этот во-
прос дает следующая теорема.
Теорема 1. Пусть X— полное метрическое сепарабельное про-
странство, ®— о-алгебра борелевских подмножеств X, ST = [0, оо).
Предположим, что задана функция P(s, х, t, Г), 0^з^#<оо,
I е X, Г е 8, удовлетворяющая условиям:
а)	при фиксированных s, t, Г P(s, х, t, Г) ^-измерима;
б)	при фиксированных s, t, х P(s, х, t, Г) является вероят-
ностной мерой на (X, ®);
а) при всех х е X, 0 sgTs С Л С 4 < °°
Р (Д. х, 1ц, Г) — J Р (з, х, ti, dy) Р (/,, у, Г).
X
Тогда существует (необрывающийся) марковский процесс в фа-
зовом пространстве {X, ®) с вероятностью перехода P(s, х, t. Г).
Разумеется, как в определении марковского процесса, так и в
этой теореме множество может быть конечным отрезком или
даже некоторым подмножеством множества [0, оо).
Естественно поставить вопрос: при каких условиях на вероят-
ность перехода среди всех эквивалентных марковских процессов су-
ществует такой процесс, выборочные функции или траектории кото-
рого (т.е. функции %,(t, <в) при фиксированном со как функции О1
обладают тем или иным свойством регулярности, скажем непрерыв-
ны, имеют пределы слева и т. д.? Прежде чем сформулировать ответ*
на этот вопрос, приведем некоторые определения.
Марковский процесс (g (f)i St. PSJC) в метрическом фазовом
пространстве (X, ®) (S— о-алгебра борелевских множеств) назы-
вается непрерывным (непрерывным справа), если для любых з О
и хеХ с Р«-вероятностью 1 его траектории непрерывны (непре-
рывны справа) при всех t^s.
Марковский процесс (£ (t), St, PSJ.) не имеет разрывов вто-
рого рода, если для всех «>0н*е^с Psx - вероятностью 1 его
траектории ие имеют разрывов второго рода при всех t > s.
Обозначим через с/е (х) шар в X радиуса е с центром в точке х
и положим Ut (х) = X\Ue (х).
Теорема 2. Пусть (?(«), &?, ₽„)- марковский процесс в
фазовом пространстве (X, ®), где X — полное локально компактное
сепарабельное метрическое пространство, а в — а-алгебра борелев-
ских множеств в X, с вероятностью перехода Р(з, х, t, Г),
348
ГД. И. МАРКОВСКИЕ ПРОЦЕССЫ .
[14.2.4
1) Если при любом в > О
lim sup P(s, х. t, PLU)) —О,
Of о	+ a
ieX
то процесс (HO. 8?. P«) вквивалентен марковскому процессу,
не имеющему разрывов второго рода и непрерывному справа,
2) Если при любом в > О
Um Л-1 sup Р (s, х, t, Ue (*))=» О,
Of 0	0<з<4<«4-0
х&Х
то процесс (§ (0, g®, Рм) эквивалентен непрерывному марковско-
му процессу.
14.2.4. Строгая марковость. Пусть (g (0, 8?> Р«ж)~ марковский
процесс в фазовом пространстве (X, й). Случайную величину
т = т(<о) со значениями в [s, со) будем называть марковским мо-
ментом относительно потока о-алгебр {gj, t >= sj ({91®, f s},
{&£ t >sj), если при всех 1s выполняется условие {<*>: т (<в) <
< 0 s gf ({ш: т (со) <1}е 91®, t (<“) С 0 s ^1)- Марковские
моменты называют иногда величинами, не зависящими от будущего,
так как наглядно условие {т< f) е g® означает, что наступление
или ненасгупление события {т < /} зависит лишь от явлений, на-
блюдаемых в течение времени от момента s до момента /.
Каждому марковскому моменту времени т относительно потока
*>4 ({9ip>s}. {^,/>4) можно поставить в соот-
ветствие o-алгебру g®(9l®, !Й®), определяемую как совокупность
всех тех Aeff’ (ЛеSt’, АеЙ1), для которых Af){r^0eg| при
любом t <= [а, оо) (А П {т < 0 е	А П (т < 0 ®
Очевидно, что величина т g® -измерима, и если ti и — два
марковских момента относительно потока {gf, для которых
(т^тг), то 8t,<=8V
Часто бывает необходимо рассматривать значение случайной
функции Е(0 в случайный момент времени т. Для того чтобы в
результате получилась случайная величина, нужно, чтобы функции
1(0 (как функции 0 были измеримы. Более того, если мы желаем,
чтобы 1(т) было g*-измеримым, нужно потребовать прогрессивной
измеримости процесса £(0.
Марковский процесс (g (0, g®, Psx) в фазовом пространстве
(X, ®) называется прогрессивно измеримым, если для любых s, t
(0 < s < t < оо) отображение £(и, и) пространства ([а, 0X0,
IF® X 8®) в пространство (X, й) измеримо. Здесь ITJ — а-алгебра
борелевских подмножеств отрезка [а, 0.
Заметим, что если процесс (U0, 8*. Рм) непрерывен справа,
то он прогрессивно измерим. Если марковский процесс прогрессивно
14-2.4]	14.2. ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА ”	848
измерим и г—конечный марковский момент относительно потока
{8<> * то1 тогда случайный элемент 5(т) == 5(т(<о), ®) со зна-
чениями в (X, ®) измерим. Более того, если {т(, t^s}—се-
мейство конечных марковских моментов относительно потока {§*»
их* при фиксированном w представляет собой монотонно
неубывающую непрерывную справа функцию от f, то случа&ныЯ про-
цесс т) (0 » Е(т*(<о), со) будет прогрессивно измеримым относительно
потока о-алгебр {8’ , t > sj.
Прогрессивно измеримый марковский процесс (fc (f), 8?. Psje)
в фазовом пространстве (X, S3) называется строго марковским, .если
выполнены следующие условия:
1) при фиксированном Геб вероятность перехода P(s,x, t. Г)
процесса является fT’ X ® X ^’’-измеримой функцией от (s, х, if) на
множестве 0 s sg t < оо, хеХ; здесь ГГ® — о-алгебра борелев-
ских подмножеств полуоси ГО, со);
2) для любых s 0, t^O, х@Х, Геб и произвольного мар-
ковского момента т относительно потока о-алгебр {&„> и>а) вы-
полнено соотношение
( Рм{1(* + т)еГ|8*)-Р(т, t(?), * + т, Г)
почти наверное на множестве О, ™ (со: т (со) < <х>} относительно
меры Р„.
Заметим, что в частном случае, когда т(<в)вя /о, т.е. когда т(ш)
не случайно, условие 2) последнего определения совпадает с усло-
вием 2) определения марковского процесса (см. п. Г4.2.1). Таким
образом, понятие строго марковского процесса выделяет из сово-
купности всех марковских процессов те из них, которые обладают
марковским свойством также и в некоторые случайные моменты
времени, а именно в марковские моменты.-
Если (5(0, 8?.	— строго марковский процесс, а функции
f(xlt хл ..., жл), xt, xt, .... Хп&Х, вещественная ^-измеримая И
ограниченная, то для любого марковского момента т и для любым
положительных h, t...... t„ выполнено соотношение
M„{f (Цт-Hi), 1(т-Н2), ..., i(t + y)|B?}-	‘
- MT5 (t){f (6 (* + 9’ 6 (т+9......* (т + *«)))
почти наверное на множестве Qt = {т < оо) относительно меры Рм,
При этом правую часть следует понимать так: положим
Л (а, х, Г*, <s> . .,, tn) “	(5 (i 1). 5 0a)i • • » Е
где х е X, s < tnin(f(, f2,..,, /„). Тогда
«ЫДО+'А Чт+'2> •••.*(’+*-))-
и й (т, 5 (*)• т + Л» т + is, ..., т + Гл).
Сформулируем теперь критерий строгой марковости процесса.
Длй этого определим сначала оператор /?v Х> 0, действующий
350	ГЛ. 14. МАРКОВСКИЕ ПРОЦЕССЫ	[Ц.2.В
на вещественную ограниченную измеримую функцию f(t, х),
е [0, оо), х е X, по формуле
ОО
(RJ) (s, х) = Msx J e~U f (s +t, £ (s + /)) dt.
о
Можно показать, что если вероятность перехода P(s, х, t, Г)
при фиксированном Г янляекя тмеримон функцией переменных
(я, х, t), то функция (s. х) измерима по паре переменных s,x
и ограничена, каковы бы ни были /. > 0 и ограниченная измеримая
функция f(s, х).
Теорема 3. Пусть X — метрическое пространство, © — а-ал-
еебра универсально измеримых множеств пространства X. Предпо-
ложим, что задан марковский процесс (Е (t), Рм) в фазовом
пространстве (X, ©), удовлетворяющий условиям'.
а)	вероятность перехода P(s, х, t, Г) при фиксированных t и Г
измерима по паре переменных (s, х);
б)	при любых з > 0, х е X почти наверное относительно Р«
траектории процесса (т.е. функции %(t) как функции от t, t^s)
непрерывны справа;
в)	для любых s 0, хеХ и для любой ограниченной непре-
рывной функции f(x), хе.Х, почти наверное относительно меры Psx
траектории процесса (RKf) (t, Е (0). 1 S® s, непрерывны справа.
Тогда процесс (g (/). Psx) является строго марковским.
{Здесь ~ П g?+8).
е>0
14.2.5. Стандартные процессы. Марковский процесс (£ (0.
Р«) в фазовом пространстве (X, ©), где X — локально компактное
метрическое пространство, а 8 — о-алгебра борелевских подмно-
жеств пространства X, называется стандартным, если выполнены
следующие условия:
1)	S?•8®+ = S? При S, t (0 < S < t < оо);
2)	процесс (t), Psx) непрерывен справа и имеет пределы
слева;
3)	процесс (£ (/), gj, PfiJC) является строго марковским;
4)	процесс (£ (0. Рм)квазннепрерывен слева; это означает,
что для всяких s > 0, хеХ и всякой неубывающей последователь-
ности марковских моментов тп (п = 1, 2, ...) относительно потока
[&/, s®5 s}	имеет место соотношение lim £ (тп) = £ ( Нт т/г)
1	*	П->оо	П->оо
почти наверное на множестве {со: Нт тп<о°) относительно меры Psx.
п-><»
Приведем теперь условия на вероятность перехода, при которых
можно гарантировать существование стандартного процесса с за-
данной вероятностью перехода. Предварительно дадим определение
феллеровской вероятности перехода.
Пусть X — сепарабельное локально компактное метрическое про-
странство, Э— о алгебра борелевских подмножеств X, P(s, х, t. Г)—>
вероятность перехода в [X, ©), т.е, функция, удовлетворяющая
14 2.6]	14.2. ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА	851
условиям теоремы 1. Обозначим через Со(Х) совокупность всех ве-
щественных непрерывных функций, заданных на X и стремящихся
к нулю, когда х выходит из всех компактов, содержащихся в X.
Это означает, что для каждого е > 0 существует такой компакт
KeczX, что |/(х)| < е для всех х е Х\/<Е. Заметим, что если
X — компакт, то Со (Л) совпадает с множеством всех непрерывных
вещественнозначных функций, определенных при хеХ.
Вероятность перехода P(s, х, t, Г) называется феллеровской,
если выполнены следующие условия:
1) при любых s, t (0 s < t < оо) и f е Со(Х) функция
М (х) = J f (у) Р (з, х, t, dy)
X
непрерывна и совокупности переменных (s, t, х), 0 < s t, хеХ;
2) для любой функции / ен Со (X)
lim sup | (Tstf) W — f (г) | = 0.
t^s x e X
Теорема 4. Если P(s, x, t, Г)—феллеровская вероятность
перехода в сепарабельном локально компактном метрическом про-
странстве (X, В), то существует стандартный марковский процесс с
вероятностью перехода P(s, х, t, Г).
14.2.6.	Обрывающиеся процессы. Пусть заданы:
а)	измеримое пространство (й, И), называемое пространством
элементарных событий;
б)	случайная величина £(«), принимающая значения в расши-
ренном отрезке [0, оо];
в)	для каждых s, t, 0 s /, а-алгебры grf с: 81 в простран-
стве й/ — {ю: £(<о) > 1} такие, что если s < t и иЛе тоЛП
П Йц е S „;
г)	функция двух переменных | (/)=£(/, <о), t е [0, £(«>)),
«ЕЙ, со значениями в некотором измеримом пространстве (X, В)
такая, что при любых 0 s t отображение £(/, •) пространства
(й4, Sf) в пространство (X, В) измеримо; предполагается, что О-ал-
 ебра В содержит все одноточечные множества;
д)	для каждых з 0, хеХ вероятностные меры Psx на о-ал-
гебре gs = ^.
Систему объектов а)—д) будем называть (обрывающимся)
марковским процессом, если выполнены следующие условия:
1) при любых О s «с t, Гей функция
Р(з, х, t, r) = Psx{l(t)eP)
есть В-измеримая функция от х, причем P(s, х, з, Х\{х}) =0;
2) при любых 0 з ti ti, х е X, Ге8 выполнено соотно
шение
е Г I = W t2, Г)
почти наверное на множестве й( относительно меры Psx (п. н. й^,
PS4
Момент времени £ называется моментом обрыва. Обрывающийся
марковский процесс будем обозначать (£ (t), £,	Р£Х)- Очевидно,
8й	ГЛ. и. МАРКОВСКИЕ ПРОЦЕССЫ	114.2Й
что если £(<о) « 4-оо, to последнее определение превращается в
определение необрывающегося марковского процесса.
Функция Р($, х, I, Г), определенная в условии 1) последнего
определения, называется вероятностью перехода марковского процес-
са. Из условия 2) следует, что она удовлетворяет уравнению Колмо-
горова — Чепмена. Следует только иметь в виду, что P(s, х, I, X)
С1 и величина 1—P(s, х, t, X) представляет собой вероятность
того, что, выйдя из точки х в момент времени з, процесс оборвется
' к моменту времени t.
Вероятность перехода Pls, х, t, Г) называется нормальной, если
при всех s О и х е k Р (s, х, s +. X) == lim Р (s, х, t, X)«1.
Тот факт, что указанный предел существует, следует из неравенства
(S«£<i< /а)
Р (S, X, t,. X) _ J Р (з, х, tt, dy) Р (#!, у, t2, X)<,P(s, х. h, X),
X
означающего, что P(s, х, t, X) монотонно не возрастает как функ-
ция от I при f 3» s.
Марковский процесс с нормальной вероятностью перехода на-
зывается нормальным.
Многие результаты, полученные для необрывающихся марков-
ских процессов, переносятся с известными оговорками и на обры-
вающиеся процессы. Например, аналогом теоремы I (п. 14 2.3) яв-
ляется следующая теорема.
Теорема 1'. Пусть X — полное метрическое пространство,
В—ts-алгебра борелевских подмножеств X. Предположим, что функ-
ция Pls, х, t. Г), 0 а < t < <ю, х ® X, Г е В, удовлетворяет усло-
виям 1), 3) теоремы 1 и условию: 2') при фиксированных s, х, t
Pls, х, i, Г) является мерой (не обязательно вероятностной) на
(л, й), причем P(s, х, t, Г) 1 и P(s, х, s 4-, X) = 1.
Тогда существует нормальный марковский процесс в фазовом
пространстве (X, й) с вероятностью перехода P(s, х, I, Г).
Процессы с одной и той же вероятностью перехода называются
эквивалентными. Если по эквивалентным процессам построить (об-
рывающиеся) марковские случайные функции так же, как в п. 14.2.3,
то они будут стохастически эквивалентными (т. е. будут иметь оди-
наковые конечномерные распределения).
Определение строго марковского обрывающегося процесса сов-
падает с соответствующим определением необрывающегося процесса
с единственным изменением, состоящим в том, что соотношение в
условии 2) должно выполняться почти наверное на множестве
“т " т (<а) < £ (®)} относительно меры PSx-
Определение стандартного обрывающегося марковского процесса
вполне аналогично определению, данному в п 14.2.5. Следует иметь
в виду, что поскольку функции £(t) заданы лишь на полуоткрытом
интервале [0, £), то непрерывность справа процесса, а также суще-
ствование пределов слева относятся к точкам t е. [О, £).
' Аналогично в определении квазинепрерывности слева соотноше-
ние lim | (тп)  Ё ( lim ?п) должно выполняться на множестве
п-><»	«-><»
и»: lim J (©)} почти наверное относительно Р«.
Л-* ОО
I4.3.U	14.3. МУЛЬТИПЛИКАТИВНЫЕ ФУНКЦИОНАЛЫ	35S
Следующая теорема дает условия существования обрывающегося
стандартного процесса.
Теорема 5. Пусть X — локально компактное сепарабельное
полное метрическое пространство, й — о-алгебра борелевских под-
множеств X, a P(s, х, t. Г) —нормальная вероятность перехода (т.е.
функция, удовлетворяющая условиям теоремы 1), Предположим, что
выполнены условия'.
1) какова бы ни была непрерывная ограниченная функция
(х е X) с вещественными значениями, функция
ITstf) W = $ Р (* *• f 8 < Х'
х
обладает следующим свойством непрерывности:
lim (Г^)(х)=(Г^)(г);
X -х %
So
2) lim sup P(s, x, i, PtW)“0,
6^0 O<S<4<s+6
xsX	__ '
еде Ve (x) — шар в X с центром в точке х радиуса е, a UB (х) =
= Х\1/е(х).
Тогда существует нормальный стандартный марковский процесс
с вероятностью перехода P(s, х, t, Г).
14.3.	Мультипликативные функционалы от марковских процессов
14.3.1.	Определение и свойства. Пусть (/), £, Psx) —
марковский процесс в фазовом пространстве (X, ®).
Семейство вещественнозначных случайных величин a, = а? (и)
(О < s I, и е Qi) называется мультипликативным функционалом
от марковского процесса, если выполнены следующие условия:
а)	случайная величина af ^-измерима
б)	при любых хеХ,	почти наверное на мно-
жестве Пи относительно меры Psx выполнено
aja' = a®;
в)	0<a®< 1 прн всех 0 s о е fif.
Мультипликативный функционал называется непрерывным спра-
ва, если прн всех t з О, х s X, Р4*-почти наверное на множе-
стве Q* lim с£ = а?.
tn ♦ t к
Приведем пример мультипликативного функционала. Предполо-
жим, что марковский процесс прогрессивно измерим относительно
с алгебр (это означает, что в определении п. 14.2.4 вместо
a-алгебры нужно поставить a-алгебру а вместо R — fit)-
12 В- С. Королюк и др.
354	ГЛ. 14- МАРКОВСКИЕ ПРОЦЕССЫ	[14.3.1
Пусть v(s, х)—неотрицательная функция, измеримая по паре пере-
менных (s, х)е [0, оо) XX, Положим
( t	-j
= exp s — и (и, £ («)) du г, О °C s f, о g Q/.
S	'
Если интеграл в эюй формуле конечен при всех 0 s sg t < £(ю),
то а® являекя мулы шишка швпым функционалом от процесса
Он называема мул/ 1ипликатисным функционалом интегрального
типа Заметим, что такой функционал непрерывен при t s, oeQi,
Пусть ast и р® — два мультипликативных фу нкцнонала от мар»
невского процесса (g (/), £, PSx)' Они называются стохастически
эквивалентными, если при всех s 0, хеХ, t > s Psx {а® Ф pf} = 0«
Из определения следует, что если ast — мультипликативный функ»
ционал, то а® = (с®)2, так что а® может принимать лишь два зна-
чения— 0 и 1. Более того, {а® =° 1} = 0 или 1, что следует из
следующею закона нуля или единицы.
Теорема (икон пуля пли единицы). Если Л е SJl|, то
PsX (Л) = 0 или 1.
Для данного s обозначим через X® совокупность всех тех
х еХ, для которых Psx {а® = 1} = 1. Очевидно, что X® е SB. По-
ложим
Р (s, х, t, Г) = Msx Хг (£ (/)) а®,
где 0 s sg / < «, хеХ, Ге?, %г (х) — индикатор множества Г.
При фиксированных s, х, t функция P(s, х, t, Г) является мерой
на 0, а при фиксированных s, t, Г она ©-измерима. Кроме того
P{s, х, t, Г) удовлетворяет уравнению Колмогорова—Чепмена
Р (s, х, <2, Г) = Р (з, х, tu dy) Р [fi, у, t3, Г),
х
хсХ. Ге SB.
При этом
Р (я, х, t, Г) С Р (s, X, /, Г),	(3.1)
где Р(я, х, t, Г) — вероятность перехода процесса (|(<), С» Р4Х).
Если этот процесс нормален, то
P(s, X, S, Г) = %	(х).
гПх®
Таким обращу, каждый мультипликативный функционал от мар-
ковского процесса порождает некоторую вероятность перехода Р(з,
х, t, Г), удовлетворяющую неравенству (3.1). При этом два мульти-
пликативных функционала стохастически эквивалентны тогда и
только тогда, когда они порождают одну и ту же вероятность пере-
хода.
14.3.Ц	14.3. МУЛЬТИПЛИКАТИВНЫЕ ФУНКЦИОНАЛЫ	353
Следующая теорема показывает, что при некоторых условиях
всякая вероятность перехода, удовлетворяющая неравенству (3.1),
порождается некоторым функционалом.
Теорема 1. Предположим, что заданы нормальный марков-
ский процесс (| (1), С, S'J» PSA;) в фазовом пространстве (X, S3) с ве-
роятностью перехода P(s, х, t. Г) и некоторая вероятность перехода
P(s, х, t, Г), удовлетворяющая неравенству (3 1). Пусть выполнены
условия-.
1)	о алгебра S3 порождается некоторым счетным семейством под-
множеств X;
2)	на полуоси [0, оо) существует такое счетное всюду плотное
подмножество I, что а-алгебры порождаются событиями вида
Ш«)еГ} пои ие/Пр, 1], ГеЭ
Тогда существует мулитииликативный функционал a] oi про-
цесса (I (0. L S®, такой, что
Р (я, х, t, Г) = Ms/Zr (g (О)
При этом, если поток а-алгебр {9^, непрерывен справа
(это означает, что 31®+ =	и функция P(s, х, t, X) также непре-
рывна справа по t в точке 1 = 4 (Эля всех s и х, то мультипликатив-
ный функционал Uf можно определить так, чтобы он был непрерыв-
ным справа.
Замечание Условия 1) и 2) теоремы выполнены, если X —
сепарабельное метрическое пространство, S3 — G-алгебра борелевских
множеств пространства X, а процесс (£(!), £, S> Psf) непрерывен
справа
В заключение этого пункта приведем интегральное уравнение, ко-
торому удовлетворяет вероятность перехода P(s, х, t, Г), если она
порождается функционалом интегрального типа.
Пусть v(s, х) —неотрицательная измеримая по паре переменных
функция, заданная при з 0, х е X. Процесс предполагается про-
грессивно измеримым относительно а-алгебр (см. выше).
Положим для 0 s.C s t, <о е Q; = {<о: g(<o) > 1}
t
а® = ехр Р (и, g (и)) du
S
Будем предполагать, что интеграл в показателе экспоненты конечен
при всех О s t < g(<o). Если
P(s, X, t, Г) = MsxZr (£(/)) a?,
то функция P{s, х, t. Г) удовлетворяет следующему интегральному
уравнению:
Р (s, х, t, Г) = Р (s, х, t, Г) -
X Р (и, У, К Г) du.
Р (s, X, и, dy) v (и, у) х
s X
12*
ЗБ6	ГЛ 14. МАРКОВСКИЕ ПРОЦЕССЫ	1М.З.Я
Если функция v(s, х) ограничена, то единственным решением этого
уравнения является функция
Р (s, х, t, Г) = £	(s, х, t, Г),
п=0
где P0(s, х, t, Г) = P(s, х, t. Г), а при п = 0, 1, 2, ...
t
Pn+i (s, х, t, Г) =— ( J Р (я, х, и, dy) о {и, у) Рп (и, у, i, Г) du.
s х
Это следует из легко получаемых оценок
КП	п
ра (s, X, t, Г) (t - s)n,	п = 0, t, 2.....
где
К = sup | v (s, x) |.
s > 0, x e X
14.3,2.	Подпроцессы. Пусть заданы два марковских процесса
(КО. C.S?, ptf) и (Ко. t PSx) в Фазовом пространстве
(X, 8) с одним и тем же пространством элементарных событий ft.
Предположим, что выполнены условия:
a)	i (<о)	£(<о) при любом со е ft;
б)	|(<) f= 1(f) при 0 t < £ (wh
в)	[2*]» где = (ш: t(«) > 0.  8? [®t] ~ слеД °-
алгебры St на множестве ft(, т. е. совокупность событий вида
ЛЛЙ*.
Тогда говорят, что процесс (f (0. £. ^sx) получен путем
сокращения времени жизни процесса (£ (/), £, St. Psx).
Марковский процесс (|(/), £, St. Psx) называют подпроцессом
процесса (£ (t), £, S'J, PSx). если первый из них может быть полу-
чен путем сокращения жизни некоторого процесса, эквивалентного
второму.
Если P(s, х, t, Г) —вероятность перехода марковского процесса
($ (0. С. 8?» Psx). а P(s> х> Г) — вероятность перехода некоторого
его подпроцесса, то очевидно, что
Р (s, х, t,r)<P (s, х, i. Г).
Теорема 2. Если марковский процесс (£ (t), £. St. Psx) Удо-
влетворяет условиям теоремы 1, а процесс ( £ (/), £, St. ^sx) является
его подпроцессом, то вероятность перехода P(s, х, t, Г) подпро-
цесса порождается некоторым мультипликативным функционалом
от процесса (| (f), £, St. Psx) в том смысле, что
P(s,x. t, Г)-МмХг(£(П)а|.
14ЛЛ1	14.3. МУЛЬТИПЛИКАТИВНЫЕ ФУНКЦИОНАЛЫ	357
В известном смысле справедливо и обратное утверждение.
Теорема 3. Пусть af — непрерывный справа мультипликатив-
ный функционал от нормального марковского процесса (g (0, Е.
PSJC). Тогда существует такой подпроцесс (g(0, Psx) этого
процесса, что его вероятность перехода, P(s, х, t, Г) порождается
функционалом aj, т. е.
Р (з, х, t, Г) = %г (i (0) - МмХг (0) а?
при всех 0 < s t, х е X, Г е S8.
Если PSJC {а® = 1} = I при всех s 0 и хеХ, то указанный
подпроцесс является нормальным.
Рассмотрим теперь подпроцесс ( g (0, g.S'f, Pix) процесса (g (0.
t. »& Р«).который порождается мультипликативным функционалом
интегрального типа
ft	1
af ехр <— Jo (и, £ (и)) du ?
' S	'
о ограниченной измеримой неотрицательной функцией о (и, х). Тогда
Р (а, х, t, X) => Msxa%.
Положим t = s -f- ft, и пусть ft J. 0. С точностью до бесконечно ма-
лых более высокого порядка будем иметь
s+h
Р (з, х, s-t-h, X) — Р (s, х, s + ft, X) яг MSJC J о (и, g («)) du.
s
Предположим, что функция v{u, g(«)) непрерывна справа, а
процесс нормален. Тогда при ft | 0
Р (s, х, s + h, X) — Р (s, х, s + ft, X) яг v (s, x) ft
С точностью до бесконечно малых высшего порядка. Если подпро-
цесс (1(0. I. §?. ₽«) получается путем сокращения времени
жизни процесса (g (/), С, Psx), то левая часть последнего соот-
ношения может быть записана в виде
Рм{?<« + Л<0.
что представляет собой вероятность того, что подпроцесс! (О, выйдя
из состояния х в момент времени s, оборвется до момента времени
s -|- ft, в то время как процесс 5 (0 до этого момента не оборвется.
Литература: [18, 19, 27, 28, 29, 36, 53, 90, 107, 114].
858 ГЛ. 16. ОДНОРОДНЫЕ МАРКОВСКИЕ процессы пыл-
Глава 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ
15.1.	Определение и основные свойства
15.1.1.	Определение. Марковский процесс называется однород-
ным, если вероятность перехода P(s, х, I, Г) обладает гем свойством,
что функция P(s, х, s + Г) »е зависит от х. Если положить
P(h, х, Г) = Р(х, х, I'), io для конечномерных распределений
процесса будет имен, тно p..i;i нсiво
У у dy^...
Уп-1>	=

0<s </.</<...< / .
12	П
Таким образом, вместо семейства мер Psx, зависящих от временной
и пространственной переменных, в однородном случае достаточно
рассматривать семейство мер Рх — Р^,, зависящих лишь от про»
странствеппой переменной. Другими словами, каждый раз. когда про-
цесс выходит из состояния х в момент времени s, мы производим
сдвиг времени так, чтобы точка х стала начальной (нулевой). Есте-
ственно, что мы должны иметь возможность сдвигать соответственно
и все траектории процесса, а это значит, что пространство элемен-
тарных событий должно быть достаточно богатым.
Пусть даны:
а)	пространство элементарных событий (Q, й);
б)	случайная величина £(о) со значениями в расширенном от-
резке [0, оо];
в)	для каждого 10 о-алгебра 8, в пространстве Й( = {из
£(co)> /}. причем если х f, то 8s[f-V| s 8t S й, где 8>Гйс]— след
«-алгебры 8s па множестве йс, т. е. совокупность множеств вида
Л П й/, А s 8S;
г)	функция двух переменных В(/) = B(l, со), t е [0, £(<в)], со е Й,
принимающая значения в некотором измеримом пространстве (X, ®),
такая, что при каждом t 0 отображение |(f, ) пространства (й/,
8с) в пространство (X, ®) измеримо; предполагается, что о-алгебра
® содержит все одноточечные множества;
д)	для каждого х е X вероятностная мера Рх на некоторой
сс-алгебре 8 в пространстве Й, содержащей все 8с, t 2== 0.
Система объектов а)—д) образует однородный марковский
процесс, если выполнены условия:
1)	при любых /	0, Г eS функция
Pit, х, Г) = Рх (1) е Г)
© измерима как функция от х, причем Р(0, х, Х\{х}) = 0; .
15.1.2]	15.1. ОПРЕДЕЛЕНИЕ И ОСНОВНЫЕ СВОЙСТВА	359
2)	для любых s, t О, Г е Э
Р* {£(< + *)	=	g(s), Г)
почти наверное относительно меры Pt па множестве
3)	для каждого иеР( найдется такое <в' е П, что £(в>п) =»'
= £(а) — t и g(s, от') = |(s + t, ы) при 0 sg s < £;(со').
Условие 2) соединяет в себе свойство марковости процесса и
свойство его однородности во времени. Условие 3) означает, что вме-
сте с каждой траекторией процесса произвольный кусок ее после не-
которого момента времени также является возможной траекторией.
Расширяя, если это нужно, пространство £2, всегда можно добиться
того, чтобы условие 3) выполнялось.
Функция P(t, х. Г), определенная в условии 1), называется ве-
роятностью перехода. Ил условия 2) следует, чтя они удовлетворяет
уравнению Колмогорова - Ченги ii.i
Р (s + t, х. Г) = Р (s, х, dy) Р (t, у, Г), s, t О, X G X, Г с
х
При этом P(s, х. А')	1. Если Р (+ 0, х, X) — lim Р ((, х, X) = 1,
f у О
то вероятность перехода называется нормальной, а соответствующий
процесс — нормальным.
Однородный марковский процесс будем обозначать (/), £, plt’
Рх)- Если g -poo, то процесс называется необрывающимся и
обозначается (g (Z), Р.Д Для необрывающегося процесса P(t, х,
X) - 1.
Обозначим через 91° минимальную <т-алгебру подмножеств Q, со-
держащую все множества вида {£(/) П при t 0. Ге®, а через
Я; минимальную О алгебру подмножеств ‘2;, содержащую все мно-
жества вида {£(s) е Г} f| S2; при s ст [0, /], Г ez®.
Пусть 91 обозначает след с-алгебсы Si0 на множестве = {£ >
> 0}. Очевидно, что 91S5 91” ?= 5, 96<=5У(, и вместе с процессом
(£ (0) Si 8’(. f\) однородным марковским процессом будет также
процесс (В (/), g, PJ-
Как уже отмечалось в § 14.2, п-алгебры 91/ могут не содержать
многих важных множеств. Например, множество {и: ^(s)eF для
всех s е [и, /]} может не входить в 91/, поскольку является пересече-
нием несчетного числа цилиндрических множеств. Однако часто мно-
жества такого вида содержатся в пересечении пополнений о-алгебры
01/ по системе мер Pz. Обозначим л у о-алюбру через й/. В даль-
нейшем будем считать, что = Stf или = 91/.
15.1.2.	Эквивалентные марковские процессы. Имея марковский
процесс (ё (О, £> Рх) (слово «однородный» часто будем опу-
скать, поскольку речь будет идти только о таких процессах) и ве-
роятностную меру р на о-алгебре S3, можем построить марковскую
случайную функцию (см. § 14.1) g(l), t е [0, оо), с временем жизни
Е, потоком о-алгебр 91/ и мерой Р^ И), А е 31° определяемой фор-
мулой
P„H)=U(dx)P,(A).
|л>	J	Л
X
360 ГЛ 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ
(Заметим, что из условия 1) определения, данного в п. 15.1.1, еле*
дует, что при любом Ле№ функция РДА) SJ-измерима.) Конечно*
мерные распределения этой случайной функции имеют вид
Рц ft (Л) 6 Г,. 6 (4) е Г;...£ (f„) €= Г„) -
= Ц (dx) Р (#,, х, dyi) Р («2 — 6, уъ dya) ...
Л г,	г2
—	»л-1‘ dyn),
Гп
где 0< fj < ... < tn, Г,,	Г„е®, a P(t, х, Г)—вероятность
перехода процесса (£ (f), g, 9it, РЛ). Мера и называется начальным
распределением построенной случайной функции. Если два Марков*
ских процесса имеют одну и ту же вероятность перехода, то соот-
ветствующие марковские случайные функции с одним и тем же
начальным распределением стохастически эквивалентны (т. е. имеют
одинаковые конечномерные распределения).
Марковские процессы с одной и той же вероятностью перехода
называются эквивалентными.
В соответствии с теоремой Г п 14.2.6 по всякой нормальной
однородной вероятности перехода можно построить однородный мар-
ковский процесс При этом под однородной вероятностью перехода
в фазовом пространстве (X, ®) мы понимаем функцию P(t, х, Г)
(t 0, хеХ, Ге8), являющуюся мерой по Г при фиксированных
f, х (с условием P(t, х, Х)^. 1, Р(0, х, Х\{х)) = 0), представляю-
щую собой ©-измеримую функцию от х при фиксированных f, Г и
удовлетворяющую уравнению Колмогорова — Чепмеиа.
15.1.3.	Операторы сдвига. Определим операцию сдвига 6*
(t 0) множеств из о-алгебры 91. Для множеств вида (со: £ (s) s Г)
(s 0, Г ен ®) положим
ejusleD-u «+*)6П.
Кроме того, потребуем, чтобы операторы 6( сохраняли все теоретико-
множественные операции. Тем самым действие оператора 0| на любое
множество A s 91 определено однозначно. Например, 0<£2* = П«+>, а
цилиндрические множества
ft (А) ®Г,.....£ (f„) е= Г„)
под действием оператора 0< переходят в множества
{iff, + f) е Г,................g(fn + f)<=r„).
Можно определить операторы 0/ и на 91-измеримых функциях от
©. Именно полагаем (0ii](«) = а, если в е 0,{1] = а}. Очевидно,
что 0,0л) = Ot+ji], так что операторы 0( образуют полугруппу.
В частности, 0/£ = £ — t для ы е £2/.
В терминах операторов 0» условие 2) определения, данного в
п. 15.1.1, может быть записано в виде
Px{0s ft (О ® Г}|ЙЛ} - P6W ft (/) е Г}
почти наверное относительно Р* на множестве £2» (п. н. fis, Р*).
15.5.1]	16.2. ПОЛУГРУППЫ ОПЕРАТОРОВ	36]
Следующие свойства марковского процесса (f), $, St,, Рл)
являются простыми следствиями определения, данного в и. 15.1.1.
1)	Если Лей, то
Ме(л|$М==Р6(()(А) (п. н. а(, Рх);
2)	если Л е й|, В е й, то
Рл(АПе(В)« J Pf ,с {В) Рх (d<o):
л
3)	если 1) — ограниченная St-измеримая случайная величина, то
МЛМ9Ч=М6(О’> ,("• «• Рл);
4)	если величина к ограничена и 91/ измерима, а г] ограничена и
St-измерима, то
Мх (*0^) = Мл (хМ£(01]).
15.2.	Полугруппы операторов, связанные с однородными марков-
скими процессами
15.2.1.	Полугруппа операторов, соответствующая вероятности
перехода. Пусть (£ (/), £, 91,, Рх) — однородный марковский про-
цесс в фазовом пространстве (X, 8) с вероятностью перехода P(t, х,
Г). Обозначим через В(Х) банахово пространство всех веществен-
ных ограниченных 8-измеримых функций на X с нормой || f I1 =
= sup I f (x)|. Рассмотрим на В(Х) семейство операторов Tt (t
0), определяемых формулой
Tt f (X) = J f (у) p (t, X. dy) = Mxf (I (/)), f e В (X).
x
Из свойств вероятности перехода следуют свойства семейства
операторов Tt 0):
1)	при каждом г^О является линейным ограниченным опе-
ратором, отображающим В(Х) в В(Х), причем || Г< || ^ 1;
2)	при всех s, t 0 Tt±s — TtTs-,
3)	если f (х) > 0 при всех х е X, то Ttf (х) > 0 при всех х е X
и t 0;
4)	если f(x0) = 0, то Tof(xo) = 0;
5)	если при всех х е X lim /я (х) — / (х), где /„ е В(Х), при-
чем sup||fn||< со, то Jim Ttfn(x) = Ttf (х).
Семейство операторов {Tt, 1^0}, удовлетворяющих условиям 1),
2), называется сжимающей полугруппой операторов. Свойство 3)
означает, что оператор Tt оставляет инвариантным конус неотрица-
тельных функций в В(Х).
Таким образом, всякий однородный марковский процесс в фазо-
вом пространстве (X, ®) порождает сжимающую полугруппу опера-
торов {Tt, t 0}, удовлетворяющую условиям 3) — 5) При этом эк-
вивалентные марковские процессы порождают одну й ту же полу-
группу.
862 ГЛ. 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ [15.24
Можно показать, что всякая сжимающая полугруппа операто-
ров, действующих в В(Х) и удовлетворяющих условиям $) — В). По-
рождает однородную вероятность перехода, Причём Р (г, Я, Г)
“ Л'/-Г <*)•
Таким образом, для изучения марковских процессов можно ис-
пользбвать теорию полугрупп
15.2.2.	Инфинитезимальный оператор. Пусть (X — некоторое
измфЖюе пространство и [1\, i 0} — сжимающая полугруппа Опе-
раторов, действующих в В(Х). Определим инфинитезимальный бгИ-
ратор Л полугруппы Tt формулой Af — g, если
Его область определения Dt состоит и» всех тех функций f еВ(Х),
Для которых йредел
существует равномерно относ ителыю х е X. Очевидно, что DA cz
еВ^Х) fczB(X), Пт f|?y — П1 = °Ь
t 4 о
Отметим некоторые свойства инфинитезимального оператора:
1) замыкание множества Da (в смысле сходимости По норме)
совпадает с B0(XJ-,
, fi) еелй f е Da, то Af е В»(Х) и
t
TtAfds;
о
3) если fsDi, то функция Ttf сильно дифференцируема по t
f(f>0) й
,d^tf ^ATtf=TtAf-,
4) оператор А замкнут.
Для положительных чисел X определим операторы ЯА на В0(Х)
формулой
Оф
W = $ e~KfTtg (х) dt, g <s во (X).
о
'(Заметим, что для таких g функция Tig является сильно непрерыв-
ной Ограниченной, и потому интеграл в этой формуле всегда суще-
ствует нри А, > 0 и определяет некоторую функцию из 8(Х).) Се-
мейство операторов называется резольвентой полугруппы Tt-
Свойства резольвенты:
1)	прй X, р. Э» 0 выполняется резольвентное уравнение
«Л-
и 2.31	15.2. ПОЛУГРУППЫ ОПЕРАТОРОВ	363
2)	|М< 1/1
3)	функция f = R.fg является единственным решением уравне-
|.чя Zf — Л/ = g, 7- > 0, g g= Bt>(Л).
Таким образом, RK—(XI—A)~l, где/ — единичный оператор,
и R^ взаимно однозначно отображает В0(Х) на Da.
Положим (*> г)“^л%Г(*)• А,>0, х е X, Ге®. Функция
/'(х, Г) называется резольвентным ядром. Очевидно, что
/?ля (ж) =	(х> dV) g (У), g е B0(JC).
X
Если процесс (!(?), t,. Sfy, Px) прогрессивно измерим, т.е. если
при всех t > 0 измеримо отображение £(s, ш) измеримого простран-
< тва ([О, /J X Dt, STf X (здесь ЯГ® — о-алгебра борелевских под-
множеств отрезка [0, /]) в измеримое пространство (X, ®), то ре-
зольвента полугруппы операторов, отвечающей этому процессу, мо-
жет быть выражена формулой
С
(х) «= Мх { e~ug(g (О) «Г/, g<= В(X), х <=X, А > 0.
о
15.2.3.	Стохастически непрерывные процессы в топологических
пространствах. Пусть P(t,x, Г)— некоторая однородная вероятность
перехода в пространстве (X, ®). Согласно п. 15 2.1, она порождает
полугруппу операторов Ft, действующих в пространстве В(Х). Инфи-
нитезимальный оператор А этой полугруппы будем называть инфи-
нитезимальным оператором вероятности перехода P(t, х, Г). Соглас-
но п. 15.2.2,
(y)P(t, x.dy)-f(x)
Af (*) “ lim —--------j-----------,
<4-0	*
причем f^Di, если этот предел существует равномерно относи-
тельно X Е X.
Возникает вопрос: при каких условиях вероятность перехода од-
нозначно определяется своим инфинитезимальным оператором?
Прежде чем сформулировать теорему, отвечающую на постав-
ленный вопрос, введем понятие стохастически непрерывной вероятно-
сти перехода.
Пусть X — топологическое пространство, а 8 — о-алгебра боре-
левских подмножеств X. Однородная вероятность перехода P[t, х,
Г) называется стохастически непрерывной, если для всякого хеХ
и всякой окрестности U точки х выполнено соотношение
lim Р (I, х, U) = 1.
<+<“
Обозначим через С(Х) пространство вещественных непрерывных
ограниченных функций, заданных на X. Если Р(/, х, Г)—стохасти-
чески непрерывная вероятность перехода в пространстве (X, В), а
364 гл. 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ («MU'*
Tt — соответствующая ей полугрупппа операторов в В(Х), то для
всякой [еС(X)
lim Ttf (x) = f (х),
о *
каково бы ни было х е X. Более того, если некоторая полугруппа
Tt, порождаемая вероятностью перехода P(t, х, Г), обладает этим
свойством, то P(t, х, Г) стохастически непрерывна.
Теорема 1. Всякая стохасшчески непрерывная вероятность пе-
рехода в топологическом фазовом пространстве однозначно опреде-
ляется своим инфинитезимальным оператором.
Заметим, что стохастически непрерывная вероятность перехода
нормальна. Поэтому если А — инфинитезимальный оператор стоха-
стически непрерывной вероятности перехода, то он однозначно (с
точностью до эквивалентности) определяет некоторый марковский
процесс. Таким образом, задача об описании всех стохастически не-
прерывных процессов в (X, 0) сводится к описанию всех таких опе-
раторов в В(Х), которые являются инфинитезимальными операто-
рами стохастически непрерывных вероятностей перехода.
Может оказаться, что полугруппа Tt, порожденная некоторой ве-
роятностью перехода P(t, х, Г), оставляет инвариантным некоторое
подпространство В пространства В(Х). Рассматривая полугруппу Tt
в пространстве В, мы можем определить ее инфинитезимальный опе-
ратор в В, который называется В-инфинитезимальным оператором
вероятности перехода P(t, х, Г); во многих случаях он однозначно
определяет эту вероятность.
Пусть X — топологическое пространство, S — о-алгебра его бо-
релевских подмножеств. Однородная вероятность перехода P(t, х,
Г) в фазовом пространстве (X, 0) называется феллеровской, если
при всех i>0 и feC(X) имеет место включение
TtfW=* ^P(t,x. dy)f(y)e=C(X).
X
Другими словами, вероятность перехода феллеровская, если соответ-
ствующая ей полугруппа оставляет инвариантным пространство
С(Х).
Марковский процесс с феллеровской вероятностью перехода на-
зывается феллеровским. Полугруппу, порожденную феллеровской
вероятностью перехода, можно рассмотреть в пространстве С(Х). Ее
инфинитезимальный оператор в этом пространстве называется С-ин-
финитезимальным оператором соответствующей вероятности пере-
хода.
Теорема 2. Если топологическое пространство X удовлетво-
ряет первой аксиоме счетности, то С-инфинитезимальный оператор
стохастически непрерывной феллеровской вероятности перехода опре-
деляет эту вероятность перехода однозначно.
15.2.4.	Процессы на компактах и полукомпактах. Рассмотрим
теперь вопрос о том, какие же операторы могут быть инфинитези-
мальными для некоторой вероятности перехода.
Пусть сначала X — компакт, Э —о-алгебра его борелевских под-
множеств, a P(t, х. Г)—стохастически непрерывная феллеровская
вероятность перехода в (X, S). Можно показать, что в таком случае
С(Х) sBo(X) (определение пространства Во(Х) см. в п. 15.2.2). Это
означает, что для любой f е С(Х) || Ttf — / II -> 0 при t -*• 0.
15.2.4]	15.2. ПОЛУГРУППЫ ОПЕРАТОРОВ	3g5
Всякая стохастически непрерывная феллеровская вероятность пе-
рехода в компакте (X, S) является равномерно стохастически непре-
рывной в следующем смысле. Пусть р — некоторая метрика в про-
странстве X, порождающая его топологию, С8 (х) — шар в X ра-
диуса в с центром в точке хеХ. Вероятность перехода P(t, х, Г) в
(X, ®) называется равномерно стохастически непрерывной, если
lim sup (I — Р {t, х, Ue (x))) — 0
t
при любом e > 0.
Таким образом, в соответствии с теоремой 5 п. 14.2.6 среди экви-
валентных между собой марковских процессов на компакте со стоха-
стически непрерывной феллеровской вероятностью перехода сущест-
вует процесс, не имеющий разрывов второго рода и непрерывный
справа. Следующая теорема дает описание инфинитезимальных опе-
раторов таких процессов.
Теорема 3 Пусть X — компакт, А — линейный оператор в про-
странстве С(Х). Для того чтобы оператор А являлся С-инфинитези-
мальным оператором некоторой стохастически непрерывной фелле-
ровской вероятности перехода в (X, Э), необходимо и достаточно
выполнения следующих условий'.
1)	область определения Da оператора А всюду плотна в С(Х)
(в смысле равномерной метрики);
2)	уравнение
U~Af — g
имеет решение f eDA при любом geC (X) u Z > 0;
3)	если feDt, f (хо) >0 и f(xo) > f (х) для всех хеХ, то
Af(xBj < 0.
Назовем вероятность перехода консервативной, если при всех
t 0 и хеХ P(i, х, X) == 1. Вероятность перехода является кон-
сервативной тогда и только тогда, когда ее инфинитезимальный опе-
ратор А обладает следующими свойствами: 1 е DA и Al = 0.
Если А — инфинитезимальный оператор некоторой консерватив-
ной вероятности перехода, то выполнено следующее свойство:
3') если [ей» и f(x0) f(x) для всех хеХ, то Af(x0) 0.
Поэтому линейный оператор А в пространстве С(Х), где X —•
компакт, является С-ннфннитезимальным оператором некоторой кон-
сервативной стохастически непрерывной феллеровской вероятности
перехода тогда и только тогда, когда выполнены условия 1), 2), 3')
и условие: 1 ^DA и At — 0.
Пусть теперь X — полукомпакт (т. е. локально компактное хаус-
дорфово пространство со счетной базой), 8 — о-алгебра его борелев-
ских подмножеств. Обозначим через С0(Х) пространство всех веще-
ственных непрерывных функций на X, стремящихся к нулю, когда х
выходит из всех компактов (это означает, что при любом е > 0 мно-
жество {х: хеХ, |/(х) | е} является компактным в X). Пусть
P(t, х. Г)—вероятность перехода в пространстве (X, 8). Будем го-
ворить, что она удовлетворяет условию Се, если Тtf s Св (X) при всех
/>0 и feCo(X). Инфинитезимальный оператор полугруппы Tt в
пространстве Со(Х) назовем Са-инфинитезимальным оператором ве-
роятности перехода P(t, х, Г).
Теорема 4. Стохастически непрерывная вероятность перехода
в полукомпакте X, удовлетворяющая условию Со, однозначно опре-
деляется своим Съ-инфинитезимальным оператором.
860	' ГЛ. IS. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ [16.3.1
Вероятность перехода, удовлетворяющая условиям теоремы 4,
обладает следующими свойствами:
а)	она равномерно стохастически непрерывна на компактах;
б)	для нее С0(Х) s Во(Х).
Таким образом, марковский процесс с вероятностью перехода,
удовлетворяющей условиям теоремы 4, и в этом случае можно вы-
брать непрерывным справа и не имеющим разрывов второго рода.
Следующая теорема описывает инфинитезимальные операторы
таких процессов.
Теорема 5. Пyen X — полукомпакт, А — линейный оператор
в пространстве Со(Х). Для того чтобы оператор А являлся С0-инфи-
нитезимальным оператором некоторой стохастически непрерывной
вероятности перехода в X, удовлетворяющей условию Со, необходимо
и достаточно, чтобы он удовлетворял условиям 1) —3) теоремы 3
(в условиях 1), 2) нужно заменить С(Х} на С0(Х)).
15.3. Характеристические операторы строго марковских процессов
15.3.1.	Строго марковские процессы. Пусть (g(f), 5, Sty, Рх) —
однородный марковский процесс в фазовом пространстве '(X, В)
с пространством элементарных событий В. Функция т = т(<о) (м е
е£!) с числовыми значениями называется марковским моментом,
если выполнены условия:
а)	0 т(и) £(<о) для всех оей;
б)	при всех 1^0 {т(со) t < £(со)} е Sty.
Обозначим £2Т = {со: т (ей) < £ (со)}. Для со & £2Т т (<в) = £ (ей).
Очевидно, положив т(<в) = t0 для <йей<о и т(со) == £(со) для
со Qf0, мы получим марковский момент (здесь t0 — неслучайное
число).
Положим далее
тг (со) — inf {s: 0<s < £ (и), Е (в, ®) & Г}, Ге 8,
если множество в фигурных скобках непусто; в противном случае
полагаем тг (со) = t, (со). Величина тг называется моментом первого
выхода из множества Г. Если X — топологическое пространство, про-
цесс непрерывен справа, а множество Г открыто или замкнуто, то
величина тг является марковским моментом.
Пусть теперь (5.(0» 5	Р*)— прогрессивно измеримый мар-
ковский процесс (это означает, что отображение £(s, со) простран-
ства ([0, i] X Qf. ST*t X 31/) в пространство (X, 8) измеримо при
всех /). Если т — марковский момент, то отображение 5(т(м), со)
определяет измеримое отображение пространства (£2Т, 9tT) в про-
странство (X, В). (Напомним, что 9lt — совокупность всех таких
А <= 91, что А Г) {т С t < О St(.)
Прогрессивно измеримый марковский процесс (£(/), £, Sty, Рх)
называется строго марковским, если для любых i 0, геХ, Геt
и любого марковского момента т выполняется соотношение
Рх ft (* + т) е= Г | SM = Р (1Д (т), Г) (п. н. йт, Рх).
Следующая теорема дает достаточное условие строгой марково-
сти процесса.
1S-3.1I ’  ’	1Б.З. ХАРАКТЕРИСТИЧЕСКИЕ ОПЕРАТОРЫ	§67
Теорема 1. Непрерывный справа феллеровский марковский
процесс в топологическом фазовом пространстве является строго
марковским.
Пусть (5(0, 5, Кт, Рх) — строго марковский процесс. Определим
операторы сдвига 6Т для Л ей и марковского момента т формулой
U (М)л{*=о.
t
Если т)—91-измеримая случайная величина, то положим
(<в) =°(П («)
для to е {t(<d) = t < 5(<в)}. Функция 0тт] определена лишь на мно-
жестве £2f.
Следующие свойства строго марковского процесса являются про-
стыми следствиями определения. Если (5(0, 5, Rt, Рх)—строго маа-
ковский процесс и т—марковский момент, то:
1)	РЛ{0ХД]01Т}~ РЕ(Т)(4) (п. н. Йт, Рл) при всех Ле 51;
2)	для всех Лей, и Вей
Рл И п етВ} - J Р5 w (В) Рл W®);
Л
8)	для любой R-иэмеримой ограниченной случайной величины л
Мх {МI	(п. н. Рл);
4)	для любой Я1т*измеримоЙ ограниченной случайной величины
Ч ъ Любой R-измеримой ограниченной величины и
Мл{ч0тх}=-Мх{чМЕ(т)«}.
В соответствии с определением п. 14.2 б нормальный однородный
марковский процесс (6(0.:.^. pj в фазовом пространстве (X,
®), где X— полукомпакт, а ® — о-алгебра его борелевских подмно-
жеств, называется стандартным, если выполнены условиям
а)	9?| « 91,4., > 0;
б)	процесс (5(0, 5, ®т, Рх) непрерывен справа и имеет пределы
слева;
в)	процесс (5(0, 5, Sir, Pt) строго марковский;
г)	процесс (5(0. 5. Rft Рх) квазииепрерывен слева
Теорема 2. Если P(t, к. Г) —стохастически непрерывная фел-
леровская вероятность перехода на компакте или стохастически не-
прерывная вероятность перехода на полукомпакте, удовлетворяющая
условию Со, то существует стандартный марковский процесс с ве-
роятностью перехода P(t, х. Г).
Рассмотрим пример марковского процесса, не являющегося стро-
го марковским.
Пусть X = (—оо, оо), 8 — о-алгебра борелевских множеств В
X. Положим для ( > 0, хе X, Ге®
{1 f	(	(у — х)я
V2nf J	I St
Хг (х), если х = 0.
I dy, если х тА 0j
S68 ГЛ IS ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ [15.3.8
Нетрудно видеть что по этой вероятности перехода можно по-
строить однородный непрерывный пеобрывающийся марковский про-
цесс (f), Рх)- Для него (конечная!) случайная величина
'г = тЛ\{0}“ момент первого выхода из множества X \{0}— яв-
ляется марковским моментом. Пусть множество Д состоит из тех <о,
для которых существует такое t, что для всех s^t g(s, со) = 0«
Тогда Рл(Л) = 0 при х 4й 0, а Ро(Л) = 1. Далее, очевидно, что
ОМ = А. Поэтому равенство	t
Рх (®т^) “ M^Pg (т> (^)
не может выполняться, так как при х =/= 0 левая часть равна нулю,
а правая — единице. Значит, процесс (g (<). Рх) не может быть
строго марковским.
15.3.2. Характеристический оператор. Пусть (6 (0. С> 9lt, Рх) —
непрерывный справа феллеровский (а значит, и строго-марковский)
процесс в полукомпакте X. Если А — инфинитезимальный оператор
этого процесса и f е £0,, то имеет место формула
t
Mxf (I Ю) - f (*) “ М* J Af (| (s)) ds
о
при всех t 0, х е X (см п. 15 2 2, свойство 2) инфинитезималь-
ного оператора).
Оказывается, что в некоторых случаях эта формула остается
справедливой при замене t иа марковский момент т. Именно, пусть
т — марковский момент для процесса(g (1), £, йр ₽х), и пусть Млт <
< оо. Тогда, если f е DA, то
с
МЛ а СО) - f (X) = Мх J Af (g (s)) ds.	(3.1)
о
Точку х0 е X назовем поглощающей, если РХо {g (!) = x0J ™ 1
при всех t^sO Для поглощающей точки х0 Ttf(x<ii — f(xo) при всех
t и всех feB(X). Если х— непоглощающая точка, то всегда най-
дется такая ее окрестность U, что М^Ту < оо. Здесь хи — момент
первого выхода из открытого множества U.
Будем говорить, что последовательность окрестностей Un (п —
= I, 2, .. ) точки х сходится к х (Un I х), если для любой окрестно-
сти U точки х найдется такое п0, что при п > л0 Un с: U.
Пусть точка хеХ—непоглощающая точка процесса (g(0, &
Slf, Р*) и Un | х. Тогда из формулы (3.1) следует соотношение
Af (х} = lim M*f	(3.2)
«->«,	МдТп
где т„ =т,. , если только f е DA и функция Af непрерывна в точке
п
х В случае, когда х — поглощающая точка, Тг/ == оо для любой ок-
рестности U точки х Поэтому можно считать, что правая часть фор-
мулы (3.2) в поглощающей точке обращается в нуль. То же самое
происходит и с левой частью.
15.8.21
153 ХАРАКТЕРИСТИЧЕСКИЕ ОПЕРАТОРЫ
369
Таким образом, если А—С-инфинитезимальный оператор фел-
леровского непрерывного справа процесса и f е Da, то значение
функции Af при всех х е X может быть вычислено по формуле
(32).
Обозначим через D% совокупность всех тех функций fe=B(X)
для которых при данном х е X существует предел
й/и)= lira
n->oo	MjiTn
Где Un — произвольная последовательность окрестностей точки х,
Сходящаяся к х, а тп = т^. Для f е |"| D% соответствующий
предел существует при всех хеХ и определяет некоторую функ-
цию Sl/(x). Оператор 91 называется характеристическим оператором
процесса. Его область определения Цл= П D^ состоит иг всех
х<=Х
тех функций (еВ(Х), для которых предел в правой части фор-
мулы (3 2) существует при всех х е X. Из предыдущего следует, что
Характеристический оператор феллеровского непрерывного справа
процесса в полукомпакте X является расширением его С-инфините-
зимального оператора. Это означает, что Од Е и для f
имеет место равенство Af (х) = И((х).
Если U — некоторое открытое подмножество X, т = — мо-
мент первого выхода из U, то положим
(х, Г) = Рх {£ (т) еГ), хе=Х, Ге».
Вероятность Лс/(х, Г) называется вероятностью выхода из множе-
ства U. В терминах вероятностей выхода характеристический опера-
тор может быть записан в виде
И/ (х) — lim -rr-i-(	[У) «п (*> dy) — f (x)Y
xrUn \x	J
feD№ Un ff x.
Таким образом, характеристический оператор определяется вероят-
ностями выхода и средним временем до выхода из сколь yi одн i
малых окрестностей начальной точки Если процесс не обрывается и
непрерывен, то &(т7у) принадлежит границе множества U. Поэто iy
для непрерывных процессов характеристический оператор локален
Заметим, что для эквивалентных процессов характеристические
операторы совпадают. Однако если для двух процессов совпадают
их характеристические операторы, то отсюда еще не следует, что
процессы эквивалентны.
В некоторых случаях можно более точно описать связь между
инфинитезимальным и характеристическим операторами.
Теорема 3. 1) Пусть (£(/)> Рж) — необрывающийся стоха-
стически непрерывный феляеровский процесс в компакте X, и пусть
А — его С-инфинитезимальный оператор. Тогда
£>Л = СЯПС(Х)П{/: й/еС(Х)}.
370 'г' ГЛ. И. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ [1Ы.Г
2) Пусть (§(<)>	Р*)—необрешающийся стохастически непре*
рывный процесс в полукомпакте X, удовлетворяющий условию Со, И
пусть А — его Co-инфинитезимальный оператор. Тогда
Рл = РяПС0(Х)П{/: «V е С0(Х)}.
I 15.4. Процессы со счетным множеством состояний
15.4.1.	Классификация точек. Пусть (1), £, Рх) — маркой»
ский процесс в фазовом пространстве (X, Э), удовлетворяющий ус»
ловию (S): если |(s, со) = х для всех рациональных значений з из
интервала (а, р), то £(«, и) =х и для всех se (а, Р). (Это у«ло»
вие выполнено, если процесс в топологическом пространстве непре»
рывен справа.)
Обозначим через т» момент первого выхода из точки х. Тогда
Тх — марковский момент и
Pt{tx>0-«-eW‘,
где в(х)—некоторая неотрицательная функция от х, возможно, а
некоторых точках равная +«>.
Таким образом, для каждой точки х е X имеется три возмож»
ности:
1)	а(х) >= 0; в этом случае Тх = +°° и точка х называется
поглощающей (см. п. 15.3.2);
2)	а (х)	-|-оо; в этом случае ъ== 0 а точка х называется
пропускающей;
3)	0 < я(х) < 4-°°; в этом случае 0 < т* < 4-оо и точка х на»
зывается задерживающей.
Если считать 1/0 — 4-°° и 1/4-°° = 0, то во всех трех случаях
очевидно, что а (х) ₽ (Млт*)“'.
Марковский процесс (I (1), £, 9?t, Рх) называется скачкообраз*
ным, если для каждых <в и 1е[0, £(<»)) существует такое положи»
тельное б (зависящее от t н и), что при всех h е £0, в) g(l) •=» j(14*'
4-й). Момент /0 называется моментом скачка траектории £(1, со),
если существует такая последовательность tn t tB, что g(ln, to) =й»'
=/= £(to, о) (я = 1, 2. -•)- Инфинитезимальный оператор скачкооб»
разного процесса является сужением оператора, ставящего в соот»
ветствие функции f ш В (X) функцию
- а (х) f (х) 4- я (х) Mxf (I (?,)) —
= — а (х) f (х) 4- я (х) f (у) л (х, dy),
х
где а (х) « (MjtTjr)-1, и (х, Г) = Рл {£ (тх) е Г) (очевидно, что у
скачкообразного процесса пет пропускающих точек, и потому я(х)9Ь
оа при х е X).
Скачкообразный процесс называется ступенчатым, если при лю-
бом w множество моментов скачков не имеет предельных точек вну-
три полуинтервала [0, t(w)). Если P(i, х, Г) —вероятность перехода
в фазовом пространстве (X, £5) и если равномерно относительна
Jim P{t, X, {х} )<=>!,
Н о
15.4.21	15.4. СЧЕТНОЕ МНОЖЕСТВО СОСТОЯНИИ	371
то существует ступенчатый процесс с вероятностью перехода
P(t, х. Г).
15.4,2.	Дифференцируемость вероятностей перехода и уравнения
Колмогорова. Рассмотрим подробнее процессы со счетным числом
состояний. Пусть X — некоторое счетное (или конечное) множество и
®— о-алгебра всех его подмножеств. В этом случае достаточно рас-
сматривать вероятность перехода в одноточечные множества P(t, х,
у) == P(t, х, {у}), поскольку Р (/, х, Г) == У, Р (t, х, у). Функция
и еГ
Р{1, х, у) (f>0, х, у&Х) удовлетворяет условиям:
a)	P(i, х, у} > 0;
б)	(#,*,»)<!;
yeJC'
в)	Р (s +1, х, у) «= У Р (з, х, z) Р (t, z, у), s,t~^O, x,i/eX.
zeX
Вероятность перехода P(t, x, у) называется стохастически не-
прерывной, если выполнено условие:
г)	при всех х, у lim Р (/, х, у) = б (х, у),
14" о
где S (х, у) °= 0 для х у и 6(х, у) = 1 для х «= у.
Числа P(t, х, у) (х, уе.Х), удовлетворяющие условиям а)—г),
при всех t 0 образуют матрицу ₽(<)> которая называется полусто-
хастической. Если вместо условия б) выполнено условие
при всех t 0 и х е X, то матрица Р(/) называется стохастической.
Очевидно, что
Р (1) Р (s) = P(s) Р (f)=P(s + 0-
Теорема 1. Пусть заданы функции P(t, х, у) (t 0, х, у&
еХ), удовлетворяющие условиям а) —г). Тогда:
1) при всех х*¥* у существуют конечные пределы
,	.	„ Р (/, X, у)
а (х, у) = Нт — .-;
4 40 t
fi) при каждом х^Х существует предел
, .	..	1 — Р (*. х, х)
а (х) = нт-------7------,
t^o	t
возможно, равный +<»;
8) при всех хеХ
У а(х, у)<л(х).
jieX
Если процесс с вероятностью перехода P(t, х, у} удовлетворяет
условию (S) п. 15.4.1 и т* — момент первого выхода из состояния х,
to
372 ГЛ 16 ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ [16 4 $
где О «С в(х) +°°. Можно показать, что в рассматриваемом елу<
чае а(х) = о(х), где в(х) введена в утверждении 2) теоремы 1. Та-
ким образом, по фУнкЦии о(х) мы можем классифицировать все
точки пространства X на пропускающие (а(х) — +°°), поглощаю-
щие (а(х) = 0) и задерживающие (0 < «(х) < -f-oo).
Непропускающая точка х называется регулярной, если
c(x) = S а (*>«>
X
Очевидно, что поглощающие точки регулярны Процесс, у которого
все точки регулярны, называется локально регулярным.
Если при некотором х е X а(х) < -{-оо, то при всех у е X, .
выполнены неравенства	____
дР у) > £ О. (х, Z) Р (I, 2, у),	(4.1)
г&Х
дР {t,y' Х} > У Pit, у, z) a (z, х),	(4.2)
V*	* । । /
zeX
где положено о(х, х) = —й(х).
Теорема 2. Если для функции P(t, х, у) 0, х, уеХ),
удовлетворяющей условиям а) — г), все точки регулярны, то выпол-
нена система уравнений
дР (tx, у) д у а (х р z уу, О, у, хе=Х. (4.3)
геХ
Система уравнений (4.3) носит название первой системы урав-
нений Колмогорова. Начальным условием для нее служит соотно-
шение
lim Р it, х, у) = 6 (х, у), х, у^Х.
Обозначим через А матрицу с элементами о(х, у) (х, уеХ).
Уравнения (4.3) в матричной форме имеют вид
^-ЛР(0.
где dP(t)/dt — матрица с элементами dP(t, х, y)fdt (х, уеХ).
Систему уравнений (4.3) можно записать еще и так:
Р (t, х, у) = б (х, у) е~а W t -j.
*
4-^e~c(*,s а (х, z) Р (t — s, z, у) ds.
о	Z ф X
Для у х положим л (х, у) = а если 0 < а(х) < 4-со и
я(*. У) = 0 при а(х) = 0. Тогда предыдущая система интегральных
15.4.21	15.4. СЧЕТНОЕ МНОЖЕСТВО СОСТОЯНИЙ	373
уравнений может быть записана в виде
t
Р (К х, у)» J а {х) е~а^8 л (х, z) Р (i — s, z, у) ds,
о	г ,ь х
к ¥= у, х, у <=Х,
P(f, х, x) = e~a<x)t +
t
+ J a (x) e~e(*)s n (x, z) P (t — s, z, x) ds, xeX.
O	z x
Этим равенствам легко дать вероятностное истолкование. Напри-
мер, второе из них может быть истолковано так: выйдя из состоя-
ния х, система в момент времени I может оказаться в состоянии х,
либо не выходя из х за все это время (вероятность этого события
равна e_<OJI>o), либо в момент времени s, впервые выйдя из состояния
х (вероятность этого события равна a(x)e~°<*>sds), перейдет в со-
стояние z х (вероятность этого события равна п(х, г)), а затем
за оставшееся время t — s перейдет из состояния z в состояние х
(вероятность этого события равна P(t—s, z, х)). При этом мы дол-
жны просуммировать (проинтегрировать) произведение этих вероят-
ностей по всем возможным моментам первого выхода из х (т. е.
по s от 0 до f) и по всем состояниям z х. Таким образом, введен-
ные величины л(х, у) трактуются как вероятности того, что в мо-
мент первого выхода из состояния х система окажется в состоя-
нии у.
Далее, если в (4 2) знак неравенства заменить на равенство, мы
получим вторую систему уравнений Колмогорова:
“ У Р х, z) а (2, у), х, у е! (4.4)
zeX
Однако даже в случае, когда все точки хеХ регулярны, вообще
говоря, нельзя утверждать, что вероятности P(i, х, у) (т. е функ-
ции, удовлетворяющие условиям а) — г)) удовлетворяют системе
уравнений (4.4). Достаточное условие для того, чтобы вероятности
P(t, х, у) удовлетворяли системе уравнений (4 4), содержится в сле-
дующем утверждении.
Теорема 3. Предположим, что числа P(t, х, у) (/^ О, х,
у<=Х) образуют стохастическую матрицу, для которой supa(x) <
< оо. Тогда все точки хаХ регулярны и вероятности P(t, х, у)
удовлетворяют второй системе уравннеий Колмогорова.
Можно показать, что ограниченность функции а(х) эквивалент-
на условию
lim sup (1 — Р (t, х, х)) « 0.
«4-0 xsJf
В этом случае, как следует из п. 15.4.1, процесс с вероятностью пе-
рехода Р(1, х, у) эквивалентен ступенчатому процессу.
Если X конечно и P(f) —стохастическая матрица, то функция
а(х) ограничена, все точки хеХ регулярны и выполнена вторая си-
стема уравнений Колмогорова,
S74 гл 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ Ц5ЛЗ-
15.4.3. Минимальное решение. До сих пор вероятность перехода
P(t, х, у) (t 0. х, у е X) считалась заданной, и по ней строилась
матрица А == ||«(х, у) [| (х, у е X) Рассмотрим теперь обратную за-
дачу. Пусть задана матрица А — || а(х, у) (| (х, у&Х), удовлетво-
ряющая условию.
А) при х ф у а(х, у) 0 и — оо < а (х, у)^0 при всех
у^х
хеХ.
Существует ли вероятность перехода Р(1, х, у), для которой
дР (0 х, у)	.
----—— = а (х, у) при всех х, у е Х>
Для того чтобы ответить на этот вопрос, естественно рассмо-
треть две системы дифференциальных уравнений.
(I, х, у} = £ а (х, z) Q (А г, у), х, у<=Х,	(4.5)
z<=-X
(A х, у) = £ Q (А х, z) a (z, у), х, у<=Х,	(4.6)
ге X
с начальным условием lin^ Q (А х, у} =• б (х, р).
Положим
Р(0> (А х, у) = б (х, jf) е~а
t
р(п+1) х у}	e~aM<t~sta (х, z) Pw (s, z, у) ds,
z#. х о
и = 0, 1, 2, ...
Можно показать, что функции Р<">(А х, у) могут быть опреде-
лены и такой системой равенств:
t
Р(п+П (А *>!/) =	^e~a^(t~s}a(z, у) (s, х, z}ds,
ус
n=«0. 1, 2, ...
Пусть
DO
?(А х, jr)=£ P<n)(t,x, у).
«—о
Теорема 4 Для любой матрицы А, удовлетворяющей условию
А), построенная выше функция P(t, х, у) (t 0, х, реХ) является
решением систем уравнений (4 5) и (4 6), удовлетворяющим усло-
виям а) —г).
Можно показать, что если P(t, х, у) (/ 5= 0, х, у^Х) -произ-
вольная функция, удовлетворяющая условиям а)-—г) и соотноше-
нию
(0, х, у) •» а (х, у), х, у е=Х,
I5.4.4j	154. СЧЕТНОЕ МНОЖЕСТВО СОСТОЯНИЙ	87S
с заданной матрицей А, то P(t, х, у} F(t, х, у), где P(t, х, у) —
функция, построенная выше по той же матрице А. Поэтому F(t, х,
у) называется минимальным решением, соответствующим матрице А
Если для данной матрицы Л, удовлетворяющей условию А),_ми-
нимальное решение P(t, х, у) обладает тем свойством, что V Р (f,
цеХ
х, у) “ 1	£т. е. матрица P(t) стохастична), то всякая функция
P(t, х, У), удовлетворяющая условиям а) — г) и условию (0, х,
у) = а(х, у) (х, ряХ), совпадает с P(t, х, у). В частности, в этом
случае Р(1, х, у) является единственным решением систем уравнений
(4 5) н (4.6), причем матрица А обязана удовлетворять условию
У а(х,	вместо соответствующего неравенства в уело-
V е X
ВИИ Л).
15.4.4. Регулярные процессы. Пусть (£ (/),	Р*) — пеобрываю-
щийся локально регулярный процесс, удовлетворяющий условию (S),
и пусть Р(Т, х, у} —его вероятность перехода. Положим Ti =
=inf ft: E(f) "й f(0)}, причем если £(i) =5(0) при всех t, то по-
лагаем Ti == f-оо. Момент т, называется моментом первого скачка.
Определим теперь последовательность моментов тл формулой
Тя., —Т„ + 6, т., п—1, 2,...,
Л+1 л ’	1’
причем если т*(<а) =• +<», то считаем Т/(<о) « 4-оо при всех J Э» k.
Очевидно, что т„ — момент л-го скачка. Положим т0 = 0 и ==
= |(tn) (п*=0, 1, 2, ,..), При этом, если тл(о) = 4-оо, полагаем
&(«)»=• £й_<(<о). Тогда последовательность {£;«, п = О, 1, 2, ...} об-
разует однородную цепь Маркова. Ее вероятность перехода за один
tuar определяется соотношениями
л (*. у)	всли	х	ч* у и	° W > 0;
Л (х, ж) — 0,	если	а	(х) > 0;
л (х, у)^Ь (х, у),	если	а	(х) =• 0.
Назовем процесс (1(0,	Р*) регулярным, если при всех хеХ
Р* { lim тя == + оо} •= 1.
п->оо
Регулярный процесс имеет лишь конечное число скачков на каж-
дом конечном промежутке времени. Можно показать, что процесс ре-
гулярен тогда и только тогда, когда для всех х Е X
(при этом считаем, что сумма бесконечна, если a (£*) = 0 хотя бад
при одном k). Отсюда вытекают два достаточных условия регулярно-
сти процесса:
1) для регулярности процесса достаточно, чтобы функция а[л|
была ограниченной;
376	— гл ’5- ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ ПВ-4.«
2) для регулярности процесса достаточно, чтобы цепь Маркова
(С„, п = О, 1, ...) была возвратной.
OP
Далее, пусть (0, х, у) ™ а (х, у) (х, ye X). Так как процесс»
(g (/), Я1*, Рх) локально регулярен, то а (х, у) ™ 0. Поэтому
l/е X
функция P{t, х, у) удовлетворяет уравнению Колмогорова. По мат,
рице А = ||а(х, у)|| определим функции Pw(t, х, у) (п — 0, 1,
2, ...) и Р(/, х, у) так, как это было сделано выше. Тогда
р<0) х, у>=рх{ь>^ но=4
Р(п) (0 X, у) = Рх {т„ < t < T„+1, g (/) = у) П = 1, 2,..
Р (f, х. у)^Рх1 Пт т > /, g (/) = Л.
l.n->oo	J
Поэтому если процесс регулярен, то Р(/, х, у) = P(t, х, у) и P(t,
х, у) является единственным решением первой системы уравнений
Колмогорова. Справедливо и обратное утверждение: если первая си-
стема уравнений Колмогорова имеет единственное решение, то про»
цесс регулярен. Кроме того, вероятность перехода регулярного про-
цесса удовлетворяет второй системе уравнений Колмогорова.
Пусть В (X) — пространство всех ограниченных вещественных ,
функций на X. Если в X ввести дискретную токологию, то В(Х) « '
= С(Х), где С(Х) — пространство непрерывных ограниченных функ-
ций на X с вещественными значениями. Для локально регулярного
(сепарабельного) процесса определен характеристический оператор
м =	Ш _ £ а (Х, у) f (у},
у Е X
где )ejB(X). Таким образом, действие оператора И на функцию f
сводится к умножению матрицы А на вектор-столбец f(ij) ((/еХ),
При этом функция %f(x} может оказаться неограниченной. Обозна-
чим = (f: f ез В (X), ЗД е В (X)}. Мы видели, что по матрице А
однозначно восстанавливается процесс до момента первого накопле-
ния скачков, т. е. до момента т)= lim тп. Поэтому характеристи-
П->оо
ческий оператор однозначно определяет процесс (с точностью до
эквивалентности) по крайней мере в двух случаях! I) когда процесс
регулярен; 2) когда он обрывается в момент т]. В первом случае
вероятность перехода является единственным решением первой (и
второй) системы уравнений Колмогорова. Во втором случае вероят-
ность перехода является минимальным решением указанных систем
уравнений. (Разумеется, если ц = +оо, то первый и второй случаи
совпадают.) Заметим, что во втором случае, если г](со) < Ч-°°, то
g(f, со) выходит из всех компактов при t f ч(со). Компактами в X
являются множества, состоящие нз конечного числа точек.
Для того чтобы по заданному характеристическому оператору й
(т. е. по заданной матрице Л, удовлетворяющей условию А) с ра-
венством вместо соответствующего неравенства) построить необры-
вающийся марковский процесс, нужно задать распределения положе-
16.4.5]	15.4. СЧЕТНОЕ МНОЖЕСТВО СОСТОЯНИИ	377
ний пронесся в моменты накопления скачков. Это можно сделать
неоднозначно. Вопросы, связанные с построением марковских процес-
сов, для которых заданный оператор й является характеристическим,
входят в так называемую теорию границ для марковских процессов.
15.4.6. Примеры. 1. Процесс чистого роста. Пусть X состоит
из целых неотрицательных чисел, и пусть задана числовая последо-
вательность а(х) (х «= 0, 1, 2, ...) такая, что 0 < а(х) < оо. По-
ложим а(х, х-р 1) = а(х) (х = 0, 1, 2, ...), а(х, х) ——я(х) и
а(х, У) — 0. если у х+ 1, у ф х. Тем самым задана матрица А,
удовлетворяющая условию А), причем а (х, у) = а (х, х) + а (х,
реХ
х + 1) = 0.
Первая система уравнений Колмогорова имеет вид
&------a(x)P(t,x,y) + a(x)P(t,x+ 1,у),х = 0, 1,2, ...
Запишем вторую систему:
ВР ^’dt в — ° (У) Р (<. х, у) + а(у — l)P(t,x,y — 1), у = 1,2,...
Переходя к преобразованию Лапласа, легко получить
а<*))Пт+Ъо’
xk—x ' k<=x
где фр (*, у) J е pt Р (t, х, у) dt (х, у е= X, х^у, р> 0).
о
Если среди чисел a(fe) нет равных между собой, то P(i, х, у) ~ 0
при у < х, P(t, х, х) = 1 —а при у > х
у)~(п д<*))£-Чтг-’
' к=х ' к=х
где b (k) = (а (г) — а (А)). Это минимальное решение.
т—х
г-£ к
Момент первого накопления скачков £ = lim Tn представляет
П->оо
собой сумму независимых показательно распределенных случайных
величин Т;(»=1, 2, ...), причем Px{Ti > *} =e"“,JC+‘_ )(. По-
этому при всех х е X Р» {С = + °°} = 1 тогда и только тогда, ког-
да расходится ряд V [а (х)]“ ’. Процесс называется процессом
х &Х
линейного роста, если а(х) =хл (х =я 1, 2, ...), % — положительное
число. Очевидно, что процесс линейного роста регулярен, и его ве-
роятности перехода совпадают с минимальным решением уравнения
Колмогорова.
878
ГЛ. 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ
{15.5.1
2. Процессы размножения и гибели. Пусть X такое же, как и в
предыдущем примере. Положим
а(х, у)
— (^х + Дх). если
}.х, если
рх, если
О, если
у = х, № 0, 1, 2,;
у~х + 1, х = 0, I, 2,
у — х— 1, х = 1, 2, ..
|р-х[>1.
Уравнения Колмогорова имеют вид
*~дГ~~ “ “(Ях + Ух) р {t> * * * * * * * х-у} + pj£jP {t> * “ у} +
4- >.ХР (i, х + 1, у), х =0, 1, 2,... (р0 = 0),
----(\+Р U. * У) + Р (*> У - И +
+ Д^+i^ (*. х, у-Р\), р=0, 1,2.... (Д0=Л_1=0)
•—соответственно первая и вторая системы.
В прикладных вопросах важную роль играют так называе-
мые стационарные вероятности, т. е. числа р(х) (хеХ), удовлетво-
ряющие условиям: р(х) °> У, Р W = 1 и Р(У)= У, Р (х) Р (t
х<=Х	хеХ
х, у) при всех у е X и t > 0. Можно показать, что если |ix > О
при х = 1, 2, ..., то необходимым и достаточным условием сущест-
вования стационарного распределения является сходимость ряда
IW--14 •
Если этот ряд сходится, то
р (0) ==
1 + \ _2_»-«х
Если стационарные вероятности существуют, то р(р) =
= lim Р (t, х, у) (у s АГ), каково бы ни было № АГ.
15.5.	Функционалы от марковских процессов
15.5.1.	Мультипликативные функционалы. Пусть (5 (0-91/. Рх)—
марковский процесс в фазовом пространстве (X, ®). Семей-
ство вещественных функций at >= at (<о) (t > 0, ot е fi) называется
однородным мультипликативным фушсционалом, если выполнены ус-
ловия:	_
Ml) at представляет собой ^-измеримую случайную величину
при всех 1^0)
1K.S.2!	1Б.5. ФУНКЦИОНАЛЫ ОТ МАРКОВСКИХ ПРОЦЕССОВ 3f9
М2) при всех t 0 н ft > 0 почти наверное относительно меры
Рх выполнено соотношение
а<+Л = аЛаР
каково бы ни было х е X.
В § 14.3 рассматривались мультипликативные функционалы, удо-
влетворяющие дополнительному условию:
М3) при всех t 0 и х <= X почти наверное относительно Ря
ОСа( С 1.
Если процесс (£(0, Рх) прогрессивно измерим, то примером
мультипликативного функционала может служить семейство величин
а{ = ехр о (g (s)) ds
где о(х) (JteX)—ограниченная измеримая функция с веществен-
ными значениями. Если к тому же v (х)	0 при всех х е X, то at
удовлетворяет также и условию М3).
15.5.2.	Аддитивные функционалы. Семейство случайных величин
Ф/= Ф<(<о) (/> О, щеЛ) называется однородным аддитивным
функционалом от процесса (g (1). Рх). если:
А1) при всех t	0 случайная величина фг йгнзмерима;
А2) прн всех t	0 и h > 0 почти наверное относительно Ря
выполнено соотношение
каково бы ни было хеЛ.
Примером аддитивного функционала является интеграл
t
<р/ = v (| (s)) ds,' t > О,
о
если о(х)—^измеримая ограниченная функция на X, а процесс £(/)
прогрессивно измерим.
Аддитивный функционал ф< (слово «однородный» будем опу-
скать) называется неотрицательным, если при всех 1	0 и х е X
Р«{ф< > 0} = 1.
Два функционала ф* и ф< называются эквивалентными, если при
всех хеА, t 0 Рх{ф/вф4“,‘ Функционал Ф* > 0) назы-
вается непрерывным, если при всех хеХ почти наверное относи-
тельно Рх функции ф/(ш) непрерывны как функции i при фиксиро-
ванном е>. Для непрерывных однородных аддитивных функционалов
при всех хеХ
= Ф<+Й — Ф* при всех t^0 и h > 0} = I.
880 гл 15 ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ (t5.nr
Теорема 1. Пусть фг— неотрицательный непрерывный одно-
родный 'аддитивный функционал от непрерывного справа процесса
(0, 911, Рх). Положим g (t, х) = Mxe-4>t. Тогда при всех х&Х и
t>0
dSt
J Л
о
еде предел понимается в смысле сходимости по вероятности Рх.
Пусть (t), 9^, Рх) ” непрерывный справа марковский процесс
в топологическом фазовом пространстве (X, 8), где 8— о-алгебра
борелевских множеств в X, и пусть <р< — неотрицательный однород-
ный непрерывный аддитивный функционал от этого процесса. Если
f (х) (хеХ) — неотрицательная борелевская 'функция, то положив
t
<p) = $f(£(s))rfq>
о
получим новый функционал такого же типа, что и <р<. Заметим, что
интеграл здесь понимается в смысле Лебега — Стилтьеса. Если функ-
ция f(x) ограничена и непрерывна, то
k
где 0 = So < «I < .' • < s« ~	= s*+i — s*.
15.5.3.	W-функционалы. Непрерывный неотрицательный одно*
родный аддитивный функционал <р называется W-функционалом,
если при всех t Js О
sup М jp, < оо.
хеЛ х ’
Если ф; — Ж-функционал, то при всех натуральных п и t О
sup мя (ф7)" < nt ( sup М
X GE А	х* A	j
Функция
ft (х) = Mx<p/t t > 0, х е X,
называется характеристикой IF-функционала. Можно показать, что
своей характеристикой 117-функционал определяется однозначно,
причем	I
<pf=	f^k(4sk))>
* max As^D »
где 0 = s0 < si < ... < sn = t, hst = s*+i — st, а предел пони-
мается в смысле сходимости в среднеквадратическом по мере Р* при
любом х е X.
Характеристика ^-функционала удовлетворяет условиям!
ТВ.5.3]	15.5. ФУНКЦИОНАЛЫ ОТ МАРКОВСКИХ ПРОЦЕССОВ 381
W1) функция ft(x) при фиксированном t 0 является ©-изме-
римой функцией от х, а при фиксированном х е X она непрерывна
по t и монотонно не убывает; кроме того,
lim (х) = 0, sup (х) < оо;
t¥o 1	хеХ *
V/2) для всех / > О, s > 0 и х еХ
W + MJS (£(/»•
Всякая функция ft(x), удовлетворяющая условиям W1) и W2), на-
зывается W-функцией.
.Следующая теорема содержит необходимое и достаточное усло-
вие для того, чтобы ^-функции соответствовал ТГ'-функционал.
Теорема 2. Пусть X — полное метрическое сепарабельное про-
странство, (I, (0. St;, — непрерывный справа процесс, а функ-
ция ft(x) удовлетворяет условиям WI) и W2). Для того чтобы су-
ществовал W-функционал <f *, для которого
ft (*)==мл,
необходимо и достаточно, чтобы для всех х е X и t > О
t
м« Т S « О»*-*
Простое достаточное условие дает следующая теорема.
Теорема 3. Пусть процесс (g (/), Рл) удовлетворяет ус-
ловиям предыдущей теоремы, a W-функция ft (х) удовлетворяет усло-
вию
lim sup L (х) == 0.
Тогда существует такой W-функционал cpt, что ft (х) = М<ф/, причем
----г— ds.
Ф- = lim \
где предел понимается в смысле среднеквадратической сходимости
по мере Р* при всех х е X.
Пусть теперь ft(x)— произвольная IF-функция Всегда сущест-
вует предел f(x)=* lim (х), возможно равный бесконечности.
t->oo
Если f(x) < оо при х <е X, то f(x) удовлетворяет условиям:
Э1) TJ(x) < f (х) при всех хеХ, t > 0; f(x) 0;
Э2) lim TJ (х) = f (х) при всех х е X.
tW г
Всякую функцию, удовлетворяющую условиям Э1) и Э2), назы-
вают эксцессивной. Если конечная эксцессивная функция f(xf яв-
ляется пределом при if + со характеристики ft (х) некоторого
lV-функционала ф», то существует предел
Ф == lim ф..
882 ГЛ Т5 ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ Цв.5.4
При ЭТОМ
По функции f (х) легко восстановить характеристику IF-функционала
ф/. Именно,
ft W =f (х) — Ttf (х).
Таким образом, если для lF-функционала ф; М существует <р«. и
f (х) = М^Ф^ < оо, то функционал ф, однозначно определяется
функцией f(x). Из теоремы 3 следует, что эксцессивная функция
/ (х) определяет IF-функционал, если
lim sup [f (х) — T.f (х)1 = 0.
15.5.4. Примеры. Рассмотрим некоторые примеры IF-функциона-
лов от винеровского процесса Пусть X — R", где Rm — евклидово
пространство, 0 — о-алгебра борелевских подмножеств Rm. Непре-
рывный однородный марковский процесс с вероятностью перехода
Р (А х. Г) = (2л/) ~m'2 ехр	аУ<1 > °’ х s Ге
г
называется винеровскшл
1. Пусть сначала (£(/)> %. Р*)—одномерный винеровский про-
цесс, Положим
t
/*(*)=$ (2ns)“1/2 ехр	ds. t>0, хеR,
о
где Хо — фиксированная точка из R. Легко проверить, что ft(x)—
^-функция Так как ft (х)	, то, согласно теореме 3, суще-
ствует IF-функционал ф(1 для которого
ft (х) •= Мхф{, t > 0, х е R.
Далее, поскольку h(x)t“* -»-6(х— х0) при 110, где б[х —х0)—
б-функция Дирака (т. е. функция, для которой
J б (х — хс) Л (х) dx = h (х0)
R
при любой /isC(R)), функционал ф* можно символически записать
в виде
t
Фх= 6(g(s) —x0)ds.
о
15 5.41	15 5 ФУНКЦИОНАЛЫ ОТ МАРКОВСКИХ ПРОЦЕССОВ 383
Этот функционал называется локальным временем в точке хй Не-
трудно найти распределение функционала <р*. Оно равно
(а+ | х-х„ [ j/V^F
Р (ф. <а\ =—\ e~u,du, 0 < а < оо, х е R,
х * 5	Vл	J
При а<0 Рх < а) = 0.
Локальное воемя получает приращение лишь в те моменты вре-
мени, в которые процесс |(/) попадает в точку Хо, Можно показать,
что
t
CyU J
где %e (x) — индикатор отрезка [0, е].
2 Пусть теперь fn ^1 н (£ (/), Рж) — вннеровский процесс в
Rm. Положим S = {х; х е Rm (х, v) «= 0}, где v — фиксированный
вектор из Rm с |vl 0, а (х, v)—скалярное произведение в Rm.
Обозначим через г(х) расстояние от х до гиперплоскости S. Легко
проверить, что функция
t
ft (х) я \ (2лз)~ ехр	1 ^s> t 0> хе R01,
удовлетворяет условиям теоремы 3 и, следовательно, существует
V-функционал фс с характеристикой /((х) Он называется локальным
временем на гиперплоскости S. Поскольку	(х) = 6S (х), где
^0
6s (х) определяется соотношением
\ 6S (х) h (х) dx *= j h (х) do
Rm	S
(5.1)
(здесь h — произвольная непрерывная финитная функция, а инте-
грал справа — поверхностный), то функционал (ft естественно запи-
сать в виде
t
Ф4 = es (5 W) d-С.
Его распределение определяется формулой
(a+r(x))/V2t
0
о
Рх	=
•ул
e~uldu,
а>0,
xeRm,
384
ГЛ 15 ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ
пвлг
3. Аналогично можно определить ^-функционал
*
Ф*= J 6S (г))
О
от m-мерного винеровского процесса для сферы S с центром в на-
чале координат радиуса R, Это 1Г-функционал с характеристикой
1
=	(2nT) ~W/2 ехр {—’ ~2х 1
О 8
Здесь второй интеграл — поверхностный. Функционал 6s (х) опреде-
ляется соотношением (5 1), где интеграл справа берется по поверх-
ности сферы S. Функционал <р< называется локальным временем
на сфере S. Если т 3, то существует <р == lim <р,. Функция рас-
пределения случайной величины ф» имеет вид
27?	I । о
-----если х рС /?;
т — 2	1
2/?т~1
(т - 2) ] х |га-2 ’
если | х | > R.

15.6. Преобразования марковских процессов
15.6.1. Преобразование, связанное с мультипликативными функ-
ционалами. Рассмотрим некоторые преобразования марковских про-
цессов. Один тип преобразований уже рассматривался в § 14 3 Он
связан с мультипликативными функционалами от процесса С по-
мощью такого функционала процесс мог быть преобразован в неко-
торый подпроцесс Рассмотрим более подробно такое преобразова-
ние в однородном случае.
Пусть (£(Г), Я/, Р*)—марковский процесс в фазовом простран-
стве (X, Э), и пусть ai — мультипликативный функционал от этого
процесса, т. е. семейство вещественных случайных величин, удовле-
творяющих условиям Ml), М2) (п. 15 51). Если, кроме того,
М„а.<1	(6.1)
A Ь
1&ЗД)	16.6. ЛРБМБРАЗ@»АНИЯ МАРКОВСКИХ ПРОЦЕССОВ 335
при всех it 0, я еХ то формула
?(f, *, Л =M^r ($<*))“<• *>°. Ге», (ВЛЭ
определяет вероятность перехода в (X, ®),
Если функционал -at удовлетворяет условию М3) (п. 15.51), тр
ок удовлетворяет и неравенству (6.1), однако существуют мульти-
пликативные функционалы at, для которых условие М3) не выпол-
няется, тем не менее для них Мх<х( 1 при всех t 0, к е X.
Примеры. 1. Для положительной измеримой функции ,g[x)
(хал) положим
Семейство величин at, определенное таким образом, удовлетворяет
условиям Ml), М2). Оно будет удовлетворять неравенству (6 1) тог-
да л только тогда, когда при всех / > 0, хеХ выполнено неравен-
ство (| (/)) *С£(х), или, что то же самое, Ttg(x)^ g(x). В част-
ности, такому неравенству удовлетворяют эксцессивные функции (см.
п. 15.53). В рассматриваемом примере формула (6.2) приводит к ве-
роятности перехода
? (С х, Г) —	JР <*» *•	S (у).
где P(t, х, Г)—вероятность перехода исходного процесса. Отсюда
получаем формулы для полугруппы операторов ft, соответствующей
преобразованному процессу, инфинитезимального оператора А полу-
группы Tt, ее резольвенты
3=g-1Ag, g~lRKg,
где g обозначает оператор умножения на функцию g(x) (здесь Г/,
A R^ —соответствующие характеристики исходного процесса).
S. Пусть (g (f),	— m-мерщЛ нинерэвский процесс (см.
п. 15.5.4) и пусть g(x) (хетЖт)—измеримая функция со значе-
ниями в кт, для которой при всех х е Rm, 1^0
IS (8 («)) Is ds < оо > = 1.
Положим для t > 1
—ехр (g (£W).	ds
где первый из интегралов под знаком экспоненты — стохастический
интеграл Ито (см, § 192). Легко видеть, что at удовлетворяет усло-
виям Ml), М2) и ле удовлетворяет условию М3). Тем не менее не-
трудно установить, что Мяа( 1 цри всех х a Rm, t >> 0, в, стало
13 В, С, Королюк и др.
386 ГЛ. IS. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ 11Ш
выть, формула (6.2) определяет вероятность перехода в Rffl. Во мно-
гих случаях at обладает тем свойством, что Мл<х4 = 1 при всех
t	0,	хе	Rm.	Для	этого	достаточно,	чтобы	при	всех	t > 0,	хе	R"
(	*	1
М ехр 1 -*	| g (I (s)) I2 ds f < оо.
*	I	2 J	1
Этому	условию	удовлетворяют,	например,	функции,	представимые
в виде суммы ограниченной функции и функции, для которой
1 g (*) l₽ dx < оо
RW
при некотором р > и в случае т > 2; при т — 1 считаем р > 2.
Если функция g представима таким образом, то можно показать, что
вероятность перехода P(t, х, Г) преобразованного процесса абсолют-
но непрерывна относительно меры Лебега в R™ и ее плотность G(t,
х, У) (ОО, х, у е Rm) удовлетворяет следующему интегро-диффе-
ренциальному уравнению:
G (t, х, у) = (2nf)"m/2 ехр	+
t
+ ds ( (2лз)~т/2 ехр {— J* j (£ (2), V*G (t — s, г, у)) dzt
О Rm
где VzG — градиент функции G как функции 2. В частности, если
функция g(z) ограничена и удовлетворяет условию
1я(х) — g(y) KK\x — yf, х, i/sR",
при некоторых положительных постоянных К и а 1, то функция
G(l, х, у) является фундаментальным решением уравнения (t > О,
х е Rm)
du(t, х) 1 . .. . , , , . „ .. ..
---А« (i, *) + (g (*), Vxu (t, x))
(см. также n. 15.7.2, 19,3.5). Здесь Д — оператор Лапласа по пере-
менной х е Rm.
В заключение этого пункта рассмотрим преобразование (6.2) в
том случае, когда функционал at представим в виде е”ф/> где ф« —
конечный неотрицательный аддитивный однородный непрерывный
функционал от стандартного процесса (?(0> 51/, Р*) в полуком-
пакте (X, Й). Введем для X > 0 операторы действующие на
функцию feB(X) по формуле
СО
о
16.6.1]
JB.6. ПРЕОБРАЗОВАНИЯ МАРКОВСКИХ ПРОЦЕССОВ
зет
где интеграл справа понимается в смысле п. 15.5.2. Очевидно, что
|SJ(x)|<Ojl(xW||,
где « * «
сА (*) = J e~w d<pf = % e~Ktft (х) dt,
о	о
fi (к) = М*ф< —характеристика функционала ф/. Таким образом, если
ак(х)<оо, то \г(х) имеет смысл для любой функции
Обозначим через Rx резольвенту исходного процесса, а через Rf.
резольвенту процесса, порождаемого вероятностью перехода
?(/, х, Г) = МхХг<В(0)е-Ч>/,	хеХ, Гей.
Тогда	~
Rbf(*) = RiJ(x) + SbRbf(x), feBW
при всех X > О, х X, для которых (х) < оо.
Если к тому же функционал ф/ таков, что
IIМ-/ня, Чл-* °-
лС=Л
когда t j 0, то при достаточно больших X справедливо соотношение
XI - Л (Л/ - Д) (/ + 5Х),	(6.3)
где I — единичный оператор, а Л, Л — инфинитезимальные операторы
исходного и преобразованного процессов соответственно.	,
Рассмотрим частный случай, когда функционал ф/ является
функционалом интегрального типа, т. с.
t
<Р, = о (ё (>’)) ds,
о
где о(х)—неотрицательная измеримая функция на (X, ©). Предпо-
ложим, что функция о(х) обладает тем свойством, что v-f ег Вц(Х\
для всякой f eBt(X) (определение пространства Во(Х} см. вп. 15.2.2).
Тогда из соотношения (6-3) нетрудно вывести, что D% == £)д и А =
— A— v, где v — оператор умножения на функцию к(Л).
Замечание. Если процесс (£(/), %, Р*) прогрессивно изме-
рим, а функция о(х) (сеА) неотрицательна, то, положив
( * ")
af — exp I — J о (g (s)) ds г, t 0,
найдем, что функция P(t, x, Г), определенная формулой (6.2), будет
удовлетворять интегральному уравнению п. 14.3.1, которое в одно-
родном случае примет вид
t
P(t, х, Г) == Р {#, х, Г) — J Р (s. х, dy) v (у) P(t — s, у. Г) ds.
О X
Здесь P(t, х, Г) —вероятность перехода исходного процесса.
13*
am гл. is. одаоредныЕ mapkobwee птещкееи Ufc&i
13.6.3. Слулвйна» замен» времени. С адджгяннымн функционала»
ми от процесса связано другое. преобразование марковского процесса,
которое называется случайной заменой времени. Опишем вкратце МА
преобразование.
Пу#гь (КО, 91*, ₽*)—строго марковский непрерывный справа
процесс в топологическом пространстве (X, ®), где в'-— а-алгебра бо-
релевских подмножеств X. Предположим, что задан аддитивный од»
нородный непрерывный функционал <р, от этого процесса, удовдетво»
рякицп5 условию
рх {Фе >0}=“1
при всех t >0 и геХ Тогда можно выделить некоторое множеч
ство £2 о: £2 такое, что при всех х еХ Р*(£2) =» 1 и для оеЙ функ-
ция <pi(io) будет непрерывной монотонна возрастающей функцией.
Будем считать, что £2 = £2.
Рассмотрим теперь семейство марковских моментов Т/ (t 0),
которое определяется соотношением
(и) = inf {,«: <₽s (®) >
при t Е {о, С (®)), где g (®) = <Роо (®) “ lim q>/ (<>>)- Положим 1] (/) а*
i t о»
*= rj(f, ы)= Цт;(<й), to) для 1е[О, Цы)) Тогда можно показать,
что набор объектов (ц (/), £,	образует марковский процесс
в фазовом пространстве (X, 8) и с пространством элементарных со-
бытий £2. Говорят, что процесс р) (f), £,	, Рх) получен из про-
цесса (J (О, St* Pjc) случайной заменой времени, отвечающей функ-
ционалу «рг- Можно показать, что если исходный процесс стандартен;
то и преобразованный также будет стандартным.
Предположим теперь, что исходный процесс феллеровский и сто-
хастически непрерывный. Покажем, как можно найти резольвенту
преобразованного процесса, если замена времени произведена с по-
мощью аддитивного функционала —
t
Ф* == ^ « (I (s)) ds,	(6.4)1
о
где о(х) (хеХ)—положительная борелевская функция. Очевидно,
что для f е С (X) имеем (X > 0)
£<ю)	«
J ц~*Ч(Ч(«))<&=м,
о	о
о» f t	"j
= М* $ ехр 4 - Ц п (£ (з)) ds Н (£ (0) с № (0) dt.
Для f, в еВ (X) положим
<2л V, X, f, g) = Mxf (g (/)) ехр | - X J g (6 (a)) ds |
о
15.6.8] lS.fi. ПРЕОБРАЗОВАНИЯ МАРКОВСКИХ ПРОЦЕССОВ 389
где t 0, х е X, Л — положительное число. Функция Q(/, х, f, g)
является единственным решением уравнения
С* (Л X. А £) = J f (у) Р (t, X, dy) —
х
t
— к ds £ Q>, (t — s, у, f, g) g (у) P (s. e, dy).
0 X
Поэтому
oo
^У(х) = K> ft>,v)dt.
о
Отметим связь характеристических операторов исходного и пре-
образованного процессов. Предположим, что процесс (ч (0>	91,^
Р*) получен из процесса (| (t), 91/, Рх) случайной заменой врсс-рги,
отвечающей функционалу <р*. Пусть функционал ф< определен фор-
мулой (6.4) с положительной непрерывной функцией v (х) (х е X),
Обозиачим через Я и Я характеристические операторы соответственно
исходного и преобразованного процессов. Тогда в каждой точке
№ X
в =“ 1°<Х)Г1 W-
15.6.3.	Преобразование фазового пространства. PaccwoipiiM пре-
образования марковских процессов, связанные с преобразованием
фазового пространства. Пусть (£(/), 91/, Р*) — марковский про-
цесс в фазовом пространстве (X, 8) с вероятностью перехода P(t,
х, Г). Пусть у — измеримое ^отображение пространства (X, 8) в из-
меримое пространство (X, 8) такое, что уХ = X, и образ измери-
мого множества при отображении у измерим. Предположим далее,
что для всякого Г ей при любых jr, у Е X, для которых у*' = УУ.
справедливо равенство
p(t, х, у~’Г) = Ра, у, у-1Г), 1>0.
Положим £(/) — yB(f) и обозначим через 91/ минимальную о алгебру
событий, порожденную событиями вида {g(s) е Г} при s t, Г еЭ.
Для A s 91 = определим меры Pv« (А) = Рж (А>. Тогда набор
объектов (| (/), 91/, Рх) образует марковский процесс с вероят-
ностью перехода P(t, Я, Г) <= P(t,^x, у-1 Г), где х — произвольная
точка из множества у~'х, t 0, Гев. Будем говорить, что этот
процесс получен преобразованием фазового пространства у из про-
цесса (§(1), Я/, Рх).
Преобразование у индуцирует отображение у* пространства
ад в пространртво В(Х), определяемое формулой
K*iW—fefi(^), хе-x.
330 ГЛ. ,5- ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ 115.6.4
Если Tt и Tt — полугруппы операторов, соответствующие исход*
ному и преобразованному процессам, а Л и Л — их инфинитезималь*
иые операторы соответственно, то имеют место равенства
у*7/ == Т^у*, у\4 = Лу*,
причем f es Dg тогда и только тогда, когда y*f е Da.
Если X — топологическое пространство, а преобразование у не-
прерывно и открыто (т. е- образ открытого множества есть откры-
тое множество), то феллеровские процессы переходят при преобразо-
вании у в феллеровские.
Пример. Пусть (£(0.	Р*)—одномерный винеровский про-
цесс, а преобразование у действует по формуле ух=|х| (xeR).
Тогда X — [0, оо). Нетрудно проверить, что все требования, нало-
женные на цреобразование у и вероятность перехода, выполняются,
а мы в результате преобразования получаем процесс (t (t), SX> Р*)
в [0, со), который называется винеровским процессом с отражением
в нуле. Его вероятность перехода определяется формулой
Р (/, х, Г) = <2п/) -1/2 J [exp {-	} + ехр
Г
где t ~> 0, ле|0, «>), Г — борелевское подмножество на полуоси
[О, оо).
15.6.4.	Инвариантные процессы. Предположим, что преобразова-
ние у взаимно однозначно отображает X в X. Тогда вероятности
перехода P(t, х, Г) преобразованного процесса связана с вероят-
ностью перехода P(t, х, Г) исходного соотношением P(t, х. Г) =
!«= P(t, у-‘х, у~’Г). Марковский процесс с вероятностью перехода
P(t, х, Г) называется инвариантным относительно преобразования у,
если выполнены условия:
а)	для каждого йеН существует такое й'еЙ, что y£(s, ы)==
*=	«') при всех s 0;
б)	прн всех i > 0, х е/, Г е !8
Р (t, x,Y)—P (t, у-'х, у-’Г).
Определим оператор 6?, отображающий о-алгебру 9U в по-
ложив 0V {£ (0 е Г) = {у| (/) е Г) = {| (0 е у_ ’Г) и потребовав,
Ьтобы сохранял все теоретике-множественные операции. Можно
Показать, что если (£(/), %, Р*)—марковский процесс, инвариант-
ный относительно преобразования у, то при всех А е 91 и х е= X
Рт->х(е/) = Р/Л)-
Легко видеть, что ш-мериый винеровский процесс инвариантен
относительно всех движений евклидова пространства R'n.
Пусть ия(Хц) —шар n R"1 радиуса R с центром в точке Хо- Обо-
значим через тя момент первого выхода винеровского процесса из
шара ия(хц). Тогда из инвариантности винеровского процесса отно-
сительно всех движений легко вывести, что |(тя) по мере РХо имеет
равномерное распределение на сфере, ограничивающей шар ия[Хь).
15.7.11	15 7. ОДНОРОДНЫЕ ДИФФУЗИОННЫЕ ПРОЦЕССЫ 39j
Поэтому
* ®Д(*0)
где S^fx-o)-={(/! У^Кт, |у-х0| = Я},	-
площадь сферы 5Л(х0), а интеграл — поверхностный интеграл по
сфере 5я(Хо). Другими словами, MX)f (g (тд)) есть среднее от функ-
ции f (у) по сфере S«(x0). Далее, нетрудно найти
МЛ = ТГ “ I х “ хо Г)- х е ик (хо>
Таким образом, если Я — харам ерш т ичс< кип оператор /«-мерного
винеровского процесса и [ то
fUf (х„)	J [f (у) - f (х0)] de.
R Sr (*о)
Оператор, стоящий в правой части этого равенства, называется опе-
ратором Бляшке — Привалова.
15.7. Однородные диффузионные процессы
в евклидовых пространствах
15.7.1.	Определение. Пусть R"'—евклидово пространство, 59 —
о-алгебра его борелевских подмиожесш Для х е Rm обозначим че-
рез Дг совокупность всех вещественных функций, каждая из кото-
рых определена и дважды непрерывно дифференцируема в некоторой
окрестности точки х. Непрерывный строго марковский процесс
(I (О» С> Рх) в фазовом пространстве (Rm, 8) называется диф-
фузионным, если при всех х е Rm имеет место включение: Df с=
где И — характеристический оператор процесса. Другими словами, ха-
рактеристический оператор диффузионного процесса определен на
всякой дважды непрерывно дифференцируемой функции в окрестно-
сти точки х е Rm.
Предположим, что в R'" выбран некоторый базис, и пусть х’,
х1, .,., хт — координаты точки х е Rm в этом базисе. Положим для
X, Хо е Rm Atf (х) = (xf — xj) (х1 — х£), А* (х) = х( — xj (1, /' =
= 1, 2,.... m), где xj, х®. .... х™ — координаты точки х0 в выбран-
ном базисе. Функции А0(х) •= 1, А‘(х), А;/(х) (t, /= 1, 2, ..., т)
дважды непрерывно дифференцируемы в окрестности точки х». По-
этому, если Я — характеристический оператор диффузионного про-
цесса (g (1). £, 91ц Рх). то определены функции
bli (х0) =• SIA^ (х0), i, / = 1, 2, ..т,
а1 (х0) = SXA* (х0), I = 1, 2......т,
с (х0) == — ШЛ0 (х0) = — 911 (х0).
392
ГЛ. 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ	[15.7Л
Отсюда легко вывести следующее: если f е Df', то
т	т
Щ (*о) = - У ЬЧ (х0) ^г~Т + Г °' <х°> “Т1 - с
2	дх‘дх’	f—J	дх
К/-1	1=1
Яри этом с(хв) 5* О, а матрица h(x<i) с коэффициентами Ьг/(хо) (/,
j = 1, 2, ..., т) неотрицатепьно определена в том смысле, что
(Ь(хе)в, 6) 5» 0 для всех OeR”
Далее, нетрудно заметить, что при переходе к другому базису
оператор Я будет иметь такой же вид. Поменяются лишь коэффи-
циенты 6v(x0) и Ог(Хо).
Таким образом, если процесс (S (0> t, 9S/, Рх) в (Rm, ®) —
диффузионный, то существуют матричная функция Ь(х), векторная
функция а(х) и неотрицательная числовая функция с(х) такие, что
сужение оператора Я на дважды непрерывно дифференцируемые
функции является эллиптическим дифференциальным оператором вто-
рого порядка указанного выше вида. Функция с(х) называется ко-
эффициентом обрыва, вектор а(х)—вектором переноса, а матрица
А(х) —матрицей диффузии.
Следующая теорема содержит достаточные условия, при выпол-
нении которых процесс будет диффузионным.
Теорема 1 Пусть (£(/). t, 91/, Pr)— непрерывный процесс в
(Rm, SB). Предположим, что для каждой точки х е Rm выполнены
условия:
- 1) существует окрестность Ue точки х такая, что МхТуф < оо,
где Ту, — момент первого выхода из Ut;
2) в некоторой системе координат существуют пределы
lim 4- [1 — Р (/, х, R™)] = е (х),
цо ‘
Jim 4 I (у1 — xf) Р (f, х, dy) = а1 (х), I = I, 2, .... т,
Rm
Нт 4 \ (У* - х') (у1 - х?) Р (/, х, dy) = bt} (х), i, j = I, 2, ..m,
*10* J
Rr>
причем отношения, стоящие под знаком пределов, равномерно огра-
ничены при x=R’, t 0, а функции с(х), а(х) и Ь(х) непрерывны
в точке х.
Тогда процесс (|(/), £, R/, Рх} диффузионный и для него с(х) —
коэффициент обрыва, а(х) = (в*(х), .... а”(х)) —вектор переноса,
б(х) = ||Ьч(х)|| — матрица диффузии.
15.7.2.	Построение диффузионных процессов. Предположим, что
заданы функции с(х), а(х) = (а’(х)..о”(х))	и матрица Ь(х) =*
= ||H(x)|f (Z, / = 1, 2, m, xeR'"). Пусть выполнены условия!
1)	функции о'(х), Ь,!(х) и с(х) ограничены и удовлетворяют ус-
ловию Гёльдера на Rm (функция f(x) удовлетворяет условию Гёль-
дера на Rm, если существуют положительные постоянные А’ и а^1
такие, что
HW-/(ff)KK|x-tf|e, х, fieR”1);
16.T.JJ	1К7. оджягадша диффузионные ппонжсси зм
2)	существует иветояплая р > й такая, что при мех х е R" и
О е R"
(И*) 6.6)= У *Я(я)е^>р|е|2;
*./-1
3)	при всех xeR”1 с(х) > 0.
Теорема 2. Предположим, что на Rm заданы функции с(х),
b (U) и с(х), удовлетворяющие условиям I)—3). Тогда существует
диффузионный процесс U (*)> & Рх) в фазовом пространстве
(Я”, ®). для которого
m	т»
4W-4 £ бЧТ7—Г+Еа/(х)'Фг’ “с (*>'<*>
2 ... дх1дх’ *-> дх'
S,/•»£
еде f е D*, а Я—характеристический оператор процесса (£(/), С.
й», Р*) Соответствующая процессу по tyepynna оставляет инвари-
антным пространство Co(Rm) (Се (Rm) — пространство непрерывных
функций на R"1, стремящихся к нулю при |х] -*•<»). Для любой ог-
раниченной дважды непрерывно дифференцируемой функции f(x)
(х е Rm) функция
«(*,*) = МЛ (5 (0) = Т//(«>
дважды непрерывно дифференцируема по х, дифференцируема по t
и удовлетворяет уравнению
~=*®и, t>0, jcg=Rot
dt
с начальным условием lim и (I, х) = / (х). Для вероятности пере-
t4, о
хода P(t, х, Г) процесса существует плотность G(t, х, у} (t > 0, х,
у е Rm) относительно лебеговой меры в R'4, причем G(t, х, у) яв-
ляется фундаментальным решением уравнения
£-я“-
Доказательство этой теоремы основано на свойствах фундамен-
тальных решений параболических уравнений. В гл. 19 будут рассмо-
трены другие методы построения диффузионных процессов.
Диффузионный процесс называется каноническим, если его век-
тор переноса, матрица дифф) ши и коэффициент обрыва удовлетво-
ряют условиям 1) —3).
15.7.3.	Вероятностные представления решений некоторых диф-
ференциальных уравнений. Пусть (£ (0. ?. Рх) ~ стандартный
непрерывный процесс в полукомпакте (X, ®). Обозначим через 11(D)
(D = X) совокупность всех открытых подмножеств D, имеющих ком-
пактное замыкание. Через тг обозначим момент первого выхода
процесса из множества Г (см. п. 153.1}
Пусть О — открытое в. X множество. Вещественную функцию
1(х), заданную на Ь, назовем- гармонической для процесса- (g (t), &
81/. Рх) на множестве D, если она
а) SB-измерима;
394 ГЛ. 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ {15.7.3
0) ограничена на каждом множестве U eU(D);
®) удовлетворяет условию
при всех xeD, U е= 11(£>).
Следующая теорема дает описание гармонических функций для
непрерывного стандартного процесса.
Теорема 3. Пусть (g(/>, £, К/, Р *)—непрерывный стандарт»
ный процесс* т — момент первого выхода из открытого множества D,
Если ф(х) (х е X) —произвольная ограниченная ^-измеримая функ-
ция, то функция
f(x) = KM>(|(T)). x&D,
является гармонической для процесса на множестве D и для любого
xeD
Hm f (& (0) - <₽ (£ (т)) (л. «- Q* Рх).	(7.1)
t ф 1
Если f (х) (г е £>) является гармонической для процесса на множе-
стве D и удовлетворяет при любом хеО условию (7.1) и неравен-
ству
I fM I < сРх (т < £}
(с — некоторая постоянная), то
/(x)~=Mxlim /(£(/))-
t t т
Пусть теперь D — открытое множество. Обозначим через я" мо-
мент первого после +0 выхода из множества D, т. е.
т' (©) =» inf {s: О < s < £ (to), g (а, о) <£ D}.
Точку х0 границы дО множества D назовем регулярной, если
Рх„ (т' > 0} =• 0.
Следующие две теоремы характеризуют решение задачи Дирихле
для дифференциальных уравнений, связанных с каноническим диф-
фузионным процессом.
Эллиптический дифференциальный оператор, фигурирующий 9
теореме 2, обозначим буквой 8. Он называется производящим диф-
ференциальным оператором диффузионного процесса.
Теорема 4. Пусть (£(0, ?. 9й, Рх)—канонический диффу-
зионный процесс в (Rm, 8) с характеристическим оператором в и
производящим дифференциальным оператором 8. Совокупность веек
функций, гармонических для этого процесса на открытом множества
D, совпадает с множеством всех непрерывных решений уравнения
%f(x)=O, xeD,
в также с множеством всех дважды непрерывно дифференцируемых
функций, удовлетворяющих дифференциальному уравнению
Sf(x)=0, xgD.	(7J2)
Если все точки границы дП множества D регулярны, DUdD — ком-
пакт и функция ф непрерывна на dD, то функция
/(х)=яМхФ(ит)), x&D
15.7.41
18.7. ОДНОРОДНЫЕ ДИФФУЗИОННЫЕ ПРОЦЕССЫ
395
(t — момент первого выхода из D) является единственным решением
дифференциального уравнения (7.2), удовлетворяющим граничному
условию
lim / (х) =Ф (х0), хй s dD.
х->х^
Теорема 5. Пусть (£(/), Е, Sir, Р*) — канонический диффу-
зионный процесс с производящим дифференциальным оператором 8,
D— ограниченное открытое множество с регулярной границей, т —
момент первого выхода из D. Предположим, что заданы непрерывная
функция ф на границе dD множества D и функции о и g на D, удо-
влетворяющие условию Гёльдера, причем v 3? 0.
Тогда функция
т	ft	1
/ (Х) «= j g (g (О) ехр < — ( V (8 (5)) жД dt +
о	I о	J
+ МкФ (£ (т)) ехр о (£ (s)) dsf, xt=D,
’о J
дважды непрерывно дифференцируема на D и является единствен-
ным решением дифференциального уравнения
С/(*) ~ v (х) / (х) == — g (х), xt=D,
удовлетворяющим граничному условию
Um f (х) = ф (*о)> *о е dD.
Х-*Хя
1В.7.4. Пример, показывающий, что существуют непрерывные
марковские процессы, не являющиеся диффузионными. Определим
семейство операторов Tt (t > 0), действующих в пространстве B(R),
по формуле
Ttf (х) = -4=- ехр (-	о Х)-Л f (у) dy +
J -\f2nt I	2t J
oo
4- —7== ( exp (-	[/ (y) - - (- y)] dy,
I 21 J
xeR, fczBiR),
где c—некоторое вещественное число, [c| sg 1. Можно показать, что
семейство операторов {Tt, t > 0} образует полугруппу операторов,
которой соответствует непрерывный марковский процесс^ (<), Рх)
в пространстве (R, 8). При с — 0 это будет винеровский про-
цесс. Если с = 1, то до момента первого попадания на полуось (0,
со) этот процесс ведет себя как винеровский процесс, а после этого
момента — как винеровский процесс с отражением в нуле. Аналогич-
ное описание справедливо и при с = —1. При 0 < |с| <1 получаем
некоторые «промежуточные» процессы.
896
ГЛ. IS ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ fl&tJ
Нетрудно иекбзать, что если функция /(х) дважды непрерывно
дифференцируема я окрестности точки хо#О, Tofe.Dj’H И,г(к0)=я
= (1/2) f (х0), где » —характеристический оператор процесса. Если
же f(x) дважды непрерывно дифференцируема в окрестности точки
х = 0, то при с =5* 0 ) е DSI лишь в том случае, если /'(0) = 0, и
при этом = (1/2)/"(0) Таким образом, рассматриваемый про-
цесс при t G не является диффузионным. Диффузионный характер
движения нарушается в точке х — 0
Рассмотренный процесс является обобщенным диффузионным
процессом в следующем смысле. Положим
а (I. >) = у Мх (g (0 - х) = у J (У - х) Р (t, х, dtf.
R
6(<.х) = -|-Мх(&(П-хГ = 1^(у-х)!Р(1,х,^), f>0. xeR.
R
Тогда для любой непрерывной финитной функции <p(x) (veR)
lim д <р (х) а (1, х) dx = сер (0)
«д-о J
R
Для функции b(t, х) имеем соотношение
hm 6 (t, х) = I
*4.0
при всех х е R, причем | b (1, х) | < К цра всех х е R и i > 0, где
К—некоторая постоянная. Первое из этих соотношений означает,
что «коэффициент переноса» рассматриваемого процесса равен сб(х),
рде б (х) — 6-функция Дирака. Второе соотношение показывает, что
коэффициент диффузии равен единице.
16.8.	Непрерывные процессы на прямой
15.8.1.	Регулярные точки. Тот факт, что прямая R является упо-
рядоченным множеством, позволяет описать все непрерывные строго
марковские процессы со значениями в R,
Пусть (£(/), 9lf, Р*) — непрерывный строго марковский процесс
в некотором интервале А с: R Точка у е А называется достижимой
из точки хе А, если Рх {ty < °°} > 0, где тч — момент первого
достижения точки у (это марковский момент) Обозначим через А*
Совокупность всех тех у е А, которые достижимы из к. Тогда А* —
интервал (замкнутый, открытый или полуоткрытый, конечный или
бесконечный). Точку хе А назовем регулярной, если выполнены
условия.
1)	х является внутренней точкой интервала А*;
2)	существуют такие xJ( Хг е Ах, что Aj < х < х3 и точка х
стижима из точек Xi и хь.
О поведении процесса в регулярной течке можно судить по сле-
дующей теореме
Теорема 1. Если х — регулярная точка, то дм всякого S > О
L j«p Л » > 4=1» рх L	< Ю < 4=к
ч)<а<6	/	*
ЬЬЬ21 1&& НЕПРЕРЫВНЫЕ ПРОЦЕССЫ НА ПРЯМОЙ	ж
15.8.2.	Процессы на замкнутом интервале. Опишем все непрерыв-
ные строго марковские процессы на интервале (а, ₽), предполагая,
что псе точки этого интервала ретулярны, точки аир достижимы
изнутри, а нроизволывая точка хе (а, р) достижима из точек аир.
Обозначим через £ момент первого выхода из множества (а, Р). Тог-
да либо g(£) = а, либо l(t) = Р. Положим т (х) = Рл {£ (£) =« Р).
Теорема 2. Функция т(х) непрерывна, строго монотонно воз*
растает и т(а) = О, m(P) = 1. Процесс {т(£(1 А □) — т(£(0)),
%, Рх} является непрерывным мартингалом с интегрируемым квад*
ратом, характеристика которого представляет собой W-функционал
от процесса (1 (/), 5R/, Рх).
Из этой теоремы следует, что если сделать преобразование фа-
зового пространства при помощи функции tn(x), то мы получим
процесс на отрезке [0, 1], для которого /п(х) = х
Будем считать, что такая замена уже проделана и, следователь-
но, мы рассматриваем процесс на отрезке |0, 11, дли которого
PxU(£) = l} = .v, РИ£Ю=0} = 1-х.
Рассмотрим функцию п (х) = Можно показать, что при
любом А = 1, 2, ... функция ограничена на [О, Ц Нетрудно
проверить, что л (я)—строго выпуклая вверх функция, и если т—•
момент первого выхода из интервала (х0 —е, Л'о + Й) (0 < х0— е<0
<, хв 4- б < I, е, б > 0), та
б	в
Mjti == п (х0) — »(xe — е) — п{хй + б) д_[_6.
Тах как
Л	я
(1 (г)) = f (хи - а) -^+- +1 (хи+ 6) 7ТУ,
и© для характеристического оператора в гочке х0 (0r 1) имеем со*
отношение
Я/ (х0)™
е-1 П (*о — «) ~! (*о)] + Л-1 [f (*о 4- б) — f (х0)]
«-s jjHY *-------------.——	,		1 •
в 4. о. О 4 0 б 1 [я (х0> — п(х0 4- б)} — е [п (х0 — »} — п (x0)J
Заметим, что существует производная н'(х), представляющая
собой убывающую функцию от х Далее, можно покатан,, чю если
функция /(х) абсолютно непрерывна и дня нес существуй 1акая не-
прерывная функция /(/), что
X
г (х) - /' (0) 4- J g (t) dn' (0,	(8.1)
о
то при всех х е (0, 1)
Ш/(х)=—g(x).
Функция g(t), удовлетворяющая соотношению (8.1), является
производной dj'ldn'. Поэтому при те (0, 1)
*W—
398 ГЛ. 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ ПБ.8.3
причем характеристический оператор определен на всех таких функ-
циях f(x), которые абсолютно непрерывны и имеют непрерывную
производную df'ldn', Наконец, заметим, что если процесс обрывается
в момент первого выхода из интервала (0, 1), то его инфинитези-
мальный оператор А определен на всех абсолютно непрерывных
функциях f, для которых df'/dn' непрерывно на [0, 11, a f(0) =»
«= /71) = 0. При этом Af = %f.
15.8.3.	Процессы на интервале регулярности. Пусть (|(0, 91,,
Рх)—непрерывный строго марковский процесс в интервале Дей.
Пусть х е Д — регулярная точка для этого процесса. Положим
« = inf {у. у s Дх, Р# {т% < оо) > 0),
0 = sup {//: у еДх, Ру {т* < со) > 0).
Так как х— регулярная точка, то интервал (а, 0) непуст и содер-
жит х. Он называется интервалом регулярности процесса, содержа-
щим точку х.
Рассмотрим поведение процесса в интервале регулярности («, 0),
предполагая, что точки а и 0 нерегулярны. Для границы а интер-
вала (а, 0) возможны четыре случая:
1)	точка а достижима изнутри интервала и всякая точка
х е (а, 0) достижим л пз точки а; в этом случае точка а назы-
вается регулярной границей,
2)	точка а достижима изнутри, но из нес точки интервала не-
достижимы; в этом случае а называется захватывающей границей',
3)	точка а недостижима изнутри, но из нее достижимы точки
интервала; такая точка называется выпускающей границей',
4)	точка а недостижима изнутри и из нее недостижимы точки
интервала; такая точка называется естественной границей.
Такие же возможности имеются и у граничной точки 0
Пусть а — регулярная граница. Так как точка а не является
регулярной (в смысле данного выше определения), то для нее при
всех у < а, у е Д либо Р {та < оо) = 0, либо Ра {т^ < оо) — 0.
В первом случае а называется недостижимой слева, во втором слу-
чае— непроходимой налево. Непроходимая налево регулярная гра-
ничная точна а называется отражающей границей. Следующая тео-
рема указывает вид инфинитезимального оператора процесса с дву-
мя отражающими границами.
Теорема 3. Если (1). Рх) — процесс на [0, 1], для ко-
торого m(x)t= х и точки 0 и 1 являются отражающими границами
интервала регулярности (0, 1), то во всех точках xe(0, I)
Д/(х)
_ df'(x)
dn' (х) ’
с в граничных точках
Af (0) = lim
efo
f (е) — f (0)
МЛ
Af (1) = lim
eij-o
f(l -e) -f (1)
MiTi-e
При этом Da совпадает co множеством функций, для которых Af
непрерывно.
Далее, если границы интервала (0, I) являются захватываю-
щими, то естественно считать, что процесс обрывается в момснГ
15.8.4]	15.8. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ НА ПРЯМОЙ	399
первого выхода на границу. Поэтому инфинитезимальный оператор
такого процесса будет иметь вид
О-’
причем если )(0)=»/(1) ==0, f(x) абсолютно непрерывна и
dj'ldn’ непрерывна на {0, 1].
Допустим, что границы недостижимы. Тогда процесс всегда
остается внутра интервала регулярности. Можно показать, что су-
ществует строго возрастающая непрерывная гармоническая функция
М(х) (хе (а, ₽)) такая, что любая другая гармоническая функция
g(x) определяется равенством g (х) = CiM (х) + Сг, где ct и Са — по-
стоянные (функция f(x) называется гармонической для процесса
0(0» Рх)> если процесс	9lt, Рх) является мартинга-
лом, т.е, Ttf(x) = Цх)). Преобразование фазового пространства
у == М (х) превращает исходный процесс в новый процесс, опреде-
ленный на (конечном или бесконечном) интервале, для которого
Л4(х)== х. Будем считать, что таксе преобразование уже выполнено
Далее, существует такая выпуклая вверх функция Л'(х), что
при а<х — е<х<х + б<р
Мжт - N (х) - -A-т- N (х - в) - -~Х <х +
С у- U	<5 “Т* ”
где т—момент первого выхода из интервала (х —е, х-рб). Теперь
характеристический оператор процесса на интервале (а, 0) с недо-
стижимыми границами а и ₽ (для которого Af(x) = х) может быть
Записан в виде
яг/ г.л_ df (*)
dN'(x)
для всех точек хе: (а, 0). Поскольку интервал (а, 0) является
локально компактным пространством, то инфинитезимальный опера-
тор процесса может быть определен в результате применения тео-
ремы 3 § 15.3.
Недостижимая граница а называется притягивающей, если для
всякого в > О существует такое б > 0, что при всех хе (а, а 4- б)
Р„ Г Нт £ (Z) = al > 1 — е. Недостижимая граница а называется
отталкивающей, если для всех сс < Xi < х РХ1 {тх < со] = 1.
Теорема 4. Граница а недостижима, если N(+a) ——оо.
При этом, если Af(-J-a) > — оо, то а ~ притягивающая граница-,
если же Л4(4-а) = — оо, го а — отталкивающая граница.
15.8.4.	Нерегулярные точки. Рассмотрим поведение процесса в
нерегулярных точках. Если х — нерегулярная точка, то должно вы-
полняться по крайней мере одно из условий:
1)	при всех у<х Рх (т₽ < оо] = 0 (точна х непроходима на-
лево);
2)	при всех у > х Рх < оо] = 0 (точка х непроходима на-
право) ;
3)	при всех у < х Р {тх < оо] = 0 (точка х недостижима
слева);
4)	при всех у > х Р {т < оо] == 0 (точка х недостижима
справа).	*
400 ТЯ. IS. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ
. -Если точка х иепроуодпмя лалево л направо, то она является
поглощающей и для нее ®f(x) = Af(x) = 0.
Пусть 1) выполнено, а 2) не выполнено (т.е. точка х непрохо-
дима налево, но проходима направо). Тогда, если т8— момент
первого выхода из интервала (х — е, х + в), то т® = тх+е п. и.
Существует монотонная функция g(y) такая, что Mxt®==g(x)--
•“ £ {х + -в). Поэтому в этом случае
а/ (х) = lim  f (Д+-?) 7 У..
е^о £ (х) — £ (х + в)
Аналогично, если 2) выполнено, а 1) не выполнена, то
®/(х) = lim "-тч"" 7 -' {Д .
в*о £<*) — £ (х —в)
т е в обоих этих случаях вычисление характеристического операто-
ра сводится к вычислению односторонней производной от функции
f*(х) по некоторой монотонной функции.
Предположим, что условия 1) и 2) не выполнены. Если вы-
полнено 3), а 4) не выполнено, то х является левой границей ин-
тервала регулярности, и поведение процесса в этом случае рассма-
тривалось выше. Если, наоборот, выполнено 4), но не выполнено 3),
то х — правая граница интервала регулярности
Пусть теперь выполнены условия 3) и 4), но не выполнены 1)
и 2). Тогда, если точка х незадерживающая, то процесс, выйдя из х,
все время будет либо левее точки х, либо правее ее Положим
р = РЛ(Е W > х при всех t > 0),
9 = Рх (5 (0 < х при всех t > 0}.
Для некоторого р > 0 определим функции
t	то) (£ (т₽)), g2(у) - -j-	(*”))-
Функция gi(y) убывает на промежутке [х, х + р], а £г(у) возра-
стает на промежутке [х—р, х]. Характеристический оператор в
точке х имеет вид
тГ.Ми,	plf (» + *) — f (x)J-F g (f (х — в) — H«)l
'V ’ е + о, о f в Р (£1 (4 — £1 (х •+• 4)j + tg2 (х) — £: (х — e)j ’
15.9.	Предельное поведение вероятностей перехода
аргоднческнх марковских процессов
15,9.1.	Эргодичность. Однородный марковский процесс (|(0, ®(,
Рх) в фазовом пространстве (X, 8) называется эргодическим,
если он измерим (это означает, что отображение |(/, о) простран-
ства ([0, оо) X Й, fir^X^) в пространство (X, 8) измеримо) и для
всех х s X предел	*
Мт 4- 5 f (5 (*» Л	(9-1)
1M.JI J5.». ЭРГОДИЧЕСКИЕ МАРКОВСКИЕ ПРОЦЕССЫ 401
существует почти наверное относительно Р*, неслучаен и не зависит
От х, какова бы ни была функция f еВ(Х).
Если процесс эргодичен, то для него существует единственная
стационарная мера л, т е. такая вероятностная мера на (X, 0), что
при веек t ^0, Ге8
Я(Г)=^Р(А х, Г)л(йх).
к
При этом предел в (9.1) может быть записан в виде
lim 4-
/-►оо •
t
Jf(g(a))rfs^J
О	X
f (х) л (dx).
Другими словами, среднее по временя вдоль траекторий процесса
От ограниченной S3 измеримой функции совпадает с ее простран-
ственным средним по стационарной мере.
Теорема 1. Следующие утверждения эквивалентны.
1)	Процесс эргодичен.
2)	При всех х е X, Ге! существует не зависящий ат х предел
t
lim -J- \ Р (s, х. Г) ds,
<->» г J
о
представляющий собой как функции от Г единственную стационар-
ную меру л на (X, S).
3)	Процесс имеет стационарную меру и не имеет ограниченных
гармонических функций, отличных от постоянных (0 измеримая
функция h(x) (хеХ) называется гармонической, если Ttf(x)=* f(x)
при всех f > 0, х е X).
15.9.2.	Предельное поведение вероятностей перехода. Пусть
Stj, Рх) — эргодический марковский процесс в фазовом про-
странстве (X, ®) со стационарной мерой л В этом пункте о-алгеб-
ра 8 считается счетно порожденной Назовем процесс периодиче-
ским, если существуют вещественное число 1	0 и комплексная
8-измернмая функция ф такие, что | ф (г) | = 1 почти всюду относи-
тельно меры л и ф (Е (/)) = ф (£ (0)) Ря-почти наверное
для почти всех t 5s 0. Если процесс периодичен, то среди всех чи-
сел X, удовлетворяющих указанным условиям, существует наимень-
шее положительное число (обозначим его 6), и соответствующая
функция <р допускает представление Ф (х) = ei6r где г(х) —8-лз-
меримая функция, однозначно определяемая из неравенств
0 г(х) 2л/б (здесь я — отношение длины окружности к ее диа-
метру). Число А = 2л/6 называется периодом, а функция г(х) —
функцией сдвига
В периодическом случае, разумеется, вероятность перехода
P(t, х. Г) не имеет предела при t -> <ю, одаако существуют пределы
по некоторым подпоследовательностям,
402 ГЛ. 15. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ [15.98
Теорема 2. Если процесс (£ (Г), 91(, Рх) периодичен с перио-
дом А, то при всех s > 0, хеX, Ге®
lim Р (з + «Д, х, Г) — ( Р (г (у) — г (х) + s + Д, у. Г) л (dy).
Я->оо	J
При этом сходимость равномерна относительно Гей,
Это эквивалентно тому, что меры под злаком предела в левой
части последнего соотношения сходятся к предельной мере по ва-
риации.
Поведение вероятностей перехода в непериодическом случае ха-
рактеризует следующая теорема (напоминаем, что процесс считается
эргодическим).
Теорема 2. Если процесс непериодичен, то
lim \ Р (/, х, dy) f (у) =	(у) л (dy)	(9.2)
t-»oo J	J
для всякой функции [еВ(Х) такой, что процесс f(^(t)) (t 0)’
стохастически непрерывен по отношению к л-почти всем вероят-.
ностям Рх.
Среди непериодических процессов выделим так называемые не-
периодические регулярные процессы. Это те, для которых при неко-
тором t >> 0
j л (dx) qt (х, у) я (dy) > 0,	(9.3)
X X
где qt(x, у) — ® X S-измеримый вариант плотности абсолютно не-
прерывной компоненты меры P(t, х, dy) относительно меры n(dy).
Теорема 3. Для того чтобы при всех х <= X, Г ® выполня-
лось соотношение
lim Р (t, х, Г) = л (Г),	(9.4)
t-»oo
необходимо и достаточно, чтобы процесс был непериодическим регу-
лярным.
В непериодическом регулярном случае сходимость в (9.4) равно-
мерна относительно Ге®, и, стало быть, вероятность перехода не-
периодического регулярного процесса сходится при t -* оо к стацио-
нарной мере по вариации.
Наконец, непериодический процесс назовем непериодическим
сингулярным, если при всех t 0 меры n(dx)P(t, х, dy), заданные
на ®Х®, сингулярны с определенной там же мерой n(dx)n(dy).
Как это следует из теорем 2 н 3, для непериодического сингуляр-
ного процесса существуют множества Ге9 такие, что для них
соотношение (9.4) не выполняется, однако эти процессы удовлетво-
ряют соотношению (9.2).
Пример. Пусть {тп, п Ss 1} — последовательность неотрица-
тельных независимых одинаково распределенных величин с функ-
16.1.1]	16.1. ОПРЕДЕЛЕНИЕ И ОБЩИЕ СВОЙСТВА	403
оо
««ей распределения F{t). Предположим, что среднее а = ( tF {dt}
о
положительно и конечно. Положим
п-l	п	о
если J] т/£ << < V Tft (п=1, 2,...) (считаем
й-1	fc^i
Пусть обозначает минимальную о-алгебру событий, относительно
которой измеримы величины g(s) при sg[0, t], а через Рх, х>0.
обозначим регулярную условную вероятность па а-алгебре 91.. при
условии Ti = х. Тогда (£ (/), 91^, PJ — эргодический марковский
процесс в фазовом пространстве (Л, ®), где X = [О, оо), й) — <т-аи-
teopa борелевских подмножеств X (точнее, возможные значения по-
строенного процесса составляют интервал [0,6], где Ь—точная
верхняя грань тех t> 0, для которых Г(/-]-е)—F{t— е) >0 при
любом е > 0). Стационарная мера л этого процесса абсолютно не-
прерывна с плотностью аг*[1 — г(0] относительно лебеговой меры.
Периодичность построенного процесса означает, что распределе-
ние F решетчато (см. п. 1.4.2); при этом период А совпадает с ма-
ксимальным шагом распределения F; функция сдвига г(х) опреде-
ляется соотношением г(х)=х— пД при хергД, nA-f-Д) (л = 0,
1.2, ...).
Рассматриваемый процесс будет непериодическим регулярным в
том и только том случае, koi/i.'i я-кратиая свертка функции /•' самой
с собой при некотором л 1 несингулярна с мерой Лебега на
[0. ~).
Если же при всех п 1 такие свертки сингулярны с лебеговой
мерой и при этом распределение F нерЛпетчато, то процесс будет
непериодическим сингулярным.
Литература: [18, 19, 27, 28, 29, 36, 53, 90, 107, 114].
Глава 16. ПРОЦЕССЫ С НЕЗАВИСИМЫМИ
ПРИРАЩЕНИЯМИ
16.1. Определение н общие свойства
16.1.1. Определение. Примеры. Будем рассматривать процессы
£(/) со значениями в определенные на некотором конечном или
бесконечном интервале Т. Процесс называется процессом с незави-
симыми приращениями, если для всех /о < ti < ... < t„ из Т слу-
чайные величины
W ММ-Ч'о)’—
независимы. Конечномерные распределения процесса £(1) полностью
Определяются распределениями величин 6(0 {t&T) и 6(h)—6(h)
Р» < h, ti, йе7).
484	гл.'№ ПРОЦЕССЫ С ПРИРАЩЕНИЯМИ	116.1Д
Если Ftf, Л) = Р{М0<=Д),	G(6, fa, Л) = Р{Ш-
— J (fa) е A) to < * з>, те При fa < h < ... < t№
\...../„Их....л„)=р{5(мелР--
4-оо 4-оо
«= $ • • • $ Хл, (*1) Хл2 (*! + *j)— Хлп (*, + • • • + *п) \ (^) X
X G (t^ dxj.. ,G (/n_p tn, dxj.
Обозначим через q>4 (г) s= M exp {Z (г, | (Z))}, ф(ь (г) =,
~= M exp {i (2, J (Z2) - | (/,))} (z e Rm) характеристические функции
значений процесса и его приращений. Тогда совместная характерна
етичевкая функция величии |(Zj), ,,,, |(М определяется формулой/
(W’4-
i ii=i	j
= Ф/, (Z1 + .. • + *„) t/j. t3 + . • • + M	tn (aa\
Функции qp( (z) и (j (z) связаны следующими уравнениями:
1) при tz
Ф/, <2> ’h., G (*> = Ф& №
2) при Zj < tz < Za
Простейшим примером процесса с независимыми приращениями
является произвольная неслучайная функция.
Укажем другой важный пример. Пусть ип и {6ft-} — такие
последовательности независимых в совокупности случайных векторов
из Rm, что ряды	сходятся для любой последовательности
различных натуральных чисел пк (см. § 3 2), a h — произвольная
последовательность вещественных чисел. Положим
мп- Е it+ Г	ti-»
*i<t i^t	_____
Этот процесс обладает следующими свойствами:
1)	он имеет независимые приращения;
2)	при t {Zj, tz, ...} он стохастически непрерывен;
3)	существуют для всех t, пределы по вероятности £ (t, — 0) и
lto + 0) и
Р{I('.)-*О»-0)PU(6 + o)-H^)ffl^}-i;
(1.2)
4)	если |(Z) — сепарабельный процесс (поскольку соотношение
’(1.1) определяет процесс с точностью до стохастической эквивалент,
нести, это всегда можно предположить), то с вероятностью I выбск
16 1.Щ	I6.i. ОПРЕДЕЛЕНИЕ И ОБЩИЕ СВОЙСТВА	405
рочные функции £{/) непрерывны во всех точках, за исключением
точек 4; в точках tj существуют пределы £(А —0) и -f-0), и для
этих пределов также выполнено (1.2).
Процессы вида (1.1) называются дискретными процессами с не-
зависимыми приращениями.
16.1.2.	Разложение Леви. Для всякого процесса с независимыми
приращениями £(/) существует такая неслучайная функция а(/),
определенная на Т и принимающая значения из Rm, что процесс
11(f) =|(0—s(0 обладает следующими свойствами: 1) с вероят-
ностью 1 не имеет разрывов второго рода внутри Т; 2) в каждой
точке имеет пределы по вероятности справа и слева; 3) имеет не
более чем счетное число точек стохастическою разрыва, т.е. точек,
в которых процесс не является стохастически непрерывным.
Функция о(0, обладающая указанными свойствами, называется
центрирующей функцией для процесса с независимыми приращения-
ми. Она определяется неоднозначно' любые две центрирующие функ-
ции отличаются на функцию, не имеющую разрывов второго родя
внутри Г.
Если £(/) —симметричный процесс, то центрирующую функ-
цию можно взять тождественно равной нулю.
Пусть а(0—центрирующая функция для процесса |(0 И
540=6(0—а(1). Обозначим через {tt, ft, ...) множество точек
стохастического разрыва^ (0,	“
•——0). Тогда величины {jJ; Is 1.^ = 1, 2,...} независимы
в совокупности и а(1) можно выбрать таким образом, что процесс
Е &+ Е
tk<t tk<t
является дискретным процессом с независимыми приращениями При
этом процесс 6»(0 = 6»(0 — Ь(0 не зависит от процесса gs(i);
Кроме того, 5а (0 стохастически непрерывен. Таким образом, для
всякого процесса с независимыми приращениями 5(f) можно ука-
зать неслучайную функцию а{1), дискретный процесс с независи-
мыми приращениями |д(<) и стохастически непрерывный процесс О
независимыми приращениями £„(<) такие, что
5(О = «(О + 6дЮ + £н(О.	(1-3)
при этом процессы 5Д(/) и £„(/) независимы. Представление (13)
носит название разложения Леви для процесса с независимыми при-
ращениями. Если центрирующая функция a(t) выбрана, то осталь-
ные компоненты разложения определяются однозначно
16.1.3.	Некоторые неравенства. Пусть §(/) —процесс с независи-
мыми приращениями, для которого М (g (t), z)2 < оо для всех t е Г,
и в(/) = м£(0- Функция я(0 является центрирующей. Обозначим
через B(t) симметричный оператор в Rm, для которого
(B(t)z, г) = М(5 (t)-a(t), zf.
Тогда В (/) — неотрицательный оператор л как функция t не убы-
вает. Поэтому B{i) ограничен на всяком замкнутом справа проме-
жутке, лежащем в Т,
406	ГЛ- 16. ПРОЦЕССЫ С ПРИРАЩЕНИЯМИ	116.2.1
Теорема 1 (обобщение неравенства Колмогорова на процес-
сы с независимыми приращениями). Если £(0 —сепарабельный про-
цесс с независимыми приращениями u [a, Г, то
Р ( sup I МП - а (О I > 4 <	;	(1-4)
Ч е [а, Ь)	f с
m
здесь Sp В — след Оператора В: Sp В s=«	(В^, ek)> г^е (ея' & ~
k “1
= 1.....m} — ба:ю< в R™.
Неранспство (1.4) можно распространить на Т-.
Р {®еРг ' (0 ~ М<») I > с} < -р- ®“ргSp В
На сепарабельные процессы с независимыми приращениями пе-
реносятся и другие неравенства, известные для сумм независимых
случайных величии.
Теорема 2. Если £(/)—симметричный сепарабельный процесс,
то
Р( snp ||(f) |>a<2P{iHb)l>e}.
г* С'- |<1, Ы	f
Теорем а 3 Г<ли при некотором а < I для t с= [а, Ь]
Р{|НО-£(0|>И<«.
то для всех х > О
Pf sup Ц(0| >с + х)<-ГЦ- P{i£ (*)|> X).
Ч е {а, d]	>	1 а
Теорема 4. Если £(/) не имеет разрывов второго рода и
Р {siip||(Z + 0) — £(f —0)| с} == 1, то для всех I и а выполнено
неравенство
М(Л (О <... ______(1 _ ....j£±£Lg______V*
^PfH/XOV 1 - 4Р{||(0| > a} J ’
если только Р {|£ (/) | > с] < 1/4 и |г| < -J-4Р{| £ (О | > д),
a ~j~ с
16.2. Стохастически непрерывные процессы
с независимыми приращениями
16.2.1.	Свойства выборочных функций. 1) Сепарабельный стоха-
стически непрерывный процесс с вероятностью 1 не имеет разрывов
второго рода.
2)	Для того чтобы сепарабельный процесс с независимыми при-
ращениями £(0, определенный на fn, 6], был с вероятностью 1 не-
прерывным, необходимо и достаточно, чтобы для всякого е > 0 вы-
полнялось условие
Пт У P{|^(/nft)-4^-01 >e) = °.
«->" Ы)
где д = /„0< ... <tnn = b и max^-^J-^O при
1Л.8.3]
16 5. СТОХАСТИЧЕСКИ НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
407
3)	Если 5(0—сепарабельный процесс с независимыми прира-
щениями на [а, б], для которого Р {^(Ь) = £(а)} >• 0, то 5(0—с
вероятностью 1 ступенчатая функция, т. е. отрезок [в, 6] может
быть разложен на конечное (случайное) число случайных интерва-
лов, на каждом из которых 5(0 постоянно. Наоборот, если 5(0 —
с вероятностью 1 ступенчатая функция на [а, б], то Р =»
= 5(<0) > 0.
4)	Для того чтобы числовой сепарабельный процесс с независи-
мыми приращениями 5(0 был с вероятностью 1 не убывающим на
[а, М, необходимо и достаточно, чтобы Р{5(b) > 5(я)} = 1.
16.2.2.	Формула Леви — Хинчина. Пусть 5(0—стохастически
непрерывный процесс с независимыми приращениями, определенный
на [а, б], со значениями в R”. Тогда для него существуют:
1) непрерывная функция а{1) (/е[д б{) со значениями в Rm;
2) непрерывная функция В ft) (/s |а, б|), значениями которой
служат симметричные неотрицательные операторы в Rm;
• 3) функция П(/, Л) (/es fa, б]), определенная для всех боре-
левских множеств А из R”* (лежащих на положительном расстоянии
от точки 0) и обладающая свойствами:
а)	П(1, Л) — непрерывная неубывающая функция t\
б)	при фиксированных t е [а, б] она счетно аддитивна по Л;
в)	интеграл
I Л-
—р- П (1, dx) по R” с выкинутой точкой 0
конечен.
Характеристическая функция приращения процесса является без-
гранично делимой (см. п. 5.2.2) и выражается формулой: при
а <: t < s б
М ехр {/ (г, 5 (а) — 5 (#))} =•
= ехр (z, a (s) — а (0) — — ([В (О ~ в (01z. z) +
+ J	(П (я, dx) - П (*, dx))}, (2.1)
которая и носит название формулы Леви — Хинчина. Функции aft),
В ft) и П(1, Л), входящие в формулу Леви — Хинчнна, определяют-
ся однозначно.
16.2.3.	Строение стохастически непрерывного процесса с незави-
симыми приращениями. Пусть процесс 5(0 сепарабелен. Тогда он
нс имеет разрывов второго рода, и, следовательно, число скачков
процесса, превосходящих по модулю е, конечно на каждом замкну-
том конечном интервале t. Обозначим через vft, Л), где А — неко-
торое борелевское множество в Rm, лежащее на положительном рас-
стоянии от точки 0, число скачков процесса 5(«) (скачком в точке s
называется величина 5(s + 0) — 5(s — 0)), происшедших до момен-
та t и попавших во множество Л; v(f, Л) как функция t является
процессом Пуассона, т.е. vft, Л) — стохастически непрерывный про-
цесс с независимыми приращениями, имеющий при каждом t рас-
пределение Пуассона. Прн i фиксированном vft, Л) является пуас-
соновской мерой с независимыми значениями. Это значит, что вы-
полнены следующие условия:
4Ю8	гл. re. процессы с приращениями	ireA>
>) Т (i, U = £ «Ц, Л*), если Л» попарно непересекаю-
\ л /	*
шиеся множества и Ц лежит на положительном расстоянии от,
fc
зечка 0;
2) если А, Аг, ..., At — попарно не пересекающиеся борележ»
екяе множества, тс процессы v(/, Hi), ..., x(t, А) независимы в со-
вокупности.
Функция П(/, Л) = Мт(/, А) является той функцией, которая
входит в формулу	Леви — Хинчгша.	Определим	интегралы1
V xv (I, dx), (	х [v (I, dx) — П (f,	dx}] = lira	( x X
J	J	e-»0	J
(jcJ>i	o<|js|<;i	i<UI<i
X I'v & dx) — Л (/, dx)] (предел в смысле сходимости в средне»
квадратическом). Тогда процесс
£о (0 = Е (0 — ху (Л dx) —	х [v (f, dx) — П (t, dx)]
|х|>1	0<|х1<1
с вероятностью 1 непрерывен и по зависит от v(/, Я).
Пусть ?<,(/)—с вероятностью 1 непрерывный процесс с незави-
симыми приращениями. Тот да £<,(/) имеет гауссовские приращения,
т.е. ^о(б) — |и(/е) имеет нормальное распределение. Характеристи-
ческая функция приращения процесса Jo (0 имеет вид
Мехр {i (г, ЫЛ.)-М'.)» =
= ехр {/ (г, a (Г2) - я (/t)) " у «В (М ~ В (Q) и, z)}, (2.2}
где - М (Jo ((,) - Je ((„)}, (В (О г, 2) « М (Ja (f) - lo (#о) -
— adi, z)2, a tn — минимальная точка в T.
Таким образом, для стохастически непрерывного процесса с не-
зависимыми приращениями |(/) справедливо следующее представле-
ние:
1(0=Ь(Л + J X ]v (/, dx) - П (/, dx)] + J xv(t,dx), (2.9)
)xl<l	|х)>1
где v(I, А) — пуассоновская мера с независимыми значениями по А
н пуассоновский процесс по t, tl(i, А) = Mv(f, А), а jo(f) —непре-
рывный процесс с независимыми гауссовскими приращениями, ха-
рактеристическая функция которых определяется формулой (2.2).
Укажем на некоторые связи между свойствами функций, вхо-
дящих в правую часть формулы Леви — Хинчина, и свойствами вы-
борочных функций процесса.
Теорема 1) Процесс £(1) непрерывен тогда ц только тогда,
когда П(/, /1)е~0 для всех ieT и борелевских множеств ЛсК’1,
2) Пусть значение функции II (/, R'”) = iim П (I, Rm\Ss),
е->0
где Sg — сфера в R'" радиуса е с центром в точке 0. Этот предел
люжет быть и бесконечным. Процесс J(i) будет ступенчатым тогда
и только тогда, когда: a) a(t) постоянно; б) B(t) «0 для всех
teT; в) П (I, Rm) < оо для всех 1еТ,
16.3.11
К.Э. ОДНОРОДНЫЕ ПРОЦЕССЫ
409
3)- Процесс |(/) с вероятностью 1 имеет ограниченную вариа-
цию на отрезке [/о, 0] тогда и только тогда, когда: а) д(1) имеет
ограниченную вариацию на [Л>, /4]; б) B(fi)—В(/о)==0;
в) интеграл | х | (И (tdx) — П (/0, dx)) < оо.
I х
Если 5(0—вариация 5(0 на отрезке [4. 0> т0 W) является
также стохастически непрерывным процессом с независимыми при-
ращениями, характеристическая функция 5(0 имеет вид
Ме«Ч«) = ехр (/) 4- f (ettf*l_ 1) (П (t, dx) — П (fB, dx))).
где у (0 = var a (s) + \ 1 x | (П (/, dx) — IT (/0, dx)) (первое слагав-
И>.#1	, Д,
I л | i
мое справа — вариация a(-) на oiрезке [/о, /]).
4)	Пусть К — некоторый конус в Rm с центром в точке 0. Для
того чтобы 5(0 е К (t&T) с вероятностью 1, необходимо и до-
статочно, чтобы выполнялись условия-, a) a(t)&K при 1еГ;
б) B(t) =0 при teT; в) если ЛПА пусто, то И(/, И) = 0 для
всех i еТ.
5) Пусть 5(0 — процесс со значениями в R. Для того чтобы
5(0 был с вероятностью 1 неубывающей функцией, необходимо и
достаточно, чтобы: а) \ П (t, dx) < со для всех t и функ-
ция а (0 - J П (t, dx) являлась неубывающей: б) 6(0 = О
для всех I: в) П(/, (—оо, 0))= 0 для всех t.
16.3. Однородные процессы. Асимптотические свойства
16.3.1.	Характеристическая функция однородного процесса. Про*
цесс с независимыми приращениями 5(0 называется однородным,
если он определен на [0, оо), 5(0) =0 и распределение
5(<Ч-Л)—5(0 совпадает с распределением 5(Л) для всех ОО и
h > 0. Всякий однородный процесс с независимыми приращениями
5(0>	[0, оо), представим в виде суммы 5(0 = °(0 + 51(0»
где |1(0 — стохастически непрерывный процесс с независимыми при-
ращениями; а(0 — неслучайная функция, удовлетворяющая усло-
вию: при всех h > О, I > 0 a(i + й) = «(0 + ° (й) -
Еслн 5(0—однородный стохастически непрерывный процесс с
независимыми приращениями в R"1, то его характеристическая функ-
ция имеет вид
Ме<(гЛО==ехр
fh(z, й)-1(Яг,г) +
•ф ( (е,1г-ж)-)^(г, x))H(dx)+ $ (еЦг-- 1)Л (dx)l|,
|м1<1	Ixlot	-U
(3.1)
410
ГЛ. 16. ПРОЦЕССЫ с прираШенйямп
116.3.2
где а е . В — симметричный неотрицательный оператор в
П — мера в R”, для которой	/
П (dx) < оо и П ({0}) = 0.
1 + (х, х)
В силу однородности процесса правая часть (3,1) является так-
же характеристической функцией приращения g(f + ft)—|(й) прй -
Любом ft > 0. Как видно m формулы (31), величина
К (г) =у 1пМе|(г-*(/»
не зависит от t. Она называется кумулянтой однородного процесса
с независимыми приращениями. Кумулянта процесса определяет все
его конечномерные распределения.
16.3.2.	Локальные свойства одномерных процессов. В этом пунк-
те предполагается, что Е(0 — однородный процесс в R. Характери-
стическая функция процесса имеет вид
(/) х= ехр ЬаЛ - ~~ + (е1Кх - 1 - Их) П {dx) +
* L	ixi<i
+	(еа*-1)П(^)Ц. (3.2)
|*1>1
Будем изучать поведение |(/) при 11 0.
1)	Если хотя бы одна из величин lim ~т | (О, lim тНО ко-
U0 * ЦГо'
иечна с положительной вероятностью, то %{t) имеет с вероятностью!
ограниченную вариацию на каждом конечном отрезке, и, следова-
тельно (см. п. 16.2.3, 3)), 6 = 0 и J |x|II(dx)<oo. В этом
I х |< I
случае	j
Р | lim 4 НО = а - ЬП (dx)? = 1.
t	J	)
2)	Если выполнено одно из условий:
а) b > 0, б) | х | П (dx) = 4- оо, то
“1
Р f Пт 4 НО = + °°1 = Р (lim 4 Е (0 *= — 001 — !•
«40 *	> ЦуБ ‘	J
3)	Р |шп (д/2/,п 1п у) * НО = V& J =
= Р |11т (д/2*ln 1п у) $ W “ — V&| => 1
^локальный закон повторного логарифма).
ie.3.2]
1в.З. ОДНОРОДНЫЕ ПРОЦЕССЫ
411
4) Пусть h(t) — неубывающий процесс с кумулянтой
СО
К (г) = (eistx — 1) П (dx)
о
и g(x) — неубывающая функция, определенная при и удовле-
творяющая условиям: 1) g(0) = 0; 2) g(x-f-g) <g(x) 4-g(g)
(функция g полуаддитивна). Тогда
J g (х) П (dx) < со, то
о
Ol — 1;
б) если I g (х) П (dx) = 4-оо, то
11=0.
Phim -----1---- + M=.l,
(**o	J
5) Пусть <p(f) возрастает на [0, 1] н
..	1 ф(«0
lim sup
и ф 1 t I <P W
Предположим, что £(/) — такой однородный процесс с независимы-
ми приращениями, что для всякого е > О
sup Р {£ </) < — е<р (t)} < 1.
0< t < 1
Тогда
в)
если
j у Р {& (0 > Ч> W) dt < оо, то
о
pfc-ЧЙ-
4 о <Р («)
в)
если
j 4р к ю > «1dt +с°- ™
о
ррщ >1
Ь + о <р (*)
ИЯ 1,
p(„m ХД!21
114 о »
6) Пусть g(f)—устойчивый однородный процесс с независимы-
ми приращениями, кумулянта которого имеет вид
К (2) — “ С | Z |“ (1 --pfj ® («. «))»
412
ГЛ. 1В. ПРОЦЕССЫ С ПРИРАЩЕНИЯМИ
ГНЗ-ЗЯ
где о (z, а) = tg -g- а при а s (t, 2), о (z, а) = — In | z | при а = 1.
Этот процесс имеет только отрицательные скачки. Положим
Ф (<)=а^(а— l)“_,|cos ~а| fs'“|jn In-~-Ja
при а е (1, Й).
2с/ . 1	,
Ф (/) = In у при а == 1.
Тогда
PfIirn ем _а_.
| 2 Um —ттг =11=1
It^o ф (О f
7) Пусть £(/)—устойчивый монотонный процесс с кумулянтой
К(г)=> — с |г|“ (1 — ~ tg~ 0<a<L
Тогда
16.3.3. Поведение одномерных процессов при t-roo. Здесь ио
пользуются обозначения предыдущего пункта
1. Усиленный закон больших чисел. 1) Если суще-
ствует №£(/) — у/, то
“1	Оо
Г t (Л 1	f	с
-=?<.== 1,у==д + \ xll Ык) + \ Л'П (dx).
-00	1
— 1	ОО
S) Пусть xll (dx) > — оо, xll (dx) = + оо. Тогда
— оо	1
Р J Jim -у- & (/) = + ool = 1.
If -> оо *	1
-1	оо
8) Пусть J хП (dx) = — оо, хЛ (dx) < + во. Тогда
—со	1
Р
П-Условия ограниченности процесса па [0, оо).
1J Если существует М|(0 < 0, то
Р {sup § (1) < ooj = 1, Р {inf £ (t) = — ooj = 1.
ie.3.4
ИЗ ОДНОРОДНЫЕ ПРОЦЕССЫ
«•
2) Если М| (Л > 0, то
Р {sup g (/)«= + 00} — 1, Р {inf £ (Л > — оо} = 1.
8) Если MS, (Д) »= 0 и $ (Л ф б тождественно, то
Р {sup g (Л = + «=} - Р {inf g (Л = “ <»} -1.
4) Для того чтобы Р {sup g (Л < + °°}= 1> необходимо и Зо«
статочно, чтобы
ОО
(Л >0)d/<oo.
О
Б) Для того чтобы Р {mi £ (Л > — °0} = 1» необходимо и до-
статочно, чтобы
00
у ₽ U (Л < 0} dt < со.
о
IH. Пусть §(Л —неубывающий. процесс с кумулянтой
ОО
К (г) = } (е1гх - i) П (dx),
о
я g(x)—неубывающая функция, для которой g(v + у) g(x) 4»
+ в(у) при х > 0. у > О
1)	Если J g (х) П (dx) < оо, то
I
Р У lira 4 s (& (Л) = el; = 1-
-> ОО *	J
оо
2)	Если g (х) П (dx) = + оо, то
1
р У Him 4^ W = + °°1 = 1.
со *	J
IV Закен повторного л о г а р н ф м а. Пусть Mg (f^O К
Dg (Л < со. Тогда Dg (i) = tc, еде с = Ь + *®П (dx), и
„Г— КЛ Л	1(Л ,I_i
р 2 Ит —----- ’ — == ] i _ р j нт —।	— == — 1 V = *•
-»оо Y2cf In in t J	V2d in inf J
414
ГЛ. 16. ПРОЦЕССЫ С ПРИРАЩЕНИЯМИ
НМЛ
16.4.	Функционалы от процессов
с независимыми приращениями
16.4.1.	Интегро-дифференциальное уравнение процесса. Пусть
| (0 — процесс с независимыми приращениями на [/о, М со значе<
ниями в Rm, характеристическая функция которого имеет вид
М exp U (г, £ (t))] «= схр {& (s), z) — -1 (в (s) z, г) 4-
+ \ (е,(г>х) —l-/(z,x))fi(s, dx) +
|*R1
+ (ef'*•*>-1) П (s, dx)]ds|, (4.1)
|х|>1	'
где &(s) е Rm, В (з)—симметричный неотрицательный оператор в
R1", П(з, Л) — мера в R"1, для которой
J | х |2 И (s, dx) < оо при s s [/0, / J.
|х|<1
Характеристическую функцию процесса можно записать в виде
(4.1), если функции a(t), В((), TI(t, А), входящие в формулу (2.1),
абсолютно непрерывны по t Предположим, что &(t), B(t), 11(1, Л)'
и | х Р П (/, dx) непрерывны по I. Тогда функция
|х|<1
Mf (х + g (0) = и {t, х)
удовлетворяет следующему интегро-дифференциальному уравнению
при t е= [?о, /j];
ди (f, х) ..... rt	....
—+ Ltu (t, х) = О	(4.2)
и граничному условию lim и (/, х) — f (х), какова бы ни была два-
жды непрерывно дифференцируемая функция f с ограниченными
производными; здесь
т	т
Ltu (/, X) = У (О 4-1 У Я (0	+
2	дх1дк*
[m	-|
f (X + y)-i (x) - У -^1 у1 ft (t, dx) +
+ \ tf(* + y)-f(x)]ft(f, dx); (4.3)
ur>i
16.4.2]
16.4. ФУНКЦИОНАЛЫ ОТ ПРОЦЕССОВ
416
<?, х* — координаты векторов й и х; — элементы матрицы опера
тора В в некотором ортонормированием базисе в R".
Оператор Lt можно использовать и при вычислении распределе
внй функционалов интегрального вида. Пусть
г>
Ф (Г, х) = J g (s, I (з) -1 (0 + х) ds,
t
(4 4,
где g(s, х) — непрерывная ограниченная дважды непрерывно диф
ференцируемая по х с ограниченными производными функция, и
x) = M^,w.
Тогда (Л л) удовлетворяет интегро-днфференциальиому уравне-
нию
— (#. х) + LtvK (t, X) + kg it. *)	(t, X) = 0	(4.5)
и граничному условию lim v. (/, x) = 1.
t4 tt
Если функция (f, x) найдена, то
( t,	т
M ехр < к J g (s, g (s)) ds ? « vK (f0, 0).
' fo	'
16.4.2.	Одномерные однородные процессы с отрицательными
скачками. Пусть £(/) — одномерный однородный процесс с куму
ляитой
-1	о
К(2) = |уг-~+ (ви* - 1)П (dx) + (eUx-l-fex)П (dx).
— со	—I
(4.6)
т.е. t,(t) может иметь лишь отрицательные скачки. Если
-I
у + J хП (dx) >0, то Р {sup £ (!) == + «>} = 1. Значит, процесс
— СО
не ограничен сверху и величина
та= inf [/: g (t) > о]
с вероятностью 1 конечна. В силу отсутствия положительных скач-
ков |(та) = а. Величина тй называется моментом первого достиже-
ния уровня а (моментом первого прохождения через уровень я),
ти — марковский моменг для процесса £(/) (см. п. 14.2.4). Укажем
некоторые свойства т,.
1) Момент То как функция а является однородным процессом
с независимыми приращениями. Этот процесс с вероятностью 1 не
убывает.
«•
ГЛ. №. ПРОЦЕССЫ С ПРИРАЩЕНИЯМИ
Ы6.4.8
2) Обозначим
К+ («) = 4Z
Ъг9
2
-1	о
+	(«гх—l)n(rf«)4-^ (в** — 1—zx)П (d*),
-00	-I
-А	(4‘7)
Ф (X) = JL in Me Лг°, х>о.
Тогда является единственным корнем уравнения
К+(-4(А))«Л.
Заметим, что при Кег>0 существует	Эта функция ана-
литична, и	>
мЛ^Л1”.
Функция ф(Х) аналитична при Rel > О, и
1кт
Me “ = е
3)	Укажем на связь между распределениями процесса £(/) К
ВеЛИЧИНЫ Та!
*	х
д- $ Р {*гг < 4 dy - — »Avр W <
о	о
Предположим, что !j(s) имеет плотность распределения fj (а, х) >ж
= -—Р {£ (s) < х}. Тогда и величина то имеет плотность ft (a, s) «•
ах
Р {тй < s} и f т (а's>= "7
4)	Зная распределение тй, можем найти распределение макси-
мума процесса.
Р ( sup 5 (0 < <Л = Р (та > Г}.
16.4.3.	Распределение максимума и минимума однородного про-
цесса. Пусть £(0 —одномерный однородный процесс, F (t,x) —функ»
ция распределения g(f). Обозначим
Q+ (f, х)«» Р / sup £ (s) < xl
j’
то	то
<+ (Л» *) — л j е~и Q+ ft *) dt,	(Л, г) = j eigx ft. «)•
С	— оо

1вЛ. ФУНКЦИОНАЛЫ ОТ ПРОЦЕССОВ
417
Тогда
goa	ч
р~М Г	I
-г- \ (elzx - l) rf F (t, x)dt>.
• J	**	I
0	J
Обозначим далее
Q-(U) = P/ Inf E(s)<4.
OO	00
(X, x) - X J e“wQ_ (/, x) dt, Q- (fc, z) — J еш dxq- (X. x).
0	—oo
Тогда
(K, z) ~ exp
°	у
I (etsx— l)dxF(f. x)dxk
и
16.4.4.	Распределение момента я величины перескока. Введем
величины: при а > О
тв— Inf [ft & (О > а], Уа= £ (та + 0) — а,
величина то называется моментом первого перескока через уровень а,
уя— величиной перескока. Если supg(f)^o. считаем та = -|-оо, уа
в этом случае не определено. Положим
П (dy) (х > 0),
X
где П — мера, входящая в характеристическую функцию процесса
|(f) (см. формулу (31)). Тогда совместное преобразование Лапласа
величин та и уа определяется соотношением
1 - q+ (X, fl) —
J | J I J e-WZjM («+? — «“») p<MX. a)?	(Л, v)
0 ^-*oo H>	J	'
x) определены в п 164 3).
Совместное распределение величин то в уо задается формулой!
при у > О
rt
М (а + у — a) dnQ+ (/, и) +
о
а (
М (а + у —z
О —оо
J V — s, и) dsQ- (s, г),
о
14 В. С. Королюк и др.
418	ГЛ 16 ПРОЦЕССЫ С ПРИРАЩЕНИЯМИ	|16Л5
Если а <; о, Та = inf П: £(/) < о], уе = £(т« + 0) — а, то совмест-
ное преобразование Лапласа величин то и ув определяется фор-
мулой
Me~M«4lVa = 9_ (X, а) —
“X Ш I J e'lt>N + № « “ n) I “) I **)’
a ®~o L_oo	J	J
где /V (z) = П (dz) для z < 0.
— oc
Совместное распределение этих величин можно записать таи:
при у < о
о
Р {ta < t, уо < у} = J N (а + у - «)	(*+«) +
а
О со	i
+ JV (а -ь у — z — й) »/2 duQ- (t — s, и) dsQ_ (s, z).
a 0	И
16.4.5.	Совместное распределение supremum’a, infimum’a и зна-
чения процесса. Положим для а < 0 < b, (а, 0) с: (а, Ь)
О «Л a, ft; а, ₽) = Р f inf g (s) > a, sup £ (s) < ft, g (f) e= (a, ₽))
Г (x, dt, dy) = P {t* e dt, yx e dy}',
при x > о эта мера no dy сосредоточена на [0, оо), при х < 0 — на
(—00 > 0).
Рассмотрим также преобразования Лапласа по t этих функций:
ОО
(х, Л) = e~Mr (X, dt, Л),
О
оо
q (X; a, ft; a, ₽) = Q (f; a, b; a, ₽) е~м dt.
о
Пусть далее
СО
гх (Л) = е-мР {| (/) е ?!} di.
о
Заметим, что функцию Г'*'* (х, Л) можно определить, используя ре-
зультаты предыдущего пункта При х > 0, у > 0
х о
(*> (у, «>)) — 4- 1 \ М (х + у — и — о) dq (Л, и} dq. (X, о),
Л J J	—	т
0 —со
16.4.61	16 4 ФУНКЦИОНАЛЫ ОТ ПРОЦЕССОВ
419
iW (х, (-оо,
а при х < 0, у < О
О оо
J ^(x + jf-и — v$dq^ (Л, a) dq_ (к, о).
х о
Для х е [&, оо) положим
Gw(x, Л) - $ 1<м (а - b - х, dy) Г(х> (b - а - у, Л-ь),
где А-ь — (х: х 4- Ь «= Л}. Для х е (—оо, о] положим
G(M (х, 4) = J 1<« (Ь - а - х, dy) (а - Ь - у, Л+в).
Лю = A_|fl|. Наконец, при а < х < b полагаем G^(x, Л) =0. Пусть
далее
(м, х, Л) = Хд (*) + X gfc $ • •' $ G<W <*• dJti> ' • • cW(xfe-V Л> •
fe"«l
Тогда
q (Л; a, b, a, ₽)== ^((o, p)) - J J (rw (a, dy) + Г'л' (b, dy)) X
X (1, y, dx) rK ((a - x, p - x)) +
+ J 5 5 diJ^ (1, V' dz) Г'М (a ~~ b " Z' dK} +
+ T(Z) (a, dy) (1, y, dx) Vм (b — a — z, Jx)] ((a - x, p — x)).
Рассмотрим также совместное распределение значения процесса
и его supremum’a. Если 0 < х а, то
Р {sup Б (s) < a, g (#) < х| =и
t ОО
= Р {£ (0 < х} + Jr (a. dsf dy) P {g (/ — s) < x — a — yl;
о a
если же 0 < a < x, то
P ^sup g (s) < a, g (t) < xj = Q+ (t, a).
16.4.6. Распределение supremum’a процесса на бесконечном про-
ОО
межутке. Предположим, что (Р {£ (0 > 0} dt < оо, и, следе»
о
вательно (см. § 3.3), Р {sup g (1) < ooj = 1,
14*
и
420	ГЛ. 16. ПРОЦЕССЫ С ПРИРАЩЕНИЯМИ	I16.B.I
Тогда
«	-оо	ев
J в*22 dxP {sup £(/)<*} = «Г П 4 J С®*3* “ axF ('’ X) d4’
0	*0	0	j
где F (t, x) = P{£ (0 < x].
Рассмотрим случай, когда кумулянта процесса имеет вид (4.6),
т.е. процесс имеет лишь отрицательные скачки. Тогда
P{sup g (/)<*} = 1-е-ftx,
где k — положительный корень уравнения К+(&)—(), К+(г) за-
дается равенством (4.7).
16.5. Процесс Пуассона
16.5.1.	Определение однородного процесса Пуассона. Однородный
процесс с независимыми приращениями g(4) называется однородный
процессом Пуассона, если £(/) имеет распределение Пуассона. Тогда
существует такое а > 0, что для всех k 0
Р {£ (Л) = 41 = Р {|(( + А) - НО = М = e-ah. (S.1)
Характеристическая функция процесса Пуассона имеет вид
q> (t, z) = Ме12^ = exp {at [eiz — 1]}.
Укажем одну общую ситуацию, когда явления описываются с
помощью процесса Пуассона.
Пусть в некотором эксперименте наблюдаются появления неко-
торых событий. Если 1) число событий, которые произошли на про-
межутке времени [£, t + /г], не зависит от того, сколько и когда про-
изошло событий в промежутке (0,	2) вероятность того, что на
промежутке [i, i + fi] произойдет одно событие, равна сй-|-о(й);,
3) вероятность того, что иа промежутке [<, t + /г] произойдет более’
одного события, равна о (Л), то величина g(f), равная числу собы-
тий, которые произошли на промежутке [0, f], как функция t будет
процессом Пуассона.
Всякий однородный ступенчатый процесс с независимыми при-
ращениями, все скачки которого равны 1, является процессом Пуас-
сона.	•
16.5.2.	Некоторые свойства процесса Пуассона. Рассмотрим не-
которые свойства процесса gv (f) = ft 4- g (0, где £ (/)—процесс
Пуассона с распределениями, задаваемыми формулой (5 1).
1)	Если у +а > О, то
Р {sup (/) = -г ooj = Р {inf gY (/) > — coj = 1;
если у + а < 0, то
Р {sup gv (I) < + ««j *= Р {inf <0 == —	™ 1:
16.5.8]
16.5. ПРОЦЕСС ПУАССОНА
431
если у + п = 9, то
t Р {sup и + ooj = Р {inf gv {0 = — оо} =» 1.
2)	Пусть у < 0, у 4- а > 0. Тогда для х < 0
P{inf Ev(f) <х} = еЧ	(5.2)
где k — положительный корень уравнения
а (е-к — 1) — fty == 0.	(5.3)
3)	Пусть у < 0, у + а < 0. Тогда для х > 0
Р{snpi¥(0>х| = 1 -(НЛ)£ £z*L(
А-0
(5.4)
где [х] — целая часть х.
4)	Предположим, что с < б < d. Обозначим через р(с, d) ве-
роятность того, что процесс (/) достигнет уровня с раньше, чем
попадет в интервал (а, со). Тогда при у < О
W
А-0
/	[Л-с]	\-t
X(e“c/V Е (7)fcj^e*e/V(tf-r“*)ft) : (5S)
'	k-D	'
здесь И — целая часть к.
16.5.8.	Неоднородный процесс Пуассона. Это стохастически
непрерывный процесс с независимыми приращениями £(/), для кото-
рого приращения £(/-[-Л)—£(/) имеют распределения Пуассона.
Для такого процесса существует неубывающая функция off) такая,
что
Р {g (I 4- fi) — | (f) = fe} =	h}~ a e~ta «+«-»«».
(5.6)
Процесс Пуассона описывает чи<.ло появлений некоторых слу<
чайных событий, если выполнены условия:
1)	в каждом конечном промежутке происходит с вероятностью 1
конечное число событий;
2)	число появлений событий на непересекающихся промежутках
независимо;
3)	вероятность появления хотя бы одного события на некотором
интервале стремится к нулю, если длина интервала стремится к
нулю;
4)	вероятность появления одновременно двух и более событий
равна нулю.
Если выполнены эти условия и £(/) обозначает число событий,
появившихся на промежутке [io, i], то g(f)—процесс Пуассона.
422
ГЛ. 16. ПРОЦЕССЫ с. ПРИРАЩЕНИЯМИ

Если функция «(/), входящая в формулу (5.6), строго моно-
тонна, то процесс простым преобразованием можно превратить в од-
нородный. Пусть g(0 определен на [/о, сю] и a (to) = 0. Обозначим
через X(t) функцию, обратную к а (/): а (!(/)) = t. Функция 1(0
определена на полуинтервале [0, а(-|-оо)). Пусть 51(0=5(1(0).
Тогда при 0^/</4-Л< «(+«>)
р {&! (/ + й) - 5. (0 = k} = Р {5 (Л (t + Л)) - 5 (Л (0) = А} =
=	ехр { _ [й (A (/ 4- /;)) - а (Л (/))]} - ;
Таким образом, 5* (0 — однородный пуассоновский процесс с
параметром 1. Указанное преобразование позволяет сводить решение
многих задач для общего процесса Пуассона к решению задач длй
однородного процесса.
. 16.6. Винеровский процесс
16.6.1. Определение и некоторые свойства. Винеровским процес-
сом в Rm называется однородный процесс с независимыми прираще-
ниями, для которого 5(0 имеет гауссовское распределение с плот-
ностью
Pt W = (2nt) “га/2 ехр |	.	(6.1)
Этот процесс также называется tn-мерным еинеровским процессом.
Характеристическая функция процесса имеет вид
<р# (z) = М ехр {/ (z, 5 (/))} =	,z'г)/а.
• Отметим некоторые свойства многомерного винеровского пропела.
1)	Сепарабельный винеровский процесс с вероятностью 1 непре-
рывен.
2)	Локальный закон повторного логарифма:
г(^	L(f)_--------)	UP
|^o V2t In in l/t J (tVo In In I ft
8)	Закон повторного логарифма:
-y2t In In t
(6-2)
= 1.
Л_рГ11т ЪЮ _ .
f	V2t In In t
4)	Если размерность пространства т 3, то
Р
при этом для всех 1 > 1
tin	1/2	Т
lim ^'.1.----jnf |5(0l“+~l = l.
лГГ	*>*	1
1&6.2J	16.6. ВИНЕРОВСКИЙ ПРОЦЕСС	423
5)	Если zeRBi и |г[ — 1, то процесс (г, £(/))= |г(0 является
одномерным винеровским процессом. Пусть далее {в|, ... ет} — ор-
тонормированный базис в Rm. Тогда процессы L, (f), ..., L, (О'”
1	t?i
независимые между собой одномерные винеровские процессы.
6)	Пусть seR”1, С —линейный оператор в Rm, Е(/) — m-мер-
ный винеровский процесс. Тогда
Е, (0-to 4-eg (о	(6.3)
является однородным гауссовским процессом с независимыми при-
ращениями. Характеристическая функция его имеет вид
Me* («, £ (О) = exp	(г, а) —{Bz, z)|,	(6.4)
где В = СС* (С* — оператор, сопряженный к С). Всякий гауссов-
ский однородный процесс с независимыми приращениями (его ха-
рактеристическая функция обязательно имеет вид (6.4)) представим
в виде (6.3); в качестве С можно взять оператор В,/! (положи-
тельный квадратный корень из неотрицательного оператора). По-
этому для всякого гауссовского однородного процесса с независи-
мыми приращениями |«(0 существуют такие векторы a, et, е», ...
..., ет и независимые однородные вниеровские процессы ...
wm{t) и числа pi, .... pm, что
|1 (/) =» ta + У (0 eft.	(6.5)
В качестве векторов ек можно взять собственные векторы операто-
ра В, Pfe=V(Beft-eftK
16.6.2. Метод дифференциальных уравнений. Пусть Е(0 — мер-
ный винеровский процесс. Обозначим через Л оператор Лапласа
в Rm:
т
Ед2и
-------7-
_ № )’ ’
где х1, .... х‘п — координаты точки х в фиксированном ортонор ми-
рованном базисе в Rm.
Теорема 1. Функция Mf(x +Е(0) = «(Л *), еде f— непре-
рывная ограниченная функция, удовлетворяет параболическому урав-
нению
ди (I, х) 1 . ,, .
-f- = ?A«(U)
с начальным условием
lim и {t, х) (х).
f*o
Теорема 2. Пусть g(x) — ограниченная непрерывная функ-
ция. Тогда
Mf {х 4- £ (0) exp g (х 4- Е (s)) ds| — v (t, х)
о
424	гл. t®. ПРОЦЕССЫ С ПРИРАЩЕНИЯМИ	Ы«.в
удовлетворяет уравнению
до (t, х) 1 . .. . . , . .. .
---0/ = Т А"(/> х) + е <*) v <* *)
с начальным условием
lim о (t, х) = f (х).
<40
Замечание Теоремы I и 2 остаются справедливыми, если
вместо ограниченности } и g требовать, чтобы выполнялось условие
|lm M1 + IIMII + 8W _0.
I X [ -> оо	I Х I2
Теорема 3. Пусть Gcf(" — связная область с гладкой гра-
ницей Г. Обозначим через т> момент первого достижения процессом
л + 6(0 (х 6) границы Г:
Тх-И[1: x + g(f)£GJ.
Величина т* может принимать значение +«>. Пусть далее <р(х) —
произвольная непрерывная функция, определенная на Г. Тогда:
а) функция
и (х) = М<₽ (х + £ (тх)) X|rJC<oo]
(X{tjc<«>} = !> если тх < °°> “ X{Tj£<«} = 0, если тх = Ч-оо) удо-
влетворяет уравнению и граничному условию
&и (х) — 0, и (х) == ф (х) при X G Г,
т.е. и(х) — гармоническая функция в Г с данным граничным зна-
чением <р;
б)	функция
г*
v (х) = М g (х + I (s)) ds,
о
где g(x) — непрерывна и ограничена в G, удовлетворяет уравнению
и граничному условию:
До (х) — —2g (х), е (х) = 0, хе Г;
в)	функция
<о (х) = Мф (х + I (тх)) ехр | g (х + В (s)) ds j
удовлетворяет уравнению и граничному условию
Aw (г) + g (х) w (х) =0, ti> (х) — ф (х), х е Г;
г)	функция
и (i, х) «= Mf (х +1 (/)) ехр g (х + £ (s))	X^>r}
K.6.3J
н е. ВИНЕРОВСКИЙ ПРОЦЕСС
42»
(X{Tx>q = 1. ecjtu tx > « z{tx>Q™0’ если т* Удовле-
творяет уравнению и граничным условиям
ди Л) - =Ц А» (< >') + g W и (1, х), xeG; и (0, x) = f(x)
(Jt
х е G, u(t, х} = О, х е Г, t > 0.
Функции f и g непрерывные в замыкании G; в случае пеогра-
ничейного G они должны удовлетворять условию, сформулирован-
ному в замечании.
16.6.3. Одномерный винеровский процесс. Рассмотрим распреде-
ления некоторых функционалов от одномерного винеровского про-
цесса w(t).
1.	Распределение максимума. Для х > 0
х
Р ( sup w (s) < х) = —( е~ du,
о
P 1 sup w (s) > x\ = 2P {«, (/) > x).
4)<s<f	>
2.	Распределение времени первого прохождения. Пусть х > 0,
= inf [1: к>(0 > х]. Тогда величина т* имеет плотность распреде-
ления: при s > О
-^-P{Tx<s}
= _2L_„-*7(2s)
V23S3
3.	Совместное распределение максимума и значения процесса.
При х < о, а > О
Р ( sup w (s) < a, w (t) < xl==
>
= Р {w (/) < х} — Р {w (/) > 2а — х} =•
х
= Р {а> (/) < х} - Р {w (/) < х - 2а) = —4=~ ( e~u'ivi,} du.
V2nt J
X-2O
4.	Распределение максимума модуля:
Р ( sup | w (s) I < а) =
CO	£1
= X (~1)fe $-р{--±(Ы-2мг}^
—co	— а
5.	Совместное распределение максимума модуля и значения про-
цесса. При [с, J] с: [—а, а]
Р / sup | w (s) | < a, w (0 е [с,	=
4)<s<t	f
<»	d
—Л=- У <-«>*(
fe=-oo	с
426
ГЛ. 16. ПРОЦЕССЫ С ПРИРАЩЕНИЯМИ
(16.6.4
6.	Совместное распределение максимума, минимума и значения
процесса. Пусть а < 0 < Ь, (а, Р) ст (а, 6). Тогда
Р ( min w (s) > a, max w (s) <b, w (f) e (a, 6)) «-
4)<SC<	0<4<t	>
oo p
“vferX $[exp{—^-(^ + 2fe(ft-a)P}’
* «--ooa
— exp {—	(x — 2a + 2fe (b — a))s| j dx.
7.	Обозначим через т момент первого выхода процесса ия от-
резка [а, Ч; а < 0 < Ь:
т « min [f: w (f) [a, &]].
Тогда
P {к» (т} = b) =»
P {t < t, w (t) = a} =
b
д 2 f
V2nt J
• Лг>
OO
exp "if+ (2fe + 0 (<» - a))®J dx.
k-a
8.	Закон арксинуса. Пусть e(x) =» 1 при x > 0, e(x) =» О при
х 0. Тогда при 0 < х < t
16	.6.4. Одномерный винеровский процесс со сносом. Пусть
№(/), « — некоторое число, w (0 — одномерный винеров-
ский процесс. Рассмотрим некоторые функционалы от процесса.
1.	Пусть х > 0, т> — момент первого попадания в точку х.
Тогда при a > 0
Me ^tx«exp{—x(V«2 + 2X, — a)}, l>0.
Если а < 0, то
Р ("Г* » +<»}« Р {sup £ (1) < х| => 1 — ег°*.
2.	Пусть с < 0 < d, (а, р) ст (с, d), Q (t; с, d; а, Р) =»
°Pf min g (s) > с, шах g (s) < d, § (f) & (a, p)l.
СО
q (X; c, d; a, p) = e~M Q (f; ot d; a, ₽> df.
0
17.1.1 J
17.Т. ПРОЦЕССЫ e ОДНИМ ТИПОМ ЧАСТИЦ
427
Тогда
9 (Л; с, d-, а, ₽) ..
V в 4- 2Л
ехр {ау — д/в2 + 2Л | у!} dy
sh Уй24-2Ас
sh Vo2 + 2Л (d — с)
₽
j ехр {ay — V«2 + 2A (d — ^)} dy—
a
sh Vaa + 2W
sh Va2-l-2Л (d — c)
ft
exp {ay — 'jd1 + 2A (y — c)} dy
a
3.	Пусть c < 0 < d, г момент первого выхода из [с, d]:
Тогда
T = inl[1:	к. djj.
РЙ(т) = с}
l-e-gad
e-2oc_e-2ad •
Литература: [19, 20, 23, 55, 68, 81, 82, 87].
Глава 17. ВЕТВЯЩИЕСЯ ПРОЦЕССЫ
17.1.	Ветвящиеся поцессы с одним типом частиц
(дискретное время)
17.1.1.	Определение. Ветвящиеся процессы являются моделью
многих реальных явлений размножения, гибели и превращения ча-
стиц в биологии, физике, технике, демографии и др.
Однородная цепь Маркова |(1) (1 = 0, 1, 2, ...) с неотрица-
тельными целочисленными значениями называется ветвящимся про-
цессом с одним типом частиц или процессом Гйльтона— Ватсона,
ёсли ее переходные вероятности рц(1) = Р{£(0 = /15(0) —0 за
Время 1 удовлетворяют условиям

&о}, 1 = 0,
Z	...
(1-1)
Принята следующая теормннология. Модель, описываемую вет-
вящимся процессом, часто называют популяцией. Значение ветвя-
щегося процесса £(/) в момент t называют числом частиц или «яЗи-
видуумов в популяции в поколении с номером 1. Говорят также,
что 5(0 есть общее число потомков g(0) частиц нулевого поколе-
ния в поколении с номером 1.
Первое равенство в (1.1) означает отсутствие самовозрождення
популяции после того, как все частицы исчезли, либо отсутствие
иммиграции (притока частиц извне).
Второе равенство в J1.1), означающее, что /МО при 1^1 яв-
ляется 1-кратной сверткой распределения pi/(1) (/ =	1,2,...) с
428
ГЛ. Т7. ВЕТВЯЩИЕСЯ ПРОЦЕССЫ
П7.1.Я
собой, эквивалентно предположению, что каждая из I первоначаль-
ных частиц эволюционирует (гибнет, превращается в новые частицй
того же типа) независимо от других. Второе равенство в (1.1) на-
зывают условием ветвления.
Ветвящийся процесс может быть описан в терминах суммиро-
вания независимых одинаково распределенных неотрицательных це-
лочисленных случайных величии.
Пусть 5** К. й 1, 2, ...) — независимые одинаково распреде-
ленные случайные величины, интерпретируемые как число потомков,
даваемых любой из k частиц в момент превращения в (-м поколе-
нии, т. е. Р {£(& = /} »= pi, U = 0, 1, 2, ...). Число частиц ?(£ + 1)
в (1+1)-м поколении выражается через число частиц Е(0 в t-м
поколении как
6(0
l(*+D=<
6(0
если Н0) = 1;
(1.2)
6^ = 1, k — 1......I, если £ (0) =
17.1.2.	Примеры. 1. Выживание фамилий. Фамилию наследуют
только сыновья. Предположим, что каждый индивидуум с вероят-
ностью pi имеет / потомков мужского пола. Каждый индивидуум
порождает первое поколение потомков, те в свою очередь второе
и т. д. Общее число потомков в (-м поколении равно £(().
Особый интерес представляет исследование числа потомков в
(-м поколении, т.е. распределение £((), а также определение вероят-
ности вырождения фамилии ч = Р{Ы) = 0 для некоторого
mW >о).
2.	Электронный умножитель представляет собой устройство для
усиления слабого потока электронов. На пути потока электронов,
испускаемых источником (число |(0) таких электронов есть нулевое
поколение), устанавливается последовательно ряд пластин. Каждый
электрон, ударяясь о первую пластину, порождает случайное число
новых электронов (первое поколение), которые в свою очередь уда-
ряются о следующую пластину. Процесс g(()—число электронов, ис-
пущенных (-й пластиной, — представляет собой ветвящийся процесс.
3.	Нейтронная цепная реакция. При взаимодействии с нейтроном
ядро расщепляется, испуская случайное число новых нейтронов.
Каждый из этих вторичных нейтронов может бомбардировать дру-
гие ядра, производя случайное число новых нейтронов, и т. д. Если
первоначальное число нейтронов равнялось 1 (нулевое поколение),
то первое поколение нейтронов, порожденных исходным нейтроном,
есть случайная величина £(1). Размер (-го поколения £(() склады-
вается из случайного числа нейтронов, порожденных £((—1) ней-
тронам-; {( — 1) го поколения
17.1.3.	Уравнения для производящих функций. Целочисленность
значений ветвящихся процессов и в особениопи определяющие эти
процессы равенства (1.1) и (1.2) делают аппарат производящих
функций (см. гл. 3) основным при их исследовании.
Замечание. Для ветвящихся процессов g(() обычно предпо-
лагается (и это, как правило, делается ниже), что |(0) = 1; это не
ограничивает общности, так как в силу определения ветвящегося
17.1Л]		17.1. ПРОЦЕССЫ С ОДНИМ ТИПОМ ЧАСТИЦ	429
процесса при 5(0) > 1 мы имеем дело с 5(0) независимо развиваю*
щимнся процессами, начинающимися от каждой из 5(0) первона*
чальвых частиц.
Пусть р, = Р{5(1) « ДЕ(0) - 1},Р1/ (0 = Р{5(0 = /IЕ(0) = 1);
Ф (s) — М [а6 15 (0) = 1] и Of (®) = М [а5 (<>|5 (0) =ж 1]—производя*
щие функции этих распределений, т.е.
ф* (*) *= 22 Рц ® sl’ ф <*> ~ Ф1 <*)•	(1.3)
/-о
Функцию Ф;(®) называют производящей функцией ветвящегося про-
цесса J(0 (/ = О, 1, ...).
Теорема 1. Производящая функция Ф<(«) при любых t, т>0
удовлетворяет основному функциональному уравнению
Фгк^-ОЯФхОО)	(1.4)
и начальному условию
Фо(®)«=®.	(1.5)
Таким образом, Ф<(®) есть /-кратная итерация производящей
функции Ф(®):	Ф1(з)==Ф(«),	Фг(®) = Ф(Ф(®)),	Ф8(«) =
= Ф(Ф8(®)) а= Фа(Ф(®)) = Ф(Ф(Ф($))).....и вообще
Ф/(®)==Ф(Ф(-..Ф(Ф(®)...)).	(1.6)
Если Ф(<)(®г ®2...st) = M ... s|(/)| g (0) = 1] — сов-
местная производящая функция случайных величин Е(1), 5(2), ...
.... 5(0, ™
ф(0 («1...М = Ф («1ф («2ф (• • • «/-1ф («,)• • •))•
Пусть Ft(s) есть производящая функция суммы 5(0)4-..,
• .. + 1(0—общего числа частиц в популяции за время [О, 0 (/=
»=0, I, ...), и пусть F(s) — производящая функция суммы |(0) +
+ КО + • • • — общего числа частиц в популяции. Тогда
Ъ+1 (») = «ф (Ft («)> F <s> =5ф <F <«»’	(17)
17.1.4.	Примеры. j. Процесс гибели. Пусть 5(0) — 1,
и = Р{5(1) =-015(0)= 1}= 1-р, д, =Р{5<1) = 1|5(0)= 1}=р,
0 < р < 1, pt = О, k > 1. Тогда <l>(s) = 1 — р 4- sp, Ф((«) =
= 1 —р'4-sp', откуда pio(O = 1 ~р‘, pn(t) = д', pi*(0 = 0
> И-
2. Дробно-линейные производящие функции. Пусть ро =«
= 1	, Рк = be"-*, fe, с > 0, fe + с < 1. Тогда Ф(®) =
1 — (Ь + с) , bs _	_ . .	-	.
=-----1 _с—~ + 1 — cs'* Функция Ф(.?) является дробио-линеи-
ной вида (а + ps)/(y + 6s). Пусть m = Ф'(1) = fc/(l — с)2 и
( 1, если m 1;
с = '4
(. ро/с, если m > 1.
ГЛ 17. ВЕТВЯЩИЕСЯ ПРОЦЕССЫ
[17.1.3
430
Тогда
Ф,(а)=.
(, 1 — 4	.
1 — пг—j-h т
т — q
=
ГС— [(/ + 1) С — 1] А-
! + (/-!) с — tis ’
если т =/= 1;
если nt = l.
Отсюда, например,
если т Г,
если п = 1.
17.1.3. Моменты и классификация. Пусть g(O) = I, m(Z) = M£(t),
in = m(l), a(/) = Dg(O> а2 = о(1).
Непосредственным следствием основного функционального уран,
нения (1.4) для производящей функции ветвящегося процесса яв-
ляются следующие выражения для m(t) и о(/);
т (1)»гп, 1=0, I, ...,	(1.8)
t
( 2 t~i т — I	, ,
...	\ от ----------—, если my^l;	.....
а (/) = <	т — 1	(1.9)
I а21,	если ш = 1.
Ветвящийся процесс с одним типом частиц называется докрити-
ческим, если т < 1; критическим, если т = 1, Ф"(1) > 0; надкри-
тическим, если т > 1.	,
Условие Ф"(1) >0 в этом определении означает несингуляр-ь,
ность, т.е. допредельную невырожденность соответствующего про-»
сесса.
Таким образом, для докритических процессов среднее m(t) экс-
поненциально убквает, для критических процессов m{t) постоянно и
для надкритических процессов m(t) экспоненциально растет.
17.1.8. Асимптотические свойства и предельные теоремы. Если
в ветвящемся процессе £(/) для некоторого to > О £(to)=0, то<
говорят, что процесс |(t) выродился к моменту tn. Величину'
q — Р{5(0 = 0 для некоторого t > 0[g(0) = 1} называют еерояНе
ностью вырождения.
Если q = 1, то процесс g(t) называется вырождающимся.
Теорема 2. Для того чтобы ветвящийся процесс был вырож-
дающимся, необходимо и достаточно, чтобы он был докритическим
или критическим.
Теорема 3. Вероятность вырождения q являемся наименьшим
неотрицательным корнем уравнения
Ф(а)=з,	(1.10)
17.1.61	J7.1. ПРОЦЕССЫ С ОДНИМ ТИПОМ ЧАСТИЦ	431
Вероятность вырождения q может быть найдена как один из
следующих пределов:
( lim рю (0.
__ I «-><»	,. ...
9 j lim Ф. (s), ] s | < 1,
i-»oo '
причем в последнем случае сходимость равномерна по всем [s] г
(г< О-
Асимптотическое поведение вероятностей Рю(0 при t-*<x> опи-
сывается следующим образом.
Теорема 4 1) Для докритического процесса £(/) при оо
пГ'(1 -рк> (/)) = <’ + о<1),	(1.12)
где
ОО
С = Д НФп (0)), h (s) -	.	(1-13)
п=0
причем с > 0 тогда и только тогда, когда Mg (1) In g (1) < оо.
2) Для критического процесса, у которого Ф" (1) < оо,
о
Р.о(0==1--^,>(1у(14-о(1)).	(1.14)
3) Для надкритического процесса
Рю (0 - q - d [Ф' (?)]* + о ([Ф' (9)12<),	(1.15)
где 0<Ф'(<?) < 1, d —некоторая положительная константа.
Ветвящийся процесс сходится либо к нулю, либо к бесконеч-
ности, причем эта сходимость чрезвычайно неустойчива в том смысле,
что если /я= Mg (1) < оо, то lim Р,Д1}—0 (/ = 1,2, .,.), и
t>oo '
для любого п > 1
lim Р {g (0>«|ИО)=1}=1-?.
/ >00
Для докрнтическнх процессов существуют пределы
Ри (О
Нт 1 "ЙГ = ]im Р =» /1 ИО > 0, g (0) = 1} = Q.,
/>« 1 — рю (I) />оо	'
1^1, (1.16)
и вероятности Qi, Qa, ... образуют распределение вероятностей,
т. е.
Теорема 5. Производящая функция Q (s) =	удовле-
j*=l
теоряет функциональному уравнению
1 - Q (Ф (s)) « m (1 - Q (а)).	(1.17)
482	ГЛ 17 ВЕТВЯЩИЕСЯ ПРОЦЕССЫ	117Л.1
Математическое ожидание распределения Q(, Qt, ><> равно l/с, где
с определяется равенством (1 13).
Для критических процессов с конечным вторым моментом имеет
место предельная теорема
Теорема 6. Если ((*)—критический ветвящийся процесс а
конечным вторым моментом, то
Am«р{мкю1бЮ>о.Т(О)-ц’>Х|Е(0>°’6(0)== 4ве~Х’
(1.18)
Если m < оо, то процесс *](/) = /п-'6(<) является мартингалом,
г е.
М h(< + т) 1*1 (0]« ч(0, т>0.
Пусть 6(0 —надкритический процесс. Из теоремы о сходимости
мартингалов следует, что с вероятностью 1 процесс t](() сходится
к некоторой случайной величине г]
Теорема 7. Характеристическая функция <p(s) = Mc,ST5 пре-
дельной случайной величины т) удовлетворяет функциональному
уравнению
<р (ms) «и Ф (<р (s)),	(1.19)
имеющему единственное решение в классе характеристических функ-
ций с первым моментом, равным 1
Если 0 < о2 < со, то функция распределения Д' (х) = Р {*] < х)
имеет скачок в нуле: Р {(] = 0} = q. Условная функция распреде-
ления Р {») < x|tj > 0} >= (Д' (х) — <?)/(! — у) абсолютно непрерывна,
и условная дисперсия D [т)|т] > 0) положительна.
17.2. Ветвящиеся процессы с одним типом частиц
(непрерывное время)
17.2.1. Определения. Однородная цепь Маркова £(/) (t е[0, со))
с неотрицательными целочисленными значениями называется ветвя-
щимся процессом с одним типом частиц, если ее переходные ве-
роятности р{, (/) = Р {| (/) = /1 £ (0) == /} удовлетворяют условиям!
1)
{60р	I — 0,
(2.1)
Е Рц. W Рц. (0 • • • Рц. (0. ( ¥ 0;
/,+ ... +lt-}
2)	(2.2)
t->o 11	*»
Пусть 6(0) = 1 и переходные вероятности Pu(t) прн значе-
ниях i, близких к нулю, удовлетворяют условию
Ри V) = 1 + <71* + о (/), ijt < 0,
Р1/(0 = «7/ + о(0,	/¥=1.
Причем очевидно, что q, 0 для / =,= 1 (<?, в этом случае называют
Плотностями перехода).
17Л11	17! ПРОЦЕССЫ С ОДНИМ ТИПОМ ЧАСТИЦ	433
Введем производящие функции
Фг («) - X Ри W«'- м Is* (/)Н (0) = 11. f й - £
/=0	/-0
Функцию f(s) называют инфинитезимальной или дифференци-
альной производящей функцией ветвящегося процесса Эволюция
рассматриваемого ветвящегося процесса с непрерывным временем
описывается следующим образом- каждая частица живет случайное
время, распределенное по экспоненциальному закону с параметром
X == V у.. По завершении времени жизни она порождает случай-
/=^1
ное число £ частиц того же типа, имеющее распределение
РО/Н?/£	*, /*=0,2,3,...
/¥1
Простейшим примером ветвящегося процесса с непрерывным
временем является процесс гибели и размножения, для которого
90*=а, <?2-=Р,	— +	fy*=0, j = 3, 4, ...
Ветвящийся процесс £(/) называется регулярным, если
lim (а) «= 1.	(2.4)
s 41
Теорема 1 Для того чтобы процесс £(/) был регулярен, не-
обходима и достаточно, чтобы интеграл
1
f du
) /(«)
I-e
расходился при любом е > 0.
Замечание Если Ф<(«) есть производящая функция регу-
лярного ветвящегося процесса с непрерывным временем, то, пола-
гая Ф(з) = Oi(s) и ведя счет по моментам времени t = 0, 1, 2.....
получаем производящую функцию ветвящегося процесса с дискрет-
ным временем
При выполнении условий (2 3) и (2 4) производящая функция
Ф/(?) ветвящегося процесса равномерно по Ы 1 удовлетворяет
асимптотическому соотношению
Ф( (л) = s 4- if (s) + о (i), t -> 0.	(2.5)
Следствием (2 5) является следующая теорема, дающая аналог
основного функционального уравнения для процессов с дискретным
временем.
Теорема 2 Производящая функция ®t(s) ветвящегося про-
цесса с непрерывным временем удовлетворяет при |s|	1:
а)	обыкновенному (нелинейному) дифференциальному уравне-
нию
(s)
------(2-6)
484
ГЛ 17. ВЕТВЯЩИЕСЯ ПРОЦГССЫ
(17.5.2
а начальным условием
,	Фо (s) «= s;
б)	линейному уравнению в частных производных
йФ. (s) ЙФ, (я)
<)1
С тем же нача гьным условием (2 7);
в)	нелинейному интегральному уравнению
t
Ф4 (sj = J h (Фг_в (s)) dG {u) + sl\-G (/)),
о
где
С(() = { 1-еЧ />0,
I о, t < О,
(2.7)
(2.8)
12 9)
[ (®) — ?|S
ft (S) =	—IL.
~<?i
В уравнении (2 9) G(7) интерпретируется как функция распре-
деления времени жизни частицы, т.е времени, прошедшему от ее
рождения до первого превращения в 0, 2, 3, ... частиц, а Л(а) есть
производящая функция условных вероятностей {—?/|^«) (/= О,
2, 3, ...) того, что частица превращается в / частиц, при условии
что превращение имело место.
Решение уравнений (2.6), (2.8), (2.9) существует при любом
|s| < 1 и является аналитической в круге |s| < 1 функцией,
коэффициенты разложения которой в ряд по степеням а неотрица-
тельны.
Для регулярных процессов решение указанных уравнений един-
ственно.
(7.2.2. Примеры. ]. Пусть f (а) = qe -}- sqt -f- s-’qz, т. e.
;(а)==?(а-1)+у(а-1К
где e = f'(l), ft = )"(]).
Уравнение (2.6) имеет вид
ЙФ. (a)	ft	„
—^-««^(S)-l] + -^(5)-l]2.
Решение этого уравнения:
ФИ»)-
г________е°* (I — a)
A- (eot - 1) (1 - а) 4-1 ’
1___„А."?______
f (l-a) + i ’
если a s# 0;
если a = 0,
I7A31
172 ПРОЦЕССЫ С ОДНИМ ТИПОМ ЧАСТИЦ
435
откуда, разлагая Ф<(а) в ряд по степеням а, можно найти
1---т-----------, если а =/= 0;
-£(^-1)4-1
1	+	1/О. «ли а =,4=0;
1 — [нХ/ + (1 — s)-a]	если а «= 0.
3	Пусть f(s) = Х(а — «*+*), X > 0, k — целое положительное
число Здесь
Ф( (s) — s [exfef	— (eKkt -	1)
4.	Пусть f(s) =	Х[1 —- s] [1	4- Ml — «)]•	Здесь
Ф4 (s) =	1 — exp {e~w — 1 4-	In (1 —	s)}.
5.	Пусть f (s) = A [1 — s —	(1 — s)°],	где X >	0, 0 < a < 1.
Здесь
Ф# (s) = 1 — [1 — e + e-(l-a)M (i _
Это — пример нерегулярного процесса, так как
lim Ф, (s) = l — (l -е <*	a,<i.
sf! '
17.2.8.	Моменты и классификация. Конечность моментов м 11(01*
для ветвящегося процесса &(0, 6(0) = 1, с непрерывным временем
следует из конечности fe-fi производной f(s) в единице.
Положим а = Г(1) и Ь = f"(l), и пусть т (t) *«* Mg (<), a2 (/)«=«
= D& (0-
Дифференцируя (2.9) no s и полагая s ® 1, можно получить
следующие дифференциальные уравнения для m(f) и о2 (1)1
•£-m(0 = am(0	(2.10)
436
ГЛ. 17. ВЕТВЯЩИЕСЯ ПРОЦЕССЫ	117.2.4
С начальным условием m(0) = 1;
d о /л faff1 (?) + (b — a) т® (/), если аУ=0;
—ГГ О (Г) = <
аг	(6, если а = О,
с начальным условием о2(0) — 0.
Отсюда т(1) ~ с"1 и
о2 (0
( b \ at / at
и~’)е (е
bt, если а = 0.
~ 1), если «т^О;
(2.12)
Ветвящийся процесс с непрерывным временем называется до-
критическим, если a < 0; критическим, если a = 0, b > 0; надкри-
тическим, если a > 0.
Из (2.10), в частности, следует, что среднее m(t) экспоненци-
ально убывает для докритических процессов, постоянно — для кри-
тических процессов и экспоненциально возрастает для, надкритиче-
ских процессов.
17.2.4. Асимптотические свойства и предельные теоремы. Пусть
₽Ш0=0 для некоторою t > 0||(0) = 1} —вероятность
вырождения процесса £(<).
Условия, при которых q = 1, для ветвящихся процессов с не-
прерывным временем те же, что и для процессов с дискретным вре-
менем (см. п. 17 16).
Теорема 3. Вероятность вырождения q является наименьшим
неотрицательным корнем уравнения
(2.13)
Вероятность вырождения q может быть найдена как один из сле-
дующих пределов:
(г'-+2* Р‘° Ю*
Ч= j lim Ф (s), |s] < 1,	(2,И)
причем в последнем случае сходимость равномерна по всем в,
|s| С г, г < 1.
Асимптотическое поведение вероятностей р10 (/) при / -> оо опи-
сывается следующим образом.
Теорема 4. 1) Для докритических процессов
Р,0<0= 1-^(1+о(1)),	(2.15)
I
Jau + Г (1 — и) .	,
-—т~-----г-2- du — — In о,
uf (1 - a)
о
2) Для критических процессов
РЮ W“l~^-(1+<’(!))•	(2.16)
MTAfl	17.2 ПРОЦЕССЫ С ОДНИМ ТИПОМ ЧАСТИЦ	437
Для докритических процессов с непрерывным временем существую?
пределы
Рн (О
Пт И Пт р{| (0 = /ц (0 > о, g (0) = 1}-Q < 1,
t-^oa 1 — Рн) W 1->оо	'
Вероятности Qi, Qt, ... образуют распределение вероятностей,
ОО	оо
У, Qy «1, а производящая функция Q (s) =	имеет вид
f »	«.
Q (s) = 1 — exp ч и 1 ............ >,	-	(2.17)
I в 1 [U) )
1
Sau + f (1 — и) ,	.
——-ц)— й = - In с, то рас-
о
пределение с производящей функцией Q(s) имеет математическое
ожидание 1/с. Для условных распределений
Р{м [5(011(П^>0, £(0) = 1] >*15(0 >ол (0) == 1}
имеет место предельная теорема, аналогичная предельной теореме
из и. 17.1.6.
Пусть /п=М|(1)<оо и ri(f) = eal£(t), где a = f'(l). Про-
цесс Tj(f) является мартингалом с непрерывным временем.
Пусть £(i) — надкритический процесс. Из теоремы о сходимости
мартингалов следует, что процесс ц(() с вероятностью 1 при f->oo
сходится к некоторой случайной величине tj
Теорема 5. Характеристическая функция q> (s) = Me/srl пре-
дельной случайной величины ц удовлетворяет (нелинейному) диф-
ференциальному уравнению
либо эквивалентному интегральному уравнению
.	, .	J С f (и) — а (а — 1) , I
1 — <р (s) = — is exp < \ —t.---------п-— du {.
I J f (U) (u - 1) j
При b = f"(l) > 0 функция распределения К (t) == P {ц <ж)
имеет скачок в нуле: = Р {i] = 0).
Условная функция распределения
Р {71 с X | п > 0} = К
абсолютно непрерывна и имеет плотность, непрерывную при х>0я
438
ГЛ 17. ВЕТВЯЩИЕСЯ ПРОЦЕССЫ
I17.3.I
Pt j (Л es
17.3.	Ветвящиеся процессы с конечным числом типов частиц
(дискретное время)
17.3.1»	Определение. Ветвящийся процесс с т (т^1) типами
частиц описывает популяцию частиц или индивидуумов, в которой.,
цаствцы каждого типа могут порождать потомков каждого из т ти-
пов независимо от других частиц.
Фазовым пространством ветвящегося процесса, моделирующего
популяцию из т типов частиц, является множество векторов j =
“» </i.	М’> интерпретируемых как вектор-столбцы, где j* —
неотрицательные целые числа, соответствующие числу частиц А-го
типа ( Т означает транспонирование).
Пусть — вектор-столбец, у которого i-я компонента равна 1,
а все остальные равны 0.
Однородная цепь Маркова 5(0 = (5* (0, Ы0, •	£U0)T
(1 = 0, 1, 2, ...), значениями которой являются m-мерные векторы
с неотрицательными целочисленными компонентами, называется вег-,
вящимся процессом с т типами частиц, если ее переходные вероят-
ности Ptj (1) = Р (5 (1) = /15 (0) = 0» где 5(0 = 1 означает Ы0 =
= /* (А = 1, ..., т), удовлетворяют условиям
60j, 1 = 0 (0=(0........0)	— нулевой вектор),
<	«:	г (з.1)
[РМ(0] '•1Реа/«]2....*[р^(0]т.
С
гае [Peftj(OJ* означает 1*-кратную свертку распределения pf*j (1)
с собой.
Ветвящийся процесс с т типами частиц допускает простое опи-
сание в терминах сумм случайных величии. Пусть £(r = {£*/, k, I =*
= 1,...,	(t, r = 1, 2,...) — независимые одинаково распределен-
ные случайные матрицы с независимыми неотрицательными цело-
численными элементами. Для любого г случайные величины ин-
терпретируются как число частиц /-го типа, произведенных части-
цей А-го типа в момент превращения в 1-м поколении. Предполо-
жим, что распределение А-й строки матрицы имеет вид
Р{Й?-Л........t?,w = /m}“=^j(i)>
где j = (jj, fs. ..., jm)T- Имеют место следующие соотношения: если
5s (1 + 1) —A-я компонента вектора 5(1+1) = (£i(f-M). |г(1+ 1), . .
. .. Ь(<+1)). где 5(0—ветвящийся процесс с т титл»')! ча»
Стиц, то
Ь«+П-£ #+£ #+...+ £	(3.2)
Г«*1	г-1	,
В частности, если т == 2 и 5(0) = (1, 0)г, т.е. популяция со-
стоит и£ частиц двух типов и в начальный момент имеется един-
17.8.21
17.3. КОНЕЧНОЕ ЧИСЛО ТИПОВ ЧАСТИЦ
439
ствеииая частица 1-го типа, то
(первое поколение частиц состоит из частиц первого типа и
С}2 частиц второго типа, порожденных частицей 1-го типа),
/с}1	с}2	сг	с!2 V
i(2)-(Eft+E& Eelr+Ей2)
\г=1	г-1	г-1	г-1 ✓
(второе поколение состоит из Е С** + Е< С2* частиц первого типа
г—1	г—I
С}1	С}2
и Е ?}? + Е ?1г частиц второго типа) и т д.
Г—1	Г=1
17.3.2,	Уравнения для производящих функций. Пусть s — (st.
sa.........s,n). Производящая функция переходных вероятностей PIJ&
ветвящегося процесса £(t) с т типами частиц определяется равен-
ством
Ф7 (*. ’) = Е Ptj (О s{'4’” -S^ =
/>0
= М [sp <0зр(П.. ,s^(nI MO) - 4 (3.3)
OO CO	0O
где E означает X E ••• E-
ji=o;2—o fm”0
При фиксированном i функция Ф/(1, s) есть скалярная функция
векторных аргументов i= (it, ««, ..., im)T и s = (slt s2, .... sm).
Функции Ф({», s) и Ф,(сй, s) (k = 1....m) связаны соотношением
m
*)]'*•	<3-4
k-l
Пусть Фо (s) = Е р (°) *“ о 51’®2! -  ,sm ~ производящая
функция начального распределения р0 (i) = Р {£ (0) = i); Ф( (в) =
II f
“Е ** (*) “ si’s2S- -sm ~ производящая функция значений
процесса £(0 в момент /, и пусть
Ф# (®) - (Ф, (*,. •). Ф( (®2. а).®f (em, а))Г.	(3.5)
Функцию Ф,(в) называют векторной производящей функцией
процесса §(<). Имеет место равенство
Ф^г-Ф^Ю).	(3.6)
Ц7.ЭЛ
4
440
ГЛ. 17. ВЕТВЯЩИЕСЯ ПРОЦЕССЫ
Теорема 1. Производящие функции Ф/(в) и Ф*(а) удовлетво-
ряют следующим основным функциональным уравнениям:
Ф<+х(«) = ФЛФгИ)-	<3J>
(3.8)
Пусть F(e,, s) (возможно, Г(е,, 1) < 1) —производящая функ-
ция общего числа раыпчпых типов частиц во всех поколениях, если
процесс £(/) начался с одной частицы i-го типа, F(s) = (F(ei, s), .,.
.. , F(e,„, s))r Тоща /•(<•,, 4) — sf<I>(c,, Ffsl).
17.3.3.	Моменты и классификация. Обогпачим через Alft} =
я= {«!<,(/),	матрицу первых моментов ,т, (/) =
— М [£<(/) 15(0) — е,] ветвящегося процесса и через &„(/) =
i,	/—I,	m) матрицу вторых моментов t'>> =
= Е, (0|l(0) = eft], и пусть Мек и Dk = Bh — Afc^-M7,
где Al—Л1(1), Вл = Вг(1) — соответственно вектор среднего числа
частиц и ковариационная матрица числа частиц, порождаемых ча-
стицей Л-го типа, t = 1.
Из определения Ф/fs) следует, что
дФ. (е , в)
т., (/) = lim------г1--,
*'	А Л 1
12<Ь . X	(3-9)
,ь.	й’ФДе., s)
№ (1) = lim-----+ Ь.,т(/),
HI dsiOsj	,k
где sf 1 означает, что все компоненты век горн $ стремятся, возра-
стая, к единице.
Матрицы моментов Af(Z) л ВА (/) удовлетворяют разностным
уравнениям
М (I + 1) = ММ (/), М (0) =₽ I
т
Bk (i + 1) = MBh (i} MT + £ (et, Mel) Bk (0) =
i -i
(3.10)
где (, •) означает скалярное произведение, откуда
М(1)=м‘,	(3.11)
t— I т
Bfc(/) = AlMpw7+ X Z ЛГей)Л1'-г-Ч
i=o i=i
Предположим, что все моменты mt, матрицы Л4 конечны и не все
равны нулю. В силу того что mt, 0, по известной теореме Пер-
рона— Фробениуса для неотвицательпых матриц средн собственных
чисел ц, (1=1.....т} матрицы Af пмытся неотрицательное соб-
ственное число (1 = 11/ такое, ч>о р > kt р, (j ic), называемое
перрсновым корнем матрицы М.
Ветвящийся процесс ?,(>) называется нерозложимым, если гео-
метрическая кратность перронова корня р матрицы Л1 равна 1, и
разложимым — в противном слу чае.
17.3.4]	17.3. КОНЕЧНОЕ ЧИСЛО ТИПОВ ЧАСТИЦ	4Ц
Ветвящийся процесс £(/) называется положительно регулярным,
если найдется момент времени 4 такой, что т,, (4) > 0 для всех
i, j = 1, ..., т.
Положительно регулярный процесс неразложим.
Пусть £(/)—неразложимый ветвящийся процесс и р— перро-
нов корень матрицы М; и и г — соответственно правый и левый соб-
ственные векторы матрицы Af, отвечающие перронову корню ц (ко-
торые по Toil же теореме Перрона — Фробениуса имеют неотрица-
тельные компоненты) и нормированные условием
m
(»> “> = £vi=1-
1=1
Неразложимый ветвящийся процесс £,(/) называется докритиче-
ским, если перронов корень р с 1; кригинчким, пли перронов ко-
си
рень р = 1 и b — 22	> °! надкритическим, если nep-
г. /7*=<1
ровов корень |* > 1.
m
Условие 6 = 22	>0 обеспечивает песпнгуляр-
I, 1, Л-1
ность процесса £(/), т е. не все компоненты Ф(«с, si векторной про-
изводящей функции Ф(«) линейны но S|, s2, .... sm и имеют нулевые
свободные члены, п, следовательно, число частиц меняется со вре-
менем.
Говорят, что ветвящийся процесс является периодически и с пе-
риодом d, если папбо ibinnn общин делитель для всех I, для которых
>0, равен d Гели d -- I, проносе натирается непериодиче-
1Кия.
Положительно регулярный процесс является ненерподичсеыттг.
17.3.4.	Асимптотические свойства. Пусть ^(/) —неразложимый
нспсрподпческпп процесс, р — перронов корень матрицы первых мо-
ментов Л1; и н V — соответствен по правый и левый собственные век-
торы матрицы .41, отвечающие перронову корню ц. Для матрицы
W) перчит моментов имеет место асимптотическое представление
при /-><»:
М (() =	+ о (у*),
|дс пг' = I, / - 1, ..., /л}, | р [ < у, о(р/) iim-'oi по > и>м< нт-
иый смысл.
Пусть 9-= Р {%(/) = 0 при Ш-Л1||1>Р'>Ы t >Ч|^(0)—с) ссгь
вероятность вырождения процесса §(/), у которого нулевое поколе-
ние состоит из едп.тегвепчой частицы iro тина, и пусть q — (щ,
<12, .... <l,u)т — вектор вероятностен вырождения
Теорема 2. Если положительно регулярный процесс ^(1) яв-
ляется дсгритическич /пи критическим, то
9 = 1 = (1, 1. 1/.
Пусть s = (s., ..., s 1 и [s|= max I s. I. Говорят, что
вектор s неотрицателен, если все 0.
442	гл. 17. ВЕТВЯЩИЕСЯ ПРОЦЕССЫ	Ц7.3Л
Теорема 3. Пусть — положительно регулярный процесс.
Вектор вероятностей вырождения у является наименьшим по норме
| • | неотрицательным решением уравнения
0>(s)==s.	(3.12)
Пусть д1— произвольный нсо1рицательный вектор такой, что
|?*|	1 и q1 1. Всрочпцн и. вырождения может быть найдена
как один из следующих пределов
( Jin* P{U0-0|£(0)=eJ.
1 Г->оо
Л =ха г
1 I lim Ф, (е., 01).
М->оо 'v £	'
ртсюда следует, что в классе неотрицательных векторов s, |s|	1,
уравнение (3-12) имеет только два решения; q и 1
Асимптотическое поведение вероятностей ре<о(О при /->оо
описывается следующим образом.
Пусть 5(0—положительно регулярный процесс; М —матрица
математических ожиданий m = М [|f (1) 15 (0) = ej; Ц — перро-
нов корень м.'орицы М, и •= (и,. , и,„)г и v (щ, ..., tim)—
соответственно правый и левый < обеiвенные векторы матрицы М,
Отвечающие перроному корню р
Теорема 4. 1) Если 5(0 — докритический процесс, то
Ре.й	+
1	.	(3.13)
рft К)¥=011 (0) = 1} = («, 1) [с/ (1+0 (1))1
1 - фт (ег °)
еде с = 11m------, причем, для того, чтобы 0 < с < оо, яс-
(-><» оде
обходимо и достаточно, чтобы
М [gz(l) In £/i)l5(0)«eJ<oo
для всех i, j = 1, ..., m.
2) Если 5(0 — критический процесс, то
Ре #(0« 1- -^г-(1+оШ).
*	(3-14)
Р ft (0¥=011 (0) = 1} -	- О + о (О).
m
еде b = £
i. ]. /г-1
17.3.5. Предельные теоремы. Пусть 5(0 — положительно регу-
лярный процесс.
Теорема 5. Если 5(0 - докритический процесс, то при /-»-оо
условные распределения
р ft (0 = 116(0^0,
17.3.51
17.3. КОНЕЧНОЕ ЧИСЛО ТИПОВ ЧАСТИЦ
443
сходятся к предельному распределению	У Qj = 1,произ-
водящая функция Q (л) — У Qjs[l ...s1™ которого удовлетворяет
уравнению
1 -Q (©(«))= п(1 -Q(s)),
и предельное распределение не зависит от вектора начальных со-
стояний i 0.
Распределение с производящей функцией Q(s) имеет конечные
математические ожидания
dQ (л) и,
Jim — "....==—, coni г > 0,
« 4 1	с
тде с определено в соотношении (3 13).
Теорема 6. Если 1(7)—положительно регулярный критиче-
ский процесс, 1(0) = е, и (*) = (1^ (7), • • •.	(*))» где

(О
2|fe<n
“ uhbt '
f 4? -Л
то условное распределение процесса {/ '7 (Z) при условии, что
1<е^ (7)^0, сходны я при I -> со к распределению с тучайного век-
тора р •= Ц1, 1, .... 1)', не .тапис чще.-о от ец где £ - ткалярнач
случайная величина, имеющая пока та тельное распределение
Р{£> х}<=е~х.
Теорема 7. Если £(/)—положительно регулярный надкрити-
ческий процесс, у которого конечны вторые моменты Ь\^ (т, }, k =
«= 1. ..., m) up — перронов корень матрицы М, то случайный век-
тор =	в среднеквадратичном сходится при 1-+-<х> к не-
которому предельному случайному вектору т> и с вероятностью 1
направление вектора ц при ч /- 0 совпадает с направлением правого
собственного вектора и матрицы М, отвечающеео перронов;/ корню и,
т.е. 1] == g«, где £— скалярная случайная величина.
Бели b = У, Mftt>(/potoz > 0, то qk « P{i] -= 01 1 (0) == еА) .
i,i, &
(Условная) характеристическая функция ф (eft, в) <=» М [е* **'।
l(O) = efeJ случайного вектора ч удовлетворяет функциональным
уравнениям
ф(ей. рл)=*Ф(еА, q> (*)),
где Ф (s) = (ф (ер s), ф (е2, s),.,ф (<m, в)).
444
ГЛ 17 ВЕТВЯЩИЕСЯ ПРОЦЕССЫ
ft7 4tj
17.4. Ветвящиеся процессы с конечным числом типов частиц
(непрерывное время)
17.4.1. Определение. Однородная цепь Маркова £(t) = (?»</)•
ЫО. • . &49Е (t е [О, оо)) со значениями во множестве «-мер-
ных векторов с неотрицательными целочисленными компонентамя
называется ветвящимся процессом с m типами частиц, если ее пере-
ходные вероятности ptj(0 = Р {fc(O — iI£ (°)“0 удовлетворяют!
условиям (31) и условию
taty(W/y.
Ветвящийся процесс %(t), начальным состоянием которого явля-
ется состояние st, т е. нулевое поколение частиц состоит из един-
ственной частицы >-го типа, эволюционирует следующим образом»
по прошествии случайного времени ti частица 1-го типа превраща-
ется в случайное число $ частиц f го типа, / = 1, .... т, каждая
из которых независимо от других живет случайное время ту и пре-
вращается в случайное число частиц k го типа, k — 1, .... яц
и т. д
17.4.2. Уравнение для производящих функций. Пусть %(0) = е( и
переходные вероятности ветвящеюся процесса ^(/) удовлетворяют,
условиям
t + o(t),
и	(4.1)
р^ю-^+ota #->о.	'
£ Ч/ = 0.	/-1.................(4-2)
7>о
Ясно, что	e^j (в этом случае q^j называют плот-
ностью вероятности перехода из ei в /) Пусть
f(er ®)=’/Хо^Х14г---4т.
Н«) = (Г(ер о).f(em, в))Г.
ф«(в»’	w|mo>-4
Ф/(а)=(Фе(е1,а)...ФДе„,<.
функция f(s) называется (векторной) инфинитезимальной или
дифференциальной производящеи функцией
Производящая функция Ф/ (s) непрерывна по t е [0, оо) равно-
мерно по s, |s|	1 и lim Ф, (s) = s. При выполнении условий
t о
(41). (42) равномерно по s, |s|	1, имеет место асимптотическое
представление
Ф,(a) =s4-f/(a)1->0.
(4.3)
У 4 31	17 4 КОНЕЧНОЕ ЧИСЛО ТИПОВ ЧАСТИЦ	445
Следствием (4 3) является следующая теорема, дающая аналог
основного функционального уравнения для процессов с непрерывным
временем
Теорема 1 Пропзвобямщя функция -Ф«(а) при |«| sC 1 удо-
влетворяет следующим системам уравнений
а)	системе (нелинейных) -обыкновенных дифференциальных
уравнений
дФ, (в)
с начальными условиями
©o(s) = s	(4 5)
б)	системе ( шнейных) уравнений в частных производных
«Ж («) хп дФ{ (а)
-Я—E'<«rinfc-	<4Г,)
4=1	*
С начальными условиями (4 5);
в)	системе (нелинейных) инзегрлльных уравнений
t
(•*• •) - 5 №t-t И dGi (“3 + ss (1 - е, (4.7)
о
где
((«г
h.(s) -----------------, /“= 1...m,
*	“ Че е
eiei
G. (/) = £ ।	е	О’
М), ко.
Решения этик уравнений существуют, являются аналитическими
функциями nos, |s| < 1, л© •№*(?{,#), вообще говоря, не обязаны 1
быть производящими функциями собственных вероятностных распре’
делений, те® общем случае можно лишь утверждать, что
lim Ф. (е., а) С Ь
s 4 1 1 ‘ ’
дНе„ в)
Если все производные ----------- (Z, /= 1,.... т) в точке
s = 1 конечны, то решение указанных систем уравнений единственно
прн |s| < 1 и Hm Of(eJt s)== 1 (i=l,.... т).
Функция Gt-(i) в ^4<8) -интерпретируется как функция распреде-
ления времени жизни частицы «-го типа, a h,(s) интерпретируется
как производящая функция плотностей предращепия частицы /-го
типа
17.4.3. Моменты и классификация. Пусть j(s) = (f(ei, в),
f(ea, s), ,,,, f(em, s))T—дифференциальная производящая функция
44G
ГЛ 17 ВЕ1ВЯЩИЕСЯ ПРОЦЕССЫ
(17.44
ветвящегося процесса ^(7). В предположении, что существуют соот-
ветствующие пределы, примем обозначения
аЦ
S 4. 1
«)
dsi
. , d2Hek> s)
11ГВ ——
«4*1 uSjOSj
A « {ay, i, /=1.mJ, Cft = {с’,’, i, 1= I,..mJ.
™ lim

Пусть также Л4(7) — {m, (1)	1, / — (,	, m}, где m/,(7) =•
= M |g,(/) J £ (0) = ef ], Ck (t) « i, J—I.......mJ,где ctf (t) =-
= M[8z(0 g<(0|§(0) = efe]-64mjk (0- Матрицы моментов Af(7)
и Си (7) удовлетворяют дифференциальным уравнениям
~ Л1 (/) == Л7 (7) A, M(0) = I,
.	„	H-8)
~ Ck (7) - £ (eft, AeJ C} (7) + M (7) CkMT (7), Ck (0) = 0.
Отсюда
i г ro	1
CK (7) = j M (к) |£ (efe, M (t - «) ep Ct j MT («) du. (4.9)
Все недиагональные элементы матрицы А неотрицательны (в
частности, положительны) Матрицы, обладающие этим свойством,
называются квазинеотрицательными (соответственно квазиположи-
тсльными). Спектральные свойства таких матриц сходны со спек-
тральными свойствами неотрицательных (соответственно положи-
тельных) матриц Например, среди всех собственных чисел aj
О == 1, .,,, m) матрицы А имеется действительное собственное чис-
ло	такое, что a>Rea; (/=?*= ц>), называемое перроновым
корнем матрицы А Собственные векторы, отвечающие перронову
корню а, имеют неотрицательные компоненты
ветвящийся процесс §(/) называется неразложимым, если гео-
метрическая кратность перрояова корпя а матрицы А равна 1, и
разложимымпротивном случае.
Ветвящийся процесс §(7) называется регулярным, если щ, < О
для всех (»!,. , тп
Пусть g(7)—неразложимый процесс, и = (щ, . , «т)г и
» => (oi, ,.,, ₽т) — Соответственно правый и левый собственные век-
торы матрйЦы А, отвечающие перронову корню а, нормированные
m
условием (и, ®) = 5^ м/о/ = 1.
* “1
Неразложимый ветвящийся процесс ^(7) называется докритиче-
m
ским, если a < 0, критическим, если а <= 0,
Ьаа t,^i-iUkC^Vi9f>
> 0; надкрцтцчщким, если a > 0.
17.4.4]	17 4 КОНЕЧНОЕ ЧИСЛО ТИПОВ ЧАСТИЦ	447
т
Условие b = £ uk^uvivi > 0 обеспечивает несингуляр-
*, /71=1
ность процесса КО- Последнее означает, что число частиц не оста-
ется неизменным во времени.
17.4.4. Асимптотические свойства. Пусть КО—неразложимый
ветвящийся процесс; а — перронов корень матрицы А; и и V — соот
ветственно правый и левый собственные векторы матрицы А, отве
чающие перронову корню а и нормированные условием (и, т) = 1
Для матрицы M(t) первых моментов имеет место асимптотическое
представление при больших t:
М (/) = eatuvT + о (eAt),
где й»г = {«4Ор /, }— 1, .... hi}, | й | < а, o(ef,t) понимается по-
элементно
Пусть — вероятность вырождения процесса КО. У которого
КО) “ft и 9 = (Qi, q%, ..., /]ту — вектор вероятностей вырожде
ния.
Теорема 2 Если регулярный ветвящийся процесс КО явля-
ется докритическим или критическим, то
....1)г.
Теорема 3. Пусть ^(^—неразложимый процесс. Вектор ве-
роятностей вырождения q является ближайшим к 0 неотрицатель-
ным решением уравнения
f(s) = O, в>0, |в|=« max Is. | С I.
Асимптотическое поведение Ptj(i) при i-+<x> описывается еле
дующим образом
Теорема 4. 1) Если неразложимый процесс КО является до-
критическим, то
е"0* (I — рв{0 (0) = «'( + о (1),
e“a,P а (О¥=о II (0) = 0 = (V, 1) С + о (1),
где С 0 — некоторая кош танта, отличная от нуля тогда и только
тогда, когда М [^(0 In (/) 11 (0) = е£] < оо для всех ц / = 1,
..., т.
2)	Если неразложимый процесс КО является критическим и ко-
нечны то
2о,
Ре4а(0 = 1- -^(1 + о(1)),
Р О (0^01I«» = 0 =	(1 + о (1)),
m
ед6 b=* i Й
44В	FA 17- ВЕТВЯЩИЕСЯ ПРОЦЕССЫ	1ТТ.6.1Г
17.6. Общие марковские ветвящиеся процессы	'
17.5.1.	Определения. Общая модель марковского ветвящегося
процесса учитывает наряду с числом частиц моделируемой нонул»
ции также такие характеристики, как положение частиц в простра®*
стве, их размер* массу, энергию, возраст кт. а
Важна отметить, что многие немарковекие ветвящиеся процесса?
описывающие число частиц в популяции, при привлечении догптлняе
телыюй информации о частицах типа указанной выше могут быт»
изучены в рамках общих марковских ветвящихся процессов. 4
Предположим, что популяция характеризуется числам частиц *
некоторым обобщенным случайным параметром т), интерпретируемым’
как положение частиц в определенном измеримом пространстве (Ж,
Й), называемом фазовым пространством частиц.
Пусть нулевое поколение популяции состоит из единственной
частицы и ее положение в Ж (например, масса или энергия) рав-
но ijo По истечении случайного времени т частица превращается
(например, дробится либо порождает новые частицы, отдавая ин*
свою энергию) в случайное число частиц первого поколения, по
ложения которых в Ж равны соответственно i)j, •••• где
HfteE X (fe == 1, ..., £i) — одинаково распределенные независимые-
между собой и от £, случайные величины. Каждая частица первого
поколения независимо от других ведет себя так же, как частица
нулевого поколения, и т. д. Фазовое пространство ветвящегося про-
цесса* моделирующего описанную схему, должно, очевидно, учиты»
ватР как число частиц в популяции в произвольный момент, так м
ИХ положение в фазовом пространстве (Ж, 81).
Пусть в некоторый момент в популяции находится п частиц и
их положения в Ж равны соответственно Xi, хз, .... хп. Состояние
ветвящегося процесса можно описать наборам (xi, Хг, ..., х„), в ко-
тором порядок расположения несуществен, что соответствует нераз-
личимости частиц в популяции.
Если Жл есть л-кратное декартово (прямое) произведение про-
странства Ж самого на себя, то обоппчим через Ж„ пространство,
цодучаемос из Ж" отождествлением тех точек хл = (xi, Xi...хя),
которые могут быть получены перестановками координат, и через вя
обозначим образ о-алгебры при таком отображении.
Пусть Жо означает пространство, состоящее из единственной точ-
ки, обозначаемой тем же символом Жо. Положим
rt«o
ц русть $—наименьшая о-алгебра, содержащая Жо и все о-алгеб-
ры
Общим марковским ветвящимся процессом с фазовым простран-
ством частиц (Ж, й) называется однородный марковский процесс
6(0 {IеТ, Т = [0, оо) либо 7 = 0, 1,2,...) в фазовом простран-
стве (Ж, 81), переходные вероятности
Л (*п> Л) = Р U (0 е Л16 (0) = х"},
х”е=Хп, Лей
17.5.3]	17.5. МАРКОВСКИЕ ВЕТВЯЩИЕСЯ ПРОЦЕССЫ	44#
которого удовлетворяют следующему уравнению Колмогорова:
ОО
pt+s (х> а) — £ J Р™ (*”. лУа) Р3 {уп< Л). * G (5.1)
tl —О
где Pjn) (л/1, • ) есть сужение меры Р( (хп, •) на о-алгебру йя, И
ро(Л =	=	(5'2)
Э£п) есть вероятность того, что в момент t в популяции
имеется ровно п частиц при условии, что в начальный момент име-
лось п частиц и их положения в Ж были %а, ..., х„.
17.5.2.	Примеры. 1. Пусть ff — конечное множество в xgJ
интерпретируется как тип частицы Соответствующий ветвящийся
процесс является обычным ветвящимся процессом с конечным чис-
лом типов частиц.
2.	Пусть Ж = [0, оо) и х е X означает возраст частицы, кото-
рый меняется так, что Ах = At. Время жизни частицы задается не-
которой функцией распределения G(x). Каждая частица независимо
от других порождает случайное число частиц нулевого возраста.
Соответствующие этой модели ветвящиеся процессы, зависящие от
возраста, описывают некоторые фазы эволюции колоний бактерий
или других организмов.
3.	Одномерная модель ядерного реактора. Пусть на отрезке
[в, Ь] (активная зона реактора) в обоих направлениях могут дви-
гаться нейтроны, которые по достижении концов отрезка исчезают
(уходят из активной зоны)
Положим X = [а, Ь) и х с: ff есть положение нейтрона в момент
рождения Нейтрон, рожденный в точке х, с вероятностью 1/2 дви-
жется вправо или влево. В любом интервале длины dx из X нейтрон
с вероятностью adx обращается в некоторое число новых нейтронов,
каждый из которых независимо от других с вероятностью 1/2 дви-
жется вправо или влево. Эта модель описывается общим ветвящим-
ся процессом и является наряду с ее двух- и трехмерными анало-
гами исходной в математической теории ядерных реакторов.
17.5.3.	Уравнения для производящих функционалов. С ветвя-
щимся процессом g(t) (teZ) связаны следующие случайные меры
5 »(!,•) и Т)ж(-) на (ff, И) с целочисленными неотрицательными
значениями, g n(i, Л) — число частиц процесса £(/), оказавшихся в
момент t в множестве Лей прн условии, что в начальный момент
было п частиц и их положения в Ж определялись точкой хч е ff„:
т]х(Л) —число частиц-потомков в множестве ЯеЯ в момент превра-
щения, если частица-предок в момент превращения находилась в
точке х е X
Пусть з(х) — й-измеримая функция такая, что sup I s (х) | С 1>
xej
Ф, (*“, а (•))== М ехр | J tn а (у)	(/, dy) j.	(5.3)
15 В. С. Королюк и др.
450
ГЛ. J7. ВЕТВЯЩИЕСЯ ПРОЦЕССЫ
Ц7.Б.З
(5.4)
— производящий функционал случайной меры (Л •);
Л (х, з (•))
М ехр
In S (у) Ия (dy)
ЗЕ
— производящий функционал случайной меры т)„(•).
Если хп = (Xi, Хг, х„), ю
п
%(хП, «(•)) —П «('))•
Л=1
(5.5)
Пусть Qt(x, Л) есть вероятность того, что частица, начавшая блу«
ждан не из точки х е X, за время [0, /| не испытает превращения
и в момент t будет находиться в множестве Лей; Kx(t, Л) — ус-
ловная вероятность того, что время жизни частицы, находившейся
в начальный момент в точке х, не превышает t, а точка, в которой
находится эта частица в момент превращения, содержится в А е И.
Теорема 1. Производящий функционал Ф;(х, s(-)) (х = х1)
удовлетворяет следующим функциональным уравнениям-.
Ф/+Т (X, S ()) = ф» (X, Фт (, S <))), Ф1+1 (X, S (-)) =* Ф1 (X, ft (., 8 (•))),
г
Ф< (х, з ()) = J «(У) 9* V. dy) + Кх (du, dy) h (у,	(% s(•)))•
х	о
Пусть М (t, хп, Л) = М^я(/, Л) — среднее число частиц, ока*
вавшихся в момент i в множестве Лей при условии, что £(0) = х",
M(t, х’, Л) удовлетворяет уравнению
М (I + х, хп, Л) = jj Л1 (/, у. Л) М (х, хП, dy). (5.6)
х
Пример. Пусть £(/) (/е [0, оо)) — ветвящийся процесс,
у которого частицы не меняют своего положения между превраще-
ниями (скачкообразный ветвящийся процесс), причем
yt(x, 3E)=e“fli, 9>0.
Параметр у называется интенсивностью скачков частиц.
Производящий функционал Ф/(х, «(-)) такого процесса удовле-*
(гворяет дифференциальному уравнению
Ф/ (х, з (•)) + ?Ф1 (х, з (•)) = qh (х, Ф* (•, а (•))),
а математическое ожидание M(t, х, Л) имеет вид
СО
AJ (i, х, Л)== У JS^.e-4tLw(x, А).
18.1.1]	18.1. СЛАБАЯ СХОДИМОСТЬ МЕР	ДО
ли	fl. ХеА,
£Я(х. А)-1Л
10, х 0 А,
L^(x, A) = Ui\x(A),
Lin\x, Л)« J L(l> (x, dy) L(n-1) (у, A).
£
17.0.4. Вероятность вырождения. Для общего ветвящегося про»
цесса |(0, 1(0) = х, вероятность вырождения q(x) определяется
как любой из пределов:
lim P(t0)(x, зе),
q (х) «=
lim Ф, (х, 0).
t о»
«(*) удовлетворяет функциональному уравнению
<7(х)=й(х, <?(•)).	(5.7)
Если функция so(-) такова, что 0	s«(x)	1 (хе!) удовля»
творяет условию ft(x, So(-))	s<»(x) для всех хеХ, то q(x) «3’
®о{х).
Пусть t = О, I, 2,..., Af (x) = Mgx (I, IE), В (x) = Mg* (l, ЭЕ) —
- M (x) = Mgx (1, 1) [К (1, t)-l].
Теорема 2. 1) Если sup M (x) < I, to q (x) в 1.
Jej
2) Если inf Af (x) > 1 « sup В (x) < oo, to sup q (x) < 1.
X£=3E	xs£	*<=£
Литература: [20, 77, 91, 106, 115].
Глава 18. ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
ДЛЯ СЛУЧАЙНЫХ ПРОЦЕССОВ
18.1.	Слабая сходимость мер в метрических пространствах
18.1.1.	Сходимость на множествах непрерывности предельной
меры. Пусть {87, ©, р} — метрическое пространство с борелевскои
р-алгеброй 8 и метрикой р(х,»/); С(Я?)—пространство всех веще»
(:твенных непрерывных и ограниченных функций, онредетемных на
С нормой ||f||= sup j f (х)
Последовательность мер *) ц„, определенных на Э, называется
слабо сходящейся к мере ц (обозначение: => р), если выполни»
ется соотношение
lim ( f (х) gn (dx) = ( f (х) р (dx)	(1.1)
п оо J	J
для всех f е С(Ж).
•) Меры рл, вообще говоря, не нормированы.
15*
452
ГЛ. 18. ТЕОРЕМЫ ДЛЯ СЛУЧАЙНЫХ ПРОЦЕССОВ
[18J.S
Так как значения интегралов jf(x)p(dx) для всех /еС(Й’)'
однозначно определяют меру р, то из слабой сходимости рп =* р и
рл => v следует, что р = v.
Из определения слабой сходимости мер следует, что из сходимо-
сти по вероятности случайных элементов со значениями в Я? к
случайному элементу £ следует слабая сходимость распределений Рп
случайных элементов £„ к распределению Р предельного случайного
элемента Обратное утверждение не имеет места, за исключением
случая, когда предельное распределение Р сосредоточено в одной
точке.
Введем обозначения: Int А — множество внутренних точек А;
[Л] — замыкание множества А; А' — множество граничных точек
множества А
Лемма. Если рп => р, то для любого Лей имеют место не*
равенства
р(1п!Л)< lim ря(Л)< Пгн рп(Л)<р([Л]).	(1.2)
п^"«	«-*“
Множество А называется множеством непрерывности меры р,
если р(Л') = О,
Совокупность всех множеств непрерывности меры р обозначим
через
Теорема 1. Для того чтобы последовательность мер р„ слабо
сходилась к мере р, необходимо и достаточно, чтобы
Пт рп(Д)==р(А) для всех Аейц. (1.3)
п -> ОО
18.1.2.	Условие слабой компактности семейства мер. Множество
М мер, определенных на ©, называется слабо компактным, если из
всякой последовательности мер р„ из М можно выбрать слабо схо-
дящуюся последовательность.
Теорема Прохорова. Пусть S3 — полное сепарабельное
метрическое пространство. Для того чтобы множество М мер, опре*
деленных на SJ, было слабо компактным, необходимо и достаточно,
чтобы выполнялись следующие два условия:
a)	sup р (S3) < то; .	(1.4)
ц. е М
б)	для любого е > О существует такой компакт Kg, что
sup р (S3 \ Kg) < в.	(1.6)
ц & М
Семейство мер М, для которого выполнены условия а), б)', на-
зывается плотным.
Замечание. Полнота пространства S3 используется только
при доказательстве необходимости условий а) и б) теоремы Прохо-
рова.
При доказательстве слабой сходимости последовательности мер
устанавливаются слабая компактность последовательности мер и
единственность предельной меры.
Теорема 2. Если последовательность мер рп, определенных на
$ — о-алгебре борелевских множеств полного сепарабельного метри*
18.1.3]	18.1. СЛАБАЯ СХОДИМОСТЬ МЕР	453
четкого пространства 8В, такова, что для всех feC(&?) существует
предел
L(f)= lim ( f (х)	(dx),	(1.6)
w J
то существует такая мера что
L(f)~\f(x)n(dx),
т. е. последовательность мер ц„ слабо сходится к р.
18.1.3.	Условия слабой сходимости последовательности мер. По«
следовательность функций f„eC(S&) слабо сходится к f, если
функции fn ограничены в совокупности и для всех xsS? суще-
ствует предел lim fn (х) = f (х).
ft -> оо
Множество функций FcC (SF) называется слабо замкнутым,
если предел любой слабо сходящейся последовательности функций
из F принадлежит F.
Теорема 3. Последовательность мер слабо сходится к мере
pi тогда и только тогда, когда она слабо компактна и для некото-
рого множества функций FucCffl), слабое замыкание которого
совпадает со всем С(8?), выполняется соотношение
lim ( f (х) цп (dx) f (х) ц (dx), f е= Fo. (1.7)
п OS J	J
Замечание. Множество функций Fc:C(Я?) называется то-
тальным, если из равенства f (х) щ (dx) »= f (х) ц2 (dx) для всех
f & F следует g! = ц2. Теорема 3 остается справедливой, если Ft —
тотальное множество.
При доказательстве предельных теорем для случайных процес-
сов удобно применять условия сходимости частных распределений.
Теорема 4. Пусть Йо — класс открытых множеств в 8S, со-
держащий вместе с двумя множествами их сумму и пересечение и
удовлетворяющий условиям: 1) а-алгебра, порожденная классом Я»,
содержит все открытые множества: 2) все множества из Йо явля-
ются множествами непрерывности данной меры р.
Если для слабо компактной последовательности мер ]хл выпол-
няется условие
lim ц„(4) = ц(4), As Йо,	(1.8)
п -> оо
го Цл слабо сходится к р.
Замечание. В различных функциональных пространствах в
качестве класса Йо обычно рассматривается класс всех открытых ци-
линдрических множеств непрерывности предельной меры, а значит,
применяются условия сходимости конечномерных распределений.
При слабой сходимости мер имеет место сходимость интегралов
и для некоторых разрывных функций. При этом используется то об-
стоятельство, что множество точек разрыва ©-измеримой функции
является ©-измеримым множеством,
454 ГЛ 18- ТЕОРЕМЫ ДЛЯ СЛУЧАЙНЫХ ПРОЦЕССОВ U8.1.
Лемма. Если последовательность мер ця слабо сходится к ц,
го
Um ( f (х) цп (dx) — ( f (х) Ji (dx)	(1.9)
П ОО J	J
для всякой ^-измеримой р почти всюду непрерывной и ограниченной
функиии f.
18.1.4.	Сходимость мер в линейных нормированных пространствах,
В линейных нормированных пространствах условия слабой сходи-
мости мер можно сформулировать в виде условий сходимости ха-
рактеристических функционалов.
Пусть {^, 8} — сепарабельное банахово пространство с о-ал-
геброй борелевских множеств, L — линейное множество линейных
функционалов на 88 такое, что минимальная о-алгебра, относительно
которой измеримы все функционалы 1 е L, совпадает с 3.
Теорема 5. Последовательность мер на {88, 8} слабо схо-<
дится к мере ц тогда и только тогда, когда она слабо компактна и
выполняется соотношение
lim ^eHW|Xn(dx) = (	(dx), /е=£.	(1.10)
П -> оо J	j
Г 18.2. Слабая сходимость мер в гильбертовом пространстве
Случайные величины и вероятностные распределения в гиль-
бертовом пространстве могут быть использованы при изучении слу-
чайных процессов и полей, интегрируемых с квадратом в своей об-
ласти определения по некоторой мере. В частности, слабая сходи-
мость мер в гильбертовом пространстве может быть использована
для получения предельных теорем для интегрируемых с квадратом
процессов и полей.
18.2.1.	Случайные величины в гильбертовом пространстве и их
распределения. В дальнейшем через X обозначается сепарабельное
гильбертово пространство, а через 3 — <т-алгебра его борелевских
подмножеств Случайной величиной со значениями в X называется
измеримое отображение 5 = Е(<о) некоторого вероятностного про-
странства (й, Р) в (X, SB). Мера р (Л) = Р (Л)} *= Р {<о:
Е (®) е Л) называется распределением величины Обозначим через
Qi, оператор проектирования на пространство L с. X. С каждой ме-
рой и на 8 можно связать семейство мер {рг, L — конечномерное
подпространство Л), где (С) = р. (<2£ С), Сс£, С е SB. Это
семейство согласовано: при L с. N (L, N — конечномерные простран-
ства)
(2.1)
Совокупности семейств мер {pt, L — конечномерное подпространство
Л), где — борелевская мера на L, удовлетворяющая (2.1), назы-
ваются конечномерными распределениями. По конечномерным рас-
пределениям можно построить конечно аддитивную функцию мно-
жеств ц, заданную на алгебре 8о множеств вида Qf'C, где С —
борелевское множество в L:
18.2,11	18.2. СЛАБА» СХОДИМОСТЬ МЕР	ДО
Основной вопрос в теории меры в гильбертовых пространствах сле-
дующий: когда такал функция продолжается с 8В на 9 как счетно-
аддитивная? Ниже дается ответ на этот вопрос. Конечномерные
распределения могут быть заданы своим преобразованием Фурье
Или характеристическим функционалом
X (z) ж а*1 г 1 f|*£2(df), z е X,
где Lz — одномерное пространство, порожденное вектором z; x(z)—
непрерывная и положительно определенная функция (для любых
Zi....zn е X и комплексных cci, ..., ап
(**-«() айа,>0).
Обозначим через /,+ (X) множество симметрических неотрицатель-
ных ядерных операторов (т е. таких операторов V, для которых
оо для некоторого орюнормированного базиса
Ы в X).
Теорема (Минлоса — Сазонова). Для того чтобы непрерыв-
ный положительно определенный функционал у (г) был характери-
стическим функционалом конечной меры ц на Ъ (г. е. % (z) =
= е1 (dz)^, необходимо и достаточно, чтобы для всякого
в > О можно было указать такой oneparopS е Lf (X), что Ре(у (01 —
—Х(г)) е> как только (S'. г) jg: 1.
Пусть | — величина в X. Тогда (g, г) — числовая случайная ве-
личина для всех z. Если р — ее распределение, то M(g,
» J (х, г) ц (dx). Если эта величина определена для всех z <= X,
то она имеет вид (a, z), где аеХ- элемент, называемый средним
значением величины g (или распределения р); дисперсия (I, 2)
D (g, z) = М (g, z)2 - (М (g, z)V = J (х - a, z)2 р (dx).
Если она конечна для всех г, то величина справа есть неотри-
цательный квадратичный функционал от z, он представим в вида
(Bz, z), где В — симметрический неотрицательный оператор в X.
Оператор В называется корреляционным оператором величины 5
(или распределения ц)
Случайная величина g в X называется гауссовской, если (g, z)
Имеет нормальное распределение для всех г. Характеристический
функционал гауссовской величины g определяется равенством
у (z) Me* z) = ехр (а, г) —g (Bz, z)|,
где а —среднее значение g, В — корреляционный оператор g, а —
произвольный элемент X, (X).
466 ГЛ. 18. ТЕОРЕМЫ ДЛЯ СЛУЧАЙНЫХ ПРОЦЕССОВ 118.2.3
18.2.2.	Условия компактности семейства мер в гильбертовом
Пространстве. Пусть Тс— множество всех симметрических неотрица-
тельных вполне непрерывных (компактных) операторов в X, н пусть
Sj = {Л е L? (X), Sp А < 1).
Слабая компактность семейства мер в гильбертовом простран-
стве эквивалентна равномерной непрерывности (в определенном
смысле) семейства характеристических функционалов мер.
Теорема 1. Пусть Л1 — семейство конечных мер на 89, а (г)
(а ® Й?) — характеристический функционал меры р е Af. Для сла-
бой компактности множества М необходимо и достаточно, чтобы:
а)	Хи (0) были ограничены в совокупности для всех р е Af;
б)	для всякого е > 0 можно указать оператор В е Тс и для
каждой меры р е Af — оператор Ац е Si такие, что Re (Хи (°) —
— Хи (z)l < в три (ВА^Вг, z) < 1.
Замечание. Существует пример, в котором для слабо ком-
пактной совокупности мер нельзя указать такой оператор AeS
(Общий для всех мер), что Re [%ц (0) —	(г)] < е при (Az, z) < 1.
t В условии б) теоремы 1 строятся операторы CgeS, представи-
мые в виде С„>=ВА В, где ВеГ,, Лек. Ниже приводятся
V.	U	Ц	G	1
условия, когда такое представление возможно.
Лемма 1. Для того чтобы семейство операторов C^eS было
представимо в виде Cw == ВАцВ, где В @ Тс, A(J е Si, необходимо,
чТобы в каждой ортонормированном ба шее {е*} ряд
сходился равномерно по р, и достаточно, чтобы зтот ряд сходился
равномерно хотя бы в одном базисе.
Приведем результаты, позволяющие заменять условия леммы 1
условиями компактности в некоторых пространствах операторов.
Обозначим через 1ДХ) пространство симметрических операторов С,
для которых Sp]C] < оо (модуль симметрического оператора опре-
деляется как положительный корень квадратный из его квадрата),
И будем полагать II СII i = Sp|C|. С такой нормой £i(X) является
банаховым пространством.
Лемма 2. Для того чтобы семейство операторов {Сц, р<еAf)
было представимо в виде = ВА^В, где В <s Тс, А^ е Sp необ-
ходимо и достаточно, чтобы множество (Сц, [ie М) было вполне
ограниченным в Lt(X).
(Подмножество метрического пространства вполне ограничено,
если оно имеет для всех е > 0 конечную е-сеть. Для полных метри-
ческих пространств это означает, что замыкание этого подмножества
есть компакт)
Обозначим через £,(Х) пространство симметрических операто-
ров С, для которых С2L«(А)- это — гпчьбераово пространство со
скалярным произведением <А, В> = Sp АВ.
Лемма 3. Множество {Сц, реА!) операторов из S будет
вполне ограниченным в £i(A) тогда и только тогда, когда множе-
ство {Ctf2, р ег Af} будет вполне ограниченным в £а(Х).
Далее приводятся условия компактности семейства мер или
сходимости последовательности мер, использующие операторы, ана-
18.2.3]	18.2. СЛАБАЯ СХОДИМОСТЬ МЕР	467
логичные корреляционным. Пусть — оператор из S, определяе-
мый равенством
(ВцЯ, z) =» j (z, х)2 (1 + I х ]2)-1 g (dx).
Теорема 2 Для слабой компактности семейства мер М на ©
необходимо и достаточно, чтобы
а)	для всякого е > 0 существовало таков О 0, что
sup р {х: | х I > с) < е;
це.И
б)	семейство операторов {Вц, р е Af) было вполне ограничен-
ным в Lt (X) (или семейство операторов {д^2, g <Е М} было вполне
ограниченным в L2(X)).
Замечание. Для выполнения условия а) необходимо и до-
статочно выполнения одного hj условий:
1)	lim sup \ -7-,—j-—iT g (dx) = Ij
Ш U J 1 + A | x |a * '
2)	lim sup ( e~^l *' p (dx)«1;
A 0 pi J
3)	существует такая возрастающая функция <р(/), <р|4-оо
при t f +оо, что sup \ <р (| х |) р (dx) < оо.
u J
Следствие. Пусть меры цеМ имеют корреляционные опе-
раторы A^^S, где (4uz, z) => (z, х)2 р (dx). Тогда для слабой
компактности семейства М достаточно, чтобы множество {Лц,
цеМ) было вполне ограниченным в Ц(Х), или множество {л^ ,
р а М} было вполне ограниченным в ЬДХ), или в некотором орто-
нормированном базисе {ej ряд ^(Л^, ек) сходился бы равно*
мерно по р е М.
Приведем условия слабой сходимости последовательности меть
Теорема 3. Для того чтобы последовательность мер р„ слабо
сходилась к мере р, необходимо и достаточно, чтобы
а)	множество операторов , п—1, 2, ...} было компакт-
ным в Lt (X);
б)	для всех з е X
lim ( eil*‘ x\in (dx) = ( е1(г’ л)р(^*)-
П-> оо J	J
18.2.3.	Суммирование независимых случайных величин со значе-
ниями в гильбертовом пространстве. Пусть gs, (1<! ...—после-
довательность независимых случайных величий сЬ Значениями В
гильбертовом пространстве X. Будем обозначать через рл распреде*
ление величины |к; %n (z) — ее характеристический функционал.
Теорема 4 (обобщение теоремы Колмогорова о трех рядах).
ОО
Для того чтобы ряд из случайных величин	сходился в X
4Б8 ГЛ 18. ТЕОРЕМЫ ДЛЯ СЛУЧАЙНЫХ ПРОЦЕССОВ (18.3.1
?ло норме) с вероятностью 1, необходимо, чтобы для всех с > О
сходились ряды
оо
а)	£ Р {[ Е«1 > с};
о»
б)	£ ап (с), «п (с) *= \ xixn (<fx);
n-|	I X Г<с
<х>
“)	$	1 A-—	(с) l2 (rfx),
ге—1 |х|<С
К достаточно, чтобы эти ряды сходились хотя бы при одном с > 0.
ОО
, Теорема 5. Для сходимости ряда V gn необходимо и до-
п—1
ОО
статочно, чтобы произведение %я (а) сходилось к характеристи-
ка
вескому функционалу некоторой случайной величины равномерно
в каждой области {И
Приведем также простейший вариант центральной предельной
теоремы в гильбертовом пространстве.
Теорема 6. Пусть одинаково распределены, J хцп (dx) = 0,
| х |г pn (t/x) < оо. Тогда последовательность распределений v«
Величин
=	(£l + • • • + Ел)
слабо сходится к нормальному распределению в X, задаваемому ха-
рактеристическим функционалом
% (г) = ехр |	\ (z, х)г щ (dx)
18.3. Предельные теоремы для непрерывных
случайных процессов
18.3.1.	Общие условия сходимости распределений функционалов.
Вдесь рассматриваются случайные процессы, непрерывные с вероят-
ностью 1.
Пусть C[fl pj (Ж") — множество непрерывных функций х((),
определенных на отрезке [а, 6] и принимающих значения в полном
сепарабельном метрическом пространстве №.
Введем в пространстве (№) метрику
г (х, у) =* sup р (х (0, у (0),	(3.1)
e<t<6
18.3.1]	18.3. ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ	459
где р(х, у)— расстояние в №. Метрика (3.1) превращает С[й>	(Я?)
в полное сепарабельное метрическое пространство.	i
Обозначим через Ь| (Й?) о-алгебру всех борелевских мно-
жеств в С[Я Ь|(Й?)- Эта о-алгебра совпадает с минимальной О-ал«
геброй, содержащей все цилиндрические множества из С|й_ 6j (£₽).
Пусть £(/)—случайный процесс со значениями в №, определен-,
ный для t с: [а, Ь| и непрерывный с вероятностью 1. Тогда вероят-
ностная мера ji, соответствующая случайному процессу £(/), сосре-
доточена на измеримом пространстве {С^, Ь] (ЗВ),	6] (№)). При
этом значения меры ц на цилиндрических множествах из С[Я> 6] (№)
ведаются конечномерными распределениями процесса g(f).
Обычно в предельных теоремах для случайных процессов пред-
полагается сходимость конечномерных распределений, т. е. сходи-
мость мер ри(Л) к мере ц(И) для всех цилиндрических множеств А,
являющихся множествами непрерывное in предельной меры ц.
Если предельная мера ц сосредоточена на пространстве непре-
рывных функций С[О 6] (ЗВ), то класс открытых цилиндрических
множеств непрерывности меры ц удовлетворяет условиям теоремы 4
§ 18.1. Поэтому для доказательства слабой сходимости мер [Ц к р
требуется установить условия слабой компактности мер ц„ (п 0),
для чего достаточно указать общий вид компакта в пространстве
с]о, ai (^) <см- теорему 2 § 18.1).
Пусть Ла —• положительная монотонная непрерывная функция,
определенная при б > 0 и удовлетворяющая условию Х+о = 0.
Пусть Ло — компакт в №.
Лемма 1. Множество К(Хп, ?.{) функций x(t), удовлетворяю-
щих условиям: а) х(/)еЛ0,	б) р(х(Л),
Р1~ *2 I < 6 V6 > 0, компактно в С(о 6) (Я?).
Для всякого компакта Ко в С(оЬ] (Я?) можно указать компакт
Хо в № и функцию Zfl, положительную монотонную непрерывную
при б > 0, с Л+о = 0 такие, что Ке а К (Хо, Ха).
Пусть |п(/) (п > 0)—последовательность случайных процессов,
выборочные функции которых принадлежат пространству С|0> (ЗВ)
с вероятностью 1, и ц,, — вероятностные меры, соответствующие про-
цессам |я(0-
Лемма 2. Слабая сходимость мер р„ => цо при п-»-оо эквива-
лентна сходимости распределений f(in(-)) к распределению /(!«(•))
для всякого p-почти всюду непрерывного S8j(l (ЗВ)-измеримого
функционала f(x).
Приведенные ниже условия (3.2)—(3.4) являются условиями
слабой компактности последовательности мер р„, соответствующих
случайным процессам Е.ДО-
Теорема 1. Пусть конечномерные распределения процессов
l„(t) сходятся к конечномерным распределениям процесса Ео(/),
Для того чтобы для всех функционалов f, непрерывных на
С[й Ь] (ЗВ), распределения }(%,«()) сходились к распределению
ЛЫ-)), необходимо и достаточно, чтобы для всякого X > 0 вы-
полнялось соотношение
Jim sup Р Г sup р (1п (h),	(h)) > М = 0.	(3.2)
C->o a	l|fi“li]^6	J
460 ГЛ. 18 ТЕОРЕМЫ для СЛУЧАЙНЫХ ПРОЦЕССОВ Ц8.3Л
Замечания. 1. Вместо условия (3 2) для любого %>0 до-
статочно выполнения условия
Um lim Р f sup р (|n (f0, gn (t2)) > ?A = 0.	(3.3)
J^O Л + М <Ifi-fsK8	'
E Вместо условия (3 2) достаточно выполнения следующего
условия' существуют такие а>0, 0 > 0 и Н > 0, что для всех
и, h сн [а, 6] и всех п
М Ip (|„ (G), £n(X2))]°<//Ui-M’+|J.	(3-4)
Для различных типов непрерывных случайных процессов усло-
вия сходимости функционалов конкретизируются
18.3.2.	Процессы с независимыми приращениями. Для непрерыв-
ных процессов с независимыми приращениями |л(0 (п >= 0), опре-
деленных иа отрезке [а, Ь], со значениями в банаховом простран-
стве условия сходимости функционалов устанавливаются с уче-
ном следующего свойства выборочных функций:
п-1
I»m s р {16 (^+1) ~ 6 (**) | > е} - 0	(3.6)
fc-0
для всех е > 0 Здесь а = 10 <...<_ tn ж Ь,
fi = max(^+J-/fc).
Я
Теорема 2 Для того чтобы для всякой функции <р(х), непре-
рывной на С[я> 6] (й?), распределения случайных величин <р(|п(-))
сходились к распределению величины <₽(!<>(•)), необходимо и доста-
точно, чтобы выполнялись условия-,
1)	частные распределения процессов ^n(t) сходятся к частным
распределениям процесса go (0;
2)	для всякого в > 0
hm hm" sup Р {I In (G) — |о (li) | > е}« 0.	(3.6)
6->0
18.3.3.	Марковские процессы. Для непрерывных марковских про-
цессов |л(0 (п > 0), определенных на отрезке (я, Ь|, со значениями
в полном метрическом пространстве SB с метрикой р и вероятно-
стями перехода Рп(/, х, в. Л) введем
On (ft. в)«sup{Pn </1, X, ta, Ve (х)); X е Я?, |/2 — Л |<Л), (3.7)
где Уе (х) = {у р (х, у} > в).
Теорема 3 Пусть конечномерные распределения процессов
1"(Л (n > 1) сходятся при и-*-сю к конечномерным распределениям
процесса gof?) и выполнены условия: для всякого е > 0
п—1
lim sup ап (ft, в) == 0, lim £ р {Р(I (^+i)> £(/*))>е}==0’
ft > о П	О -> 0
(3.8)
еЭеа = /0<^< ... <in = b, d = max(#ft+t -/А).
Тогда для всякой функции <р, непрерывной на С[в>с] (^), рас-
пределения <₽(!,(•)) сходятся к распределению <J>(|o(')h
18.3 5]
183 ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
461
18.3.4.	Непрерывные процессы, построенные по суммам незави-
симых случайных величин. Пусть {£я1, |„2>	— по-
следовательность серий независимых в каждой серии числовых слу-
чайных величин, удовлетворяющих условиям
Min/ = 0, 1-1..........kj Dt,nl = bni, £^=1.	(3.9)
i-l
Определим случайные функции £„(/) для t е [0, 1] соотноше-
ниями
k
^nk “ S	^л(>
(зл0)
gn (0 - S„ft + -------[S„ft+, - Sn J, f fnJt+1).
lnk+l lnk
При этом Sno = 0, tno »== 0 Тогда (<) является случайной ло-
маной, соединяющей точки на плоскости с координатами (/nt, S„t)
(k = 0, 1....Ал).
Приведем условия, при которых частные распределения процес-
сов £„ (/) и распределения функционалов от этих процессов сходятся
к частным распределениям и распределениям соответствующих
функционалов от винеровского процесса w(t) (см. п. 16 6 1).
Теорема 4. Пусть независимые случайные величины С
функциями распределения Fni (>') удовлетворяют условию (3 9) и
условию Линдеберга-
х2 dFni (х)
= 0
(3.11)
для всякого е > 0
Тогда конечномерные распределения процессов |л(0, определяе-
мых соотношением (310), сходятся к конечномерным распределе-
ниям винеровского процесса w(t) и распределения f(£n(-)) сходят-
ся к распределению f(w( )) для всякого непрерывного на
Ci0. ]] (R) функционала f.
18.3.5.	Предельные теоремы для функционалов or сумм незави-
симых одинаково распределенных величин Пусть {£п, п — 1,2, .. }—
последовательность независимых одинаково распределенных величин,
k
M|n==0. Dgn=l. Положим Sft = J^ gi. So = 0 Здесь прнве-
дены некоторые предельные теоремы для функционалов типа maxi-
muma и аддитивных функционалов от последовательности сумм St.
Теорема 5. Пусть a(t) ub(t) (t е [0, 1]) — две непрерывные
функции. Тогда
lim Р •? max
1 < к < п
[ Sk — njna (kin) |
b (A/я)
= P{|w(0-a(0|<HO. /е=[0. 1]}-
462 ГЛ. t8. ТЕОРЕМЫ ДЛЯ СЛУЧАЙНЫХ ПРОЦЕССОВ Ц8.3.1
Следствие.
1)	lim PfmaxIS. |<a-Vw4 = P( max I и» (f) I <«l;
Я-><» V k 1 Bl	>	>
2)	lim P fmaxS. < a VM = P f max w (0 < al;
n->oa < k *	f	J
3)	lim P (S. a {k/n) -y/n, A=1...nl =
n->oo 1 B	'
-P{>(l)<e(0, fe=[o, ID.
В следующей теореме устанавливаются условия сходимости рас«
пределений по вариации.
Теорема 6 Пусть при некотором m величина Sm имеет нену-
левую абсолютно непрерывную компоненту. Тогда распределения ве-
личин
(1 С 1 в. ( k Y1	I * о , в. / Ш
—=-5ь + М— 11, max |—T=-Sb+ft/—|l,
к к п))	-yn в \л/|
еде h(t)—функция из С[0> у, сходятся при п-*-оо по вариации со-
ответственно к распределениям функционалов от винеровского про-
цесса max (ш (f) 4* Л (0) и max | иг (t) + h (I) |.
о</<;1	о</<1
Приведем результаты, относящиеся к аддитивным функциона»
лам.
Теорема 7. Пусть h(х) — локально интегрируемая на прямой
функция. Тогда для почти всех а
Теорема 8 Пусть величины g* имеют абсолютно непрерывную
плотность р(х) относительно меры Лебега, и р'(х1|2р~[(х)с?х<оо.
Если функция й(х) дифференцируема в некоторой окрестности нуля
и имеет там. отличную от нуля производную, то распределение
величины

сходится при п-»-оо по вариации к распределению величины
1
ft (w (t)) dt.
о
Пусть Ф,(п. хг, .... хт}—последовательность измеримых ло-
кально ограниченных функций в Rm. Рассмотрим последовательность
случайных величин
п~ m
*-0
18 3.6]	18.3. ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ	463
Теорема 9. Пусть для каждого С > 0	1
hm	sup	| Ф„ (xb ..., xm) | = 0.
л-»®» [।<<:? V»".	•••. «
Тогда
1)	предельное распределение случайной величины t]n существует
тогда и только тогда, когда существует предельное распределение
величины
п
ijn= Е ®n(Sk),
k^l
где Фп (х) = МФП (х, х + S,, ..., х + Sm_i);
2)	предельные распределения величин т]п и fj, в атом случае
совпадают-
3)	предельное распределение величины тщ существует, если для
всех С > О
______	1	г	„
lim —j=-	\	Фп	(у)	dy <	со
п->« уп	J
ipKcV»
и существует для всех х предел
х
2 С —
G(x)= lim —I Фп(у)ду,
П->са уп J
О
а предельное распределение величины ijn совпадает с распределен
нием величины
ч> (1)	I
f) J О (х) dx — О (w (s)) dw (s).
о	о
18.3.6. Предельные теоремы для возрастающих процессов и мар-
тингалов. В этом пункте рассматриваются непрерывные возрастаю-
щие процессы и числовые мартингалы Рассмотрим сначала условия
слабой компактности мер, соответствующих таким процессам в
С|о, П
Теорема 10 Пусть т\п(1) (/е- [0. 1]) — последовательность
возрастающих процессов, г]„(0)=0 Для того чтобы последователь-
ность соответствующих им мер быт слабо компактна, необходимо
и достаточно, чтобы для каждого с >• 0 и в > 0
т-1
тя А? S Р (**+’) Л С ~ Л С > «) = °’
такД»£->и п ^=о
еде 0 = to < ti <z .	</т ~ 1,	=
. Теорема 11. Пусть £„(0 (t е. [О, 1]) — последовательность
непрерывных мартингалов, an(t)—характеристики Для того
чтобы последовательность мер, соответствующих была слабо
компактна, необходимо и достаточно, чтобы
464 ГЛ. 18- ТЕОРЕМЫ ДЛЯ СЛУЧАЙНЫХ ПРОЦЕССОВ	[J8.4.I!
а) последовательность 1«(0) была ограничена по вероятности’,"
б) меры, соответствующие an(t), были слабо компактны.
Используя теоремы о компактности, можем получить теоремы
ф слабой сходимости мер.
Следствие. Пусть £n(/)	(/ е [0, 1])—последовательность^
Непрерывных мартингалов с характеристиками Для того что-"
Оы меры, соответствующие £„(/), слабо сходились к мере рШ1 соот*?
рвтствующей винеровскому процессу, необходимо и достаточно вы-’,
полнения условий-.
а)	(0) -> 0 по вероятности-,
б)	ая(/) -»/ по вероятности для i е f0, 1];
в)	последовательность мер, соответствующих an(t), слабо ком-
пактна.
Приведем общую теорему о сходимости к винеровскому про*'
дессу.
Теорема 12. Пусть gn(0 (fе[0, 1]) — последовательность
непрерывных процессов, для которой последовательность соответ-
ствующих им мер рп слабо компактна Для того чтобы =>- ц™, не-
обходимо и достаточно, чтобы, каковы бы ни были натуральные
« > k и непрерывная ограниченная функция <р (Х|, ,,,, Xs) на R*,
АгМф(и(т)...4т))х
х '{|«»(-т-Н (т) |<’) (6“	"8"	-1>:
«Л('-(т).........4т)) X
х'{I «.(2г-)-«»(т)М )~Е“ ^т)) “ т]=0-’
18.4. Предельные теоремы для процессов без разрывов
второго рода
18.4.1.	Метрика в пространстве функций без разрывов второго
рода. Пусть Df0 jj (Я?) — множество функций x(t). определенных на
отрезке [0, 1], принимающих значения нз полного сепарабельного
метрического пространства S6 с метрикой р и имеющих предельные
еначения х(/ + 0) для 0<(<1 и х(< —0) для 0 < t 1.
Поскольку функции, совпадающие во всех точках непрерывно-
сти, не различаются, то естественно фиксировать значения функций
в точках разрыва:
х(1) = х(1 + 0), х (0) = х (+0), х(1)=х(1—0).
Величину р(х(/— 0), х(/)) называют величиной скачка функции
*(0 в точке t.
Обозначим через Л совокупность всех непрерывных монотонно
возрастающих числовых функций на отрезке [0, 1] с ?.(0)=0,
л(1) — 1, т.е. Х(1) — взаимно однозначное и непрерывное отображе*
fane [0, 1] на [0, 1].
18.4.3]	18.4. ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ	465
Метрика г0(х, у) в пространстве D[01j(S?) определяется соот-
ношением
Гл (*, У) = inf (в > 0: 3^ *= л> SUP I log —^-7—1 < в,
sup Р (X (0, F(X(f)))Ce}. (4.1)
Метрика Го(х, у) (ее называют метрикой Скорохода) превра-
щает D(Ojlj (ЗВ) в полное сепарабельное метрическое пространство
(пространство Скорохода).
Общий вид компактных множеств в DjOi ц (ЗВ) определяется с
использованием критерия отсутствия разрывов второго рода. Опре-
делим для каждой x(t) е £>[0 ц (ЗВ) и С > 0 величину
Дс (х) = sup {mln [р (х (1'), х (0), р (х (t\ х (("))];
t - С < Г < t < t" < 14- С, f'. t, t" «= [0, Ц) 4-
+ sup {p (x (0). x (0); 0 < t < C) 4-
+ sup {p (x (t), x (1)); 1 — C < t < I). (4.2)
Пусть Xo — компакт в ЗВ, a Xc — положительная монотонная не-
прерывная функция, определенная при С > 0 и удовлетворяющая
условию Х+о = 0.
Теорема 1. Множество функций К л (Хо, АД удовлетворяю-
щих условиям:
1)	x(t) «=Х0, О С t < 1;
2)	Дс (х) < Ас уС > 0,
компактно в D[0 ц (ЗВ).
Для всякого компакта К» в Р[0> ц (ЗВ) можно указать компакт
XbCzBB и функцию Ас, положительную монотонную и непрерывную
при 00 с Х+о 0 такие, что Кл с. Кр(Хо, Ас).
18.4.2.	Основная предельная теорема для процессов без разры-
вов второго рода.
Теорема 2. Пусть частные распределения процессов |п(<)
'(0 г=: t г=: 1, п^О), выборочные функции которых принадлежат
£>[0< ад (ЗВ) с вероятностью 1, сходятся при л -> оо к частным, рас-
пределениям процесса £о(/) без разрывов второго рода. Для того
чтобы для всякого функционала j, определенного на Р[о_ 1( (SB) не-
прерывного в метрике г о, распределения f(in(-)) сходились к рас-
пределению f(Eo(-)), необходимо и достаточно, чтобы для всех
е > 0 выполнялось условие
lim lim Р {Дс (Е (•)) > в) — 0.	(4.3)
О0 п->«>	1 °' "	’	'
Замечание. Вместо условия (4.3) достаточно выполнения
следующего условия: существуют такие а > 0, ₽>0 и Я > 0, что
для всех 0 < ti < ti < ts 1 и всех п > 1 выполнено неравенство
м [р ап (Л), in (f2)) p an (t2), in (fs))ia < н (h -1,)‘+₽ (4.4)
18.4.3.	Предельная теорема для марковских процессов. Пусть
in(t) (0 t 1, п ^ 0)—последовательность марковских процес-
466 ГЛ. 18. ТЕОРЕМЫ ДЛЯ СЛУЧАЙНЫХ ПРОЦЕССОВ Ц8ЛЛ
сов, определенных на отрезке [0, 1], выборочные функции которых
принадлежат пространству Z>[0 ц (й?) с вероятностью 1. Обозначим
через Рп (t, х, s, А) вероятности перехода для процесса |я(() и вве-
дем Уе (х) = {у: р(х, у) > е) для е > 0.
Теорема 3. Пусть частные распределения марковских процес-
сов сходятся при п-*-оо к частным распределениям £<?(/) «
для каждого е > 0 выполнено условие
lim lim sup {Рп (t, х, s, V£ (x)); xe№, O^s — 1^й} = 0.
Ъ->0 n->oo
(4.5)
Тогда для всякого непрерывного на О[0_ ц (jit?) функционала f рас-
пределения {(£,»(•)) сходятся к распределению /(£<)()).
Процессы с независимыми приращениями в полном линейном
нормированном пространстве ЗВ являются частным случаем марков-
ских процессов. Следующая теорема является следствием теоремы 3.
Теорема 4. Пусть £„(0 (п 0) — последовательность процес-
сов с независимыми приращениями, определенных на [0, 1], выбо-
рочные функции которых принадлежат Й|0> jj (Я?) с вероятностью 1.
Если частные распределения процесса £„(/) сходятся к частным рас-
пределениям процесса |е(0 и для всякого е > 0 выполнено условие
lim lim sup Р { |	(/) —	(s) ] > e) = 0,	(4.6)
h->0 n->oo
то для всякого функционала f, непрерывного на (Я?), распре-
деления /(&,()) сходятся к распределению /(&>(•))•
Замечание. В теоремах 2—4 достаточно требовать, чтобы
функционал f был измерим и ро-почти всюду непрерывен; Цо — мера,
соответствующая предельному процессу |о(/).
18.4.4.	Применение к исследованию асимптотического поведения
эмпирической функции распределения. Пусть £,	.... £п — незави-
симые одинаково распределенные числовые случайные величины О
непрерывной функцией распределения F(l). Положим
(/)=4 Е (/)=(/) -f
Лемма. Конечномерные распределения процессов Т)в(0 схо-
дятся к конечномерным распределениям гауссовского процесса ч](().
для которого Мт, (1) ™ 0, Мт) (i)t) (s) =»/'(/ As) (1 — F (i V s))-
Положим £„(<)= T)n(f-1(/))> 1(0 =“ *)(f"’(0) (!F~*— обратная
функция к F). Здесь |(/)—гауссовский процесс, определенный на
[0, 1], Mg (<) =0, М£ (0 £ (s) = t Д s (1 — t V s). Он называется
броуновским постом, и его распределения совпадают с условным
распределением винеровского процесса w(l) при условии и>(1) — 0.
Теорема 5. Меры, соответствующие процессам (О 9
Dio, П W» слабо сходятся к мере, соответствующей процессу |(t)«
Следствие. 1) Для всех а > 0
lim Р {V« sup (F* (t) — F (I)) < a) =
»->eo	4	-«</<00'	y 1
"Ч$1М<вН“Г*
18.4.5]
18.4. ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
467
(Предельное распределение критерия Н. В. Смирнова.)'
2)	Для всех а > О
lim Р {Vn sup IF* (0 — P (0 I < a} =
K->w	—oo<f<oo 1	'	'
-p utc ,15 w 1 < “> - X‘-
(Предельное распределение критерия A. H. Колмогорова.)
3)	Для всех а > О
Z оо	\
11m Р{п ( [F* (0-F(012dF(0 <а? = G (а),
П~>оо (	•* L	J
где G(a) —функция распределения, для которой
Л-1
(Предельное распределение оЛкритерия.)
18.4.5.	Сходимость сумм одинаково распределенных независимых
случайных величин к однородному процессу с независимыми прира-
щениями. Пусть Вт, .... Вил при каждом п являются независимыми
одинаково распределенными случайными величинами в Rm. Положим
k
,=[±rL.-r)-
/«•1
Рассмотрим также однородный процесс с независимыми прираще-
ниями §(0 в Rm.
Будем предполагать, что Е(0—сепарабельный процесс. Тогда
его можно считать непрерывным справа; при этом его выборочные
функции на [0, 1] с вероятностью I принадлежат D(Oi ц (Rm). Этому
Пространству принадлежат и выборочные функции 5п(0.
Теорема 6. Если распределение %,„<.!) схсдится к распределе-
нию g(0, то последовательность мер, соответствующих процессам
£»(0, слабо сходится в пространстве D(o (! (Rm) к мере, соответ-
ствующей £(0.
Замечание. Распределение £(0 является безгранично дели-
Цг1|+ 1
мым. Условия сходимости распределения £	= В (1) к безгра-
fc=l
нитно делимым распределениям приведены в п. 53.1.
Следствие. 1) Пусть а(1) и 6(0 > 0 (f е[0, 1]) — непре-
рывные функции, а > 0, Rm = R. Тогда в условиях теоремы в
Xр {а (4) ~аЬ (4) <^<а (4)+аь (4)-
* — 1, .... nJ = Р {sup , 1(0 - а (01 < aj
468	ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ 119.1.1
6 каждой точке непрерывности по а вероятности в правой части ра-
венства.	j
2) Пусть g(x) (х е Rm) — непрерывная функция. В условиях
теоремы 6
( п	\	/ 1
Am«p 1т	< 4-pl^(U0) dt <0
У ai	'	'о
при всех а, для которых вероятность справа непрерывна (по а).
3) Пусть в D[0_ ц (R) определены функционалы тс(х) и у0(х}
на всех x — x(t), для которых sup х(/)>а:	т,.(х) =a
o<i <1
“ inf {/: x(<)> fl}, yu(x) = *(le(x)) — а- 8сли Rm = R « fl таково^
что для всех 0 fe < fe 1 Р/ sup Ё (1) »= al = О, то совмеет-
ное распределение величин то(£л(-)) и уо(£л(')) сходится к совмест-
ному распределению величин то(£(•)) и ¥<,(!(•)) Величина т0(|л)—
момент первого достижения процессом £ уровня д, уя(£) —величина
перескока через этот уровень.
Литература: [6, 9, 10, 17, 19, 20, 67, 68, 80, 82, 96, 98].
Глава 19. СТОХАСТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ
УРАВНЕНИЯ
19.1. Диффузионные процессы
19.1.1. Определение. Определение однородного диффузионного
процесса, основанное на понятии характеристического оператора,
было приведено в § 15.1. Приведем другое определение, пригодное
в случае неоднородного диффузионного процесса и использующее
лишь понятие вероятности перехода. О связи между этими опреде»
лениями можно судигь по теореме 1 п. 15.7.1.
Пусть © — о-алгебра борелевских подмножеств m-мерного ев»
клидова пространства Rm. Функция P(s, х, t, Г) (0 s < t Tt
х е. Rm, Гей) называется вероятностью перехода, если выполнены
условия:	I ‘
а)	P(s, х, t, Г) является ©-измеримой функцией по х при фикси»
рованных s, /, Г;	4 I
б)	P(s, х, t. Г) является вероятностной мерой на S3 при фнкси» ,
рованных s, х, t (так что P(s, х, t, R”) га 1);
в)	при всех О «С s < fe < fe, * е R" и Гей выполнено соот»
ношение	_	 *
Р (s, х, t2, Г) — Р (s, х, fe, dy) Р (fe, у, fe, Г),
называемое уравнением Колмогорова — Чепмена.
Будем говорить, что задан марковский процесс в широком смыс»
ле со значениями в Rm, если задана вероятность перехода
P(s, х, t, Г},
<9.1.2]
19.1. ДИФФУЗИОННЫЕ ПРОЦЕССЫ
469
Марковский процесс в широком смысле со значениями в Rm на
временном интервале [0, 7] называется диффузионным, если выпол-
нены следующие условия:
1) при всех е > 0, tе [О, J] и хе Rm
lim \ P(t, х, f + Af, dy) =0;
ДО 0 Аг J
Iff-х]>s
2) существует функция e(s, х) со значениями в Rm и линейный
симметрический неотрицательно определенный оператор b(s, х), ото-
бражающий Rm в Rm, такие, что при всех е > 0, х е R" и t е [0, Т]
lim “	( (y — x)P(t, х, Г + Д/, dy) = a(t, х),
ДГ->0 Ы J
1д-х1<е
Um Л ( (У - х, в)2 Р (/, х, t + Af, dy) = (6 (/, х) 0, 6),
дг->о J
каково бы ни было 0 s Rm. Здесь (0, у) — скалярное произведение
в R"'.
Если выполнено условие 1), а в условии 2) пределы суще-
ствуют при некотором в > 0, то они существуют и при всех в > 0
и не зависят от в.
Название «диффузионные процессы» связано с тем, что такие
процессы достаточно точно описывают явление диффузии. Если в
момент i диффундирующая частица находилась в точке х, то ее
перемещение за время от t до / -)- А/ можно записать с точностью
до о(А1) в виде суммы a(t, x)A< + 6(f, t + А/, х), где a(t, х)Ы —
неслучайное смещение, связанное с макроскопическим движением
среды, в которой происходит диффузия, а 6(f, I + А/, х) — случай-
ный вектор, связанный с хаотическим тепловым движением молекул
рассматриваемой среды. При этом мы считаем, что математическое
ожидание вектора б(/, / -J- Л/, х) равно нулю, а среднее квадрата
его проекции на произвольное направление 0 е Rm имеет вид
|0|~2(b(t, х)0, 0)Af. Вектор a(t, х) называется вектором переноса,
в оператор b (t, х) — оператором диффузии. В одномерном случае
Они называются соответственно коэффициентом переноса и коэффи-
циентом диффузии.
19.1,2. Уравнения Колмогорова. Следующие две теоремы показы-
вают, что диффузионные процессы тесно связаны с дифференциаль-
ными уравнениями в частных производных параболического типа.
Пусть в R’n выбран некоторый базис. Обозначим через a'(s, х)
координаты вектора a(s, х), а через Ьг/(«, х) элементы матрицы
b(s, х) в этом базисе.
Теорема 1. Пусть задан диффузионный процесс, для которого
функции fl(s, х) и b(s, х) непрерывны, а ограниченная непрерывная
функция f(x) с вещественными значениями такова, что функция
и (s, х) = Р (s, X, t, dy) f (у)', s & [0, #J, X E Rm,
Rm
470	ГЛ 15 СТОХАСТИЧЕСКИЕ ДИФФ, УРАВНЕНИЯ Ц9 1 1
дважды непрерывно дифференцируема по х Тогда функция и(з, х)
дифференцируема по з и удовлетворяет уравнению
m	m
ди 1 V .»// ч д2и , V G х ди
------=— > b (а, х)—-—-4- > a (s, х)---------
<Js 2 / / 1	дх дх1	дх
х е Rm,	0 < s < it
и начальному условию
lim и (s, jc) == / (х).
s^t
Это уравнение называется обратным уравнением Колмогорова.
Во многих случаях вероятность перехода имеет плотности
G(s, х, t, у) относительно лебеговой меры Это означает, что при
всех 0 С s < I, J £ Rm, Ге®
Р (s, х, t, Г) - J G (S, х, t, у) dy.
Г
Если функция G(s, х, t, у) достаточно гладкая как функция от
(/, у), то она удовлетворяет прямому уравнению Колмогорова, нй«
зываемому также уравнением Фоккера — Планка
Теорема 2 Если для диффузионного процесса предельные со-
отношения в определении диффузионного процесса выполнены рав-
номерно относительно хе R“ и существуют непрерывные производи
ные
dG (s, х, t, у) dii,. . ~
----—т(«	V) G («. х. t. у)),
dt	ду*
—г, . (ЬЧ (/, у) G (s, х, I, у)),
ду dy1
то функция G(s, х, i, у) при всех (t, у} <= (а, Г) X R" удовлетво-
ряет уравнению
dG (з, х, t, у)
dt
m
4Е тст(ь'/(/’p)G(s> х> *• у))-
2 ду ду'
m
-У-^7 (а* о. y)G(s, х, t, у)).
1^дУ
Теоремы 1 и 2 показывают, что при построении диффузионных
процессов и при изучении их свойств можно использовать теорию
дифференциальных уравнений в частных производных параболиче-
ского типа (см п 157 2), Однако есть и другой метод построения
диффузионных процессов, основанный на прямом построении траек-
торий таких процессов как решений (систем) стохастических диф-
ференциальных уравнений. Для того чтобы понять, какой вид
191 21
19 I ДИФФУЗИОННЫЕ ПРОЦЕССЫ
471
должны иметь эти уравнения, рассмотрим диффузионный процесс
1(f) Его приращение g(/ + Д/)—g(t) будет иметь такие же услов-
ные (при фиксированном 1(f)) урезанные моменты первых двух по-
рядков, как и вектор
a (/, g (1)) Д1 + о (f, | (Г)) (ш (/ + ДО - w (0).
где симметрический оператор о(/, х} таков, что о®(/, х) = b(t, х),
a w(t)—/я-мерный винеровский процесс С точностью до о (Л/) мы
можем записать приближенное равенство (имея в виду совпадение
условных распределении левой и правой частей)
g (t + ДО - g (0 « a (f, g (0) Af + а (*, g (0) (® (< + ДО — и (О).
Естественно ожидать, что при переходе к дифференциалам мы
получим точное совпадение распределений. Само уравнение должно
иметь вид
dg (0 - a (t, g (0) dl + о (f, g (0) dw (0.
Чтобы придать смысл этому уравнению, запишем его в инте
тральной форме.
t	t
U0 = g (0) + J a (s. g (a)) ds + J a (a, g (s)) dw (s).
S	о
Теперь задача состоит в том, чтобы придать смысл второму инте-
гралу в правой части этого уравнения Интегралы такого вида, на
зываемые стохастическими интегралами, рассмотрены в § 192 За
метим, что винеровский процесс с вероятностью 1 имеет пеограпп
ченную вариацию на каждом промежутке, и потому этот шиетрал
нельзя понимать в смысле Стплтьеса
В заключение приведем достаточные условия, при выполнении
которых процесс будет диффузионным
Для того чтобы марковский процесс (в широком смысле) быт
диффузионным, достаточно, чтобы вероятность перехода процесса
P(s, х, t, Г) удовлетворяла условиям!
1) при некотором 6 > 0
hm — \ |у-х 2+eP (f, х, /4-Д/, dj/)==O,
at->o At j
Rm
nm
xeR ,
f <= (0, Г1
2) существуют вектор функция a(t, x) R" и операторная функ
ция b(t, х), представляющая собои при каждом /их симметричный
неотрицательно определенный оператор, действующий в R’n, такие,
что при всех /их выполнены соотношения (х е Rm, / е [0, Г])
11m	\ (У — л) Р (/, х. t + Д/, dy} — a (f, х),
Rm
lim ~ \ {у - х, О)2 Р (/, х, / + Д/, dy) = (6 (/, х) 0, 0), 0 е R"1.
At->0 At J
Rm
472	ГЛ ifl СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ Ц9.5.|
19.2.	Стохастические интегралы по винеровскому
процессу
19.2.1.	Определение стохастического интеграла по одномерному
винеровскому процессу. Приведенные в этом параграфе результату
являются частным случаем общей теории стохастического интеграла
по локально квадратически интегрируемым мартингалам (см.
п. 134 3). Определим сначала стохастический интеграл
Т
G(l) dw (О
о
в том случае, когда w (t) — одномерный винеровский процесс
Пусть на некотором вероятностном пространстве (fi, Р)
(о-алгебра 0 предполагается полной относительно меры Р) задан
поток о-алгебр (0,, fe [0, 7"]}, т е. семейство о-алгебр, подчиненное
условиям (см п 9 4 1)-
а)	при а < t 0„cz 0( с 0;
б)	о-алгебра 0О содержит все события вероятности О,
и винеровский процесс w(t), t е- [О, 7], со значениями в R, такой,
что то(0) «= 0, при каждом t г [О, Г] процесс w(t) Неизмерим, а
приращения w(t -рх) —w(l) при х > 0 не зависят от а алгебры 0,«
Обозначим через Н2[0, Г] пространство всех прогрессивно изме»
римых (относительно потока {0/, t е [0, 7]}) случайных функций
/(/) = f(t, <о) со значениями в R, заданных на [0, 7] и таких, что
т
с вероятностью 1 конечен интеграл fs (!) dt.
о
Теорема 1 Каждому процессу {f(t), te[O, 7]} из простран-
ства Нг[0, 7] можно поставить в соответствие некоторую случайную
величину /y(f), определенную на пространстве (£2, S) и обладаю-
щую следующими свойствами^
1)	если fi, fieHt[0, 7), a at и аг — произвольные постоянны^
то почти наверное
(ajj + «2(2) = а14 ^1) "Ь в2^т (^2)’
2)	если Х[/ь *,] (0 — индикатор отрезка (/j, /2], то
верное
(5С[/Ь г2])— w (У — w (^1)»
т
3)	если f е Н2 [0, 7] # М j f2 (/) dt < 00, то
о
т
M/§.’(f)« О, М (4 (О)2 . М f f2 (0 dti
О
почти на»
19.2.1]
IS 2 ВИНЕРОВСКИЕ ПРОЦЕССЫ
473
4)	каковы бы ни были fa/fafO, 7] и постоянные ОО s
N > 0, имеет место неравенство
(Т 1
с}<рш2(ол>л4+~.
Случайная величина /y(f) называется стохастическим интегро*
лом от функции f(t) по винеровскому процессу и обозначается
Т
(0-
Назовем функцию /еЯ2[0, 7] ступенчатой, сели существует
такое разбиение отрезка (0, Г] точками 0 = t0 < h <	Л
что f(t) ™ f (tk) при tk^t < tk+i (k «« 0, 1, ,,., п — 1). Очевидно,
для ступенчатых функций
Т	n-t
J f (i) dw (0= £ / (/*) [w (fA+1) - w (/*)].
0	fe-0
Если {£,(!), ^e[0, 7]} (л=»1, 2, последовательном»
ступенчатых функций, для которых при любом е > О
Hm Р
п -> ОО
lfn (0 — f(0 l2di>e
где f (t) — некоторая функция из 7/г[0, 7], то, согласно условию 4)\
Р
Т	Т	ч
j fn (О dw (0 - J fr (t) dw (/) >	<
о	о	j
(Т	1
<р + рН IМО~МО 12^ > Ре4»
’о	'
откуда следует фундаментальность последовательности случайных
т
величин ( fn (0 dw (0 в смысле сходимости по вероятности Пре«
о
т
дел этой последовательности и есть интеграл f (/) dw (t).
о
474	ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ НМЛ
Г
В том случае, когда f^Hz[O, Г] и М j f2 (/) dt < оо, суще-
о
ствует последовательность ступенчатых функций fn(t) еЯа[0, Г]
таких, что
т
lim М
n-> OQ J
О
Из свойства 3) следует равенства
Г Г	Т	*|2 Г
М I Jfft(/)dw(O“J/r(Orfw(O -м
Lq	о	J о
которое означает, что последовательность случайных величин
т
\ fn (0 dw (t) фундаментальна в смысле сходимости в среднеква-
дратическом, и, стало быть, в этом случае
Т
f (/) dw (/) = l.ijtn. ( fn (0 dw (0.
п ->0 J
0
Если процесс ^Дг[0, Г] с вероятностью 1 непрерывен, то
т	л-1
$ f (/) dw (t) = lim V f (/,) [ш - w
v	max ait и
0	k k	fe-0
где 0 = ta < ti < ... < tn - - T, Mi, = tk+i — to.
10.2.2. Оценки моментов. Для оценок моментов стохастических
интегралов полезна следующая теорема.
Теорема 2 Если f еДДО, Г] и при некотором р > 0
/Т	ч Р/2
М ( ( I f(t) |2 dt )	< ОО,
\)	/
то имеют место неравенства:
М
если р> 1, и
М
г
f (О dw (0
oJ
г
Jf(f) dw (/)
о
если р>,0. Здесь Ар и Вр~ постоянные, зависящие лишь от р.
19.2.3]
19.2. ВИНЕРОВСКИЕ ПРОЦЕССЫ
476
При р = 2 оба неравенства превращаются в равенства, причем
Аг — Вз = 1.
Отметим еще одно равенство для стохастических интегралов,
следующее из определения: если ft,	Т] н М J ff (t) dt < оо,
о
т
М (О dt < °°> то
о
т	г	т
М j f, (/) dw (/) J h (f) dw (/) - M J f, (t) h (/) dt.
0	9	0
lft.2.3. Стохастический интеграл как функция верхнего предела.
Для f е Нг [О, Т] is 0	6 Г положим
h	т
J f (О dw (t) = J хи. г,] (О / (О dw (О,
*1	о
где х[#1> (jJ (!) — индикатор отрезка [f(, ta].
Т
Можно показать, что если f еНг[0, Г] иМ j {г (t)dt < со, то
о
с вероятностью 1
м
Л *2
МШ(/)Л (01^4 = 0,
Mi
М (Л (/)!&*,) Л,
где О С h h < Г.
Рассмотрим процесс
t
(s) dw (s), ielO, Г],
о
где /е^[0, 7]. При каждом i этот процесс определен лишь при
почти всех со, т. е с точностью до стохастической эквивалентности.
Мы будем считать, что среди всех стохастически эквивалентны^
процессов в качестве It(f) выбран сепарабельный процесс. Тогда
можно показать, что процесс	t е [0, 7]} непрерывен с веро-
ятностью 1 и имеет место неравенство
t
f (s) dw (s)
0
476	ГЛ. 1Э- СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ 119.2.4
Г
Если f е Н2 [О, Г] и М f2 (t) dt < оо, то процесс (/«(f), St)
о
(/6= [0, 7]) представляет собой непрерывный мартингал с интегри-
руемым квадратом, характеристика которого определяется формулой
t
</ (f )>х = J f2 (s) ds.
о
При этом выполнены неравенства
t
f (s) dw (s)
0
M sup
0<i<T
2 f
<4M $p(s)ds.
0
t
f (s) dw (s)
о
19.2.4. Формула Ито. Предположим, что некоторый процесс
{£(0, ^[0. т», согласованный с потоком о-алгебр {St, fs[0, 7]},
представим при всех 0 =5 it < tz Т в виде
/?	fa
С (fa) - С (ft) = J a (t) dt + 5 ь (0 dw (t),
*i	t.
где b e /A[0, 7], а прогрессивно измеримый относительно потока
о-алгебр {St, t е [0, 7]} процесс a(t) таков, что
f т	\
Р ! t | а (0 | dt < оо г = 1.
'о	)
Тогда будем говорить, что процесс £(0 имеет стохастический диф-
ференциал на [0, 7].
dt, (0 = а (0 dt + b (0 dw (0.
Очевидно, что если £1 (0 и £з (0 — два процесса, имеющие стоха-
стические дифференциалы, a ai и аг — произвольные постоянные,
то
d («i£i (0 + аа^2 (0) == ai dti (0 + «г d£z (0,
т.е. операция дифференцирования линейна. Приведем теперь форму-
лы дифференцирования произведения двух процессов, а также фор-
мулу дифференцирования сложной функции.
Теорема 3 Если процессы £1(0 и £а(0 имеют стохастиче-
ские дифференциалы
dtt (0 =>ах (0 dt + bi (0 dw (0, dtz (0 = as (0 dt + bt (0 dw (/),
то процесс ?i(0&!(0 также имеет стохастический дифференциал и
d (Ci (0 £2 (0) - Cj (0 dtz (0 + £2 (0 dtt (0 + bi (0 bz (0 dt.
1S5.6]	19.5. ВИНЕРОВСКИЕ ПРОЦЕССЫ
Теорема 4. Если процесс £(/) имеет стохастический диффе-
ренциал
— a(t)dt+b (0 dw (f),
а непрерывная функция f(t, х) (t s [О, Т], х е R\ с вещественными
значениями имеет непрерывные производные (t, х), fx (t, х) и
к), то процесс f(t, 1(0) также имеет стохастический диффе-
ренциал
df (t, g (0) = [fl (f, £ (/)) + fx (f, I (ffl a (<) +
+ 4	& * (0) 62 (fl] dt + fx (t, I (/)) dw (/).
Последняя формула называется формулой Ито. Предположим те-
перь, что процессы |i(0, £а(0, .Ь(0 имеют стохастические диф-
ференциалы
dlf (/) ₽ а( (0 di + b{ (i) dw (/), i-l, 2....I,
а непрерывная вещественная функция f (t, Xt, ..., Xi) (t s [0, T],
Xi, ,,, xi e R) имеет непрерывные частные производные
tp fxf	* =я 1.....I’
Тогда процесс f(t, £i(/), £2 (О, .... 1/(0) также имеет стохастиче
ский дифференциал, причем
di (t, (о, i2 (о...., g, (0)=[4г (f. (/).........в, (0)+
i
i-1
1	т
+1 £ f*i*> (' г»w............ь(/)) bt(/) bt (/> dt+
i. /-1	J
I
+ Ei (n...............^(0)^(0 dww.
»-i *
Эта формула также называется формулой Ито.
Пример. Положив f(jc)=x2, из формулы Ито получаем со-
отношение
ti
(w w dw и=-i (»&))я - 4 (w (/о)2 - 4- & - **> ° < fi <
J	4b	Л	X
if
19.2.5. Моментные тождества. Определим функции
Gn(f> *) = f"/2Hen(l-1/2x), />0, xgR, n = 0, I, 2, ....
478	ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ (19Л5
где Нел(г) —полиномы Эрмита:
„ , .	, f z2l dn ( г2 )
Не* («)-(-!) ехр|—J^prexpJ rJ.
Выпишем для примера пять первых функций <?*(/, х):
О0 (/, х) = 1, <?i (t. х) ==> х, Gi (/, х) = х2 — t,
G„ (t, х) - х3 - 3/х, Gt (/, x) = x4 — 6x2/ + 3/2.
Следствием формулы Ито является следующая теорема.
Теорема 5. Если [ е //а [О, Г] и при некотором натуральном п
выполнено условие
.Т	V п/2
м Н Г (/) Л J < оо, ’
то при любых вещественных а и ₽ процесс
( f *	*	\	)
]G„(a+(f(s)ds, ₽+	I, /е[0, ?][
v \ if	о	'	’
является мартингалом и, в частности,
f т	Г	\
MGn I а + Г (s) ds, Р + J f (s) dw (s) I =» Grt (a, p).
X о	о	'
Из этой теоремы (при п = 1) следует, что при условии
/Г \1/г
м Протек] <<х>
процесс	f
(J f (s) dw (s),	/е=[0, T]|
является мартингалом (возможно, не имеющим второго момента). И,
в частности, при этом условии имеет место равенство
Т
М J f(s) dw (s) « 0.
о
В качестве следствия этого утверждения нетрудно получить
следующее свойство винеровского процесса.
Если т — марковский момент относительно винеровского про»
цесса {да(Л, t 0}, то при условии Мт1,2<оо справедливо равен*
ство Ми(т) = 0. Что это не всегда так, показывает пример мар«
ковского момента ti в= inf {/: w{t) > 1}, для которого w (ti) = 1 И
потому Mta(Ti)=“l. Заметим, что Мт|/2 = оо, хотя при любом
в е (0, 1/2) MtJ/2-s < оо.
19.2.61
19 2. ВИНЕРОВСКИЕ ПРОЦЕССЫ
479
19.2.6. Стохастические интегралы по многомерному винеровскому
процессу. Пусть на некотором вероятностном пространстве с потоком
о алгебр {&;, 1 е= [О, 7]}, удовлетворяющим условиям п. 1921, за-
даны т независимых между собой одномерных винеровских процес-
сов w2(t), ..., таких, что w>*(0) = О, все они согласо-
ваны с потоком о-алгебр {&/, i е [0, 7]}, а приращения	—
— гиА(1) (s > 0, k = 1, ..., т) не зависят от о-алгебры Через
будем обозначать m-мерный винеровский процесс (w*(0,
а.2(1), .... Wm{t)).
Далее, пусть f (1) (1 е [0, 7]) — матричнозиачный случайный
процесс. Элементы матрицы f (t) будем обозначать через (i
= 1, 2, ..., I, j = 1, 2, .... m). Предположим, что при всех I и |
|‘/е//г[0, 7]. Это означает, что процессы прогрессивно изме-
римы относительно потока о-алгебр {%>, t«[0, 7]}, и
(Т	)
<оЛ-=1, /== 1, .... I, /=1........т.
1о	'
Мы сохраним обозначение Да[0, 7] для совокупности матриц fit),
элементы которых удовлетворяют перечисленным условиям. ДЛЯ
следа матрицы	имеем формулу
I т ,,
i-l j=l
где fz(l) — транспонированная матрица В частности, если I = 1, то
f(t)—вектор с координатами (/*(/), .. , В этом случае
т
Sp (f (i) f (О) = Ё (/ (П)2 -1 но i2-
l-l
Определим теперь для f е /7а[0, 7] стохастический интеграл
г
{f(t) dw (f)
как случайный вектор с координатами
т Т
t*1 (0 dw1 (/), 1=1,2,
I.
т Т
Если I = 1, то это — скалярная случайная величина
Т
которую будем обозначать также как \ (f (1), dw (/))• Здесь f1 (1)
(j — 1, 2, m) — координаты вектора f(t).
Отметим следующие свойства стохастических интегралов по
многомерному винеровскому процессу.
480
ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ
[19.2Л
1)	Стохастический интеграл представляет собой линейную функ*
цию от процесса /(f).
Т
2)	Если f е Hi [0, Т] и М j Sp (f (/) fT(t)) dt < oo,
о
TO
T
M j HO dw (/) = 0,
0
T	2 Г
J f (0 dw (t) = M J Sp (f (/) fT (0) dt.
о	0
3)	Если f(f) и g(0’— Два матричных процесса порядка ZX^t
из пространства Z/zfO, Fj, для которых
т
М J Sp(/(0gT(0)^< «>.
о
то
/Т	Т	\ Т
м I J f (f) dw (f), J g (/) dw (0 J = м j S p (f (0 gr(0) dt.
'0	0	'	0
В частности, при !« 1
г т	Т	-1 Т
М I j (j (t), dw (f)) J (g (t), dw (0) » M J (/ (0. g (0) dt,
Lq	о	Jo
если только конечна величина, стоящая в правой части этого равен*
ства. При f = g отсюда получаем равенство
гГ	"12 Т
м J(H0.rfw(0) =м
l-o	Jo
4)	Сепарабельная модификация процесса
t
f (s) dw (s), t e [0, T],
о
при любом fe/72[0, 7] представляет собой непрерывный Z-мерный
Процесс. Если 0 — произвольный (неслучайный) элемент из про*
странства R', то, положив

19.2 ВИНЕРОВСЖИЕ ПРОЦЕССЫ
481
будем иметь неравенство
(т
р {<><“£ J5е (01 > с) р । $ (/) е* е) dt > *4»
где N и С — произвольные положительные постоянные.
Если I =* I, то отсюда получаем
Р
sup
t
J dw(s))
0
\f(t)\zdt>N
т
5)	Если f s H2 [О, Г] и M ( Sp (f (0 /г (/)) dt < oo,
u
то процесс
Q/(«)4w(sX Si). / e [0, Г],
гвляется /-мерным непрерывным мартингалом с интегрируемым ква
ратом. Его характеристика, представляющая собой матричнозна4
ный процесс порядка определяется интегралом
t
J f(s) fT (s) ds, /е[0. Г].
о
Кроме того, для произвольного 0 е R' выполнены неравенства
(	1	т
Р|О^“Р.Г1 &0ГОj > сJм j (f ГО fT(0e- е>dt>
мо sup г |5е (О I2 < 4М ((f (О Г (0 е, е) dt,
о
где (/) определено в свойстве 4).
В частности, при I = I характеристика мартингала
t
J (f (s), dw (s)), /е[0, Г],
о
равна	f
Jlf(s)l2rfs, /®[0, Г],
о
16 В. С. Королюк и др.
482
ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ
[19.2.»
6)	Если f е Ни [О, Г] и при некотором р > О
tT	-.PI2
J Sp (f (0 f (*)) dt I <«
о	J
vo имеют место неравенства!
т
J f (0 dw (/)
о
М
Р	ft	X Р/2
>ярмН Sp(f(t)fT(t))dt j
\о	/
если р > 1, и
г
f(t)dw (О
о
X Р/2
Sp<f (t)fT(i)Ut)
если р > 0. Здесь Лр и Вр — постоянные, зависящие лишь от р.
7)	Предположим, что для некоторого /-мерного процесса £(/)
при всех 0	<1 < /г Т имеет место представление
О	t2
I (ti) — £ (h) — a (s) ds + ( b (s) dw (s),
где b (/) — матричнозначный процесс порядка IX m из пространства
Ha [О, Г], а / мерный процесс а(/) таков, что все его координаты
прогрессивно измеримы относительно потока о-алгебр {8i, t е [О, TJ)
и интегрируемы с вероятностью 1 на отрезке [О, Г]. Тогда будем
говорить, что процесс £(/) имеет стохастический дифференциал
dl(t) = a{t)dt + b(f)dw(l).
Если проносе ЦО имеет указанный стохастический дифферен-
циал, а непрерывная вещественная функция f(t, лг) (/е[0, 7],
х е R') имеет непрерывные частные производные
f'i (t. х), f'xi (i, х), fxixi (/, х), i, j=i, .... I,
то процесс f(/, £(/)) (/e [О, Г]) также имеет стохастический диф-
ференциал и
df (/, t, (/)) = [fj V. C (0) + (a (/), f'x (t. £ (/))) +
+ 4 Sp (h (/) Ы (/) f'x (/, £ (/)))] dt + (hr (/) f' (/, £ (0), dw (/)),
где f'x— вектор с координатами f*3...........a — матрица
с элементами f'u = 1...............0.
Л X
1М.1]
119 3. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
483
Приведенная формула также называется формулой 'Ито. Запи-
шем ее в развернутом виде;
df а, $ а» - k a, t (0) + Z «' co fj (f. t (0)+
L	i—i
l m	-j
+1 £	Л+
k, 1=1 /-1	J
I m
+ .E	g (1)) bfcl (t) dw1 (t).
Л-1 /-i x
19.3.	Стохастические дифференциальные уравнения
для непрерывных процессов
19.3.1.	Теорема существования и единственности решения. Пусть
заданы:
1)	вероятностное пространство (£2, Р) с потоком о-алгебр
|5t, t s [0, 7]} (о-алгебра § предполагается полной относительно
меры Р, а о-алгебра — содержащей все события вероятности 0);
2)	согласованный с потоком о-алгебр {Sr, t s [0, 7]} m-мерный
винеровский процесс щ(1) ==	wm(l)} (это означает, что
о/(0) = 0; при всех t е [0, 7] величина w(t) (^-измерима и прира-
щения w(t + з) —w(l) при з 0 не зависят от о-алгебры Sr);
3)	So-измеримый случайный вектор Ео (заметим, что в силу 2)j
О-алгебра Во, а стало быть, и вектор не зависят от процесса ач);
4)	функции a(f, х) и o{t, х) (1е[0, 7], xeR"), принимающие
значения в R"1 и L(Rm) соответственно, где Л(К"')—совокупность
всех линейных операторов, действующих m R"1 в Rm (предполага-
ется, что a(t, х) и о(1, *) измеримы по совокупности переменных).
Будем рассматривать стохастическое дифференциальное урав-
нение
d£ (1) = я (1, 5 (0) dt + a (1, 5 (1)) dw (t)	(3.1)
с начальным условием
£(0) = Ь.
Это уравнение может быть записано в интегральной форме»
t	t
1 (t) = Eo + J a (s, g (s)) ds 4- J о (s, J (s)) dw (s), t e [0, T\.
о	о
Здесь g(l) — искомый процесс. Приведем точное определение того,
что мы будем понимать под решением уравнения (3.1)
Решением уравнения (3 1) с начальным условием g(0) = £0 на-
зывается m-мерный процесс {£(!), 1 е [0, 7]} такой, что:
а)	процесс £(/) прогрессивно измерим относительно потока о-ал-
гебр {Sr, t <= [0, 7]};
б)	все координаты векторного процесса {я(1, £(!)), 63 ГО, 79
абсолютно интегрируемы на отрезке [0, 7] с вероятностью 1;
в)	все элементы матричного процесса (а(1, Е(1)), 1б[0, 7]} ин*
тегрйруемы с квадратом на отрезке [0, 7] с вероятностью h
16»
484	ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ (1SAI
г)	процесс имеет стохастический дифференциал, причем
= a(t, W))dt + o(i,	и g(0) = Е(.
Заметим, что в случае, когда о(/, х) = 0, уравнение '(3.1) пре-
вращается в обыкновенное дифференциальное уравнение, правда, со
случайным начальным условием. Такое уравнение можно решать
обычными методами при каждом ю.
Говорят, что уравнение (3.1) имеет единственное решение, если
для любых двух его решений Ei (/) и Ее (/) выполнено условие
Р( ыф I £1 (0 - (01 > 0] - 0.
Приведем теорему существования и единственности решения i
уравнения (3.1).
Теорема 1. Предположим, что коэффициенты уравнения (3.1)
удовлетворяют условиям:
1) при всех t е [О, Г], xeR” выполнено неравенство
|п(0*)18+1аК,*) 18<*(Г + |х|»),
m
где К — некоторая постоянная, | о (#, х) |2 = V (о^ (/, х))\
/,А~1
clk(t, х) —элементы матрицы о(/, х);
2) для любого Я > 0 найдется постоянная Ср такая, что про-
|х] С R, j«у |	К и t е [О, Т] выполнено неравенство
|в(/, х)-о(/,р)|2 + 1о(/,х)-о(/, р)|£<Сй|х-р|».
Тогда существует единственное непрерывное решение £(/)
'(/е [О, Г]) уравнения (3.1).
Замечание 1. Пусть заданы функции ai(i, х), <д(/, х)
(/ =1, 2), удовлетворяющие условиям теоремы 1, такие, что для
некоторого N > 0 при | х | Л' и t @ [О, Г] имеют место равенства
Oj(C х) = aifi, х) и С1(/, х) — о2(С х). Обозначим через |*(/>
(/ = 1, 2) решение уравнения
d$t (I) = а{ (t,	(/)) dt + oz (f,	(0) dw (0
с одним и тем же начальным условием &(0) ==6«	1, 2).
Далее, положим
T( = lnf {/: |^(/)|>/V}, У = 1,2,
причем, если множество в фигурных скобках пусто, полагаем т< = Т.
Тогда можно показать, что Р {Ti = т2) = 1 и
Р ( sup | Ь (s) — g2 (s) I > 0] = 0.
Это свойство решений уравнения (3.1) характеризует так называе-
мую локальную зависимость решения от коэффициентов уравнения.
Замечание 2. Решение уравнения (3.1) может быть построе-
но следующим образом.
Пусть сначала коэффициенты a(t, х) и о(/, х) удовлетворяют
условию 1) теоремы 1, а также условию:
19.3.!]	19.3 НЕПРЕРЫВНЫЕ ПРОЦЕССЫ	485
2') существует постоянная С > 0 такая, что при веек t е [О, Г],
к, у е R"
| д (/, х) — а (/, у) |2 + Iff (/, х) — ff (t, у) |а <С | х —yl2.
Предположим, кроме того, что М | 12 < оо. Тогда, положив
Ч»(0 == Во>
Чп+1 (0 “
t	1
*= io + а (з, Чп (s)) ds + j ff (s, Чп (a)) dw (s). n = 0, 1, 2, ..
о	0
с помощью несложных рассуждений придем к неравенствам
М sup I Чл+i (0 — Чп (О I’<	> п«О, 1, 2......
0<i<;r	Л>
где L — некоторая постоянная. Эти неравенства позволяют заклю-
чить, что ряд
Чо(О+ Е (4n+iW-4n(0)
п-0
сходится равномерно с вероятностью I и представляет собой реше-
ние уравнения (3.1) в том случае, когда его коэффициенты удовле-
творяют условиям 1), 2), а начальное условие таково, что
М1101! < оо.
В общем случае можно указать последовательность коэффици-
ентов ал(1, х), сы((, х) (м =а 1, 2, ...) таких, что при |х| п,
( s[0, Z] имеем «»((, х) = a(t, х), оя(/, х)= о((, х), причем функ-
ции йя((, х) и ffn(f, х) удовлетворяют условию 2') с некоторой по-
стоянной Сп, возможно растущей с ростом п. Полагая еще “&•
если | £01С п, и fc!”1 = 0, если |£о! > л, получим решение t(n,(0
уравнения (3.1) с коэффициентами aB(t, х), а«((, х) и начальным
условием to
В силу замечания 1 при всех fe — 1, 2, ...	=|(n|(l)
для t т", где т" = in!{/: |t‘'°(i) I п) (если множество в фигур-
ных скобках пусто, то полагаем т" = Г).
Теперь уж совсем несложно доказать, что при п -* оо процессы
£<">(() сходятся с вероятностью 1 равномерно к некоторому процес-
су g(r), который и представляет собой решение уравнения (3.1).
Из этого построения и из единственности решения уравнения
(3.1) следует, что в условиях теоремы 1 решение £(() измеримо
относительно минимальной о-алгебры событий, порожденной случай-
ным вектором to и значениями процесса ai(s) при s t.
Замечание 3. Пусть коэффициенты a(t, х) и a(t, х) заданы
при t е[0, со), хе Rm, и предположим, что для всякого R > 0
существует постоянная Ск такая, что при t С R, |х| С R. Ш R
| a (t, х) — а ((, у) |» + 1 о (f, х) — о ((, у) |2 <СД | х — у [2.
Тогда при каждом R > 0 можно построить функции ал((, х) и
Оя((, х), совпадающие при t С R, |х| R с функциями а(/, х) и
486
ГЛ 19 СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ
ПВ.8Д,
<т(/, х) соответственно и такие, что to?(/, х) и ск(1, х) при всех
х s Rm удовлетворяют условию 1) теоремы 1 с некоторой
постоянной Кк-
Обозначим через £я(0, f е [О, R] решение уравнения (31) Q
коэффициентами ак, и заданным начальным условием go. Опре*
делим случайную величину хк, полагая
TR=inf{/<R: 1^(0|>/?}.
если множество в фигурных скобках непусто В противном случае
полагаем тя <= R Как следует из замечания 1, при всех /?'>/? с
вероятностью 1 gR (/) = ER. (/) для t ^тг<.
Положим £ (t) = lim g„ (/) Если коэффициенты a(t, х) и
К-»оо я
о(/, х) удовлетворяют неравенству
latf.x) I2 + |о (t, х) |2 < К (1 + I х I1)
при всех t > 0, xeRm (К —некоторая постоянная), то можно
показать, что при с вероятностью 1 т«-►+<», и, стало быть,
решение £(/) уравнения (3 1) определено при всех /	0. Если же
это условие не выполняется, то, вообще говоря, нельзя утверждать,
что Тя -*• +<» при R -*• оо с вероятностью 1 В этом случае (един*
ственнос) решение g(Z) уравнения (31) существует лишь до момен*
та времени
£ = lim т„,
Я-»оо я
который называется моментом взрыва. Очевидно, что
sup 1 НО I = °°-
o<i<t
Сформулируем одно достаточное условие отсутствия взрыва
(т е. условие, при котором можно гарантировать, что £ = 4-оо
п. н).
Предположим, что коэффициенты a(f, х) и c(t, х) удовлетво*
ряют сформулированному в начале замечания 3 условию, и пусть
Для каждого R > 0 существует такая дважды непрерывно диффе*
ренцирусмая функция вя(х), х е R", что:
1) пя(х)-*-}-<» при |х|—ЮО,
2) найдется такое > 0, что при s sj R, х е R”1
1 v1 и	к,	т-i ,
<.}, ft-i	ил их
Тогда уравнение (31) имеет единственное определенное при всех
/^0 решение £(/), удовлетворяющее заданному начальному усло-
вию go.
4 Если выполнены условия теоремы 1 и М | go J2p < 00 при не*
котором целом р, то решение уравнения (3 1) с начальным уело*
вием go удовлщворяет условиям
м 1 £ (*) )2Р	(1 + м I £0 |2₽), t Е [0, Т],
MIUO-^|2₽<<(l + M|go|2'’)/P /е[0, Л.
где Кд, Кр — постоянные, зависящие лишь от р, К и Г.
W.3.2J
19 3 НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
487
19.3.2. Решение как диффузионный процесс. В условиях теоре-
мы 1 решение £(/) (/е [0, 7]) уравнения (3.1) обладает марков-
ским свойством относительно потока а-алгебр {{fr, t е (О, Г]}. Это
означает, что при любых 0 s t Т и Ге®, где 8 — сг-алгебра
борелевских подмножеств пространства Rm, с вероятностью 1 выпол-
нено соотношение
Р {НО е г I gs} = Р{НО е Г1 i(s)}.
Таким образом, процесс £(/) (/е[0, 7]) представляет собой мар-
ковскую случайную функцию с начальным распределением
ц(Г) = Р{Е„еГ), Ге».
Вероятность перехода P(s, х, I, Г) марковской случайной функ-
ции g(f) (t е [0, 7]) определяется формулой
Р (s, х, t, Г) = Р {gSJt (t) е Г}, Os^s<fsjr, tcR'", Ге»,
где Едх(0—решение уравнения	1
t	t
Isx (0 = X + а (т, gsx (т)) dx + \ а (т, %sx (т)) dw (т). (3.2)
S	S
Здесь х — неслучайный вектор из Rm, t е [s, 7].
Следующая теорема показывает, что решение уравнения (31)
при некоторых условиях представляет собой диффузионный про-
цесс (см п. 191.1).
Теорема 2. Предположим, что функции a(t, х) и a(f, х)
удовлетворяют условиям теоремы 1 и, кроме того, непрерывны по
совокупности переменных. Тогда процесс £(/) (I е {0, 7'|), являю-
щийся решением уравнения (3 1), предстаоляе/ (обои диффузионный
процесс с вектором перекоса a(t, х) и матрицей диффузии b(t, х) =
= о(/, х)ог(/, х).
Таким образом, теория стохастических дифференциальных урав-
нений дает возможность строить диффузионные процессы при весьма
широких предположениях относительно коэффициентов a(t, х) и
b(t, х). Более того, потребовав дополнительной гладкости функций
a(t, х) и о((, х), можно доказать существование двух непрерывный
производных от функции
и (s, х) = М/ (L-X (0). 0<s<l<r, xeRm,
по х и тем самым получить обратное уравнение Колмогорова
Теорема 3 Предположим, что функции а(1, х) и а(1, х) удо-
влетворяют условиям теоремы 1, непрерывны и дважды непрерывно
дифференцируемы по х Пусть, кроме того, при некоторых р > 0 и
К > 0 выполнено неравенство
m ,	m	m .	..
ZI да1 (/, x) | у* I *) I . V4 1 dall {t, x)
, I dxk j ( * 11 9x1	’ / /Т 11 dx<t
в» № 1	ft j, Ae L	/, it
+
d^a11 (t, x)
dxk dx1
<К(1 + |х|₽).
488	--- ГЛ 19 СТОХАСТИЧЕСКИЕ ДИФФ УРАВНЕНИЯ " I19.3J2
Тогда если f(x) (х sRK) — дважды непрерывно дифференци-
руемая функция с вещественными значениями, для которой
m	ш
£ ||!£W 1<к<1 + 1хП р>о.
*—'I дх [ ,£т',\дхдх I
1~1	/. А=1 1
то функция
и (з, х) = М/ (Ьх (0). 0<а</<7’, xeRw,
еде |s*(0—решение уравнения (32), дважды-непрерывно диффе-
ренцируема по х, непрерывно дифференцируема по $ и удовлетво-
ряет уравнению
m
ди (a, х) , V"1 i , ч ди (а, х) ,
m
4-1 у ail{StX}okl{StX}^A^0
в области s Е (0, i), хе Rm, с граничным условием
1«п и (з, х) = I (х).
S t t
Следствием этой теоремы является следующая теорема суще*
ствования и единственности решения задачи Коши для уравнений:
в частных производных параболического типа
Теорема 4 Пусть в области 0 с, a < Т, хе Rm, задан диф-
ференциальный оператор	_	_____„
m
п> г ди . ч , V* 11	, д« (а, х) .
Z и (s, х) = —-- (а, х) + У a1 (s, х) —— +
дз	дх
+1 У »/(,.,
2 и-i	дхдх
параболического типа (это означает, что при всех а е= [0, 7}(
m
х г R’n, выполнено неравенство У bli (а, х) (№ > 0, каковы бы
i,i-l
ни были вещественные числа 81, 62, ,,,, 0т). Если, матрица b(t, х)
с элементами b‘>(t, х) (t, / «= 1, 2,	/и) такова, что b(t, х)
•= <Т(/, х)от(/, х), а функции a(i, х) и a(t, х) удовлетворяют усло-
виям теоремы 3, то задача Коши
£и (а, х) «=О, 11m и (а, х) «= f (х)
вф т
ie.3.3]
193 НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
489
имеет единственное решение при любой дважды непрерывно диффег
ренцируемой функции f(x), такой, что она сама и все ее частный
производные до второго порядка включительно растут на бесконеч-
пости не быстрее, «ем некоторая степень |х|, При этом решений
и(а, х) указанной задачи Коши может быть записано в виде
и (а, х) = М/ (Ьх (Г)), 0<s<r, xaeR",
еде (/ е [s, 7]) — решение уравнения (3 2)
Сформулированная теорема показывает, что при изучении урав-
нений в частных производных параболического типа с успехом мо-
^Сет быть применена теория стохастических дифференциальных
уравнений Особо отметим то обстоятельство, что в теореме 4 не
предполагается невырожденность матрицы b(i, х), и это является
Существенным преимуществом методов, основанных па теории стоха-
стических дифференциальных уравнений, перед аналитическими ме-
тодами
19.3.3, Уравнения для характеристических функций функционалов.
Пусть {&(/), /е[0, 7']} — решение уравнения (31), Рассмотрим
функционалы
Т
g (s, | (s)) ds, ( A (s, £ (s)) dw (s),
Где %{s, x) (s @ [0, 7], x e R'") — функции co значениями в R/, a
п(й, x) ($e[0, 7], x € R”) — матрнчйозначйая функция порядкД
(Xm. Распределения укачанных функционалов будут определены,
&Ли будет найдена функция
и (а, х) = Mf (Ьх (7)) ехр
z Т
+ J 9, h (т, Ssx (т)) dw (т)
1де0^а<7, хе Rm, ), Ос R', £,,(/) — решение уравнения (3 2),
a f(x) (xeR”') — некоторая вещественная функция
Можно показать, что если коаффицшпгы уравнения (3 1) н
функция f(x) удовлетворяют условиям теоремы 3, а функции g(f, х)
и k(t, х) дважды непрерывно дифференцируемы по х, причем при
некоторых р > 0 и К > 0 (/ е [0, Г], те Rm)
dhlr(t,x)
dxk
d^h" (t, х)
dxkdx}
d2gr (/, x)
dxk dx1

490	ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ Ц9.3Л
(го функция и(s, х) в области 0 s < Г, хе Rm, удовлетворяет
^равнению
ди t х)
ds
т	т
Z-j	dxft 2 ,4-'.	дх1 дхл
1	J. fc=« I
т	I
4- I у ди &*). у* dik (s> х) gft +
7=1	&К А=1
г '	‘ 	1
4- и (s, х) I i У^ x*gft (s, х) — у У*, eW* (s, х) I — о,
L А-1	/,Л	J
где
(з, х) = у vlr (s, х) <jkr (s, х), j, k — 1, 2, ..., m,
Clk (s, x) = У hir (s, x) hkr (s, x),
r=l
d^ (s, x) = У ctr (s, x) hkr (s, x),
Г«="1
/, k= 1, 2, .... I,
j—l, 2....m:k=>l, 2, .... I.
К этому уравнению нужно присоединить граничное условие
lim и (s, х) = f (х).
af Т
Уравнение для функции u(s, х) может быть записано короче:
в* Л) + («(s. х), их {s. х)) + у Sp (а (а, х) <7 (а, х) и"х (а, х)) +
4- i (а (а, х) Лг (а, х) 0, их (а, х)) 4- и (а, х) 11 (g (а, х), Л) —
--5-|Лг(а, х)0|2] =0,
тр$ их~~ вектор с координатами ди]дхк (Л = 1, 2,	т), и"х —
матрица с элементами дги!дх< дх* (j, k = 1, tn).
19.3.4. Мартингальная постановка задачи. Условие Липшица ?
теореме 1 является слишком жестким. Многие задачи приводят к
необходимости рассматривать стохастические дифференциальные
уравнения с коэффициентами, не удовлетворяющими этому условию.
В связи с этим удобно несколько расширить и само понятие реше-
ния стохастического дифференциального уравнения, а именно можно
считать, что заданы лишь коэффициенты уравнения. Требуется по-
строить вероятностное пространство и определить на нем винеров-
екий процесс ш(0 и процесс ^(1) так, чтобы они были связаны
между собой уравнением (3,1) с заданными коэффициентами. Разу-
19.3.4]
19.3. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
491
меется, при этом необходимо, чтобы минимальная а-алгебра, по-
рожденная значениями процесса g(s) при s t, и приращения
w(f + т) — w(i) при т О были независимы.
Далее, если g(Z)—решение уравнения (3.1) с начальным усло-
вием go, то очевидно, что процесс g (/) — g0 —' J а (s> 6 (s)) ds
о
является непрерывным мартингалом * с интегрируемым квадратом,
характеристика которого равна J b (s, g (s)) ds, где b(s, х) =а
о
== o(s, x)or(s, x). Наоборот, если g(Z) обладает такими свойства-
ми, то, несколько расширяя (если это нужно) вероятностное про-
странство, можно построить винеровский процесс u)(t) так, чтобы
процессы g(/) и w(Z) были связаны уравнением (3.1).
Таким образом, мы можем сформулировать задачу так: при
каждых se[O, Г] и х е= Rra заданы вектор a (s, .t)eR” и симмет-
рическая неотрицательно определенная матрица b(s, х) порядка
т X т\ требуется на некотором вероятностном пространстве по-
строить процесс g(Z) так, чтобы процесс
t
НО-НО)-Ja(s, g(s))d3, /е[0, Г],
о
был непрерывным мартингалом с интегрируемым квадратом и с ха-
рактеристикой
J b(s,l(s))ds.
о
Более того, так как искомый процесс g(0 является непрерыв-
ным, то мы можем считать, что основное вероятностное простран-
ство совпадает с пространством всех непрерывных функций х(1),
заданных на го, л и принимающих значения в Rm. При этом счи-
таем, что g(0 = х(<), и задача заключается в построении меры в
пространстве непрерывных функций такой, чтобы x(t) удовлетво-
ряла указанным условиям. Сформулируем более точно задачу.
Задача. Пусть заданы: а) измеримая функция а(а, х),
s е [О, Т]у х г R'n, со значениями в R"1; б) измеримая функция
fc(s, х), »б[0, Ц x«==R"‘, значениями которой служат линейные
симметрические неотрицательно определенные операторы, действую-
щие из R” в Rm.
Обозначим через Й пространство всех непрерывных функций,
заданных на [0, 7] со значениями в Rm, и пусть S’J — минимальная
о-алгебра подмножеств Q, содержащая все множества вида {х(т)е
е Г), те [s, /], где 0 s t Т, Г — борелевское подмноже-
ство пространства Rm. Здесь 0 s t Т.
Для заданных s е [0, 7] и xg Rm требуется построить вероят-
ностную меру PJX на измеримом пространстве (Ц так, чтобы;
1) Psx {x(s) = x} = 1;
402	ГЛ 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ П9.3Л
L 2) процесс
х (0 — х (s) — J а (т, х (т)) dx, t @ [з, 7],
в
был мартингалом относительно Рях) с интегрируемым квадра*
мм, характеристика которого определялась бы формулой
t
Ь (т, х (т)) dx,
в
Такую задачу будем называть проблемой мартингалов на от*
резке [s, 7] с начальным условием х для коэффициентов a(t, у),
p(t, у), а всякую меру Рп, удовлетворяющую условиям 1), 2), бу*
дем называть мерой, решающей проблему мартингалов.
Весьма широкие условия существования и единственности реше*
ния проблемы мартингалов приведены в следующей теореме.
Теорема 5. Если в сформулированной выше задаче функции
a(t, х) и b(t, х), t е [О, Г], xsRn, удовлетворяют условиям-.
a)	b(t, х) непрерывна по совокупности переменных и для неко-
торой постоянной С > 0 выполнено неравенство
(Ь ((, х) Э, 6) < С | в р
при всех t s [0, 7], х, 6 е Rm;
б)	при любых /е[0, 7] и xeR’ матрица b(f, х) положитель-
но определена, т. е (b(t, х)0, 0) > О при всех 0 е Rm и 6	0;
в)	а(/, х) из керима и ограничена,
то, каковы бы ни были se (0, 7] u хе Rm, существует единствен-
ная вероятностная мера Р^6 на пространстве (й, удовлетво-
ряющая условиям 1) и 2). При этом процесс (х(/),	Р^6)
является марковским.
Согласно этой теореме, процесс
i
• £ (0 = х (0 — х (s) — а (т, х (т)) dr, t s [s, 7],
в
представляет собой мартингал с интегрируемым квадратом относи*
цельно потока о-алгебр $®(<е[з, 7]) и меры Р“^ь. Если п(0
(/е [а, ?])—некоторый матричнозначиый (порядка ZXm) процесс,
Прогрессивно измеримый относительно потока о-алгебр S't (f s
® [s, 7]) и удовлетворяющий условию
(Т	1
рм615sp ь х т)Г dt < °° г1>
то аналогично тому, как были определены стохастические интегралы
по винеровскому процессу, можно определить стохастический
19.3,4]	193. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ	493
интеграл	?
j п(0^(0-
з
Если, кроме того,
т
М"/ J Sp (г, У) Ь (/, х (/)) т]Г (0) di < оо,
«
то сепарабельный процесс
t
*1 (*)	(т), t s [з, Т],
S
будет непрерывным мартингалом с интегрируемым квадратом отно-
сительно (§?. Р“;с характеристикой
t
^1](т)Ь(т, x(T))t]r(T)rfr.
»
В частности, полагая ?}(/)= b~l/2(t, x(t)}, где	х)—
симметричный положительный корень из положительного оператора
b~l(t, х), получим, что процесс
i
w (0 =	(т, х (т)) dl (т), / е [s, Г},
S
является винеровским процессом относительно (<у®, P^b), причем
t
£ (0 «= J 61/2 (т, х (т)) dw (т), i > з,
з
где Ь1/2(/, х) — положительный корень из оператора b(t, х).
Таким образом, в условиях теоремы 5 для каждых з е [0, 7] и
jeR"1 существует m-мсрныи процесс w(t) (t з), заданный на £2,
такой, что процесс (to (0. Й;. Р^/) винеровский и Р^-почти
наверное при всех i е |\, 7]:
t	t
х (0 = х + а (т, х (х)) dx + Ь112 (т, х (т)) dw (т).
3	3
Пусть D с. Rm и р > 1; обозначим через №р а([0, Т]ХТ>) по-
полнение семейства бесконечно дифференцируемых финитных функ-
ций, заданных на [О, Т]ХД по норме
II« BF1I, 2 =» II« ПДр + II «i Lp + S «х lltp + I и"х
494
ГЛ 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ
[19.3.4
где
t г ди ои \ г/	д‘и .
= I —г, ..., —— 1,	— матрица с элементами  -----; (/, ; =
х 1<5х‘ дхт ) хх	дх1 дх' ’
•= 1, 2, mj, ut==*du/dt. Аналогично пространство W2p(fi)—это
пополнение семейства бесконечно дифференцируемых финитных
функций, заданных на D, по норме
где
hf|l£p = ( J|v(x)|P^y₽, CcRn, р>1.
Далее, назовем функцию f(f, х) медленно растущей на беско-
нечности, если при любом k > О
lim sup | f (f, х) I е-Л'Л1г = 0.
| х |->оо o<t <Г
Рассмотрим задачу Коши в области s ез [О, Т), xeR":
m	m
ди , I V ilk r ч дги , V t, i du ,	„
> ^k(s,x)—-j—T+yaf(s,x)—-r + f(s,x)~~O,
ds 2 ,	,	dx1 dx	dx1
/» «=! /—1
и (Г, x) = <p (x),
где функции f(t, x), <p(x) (t <= [0, T], xsR") заданы, a u(s, xj—
неизвестная функция.
Дополнением к теореме 5 служит следующая теорема.
Теорема 5'. Предположим, что выполнены условия теоремы 5
и матрица b(t, х) равномерно положительно определена (это озна-
чает, что существует число м > 0, такое, что (b(t, х)0, 0)	х|0|*
при всех t е [0, Г], х е= Rm, 6 @ Rm). Пусть заданы медленно расту-
щие функции f(t,x) и <р(х), такие, что для некоторого р > (т + 2)/2
и любой ограниченной области DcRn справедливы включения
f^L„([O, T]XD),^W2p(D).
Тогда в классе медленно растущих функций решение u(s, х)
вышеприведенной задачи Коши существует и единственно, а
ti = Wlp 2 ([0, Г] X какова бы ни была ограниченная область
D'z R«
Если при этом р m 4- 1, то решение u(s, х) имеет вероят-
ностное представление
и (s, х)« М* * | J f (t, х (0) dt + <р (х (Г))},
10.3.5]
19.3. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
495
где — операция усреднения по мере Р“*ь, существование ко-
торой утверждается в теореме 5.
19.3.5. Дифференцируемость мер, соответствующих решениям
стохастических дифференциальных уравнений. Следующая теорема
показывает, что мера в пространстве непрерывных функций, соот-
ветствующая решению стохастического дифференциального уравне-
ния с данной матрицей диффузии и ненулевым вектором переноса,
эквивалентна мере, соответствующей решению такого уравнения с
той же матрицей и нулевым вектором переноса.
Теорема 6. В условиях теоремы 5 меры Р^/ и Р“^ь экви-
валентны, причем
4^- = ехр{ ( (б"1 (1, x(t})a(t,x(t).	—
IУ
т
- J (b~ * <*> х (0) а (Л * (/)), а (/, х (<))) <«}. (3.3)
S
Заметим, что первый интеграл в правой части последней фор-
мулы представляет собой стохастический интеграл по мартингалу.
Таким образом, если функции a(i, у) и b(i, у} удовлетворяют
условиям теоремы 5' и мера Р^Ь решает проблему мартингалов нц
отрезке [з, 7] с начальным условием х для коэффициентов 0 и
b(t, у), то меру Р^.6, решающую проблему мартингалов на том же
отрезке с начальным условием х для коэффициентов a (t,y) и b{t,y\
можно получить, полагая
р™6 (Л) - $	(7) А е 81,	(3.4)
А
где Н,(Т) — функционал на (fi, 8т)> определяемый первой частью
формулы (3.3).
Всякий раз, когда есть мера Р^6, решающая проблему мар-
тингалов на отрезке [з, 7] с начальным условном х для коэффици-
ентов 0 и b(t, у), и задана некоторая измеримая функция a(t, у)
со значениями в Rm (/ е [s, 7], у е Rm), такая, что интегралы в
правой части равенства (3.3) существуют, мы можем составить
функционал Rs(T) по указанному правилу и попытаться произвести
замену меры Р^6 с помощью формулы (3.4) в надежде получить
меру, решающую проблему мартингалов на том же отрезке с тем жц
начальным условием, но уже для коэффициентов a(t, у) и b(t, у).
Такая замена действительно приводит к цели, если только ока-
жется, что функция a(t, у), кроме условия существования интегра-
лов правой части равенства (3.3), удовлетворяет условию
Us(7’)dP^^l.
496
ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ
[19.3.8
На этом пути может быть доказана следующая теорема.
Теорема 7. Предположим, что функция b (t, х) такая же, как
и в теореме 5, а измеримая функция a(t,x), /е{0, 7J, xaR“, со
Значениями в R"1 обладает свойством: при некотором р > m + 2
т
( | a (t, х) |₽ dt dx < <».
0 IT*
Тогда при любых s е [0, 7], х е Rm, существует мера на
Пространстве (й, &/•), решающая проблему мартингалов на отрезке
(s, Г] с начальным условием х для коэффициентов a(t,y), b(t,y)
и такая, что процесс (х (t),	является марковским.
Эта теорема показывает, что существуют решения стохастических
дифференциальных уравнений с локально неограниченным вектором
Переноса (т.е. функция aft, х) может не быть локально ограни»
Ченнсй).
Теорема 8 Пусть заданы функции а(х) и Ь(х) со значения-
ми в R"1 и L+(Rm) соответственно, где L+(Rm) —совокупность всех
линей илt симметрических положительных операторов, действующих
6 Rm Предположи*, что выполнены условия:
1)	существуют такие положительные постоянные Ct и Сг, что
При всех х, 0 е R"
с. |0|! с(* (х)е, ехс2 jep;
2)	при всех х, у в Rm
11 6(*)-M0)l!CK|*-iHa.
еде К и а—положительные постоянные, а С 1» IHI— норма опе-
ратора, | • | — норма вектора',	,
3)	при некотором р > гп
1 а (х) )р dx < а».
Rm
Тогда при каждом хеR” на пространстве (fi, ff) \здесь й —
совокупность всех непрерывных функций, заданных на [0, оо), со
Значениями в Rm, a ff — минимальная о-алгебра подмножеств Й,
содержащая все о-алгебры при Т существует вероятност-
ная мера Р“’6 такая, что
a)	Р"’ 6 {х (0) = х} = 1;
б)	процесс
t
х (0 - х (0) - J а (х (s)) ds, t > О,
о
re.8.6i
W3. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
497
является мартингалом с интегрируемым квадратом относительно
характеристика которого определяется формулой
\ b (jc (s)) ds.
о
Процесс (х (О, So Р* *) представляет собой однородный Мар-
ковский процесс. В случае, когда m > 2 и р > /л, а также m = 1
и р > 2, сужения мер Р J ь и ь на о-алгебры Sz эквивалентам
При любом Т> 0. Если же tn= 1 и 1 < Р < 2, то, вообще говоря,
сужения мер Р* ь в Pj ь на о-алгсбры не эквивалентны ни при
Одном Т > 0.
Заметим, что в случае эквивалентности сужений мер Р“”ь и PJ ь
на а-алгебру плотность	определяется форму-
лой
№•b (f
*= ехр М (б-1 (х (s)) а (х (s)), dx (s)) —
г
- ~ J (&“' (* (0) а (х (/)), а (х (/))) dt j.
19.3.6. Сильные и слабые решения. Приведенное в п. 19 3.1 по*
нятие «решение стохастическою дифференциального уравнения» под-
разумевало такой случайный процесс |(t), который определен на
заданном вероятностном пространстве и связан с заданным внне-
ровским процессом w(t) соотношением (31). В условиях теоремы I
оказывалось, что именно такое решение 6(0 уравнения (3.1) суще-
ствует, единственно и обладает тем свойством, что 6(0 измеримо
относительно наименьшей а-алгебры событий, порожденной началь-
ным условием £о и значениями винеровского процесса w (s) при
(см. замечание 2 к теореме 1). Другими словами, решение
в момент времени t полностью определяется значениями входящего
в уравнение винеровского процесса во все предшествующие момен-
ты времени, а также начальным условием.
В пп. 19 3 4, 19 3 5, говоря о решениях уравнения (31), мы
считали заданными лишь его коэффициенты. В задачу входило по-
строение вероятностного пространства и определенной на нем пары
непрерывных с вероятностью 1 процессов (6(0, ®(0). таких, что
w(t) — винеровский процесс, связанный с процессом 6(0 соотноше-
нием (3.1) (для того чтобы это уравнение имело смысл, необходимо,
чтобы а-алгебра порожденная значениями процесса 6(s) ПРИ
з < t, н приращения w(t + т) — и(0 при Т 0 были независимы).
При этом в теоремах 5, 7, 8 начальное условие считалось неслучай-
ным, хотя можно было бы считать его и случайным с наперед за-
данным законом распределения р(Г), Ге® (напоминаем, wo Ф —
488 г ГЛ 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ 119.8.4
это о-алгебра борелевских подмножеств R1”); в таком случае, на*
пример, в теореме 5 вместо меры Р^ решением служила би
мера
Р“'Ь(Л)= J Р£ь (Л) р (dx), Ле 8J.
Rm
Важно подчеркнуть, что решение х(/), о существовании которого
идет речь в теоремах 5, 7, 8, вовсе нс обязано полностью спреде*
литься начальным условием и тем винеровским процессом, с кото*
рым оно связано уравнением (3.1). В самом деле, построение этого
винеровского процесса w(t) (см. рассуждение после формулировки
теоремы 5) показывает, что w(f) измерим относительно о-алгебры,
порожденной значениями решения х(т) при т t, а не наоборот,
как это было в условиях теоремы 1.
Условимся о некоторых обозначениях. Если £(0—некий слу*
чайный процесс на [О, 7], то обозначает наименьшую о-алгебру
событий, содержащую все события вида {£(s) е Г}, se[O, <],
Г е 10. Если {8/, t е= [О, Г]} — некоторый поток о-алгебр, то говорят*
что {w(/), 8J является винеровским процессом, если ш(/)—ви«
неровский процесс, согласованный с потоком о-алгебр такой,
что приращения ш(/-(-й)—w(t) при й^О не зависят от а-ал*.
гебры 8;, каково бы ни было /е[0. 7] Начальное распределение
будем считать неслучайным, так что мы рассматриваем уравнение
t	t
х (/) = xQ + J a (s, x (s)) ds 4- о (s, x (s)) dw (s),	(3,3)
o’	oJ
где Xo e Rm, t [0, I]'. o(s, x)>	*) —заданные измеримые функ*
ции на £0, 7] X Rm (первая — со значениями в Rm, а вторая приник
мает значения во множестве всех квадратных матриц порядка
m X m); w (f) — m-мерный винеровский процесс.
Пусть задано вероятностное пространство (Q, 8, Р) и на нем
«-мерный винеровский процесс {w (/),	е Предполо»
жим, кроме того, что на [0, 7] X R-" заданы две измеримые функ*
ции a (t, х), о (2, х)—векторнозиачная (размерности т) и матрично*
значная (порядка т X т) соответственно.
Пару процессов ((х (()> w (/)), g“) назовем сильным решением
уравнения (3.5), если процесс x(t) при каждом t ^“-измерим и с
вероятностью 1 соотношение (3.3) выполняется для всех t е [0, 7]
одновременно.
Пусть заданы лишь функции a(t, х), о(/, х), такие же, как и
в предыдущем определении. Если найдется вероятностное простран«|
ство (£2, Р) с потоком о-алгебр {8/, t е [0, 7]} и такая пара
процессов (х(/), ш(0), согласованных с этим потоком, что процесс
(ш(/), 8<) является винеровским, а процессы х(/) и w(<) с вероят*1
костью 1 связаны соотношением (3 3) при всех i е [0, 7] одновре*
доенно, то такую пару процессов {(х(<), tc(/)), 8/} назовем слабым
решением уравнения (3.3).
Таким образом, всякое сильное решение уравнения (3.3) явлдт
ется в то же время и слабым, т.е. понятие слабого решения вилки
19.3.6]
19 3. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
499
вдет в себя понятие сильного решения. Если (x(Z), w(t}) —слабое
решение уравнения (3.3), то процесс х(1) не обязан быть изме-
римым. Допуская некоторую вольность речи, иногда называют силь-
ным или слабым решением уравнения (3.3) сам процесс x(t), а не
соответствующую пару.
Если для любых двух решений (х'(/), а,,(0) и (x”(t), w"(l))
уравнения (3 3), заданных на одном и том же вероятностном про-
странстве, из равенств w'(f) w"(t), х'(0) = х"(0) следует, что
Р{ sup |xz(O-^(OI>0}-^
то говорят, что решение уравнения (3 3) единственно в сильном
Смысле (сильно единственно, единственно по траекториям).
Если любые два решения (x'(l), w'(t)) и (х"(/), а1"(/)) урав-
нения (3 3) имеют одинаконыс конечномерные распределении, то
говорят, что решение уршнеппя (3 3) едина венно в слабом смысле
(слабо единственно, единственно по мере).
Существование сильного решения уравнения (3 3) и сильная
единственность решения гарантируются, если выполнены условия
Теоремы 1. Сформулированная выше теорема 5 содержит весьма об-
щие условия существования слабого решения уравнения (3.3) и един-
ственности решения в слабом смысле. В теоремах 7, 8 даны условия
существования слабого решения того ж® уравнения.
Следующий пример хорошо иллюстрирует различие между вве-
денными понятиями.
Пример 1 Пусть гп = I; П — пространство непрерывных
функций, заданных па [О, Г] и принимающих значения в R, 8* — ми-
нимальная о-алгебра подмножес и» U, содержащая все множества
вида {х(-): x(s) е Г}, 1^/, Ге», Р — вииеровская мера па про-
странстве (й, 8т).
Положим
fl, если х^О;
° X —если х < 0.
Определим процесс W(f), t е [0, Г], положив
t
w (0 = а (х (s)) dx (s).
о
Легко видеть, что процесс (а/ (/), Йд, Р) тоже винеровский, причем
P-почти наверное
t
х (/) = а (х (s)) dw (s)
о
при всех t е [0, Г] одновременно. Значит, процесс является реше-
нием уравнения
dx (0 = о (х (()) dw (О
с начальным условием х(0) » 0.
goo	ГЛ 19 СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ Ц9.Э.в
Далее можно доказать, что
t
W(/) = |X(O1-Ikn у ( Хде ] (f х (S) |) ds,
CvO e J J
0
где X(O, e] {«) —индика гор отрезка [0, е]. Из этой формулы следует,
что функция w(t) ншерима онюсительно минимальной а-алгебры
подмножеств Q, порожденной значениями процесса |x(s) | при s^t.
' аким образом, о-алгебра существенно богаче о-алгебры
Стало быть, решение рассмотренного уравнения нельзя сконструиро-
вать, исходя лишь из винеровского процесса w(i). Значит, это ре-
шение слабое и не является сильным. Заметим еще, что в этом
примере уравнение имеет неединственное решение: вместе с (х(/),
к(0) решением является также (—х(/), w(0). С другой стороны,
решение этого уравнения единственное в слабом смысле, поскольку
конечномерные распределения каждого решения (х((), ш(()) совпа-
дают с конечномерными распределениями пары процессов (g(t),
J	<«)). где 1(0 — винеровский процесс.
9
Сформулируем ряд общих утверждений о сильных и слабых
решениях.
1.	Если уравнение (3 3) обладает сильной единственностью, то
всякое его решение является сильным.	t
2	Если уравнение (33) обладает слабой единственностью, то,
любые два его сильных решения (x'(f), w'(0) к (х"(0, «’"(/));
совпадают с вероятностью I при всех t одновременно.	<
3.	Предположим, что функции a(t, х) и b(t, х)== o(t, x)aT(t, х)
удовлетворяют условиям теоремы 5. Тогда, если на некотором ве~
роятностном пространстве уравнение (33) имеет сильное решение,
то любое слабое решение является сильным.
Таким образом, при указанных условиях имеет место альтер-
натива.
4.	Либо любое решение уравнения (3 3), заданное на любом
вероятностном пространстве, является сильным, либо ни одно реше~
ние ни на одном вероятностном пространстве не является сильным,
и вти решения обязательно неединственны по траекториям.
5.	Пусть m = 1. В пространстве £г[0, Т] (функций <р [0, 7|->R
с интегрируемым квадратом), выберем ортонормированный базис
А = 1, 2, ...}, состоящий из равномерно ограниченных функ-
ций. Для всякой числовой последовательности г == {zt, г2, ...}, для
ОО	ОО
которой	С, У, | zb|С (здесь С>0—фиксированная
постоянная), положим
ОО
<₽('. г)=£^ч’к(0
k-i
и обозначим через u(s, х, z) решение задачи Коши (в области
W.3.71
W.3. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
601
se[0, f), xeR):
-^- + -2^(5, x)-^p-+(a(s. x)4-a(s, x)qp(s, z)) —= 0,
и (f, x, z) — x.
.Через v(s, x) обозначим решение задачи Коши (в той же области)}
до । 1 , ,	, д2о	до п
^+-2b^x^ + a{s'
V (f, х) = X2.
Если коэффициенты b(t, х) = ог(/, х) и a(f, х) удовлетворяют
условиям теоремы Б (в рассматриваемом случае это означает, что
функция &(/, х) непрерывна, inf b(t, х) >0, функции off, х)
<«(<!, Л
xes R
р a(t, х) ограничены и измеримы), то, согласно теореме Б, решения
Этих задач в классе медленно растущих функций, локально принад-
лежащих пространству IFp 2 с любым р >> 2, существуют и един-
ственны.
Далее, если I » (it. /а, .... (я), где it — целые неотрицательные
числа, то обозначим ]1| = it Ч- is + • • - + in, Л = й! »sl... ij и
dx*1 .,. dz**
1если / >== (0, 0, .... 0), то &ГХ— тождественный оператор).
Теперь мы можем сформулировать необходимое и достаточное
условие существования сильною решения уравнения (3 3) (в одно-
мерном случае) в терминах решений приведенных выше задач Коши.
В предположении, что коэффициенты oft, х) и off, х) удовле-
творяют условиям теоремы 5', уравнение (3.3) имеет сильное реше-
ние при i Т тогда и только тогда, когда выполняется тождество
о (0, х) = £ [Drzu (0, х, z)]21	.
/ z”
Хотя этот критерий и трудно проверяем, тем не менее он пока-
зывает, что наличие или отсутствие сильных решений уравнения
(3.3) связано с устройством его коэффициентов, а не с удачным
или неудачным выбором вероятностного пространства, винеровского
процесса и т. п.
19.3.7. Теоремы существования сильных решений. Сильная един-
ственность. В теореме 1 сформулированы условия, обеспечивающие
существование сильного решения и его единственность по траекто-
риям. Оказывается, что дополнительные предположения об одной
группе коэффициентов позволяют ослабить условия на другие. Ниже
^формулированы некоторые теоремы существования сильных реше-
ний, сильной единственности, а также результат, известный под на-
званием «теоремы сравнения».
Б02	ГЛ 19 СТОХАСТИЧЕСКИЕ ДИФФ УРАВНЕНИЯ [19.3.Т
Теорема 9. Предположим, что входящие е уравнение (33fc
функции a(t, х), c(t, х) ограничены и измеримы, матрица b(t, х)--
о(/, x)aT(t, х) непрерывна по совокупности переменных и равно-
мерно положительно определена (ши. теорему 5'); функция c(t, х)
удовлетворяет условию Липшица по х:
la(t, x) — a(t, у)(^К\х — у\, t е [О, 7J, х, цеК"
(здесь К — постоянная)-, функции a(t, х) и o(t, х) удовлетворяют
е
условию Дини, при некотором е > О р (г) г-1 dr < оо, где ₽(/}-—
о
модуль непрерывности по переменным t, х любой из функций a(t,x),
C(t, X).
Тогда уравнение (3 3) имеет сильное решение, и оно единствен-
ное по траекториям.
Замечание. Если функция a(t, х) не удовлетворяет условию
Липшица по х, то решение обыкновенного дифференциального урав-
нения dx(t) = a(t, x(t))dt может оказаться неединственным (напри-
мер, уравнение dx (/) = (!—а)~!1 х (f) |° dt с начальным условие л
х(0)=0 при 0 < а < 1 имеет решения х(0 о, х (/) = flj,u-C|)„
В то же время прибавление к правой части этого уравнения сколь
угодно малого стохастического возмущения превращает его в урав-
нение dx(t) — a(t, x(t))dt -|- e,dw(t), для которого решение может)
оказаться единственным при почти всех траекториях винеровского
процесса ш(() Согласно теореме 9, это будет так, если функция
a(t, х) удовлетворяет условию Дини по переменным t, х
В предыдущей теореме размерность пространства произвольна.
В одномерном случае можно получить более сильные результаты.
Теорема 10. Предположим, что функции a(i, х) и c(t, х), за-
данные при t s [0, 7], х е R, ограничены и измеримы, inf о(/, х)>
т, х
> О и функция G(t, х) при всех t е [0, 7], xeR представима в
виде o(t, х) = Oi(f, х)о2(х)а8(/, х), где о, — ограниченные борелев-
ские функции, причем.
1)	при втек х, у е R и почти всех I е (0, 7]
I <Т1 (t, х) — dj (t, у) К с (t) р (| х — у |),
где р (и), и > 0, — возрастающая выпуклая вверх функция, такая,
что при любом е > 0
в
( р~2 (и) du = + со,
о
а с{1) (/ ^ 0) — измеримая по Лебегу функция, для которой
т
с2 (/) dt < со;
о
2)	функция оДх) имеет ограниченную вариацию на любом ко-
нечном промежутке изменения х;
19.3 71
19 3 НЕПРЕРЫВНЫЕ ПРОЦЕССЫ
ВОЗ
3)	функция <Ss(t, х) абсолютно непрерывна по х при почти всех
.	<Э<та (f, х)
t 0, и ее производная -—- локально интегрируема с ква-
дратом, т. е. при всех N > О
т к
( [^•4|2^^<оо.
J J дх |
О -N
Тогда уравнение (3 3) имеет сильное решение, и оно единствен-
но по траекториям.
В частности, из этой теоремы следует результат, в одномерном
случае, если a(t, х) и о(/, х)—ограниченные измеримые функции,
o(t, х) равномерно отделена от нули и удовлетворяет условию Гёль-
дера по х.
| о (t, х) — о (/, у) |< К. | х — //Г*, t е= [О, Г], х, у £ R,
при некотором а 1/2 (здесь К — постоянная), то уравнение (3 3)
имеет единственное сильное решение
В теоремах 9, 10 матрица диффузии b{t, х) = o(t, x)oT(t, х)
предполагалась невырожденной Как уже отмечалось, общие усло-
вия существования и единственности сильного решения уравнения
(3 3), допускающие вырождение матрицы o(J, х), даются теоремой I.
В одномерном случае следующая, более общая теорема содер-
жит условия сильной единственности решения уравнения (33) без
Предположения о невырожденности коэффициента диффузии
Теорема 11. Пусть для t е [0, 7J, х е R, заданы измеримые
функции a(t, х) и а(1, х), такие, что.
1) при всех t е [0, Т], х, у е R. выполнено неравенство
| о (t, х) — a (t, у) К р (| х — у I),
где положительная возрастающая функция р (w) (и > 0) удовле-
творяет условию
в
р-2 (и) du = + оо
при любом е > 0;
2) при всех 19 [0, Г], г, у е R, справедливо неравенство
f a (t, х) — a (t, у) К k (| х — у |).
где положительная возрастающая выпуклая вверх функция k(u)
(и > 0) удовлетворяем условию
АС1 (и) rf« = -f-oo
при любом е > 0
Тогда уравнение (33) обладает потраекторной единственностью.
Таким образом, если для некоторой пары функций a(t, к),
о(1, *)« удовлетворяющих условиям теоремы 11, удается доказать
604	ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ 119,317
существование слабого решения уравнения (3.3), то это решение ав-
томатически оказывается сильным (см. утверждение 1 п. 19.3 6).
В частности, утверждение теоремы И справедливо, если коэф-
фициент переноса a(t, х) удовлетворяет условию Липшица по х, И
коэффициент диффузии о(/, х) (вообще говоря, вырождающийся)'
удовлетворяет условию Гёльдера по х с показателем а 1/2 (оба
коэффициента измеримы).
Следующий пример показывает, что при a(t, х) =а= 0 условие 1)'
теоремы 11 нельзя ослабить
Пример 2. Пусть р(«) (и 0) — непрерывная возрастающая
функция, для которой р(0) =0 и
1
р~2(ц) du < оо.
о
Тогда с вероятностью 1 для всех t одновременно
t
р-2 (| w (з) |) ds < со,
о
где w(s)—одномерный винеровский процесс. Положим £(/)«= w(i7},
где It определяется из соотношения
р-2(| w (s) |) rfs = f, />0.
Тогда нетрудно показать, что процесс £(t) удовлетворяет уравнению
#Ю-Р(|8(*Н)ЛН0,
где w(f)—некоторый новый винеровский процесс. С начальным
условием £(0) =0 этому уравнению удовлетворяет, кроме указа#»
Него процесса, также процесс t(Z) »s 0, так что решение рассмотрен*
кого уравнения неединственно по траекториям.
Приведем еще один пример, показывающий, что прн одних на,
чальных условиях стохастическое дифференциальное уравнение об*
ладает потраекторной единственностью, а при других такая един-
ственность отсутствует.
Пример 3. Пусть w (Z) — двумерный винеровский процесс.
Тогда, как легко подсчитать, при всех 0 < а < 1 и t > О
t
М | w (s) |-2“ ds < оо
о
ij, значит, с вероятностью 1 при всех 1^0 конечен интеграл
I W (s) [~2nrfs. Определим т* из соотношения
*
| W (s) I"20 ds,
О
19.3.71	КЗ. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ	505
и положим g(7) ®> w(Tt). Тогда нетрудно убедиться, что £(0 явля-
ется решением уравнения
dS(0 = |H0 \*dw (t),
где w(t)—некоторый новый (двумерный) винеровский процесс. Это
уравнение, кроме указанного решения, выходящего из начала коор-
динат на плоскости, имеет еще решение |(t), не покидающее начала
координагг ни в один из моментов времени. Если Же начальным
условием служит точка, отличная от начала координат, то решение
рассмотренного уравнения никогда не попадет в начало координат,
и, стало быть, оно (решение) единственно в сильном смысле.
Следующий результат показывает, что существует достаточно
широкий класс одномерных уравнений с невырожденным гёльдеро-
вым коэффициентом диффузии, не обладающих потраекториой един-
ственностью и, значит, нс имеющих сильных решений.
Обозначим через Н* р (О множество всех функций /(^.опре-
деленных на замкнутом ограниченном отрезке /ей и удовлетво-
ряющих условиям:
a)	inf f (х) > 0;
х
б)	sup| f (х) — f (у} 11 х — у Г" < со;
х, у
в)	для всех х < у (х, у е 7) найдутся такие х', у', чтв
X < х' < у' < у и
1/(*')-/(/)|>С|х-уЛ
здесь а, Д — положительные числа, а С—положительная постоян-
ная, зависящая от функции f.
При а ₽ eg 1 классы Н * р (7) непусты Примером функции f
из класса Я+а(Ю, Ц) может служить функция
/ (х) = а + У (ь*х). X 6= ГО, 11,
feS'o
где ф(х) = хЛ(1—х), а > 0, Ь— целое число, удовлетворяющее
неравенству Ь1~а > 2.
Теорема 12. Пусть о(х) —всюду положительная непрерывная
ограниченная функция, заданная на R Предположим, что сужение
этой функции на некоторый ограниченный замкнутый отрезок / е R
.	2а 2а ~ | ~ 2а^
принадлежит классу Z/+ р (7), где а =С Р < j qy g— V —2 — а—•
Если ха — внутренняя точка отрезка I, то решение уравнения
=	U0) = Xq
неединственно.
Следующая теорема называется теоремой сравнения.
Теорема 13. Рассмотрим два одномерных стохастических
дифференциальных уравнения'.
dxt (7) = а{ (7, xt (/)) dt + о (/, х, (/)) dw (t), I - 1, 2,	(3.4)
(06	гл 19 СТОХАСТИЧЕСКИЕ ДИФФ УРАВНЕНИЯ (19Л.Г
еде функции at(i, х) (i = 1, 2), o(f, х) определены на (О, oo)XR,
непрерывны, ограничены и таковы, что функция о (С х) удовлетво-
ряет условию 1) теоремы. 11, а функции a^(t, х), a2(t, х) связаны
неравенством
х) < «2 (t, х)
при всех (t, х) е [0, оо) X R
Тогда, если (х((1), щ(0) и (х2(0, “’(О)—решения указанных
уравнений при i — 1, 2 cooleei с ничто (эти решения заданы на од-
ном вероятностно и пространнее и с одним и тем же винеровским
процессом w(l)) и Xi(0) •= х2(0), то xi(/)^xz(/) с вероятностью 1
для всех t одновременно.
Следствие 1. Пусть u(t, х) удовлетворяет условиям теоре-
мы 13, а функция a(t, х) непрерывна и ограничена. Тогда стохасти-
ческое дифференциальное уравнение
dx (0 = a (t, х (t)) dt + a (i, x (/)) dw (i)	(3.3)
о начальным условием x(0) = xQ имеет минимальное и максималь-
ное решения: (x(t), w(t)) и (x(Z), w(/)) соответственно.
Это означает, что если (x(Z), w(t))—произвольное решение
указанного уравнения с тем же начальным условием х(0) = х0, то
с вероятностью 1 х(0	х(/) <Jx(/) при всех I одновременно. При
этом оба процесса x(t) и х(1) обладают марковским свойством н
являются диффузионными в смысле и. 19.1 1 Если к тому же рас-
сматриваемое уравнение обладает единственностью в слабом смысле,
то с вероятностью 1 x(t) = х(1) при всех t одновременно, и, стало
быть, решение этого уравнения единственно по траекториям.
Следствие 2 Пусть выполнены все условия теоремы 13, за
исключением строгого неравенства: ец (Г, х) < <г2(1, х), вместо кото-
рого теперь будем предполагать выполненным нестрогое неравенство:
ui(t, х) 3g; а2(1, х) при всех (t, х) е [0, оо) X R- Предположим,
кроме того, что оба уравнения (36) обладают потраекторной един-
ственностью (в частности, это будет так, если ai(t,x) (ieil, 2)
удовлетворяет условию 2) теоремы 11). Тогда справедливо утвер-
ждение теоремы 13.
Приведем два примера стохастических дифференциальных урав-
нений, обладающих потраекторной единственностью, что легко мо-
жет быть выведено из теоремы сравнения и ее следствий.
Пример 4. Предположим, что в уравнении (3.5) коэффициент
0(1, х) удовлетворяет условиям теоремы 13, а коэффициент a(t, х)
Непрерывен, ограничен и при каждом t s [0, оо) функция a(f, х)
не возрастает как функция х. Тогда решение уравнения (3.7) по-
Траекторно единственно.
Пр и м е р 5. Рассмотрим уравнение
dx (1) = и (х (О) dw (1) 4- а (х (<)) di,
где
{О при х < 0;
х при х^О,
В непрерывная ограниченная функция а(х) такова, что а(х)>С > 0
(здесь С — постоянная). Утверждается, что решение этого уравнения
единственно по траекториям.
19.3.81	16.3. НЕПРЕРЫВНЫЕ ПРОЦЕССЫ	607
В заключение этого пункта приведем теорему существования и
единственности* решения уравнения (3.3), обобщающую теорему 1,
Условия на коэффициенты а(/, х) и o(t, х) в этой теореме носят
название условия монотонности.
Теорема 14. Пусть на [0, I]XRm заданы измеримые еектор-
нозначная (размерности гп) функция ait, х) и матричнозначная
(порядка tnXm) функция о(1, х), и пусть для всякого xeRn
Т
| a (t, х) [ dt < оо.
Предположим далее, что для всякого N > 0 существует неотрица-
тельная измеримая функция Ki(K) такая, что
т
$ Kt (К) dt < со
о
U при почти всех t е [0, 7 ] и всех х, у, ге Rm справедливы нера-
венство
2(х — у, a (t, х) — a (t, у)) +
+ Sp [а (/, х) - а (t, у)] [а (t, х) - a (t, у)]т^ Kt (N), (3.6)
если только |х| eg N, |i/| eg N, и неравенство
2 (z, а (t, z)) + Sp [о (t, г) o’(t, z)J < Kt (1) (1 + | z |2). (3.7)
Тогда уравнение (3 3) имеет сильное решение, и оно единственно
по траекториям.
Пример 6. Пусть заданы число у е (1,2) и вещественные
измеримые функции a(t), fi(Z), t е [0, /], связанные неравенством
-2(V-l)a(/)+-i-₽!(/)<0
4
при почти всех t е [0, Т], и пусть
т
а (0 dt < оо.
о
Положим для t е [0, 7], х е Ra(t, х) = — a(/)|x|v-1 sign х, о (t, х)=«
s= р (/) I х f^2. Нетрудно проверить, что так определенные функ-
ции удовлетворяют условиям (3 6), (3.7) с Kt(N), и потому (одно-
мерное) уравнение (3 3) с такими коэффициентами имеет сильное
решение и оно единственно по траекториям.
19.3.8. Уравнения с коэффициентами, зависящими от прошлого.
В этом пункте рассмотрим более общие стохастические дифферен-
циальные уравнения. Именно, будем предполагать, что коэффициен-
ты уравнения в момент времени t являются функционалами, зави-
сящими от траектории искомого процесса до момента времени t.
Обозначим через С [0_ (Rm) пространство всех непрерывных
функций х(7), заданных на [0, Т] и принимающих значение в Rffl.
508	ГЛ 19 СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ 119.3.8
Через й/ обозначим минимальную о-алгебру подмножеств CjOi yj(Rm),
содержащую все множества вида (%(): x(s) еГ} при s sg t,
Гей (S3 по-прежнему обозначает о-алгебру борелевских подмно-
жеста Rm). Пусть для t е [0, 7], х(-) е С(о> (Rm) заданы:
1) функция a(t, х(»)) со значениями в R", измеримая по сово-
купности переменных (т. е. измеримо отображение
«: (10, 71X С{о. л (R"1), »(о, л X 9гг) ** (RW-
где ®[Oi yj — о-алгебра борелевских подмножеств отрезка [0, 7JJ,
при каждом (е [0, 7] JJlj-измеримая как функция х(-), при каждом
х(-) е С[0> Г] (Rm) ограниченная как функция t;
2) матричнозначная (порядка т^т) функция о(Г, х), измери-
мая по совокупности переменных, при каждом t е. [0, 7] ^-измери-
мая как функция х(-), при каждом х(-) е С[о yj (Rm) ограниченная
как функция t.
Пусть также заданы вероятностное пространство (£2, 8f, Р) о
потоком о-алгебр (/ е [0, 7]), т-мерный винеровский процесс
te(0 (<е[0, 7]) и случайный вектор |osRm, удовлетворяющие
условиям 1)—3) п. 19.3.1.
Рассмотрим стохастическое дифференциальное уравнение
di(1) = а(Ц (-)) dt + о (/, i (•)) dw (f)	(3.8)
с начальным условием £(0) = £о, которое можно записать в интег-
ральной форме:
t	t
6 (П = Ео + J a (S. i (•)) ds + J or (s, i (-)) dw (s).	(3.9)
0	0
Такие уравнения представляют собой обобщение тех уравнений, ко-
торые рассматривались в предыдущих пунктах. Именно, мы получим:
рассмотренные ранее уравнения, если окажется, что функционалы
Ь(£, *(•)), о(/, х(-)) зависят не от всей траектории x(s) при s «£ t,
а лишь от значения функции х(-) в момент времени 1.
Понятие решения уравнения (3.8) почти дословно совпадает с
рпределением решения уравнения (3.1). То же относится и к поня-
тию единственности решения. Аналогом теоремы 1 является следую-
щая теорема.
Теорема 15. Пусть заданы перечисленные объекты (т. е. коэф-
фициенты): a(t, х(-)), b(t, х(-)), вероятностное пространство с по-
током о-аягебр S, (f <= [0, 7]), m-мерный винеровский процесс w(t),
случайная величина удовлетворяющие указанным выше условиям,
и предположим, что выполняются условия:
1) существует постоянная К, такая, что при t г£,Т
I «(*,*(•)) I2 +1 * «, * (•)) I2 < К (1 + II х (-)ф,
еде ||x(-)||f= sup |x(s)|;
s
2) для каждого R > 0 существует такая постоянная Сд, что
при ts[0, 7], [| х(-) Ur<R, ll p(-)) ||r<R выполнено неравенство
}аЦ,х (-)) - а (1, у (•)) |* + | о (f, х (•)) - о (/, у (•)) |2 С
<Сл||х(-)-у(.)(|г
19.9.85	® 3 НЕПРЕРЫВНЫЕ ПРОЦЕССЫ	S09
Тогда существует единственное St-измеримое решение £(/) урав-
нения (3.9), причем £(/) измеримо относительно наименьшей о-ал-
гебры событий, порожденной значениями винеровского процесса
w (s) при s^t и начальным значением go
На рассматриваемые уравнения переносятся понятия сильного
и слабого решений (см, п. 19 3 6). Приведенная выше теорема 15
дает условия существования сильного решения уравнения (3 8) и
сильной единственности решения. Следующая теорема содержит ус-
ловия существования слабого решения.
Теорема 16. Предположим, что коэффициенты уравнения
(3 8) удовлетворяют условиям-.
а)	функции a(t, *()), <т(/, *(•)) непрерывны по х( ) в метрике
пространства С^о_ (Rm) при каждом t Т-
б)	существует такая постоянная К, что
\a(t,x (•)) |2 + | о (t, х (•)) |2< К (1 + ||х (•)!!;).
Тогда существует слабое решение уравнения (3 8). Слабые ре-
шения уравнения (38) можно получать и с помощью абсолютно
непрерывной замены меры.
Рассмотрим для примера уравнение
дх (/) = a (i, х (•)) dt + dw (О
(3.10)
с неслучайным начальным значением х(0) — Хо, где Хо— фиксиро-
ванный вектор из Rm
Теорема 17. Пусть на (С[0> rj (Rm), й/) задана мера Р та-
кая, что Р {х (0) = Хо) = 1, и процесс х (!), t е (0, И, является ква-
дратично интегрируемым мартингалом относительно (Кг, Р) с харак-
теристикой i-I (другими словами, процесс (х(/), Р) является
винеровским, выходящим из точки х0 в начальный момент времени).
Если функция a(t, х(-)) удовлетворяет перечисленным в начале
пункта условиям измеримости и такова, что
м/?г (х (•)) = !,
(3.11)
где М—символ операции усреднения по мере Р, а Т?7(х(-))—>
функционал от х(-), определяемый формулой
(*(•)) = ехр
Т	т
J (а (/, х (•)) dx (0) ~ 4 J ।а х dt
о	о
то, полагая
₽(/)=» (х (•)) 4Р. Ае Э?г,
А
310
ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ
[19.34
получим меру Р на (Rm), Э1Г), обладающую тем свойством,
что Р{х(0) ™ х0} и 1, я процесс
t
© (0 = х (/) — х0 — J a (s, x(’))ds, te [0, TJ
является квадратично интегрируемым мартингалом относительно
(91*. Р), характерце тка которого равна t-I (здесь и выше 1 — еди-
ничная матрица).
Иначе говоря, пара процессов (*(/), ш(/)), е IA Л, заданных
на вероятностном пространстве (С|0_ yj (Rm), Sfty, Р) с потоком а-ал-
гебр {9Х, t а [0, Т]}, представляет собой слабое решение уравнения
(3.10). Более того, можно показать, что в классе мер, удовлетво-
ряющих условию
Р J | a (t, х (•)) I2 dt < оо |. «я 1,
построенная в теореме 17 мера единственна. Этот результат может
быть дополнен следующим образом.
Теорема 17'. Предположим, что функция a(t, х(-)) такова,
что
т
( |а(/,х(-))|2Л<00
0ля всякой функции х(-) s С|0> у] (Rm). Тогда второе из условий
'(3.11) является необходимым и достаточным для существования и
слабой единственности слабого решения уравнения (310).
Для того чтобы функция a(t, *(•)) удовлетворяла условиям
(3.11), достаточно, чтобы
М ехр
** V	I
где М имеет то же значение, что и выше. В частности, условия (3.11)
будут выполнены, если функция a{t, *(•)) ограничена, так что
Уравнение (3.10) имеет единственное слабое решение, какова бы ни
была ограниченная функция o(f,*(•)), удовлетворяющая условию!),
приведенному в начале этого пункта.
Приведем в заключение пример уравнения (3.10) с ограничен-
ной функцией a(t, х(-)), которое не имеет сильных решений.
Пример 7. Пусть {/„, п = 0, I, 2, ...} — числовая последова-
тельность, такая, что 1 => /о > h > ti > ..., lim ln =*= 0. Положим
П->0»
для а [/*, (*-i), k «ы 1, 2,...,
a(s, =| 1
I	Ч “ 4+1	>
ИЛ.11	19.4. ПРОЦЕССЫ С РАЗРЫВАМИ	Щ|
где {у}—дробная часть числа у- Пусть (х(0. ®(0) — решение
уравнения (3.10) е таким коэффициентом a(t, х(-)) (рассматрива-
ется одномерный случай).
Обозначим
„ f x(Vi)“x(y 1 t
'» t <»--'» Г <77=4
Из уравнения (3.10) легко получить соотношение
exp {2rtiT)ft} — exp{2jUT)„+1} exp {2л< (gfc + ... + £„)},
справедливое при всех п > k. Отсюда
I Me2”*’1* I < Ц I Ме2я‘^ [ = exp I — 2л2 У (7, j — t Х~11 -> 0
7-й	<.	/=*	)
при п-*-оо и, значит, Ме2я^ =’0 при всех k. Обозначим через б?
О-алгебру событий, порожденную величинами ю(т)—w(s) при
т е. [а, 7]. Тогда при k < п
М { Л'11* |	} = exp {2ш + ... + £„)} X
ХМ{е2л'’’"+1|б^ )“0,
х	I «—I J
поскольку величина t)n+i не зависит от о-алгебры 8**^- Переходя
и пределу в последнем соотношении при п -* оо, получаем равенство
м{Л>;л.,}_о.
которое означает, что tj* не может быть ^измеримой величи-
ной. Значит, никакое решение рассматриваемого уравнения не может
быть сильным.
19.4. Стохастические дифференциальные уравнения
для процессов с разрывами
19.4.1. Пуассоновские меры. Пусть (0, £й)—некоторое измери-
мое пространство с о-конечной мерой П. Через Ш1о будем обозна-
чать подалгебру SW, состоящую из тех множеств А е SM, для которых
П(Л) < оо, а через ©+—о-алгебру борелевских подмножеств полу-
оси R+ = [0, со) Пусть, далее, задано вероятностное пространство
(£2, б, Р) с потоком а-алгебр {07, t е R+}, удовлетворяющим усло-
виям п. 9.4.1.
Говорят, что на пространстве 0 X R+ определена пуассоновская
мера v, если каждому множеству СеЭД X 9+ поставлена в соответ-
ствие случайная величина v(C) такая, что:
1)	при каждом A процесс г<(Л) = г(Л + [0, /]) представ-
ляет собой однородный пуассоновский процесс с параметром П(Л),
согласованный с потоком о-алгебр 8*, т.е. процесс ¥;(Л), ZeR.j.,
SIS
ГЛ Is. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ
R9.«
является возрастающим процессом с независимым! нраращеиаями,
принимающим целые неотрицательные значения, причем
Р (Л) - v5 (Л) = А} =	j-ff-nnw
О s < t, k = 0, 1, 2, ..., и, кроме того, при всех t 0 величину
А>/(Д) измерима относительно о-алгебры а приращения Vf+S(H)—•
— Vt(Л) при а 0 не зависят от а-алгебры &<;
2)	для любых п и непересекающихся множеств Д@Ш1ог
i ™= 1, 2....и, процессы {vi(4), I е R+} независимы в совокуп-
ности;
3)	для всякой последовательности множеств- Ctl Сз...С* в
€= ЯЛ X ®+ таких, что С, П С/ = 0 при i j, с вероятностью 1
справедливо равенство
V^U •" v
Если v — пуассоновская мера на 0 X R+, то ее компенсатором
служит мера на а-алгебре SI X ®+, являющаяся произведением меры
П и лебеговой меры на й+, так что мера v(d0 X dt) = v(dOXdt)—
•—tWII(c/0) является мартингальной мерой (см. п. 13.4.4). При ЛЮ'
бом ЛеЗйо процесс 7/(Д) =v(4X[0, <])=v(4X[0, /])— Л1(Д),
t ш R+, является квадратично интегрируемым мартингалом относи-
тельно потока а-алгебр {&«, /s R+) с характеристикой <т>ДД) =с
= Ш(Д).
19.4.2, Стохастические интегралы по пуассоновским мерам. Обо-
значим через Яа(П) совокупность случайных функций <р(0, 0 =».
₽» <р(0, t, <о), 0е9, f«sR+, аей, измеримых относительно
8ЙХ^ (^ — предсказуемая а-алгебра), для которых с вероят-
ностью 1
Г
<р2 (0, 0 П (d0) dt < оо
0 о
при любом Г < оо. В соответствии с п. 13.4.4 для феТУг(П) опре-
делен стохастический интеграл
t
/Нф)=Ц<Р(е. s)v(d0Xds), fe=R+,
о 0
обладающий свойствами:
а)	если <pi, ф2ет//г(П) и «я, аз — произвольные постоянные, то
С вероятностью 1 для всех t одновременно
It («1Ф1 + сад) = ajf (4>i) + «2^1 (<₽з);
б)	при феАГг(П) процесс Л(<р), <«^R+, непрерывен справа,
имеет пределы слева и представляет собой локальный квадратично
JM.2J
*9.4. ПРОЦЕССЫ С РАЗРЫВАМИ
513
интегрируемый мартингал относительно потока ff* (см. п. 13.3.21
с характеристикой
(I (ф)>« = J J ф® (6, в) П (40) ds;
о в
если ф1, фгеЯа(П), то взаимная характеристика стохастических
интегралов £«(ф«) и (<рг) выражается формулой
{I (ф1 >. I (фг)> =	Ф1 Фг <0’	11
О 0
в)	если ф (0, а) •> Хд (©) ы ($) й> где А е= Wt0, Е - -изме-
римая величина (уг (•) —индикатор множества Г), то
h (Ф) - gv (А X Фь ММО, /]}):
т
г)	если фЕ//г(П) и И 0 П (40) dt < оо при некого-
о е	1
ром Г > 0, то при всех t < Т
*
М/, (ф) = 0, М (It (ф))2 = Ц Мфг (0, О И (40) dt,
о в
кроме того,
Р
sup
ф (0. a) v (dQ %ds) > С I <
о е	)
М sup
0<t<T
т
<^2 J 5мф«(6. опофл.
о е
S г
J J Мфг (0, о П (40) dt;
О 0
^Ф(0. f)v(tfOX^) <4
о е
д)	если фе/Л(П), то прн любых N > О, О 0, Г > О
Р.
^ + Р1 J J*P2(0. s) П (40) ds > Л >.
'о о
17 в. С. Короток и др.
514 гл. 19. сГохАс^и^ёские дифф, уравнения !19л1а
Обозначим через /Л(П) совокупность всех случайных функций
Э, t) = / (0, t, to), fieS, /eR+, oefl, измеримых относительно
X ®+ X 8, для которых при всех Т < оо с вероятностью 1
т
Ц |f (0. /)|n(d0)d/<«x>.
О 6
Для f е Я|(П) Л /1г(П) определен стохастический интеграл
i	t	t
J J / (0, s) v (d0 X ds) = jj f (0, s) $ (dG X ds) +jf (0, а) П (d0)ds.
о e	о e	о e
Интеграл по мере v -можно определить й для более широкого класса
функций (см п. 13.4.4).
19.4.3. Формула Ито. Пусть на вероятностном проетргнстве
(Q, g, Р) с потоком о-алгебр {8>, /еК+), удовлетворяющим усло-
виям п. 9.4.1, заданы /-мерный винеровский процесс (w(t), St),
и независящая от процесса w(t) пуассоновская мера v на
(©XR+, ®1Х®+), для которой Mv (с/6 X dt) = П (d0) at (здесь
П —некоторая о-конечная мера на SR).
Через v(d0-}-d/) обозначим соответствующую мартингальную
меру: v(d0Xd/) = v(d0Xdt)—U(de)dt. Предположим далее, что
6 = 0, (J 02, где 01, 0г е 2Я, 01 П 6г = 0 и П(6г) < «>.
Будем говорить, что некий /n-мерный процесс £(/), /®R+, со-
гласованный с потоком о-алгебр {§;, t е R+), допускает стохастиче-
ский дифференциал
d£ (/) » а (/) dt + ₽ (/) dw (/) +
+ J V (0. О v (d0 X dt) + J V (6, t) v (d0 X dt),
Hi	6a
если он с вероятностью 1 при всех t одновременно представим в
виде
t	t
t (0 = С (0) 4~ а(®) ds 4- ₽ (s) dw (s) 4-
о	о
t	t
4- J J V (0. «) v(rf0X ds) 4- V (0. s) v(d0X<fs).
о e,	о e,
где a(t) — (a’(/), ..., am(t)) — иг-мерный прогрессивно измеримый
относительно потока о-алгебр {St, i е R+J процесс, для которого с
вероятностью 1 при всех Т <. оо
т
( | a (/) | di < оо;
0
10.4Л)	19.4, ПРОЦЕССЫ С РАЗРЫВАЛИ .	6(5
₽(0 “ (Рлу(t)) (k =° I, 2, ..., т; j — 1, 2,.-.., 0 — матричнознач-
ный (порядка т X /) прогрессивно измеримый относительно -потока
о-алгебр {St, t е R+} процесс, для которого с вероятностью 1 при
всех Т < оо
т I Т
У £ j(fc/(О)* <«<«»;
4-1 у=1 о
у(0, 1) = (у>(0, f).Vm(0, 0 (^eR+, 6е0) —m-мерный слу-
чайный процесс, измеримый относительно о-алгебры 5ЛХ^* (^ —
предсказуемая о-алгебра) и такой, что с вероятностью 1 при всех
Т < оо
Г
j j|?(0, ОI’ П (dQ) dt < оо.
Предположим, что задана функция f(x), xsR", с веществен-
ными значениями, дважды непрерывно дифференцируемая по х, и
йусть m-мерный процесс £(/), /eR+, допускает стохастический
дифференциал в указанном смысле. Тогда процесс ((£(/))» te R+,
также допускает стохастический дифференциал, причем
f (С (О + Y (0, - f (С (0) - У Yft(0, ol п (dO)|d/+
Л-1 х	J /
m I
е
+ У y-^F₽w^(0 +
& fa дх
+jifu (t -)+y (0. о)-г«а -))ж<*0х<«)+
+ J [f (S « -) + Y (0. 0) - f (E (< -))1 V (dQ x at).
Эта формула называется формулой Ито (см. п. 13.4.6) или
формулой дифференцирования сложной функции (употребляется так-
же термин формула замены переменной).
Обозначим через f'(x) вектор е координатами	-jp
2,..т), а через / (х) матрицу с элементами —. > (/, k = 1,
дх’дх
(k = 1.
17*
f ie	ГЛ. 19. СТОКАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ
S,...» tri). Тогда формула Ито может быть записана в виде
t
I ft (0) ~ f ft (0)) = j {(£ & (s)), a(s)) + ± Sp (₽r(a)f" ft(s))₽(s))+
+ J [f ft(s) + Y (6. s)) - f ft (*)) - (fx ft («)), Y (0, s))] П (d8)| ds +
e,	)
t
+ $(₽*>)£«(*)). <*(«)) +
о
t
+ J Jl/ft(s-) + Y(O, s))-fft(s-))]v(d0Xrfs) +
o 4
+ И I/ft(s-) + Y(0, s))-/ft(s-)))]v(«/exrfs).
0 0,
19.4.4. Стохастическое дифференциальное уравнение. Марковский
случай. Пусть на некотором вероятностном пространстве (Q, 8, Р)
с потоком С-алгебр (8/, (eR+) (удовлетворяющим условиям
л. 9.4.1) заданы /-мерный винеровский процесс («>(/), St). ‘eR+> и
не зависящая от него согласованная с потоком 8; пуассоновская
мера v на (9XR+. ВЙХ®+), удовлетворяющая всем условиям,
сформулированным в начале п. 19.4.3. Пусть, кроме того, задаиьп
1)	векторнозначная (размерности т) локально ограниченная
функция а(/, к), /eR+, xeR”, измеримая по совокупности пере-
менных;
2)	матричнозначная (порядка tn X 0 локально ограниченная
функция о(/, х), /eR+, xeR"1, измеримая по совокупности пере-
менных;
3)	векторнозначная (размерности иг) функция /(6, /, х) на
6 X R+ X Rmi измеримая по совокупности переменных и такая, что
функция
Jim t, х)|!п(</9)
0
является локально ограниченной;
4)	8в-измеримый случайный вектор |о е Rm,
Рассмотрим стохастическое дифференциальное уравнение
dl (/)« а (/, g (/)) dt + a (t, | (/)) dw (/) +
+ Jf(O. t, g(/-))vWeXdt)+ J/(e, /, U<-))v(d6XdO
&	e«
(4.1)
IS.4.4]	19 4. ПРОЦЕССЫ С РАЗРЫВАМИ	517
р начальным условием g(0) = go. Его можно записать в интеграль-
кой форме:
t	t
5(О=ёо+Jo(s, I(s»ds+ Ja(s, g(s))rf®(a) +
0	0
t	t
+ J J f(e, s, 8(s-))v(dex<fe)+ $ Jf(e. g(s-))v(rfex«fs).
t &	Oft
(4.2)
Назовем решением уравнения (4.1) с начальным условием
1(0) «• go всякий непрерывный справа и имеющий пределы слева
Прогрессивно измеримый относительно потока а-алгебр {®(, feR+)
Процесс g(/), /еК+, со значениями в Rm, такой, что все интегралы,
ходящие в (4.2), существуют при всех t < оо, а само соотношение
ЙВ) выполняется с вероятностью 1 для всех t gs R+ одновременно.
ажем, что уравнение (4.1) с заданным начальным условием имеет
едяяственное согласованное с потоком а-алгебр {Sv, t е R+) реше-
ние, если из того,-что (g(Z), St) н (g(0, St) —решения уравнения
(4.1) с начальным условием go, следует соотношение
РГ sup |£(О-МО1>0>~0.
Ve«+	J
Прежде чем сформулировать теорему существования и един-
ственности решения уравнения (4 1), сделаем следующее замечание.
Так как по предположению П(02)<оо, то процесс v(02X(O, Г])
на каждом конечном промежутке времени имеет лишь конечное
«Мело скачков. Обозначим моменты скачков в порядке возрастания
через Т1 < Та < ... . Через 0i, 6а, ... обозначим ва-значные St-из-
меримые случайные элементы, для которых v({0J X {т*}) = 1. По-
ложим еще То = 0. Уравнение (4.1) можно решать последовательно
На каждом -из полуинтервалов [т*, t*+i), k «= 0, 1, 2, ... На полу-
интервале [т«, r*+t) уравнение (4.1) будет эквивалентно уравнению
t	t
S (0 = £ (Tft) + J a (s, g (s)) ds + J a (s, g (s)) dw (s) +
4	xk
t
+ J Jf(O, s, g(s-))v(dexrfs).
61
Пусть g(/) (t > Т») — решение этого уравнения. Тогда при по-
строении решения g(i) уравнения (4.1) мы можем положить gff)133
tog(t) для te [т*, т*+1). Чтобы получить значение g(r*+t), нужно
к вектору 6(т$+1 —)“	Пт g(i) прибавить вектор f(Qk+i, т*+1,
1 ♦ Tfe+i
5(t*+i—)). Затем точно так же уравнение (4.1) решается на полу-
интервале [т*+1, т*+а) и так далее.
518	ГЛ. 10. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ	(1Й.4.4
Теорема 1. Предположим, что входящие е уравнение {4.2)
объекты удовлетворяют следующим условиям:
I)	для всякого R > 0 существует такая постоянная Ск, что
1 a(t, x) — a(t, р)Р+ Io</, х) —а(Г, 1/)|2 +
+ J IДО, t, л)-Д0, i, jOPIHdOXCJx-yl2
©I
при t^R, |х| R, |//| R (если В — матрица, то [В]2 означает
SpBBr);
2)	для всякого Т > 0 существует постоянная Кт, такая, что
при t е [О, Г], к & Rm, у е Rm
|в(Л х)|г+|о(/, х)|2+j|/(0, i, х)|=П (de)</Cr(l + |x|s);
е
3)	каковы бы ни были foeR+, xieR™ и е > 0, справедливо
соотношение
Нго П {0 е в2: | f (0, t, х) - f (О, /0, х0) | > в) «= О
f *> f о
Х->Х,
(другими слотами, сужение функции f на множество 62 X RiX R"
непрерывно по совокупности переменных t, х в смысле сходимости
по сужению Meppi Й на множество вг);
4)	случайны# ёвкгор go не зависит от совокупности величин
(w(t), v(d&Xdt)}.
Пусть, далее, К/ обозначает о-алгебру событий, порожденную
величинами go и (к>(«), v(d0X[O, s]), s С 0- Тогда существует
единственное измеримое решение уравнения (4.2), не имеющее
разрывов второго рода и непрерывное справа.
Для уравнений (4.1) справедлив следующий результат о локаль-
ной зависимости решений от коэффициентов уравнения (ср. замеча-
ние 1 к теореме 1 п. 19 3.1).
Пусть & (ie ft-t) — решение уравнения (4.2) (предполагается,
что выполнены условия теоремы 1), a j(f) (/eR+)—решеййе
уравнения
t	t
I (0 — lo + J 6 (s, j (s)) ds + ( 5 (s, g ($)) dw (s) +
о	0
t	1
+ J p(0, s,t(s-))v(dOXds)+J p(0, S. g (s-)) v (d0 X ds),
0 Oi	0 6:
относительно которого также предполагаются выполненными усло«
вия теоремы 1.
Пусть, кроме того, a(s, х) = б (s, х), o(s, х) = d(s, х),
f(0, s, х) = f (0, а, х) при |х | N. Тогда с вероятностью 1 g (s)«=s
= Г(«) для s =g: т, где t = inf (s е R+: |g(s) | > N}.

19.4. ПРОЦЕССЫ С РАЗРЫВАМИ
519
Можно показать, что в условиях теоремы 1 решеййе уравнений
'(4.2) обладает марковским свойством, т.е. представляет собой мар-
ковскую случайную функцию. Ее вероятность перехода определяется
формулой
Р (з, х, t, Г) = Р (gsx (/) 6= Г),	xeR", Ге®,
где Э —ст-алгсбра борелевских подмножеств Rm, а ((а
e[s, оо))—решение уравнения
t	t
Ьх (0 = х + а (т, Bsx (г)) dr + ст (г, Bsx (г)) dw (г) +
3	3
t	t
+ J J f (e, r, Bsx (r -)) V (dO x dx) + J J f (0, r, U (Г -)) V (d0Xdr).
s 01	3 61
(4.3)
На уравнения вида (4.1) очевидным образом переносятся поня-
тия сильных и слабых решений, сильной и слабой единственности
решения (см. п. 19.3.6). Теорема 1, таким образом, содержит усло-
вия, при которых существует сильное решение уравнения (4.1), и
оно единственно по траекториям. Весьма широкие условия существо-
вания слабого решения уравнения (4.1) приведены в следующей
теореме.
Теорема 2. Пусть входящие в уравнение (4.1) коэффициенты
удовлетворяют следующим условиям:
а)	функции a(t, х) и a(t, х) измеримы, локально ограничены
и для всех t е R+ непрерывны по х;
б)	при всех t е R+, х0 s R"*
lim ( | f (0, t, x) - [ (0, t, x0) |2 П (d0) = 0;
x->x J
0i
в)	для каждого T > 0 существует такая постоянная Кт, что
la(t, х)|2 + |о(/, х)|2 + J | f(0, t, х) |2 П (d0) < Кт (1 + 1 х |2),
01
каковы бы ни были t е [0, Г] u хе R”;
г)	при всех t е R+, хе R" и е > 0
lim П{0е02: | f (0, t, x)—f(O, t, xo)|>e) = O.
x-»x3
Тогда уравнение (4.1) имеет слабое решение.
Условия слабой единственности, а значит, и марковости реше-
ния уравнения (4.1) содержатся в следующей теореме.
Теорема 3. Предположим, что выполнены условия:
1)	функция a(t, х) ограничена;
2)	существует постоянная q (0 < q < П такая, что при всея
t е= R+, х е Rm
Sp (/ — о (t, х) ff* (t, х))2 q;
Е20	ГЛ. 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ <19*5
3)	существуют меры ni(dz) и Яг(дг) на (Rm, SB) такие, что
Ла (Rw) + I z Is Л1 (dz) < со,
R"
а мера Пь(1, к, dz) (k = 1. 2), определяемая формулой
nk(t, х, Г)— Jxr(f(e, t, x))n(rfO), 1<=R+, xeRm, Ге®,
ед
абсолютно непрерывна относительно меры zr.k(dz), и соответствую-
щая плотность gk(t, х, z) (ft ж 1, 2) обладает тем свойством, что
интегралы
j U1 Х’ *))’ I 2 I® «1 W2). J (ft (*. х> (rf2>
RM	Rm
представляют собой ограниченные функции переменных t, х.
Тогда решение уравнения (41) слабо единственно.
19.4.5.	Уравнение Колмогорова. В этом пункте будем предпола-
гать выполненными условия теоремы I. Кроме того, предполагаем,
что непрерывны по совокупности переменных (/, х), ieR+, xeR",
следующие функции:
а (Л х), о (1, л). J 11 (6, t, х) Is П (dO),
$1де. Лх)|П(^е).
61
Как уже отмечалось, решение уравнения (4.2) представляет со-
бой марковскую случайную функцию с вероятностью перехода
P(s, х, t, Г) = МХг0ад(О). 0<s</, xeRm, Ге®,
где (0—решение уравнения (4 3), а %г(х) — индикатор мно-
жества Ге8.
Пусть <р(х) (х е= Rm) —дважды непрерывно дифференцируе-
мая функция, ограниченная вместе со своими производными. Тогда
с использованием формулы Ито нетрудно получить соотношение
lim lM<₽ (Ssx (0) - Ч> (*)1
= (^х (х), a (s, х)) + у Sp (</ (а, х) (s, х)) +
+ J [<р (х + f (0, s, х)) — <р (х) — (ч4 (х), f (6, s, х))]П (d0) +
6,
+ J 1«Р (х + f (0. s, х)) - <р (X)] П (d6). (4.4)
е,
19.4.51	49.4. ПРОЦЕССЫ С РАЗРЫВАМИ	521
Следствием соотношения (4.4) является следующее утверждение.
Предположим, что непрерывная ограниченная функция ф(х), * *eR”,
такова, что функция
«(/, х) = Мф(^х(7)) = ( ч>(р)Ра, х, Т. dy)
Um
прн всех tе [0, 7], хеRm дважды непрерывно дифференцируема
по х н производные их и ихх ограничены Тогда она удовлетворяет
в области f е [О, Г}, х е R* следующему интегро-дифференциально-
му уравнению
+ (их (/, х), a (t, х)) + у Sp (ог (t, х) ихх (f, х) a (t, х))+
+ J [и (*, х + f (6, t, х)) - и (1, х) - (их (i. х), f (6, t, *))] П (d0)+
+ [и (О + f (6. t, x)) - и (/, х)1 П (dO) = 0 (4.5)
0j
с граничным условием
Нт к(/, х)и<р(х).	(4.6)
* 4 г
Возникает вопрос: при каких условиях на коэффициенты урав-
нения определенная выше функция u(t, х) обладает свойствами, по-
зволяющими записать для нее уравнение (4.5)? Ответ иа этот во-
прос в случае f(0, t, х) = 0 при бе&2 дает следующая теорема.
Теорема 4. Предположим, что для всех 0е02 функция
f(B, t, х) на 0, и пусть выполнены условия теоремы I. Пусть, кроме
того, существуют ограниченные и непрерывные по совокупности пе~
ременных производные
ах (f, х), ахх (/, х), а'х (f, х), ахх (f, х).
Относительно функции f(0, t, х) предположим, чт<^ существуют не-
прерывные по t, х производные fx (6, t, х) и f'x (0, t, х), причем
fx (0, t, х) ограничена и интегралы
J | fx (0, t, х) |z П (dO), J | f"x (0, t. x) |2 П (dO)
0i	0i
Также представляют собой ограниченные функции переменных t, х.
Если^вх (0 — решение уравнения
t	t
fa* (0 — X 4- J а (Т, Lx (т)) dx + о (т, Lx (т)) dw (т) +
ff	a
t
+ J Jf(0> X, U(T-))v(d0><dT), <>s, xsR«
a 0
522	ГЛ- 1Э- СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ ,!9,М
а функция q>(x), xeR"1, дважды непрерывно дифференцируема
и ограничена вместе со своими производными, то функция
Мф (|sx (0) также дважды непрерывно дифференцируема и ее про*
изводные ограничены.
Таким образом, если f (0, t, х) •= 0 для 0 & 6г, то соответствую-
щая задача Коши (т.е. уравнение (45) без последнего интеграла в
левой части с граничным условием (4.6)) имеет единственное реше-
ние. Эта задача позволяет определить вероятность перехода
Р(д, X. t. Г) -MXr (tj?)), 0<s<t. х«3 R"‘, Ге 8,
марковской случайной функции, являющейся решением уравнения
(4.2) (без интеграла по мере v(d0X «?<))• Для того чтобы опреде-
лить вероятность перехода P(s, x,'t, Г) в общем случае, можно
воспользоваться следующим интегральным уравнением, связываю-
щим функции Р и Р:
P(s х, t, Г)=«
t
- exp {- (f - s) П (02)} F(s, x, t, Г) + J exp (- (т-s) П (62)}rfr X
s
X П (d6)	₽ (s, x, t, dz) P (t, z 4-) (0, t, 2), t, Г),
«’ Rro
где 0 s t, x <= R”’, Г e 0.
19.4.6.	Уравнения с коэффициентами, зависящими от прошлого.
В этом пункте рассмотрим стохастические дифференциальные урав-
нения, подобные уравнению (4.1), в котором, однако, коэффициенты
представляют собой функционалы, зависящие от всех значений ис-
комого процесса в «прошлом».
Обозначим через £>[0 n (Rm) пространство функций х(/), за-
данных иа [0, Г], принимающих значения в Rm, не имеющих разры-
вов второго рода, непрерывных справа в каждой точке t е [0, 7), а
в точке Т непрерывных слева. Через 91г (/ е [0, П) обозначим наи-
меньшую о-алгебру подмножеств £>f0 Г) (Rm), содержащую все мно-
жества вида {х( ): x(s) е Г} при s t, Ге9. В пространстве
1>10_ (Rm) можно ввести метрику
Р (х (•). У (•)) — inf ( sup [ I х (t) — у (g (()) I 4-11 — g (01 J),
8 o<t<r
где inf берется по всем непрерывным монотонным функциям g(/)’,
t 6= (0, T], для которых g(0) = 0, g(T) » T.
Тогда о-алгебра Sir совпадает с о-алгеброй борелевских под-
множеств D[0 Г] (Rm) в метрике р. Символом D (R'71) обозначаем
пространство всех непрерывных справа функций х(() со значе-
ниями в Rm, заданных на [0, оо) и не имеющих разрывов второго
рода; 91 будет означать минимальную о-алгебру подмножеств £>(Rm),
содержащую все а-алгебры 91( при Т->оо, а Э1/ — наименьшую а-ал-
гебру подмножеств £>(R'"), содержащую все а-алгебры 91, при s<£
Винеровский процесс ви(/) и пуассоновская мера v(d9X<fO
считаются заданными точно так же, как это было в пп. 19.4.3,
19,4,4. Пусть заданы коэффициенты: -
«9.4.61
19.4. ПРОЦЕССЫ С РАЗРЫВАМИ
523
1)	функция a(t, х()) на R+XO(R") со значениями в Rm, из-
меримая относительно ®+ X Si, при каждом t & R+ измеримая отно-
сительно при каждом х(-) 65 £>(R,n) локально ограниченная
по I;
2)	матричнозначная (порядка тХО функция a(f, ж(-)), опре-
деленная На R+X^CR™), измеримая относительно ®+ХЯ, при
каждом ieR+ измеримая относительно %-, при каждом х(-)е;
eD(Rm) докальцо ограниченная по /;
3)	векториозначная (размерности т) функция /(6, <, «(•)),
определенная на eXR+XO(R,n), измеримая относительно SRX®+X
XSt> при каждом t измеримая относительно ЗЯХЭ1*_, такая, что
интеграл
(1/(0. t, ж(-))РП(<ге)
Представляет собой при любом x(-)eD(Rm) локально ограничен-
ную функцию переменной t.
Рассмотрим урайнёпие (fe — ^-измеримый вектор в Rm)
t	t
f (O“fo + $ «(s, f 4- J a(s, t(-))<fw(s)4-
oJ	о
t	t
+ $ $/(0. s,&(•))$(d6Xds) + $ (f(8, a, f (.))v(dexds).
Oft	Oft,
(4.7)
Заметим, что интегралы в правой части этого уравнения опреде-
лены, если процесс f таков, что его траектории с вероятностью 1
принадлежат пространству Z>(Rm), а сам он согласован с потоком
о-алгебр {8/, ZeR+) (согласно предположению, винеровский про-
цесс w(Z) и пуассоновская мера v(dOXd/) согласованы с потоком
о-алгебр {St, <eR’’}). С другой стороны, сами интегралы правой
части (4.7) как функции переменной t представляют собой функции
из £>(Rm). Поэтому естественно назвать решением уравнения (4.7)
всякий такой процесс £(/), согласованный с потоком о-алгебр (J.-,
траектории которого с вероятностью 1 принадлежат пространству
£>(R’n) и для которою соотношение (4.7) выполняется с вероят-
ностью 1 при всех t одновременно Если окажется, что на исходном
вероятностном пространстве такого Процесса нс существует, то тогда
можно рассматривать слабые решения. Очевидным образом вводит-
ся понятие потраекторной и слабой единственности.
Теорема 8. Пусть объекты, определяющие уравнение (4.7),
удовлетворяют условиям:
1)	для веяного А 0 существует такая постоянная Cg, что
|fl(f, х(.))-0«, у (.)) р-J-1 ff(f, х(-))-о(/, р(.))|* +
+ $1/(0, t, *(•)) -/(0, t, !/(•)) |2П((/0)<СЛ||х(.)-р(.)||?
ft
при t^A, Кх(-)||Л < А, 1|И )11« < А, где ||ж(•)!!/ = sup I х (s)k
524	ГЛ 19. СТОХАСТИЧЕСКИЕ ДИФФ. УРАВНЕНИЯ [19 4А
2)	для всякого 7 > О существует постоянная Кт, такая, что при
Iе[0, 7]
|й (/, X ()) I» + Iff (4 X (•)) I2 + J 1 f (0. t. X (•)) I2 п (<?в) <
&
< М*+и* ни?);
3)	каковы бы ни были to е R+, хо (•) eB(R"), в > О, справед-
ливо соотношение
П{бее2: Щ0, t. *(•)) —f(0, to. ())[> е}О
при tr+to, р(х(-), хо(-)) ->О;
4)	случайный вектор go не зависит от совокупности величия
у(йбХЛ)}-
Тогда существует единственное ftt-измеримое решение уравне-
ния (4.7), траектории которого с вероятностью 1 принадлежат про-
странству P(Rm).
(Кай и 8 теореме I, о-алгебра — это наименьшая о-алгебра
событий, относительно которой измеримы величины go и (w(s),
v(d0X[O, s]),sc=O-)
Таким образом, сформулированная теорема содержит условия
существования сильного решения уравнения (4 7) и его потраектор-
йой единственности Следующая теорема дает условия существова-
ния слабого решения.
Теорема 6. Предположим, что коэффициенты уравнения (4.7)
удовлетворяют условиям-.
а)	функции a(t, х(-)) и о(/, х(-)) непрерывны по х(-) в мет-
рике пространства D(Oi щ (Rm) при каждом t е [О,' 7];
б)	для всех t е=[0, 7], ло(-) eZ)fOi (Rm)
J 1/(0. t, x(-))-fffi, t, x0(.))|2n(d®)->0
ft
при p(x(), *o(-)) ->0;
в)	для всех t e [0, 7], xo{-) e £>(0 (Rm) и e > 0
П {0 e©2: |f(0, i, x (•)) - f (0, t, xt (•)) | > e}
при p(x(-), *»()) ->0;
г)	существует постоянная К, такая, что
1в У. X (•)) Is +1 о (t, X (-)) Р + J I f (0, t, X ()) I2 П (rf0) <
< к (i + j* (•)«!)
При всех t е[0, Т], т(-) eD[8i (Rm).
Тогда уравнение (4 7) имеет на отрезке [0, 7] слабое решение.
Литература: [21, 22, 32, 52, 59, 61, 66, 71, 79, 82, 108, 109,
111,118].
Часть третья1
МАТЕМАТИЧЕСКАЯ СТАТИСТИКА
Глава 20. ОСНОВНЫЕ ПОНЯТИЯ И ЗАДАЧИ
МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ
20.1.	Статистическая структура
Еслнхц .... хл — результаты наблюдений (измерений), получей*
ныл в ходе выполнения п независимых повторений случайного экс-
перимента, связанного со случайной величиной § с неизвестным рас-
пределением Р, то вектор у„ = (л j. .. , хп) называется выборкой
(простой) объема п из генеральной совокупности с распределением Р.
Символически модель простой выборки записывается в виде тройки
(R", вп, Р"), называемой выборочным пространством.
Задача математической статистики состоит в том. чтобы ца
основе анализа выборки сделать научно обоснованное заключение
о распределении Р.
Обычно постулируется, что неизвестное распределение привад*
лежит известному семейству (классу) распределений £?. Тройка (R",
Й", Р") дает пример одного из фундаментальных понятий математи-
ческой статистики — статистической структуры.
Пусть (X, X) — измеримое пространство, 0 — семейство вероят-
ностных мер на X. Тройка (X, X, 0) называется статистической
структурой-
В большинстве конкретных рассмотрений семейство вероятност»
пых распределений & параметризовано:
? = (Ре, 0е6),	(1.1)
где © — произвольное множество, Pq — однозначно определяемое
распределение при известном значении параметра 0 Основная ста-
тистическая структура классической математической статистики -<»
это структура, отвечающая модели простой выборки вида
(Хп, Хп, (Ре, 0G©)),
где Лей, © — область в R*, k < п, Рв =	— n-кратное произ-
ведение распределений Пе на X.
Пусть (X, X, Ф) >- статистическая структура. Если существуев
положительная о-конечная мера v на X такая, что каждое распре-
деление Р на 0 абсолютно непреравно относительно меры v (Р < р,
см. п 9.4.2), то структуру (X, Ж, £Р) называют доминируемой.
Всякая статистическая структура, у которой X или (и) семей-
ство & не более чем счетны, доминируема.
626
ГЛ. 20. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА
В том случае, когда семейство S> параметризовано (см. (1.1))
в структура (X, X, &*) доминируема, чрезвычайно полезным инстру-
ментом для получения статистических выводов является понятие
функции правдоподобия Lq (х):
£в(х)
^(х).
dv
В частности, оказывается, что для многих дискретных и непре-
рывных распределений (см. § 6 1, 6.2) функция правдоподобия до-
пускает представление
£в (х) = С (0) ехр
£Ql (0) Т/ (х) > h (х)~,
i-i	)
6а0,
(1.2)
где функции С(0) и Q/(0) (/ = !,..., а) зависят от 0 и не зависят
От х, а Т/(х) (/ = 1, .... а) и ft(x) зависят от х и не зависят от 0.
Доминируемая статистическая структура (R", @п, {Ре> 0®в|),
у которой функция правдоподобия £g(x) допускает представление
(14) и множество {xeRn: L0(x)>O} не зависит от Ое0, назы-
вайся экспоненциальной структурой.
Примеры экспоненциальных структур.
I.	Проводятся п наблюдений х<, хг, .... х„, результаты которых
представимы в виде
m
где переменные zt (/= 1.....л) и функции ф,(г) (/=!,..., т)
известны, е< — реализации независимых одинаково распределенных
случайных величин, имеющих нормальное распределение IV (0, О2)
с неизвестной дисперсией, 0/ (/= 1, ...,гл)—неизвестные пара-
метры.
Статистическая структура (ЛЛ ®", {Ре. 9s в}), где в «
= R“ X R+ и /*е — нормальное распределение с плотностью
о2
1 f(a ~Х0)г(з-Х0)
Ре («) ---- — ехр
of"V(2n),r
Здесь s =» (sj...s„)r, 0= (₽»...0m, о®), X— пХ m-матрица с эле-
ментами Хц ф,(л), 0 = (01... 0m)г, соответствует невырожденной
модели линейной нормальной регрессии (см. § 23.2)
I = А'0 + 8.
Если rang X = tn, то, взяв в качестве доминирующей меры меру
Лебега, имеем
(0- 0)ГХГХ (0- 0)
2иг
1 (V
Г / А	*	)
La (х) ---7==’ ехр <---
anV(2Jl)n L 2о2
Где 0 ™ (хгх)~* 0 (0 называется оценкой метода наименьших квад-
ратов), Sgc,. = хтх — prJCrX0 (остаточная сумма квадратов). Здесь
20.2.2}
20.2. СТАТИСТИКИ
Б27
(ср. (1.2))
С (6)  --7-1--г-, s = 2,
anV(2Sj^
71(х) = Л=||л||2, (2,(6) =2^-.
ПЮ-1, <?, (в) - -	- ** ~ Р)У*
2а2
2.	Пусть Рд — биномиальное распределение с параметрами
(л, р) (см. п. 62.3), v — мера на множестве целых чисел, прини-
мающая единичное значение на любом из них.
Тогда для xs (0,1,л)
£е (X) = ( " ) 6* (1 - в)п'х=(1 - 0)" ехр {г log ( " ).
Здесь (ср. (1.2)) С(0) = (I — 0)", s «= 1, Tt(x) = х.
<М«>—Лг Л<”-(»)-
Кроме приведенных выше, экспоненциальными являются струк-
туры, у которых семейства {Ре, 0 s в) имеют распределения (см.
§ 6.1, 6.2):
а)	Пуассона с неизвестным средним;
б)	нормальные с неизвестным средним и известной либо неиз-
вестной дисперсией;
в)	^-мерные нормальные с неизвестным вектором средних и не-
известной ковариационной матрицей;
г)	гамма-распределенне с неизвестными параметрами а и Я.
Примером структуры, не являющейся экспоненциальной, являет-
ся структура (1с, ©”, {Ре, В е ©}), где Рд — бета-распределение с
неизвестными параметрами (а, 0).
20.2.	Статистики
20.2.1.	Определение статистики и оценки. Пусть (X, X, ff1) — ста-
тистическая.. структура и (У, U) — произвольное измеримое простран-
ство. Любое (Ж, U)-измеримое отображение Т пространства (X, Ж)'
в (У, 11) называется статистикой на статистической структуре (X,
X, ff>).
Статистику Т, принимающей значения в пространстве парамет-
ров ©, называют оценкой.
Пусть Т — вещественная статистика, заданная на статистической
структуре (X, X, ff1). Для всякого фиксированного распределения Р
из £Р статистика Т как отображение вероятностного пространства
(X, X, Р) в (R, ®) является случайной величиной.
Если статистика Т имеет математическое ожидание для любого
распределения Р из ff1, то ее называют интегрируемой.
20.2.2.	Достаточные статистики. Пусть (X, X, {Ре, 0 s ©)) ~ ста*
тистическая структура, У — полное метрическое сепарабельное про-
странство, U —a-алгебра борелевских множеств, Т: (X, X)->(У, U)—
628	ГЛ. 20. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА	(Я«.2
статистика; Хт — Т-ЦП) —прообраз о-алгебры U при отображе-
нии Т.
Статистика Т называется достаточной (для параметра 6), если
условная вероятность
Р0(Л|Эег), 0 се в, ЛеХ,
це зависит от 0.
Таким образом, если статистика Т достаточна, то условная веро-
ятность Рв (Л | Хг) ие содержит никакой информации о параметре 0.
Пример 1. Пусть в статистической структуре (R", ®л, &>п)
fP где £Г — класс абсолютно непрерывных распределений, и
бтатистика Т (к) — статистика вида
ъ-(*1.......
где (*14 Хг4,.... *„*) — упорядоченная в порядке возрастания
выборка (xt, ,хп) (ее называют вариационным рядом, см.
п. 20.4.1).
Поскольку уп = (*i, .... хп)— выборка, то ее совместная плот-
ность распределения имеет вид
<2Л>
где ((г) — (неизвестная) плотность.
Совместная плотность распределения вариационного ряда равна
! п
nI ШО/)» если
/-1
О в противном случае.
Отсюда для совместной условной плотности распределения вы-
борки следует
{i/nl, если (хь ..хп)
является результатом некоторой
перестановки (t( ... tn);
О в противном случае.
Поскольку ра (х | Т (уп) в t) не зависит от распределения ВЫ-
борки, статистика Т(х) достаточна.
Эффективный способ проверки достаточности статистики, не тре-
бующий вычисления условных распределений, дает следующий фак-
торизационный критерий Неймана — Фишера.
Теорема 1 Пусть (X, Ж, (Рр, 6е= 6}) — доминируемая стати-
стическая структура. Статистика Т со значениями в (У, U) явля-
ется достаточной тогда и только тогда, когда существует Х-измери-
Мая неотрицательная функция h(x) на X и U-измеримая неотрица-
тельная функция gg (у) на ¥ такие, что
Le(x)=gg(T(x))h(x)	(2.2)
для всех 0 е 0, х е Xt
S9.2.3J	«5.2. СТАТИСТИКИ	529
I
Примеры 2. Пусть (X, X, {Ре, 6 е 6}) - доминируемая струк-
тура, Ге (х) — статистика вида
называемая отношением правдоподобия. В (2.3) Оо — произвольный
параметр из ©, для которого (х) > 0, если такой существует.
Статистика Ге(х) достаточна для параметра 6, поскольку
£°(х) “ м = ге W W>
что совпадает с правой частью (23) при g(y) = y, h(х) =
3.	Для статистической структуры модели линейной нормальной
регрессии, рассмотренной в примере ! § 20.1, статистика (₽,®оСТ)
достаточна для параметра (₽, о2).
При известной дисперсии статистика £ достаточна для (3.
4.	Пусть (Rn, @п, {Ре, 0 е ©}) — экспоненциальная статистиче-
ская структура (см. § 20.1) с функцией правдоподобия
£е (х) ~С (0)ехр { £ Qt (fi) TS (х)| h (х).
Если область 0 содержит нетривиальный s-мерный куб и
С(0) > 0 для 0 <= 0, то вектор-функция
Gn	п	ПК
является достаточной статистикой для параметра бе©.
20.2.3.	Минимальные достаточные статистики. Если Г] — доста-
точная статистика со значениями в У, a g(y) —взаимно-однозначная
функция со значениями в У, то, согласно факторизационному крите-
рию Наймана— Фишера, Г2 = £(Г2) также является достаточной
статистикой.
Среди двух достаточных статистик Т, и Г2 лучшей, естественно,
считать ту из них, при значении которой вторая не добавляет новой
информации о параметре.
Пусть (X, I, (Ре, Be©}) — статистическая структура, —
класс достаточных статистик Т со значениями в (У, U) (см. п. 202.1),
ir=r-*(U). Достаточная статистика Го называется минимальной,
если
ХГо s ЗЕГ для \/Т е 3~.	(2.5)
В рассмотренных выше примерах достаточные статистики являются
одновременно минимальными.
Пусть /,0 (*) — функция правдоподобия и Lq (х) > 0, х &.Х, 0 е
е ©.
Положим
е ©|.
С(х) = [геХ: -^- = ф(г,х) уб
530
ГЛ. 20. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА

Теорема 2. Если для Г е Г
Т (xi) » Т (х2) для *ь х2 е С (х), х е X, (2.6)
то Т — минимальная достаточная статистика.
Пример 5. Пусть X — {0, 1}, (Хп', X", {Ре, 0 е (0, 1)}) — ста*
тистическая структура, Ре — биномиальное распределение с неиэ-
вестным параметром. Тривиальная статистика Г1(х)=(х(, х2, . ., хл),
совпадающая с выборкой уп = (xt.....хп), является достаточной
статистикой.
Достаточными являются также, например, статистики
Тг (х) *= (X) + х2, хэ,..., х„),
Те (х) *= (х, + хг + х8, х4,.,х„),
Г4 (х) » (Х1 + х2 х8 + х<,..ХЛ),
Го (х) »= X, 4- х2 +  • • + xft.
Среди алгебр Хг^ = Гд1 (Х”) статистике Г1 отвечает макси-
мальная алгебра Sn, статистике 70—минимальная, порождения^
векторами (xi, х2, . , х„), х< == С, 1, с фиксированной суммой ком-
понент.
Статистика Гт—минимальная согласно (2 5).
С другой стороны, отношение
Ее (у)	( б \Syt-Sxt
1е(х)	к i-е 7
п п
не зависит от 6 тогда и только тогда, когда ™ х£ = k (А "
= 0,..., п). Следовательно,
С(х) = {УеЛ-:	=
I *-е W
Ч> (х, у), в е в
для всякого х= (xj, ..., хп) совпадает с {(/ g X": У/ =	*/}•
Статистика, удовлетворяющая (2.6), совпадает с Го.
Аналогично проверяется, что статистика примера 4 минимальна,
20.2.4.	Полные статистики. Статистика Г на статистической струк-
туре (X, X, {Pg, 0 е в}) называется (ограниченно) полной, еслц
для всякой (ограниченной) интегрируемой вещественной статисти-
ки й(Г) из того, что
Jft(r(x))Pe(dx)«O
X
для 6 е 0, следует, что
Л (Г (х)) = 0 (mod Р6), 0 е= 0.
Теорема 3. Полная достаточная статистика является мини-
мальной достаточной статистикой.
Обратное утверждение, вообще говоря, неверно.
Я0Д31	20.3. ЗАДАЧИ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ	531
Для экспоненциальной статистической структуры статистика Т
из примера 4 п. 20.2.2 является не только минимальной достаточной,
но и полной.
Пусть Т — достаточная статистика со значениями в (У, U) и
оценка 0* задает отображение V в О с R‘, измеримое относительно
сг-алгебры Нт, порожденной статистикой Т.
Теорема 4. Статистика Т является полной тогда и только
тогда, когда найдется измеримая функция 6(0) со значениями в Э
такая, что оценка 0* единственна в классе всех Ит-измеримых инте-
грируемых оценок 0, для которых
$ б (Г (У)) Pf> (dx) -0+6(0).
Свойство полноты выделяет в классе оценок, имеющих конечную
дисперсию, оценки, обладающие минимальной дисперсией (см.
п. 21.1.4).
20.3.	Основные задачи математической статистики
20.3.1.	Проверка простой гипотезы. Неизвестная функция рас-
пределения F принадлежит к некоторому классу распределений в.
Из априорных соображений можно сделать вывод, что Е = Гое б.
Нужно на основании сделанных наблюдений подтвердить или опро-
вергнуть эту гипотезу. Например, б — множество нормальных рас-
пределений, Ft> — нормальное распределение со средним 0 и диспер-
сией 1.
20.3.2.	Проверка сложной гипотезы. Неизвестная функция рас-
пределения F принадлежит б, бо с б. Нужно проверить гипотезу:
F ебо. Например, проверка гипотезы о том, что величина, имеющая
нормальное распределение, имеет среднее 0. В этом случае б совпа-
дает с классом всех нормальных распределений, а бо — с классом
нормальных распределений, имеющих среднее 0.
Задачи проверки простой и сложной гипотез сводятся к задаче
проверки статистической гипотезы, для решения которой исполь-
зуются критерии согласия. Критерий согласия определяется зада-
нием критической области G в выборочном пространстве. Если вы-
борка попадает в критическую область, то гипотеза отвергается.
Качество критерия определяется вероятностью отвергнуть истинную
гипотезу. Чем меньше эта вероятность, тем критерий лучше. С дру-
гой стороны, критерий характеризуется вероятностями не отвергнуть
(принять) ложную гипотезу (эта вероятность зависит, естественно,
Ьт того, каким является истинное распределение). Эти вероятности
Также желательно сделать как можно меньшими
20.3.3.	Оценка параметра распределения. Предполагается, что не-
известная функция распределения принадлежит некоторому семей-
ству распределений Е(0, х), зависящему от некоторого параметра
0е6, где © — множество на прямой либо в конечномерном евкли-
довом пространстве. Это значит, что распределение зависит от од-
ного или нескольких вещественных параметров. Так, например, се-
мейство нормальных распределений на прямой зависит от двух ве-
щественных параметров — среднего значения и дисперсии. Нужно по
наблюдениям оценить параметр (или несколько вещественных пара-
метров). Для построения оценок используются статистики — функ-
ции от выборочных значений. Примерами статистик являются:
632	ГЛ. 20. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА	120.34
выборочное среднее
выборочная дисперсия
п
*-1
(здесь Xt,.... хя — выборка объема я). В качестве оценки веще-
ственного параметра 0 используется некоторая статистика
0п(х», Xz, ..., хп), которая рассматривается как-приближенное зна-
чение неизвестного параметра. Качество оценки определяется рас*
пределеяием величины
*.......
’(это распределение, очевидно, зависит от значения искомого пара-
метра). Оценка будет хорошей, если это распределение достаточно
сосредоточено возле нуля. В практике обычно ограничиваются лишь
двумя первыми моментами оценки. В этом случае оценка характери-
зуется смещением
Ме6А(хь хп) — е
и дисперсией
Me [0п (х>, *а>. •.. ХП) — МВ0Л (хь Xz.хп)]’
(Me обозначает математическое ожидание в предположении, что
истинное распределение совпадает с Г(0, х)). Оценки, для которых
смещение равно нулю, называются несмещенными. Для несмещенных
оценок качество определяется величиной дисперсии: чем она меньше,
тем оценка лучше.
20.3.4.	Доверительные области для параметров. Условия задачи
такие же, как и в предыдущем пункте. Однако вместо оценки пара-
метра строится доверительная область для параметра, т.е. такая
область S в 0, для которой вероятность того, что S будет содер-
жать истинное значение параметра, не меньше чем а (это число
называется уровнем доверия, оно должно быть достаточно близ-
ким к 1).
Доверительная область строится по выборочным значениям.
Она задается функцией, определенной на выборочном пространстве,
значениями которой являются области в множестве О. В случае
оценки одного вещественного параметра используются доверитель-
ные интервалы, задаваемые двумя статистиками, определяющими
концы интервала. Пусть S(xi, Xz, ...» xn) е 0 — доверительная об-
ласть. Качество доверительной области характеризуется уровнем до-
верия, а также формой и размерами области.
20.3.5.	Общие задачи статистических решений. Как правило, опре-
деление функции распределения неизвестного параметра и принятие
той или иной гипотезы являются составной частью некоторой более
общей задачи, состоящей в принятии некоторого решения. Например,
таким решением может быть принятие некоторой гипотезы. Более
20.8.71	20.3. ЗАДАЧИ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ	533
сложный пример: при выведении нового сорта культуры нужно на
каждой стадий Эксперимента принимать определеййоё решение, как
производить отбор семян, а затем принять окончательное решение,
что выведенный сорт удовлетворяет необходимым требованиям.
Основанием для принятия того нли иного решения служит наблю-
даемый статистический материал (в приведенном примере — данные
о тех или иных свойствах семян, полученных на экспериментальных
участках). В каждой такой задаче имеется множество возможных
решений D. Правило принятия решения задается функцией
d(xt, хг, .... хп) на выборном пространстве, принимающей значения
нз D, которая называется решающей функцией. Предполагается, что
возможные распределения выборки принадлежат некоторому множе-
ству распределений S3. Для оценки качества правила принятия ре-
шения используется некоторая функция потерь V(d, Р), определяю-
щая тот убыток, который мы получим, приняв решение d, если
истинное распределение выборки было Р е 3* (убыток может быть
и отрицательным). Естественно искать такие правила, при которых
средний убыток является минимальным.
20.3.6.	Последовательный анализ. Среди правил приема решений
особо важную роль играют последовательные правила. В этом слу-
чае удобно рассматривать бесконечномерное выборочное простран-
ство, так как при решении используются выборки сколь угодно боль-
шого объема. Последовательное правило указывает, при каком п в
зависимости от выборки (х<, Хг, .... хя) следует прекратить наблю-
дение и какое в этом случае принимается решение. Так, при после-
довательном различении двух гипотез величины xt, Xt, ... наблю-
даются последовательно и при каждом п = 1, 2, ... принимается
одно из решений: dt — принята первая гипотеза, dj — принята вто-
рая гипотеза, ds — необходимо произвести еще одно наблюдение
(т.е. прибавить к выборке Xi, ха, ..., хп наблюдение xn+i).
Последовательное правило принятия решения может быть опи-
сано двумя последовательностями функций. Пусть e„(xt, xz, ...
,... х„) =» 1, если наблюдёте прекращается на n-м шаге, н
Вл(зд, Хг, Хй) ®= 0 в противном случае; dn(xi, Хг, .... хя) —ре-
шение, которбё Принимается на л-м шаге, это функция, определенная
НА подмножестве выборочного йространства, на котором ея = 1, н
принимающая значения из D. Среди правил выбирается такое, кото-
рое минимизирует некоторый убыток, учитывающий и число необхо-
димых по правилу наблюдений.
20.3.	Z. Статистика случайных процессов. Для случайных процес-
сов решаются те же задачи, что и для независимых наблюдений:
проверка гипотез и оценка параметров распределений. Особенностью
статистических задач для случайных процессов является то, что
обычно наблюдается единственная траектория случайного процесса
и на основании этого наблюдения принимаются статистические ре-
шения. Таким образом, статистика случайных процессов — это ста-
тистика одного (независимого) наблюдения. Одиако это наблюдения
не одной, а бесконечного числа случайных величин, (значений про-
цесса в различные моменты времени), зависимость между которыми
определяется структурой процесса. Отметим некоторые особенности
статистики случайных процессов. Во-первых,' параметры, от которых
зависят распределения, сами часто являются бесконечномерными
(так, семейство распределений гауссовских процессов зависит от двух
функциональных параметров — среднего значения и корреляционной
534	ГЛ 20. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА	120.4.1
функции). Во-вторых, несмотря на то, что имеется лишь одно на-
владение, иногда можно достоверно выбрать одну из гипотез £ди
абсолютно точно определить значение параметра. В классически^
задачах статистики для регулярных распределений такого эффек*
та нет.
Поскольку, вообще говоря, распределения случайных процессов
не могут быть заданы аффективно, не всегда возможно конструк-
тивно решать статистические задачи, испОлЬз^я все конечномерные
распределения. В простейших случаях используются лишь момент-
ные фукции до определенного порядка Особенно широкое развитие
получила статистика стационарных в широком смысле процессов
(гл. 25).
20.4.	Распределение выборки
20.4.1.	Вариационный ряд. Исходным материалом для статисти-
ческого анализа, полученным в результате простого случайного вы*
бора из генеральной совокупности, определяемой случайной величи-
ной В с функцией распределений Р(х), служит выборка конечного
объема
Xj, х2,..., xn,	(4.1)
т е. последовательность независимых одинаково распределенных
случайных величин х* (1 k «5 п) с общей функцией распределе-
ния Р(х).
Упорядоченная по величине последовательность выборочных
значении
И-2)
называется вариационным рядом. Равные между собой члены вы-
борки нумеруются в произвольном порядке.
Члены вариационного ряда xff (m«= 1, 2,..., п) называются по-
рядковыми (ранговыми) статистиками. Число m/л называется
рангом члена х’"1.
Стастнка v»(x), равная числу значений выборки, меньших хг
{v„ (х)« т] » {х™ < X < х<£. 1), И = 0, 1......п, (4.3)
называется эмпирической частотой. Случайная величина vft(x) равна
числу наступлений события (| < х} в п независимых испытаниях,
так что эмпирическая частота vn(x) имеет биномиальное распреде-
ление с параметром р *= Р {§ < х) «= Р (х):
Р {vn <«) —	= СП рт (*) U - Р {х))п~т, т «= 0, 1,..., п.
(4.4)
Распределение членов вариационного ряда (порядковых стати-
стик) Просто определяется по распределению эмпирической частоты!
п
р Ы? < *} - р Ь ы > т} - Е спРк (*) а ~ р <х»п~к-
k=m
(4.5)
ЯМ It	80.4. РАСПРЕДЕЛЕНИЕ ВЫПОРКИ	535
В частности, очень простой вид имеют распределения крайних чле-
нов вариационного ряда и х%\
РЫп><х}=-1-(1 -PW)nt
(4.6)
p(4w<x)-₽*(«).
Распределение членов вариационного ряда можно представить в
другой, более удобной для анализа форме:
Р{х)
Р{х£> <>} = -----( ут-,(1-У)л‘’п^.
* т ' (т — 1)! (л — т)1 J
о
(4.7)
Распределение (4 7) принадлежит к типу бета-распределений.
Если исходное распределение генеральной совокупности Р(х)'
имеет плотность р(х) = aP]dx, то и распределение порядковых ста-
тистик имеет плотность в виде
я ₽ {«> < «) -	W (I -'«Г-д «
(4.8)
В задачах статистического контроля качества продукции часто
используется сгатистика Rn •=• х^11 — называемая размахом или
широтой выборки. Распределение размаха имеет вид
сю
Р {х(*> - ?/г) <t}~=n (Р (х + f) - Р (x)]n -l dP (х). (4.9)
—ой
Точное распределение порядковых статистик трудно использо-
вать в статистическом анализе, так как они существенно зависят от
исходного распределения. Естественно ожидать, что при неограни-
ченном возрастании объема выборки п эта зависимость должна
ослабевать. Приближенное представление порядковых статистик при
больших л называют асимптотическим представлением. Преобразо-
вание членов вариационною ряда по формуле
tf-nPtf?)	(4.10)
дает плотность распределения (z) случайных величин z^' в виде
<41,)
При фиксированных z это распределение Бернулли (по т) при
л-+оо аппроксимируется распределением Пуассона
, ,	,ш-1 -г
(m ZOr г>0’	(4-12)
Б36	ГЛ. SO. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА	{£4,44
которое по z является плотностью гамма-распределения с парамет-
ром т— 1.
Аналогично преобразование крайних членов вариационного ряда
по формуле	= л (1 — Р	дает плотность распределения
случайных величин в виде
При п -* оо и фиксированных т и z плотность распределения
Яп-m (2) аппроксимируется плотностью гамма-распределения с па-
раметром т:
z > 0.	(4.14)
Распределения z^' и z(n”2 т можно использовать при фиксиро-
ванных т для нахождения асимптотического представления для
крайних членов вариационного ряда.
Примеры 1. Исходное распределение Р(х) равномерно на от-
резке [—а, с]. Тогда для минимального х(1п) н максимального х^>
членов вариационного ряда имеют место асимптотические представ-
ления
х\п}~ — а+~г, x^a-^z,	(4.15)
где z— случайная величина с гамма-распределением и параметром
т = 0, т е. с плотностью g'(z) = е~г, z >• 0.
2. Исходное распределение Р(х) имеет плотность вида р(х) =
= е“1х '/2. Тогда минимальный и максимальный члены вариацион-
ного ряда имеют асимптотические представления вида
4° о - In -J, х'п"> - о + In	(4.16)
где v — случайная величина с плотностью распределения g(o) «=»
= ехр{о — с°).
В случае конечного ранга, когда т = [«</], т. е. для целых т,
удовлетворяющих неравенствам 0 < т/п q < (tn + 1) In С 1. пре-
образование членов вариационного ряда с конечным рангом z*J^ =
= Рдает плотность gq(z) распределения zfq^ в виде
fieW = C^i*zm-1(l-z)"-w,
которая в окрестности точки z q аппроксимируется плотностью
нормального распределения с параметрами (q, yq (1 — q)/n), q—
среднее значение, л/q (1 -— q)tn—среднеквадратическое отклонение.
Это позволяет случайную величину Z*”1 представить асимптотически
при п -> со в виде 
4° - я+и г
20Л.21
20.4. РАСПРЕДЕЛЕНИЕ ВЫБОРКИ
537
1 — <?)
п
где и имеет нормальное распределение с параметрами (0, 1). При
этом средние члены вариационного ряда х{^] асимптотически пред-
ставимы в виде
J") ~и | и
ХМ~	p(X(J)
где х, —квантиль порядка q распределения Р(х), т.е. Р(х4) = q,
р(х) —плотность исходного распределения.
20.4.2. Эмпирическая функция распределения. Выше была вве-
дена эмпирическая частота v„(x), равная числу выборочных значе-
ний, меньших х, и имеющая биномиальное распределение с пара-
метром Р(х).
Эмпирической функцией распределения называется функция
Г„(х), определяемая соотношением
РП W =
Иначе, эмпирическая функция распределения определяется следую-
щим соотношением:
(4.17)
Рп (*)----
О, х^х\п),
™1п> *£’<*<*%!•
1, X > x£>.
(4.18)
График эмпирической функции распределения представляет со-
бой ступенчатую линию со скачками, кратными величине 1/п в точ-
ках, определяемых членами вариационного ряда х^'^х^^ •••<
Эмпирическая функция распределения обладает всеми свой-
ствами распределения вероятностей. Эмпирическую функцию рас-
пределения называют еше распределением выборки.
При фиксированном хМ Рл(х) = Р (х). Следовательно, по зако-
ну больших чисел при п-*оо для каждого х эмпирическая функция
распределения сходится по вероятности к исходному теоретическому
распределению Р(х).
Теорема Гливенко. Эмпирическая функция распределения
Ри(х) равномерно по х с вероятностью 1 сходится при л->оо к
теоретическому распределению Р(х)
P/lim sup |Гп(х) -F (х) | = 0) = 1.
В качестве возможной меры уклонения эмпирической функции
распределения РП(х) от теоретической Р(х) при фиксированном х
можно воспользоваться тем, что разность Ря(х)—Р(х) асимптоти-
. Р(х)(1-Р(х))
чески Нормальна с нулевым средним и дисперсией-----—--------.
Однако такая мера уклонения неравномерна по х. Важную роль в
математической статистике сыграло изучение статистики, введенной
А. Н. Колмогоровым:
7>л = sup ]Рд(х)-Р(х)|.
538	ГЛ 29. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА	I®»-4'
Теорема Колмогорова. Если функция распределения
PW непрерывна, то
lim	sup [/’„ (t) — Р (х) | < zl=>
n-»oo ( -OO <*<+«>	J
= K(z) = £ (-l^e'26’2*, z>0. (4.19)
Л-» — oo
Функция К (г) табулирована Статистика Dn используется в не-
параметрическом критерии согласия (см и. 20 34) эмпирических
результатов с гипотезой об исходном теоретическом распределении.
Заметим, что распределение статистики Dn не зависит от вида ис-
ходного непрерывного распределения Р(х).
Практическое вычисление статистики D„ не представляет боль-
шого труда, так как максимальное уклонение эмпирическрй функ-
ции распределения от непрерывной теоретической функции распре-
деления достигается в точках скачков Л„(х), так что
m — 1
п

max
l<m<n
р(ж«) И-т-р(4п)) }• <4-2°>
или иначе

max
(4-21)
В односторонних критериях согласия может быть использовано
распределение статистик Смирнова:
D+^ sup p„(x)-P(x)J	(4.22)
ИЛИ
D- = - fnf Р„(х)-Р(х)].	(4 22')
—оо<Сх<С4~°°
Эти статистики имеют одинаковые распределения:
Р{0+>х}=Р{£>->х} =
[nU-хЦ
- Е ф(*+4) ’(1-х“4)п • °<х<|- <423>
fe-0
Теорема Смирнова Если распределение Р(х) непрерывно,
то
lim P|VnD+ <zj=l-e~2z\ z>0.	(.4.24)
Известно также совместное предельное распределение статистик
Dn и Р/7-
20.4 41
20 4 РАСПРЕДЕЛЕНИЙ ВЫБОРКИ
539
Теорема Если распределение Р(х) непрерывно, то
„1х,р{л/12)"<г'
со	со
«1 4-2 £ ехр{ —2A2(z4-d)2} — [ехр { - 2(to+(fe — l)z)2} 4-
л-1	л-1
4-	ехр { — 2 ((k — 1) v 4- Az)2}].
Имеются также асимптотические разложения для распределений
статистик D„, D+ и Dn.
20.4.3	. Распределение выборочных характеристик. Выборочными
(или емпирическими) характеристиками называют характеристики
эмпирической функции распределения
Выборочные характеристики являются случайными величинами,
функциями от выборочных значений, т е статистиками, представи-
мыми в виде
©О
t (*i. xs,..Хп) “ j i(x)dP (х).	(4.25)
— ОО
Так как эмпирическая функция распределения Р(х) служит
оценкой исходного распределения Р(х) (см п 20 4 5), то следует
ожидать, что и выборочные характеристики могут служить оценками
соответствующих характеристик исходного распределения Этим
объясняется важность изучения распределений выборочных стати-
стик и их числовых характеристик
Условимся в дальнейшем числовые характеристики выборочных
статистик (т е эмпирической функции Р(х)) обозначать той же бук-
вой, что и соответствующие числовые характеристики генеральной
совокупности (т е исходного распределения Р(х)), только с чертой
сверху
20.4.4	. Выборочные (статистические) моменты. Среднее значение
выборки определяется соотношением
ОО	и
х — J х d Рп (х) == -i- xft.	(4.26)
*-ОО	Л=“1
Числовые характеристики среднего значения легко вычисляются
с учетом того, что х есть сумма независимых одинаково распреде-
ленных случайных величин Например,
Гт2
Mx-=m, DJE =—,	(4.27)
п
где m — среднее значение, о® — дисперсия генеральной совокупности
©О	©о
m = J х dP (х), о2 = (х — т)2 dP (х).
— ОО	— ОО
540
ГЛ. 20. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА	[20ЛА
Из формул (4 27) немедленно следует, что выборочное среднее
JE уходится по вероятности к среднему значению т генеральной со-
вокупности при «->оо. Более того, величина отклонения выбороч-
ного среднего от его математического ожидания Vm(x— т} асимп-
тотически нормальна с параметрами (0, о2)
Выборочная {статистическая) дисперсия определяется (обычно)
соотношением
п
Л-1
(4.28)
Основные числовые характеристики выборочной' дисперсии имеют
ВВД
+ *‘-*4 (4ЗД
п	п?	пя
Здесь тг и /и*— соответственно второй и четвертый центральные
моменты генеральной совокупности, т. е.
ОО
m3 = «r2, т4=* {x — m)*dP{x).
— 00
Из первой формулы (4.29) следует, что несмещенной оценкой дис-
персии является статистика
п
Вместе с тем величина отклонения выборочной дисперсии от диспер-
сии генеральной совокупности -y/nts — o2) асимптотически нормаль-
на с параметрами (о,	— /nf).
Старшие выборочные {центральные) моменты определяются со-
отношением
п
X (**~*)Г’г^2, и-эд
6-1
Вычисление числовых характеристик старших выборочных моментов
не представляет труда. Нужно воспользоваться очевидным соотно-
ОО
шением М4=аг= $ xr dP (х) и независимостью случайных вели-
— ОО
чин xt- Точные выражения числовых характеристик выборочных мо-
ментов fnr при г й» 3 громоздки, однако гри больших п асимптоти-
20.4.S]	SOA РАСПРЕДЕЛЕНИЕ ВЫБОРКИ	641
ческие выражения значительно упрощаются:
М/й, =	+ ° (“ )»	(4.31)
= A [m2r — 2rtnr_lmr+i — т* + г2/и/п®_,] + О (-А-). (4.32)
Как и в случае первых двух выборочных моментов, старшие выбо-
речные моменты тг асимптотически нормальны (при я->оо) со
средним и дисперсией, определяемыми главными членами формул
(4 31) и (4.32).
20.4.5	. Функции от выборочных моментов. При определении чис-
ловых характеристик функции от выборочных моментов полезной
является следующая теорема.
Теорема. Пусть задана функция H(mr, ms) от выборочных
моментов fhr и ms, не зависящая явно от п и удовлетворяющая
условиям:
1)	функция И (и, о) дважды непрерывно дифференцируема в
окрестности точек tnr, ms:
2)	при всех значениях Xk (k = 1, ..., п) функция H(m,, ms}=s
= H(xt, Xi, x*, n) удовлетворяет оценке |H| < Сп», где С и
р — неотрицательные постоянные.
Тогда среднее значение и дисперсия случайной величины
Н (frit, mt) представимы асимптотическими формулами
МН = Н (пц, ms) + О (А),	(4.33)
D// = Dihr-~- (mr, msy + 2М [<mr — mr) (ms — ms)l X
OiKf
дН	. дН .	.	_ дН \ i	\
*-d^<mr'	^+D^^(mritns) + O^y
(4.34)
Приведенная теорема имеет место также и для функций любого
числа аргументов в случае многомерных выборок.
При выполнении только первого условия теоремы статистика
Н(гпг, ms) асимптотически нормальна (при /;-*оо) со средним ц
дисперсией, задаваемыми главными членами формул (4 33) и (4 34).
Заметим, что главный член формулы (4.34) может оказаться равным
нулю. В этом случае ^г.{Н — МН} асимптотически нормально с
нулевой дисперсией, т е. сходится по вероятности к нулю Не исклю-
чена возможность, что при некотором р > пр (Н — MZZ) имеет
нетривиальное предельное распределение, не обязательно нормаль*
ное.
20.4.6	. Точные распределения выборочных характеристик. Явный
вид распределения выборочных характеристик, представляющих, как
правило, функционалы от эмпирической функции распределения, мо-
жет быть получен в принципе для любых распределений Наиболее
просты и обозримы соответствующие формулы в случае нормальной
генеральной совокупности.
642	ГЛ. 20. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА	I20.g.t
Если исходная функция распределения Р(х) выборочных значе-
ний хц (k »1, п) нормальна с параметрами (т, о1), то выбо-
п
рочное среднее % = ~ хь и выборочная дисперсия s2 независи-
й-1
„	( о®'I
мы, причем У нормально распределено с параметрами 1 т, — I,
а “у®2 имеет %*- распределение с п — I степенями свободы, или,
иначе, • J® имеет такое же распределение, как и среднее ариф-
метическое л — 1 квадратов независимых нормальных велнчнн с па-
раметрами (0, а®). Кроме того, отношение
t -	(4.35)
s
имеет распределение Стыодента ( см. гл. 6) с л — 1 степенями
свободы.
20.5.	Процедуры проверки гипотез
20.5.1.	Общая схема построения статистических (нерандомизиро-
ваннык) критериев. Пусть (X, S, J?) — статистическая структура,
связанная со случайным элементом £ с неизвестным распределением
Ро е Ф. Любое предположение, выделяющее подсемейство с 5“,
которому может принадлежать Ро:	(в частности, 5’о=“{Ро}),
называют в математической статистике гипотезой.
Так, если (X", Я", ^л) — статистическая структура модели про-
стой выборки, связанной со случайным элементом & с распределе-
нием Ре е = {Ре: 0 а в}, статистическая гипотеза утверждает:
неизвестный параметр 0 исходного распределения вероятностей Ре
принадлежит заданному подмножеству Н cz 0 множества возмож-
ных значений параметра 0. Дополнительное подмножество
называется альтернативой к гипотезе Н.
Гипотеза Н называется простой, если множество Н состоит из
одного-единственного значения параметра 0; в противном случае
Н — сложная гипотеза.
Практическое применение математической статистики состоит в
проверке фактического соответствия реальных результатов экспери-
ментов предполагаемой гипотезе. С этой целью строится процедура
проверки гипотезы (критерий согласия), позволяющая по результа-
там наблюдений принимать илн отвергать данную гипотезу.
Выборочное пространство X разбивается на два непересекаю-
щнхся подмножества- Хо н Xt. Правило проверки гипотезы форму-
лируется так. Если результаты наблюдений х е Хо, то считается,
что данная гипотеза Я подтверждается эмпирическими данными,
т. е. гипотеза Н принимается. Если же выборочное значение х е Х>,
то утверждается, что данная гипотеза Н не согласуется с резуль-
татами наблюдений, т. е. Н отвергается. Множество X» называется
областью принятия гипотезы, множество Xi— критической областью.
Ради краткости множество Xi иногда называют также критерием
20.5 2j	20 5. ПРОЦЕДУРЫ ПРОВЕРКИ ГИПОТЕЗ	543
гипотезы Н. Поскольку событие те!, является случайным, то дан-
ная гипотеза принимается или отвергается в результате наблюдения
случайного события, имеющего определенную вероятность
Pg {х е X]} при каждом заданном 0. Применение процедуры про-
верки гипотезы сопряжено с ошибками двух родов: отвергнуть ги-
потезу, когда ока верна (ошибка первого рода)-, принять гипотезу,
когда она неверна (ошибка второго рода).
При построении процедур проверки гипотез желательно доби-
ваться минимизации значений ошибок обоих родов. В большинстве
практически важных ситуаций невозможно построение критериев
согласия со сколь угодно малыми ошибками первого и второго рода.
Правила проверки гипотез имеют статистический смысл, т. е. при
многократном применении определенного правила проценты числа
неверных решений выражаются вероятностями ошибок первого и
второго рода.	Л
. Если выборочные данные к е Xi, тогда с вероятностью ошибки
Первого рода наблюдается случайное событие, которое противоречит
гипотезе. Если вероятность такого случайного события мала, значит,
наблюдается практически невозможное событие. В этом случае дан-
ная гипотеза должна быть отвергнута с практической достоверностью.
Когда экспериментальные данные согласуются с предполагаемой
гипотезой, это еще ие означает, что невозможно согласование этих
же данных с другой гипотезой. При применении статистических кри-
териев на основании наблюдений невозможно доказательство той
или иной гипотезы. Можно лишь утверждать, что результаты на-
блюдений не противоречат принятой гипотезе.
Таким образом, выводы, принимаемые на основании статисти-
ческих данных, формулируются в следующем виде: эксперименталь-
ные данные согласуются с данной гипотезой (противоречат ей).
20.5.2,	Функция мощности критерия. Вероятность 0 (0) — Pg (X;),
рассматриваемая как функция параметра fleS, называется функ-
цией мощности критерия.
Допустимое максимальное значение а ошибки первого рода при
данном критерии называется уровнем значимости критерия-.
sup Pg (Xj) < а.
бей
Если для критерия выполняется условие Ре(Х1)=а для ОеЯ,
то критическая область Xt называется подобной выборочному про-
странству.
Обычно уровень значимости а выбирается из практических со-
ображений в зависимости от отношения к гипотезе. Если предпола-
гаемая гипотеза весьма правдоподобна, то уровень значимости вы-
бирается довольно малым. Тогда гипотеза будет отвергаться с ма-
лой вероятностью. При выборе уровня значимости следует также
учитывать поведение функции мощности критерия 046) = Ре (Xi)
при альтернативных значениях параметра ОеК Желательным свой-
ством критерия является его несмещенность, что характеризуется
условиями
Pg (ХОСа, 0 е Я: Pg (Xt) >а, 6 е К
Может оказаться, что при данном уровне значимости мощность
критерия 0(6) слишком мала при Йе К, значит, велика ошибка
Второго рода критерия неверной гипотезы.
Б44
ГЛ. а. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА
1Я0.5Л
Естественно считать оптимальным критерием такой, у которого"
при заданном уровне значимости достигается максимальное значе-
ние функции мощности критерия (задача Неймана — Пирсона).
Как правило, критерий, оптимальный при фиксированном зна-
чении параметра 6 е Л", зависит от параметра 0 s К.
Критерий ЯГ] называется равномерно наиболее мощным
(р. и. м.), если для любого другого критерия выполняются уело-
А>(О<М*1).	Pa(x;)>Pe(X1), 0SK.
Рандомизированный критерий определяется критической функ-
цией <р(л) на выборочном пространстве X, значение которой есть ве-
роятность отклонения гипотезы Н при данном значении х результа-
тов наблюдений. Мощность рандомизированного критерия с крити-
ческой функцией ф(х) определяется соотношением
р (0)» МеФ (х) в J q> (х) Ре (dx).
х
В частности, когда ф(х) = 1 для xeXt и ф(х) = 0 для
х е Х\%1, т. е. когда критическая функция является характеристи-
ческой функцией множества Xi, критерий, определяемый функцией фк
становится нерандомизированиым с критической областью Xi.
В простом случайном выборе статистические данные представ-
ляют собой результаты наблюдений значений случайной величины
в последовательности независимых испытаний. В этом случае выбо-
рочное пространство X является л-мерныы евклидовым простран-
ством: х == (X|, Xz, ..., х„), где х* (в» 1, а) - независимы»
одинаково распределенные случайные величины. Число п элементов
выборочной последовательности называют объемом выборки.
Критерий согласия с критической областью Xi называется со»
стоятельным, если имеет место соотношение
lim Ре (-^1) “ 1» 0 е= К.
П+-оо
Состоятельность критерия означает, что ошибка второго рода — ве-
роятность принятия неверной гипотезы — стремится к нулю при
оо.
Для сравнения различных критериев между собой используются
меры асимптотической эффективности критериев, которые основаны
па изучении скорости сходимости функции мощности в окрестности
параметра 0 е Н.
20.5.3.	Критерии проверки статистических гипотез. Для проверки
простой гипотезы Но, которой соответствует распределение Ро, про-
бив простой альтернативы К, которой соответствует распределение Pi,
Критическая функция ф(х) оптимального критерия Неймана—Пир-
сона при заданном уровне значимости а определяется условиями:
Ф (х) ро (х) dx ==> а,
X
, к Г I( Pl СаРа
I 0, Pi (*) < Сорв (х),
20.5.31	SB.5. ПРОЦЕДУРЫ ПРОВЕРКИ ГИПОТЕЗ	Б45
где ро(х) и pi (х) — плотности распределений Ро и Pt по домини-
рующей мере р,. Критерий Неймана — Пирсона является наиболее
мощным критерием уровня а.
Практическое применение критерия Неймана — Пирсона состоит
в проверке неравенства pt (х) Сар0 (х) для данных результатов
наблюдений х. В случае выполнения этого неравенства гипотеза Но
отклоняется; в противном случае гипотеза Но принимается.
Константа Са в критерии Неймана — Пирсона определяется
случайной величиной Т(%) и» pi(£)/po(£) при гипотезе Н (£ имеет
распределение Ро) следующим образом;
Л(Г(Е)>Са)=й.
Если вероятности Р0 (Т (£) > Со) не зависят от альтернативных
значений параметра 6, то критерий Неймана — Пирсона проверки
простой гипотезы Ид является равномерно наиболее мощным по
Отношению ко всем таким альтернативам.
Критерии, основанные на использовании распределения стати-
стик Г(£) = Pi(g)/po(S), называются критериями отношения правдо-
подобия- они обладают многими полезными свойствами.
Примеры. 1. Пусть р(х; а, а) — нормальные плотности рас-
пределения со средними значениями а и дисперсией а®. Рассмотрим
простую гипотезу Но: а = а0 0 при известном значении пара-
метра о против класса альтернатив д: а > ад с тем же значением
параметра о. В простом случайном выборе х » (хь х», .,., Хп) —
n-мериый вектор независимых одинаково распределенных СлучАиных
величин Xi, xi,..., хп.
В этом случае критерий Неймана — Пирсона определяется не-
равенством
fe-l	f
После логарифмирования это неравенство приводится к следующему
виду:
(а“ао) £
Для класса альтернатив а > п0 критическая область задается нера-
венством
Ы
где константа Са определяется нз условия
рв,( 52 хк ~
\fe-i	/
п
Критерий JT	ПРОСТОЙ гипотезы Н: а =sявляется равно-
мерно наиболее мощным для класса альтернатив а > а0. Аналогич-
но для класса альтернатив а <. а» равномерно наиболее мощный
18 В. С. Королюк и др.
846	ГЛ. 20. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА	120.М
.критерий простой гипотезы Не, а = th определяется неравенством
Если множество альтернативных значений параметра а СО дер,
^кит точки как слева, таки справа от Но, то р. н. м. критерия не су*
шествует.
2. Для простой гипотезы Не- а = аб при неизвестном значение
параметра о против альтернативы К: а> а« критерий Неймана -*•
Пирсона определяется критической областью
Л —1	Л-1
3. Для простой гипотезы Не. о = ов против альтернативы Xi
с < Оо р. и. м. определяется соотношением 3s > Са.
20.6.4. Критерии отношения правдоподобия. Критерии отношения
правдоподобия строятся с использованием свойств функции отноше*
ния правдоподобия L (х) — рв (х)/рво (х).
Естественным представляется выбор критической области такнм
образом, чтобы при хеХ, отношение правдоподобия принимало
возможно большие значения при всех альтернативных значениях
параметра 6 е К.
Критерий отношения правдоподобия простой гипотезы H»i
6 » 9i против сложной альтернативы 6 е К определяется статисти,
мой
'“-TfST.R’*'4
Критическая область имеет вид -У1 =» {х: I (х) > Со), где мои*
стаита Со определяется условием рво (Jfj) =—а. Например, для вы»
борки х== (х*, Ха, .... хп) из нормальной совокупности Р(х; а, о)
С неизвестными параметрами ано критерий отношения правдопф»
добия для гипотезы Не- а == «о определяется статистикой
где /(х)»*7и (x-«t)/5	имеет	распределение	Стыодента	с	п— I
(п	п	.
Здесь x = -i- Xх*’ & “ ~п -Т X (** ""*)*•)
А=1	Л-1	/
' Критерий отношения правдоподобия сложной гипотезы 0 е Н
против сложной альтернативы 6 е К определяется статистикой
/ (х) = sup ре (х)/sup р0. (х}.
20.5. ПРОЦЕДУРЫ ПРОВЕРКИ ГИПОТЕЗ	fftf
20.8.5. Критерий X2, Для проверки простой гипотезы Яо> которой
т
соответствует дискретное распределение (pi, pi, ,,,, рт), £ р*“ *•
используется статистике
где vt, v2, ..., v„— частоты результатов наблюдений в выборке
гп
объема	vfc. При п-*оо распределение статистики х2 стре-
мится к х’-распределеиию с т — 1 степенями свободы и плотностью
Вероятности
Km_t w- (rf—W (^-))х > о.
Предельное распределение не зависит от вида исходного дискретного
распределения. Критерий %2 определяется следующим образом.
Пусть Ха таково, что « “»Р [у2 > Тогда критическая область
критерия %’ определяется неравенством для статистики %2: X2 >
Критерий у2 используется также для проверки простой гипо-
тезы о виде исходного распределения при группировке значений на-
блюдаемой случайной величины В этом случае pk —« Р
где Хп — группы, на которые разбито множество возможных значе-
ний случайной величины £. На практике критерий у2 оказывается
достаточно эффективным, когда все ожидаемые частоты прь 2* 10.
Примеры. 1. В последовательности независимых испытаний
Наблюдается случайное событие, вероятность которого р (0<р<1)
Неизвестна. Пусть vn — частота наблюдений события в выборке объ-
ема п. Тогда статистика Xs =* (v — np)2/(np(l —Р)) при больших п
распределена приближенно с плотностью Кт (х) (V2nx) е *
(к > 0).
Имеющиеся таблицы квантилей у2-распределения дают возмож-
ность проверить гипотезу о том, что в данной серии наблюдений ве-
роятность случайною события равна заданному числу р.
Критерий х2 применим также в случае, когда имеется несколько
независимых серий наблюдений.
2. Пусть vt, v2, .... v,n — частоты наблюдений в выборках объ-
события, вероятность которого
гипотезы можно воспользоваться
*
распределение которой при боль-
m
ших « ж £ пц близко к х’-распределению с m степенями свободе.
J3i
ема П1, па,	случайною
Предполагается равной р.
Для проверки предполагаемой
V (vfc ” rtfep)2
статистикой х2 “ X <р(1-р)~’
18*
848
ГЛ. S0. МАТЕМАТИЧЕСКАЯ СТАТИСТИКА
ДОЛЯ
Если исходное распределение зависит от неизвестных парамет-
ров 0J, 62, .|tl б,, то в качестве критерия согласия используется
статистика
у .......................б,)Г
fa пРь (61. е2> •   • М
в которой 61, 0г, > - •,	— оценки неизвестных параметров, построен*
НЫе по результатам наблюдений. При определенных условиях стати-
стика %2 в пределе прн п -><х имеет ^/-распределение с т — г — 1
степенями свободы.
3. В условиях примера 2 воспользуемся оценкой неизвестной
т	т ,	..2
1 V-1	(vk — nkp)
вероятности р * — / *А. Статистика 'х® ==	пТ(1~—б) 01МеЮ'
4-1	Л-1 к
тая в пределе '^-распределение ст — 1 степенями свободы)' ис-
пользуется для проверки гипотезы об однородности выборок: пред-
положения, что во всех т сериях независимых наблюдений вероят-
ность наблюдаемого события оставалась неизменной.
20.6.6. Непараметрические критерии. Одной из основных непара-
метрических статистических задач является задача проверки согла-
tДания выборочных данных с гипотезой о том, что исходная функ-
1Й распределения F(x) является заданной. Если исходная функция
распределения F(x) непрерывна, то в качестве непараметрического
критерия используется статистика Колмогорова
 sup |F„ (х) - F (х) I,
- «<х<+<»
распределение которой не зависит от вида Е(х) и для которой из-
вестно предельное распределение (см. § 20.4).
Критическая область критерия при данном уровне значимости
Определяется неравенством
л/п Г>п'е^ du?
где dn — квантиль предельного распределения Колмогорова,
1 -^K(da) = а.
Задача проверки однородности статистических данных ставится
следующим образом. На основании двух серий независимых наблю-
дений Xi, х2, ..., хи н pi, уг, .... уп проверить гипотезу о том, что
результаты наблюдений в обеих сериях получены в результате испы-
таний над случайными величинами с одинаковой функцией распре
деления К(х). Если исходная функция распределения К(х) непре-
рывна, ТО В качестве критерия однородности выборочных данных
используется статистика Смирнова, распределение которой не зави-
сЙТ от вида функции Р(х)-.
Vnm г.	/ йт	, „ , .	_ , .,
я д- m В пт = л/	. max	| F ц (х)	Fm (х) ],
п ~г т	V п ।	— оо<^х<4-°°
je Fn(x) и /’’«’(х)—эмпирические функции распределения первой
второй Серий наблюдений соответственна. Критическая область
SO.5.7]
S0.6. ПРОЦЕДУРЫ ПРОВЕРКИ ГИПОТЕЗ
мэ
критерия однородности определяется неравенством
пт
п + т
^вт &а>
в котором da — квантиль распределения статистики Смирнова при
малых п и т, а при больших п пт da — квантиль предельного рас-
пределения статистики Смирнова: 1 — К (da) — а. В частном слу-
чае, когда объемы выборок равны (п = т), точное распределение
Статистики Смирнова имеет довольно простое аналитическое выра-
жение.
Порядковые непараметрические критерии строятся по статисти-
кам вариационного ряда, которые не зависят от конкретных значе-
ний членов вариационного ряда.
Критерий серий Вальда — Вольфовица основан на статистике
и„т — числа серий наблюденных значений первой и второй выборок
в общем вариационном ряду щ ... sj zn+m, где каждое г»
есть либо xik, либо уш-
Распределение статистики Unm не зависит от вида Д(х) исход-
ного распределения:
n+m
Unm™ У,
где случайные величины Vk независимы и принимают значения 1
или 0 с вероятностями, равными 1/2. При больших пи/п распре-
деление статистики Unm асимптотически нормально со средним ппг/2
и дисперсией (л + m -{- 1). При фиксированном m и л-*-оо
статистика U„mln в пределе распределена как
m
Wi, где 1Г(
независимы и равномерно распределены на интервале (0, 1).
Имеются и другие непараметрические критерии.
20.5.7. Последовательный критерий отношения правдоподобия. На
практике эксперименты осуществляются последовательно. На каж-
дом этапе имеется возможность принимать решение о необходимо-
сти продолжения или прекращения испытаний. Объем выборки в по-
следовательном статистическом анализе заранее не фиксируется и
является случайной величиной. Пусть Ни и Н,—две альтернативные
гипотезы о виде плотности распределения ро(х) или pi(x) наблю-
даемой случайной величины. Последовательный критерий отношения
правдоподобия {Вальда) строится по результатам независимых на-
блюдений Xi, Хг......хП, ... следующим образом. Задаются две
константы А и В, которые определяют разбиение выборочного про-
странства по отношению правдоподобия
п
ВВО	гл. SI. ТЕОРИЯ ОЦЕНИВАНИЯ ПАРАМЕТРОВ	ЛЛ
при каждом п на три области
р. (хЛ
р (л )	~ область принятия гипотезы Hi",
Л-1
п
Мж*.
< А — область принятия гипотезы 77®;
" г \
Пр, (х.)
'  < В — область продолжения испытаний.
П АМ«(Л. В), ТТ
II р0(хА)	11
К —1
Качество последовательного критерия отношения правдоподобия
определяется ошибками первого рода а = Po(Xj) и второго роде
p«=Pi(X®), а также средним числом наблюдений Afov и Afiv; слу-
чайное число наблюдений v определяется условиями
V Pt (Xbi
-1 pf- pfe (A J5).
PM
Последовательный критерий отношения правдоподобия требует
в среднем меньшего числа наблюдений, чем критерий с фиксирован-
ным объемом выборки при тех же ошибках первого и второго рода.
Последовательный критерий заканчивается с вероятностью 1 кан
при гипотезе Не, так и при гипотезе Ht, т. е. Po(v < оо) «
“ Pl<V < Ос) « 1.
Точное определение границ А и В ц среднего объема выборки
Afov в последовательном критерии связано с большими трудностями.
Однако имеются полезные для приложений соотношения:
1 —а'	а ’
„	(1 — а) log В + а log А
°V ~	MBz
MvV	(1 — «) log (ВЦ 1 —а)) + с log ((1 — Р)/а)
Л*о?
Здесь z » log
Рй (t)
Литература: [1, 4, 13, 42, 43, 56, 58, 72, 85, 99].
Г л а в а 21. ТЕОРИЯ ОЦЕНИВАНИЯ ПАРАМЕТРОВ
21.1.	Задача оценивания и свойства оценок
21.1.1.	Постановка задачи. Пусть {Xя, Xя, Рп}, где Р «= {Ре, 0 е
ев 6),— (параметризованная) статистическая структура модели про-
стого выбора, связанная с наблюдением над случайным элементом
принимающим значения в X.
МЛ.2]	21 Л. ЗАДАЧА ОЦЕНИВАНИЯ И СВОЙСТВА ОЦЕНОК 551
Считается, что в множестве 0 допустимых значений параметра 0
существует такое 0о, что распределение элемента g совпадает с
Р01>, т. е. Р ft еГ) =	(Г), Ге I. Значение Оо называется истин-
ным значением параметра.
Предположим, что истинное значение 0О неизвестно, и задача
заключается в том, чтобы на основании эксперимента над £. т.е. по
выборке (jc«, ..., хя) е Xя, оценить 0О. Процедура оценивания со-
Стоит в том, что, во-первых, строится статистика 0* = 0*(х):
Хп-*-0 (оценка, см. § 20.2), обладающая рядом предпочтительных
свойств, и, во-вторых, вместо аргументов в 0*(х) = 0*(xi, .... x„f'
подставляется выборка — результаты наблюдений. Полученное зна-
чение (реализация случайной величины 0*(gi,	•> Е«), где & не-
зависимы и одинаково с £ распределены) и принимается в качестве
оценки истинного значения параметра 0о- Таких оценок можно по-
строить бесконечно много, и возникает вопрос, какие из них пред-
почесть. Ответ неоднозначен, так как можно вводить различные
критерии качества оценок.
21.1.2.	Принципы постоения оценок. Естественно считать, что ка-
чество оценки 0* зависит от близости 0* к истинному значению
параметра. Термин «близость» нуждается в уточнении.
Во-первых, можно по-разному вводить понятие близости в мно-
жестве ©. Например, если О — метрическое пространство, то можно
считать мерой близости между элементами 0г, 0s s 0 расстояние ме-
жду ними. Более общим образом на множестве 0 можно ввести
функцию потерь г (0г, Oj) (0i, 0seО), т.е. неотрицательную функ-
цию, интерпретируемую как потери, которые мы несем, если прини-
маем в качестве оценки истинного значения параметра значение 0г,
в то время как истинное значение равно 0<. В этом случае оцен-
ка 0* тем ближе к 0, чем меньше потери т(0, 0*).
Во-вторых, так как результаты наблюдений х s Xя случайны, то
оценка 0*(Xi, Хг....х„) представляет собой случайный элемент,
и поэтому близость 0* к 0 должна поииматься в некотором усред-
ненном смысле. Например, можно считать, что 0* близко к 0, если
малы средние потери
Мег (0.0* (xt...хп))«
= J J Г (0, 0*(xIf.... Х„)) Ре(dx,)... Ре (dx„).
X X
Однако для данной оценки 0*(xi.......х„)	эти потери могут быть
малыми при одних 0 и достаточно большими при других. Разуме-
ется, если бы существовала такая оценка 0* (xIt х?, ..,, хл), что
для любой другой 0, (х,,.... Хд) при всех 0е0 выполнялось не-
равенство	j
Мег (0, 0* (х,. хг..х„)) < Мвг (0. О’ (xlt х* ..., х„)).
то с точки зрения выбранной меры близости ее следовало бы пред-
почесть любой другой оценке. Однако, вообще говоря, такой оценки
це существует. Поэтому для выбора оценки неизвестного параметра
принимают во внимание некоторые дополнительные соображения.
ИИ	ГЛ- я. ТЕОРИЯ ОЦЕНИВАНИЯ ПАРАМЕТРОВ 121.1.3
Можно, например, выбрать оценку 0*(xi, х», ,,,, хг.) так, чтобы
значение функции
sup Мег (0, 0* (xt> х2.хп))
0е9
было минимальным. Этот принцип выбора оценок носит название
принципа минимакса, а соответствующие оценки, если они суще-
ствуют, называются минимаксными. При таком подходе мы ста-
раемся минимизировать максимальный убыток, связанный с выбо-
ром той или иной оценки.
Другим подходом к выбору оценки является так называемый
байесовский подход: считается, что имеются некоторые априорные
соображения о предпочтительности тех или иных" значений парамет-
ра 0. Другими словами, на пространстве в считается заданным не-
которое априорное распределение g(d0). Оценка 0*(xi, .... хя) вы-
бирается так, чтобы значение интеграла
Мег (0, 0* (xi, Х2, ..., хп)) р (d0)
Й
было минимальным. Возможны и другие принципы построения оце-
нок.
21.1.3.	Неравенство Крамера — Рао. В дальнейшем будем пред-
полагать, что множество 6 является некоторым интервалом в R
или же некоторой областью в евклидовом пространстве R“. Множе-
ство X, как правило, будет совпадать с R.
Назовем, оценку 0* (хц х2, .... хп) несмещенной, если при всех
6 е 6
Me0‘(xi> -*2> ---, хп}«=0.
В классе несмещенных оценок естественно считать лучшей ту
сценку, распределение которой при всех 0 концентрируется «теснее»
вокруг среднего значения, т. е. вокруг 0. В случае, когда 0 — одно-
мерный параметр, мерой такой концентрации распределения может
служить дисперсия распределения. Таким образом, мы приходим к
Задаче о нахождении в классе всех несмещенных оценок такой
оценки 0*(xi, Хг, ..., хп), для которой при каждом значение
функции
Me(0*(xi, xs, ...,х„)-0)2
минимально. Оказывается, что это выражение ограничено снизу не-
которой функцией от 0, так что если для некоторой оценки
O*(xi, хг, .... хл) эта нижняя граница для дисперсии достигается
при всех 6, то это и будет искомая оценка.
Предположим, что распределение Ре (dx) (0 е ©) (здесь 0 —
одномерный параметр) имеет плотность р(0, х) относительно неко-
торой о-конечной меры v(dx) на (X, А’). В частности, Pg (dx) мо-
жет быть дискретным распределением, сосредоточенным в точках
Zi, 2г, ... е А. При этом точки zi, гг, ... не зависят от © и р(9, z*:)—
масса (вероятность), соответствующая точке з», так что р(0,
=1.
21.1.3]	2I.T. ЗАДАЧА ОЦЕНИВАНИЯ И СВОЙСТВА ОЦЕНОК Б88
Предположим далее, что плотности р(0, х) дифференцируемы
по 0, причем для любого измеримого множества Г из X
f /л i /j „ f 5»<е, х) ,
р (6, X) V (dx) *= J r v (dx).
г	г
Положим
/ (в) - 5 [ а Т> (0, X) v (dx), 0 6 е.
J L ОТ J
X
Величина 7(0) называется количеством информации о параметре 0,
содержащемся в одном наблюдении. В дискретном случае /(0) за-
пишется в виде
,,„х.	V'P10«^(e’a'*)T-ZO -X
/(е) Д L-------аё------J p(Q'zkb
А-1
Количество информации о 0, содержащееся в независимых наблю-
дениях xi, хг, .... хп, равно п!(0).
Пусть 6* (xj, Хг...хп) — произвольная несмещенная оценка
параметра 0. При некоторых условиях регулярности имеет место
неравенство
о|(0’) = Ме (0* (хн х2.х„) - е)2 >	(1.1)
Причем равенство достигается тогда и только тогда, Когда
ЕП 5 log р (0, х.)
-------= Л10* (*1.............х„)	- 0J
fe = l
для почти всех хеХ" относительно меры p(0,Xi) ...р(0,x„)v(dxy)...
... v(dxn). Здесь А не зависит от xi, Хг, , хп, однако может зави-
сеть от 0.
Упомянутые условия регулярности состоят в выполнении равен-
ства
м„	(... f£te£lv(to) ...,(Лв)_о.
X X
где £(0, Х(, ..., х„) =-/;(0, xt)p(0, х2) . ..р(0, х„), а также в воз-
можности продифференцировать по 0 равенство
0‘ (хь ..хп) L (0, xi,..., х„) v (dxt) ... (dxn) =-0.
X i
Неравенство (1.1) называется неравенством Крамера — Рао и
дает нижнюю границу для дисперсии несмещенной оценки. Если для
оценки 0*(Х1, Хг, ..., х„) в неравенстве (1.1) достигается равенство,
то такая оценка называется аффективной. Таким образом, среди не-
смещенных регулярных оценок эффективные оценки имеют минималь-
ную дисперсию. Назовем эффективностью оценки 0*(х<, Хг, ,,., хл)
ВВ4	ГЛ 21, ТЕОРИЯ ОЦЕНИВАНИЯ ПАРАМЕТРОВ	(2'1 Г.А
сношение нижней границы для дисперсии оценки к фактической
Дисперсии оценки:
Рчевидно, что О eff(0*)	1. Две эффективные оценки одного «
<гого же параметра почти наверное совпадают при каждом 0.
21.1.4.	Достаточные оценки. Пусть структура (Xя, Ж", Ря), где
JP={^e, 0 е 0}, доминируема мерой Лебега (см. § 20.1) и 0*—
й»»0*(Х|, .... х„)—оценка параметра ©..Согласно п.20.2.2, оценка©*
является достаточной для параметра 0, если условное распределение
Qe {Д | 0* (хр х2.хп) =(), Де #*» Qe =
не зависит от 0. Оценка 0*(xt, х2......х„) достаточна тогда и
только тогда, когда условное распределение любой другой оценки
при условии 0*(xi, х^ ..., х„) «= 1 не зависит от 0. Следующее
утверждение является следствием факторизациониого критерия Ней-
мана — Фишера.
Теорема 1. Предположим, что меры Pe(dx) (0е0) абсо-
лютно непрерывны относительно некоторой о-конечной меры v(dx),
заданной на (X, S3), и пусть р(В,х) = dP^/dv. Оценка 0*(xi, х2, ...
,.., х„) достаточна для параметра 0 тогда и только тогда, когда
имеет место представление
р (0, Xt) р (0, х2) ... р (0, Xn)=go (0* (хь ..Хп)) h (xIf Ха.хп)
еде £в(6‘) и ft(xt, Xi, .... Хп)—неотрицательные функции, причем
зависит от Xi, Ха, ... х„ только через оценку 0*(х1, xj, хп), а
Л(х„ х2,.... Хп) не зависит от 0.
Важность понятия достаточной оценки в теории оценивания под-
черкивает следующее утверждение.
Теорема 2. Предположим, что 0*(xl, х2.......х„)—достаточ-
ная оценка для параметра 0, а 0, (хи х2, .... х„) — произвольная не-
смещенная оценка параметра 0 Тогда при всех бей
Ч. [f (О’ (хР х2..х„)) - 0]2 < Ме [0] (хр х2....х„) - 0]2.
еде | (0 = Ме {©1 (Хр х2...хп) 10 (хр х<2,..., х„) = 1} (как следует
из вышесказанного, функция f(t) не зависит от 0). При атом функ-
ция f(0*(xi, хг, .... хп)) также является несмещенной оценкой па-
раметра 0.
Таким образом, имея для параметра 0 произвольную несмещеа-
ную Оценку 01 (Хр х2,.... х„) и достаточную оценку 0*(х(, ха, ...
♦ Хп), мы можем построить новую несмещенную оценку пара-
метра 0, которая при всех 0 будет иметь дисперсию, меньшую, чем
исходная оценка.
Достаточная опенка 0*(х(, х2....г,) называется полной, если
из того, что для некоторой функции <р(0>	вы-
полнено соотношение М0<р (0* (х(, х2........................хп)) = О. следует, что
4>(0*(х1( хг, ..., xrt)) = С почти наверное относительно меры Qe
при любом 0 е= 0. Если существует полная несмещенная оценка
21.1.6]	21.1. ЗАДАЧА ОЦЕНИВАНИЯ И СВОЙСТВА ОЦЕНОК 858
6 (Xj, x%,, хп) параметра 6, то для любой другой оценки
6j (xj, xt,..., хп) параметра 6 выполнено неравенство
Ме [©j (*„ х2,..., х„) - б]2 > Ме [6’ (*!» хг,.... х„) - б]2,
Т. е. в атом случае оценка 6*(xj, хз, ..., х») имеет минимальную
дисперсию.
21.1.6. Оценки многомерных параметров. Предположим, что мно-
жество в допустимых значений параметра является (открытой) об-
ластью в евклидовом пространстве Rd. В этом случае оценка 0*(xi>
Хг, ..., Хл) представляет собой также d-мерный вектор. Как и в од-
номерном случае, поставим задачу о нахождении среди всех несме-
щенных оценок таких из них, распределения которых обладали бы
наибольшей степенью концентрации вокруг среднего значения. В мно-
гомерном случае удобной мерой такой концентрации является эл-
липсоид рассеивания.
Пусть {— d-мериый случайный вектор со средним а и матрицей
вторых моментов И«||||: я«-М£,	(i, J = 1, 2, ...
..., d), где I* — i-я компонента вектора Пусть S — эллипсоид в
Rf* с центром в точке а такой, что если сосредоточить внутри него
равномерное распределение (т. ,е. распределение с постоянной плот-
ностью), то это распределение будет иметь своим средним вектор а,
а матрицей вторых моментов — матрицу V. Такой эллипсоид назы-
вается эллипсоидом рассеивания. В одномерном случае он превра-
щается в интервал (я — о д/з, а + о д/З), где а и о2 — математи-
ческое ожидание и дисперсия величины Е соответственно. В общем
случае уравнение эллипсоида рассеивания имеет вид
(l?-1 (х — в), х — я) — d + 2,
где V-1 — матрица, обратная матрице V, х —текущая точка эллип-
соида, (у, х) —скалярное произведение в Rd.
Предположим теперь, что {Ре, 6s0) - семейство распределений
г (X, I), имеющих плотность р(6, х) относительно некоторой о-ко-
нечной меры v(dx), заданной иа Ж. Пусть 6 — d-мерный параметр.
Положим
(в)_( "ЗСИМ .р(е.,),(<w,
jj	€Щ	0V
гДе k, г = 1, 2, ..., d, и обозначим через /(6) матрицу с элемен-
тами 1»г(6). Матрица /(9) называется информационной матрицей.
Пусть далее 6*(х;, Хг, ..., хл)— некоторая несмещенная оценка па-
раметра 0. Обозначим через 3$. (6) эллипсоид рассеивания для рас-
пределения вектора 0*(хь ха, ..., хл) по мере Qe(dx1, ах2> • • -<dxn)=*
— Р (6. *i) Р (6. *2) .. р (0, х„) v(dx,)... v (dxn).
Многомерный аналог неравенства Крамера —Рао гласит: для
любой несмещенной оценки 6*(xt, хг, ..., хя) параметра 6 при неко-
торых условиях регулярности эллипсоид Зу (6) содержит в себе эл-
липсоид, уравнение которого имеет вид
л(/(6)(й-6), u-9)-=d + 2,	(15)
836	ГЛ. 21. ТЕОРИЯ ОЦЕНИВАНИЯ ПАРАМЕТРОВ '	121Л .6
где я —число наблюдений, и — текущая точка эллипсоида (weR**).
В предельном случае оба эллипсоида совпадают. В этом случае оцен-
ка ха, jtn) называется совместно-эффективной. Матрица
Вторых моментов для совместно-эффективной оценки совпадает с
Эффективностью оценки O*(xi, Xt, ..., хп) называется от-
* ношение объема эллипсоида (1.2) к объему эллипсоида Se. (в). Оче-
I видным образом переносятся на многомерный случай понятие доста-
точной оценки, а также свойства достаточных оценок, выраженные
теоремами 1, 2.
21.1.6. Асимптотические свойства оценок. Предположим, что
объем выборки п растет, т. е. я->«\ будем интересоваться асимпто-
тическими свойствами оценок.
Оценка 6* (xi, ха, .... хп) параметра 6 называется состоятель-
ной, если 0*(xi, х^ ..., х„)-*-0 по вероятности при я->оо. Иногда
ь.гакие оценки называют слабо состоятельными ъ отличие от сильно
'• состоятельных оценок, для которых соответствующая сходимость
имеет место с вероятностью 1.
Заметим далее, что эффективные оценки существуют далеко не
всегда. Однако во многих случаях существуют асимптотически эф-
фективные оценки.
Назовем асимптотической эффективностью оценки 0*(xi, №, •••
п, Хп) предел
е0(6)= eff(O*)~ Нт """--а 7~тг,
П->ОО	п->« П1 (0) Og (0 )
если он существует. Во многих случаях о|(0*) ~ с/n при л-*оо, и
^огда еп(0*) = (с/(0)]-1 существует. Очевидно, что 0 < во(0*) < 1.
!сля ео(0*) “ 1, то оценка 0*(xIf хг, ,х„) называется асимпто-
тически эффективной.
I 21.2. Методы построения оценок
21.2.1.	Метод моментов. Пусть случайная величина имеет рас-
пределение, принадлежащее семейству 5s = {Р0, 0 е 6J, где 0 — не-
которая область в Rd. Предположим, что существуют первые d мо-
ментов распределения Р0, и положим
mf (0) •= хгРв (dx), г “ 1, 2....d.
Здесь X совпадает с R, или X — счетное множество. Имея п незави-
симых наблюдений Xi, ха, х„ над случайной величиной £, по-
строим выборочные моменты
п
г*"’*21 —d-
A-i
Метод моментов состоит в приравнивании выборочных моментов тео-
ретическим. Получаем систему уравнений
(0) = mt, г == 1, 2,..., d,
21.2.3]	2f.2. МЕТОДЫ ПОСТРОЕНИЯ ОЦЕНОК	557
относительно d неизвестных 0*. О2,	0“. Если существует един»
огненное решение 0Г (хр х2....хп) = fr (ftj, т2..wid) (г = 1, ...
...,т!)этой системы и функции fr непрерывны,то получающаяся оцен»
ка {0Г, г = 1, 2,..d] является состоятельной оценкой параметра
0. Однако, вообще говоря, оценки по методу моментов неэффек*
тивны.
21.2.2.	Метод максимума правдоводобия. Предположим, что се»
мейство распределений & = {Р0, 0 е в} на измеримом пространстве
(X, £) имеег плотность распределения р(0,х) относительно некоторой
о-конечной меры v(dx), заданной на X. Если X дискретно, р(0, х)
есть вероятность того, что f = х, при условии что истинное значение
параметра равно 0. Пусть xi...ха — результаты п независимых на*
блюдений над случайной величиной Согласно методу максималь»
кого правдоподобия, в качестве оценки 64(Х|, х2..хп) параметра
0 выбирается такая функция от наблюдений, которая доставляет
максимум функции
р (0, xi) р (0, х2) ... р (0, х„) = L (0, Xi, х2.х„),
называемой функцией правдоподобия. Если при 0 = 0*(x,i, х2,
..., Хп) функция правдоподобия достигает наибольшего значения,
то при этом же 0 достигает наибольшего значения и функция
Iog£(0, xi, х2, .... хл). Использование функции log£ часто бывает
более удобным. Оценки, получаемые с помощью метода максималь»
ного правдоподобия, называются сценками максимального правдо-
подобия.
Для отыскания оценок максимального правдоподобия нужно ре»
шить уравнения (k = 1, 2,. ., d)
д log L (0, xi, x2.хя) c
dQk
если 0	(01, 02, >.., 0d). Уравнения такого типа называются урав-
нениями правдоподобия. При решении уравнений правдоподобия еле*
дует отбросить решения вида 0 = const и рассматривать лишь те ре*
шения, которые зависят от xi, х2, ..,, хп ч попадают в область до-
пустимых значений параметра в. Следует также иметь в виду, что
наибольшее значение функция правдоподобия может принимать на
границе области в.
Оценки максимального правдоподобия обладают следующими
двумя важными свойствами:
а)	если существует достаточная оценка 0*(хь х2, .... хк) для
параметра 0, то каждое решение уравнения правдоподобия является
функцией от 0* (xi, х2, ..., хл);
б)	если для параметра 0 существует эффективная оценка (в
многомерном случае — совместно-эффективная) 0*(хь х2, ..., хп), то
уравнение правдоподобия имеет единственное решение 0*(xi, х2, ...
м. , Хп) -
21.2.3.	Асимптотическое поведение оценок максимального прав*
доподобия. Пусть 0 — интервал в R, X = R и v (dx) = dx, где dx —*
мера Лебега на R. Сформулируем теорему, показывающую, что
оценки максимального правдоподобия имеют целый ряд хороших
СВОЙСТВ при П сю
558	гл. 2t. ТЕОРИЯ ОЦЕНИВАНИЯ ПАРАМЕТРОВ (21.2.4
Теорема 1. Предположим, что плотность р(&, х) удовлетво-
ряет условиям:
1)	при каждом 0 «в 0 для почти всех к существуют производные
Л==1,2,3;
dQk
2)	при каждом 0 « 0 выполнены неравенства
I^>|<0>w,|^l.|«c0.w.
еде функции Gi(x) и Gs{x) интегрируемы на Rao мере Лебега, а
sup \ Gs (х) р (0, х) dx < оо;
Нее й
3)	при каждом 0 е 0 интеграл
R
конечен и положителен
Тогда уравнение правдоподобия имеет решение 0* (хь х2. ..., хя),
представляющее собой состоятельную, асимптотически вффективную
и асимптотически нормальную оценку параметра 0.
Последнее означает, что величина
I (0)	(0’ (*ь хг..... хп) — 0)
асимптотически нормальна с параметрами (0, 1), если истинное зна-
чение параметра равно 0.
Эта теорема обобщается на случай дискретной случайной вели-
чины, а также на случай многомерного параметра 0.
21.2.4.	Метод минимума X2. Пусть xt, х2, ..., хп — независимые на-
блюдения над случайной величиной 5 со значениями в (X, ^.рас-
пределение которой принадлежит семейству = {Р0, 0 е 6}. Пред-
положим, что пространство X разбито на г непересекающихся изме-
римых множеств Xi, Хя, .... Хг. Обозначим через щ число наблю-
дений в выборке Xi, х2, .... хп, попавших в множество Х<. Если
множество X конечно, т. е. случайная величина £ принимает лишь
конечное число значений, то можно считать, что Xi — одноточечное
множество. Таким образом, произведена группировка результатов на*
блюдений.
Составим величину
Д (»f-npt(0))8
х Zu	пр. (0)
i-1	‘
где р( (0) «« Р0 (Х() (I =* I, 2,..., г, 0Е0). Оценка 0*(xlr х2, .,«
.... Хл) называется оценкой по методу минимума хг, если она полу»
века минимизацией по 0 величины %8. Если 0 — d-мерный параметр,
21.3.25
21.3. ДОВЕРИТЕЛЬНЫЕ ОБЛАСТИ
859
то для нахождения оценки по методу минимума Xs получаем ся-
«тему уравнений
у Гл<~яМе> .	^Pj W A = 1 2 d
/>,(6)	2/^(6) J гю* “ ’	............
По своим асимптотическим свойствам оценки, получаемые по ме«
тоду минимума у2, весьма близки к оценкам максимального правдо-
подобия. Например, при некоторых условиях с вероятностью 1 имеет-
ся лишь один состоятельный корень соответствующих уравнений и
он доставляет абсолютный минимум величине %2.
21.3.	Доверительные области
21.3.1,	Понятие доверительной области. В некоторых случаях
важно не только дать оценку неизвестному параметру распределе-
ния, но и указать область, в которой предположительно должно на-
ходиться истинное значение параметра. Будучи построенной по ре-
аультатам наблюдений, такая область может изменяться от выборки
й выборке н потому является случайной областью. Следовательно^
можно говорить о вероятности того, что такая область накрывает ис-
тинное значение параметра. Выбрав некоторое достаточно малое
число е > 0, мы можем задаться целью построить правило, позво-
ляющее поставить в соответствие результатам наблюдений такую об-
ласть в параметрическом множестве, что с вероятностью 1 — в истин-
ное значение параметра будет содержаться в этой области. Это оз-
начает, что в длинном ряду выборок мы ошибаемся лишь в 100е %'
случаев.
Области, о которых шла речь, называются доверительными об*
Ластями, а число I — в — коэффициентом доверия.
21.3.2.	Построение доверительных областей. Пусть хь ха, ...
..., хл — независимые наблюдения над случайной величиной рас-
пределение которой содержит неизвестный параметр, изменяющийся
в пространстве R, и пусть 6*(х(,Х2, ..., хв)—какая-либо оценка па-
раметра 0. Обозначим через 9е (dt) распределение оценки 6* в пред-
положении, что истинное значение параметра совпадает с 6, т. е.
<?е (dt) =- Q0 {6‘ (xt, х2,..., xn) ge di),
где dx2, ...,dxn)~~ распределение в выборочном простран-
стве R", определяемое формулой
Qe dx2, .... dxn) = P6 (dXj) Pe (dx2) .. • Pg (^*n)‘
Если распределение (di) не имеет атомов, то по заданному
е > 0 всегда можно выбрать числа й)(0, е) и <ь(0, е) таким обра-
зом, чтобы 01(0, е) < е) и
J 46(dt)+	<?е (dt)~ в.
{*<«, (в, «))	><ь (6. е)}
Такой выбор неоднозначен. Предположим, что эти функции можнв
выбрать так, чтобы они были непрерывны по в и чтобы каждое »•
660
ГЛ 2(. ТЕОРИЯ ОЦЕНИВАНИЯ ПАРАМЕТРОВ
121.3.3
уравнений с,(0, е) »t (1=1, 2, /е&), имело единственное реше-
ние c/(t, е) (I = 1, 2). Тогда соотношения
<?е {ai (®. 8) < 0* < а2 (0, e)j =х I - 8
Qe{ct (0*, е) < 0< с2(0*, в)} = 1 - 8
эквивалентны.
Таким образом, зная распределение оценки О* (хь х2,..., хя), по
заданному в > 0 мы можем построить доверительный интервал
(ci(0*, е), с2(0*, в)) с коэффициентом доверия 1—в.
Заметим, что если распределение qe (dt} имеет атомы, то числа
«1(0, е) и а2(0, е) нужно выбирать, исходя из неравенства
<?0(^О +	§	?0(rfO<e,
{<<oi (0, е)}	{<>а2(6, в)}.
поскольку в этом случае может не существовать таких at и а2, для
Которых выполнялось бы соответствующее равенство. Продолжая по-
строение так же, как и выше, получим доверительный интервал с ко-
эффициентом доверия, не меньшим, чем 1 — в.
Очевидно, отправляясь от различных оценок 0* параметра 0, мы
будем получать различные доверительные интервалы. Желательно,
чтобы длина доверительного интервала была возможно меньшей.
Поэтому при построении доверительных интервалов естественно ис-
ходить из эффективных или асимптотически эффективных оценок,
получаемых, например, из метода максимального правдоподобия.
21.3*3. Один метод построения доверительных интервалов. Предпо-
ложим, что распределение Р0 (dx) не имеет атомов, и пусть сущест-
вует функция g(0, xi, хя, ..., хя), 0е0, xt, х* .... х<ей, обла-
дающая свойствами:
1) g(0, xit Хх, .... х„) непрерывна и монотонна по 0;
2) функция распределения Q{) {g (0, хр х2, .... хп) < а| не зави-
сит от 0 при всех пей (определение О0 см. В п. 21.3 2).
По заданному е > 0 выберем числа а{(е) я а2(е) так, чтобы
<2е {«1 (е) < g (0, хр х2.х„) < а2 (в)} « 1 - в.
В силу условия 2) числа aje) и а2(е) не зависят от 0.
Обозначим через Ci (i = 1, 2) числа, удовлетворяющие соотно-
шениям g(vi, Xi, хз, .... хя) = ci(e) (i = 1, 2). Величины а зависят
Лишь от хь х2, .... хп и в. Нетрудно видеть, что
Q0 (с 1 < 0 < CjJ = 1 — в
и, стало быть, (<?1, с2)—доверительный интервал с коэффициентом
Доверия I — в.
Положим
F0(x)= \ P6(dy), xe=R,
21.3.4]
2Т.З. ДОВЕРИТЕЛЬНЫЕ ОБЛАСТИ
561
и предположим, что FQ непрерывна п монотонна ио 0. Тогда, как
«
нетрудно проверить, функция IT^e(xfe) Удовлетворяет условиям I),
fc—1
2), и, значит, ее можно использовать для построения доверительных
интервалов, В силу непрерывности./^ (х) по х,
Qe{Fe(xft)<a}==
О при a С О,
а при 0 a С1»
1 при й > 1,
п
сумма V log Fe (xft) имеет гамма-распределение
bZl
f	п	»
QJ — loga2< ”Xlogfe(^)<-108ei }-
I	k-l	)
-log at
-log at
По заданному в > 0 можно выбрать числа at и (a> < аг)
так, чтобы интеграл справа был равен 1 — е. Отсюда получаем
I fli < П (**) < аа 1 == 1 е.
ч, £и1	z
п
Так как функция JJ	непрерывна и монотонна по 0, то
существуют такие Ci и с3, зависящие лишь от е и Xi, х2, ..., хл, что
(ci, с2) — доверительный интервал для 0 с коэффициентом доверия
1 — в.
Если функция g(0, Xi, х2..х„) удовлетворяет условию 2), не-
прерывна по 0, но не обязательно монотонна, то вместо доверитель-
ного интервала получится некоторая доверительная область. Этот же
принцип можно использовать и для построения доверительных обла-
стей в том случае, когда 0 — многомерный параметр.
21.3.4.	Метод Байеса. Применяя метод построения доверитель-
ных интервалов, основанный на формуле Байеса, исходят из предпо-
ложения, что параметр 0 сам случаен Предполагается также, что из-
вестно априорное распределение параметра. Обозначим плотность
этого распределения относительно лебеговой меры (напомним, что
в — интервал в R) через <р(0).
Далее, пусть 0*(х,1, х2,	х„) —некоторая оценка параметра О,
построенная по независимым наблюденияем Xi, х2, .... хп над слу-
чайной величиной В. Предположим, что распределение Qe (dt) оцен-
ки 0* (см, п. 21.3.2) также абсолютно непрерывно относительно Л0-
562 ГЛ. 22 ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЙ [82.1.1
беговой меры с плотностью g(0, t) Согласно формуле Байеса, плот*
иость распределения величины 0 при фиксированном 6* равна
ф (0 10*) - g (6, 0*) ф (0) ( J g (0, 6’) Ф (0) л)
Поэтому условная вероятность того, что параметр 0 лежит в пре*
делах между Ci и с2 при условии, что фиксировано 0*. выразится
формулой
Сз
Р{с, <0<е2|0*}= J ф(<|е*)/й.
Теперь по заданному в > О можем определить числа ci (0*, е) ч
CsfO*, е) так, чтобы
Р {С| (О*, е) < 0 < с2 (0*. 8)}“ 1 - е.
Тем самым для 0 получен доверительный интервал с коэффициентом
доверия 1 — е.
Этот метод удобен не всегда, так как не всегда есть основания
считать парметр случайным, или даже если он случаен, то не всегда
известно его априорное распределение.
Литература: [14, 42, 49, 69, 72, 88].
Глава 22. ОЦЕНКИ ПАРАМЕТРОВ
НЕКОТОРЫХ РАСПРЕДЕЛЕНИИ
22.1. Оценки параметров нормального распределения
22.1.1. Оценка среднего при известной дисперсии. Пусть
>s, .... хп~п независимых наблюденных значений нормальной слу-
чайной величины | с плотностью распределения
р (0, ж) — -JL- ехр ( —	в** ), * е R,
•уйло (.	2а’ )
где 6 — неизвестный параметр, а параметр а известен. Полежим
п
А—1
Очевидно, что 0* — нормально распределенная случайная величина о
параметрами M00* = 0 и Mfi [0* — 0J2 = a^ln. Таким образом,
оценка 0* является несмещенной и состоятельной.
Далее, так как /(0) = 1/а2, то правая часть неравенства Кра-
мера — Рао в рассматриваемом случае равна о’/л. Это означает, что
оценка 6* эффективна.
W-1.21	22.Т. НОРМАЛЬНОЕ РАСПРЕДЕЛЕНИЕ	563
Случайная величина V» (0* — 6)/о имеет нормальное распре-
деление с параметрами (0, 1). Найдя по заданному е>0 (напри-
мер, по таблицам) такое число св, что
цолучнм
откуда
(в* -а < в < 0* +<r I => I - в-
v I Vrt	J
Здесь
Qe(dxi.....
X	n	V
- (2rta2)-*^ exp J -	£ (xk - 0)2 I dx, ... dxn.
I	*-l	f
Таким образом, ^0* — о, в* + --^иг а) — доверительный ин-
тервал с коэффициентом доверия 1 — й.
22.1.2.	Оценка дисперсии при известном среднем. В этом случае
р (0, х) « —}-л „ ехр / ———1, х е R,
V2H0 I 20 J
где 0 я (0, оо) —• неизвестный параметр, а параметр а известен. Эф-
фективной несмещенной оценкой для 0 будет	<
п
0* (х,, Х2, •••>*„) = ~ Е (хк - «)»,
й-1
где Xi, xjt ..., хп — результаты независимых наблюдений. Дисперсия
Оценки 0* равна
Мв(0*-0)г —202/«.
Величина П0*/О имеет распределение х’ с п степенями свободы. Для
построения доверительного интервала с коэффициентом доверия 1—а
выберем числа ai и as (по таблицам) так, чтобы
Qe|ai <	< “2} “1 ”*®‘
86*
f
B64 ГЛ. 22. ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИИ 122.1.3
где
^oO^i’ ^а’ **’* dxn)
л
= (2Л0)-”72 ехр
Е (х*"в)2
й-1
Тогда
°l «S
е,
так что (п6*/«2, л0*/О1) —• искомый интервал.
22.1.3.	Оценка дисперсии при неизвестном Среднем. Задача та*
кая же, как и в п. 22.1.2, однако параметр а считается неизвестным.
Несмещенной состоятельной оценкой для параметра 6 будет оценка
п
е* (*,, х? ..., х„) - -—р (хк - xf, п>1,
Л-1
п
TJ& ^=~ Е Для нее
л-=1
Ме (6* ~ 6)2 = 267(n - 1).
Величина (я —1)0*/0 имеет ^-распределение с я— 1-й степенью сво#
боды, и доверительный интервал строится так же, как и в и. 22.1.2,
22.1.4. Оценка среднего при неизвестной дисперсии. Задача тд4
кая же, как и в п. 22 1.1, однако параметр о неизвестен. По-преж5
нему оценка 0* = х не смещена и состоятельна. Для построения до*
верительного интервала воспользуемся тем фактом, что величин^
п
(х —G)/s, где s! = —	— л)2, имеет распределение Стьюдента
й-1
с я — 1-й степенью свободы. Плотность этого распределения имес?
вид
Srt-i W = - г (nf2}---------(1 + л*)-"72»
Vrt Г ((я — 1)/2)
Определяя число се из соотношения
2
се
J Sn_j (х) dx = l — e,
о
получаем
л С X — 0 .	}
Ср сЕ <	— 1 г
S2.2.1J	22.2. БИНОМИАЛЬНОЕ РАСПРЕДЕЛЕНИЕ	Б63
где
djf2, ...,dxn) =
n
- (2ла®Гп'г exp J -	- 0)2 I dx2 ... dxn.
\	6—1	J
Таким образом, доверительным интервалом для параметра 6 с коэф-
фициентом доверия 1 — е является интервал (х — sce, х + sce).
22.1.5. Совместное оценивание параметров среднего и дисперсии.
Пусть в нормальном распределении неизвестны параметры а и О.
Решая уравнения правдоподобия, находим
п	п
а-i	«-I
Оценка (о*)2, однако, смещена. Положим 6* •= 2. । sa. Тогда (а*,
Ь*) — несмещенная оценка для параметров (я, о2).
Оптимальный эллипс (см. п. 21.1.5) имеет уравнение
(« — о)2 , (о — оа)а 4
о2 +	2о’	"" л *
Эллипс рассеивания для оценки (я*, Ь*} задается уравнением
(« — я)1 п — 1 (о — о2)2	4
а3 ’ п 2а4	= п'
Совместная эффективность оценки (о*, 6*) равна (п — 1)/п, так что
оценка (я*, Ь*) асимптотически совместно эффективна. Величины
й* и Ь* независимы.
22.2. Оценки параметров биномиального я пуассоновского
распределений
22.2.1. Биномиальное распределение. Пусть величина £ принима-
ет значения 0, 1, 2, .... N с вероятностями (0) -»C^6ft (1 —
— 0)^“* (А = 0, 1, 2, ...» N) соответственно, причем параметр 6,
0 < 0 < 1, неизвестен. Пусть kt, k2, .... kn— результаты п незави-
симых наблюдений случайной величины g. Положим
п
ПМ»........
1=1
Тогда 0* — несмещенная оценка параметра 0, для которой
м0(о*-е)а-^Я^-.
Бвб ГЛ 22. ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЙ 122 2.2 \
С другой стороны, как нетрудно подсчитать,
'»>-Т(Лч-
Отсюда следует, что в* — эффективная оценка параметра 0.
Для построения доверительного интервала воспользуемся тем
фактом, что величина V«0 (в* — 0)/л/б (1—0) асимптотически нор-
мальна с параметрами (0, 1). Допуская
( VnA/(e*-e)
М а‘< Vender

и найдя ал на условия
2
*^2л
®е
о
получим
(&• - 0)
V6 (1 - 6)
где Qg определяется равенством
....*/«0.1.2, ...,N
Значит, границами доверительного интервала с коэффициентом до-
верия 1 — в являются корни квадратного уравнения
(Nn 4- fl2) х3 - (2Nn6* 4- fl2) х + N«e,s — 0.
В частности, если в рассмотренной схеме положить N “ 1, то мы
получим, что результат i-го наблюдения случайной величины £ есть
появление или непоявление события А » 1}. Вероятность этого
события равна 0. Оценкой для нее служит 0* “ v/л, где v — число
тех наблюдений, в которых событие А произошло.
22.2.2. Пуассоновское распределение. Пусть £ имеет пуассоновское
распределение. Это означает, что | может принимать значения 0, 1,
6^ А
2, ... с вероятностями pk (6) — -jg- а-® (0 < 0 < оо), причем 0 —-
неизвестный параметр.
Несмещенной оценкой параметра 6 является оценка
к
/-1
где Ai, йз, .•> *л — результаты независимых наблюдений случайной
величины g. Прн этом
Мв(0*-0)2 = 0/л.
22.3.1]	И.З РАВНОМЕРНОЙ И Г. РАСПРЕДЕЛЕНИЙ -	56?
Поскольку /(в) = 0-1, то 6* — эффективная оценка. Далее, вели-
чина	__
(в* — 0)
асимптотически нормальна с параметрами (0, 1). Поэтому прн боль-
ших п имеет место приближенное равенство
<?е {— < V«75 (0* — 0) < aj«« 1 — е,
где ае выбрано так же. как и в § 22.1, а мера Qe определяется фор-
мулой
дВ1+а2+...+лп
Qn (k„ JL....k\«	-----r~r- e“  k. «=» 0, 1, 2, ...
s'- г 2* n>	’
Отсюда находим, что границы доверительного интервала с коэффи-
циентом доверия 1 — е являются корнями квадратного уравнения
х2 - ^20* + х + О*2 = 0.
Подчеркнем еще раз, что здесь, как и в п. 22.2 1, доверительный
интервал построен приближенно, однако ошибка с ростом п стремит-
ся к нулю.
22.3. Оценки параметров равномерного распределения
и Г-распределеиия
22.3.1. Равномерное распределение на отрезке с фиксированным
концом. Пусть xt, Хг, .... хп — независимые наблюдения случайной
величины распределенной равномерно на отрезке [0, 0] с нет
вестным параметром 0. Положим хп= max xft. Оценка хп яв-
ляется достаточной для параметра 0, и функция правдоподобия
( !/0“, если max х. <0, xj^O;
L (0, хи хг, ...,х„) = <[	><'<•
^0 в остальных случаях,
принимает максимальное значение прн 0 = хл. Однако оценка х*
смещена. Несмещенной оценкой параметра В будет
При этом 0* будет иметь наименьшую среди всех несмещенных оце-
нок дисперсию, равную
Me<lr-e>’-7FW'
Обозначим через Qe(dxp </ху .... dxn) меру в R", плотность
которой относительно лебеговой меры равна L(0, х(, Xj, .... хп). За-
метим, что распределение величины 0*/0 не зависит от 0:
Qe{-T<o}”
0, если а < 0;
(  Т|') > еслй ае[о, 1+1/«11
\ п -f- 1 /
1, если а > 1 + 1/п.
568 ГЛ. И. ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИИ 122.3.2
По заданному е > 0 выберем at так, чтобы
откуда найдем ое«—-—-ув. Значит,
( ф хп Ч
<?е I хп < е < -тг; S =1 - 8»
(. Vе )
т. е. интервал	Xn/V8 ) является доверительным с коэффициен-
том доверия 1 — е.
22.3.2. Равномерное распределение на отрезке с неизвестными
концами. Если случайная величина £ имеет равномерное распреде-
ление на отрезке [0Ь 0г] с неизвестными параметрами 0], 02 (0 <
< 01 < 0г), то несмещенными оценками с наименьшей дисперсией
для параметров 61 и 02 будут соответственно оценки
♦	*
а	пх.	х„
„*	.	ПХ„	*1
“ П — 1 П - 1 ’
где min jcft, max Несмещенными оценками с
I ft я	1 А к
минимальной дисперсией для средней точки (0j + 03)/2 и размаха
62— 61 будут оценки соответственно

*п + *1 й. «+»
=	2	’ 02 = п— 1
(xn-xl)-
* *
Совместное распределение величин jq и х2 определяется плотностью
f (*ь хг) =чг(п—I) (Xi — Xi) n~2 (0a — 60“",
где 6i *£ *i < ха 04.
22.3.3. Оценка масштабного параметра в Г-распределенин. Пусть
случайная величина £ имеет Г-распределение
в
жх-1е-*/е
Г (Л) 6х ’
О,
если х > 0;
если х < 0,
с неизвестным параметром 0 е (0, оо) и известным параметром
/. е (0, со). Заметим, что при /. = 1 это расиределеиие превращается
в показательное распределение

о,
если х > 0;
если ж<0.
22.М	25.3. РАВНОМЕРНОЕ И Г-РАСПРЕДЕЛЕНИЕ
569
Пусть *1, *2, .... Хп — независимые наблюдения случайной вели-
чины t. Эффективной оценкой параметра 0 является’
А—1
нечем
MfJ(6*-0)2 = 02/(nX).
Заметим далее, что распределение величины пХ6*/0 также является
Г-распределением, не зависящим от 0:
„"A-te-ir
если *>0:
О,	если х < О,
где мера Qe (t/xr <fx2, ..., dxn) в R" определяется формулой
Qe dx2, .... dxn) —
[ Ir---;--------dx., если x. ^0, fee 1, 2, n;
—  fe"i e rw k
0	в противном случае.
Такны образом, найдя числа ai и аг из соотношения
Q@ | fl1 + пЛ С < а2 + пй, } = 1 — е,
ж ( «ле* tM* \
определим доверительный интервал	» пх + о "Л с коэф-
фициентом доверия 1 — е.
22.3.4. Оценка среднего значения Г-распределения. Пусть слу-
чайная величина g имеет Г-распределение
хе-1е~х
P6(dx)= Г (6)	dx’ еСЛИ *>0:
О,	если х О,
с неизвестным параметром 6, 0 < 6 < оо. Нетрудно подсчитать, чте
в этом случае
/(0) =
a2 log г (6)
я
Метод моментов приводит к оценке 0* = —	где Xi, лч, ...
А-т
«г., Хп — независимые наблюдения над случайней величиной &. Для
570	гл. 23. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ	ЙМЖ
нее Ме91«»в и —О)2 = Эффективность оценки О* опре-
деляется формулой
так что она не зависит от п и всегда меньше единицы. Уравнение
правдоподобия имеет вид
1 V >	dlogr(O)	.
nL 10gx<--------de-----°-
ft—I
единственный положительный корень этого уравнения определяет
оценку максимального правдоподобия 0*. Она является асимптоти-
чески эффективной и асимптотически нормальной с параметрами
(фЛг®]--).
Литература: [14, 42, 49, 69, 72, 88].
Глава 23. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
23.1.	Линейные модели регрессии
23.1.1.	Модели регрессии. Рассмотрим следующую задачу, час-
то возникающую при обработке результатов наблюдений, экспери-
ментов, измерений и т. д.
Пусть В е R₽ и т) е R*- зависимые случайные векторы. Тре-
буется по результатам наблюдений (х(, .... х„) за вектором | и
(yt, • • •. У») за вектором ц сделать обоснованное заключение о виде
(характере) зависимости г] от £.
Характерными примерами могут быть, например, исследование
зависимости выхода готовой продукции от параметров технологиче-
ских процессов, светимости звезд от их размеров, урожайности дан-
ного участка от количества выпавших на него осадков и т. п.
Теоретико-вероятностная формулировка подобного рода задач
выглядит следующим образом. Пусть р(у', у") — некоторая метрика
в R’. Требуется найти (борелевскую) функцию <р(-): R’-»-R’, для
которой м р (т), Ф (£)) принимает минимальное значение. Б том слу-
чае, когда р(у', у") ~ \\ у'— у" \\* и II• II — евклидова норма в R’,
решение сформулированной задачи дается функцией теоретической
регрессии у = ф^ 5 (х), где
(<Л>
при этом переменную х называют регрессионной переменной иля,
регрессором, а у — откликом. Решение задачи регрессии в форма
(1.1) требует знания (или по крайней мере оценки) совместной функ-
ции распределения векоторов £ и q — информации, которой исследо-
ватель в большинстве случаев не располагает. В этих условиях ра-
зумным представляется следующий подход.
23.I.1J	23.1. ЛИНЕЙНЫЕ МОДЕЛИ РЕГРЕССИИ	571
Во-первых, в качестве «щенки теоретической функции регрессии
выбирается функция #“<р(х) из определенного, обла-
дающего хорошими аппроксимирующими возможностями класса
функций Ф = {<р: R₽ -> R’}-
Во-вторых, предполагается, что функция <f (x) =* <р(х, 0) одно-
вначно определяется некоторым параметром 0 е= 0, где <Э, например,
некоторая область в Rm (т фиксировано).
В-третьих, функция <р (х, 0) зависит от 0 линейно.
Таким образом, приходят к следующей линейной модели регрес-
сии:
£/ “ ео*₽О to + Vi to + • • • + em_i<Pm_i (*)>	(1-2)
где <р<(х)—известные функции, определяющие план эксперимента, а
т (порядок модели) и параметр 0 = (0О, .... 0m-i) подлежат оцен-
ке на основе результатов наблюдений (хь .... х„) и Q/(, .... у„) с
очевидным требованием т < п (цель эксперимента).
К классу линейных моделей принадлежат н более общие модели
регрессии вида
Р (У) — 0оТс <*) + Vl W ' •  + em - 1%ч-1 М	<1 -3>
в случае, когда р(у) имеет обратную функцию р-’ (у).
Наиболее употребительные модели в статистическом регрессион-
ном анализе (для простоты положим р “ ? = 1) имеют вид
а)	У — ео + 61-*» р =• 0О + М + •   + У = ео + ei1п х-
у ~ 0о+0>* + in у — 0о + 0jx + • • • +
In у г= 0о + ©! In Jt, 1/р — 0О + 01* + .. • +
б)	<р,(х) (i «= О, ..., т—1) в (1.2) и (1.3)—ортогональные
многочлены (например, многочлены Чебышева),
в)	фг(х) (/= 0....т — 1) принадлежат классу сплайн-функ-
ций.
Наконец, в применении к задачам обработки результатов наблю-
дений (обработки данных) естественной, эффективно исследуемой яв-
ляется следующая общая линейная модель структуры наблюдений!
»1 - Vo(xi) +	(*1) + • - • + Vl’m-l (*1) + ег
*2 = Vo(*2) + Mi (х2> + — + V1V1 (х2) +	„ л
Vn “ Vo (*„) + Vi (*») + •  • +	(*л) + %-
где ej (i° 1......«)	интерпретируется как ошибка (шум) i-ro изме-
рения. Исследование модели вида (1.4), в которой вместо ук стоят
p(yt) о известной функцией р(у), лишь очевидными деталями отли-
чается от (1.4).
Приведенную общую линейную модель удобнее записать в мат-
ричной форме:
Р = АЪ + е,	(!.$>
572
ГЛ. 23. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
[23.1.2
где у — вектор-столбец результатов наблюдений: X — {Хц, 1=1, ...
..., п, j = О, .... т — 1} — я X ^-матрица известных коэффициентов
fXt/ = <р; (х,)), которую называют регрессионной матрицей-, 0 =•
= (0о, .... 0m-1)г —вектор-столбец неизвестных и подлежащих
оценке параметров; е = (»i, ..., ея)г— вектор-столбец случайных
ошибок. Обычно предполагается, имея в виду качество эксперимента,
что Ме( = 0	я) (отсутствие систематической ошибки)
Ме/е^ = о26/у, о’ — дисперсия (неизвестная) ошибки наблюдения,
В том случае, когда ошибки измерений коррелированы (напри*
мер, Мее7 = о2 V’, где V — известная матрица), замена уо = V~lf3yt
Хо = V~l/2x, е0 « V-1/2e приводит к модели с Мей = 0, MeoeJ = о2/,
где I — единичная п X «-матрица.
23.1.2.	Принцип наименьших квадратов. Пусть в модели (1.4)
у =. 1 и т известно. В соответствии с приведенным в предыдущем
-пункте экстремальным свойством теоретической регрессии в качестве
точечной оценки неизвестного параметра 0 в (1.4) принимается оцен-
ка 0, реализующая принцип наименьших квадратов-.
п г	т-l	"|2	nr	m-1	-|2
eie Е Pl “ Е */ (*t) М -У Ьг £ «Ру (х()б/ • 0-6)
es0/-iL	/=о	J L	Г-о	J
Решение 0= (0о, ..., 0m-i) задачи (16) называется оценкой
метода наименьших квадратов или МНК-оценкой параметра 0.
Пусть область значений в параметра 0 является линейным под-
пространством в Rm (в частности, 0 = Rm). В геометрической интер-
претации, если 0 — МНК-оценка параметра 0, то:
а)	в случае, когда © «== Rm и rang X = гп, вектор Х0 является
проекцией вектора наблюдений у (как вектора в R", m < я) иа
подпространство © = Rm: Х0=»Ргну (оценка 0 единственна);
б)	в случае, когда 0 = Rm, rang X < m и Ргеу не принадле-
жит области значений 2?[Х] линейного преобразования X, вектор Хв
является проекцией вектора Ргеу (как вектора в 0 = Rm) на под-
пространство J?[X] (оценка 0 единственна),
в)	в случае, когда © с R"1, rang X < m и Рг^р е J? [X], мини-
мум в (1.6) достигается на всяком векторе O«0o + h, где 0о—лю-
0ой вектор, для которого Хво^РГоУ, и h— любой вектор из под-
пространства пространства 0 с: Rm, ортогонального R [X] (МНК-
оценка неединственна).
Использование принципа наименьших квадратов для получения
точечных оценок неизвестных параметров (линейных) моделей в от-
личие от других методов точечного оценивания (см. § 21.2) не аппе-
лирует к априорной информации о виде распределений, которой ис-
следователь может не располагать на начальных этапах обработки
данный.
23.2.	Свойства МНК-оценок
23.2.1.	Невырожденная линейная модель. Пусть в линейной мо-
дели (1.5) m известно, 0 с: Rm, rang X = m, или, что эквивалентно.
detXTA^.O. Такую модель называют невырожденной, МНК-оценкой
23.2.2]	И.5. СВОЙСТВА МНК-ОЦЕНОК	WS
б параметра 0 является решение системы нормальных уравнений
XTXQ=XTy,	(2.1)
х е.
причем м6 = е, м(0-8)(ё~е)т=о2(Л)4,
Несмещенной оценкой для о8 является
п г	m-i	-|2
S2 “ ”7Г (? - х®г (у -Х&) =	L - £ Фе (*,) ё/ •
e-i *-	/=о	J
Положим Р = Х(ХтХ)~гХт. Матрица Р, определяемая невыро-
жденной линейной моделью, обладает следующими свойствами:
1)	Р — ортогональная проекционная матрица, т. е. Р — PTj
Р2 = Р‘,
2)	rang Р = Sp Р = т;
3)	(/ —Р)Х==О;
4)	если столбцы матрицы X взаимно ортогональны, т. е<
п
£ ?*(**)’/(**)“°’	*• 1 — m~i’ Т° ХТХ’ 1ХТ' Х)-1
и /’ — диагональные матрицы.
Если в невырожденной модели (1.5) вектор е имеет нормальное
распределение с ковариационной матрицей о2/ (/ — п X «-матрица),
то
а)	МНК-оценка § имеет m-мерное нормальное распределение
М* о2(Л)-1);
б)	квадратичная форма (0 — 0)гХтЛ(0—0)/о! имеет ^‘Распре-
деление с m степенями свободы;
в)	МНК-оценка 0 не зависит от остаточной суммы квадра-
тов
г)	а2ст/ст2 имеет ^’-распределение с п — m степенями свободы.
23.2.2.	Прямые измерения. Результаты независимых повторных
измерений представляются в виде
^ = 0+е(, Z=l,.... и,
где 0 — измеряемая величина, е/ — ошибки измерений. Матрица X
в линейной модели (1 5) для данного случая представляет вектор-
столбец из единиц. Если De^ = ст2, то говорят о прямых равноточ*
пых измерениях.
МНК-оценка б для прямых равноточных измерений имеет вид
|Т4	ГЛ. 23. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ	[8323
Несмещенная оценка для дисперсии о1 имеет вид
п
Если Defe==<r2/pA, где р* известны и, вообще говоря, различны, то
говорят о прямых неравноточных измерениях.
МНК-оцеика 0 для прямых неравноточных измерений имеет вид
при этом
1 Несмещенная оценка для о4 имеет вид
п
S2—	(« “ >)-' (Vk - ®)2-
23.2.3.	Невырожденная линейная модель с ограничениями. Рас*
смотрим невырожденную линейную модель из п. 23 2.1 при следую-
щем дополнительном линейном ограничении: СО = с, где С—извест-
ная г X т-матрнца ранга г, с — известный вектор размерности г.
Приведенное ограничение эквивалентно тому, что « является линей-
ным подпространством в Rm размерности г т.
Пусть 0с — МНК-оценка модели (1.6) с указанным ограниче-
нием. Тогда
бс=.(/_Р)ё +— —Р) ё + Р0==0 +Л (с-СЙ),
мбс«е, м(ёс-е)г(бс-0) —
- м (6 - е)г (/ - р) (6 - в) + 0Г р0,
где А — (ХТХ)-1СГ[С(ХГХ)~1СГ]~1, Р = АС. Несмещенная оцен-
ка для о2 имеет вид
(уТУ -Ь(1-Р)у- [етАтХту + /ХАс] +
+ сгС(ХгХ)_,Сгс).
Здесь Р — ортогональная проекционная m X m-матрица,
rangP = r (и, следовательно, Р  /, если r«m), С(/— Р) •» 0.
23.2.4.	Вырожденная линейная модель. Если линейная модель
(1.6) вырождена, т.е. detXrX = 0, то МНК-оценки удобно опреде-
лять в терминах таи называемых псевдообратных или обобщениях
обратных матриц.	'
Пусть П — проекционная тХт-матррца, однозначно определяе-
мая как матрица максимального райга, удбйлетвбряющая равенствам
ПХгХ=«ХгХП«<0, п’ — IL
S3J.S1	S3.S. СВОЙСТВА 'МНК-ОЦЕНОК	Б7в
Псеедообратной {обобощенной обратной) к матрице ХТХ назы-
вается матрица (X’XJf-1*, определяемая равенством
(х7^)’-1»— (хтх + п)-’ - п.
Если detXrX 0, то П “ 0 и, следовательно, (ХгХ)<-1) = (ХГХ)“1,
т. е. в этом случае псевдообратная матрица совпадает с обратной.
В случае вырожденной линейной модели метод наименьших
квадратов определяет подпространство векторов, на котором до-
стигается минимум суммы квадратов s3 в (1.6), имеющее вид
(ХГЛУ“,»ХГ0 + ПА1
где Л — произвольный вектор из Rm. По этой причине в вырожден-
ной линейной модели оценивается не сам параметр 0, а некоторая
линейная функция В0 этого параметра, где В = {б,-.. = 1 . , k,
j “ 1, . , m) — определенная k X m-матрица, k — произвольное, но
фиксированное число.
Линейная функция ВО параметра 6 называется оцениваемой,
если ВП « О. МНК-оценка ВО оцениваемой функции ВО имеет вид
в6—в(хтху-**хту.
причем МВб « ВО, М [вб - ВО] [Bfl - Вб]г — о2В (ХГХ)( “ ВГ.
Несмещенной оценкой для о3 является
пр m -12
i-1L	J
где О = [ХтХу-^Хту, г —рант матрицы ХТХ.
Если В]6 и Вг0—две оцениваемые функции, то
Cov (В(ё, В26) — 0% (Х^)’-1’ В7-
28.2.5.	Линейные модели со случайными параметрами. Рассмот-
рим линейную модель вида
0=-=Х0+ с,
где у •= (yi, уъ, ..., у„У—вектор наблюдаемых значений, X =
«{jfi/, I *= 1, .... я, j = 1, ..., т) — матрица известных коэффи-
циентов, 0 = (01, ©j, ..., 0m )г —неизвестный случайный вектор с ма-
тематическим ожиданием М0 = « и ковариационной матрицей
М (0 — а) (0 — а)тС, е(в^ ..., е„)г — не зависящий от 0 век-
тор ошибок, Мв= 0, Меег = о2/.
Задача опенки неизвестного вектора 0 методом наименьших
квадратов состоит в определении линейной функции 6 от вектора у
наблюденных значений, на которой случайная величина
Пр m -]2
в А - (у - Х0)г (у - Х0) - % [- X xilGj J
Б76	ГЛ 23 МЕТОД НАИМЕНЬШИХ КВАДРАТОВ	(83.8.8
имеет минимальное математическое ожидание. Если вектор а мате*
Матических ожиданий параметра в известен, то
Q = {l-LX)a+ Ly,
где L = СХТ (aZI + ХСХТ)~ причем мй «а, м (б —е) (й — е)г «=
-= с - СХТ (о2 4- ХСХ7)"1 ХС.
Если вектор а неизвестен, то
6 = (ХТХ)~' Хту.
причем М [fl — Bj [Й — 0]г= а2(хгх)-1 и МНК-оценка случайного
параметра 6 та же, что и в случае детерминированного параметра.
Это верно, даже если det ХТХ = 0. Разумеется, здесь, как и в
детерминированном случае, следует рассматривать оцениваемые ли-
нейные функции параметра б и вместо (ХГХ)~> использовать псевдо-
обратную матрицу (ХгХ)(-’>.
23.2.6.	Общие свойства МНК-оценок. МНК-оцеики в обшей ли-
нейной модели
г/ = Х0-|-е, Me="0, Cov е = a2/, detX^X^O
обладают следующими свойствами:
1)	МНК-оценка 6 является несмещенной;
2)	если lim — (ХГХ) является невырожденной матрицей, то
П->оо «
МНК-оценка 0 является состоятельной, а вектор V«" (й — fl) асим-
птотически нормален;
3)	теорема Гаусса — Маркова. МНК-оценка 6 обла-
дает минимальной дисперсией в классе всех несмещенных линейных
оценок параметра 6, причем Й и у — ХЙ некоррелированы.
В классе несмещенных оценок МНК-оценка 0 в линейной модели
не обладает, вообще говоря, минимальной дисперсией.
Если вектор е в (1 22) нормально распределен, то МНК-оценка
S параметра 0 наряду с 1)—3) обладает следующими свойствами)
4)	6 является оценкой метода максимального правдоподобия;
5)	0 обладает минимальной дисперсией в классе всех несмещен-
ных оценок параметра 0;
6)	0 имеет нормальное распределение с математическим ожида-
нием 0 и ковариационной матрицей аг(ХгХ)~1;
7)	случайная величина
(у — Х0)т (уХ&) _ 1 Г5 Г V v А Т
i-iL /»i j
имеет х*-распределение с п — m степенями свободы;
8)	оценки 6 и s2 = -^—(у — Х0)Г(р — Х0) являются до-
статочными для 0 и о2;
6) & и у—ХЙ независимы.
2S.3.11	23.3. ОЦЕНКА ПАРАМЕТРОВ РЕГРЕССИИ	577
В случае вырожденной линейной модели утверждения 1)—9)
имеют место для любой оцениваемой функции параметра 0. Нако-
нец, утверждения 1)—9) применимы и к линейной модели с ограни-
чениями (п, 23.2.3), если заметить, что последняя эквивалентна сле-
дующей линейной модели без ограничений:
ff ** X6 + в,
где j^0-X(XrX)~4C(XrX)_1Cr|-:1e, б = (/-Р)0-
Р = (ХГА')-1 Ст (С (ХТХ)-1 Сг)“1 С.
Для линейной модели о ограничениями имеем, кроме того, сле-
дующее: если вектор ошибок наблюдений имеет распределение
/У (О, о8/), то
, m а 2	2	2
10) зост и sCt ост — sOCT независимы, где «ост — остаточная сум-
ма квадратов для модели без ограничений, 4>ост-дм шдан
С ограничениями, s|_ ост — s2CT = (Сб — с)г[с(ХгХ)-1Сг] “’(сб — с);
11) ®ост/°2 имеет уЛраспределенне с п — s степенями свободы,
где s = rang X; для R [Сг] <= R [XrJ (s^ ост — «ост)/°2 имеет X2-
распределение с г = rang С степенями свободы в предположении, что
s1 — s~ / а2 V1
Св == € верно; F = --’—у——	) имеет Г-раопределе-
ни0 Фишера — Снедекора с (г, п — s) степенями свободы и служит
основанием для использования f-критерия при проверке гипотезы
о наличии или отсутствии линейных ограничений.
Пусть у — XQ + в —- невырожденная линейная модель,
•tr . V » V	II •** 1 II *
х = х0 + х„ ^-<1.
detxjx0 = 0, rang ХдХ0=чп — 1,
так что модель оказывается близкой к вырожденной. В этом случае
(а? означает равенство с точностью до величин, определяемых по-
рядком detXrX)
g f^iPo >
e« ——Po. «ост«у
PoziPo
где вектор Po — собственный вектор матрицы Za — XqXq.
(/W
iHiPoll2
23.3.	Оценка параметров линейной регрессии
23.3Л.	Простая линейная регрессия. Пусть модель линейной рег-
рессии имеет вид
У = Х0 + в,
19 в. С. Королюк и др.
Б78
ГЛ. 23. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
(23Д.Г
ю-
где X =
-1 хг
I *2
- 1 Хп.
О ьпв
Здесь
«2Х-(2>г)2
«	Sx/£-'^
n_ «Z^-(Sfa2
®ост ~ У*. (У1 ~~ 6lf’ ^ = ®0 + ®1жг-
i=l
Выборочная линия регрессии: у = Оо + ©i*-
23.3.2.	Экспоненциальная регрессия. Пусть в модели (1.3)
р(у) = In у, фо(*) «» 1, ф:(х) “ X. Тогда
" 1 Xi '
l Хц
- 1 Хп -
’ 1" Jfi "
In у?
-lnyn.
* n	£lnpft
e==	«2>Ь(2»2
Zx< Lln ~ Ул*ln y*
Выборочная линия регрессии: у — ехр {Оо + 0|х}.
23.3.3.	Полиноминальная регрессия. Пусть в модели (1.2)
У == 00 + 61-Х + влх3 4- . . . + Om-l.Y^-1. Тогда
аз.3,3]
23.3. ОЦЕНКА ПАРАМЕТРОВ РЕГРЕССИИ
579
Выборочная линия регрессии:
У — ®о+	+ Ог»8*!* • •  + 6,л_|*т *•
Практическое применение полиноминальной регрессии обладает
существенным недостатков: повышение степени сглаживающего по-
линома требует проведения всех вычислений заново.
Полезным в этом случае является использование ортогональных
полиномов Чебышева. Вместо оценивания параметра 6 == (0о, • • •
.... 0m-i)r в модели
Hi “ 6j+ Gi-*/ + 6/*?+   + ®т-1хТ 1 + si
оценивается параметр а ~ (а,,, сс1( .... am~i)r в модели
У^==воФо(ж1) + а1Ч>1(^)+  + ат	+ ei> <зл>
где <Рй(х) —полиномы степени обладающие следующим свойством
ортогональности:
У, (х0=о’ k^L
Модель (3 1) в матричной записи имеет вид
д = Фа 4- с,
где
ф = (фг/, i = 1,..n, j = 0....т — 1}, <$(} =	(х().
Для параметра а МНК-оценка имеет вид
й = (фГф)_1 ФГу,
т. е.
Ортогональные полиномы Чебышева вычисляются по форму*
лам
ФоМ“1. <pft+l (X) д	. fe=o, m-2,
где
19*
580
ГЛ. 23. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ ’
{23.3.f
	п	lt-ба И 1К> •	п	““ kxi
ЛГй+1 (х) ==	: гм»	п £4 ...	п УхГ2 1=1 ,
	п 1=1	£хГ - i=l	1?/г+г
	_ 1	X	- xfe+l
либо из рекуррентных соотношений
• Фо (х) — 1.
У, Х^Фй-1 (х,)
Фй (х) = X6 -< ~(х) - . .
S-pL.W
У х?Фо(х/)
~----------Ф0(х).
Ефо(^)
i=l
Пример,
«Ух,
1-1
1 X
I»!
= X — X,
Ф1 (X) =
24.1. РАЗЛИЧЕНИЕ ГИПОТЕЗ
531
где
(-1
23.3.4. Оценка порядка линейной модели. Предположим, что в
линейной модели (1.5) истинное значение порядка равно тоннам не
известно; в качестве предполагаемой модели выбирается модель
У(т) =“	«
порядка т.
Такая модель £(т> является смещенной для т < то и несме-
щенной для т то.
В качестве статистики для проверки гипотезы о порядке мо-
дели естественно взять статистику
•л	(т>. ост
*{m)	2	»
ост
где s(m)_ ост — остаточная сумма квадратов для модели Llm>. Ста-
п—m—1	„
тчстика Г--------п — ni— имееТ г-распределение Фишера — Сне*
декора с (1, п — т — I) степенями свободы, а статистика------X
1	-	-	( п — т — 1	1 \
X “ф— имеет бета-рз определение с параметрами I--—-------, — J •
1 (т)	\	2.	z J
Критерий для выбора порядка модели с уровнем значимости а
имеет вид
”	-- < Т.т} < Г ,	(3.2)
п — т цп) а
где Та = п~т~1 +---------1—F (1 п _ т _ t) F q п _ т „ i)_
п — т п — т
а-кваитиль F-распределения Фишера — Снедекора с (1, л — т — 1)
степенями свободы. Критерий (3.2) является одновременно критерием
значимости параметра 6(m) в модели Цт+и.
Литература: [3, 35, 57, 76].
Глава 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ
24.1.	Различение гипотез
При различении гипотез для случайных процессов наблюдают
траекторию случайного процесса х(() (t е [О, Г]); относительно ко-
нечномерных распределений имеются некоторые гипотезы, одну из
которых следует выбрать на основании наблюдаемой траектории.
В настоящее время разработано решение простейшей задачи —вы-
бора одной из двух гипотез. Важным применением этой задачи яв-
ляется обнаружение сигнала на фоне шума, Например, на приемное
БЙ2	ГЛ. 24 СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ 124 I
устройство поступает некоторое сообщение. Следует установить нали-
чие или отсутствие в поступившем сообщении полезного сигнала на
фоне случайного шума
24.1.1.	Общая формулировка задачи о различении двух гипотез
о распределении случайного процесса. Наблюдается траектория слу-
чайного процесса x(t) (1 е[0, 7]), о которой заранее известно, что она
обязательно принадлежит некоторому пространству функций Г[01
заданных на [0, 7] (например, пространству непрерывных функций
или пространству функций без разрывов второго рода и т. п.). От-
носительно случайного процесса имеются две гипотезы Hi (i = 1, 2)
По гипотезе //, мера, соответствующая процессу в пространстве
Г[о. есть мера р; (эта мера задана на о-рлгебре, порожденной
цилиндрическими множествами, см. гл 9). Нужно решить на осно-
вании наблюдения, какую из гипотез предпочесть.
Пусть R — некоторое правило, по которому принимается та либо
другая гипотеза. Наиболее общий вид правила такой: для каждой
возможной траектории х(-) должна быть задана вероятность р(х(-))
(р —измеримый функционал от траектории) принять гипотезу Ht,
если наблюдается траектория х(-), 1—р(х(-))—вероятность при-
нять гипотезу Яя. Такое правило характеризуется вероятностями оши-
бок: а17 = Р (HtfH2) — принять гипотезу fh, если верна Я2; «л ~
«= Р(//2|/Л) — принять гипотезу Hi, если верпа Hi. Выражения для
а!2 и а2> задаются формулами
«is = j Р (х ()) 1*а (dx), <х2) = (1 — р (х ())) pi (dx).
Естественно искать правила, которые делают вероятности оши-
бок минимальными. Как мы увидим дальше, во многих случаях мож-
но ограничиться нерандомизированными правилами, для которых
р(х(-)) принимает лишь значения 0 или 1. Тогда F[0> разбивается
на два подмножества: Gi и G2 = F[Oi Г]—Gi (если х(-) е Gi, то при-
нимается гипотеза Hi, если x(-)eGz, то принимается гипотеза
Hi). Вероятности ошибок задаются выражением
i 1.
24.1.2.	Абсолютная непрерывность мер в функциональных про-
странствах. При решении задач статистики случайных процессов
очень важную роль играет абсолютная непрерывность или сингу-
лярность мер, соответствующих рассматриваемым процессам. Пусть
Ло. Л—некоторое фиксированное пространство, 0[О, 7]— сг-алгебра
подмножеств этого пространства, порожденная цилиндрическими
множествами, |Х| и р2 —две меры на w [0, 7], отвечающие случай-
ным процессам (или одному и тому же процессу при разных гипо-
тезах). Меры щ и Ня взаимно сингулярны (ортогональны), если су-
ществуют такие непересекающиеся множества G, s S (0, 7], что
Pi(G2) = h2(Gi) = 0. Мера абсолютно непрерывна относительно
Mi, если Ma (С) =0 для всех Се5[0, 7], для которых Hi (С) = О.
В этом случае существует ®[0, 7]-измеримая функция р(х(-)) та-
кая, что для всех С е S [0, 7]
MQ = р (х) Ft (dx).	(1.1)
С
24.1.3!	24.1. РАЗЛИЧЕНИЕ ГИПОТЕЗ	683
Эта функция р(х(-)) называется плотностью меры рз относительно
gi. Если р-i также абсолютно непрерывна относительно Цг, то меры
gi н Из называются эквивалентными; это будет тогда и только тогда,
когда функция р(х(-)), входящая в (1.1), будет положительна по-
чти всюду по мере Рь В этом случае
PI(C)=J—j-g2(x>-	(1-2)
с н
Для любых двух (конечных) мер pi и Рз можно указать такие
попарно непересекающиеся множества Д1, Д2 и Д, что Р1(Дз) =
= Рз(Д1) = 0, а на Д эти меры эквивалентны, т. е существует такая
измеримая функция р(х(-)), определенная на Д, что для всех С
Н2(С(1Д)= J p(x)gt(dx), gt (С (] Д) = р“1 (х) Р2 (<**)•
САД	САД
11.3)
24.1.3.	Критерий Неймана—Пирсона дает правило, различаю-
щее гипотезы, такое, что при е (0 < в < 1) а21 минимально.
Предлагаемое правило в определенном смысле оптимально Действи-
тельно, пусть имеется некоторое правило с вероятностями ошибок
«is и йзь С помощью критерия Неймана — Пирсона можно построить
правило, у которого ац юг и ац — минимально возможное (зна-
чит, aai «п )-
Опишем критерий в зависимости от свойств взаимной абсолют-
ной непрерывности мер щ и рз, соответствующих наблюдаемому про-
цессу по гипотезам Hi и Нг.
1. Пусть (11 и Из ортогональны. Тогда можно указать такое мно-
жество Gi, что Pi(Gi) = 1, из(Gi) = О. "Если x(-)eGi, принимаем
гипотезу fit; если x(-)eGi, принимаем гипотезу Hz Вероятности
ошибок
“12 “ ^2 (<Л) S °- “21 = (f IO. TI “ °1) = 1 “ Н (G1) = 0.
Таким образом, в рассматриваемом случае возможно безошибочное
правило различения гипотез, т. е. такое правило, при котором ан =
= аг| = 0.
2. Пусть Pi и [1?—эквиваленты и р(х(-))—плотность Ца отно-
сительно gi; р(х(.)) > 0 для почти всех х(-) по мерс Hi Обозначим
= {х (): р (х (•)) < X} Гх = {х (•): р (х ( •)) = ?.}
Пусть Л удовлетворяет соотношению
MBsur«)>e-
При ее (0, 1) такое X существует, так как при X, возрастающем
от 0 до сю, gj возрастает от 0 до 1. Рассмотрим три подслу-
чая;
Б84
ГЛ. 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ
Т24.2.1
а)	р2 (PjQ = е; тогда возьмем G, = R^, G2 = F^ - Gf при
ЭТома12 = р2(АЛ) = е,
И21 (Ло, Т] “ Gl) = 1 ~ И1 (^х)’
б)	и2 (^х) < е’ ц2 (^Х U Гх) = е: В этом случае Gt = R^ U
а12=е’
в)	Р2(Я^) < в, P2(Rj LIT^) > е; тогда можно построить сле-
дующий рандомизированный критерий, задаваемый функционалом
вероятности р(х(-)): Р(Л(')) — Ь если х (")	₽(*(')) и0.
8 - (А)
' « ~	- Гг '• ₽(*(•))“-----> если
|0. Г] X X’ г	р2 /ГА
если
1 > ч-
Заметим, что когда мера Цг (а значит, и щ) непрерывна, т. е.
не существует траекторий, имеющих положительную вероятность, то
и в случае в) можно построить нерандомизированный критерий: су-
ществует такое ОсхГ^., что и2 ф) = е — р2 (R^у Полагая Gi =
==R, (JD, G = F — R.—D, получим правило с ац = е и
Л	4	/ ]	Л
минимальным otsi.
3. В общем случае можно указать такие At, Аг, А, чтобы выпол-
нялись равенства (1.3) и Иг (At) = Pi (As) =0. Пусть
«z=[x(.)gA: Р(*())< AJUA(; Гк = {х(-)еА: р(х(•))=.А).
Если е 1—Ps(As), то, выбирая Gi=AiUA, Gs = As, будем
иметь
012 = р2 (Aj (J А) = 1 — р2 (Д2) < е, а21 = Pi (As) = 0.
Если е < 1 — Цг(Дг), выбираем А так, чтобы |*2(R^<e, U
(J Гх) е, и поступаем точно так же, как в случае 2
Таким образом, для построения наилучшего критерия по Ней-
ману— Пирсону нужно уметь строить множества Az, на которых со-
средоточены взаимно сингулярные меры, а в случае абсолютно не-
прерывных мер — плотность одной меры относительно другой, а
также нужно знать распределение р(х()) при одной и другой ги-
потезе.
24.2.	Различение гипотез для процессов с независимыми
приращениями
24.2.1.	Основные обозначения. Пусть х(1) — наблюдаемая траек-
тория процесса, определенная на |0, Г], x(t) е R, х(-) <= f>(0> yj, где
G[0, т)—пространство функций без разрывов второго рода. По гипо-
тезе Hi, {k = 1, 2) х(1) является стохастически непрерывным про-
цессом с независимыми приращениями, характеристическая функция
24.2 2}
SW. РАЗЛИЧЕНИЕ ГИПОТЕЗ
585
которого задается формулой
М ехр {izx (/)} =
= ехр {/гУд (/) - 1 Ьь (/) + $ (е'~ - J -	nfe (t, dx)},
(2.1)
где функции П* (t, А) для всех борелевских Л, лежащих на положи-
тельном расстоянии от точки 0, непрерывны и не убывают, у*(0
непрерывны, уь(О) = Ь*(0) = П*(0, Л) «О (т. в. предполагается,
что х(0) = 0; если это не так, можно рассмотреть фушщию д(/) —
— х(0)). Введем меры на борелевских подмножествах [О, 7JXR:
nfc(B)= dtnft(f,dx).
(Л
Пусть далее Л], Лг и Л— такие иепвресекающиеоя множества в
[О, 7] X R, что Л, (J As IIЛ = fO, 7] X R, яе(Лг) == res (Л,) =» О, aliaЛ
меры я, и геа эквивалентны; тогда существует такал положительная
измеримая функция f(it х), что
л2 (Л П В) = f (t, х) re, {dt X dx),
AfiB
я, (Л П B) =	f-1 (t, x) re2 (dt X dx).
АП В
Определим эмпирическую меру скачков:
v-v(->	= Е *в tt' * (t + 0) - х (/ - 0))	(2.2)
(так как процесс не имеет разрывов второго рода, то эта величина
конечна для всех В, для которых В Г) {[О, 7] X (—в, е)} = 0).
Будем обозначать через Щ меру, соответствующую процессу x(t) В
в £•[(), г, при гипотезе Н„.
24.2.2.	Условия ортогональности. Безошибочное различение гипо-
тез. Меры и, и р2 ортогональны, если выполнено хотя бы одно из
условий:
1)	я,(Л,) +л2(Л2) = +<®,
2)	для некоторого с (0 1)
я, {(5, х): |1 — / (а, х) 1 > с) = то;
3))$ятгетг*'М5ХЛ)-+те;
У
4) t|(0	b2(t) (при некотором Z е= fO, 7]);
Б) пусть ‘ГтЯ^сГ 511 X ^) < оо и Ь,(0 = Ь2(0 =»
= b(t) для всех t е [0, 7], тогда определена функция
°2 (f) = S T+1F [ГГ‘dy} “ Па (/’dF)I’ <2Л)
586
ГЛ 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ
[24.2.2
(24)
меры р* будут ортогональны, если либо функция у (О = y2(f) —
°а(0 не абсолютно непрерывна относительно 6(0, либо
R-Sw-)2^ w==~-
о
Укажем безошибочные правила выбора гипотезы в каждом из'
этих случаев,
1а) Пусть Л1(А() = 4-°°- Тогда обозначим через Gi множество
тех х( ) <= О [о, у], для которых vxl >(Ai) > 0 Если х(-) е Gt, при-
нимаем гипотезу Hi; если х(-) Gi, принимаем гипотезу Hz.
16) Пусть JtafAj) = -f-оо. Обозначим через G2 множество тех
х(-) еС^ rj, для которых v*(.j(A2) > 0. Если х(-) eG;, прини-
маем гипотезу Я2; если х(-)	G2, принимаем гипотезу Hi.
2а) Пусть x)j f(s, х) > 1 4-с) = 4-°°- Выберем возра-
стающую последовательность измеримых множеств В„ так, чтобы
(Вя) > п и f (s, х) > 14- с при (s, х) е Вп. Обозначим через Gi
множество тех х(-), для которых
,,т „ /я \	==!-
n->oo Jtt (on) 1 '
Если х(-) е Gi, принимаем гипотезу Не, если х( ) Gi, принимаем
гипотезу Hz.
26) Пусть Л1{(з, х): f(s, х) < 1 — с} = 4*оо. Выберем возра-
стающую последовательность измеримых множеств Вп так, чтобы
ftii(Bn) > п и f(s, х) < 1 —с при (з, х) еВ„. Множество Gj строит-
ся точно так же, как и в 2а).
тп
3)	Выберем такую последовательность разбиений А = U Vnk,
fe=4
чтобы для величин
тп
«п= 7	(Vnk) —2777—7-----5777—Г
ОО
выполнялось соотношение У, 0^1 < °°. Тогда гипотеза Hi прини-
мается, если
т„
Г" 2 Ь<->
k-\
если это равенство не выполнено, принимается гипотеза Wj.
4)	Предположим, что
S $ л*{ds х dx) <
Пг (Vnfe) — Л1 (Vnfe)  Q.
А
24.2.21
S4.2 РАЗЛИЧЕНИЕ ГИПОТЕЗ
687-
«г (0 определено соотношением (2.3). Введем процесс
*° (О = х (0 — ЭД у (.) (ds X dy) — л, (ds X dу) j
(интеграл понимается как предел интеграла по области [О, Т] X {(/5
[р| > е) при е|О). При каждой гипотезе H-ri xn(t) является непре-
рывным процессом с независимыми приращениями со средним ?<(/)
при гипотезе Hi, va(<)	при гипотезе и дисперсией Ья(!У
при гипотезе Н*. Пусть 4 таково, что Ьл (4) ¥= *2(4)- Будем считать,
что функции Ь*(<) строго возрастают. Рассмотрим два случая.
4а) Пусть при некотором б>0 bi(to) < (1—6)fe2£4). Тогда
для каждого п можно выбрать такие точки tnl < tnl < tn2 < tn2
< ..чтобы (1 - 6) [62 (4) - b2 (4)] > b, (t"k) - *, (4) > 0.
Примем Gt равным множеству тех x(-), для которых
п
lim	У —Т1гг~------7~," [*° GnJt) ~	(4) ~ Vi (4) +
»*» " 6 (4) - *1 (4)1 1 J ' 1 v '
+Vi (4)F=’«
46) Пусть при некотором 6>0 bs(k) < (1—6)М4). Выби-
раем точки t'nl < 4 < 4 < 4 < • • • так, чтобы (1—6) [б1 (4)“
“ *1 (4)]>*2(4) —*г(4) >0- ТогЛа обозначим через Ga
множество тех *(), для которых
нт ± у -	...»—_ г*0 (4) - х° (4) - у2 (4) +
й-*“лЙ *2(4)-*2(4)l	} v 7 У2Кпк}^
+ ?2 (*nfe) — а2 (jnk) + а2 (*nfe)]2 ~ 1
В каждом из этих случаев гипотеза Я* принимается, если
*(•) е Ge; если же х(-)	(J*, то принимается другая гипотеза.
5)	Если у(<) не абсолютно непрерывна относительно Ь(<)> то
можно выбрать последовательность разбиений отрезка [О, Т]: 0=“
= tn0 < tnl < ... < fnin =« Т так, чтобы величины
n V (v(4)~v(4-t))2
6 (4)-*(4-1)
при некотором а > 0 удовлетворяли неравенству 0П > па. Обозна-
чим через G] множество тех х(-), для которых
lJm 1 V Г ж° ~	- Y1 (<nfe) + Y1 (4-1)
«-Fo^L	* (4)-44-1)	J
Х[Ь (4)-44-1)1 “°'
588	ГЛ. 24. СТАТИСТИКА'СЛУЧАЙНЫХ ПРОЦЕССОВ	(24 2.»
Принимаем гипотезу Hi, если х(-) е Gt, и гипотезу Ht, если
*[•) й Gi
24.2.3. Условия эквивалентности мер. Пусть
1)	At U Аг = 0;
2)Н	(4sх rfA) <
J J * т / I*»
3)	НО «= МО = 6(0;
4)	функция у(0 абсолютно непрерывна относительно 6(f) и
Тогда меры Щ и Иг эквивалентны и плотность относительно Щ
задается формулой
{т	т
р (.<•»-«ч> I j d [«. (О - V, И1 - 4 J (iiffiy л(„ +
*•0	о
+	M(S. y)[vx(.)(dsXrfy) — nt(dsXrfy)| +
+ J M (s. У) V* (.) Ofc X dg) +
+ J	Un Ж У)— f (s, y) + ll«i (dsXdf) +
+ J (l-Г (s,y))Jti(«fcXdy)| (2.5)
(интегралы в формуле (25) следует понимать как стохастические).
Распределение р(х(-)) зададим с помощью характеристической
функции величины 1пр(х(-)). При гипотезе Hi
М exp {lz In р (х (•))} = exp

I [eiz io f „ j _ дг (/ (s, i/) — 1)] mi (ds X dg) + izai
где
т
0
24>.g)
54.2. РАЗЛИЧЕНИЕ ГИПОТЕЗ'
589
При гипотезе Я»
М ехр (lz In р (х (•))} = ехр { —
<и

4. f fgfcln f (s, !/) _ <	— \ j ..
+ Пе 1	Iх
X л2 (ds X dy) + iza2\,
где
т
-+4S(^)!-«+$(^ofc)x
0
X «4 (ds x dy).
24.2.4	. Общий случай. Очевидно, что при гЖ(,)(Л1 U Л2) >0
можно достоверно выбрать Я, для того I, для которого (Л,) > О
(одновременно V*< >(Лс) и ^^(Лз) Положительными быть не могут).
Если vX()(AjUAj) •=» 0, то распределение х(-) совпадает с распре-
делением процесса с независимыми приращениями х*(1), характери-
стическая функция которого при гипотезе Hi имеет вид
e4*V*4(/)*-|M/)*2+	1^-) X
<•	{s«)fiA
х (ds х dy)
где
Vfe(O = Yfe(O+	-j
(т<ЛЛЛА
Меры м4, отвечающие процессу х*(-) в £>10 Г] при гипотезе Н&,
будут эквивалентны, при этом плотность р(х(-)) меры р* относи-
тельно р* определяется формулой (2 5), если в ней заменить Л1(В)
на л* (В) •= (В П Л). Таким образом, если на основании наблю-
дения нельзя достоверно различить гипотезы, то для построения наи-
лучшего правила можно использовать результаты предыдущего
пункта
24.2.5	. Определение параметра однородного процесса Пуассона.
Пусть х{/)—ступенчатая функция, все скачки которой равны 1,
х(0) = 0. Гипотеза И* заключается в том, что x(t) — однородный
процесс Пуассона с параметром Zs (k = 1, 2). Таким образом, при
гипотезе Нь
„	(Ык)п _tK"
PU(0 = «}=-4re •
590
ГЛ. 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ
[24.2.6
Мера л* (ds X dx) в этом случае при В е R имеет вид
(ds X В)« Kk ds^B (1).
Значит, меры [U эквивалентны и
р (х (•)) = (WXi)*(Г| е,к<*(Г>.
Очевидно, что область {р(х(-)) < 1) совпадает с областью {х(Г)<
In X
J. Поэтому правило, для которого = е и
Х| — Х2 In (Хг/Xi)
сег! минимально, строится следующим образом. -
Обозначим через пв такое число, что
Г	z
k<nB	k^nB
(V =0Y Тогда при х(Т)<пв принимается гипотеза Я, и при
fe<<:	)
х (Г) > пЕ — гипотеза Н2. Если х (Г) = пе, то С вероятностью
принимается гипотеза Н2, а с вероятностью
—- принимается гипотеза Нь
24.2.6	. Определение среднего однородного винеровского процесса.
Пусть x(t)—непрерывный процесс; при гипотезе Hi-— это винеров-
ский процесс со средним 0 и дисперсией /, при гипотезе Hi —
со средним у/ и дисперсией t. Меры [б и Иг эквивалентны, и
₽(*(•))== ехр |ух (Г) — г|
Очевидно, что область {р(х{-)) < X} имеет вид
х(Г)<АЛ+УП2
V
(считаем у>0). При гипотезе Hi процесс х(Т) имеет нормальное
распределение со средним 0 и дисперсией Т, а при гипотезе Н2—со
средним у Г н дисперсией Т. Пусть с(е) удовлетворяет соотношению
с(е>
е = _’	( e-“’/2d«,
<2я J
24.3.2]
24.3. РАЗЛИЧЕНИЕ ГИПОТЕЗ
Б91
и пусть 1 = с (е) V7* + у7. Будем принимать гипотезу Н\, если
х (Т) < X, и гипотезу Нг, если х(Т) 1. При этом
an = е, a2i = —=	\ е и/2 du.
-у2л J _
c(e)+V V?
24.3.	Различение гипотез для диффузионных процессов
24.3.1.	Определение оператора диффузии. Пусть х(/) (ie[O, 7"])—
траектория диффузионного процесса в Rm; при гипотезе Нк вектор
переноса диффузионного процесса будет <u(f, х), а оператор диф-
фузии— Bt(i, ж). Будем предполагать, что функции а*(1, х), х)
определены и непрерывны при t е [0, 71, х е R"'. Заметим, что, зная
траекторию процесса х(1), можно определить Вл(/, х(/)) (1 е[0, 7]),
если верна гипотеза лл. Это можно сделать следующим образом.
Для г е Rm положим
2Л—1
шX (Ч^-О-Ч^ О*г) <3,1)
л‘*°° *-0
({-, ) —скалярное произведение в Rm); предел (3.1) существует
с вероятностью 1 при любой гипотезе. Тогда
t
X (/, z) = (Bk (s, х (s)) z, z) ds,
о
(3.2)
если справедлива гипотеза //л.
Если на наблюдаемой траектории при некоторых t е [О, Г] и
гей”
t	t
(Bi (s, х (s)) z, z) ds (Вг (s, x (s)) z, z) ds
о	o
Jb силу непрерывности подынтегральных функций это будет в том
случае, когда при некоторых t е [О, Г] и zeR"‘ (Bt(/, x(t))z,
^=(В!(1, x(l))z, z)), то равенство (3.2) может выполняться лишь при
одном k. Значит, выбирая гипотезу //«, если (3.2) выполняется при
заданном k, получим безошибочное правило различения гипотез.
Пусть теперь вдоль наблюдаемой траектории
(В] (f, х О) 2) = (В2 (t, х (/)) z, z)
для всех zeR”, Тогда Bi(t, х(()) — B^t, х(0). Поэтому можем
считать, что В](/, х) = В2(/, х) для всех t е [0, 7] и х е Rm.
24.3.2.	Условие эквивалентности мер. Пусть —мера, соответ-
ствующая наблюдаемому процессу при гипотезе Нь (распределение
к(О) считаем заданным й лс зависящим от выбора гипотезы).Обозна-
чим B(t, х) == Bi(t, х) = Вг(1, х), о(/, х) = a2(t, х) — ai(t, х). Для
592	ГЛ- 2*- СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ (24.3.3
того чтобы меры Hi и Рг были эквивалентны, достаточно, чтобы для
всех t, х существовал вектор bJ^t, х) es Rm такой, что
a(t, х) = B(t, x}b(t, х)
и с вероятностью 1
т
J (а (/, х («)), b (/, х (/))) dt < оо.
о
При выполнении этих условий плотность меры рз относительно pi
имеет вид
X т
р (X ()) - ехр К ,(6 а, х (О), dx (t)) ~
'о
Т	X
-	4 j * w). “1х (0) + (*• * (О)) at|. (з.э)
Пусть c{t, х) к= (6(f, х), в|(/, х) +а8(/, х)). Для нахождения
распределения р(х(-)) при гипотезе Нк введем величину
Т	Т
It — (Ь (з, х (s)), dx (s)) — ~ J с (s, х (s)) ds,
I	*
Обозначим через М/, х условное математическое ожидание при усло-
вии x(f) «= х. Положим
«х(Л х) = М<1ХеаЧ
тогда функция tij., (/, х) удовлетворяет следующему уравнению при
I «= [0, 7]:
—’ -- + у х> v) + («* & х> +	(t, х), V)] ик ~
-	[ilc (/, х) + (a (t. х), b (t, х) )]их = 0 (3.4)
@	д
(здесь V —-вектор с компонентами gjr> ~§^п> гДе *’« ч.А4—
координаты точки х). При t — Т функция (/, х) удовлетворяет
граничному условию (7, х) =« 1.
24.3.3.	Процессы, однородные по пространству. Пусть ak(t, х) =
=*ak(f), Bk(t, х) = Bk(t), т. е. коэффициенты диффузионного йро-
десса не зависят от пространственной координаты. В этом случае
процесс x(t) будет процессом с независимыми приращениями. ’(4з
(3,2) следует,-что
(<> ?) = j г) ds,
о
£4.3,3]
24.3. РАЗЛИЧЕНИЕ ГИПОТЕЗ
593,
если справедлива гипотеза Н*. Поэтому гипотезы достоверно разли-
чаются, е{ли Bi(t) =^= Bt(t) при некотором t.
Пусть fii(0 •“ 62(0 == о(Л| — 31(0 == «(0- Обозначим че-
рез Е множество тех te[0, Т1 Для которых а (0 не принадлежит
области значений оператора В(1). Пусть 6(0 «—оператор проектиро-
ваний на область значений оператора B(t). Если мера Лебега мно-
жества Е положительна, то гипотезы достоверно различаются: если
справедлива гипотеза Hi, то
т
J|P(O(*(O-«i (0)13^ = 0;
о
если же справедлива гипотеза Нц, то
т
J IР (0 (х (О “ fii (0) |2 dt > 0.
о
Предположим, что почти для всех t вектор а(0 принадлежит области
значений оператора В(/), т.е существует такой вектор b(t), что
a(t) = B(W)
(чтобы вектор b(t) определялся однозначно, будем выбирать его в
области значений B(t); это возможно, так как B(i) симметричен).
Заметим, что (a(f), 5(0) > °- Необходимым и достаточным усло-
вием абсолютной непрерывности мер является условие
Т
(a (t), Ь (/)) dt < оо.	(3.5)
Если (3.5) выполнено, то меры щ и р2 эквивалентны и плотность
меры ра относительно р, имеет вид
. Т	Т	X
Р (х (•))== ехр К (Ь (о, dx (t)) - -у J (5 (О, (О + а2 (0) dt к
Vi	О	J
При любой из гипотез 1нр(х(-)) имеет нормальное распределе-
ние с.дисперсией
J («(/), b[i))dt
о
и средним значением
i
-у (0. 5 (0) dt при гипотезе Нц
i
т
-i-	(a (f), b (0) dt при гипотезе Нц.
и
694
ГЛ 24 СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ
124.4.1
Укажем, кроме того, правило безошибочного различения гипо-
тез при условии
т
(а (/), b (0) dt = + оо.	(3.6)
о
Выберем последовательность функций bn(t) такую, чтобы
т	т
J (В (Л Ьп (f), bn (t)) dt J (а (0, bn (f)) dt n
u	о
(это возможно в силу (3.6)). Тогда выбираем гипотезу Hh если
/ т т
lim ( (В (0 bn (/), Ьп (/)) df) Ь„ (/) d [л (Г) - «| (01 = О,
Г|->оо 1 J	/ J
Ч	/о
и гипотезу Иц, если это условие не выполнено.
24.4.	Различение гипотез о среднем
значении гауссовского процесса
Пусть x(f) (t е [О, Г]) — траектория одномерного гауссовского
процесса с заданной непрерывной корреляционной функцией R(t,s).
Среднее значение процесса при гипотезе Ht равно 0, а при гипотезе
Ws —заданной непрерывной функции п(0 (если бы среднее значение
при гипотезе Н\ было ai(t), можно было бы вместо x(t) рассматри-
вать x(t) — Д](0).
24.4.1.	Условия ортогональности. Безошибочное различение гипо-
тез. Обозначим через £г[0, Т] пространство функций g(t) на [О, Т],
интегрируемых с квадратом; это— гильбертово пространство со ска-
лярным произведением (gi, gi) — gi (f) gj (0 dt,
о
Г
Пусть Rg (f) = j R (t, s) g (s) ds — линейный оператор в LJO, T).
о
Этот линейный оператор вполне непрерывен и имеет последова-
тельности собственных значений и собственных функций {X*, <₽*}
т
§ В (/, з) <pfe (s) ds = Zftq)fe (/),
о
функции <р* попарно ортогональны и полны в области значений опе-
ратора R, Xt > 0 и У, Хй < оо.
k
1)	Если a(t) не разлагается в ряд по функциям <р*(/), то меры
щ и Иг, отвечающие процессу при гипотезах Wj и Н?, ортогональны.
24 4.fl
24.4. РАЗЛИЧЕНИЕ ГИПОТЕЗ
695
Правило, различающее гипотезы, заключается в следующем. Пусть
оо	г
й (7) = о (7) — У <pft (7) <pft (s) a (s) ds, (фй, <pfc) = 1.
л-i о
т
Если х (7) & (7) df = Q, принимаем гипотезу WtJ
О
т
если х (7)"й (О dt О, принимаем гипотезу Н%.
о
2)	Пусть в (7) разлагается по собственным функциям фл:
ОО	г
а (О = айФй (0, ай = a (7) ф6 (7) dt.
л-i	о
Если
во 2
У* тД *= °°-	(4-0
Z-J Ль
Л-1 к
Pi и Из ортогональны. Различающее правило строится сле-
образом. Выберем подпоследовательность тп так, чтобы
то меры
дующим
выполнялось неравенство
Если
х(7)фй(7) <77 = 0.
то принимается гипотеза Wt; если это условие не выполняется, то
принимается гипотеза На
Приведенное выше правило различения гипотез использует соб-
ственные значения и собственные функции интегрального оператора
R. Можно предложить н другие правила, не использующие этик дан-
ных
Пусть {ф*(0, Л = 1, 2,	—произвольная ортонормирования
система функций в £2 [0, 7] Примем обозначения
1 т
xk = х (7)	(0 dt, ак = а (О (/) dt,
о	о
т	т
fJk = м X (7) % (0 dt ( X (7) ф/ (7) dt
о	о
89ft	ГЛ. 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ 124.4.2’
(математическое ожидание берется при гипотезе /Л). Пусть Ь1^ —
решение системы линейных уравнений
«*= S ги№-
i-i
Если выполнено (4.1), то
hm У аХП)==+°о-
Выберем тп так, чтобы выполнялось неравенство
тп
Тогда правило выбора гипотезы заключается в следующем: если
/ ти	\—1 тп
выберем гипотезу II ъ если последнее соотношение не выполнено, вы-
бираем гипотезу На.
24.4.2.	Условия эквивалентности мер. В обозначениях предыду-
щего пункта необходимым и достаточным условием эквивалентности
мер щ и р.2 является условие
® „2
У ~ < оо.	(4.2)
Если (4 2) выполнено, то плотность меры щ относительно меры Jij
имеет вид
z о°	00	2 1
В том случае, когда существует решение b(t) уравнения Фредгольма
первого рода
Г
а (/) = J 2? (Т (f, s) b (s)) ds,	(4.4)
о
плотность р(%()) может быть записана в более обозримом виде:
<т	т
Р (*(•)} = ехР 1 J к (s) b (s) ds —J ° W ds f H-5)
M)	о	'
(заметим, что во многих случаях решение уравнения (4.4) существует
как обобщенная функция, а интегралы в (4.5) можно превратить в
24.4.3}
24.4. РАЗЛИЧЕНИЕ ГИПОТЕЗ
597
обычные интегрированием по частям); tnp(x(-)) имеет нормальное
распределение с дисперсией
при обеих гипотезах; среднее значение равно —d/2 при гипотезе Hi
и d/2 при гипотезе Нг. В том случае, когда уравнение (4.4) решить
трудно, можно использовать следующий приближенный критерий раз-
личения гипотез.
Пусть а(^ такие же, как в предыдущем пункте. Будем принимать
п	п
гипотезу Hi, если У ^xk <• и гипотезу Яа, если X >
А. При этом
Л=с(е) +
где
с<е)	п
e~u'/2du, dK = £ akb%>.
fe=i
Здесь a12 = e, a
a2j
^2du.
OO 9
_	V1 afi
Поскольку — У -jj—, а при оптимальном правиле различе*
ft-i 6
ния с aw = е
Q0
a2i=—Д=-	\	е_“’/2г?н,
-у2л J
с (e)+Vd
то
24.4.3.	Случай стационарных процессов. Пусть R{t,s)= r(t— s),
7- е. <(/) является стационарным процессом при гипотезе Hi. Обозна-
чим через F (А) спектральную функцию процесса. Пусть W'z — про-
странство функций g(A), представимых в виде
Г
g(>.)= (
-т
598 . ГЛ 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ (МЛ»
где ф —комплекснозначные функции на [~-Т, 7], для которых
I Ф (О I2 dt < оо. Обозначим далее через WT(F) замыкание W'r
-т
в метрике, определяемой равенством
11gИг“ J|g(X)|?dF(X).
Для эквивалентности мер pi и Ца необходимо и достаточно, чтобы
функция а (0 при /<=[—Т, Т] имела представление
a(t)^ ^e~iKtb (Ь) dF (Ь),
где Ь(Х) е WT(F), Если это условие выполнено, то плотность р(х(-))
имеет вид
р (х (•)) =- exp {J b (1) dy (X) - ± J I b (X) |2 dF (X)}, (4.6)
где у(Х) —спектральная мера процесса x(i):
x(i) = ^eixtdy (X).
Заметим, что стохастический интеграл в (46) может быть вычислен
как
Т
Вт ( фп (0 х (О di,
R_> ОО J
где фп — такая последовательность функций, что ||6 — М1г->- 0, если
только bn (X) = J е1М фп (/) dt.
—г
24.Б. Различение гипотез о корреляционной функции
гауссовского процесса
Наблюдается траектория гауссовского одномерного процесса х(()
(/ е [О, 7]), среднее значение процесса равно нулю, относительно
корреляционной функции имеется две гипотезы, по гипотезе Hi она
равна Raft, s), а по гипотезе Н2 равна /?г(/, s); Hk(t, s) (k = 1, 2).
предполагаются непрерывными функциями
' 24.5.1. Условия ортогональности. Будем обозначать, как и ра-
нее, чере< [U меру, соответствующую процессу при гипотезе Н*
(k == 1, 2). Эти меры можно всегда считать сосредоточенными на
пространстве laJO, г].
24.5.11
24 5. РАЗЛИЧЕНИЕ ГИПОТЕЗ
599
1) Если существует такая последовательность функций gn(t) <s
с= £.2 [О, Г], что
г г
lim ( ( /?2 (f, s) gn (0 gn (s) dt ds X
n-> OO J J
0 0
Ri H, s) gn (0 gn (s) dt ds
(5.1)
то меры Pt и ре ортогональны Безошибочное правило различения ги-
потез получим, выбрав такую последовательность функций фп(0,
что
т т
Ri (t. 8) ф„ (0 фп (s) dt ds —1,
о 0
T T
J J Из (t, s') фп (0 фп (s) dt ds > n.
о 0
Принимаем гипотезу Hi, если
l T	. -1/2 T
J $ Ri (t, s) фп (0 Ф« (s) dt ds | J x (0 ф„ (0 dt ->0,
.0 0	/о
и гипотезу H2, если это условие не выполняется. Аналогично строится
правило выбора, если соотношение (5.1) выполняется при переста-
новке индексов 1 и 2.
2) Предположим, что существует такое 6 > 0, что для любой
функции g(0 & О
т т
Ri (t, s) g (0 g (s) dt ds <
TV	T T
< J J Rz(t, S)g(t)g(s)dtds^~ J J R^t, S) g (0 g (s) dt ds.
с u	oo
Построим некоторую последовательность функций ф»(0 таких,
что
Rt (t, s) фА (t) фу (s) dt ds = O при k Ф i.
0 0
600
ГЛ. 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ
[24.5.2
Если
Rz (*» S) Фй (0 % (s) di ds x
(5.2)
то меры [Ч и pa ортогональны. Пусть
т т
e> <0 di ds га *’
О о
т т
J Rz (t, s) ФА (0 Фй (s) dt ds «= 1 +
о о
Безошибочное правило различения гипотез получим, выбрав тп та<,
чтобы выполнялось неравенство
и принимая гипотезу Hi, если
Zmn \-1тпГ/Г	\2	Д
Лтм(2?Ч £ Иvo *(')*) -ik=o,
ЧА-1 / fe = ll-\Q	/	J
и гипотезу Hi, если это условие не выполнено.
24.5.2. Условия эквивалентности. Введем вместе с функцией
Rk (t, s) функцию /?J/S (<» з) — это симметрическая функция, интегри-
руемая с квадратом на [0, Г] X [0, П. удовлетворяющая соотно-
шению
г
Rk (*. 3) = J а, «) R*P (». s) du.
о
Если и (k = 1, 2, Пл=1, 2, ...)— соответственно соб-
ственные функции и собственные значения интегрального оператора
г
/?АФ (0 =	(t, s) ф (s) ds,
о
то функция R]p (/, з) может быть построена следующим образом?
(л s) - f <₽» ’ W ’ (s>	<5-3)
S4.5.5J
24.5. РАЗЛИЧЕНИЕ ГИПОТЕЗ
601
(ряд справа сходится в среднеквадратическом на [0, ПХ[О, 7]).
Для эквивалентности мер щ и Иг необходимо и достаточно, чтобы
существовала такая интегрируемая с квадратом функция D(t, s),
что
т т
/?1 (6 s) - R2 О. £)*= J j № ")D («. »)	<"• «) du dv. - (5.4)
о о
Пусть D{t, s) — такая функция. Обозначим через 0&(П собственные
функции и через 6s собственные значения симметричного интеграль-
ного оператора с ядром D(t, s)
г
s}Qk(s}ds.
о
(Из соотношения (5 4) следует, что 6s > — 1) Тогда плотность
меры цг относительно щ имеет вид
Р (-*(•)) = ехр
1n(l+6ft)
где определяются по наблюдаемой функции x(t) с помощью
равенства
оо	г	т
Ik У у— Ч‘«’ (s) х (s) rfs 0ft (/) 4„2) (0 dt. (5.6)
П-1 дАп о	о
Для нахождения распределения величины р(х(-)) следует учесть,
что величины t* при каждой из гипотез являются последователь-
ностью независимых гауссовских величии со средним 0 и дисперсией 1
при гипотезе Н2 и дисперсией 1 + 6s при гипотезе Hi. Поэтому
” Л + б х^Р
М exp {fe In р (х (•))} = Д (\ + Д}ге
при гипотезе Нг н
“ Л J- fi xlsP
М exp {Is In р (х ())} = ТТ ----------г--------пу
U (1 + И6Л1 + бА))^
при гипотезе Н2.
Как видим, нахождение плотности одной меры относительно дру-
гой и распределения этой плотности в случае различных дисперсий
приводит к необходимости находить собственные функции и собст-
венные значения интегральных операторов. Иногда можно при вы-
числении плотности и ее распределения обойтись без вычисления опе-
ратора D и величин It. Рассмотрим уравнение
г	Г
Z f /?2 (/, S) ф (з) ds = ( К, (/, s) ф (s) ds.	(6.7)
0	6
602
ГЛ. 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ
[24.8.3
Это уравнение имеет в случае эквивалентности мер .(возможно, об-
общенные) решения при не более чем счетном множестве X. Обозна-
чим эти значения Л, через А,*, а соответствующие решения через фл-
Тогда Л* = 1 + 6* и плотность р(х(-)) имеет вид
р (х ()) = ехр
X. — 1
х (о ч>. а) at —
ай
(5.8)
^предполагается, что
ф» нормированы таким образом, что
J /?2 (t, s) (t) ф^ (s) dt ds =* 1). Обобщенное решение уравнения
0 0
Т	т
$ ^2 ’J’fe ds ** J	ds
о	. о
определяется последовательностью функции фдВ) (О. для которых
J J /?2 S) (0	(S) Л ds = 1,
о и
ГГ/ г	Т	Xй 1
lim I U (z’ s> ♦ST* («)ds “ $ (*. «) 1 («) * j ЛI — ®.
^”Lo\ о	0	/ J
24.5.3. Различение гипотез для стационарных процессов. Пусть
х(0 является стационарным процессом со средним 0 и корреляцион-
ной функцией /?*(/) при гипотезе И» (k = 1, 2). Пусть Г*.(л) —спек-
тральная функция процесса при гипотезе Я*:
Обозначим через W'f множество функций вида
г г
ф (а, ₽) “ ^	e'“s+/₽t 8 (s, t) ds dt,
-т -т
где g(s, /) ограничена и измерима на [—7, 7]Х[—Г, Г]. Пусть да-
лее IFy (Fi> — замыкание в норме
I * “ J J 1 *	» I* dF‘ (а> dF 1 (₽>’
24.М]	24.5. РАЗЛИЧЕНИЕ ГИПОТЕЗ	603
Для эквивалентности мер щ и Ца необходимо и достаточно, что-
бы существовала такая функция b{a, Р) из W'y (Fj), чтобы имело
место равенство
(t - s) - R, (f - s) = J J e-M+W b (a, p) dFl (a) dF2 (₽),
при этом плотность имеет вид
р (х (•)) = ехр Ф(а, Р) rfj/ (a) dy (0) +с|,	(59)
где у (а)—спектральная мера, соответствующая процессу х(0>
х (() = J dy (А),
функция Ф(а, Р) связана с b(a, Р) соотношением b (а, Р) = Ф(а.р' +
4- Ф (а, у) b (у, Р) dFj (у), а кратный стохастический интеграл в
(5.9) определяется как интеграл по мере v на (— оо, оо) X (—°0)-
для которой
v (Ia> ₽) X 1у, &)) 1«/ (Й) — у (V)] X {у (Р) - У (а)] —
-Ft ([а. р)П[у. 6))
/pi (Д) == J dFi (Х)'|. Постоянная с в формуле (5.9) определяется
X	А /
из равенства
ОО
С _ J_ £ ]п 0 4- xfe),
а=1
где Л* — собственные значения оператора
Vg(₽)=$Ma, ₽) g (a) dFt (a)
в №,(/•,). Отметим также, что интеграл в (5.9) можно записать в
виде
gk (а) dy (a)	(P) dy (P) — j /?/г (a) fj (a) dFt (a)j,
*. /
если
b («> P) = X ckigk h <₽)•
*. i
24.5.4. Различение гипотез о спектральной плотности. Предполо-
жим, что спектральные функции Ft (А) имеют спектральные плотно-
сти Д(А). Приведем некоторые достаточные условия абсолютной не-
прерывности и ортогональности мер в терминах спектральных пло1-
ногтей.
644	ГЛ. 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ [24-5-4
I.	Предположим, что выполнены условия}
в) при некоторых Ci и са
ci I фо (^)l fi W с21фо (М |2>
где фо(Х) при некотором s > 0 имеет вид
Фо(Х) = JeiWg(Z)dZ	(5.10)
—Я
с некоторой интегрируемой с квадратом функцией g(t);
л. f ГЫМ-h wf.m.
} Л мч J л< ’
тогда, каково бы ни было Т > 0, меры Pi и Иг, отвечающие х(<)
(/е [О, Г]) при гипотезах Hi и Hz, эквивалентны.
2.	Предположим, что для достаточно больших |Х| при некоторых
положительных cj и с2 выполнено соотношение
где а > 1. Если
с»	W <са,
(Ь (М - fi (M]S
1 + Z2“
dk < оо,
то меры Pi и р2, отвечающие x(t) (Ze [О, Г]) при гипотезах Hi, Hi,
эквивалентны при всех Г > 0.
3.	Пусть существует целая аналитическая функция Фо(Х) экспо-
ненциального типа не выше s <Т, для которой при некоторых О <
< Ci < с? выполнено неравенство
1Ф0 (^) |! ft Р>)	с2«
Тогда если	Р'"
sin2 (Т — s) (а — Р)
(а~Р)2
h(g)-fi(a) Ь(Р)-МР)
ft (а) fi (₽)
da dp =
= 4-оо,	(5.11)
то меры Pi и ps ортогональны.
4.	Если fi(X) и fs(X) —дробно рациональные плотности, то необ-
ходимым и достаточным условием эквивалентности' является условие ,
fi (X)
1.
f (АЛ
Если lim	=j4= 1, то правило, достоверно различающее гипо-
А->00 JT 1А)
тезы, заключается в следующем. Пусть m таково, что существует
конечный отличный от нуля предел
lim Z2mtf1(X) +fa (*)]==«•
Тогда существуют также пределы
lim A2mf! (Л) <rb lim X^fg (Л) = <г2,	(5.12)
А > 00	Л-> 00
24Л.П
ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЙ
соя
ври этом oj + 03 = а ¥• 0, ai •у4 fla. Из (6.12) следует существование
tn —1-й производной у наблюдаемой траектории х(1) = x*”*”1’(1).
С вероятностью 1 существует предел
2"
.,,дЖ1г)-,(1гг)]Ч <*18>
fe-=l
если верна гипотеза Hi. Вычисляя левую часть (5.13) и сравнивая
ее со значениями сп, можем безошибочно выбрать истинную гипо-
тезу.
24.6.	Оценки параметров распределений для случайных
процессов
24.6.1.	Постановка задачи. Предположим, что наблюдаемой тра-
ектории процесса х(0 (I е= [0, 7’]) отвечает мера ру на простран-
стве функций fp ту Параметр 0, который нужно оценить по наблю-
дению, меняется в некотором параметрическом множестве 0. Особен-
ность задач статистики случайных процессов заключается в том, что
этот параметр, как правило, меняется в бесконечномерном простран-
стве (например, в качестве параметра может выступать неизвестное
среднее значение, которое в принципе может быть любой функцией
из F|0 j.]). Предположим, что существует мера v на относи-
тельно которой все меры ц() абсолютно непрерывны и
Фп
-~W-P(0,x).	(6.1)
В этом случае семейство мер 0е0| называется регулярным.
Предполагают, что 0 — линейное многообразие, р (0, х) — достаточно
регулярная функция. Тогда оценку параметра можно искать, напри-
мер, методом максимального правдоподобия. Заметим, что для про-
цессов с независимыми приращениями, диффузионных, а также гаус-
совских процессов условия регулярности и вид плотности можно из-
влечь из результатов § 24.2—24 5.
Более интересным (и специфичным именно для статистики слу-
чайных процессов) представляется случай попарно сингулярного се-
мейства мер {р0. Ое0}. loiда при 01 =/= ()« меры ц6( и орто-
гональны. Поэтому естественно ожидать, что параметр 0 можно оп-
ределить достоверно по единственному наблюдению. Под оценкой па-
раметра 6 будем понимать функцию 0(х), определенную на Лсо
значениями в 0. Пусть 0 —полное сепарабельное метрическое про-
странство (или борелевское множество в таком пространстве). Пред-
положим, что 0(х) тмерима относительно о-алгебры gfyj yj, поро-
жденной в f[ot7| цилиндрическими множествами, и относительно
© — a-алгебры борелевских множеств в 0, т. е. что прообраз всякого
борелевского множества в 0 измерим в F[0_ Оценка параметра 0
называется состоя г р. п>ной, если
р0 (х: 0 (х) = 0}	1 уйе 0,	(6.2)
606	гл. 24. СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ [24.8.2
Существование состоятельной оценки параметра 6 дает возможности
безошибочного определения параметра. Примеры показывают, что
бывают такие семейства попарно ортогональных мер, для которых не
существует состоятельной оценки. Поэтому вопрос о существовании
состоятельных оценок, как и способы их построения в случае суще-
ствования, предстааляе! определенный интерес. Ниже приведены
некоторые методы построения состоятельных оценок.
24.6.2.	Проекционные методы. Предположим, что меры fi0 та-
ковы, что существуют среднее значение процесса а0 (Л и корреля-
ционная функция /?fj (Л ') Пусть далее существуют два линейных
многообразия Lt и £2 в Г1, имеющих нулевое пересечение, такие,
что Од (•) е для всех в. и если 6 — истинное значение параметра,
то х (t) *- ае (6 с веряотностью 1 принадлежит £?. Последнее озна-
чает, что если <fk (0, 0 — собственные функции интегрального опе-
ратора с ядром /?е (i, з), а Хл(6)—соответствующие собственные
значения, т. е.
г
\ (0) ф* (0- 0 « J /?е &	(0’ ds> '
о
то
сю г Г	"1
У И (х (s) — ав (з)) срА (0, s) ds I Ф^ (0, /) е L?
fe-1 I о	J
Пусть «0 (-) — взаимно однозначное отображение 0 в Lu L = Lt 4-
+ £2 и Р —оператор проектирования L на Lr. если z(t) = yi(t)-t-
+ р2(0. где j/i(f)e£i (такое представление единственно для всех
z(<) е=£), то Pz(t) = yi(t). Тогда при наших предположениях
Не ({* (•): Рх (0 = ав (/)}) «- 1.
Зная Og (f), в силу взаимной однозначности отображения я0 (0 мо-
жем определить по я0 (0 параметр 0. Таким образом, основная за-
дача при использовании проекционного метода — построение проек-
ционного оператора Р.
Пример. Семейство мер [*0 — семейство гауссовских мер со
средним значением
т
ав (/) == В (t, з) 0 (s) ds,	(6.3)
о
т т
0 (s) е Lt [О, Г], В2 (f, s) di ds < 00, корреляционный опера-
o’ о
тор Р0 (i, s)*»R (t, s) от 0 не зависит.
Пусть <рл(О и — соответственно собственные функции и зна-
чения интегрального оператора с ядром R(t, з), Обозначим через R^
JM.6.2]	24.6. ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИИ	607
линейное многообразие функций z(i) из /.2[0, Т] вида г (/) ~
ОО
= ak^k Фа где а1 <°°> а чеРез J5 линейное многообразие
функций, представимых в виде правой части (6 3)
Предположим, что В П R1?2— {0}. Это означает, что для всех
6(s), для которых О2 (s) ds > 0,
о
В (t, s) 0 (s) ds <pft (/) dt
Введем в В 4- Л1/2 скалярное произведение: если
оо	Г
f,(/) = J]aAVXft<pft(/)+ 5)0 (s) ds,
k=l	о
то
со	Т
(У (О. У (0)i = У al + Je2 (S) ds.
S-l 0
Предположим, что B(t, s) — симметрическая функция и {ф*(0.
ц*} — соответствующая интегральному оператору с ядром В (t, s) по-
следовательность собственных функций и собственных значений.
Пусть
V (0 = Z % Фа (0 + Z (О,	(6.4)
fe-i	*=i
где У «1 + У Pl < °0- Покажем, как можно построить оператор
Р, ставящий в соответствие функции у(1) вида (6.4) выражение
ОО
X рлф^)-
А~1
Обозначим через Р^1’та кие числа, что выражение
я ? г	™	-1	Л2
£ ТГ И Ь « - Е VmHm*™ Ю Фа
ft-1 й lo L m-l	J J
принимает минимальное значение = Тогда lim
П-> со
И
оо
Ру (/) = X lim (4ПЧ (О-
й=1 л*®
608	Гл Si- СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ {24ЛЛ
Таким образом,
«е(0 = Рх(0,
где х(0 — наблюденная траектория,
24.6.3.	Метод минимизации квадратического функционала. Пусть
семейство {ufl, 0 e0J такое же, как и в предыдущем пункте. От*
метим, что в рассмотренном выше примере оценка среднего строилась
путем минимизации некоторой последовательности квадратических
функционалов. В общем случае можно рассмотреть некоторую после-
довательность квадратических функционалов
т Т
А'п (*(•))= ^ j А'п (#,	(0 х (s) dt ds
и оценку среднего ад (/) искать в виде предела последовательности
функций с^(О» дающих минимум выражению
т г
J J Кп (t, s) [х (0 - z (0J [х (s) - z (s)] dt ds
о о
при ?{), меняющемся во множестве Af возможных средних {ао(')»
6 а£ 6}. Для состоятельности этой оценки (в частности, для суще-
ствования предела а#’* (0) достаточно выполнения следующих уело-
оий.'
1)	при 61
т г
,imoo S $	°’ S> lS®‘ (° " в0‘ (°1	(S) “ ’«• (S)1 dt dS = + °0’’
2)	существует такая метрика р в 6, что если £ (0 «= х (t) — а0(4)
(0 — истинное значение параметра), то с вероятностью 1
Т Т
J j Кп (J, s) 5 (#) [«о, (®) - «е («)] dt ds
Пт —yrs— ----------------------------------------------- 0
Г Г
Р (С S) [ае. (О — ае («)] [«е, («) ~ «е («)] di ds
равномерно по 0ь для которых р(0, 01) > 8, каково бы ни было
в >- 0. При выполнении этих условий, если 0Я определяется из ра-
венства C0n'(/) = a0 (f), то 6И сходится по вероятности (в мет-
рике р) к 0.
24.6.4.	Метод максимального правдоподобия. Рассмотрим два
варианта этого метода.
24.6.61
24.6. ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИИ
609
1.	Пусть для любых tn из [О, Т] существует совместная
всюду положительная плотность распределения величии x(fi),
....
Ре(А> •••» *п’ *1.....жп)*
если 0 — истинное значение параметра. Выбрав некоторое значение
Оо s 0, введем функции
. гр < „	Ре(^.	......х(1™»
fn (6, * (•)) -	.....х (/(П)).........х (^п>)) <6- )

([я — некоторый функционал от наблюдаемой траектории), где Э =»
=А">	< ...	---- Т, m is (А'° —	> 0-при оо. Если
и I	«I	fl	п 1
процесс x(t) стохастически непрерывен каково бы ни было истинное
значение параметра, то в чом случае, когда Оо — истинное значение
параметра, hm /я(0, х (•))“<) <- верояпюсгыо 1 для ж<’х Оэ^Оц,
П->оо
а при 0 = 0о этот предел равен 1.
Пусть & —значение, при котором f„(0, *(-)) достигает макси*
мума (предполагается, что рл(0, х( )) непрерывна по 0, а само 0 ме-
няется в некотором компакте). Естественно выбирать в качестве
оценки величину 0л. Состоятельность этой оценки нужно исследовать-
в каждом отдельном случае.
2,	Предположим, что x(t) е=£2[0, Г], Выберем некоторую орто»
нормированную систему функции {<ри(О. А= I, 2, ...} в £2[0. Г] й
положим
Г
xk = <fk(t)x(t)dt.
о
Пусть pg*) (рр .... {/„) — совместная плотность распределения вели-
чин Xi, ..., хп, если 0 — иминное значение параметра,
Гп(Ь, *(•))==
Реп) (х1»
₽е№» ...
t *n)
> Xfl)

Оценка 0л ищется как точка, где последняя функция достигает мак-
симума.
24.6.5.	Метод Байеса, Пусть выполнены условия предыдущего,
пункта. Обозначим через [„(О, *()) функцию, определенную равен-
ством (8.5)' или (6.6) Булем предполагать, что в — выпуклое откры-
тое множество в линейном нормированном пространстве, зададим на
в Оорелевскую меру v такую, что мера всякого открытого множества
положительна. В качестве оценки Байеса параметра 0 берут после-
довательность- оценок
& = J 0f„ (0, X (-)) V (de) ( J fn (0, x (.)) v (rf9)} ~l.
Состоятельность этой оценки нужно исследовать в каждом кон-
кретном случае.
Литература: [17, 25, 37, 52, 591,
80 В- С. Королюк и до.
610 ГЛ. 25. СТАТИСТИКА СТАЦИОНАРНЫХ ПРОЦЕССОВ [25.1.1
Г л а в а 25. СТАТИСТИКА СТАЦИОНАРНЫХ
В ШИРОКОМ СМЫСЛЕ СЛУЧАЙНЫХ ПРОЦЕССОВ
25.1. Свойства статистических оценок характеристик
стационарных процессов
25.1.1. Задачи статистики стационарных процессов. Предполо-
жим, что наблюдается некоторый случайный процесс {§(0. is Г}-
Априорные соображении либо предварительно проведенный статисти-
ческий тест даюг основания считать, что процесс {§(0, t&T} имеет
вид:
1)НС = 1о(0,
2) g(<)*=/«+ £о(П, t<~T,
г
3)	+
где &>(Л —стационарный в широком смысле случайный процесс с
нулевым математическим ожиданием.
Пусть x(t) Го) —траектория процесса £(/), наблюдавшаяся
в течение временя То, где То может быть отрезком на временной оси
То [а, Ь] в случае непрерывного времени либо последовательностью
моментов наблюдения То = {Л<, k — 1, .. , л}
В случае 1) требуется на основе наблюдения х(1) (/еТс) оце-
нить спектральную функцию или спектральную плотность .процесса
?(/). В случае 2) спектральная функция процесса &>(/) предпола-
гается известной, и требуется на основе наблюдений x(t) (teTB)
оценить неизвестное среднее т. В случае 3) спектральная функция
процесса £o(f) также предполагается известной и требуется на ос-
нове наблюдений x(t) (1 е То) оценить неизвестные параметры 0j,
г
62,	6, регрессии A(i) » ©лад(/), где функции а*(0 (Л*=
 в 1,..., и) предполагаются известными.
Это основные задачи статистики стационарных процессов. Воз-
можны варианты, например предварительная оценка спектральной
функции для последующей оценки среднего или параметров регрес-
сии.
25.1.2. Свойства оценок. Пусть Д — статистика, предназначен-
ная для решения какой-либо из перечисленных задач, представляю-
щая собой функционал от наблюдаемой траектории x(i), 1еТ0: Д =
= £<*(0. < еТо).
Среди множества статистик Ц естественно выбрать те, которые
обладают наиболее желательными свойствами:
1)	линейность (функционал §(•) должен быть линейным);
2)	несмещенность (если ft—оцениваемая характеристика про-
цесса {Е(0. i&T} иц —статистика, предназначенная для оценки Л,
требуется, чтобы Мр = Л):
3)	состоятельность (статистика Д должна сходиться по вероят-
ности к ft при увеличении интервала наблюдения);
4)	эффективность (статистика ц должна обладать минимальной
дисперсией среди статистик заданного класса).
Иногда приходится ограничиваться более слабыми требованиями,
чем требования несмещенности и эффективности;
25,2.11	25.2. ОЦЕНКИ НЕИЗВЕСТНОГО СРЕДНЕГО
61!
2') асимптот ическо! несмещенноегыо (МД->Л при неограни .гн-
ном возрастании интервала наблюдения);
4') асимптотической эффективностью (статистика р должна об*
ладать асимптотически минимальной дисперсией среди статистик за*
тайного класса при neoiрапнченном возрастании интервала паблюде*
пая).
Для проверки состоятельности оценки достаточно убедиться в
том, что ее дисперсия стремится к нулю.
25.2. Оценки неизвестного среднего
25.2.1.	Временное среднее (среднеарифметическая оценка). Пусть
x(t)_ (/ед То)—траектория процесса £(0 = т+МЛ (feTo), где
Ео(О — стационарный в широком смысле процесс с нулевым средним
и ковариационной функцией lift) Предполагается, что время t на*
прерывно и То — [«, Ь ]
Среди линейных пс-смс щепных оценок среднего стационарного
процесса наиболее простои вид имеет статистика in, называемая вре-
менным средним пли трешиарпфьи i оческой оцсикон’
1>
m =  х (О	(2Л)
а
Если рассматриваемый стационарный процесс эргодичен, то сред-
неарифметическая оценка tn является i <и 1<>яч льной Оценкой сред-
него m по методу наименьших квадратов является среднеарифметиче-
ская оценка т.
Определим класс Л1я линейных несмещенных оценок неизвестного
среднего:
Mg ~ j А: Р = j g (t) х (Л dt >,
а	*
где функции g(t) принадлежат классу равностепенно непрерывных ц
ь
равномерно ограниченных функций на [а, 6] таких, что g (() dt == 1,
п
а х(0 (/ е Г«. И) — траекюрия процесса {£(/), tе 7}, имеющего
непрерывную в пуле спектральную плотноегь
Теорема 1. Среднеарифметическая оценка m обладает асим-
птотически минимальной дисперсией в классе Mg.
Таким образом, средн оценок jlsAl# при Ь — a-t-oo не суще-
ствует оценок боксе эффективных, чем среднеарифметическая.
Значительно более широкий, чем Mg. класс линейных несмещен-
ных оценок можно получить, рассматривая «взвешенные» оценки
вида
Й = £Х>х(1/г). a==ti	<*„ = *.	<2.2)
п
где 52c'fel)l=l дпя любою п^ 1.
fe=l
20*
6t2
ГЛ. 23. СТАТИСТИКА СТАЦИОНАРНЫХ ПРОЦЕССОВ
(28.2.2
Пусть ТИо — замыкание класса -оценок вида (2 2) в среднеквад-
ратичном.
Теорема 2. В ТИо существует единственная с точностью 8q вк*
бивалентности оценка m неизвестного среднего, имеющая минималь*
ную дисперсию, причем
Мтйх (0 s С, te [а, Ь],
(2.3)
где С = inf Dft — дисперсия оценки rh.
й е Л1в
25.2.2.	Вычисление оценок среднего на основ.е прогноза. Один из
методов построения эффективных оценок среднего для эргодических
стационарных процессов основан на анализе прогноза, построенного
по наблюдениям x(t) = [а, 5}).
Пусть £(t) для t й Ь] есть наилучшйй линейный несмещенный
прогноз значений x(l)	fc]), те. Mjf (f) ав m, М | Л (t) —
— SCO Р = min для всех t [а, £].
Введем статистику (Гм, определяемую как временнбе среднее, по-
строенное по прогнозу X(0: для [а, б] с: [—Л, Л]
[а	Ь	А	1
J x{l)dt+	(2.4)
—А	а	Ь
Для линейной .несмещенной оценки th с минимальной дисперсией
имеет место следующая теорема.
Теорема 3.
W
Если процесс |о(О таков, что J В (/) dt < оо, то результат тео-
—м
ремы 3 может быть записан в более удобном для вычислений виде.
Пусть Ло (/) -наилучший линейный прогноз Значений х(/)(/е
е (й, М)> сделанный в предположении, что m = 0 (если
to%(O =“ *(*))•
Теорема 4. Если ‘В(t) di < оо, /гощущеспует константа
d такая, wo
СО
ifi«=d	dt,
-*со
и d определяется единственным образом из условия несмещенности*
МЛ = т.
Пример 1. Пусть ковариационная ^нкциц процесса $(0 ™
= т + go(() равна В (f) «= е_“1 *1 и m неизвестно.
25.2.3J
25 2. ОЦЕНКИ НЕИЗВЕСТНОГО СРЕДНЕГО
613
Наблюдается траектория х(/) (fefa, &]). В предположении,
что т = 0, находим наилу чший линейный прогноз;
Л‘о (fr + т) = е~агх (Ь), т > О,
Л, (0 = х (i), I е [а, 6],
Хо (й — т) = е -итх (о), т > 0.
<»	г а	&
Следовательно, fh d £0 (0 dt = d I J #o (0 dt + x (/) dt +
— OO	СО	Ц
+ |М)-rf|-~-+ J x(£)df + -^- •
ь J L «	J
Условие несмещенности дает
Го	1
m = Mm = rfM I	x (0 dt 4- I =
•*	a
откуда
. , r <X
2 + a (b ~ a)
Таким образом.
th *=
Dm =-^-1—tt----r-.
2 + a (b — a)
(2.5)
Для сравнения укажем, что дисперсия среднеарифметической оцен»
кн т
Dlh _ 2[е~ц(&-а)-1+а(6-а)]
а‘ (& — о)2
(2-6)
причем D/й > D/ft, Ddt/Diii -> 1, b — а -> оо.
25.2.3.	Уравнения типа Винера — Хопфа. В ряде случаев явную
формулу для несмещенной линейной оценки fh неизвестного среднего
т можно получить, исходя из формального представления-
ь
т = х (/) dG (£).
о
(2.7)
614 ГЛ 25. СТАТИСТИКА СТАЦИОНАРНЫХ ПРОЦЕССОВ [25.2.3
Функция G(t) должна удовлетворять условию несмещенности
б
dG (!) = 1 и быть решением интегрального уравнения типа Ви-
а
пера — Хопфа
Ъ
J В (I - s) dG (s) = С, 1е: [Я, hj,	(2.8)
а
получающегося из (2.3) для данного вида оценок.
Для процессов с дробно-рациональиой спектральной плотностью
уравнение (2.8) всегда имеет решение, которое содержит линейные
комбинации дельта-функций Дирака и их производных. Такое реше-
ние может быть найдено явно (см. п. 25.3.3).
Пример 2. В случае марковского стационарного процесса ура-
внение
ь
e-a(t-s) dG e с
п
имеет решение
С
6 (/) ^ [W (/ - а) + at + и (6 ~ t ]
где
го, t < О,
"И., r>li
.	ь
Оценка m « х (Z) dG (/) естественно совпадает с приведенной
а
в примере 1.
Пример 3. Пусть процесс &>(0 имеет дробно-рациональную
спектральную плотность вида
^(Л)и= |Q(ZZ)|”
(J
где Q (г) = Якхк> <7* — действительные числа (процесс авторсг-
а=о
рессии порядка 17).
В этом случае решение уравнения (2.8) имеет вид
at zn
_ б' (/ _ яЦ + . . . +	(/>-() + (-у’-’б'ч-1) (Z - я)]},
25.2.4]
25 2 ОЦЕНКИ НЕИЗВЕСТНОГО СРЕДНЕГО
615
где б(/)—дельта-функция Дирака, дт(1)—ее k-я производная.
Следовательно,
ь
Яо х (0 dt + qt [х (b) + x (a)] +
a
+ Яг1х'(Ь)-х'(а)] + ... +<7n[xw-1’(b) + (-l)<’-|?''-|»(a)]},
где
C = Dm = —75---------i~~77-------n-.
Яо [2<7i + <7o (b — «)]
25.2.4,	Метод Яглома. П\сп> процесс 5о(0 имеет дробно-рацио-
нальную спектральную плотное 1ь
1(М = 1	Г
,(К) Iwrl 
где Р(г) —многочлен степени />, Q(z) —миоючлеи степени q, р < q,
<х>
и пусть х (/) = ( eiKt (Л) — спектральное представление траек-
— оо
тории х(0 (t & [a, 6]). Метод Яглома состоит в представлении нан*
лучшей линейной несмещенной оценки т в виде
W
ш =	Ф(„. Ь) W dt, (Z)	(2.9)
— OQ
и указании условий, однозначно определяющих спектральную харак-
теристику ч>(л, 6)(Х) оценки th и позволяющих эффективно ее вычис-
лять.
Теорема Яглома. Для процессов с дробно-рациональными
спектральными плотностями спектральная характеристика ф(О, ы (Z)
в (2.9) однозначно определяется условиями-.
а)	Ф(о. ь) (Z) — целая функция такая, что
ОО
5 1ф<а. Ъ) W Iй I
— оо
б)	ф(0, ») (Z) представима в виде
Ф(а. <	Х|Р(<Л)|г
, m «’a (Z) QlTXj
где ф0(л) = . .-в;... ,6----функция, аналитическая в верхней по^
л | г («Л)
wb (Z) Q (fZ)
луплоскости, wn (0) Ф 0; ф6 (Л) = —[ "р р--------Функция, анали-
тическая в нижней полуплоскости, ч>ь (0) ф 0;
в)	lim ф(в_ b) (Л) — 1 (условие несмещенности).
lib ^>b^Q^
-hwT’ (2Л0)
616
гл ж. статистика стационарных процессов
[25.2.4
Функции иЦХ) и да* (Л) в силу второй части условия а) могут
быть лишь многочленами степени ие выше р. Для дисперсии оценки
m мет.од Яглома дает формулу
Т	I w (0) I I w. (0) I
1М== ^|Ф(а, 6)М|2НХ)^=2л|-Я-Д.| = 2з1|—(2.11)
— ОО
Пример 4 Пусть процесс £о(О имеет спектральную плотность
V 4- а2
f (Л) = J9 .г —у- (смешанная модель авторегрессии и скользя-
Л -г <х
щего суммирования). По наблюдению x(t) (teja, b]) требуется дагь
наилучшую несмещенную оценку среднего т процесса £(1) = m +
+ МО-
В данном случае условие б) теоремы Яглома дает
_ laX WqWp + iyaaX-a2]
Ча, ъ V»? — v
Л (Л2 + а2) т
, льх wb W Р'2 ~ ‘	~ а21
т ®
(2.12)
Л (Л2 + а2)
где ®О(Х) и — некоторые многочлены не выше первого по-
рядка, коэффициенты которых должны быть подобраны так, чтобы
удовлетворялись условия а)—в).
Правую часть (2 12) удобнее представить в виде
„2	„3	т
д -- । с	1 л.
Л — ia ' Л + ia J
4 . 4 , 4
К K-ia + Л-На
.0 . с°
в+ Л
,М
(2.13)

4 +
3) подлежат определению.
где коэффициенты са, с* (fe = 0, ...
Из условия а) следует, что
4 + 4 = 0.	+
Условие несмещенности в) дает:
.,2 [ 2	3 । 3
+	+	(2.16)
Л^ + е"а^0. (2.14)
Из условия б) следует, что коэффициент при е!аХ в правой ча-
мти (2 13) обращается в нуль при Л	а коэффициент при
е1ЬК обращается в нуль при	что дает медостающне
к (2.14), (2.15) четыре уравнения для определения с* о£ (fc«=0,...
425.3.1]
263 ОЦЕНКИ ПАРАМЕТРОВ РЕГРЕССИИ
61Т
... , 3). Решение соответствующих уравнений дает
Л = d {(V2 sh -ф- + ch [х (о) + х (6)] +
+ а (sh-ф- + л/2-ch-ф-) J x(i) dt -
t>	-
- V2a ch (-liA - х (t) dtI,
а	)
где Zc = b — a,
d - [(S + V2* «П) ch	+ aT0 sh -SEEl]" ‘ f
Dm = 2лВ (sh —+ V2 ch —X
X (a (2 + ^2aTe) ch-ф- + a'T„sh
25.3. Оценки параметров регрессии
25.3.1. Оценки параметров регрессии по методу наименьших
квадратов. Предположим, что наблюдается процесс вида
Н0=	+	(3.1)
где ЫО — стационарный процесс с нулевым средним, а*(1) (^ =
“ 1, .... г) — известные неслучайные функции, которые предпола*
таются линей.’О независимыми, 0* (k = 1, . , г)—неизвестные па-
раметры. Задачу нахождения оценок параметров 0* по реализации
х(/) (Ге [a, fc]) процесса £(/) называют задачей оценки парамёт-
ров регрессии
Щ °1-е2........вг)”£°Л	ГО-
А-1
В радиотехнических приложениях стационарных процессов
6... ..<м называют сигналом (полезным), 1,оЦ)~ста-
ционарным шумом В экономических, биологических, социологических
приложениях A (t) называют трендом
Наиболее простой вид имеют линейные несмещенные оценки па»
ра метров регрессии, вычисляемые по методу Наименьших {свадрА-
тов, — оценки 0*, минимизирующие квадратичный функциоиаД
А
А
г F
*го-£елго
dt.
G18 ГЛ 25 СТАТИСТИКА СТАЦИОНАРНЫХ ПРОЦЕССОВ 125.3.2
Если ои(?)	6] (fe = 1,	г), то
г	b
= Z(	J	Х W dt’ (3-2)
/=1	а
где — (fe, /)-й элемент матрицы, обратной к матрице
ъ
ckl= $ dj it) di.
а
Заметим, что вычисление параметров регрессии по методу наимень-
ших квадратов не предполагает знания корреляционных и спектраль-
ных свойств процесса £(<)
Если же предположить, что спектральная функция Ft>(k) про-
цесса go (О абсолютно непрерывна и спектральная плотность /о(М
ci раничена и по гги всюду положительна, то можно утверждать
большее
Теорема 1 Для того чтобы, оценки 0* параметров 0* по ме-
тоду наименниих квадратов были состоятельными, необходимо и до-
статочно, чтобы для люОм. pi. рл...(V функция а (/) = £ ₽ли
й=.1
удовлетворяла условию
ОО
I a (f) |2 dt *= оо.
— ОО
В предположении, что процесс go (0 имеет дробно-рациональную
спектральную плотность, а базисные функции а* (0 имеют вид
ak (/) = eta>ktmkt	(3.3)
где ttlk — целые неотрицательные числа, о», — действительные числа
(в этом случае Л (0 называют полиномиально-тригонометрической
регрессией), оценки 0* параметров 6л регрессии являются асимптоти-
чески эффективными в следующем смысле.
Пусть матрица G(a, b) —ковариационная матрица наилучших
линейных несмещенных оценок параметров регрессии (ее явный вид
приводится в следующем пункте), G(a, b) —ковариационная матрица
оценок 0л параметров 0л, полученных по методу наименьших квад-
ратов. Тогда бг(й, о) G(a, b) (т. е б(п, 6) —G(a, b) —неотрица-
тельно определенная матрица) и существует неотрицательная неубы-
вающая функция g(t) такая, что
lim g(b — a) G (a, b) =* hm g(b — a)G (а, Ь) 0.
ft—«->оо	6-а->«>
2Б.3.2. Наилучшие линейные несмещенные оценки параметров
регрессии. Если спектральная функция Е(Х)> а следовательно, и кор-
реляционная функция B(t) процесса go(O известны, то обычно пред-
полагается, чго функции ak\t), образующие базис регрессии А(0.
5К.3.2]	253 ОЦГМКИ ПАРАМЕТРОВ РЕГРЕССИИ	(,|G
• таковы, что процесс 5(0 допускает спектральное представление
оо	Г
5 (0 = J е"Л dE (Л), где di (Л)	(М+^о W, £0(М-
— ОО	k-r 1
спектральный процесс, соответствующий процессу |0 (/):	(/) =:
ОС
«== eltK dgo (А), а а*(Х)—функции, интегрируемые с квадратом по
— оо
Спектральной мере £():
ек>
| ak (Л) |2dF (Л) < е»
— со
{или кратко о*(?0 еД2(Г)), которые являются решениями иптегралъ-
його уравнения типа Винера — .Хопфа:
ОО
(X) = «ft(0-	(3.4)
— 02
Пример 1. Пусть |(0 == во(f) +Ы0 и почти все траекто-
рии процесса Ео(0 непрерывны. Если функция а (0 имеет разрыв в
точке Ое (а, Ь), то по единственной реализации х(0 (/е[д, й])
(ложно точно определить значения параметра 6, а именно оценка
®Л = с +) _ (/0 _) [* {,о + Л) ~ * Ко ~ М]
с вероятностью 1 при h-*b сходится к точному значению 6. Для
функции a(t) из данного примера уравнение (3 4) не имеет решений
в L2(F).
Теорема 2 Для того чтобы уравнение (34) имело решение в
£a(F), необлодимо и достаточно, чтобы
ОО
inf I ф О,) | ?dF (Л) =5*= О,
Г
— DO
либо, что эквивалентно,
inf Е cicib (f/ “G) > °*
I (
где ini берета я по ф(Х) м тющимся юнечными суммами вида
Есу* ' */еГ-
I
и такими, что	(tj) =1 (Л = 1, ...» г). Если решение урав-
нения (3.4) существует, то оно единственно в L2(F).
Если решения уравнения (3.4) найдены, то задача оценки пара-
метров регрессии сводится к решению линейной системы алгебраи-
ческих уравнений.
620
ГЛ 25. СТАТИСТИКА СТАЦИОНАРНЫХ ПРОЦЕССОВ
[25,3.3
Теорема 3. Если спектральная функция F (X) и базисные функ-
ции аь(() (k = 1, .... г) регрессии Л (/) =	6^ (<) удовлетво-
ь.
ряют условия теоремы 1 и а*(Х) —решения уравнений (3 4), то ли-
I ейные несмещенные оценки 0* параметров 0^, имеющие минималь-
ную дисперсию, определяются формулами
Г	<ю
=	(3.5)
/ «Я 1	— ОО
где £(?.)—спектральное представление траектории x(t) (t^ [a, ft]),
ckI — cov (О», §/) — (k, ft-й элемент матрицы С, обратной к матрице
D = {dtj, k, j = 1, ,.., г}, где
ОС
dkiB= J
— оо
Если С) — ковариационная матрица линейных несмещенных оце-
нок, отличных от Ofc (ft = 1, .... г), определяемых равенством (3 5),
то С Ci в том смысле, что матрица Ci — С неотрицательно опре-
делена.
25.3.3. Решение уравнений типа Винера — Хосфа для дробно-
рациональных спектральных плотностей. В том практически наиболее
важном случае, когда спектральная плотность /(X) процесса &>(0
дробно-рациональна, т, е, когда
нйд_| PW f
/(X)-|7TW г
Р	Q
где Р (г) = £ ржг\ <2 (г), =*	(р < <?), решение уравнений
(3.4), а вместе с ним и решение задачи оценки параметров регрессии
могут быть найдены в явном виде.
Теорема 4. Если многочлены Р(г) и Q(г) имеют нули лишь
в левой полуплоскости, ни один из корней многочлена P(z) не яв-
ляется чисто мнимым и функции «*(/) (ft с= 1, г) удовлетворяют
условиям теоремы 1, то решение а*(Х) уравнения
CD
имеет вид
n-m-l	n-m-l
У	Е	$(&/+
/М)	/-0
&
+	(/) dit
«
25.4.1]
25.4 ОЦЕНКИ СПЕКТРАЛЬНОЙ ПЛОТНОСТИ
321
ференциального уравнения
«л (1) — решение диф-

с граничными условиями
lim	(/) = iim J?Lq(AY, (f)=0,
t^adt1 к dt) k t*bdtl \di)h
/ = 0,
m —1>
n
Z */?(-£) mo.
l—j H
<№! = lim
«4Ь 2и
<-»'«<« Ah»-
25.4. Оценки спектральной плотности и спектральной
функции стационарных последовательностей
25.4.1. Периодограмма. Пусть {£(/), t е 7} — стационарная а инь
роком смысле случайная последовательность (временной ряд) и x(Q
(1 е То) —траектория процесса £(/), где 70 = {/*, k =• 1, .. , п)
(6 е Г).
В основе большинства статистик, предназначенных для оценки
спектральной функции и спектральной плотности процесса {£(!).
/е 7), лежит статистика, называемая периодограммой и определяе-
мая равенством

У,
its То
(4.1)
Замечание Для процессов с
дограмма определяется как
Ao. b) W "* 2л (/— а)
непрерывным временем яерио«
b Г
х (/) е*а dit
(4-2)
где x(t) (<е[«, 5]) — траектория изучаемого стационарного рроцео»
«а. Формулируемые ниже результаты имеют -сооФЙежствукмшЙ непре-
рывные аналоги.
Если f (X) — спектральная плотность процесса %(t) (I ев 7), то
lim M/„(X)«/(X),	(4.3)
П-> оо
622
ГЛ. 25. СТАТИСТИКА СТАЦИОНАРНЫХ ПРОЦЕССОВ
(25.4.2
т. е. периодограмма является асимптотически несмещенной оценкой
спектральной плотности. Однако
<- 2Г(0). ZI=X2=0,
ffm cov [7n (M), In (Z2)] = I f2(Z), Zj=Z2 = Z. (4.4)
"‘>W	In ,
0, Zj =/= Z2,
t. e.- периодограмма не является состоятельной оценкой для спек-
тральной плотности.
Периодограмма /„(Z), рассматриваемая как случайный процесс
по Z, имеет в силу (4 4) при больших п сильно флуктуирующие тра-
ектории,
25.4.2. Оценки спектральной функции. Пусть
х
F„ (Z) = 1п (р.)	(4.5)
,	-л
и F(Z)—спектральная функция процесса |(0 ((еГ), Статистика
Л, (Z) является асимптотически несмещенной оценкой спектральной
функции F(Z) 1
lim MFn (к) = F (Л).	(4.6)
tt -> ОО
Если £(() (t е 7)— эргодический процесс, то статистика Fn(k}
является состоятельной оценкой спектральной функции: это оправ-
дывает определение Frt(Z) как эмпирической спектральной функции.
Если r(Z) —абсолютно непрерывна, то
lim sup | Fn (Z) - F (Z) | = 0.	(4.7)
n > OO h
Пусть £(() (( e T) — регулярная стационарная последователь-
ность и НО ckl (( — ft) — ее представление в виде скользя-
k е г
щего суммирования, Mg (7) — 0, Mg2 (7) = 1.
Z>	Л.
Положим (X) = ln (р) dp, /’<0|(Z) = f (p) dp, где f(Z) —
о	о
спектральная плотность процесса §(7) (/еТ).
Теорема 1. Если выполнены условия', a) g(7) имеет конечный
четвертый момент р4; б) f(Z)—абсолютно непрерывна-, в) cft =
= О UP). р < -3/2, го
lim Р ( max V« I Е(„0) W - F<0) (Z) I < 4 =
= P f max I ч (Z) j C (4.8)
4)<k<n.	’
где т] (Z) — гауссовский процесс с Мц (Z) = 0, Мц (Z) т) (ц) ==>
min (X, н)
«= (щ—3)Е(°) (Z) F('J) (р) + 2я
f2 (s) ds.
о
25.4.3J
25.4. ОЦЕНКИ СПЕКТРАЛЬНОЙ ПЛОТНОСТИ
623
Равенство (4.8) напоминает соответствующий результат для ста-
тистики Колмогорова, однако в отличие от последней в данном слу-
чае предельное распределение зависит от оцениваемой функции.
25.4.3. Оценки спектральной плотности. В качестве точечной
оценки спектральной плотности /(А) стационарной последовательно-
сти {|(f), t^T} ПО НаблЮДСНИЮ t Т0 ! Л г» • >
выбирают статистики fw(X) вида
Ма)== u7na-n)/rt(p)dP,	(4.9)
где /П(А)— периодограмма, а «весовые» функции Wn(А), называемые
спектральными окнами, подбираются так, чтобы
1)	^и(А) имела резко выраженный максимум в пуле;
л
2)	J Гп(А)г/А ^ 1;
-л
3)	Dfn(A) ~»0 При П-УОО.
Условие I) «вырезает» оценку требуемой частоты, которая в силу
2) оказывается асимптотически несмещенной и в силу 3) — состоя-
тельной.
Если выполнены условия:
оо
1)	(6(0, <в Л - регулярный процесс и £
А-О
его представление в виде скользящего суммирования;
2)	М£2(6 -= 1. Mg‘(f) < оо:
3)	= О (| р |-(2+б)) для некоторого б > 0;
I IF®*(p)
4)	I —5»------5 -> 0 при л -» оо для ] UI й с/п,
| W„ (0)
где IF®* (р) == IFn (р) * lFn(p)—свертка 1Ря(р) с «обой, с —некото-
рая положительная константа, то статистика fn(A) асимптотически
нормальна со средним
л
Mf„ (А) - J Wn (А — р) f (A) dp + О (—-)	(4.10)
* л
и дисперсией
я	п
v!n w ~ (Ь - м) f2 (Р) dp, ~ J W* (р) dp.
Статистика /П(Л) является состоятельной оценкой для /(X), есля
л
lim — ( 1Г;(А)</А = 0.
»->оо J
— 31
624 ГЛ 25. СТАТИСТИКА СТАЦИОНАРНЫХ ПРОЦЕССОВ 128.4 3
Среди множества спектральных окон имеется класс, чаще всего
используемый в статистической практике, —класс спектральных омой,
допускающих представление вида
n~t
Гв(Ч“2 £ kn{l)e-lKt,	(4.12)
-n+l
где k„[l) — k(ljmn), {mn} — некоторая неограниченно возрастающая
последовательность целых положительных чисел такая, что тп/п -> О,
п->оо, А(х)—ограниченная четная функция, удовлетворяющая ус-
оо	,
ловиям: Д(0) = 1, j*(х) | '< 1 при х =£ 0, j k‘ (х) dx < оо.
— ОС
Предположим, что стационарная последовательность £.(/) являет-
ОО
ся регулярной, НО “ .£	— ~ее представление в виде
оо
скользящего суммирования, £ | cft [ < <»> независимые случайные
feerO
величины £(/) имеют нулевые средние и конечный четвертый мо-
мент. Пусть также S(f) —корреляционная функция £(1).
Представление об асимптотическом характере смещения f(X) —
—-М/л(Х) дает следующая теорема.
Т еор ем а 2. Если
I) при некотором q > 1 существует и конечен предел
.	1 — k (»>
ka = lim   j  ;
fi) nfm^->oo, n->oo;
8)	£ 11q В (f) | < oo,
t sT
TO
lim m’ [f (X) - Mf„ (Л)] - У I t\q й (0(4-13)
*	teT
Асимптотические ковариационные свойства статистик fn(X) опи-
сывает следующая теорема. Теорема 3.	Л1 ¥• ± CO P (X)	(/) dt, Z, -±).J =
Um •—— cov ifn (2Lj),	] =» n->oo mn	—oo 7^: 0, oa 2f2W J*2(0d*f
« 0, ± л.
2В.4Л]	2&.4. ОЦЕНКИ СПЕКТРАЛЬНОЙ ПЛОТНОСТИ	625
В условиях теоремы 2 наиболее быстрая сходимость дисперсии
D/n (х) к нулю достигается при
m„ = O(n1/<1 + 2^
25.4.4. Примеры спектральных окон. Обозначим через Вп (t) =
я '
~~п—Г	оценку корреляционной функции В (0 (эмпиричс-
скую корреляционную функцию)..
1. Финитное преобразование Фурье (оценка Даниэля)
и? f п,п/2, I X |	njtnt
”nW = i n	. - .	.
^W-2n L V n)B"W t=-n+l , , . sin nx k(x) = SIX> 2. Усеченная оценка VnW==2sJn ( 2mn2+ * 1) (i U1<! 1 о, 1 x j > 1 3; Оценка Бартлетта sin2 _!^L ip„ (X)=	 mn sina -y тя 1^-^r Z t^-m„ n Hx)_;1 -ih i*is ()-t o, |xi:	—‘-Г sin nt	mn ’ sin v) ’ » r -ВД Bn m» / >0.
626
ГЛ 25 СТАТИСТИКА СТАЦИОНАРНЫХ ПРОЦЕССОВ
4. Оценка Тьюки — Хэннинга
Z	fl \	rrlft J П \	ГПц J
где fn (Л) — усеченная оценка из примера 2;
, . .	( (1 + cosju)/2, | х | < 1,
« W = {	-	.	.
I	6,	|х| > «•
26.5.	Оценки параметров спектральной плотности
Предположим, что наблюдается траектория x(f) (<eZ«) ста-
ционарного процесса {£(/), (еЛ, Mg (0 = 0, Dg(/) = o\ спектраль-
ная плотность которого известна с точностью до одного или несколь-
ких параметров, принадлежащих некоторому параметрическому мно-
жеству в:
ф.) = цх, 0), ве-в.
Оценке подлежат с' и 6 s й.
В предположении, что процесс £(/) (/eZ) регулярен для лю-
СО
бых () s 6 и £ (0 =- 2^ ch (6) £ (t — fe) — его представление в виде
fe^-0
скользящего суммирования, в качестве оценок и ёи неизвестных
о8 и О можно выбрать те значенияд„ и 0П, для которых достигается
минимум выражения
п 1п о2 +	(4.М)
п-1
где Wn (6, х (/), t е Го) = n W (/, 0) (1 - Вп (0; Bn(t)«
-«-bl
n—t
=	*(/,) —эмпирическая корреляционная функция;
/“1
F(f, 0)—коэффициент при гг в лорановском разложении функции
СО
ю (г, 6) е) й'(172,~ёр и 6) == У, ck {предполагается,
что такое разложение возможно в кольце, содержащем единичную
окружность).
Теорема 1. Если выполнены условия-
1)	случайные величины l,(t) в представлении процесса £(/) в
виде скользящего суммирования независимы, одинаково распреде-
лены и имеют конечные четвертые моменты;
2)	параметрическое множество 0 является компактом в конеч-
номерном евклидовом пространстве R*, 0= (0ц©г, .... 0л);
3)	|о(£, 01) ]а |i>(z, О2) |! для почти всех |z| = 1, 61, 0ге6,
6’ 02;
23 5 ПАРАМЕТРЫ СПЕКТРАЛЬНОЙ ПЛОТНОСТИ	627
4)	f(X, 6) и 0) непрерывны на [—л, л],
то оценки и 0„ являются состоятельными оценками о® и 0,
Если, кроме того, выполнено условие.
5)	функция (|o(z, 0) |2) 1 имеет непрерывные производные "по
0/ до третьего порядка включительно в окрестности истинного зна-
чения 0о параметра 0 и
ОО
EfelcH0o)l<°°’
«!=1
то распределение вектора —7= (0« “ 0о) стадится при п->оо к нор-
уп
мильному с нулевым средним и ковариационной матрицей G^1, где
Оо имеет элементы
g?m == hm 1 F <?ln | «GA 0)|? din |« (AO) |2 ..
0лО1 _ j --------------------------------
(/, m == I...k) (в предположении что Go невырождена).
Литература: [2, 7, 25, 65, 92, 101, 110].
СПИСОК ЛИТЕРАТУРЫ
1	. Айвазян С А, Енюков И. С, Мешалкин Л. Д. При-
кладная -статистика Основы моделирования и первичная -обра-
ботка данных.—Мл Финансы и статистика, 1982.
2	Андерсон Т, Статистический анализ временных рядов/Пер,
с англ. — М.: Мир, 1976.
3	Андерсон Т. Введение в -многомерный -статистический ана-
лиз/Пер. с англ. — М : Физматгиз, 1963.
4	Б а р р а Ж -Р. Основные понятия математической статистики. —
М.:А4ир, 1974.
6.	БикялисА О центральной предельной теореме в R* — Ли-
тов. мат сб, 1971, № 1, с 27—58.
6 Биллингсли П. Сходимость вероятностных мер/Пер. с
англ. — М.: Наука, 1977
7.	Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз
и управление/Пер. с англ — М: Мир, 1974.
8.	Большее Л. Н., Смирнов Н. В. Таблицы математической
статистики —3-е изд. — М: Наука, 1983.
9.	Боровков А. А. Сходимость мер и случайных процессов.—
УМН, 1976, 31, № 2, с. 5—68.
10.	Боровков А. А Асимптотические методы в теории массового
обслуживания.—М.: Наука, 1980.
11.	Боровков А. А. Вероятностные процессы в теории массового
обслуживания —М: Наука, 1972.
12.	Боровков А. А. Курс теории вероятностей. — Мл Наука,
1972.
13-	Боровков А. А. Математическая статистика. Оценка пара-
метров, проверка гипотез. — М.: Наука, 1984.
14.	Ван дер Варден Б. А Математическая статистика/Пер. о
нем. — Мл ИЛ, I960.
15.	Вентце ль А. Д. Курс теории случайных процессов. — М.»
Наука, 1975.
16.	Гельфанд И М., Виленкин Н. Я. Некоторые применения
гармонического анализа. — М.: Физматгиз, 1961 г.
17.	Гихман И. И. Предельные теоремы для последовательностей
серий случайных величин. — Теория случайных процессов. Респ.'
межвед. сб. Киев: Наук, думка, 1974, выл. ?, 37—47 с.
18.	Гихман И. И., СкороходА. В. Стохастические дифферен-
циальные уравнения и их приложения. Киев: Наук, думка, 1982.
19.	Гихман И. И., СкороходА. В. Введение в теорию случай-
ных процессов. — 2-е изд.—Мл Наука, 1977.
20,	Гихман И. И., Скороход А. В. Теория случайных процес-
сов. Т. 1.—М.: Наука, 1971.
СПИСОК ЛИТЕРАТУРЫ	629
81. Гихман И. И., Скороход А. В. Стохастические дифферен-
циальные уравнения. — Киев: Наук думка, 1968
22-	Гихман И. И, Скороход А. В Стохастические дифферен-
циальные уравнения и их приложения. — Киев: Наук, думка
1982.
23.	Гнеденко Б. В. Курс теории вероятностей. — 4-е изд — Мл
Наука, 1965.
24.	Гнеденко Б. В., Колмогоров А. Н. Предельные распре-
деления для сумм независимых случайных величин. — Л. — Mi
Гостехиздат, 1949.
25.	Гренандер У. Случайные процессы и статистические вы-
ноды/Пер. с англ. — М : ИЛ, 1961
26.	Григелионис Б. О мартиигалыюй характеризации случай
ных процессов с независимыми приращениями. — Литов, мат.
сб., 1974, 14, № 4, с 45-61.
27.	Делл am ери К Емкости ц случайные процессы.—М: Мир
1975.
28.	Дуб Дж. Вероятностные процессы/Пер. с англ. — М.: ИЛ,
1956.
29.	Ды н к и н Е. Б. Основания теории марковских процессов — М.1
Физматгиз, 1959.
30-	Дынкин Е. Б. Марковские процессы. — М.: Физматгиз, 1963,
31.	Дынкин Е. Б, Юшкевич А. А. Теоремы и задачи о про
цессах Маркова. — М.: Наука, 1967.
32.	Звонкин А. К, Крылов Н. В. О сильных решениях стоха-
стических дифференциальных уравнений — В кн.: Труды школы-
семинара по теории случайных процессов(Друскининкай, 1974 г).
Вильнюс; Изд-во Ии та физики в математики АН ЛитовССР,
1975, с. 9—88.
33.	Золотарев В. М. Одномерные устойчивые распределения. —
М.: Наука, 1983
34.	Ибрагимов И. А, Линник 10. В. Независимые и стацио-
нарно связанные величины —М: Наука, 1965.
35.	Иванов Г. А, Ч е ш к и н Ю. Р. Исследование статистических
критериев, используемых для построения математической модели-
при аппроксимации опытных данных. — В сб.: Некоторые воп-
росы теории случайных процессов. Киев: ИМ АН УССР, 1984,
«. 133—140.
36.	Ито К. Вероятностные процессы/Пер. с япон —М.: ИЛ, 1963.
37.	И т о К, Маккии Г. Диффузионные процессы и их траекто-
рии/Пер. с англ. — М: Мир, 1968
38.	Кабанов Ю. М., Липцер Р. Ш., Ширяев А. Н. Мартин-
гальные методы в теории точечных процессов.— В кп.: Труды
школы-семинара по теории случайных процессов (Друскининкай,
1974). Вильнюс И щ во нн ia физики и математики АН, Ди-
тавССР, 1975, с. 269—354.
39,	К а р л и н С. Основы теории случайных процессов, М»: Мир,
1970.
40.	К е м е н и Дж , Снелл Дж. Конечные цепи Маркова/Пер. с
англ. — М: Наука, 1970.
41.	К е н д а л л М., С г ью а р т А. Теория распределений/Пер. с
англ —М.: Наука, 1973.
42,	К е и д а л л М, Стьюарт А. Статистические выводы и свя-
зи/Пер. с англ. — М.: Наука, 1975,
630
СПИСОК ЛИТЕРАТУРЫ
43.	КоксД,Хинкли Д. Теоретическая статистика/Пер. с англ.—
М.: Мир, 1978.
44	Колмогоров А. Н. Основные понятия теории вероятно-
стей. — 2-е изд. — М.: Наука, 1974.
45.	К о л м о г о р о в А. Н. Стационарные последовательности» в гиль-
бертовом пространстве. — Бюллетень МГУ, 1941, 2, № 6, 1—40.
46.	КолмогоровА. Н. Интегрирование и экстраполирование слу-
чайных последовательностей. — Изв. АН СССР, сер. мат., 1941,
5, Ms 5, 3—14.
47.	Королюк В. С. Граничные задачи для сложных пуассоновских,
процессов. — Киев: Наук, думка, 1975.
48.	Королюк В. С., Турбин А. Ф. Полумарковские процессы и
их применение. — Киев: Наук думка, 1976.
49.	Крамер Г. Математические методы статнстнки/Пер. с англ.—
2-е изд. — М : Мир, 1975.
50.	Крамер Г., Л и д б е т т е р М. Стационарные случайные про-
цессы/ Пер. с англ. — М.: Мир, 1969.
51.	Круглов В. М. Дополнительные главы теории вероятностей.—
М.: Высш, шк., 1984.
52.	Крылов Н. В. Управляемые процессы диффузионного типа. — 
М.: Наука, 1977.
53.	Кузнецов С. Е. Неоднородные марковские процессы.— В кн.:
Современные проблемы матсматки—ВИНИТИ АН СССР,
Итоги науки и техн., 1972, 20, с. 37—178.
54.	Ламперт и Дж Случайные процессы.— Киев: Вшца шк., 1983.
55.	Леви П. Стохастические процессы и броуновское движе-
йие/Пер. с франц. — М.: Наука, 1972.
66. Леман Е. Л. Проверка статистическйх гипотез/Пер. с англ. —
М.: Наука, 1964.
57.	Линник Ю. В. Метод наименьших квадратов и основы мате-'
матнко-статистической теории обработки наблюдений. — М.:
Физматгиз, 1962.
58	Линник Ю. В. Статистические задачи с мешающими пара-
метрами.— М.: Наука, 1966.
59.	Липцер Р. М., Ширяев А, Н. Статистика случайных про-
цессов.— М.: Наука, 1974.
60.	Лоэв М. Теория вероягностей/Пер. с англ. — М.: ИЛ, 1962.
61.	Маккин Г. Стохастические интегралы/Пер. с англ.—М.: Мир,
1972.
62.	Ме.йер П. Вероятность и потенциалы/Пер. с англ. — М.: Мир.
1973.
63.	Невё Ж. Математические основы теории вероятное! ей/Пер. с
франц. — М.: Мир, 1969.
64.	Петров В. В. Суммы независимых случайных величин.—М.:
Наука, 1972.
65.	Писаренко В. Ф., Розанов Ю. А. О некоторых задачах
для стационарных процессов, приводящих к интегральным урав-1
нениям, родственным уравнению Винера — Хопфа. — Проблемы
передачи информации, 1963, вып. 14.
66.	Портенко Н. И. Обобщенные диффузионные процессы.—
Киев: Наук. Думка, 1982.	j
67.	Пр о хоров Ю. В. Сходимость случайных процессов и пре-
дельные теоремы теории вероятностей. — Теория вероятностей'
и ее применения, 1956, 1, Ns 2, с. 127—238.
СПИСОК ЛИТЕРА IУРЫ
631
68.	П р о х о р о в 10. В, Розанов Ю. А. Теория вероятностей:
основные понятия, предельные теоремы, случайные процессы.—
М.: Наука, 1973
69.	Р а о С Р. Линейные статистические методы и их применен
ния/Пер. с англ. — М Наука, 1968
70.	Розанов 10. А. Стационарные случайные процессы. — M..J
Физматгиз, 1963.
71.	Розовский Б, Л. Эволюционные стохастические системы.—
М,: Наука, 1983.
72	Романовский В. И. Математическая статистика. — М.:
ГОНТИ, j938
73.	Р о м а и о в с к н й В. И. Дискретные цепи Маркова. — Л. — М.з
Гостехиздац 1949
74.	Сазонов В В О скорости сходимости в многомерной цен-
тральной предельной теореме. — Теория вероятностей и ее при-
менение, 1968, I, с. 191—194.
75.	С а р ы м с а к о в Т. А Основы теории процессов Маркова.—
М.: Гостехиздаг, 1954
76.	Себер Дж. Линейный регрессионный анализ.—М.: Мнр, 1980.
77.	С е в а с г ь я и о в Ь А Ветвящие: я процессы. — М : Наука,
1971.
78.	С и р а ж д а и о ь С. X. Предельные теоремы для однородных
цепей Маркова. — Ташкент: Изд-во АН УзССР, 1955.
79.	Скороход А. В. Стохастические уравнения для сложных си-
стем.— М.: Наука, 1983.
80.	Скороход А. В. Предельные теоремы для случайных процес-
сов — Теория вероятностей и ее применение, 1956, 1, № 3,
с. 289—319.
81.	Скороход А, В. Случайные процессы с независимыми прира-
щениями.— М.: Наука, 1964
82.	Скороход А. В. Исследования по теории случайных процес-
сов.—Киев: Изд-во Киев, ун-та, 1961.
83.	Скороход А. В. Елем сити теорп ймомрносгей та випадкових
пронесiв - Кшв: Битца шк., 1975.
84.	Скороход А. В., Слободенюк Н. П. Предельные теоре-
мы для случайных блужданий. — Киев: Наук, думка, 1970.
85	Соле Дж Л Основные структуры математической статисти-
ки/Пер. с франц. — М,: Мир, 1972.
86.	Спицер Ф Принципы случайного блуждания/Пер с англ. —
М-: Мир, 1969
87.	Т а к а ч Л. Комбинаторные методы в теории случайных процес-
сов/Пер с aiu.i — М: Мнр. 1971.
88.	Уилкс С. Матема гичсская статистика/Пер. с англ. — М.‘ Нау-
ка, 1967.
89.	Феллер В Вне теине в теорию вероятностен и ее приложе-
ния/Пер. с aiujT. Т. 1, 2 —М.: Мир, 1984
90.	Хант Дж. Марковские процессы н ”отенцналы/Пер. с англ. —
М.: ИЛ, 1962.
91	Харрис Т. Е. Теория ветвящихся процессов/Пер. с англ.—
М.: Мир, 1966.
92.	Хенн в н Э. Анализ временных рядов/Пер. с англ. — М.: Наука,
1964.
93.	X е н н а н Э. Многомерные временные ряды/Пер. с англ. — Мл
Мнр, 1974.
632
СПИСОК ЛИТЕРАТУРЫ
94.	X п н ч и н А. Я. Предельные законы для сумм независимых слу-
чайных величин. — М.: ГОНТИ, 1938.
95.	X и н ч и н А. Я. Теория корреляции стационарных случайных
процессов. — УМН, 1938, вып. 5, с. 42—51.
96.	X и н ч и н А. Я. Асимптотические законы теории вероятностей. —
М. — Л.: ОНТИ, 1936.
97.	Ч ж у н К а й - л а й. Однородные цепи Маркова/Пер. с англ. —«
М.: Мир, 1964.
98.	Ширяев А. Н. Вероятность.—М.: Наука, 1980.	d
99.	Ширяев А. Н. Статистический последовательный анализ. —•
М.: Наука, 1969.	"4
100.	Шуренков В. М. Эргодические теорем» и смежные вопросы'
теории случайных процессов. — Киев: Наук, думка, 1984.
101.	Яг л ом А. М. Экстраполирование, интерполирование и фильтра-
ция стационарных цроцессов с рациональной спектральной плот-
ностью. — Тр Моск. мат. об-ва, 1955, 4, с. 333—374.
102.	Я г лом А М. Введение в теорию стационарных случайных
функций. — УМН, 1952, УП, вып. 5, 3—168.
103.	Я гл ом А. М. Корреляционная теория стационарных случай-
ных функций. — Л.: Гидрометеоиздат, 1981.
104.	Я г л о м А. М. Некоторые классы случайных полей в п-мерпом
пространстве, родственные стационарным случайным процес-
сам — Теория вероятностей и ее применения, 1957, 2, Ns 3,
с. 293—333.
105.	Ядренко М. И. Спектральная теория случайных полей. —•
Киев: Изд-во Киев, ун-та, 1980.
106.	Athreya К. В., Ney Р. Branching processes. Berlin-Heidel-
berg, Ms 4, 1972.
107.	Blumenthal К. M., Getoor R. К. Markov Processes and
Potential Theory.— N. Y.: Academic Press, 1968.
108.	Barlow M. T. One dimensional stochastic differential eqtia*.
tions without strong solution. — Journal London Math. Soc., 26/
1982, p. 335—347.
109.	Friedman A., Stochastic differential equations and applica-
tions, v. 1, 2. — N Y.' Academic Press, 1976.
IM). Grenander U., Rosenblatt M. Statistical analysis of ti-
me series. — N Y., Wiley, 1957.
111. Jacod J. Calcul stochastique et problemes de martingales. Lec-
ture Noles in Mathematics, v. 714.— Berlin: Springer Verlag,
1979.
112. Kemeny J. G., Snell J. L., Knapp A. W. Denumerable Mar-
kov chains. — N. Y. — L.: Van Nostnand, 1966.
143.	Kai aith T. Lecturesфп linear least-squares estimation.—Sprin-
ger Verlag Wien, 1976.
144.	Me yer P. A. Processus de Markov. Lecture Notes in Mathema-
tics, v. 26. — Berlin: Springer Verlag,' 1967.
115.	Moyal I. E. The general ttesory -of -stochastic papulation pro-
cesses.— Acta math., 1962, 108, № 1, p. 1—31.
116.	N even J. Martingales a temps discret. — Paris, 1972.
117.	Revuz D. Markov chains.—Amsterdam: Elsevier, 1975.	-
148. Stroock D. W., VaTadtiavi S. R. S. Multidimensional dif-
fusion processes. — Berlin: Springer Vertag, 1979.
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Абсолютная непрерывность мер
225, 582
Автокорреляционна я	функция
242
Алгебра событий 12
Альтернатива 542
Асимптотические разложения 84,
142
Асимметрии коэффициент 108
Атом 20
Байеса метод 561, 609
—	формула 32
Бартлетта оценка 625
Бернулли распределение 109
—	схема 40
Берри — Эссеена неравенство 82
Биркгофа теорема 280
Благоприятствующий исход 14
Бляшке —Привалова оператор
391
Большие уклонения 87
Больших чисел закон 41, 46, 47,
293 295
--------усиленный 48, 281, 412
Борелевские множества 17
Бореля— Кантелли теорема 39
Бореля — Таннера распределение
116
Бохнера — Хинчина теорема 65,
245
Буркхольдера неравенство 317
Вальда — Вольфовица критерий
серий 549
— тождество 154
Вариационный ряд 528, 534
Вероятностное пространство 17
Вероятность 13, 14
— перехода 169,172,340,343,408
•---стохастически непрерыв-
ная 368
----феллеровскля 351, 364
— условная 32, 35
Винера метод 266
Винеровский процесс 211, 422
Вольда разложение 269
В< сстановления процесс 145
-----линейчатый 149
-----стационарный 147
- уравнение 146
— функция 146, 151
Вполне монотонная функция 62
Временной ряд 621
Выборка 524
Выборки размах (широта) 535
Выборочная дисперсия 532, 540,
542
— функция 206, 285
Выборочное пространство 524
— среднее 532, 539, 542
Выборочные моменты 539
Гальтона — Ватсона процесс 427
Гармоническая функция 179, 181,
393
Гаусса — Маркова теорема 576
Гауссовская случайная величина
455
Гипотеза простая 542, 544
— сложная 542
Гливепко теорема 537
Грапнчные функционалы 161
Даниэля оценка 625
Деблина условие 183
Дебют множества 222
Дини условие 502
Дирихле распределение 139
Дисперсия 29
Доверительная область 532, 559
Доверительный интервал 532,
560
Дуба неравенство 318
— разложение 320, 327
Дубинса неравенство 318
634
ПРЕДМЕТНЫЙ указатель
Единственность решения силь-
ная 499
---- слабая 499
Закон больших чисел 41, 46, 47,
293, 295
-------усиленный 48, 281, 412
— нуля и единицы 39, 354
— повторного логарифма 50,
410, 413, 422
Значимости уровень 543
Измеримая функция 19
Измеримое пространство 17, 225
Инвариантное множество 184
Инвариантный заряд 179
Индикатор события 17
Интерполяция линейная 274
Инфинитезимальный оператор
362, 363
Информации количество 553
Информационная матрица 555
Ито формула 336, 477, 515
Квазимартингал 324
Квантиль 108
Класс апериодический 185, 194
—	верхний 50
—	нижний 50
—	периодический 194
—	эргодический 185
Ковариационная матрица 30
— функция 241
Ковариация 29, 229
Колмогорова неравенство 47,
406
— статистика 537, 548
— теорема 206, 538
— уравнения 372, 373, 470, 520
— формула 94
Колмогорова — Розанова теоре-
ма 284
Колмогорова — Чепмена уравне-
ние 169, 173, 340, 359, 468
Компактность слабая 453
---- семейства распределений
54
Корреляции коэффициент 29
Корреляционная матрица 30, 306
— функция 207, 208, 241, 286
---взаимная 208
----эмпирическая 625
Корреляционный оператор 455
Коши распределение 123
Коэффициент асимметрии 108
— диффузии 469
—	доверия 559
—	корреляции 29
—	обрыва 329
—	переноса 469
— сильного перемешивания 283
—	усиления фильтра 256
—	эксцесса 108
Крамера ряд 88
—	условие 87
Крамера —Рдо неравенство 553,
555
Крикиберга разложение 319 '
Критерий 542
— Неймана — Пирсона 544, 583
 Неймана — Фишера фактори-
зационный 528
—	непараметрический 548
---порядковый 549
—	несмещенный 543
— отношения правдоподобия
545, 546
— последовательный отношения
правдоподобия 549
— равномерно наиболее мощный
544
— рандомизированный 544
—	54^И^ Вальда — Вольфов ица
—	согласия 542
—	состоятельный 544
—	%2 (хи-квадрат) 547
Критическая область 542
--- подобная 543
—	функция 544
Кумулянта 68, 410
Кунита — Ватанабе неравенство
331
Лапласа преобразование 60
—	распределение 124
Леви — Линдеберга теорема 71,
78
Леви представление 93
—	разложение 405
—	расстояние 55
—	теорема 332
Леви — Хинчина представление
93
Леви — Хинчина формула 407
Лестничные величины 152, 157,
159
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
635
Линдеберга — Феллера теорема
74, 76
Линейная интерполяция 274
— фильтрация 239, 264, 276
— экстраполяция (прогнгн) 238,
264, 271
Локальное время 383
Ляпунова неравенство 106
— теорема 73
Марковский момент 176, 220,
348
Мартингал 311
— локально квадратически инте-
грируемый 330
— локальный 323
Мартингалов проблема 492
Математическое ожидание 27
----условное 33, 34, 36
Матрица информационная 355
“ ковариационная 30
— корреляционная 30, 306
— Псевдообратная 575
— регрессионная 572
— стохастическая 1.92
— структурная 236
Медиана 107
Медленно меняющаяся функция
59, 63, 74, 103"
— растущая на бесконечности
функция 494
Мера 17
— пуассоновская 51!
— спектральная 246, 292, 296
— стохастическая ортогональная
233 236
Метод Байеса 561, 609
— Винера 266
— наименьших квадратов 570
— Яглома 267, 615
Миллса отношение 120
Минимаксная оценка 552
Минлоса — Сазонова теорем а
455
Множество инвариантное 184
— непрерывности 452
— цилиндрическое 206
Мода 107
Момент 28
—	абсолютный 28
—	выборочный 539
— марковский 176, 220, 348
— обрыва 343
— остановки 220, 314
Момент остановки непредска-
зуемый 221
— — предсказуемый 221
— первого выхода 366
---достижения 177, 415
—	смешанный 29, 69
-	факториальный 28
—	центральный 28
Моментные функции 207, 285
Моментов проблема 106
Монотонный класс множеств 16
Муавра — Лапласа теорема 42,
71, 77
Наименьших квадратов метод
570
—	— принцип 572
Независимые случайные величи-
ны 37
-	события 37, 39
Неймана — Пирсона критерий
544, 583
Неймана — Фишера критерий
факторизованный 528
Непрерывности аксиома 16
Неравенство Берри — Эссеена 82
Буркхольдера 317
—	Дуба 318
—	Дубннса 318
—	Колмогорова 47, 406
— Крамера — Рао 553, 555
—	Кунпта — Ватанабе 331
-	- Ляпунова 106
—	Чебышева 44
Несмещенная оценка 532, 552,
610
Несовместимые события 12
Нуля и единицы закон 39, 354
Оператор Бляшке — Привалова
391
— инфинитезимальный 362, 363
— корреляционный 455
— характеристический 368
Отклик 570
Оцениваемая функция параметра
575
Оценка 527, 551
— асимптотически эффективная
556, 611
—	Бартлетта 625
—	Даниэля 625
—	достаточная 554
—	— полная 554
636
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Оценка максимального правдо-
подобия 557, 609
— минимаксная 552
— МНК (метода наименьших
квадратов) 572
— несмещенная 532, 552, 610
—- по методу минимума %® 558
-------моментов 556
— совместно-эффективная 556
— состоятельная 556, 605, 610
— среднеарифметическая 611
— Тьюки — Хэннинга 626
— эффективная 553, 610
Ошибка второго рода 543
— первого рода 543
Парето распределение 130
Парсеваля равенство 66
Паскаля распределение 111
Пересечение событий 12
Переходная функция импульс-
ная 255,265
Периодограмма 621
Пирсона распределение 133
Плотное семейство распределе-
ний (мер) 55, 452
Плотность 225, 583
— распределения 20, 23, 24, 106
— спектральная 247, 258, 260,
292, 296
Повторного логарифма закон 50,
410, 413, 422
Пойа распределение ИЗ
Полиномы Чебышева — Эрмита 84
— Эрмита 478
Поллачека — Спицера тождество
159
Полная группа событий 12
Полной вероятности формула 32
Полугруппа операторов сжимаю-
щая 361
Потенциал 179, 319, 326
Поток о-алгебр 220
Правило трех снгм 121
Правильно (регулярно) меняю-
щаяся функция 103, 132
Правдоподобия отношение 529
— уравнения 557
— функция 526, 557
Преобразование, сохраняющее
меру 279
------- метрически транзитив-
ное 281
Прогнозирование 263
Произведение событий 12
Производящая функция 56
Пространство вероятностное 17"
—	выборочное 524
— измеримое 17, 225
Процесс авторегрессии 262
—	белого шума 258
— броуновского движения 211
— ветвящийся 427, 432
----вырождающийся 430
----докритический 430, 436,
441, 446
----критический 430, 436-, 441,
446
----надкритический 430, 436,
441, 446
----общий марковский 448
----регулярный 433
•---с конечный числом типов
частиц 438, 444
—------------------(не) перио-
дический 444
----------------— (не) разло-
жимый 440, 446
— винеровский 211, 422
— восстановления 145
— вполне измеримый (опцио-
нальный) 222
—	Гальтоиа — Ватсона 427
—	гибели 429
—	детерминированный 269
— дифференцируемый в среднем-
квадратическом 230
— диффузионный 391, 469
---- канонический 391
— измеримый 212
— локально интегриуремый 326
•---ограниченной вариации 326
— марковский 339, 344
---нормальный 352, 359
----обрывающийся 351
---- однородный 358
— — прогрессивно измеримый
348
----регулярный 378
----стандартный 350, 367 .
“ недетерминированный 269
— непрерывный в среднем квад-
ратическом 230, 251
— Пуассона 210, 426'
— предсказуемый1223
— прогрессивно измеримый 221
— размножения и гибели 378
— регулярный 269
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
637
Процесс с независимыми прира-
щениями 218, 403
---- однородный 409
----ортогональными прираще-
ниями 235, 244
— сепарабельный 215
— сингулярный 269
— скользящего среднего 262
— стационарный в узком смыс-
ле 277
-------широком смысле 241
— гауссовский 243
— стохастически непрерывный
208
— строго марковский 349, 366
—	счетно порожденный 223
—	точечный 335
---маркированный 335
— чистого роста 211, 377
— эргодический 400
----непериодический 402
---- периодический 401
"Процессы, стационарно связан-
ные 242
Прямые измерения неравноточ-
ны 574
---- равноточные 573
Пуассона процесс 210, 420
— распределение 21, 114
----сложное 115
—	теорема 43
Пуассоновская мера 511
Равномерная интегрируемость
45, 54, 315
—	малость 72
Равных вероятностей эллипсы
136
Разках (широта) выборки 535
Распределение 19, 22, 454
— абсолютно непрерывное 20,
23, 105
— безгранично депимое 91, 96
— Бернулли 109
— бета 122
—- биномиальное 21, 109
—	Бореля — Таннера 116
—	вырожденное 108
—	гамма ‘J21
— геометрическое 21, >145
— гипергеометричеснос 112
— гиперэкспоненциальнос 118
— Дирихле 139
— дискретное Ю, ‘22, 105
Распределение Коши 123
—	Лапласа 124
—	логарифмическое 115
—	логистическое 130
—	логнормальное 129
—	маргинальное 22
—	непрерывное 20
— нормальное 24, 119, 138
— отрицательное биномиальное
Ш
—	Парето 130
—	Паскаля 111
—	Пирсона 133
—	Пойа 113
— показательное (экспоненци-
альное) 20, 118
-	полиномиальное 135
—	Пуассона 21, 114
---сложное 115
— равномерное 20, 24, 116, 136
—	решетчатое 20
— Салема 144
— сингулярное 105, 143
—	совместное 22
— Стыодента 127, ‘140
-	треугольное 117
—	Уишарта 140
—	унимодальное 107
—	ус гойчивое 95, 103, 141
- Фишера — Снелекора 127
— экспоненциальное 20, 118
-	Эрланга 121
—	у (хи) 126
—	хг (хи-квадрат) 124
Рас пределения конечномерные
205, 454
Расстояние Леви 55
—	- по вариации 55
Рсчрессии теоретической функ-
ция 570
Регрессионная матрица 572
-	переменная В70
Pei рессня полиномиально триго-
нометрическая *618
Pei рессор 570
Рсчольвента 362
Решающая функция 583
Решение ст<>хастимеекето даффе-
•ренпиального «уравнения -483,
517
----------сильное 496
----------слабое 496
Селема распределение 144
638
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Свертка мер 89
Семиинварианты 68
Семимартингал 329
— специальный 329
Сингулярные меры 225, 582
Скорохода метрика 465
Случайная величина 19, 454
---- гильбертова 229
----несобственная 105
— замена времени 388
— функция гильбертова 229
— — — дифференцируемая 230
------- непрерывная 230
Случайное блуждание 150, 164
---- (не)возвратное 151
---- полунепрерывное 156
— множество 221
— поле 285
---- гауссовское 287
----измеримое 289
----изотропное 301, 302, 309
----обобщенное 304
----« — однородное 305
—------с однородными прира-
щениями 308
---- однородное 291
----с независимыми прираще-
ниями 288
---- сепарабельное 290
----стохастически непрерыв-
ное 289
Случайный процесс 205
—	эксперимент 11
—	элемент 163
Смирнова статистика 538, 548
—	теорема 538
Событие 11, 12
—	достоверное 12
—	невозможное 12
—	противоположное 12
— элементарное 12
Состояние возвратное 194
---- нулевое 197
----положительное 197
— невозвратное 194
— несущественное 193
— существенное 193
Состояния сообщающиеся 193
Сохраняющее меру преобразова-
ние 279
Спектральная мера 246, 292, 296
— плотность 247, 258, 260, 292,
296
— функция 246, 301
Спектральная функция эмпири>
ческая 622
Спектральное окно 623
— представление 248
Спеднеквадратическое отклони
ние 29
Статистика 527
—	достаточная 528
—	— минимальная 529
—	Колмогорова 537, 548
•	— полная 530
— порядковая (ранговая) 534
— Смирнова 538, 548
Статистическая структура 524
---доминируемая 524
Стационарная мера 179
Стационарные вероятности 378
Стохастическая матрица 192
—	мера ортогональная 233
------- векторная 236
Стохастический интеграл 233,
237, 332, 472
Стохастическое дифференциаль-
ное уравнение 483, 516, 522
Строгая марковость 177
Строго марковский процесс 349,
366
Структурная матрица 236
—	функция 233
Стыодента распределение 127,
140
Субгармоническая функция 179
Субмартингал 311
Сумма событий 12
Супергармоническая функция 179
Супермартннгал 311
Сходимость в основном 53
—	в среднем 45
-------квадратическом 45, 229
—	по вероятности 41
— почти наверное (с вероят-
ностью 1) 48
— слабая 54, 451
Табу-вероятности 199
Теорема Берри — Эссеена 82
— Биркгофа 280
— Бореля — Кантелли 39
— Бохнера — Хинчина 65, 245
—	восстановления 146
--- узловая 147
—	Гаусса — Маркова 576
—	Гливенко 537
—	Колмогорова 206, 538
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
639
Теорема Колмогорова— Розанова
284
— Леви 332
— Леви— Линдсборга 71, 78
— Линдеберга — Феллера 74, 78
—- локальная предельная 80, 81
— Ляпунова 73
— Минлоса — Сазонова 455
— Муавра — Лапласа 42, 71, 72
— непрерывности 59, 62, 66
— о представлении G2
—	- — трех рядах 52, 457
— обращения 60, 65
—	Пуассона 43
—	Смирнова 538
—	сравнения 505
—	тауберова 59, 63
— центральная предельная 70,
76, 79, 191, 203, 284, 458
— Ченцова 290
— эргодическая 202, 253
Тождество Вальда 154
>— Поллачека— Спицера 159
— факторизационное 156
Траектории процесса 206
Тренд 617
Тьюки — Хэннинга 626
Уишарта распределение 140
Умножения вероятностей форму-
ла 32
Уравнение восстановления 146
— Колмогорова 372, 373, 470,
520
— Колмогорова — Чепмена 169,
173, 340, 359, 468
—	Фоккера — Планка 470
Уровень значимости 543
Условие Деблина 183
—	Дини 502
Условная вероятность 32, 35
Условное математическое ожи-
дание 33, 34, 36
—	распределение 33
Фаза фильтра 256
Фазовое пространство 163, 205,
344
Факторизации компонепгы 156,
157
Факторизациоппыс тождествч
156
Фильтр линейный 255
Фильтр полосовой 256
—	физически осуществимый 257
Фильтрация 263
— линейная 239, 264, 276
Фишера — Снедекора распреде-
ление 127
Фоккера — Планка уравнение
470
Формула Байеса 32
— Ито 336, 477, 515
—	Колмогорова 94
—	Леви — Хинчина 407
— умножения вероятностей 32
— Хинчина— Поллачека 159
Функционал аддитивный 379
-- граничный 161
мультипликативный 353, 378
Функция автокорреляционная
242
— восстановления 146, 151
— вполне монотонная 62
— выборочная 206, 285
— гармоническая 179, 181, 393
— измеримая 19
— ковариационная 241
- корреляционная 207, 208, 241,
286
---- взаимная 208
— медленно меняющаяся 59, 63,
74, 103
----растущая па бесконечно-
сти 494
— моментная 207, 285
— параметра оцениваемая 575
— положительно определенная
64, 229
— правдоподобия 526, 577
— правильно (регулярно) ме-
няющаяся 103, 132
— производящая 56
— распределения 18, 19, 22, 105
----эмпирическая 537
— решающая 533
— спектральная 246, 301
— структурная 233
— субгармоническая 179
— супергармоническая 179
— характеристическая 64, 69
— центрирующая 405
— эксцессивная 179, 195, 381
Характеристика взаимная 330
-- квадратическая 331
640
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ-
Характеристика фильтра частот-
ная 255, 260
Характеристическая функция 64,
69
Характеристический оператор
368
— функционал 207, 455
Хинчина — ГГоллачека формула
159
Центрирующая функция 405
Цепь Маркова 163, 171
----- возвратная по Харрису
188
------нулевая 190
—------положительная 190
•----неприводимая 193
-----однородная 172, 174
----- стационарная 179
Цилиндрическое множество- 206
Частота 13, 534
Частотная характеристика филь-
тра 255, 266
Чебышева неравенство 44
Чебышева — Эрмита полиномы
84
Ченцова теорема 290
Шаг распределения 21
Эквивалентность мер 583
Эскпоненциальяая структура.
526
Эксцесса коэффициент 108
Эксцессивная функция 179,
195, 381
Эллипсоид рассеивания 555
Эллипсы равных вероятностей"
138
Эмпирическая функция корре-
ляционная 625
----- распределения 537
— — спектральная 622
Эрланга распределение 121
Эрмита полиномы 478
Эффективная оценка 553-
Эффективность 553, 556
— асимптотическая 556
Яглома метод 267, 615
о-алгебра событий L6