/
Автор: Розанов Ю.А.
Теги: теория вероятностей и математическая статистика математика теория вероятностей
Год: 1982
Текст
If. Л. ИИ З А IIО В чИ
ВВЕДЕНИЕ
к В ТЕОРИЮ
®йк СЛУЧАЙНЫХ
ПРОЦЕССОВ
Ю.А.РОЗАНОВ
ВВЕДЕНИЕ
В ТЕОРИЮ
СЛУЧАЙНЫХ
ПРОЦЕССОВ
/
Допущено Министерством высшего
я среднего специального образования СССР,
в качестве учебного пособия для студентов
физико-математических специальностей вузов
МОСКВА «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
19 8 2
22.171
Р64
УДК 519.21
Розанов Ю. А. Введение в теорию случайных процессов. —
М.: Наука. Главная редакция физико-математической литературы,
1982, —128 с.
В книге излагается краткий курс теории случайных процессов.
Первая его часть (§§ 1—6) посвящена рассмотрению наиболее харак-
терных закономерностей процессов с дискретным вмешательством слу-
чая и изложению различных подходов к изучению такого рода про-
цессов. Вторая часть (§§ 7 —15) включает основные разделы совре-
менного стохастического анализа (в том числе стохастические
дифференциальные уравнения и спектральный анализ случайных ко-
лебаний).
Книга рассчитана, прежде всего, на студентов физико-математи-
ческих специальностей высших учебных заведений, однако основной
материал фактически доступен длнезначительно более широкого круга
.читателей.
Юрий Анатольевич Розандв
ВВЕДЕНИЕ В ТЕОРИЮ СЛУЧАЙНЫХ ПРОЦЕССОВ
Редактор А. В. Прохоров
Технический редактор В. Н. Кондакова
Корректоры Г. В Подвольская, Л. С. Сомова
ИБ № 1 1904
Сдано в набор 07.07.82. Подписано к печати 02.1 1 82 Формат 84Х1081/г2.
Бумага тип. № 3 Литературная гарнитура. Высокая печать. Условн.печ. л. 6,7 2.
Уч.-изд. л. 6,62 Тираж 18000 экз. Заказ № 076. Цена 25 коп.
Издательство «Наука» Главная редакция физико-математической литературы
117071. Москва, В-71, Ленинский проспект, 15
Ордена Октябрьской Революции и ордена Трудового Красного Знамени
Первая Образцовая типография имени А А. Жданова Союзполиграфпрома
при Государственном комитете СССР по делам издательств, полиграфии и
книжной торговли. Москва, М-54. Валовая, 28.
Отпечатано в Московской типографиии № 19 Союзполиграфпрома при Госу-
дарственном комитете СССР по делам издательств, полиграфии и книжной
торговли, 107078. Москва, Каланчевский а у пик, д. 3'5 Зак. 431
1702050000-154
053(02)-82
—КБ—9—35-82
р
© Издательство «Наука».
Главная редакция
физико- математической
литературы, 1982
ПРЕДИСЛОВИЕ
Теория случайных процессов в настоящее время пред-
ставляет собой обширную область математики со многи-
ми различными направлениями, и выбрать материал
для краткого введения в эту теорию—задача далеко не
легкая.
Настоящее «Введение в теорию случайных процессов»
использует простые, но важные для приложений мате-
матические модели, в которых рассматриваются различ-
ные процессы, протекающие во времени под воздействием
тех или иных случайных факторов. Основные задачи здесь
коротко можно представить следующим образом: по
исходным сравнительно простым характеристикам того
или иного процесса нужно указать вероятности тех или
иных, порой весьма сложных, событий или, скажем, оце-
нить те или иные случайные величины, связанные с по-
ведением процесса. Рассматриваемые нами модели выб-
раны так, чтобы на их примере можно было рассказать
о различных методах теории случайных процессов.
Материал книги связан следующим образом. Однород-
ные марковские процессы со счетным числом состояний^—
основными здесь являются эргодическая теорема и метод
дифференциальных уравнений Колмогорова (§§ 1—4),
затем броуновское движение—связь осуществляется по-
средством перехода от дифференциально-разностного урав-
нения Колмогорова для -случайного блуждания к пре-
дельному уравнению диффузии (§ 5), затем основы стоха-
стического анализа, излагаемые под углом зрения на
случайный ^процесс как на кривую в пространстве слу-
чайных величин со среднеквадратичным расстоянием
(§§ 7, 8), затем случайные процессы, опис'ываемые линей-
ными стохастическими дифференциальными уравнениями,
и их сходимость к стационарным в широком смысле
1 * '3
процессам, спектральный анализ стационарных процессов
(§§ 12, 13) и, наконец, некоторые задачи оценивания и
фильтрации (§§ 14, 15). Несколько особняком стоит § 6,
где прямые вероятностные методы для сумм независимых
одинаково распределенных величин применяются к одной
задаче массового обслуживания. Дополнительными можно
Считать §§ 9—11, где рассматриваются нелинейные стоха-
стические дифференциальные уравнения и дифференциаль-
ные уравнения Колмогорова для диффузионных процессов.
В качествеТдополнительной литературы мы рекомендо-
вали бы книгу С. Карлина «Основы теории случайных
процессов» («Мир», М., 1971), где имеется много мате-
риала к нашим §§ 1—6, особенно в части приложений
в биологии, генетике и массовом обслуживании, а также
книгу А. Д. Вентцел я «Курс теории случайных процессов»
(«Наука», М., 1975).
Следует обратить внимание на то, что существенный
материал помещен в форме задач и указаний к ним, В кон-
це книги имеется приложение, где кратко излагаются
некоторые основные понятия теории вероятностей. Систе-
матическое Изложение основ теории вероятностей читатель
может найти в книгах А. А. Боровкова «Теория вероят-
ностей»' («Наука», М., 1976) и А. Н. Ширяева «Вероят-
ность» («Наука», М., 1980).
§ 1. ПРОЦЕССЫ С ДИСКРЕТНЫМ ВМЕШАТЕЛЬСТВОМ
СЛУЧАЯ (ПРИМЕРЫ)
Рассмотрим процесс радиоактивного распада, при ко-
тором радий Ra с течением времени превращается в ра-
дон Rn. Этот процесс обуславливается тем, что в момент
распада атом Ra излучает а-частицу (ядро атома гелия
Не) и происходит переход Ra —>- Rn. Известно, что этот
процесс носит случайный характер.
Предположим, что каждый атом Ra превращается
через время t вжатом Rn с некоторой вероятностью F (f),
зависящей от t. Уточним, .что речь идет о функции-рас-
пределения F (/) времени распада отдельно взятого атома
Ra, наблюдаемого с некоторого момента ta, а именно,
4 = (>0, (1.1)
где т есть время с момента tQ до момента перехода Ra —*
—► Rn, и'здесь неявно, предполагается,- что вероятность
распада за время t одна и та же^независимо от
того, в какой момент ta мы выбираем тот или иной атом
Ra. В соответствии с этим, наблюдая выбранный атом Ra
с момента (0, при условии t>s в момент ^ = ((,4-8 мы
по-прежнему имеем дело с 'атомом Ra, и вероятность его
распада за последующее время t есть F (t), а вероятность
его^сохранения, т. е. вероятность того, что при
условии t>s, есть 1—F ((). Введем функцию
fp.(/)=i—F(0=p{t>0,
Как только что было указано; р(() = Р{т>() совпадает
с условной вероятностью того, что t>s4~( при условии
т>$:
Р{т > s-(-(|т> s) =р(/) =
=п*>;о.
в
Используя это,< для вероятности того, что x>s-H, по-
лучаем
/?(s-H) = P{t> s + 0 =
= Р{т > s-H |т> s| P{t > s} = p(t)-p(s).
Таким образом, при всех s, (>Омы имеем
p(s+0 = p(s).p(0. (1.2).
Это хорошо известное в анализе функциональное уравне-
ние, которое приводит к функции
. р(0 = Р{т> 0 = t^Q. (1.3)
Конечно, речь идет о функции, не равной тождественно О,
а имецно так и обстоит дело в нашем случае. Формула (1.3)
особенно легко выводится из функционального уравнения
(1.2) в предположении о том, что функция p(t) непре-
рывно дифференцируема. Очевидно, для монотонно не-
возрастающей функции р (I) = Р {т > t}, р (0) #= 0, из .со-
отношения (1.2) вытекает условие р-(6)=1. Дифференци-
руя обе части равенства (1.2) по переменному s и пола-
гая затем s = 0, р'(0) =— к, получим дифференциальное
уравнение
p'(t)=s — kp(t), t>0,
решение которого с начальным условием р (0) = 1 описы-
вается формулой (1.3), в которой постоянная к должна
быть положительной, поскольку р(/)^1.
Полученное нами распределение вероятностей неотри-
цательной случайной величины т называют показательным
распределением. Оно имеет функцию распределения (1.1)
с плотностью
f(t) = ke~u, t^Q. i
Параметр к > 0 имеет наглядный вероятностный смысл,
а именно,
1«Мт=>
есть среднее значение (математическое ожидание) случай-
ной величины т.
Отметим, что из экспоненциальной формулы (1.3)дл.я
времени, распада вытекает существование так называемой
постоянной полураспада Т—времени, за которое в сред-
6
нем распадается половина исходного вещества (Т не за-
висит от исходного количества Ra). Действительно, пусть
в начальный момент имеется п атомов Ra. Каждый из
них сохраняется время t с вероятностью p(t), и среднее
число остающихся через время t атомов Ra согласно (1.3)
есть
п. (/) — пр (t) = пе~ м, t 0.
Уточним, что число остающихся атомов Ra есть случай-
ная величина v(t), и речь идет о математическом ожи-
дании n(t) = Mv (/). Видно, что определяемая из равенства
п (Т) = п/2 величина Т не зависит от количества п исход-
ного вещества Ra: 7’ = 1п2/Х.
Задача. Пусть т—неотрицательная случайная вели-
чина, имеющая показательное распределение. Будем ин-
терпретировать т как «время ожидания». Показать, что
Р{т> s-H|r > s} = P{t> /}, s, tZ^O, " (1.4)
т. e. что последующее за уже прошедшим временем s
«время ожидания» имеет то же распределение вероятно-
стей, что и полное время ожидания т.
Задача. Пусть т1( ..., т„—независимые случайные
величины, имеющие показательное распределение вероят-
ностей с соответствующими параметрами Хь ..., Х„. До-
казать, что случайная величина T = min(Xj....тя) имеет
показательное распределение с параметром X = ... 4* Х„,
а именно,
Р{т>/} = Г(Х*+-+М\ <>о. (1.5)
Доказать, что хп различны между собой с веро-
ятностью 1, т. е. совпадение каких-либо тн ..тп имеет
нулевую вероятность, и, таким образом, можно говорить
о£п е р в о й (минимальной) величине среди тп ..., тп.
Указание. Воспользоваться равенством
Р{т> 0 = Р{Т1 > *.....Tn> t}
и условием независимости величин тп %п.
Задача. Пусть тп ..., хп—независимые случайные
величины, имеющие показательное распределение с пара-
метром X, ит = тт(т1, ..т„). Обозначим т{, ..., T^_t
отличные от 0 величины среди тх—т, ..., тп—т. Дока-
зать, что Ti, ..., Тд_]_ независимы и каждая величина
т' = т* имеет показательное распределение вероятностей
с исходным параметром %:
' Р{т'>/} = е-х<, /^0. ' (1.6) ;
Указание. Использовать инвариантность распреде- .
ления величин ..., т относительно перестановки
тх, ..., т„ и тот факт, что при условии т = т„
Р{Ъ—t„_j—т„>/п_1|т = т„} =
= Р{Т1>^4-Т„, +
К >%,...., = ... е-4-i.
Вернемся к нашему процессу радиоактивного распада
и рассмотрим число а-частиц излучаемых за проме-
жуток времени t.
Рассмотрим процесс изменения величины £(/) тече-
нием времени t. Выбрав начало отсчета ^о = О, мы будем
иметь дело с числом а-частиц (0, излученных к моменту t.
Пустев начальный момент число атомов Ra равно и^и
il означает время распада имеющегося в наличии й-го
атома Ra (k = 1, ..., п). Мы знаем, что величины т* имеют
показательное распределение вероятностей с одним и тем
же параметром X. Допустив, что каждый атом Ra распа-
дается независимо от состояния других атомов, заключаем,
что время
a. = min(Tj, т*)
до появления первой а-частицы должно быть распределено
по показательному закону с параметром л0 = пХ (см. (1.5)).
Условившись называть | (/) состоянием рассматриваемого
процесса в момент t, можно сказать, что начальное со-
стояние есть | (0) = 0, в нем процесс находится случайное
время До, распределенное по показательному закону с па-
раметром Х0 = пХ, а в момент т0 = Д0 происходит переход
в новое состояние £(т0)—1. В момент т„ остается п — 1
атомов Ra. Обозначив т* время (после момента т0) до рас-
пада k-ro из оставшихся атомов Ra, заключаем, что про-
цесс находится в состоянии | (т0) = 1 случайное время
A| = min(r{, ...» <_х), "
распределенное по показательному закону с параметром
Хх = (п—1)Х (отметим по этому поводу (1.6)), а через вре-
мя Дх в момент тх = т04-Дх совершается переход в новое
состояние 5(т1) = 2. Вообще, при попадании в момент
В
5 состояние £ (г,) = i + 1 процесс (независимо от его пове-
дения до момента т;) находится в состоянии i-f-1 случай-
ное’время Д/+1, распределенное по показательному закону
с’параметром \-+i=(n—i — 1)Х, затем совершается переход
в’новое состояние t-{~2 и т. д. Типичная траектория x(t),
этого процесса схематично представлена на рис. 1.
Задача. Пусть случайные величины До, Дп ... та-
ковы, что Дй не зависит от совокупности (До, ..., Д*_1),
k = 1, 2, ... -Показать, что (До, .... Д*_х) и (Д*. ..., Д„),
п > k, независимы.
Аг
Рис. 1.
Легко представить себе следующее обобщение случай-
ного процесса £(/), /^0, описывающего эволюцию неко-
торой «системы». Пусть имеется конечное или счетное
число возможных состояний, занумерованных числами
i = 0, 1, ... В начальный момент исходное состояние
есть £(0) = i0 и в нем процесс находится случайное время
До,^распределенное по показательному закону с парамет-
ром Xfo, после чего в момент т0 = Д0 независимо от itt и
До совершается переход в некоторое новое состояние
с соответствующей вероятностью л(о1,, вообще, после це-
почки последовательных переходов
В (0) = 5 (т0) = = (1.7) '
по состояниям i0, ij, ..., в которых процесс нахо-
дится соответственно время До, Д1( .... в момент
= Ao-f-Aj-l- ... -f-Aft_1 независимо от поведения до
этого момента процесс из исходного состояния пере-
ходит в очередное состояние_|(тй_1) = 1^ с соответствую-
щей вероятностью J4 t lfe, где находится случайное вре- ‘
мя Дй) распределенное по показательному закону с пара-
метром после чего происходит переход в новое сос-
тояние и т. д.
Обращаем внимание на одну замечательную законо-
мерность: общая картина поведения нашего процесса
9
после момента т попадания в то или иное состояние
g (т) = i не зависит от поведения процесса до этого мо-
мента т. Именно, при исходном состоянии £ = £(т) не-
зависимо от «прошлого» процесс находится в состоянии i
случайное время Л, распределенное по показательному
закону с параметром Az, затем с вероятностью пере-
ходит'в некоторое новое состояние /V i и т. д. -
Эта закономерность имеет место и в отношении пове-
дения процесса после любого фиксированного момента s
при известном состоянии | (s) = i в «текущий» момент s:
поведение g(Z), в «будущем» не зависит от «про-
шлого» g(/), t^s. ' t к
Чтобы установить это, обозначим т s момент выхода
процесса из исходного состояния £(s) = i. Как мы знаем>
поведение процесса после момента т при известном состоя-
нии | (т) = / не зависит от «прошлого» до момента т, и
нам нужно установить лишь, что поведение процесса
в промежутке s t т не зависит от «прошлого» до яио-
мента s. Переход i—+j из исходного, состояния совер-
шается в момент т (с вероятностью л)у) независимо от
предшествующих обстоятельств, и, следовательно, инте-
ресующая нас закономерность будет установлена, если
мы покажем, что время пребывания в исходном состоя-
нии g(s) = i после момента s (т. е. величина т—s) неза-
висимо от «прошлого» (до момента s) имеет показательное
распределение вероятностей с параметром Xz. Пусть t'^s
есть момент попадания процесса в состояние £(s) = t
и Л = т—т' есть полное время пребывания в этом состоя-
нии. Мы знаем, что независимо, от момента т'величина Д
имеет показательное распределение с соответствующий
параметром 1(% = XZ при известном £(s) = i). Обратившись
к условным вероятностям для независимых вели-
чин т' и Л будем иметь
Р{т—s > /|т' s, т > s}=P {А > t-\-(s—t')|t'^s,
Д -> > ^ + (s-V),
P {A > s-т', t'<s}
где, повторяем, X = XZ при известном £ (s) = i.
Рассмотрим несколько примеров случайных процессов
описанного выше типа.
Пример (пуассоновский процесс). Обратимся снова
к радиоактивному расЦаду. Как известно, он протекает
очень медленно (экспериментальные данные дают для
постоянной полураспада значение Т ж 1600 лет), и, на-
10
блюдая процесс излучения а-частиц на сравнительно ма-
лом промежутке времени (малом в сравнении с Т), можно
считать, что количество радия остается постоянным. Этр
упрощает характеристики нашего процесса £(<). /^0;
очевидно, упрощение касается параметров X,-, значения
которых теперь будут
Х/ = п% = |1
при всех i = 0, 1, ... (где п есть имеющееся количество
атомов Ra). Легко представить себе обобщение этого
.процесса £(/) на всю временную ось Общая картина
его поведения такова, что в начальный момент мы имеем
g(0) = 0, в этом состоянии процесс остается случайное
время Ао, распределенное по показательному закону с со-
ответствующим napSjieTpo|t %0 = р, после чего процесс
в момент т0 = А0 перетодиув состояние | (т0) = 1, где на-
ходится случайное время An распределенное по показа-
тельному закону с тем же параметром р, затем в момент
= т0+совершается переход в новое состояние | (tJ = 2,
вообще, при попадании в очередное состояние I в слу-
чайный момент т,_1 = До+ ... Ч-Д/-1 процесс независимо
от величин До, ..., Ai_1 находится в состоянии i слу-
чайное время Д^, распределенное по показательному за-
кону с параметром ц, а затем в момент tz = !,•_! Ч-Д,-
происходит переход в новое состояние t'4-l и т. д. Про-
цесс этого типа называется пуассоновским (с парамет-
ром ц).
Пример (однолинейная система обслуживания). Пред-
ставим себе некоторую систему, обслуживающую посту-
пающие на нее требования таким образом, что если си-
стема свободна, то независимо от предшествующих обсто-
ятельств обслуживание занимает случайное время, рас-
пределенное по показательному закону с параметром X,
а если система занята, то поступающее требование полу-
чает отказ и больше не рассматривается. Предположим,
что вероятность одновременного поступления более одного
требования равна 0 и что, закончив обслуживание, не-
зависимо от предшествующих обстоятельств система
«ожидает» очередное требование случайное бремя, кото-
рое имеет показательное распределение с параметром р.
Очевидно, рассматривая два состояния: |(/) = 0—система
свободна и |(/)=1 —система в момент t занята, мы будем
иметь дело со случайным процессом |(Z), типа
(1.7) с параметрами Х0 = р, л01 = 1 и = nJ0 = l.
11
Задача. Показать, что процесс этого типа возникает
в указанной выше системе, если поток требований не за-
висит от процесса обслуживания и является пуассоновским
(с параметром и).
Обратимся к описанному в (1.7) общему процессу |(/),
t 0, с параметрами %,-, л,7. Внимательный читатель
должен был заметить, что этот процесс рассмотрен нами
лйшь до момента
т = А04-Д14-...= lim тл,
п->со
другими словами* речь шла-об изменении состояний £(/)
за конечное число переходов.
00
Задача. Пусть т= Д* есть сумма независимых
/г = 0
случайных величин Дл, имеющих доказательное распре-
деление с параметрами*^, £=0, 1, ... Доказать, что
т—оо с вероятностью 1 тогда и только тогда, когда .
00 , 9
Мт = — оо .
Указание. Воспользоваться равенством
Ме-Т= lim JI Ме-Л*,
//-►оо /г = 0
где Ме-т = 0 тогда и только тогда, когда т=оо с веро-
ятностью 1.
Задача. Пусть Zz^C, i = 0, 1, ...Доказать, что
с вероятностью 1 за конечное время совершается лишь
конечное число переходов (1.7).
Указание. Согласно предположению о независимо-
сти событий
До > Ч» • • • > ^k-l * ifr' * ^ + 1>
описывающих поведение процесса за £ 4-1 последователе
ных переходов, их вероятность есть
Р {До > Ло, h х ffc-i * hi tk >^+i} =
= e -л,„, ... ,-e ,kb-Xi i ' 1.8
rv X К rt /v X
при любых h0, ..., Л4>0и i0, il( ..., ik, ik+1.
Предположим, что за конечное время с вероятность»
1 совершается конечное число переходов.'Тогда при.лю
12.
бом ИСХОДНОМ СОСТОЯНИИ £(0) = 4 путем той или иной
цепочки переходов. процесс оказывается в момент t > О
в том или инбм состоянии £(/) = / с соответствующей
вероятностью
.р<7(о=Р{ИО=^(О)=П.
Уже фактически отмечалось, что картина поведения на-
шего процесса £(<), при исходном состоянии
В (s) = i такая же, как если бы момент s был начальным, •
и при любрм
= = = , (1.9) ‘
указанная вероятность зависит от длины промежутка (s, t)
и не зависит от 'его расположения *а временной оси
(в этом проявляется однородность по времени рассмат-
риваемого нами процесса).
ф Еще раз повторим, что прй заданном текущем состоя-
нии |(s) = i поведение процесса В(0> в будущем
не зависит От течения4 процесса £(/), _/<s, в прошлом,
причем общая ' вероятностная картина его поведения
в будущем целиком, определяется исходным состоянием
B(s) = j. В соответствии с этим при любых условиях
B(Si) = t'i, .... H(s„) = im,. B(s) = i
в моменты . < sm < s вероятность оказаться в мо-
мент t > s в состоянии В (/) = j не зависит от относящихся
к прошлому условий
l(si)-h, .... B(s„) = tM
при заданном текущем состоянии В (s) = i и есть
P{B(O = j|B(S1) = i1, .... l(s) = 0 =
= P{UO = /|Us) = i} = A7G-s)- (1.10)
Выраженное здесь для любых i, j и s свойство
называют марковским', рц(Г), /^0, называют вероятно-
стью перехода из состояния i в .состояние j за время t
или, короче, переходной вероятностью.%•'
Задача. Показать, что при наличии марковского
свойства (1.10) мы имеем
Р {I ... Л (*»)=/Л .....l($„)=^(s)=0=
= рш)=а..........
= Р,7,(Л-«) ... (1.11)
13
для любых состояний в произвольно взятые моменты
времени
Si < • • • < sm < s <
Указание. Для вывода (1.11) можно последова-
тельно воспользоваться общей формулой (1.10), принимая
за соответствующий текущий момент t„_lt ..., tlt s.
В дальнейшем мы укажем общий метод нахождения
переходных вероятностей по параметрам X,- и
X,y = Xt-Ji(7, (1.12)
Задача. Показать, что при малых h > 0 справедливы
следующие асимптотические выражения:
Ра (^0 = 1 4* ° (tyt zi 1 о\
Р/у(/1)=А/14-о(Л), /=^1, , *
где o(h)/h—>0 при h—>-0, причем равномерно по всем
I, / в случае ограниченных параметров X,- С. -
Указание. Согласно (1.8), при любом £(s) = i для
числа последующих переходов за время h (обозначим это
число v(/i)) имеем
Р {v (h) > 2|£ (s) =« 0 < (1 —е~ x‘ft) 2 л,7 (1 —е~ М) = о (й).
i+i
§ 2. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ
СО СЧЕТНЫМ числом состояний /
(ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯ КОЛМОГОРОВА)
Мы будем говорить о системе, состояние которой
в момент t есть £((). Пусть имеется конечное или счетное
число возможных состояний. Как правило, будем обозна-
чать каждое состояние его номером i = 0, 1, ... . Пред-
положим, что процесс перехода системы из одного состояния
в другое является случайным и подчиняется описанным
в (1.9), (1.10) закономеоностям с переходными вероятно-
стями
Р/7(0=р^(о=Ж(0)«о, z,/=o, 1,... (2.1)
Будем называть |(£), /^0, однородным марковским про-
цессом.
14
Отметим, что для любого выбранного шага h > 0 по-
следовательность состояний
...Л„=5(пЛ), ...
образует так называемую цепь Маркова*) с переходной
вероятностью (за один 1паг)
Pij = Pij{h); i,j = 0,1,...
Модель однородного марковского процесса %(t), t^Q,
в котором за конечное время совершается* лишь конеч-
ное число переходов из состояния в состояние, была
описана нами в (1.7)с точки зрения поведения траектории
процесса (графика его течения во времени).
Рассмотрим общий однородный марковский процесс £ (/)>
с переходными вероятностями (2.1).
Пусть задано распределение вероятностей для началь-
ного состояния:
Р{^=О = р?, i = 0, 1, ... (2р? = 1); (2.2)
тогда, согласно общей формуле (1.11), совместное распре-
деление вероятностей случайных величин 5(^1).........B(Q
при любых 0 = /0 < tr < ... < tn будет
P{UM=h. •••Л(и = /„} =
“S/7?/7*<>)• • -Pin-iiniln tn-i)- (2-3)
i
В частности, вероятность того, что система в момент t^>0
будет находиться в состоянии /, есть
= / = 0, 1,... (2.4)
Задача. Показать, что
Pj (s + t) = 'Slpk (s) pkj (t), s,t^Q. (2.5)
' *
Рассмотрим зависимость переходных вероятностей рц (t)
от времени t^O.
Из общей формулы (2.5) при £ (0) = i следует, что для
всех s,
Pij (S+0 = S Р.ь (s) pkj (0. i, i = 0, 1, •.. (2.6)
k
♦) Цёпи Маркова представляют собой одну из наиболее распрост-
раненных и хорошо изученных моделей «дискретной» теории вероятно-
стей—-см., например, Феллер В. Введение в теорию вероятностей и
ее приложения, том 1, пер. с англ.—М., 1967.
15
Введем матрицу
/ , г?(О“{р//(ОЬ />о.
С ее помощью систему .уравнений (2.6) можно записать
уравнением
+ s,/>0. (2.7)
Предположим, что при попадании в любое состояние i
система остается в нем некоторое положительное время т,
точнее, Р{т > 0} = 1. Тогда переходные вероятности рц (/)
непрерывны при t — О, причем
( 1, / = «;
Мо)={о, ' <2«8>
или, в матричной записи,
' lim <p(h) = &(0) = 3, (2.9)
ft->0
где 5—единичная матрица. В самом деле, при ft —». 0
р,7(/1)>р{т>М-*рЬ>о}=«1,
Докажем следующее предложение.
Теорема. В случае конечного числа состояний пере-
ходные вероятности являются непрерывно дифференциру-
емыми функциями-1 и удовлетворяют линейным дифферен-
циальным уравнениям ‘
Pi/(O = S^PV(0, (2.Ю)
k
P'4(t) = y,pik(t)hj (2.11)
k • ’ .
' с постоянными коэффициентами
K^p'iiW, i, i==0,l, ... i'(2.12)
Доказательство. В силу условия, (2.9) для опре-
делителя det ZP (ft) матрицы ZP (Л) имеем lim det ZP (ftl = 1,
а -» о
и, следовательно, обратная матрица /Р (Л)-1 существует при
достаточно малых h > 0, скажем, при h ^6. Обратившись
к соотношению (2.7) при s, /^6, заключаем, *что ZP(ft)-1
существует при h = s-{-t ^26 (и вообще’пригвсех Л^О).
Далее, согласно (2.7),
<f? (/+Л)-zp (0-г? (Л) г? (0-zp (о=(^*(Л) -
' zp (h)-1 (г? (h)-3) (о—о
16
при h—>0, т. е. матричная функция ^(t) является не-
прерывной при всех Существует предел
if
с отличным от 0 определителем det & (/) #= 0, откуда сле-
дует существование обратной матрицы
/*. х-1
( J Z? (s) ds \
V, . ' -
при достаточно малых приращениях /2— /х>0.
Опять-таки, согласно уравнению (2.7),
с г 1
('P(h)-3)-\'?(s)ds = J (ZP(/i)—J)ZP(s)ds =
ti it
tg + fl /2- /а+Л /i + Л
= 5 &(.s)ds—(s)ds—' J /P(s)ds— J Z?(s)ds,
, /1 + ft /1 /2 /1
откуда _
> ff+ftj • /f + ft V , t2 \“1
= J ^>(s)ds—L j/p(s)dsyjz?(s)ds) .
x t, . ' 4 '
Видно, что существует предел
lim ^-(-bg=ZP'(0).
h-*0 "
Положим
A = {^.} = ZP'(0). (2.13)
Снова воспользовавшись уравнением (2.7), при / >0 и
достаточно малых h > 0 имеем
где Z?(A)~*—»-5 при 'ft —>0. Видно, что существует'(не-
прерывная) производная
<!?'(0 = AZ?(0 = ^(0A, _ (2.14)
2 Ю. А. Розанов
17
причем полученные здесь дифференциальные уравнения
есть не что иное, как соответствующие системы дифферен-
циальных уравнений (2.10) и (2-.11), записанные в матрич-
ной форме. Теорема доказана.
Как известно, решением дифференциальных уравнений
(2.14) при начальном условии (0) = 3 является матрич-
ная показательная функция
c?(tj = eAt, t^O. (2.15)
Задача. Показать, что в однолинейной системе об-
служивания (см. пример на стр. 11) переходные вероят-
- ности есть
рм - (1 -its) ' + rrj • Л- <'> =1 ('>•
1 ' />„«)= (1 »-|UW ' + (0= 1 “Л. (0.
' Дифференциальные уравнения (2.10), (2.11) при весьма
широких условиях справедливы и для процессов с беско-
нечным числом состояний; (2.10) называют обратной си-1
стемой, а (2.11)—прямой системой дифференциальных
уравнений Колмогорова.
"Рассмотрим произвольный’однородный марковский про-
цесс'с бесконечным числом возможных состояний i = 0,
1, ... Пусть его переходные вероятности (/) являются
дифференцируемыми функциями от f^0, ^причем пара-
метры (2.12) удовлетворяют условию
2 = ~ (2.16)
которое согласуется с равенством
2р,7(0 = 1-р,7(0. t>Q
i + i
(ср. также с (1.12), (1.13)).
Теорема. Для дифференцируемых*) переходных ве-
роятностей pi/(t) при условии (2.16) справедлива систе-'
ма (2.10) обратных уравнений Колмогорова.
*) Предположение о дифференцируемости легко снять, если исхо--
дить из формул (1.13) (без равномерности) и доказать предварительной
непрерывность Проходит нижеследующее доказательство с зд?
меною lim на lim и Um.
18
Доказательство. Согласно (2.6),
Л/(*4-Л)—Л7(0 Рн(®~ 1 ... -v Pik^ их
------s-----------—РиМ^Ъ-ц-РыМ-
I
Взяв в сумме справа любое конечное число слагаемых,
которые все являются неотрицательными (скажем, взяв
их в числе п), и положив h~>0, а затем п-^оо, полу-
чим неравенство
k
С другой стороны, при достаточно больших и, используя
оценку
lim у У Pik (Л) Pkj (О' С Нт У Pik =
k>n Л-°
- lim If1- £ P^h)\= lim
ft->0 n \ /“ / ft->0 n
\ л < ж ,
-Ita £ №2)=l,_ £
<«, k^n,k^i
получим
Wy(0+[*/- 2
k =£ i \ k<n,
где, согласно условию (2.16),
/X— . 2 -* 0 при . n oo.
\ k < n, k Ф i J
Наши неравенства в итоге дают
Pi/(0—^/Р17(0= S.Wv(0>
k =/= i
что и требовалось доказать.
Задача. Пусть при каждом / равномерно по всем
состояниям i, из которых возможен переход в состояние /,
справедливы асимптотические выражения.(1.13). Для ве-
роятностей
р7.(0=Р{В(0 = /}, 0,
вывести дифференциальные уравнения
7 = 0, 1, ... (2.17)
k
2*
19
Указан не. Воспользоваться равенством
-----h-----=Pj —h— + 2- Pk (0 —jt ’
**/
где ряд сходится и
V к ' 1 Л_л/П
—ft—= ^/+о(’)
равномерно по всем k.
Отметим,. что (2.17) при условии £(0) = i дает на1
прямую систему дифференциальных уравнений (2.11).
Пример (пуассоновский процесс). Сам процесс бы:
описан при рассмотрении потока а-частиц. Как видно и
этого описания, он является однородным марковским про
цессом, удовлетворяющим условиям'(1.13), при который
справедлива система дифференциальных уравнений (2.17]
с параметрами
— X, j = i,
А, j = i 1,
0, t'4-l.
В нашем примере система (2.17) выглядит следующий
образом:
Сделав замену fk(t) = eMPk(t)> k = 0, 1, ....получим
fat)=v.<o+емр'о (о=v« (о - Vo (о=о,
fk (o=v* (o+eMp’k (o=v* (o+^-i (O-wao=
= Vft-i(0, *=1,2, ...»
откуда ч ,
fo(0=i, f1(0=4...JH0=^, ••• j
при начальных условиях 4
Zo(O) = pe(O)=l, fft(O) = Pft(O) = O,. ^1,2, ... j
I
В итоге приходим к известному распределению Пуассона"
, = 6=0,1,...
20
Задача. Показать, что пуассоновский процесс одно-
роден по состояниям в том смысле, что переход из состояния i
в состояние / > i за время t имеет ту же вероятность,
что и переход из 0 в k = j—i, т. е.
Р//(0 = Р*(0=^е-Ч k = j—i.
Указание. Воспользоваться прямой системой (2.11).
Задача. Доказать, что для любых 0< /х<.. .</„
приращения —g((ft), & = ..., п—1, пуассонов-
ского процесса являются независимыми случайными вели-
чинами, причем приращение на интервале (s, t) имеет рас-
пределение Пуассона с параметром р = Х(4— s):
P{£(/)—= = 6 = 0,1, ...
Указание. Воспользоваться равенством'
р {5 (/0-1 (0) (/n_J = in} = р {1(0 =
= ii...B(/„-i) = h+ • • • +i„-i^(/»)=4-b • • • -H»}
и общей формулой (2.3) при |(0) = 0, р#=1.
§ А. ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ
СО СЧЕТНЫМ ЧИСЛОМ СОСТОЯНИЙ (СХОДИМОСТЬ
К СТАЦИОНАРНОМУ РАСПРЕДЕЛЕНИЮ)
Распределение вероятностей {/?/} называется стационар-
ным для однородного' марковского процесса £(/),/^0,
со счетным числом состояний /, если
р;=2р^(0. /=0,1,..., (3.1)
k
где {pft/(0}—переходные вероятности процесса.
Как следует из общих формул (2.3) и (2.4), ири ста-
ционарном начальном распределении p* = pl мы имеем
P{£(/i4-0=h,.--.l(/»4-0 = U= -
=РШНч, ...,UQ=U. (3.2)
т. е. распределения вероятностей любых величин §
. не меняются ири сдвиге на время в ча-
стности, распределение вероятностей,величин £(/) будет
©дно и то же при всех t\
р/(/)=р{^(/)=/}^;, /=о, 1,... (з.з)
21
' Предположим, что для процесса £ (/), t 0, существует '
хотя бы одно состояние /0, куда возможен переход из*
любого состояния i за время Л > 0 с соответствующими,
вероятностями ' .
Р//.(Л)>в>0, i = 0, 1, ... (3.4)'
(подчеркнем, что в этом условии h > 0 одно и то же для
всех состояний i). Тогда справедливо следующее предло-
жение.
Теорема. Существует единственное стационарное
распределение {/?/}, и при >оо
Py(o=p{uo=/}-p;, /=о, 1,...;
, более того, '
——1 ’
|р/(0-р;к(1- 6)h (3-5)
равномерно по всем состояниям независимо от начального
распределения вероятностей.
Доказательство. Обозначим П° множество всех
распределений вероятностей р° — {р®}. Преобразование (2.4)
с матрицей /Р(/) переводит р® = {р®} в р (/) = {pj (/)}; обо-
значим
II (0 = n»ZP (0 .
множество всех распределений
P(t)^p^(t), р»бП®.
Из уравнения (2.7) видно, что
П (s+0 = П (s) (/) <= П«/Р (0 = П (0
при всех s, />0, и, таким образом, множества П(/),
/^0, оказываются вложенными одно в другое. Обозна-
чим П* их пересечение:
П* = 1ппП(/)(=дП(0у
Очевидно, предельное множество П* инвариантно отно-
сительно преобразований 1^0, поскольку
, n^(0?=n(s)Z?(/) = n(s + 0, s>0,
и
n II(s-|-/) = n*.
s>0
22
Отметим, что всякое стационарное распределение p*={pj}
есть точка множества П*, поскольку стационарность
распределения р* означает не что иное, как его инвари-
антность относительно преобразований
p*^>(t) = p*,
(ср. с (3.1)).
Введем расстояние между «точками» р', р"£П°, оп-
ределив его как
Ир'—р"И=sup I р*—р<1»
i
и рассмотрим «диаметры»
diamII(/) = sup ||р'—р"||
Р', Р"еП(О
вложенных друг в друга множеств П(/). Оказывается,
при условии (3.4) преобразование (2.4) является «сжи-
мающим» и
lim diamII(Z) = 0.
/->00
Если это так, то предельное множество П* (когда оно
непусто!) состоит из единственной точки р* = {/?*}• Как мы
знаем, множество П* является инвариантным, и в случае,
когда П* состоит из единственной точки р*, это означает
инвариантность (стационарность) р* = {р*}.
(В случае конечного числа состояний, рассматривая
распределения p = {pz} как точки в векторном простран-
стве с соответствующими координатами pz 0, 1, мы.
i
имеем дело с вложенными друг в друга компактами
П(0, ^^>0, и» следовательно, их пересечение П* непусто!
В общем случае бесконечного числа состояний вывод
о том, что множество П* непусто, нуждается в допол-
нительном обосновании, и мы поведем доказательство
нашей теоремы другим путем.)
Обратимся к выводу оценки (3.5). Положим
(0 = inf рь. (О, Rj (0 = sup Ру (/).
Величины Гу (Z), Rj(t) дают нам соответственно нижнюю
и верхнюю границы для вероятностей
Pj (0=2^,7 (О
р?о-(0=г/(0.
i
I J 7
23
Отметим, что диаметр множества П(/) может быть
выражен следующим образом:
. diamIT(Oe sup |р'^Р(О—р*<£?(011==
р', р"бП°
“ S/P р?рР6 no|?^(0-Sp^(Oj=sup(/?y(0-o(0).
Оказывается, нижняя граница rj(t) монотонно воз-
растает, а верхняя граница Rj(t) ^монотонно убывает.
В самом деле, при любых мы имеем
Tj (t) ~ inf Piк( t—s) pkJ (s)j >
₽y(O = SUP^P/ft(/ — S)pft/(s)j<
C sup [3 Pik (t—s) Rj (s)J = Rf (s).
Далее,
ЯДО—G (O = SUP Ры (*)] =
а, 3
=sup s [/w (А)—Р№ (ft)] Pkj {t—ft).
а, ₽ k -
Здесь pak (ft)=s Pw (ft) = 1, и в нулевой сумме 0 =
=3 [Pafe(ft)—'ppk(А)] можно выделить суммы 2+ и S~>
представляющие соответственно положи-Гельные й отрица-
тельные слагаемые:
S+ [Pak (А)—р₽л(А)] = —S [рол (А)—Р₽л(Л)].
k k
Легко нонять, что при условии (3.4)
S+[paft(A) —pfjft(ft)]==
k
' =|£|PaHft)-P|u(ft)|<4l2-26)=l-fi
/г
24
следовательно,
' /?у(0-9(0< ' .
^sup|S+ [Pak(h)—p^(h)]Rj(t —h) +
+ [_Pak (Л) Pfik(Л)] Tj (t h)}. =Я
==sup s+ [Pak (h) — pfikdi)] {Rj\t—h)—rj
Отсюда, обозначив n целую часть Uh, получаем
Rj (*).< (1 -5)" (₽7 (t-nh^rj (t—nh)) <
__ t
<(1—ep"1.
. Видно, что нижняя и верхняя границы для вероятностей
МО.
МООДО^ЯДО,
сближаются при t—+<x> (равномерно по всем j) и сущест-
вует один и тот же предел
Pi = lim гt (f) = lim pj (t) = lim Rj (t).
( /->00 /->00 /->00
1 Напомним, нижняя граница rj(t) монотонно возрастает,
а верхняя граница Rj(t) монотонно убывает с ростом /,
так что при всех t 0 предельные значения р;* лежат
в тех же границах гу- (/) р/ ^Rj (t), что и соответст-
вующие вероятности pj(f), а потому
\Pj <t)-Pi\< Ry (0-ry (О С (1 -SP”1,
т. е. справедлива оценка (3.5). Для завершения доказа-
тельства теоремы нужно показать, что предельные зна-
чения {р/} образуют стационарное распределение вероят-
ностей. (Отметим, что здесь нам еще не известно, при-
надлежит ли р* = {р/} предельному множеству’П*.) Оче-
видно, поскольку в этой сумме для любого
конечного числа слагаемых '
Г
IJp/elim
I t-+<» i
25
При этом 2jP/7^O. тай как Для нижней оценки rj0(ft),
согласно условию (3.4),
P/O>'7o(ft)>s-
Далее, из общей формулы (2.6) при s—>оо получаем, что
р;>2р*мо. />о.
X k
На самом деле здесь должно быть равенство, так как
при наличии строгого неравенства хотй бы при одном /
получалось бы, что
2 pi> 2 2 P&kj (0 » 2 р1 2 ph Ю =2 pi
i / k k i k
Взяв распределение вероятностей
p^plj^pi i=o, i,...,
1 k
убеждаемся, что^оно является стационарным:
p?=2p^vW,
Взяв его в качестве начального распределения-, получим
Pj(t)=p°j, откуда заключаем, что
Pi = lim’py (0 = p°h |=0,1,...
/->00
Указанные соотношения справедливы для любого стаци-
онарного распределения {р^}, и» таким образом, сущест-
вует единственное стационарное распределение р° —р*.
Кстати, единственность уже отмечалась ранее на том ос-
новании, что diamll(/)—>0 при^7 —оо, где, согласно
нашим оценкам,
А.
diamII(7)/Csup(£y (/)—(/)) <(1—\
_ ~ !
.Доказательство закончено.
Предположим теперь, что для переходных вероятностей
справедлива прямая система дифференциальных уравне-1
ний (2.17). Взяв стационарное распределение {р/}, для]
26
постоянных р7 (0 = Рл получим’систему линейных ’урав-
нений
. /-0,1,... (3.6)
к к
Задача. Рассмотрим процесс того типа, что был
описан в (1.7) и схематично представлен на рис. 2: из
состояния i (t=l,2, ...) система непосредственно пере-
ходит либо в следующее состояние i +1, либо >в состоя-
ние 0, откуда она непосредственно переходит в состоя-
ние 1. В соответствии с формулой (1.12), Х,7 = 0, / =5^= 0,
j, i4-1. При каких условиях на параметры Х110 и
(^;, о+^/,/+1 = —^|(=М ____
существует стационарное рас-
пределение и какой оно имеет —t-----1 i''”*ч—>-
вид? • i М <в
Указание. Воспользовать- Рис. 2. -
ся системой уравнений (3.6).
Задача. Пусть' имеется лишь конечное число воз-
можных состояний однородного марковского процесса,
который при любом исходном состоянии i может, ока-
заться в любом другом состоянии / (через какое-то время
t > 0, свое для каждых i, /) с положительной вероят-
Я ностью ptJ (t) > 0. Показать, что выполняется условие (3.4).
* Указание. Воспользоваться соотношением (2.6) и
установить, что рц (s 4- /)>0 при всех t 0, если р^ (з) > 0.
Пример (многолинейная система обслуживания). Пред-
ставим себе систему обслуживания, которая аналогична
той, что описана на стр. И, но имеет вместо одной не-
сколько (скажем, п) линий обслуживания. Каждая из п
линий обслуживает поступившее на нее требование слу-
чайное время, которое имеет показательное распределение
вероятностей с параметром X. При условии, что занято j
линий, время ожидания того момента, когда освободится
одна из них, есть
T = min’(Ti., .... т7),
где тп ...,ty—независимые случайные величины, пред-
ставляющие времена ожидания конца обслуживания на
каждой из / занятых линий и имеющие одно и 'то же
показательное распределение с параметром X. Как мы знаем,
^величина т распределена по показательному закону с па-
Е,раметром /X. В соответствии-с этим изменение с течением
времени t числа Е (t) занятых в момент t линий есть одно-
27
родный марковский' процесс с п-f-l состояниями / — О,
1, и, для которого параметры (2.12) суть
/ = n—1,
i-n,
i^n—i, n,
/X, / = »—1,
—/X—fi, j = i,
o, j=#i— 1, i, t-f-l.
0 < i < n,
где p, напомним, есть параметр показательного распре-
деления времени ожидания очередного требования. Система
уравнений (3.6) дает нам
—НРо*4-НРГ = О,
—(р 4-iX) Pi +G +1) Xp*+i = 0, о < I < п,
РРп-l ~ Г1крп = 0 .
Легко находим, что
fe=0
(эти'выражения известны как формулы Эрланга). Ясно,
чтсгсистема из любого состояния может перейти в любое
другое состояние и что выполня.ется условие .(3.4). По-
этому распределение вероятностей для |(/) при / —<-оо
сходится к найденному выше стационарному распределе-
нию (см. оценку (3.5)). '
§4. ВЕТВЯЩИЕСЯ ПРОЦЕССЫ
(МЕТОД ПРОИЗВОДЯЩИХ ФУНКЦИЙ)
Говоря о ветвящемся процессе £(/), ^^0, мы будем
предполагать, что речь идет о превращениях однотипных
частиц стой закономерностью, что каждая из. имеющихся
в момент s частиц независимо от прошлого (до мо-
мента s) через время"/ превращается в п частиц с веро-
ятностью р„(/), п = 0, 1, ... Состоянием процесса в мо-
28
мент t будем считать число £ (/) всех частиц в этот момент
(не исключая возможности п = оо).
В соответствии с этим, при условии £(s) = £_через
Ьремя t число частиц будет равно
= . (4.1)
где (0 означает число частиц, получаемых через время t
в результате превращений i-й исходной частицы; неза-
висимые случайные величины ^(0, . имеют
одинаковое распределение вероятностей
НМ0=п}=М0. "=0.1...............
Мы рассмотрим !•(/), как однородный марков-
ский процесс с переходными вероятностями
aUO=p{M0+...+UO==4, fe#=o, «и»,
считая, что при ft = 0, со •
рооХО ~ 1> ft о,
/>«.<» (0 = 1. Р»«(0 = 0. п=/=со.
Пусть вероятности Pi„(0=*p„(0, п=0, 1, ..., оо, диф-
ференцируемы по i^Q и параметры kln = p'in(O) удовлет-
воряют условию (2.16):
п2/1п= ^п — ^1- ‘ (4.2)
Если представить себе процесс переходов из состояния
в состояние так, как это было сделано нами в § 1 (см. (1.7));
то можно сказать, что постоянные X.lfc характеризуют
вероятности непосредственного перехода из состояния 1
в то или иное новое состояние &=#1; в.частности, непо-
средственный переход 1—невозможен при /^ = 0. Мы
будем считать, что А.1оо = 0. • *
Как мы знаем, при условии (4.2) справедливы диффе-
ренциальные уравнения
ПяаО, 1
k
это часть уравнений в обратной системе Колмогорова
(2.10). Отметим, что | p'ln(t) |
Введем производящие функции от вспомогательного
^временного z, 0 z < 1, определяемые рядом:
Fk(t, г) =Z pkn{t)z\
- п
(4.3)
29
где суммирование идет по n=0, 1, ...’ При каждом фик-
сированном г, 0 z < 1, мы имеем
(02”e ^2 Рлл(0^”» 4
п п k п
что дает следующее дифференциальное уравнение для:
производящей функции /^(Z, z): j
k , . I
Определенные формулами (4.3) функции Fk(t, z), *#=0,
при соглашении z® = О, 0 z < 1, представляют собой
математические ожидания )
Fk(t, z) = Mz5,w+- +г*(0, j
где величины 51(0» •••» 1*(0 из (4.1) независимы и оди-
наково распределены^
Mz5,(n+.-+£ft(/)!=M25l(O> ,.М2М'>,
так что
Fk (t, z)«Л (t z)*, *==1,2,... (4.4)
Учитывая равенство,^(/, z)=.l, дифференциальное урав-
нение для производящей функции F (t, z) Fx (t, z) можнс
переписать в виде
4f(t *)«S W(*,*)*.
k
Введем функцию
k
(4-5)
(4-6)
Согласно равенству (4.5), производящая функция F(t, z)
при фиксированном z, O^z < 1, является решением диф-
ференциального уравнения вида • 1
f«f(x), Г>0. (4.7)
Поскольку F (0, г)=2, производящая''функция F (t, zt
при каждом z, 0^z< 1, совпадает с решением хс=х(/)
этого уравнения при начальном условии x(0)s=sz. |
30
Вместо уравнения (4.7) удобно рассмотреть эквива-
лентное ему дифференциальное уравнение для обратной
к x — x(t) функции t = t{x)‘.
записав решение этого уравнения в виде
Л
/(x)4w’ ' <4-8)
Z
Пример. Пусть плотности перехода равны
А10 = А, Ап =—A, Alft = 0 при й>1.
Тогда f(x) = A(l—х) и
Л
Z
Из этого соотношения легко определяется функция F(t, г).
Именно,
In (1 —F) = —A/-f-ln (1 —z)
L И
F F(t, z)=l—e-«(l—z).
Вероятности p„(0 = Pi»(0> определяемые из разложения
F z)= S PnU)2".
n
суть
pe(0=l—e~Kt, — p„(0 = 0 при n> 1.
Задача. Представьте себе, что частицы размножа-
ются «делением пополам» и
А10 = О, Аи =—А, А12 = A, Alft = 0 при k > 2.
Найти производящую функцию F (t, z) и соответствую-
щие вероятности p„(0 = Pin(0, « = 0, 1, ...
Вернемся к рассмотрению дифференциальных уравне-
. ний (4.7), (4.8), в которых функция *f(x) определяется
формулой (4.6). Из этой формулы видно, что
Г(х) = S А1(!х*-2>0 при 0<х< 1,
2
31
так что функция f (х) является выпуклой, а (ее произ-
водная (х) монотонно возрастает на интервале 0 < х < 1.
Значение х=1 является корнем уравнения /(х)^0, так
СО
как S A.lft = 0. Может быть еще лишь один корень х = а
&=0
этого уравнения, и, в соответствии с этим, график функ-.
ции f(x) выглядит так, как указано на рис. 3.
Рис. 3.
. Предположим, что имеется корень х е= a, Oj<a < 1, ко-
торый определяет интегральную кривую х(/) = а диффе-
ренциальны^ уравнений (4.7), (4.8). Возьмем интегральную
кривую, проходящую через точку / г=0, хг= z (0 z < а).
Поскольку производная f' (а) конечна и при х близком
к а функция f(x) приближенно равна f'.(a)(x—а), то
X
вдоль интегральной кривой значение t (х) = I -ЙЦ не-
ч J /
г
ограниченно .возрастает .при х —* а, причем сама кривая
нигде не пересекает другую интегральную кривую х (0=а-
На интервале 0 х < а функция f (х) является положи-
тельной, и, следовательно, вдоль интегральной кривой
значение x(t) монотонно возрастает при t —► оо, оставаясь
ограниченным величиной х = а. Как ограниченная моно--:
тонная функция, х (Z) имеет предел 0 = lim х (Z), z ^0 < a.,
/->00
Но при х—>0 непрерывная функция f(x) имеет своим;
пределом f (0): j
f(0)= lim/‘(x(0)= limx'(i).
t -> 00 t -> co
32
Ясно, что значение /(Р) должно быть равно нулю так,
как в противном случае функция x(t) — z + §f'(x(s))ds
о
будет неограниченно возрастать при t —> со. Следовательно,
0 является корнем уравнения f(x) = O и совпадает с а:
р = а. Таким образом, все интегральные кривые x=x(f),
при f = 0, проходящие через точки x = z, 0<iz<a, мо-
нотонно возрастают при t —> со и
lim x(t) — a. ' (4.9)
t -> 00
Вполне аналогично поведение интегральных кривых,
/
о ~t
Р1ГС. 4.
проходящих при / = 0 через точки x*=z, a<z<
< 1 (0 < 1). Разница будет х
лишь в том, что х (/) монотон-
но убывает, поскольку произ- z
водная х' (0 = /(х(0) отрица- г
тельна (/ (х) 0 при а <х < а
< 1). Общая картина инте-
гральных кривых, отвечающих
значениям параметра z в проме-
жутке 0 г < 1, приведена на
рис. 4. Эта картина очевидным
образом упрощается приа = 0.
Случай г = 1 нуждается в особом рассмотрении-. Ему,
всегда отвечает интегральная кривая вида x(/)sl (на-
помним, что f(l) = 0).
Пусть f (х) обращается в 0 при х = 1 таким образом,
что функция 1//(х) неинтегрируема в окрестности точки
Хв1, скажем, мы имеем a< 1 и
(• du . _ ,
W-------“• »<'.<!•
(4.Ю)
Возьмем произвольную интегральную кривую; пусть при
х=х, мы имеем значение 1(аг/(х«)>0 и соответствую-
щая кривая задается как
X,
Очевидно, наша кривая, лежащая в области /^0, не
пересекает интегральной кривой х»1, поскольку при
3 Ю. А. Резам в 33
х = 1 мы имели бы
_ 1
/(l)=/.+j
*о
в частности, при / = 0 мы имеем
Таким образом, %(/) = ! является
ральной кривой, проходящей
Пусть теперь функция
du
f(U) 00; -
значение х (0) = г < 1.
единственной интег-
через точку t = 0, х = 1.
l/f(x) им,еет интегрируемую
особенность при х= 1:
Тогда при достаточно боль-
шом /0‘ > 0 соответствующая
интегральная кривая
переходит в интегральную
кривую х(£)=1, касаясь ее
в некоторой точке / = т,
х=1, где
I Л'о ‘
(рис. 5). В этом случае через точку i = 0, х=1 проходит
целое семейство интегральных кривых xx(t), каждая из
которых отвечает своему значению т^О. Среди них есть
интегральная кривая х0(/), отвечающая значению т = 0
и обладающая тем свойством, что кривая xa(t) лежит
ниже всех остальных интегральных кривых хх (t):
Хо(О.<Хт'(О» 0</<оо.
Это объясняется тем, что внутри области 0^х<1,
0^^<оо решение рассматриваемого дифференциального
уравнения единственно и интегральные кривые в этой об-
ласти не пересекаются друг с другом. Легко видеть так-
же, что интегральная кривая хо(О является предельной
для других интегральных кривых x(t, z); лежащих ниже
St
ее и проходящих через соответствующие точки Л = О,
x = z, где < 1: ;
хо(О= lim x(t, г). (4.12)
Z-M
Проведенный анализ дифференциальных уравнений
(4.7), (4.8) позволяет сделать следующие выводы относи-
тельно самого ветвящегося процесса £(/), ^'^0.
Вообще говоря, имеется положительная вероятность
того, что через некоторое время t не останется ни од-'
ной частицы. (Конечно, этого не может случиться, если
Х1,=0, т. е. если частицы не могут исчезать, а могут
лишь размножаться.) Если в исходный момент / = 0 име^
ется одна частица, то эта вероятность есть p0(t) = F (/, 0).
Если вначале имеется k частиц, то эта вероятность есть
Pw(0 = F(^ °)* = Ро(О* (см- (4.4)). Функция ро(0 яв-
ляется решением дифференциального уравнения (4.7) с
параметром z = 0:
pi(O=f(Po(O), Л(0)=0. 7 (
Нами былб показано, что это решение при t —/оо
асимптотически приближается к значению а, которое есть
наименьший корень уравнения f(x) = O (см. (4.9)), т. е.
lim р0(/)==а.
/ ~ / -к 00
Можно сказать, что а есть вероятность вырождения
ветвящегося процесса ^(t) — вероятность того, что к не-
которому моменту времени не остается ни одной частицы.
Если же в исходный момент t s= 0 имеется, k частиц, то
вероятность выроэцдения равна
lim p*0(0 = aft- (4.13)
Проведенный анализ дифференциальных уравнений
(4.7), (4.8) показывает, что при условии (4.10) за конеч-
ное время каждая частица с вероятностью 1 порождает
конечное число частиц, поскольку
lim F(f, z) = 2 Pm (0-
•** , « (4.14)
p!.(0=l-2Pin(0 = 0, <>0.
п
3’ ' 36'
При условии же (4.11) согласно (4.12) мы имеем
|limF(/, z) = xo(0 = 1— Pi. (О < 1> (4-15)
z-> 1
где хв(/)< 1 при t > 0, и, таким образом, из одной ча-
стицы за конечное время t образуется с положительной
вероятностью Pi..(0>0 бесконечное число частиц. При-
нимая во внимание равенство (4.4), заключаем, что при
наличии в исходный момент k частиц через время t
с вероятностью
Рл„(0=1-^(06 (4.16)
образуется бесконечное число частиц (это явление можно
назвать «взрывом»).
Отметим, что установленный выше эффект «взрыва»
дает пример условий, при которых нарушаются прямые
дифференциальные уравнения (2.11) для переходных ве-
роятностей. В самом деле, если %1о,= 0, то ‘согласно (4.16)
Xfta> = pL(0) = 0 при всех k = 0,1,... и с учетом
=Р'«.«,(°) = 0 при />^(0=1 уравнение (2.12) для р1ж(0
будет
(0 = Р1к (0 ~ 0» Р1« (0) я 0»
его единственным решением является р1ж (t) s 0, что
находится в противоречии с' (4.15).
Задача. Может ли произойтй «взрыв» при делении
пополам (см. задачу на стр. 31)?
§ 5. БРОУНОВСКОЕ ДВИЖЕНИЕ
(УРАВНЕНИЕ ДИФФУЗИИ И НЕКОТОРЫЕ СВОЙСТВА
ТРАЕКТОРИЙ)
Представим себе частицу, взвешенную в однородной
жидкости. Она испытывает хаотические столкновения с
молекулами жидкости, в результате чего находится в не-
прерывном беспорядочном движении, называемом броу-
новским.
Одномерным аналогом этого процесса может служить
следующая модель случайного блуждания. Представьте
себе частицу на действительной прямой, время от времени
испытывающую воздействие внешних импульсов, в ре-
зультате^кащдого из которых она смещается на величину
М
-Ь &х (в зависимости от направления импульса). Пусть .вре-
менные промежутки между отдельными импульсами являют-
ся независимыми случайными величинами, имеющими одно
и то же показательное распределение вероятностей с па-
раметром X. Пусть смещения ± Дх равновероятны.
Считая, что возможные положения частицы на дей-
ствительйой прямой суть точки х = £Дх, А = 0, ±1, ...,
рассмотрим положение %(t) частицы в момент I.
Согласно сказанному, изменение величины 5(0 с те-
чением времени /^0 есть однородный марковский про-
цесс того же типа, что был описан в § 1 (состояния
х = &Дх естественно занумерованы числами k — G, ± 1,...);
именно, в начальный момент частица находится в точке
5(0) = 0; через случайное время, распределенное по по-
казательному закону с параметром X, она переходит
(с равными вероятностями) в одно из состояний ± Дх;
вообще, попав в точку х, частица независимо от пред-
шествующих обстоятельств находится там случайное
время т, распределенное по показательному закону с па-
раметром X, а затем с равными вероятностями переходит
в одно из состояний х ± Дх. Уточним, что указанное
время т есть промежуток между последовательными им-
пульсами, в результате которых происходит смещение ча-
. стицы; среднее значение Мт этого промежутка равно 1/Х.
Посмотрим, что дает эта модель случайного блужда-
ния с шагом Дх в пределе при Дх —*0 и X—>оо.
Обратимся к переходным вероятностям нашего про-
цесса, обозначив р (xf"t,' У) вероятность перехода за вре-
”я t из точки х в точку у.
р(х, t, y) = P{5(s-f-0 = ^(s)=’x}
(при х = »Дх и y=j&x в прежних обозначениях это не
что иное, как р,7 (/)). Согласно обратной' системе диффе-
ренциальных уравнений (2.10) с параметрами
Ч = X*. ,-+1 = , Xl7 = X, Х,7 = 0 при / I 1, /, 1,
переходная вероятность р(х, t, у) как функция от /, х
удовлетворяет дифференциально-разностному уравнению
%Р(х, t, у) =
“•уЧРСк + А*. У}—2Р(х, Ц)+Р(х—Ьх, I, у)].
17
Введем функцию
f(x, о«=2ф (у) Р(х> У)>
у
— среднее значение случайной величины <р (£ ($ 4-1)) для
заданной функции <р (£/), —оо <у < оо, при S(s) = x:
f(x, O = M„x(p(g(s + O), (5.1)
где M4i х означает условное математическое ожидание при
указанном условии g(s) = x; очевидно,
f(x, 0) = <р(х), —оо <х<оо. (5.2)
Для финитной функции ср (у), обращающейся в 0 вне не-
которого интервала | у | С, функция f (х, /) удовлетво-
ряет дифференциально-разностному уравнению
^f(x, О=у%[/(х + Лх, 0-2/(х, 0+/(х-Дх, 0].
которое получается из указанного выше дифференциаль-
но-разностного уравнения для р(х, t, у) умножением на
ср (у) и суммированием 'по' конечному .числу y=k&x,
| у | С., Положив ХДх2 = о2, где о2 > 0—некоторая_по-
стоянная, представим это уравнение в виде
J. ftv п / (х-4- Дх, /) -2/ (х, /)+f (х-Ах, /)
dt 1\х, Ч ~ 2 Дх»
К чему это уравнение приводит при А х —► 0? Для’дваж-
ды непрерывно дифференцируемой функции f (х), как из-'
вестно,
и, в соответствии с этим, при Ах—>-0 у нас возникает
«предельное» уравнение
-Lf(x, t) = ±a*^Hx, 0; (5.3)"
мы его используем с целью построения^ модели броунов-
ского движения как непрерывного случайного’блуждания
I (0» 0» Дав решению f (х, /) с начальным условием
(5.2) выраженную в (5.1) интерпретацию. w
Уравнение (5.3) есть известное уравнение диффузии
(постоянную о2 в нем. называют коэффициентом диффу-
зии), решением которого является
О»
J(x,i)=s $ <р(у)р(х, t, y)dy, - (5.4)
38
где
। _ (у~ *>8
Р(х, t, f/) = y==e 2°г‘ , —ooCyCoo. (5.5)
Сразу же заметим, что функция р (х, t, у), называе-
мая фундаменГпальным решением уравнения (5.3), есть
плотность нормального распределения . вероятностей со
средним значением х и дисперсией о2/.
Мы построим непрерывную модель броуновского дви-
жения, в котором положение частицы в момент t, описы-
ваемое случайной величиной 5(0, с течением времени t
меняется таким образом, что для любых последователь-
ных моментов Sj <... < sm < s < t .существуют условные
плотности распределения вероятностей величин 5(0, t > s,
относительно всех
5(s1) = x1, ..., %(sm) = xm, |(s) = x,
причем эти плотности суть
(У-х)2
р (х, t —s, у) = -~=^=== е 2aS(t~s), — оо <£/<оо. (5.6)
у 2ло2 (t—s)
Плотности (5.6) не зависят при известном состоянии
5(s) = x в «текущий» момент s от условий
g(Sl)=X1, ...,|(sj = xm
в «прошлом» (это так называемое марковское свойство),
а кроме того, они не зависят от расположения на вре-
менной оси промежутка (s, t)—напомним, что как мар-
ковское свойство, так и отмеченная выше однородность
во времени были характерны для исходного случайного
блуждания с шагом Лх —>-0.
Задача. Пусть 5(0» t 0,—семейство случайных
величин, обладающих описанными выше свойствами
(см. (5.6)), причем
В(0) = 0. (5.7)
Показать, что при sx < ... < sm < s <?/ величины
5(0—5(0 не зависят от всего «прошлого»
• 1(3,)......I(sm), 5(0
и^имеют нормальное распределение вероятностей с нуле-
вым средним и дисперсией
. M[5(0-|(s)]'2 = o2G-3). (5-8)
39
а именно, плотность вероятности величины g(0—g(s)
есть
1 ______________
п(0, t — S, //) = ------Л 20‘0-s),. —оо< У<оо.
у 2лаа(/—s)
(5-9)
Указание. .Воспользоваться тем, что плотность
условного распределения величины g(/)—g(s) при всех
условиях £($!) = %!,..., £(sm) = xm, g(s) = x совпадаете
плотностью условного распределения величины £(/)—х,
равной р(0, t—s, у), и не зависит от х1( хт, х.
Задача. Показать, что при любых 0 < < ... < t„
величины | (it), ..., g (tn) имеют совместную плотность рас-
пределения вероятностей
Ph,.. .чЛх1.....
= Р (9> ^i)"P(Xi, ti Л» • •P(xn—l»^n ^n—lt хп)'
(5.10)
Показать, что приращения
g (fx)-g (0) = g (О,..., g (Q—g (f„_x) (5.11).
образуют совокупность независимых случайных величин.
Пусть g (0, 0, есть случайные величины, завися-
щие от параметра t (времени), для которых выполняются
описанные в (5.6)—(5.11) закономерности. Нам удобно-
будет охарактеризовать величины g (/), t 0, следующим
образом: g(0) = 0, и для любых 0<^< ... < tn прира-
щения
5(0)....g(Q4(M
являются независимыми, причем на каждом интер-
вале (s, t) приращение g(/)—g(s) есть случайная вели-
чина, имеющая нормальное распределение вероятностей
со средним 0 и дисперсией <та (Z—s).
Задача. Показать, что при указанном в (5.11) свой-
стве для £(/), /^0, выполняются описанные в (5.6) за-
кономерности.
Обратимся к пространству элементарных событий Q,
на котором формально определены случайные величины
g (/) = £(«, 0.
Если интерпретировать g(tf) как положение броуновской
частицы~в момент t, то можно сказать, что при элемен-
40
тарном исходе co^Q движение частицы совершается по
соответствующей траектории
х(/)=£((о, t), t
Мы охарактеризовали случайные величины £ (/), t О,
с точки зрения их распределений вероятностей (см. (5.6)—
(5.11)), и эта характеризация оставляет возможность не-
которого произвола в определении функциональной зави-
симости В (0 = 5 (ю, О от cogQ. К примеру, не. нарушая
выраженных в (5.6) — (5.11) свойств, можно для какого-
либо отдельного исхода <о (вероятности 0) произвольно
изменить значение В (со, t) всех величин £(£), что приве-
дет к произвольной траектории х (/) = £ («о, t), i^O.
Чтобы избавиться от такого рода произвола,- мы с веро-
ятностью 1 определим (случайную) траекторию движения
броуновской частицы с помощью последовательных при-
ближений по ее положениям | (£ftn) в дискретные моменты
tka. В качестве этих приближений мы возьмем случай-
ные кусочно линейные траектории
5П(О = 7^^В(^) +
каждая п-я траектория своими линейными звеньями по-
следовательно соединяет точки £(/*„), где
fe=0’ ь..
Теорема. С вероятностью 1 случайные функции
. (5.12) сходятся равномерно на каждом конечном времен-
ном промежутке.
Доказательство. Рассмотрим события
Аг’"=/ шах |й„(0—5.(0| >8Я),
to < t<T /
где п > т ц взято целое Т > 0. Очевидно, для функций
(5.12) указанный здесь максимум достигается- в одной из
узловых точек tka = kl2n, причем при увеличении п этот
максимум может лишь увеличиться, поскольку имеющиеся
41
для меньших п узловые точки tkn и значения 1- (tkn) в них
не меняются при увеличении п. Для объединения А™ =
= ’ U Ат'" монотонно неубывающих событий Ат’п, п =
п > m
= m+l, /и4-2, .... мы имеем
Р(Дг)= lim Р(Ат'п).
п -* » z
В дальнейшем мы получим равномерную по п оценку для
вероятностей Р(Лг’п), которая будет оценкой и для ве-
роятности Р(Л?) события А™, означающего, что
max ||„(0—
о</< т
хотя бы при одном п > пг.
Очевидно,
Р(4^П)<2“Т.Р/ max ||„(0-L(0l > гД <
<2тТ • Р I max (\ Utkn) |, Л (2-) П > еД С
С2-7МР/ max l(tkn) > еД
(здесь используется тот факт, что «симметричные» величины
— £(/), О С ГС Л, и — — 1(h), O^t^h, в совокуп-
ности имеют такие же распределения вероятностей при
соответствующих /, как и величины £(/), ОС^^Л).
К нашим величинам £(tkn), k=l, 2n~m, приме-
нимо следующее общее’ предложение.
Лемма. Пусть случайные величину , %п таковы,
что при всех k= 1, ..., п—1 разности —^к не зависят
от ..., ^к, причем их распределения вероятностей на
действительной прямой являются симметричными относи-
\ тельно х = 0. Тогда
- Р I max] lk>x\ С2Р{£„>%}, х>0. (5.13)
I 1 < Ar|< п J
Доказатедьс’тво. При условии max gA>x, обоз-
начив первую из величин ..., превышающую
уровень х, и учитывая, что событие {v = fe} определяется
по первым k величинам ..., Ък, а разность £п—от
42
них не зависит, имеем
PJ max gft>x,-gn<xl =
\о<л<л )
л-1 л-1 ,
= 2 P{v=£, 2 P{v=fc, g„-gfc<o}=
fe=O A=0
л-1 _ л-1
- 2 p{v=a>p{^-^<o}<2 P{v=^-p{g„-|ft>o}=
k = 0 fc--o
л — 1
= 2p{v=^, e„-^>o}<p^n>x},
k=Q
что при сложении с неравенством
Р/ max %k>x7l„>x\ <Р{|„>х)
< (0 < л )
и-дает нам оценку (5.13).
Применяя общую оценку (5.13) к величинам |(^„),
получим
PJ max g (/*„)> eOT)<2P {g (2-’»)>e„),
l0<fe<2n~т /
где для величины £(2_/л)—последней в последовательности
величин g(/ftn), k=\, ..., 2"_'л, с которыми мы здесь
имеем дело,—
Р{1(2-'”)>ет} =
= f- e-*2/*dx^^=—f xe~x,lidx =
— g _ g-em2”/2®’
К2л
В итоге приходим к следующей оценке:
Выберем
(скажем,
ряда
' ' Р л ет
ет —>0 так, чтобы сходился указанный ниже ряд:
„-е^/га1
~ТГе <°°
т = 1 т
можно взять бш = 2“'п/4). Тогда из сходимости
2 р(Д?)<оо
т~ 1
43
по известной лемме Борел я-Кантелли следует, что с ве-
роятностью 1 среди Л?, /п=1, 2, .... происходит лишь
конечное число, .событий, а это значит, что с вероятно-
стью 1 при достаточно больших tn и всех п > пц
шах 1(0—Sie(0l^8»>
<t<r
гдз е _^о при т —> оо. Мы видим, что с вероятностью I
последовательность случайных функций (5.12) сходится
равномерно на каждом конечном промежутке
что и требовалось доказать.
Переопределим теперь исходные величины £(/),
следующим образом: для каждого элементарного исхода
го£й, при котором последовательность функций (5.12) схо-
дится равномерно на каждом конечном промежутке
положим
g(®, /)= нт U®, t), />0. (5.14)
Формула (5.14) определяет случайные величины %(f),
с вероятностью 1 (для почти всех элементарных исходов
®£Q). Соответствующие траектории x(Z)=i(®, /), t^O,
как равномерный • на каждом конечном отрезке предел
непрерывных функций x„(Q = £„(©, f)r являются
непрерывными.
Принимая во внимание все сказанное выше, дадим сле-
дующие определения.
Семейство случайных величин ё(0> ^^0, зависящих
от параметра, t (времени), называют случайным процессом.
Его траекторией при элементарном исходе со £ й называют
соответствующую функцию
= 0,
она зависит от ® £ й и в этом смысле является с л-у ч а й-
ной. Броуновским движением называют случайный про-
цесс £(/), /^0, обладающий указанными в (5.6)—(5.11)
свойствами; при этом обычно предполагают, что с вероят-
ностью 1 его траектории являются непрерывными.
Броуновское движение еще иначе называют винеровским
процессом. В качестве одного из его определений с точки
зрения указанных в (5.6)—(5.11) вероятностных законо-
мерностей можно было бы принять следующее: £(0) = 0,
приращение g(/) —|(s) на каждом промежутке (s, t) имеет
нормальное распределение^ со средним 0 и . дисперсией
44
e* (t—s), иричем для «любых 0 < . < tM приращения
&(*i)-&(0), .... I{ta)-l(f„_,)
являются независимыми.
Задача. Показать, что в броуновском движении £ (/),
t 0, величина
тв = min {/:£(/)> а}, а>0,
— время достижения точки х = а—имеет распределение
вероятностей
PK<Q»2P{5(0>4 ^>0. (5-15)
с плотностью (при о2=1)
/>0.
Указание. Воспользоваться непрерывностью траек-
торий и тем, что при условии т0 t и исходном состоянии
£(тя) = а в последующем движении броуновская частица
в момент t то оказывается правее или левее исходной
точки х = а с равными вероятностями.
* Задача. Показать, что с вероятностью 1 броунов-
ская частица рано или поздно достигает любой точки х,
----- ОО < X < оо.
Задача. Показать, что для броуновского движения
Р/ max £(s)Z>xl = 2P{S(Z)^xk х^О, (5.16)
lo<s<« f
и плотность распределения указанного здесь максимума
есть (при о2=1)
р (х) = т/—х >°-
. г nt
ж
Указание. Воспользоваться формулой (5.15).
Задача. Пусть броуновская частица в момент t нахо-
дится в точке а: £,(£) = а. Показать, что за последующее
сколь угодно малое время она с вероятностью 1 побывает
как в области х < а, так и в области х > а, точнее, для
любого Л >0
Р/ max g(s)>a, min g(s)<a|g (t) = a\ = 1. (5.17)
U<s<< + * /
45
Несколько экспериментальных * траекторий броунов-
ского движения показаны на рис. 6*). Характер их таков,
б)
Рис. 6. а) Экспериментальные траектории броуновского движения
с коэффициентом диффузии сг = 1;
б)"часть рисунка, увеличенная в 12 раз.'
. *)?См. Bibliography on time series and stochastic processes./Ed.
H. O. Wold.—Edinburgh, London, 1965, pp. 10—11. В книге дана
обширная библиография по теории случайных процессов.
46
как если бы они были начерчены хаотически дрожащим
пером (что отражает характер физического процесса броу-
новского движения, в котором частица испытывает беско-
нечно частые воздействия молекул, каждое из которых
вызывает бесконечно малое смещение). Как мы увидим
ниже, с вероятностью 1 траектория броуновской частицы
на любом интервале имеет неограниченную вариацию:
sup 2|^)-№-1)| = оо. (5.18).
s-tQ < ti <. .. < t k= 1
Теорема. В процессе броуновского движения на лю-
бом интервале (s, t) с вероятностью 1
п
Hm S [£ ttO-№-i)]2 == °2 (*-«), ~ .(5.19)
п -+ ОО k= 1
где предел берется по последовательности разбиений s =
= to < ti < • • • < tn= t, n = nm S шагом
ha= max p*,„—
1 < n
Доказательство. Покажем сначала, что предель-
ное соотношение (5.19) выполняется для разбиений с произ-
вольным шагом hm—>-0, если иметь в виду среднеквадра- ’
тичный предел. Действительно, мы имеем
' M[U^)-i(^-1)]2=o4^-^-i);
положив
и обратившись, к сумме ' '
п п
2 [g(/jk)-?(4_1)p^a’f/-S)= 2 А*
*=i k=i
независимых величин Д*со средним 0и дисперсией♦):
ММ = М[Ш-I(4-i)J‘-= 2о« (tk-
♦) Для величины £, имеющий нормальное распределение со сред-
ним 0 и дисперсией о2, моменты М£Л легко подсчитываются по общей
формуле
М(ф*=-^-М?“Ч«=о
du*
с помощью характеристической функции
= —оо < и]< оо.
47
получаем, что
/
(п v.2 п п •
2 Д* = S мд&« 2О‘. S (^-^-х)4 <
Л=1 / £=1 Л=1
п
<2ст«. max (ik—1к^)- 2 (/Л—^_х) =
1<*<п *=1
/ =2o4-Am(Z—s) —О
при т—>-оо. По неравенству Чебышева
Р
п
Ед*
k = 1
8,
<2cr4(Z—s)^_,
8m
и при hM 2“я можно выбрать гт —► 0 так, чтобы
2 Д*
А=1
оо.
Для таких ет по лемме Бореля-^ Кантелли с вероятностью 1
I rt 'I
происходит лишь конечное число событий \ S г >
U=i J
т. е. с вероятностью 1 при достаточно .больших h мы
п ‘
*?1Л*
имеем
где гт—>0. Теорема доказана.
Задача. Показать, что с вероятностью 1 броуновская
траектория на любом интервале имеет неограниченную
вариацию.
Указание. Использовать предельное соотношение
(5.19).
Будем называть в дальнейшем процесс броуновского
движения £ (/), / 0, с коэффициентом диффузии в* = 1
стандартным. Этот процесс играет очень важную роль
во [всей теории случайных процессов, являясь фундамен-
том многих теоретико-вероятностных моделей, и мы часто
будем иметь дело со стандартным процессом броуновского
движения (иначе, стандартным винеровским процессом)
* n(0 = g (t-t0),
на полуоси
о,
48
§ 6. СЛУЧАЙНЫЕ ПРОЦЕССЫ В СИСТЕМАХ
МАССОВОГО ОБСЛУЖИВАНИЯ
Мы приведем два примера случайных процессов, кото-
рые, как легко представить себе, возникают в различных
системах массового обслуживания. .
Пусть
Вь • • •
(6.1)
есть последовательность положительных независимых
случайных величин, имеющих одинаковое распределение
вероятностей, и
T.-S.+ ...+U л-1,2,...
Можно представить себе, что имеется некоторый при-
бор со сроком службы £,0; при выходе его из строя (через
случайное время £0) он заменяется новым прибором, кото-
рый в свою очередь выходит из строя через случайное
время £i, после чего заменяется следующим новым прибо-
ром и т. д. Кроме величин т„, в этом процессе восстанов-
ления нас могут интересовать, скажем, величины v(t) —
число восстановлений в промежутке времени [0, /] и А (/) =
= tv (о+1 — t — оставшийся срок службы (работающего в
текущий момент t) очередного прибора.
Предположим, что величины (6.1) имеют показательное
распределение . вероятностей с параметром 1—напомним,
что это есть распределение с плотностью вероятности
Р(/)Ч 0.
ОО,
/<0.
Покажем, что соответствующая величина х„ имеет плот-
ность вероятности
МН
(Х0"-1
(я-1)1
О,
е~м,
ОО,
/<0.
(6.2)
Действительно, это так при п=1, и если это верно для
n = k—1^1, то для следующего n = k, используя услов-
ную плотность вероятности рп (/1 тп-1 == $) = р (t—s), t s,
Л Ю. А. Розанов
49
величины т„=т„_1 + |„ при условии r„_1 = s, будем иметь
t t
0 0
= u~u 7--n-~At f sn~2ds = Xe-^ ^)n~Y .
(/1—2)! J («—1)1
о
Задача. Показать, что если время работы отдель-
ного прибора имеет показательное распределение вероят-
ностей с параметром X, то v(/), /Z>0, есть пуассоновский
процесс с тем- же параметром,
= , k = 0, 1.....
а величина Д-(/) имеет то же самое показательное распре-
деление:
Р{Л(/)>й} = е-’А, /г>0.
- Будем теперь интерпретировать
Tg z Tg == "j" • . .
как последовательность моментов времени, в каждый из
которых на «систему обслуживания» поступает «требова-
ние». Пусть независимо от тп т2, ... непосредственное
«обслуживание» п-го требования занимает случайное- время
Ч, и . '
Пь Пг, ••• ' (6.3)
есть последовательность независимых, случайных величин
с одинаковым распределением вероятностей.
В этом процессе массового обслуживания нас будет инте-
ресовать величина —время ожидания начала обслужи-
вания n-м по счету требованием.
Общее время, проведенное n-м требованием в системе
обслуживания, в наших обозначениях есть ^*п4-т)п. Пред-
положим, что если следующее (n -f-1 )-е требование посту-
пает через время. ^п + Лп» то оно застает систему
обслуживания свободной и немедленно начинает обслужи-
ваться, т. е. ^fn+1 = 0; если же £п < + то в момент
тп+1 = т„ + £п система еще занята обслуживанием, предше-
ствующих требований и до начала обслуживания («+1)-е
требование должно ждать время
56
Положим
Д„ = Пп-^.’ 5„=2Дь п=1^2, ... (6.4)
Л=1
Величины &Сп связаны с независимыми случайными вели-
чинами Л„, п=1, 2, следующими соотношениями:
( 0 при ^„Ч-Дп^О,
^.={^+д^и£+д;>0, (6.5)
Сравним последовательность ^1( ^f2, ... с последова-
тельностью Slt S2, ...
Первое поступающее на систему требование немедленно
начинает обслуживаться, и ^1 = 0. Очевидно, $f2 = 0
в случае Sj<0 и .%’2 = S1 в случае Sj> 0; связь между
и Si можно формально выразить равенством
.^ = <5!—min(0, SJ.
Предположим, что ’
•^»+i = 5„—min(0, Slt S„). (6.6)
Как уже говорилось, (п 4- 1)-е требование занимает систему
обслуживания время $?„+i + 11«+i> а следующее требова-
ние жДЬт своей очереди время $f„+2 = 0 в случае SVn+l +
+ Д«+1 0 и п+2 — j?n+i + Д»+1 в случае 4~ Ди+1 >
> 0. В первом случае, прибавив к обеим частям равенства
(6.6) величину Аи+1, мы имеем
Wn+i + bn+i = Sn+i—min(0, S1( ..., S„)<0;
очевидно,
S„+1 = min(0, Sn ..., Sn+i),
и можно записать, что
0 = <^n+2 = S„+i min(0, Sj, ..., Sn+1).
В случае же ^„+1 + Д„+1 > 0 мы имеем
п+2~^n+i4“Д«+1= 5„+1 min(0, Sj,’ ..., Sn) >0,
где для S„+i> 0, очевидно,
min(0, Sj, .... S„) = min(0, Si..S„+1).
Мы убедились, что формула (6.6) остается справедливой
при замене п на п-М и, следовательно, эта формула
верна для всех n= 1, 2, ...
4*
51
Рассмотрим последовательные суммы тех же незави-
симых одинаково распределенных, величин Ди ..., Дп, но
взятых в обратном порядке:
<£1вДж, <Si = An-bА»-!, •••> 5Я=ДЛ+...4-Дд.
Очевидно, распределение вероятностей величин (SJ, ...
Sn) такое же, как и величин (Sn ..., S„); при этом
max (О, S;...S;) = max(S„—О, S„’— Sn—S„)=
= S„—min(0, St....S„),
что позволяет сделать следующее заключение.
Теорема. Распределение вероятностей величин ы
такое же, как распределение величины
£„ = max(0, Sit ..., S„)';
в частности, при любом t^Q
рж+1<о-р{с»<о- (6.7)
Посмотрим, что происходит в нашей системе при
массовом обслуживании, когда п велико (точнее,
при п —> оо).
Задача. Пусть среднее время обслуживания больше,
чем средний промежуток времени, через который Посту-
пает очередное требование, а именно, *
а = МД1 = Мт|1—М^>0. (6.8)
Показать, что тогда оо при п—► оо, где имеется
в виду сходимость по вероятности: для любого сколь
угодно большого t
Р{^п>0-1. (6.9)
Указание. Воспользоваться законом больших чисел
для независимых одинаково распределенных величин
5
Дъ Д8, ..., согласно которому -£ —► а > 0.
Задача. Пусть
a = MA1 = Miq1—< 0. (6.10)
Показать, что в последовательности сумм (6.4) с вероят-
ностью 1 лишь конечное число величин S„ принимает
положительные значения и, следовательно, величина
£= lim£„=max(0, Slt .... S„, ...) (6.11)
n->00
является конечной.
52
Указание. Воспользоваться усиленным законом
больших чисел, согласно которому с вероятностью 1
—а<0.
п
Отметим, что величины в (6.11) монотонно воз-
растают и,, следовательно, при любом /^>0
P{C</} = limP{^^0
Л—>со ।
есть предел монотонно убывающих вероятностей Р{£„^/}.
Согласно общей формуле (6.7), мы имеем предельное
распределение
lim Р{^И<О = Р{С</}, />0. ’ (6.12)
Л->00
Найдем его, когда величины (6.1) и (6.3) имеют показа-
тельное распределение вероятностей с соответствующими
параметрами X и р. (Сразу скажем/что задача эта отнюдь
не простая.)
Нам понадобится плотность вероятности величины
Дх = т)!—она имеет вид
х>0
(6.13)
(проверить это! — напомним, что и суть независимые
случайные величины, имеющие показательное распреде-
ление вероятностей с параметрами 1 и ц). >
Отметим, искомая функция распределения Fj(x) =
=Р{$^х), указанная в правой части (6.12), удовлетво-
ряет интегральному уравнению
X
Fs(x)= $ Fi(x—y)p(y)dy-
— со
(6.14)
Действительно, максимум f=max(0, Slt S„, ...)
Л+ 1
величин S„ = У имеет то же распределение вероятно-
k = 2
стей, что и максимум £, причем
Р{£<х} = Р{Д*<х, Af-KCxb .
В
г
что^и выражено по формуле полной вероятности в ра-
венстве^. 14), где
Fc(x—г/) = Р{А1 + С^х| Д1 = «/}
есть условная вероятность при условии Д1 = у.^
Найдем распределение вероятностей для величины S^ —
п’ервой положительной суммы в последовательности
S„, п=1, 2, считая =0, если оказывается, что
S„*^0 при всех п. Очевидно, для х^О
Р {S?. > х} - £ Р {Sf > х, Sx+ = S„} =
n=l
co
= P{Sr>x} + £p{S-+1>x, S/^O, ..., S„<0},
n-1
гдеХ51 = Д1, Sn+1 = Д„+14-Sn и
P {Дх > x} = J -jqqr iie-мdy = e~^ =« C^*, •
P{An+i>x S„, ^<0, ..., S„^0} =
0 6
5 ••• S TZTe-|A<x‘/"I>psl.
здесь мы используем тот факт, что Дп+1 не зависит от
..., Sn. Получаем, что для х 0
P{Sx+> х} = р+е~^, (6.15)
со
где постоянная — Сп имеет простой вероятностный
/2 = 1
смысл:
р+ = Р{5+ >0}, 1— p+ = P{S1+=0}. (6.16)
Покажем, что при условии (6.10)
р=|_у>0. (6.17)
, Отметим сразу же, что, согласно определению величины
S/, для максимума (6.11) мы имеем
Р{£ = 0} = />. (6.18)
Для доказательства (6.17) воспользуемся уравнением
о
(6.14), которое в случае р=0 дает равенство 0= F£ (—у)%
54
xp(y)dy, где p(y)=-^
>0, и это может быть"
лишь при условии Fs(—р) = 0, у < 0, а это в свою оче-
редь противоречит условию (6.10), при котором, как мы
знаем, величина £ является конечной и F£ (—у) —> 1 при
у->-—00 •
Мы рассмотрели выше величину Д^ =₽ S*,' которая рав-
на первой положительной сумме в последовательности
S1==A1, 52 = Д1 + Д2, г..
и равна 0, если такой суммы не окажется. Пусть такая
сумма имеется и ею является Д^ = 5П1. Рассмотрим" по-
следовательность
Sil, = A„t+i, 5<21) = Ай1+14-Д„1+а, ...
из сумм наших величин ДА, начиная с номера й 1
(эти величины ДА не зависят от «предшествующих» Дп ...
..., ДИ1 и Д1-). Определим Д2+ как первую положи-
тельную сумму в нашей новой последовательности
(скажем, Д^=5$,12>), положив Д^=0, если такой суммы
не окажется. Ясно, что при условии Д/ > 0 величина Д?
имеет то же распределение вероятностей, что и величина
Д?. Аналогично, при условии Д^ > 0, Д^ > 0 (когда
Д?=$£’) по последовательности
S]2’ = ДЛ1 + П,+ 1, <$22> ~ Дп,+Л2+1 "I* Ant + n2 + 2r •••
определяем величину Д^ и т. д.; для каждых определен-
ных уже величин Д+, ..., Д£ понятным образом при
условии Д^ > 0, ..., Д^ > 0 определяем величину Д„+1,
которая не зависит от «предшествующих» Д^ > 0, ...
..., Дд > 0 и имеет то же самое распределение вероят-
ностей, что и величина Д^.
При условии Д^ > 0, ..., > 0 положим
-П
«=1. 2, ...
*=i
Очевидно, для максимума (6.11) при х>0 мы имеем
Р{0<£<х} = Р{Д1+>0,51+<х,Д? = 0} +
+ P{Ai+>0, Д?>0, S2+<x, Д3+ = 0}4-./.
+ Р{Дх >0, ..., Д*>0, S„+<x, Д++1 = 0}+...
Согласно полученной выше формуле (6.15), при условии
Д1 > 0, .... Д„+ > 0 величина есть сумма независимых
55
величин Д7, ..., Д^, имеющих одно и то же показатель-
ное распределение вероятностей с параметром ц, а вели-
чина Д^+1 не зависит от Д^-, ..,, Д+, так что
X
Рxt А4’+1 = 0|Д1’ >0, .Д» >• 0}=»/?» J pn(y)dy,
' »
где
F=-P{A4i=0|Ai+ >0, ...,Д* >0}=Р{Д1+«0} = Р{$=0},
(см. общую формулу (6.2)).
Учитывая, что
Р{Д?>0 .... Д„*>0} = (1-р)»,
получаем следующее:
P{0<5<x}-J f
e~v-vdy=
X
= p(l — p)p [e-PMdy = (l— p)(l— e~^x).
о
Видно, что при условии £ > 0 величина. £ имеет показа-
тельное распределение вероятностей с параметром, равным
произведению рр, где, напомним, р = Р{£ = 0}>0 (см.
(6.17), (6.18)). Неизвестную еще вероятность р можно
определить из уравнения (6.14) для функции распреде-
ления
Fj(.4=p+(1-р)(1— е~“^), х>0, (6.19)
взяв в этом уравнении х = 0.
Сформулируем наш результат относительно распреде-
ления максимума (6.11), которое согласно (6.12) есть
предельное распределение для интересующего нас времени
ожидания Йп при п—<-оо.
Теорема. Предельное распределение (6.12) для вре-
мени ожидания SKn, п—^оо, описывается формулой (6.19).
Согласно этому можно сказать^ что при длительном
функционировании системы обслуживания очередное тре-
бование с вероятностью р > 0 застает систему свободной,
а в противном случае время ожидания до начала обслужи-
вания имеет показательное распределение с параметром рр.
Задача. Показать, что этот результат остается в силе
для любого распределения вероятностей величины —
56
промежутка времени между требованиями (конечно, при
условии (6.10)).
Задача'. Проверить, что для показательного распре-
деления промежутка между требованиями (с параметром А)
условие (6.10) означает, ’что А < р, а предельная вероят-
ность р — ПтР{$£„ = 0}=Р{£ = 0} того, что очередное
Я-Ф-»
требование застает систему обслуживания свободной, есть
Р=1-£. (6.20)
§.7. СЛУЧАЙНЫЕ ПРОЦЕССЫ КАК ФУНКЦИИ
В ГИЛЬБЕРТОВОМ ПРОСТРАНСТВЕ
Одним из плодотворных подходов к изучению слу-
чайных процессов, как мы убедимся в дальнейшем, явля-
ется введение гильбертова пространства Н случайных
величин М|^|2<оо, со скалярным произведением
W-MgX (7.1)
и среднеквадратичной нормой
Ш==(М|М2)1/а. (7.2)
которое является полным, а именно, в якая фундамен-
тальная последовательность величин %п£Н:
. . (7.3)
при п, /п—>-оо, имеет в пространстве И среднеквадра-
тичный предел ^=alim^„, т. е. существует такая вели-
чина. IС Я, что
Рв„-М-о
при п—+<х>. (Уточним, что, рассматривая пространство
Н, мы отождествляем величины, равные с вероятностью 1.)
Сразу же можно отметить, что для (действительных)
случайных величин 5г с нулевыми средними М|х =
= М$2 = 0 скалярное произведение (7.1), выражает их
корреляцию. Как мы увидим, в рамках гильбертова
пространства Н можно наглядно описать условные ма-
тематические ожидания, условные вероятности и ^дру-
гие важнейшие характеристики случайных величин.
К
Наполним общие свойства скалярного произведения (7.1):
а, £)=мк|*>о,
и равенство здесь имеет место тогда и только тогда,
когда | = 0 (с вероятностью 1);
п п
jEI £/) = М
k, j~i k = i
>0
для любых 5i>. и постоянных clf ..., сп, Что
обуславливает неравенство
- ' i&, bNiuiu
которое для математических ожиданий хорошо известно
в форме
М 15Х.521С (МI 5Х I/2 (М| 12)1/2. (7.4)
Говоря в дальнейшем о! случайном процесс^, будем
иметь в виду, что он описывается функцией 5(0»
действительного переменного t (времени), пробегающего
некоторое множество Т 7?1 на действительной прямой,
а значения этой функции суть случайные величины 5(0»
описывающие состояние процесса в соответствующий мо-
мент времени Л При условии, что М|5(0|2<°°» можно
рассматривать 5(0» t^T, как функцию в гильбертовом
пространстве Н, точнее, как функцию со значениями
(это мы и будем делать в дальнейшем).
Говоря о среднеквадратичной непрерывности или диф-
ференцируемости^ случайного процесса 5(0» ^€^» мы бу-
дем иметь в виду этц свойства как свойства функции в
гильбертовом пространстве И со среднеквадратичной нор-
мой (7.2). Например, для определенной в окрестности
точки s функции 5(0 непрерывность при t = s означает,
что
lim (О-В (s)»=0, (7-5)
t-+s
а дифференцируемость в этой точке означает наличие
такой величины 5Z(S)€^» что
Нт[К(/)^(5)-Г(5)1Ь0. -(7.6)
Задач’а. Показать, что процесс броуновского движе-
ния |(0, /^0, непрерывен в среднеквадратичном, ноне
является дифференцируемым.
58
Указан ие. Воспользоваться равенством
h(0-g(s)||2 = oap-s|
(см. (5.9)).
Задач а. Пусть КО» /^0—пуассоновский процесс.
Как мы знаем, его траектории суть разрывные ступенча-
тые функции с равными единице скачками в случайных
точках т = т1, т2, ...—см. рис. 1 на хтр. 9. Показать,
что тем не менее этот случайный процесс непрерывен в
среднеквадратичном.
Указание. Воспользоваться тем, что для .'пуассо-
новского процесса с параметром ^ .
.|К0-&(0-М*-0Г=М*-4
Задача., Пусть £ (/)’, t £ Т, есть случайный процесс
со средним МКО = 0 и корреляционной функцией
Я(0, 0) = МК0)Ш = (К0). КО)) (7.7)
— так называют указанное здесь скалярное произведение,
рассматриваемое как функция от совокупности перемен-
ных tlt t2£T. _*
Доказать, что если функция B(tlt ia) имеет вторые i
д2 д2 д2 ' >
непрерывные производные—г, д-д~, —гВ окрестности '
dti ati att dtl ,
/i = s, 0 = s, то случайный процесс КО является непре-
рывно дифференцируемым (в среднеквадратичном) в окрест- •)
ности точки t = s, причем
•mho)F(OM-^b(O,
Определим интеграл J К0^ Для случайного процесса
т
КО» tG.’F, как функций в гильбертовом пространстве Н
на конечном или бесконечном отрезке Т, отправляясь
от кусочно постоянных функций В (0» принимающих лишь
конечное число отличных от 0 значений на
непересекающихся полуинтервалах вида &k — (sk,
К0 = ^, * (7.8)
Именно, для такого типа функции КО» 1£.Т, положим
$К0<И = £^1М (7.9)
т k
где | Д | = t—s для полуинтервала A = (s, ?]• Очевидно,
ДЛЯ любых функций 51(0» ?2(0 типа (7-8) и постоянных .
S9
си са линейная комбинация g(0 + ест1
функция того же типа и )
$(^i(0+^.(W=CxJ (7.10]
т тт
Очевидны также следующие соотношения:
<711:
т
для любой величины т) € Н
Л, h(t)dA = Jh, l(i))dt- (7.12;
Т Jr
и
li(s)ds,
т / т т
= b(i))dsdt-, (7.13)
здесь идет речь о норме и скалярном произведении е
гильбертовом пространстве Н (см. (7.1), (7.2)).
Произвольная функция g (t) называется интегрируемой
в среднеквадратичном, если найдется последовательность
кусочно постоянных функций (0» аппроксимирующая
£(0 в том смысле, что
limfH(0-g„(O|dr = O;
«-♦о v
при этом определяют интеграл
f£(^ = lim f lK{t)dt.
т JT
(7-14)
(7-15)
Указанный здесь (среднеквадратичный) предел существует,
поскольку последовательность интегралов J (0 dt явля-
т
ется фундаментальной в гильбертовом пространстве Н, а
именно,
Jh„(0-B(0j^+jh(o-^(Oi^-^ {
т
ВО
при п, т—»-оо. Очевидно, предел в (7.15) не зависит от
выбора аппроксимирующей последовательности %n(t)
(доказать это!).
Задача. Показать, что соотношения (7.10) — (7.13)
распространяются на произвольные интегрируемые в
среднеквадратичнрм функции.
Задача. Пусть 1-(t), t^to, — случайная функция,
непрерывная в среднеквадратичном. Показать, что она
интегрируема на любом конечном отрезке 7’=[4, t] я
t п
Jg(XMs=J ^(s)ds = lim3^(4-i) {tk — 4-1),
Т t0 П-* оой = 1
где предел берется по разбиениям 0=4<4< <tn—t
яри шах(4— 4-1)—*"0. Показать, что функция г)(0 =
t k
=J £(s)ds, t^t0, является дифференцируемой в средне-
го
квадратичном и ее производная есть
Задача. Пусть случайная функция %(t) интегрируе-
ма в среднеквадратичном на отрезке Т. Показать, что
она интегрируема на любом измеримом множестве AsT,
точнее, на отрезке Т будет интегрируемой в среднеквад-
ратичном случайная функция (/), где L —индика-
тор множества А: ..
U(0.-{
Проверить, что интеграл
1,
о, /$А.
(7.16)
обладает указанными в (7.10)—(7.13) свойствами.
§ 8. СТОХАСТИЧЕСКИЕ МЕРЫ И ИНТЕГРАЛЫ
Нужно сказать, что обычный аппарат математи-
ческого анализа и теории обыкновенных диффе-
ренциальных уравнений неприменим к случайным
функциям типа процесса броуновского движения,
возникающим в наиболее интересных для при-
ложений теоретико-вероятностных схемах, — они
оказываются недифференцируемыми. В теории
случайных процессов развит свой аппарат сто хает и-
61
ч е с к о г о анализа и стохастических дифференциаль- j
ных уравнений, в основе которого лежит понятие сто- i
хаотического интеграла—к нему мы и переходим.
Пусть Т—конечный или бесконечный отрезок дейст-
вительной прямой и на его полуинтервалах вида Д = ‘
= (s, /] s Т задана функция т] (Д) со значениями т, (Д) € Н
из гильбертова пространства Н случайных величин
М|£|2<оо, обладающая следующими свойствами: для
любых непересекающихся Дь Д2 величины я(Д1)» Т1(Д«)
являются ортогональными, т. е.
Ш П(Л2)) = О, (8.1)
причем, если Д= j Д2 для непересекающихся полуинтер-
валов Д1( Д2 составляет полуинтервал, то
Ь(Д1иД8)=п|(д1)+т1'(д.) м
и, наконец,
[||П(д)Иа = |д I, (в-з)
где | Д | = /—$ при Д = («, /]; здесь мы имеем в виду ска-
лярное произведение и норму в гильбертовом простран-
стве Н (см. (7.1), (7.2)).
Продолжим аддитивную функцию т] (Д) на кольцо мно-
жеств Д, представимых как объединение конечного числа
непересекающихся полуинтервалов вида txk = (sk, /fe], (по-
ложив
п(Д)=2п(4) М
k
для любого такого 'объединения Д== U Дь’> из свойства
ь k
ортогональности (8.1) вытекает, что
II п (д) II2 - S (п?(д*). п (д/))=S h (дй) Г=SIд*I.
Kg У к к
что можно выразить равенством
К(д)118“М|т)(Д)|*~$ di (8.5).
д
или, символически,.
M|/n(dOI*=^- (8.6)
Будем называть т] (Д), Д s Т, стохастической аддитивной
функцией с ортогональными значениями.
62
Определим стохастический интеграл j <р (I) т] (dt) для
неслучайных функций ср(/), удовлетворяющих усло-
вию
$ |<р(0|М/ < оо. (8.7)
т
Рассмотрим сначала кусочно постоянные функции Ф (/),
принимающие лишь конечное число отличных от 0 зна-
чений на непересекающихся полуинтервалах Л* Т,
скажем,
ф(0=&. t^\k. (8.8)
Для такой функции .определим" стохастический интеграл
равенством
$Ф(О'П(£гО = 2г/й-'П(Дй)- (8-9)
т k
Очевидно, для любых функций фь ф2 описанного типа
и постоянных си с2 мы имеем
5 (С1Ф1 (О +С2Ф2КО) П (dt) = сг $ фх'(0 л (dt) +
Т т
+ с2 $ Фг(О11(^О- (8.10)
т
Используя условие ортогональности (8.1), для инте-
грала (8.9) легко получаем следующие равенства:
Кф'(/)П(Л) 2=$|ф(ОР^ (8.11)
X |] Т Т
И
НфДОпОЮ, 5ф2(Оп(^)>) = $Ф1(ОфЛО^ (8.12)
\'г т . / т
для любых фп ф2 (например, левая часть в формуле (8.11)
представима как
|S^-n(^ft)J2 = S ^/(n(Aft), п(д/)) =
= 2Ш2|1п(МР=2Ы21 М.
k k
где последнее выражение определяет интеграл в правой
части (8.11)).
Возьмем теперь произвольную измеримую функцию
Ф(£), удовлетворяющую условию (8.7), и воспользуемся
тем, что для нее существует последовательность кусочно
4 63 '
постоянных функций <р„(/) типа (8.8), аппроксимирующая
функцию <р(/) в том смысле, что
51ф(о-фв(О1*^-*о.
т
Если рассмотреть последовательность соответствующих
интегралов J то согласно общей формуле (8.11)
т
мы будем иметь
I $ ф» (0 n (<**>— $ Ф» (0 n (d0 Г -
IIТ х Т II
-I $ (фв (0-ф» (0) л (dt) Г - JI ф„ (0-Фя (0 |2d/ <
|т ОТ
<2 $ (I ф„ (0-Ф (0 Is +1 ф (0-Фя (01’) dt — о
т
при п, m —+• оо, т. е. эта последовательность оказывается
фундаментальной в гильбертовом пространстве Н. Следо-
вательно, в Н существует предел ,
$Ф(ОП(^)-Нт $фи(Оп(^), (8.13)
у Л—>00 у
который и определяет обозначенный слева стохастический
интеграл. Очевидно, его определение не зависит от выбора
аппроксимирующей последовательности ф„(/) кусочно по-
стоянных функций (проверить это!).
Задача. Показать, что для непрерывной функции
ф(0, t^ta, на любо’м отрезке Т = [/0, (] мы имеем
с п
J ф (s) ds= J ф (s) 1] (ds) = lim 5 ф (tk^) r](Aft),
T h n-+a>k=i
где предел берется по разбиениям
на полуинтервалы A* = (/*_i, /*] при max (tk—/ft_x)—>-0.
fe J
Задача. Показать, что формулы (8.10)—(8.12) рас- §
пространяются на произвольные измеримые функции ф (/), j
удовлетворяющие условию (8.7). j
Задача. Для любого ограниченного измеримого мно- i
жества A[s Т положим ' л
я(А)«$1д.т](^), (8.14) J
64
где справа стоит стохастический интеграл от индикатора
<р(0 = 1д множества А. Показать, что формула (8.14)
задает стохастическую аддитивную функцию с ортого-
нальными значениями, которая удовлетворяет условиям
(8.1)—(8.3) для всех A s Т и, более того, обладает свой-
ством ог-аддитивности:
а
n(A) = Sn(Afe) = Hm Sn(Afc) (8.15)
k п->хя=1
<
для счетного числа непересекающихся множеств Aft,
U Aj = A (такая аддитивная функция называется стоха-
k
кстической мерой с ортогональными значениями).
Задача. Пусть g(0, — пуассоновский процесс
с параметром А, = 1:
M(g(O-E(s)) = /-s.
Для полуинтервала A = (s, /] положим
n(A) = ?(n-g(s)-(/-s).
Проверить, что функция т](А)€Я обладает свойствами
(8.1)—(8.3). Показать, что для непрерывной функции
<р (0, t 0, с вероятностью .1
t
J ф (s) n (ds) = 5 Ф (тЛ)—J ф (s) ds,
где —случайные моменты скачков пуассоновского про-
цесса (rft = A04- .. .Ад_х—см. рис. 1 на стр. 9).
В дальнейшем мы'будем рассматривать стохасти-
ческие меры с нулевыми средними значениями:
Мг1(А) = (т1(А), 1) = 0. (8.16)
Задана. Показать, что при условии (8.16) справед-
ливо равенство
0-0. (8.17)
т хт /
Указание. Воспользоваться равенством (8.17) для
кусочно постоянных функций.
5 Ю. А. Розанов 65
§ 9. СТОХАСТИЧЕСКИЙ ИНТЕГРАЛ ИТО
И СТОХАСТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЫ
Пусть имеются а-алгебры событий S3*, каждую из
которых мы будем интерпретировать как совокупность'
событий до соответствующего момента времени t, и, со-
гласно этому,
$</„ (9.1)
МьГ распространим понятие стохастического интеграла
на случайные функции ср (/), значения которых
в каждый момент t—случайные величины
<р(/) = ф((О1 /), со£й,
на пространстве элементарных событий Q—измеримы от-
носительно соответствующей а-алгебры событий S3*; такие
случайные функции мы будем называть неупреждающими..
При этом будет предполагаться, что стохастическая мера
Т](Д) с описанными в (8.1) — (8.5) свойствами имеет нуле-
вые средние
Мт](Д) = 0, (9.2)
причем для каждого Д = (э, /] случайная величина г; (Д)
измерима относительно а-алгёбры событий S3* и не за-,
висит от а-алгебры событий S3' до момента s.
Мы по-прежнему' будем иметь дело со случайными
величинами М|||2< оо, рассматривая их в гильбертов
вом пространстве И со скалярным произведением (7.1) и =
считая gi —|2, если величины £t, £2 равны с вероятно-
стью 1. !
Определение стохастического интеграла (/) r\(dt) на'
г !
отрезке Т мы начнем с рассмотрения кусочно постоянных;
случайных функций <₽(/)» принимающих лишь ко-
нечное число отличных от нуля значений на пересекаю-
щихся полуинтервалах вида Ak = (sk, tk), скажем;
Ф(0 = ^. ' (9.3)
где каждая из случайных величин измерима отно-'
сительно соответствующей о-алгебры S3Sft. 1
Задача. Пусть а-алгебры S3*, непрерывна
справа, точнее, при всех s |
Л S3* = 33'. (9.4)
t > S
66
I
Показать, что всякая неупреждающая кусочно постоян-
ная функция вида (9.3) имеет значения %к, измеримые
относительно .
В дальнейшем мы будем считать выполненным усло-
вие (9.4).
Для неупреждающей кусочно достоянной функции <р (/)
вида (9.3) стохастический интеграл определим равенством
$<р(Оп(^) = 2^П(ДЛ). (9.5)
Г k
Здесь величины и т](А*) являются независимыми, и
потому
м|5*.п(Д*)|8=м|^р.м|т1(А»)|9=В^Г|Ал1;
видно, что стохастический интеграл (9.5) есть величина
из гильбертова пространства Н.
Покажем, что при условии (9.2)
М$ч>(0п(^0-($Ч>(0»|(Л), 1)“0. (9.6)
В самом деле, величины т| (Aft) не [зависят от соответст-
вующих и
М 2 М (А*) = 2 • МП (А*) - 0.
k k
Столь же просто установить, что
И <р(Оп(<И)Г = $ |<р(0|‘Л. (9.7)
|г У т
Действительно, при k > / величина т| (Ай) не зависит от
совокупности величин |у, т](А/), 5л и
М [И (Ау) (Aft)] = М (А,) у • МП (А*) - 0
(по поводу существования указанных здесь математиче-
ских ожиданий напомним, что величины В «= Lt] (Ay),
(Aft), n (Aft) имеют конечный второй момент М | £ |*<
< оо). Итак, при k=j£= j величины |уТ] (Ду), (Afc) g Н
ортогональны. Поэтому
|£^(АЛ)|‘~р^(Ай)Г-2О|А*|
и, таким образом, справедлива формула (9.7).
5* 67
Очевидно, линейная комбинация неупреждающих ку- ;
сочно постоянных функций ф(0 является функцией того
же типа—в этом легко убедиться, обратившись к пред-
ставлению (9.3) для ф = фх, ф = фа с общими для фь ф2
полуинтервалами ДЛ; ясно, что
J (С1Ф1 (0(ОН (dt) =
Г
= С1$Ф1(/)т](<Ю + с2 $Ф8(0П(^0. (9.8)
Т . т
Рассмотрим неупреждающую случайную функцию ф (0,
| |ф (014^ < °°» Ддя которой имеется последовательность
неупреждающих кусочно постоянных функций ф„(0, схо-
дящихся к 'ф(/) в том смысле, что
lim $|ф(0-ф„(01М = 0." (9.9)
у
Соответствующая последовательность стохастических ин-
тегралов ф„(0т1(^0 является фундаментальной, по-
т
скольку, согласно общей формуле (9.6),
|J Ф»(0п(^)—$ф»(0п(^0|* =
= I $ (Ф„ (0—фи (0) n (dt)|’ » J I фя (0 -фи (0II8 dt <
< 2 $ (I Ф„ (0-ф-(/) р+|| ф (0—фи (01|0 dt -> 0
т
при n, т—>-оо. Следовательно, в гильбертовом простран-
стве И существует среднеквадратичный предел
J ф (0 П (d0 — iim J ф„ (0 n.(d0. (9.10)
у Л—>00 у
Очевидно, этот предел не зависит от выбора аппроксими--
рующей последовательности неупреждающих кусочно по-.:
стоянных функций ф„(0 (проверить это!). Предел в (9.10);
определяет стохастический интеграл, являющийся обоб-.
щением стохастического интеграла (8.6) на неупреждаю- <
щие случайные функции ф(0, которые удовлетворяют
условию (9.9).
68
Задача. Показать, что. формулы (9.6)—(9.8) рас-
пространяются на произвольны? неупреждающие случай-
ные функции <р (0, удовлетворяющие условию (9.9).
В дальнейшем мы будем считать, что наша стохасти-
ческая мера ц(Д) задается с помощью-стандартного
винеровского процесса -q (/), t t0, как
Т!(Д) = Т1(О-П(4), Д = (з, а ' (9.11)
В [этом случае стохастический интеграл (9.10) обычно
называют стохастическим интегралом Ито, вместо сим-
вола т)(Л) употребляя di] (t), что больше согласуется
с определением (9.11).
Задача. Показать, что для неупреждающей непре-
рывной (в среднеквадратичном) функции <p (t), t^te,
существует стохастический интеграл Ито
г ”
J <p(s)dn(s) = lim S (9.12)
Г л->ао k « 1
где предел берется по разбиениям < tt <... < tn= t при
max(/ft—/ft_i)—>-0. Показать, что случайная функция
k
t
|(О=$Ф(8)^(5),
^0
обладает следующим свойством: при ф (/)=?£ О и малых
Л —О
5 (/+Л)-5 (0 = Ф (О [п (/ +Л)-т) <р]+о (й«/«),
где Jо (Л1/2)] есть малая величина высшего порядка в срав-
нении с
|ф(0[п(^+Л)-п(0]|1=11ф(011-^2.
Чтобы подчеркнуть специфику стохастического инте-
грала Ито, вычислим его для стандартного винеровского
процесса ф(0 = т1(0> по формуле (9.12):
< п
$ П (s) dll (s) - lira 2 11 [л (G)—П
q rt->oo Я = 1
Используя равенство
=4 [n (W-n (^-i)’]-y[n (U - n (G-1)T.
69
получаем, что
Д= 1
п
=| [п (0*—и (*о)’]-4 Е [n (^)-n (0-OJ2.
*=1
где ta = 0, т] (Q = 0. Напомним, что для стандартного вине-
ровского процесса т](/), /^0, при условии max(tk—tb-i)-*
->0 существует (среднеквадратичный) предел
п
lim 2[п(^)-Ш-1)]а = * (9.13)
Л->СО k = 1
(см. соотношение (5.19) и его доказательство). Поэтому
t
jn(S)dri(s)~|ii(04-4t (9.14)
о
Говорят, что случайная функция 5(0. 2^0. имеет
стохастический дифференциал
d5(0 = a(0^ + ₽(0^(0. (9.15)
если
t t
^(O = KU+$a(s)ds + $₽(s)dT1(s), (9.16)
/о ^0
где a (0, ₽(0—случайные неупреждающие функции (и,
конечно, указанные здесь стохастические интегралы имеют
смысл).
Задача. Показать, что случайней процесс, имею-
щий стохастический дифференциал (9.15), непрерывен
в среднеквадратичном.
Указание. Воспользоваться тем, что для интегри-
руемых функций
II a (0II=Z('M | a (01’)1'8. II ₽ (0II2 = M | p (0 P
мы имеем
$ |a(0||d/-^0, J ||₽(0P^->0
s s
при h—► 0.
70
Задача. Пусть случайная функция | (/), t s, имеет
стохастический дифференциал (9.15). Показать, что для
любого события А £23’ случайная функция |(/)-1л, t^s,
имеет стохастический дифференциал '
^[^(0-и] = [а(0-Ы^ + [Р(0-1л]^(0. (9.17)
где случайная величина . 1А (©), co£Q, есть индикатор
события А:
(1, <о £ А,
1л(“) = \о, <о$А.
Указание. Проверить, что постоянный (случайный)
множитель 1Л можно вынести за знак интеграла:
t ' t
$ [1л/а(м)]du = 1л • J а (и) du,
S S'
$ LU-P(“)] («)=U-$P(«)dn (w).
S s _
Задача. Показать, что случайная функция £(/) = т)(/)г,
где г) (/), 0,— стандартный винеровский процесс, имеет
стохастический дифференциал
dE,(t) = dt + 2-(\(t)dr\(t).
Указание. Воспользоваться формулой (9.14).
Вычислим стохастический дифференциал, случайного
процесса вида
t
s)dr\(s),- t^t9, (9.18)
где’с (t, s) есть неслучайная функция переменных t^s^t9,
имеющая непрерывную по совокупности переменных про-
изводную s). Если воспользоваться перестановкой
при повторном интегрировании, то получим равенства
t Г и
J f^ic(w-s)dTi(s) <“=
^0 ’/q ~
t . t
= $[c(/, s)—c(s, s)]df)(s) = £(O — $c(s, s)dt\(s)t
^9 .
71
из которых видно, что
- t
= ^c(t„s)di](s) dt + c(t, t)dr\(t).
(9.19) i
Докажем правомерность использованной выше пере-
становки, стохастических интегралов, установив общую
формулу повторного интегрирования. Пусть <р (и, s) есть
неслучайная измеримая функция переменных tQ
s^/, для которой существуют указанные ниже стохас-
тические интегралы:
t г t
t,
<p(u, s)dt](s) du.
(9.20)
(Скажем, все эти интегралы существуют для функции
. ч I т- с («, s), t0 s < и,
Ф («,«) = ) d“ У JL/
(. О, и < s t,
с которой мы имели дело при вычислении стохастического
дифференциала (9.19).)
Согласно определению стохастического интеграла, ве-
личины (9.20) принадлежат замыканию (в гильбертовом
пространстве Н) всевозможных линейных комбинаций ве-
личиН'Вида л = Л (М—Л 0i)> где% t- Поэтому
нужное нам равенство T]t = будет доказано, если будет
установлено равенство (т]1» Л) — (Ла» л) Для скалярных
произведений. Мы имеем
t, г t *
5<р(ы, s)du ds,
_t, - ,
Л1=$ $ ф (и, s) du dr] (s), iq2 =
Ob л)=
(Л2» Л) = $ f $ Ф (“. s)dr](s), T))da=J
t, \t, J t,
где для обычного двойного интеграла
<r<. 1
( 5 <p (и, s) ds I du
t,
<f(u,s)du ds.
Таким образом,
/ г t
( <\‘ff(uts)du dr](s)=§ J <p {и, s) dt] (s) du, (9.21)
L. J '
*0 t_fo J 1
что и требовалось доказать.
х 72
§ 10. СТОХАСТИЧЕСКИЕ ДИФФЕРЕНЦИАЛЬНЫЕ
УРАВНЕНИЯ
Мы рассмотрим здесь (действительные) случайные про-
цессы (/), t t9, имеющие стохастический дифференциал
а (0 = a (t, |(0), p(/)=6(U(0),
где a(t, х), b(t,x)—неслучайные функции переменных
t^t0 и —оо<Х<оо.
Вопрос о существовании случайного процесса указан-
ного типа со стохастическим'дифференциалом
d^(t) = a(t,^(i))dt+b(i,^(t))d^(t), (10.1)
где a(t,x), 6 (/, х)—заданные коэффициенты, есть вопрос
о существовании решения стохастического интегрального
уравнения
t t
5(O = 5W+$a(s. B(s))ds+$ b(s, |(s))dn(s). t> 0»(Ю.2)
^0 . ’ G
символическая запись которого в дифференциалах дает
нам стохастическое дифференциальное уравнение (10.1).
Функции а(/) = а(/, £(/)), = £(/)) должны у
нас удовлетворять условиям, при которых мы определили
стохастические интегралы, представленные в (10.2). На-
помним здесь, что если а(/), р(/) удовлетворяют этим
условиям, то случайная функция
t t ,
' £(O = ^(Q + $a(s)ds+$P(s)drl(s), />/0,
\ /о /о
является непрерывной в среднеквадратичном. Имея это в
виду, наложим на коэффициенты a(t, х), b(t, х) следую-
щие требования:
И(0 х)—a(s, х)|^С(1-|-|х|)|а(0—a(s)|, пп
. |6(4 х)—b(s, х)-|<С(1 + |х|)|Ь(0-6(s)|,
где а(0, 6(0—некоторые непрерывные функции, и, кроме
того, что самое существенное,
|а(/, х)—a(t, у)|<С|х—у), , „
lb(t,x)-b(t,y)I^CIx-yl ЦиЛ)
73
для всех х, у равномерно по t на каждом конечномрш-
тервале /0 sC t tx.
Задача. Показать, что при условиях (10.3), (10.4)
для любой непрерывной в среднеквадратичном случайной
функции |(/), случайные функции
= и ₽(0 = 6(ЛВ(0)
будут непрерывными в среднеквадратичном.
Напомним еще, что стохастический интеграл Ито^в
правой части (10.2) определен при условии неупреждае-
мости случайной'функции 0 = В (/)). Поэтому, го-
воря о случайном процессе со стохастическим дифферен-
циалом (10.1), мы будем иметь в виду неупреждающую
случайную функцию jj(/), t tn, значения которой—слу-
чайные величины £(/)— измеримы относительно о-алгебры
событий 33* до соответствующего момента t. В частности,
неупреждающей будет предполагаться и задаваемая в на-
чальный момент t0 случайная величина В(Q-
Как можно будет убедиться ниже (см. далее (10.16),
(10.17)), случайные процессы типа (10.2) с невырожден-
ным коэффициентом b (t, х) =/= 0 локально имеют следую-
щий характер. Если представить себе, что | (/). t to,
описывает движение некоторой частицы, то при условии
5 (а) = х за последующее малое время h. среднее смещение
частицы будет
a(s, x)h + o(h)
— приблизительно такое же, как при равномерном сносе
со скоростью a(s, х), зависящей от исходного положения
|(s) = x, а само смещение частицы за вычетом указанного
сноса на величину a(s, x)h будет
6(s, %)[t](s + /i)—Т) (s)] -f-о (ft1'2)
— приблизительно такое же, как при броуновском движе-
нии с коэффициентом диффузии
o2 = &(s, х)2.
Теорема. Для любой начальной величины реше-
ние £(/), стохастического дифференциального урав-
нения (10.1) существует и единственно.
Доказательство. Мы воспользуемся методом по-
следовательных приближений в нашем гильбертовом про-;
74
странстве Zf, положив
M0=B(U
t t
11 (0 = 5 (to) 4- $ a (s, So.(«))ds + $ b (sЛо (s)) dt) (s),
't, (10.5)
t t
In (i) = 5 (to) + 5 a (s, ($)) ds + $ b (s, (s)) dr\ (s),
to to
где^при условиях (10.3), (10.4) все и о (/, £„(/)),
&(/, !„’(/))—неупреждающие непрерывные в среднеквадра-
тичном функции от t (доказать это!). С учетом условия
(10.4)^имеем -
< $ [«(«. B„(s))—a(sX_i(s))] ds +
t, . II
t
+ $ [bM„(s))~b(s, U(*))W) <
<Jll«(s. Ms))—a(s, g„_1(s))||ds +
to
Gt u/i
[||6(s, g„(s))—6(s, l4_i(s))Fdsj <
<C max ||£„(s)—g„_i(s)[(f—Q +
t0<s<t
+ Cmax\\ln(s)-ln_l(s)\\(t-tl>yf\
Взяв интервал tt t < ii длины I = —tt с тем условием,
чтобы C (l +1^I) = г < 1, получим следующие оценки:
max i|g„+i(0—5„(0|1<
Л><7<71
- r max ||£„(/)—£„-!(/)!!<••<
<rn max 11^(0—^0(011 = Со'"’-
t^, t j
В итоге при любых т > п имеем
т-1
,max IIВт(0—В„(ОЯ<Со 2 г* = С1г»-«-0, т, П-*ОО.
to<t<tt k=pn
75
В частности, ви j, что последовательность величин
n = 0, 1, является фундаментальной в Я и для
каждого t, существует (среднеквадратичный)
предел
g(0= Ит МП. (10.6)
л->®
Ясно, что
• max R(O-U0II<<V.
—-
Кроме того, в силу условий (10.4),
max||a(/,g(0)-a(0 6„(0)|<C1r»,
max |ft(U(0)-ft(U,(0)|<C,r«.
Поскольку случайные функции 5„(0 являются непрерыв-
ными в среднеквадратичном, тем же свойством обладает
их равномерный предел 5(0, Очевидно, пре-
дельная функция 5 (0 удовлетворяет интегральному урав-
нению (10.2):
6(O-lim5„(O-
л->® к
t I
—5 (/.) 4- lim $ a (s, 5„-i (s)) ds4-lim $ b (s, 5„_ j (s)) dr| (s) =
л->оо
= S (M + $ a (s, 5 (0) ds 4- $ b (s,15 (0) di] (s)-
•• t, t.
Указанная нами функция 5 (0» 0 t 0, являетея*един-
ственным решением интегрального уравнения (10.2), по-
скольку для любого решения 5(0, мыТиме-
ли бы
I/ II
$[a(s,5(s))-a(s,5'(s))]ds 4-
t9 * I
+| 5 [Ь (8, 5 (0)-Ь (S, I (0)] dt] (s) | <
max J5(s)—5(011, г
что может быть лишь тогда, когда
- max р s)—5(s)B=0.
76
Ясно, что указанным методом последовательных при-
ближений можно определить решение с заданным началь-
ным значением |(^) на следующем интервале
(прежней длины /) и т. д., в итоге получив'единственное
решение £(/), t^te. Теорема доказана. £
Задача. Пусть £(/), |(/) есть решения уравнения
(10.1) с начальными величинами £(4), f(/0)- Показать,
что на любом конечном интервале t0 t tt справедлива
оценка
- й 5 (0-1 (0II < С 15 (Q -I (МII. ' (10.7)
где постоянная С зависит от t±.
Указание. Оценить |5п(0—1в(01> л “О, 1, .... в
соответствующих последовательных приближениях.
Обозначим i (/) — <р (s, х, /), t s, решение стохасти-
ческого дифференциального уравнения (16.1) на полуоси
с начальной величиной к
ф(в, х, s) = x (10.8)
и обратимся к распределениям вероятностей
P(s, x,i, В) = Р{ф(8, х, t)$B}, B^R1, (10.9)’
случайных величин ф(s, х, i), t^s, зависящих от пере" •
менного х, —оо<х<оо.
Задача. Пусть значения у'<у" таковы, что
Р{ф(8,Х, 0 — у'} = Р {фК«, х, о = /}=о.
Доказать, что для полуинтервала В = (у',у"] вероятность
Р (s, х, t, В) как функция переменного х непрерывна в
точке х = х.
Указание. Воспользоваться непрерывной зависи-
мостью величин ф (s, х, t) от начального значения х:
|.Ф (s, х, 0—4> («. х, /)]< С||х—х||
(см. (10.7)) л слабой сходимостью распределений (10.9)
при х-*х. • w
Мы предположим в дальнейшем, что распределения
.вероятностей (10.9) имеют плотность:
Р(s, х, t, р(s, х, t, y)dy, B^R1. (10.10)
в
77
Рассмотрим решение £(/)~ф (s, х, t) стохастического
дифференциального уравнения (10.1) на полуоси <>sc
начальным условием |(s) = x. Это решение может быть
получено описанным в (10.5)—(10.6) методом последова-
тельных приближений, начиная с нулевого приближения
Jjo(0 = *> Все последующие приближения £„(/),
находятся в конечном счете по х и приращениям
4(0-i-4(s)/^^s> винеровскрго процесса, с помощью ко-
торых определяются стохастические интегралы в (10.5)^
Поэтому случайный процесс | (/) = ф (s, /), t s, не
зависит от соответствующей о-алгебры 23*, представляю-
щей у нас события до момента s. (Напомним, что неза-
висимость приращений т] (/)—т] (s), от 25s была
одним из предположений в. определении стохастического
интеграла.) . . ,
3 а дач а.х Пусть случайная величина ф(х), зависящая
от действительного параметра х, при каждом фиксиро-
ванном значении х не зависит от случайных величин т|.
Пусть |—дискретная случайная величина, принимающая
не более счетного числа различных значений х = хп х2, ...
.Показать, что ф(£) есть случайная величина, условное
распределение которой при условиях £ = х, т] = у зависит
лишь от х и есть
Р{ф(В)€В|5=х, т] = у} = Р{ф(х)€В},
Указание. Воспользоваться равенством событий,
{ф (£)€£}= U {£ = **, ф(ха)£В}.
Задача. Пусть £(/), — решение уравнения
(10.1) на полуоси t^s с начальным условием £($) = £.
Показать, что если £ есть, дискретная величина, прини-
мающая конечное число значений х = хп х2, ..., то
UO = <P(s,B(s), /), t>s, (10.11)
и формула (10.9) задает условные распределения вероят-
ностей величин |(/) при условиях
' П1 = У!, •••, Чт = Ут> l(s) = x
независимо от ylt ..у,п для любых величин т],, ..
измеримых относительно 2Х
У к а з^ н и е. Можно воспользоваться тем, что :
Ф(s, х, O’l{S=*b t^s, имеет стохастический дифферен-
' циал с коэффициентами a(t) = a(t, ф(я, х, 0)1 {£=*}»
Р (0 = 6(0 <p(s, х, 0)Ь=М-.
78 /
Рассмотрим величины g (sj, ..., £ (sm), £ (s) в общем
решении £(/), t^tB, стохастического дифференциального
. уравнения \10.1) на полуоси t^t9, отвечающие произ-
t вольным моментам времени «!<...< sm < s; все они изме-
римы относительно а-алгебры событий 33s. Как можно
будет убедиться ниже, формула (10.9) задает условные
распределения величин t^s, при условии
|(S1) = X1( |(S) = X (10.12)
независимо от хг, ..., хт. Это свойство случайного ^про-
цесса |(/), t^tB, выражающее независимость поведения
/ процесса t^s, в «будущем» от его «прошлого» до
момента $ при известном «текущем» состоянии £(з) = х,
называют марковским свойством, а сам случайный про-
цесс £ (/), t tQ, называют марковским процессом.
Условные вероятности
P(s, х, t, B) = P{g(/)£B|£(s) = x} (Ю.13)
называются переходными вероятностями марковского
процесса—они задают вероятности перехода процесса из
исходного состояния £(з) = х в то или иное состояние
£ (/) g В из множества В = 7?1; соответствующая плотность
p(s, х, t, у), —оо<у<со,
существование которой мы предполагаем (см. (10.10)),
называется переходной плотностью.
Наметим, как можно установить марковское свойство
общего решения £(/), t^tB, стохастического дифферен-
циального уравнения (10.1).
Опустив для краткости обозначений в условиях (10.12)
величины £ (зД, ... Д (зст) и обозначив Р (dx) распределе-
ние вероятностей величины | = £ (s), приведем равенство,
определяющее условные вероятности Р (s, х, t, В) для
В = (/./]:
X" х
$ P(s,x, /,В)Р5(4хНР{х'<ЧСх', ^<1(0<А
(10.14)
где х', х9 можно взять лишь такие, что
Р{| = х'} = Р^ = х'} = 0.
Как отмечалось выше, равенство (10.14) справедливо для
решения £(/) = <p (s, g, t) на полуоси t^s с дискретной
79
начальной величиной £ = g(s). Возьмем последовательность
дискретных величин ! = ?„•, сходящихся в среднеквадра-
тичном к величине g(s) в общем решении !•(/), на
полуоси Согласно (10.7) для t^s получим, что
R(0-<р(s, OKC||£(s)-UI-*o.
Мы имеем равенство (10.14) для величин
в котором неизменная при всех п функция Р (s, х, t, В),
— оо < х < со, является непрерывной,, и это равенство
распространяется на предельные величины
lim £(/) = lim <р (s, g„, f)
П-+9О П-^93
для всех х', х" с Р(| = х') = Р {£ = х"} = 0.
Задача. Показать, что при s < и < / и любом х
справедливо уравнение Колмогорова—Чэпмена
Р(з, х, t, В)= J p(s, х, и, у)Р(и, у, t, B)dy. (10.15)
— ос
7 Указание. Воспользоваться формулой полной веро-
ятности, выражающей распределение случайной величины
£ = ф(з, х, t) посредством условного распределения отно-
сительно величины r) = <p(s, х, и).
Задача. Пусть g(/) = <p(s, х, t), t^s, есть решение
стохастического дифференциального уравнения (10.1) на
полуоси с начальным условием |(s) = x. Показать,
что
00
М [g (s-f-ft)—g (з)] = $ (у—х) р (S, х, s + h, у) dy= ~
= a(s,x>-ft + o(/i), (10.16)
М[£ (s-Rt)—I(s)]2= $ (у—х)гр(з, х, з + Л, у) dy=
=b(s,xy-h + o(h) (10.17)
при h—>-0.
Указание. Воспользоваться выражением
?(s+ft)-B(s)= $ a(t, $ b(U(0)dt](0.
' s S
80
§ 11. ДИФФУЗИОННЫЕ ПРОЦЕССЫ
(ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯ КОЛМОГОРОВА)
Пусть плотность вероятности р (s, х, t, у)< — оо < г/ <
< оо, зависит от параметров t > s > /0, —оо<х<оо,
таким образом, что имеет место уравнение Колмогорова —
Чэпмена
pfa х, t, у)«
ОО
= J p(s, х, и, г)р (и, z, t, y)dz, s<u<t. (11.1)
Рассмотрим случайный процесс £(/), t^t0, с начальным
значением —*о» для которого величины £(Л). •••
..., g (tn) в любые моменты ta < tr < ... < tn распреде-
лены в jR" с соответствующей плотностью вероятности
./»(*!....*»)“
= p(t», х0, tlt Xi) ... p(tn_lt x„_i, t„, x„),
(xlt ... , x„)€/?«. (11.2)
Этот процесс является марковским с переходной плот-
ностью p(s, х, t, у); условное распределение величин
t^s, при условии
g(s1) = x1, ... , ?(sm) = xra, |(s)=x
в "любые Si < ... < sm < s независимо от xn ... , xm есть
" P(s, x, t, B)=^p(s, x, t, y)dy, B^R1 (11.3)
в
(доказать это!).
Предположим, что
J р (s, х, s+h, y)dy = o(h) (11.4)
I g-x | > e.
при ft—>0 для любого фиксированного e>0; предполо-
жим также, что
$ x)p(s, х, s + h, y)dy=a(s, x)-h+o(h), (11.5)
J (y—x)*p(s, x, s+ft, y)dy=b(s, x)*‘h+o(h),
\y-x|<8
(11.6)
Ю. А. Розанов
81
где o(h)/h->-Q при h—>-0 равномерно в каждом конечном
интервале /0<s< ti- Обладающий перечисленными свой-
ствами случайный процесс |(/), t^t9, обычно называют
диффузионным, а коэффициенты a (s, х) и b (s, х)2 указан-
ных выше асимптотических разложений называют.соот-
ветственно коэффициентами сноса и диффузии.
Примером такого рода процесса с параметрами
a(/,x) = 0, b(t, х)2 = о? является броуновское движение,
к которому мы в -свое время пришли, используя уравне-
ние диффузии (см. § 5—проверить, что условия (11.4)—
(11.6) выполняются для переходной плотности (5.6)).
Теорема. Пусть переходная плотность p(s, х, t, у)
имеет производные и , непрерывные по х рав-
номерно по у в каждом конечном интервале у0^У^У1-
Тогда она удовлетворяет дифференциальному уравнению
<"'7>
Доказательство. Возьмем произвольную непре-
рывную функцию ф(х), равную нулю вне некоторого ко-
нечного интервала, и положим
оо
ф($, х)== 5 Ф (у) Р <s« х' У) dy- о1-8)
— 00
Из уравнения Колмогорова—Чэпмена вытекает, чт8 при
любых /0 < s < и < t
00 00
ф(з) = J ф(у) J p(s, х, и, z)p(u, z, t, y)dzdy=
— <Х) — 00
00
= J ф (и, z)p(s, х, и, z)dz.
— 00
Очевидно, функция ф(х, х) имеет непрерывные производ-
ные . Разложим функцию ф (и, г) в окрест-
ности точки х (при фиксированном и) по формуле Тейлора:
ф(и, z)—ф(«, х) =
-^(г-ж)+4 [2^Й+0(в>)1
С/Л L ил j
где
s — снп I а2<р г> д2? (и, х)
ие — ьир ч~2 лТ2
|z-x|<e I ох ох
82
При в—>-0. Из соотношений^ (11.4)—(П.6) получаем, что
q>’(s, х) — <р(и, х) =
00
= J [ф(и, г)—ср(и, x)]p(s, х, и, z)dz —
— 00
= $ [ф(ы, z)—ф(ы, x)]p(s, х, и, z)dz+o(u—s) =
I Z-Х К 8
У (z—x)p(s, х, и, z)dz +
|г-х|< е
+ у рУ^ + °(б«)] j (z—x)2p(s, х, и, z)dz +
I Z — X К 8
+0(«-,)={в(,. ,)*^+11М.рм+
. , +0(8.)]} (“—s)+o(k—s),
где О (бе) —> 0 при 8 —О, откуда видно, что
lira т<»*)-?<“ «>=,,(з, 6(s,
и, таким- образом,
Принимая во внимание определение функции ф(з, х)
(см. (11.8)), это уравнение можно переписать следующим
образом:
f <p0/)[-£+a(s> x)^+46<s’ x)2S] ^=°-'
— 00
где, напомним, ф(г/)—произвольная непрерывная функция,
равная нулю вне конечного интервала, и, следовательно,
должно быть выполнено равенство ,
^ + a(s, x)g + ±HS, x)^g = 0.
Теорема доказана.
Теорема.. Пусть существуют непрерывны^ произ-
водные
-^p(s, х, t, у), ^[a(t, y)p(s, х, t, i/)],
У)*Р& x, Л У)]-
6»
83
Тогда переходная плотность p(s,' х, t, у) удовлетворяет
дифференциальному уравнению
[a (*> У) Р (8. х, t, у) ] +
+ У)*-Р& х, Г, у)]. (11.9)
Доказательство. Точно так же, как и при дока-
зательстве предыдущей теоремы, легко получить, что для
любой дважды непрерывно дифференцируемой функции
Ф(х), равнбй нулю вне некоторого конечного интервала,
существует предел
Ит Т f х> y)dy— Ф (*) =
0 " v I
_ — оо •> ' J
= a(t, х) ф'(х)Ъ (/, х)* ф'(х).
Имеем
00 •
— Jp(s, x;t, y)4>(y)dy=
г 00
= Um 4- f p(s, x, t + h, y)<f>(y)dy—~
Л-> 0 J
L —a?
€0 -1
— J p(s, x, /, z)(p(z)dz ==
-90
00 ' Г 00 -1
= $ P (s, X, t, z) lim д J p (i, 2, t+h, у) ф (у) ду^ц> (z) \dz—
Л-> e L-qo ' J
00
= j p(s, x, t, z) ^a(/, г)ф' (z)+±b(t, г)’ф'(г)^ dz.
— 00
Интегрируя последнее выражение по частям, получаем
во во
J p(s, X, t, y)4>(y)dy= § [^-P(s. X, t, у)] Ф (y)dy=*
— 00 —00
о»
=» j {—У)р& x' !/)]+
уУ р& x, t, y'&vWdy,
94
откуда, ввиду произвольности функции <р(*/), вытекает
равенство (11.9). Теорема доказана.
Уравнение (11.7) называют обратным, а уравнение
(11.9)—прямым уравнением Колмогорова.
§ 12. ЛИНЕЙНЫЕ СТОХАСТИЧЕСКИЕ
ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯ
И ЛИНЕЙНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
Как известно, общее решение линейного дифференци-
ального уравнения
x<'’>(0-ai(0x‘»-1>(0-...-a„(/)x(0=0, t>tk (12.1)
(скажем, с непрерывными коэффициентами), можнсГпред-
ставить в виде
х (0 = *2 wk (t, t9)хк, (12.2)
fc = (T
где параметры х0, ... , хп_х суть начальные значения
Хв = х(/0), ... , 'Xn~i — Xln »(/0),
a wk(t, —частные решения, отвечающие соответствую-
щим параметрам хк=1, х^—Q при /#=£.
Задача. Проверить, что для любых случайных ве-
личин i0, ... , случайная функция
1(0= 2^14)^ (12.3)
*=о •
в нашем гильбертовом пространстве Н случайных вели-
чин М | ||а < оо, имеет непрерывные среднеквадратич-
ные производные £**’(/) до порядка п и является един-
ственным решением (записанного в дифференциалах) диф-
ференциального уравнения
(0_Я1 (/)—а„(0= 0,
t > to, (12.4)
с начальными условиями
•••• = (12.5)
(Отметим, что для любого скалярная функция
*(0 = (£(0» "П) есть единственное решение уравнения
(12.1) с начальными условиями х(*’(/о) = (^,т1)гЛ=О,...,
п—1).
Рассмотрим неоднородный аналог дифференциального
Уравнения (12.4), записанный с помощью стохастических
85
дифференциалов как
- d^’1' (0 -«1 (0 Iй"1’ (0 dt-... —ап (t)l(t)dt =
=b(t)dr\(t), t>t9, (12.6)
где речь идет о случайной функции £ (/), t 10 в Я
с непрерывными производными %M(f) до порядка п— 1,
для которой (/) имеет стохастический дифференциал
вида
(0 = [ах (0 (0 + ... + ап (0 ? (0] dt + <
. +b(t)dxat), (12.7)
а младшие производные, конечно, имеют стохастические
дифференциалы
,dg‘*’(0 = £u+1,(0dt 6 = 0, ... , и—2. (12.8)
Напомним, что в правой части (12.6) случайная функ-
ция т|(0» t>t0 (стандартный винеровский йроцесс), не
имеет производной, и мы рассматриваем dt](Z) как стоха-
стическую меру, для которой ранее был определен сто-
хастический интеграл Ито.
Разность двух любых решений уравнения (12.6) удов-
летворяет однородному уравнению (12.4) с нулевыми на-
чальными условиями, и, следовательно, эта разность
тождественно равна Ю. Таким образом, решение £(£),
t^t0, уравнения (12.6) с заданными начальными усло-
виями (12.5) является единственным.
Ясно, что если в (12.6) взять решение £,(t), t^ta, с
нулевыми начальными условиями
|(/») = 0. ••• , 1("-1>(М = 0 (12.9)
и прибавить к нему решение (12.3) однородного уравне-
ния (12.4), то полученная сумма даст нам решение урав-
'нения (12.6) с начальными условиями (12.5).
Теорема. Решение стохастического дифференциаль-
ного уравнения (12.6) с нулевыми начальными условиями
задается формулой
t
5(0 = 5^(Л s)6(s)dri(s), (12.10)
*0
где при фиксированном s функция w(t, s) переменного
t^s есть решение соответствующего обыкновенного диф-
ференциального уравнения (12.1) с начальными условиями
w(s, s) = 0, ...» w(Z2”2)(s, s) = 0, s)=l. (12.11)
$6
Доказательство. Согласно общей формуле (9.19)
случайная функция (12.10),имеет стохастический диффе-
ренциал вида
г t
т
d£(0 = J o>a) (t, s) b (s) di] (s) dt + w(t, di](t)
при л> 1, где w[(t, t) = Q и, следовательно, существует
производная в среднеквадратичном, имеющая вид
t *
£(1) (0 = $ wtl> (t, s) b (s) di] (s), t t0,
^0
аналогично устанавливается существование всех (n—1)
производных
t
= s)&(s>dT](5), ?>/0, 1. (12.12)
*0
Пользуясь той же общей формулой (9.19), для последней
(п—1)-й производной получаем ,
г t
J (t, s) b (s) di] (s) dt +
- ^0
4-te>(n-1>(Z, t)b.(t)di]{t),
где (t, t) = 1, а
(t, s) = a1(t)wln~1) (t, s) + ... +an(t)w(t, s), t > s;
что вместе с выражениями (12.12) для производных |ш(/)
дает нам равенства (12.7)—(12.8). Теорема доказана.
Уточним, что [в данном нами определении стохасти-
ческого дифференцйала—см. (9.15) — речь шла о неупреж-
дающих случайных функциях (по отношению к некоторому
потоку событий ЭЗ*, очевидно, формула Д12.10)
задает неупреждающую случайную функцию £(/), t^t9,
и то же можно сказать о формуле (12.3) при условии,
что неупреждающими являются начальные значения %к,
k = 0, ..., п—1 (т. е. они измеримы относительно
©-алгебры событий 35'«).
Полученные результаты позволяют нам следующим
образом охарактеризовать поведение случайного процесса
управляемого линейным стохастическим диф-
ференциальным уравнением (12.6): при t~^s в отсутствии
«внешних возмущений», представленных в правой части
87
<12.6) как b(t)di\(t), траекторией процесса является
п- 1
X (fj = S wk s) £**’(s). > S, <
fe=0
—детерминированная функция, определяемая по исходным
величинам B(ft)(s), fe = 0, , n—1, гдеа>А(/, s) по пере-
менному t > s есть решение обыкновенного дифференци-
ального уравнения (12.1) с начальными условиями
"Й'И’Ж s) = 1, ^-Wkts, s) = 0
dtK dlJ
при j^kr j =0, ..., n—1,
а при наличии b (t) di] (/) происходит отклонение процессса
ют этой траектории x(t) на величину
t
A'(f, s) = £(0~х(0 = $ u)b(u)di\(u),"t^s. (12.13)
s
Рассмотрим подробнее (действительный) случайный про-
цесс £ (/), t tt, который описывается стохастическим
дифференциальным уравнением первого порядка:
dl(f) = a(f)l-(t)dt+b(f)dx](t) (12.14)
с действительными коэффициентами a(t), b(t). (Оно при-
надлежит к тому- типу стохастических уравнений, которые
рассматривались нами в § 10.)
ь,. Задача. Исходя из общей для всех s,~^ta фор-
мулы (12.13), доказать, что решение уравнения (12.14)
-есть марковский процесс с переходной плотностью
(у-а)»
p(s, X, t, у) = -7=-е 2°‘ , — ОО < у]< ОО,
V 2ла2 —
задающей нормальный закон распределения вероятностей
с параметрами
t
a — w(t,s)x, о2 = и) b (и)]2 du.
s
Указание. Воспользоваться тем, что стохастический
интеграл
t
Д(/, з) = ^ш(/, u)b'(u)di\(u) =
• s
= lim»(/, /ft_i)&(/ft_x)[?)(/*)—n(^-i)].
, k
S8
определенный по приращениям броуновского движения,
дает нам нормально распределенную случайную величину
А (Л s).
Задача (продолжение). Показать, что %(f),
есть диффузионный процесс с параметрами
a(s, x) = a(s)-x, fr(s, x) = 6(s).
i
Указание. Проверить, что переходная плотность
p(s, х, t, у) удовлетворяет условиям (11.4)—(11.6).
Задача. Показать, что решение уравнения (12.14}
при нулевом начальном условии £ (/0) = 0 есть случайный
процесс с нулевым средним (/) = О и дисперсией^ (t) =
= М£ (О2, которая как функция от t^t0 есть решение
дифференциального уравнения
±D(t) = 2a(i)D(t)+b(t)*, t>t„ (12.15}
с нулевым навальным условием D(/o) = 0. _
- Указание. Продифференцировать функцию
t
D(/)= $[и>(/, s)b(s)]ads
и в полученное выражение подставить
-^w(t, s) — a(t)w(t, s), w(t, /)=1.
Произвольный случайный процесс £(/), будем
называть линейным, если он представим в виде
t
t(t) = \w(i, s)T1 (ds), (12.16>
G
t
где tt>’(0 s)—неслучайная_функция, $|и>(0 s)|’ds<co, a
*0
T) (di)—какая-либо стандартная стохастическая мера
с ортогональными значениями:
Мт)(<И) = 0, М|т1(<*01’ = <*0
будем называть w(t, s), t^s, весовой функцией.
Линейным случайным процессом является, например,
решение линейного стохастического дифференциального
уравнения n-го порядка с нулевыми начальными усло-
виями (см. (12.10)).
89
Линейный процесс назовем однородным, если его весо-
вая функция w(t, s) зависит, лишь от разности t—s:
w(t, s) = w(t—s), t^s.
Соответствующую весовую функцию w(t), t^Q, будем на-
зывать устойчивой, если
$|u>(0|2^< оо. ' (12.17)
о
Пример (линейные дифференциальные уравнения с по-
стоянными коэффициентами)..Однородный линейный про-
цесс возникает при рассмотрении общего линейного сто-
хастического дифференциального уравнения (12.7) с по-
стоянными коэффициентами, скажем,
ak(t) — ak, k^=\, .. . , п-, —
Именно, пусть все корни характеристического полинома
P(z) = zn—а^"'1—...—ап_хг—ап
лежат в левой полуплоскости Re г < 0 комплексного пе-
ременного z. Соответствующая весовая функция
является решением дифференциального уравнения
ш<«>(/)—a1win~1') (t)—...—anw(t)^=0 (12.18)
с начальными условиями
и,(»-1)(0)=1, W*’r(0) = 0, k<n—1
(см. (12.10)), и прй указанных условиях на корни поли-
нома Р (г) функция w(t) убывает при t —>оо экспонен-
циально быстро, так что она удовлетворяет требованию
(12.17). Положив йу(0 = О при t < 0, приведем здесь
известную формулу преобразования Фурье:
С eiUw (/) dt — -nr > —оо<Х<оо; (12.19)
J r V—
о
она легко получается интегрированием по частям ра-
венства
У ^("“1)(0—• • • — anw(t)\dt=0.
о
90
Рассмотрим общий однородный линейный процесс
t
l(t)= \w(t — s)x\(ds), (12.20)
f 0
с [устойчивой весовой функцией и его поведение через
большой промежуток времени I—/0—>оо. При этом фор-
мально нам удобнее считать, что tB^>- — оо (предполо-
жив, что стохастическая мера т| (dt) задана на всей пря-
мой — оо < t <оо). Положим w(f) = 0 при t < 0 и обра-
тимся к случайному процессу
00
£*(О== j w(t—s)t|(ds)= (
-СО
t
= § w(t—s)n(ds), —oo</<oo. (12.21)
-CO
Он обладает тем свойством, что имеет нулевое среднее
М£*(/) = 0 и корреляционную функцию
?(t, s)=;m§*(oF^)=
00 00
= У w(t—u)w(s—u)du= § w(t—s-t-u)w(u)du=
— co —co
— B(t--s), —oo<s, /<oo,
которая зависит лишь от разности t—s (такого рода слу-
чайный процесс называют стационарным в широком
смысле-, см. далее § 13). Сравнив (12.20) и (12.21),^легко
получаем, что
1*0 I»
\W(t-s)x\(ds) =
-00 I
= $ |w(/—s)|8ds=d$ |до(и) |2du —>0
-00 t-t0
при t — >oo. Таким образом, справедливо следующее
предложение.
Теорема. При t—?0—>-00 однородный линейный про-
цесс (12.20) с устойчивой весовой функцией сходится в
среднеквадратичном к стационарному в широком смысле
' процессу (12.21).
91
§ 13. СТАЦИОНАРНЫЕ ПРОЦЕССЫ (СПЕКТРАЛЬНЫЙ
. АНАЛИЗ И ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ)
Случайный процесс !(0, М|!(0|* <°°, на действи-
тельной прямой — оо < t < оо называется стационарным
в широком смысле, если , его среднее значение М£(0 не
зависит от t (мы примем М!(0=О) и корреляционная
функция
В((, s) = M!(0T(s), —oo<|s, f<co,3
. зависит лишь от разности (—s:
M£(0f(sj=B(f—s); (13.1)
соответствующая функция B(t), —оо< t <оо, также на-
зывается корреляционной функцией (стационарного про-
цесса).
Свойство стационарности в широком смысле выражает
тот факт, что корреляция величин g (tj, £ (t2) при любых
it, t2 не меняется при сдвиге на время t—такую же кор-
реляцию имеют величины 1(04-0, £(^4-0.
Простейшим примером процесса этого рода может слу-
жить гармоническое колебание! (t) = aetiM+e), —оо<( <оо,
частоты А. со случайными амплитудой | ос | и фазой 0,
где а и 0—независимые действительные случайные вели-
чины, причем Ма = 0, М|а|2<оо.
Задача. Показать, что если в приведенном выше'
примере случайная величина 0 равномерно распределена
на отрезке —л^0^л, то распределения'вероятностей
величин | (t,), ..., ! (tn) при любых t„ не ме-
няются при сдвиге на время t—такое же распределение
вероятностей имеют величины 1(04-0, £(0,4-0*).
(Случайный процесс с этим свойством называют стацио-
нарным в узком смысле.)
, Мы будем рассматривать стационарные в [широком
смысле процессы, допускающие спектральное представ-
ление вида
00
!(0= $ e^^)Z(dK), -oo<f<co, (13.2)
— 00
- ♦) Говоря о распределениях вероятностей комплексных величин
‘вида £ = £i + ^2> мы имеем в виду распределения вероятностей их
действительных компонент (61, £2). х
92
где 6 (dk)—стандартная стохастическая мера с ортогональ-
ными значениями на прямой —оо< X <оо:
м£(а)=о, м|£(а)|»=а; цз.з) .
неслучайная функция ф (X) удовлетворяет условию
$ IФ (X) |*dX-<оо, при котором для каждого t и опреде-
лен стохастический интеграл (13.2). Выражение (13.2) со-
ставляют гармонические колебания
—оо< t <оо,
частоты X, взятые с «весом» ф (X);
Г(Ь)=И(х)"|* (1'3.4)
как функция переменного %, —оо<Х <оо, называется
спектральной плотностью', она характеризует «весомость»
отдельных гармонических составляющих случайного про-
цесса (13.2) в зависимости от их частоты' %. Согласно
общим формулам (8.16) и (8.12) для стохастических
интегралов, мы имеем . •
' М£(О=О,
— — ®
так что всякий случайный процесс (13.2) является ста-
ционарным в широком смысле и его корреляционная функ-
ция есть
5(0= $ emf(X)dX, — оо</<оо. (13.5)
— GC
Полагая формально Ф((/Х) = ф(Х)$(с!Х), будем исполь-
зовать спектральное представление (13.2) в виде
6(0- $ ^(dX), — oo<f<oo. (13.6)
Это представление бывает удобным при рассмотрении ли-
нейных преобразований случайного процесса 6(0 типа
л(0= J еа/ф(Х)Ф (dX), —оо</<оо, (13.7)
93
которое, как непосредственно видно, преобразует гармо-
нические составляющие исходного процесса, придавая им
соответствующий «вес» ф(А,) в зависимости от частоты %.
Такое преобразование может «усилить» одни составляю-
щие и «подавить» другие для тех или иных X. Весовая
функция 'ф(Х), конечно, должна удовлетворять условию
$ (13.8)
— 00
при котором для каждого t и определен стохастический
интеграл в правой части (13.7).
Рассмотрим несколько примеров линейных преобразо-
ваний стационарного процесса £(/) указанного в (13.6)
типа. ,
Пример (дифференцирование). Пусть спектральная
оо
плотность /(%) такова, что J |A|8/r(X)dl<oo. Тогда
-СО
стационарный процесс |(Q имеет производную (в средне-
квадратичном)
6'И-Нш
h->0 Л
- р г.га ф d р ea/(t.X)Q(dX)
J О П О
-со • —со
Пример [интегрирование). Пусть функция^ c(t)
интегрируема и *
со
ф(А)= J e~iMc(t)dt.
-СО
Тогда
n(/)=; J еш^(Х)Ф(а)= $ еш
— со -со
~ilac(s)ds O(d%) =
оо Г со
J c(s) $ ea</-s<[)(dX) ds=
СО '00
= $ c(s)^>(t—s)ds= J c(t—s)^{s)ds.
— 00 —00
94
, Пример (низкочастотный фильтр, оценивание сред-
него). Пусть
Ф(Ь) = ± j e~lMdt = e-^=±.
О
Соответствующее линейное преобразование дает нам
со t ’
т](/) = J (X)Ф(dk) = jr J £(s).ds, —оо</<оо,
-оо t-T
почти без изменения пропуская низкочастотные состав-
ляющие и практически подавляя составляющие с часто-
тами |Х|>8, где 8 тем меньше, чем больше Т. Указан-
ное преобразование может быть использовано, скажем,
для оценивания неизвестной постоянной 0 по «наблю-
даемым»
х(О = 0 + ИО, 0^/СТ.
Именно, цля-эмпирического среднего
т т
e=^-jx(O^ =о+^
0^0
в случае ограниченной спектральной плотности /(X) мы '
имеем
т
|[0-0|P= ±fe(t)dt
о
2
= J К(*)1ТОМ*=4- j
— оо — оо
при Т—->до (ср. с законом больших чисел).
Рассмотрим стационарный линейный процесс вида
00
£(/) = w(t—s)r\(ds), —оо</<оо, (13.9)
где —стандартная стохастическая мера с ортого-
нальными значениями на временной оси —оо</<оо:
. Мт|(<//) = 0, М | т] (с//) |2 = d/, (13.10)
а весовая функция w(t) удовлетворяет условию
00
J | йУ (Z) ]2 <оо.
— оо
(13.11)
95
С такого рода стационарным в широком смысле случай-
ным процессом мы уже встречались (см. (12.20), (12.21)).
Мы покажем ниже, что стационарный процесс (13.9) до-
пускает спектральное представление (13.2), которое мы
получим с помощью преобразования Фурье стохастиче-
ской меры т](^0-
Ввиду условия (13.11) нам удобно будет использовать
пространство L* интегрируемых в- квадрате функций на
действительной прямой со скалярным произведением
00
(«1, «2)«в $ «i.
- - 00
и нормой || «||= (и, «)1/2, определяющей среднеквадратич-
ное расстояние
/ • \ 1/2
||мг—«а||=( $ 1М0—мом) •
- Напомним*), что преобразование Фурье
5 t “
и (%) = _§ e^uf/) dt, —оо<Л<оо,
(13.12)
интегрируемых в .квадрате функций u(t), —oo<f<oo,
можно определить как
п
§ elKiu(t)dt,
-п
имея в виду среднеквадратичную сходимость функций
п
йп(к)—-^= §etuu(t)dt при n—►ooj
, 00
J «-«J* = J W -««WI1 м - °-
-CD
Это преобразование взаимно однозначно отображает про-
странство L* интегрируемых в квадрате функций «(/)»
— оо</<оо, на такое же пространство L* интегрируе-
мых в квадрате функций <р (X), —оо<А,<оо, причем это
*) См., например, Кудрявцев Л. Д. Математический анализ,
II.—М.: Высшая шкала, 1970.
96
отображение непрерывно в смысле среднеквадратичной
сходимости и для <рг(Л) = й (Л) обратное преобразование
Фурье задается аналогичной (13.12) формулой:
00
— С e"wq>(X)dX, —оо< t <оо. (13.13)
У 2л J
Самым существенным для нас будет известное ра-
венство
00 00
(йпй2) = J Mj(X)-m2 (X)dX = J «j = иг),
- оо - 00
(13.14)
справедливое для любых функций мь w2gL2; npHMjeWj
оно дает так называемое равенство Планшереля:
||й||*== J |й(Х)|2аХ= $ |u(/)|M/ = [|«ll2- (13.15)
Напомним, как' можно' получить равенство (13.14),
применив формулу обращения (13.13) к свертке
“<0 = р= j ^(Z + sJ.izJsJds.
Дополнительно предположив, что функции ux(/), u2(t)
являются интегрируемыми, имеем
Mi (^) • w2 (^) —
=-?= С е-й4—
[1<2л
u2(s)ds =
= —Д= С e^uitydi',
К2л J ' '
видно, что «х (X) • й2 (1) = и(X) и по формуле обращения
(13.13)
J е-а<й^(1).йГ(Х)а%-= J u^t+s)'u^s)ds,
— 00 _ _^—оо ___ ,
'то при /=0 дает'нам равенство (13.14),-а при —
Равенство Планш^еля. От интегрируемых функций из £’
Ю. А. Розане в
97
1. Х^Д,
О," Х£Д,
можно перейти к произвольным их, u2^L2 предельным ?
переходом, используя среднеквадратичную сходимость.
Нам понадобится- обратное преобразование Фурье
индикаторной функций
ср’(Х) = 1 д (X) =
полуинтервала Д=^(ХЬ А,2], имеющее вид
«д(0=?=р= f g~a<l Д (X) dX = -JL= e~tM . (13.16)
V 2л 2л — К v 7
Обратившись к стохастической мере xftdt) в (13.10), по-
ложим
1 р _g — iXit
;(А)=Т^ j • ' -it--------Д = (ММг (13.17)
-00
что дает нам определенную на всевозможных полуинтер-
валах Д = (Х1( Х2] аддитивную функцию. Очевидно, в силу
общих .равенств (13.14), (13.15) это есть аддитивная
функция с ортогональными значениями, определяющая
на прямой —оо<Х<оо стандартную стохастическую
меру типа (13.3). Действительно, согласно формулам
(8.12), (8.16) для стохастических интегралов, мы имеем
М£(Д) = 0,
М£ (Дх) (Д2) => $ ид, (/) «д,(0 dt =
— СО 1
= J 1д,(Х)- ЩХ) ЛХ = $ d\. 5
-® Д1ЛД« »
Покажем теперь, что для любых функций <p (X) и и (0, '•
связанных преобразованием Фурье <p(X) = u(X), справед-
ливо равенство ‘ j
$<p(X)UdX)== J u(OnX^). (13.18) Jj
— co —co
Действительно, для индикаторных функций <р (X) = 1 д (X)
оно превращается в исходную формулу (13.17), опреде-
ляющую стохастическую меру £(dX). Очевидно, равенство—
(13.18) распространяется с индикаторных функций на их
98
линейные комбинации
ф(М = ^Мдь(М- (13.19)
k ь
Но любую функцию <р££2 можно аппроксимировать в
среднеквадратичном функциями <р„(Л.) типа (13.19):
со
1|ф-Ф„Г= $ |ф(*)-фДМ!!2^-о;
что позволяет распространить равенство' (13.18) с функ-
цией ф = ф„ типа (13.19) на любые функции <р££2.
Именно, согласно известному свойству стохастических
интегралов (см. (8.13)),
со 00
$T(X)U^)=lim $ Ф„(МС(^) =
- со л-> 00 - 00
оо * со
— lim ( un(t)r}(dt) — 5 u(t)r\(dt),
Я-*® -JO -00
где для фя(а) = ип(Х)
со 00
$|«(0-М*)М= $|Ф(%)-Ф„(Х)|М/->О.
— 00 — со
Теперь, обратившись . к стационарному линейному
процессу (13.9), с помощью общей 'формулы (13.18) по-
лучим, что
СО 00
£(/)=« $ w(t—s)n(ds)= $ ешф(%)^(а),
-00 - 00
где
- со
(13.20)
и функция etMq>(h) есть преобразование Фурье функции
u(s) = w(t—s), —оо < s < оо.
\ Мы пришли к следующему результату.
Теорема. Стационарный линейный процесс вида
1(13.10) допускает спектральное представление (13.2) с
1 весовой функцией (13.20).
Формула (13.20) дает возможность легко получать -
спектральное представление для стационарных процессов,
которые описываются линейными стохастическими диф-
ференциальными, уравнениями с постоянными коэффициен-
тами. Именно, если речь идет о линейном стационарном
процессе' (13.10) с весовой функцией w(t), которая есть
• решение дифференциального уравнения (12.18) с харак-
теристическим полиномом Р(г), имеющим все корни в
левой полуплоскости Re г < 0, то весовая функция ф (X)
в спектральном представлении (13.2) рассматриваемого
линейного стационарного процесса есть
- = —!-----. (13.21) '
Задача. Рассмотреть дифференциальное уравнение
vif (f) -f- 2hw' (()+<z2ay (t) = 0
и соответствующий процесс (13.10), описывающий уста-
новившиеся случайные колебания «маятника» (собственное
движение которого задается указанным выше уравнением).
Найти спектр -этих колебаний, точнее, соответствующую
спектральную плотность /(X).
§ 14. НЕКОТОРЫЕ ЗАДАЧИ ОПТИМАЛЬНОГО . '
ОЦЕНИВАНИЯ
Рассмотрим знакомую нам модель случайного процесса
£(/), ^^0, со стохастическим дифференциалом
dg(O»0(Od/+dn(O. (14.1)
Предположим, что 0 (/) = 0 есть неизвестная постоян-
ная, которую требуется оценить по значениям £ (0, 0
' Скажем, можно представить себе, что интере-
сующий нас случайный процесс имеет опре-
деленный, но неизвестный ^нам тренд, характеризуемый как
М|(0 = 0/, t^Q, отклонение от которого описывается
стандартным винеровским процессом т] (/) = | (/)—0/, I0.
По «наблюдаемой» траектории процесса £(/), />0,
нужно оценить неизвестный параметр 0 (рис. 7). В каче-
стве [.оценки 0 для неизвестного параметра • можно попы-
таться взять «взвешенное среднее»
т т т
0=$c(Od5(O=$c(O0(O^ + h(Odil(O (14.2)
0 0 0
100
с весовой функцией с(/),
т
<\jc\t)dt = \. (14.3)
Эта функция, конечно, должна быть интегрируемой
определен стоящий в правой части (14.2) стохастический
интеграл по стандартной стохастической мере
Мт|(^0 = 0» М[п(^)|2 = ^Л
При”условии (14.3) наша оценка имеет вид
т
0 = 0 + Jc(0<M0
о
и обладает тем свойством, что
М0 = 0
(14.4)
при всех 0 (оценки такого рода называют несмещенными).
Среднеквадратичная ошибка || 0—01| = (М10—012)1 при
определении неизвестного параметра 0 с помощьюоценки
0 легко вычисляется:
т
2 Т
||0—0p = M \c(t)dx\(t) =$|с(0|*Л.
о :
о
Естественно среди всех оценок (У указанного типа взять
наилучшую оценку, для которой
|0—0|=min. ( (14.5)
Такая оценка существует, и ее-легко. найти. Действи-
тельно, указанный в (14.5) минимум достигается для
101
весовой функции *
с»(/)=1/7\ (14.6)
поскольку, положив - Д(/) = с(0—с°’(0» мы имеем s
т ;
$с»(0Д(0^ = О и
О
т т
$ |с(О|2^=$|с°(0 + Д(О\2dt =
О о
т т т'
= $ \cQ(t)\2dt+\ IА(/) 12d/ > $|c°(/)l2d/.
о Q. о
Задача. Найти наилучшую ^смещенную оценку
типа (14.2) для неизвестной постоянной 0 в слеме (14.1)
с функцией 0 (/) = ()•/(/), где f(t)—произвольная (дейст-
вительная) функция,
т
$|f(0|2d/<°°. '
о
Указание. Вместо (14.3) использовать условие
т . *
= \ (14.7) .
0
и показать, что весовая функция наилучшей оценки есть
с°(0=г 1 ' НО. , (14.8)
о
Задача. Пусть в (14.1)
п
0(О=';ЧМО. (14.9)
*=1
где функции Д (t)..fn(t) выбраны так, что
с ( 1, k = j,
Найти наилучшие несмещенные оценки 0 = 0Ь ... ,0„типа^
(14.2) для произвольных постоянных 0 = 01, 0„.?’
102
Указание. Вместо (14.7) воспользоваться условием
несмещенности
с ( 1, & = /,
= (14.10)
соответствующих оценок
ГТ т
ёк=\ск(t)di (0- $ (0dt+$ Ch(/) dn (0
0 0.0
и показать, что весовые функции наилучших оценок суть
4(0=М0, *=1............................... ' - (14.11)
Рассмотрим некоторые общие подходы к другим зада-
чам оценивания.
Предположим, требуется оценить (действительную)
случайную величину %, М[£|2<оо, по величинам
Hi, в качестве оценки взяв
П = Ф(П1, •••> Л„), (14.12)
Где <р (z/t.уп)—та или иная (действительная) функция
переменных yt.....уп, с помощью которой оценка (14.12)
определяется' как функция величин ти.....г|п. Рассмот-
рим всевозможные оценки т), М | т]|3 < оо, считая оценку
Я тем лучше", чем меньше среднеквадратичная ошибка
h-n||=(MR-Ti|2)1/2.
Естественно поставить вопрос о нахождении наилуч-
шей оценки т)°, дающей наименьшую среднеквадратичную
ошибку при оценивании
Н—Я°||=пип||£—яО, .
где минимум берется по всем оценкам вида (14.12). Для
решения этого вопроса обратимся к условному распреде-
лению .вероятностей
..................Уп)> - —>\<Уъ "’,Уп< °°>
величины % относительно • • • > Л» и условному ’’матема-
тическому ожиданию
00
Ф°(У1, •••.«/„) = М(В|^..уп) = $ хР£(dx\ylt .... у„).
103
Теорема. НаиЛучшей оценкой является
П° = <р0(т11. •••> n.)eM(^hi, ...» nJ- (14.13)
Доказательство. Обозначим И(ян ..., я>») сово- d
купность всех оценок я вида (14.12), удовлетворяющих ?
условию М|яР<°°- Покажем, что оценка tj°, опреде-
ленная формулой (14.13), входит в Н(г\1,..., л»), т. е.
М | т]° |а < °°. Действительно, согласно известному нера- -
венству для математических ожиданий, при фиксирован-
ных ylt уп'мы имеем
|М(5|У1,...»уа)\*СМ(Цр|л, ...,уа)
и, следовательно,
где для правой части по, формуле полного математиче-
ского ожидания имеем
ММ(ЦР|Ях» ...,nJ = M|gp<oo.
Обратимся к (действительному) гильбертову пространству Н
случайных величин со скалярным произведением
(см. (*?-1)). При каждых фиксированных уг,.. .,уп мы
имеем
-М р• <р (уи ...., у„)\уи .. i/„], '
и потому ДЛЯ Явф(Я1. •••» Яп) t
(П°, 4)—M[M(£|ib .... Л„)*т1] = '
=> М [М (g-n I Tlx, ..., яв)] =1 М£я =(£, я),
откуда получаем
(£—Я% т1)==0, т|€Я(г11,
Возьмем произвольную оценку я€Я(я» и поло- ]
жим Л=я—я0» Согласно полученному выше равенству,
разность g—я0 ортогональна величине Д£//(т]1, ...,Яп), 1
и потому ' I
и-яГЧ(£-п°)+Д|М£-пТ+ВДр, J
где |Др>0; видно, что оценка яв11*» Для которой М
Д®0, является наилучшей.
104
Геометрически величина т|° есть проекция величины
на линейное подпространство H(i\lt ..., т]„) в нашем
гильбертовом пространстве Н.
Вообще, используя гильбертово пространство Н и тот
факт, что для каждой величины £ С Н и всякого (замкну-
того) линейного подпространства Н имеется проекция
величины £ на Н:
h-|| = minh-nL (14.14)
Г|6Н
можно сказать,«что f определяет наилучшую оценку для |
среди всех возможных оценок т] С Н. Как известно, проек-
ция f определяется условием ортогональности
(g-tn)=O, П€Я, (14.15)
для проверки которого вместо всех можно взять
произвольную п о л н у ю систему величин т) С Н.
Задача (линейное оценивание). Пусть Tjj, ..., £ Н,
и 'пусть Н есть линейное подпространство в Н всех линей-
п
НЫХ оценок Г|= 2 С/Л (с произвольными постоянными
Л = 1
'clt...,cn). Найти _наилучшею линейную оценку ££И.
Указание. Линейным преобразованием перейти
к ортонормированным величинам т)п,..., т)„:
( 1Ъ k = j,
<Ч‘- о, k^i.
и показать, что
2 (£, Пл) п*.
fe=i
Перейдем к вопросу о прогнозе случайного про-
цесса 1(0» рассматривая его как функцию в на-
шем гильбертовом пространстве И (мы предполагаем, что
М||(0|8<°° при всех t^t0). Обозначим Hs=
=Н(^(и), u^.s) совокупность всех случайных величин
из И, которые являются функциями т] = <р (£ (sx), ;.., g (sm))
от значений % (и) в какие-либо моменты u = slf ..., sm или
их пределами в среднеквадратичном. По определению,
Hs есть замкнутое линейное подпространство в Н, и су-
ществует проекция величины i(f)£H на это подпрост-
ранство—обозначим ее
f(S, o=M(g(oie(«), u^S)
105
и назовем наилучшим прогнозом для по величинам
?(и), a<s:
ll?(0~1 (0|=minh(0-nil-
Г)
3 а д а ч a. Показать, что наилучший прогноз для
броуновского ‘движения есть
M(^(0|U«). «<s)M(s), t>s. (14.16)
Указание. Воспользоваться тем, что разность
£(0—£(s) не зависит от величин £ (w), w ^s.
(Отметим, что случайный процесс £(/), назы-
вают мартингалом, если он обладает выраженным в (14.16)
свойством.)
Задача. Пусть случайный процесс £(t),
описывается линейным стохастическим дифференциальным
уравнением (12.7). Показать, что его наилучший прогноз
по величинам £ (м), и s, есть
/2-1
M(B(0|U«). «<0 = S wk(t, s)J£<*> (s), />s, (14.17)
k = 0
где wk(t, s), t^s, есть решение соответствующего обык-
новенного дифференциального уравнения (12.1) с началь-
ными условиями ~ '
s)=l, ^-wk(s,s)=0 при j^k, i=0, 1.
У Казаниe. Воспользоваться тем, что разность
, t
Д (s, 0 = ? (0—t (s, t)—^\w(t,u)b (и) dr| (и), t^s,
s
не зависит от величин £ (и), u^s (см. (12.13)). (Обра-
щаем внимание на то обстоятельство,. что наилучший
прогноз (14.17) является линейным в том смысле, что
величина |(s, 0 = М (|(0|? (и), u^s) может быть полу?
чена как предел в среднеквадратичном линейных комби-
наций из величин (и), и s, поскольку -
g(1) (s) = lim 1 (s)~S (5~Л). g("~1) (s) =
h-0 n
= Ит (S-h) ;
Л-0 h
I "6
Описанный выше общий подход к определению хнаи-
лучшей оценки на основе среднеквадратичной ошибки
(см. (14.13)) не всегда является приемлемым.
Скажем, рассматривается система, состояние которой
есть случайная величина g, принимающая одно из воз-
можных значений х = хь ..., хт с соответствующими
вероятностями Ра(х). При оценке g по^величинам ...,
Пп условное математическое ожидание М (g щ, ..., ?]п)
непосредственно не дает нам указанйя на то, в каком
же состоянии g = хь ..., хт находится система (напри-
мер, неясно, что можно сказать о состоянии системы на
основе М (g >11, • • •> Пп)=/=Х1, ..., хт).
Рассмотрим всевозможные оценки т] = Ф (т]ь ...» т]п)
со значениями т] = Xi, ..., хт., Назовем оценку т]0 наи-
лучшей, если вероятность ошибки Р {т}° =/= g} является
минимальной:
P{Tf#=g} = minP{i]#=£}. (14.18)
п
Используя условное распределение вероятностей *)
Р6Ш........П»), x=xlt ...,х„, •
величины g относительно т]!, . .., vin, положим т|° равным
тому значению х, при котором условная вероятность
Р^(х|Л1, является максимальной:
P|(n°l'11, = max Р5(х|П1, •••, П„)- (14J9)
Х = Хх . . хт
Теорема. Определяемая из условия (14.19) оценка -ц0
является наилучщей.
Доказательство. Используя формулу полного
математического ожидания, находим, что
P{n¥4} = MP{ii=/=£hi, =
=м(1— p{^=nhi,-=--,nn}) = i— MP^=nhi, •••,
" ' > 1— MR{g = T]°hi,^"» •, "nJ = p{j]° 5^}, •
лак как, согласно (14.19),
P{B=n°ht, • • •, п„}>р^ = п1ъ, • • •, n»}-
I
Теорема доказана.
♦) Вероятности (xj^i, ..., ч«) иногда называют апостериор-
ными (после наблюдения Чь ..., ч«)«
107
§ 15. ОДНА ЗАДАЧА ФИЛЬТРАЦИИ
(СХЕМА КАЛЬМАНА — БЬЮСИ)
Рассмотрим снова модель случайного процесса £ ((),
t /0, со стохастическим дифференциалом
_ & (I) = 9(0 dt + di\(t) (15.1)
и начальным значением £((о) = О, где, в отличие от (14.1),
9(0 есть случайная (непрерывная в среднеквадра-
тичном) функция. Можно представить себе, что 9 ((),
t^t0, есть «сигнал», который требуется отфильтровать
от наложившихся на него случайных «помех», характе-
ризуемых в схеме (15.1) стандартным винеровским про-
цессом т] (0, Мы будем предполагать, что т](0,
tfit не зависит -от 9(0, t9.
Перед нами стоит задача оценить 9 (0 по g (s), t0 s t.
Основной результат будет получен для случайной функ-
ции 9(0, t^»ta, удовлетворяющей линейному стохастиче-
скому дифференциальному уравнению
d9(O = a(O9(O^ + dno(O (15.2)
с начальным значением 9((0) = 0, где a(t)—неслучайная
непрерывная функция, а т|0 (0» ^^0,— стандартный ви-
неровский процесс, который не зависит от т](0>
(Здесь'оба стохастических дифференциала (15.1), (15.2)
определены по отношению к одним и тем же о-цлгебрам
33*, t 0, каждая из которых представляет события из
прошлого до соответствующего момента t.)
Мы будем рассматривать линейные оценки для 9((),
представимые в виде линейных комбинаций из «наблюдае-
мых» величин £(s), или их пределов в средне-
квадратичном. '
Очевидно, всякая линейная комбинация из велйЧин
5 (s), (0 s t (скажем, линейная комбинация ’ величин
I Go). £ Gi). • • • Л (Q, где t0 <*;<••• < h), может быть
представлена в виде стохастического интеграла
п /
П = S Ск [I (/,_,)] = $ С (s) dl (в)
*=* г.
I
с соответствующей кусочно постоянной функцией
c(s)=cft,
108
Как предел таких линейных комбинаций, мы имеем
оценки, представимые [в виде стохастического интеграла
t t t -
г] = J c(s)dg(s) = $ с (s) 0(s)d$+ J c(s) dt\ (s) (15.3)
to to
с произвольной функцией c (s), t0 s t, для которой
существуют оба последних интеграла—их сумма и будет
служить нам как определение стохастического интеграла
no.d£(s), которым мы будем пользоваться в дальнейшем.
(Например, линейная оценка (15.3) определена для любой
непрерывной функции c(s),
Отметим, что из условия независимости случайного
процесса 6(0. 0. и стандартного винеровского про-
цесса т] (0. t 0. вытекает ортогональность любых величин
t t
ft" ! Cl (s) 6 (S) ds, Пг = J Сг (s) dr] (s)
' t. to
в гильбертовом пространстве H случайных величин £,
М|£|2<оо, поскольку т)!, т)2 есть пределы, в средне-
квадратичном соответствующих «интегральных сумм»
п п
т11и= S Лги— 2 c2kГп(^) ^1(^-1)]
/г=1 /г=1
и, очевидно,
(Пп 'П2) = Мп1П2 = ИтМП1Лп = 0
(для простоты мы всюду здесь будем рассматривать дей-
ствительные величины).
Таким образом, линейная оценка (15.3) есть сумма
ортогональных величин
t t
T)1 = 5 с (s) 0 (s)ds, Tja = C(s)dT](s),
t. /о
t
где h2||2=-M |t]2|2= J I c (s) \2ds.
to
3ада ч а. Показать, что линейная оценка (15.3) опре-
делена для любой измеримой функции, удовлетворяющей
условию
' t
J |c(s)|Ms< оо. ' (15.4)
to *
109
Указание. Воспользоваться тем, что случайная-
функция 0(s), непрерывна в среднеквадратич-
ном, а неслучайная функция c(s) может быть представ-
лена как предел кусочно постоянных функций
(s) = Ог» *б < 0 < • • • < tn —
для которых ,
t
$ |c(s)—c„(s) |2 ds—>0.
*0
Задача. Показать, что линейные оценки представи-
мы стохастическим интегралом (15.3) с соответствующей
функцией c(s), удовлетворяющей условию (15.4)л
Обозначим Н совокупность всех величин т, £ Н, опи-
санных в (15.3), (15.4). Среди всех оценок мы бу-
дем искать наилучшую оценку '
Q(t) = \c(t, s)dl(s) > (15.5)
с весовой функцией с(/, s), как проекцию величины
0 (/) на линейное пространство НсН в нашем гиль-
бертовом пространстве Н случайных величин
Проекция 0 (/) величины 0 (/) на Н однозначно опре-.
деляется условием ортогональности
М[0(0 — 0(0] П = 0 (15.6)
для полной в Н системы величин г] вида (15.3). Выразить
это условие как условие непосредственно на весовую
функцию c(t, s) в (15.5) позволяет следующее предло-
жение.
Лемма. Пусть функция c(t, s) непрерывна по сово-
купности переменных s^tQ и удовлетворяет интег-
ральному уравнению
t
c(t, s) = B(t, s)—и) В (и, s)du, (1*5.7)
i 0
где B(t, s) = M9(09($)> t, s^t0, есть корреляционная
функция случайного процесса Q(t), t^t^. Тогда c{t, s)
есть весовая функция наилучшей оценки (15.5), причем
c(t; 0 = М[9(0—0(0? (15.8)
есть соответствующая среднеквадратичная ошибка.
110
Доказательство. В самом деле, если справедливо
равенство (15.7), то будет выполнено условие ортогональ-
ности (15.6), поскольку для любой величины т) вида (15.3)
M[O(O-0(O]n=
t t
= M 0(0—$c(/, u)Q(u)du — Jc(/, M)dt)(M). x
^0
г / t
X § c(s)0(s)ds-|-$c(s)di](s) =
_^0 ^0
t
c(s) B(t, s) — $c(0 u)B(u, s)du—c[t, s) ds
0;
здесь при подсчете математических ожиданий мы исполь-
зуем общие формулы (7.12), (7.13). Далее,
ф
М [0(0—0 (/)]* =М0 (0 [0 (0—0 (/)]—М0 (t) [0 (0—0(0], .
где ' _
М0(О[О(О—0(0] =
t . *
= ЛЛО(02—М 0(0-$с(0 u)Q(u)du —
^0
= B(t, и) В (и, t)du=c(t, 0
согласно (15.7) при s = t, а
М0(О[0(О—6(0] = 0
в силу условия ортогональности (15.6) при г) = 0(0. Лемма
доказана. - ; й
Пусть теперь 0(0, t^t0, есть случайный процесс
со стохастическим дифференциалом (15.2); при начальном
условии 0(0) = 0 он пр’едставим в .виде
t 1
0(0=$а»о(0 s)dr\0(s), t^t0,
t.
(15.9)
lit
где w0(t, s), t^s,— решение дифференциального уравне-
ния
s) = a(t)w„(t, s), t > s,
с начальным условием te>0 (s, s) = 1. Мы имеем
' • t
0(/) = ауо(/, s)0(s) + $ w^t, u)dr)0(«), f>s,
s
где второе слагаемое есть величина, ортогональная 0 (s), и
B(t, = = s)B(s, s), t^s,
откуда непосредственно видно, что корреляционная функ-
ция В (t, s) удовлетворяет дифференциальному уравнению
-^ВЦ,'s) = a(t)B(t, s), i>s. (15.10)
Попытаемся найти функцию c(t, <), которая непре-
рывна вместе с производной -^-с(/, s) по совокупности
переменных t s /0 и удовлетворяет интегральному
уравнению (15.7).
Для такой функции, дифференцируя равенство (15.7)
по t, с учетом (15.10) получаем, что
s) = a(f)B(t, s)—c(t, t)B(t, s)—
t
—“)#(“> s)^w-
v to
Если теперь здесь при фиксированном s ввести функ-
цию x(t), определенную так,’что
s) = x(t)c(i, s), t > s,
то с учетом (15.7) будем иметь
t
c(t, s) + Jc(Z, u)B(u, s)du
t о
x(t)B(t, s) = x(t)
= [a(0—c(t, t)\B(t, s),
откуда видно, что x(t) — a(t)—b(t), где
b(t) = c(t, t).
После "этого неожиданного открытия естественно искать
функцию’с(/, s), />s, как решецие’дифференциального
112
уравнения вида
^c(t,s)~=[a(t)—b(t)]c(t,s), t > s, (15 H)
c(s, s) = b(s), s> tt.
Возьмем непрерывную функцию b(t), t0. Тогда ре-
шение c(t, s) линейного дифференциального уравнения
(15.11) и производная с (I, s) непрерывны по совокуп-
ности переменных Если взять это решение
c(t, s) в качестве весовой функции, определяющей по
формуле (15.5) случайную функцию-0 (0, то сто-
хастический дифференциал dO(t) можно будет выразить
в аналогичной (9.19) форме:
г г
d6(/) = ^c(t,s)dl(s) dt+c(t, t)dl(i)
- io -
или, с учетом равенств (15.11), в форме '
d§ (t) = [a (t)—b (0] б (0 dt 4- b (/) [0 (I) dt+drj (0].
Используя наличие стохастического дифференциала dO(t)
вида (15.2), отсюда получаем следующее выражение для
стохастического дифференциала разности Д (t) = 0 (0—б (0:
d&(t)=df) (t)—dQ(i) =
= [a (t)—b (0] Д (0 dt.+ [drio (0+b (t)di\ (/)]• J15.12)
Здесь стохастическую меру <й1о(0 + Н0^т)(0 можно вы-
разить через стандартный винеровский процесс £(/), £0,
определив его как
t t
£ (t) = С—у 1 dt|o(s)4- f-7====- dt) (s) '
’ J /l+b(s)2 v J ]<14-6(S)2 v
io io
И ПОЛОЖИВ
dno (0(0 dn (0=К1 +H0a dt (Z)._
В итоге получим, что '
dA (/) = [а (0—й (01Д (/) ^ 4-/1 +6 (О2 dS (0 • - (15.13)
Видно, что случайная функция А (/), есть решение
линейного стохастического^дифференциального уравнения
8 Ю. А. Розанов 113
первого порядка с нулевым начальным условием Д (0) = 0С'
Как мы знаем, его можно представить в виде
t
Д(/) = $ау(/, s)/H-fc(s)2 d£(s) =
t t
= Jw(0 s)di%(s)4- w (t, s)&(s)dri(s), (15.14)
t, t,
где весовая функция w (tf s), t^s, есть решение обык-
новенного дифференциального уравнения
-^-а>(0 s) = [a(0—b(t)]w(t, s), t > s,
w (s, s) = 1
(cm. (12.10)). Сравнивая это уравнение с (15.11), видим,
что
c(t, s) = w(t, s)Z>(s), t^s. (15.15)
Если весовая функция с (t, s) задает наилучшую оценку
(15.5), то соответствующая функция b(t) = c(t, t) есть
Ь(0 = МД(02, . (15.16)
(см. (15.8)), и в случае, когда Д(0 есть решение линей-
ного стохастического дифференциального уравнения (15.13)
с начальным значением Д(/о) = О, функция b(t) есть ре-.
шение соответствующего обыкновенного дифференциаль-
ного уравнения
4ь(0 = 2а(0&(0-й(/Г-1-1, t>tQ, 17)
Ц/,) = 0 ' .
(см. общую формулу (12.15)). Уравнение (15.17) известно
как уравнение Риккати.
Возьмем теперь функцию b(t), t^t0, которая есть
решение этого уравнения, и рассмотрим случайную функ-
цию Д(0, t которая есть решение линейного стохас-’
тического дифференциального уравнения (15.12)—(15.13)
с начальным условием Д(0) = 0. Для Д(0 будет спра-
ведливо равенство (15.16), поскольку обе части в нем;
удовлетворяют одному и тому же уравнению (15.17).
Положим V
9(0 = 6(0 — А(0. <
»
114
С [учетом (15.2) стохастический дифференциал d0(O = ,
= dQ\{t)—d\{t) можно выразить в форме уже встречав-
шегося при-выводе (15.12) уравнения
d0(0 = [а(0—(15.18)
решение которого при 0(0) —О может быть представлено
знакомой нам интегральной формулой
0(0= $с(0 s)dg(s) =
^0
t t
' s)0(s)d$ + $с(/, s)dp(s) (15.19)
ifj ^0
с весовой функцией, описанной. в (15.11), (15.15) (см.
(12.10)).
Покажем, что эта весовая функция c(t, s) = w(t, s)b(s)
удовлетворяет интегральному уравнению (15.7). Исполь-
зуя выражения (15.9), (15.14), а также дифференциаль-
ное уравнение (15.17) для b (t) = МА (0г> легко получаем,
что функция
f (О = М9 (0 [0(0-6 (0] = м [0 (0-Д (0] Л (0 =
t
= ^w0(t, s)w(t, s)ds—b(0
*0
удовлетворяет однородному дифференциальному уравнению
4f(0 = [2a(0-b(0W).
f(U=o,
и, следовательно, f(ty=O. Отсюда с учетом формулы
(15.19) получаем, что
ь (о=ме (0 [о (0—0 (/)]—mo (О [0 (0—0 (0] =
= М0 (0 [0(0—0(01 =
t
= B(t, t)—^c(t, s)B(s, t)ds, t^tQ.
t 0
Используя это выражение для b\t), а также уравнения
(15.10), (15.11), при дифференцировании функции со(О О
8* 115
вида
t
c^{t, s) = c(t, s)+Jc(Z, u)B(u, s)du—В (t, s),
G
получаем однородное уравнение
-^-с»(Л s) = \a(t)—b(t)]ca(t, s), i > s,
ct(s, s) = 0,
и, следовательно, c0(Z, s)=0, что для нашей весовой
функции c(t, s) дает интегральное уравнение (15.7).
В итоге получен следующий результат.
Теорема; Наилучшая оценка^® (t) для 0(0 дается
стохастическим интегралом (15.5) с весовой функцией
c(t, s), t^s, которая вместе с функцией b(t) = (t)—
— 0(О]2 есть решение системы дифференциальных урав-
нений (15.11), (15.17).
Указанный здесь способ нахождения наилучшей оценки
обычно называют методом Кальмана—Бьюси. Он сво-
дится к решению линейного стохастического дифферен-
циального уравнения (15.18).
ПРИЛОЖЕНИЕ
(основные понятия теории вероятностей)
Общая теоретико-вероятностная схема основана на
предположении о том, что имеется совокупность элемен-
тарных исходов со (называемых также элементарными
событиями) и в этой совокупности й—пространстве эле-
ментарных событий имеется о-алгебра 31 множеств Л^Й,
называемых событиями, для которых определена вероят-
ность
Р(Л), А €31,
— неотрицательная мера на о-алгебре событий 31, Р(й) = 1.
При этом говорят, что событие А происходит в резуль-
тате элементарного исхода со£Л, так что в этом смысле
событие Л и дополнительное событие ЛС = Й\Л взаимно
исключают друг друга.
Напомним, что совокупность множеств называется
о-алгеброй, если она инвариантна относительно операций
объединения, пересечения и перехода к дополнению, взя-
тых в счетном числе; вероятностная мера на о-алгебре
51 определяется свойством о-аддитивности:
р(у4)=2Р(Л*)
для любых непересекаюшихся событий Ак, k=\, 2, ...
(Уже отмечалось, что Р(Д)^0 и вероятность «достовер-
ного» события Р (Q) = 1.)
В конкретных теоретико-вероятностных схемах обычно
- задаются вероятности каких-то сравнительно «простых»
событий и рассматривается задача определения вероят-
ностей тех или иных «сложных» событий. В принпипе,
если «простые» события в совокупности образуют полу-
117
кольцо*), то для любых событий А, получающихся из
«простых» событий с помощью счетного числа операций
объединения, пересечения и перехода к дополнительному
событию, их вероятности могут быть определены как
Р (Л) = inf 2? (Л),
' k
где inf берется по всем «простым» событиям Ak, объеди-
нение которых содержит А (предполагается, что на ис-
ходном полукольце событий заданные вероятности обла-
дают свойством о-аддитивности).
Примером .«сложного» события, связанного с последо-
вательностью событий Alf Л2, ..., может служить А —
оо Г оо \
= П I U ; оно означает, что среди А1Г Л2, ... про-
П = 1 \ k-n, /
00
исходит бесконечное число событий.- Если P(Aft) <
k=i
то Р(А) = О и с вероятностью 1 среди А1У Л2, ... про-
исходит лишь конечное число событий (это предложение
известно как лемма Бореля—Кантелли).
Конечно, указанный выше способ нахождения вероят-
ностей тех или иных «сложных» событий едва ли кого
может удовлетворить при рассмотрении какой-либо кон-
кретной теоретико-вероятностной модели, когда имеется
характерная для этой модели связь рассматриваемых в ней
событий.
В рамках общей схемы (Q, ?(, Р) независимость собы-
тий Alf определяется тем условием, что пересече-
ние А1ПА2 (иначе, произведение Аг-А2) имеет вероятность
р^-л^рш-рш.
Аналогично, события Ап ..., Ап называются независи-
мыми, если
’ Р(Л1...Л„) = Р(Л1).-....Р(ЛД
*) Мы придерживаемся здесь терминологии учебника: Колмо-
горов А. Н., Фомин С. В. Элементы теории функций и функ-
ционального анализа, изд. 5.— М., 1981.
Полукольцом называется система множеств которая вместе
с множествами А, Аг содержит их .пересечения Д Q причем, если
А^А, то дополнение At в А можно представить в виде конечного
числа множеств А2> • • •, а кроме того, все пространство можно
представить в виде объединения счетного числа множеств из@.
118
Зависимость события А от события В характеризуется
условной вероятностью, которая при Р(В) > О определяется
как
pwb)=4w-
Говоря о тех или иных вероятностных свойствах при
условии В, Р (В) > 0, имеют в виду эти свойства по от-
ношению к условной вероятностной мере '
Р(Л|В), Лб?Х.
Наряду с событиями основным теоретико-вероятностным
объектом являются случайные величины.
Случайной величиной называют (измеримую) функцию
I=!(«), • со е Q,
случайного исхода со g Q, подразумевая обычно действи-
тельную функцию, определенную на пространстве элемен-
тарных событий (Q, 91, Р); рассматривают также комплекс-
ные случайные величины вида £ = 51 + ^2 с действи-
тельными компонентами многомерные величины
g = £„)£/?", компонентами которых также яв-
ляются действительные случайные величины, и т. д.
Поведение случайных величин Еп в зависимости
от случайного исхода Описывается их распределением ве-
роятностей—мерой Pg(dx) в n-мерном пространстве
которая задает вероятности событий Р £ В} для (изме-
римых) множеств В 7?":
Распределение вероятностей Pj случайных величин £ =
= (li. • • •, 1п) как мера в R” однозначно определяется
заданием вероятностей
. Лп £ Вп} = P^Br х...хВГп), В19 . Г., Вп с 7?1,
на полукольце множеств указанного вида.
Имея дело с конечным числом случайных величин
lu • • •, бывает удобным считать их непосредственно
заданными на пространстве Q=7?n элементарных исходов
со = х с вероятностной мерой Р (dco) = Pg (dx), положив
li(x) = x1> . ..Д„(х) = х„ при х = (хп . ...х„), x^Rn.
Величины называются независимыми, если
их распределение в n-мерном пространстве Rn есть про- .
изведение распределений в 7?1 отдельных величин что
119
можно выразить равенством:
Говоря о связях случайных величин и событий, бывает
удобным отождествить события с их индикатором
( 1, (й£А,
Ь*) = {о, „,(А.
Пусть 5(0, t£T, есть произвольная совокупность
случайных величин (индекс t£T является произвольным).
Обозначим Sig наименьшую а-алгебру событий, относи-
тельно которой измеримы все £ (I):
5(/) = 5(®, 0,
Случайную величину 5 = £ (со), измеримую относительно Sig,
называют функцией от величин 5(0» t £ Т. Произвольные
совокупности случайных величин 5(0» t£T, и T|(s),
sgS, называются независимыми, если независимыми
являются любые величины 5 и ц, являющиеся функциями
от 5(0» t£T, и ц(s), s£S.
Связь случайных величин 5 € и ц g Rm находит
свое выражение в условном распределении вероятностей
величины 5 относительно ц, которое определяется как
мера Pg (dxfy) в Rn, зависящая от вспомогательного пере-
менного y£. Rm таким образом, что Pg (В|у) измерима по
y£.Rm при фиксированном B^Rn и
Р{5£В, т]бГН$Р6(В|у)Р^), B^R”, Г<=/?»
г
Вероятности Pg(B|y) = P{5£ В|т] = г/} еще называют услов-
ными вероятностями при условии г\ = у. Характерным
примером здесь может служить условное распределение
вероятностей величины 5 = ф(т), ц'), являющейся функци-
ей от независимых случайных величин ц и rf; именно,
Pg (dx\y) есть распределение случайной величины <р (у, ц')
при фиксированном у, что непосредственно следует из фор-
мулы повторного интегрирования по произведению соответ-
ствующих мер Pn (dy)xPnz(dy'):
Р{ф (ТЬ'п') € г)
Pv(dy') Pn(dy)^=
p(i/.
= $Р{ф(*Л V) € В} Рч (dy).
р
120
По поводу условного распределения отметим^еще следую-
щее: независимость случайных величин £ й т] означает,
что условное распределение Pj (dx\y) не зависит от у и
есть
Pg(dx|y) = P5(dx).
Говорят, что случайная величина £ условно не зависит
от £ при заданном значении т), если условное распределение
величины £ относительно случайной величины ’(т], £) не
зависит от £, точнее, если при любом условий т] = у, £ = z
P6(dx|i/) = P5(dx|y, z).
Например, если | = <р(т|, if) есть функция от ц и if, где
Л' не зависит от (т), £), то условно не зависит от £
при заданном ц.
Математическим ожиданием (иначе, средним значе-
нием) случайной величины £ называют интеграл
M£-$£(®)P(tto).
я
Для последовательности независимых одинаково распре-
деленных случайных величин
^2, ...
с математическим ожиданием МН имеет место усиленный
закон больших чисел: с вероятностью 1
п
Нт 7 2 ^=МВ-
«-* « А=1
Для математических ожиданий справедливо следующее
неравенство:
М|К(М|£(М|т)|«)V«,
где р, q>0, Отметим, что для независи-
мых случайных величин |,т]
М£т) =я М£-Мг].
Для случайной величины <р(£), где £==(£ь £„) и
<р(х) есть интегрируемая относительно P6(dx) функция
от х € Rn> справедлива формула
Мф(£)= $ q>(x)Pg(dx).
я»
121
Дисперсия
Dg —Mf(g—Mg)’
характеризует среднеквадратичное отклонение случайной
величины | от ее среднего значения Mg. Корреляция ♦-
(действительных) случайных величин g, г| определяется как
M(g—Mg)(n—Мт]).
Совокупность всех случайных величин g, M|g|’<oo,
на вероятностном пространстве (Q, ?I, Р) образует гиль-
бертово простр'айство (обозначим его Н) со скалярным
произведением
- (I, n) = Mgn=$&(®)nW(<to),
я
где т| означает комплексно сопряженную величину (в Н
нужно отождествить величины, равные между собой
с вероятностью 1, т. е. совпадающие при почтр всех
<о£й). Это гильбертово пространство измеримых интегри-
руемых в квадрате функций g = g (со) на Ос нормой’
а\1/2
| g,(co) [’Р (dco) V
принадлежит известному типу ZA Норма *
Bg_tlii=(M|g— ri;2)1^
задает так называемое среднеквадратичное расстояние
между величинами g, rj g Н\ имея в виду это расстояние,
говорят о среднеквадратичной сходимости g„ —► g или
среднеквадратичном пределе g = lim g„; это означает, что
/2-> 00
II g-U-0.
Уточним, Ито Н является полным гильбертовым про-
странством, а именно, всякая фундаментальная последо-
вательность
Ы — 0. П,т-^со,
имеет в Н (среднеквадратичный) предел g= lim, g„.
, П -> 00
Справедливо следующее простое неравенство, которое '
- является следствием известного неравенства Чебышева:
1 м
P{|g|>e)<l||g||.
122
Распределение вероятностей величины £ С Rn можно
выразить через условное распределение P^(dx|y) относи-
тельно случайной величины с помощью одного из
вариантов формулы полной вероятности'.
P^(B) = MPa(Bh), B<=Rn.
Аналогичной для £ £ 7?1 является формула полного ма-
тематического ожидания'. .
м&=м[ма|т1)],
где
— так называемое условное математическое ожидание
величины | относительно Значение M(g|y) = M(g|iq = #)
можно интерпретиров_ать как математическое ожидание ве-
личины | при условии т1 = у. к ' ~i
Одним из важнейших в теории вероятностей является
гауссовское (иначе, нормальное) распределение P(dx)—на
прямой R1 оно задается плотностью
1 1
'’w = F&,e'* ” •
а в n-мерном пространстве Ra может быть описано, ска-
жем, с помощью характеристической функции
п
г i 2 ukxk
<p(^i, Un)= J е fe=1 P(dx), и19 ..ип£ R\
кп
которая для гауссовского распределения P(dx), х =
— (хп х„), имеет вид
( п п \
ф(мп ..., и„) = exp X Аk“k—т Л Bkjukuj}.
V * = 1 k, /=1 J
где справа линейная форма от ип произвольна,
а квадратичная форма является неотрицательной. Важ-
ность нормального распределения обуславливается цен-
тральной предельной теоремой, согласно кото-
рой приблизительно именно такое распределение вероят-
ностей имеют случайные величины, представимые в виде
суммы большого числа слабо зависимых слагаемых; про-
123
стейшей формой центральной предельной теоремы является
следующее^ предложение: для последовательности сумм
п -
S = 2 независимых одинаково распределенных слагав-
k=i
мых со средним а ,и дисперсией о2
lim Р = f e~x2/2dx. '
п + <D [ о V п J V 2л J
— 00 '
Случайные величины g = (gb •••,£„) с гауссовским рас-
пределением Pg(dx) = Р (dx) называются гауссовскими. Соот-
ветствующие параметры Ак и Вк]- имеют простой вероят-
ностный смысл, задавая средние значения и корреляцию
величин glt .... g‘„:
Л*=М^, В„~1Щк-Ак)(^-А}, k, / = 1...............п.
Если (пхп)-корреляционная матрица {BkJ} является не-
вырожденной с определителем о2, то гауссовское распре-
деление P(dx) имеет плотность
{П \
- 4 1 bkj {ч -Ак) (х7 - Лу) |,
где {^у} = {В*у}“х есть обратная матрица;
Р(В)= Jp(x)dx, B^Rn
в
(плотность р(х), х£/?п, произвольного распределения
вероятностей Р (dx) обычно называют плотностью вероят-
ности).
Упомянутая выше центральная предельная теорема
является примером общих предельных теорем теории
вероятностей-, устанавливающих те или иные условия
слабой сходимости распределений к тем или иным «стан-
дартным» законам распределения. Последовательность
распределений P„(dx), —оо < х < оо, случайных величин.
g„ называется слабо сходящейся к распределению f*(dx)
случайной величины g (обозначение: Р„=^Р), если
X" х"
$ Р„ (dx) = Р{х' < g„ < х"} — Р {х' < g < X"} = J Р (dx)
х' х'
для всех х', хп с условием
P{g = x'} = P.{g = x"} = 0.
124
I
‘j
i Скажем, слабая сходимость P„=>P имеет месте при средне-
квадратичной сходимости £„—>£; при этом для любой
непрерывной функции <р(х) и указанных выше х', х"
i j ф (•*) Рв (<&) —* ) ф (х) Р (dx).
х' х'
Случайный процесс на множестве Т = R1 определяется
Р как семейство случайных величин g(0, t^T, зависящих
' от действительного параметра t£T (обычно t интерпре-
тируется как время). Имея в виду случайный процесс | (0,
t^T, говорят также о случайной функции t^T\ ее
значения суть случайные величины £(0. Можно себе
представить, что случайный процесс £ (0, t € Т, описывает
эволюцию той или иной «системы», состояние которой
в момент времени t есть Н(0—при такой интерпрета-
ции £(0 называют .состоянием случайного процесса в
момент t. '
Конечно, говоря о случайном процессе‘^(0, t$T,
нужно сказать, что его значения определены на некотором
вероятностном пространстве (Q, Ж, Р), т. е. £(0 = £(«>, 0,
to £ Q. При фиксированном мы имеем дело с
траекторией (или выборочной функцией, или еще ина-
че—реализацией} |(®, • ) = £(©, 0, t£T, этого случай-
ного процесса £(0.
Для определенности будем говорить в дальнейшем
о действительных величинах £(0, t£T.
Пусть X—некоторое пространство действительных
функций x = x(t), t£T, содержащее все траектории слу-
чайного процесса £ (0, t £ Т. Отображение со —> х = £ (со, •)
позволяет ввести на X ст-алгебру S3, состоящую из всех
множеств с прообразом (со, • )££?} £91 и вероят-
ностной мерой Р5 (В) = Р {g (со, •) £ В}. Если на вероятно-
стном пространстве (X, S3, Р0 определить случайные ве-
личины |(0, положив £(х, 0'=х(0, х£Х, t^T, то
окажется, что для так определенного случайного процес-
са Jj(0, t С Т (он называется непосредственно заданным),
распределение вероятностей любых его значений g (0), ...
. ..,£(0)—такое же, как у исходного процесса £(0,
t£T. При этом элементарными исходами для нового
— (непосредственно заданного) случайного процесса служат
его траектории х = |(х, 0, t£T (можно «казать, что
& каждая из них описывает один из возможных вариантов
поведения рассматриваемого процесса).
121
Естественно, возникает вопрос, а существует ли то
или иное семейство случайных величин £(/), t^T, с за-
данными конечномерными распределениями
Рб. Ч
=P{UO€B1)
точнее, можно ли реализовать такое семейство на неко-
тором пространстве элементарных исходов (Q, ?I, Р) или,
что то же, на некотором функциональном пространстве
(X, 53, Р^)? Ответ на этот вопрос содержится в фунда-
ментальной теореме Колмогорова*), которую мы сформу-
лируем в следующем виде: для любого семейства согласо-
ванных распределений 'вероятностей
Р/я.....»
существует случайный процесс ^(t), t£T, имеющий-их
своими конёчномерными распределениями. Упомянутое здесь
условие согласованности, которое выполняется для конеч-
номерных распределений любого случайного процесса,
состоит в том, что для любых t19 ..., tn£T "
P‘ke -^k X • • • X Btkn) = • • • XB»)
при любой перестановке nap (tk, Вк) и что <
Р/,...(В1х...хВ„.1х/?1) =
= P/t, ../„_,|(BiX ... XВп_1).
Оказывается, соответствующим вероятностным простран-
ством (Q, Й, Р) всегда может служить пространство
Q==X всех действительных . функций x = x(t), t£T,
с а-алгеброй 21, порожденной полукольцом 210 цилиндри-
ческих множеств А^Х вида А = {х: xft^^Bi, ...
..., х (tn) £ Вп} (с произвольными . tn(zT, Ви ...
..., Вп^ R1 и п = 1, 2, ...); нужная вероятностная
мера Р = Р|, для которой непосредственно заданный* на
(X, 91, Р) случайный процесс £(/), t£T, имеет заданные
конечномерные р аспределени я * Р/,tn> может быть оп-
ределена на цилиндрических множествах указанного выше
вида как Р(Л) = PZ1...(Вг х ... х В„) и продолжена,на
всю о-алгебр у 21. - '
♦) См. Колмогоров А. Н. Основные понятия^теории^веро-
ятностей, 2-е изд.— М.: Наука, 1974.
426
Отметим, что условие согласованности можно выразить
с помощью характеристических функций
<Р/я..«„) =
। п
С 1 ukxk
= J е *=1 P/t.......tn(dx, ... dxn), ' ult ...» u^R1.
Rn ' .
Именно, условие согласованности равносильно тому, что
Фм,. .... tkn^ks • «*») = Ф/,../Й(И1, ип),
Ф/,...tn-ftn^, 0) = <р,,./„_,(«!, ..., «„.J.
Примером может служить согласованное семейство
гауссовских Д нормальных) распределений- вероятностей
Р/,...tn с характеристическими ф/йкциями
ФЛ....«„) =
/ п П л
= exp < A Os) L Я Оь </) «»«/ Г >
V k=\ ' k, /=1 J
где Л (0, t£T,— произвольная действительная функция,
a B(t, s), t, s£T,— действительная функция, удовлетво-
ряющая следующему условию положительной определен-
ности:
ri\
X 5 Os,
k, /,= 1
при любых действительных ul9 ..., ип и tn£T.
Напомним, что для гауссовских случайных величин
? (О> • • •, i (^) с указанными характеристическими функ-
циями мы имеем
Л(/Й)=мии.
B(tk,
Случайный процесс |(/), t£T, с гауссовскими конечно-
г мерными распределениями Р/,.........tn называется гаус-
совским. Функцию Л(0 = М|(/), t£Tt обычно назы-
{ вают средним значением, а функцию
B(t, s) = M[£(0-4’O)][i(s)-4-(s)], t.s^T,
— корреляционной функцией случайного процессал £ (/),
t^T.
127
СОДЕРЖАНИЕ
Предисловие. . ..... ...... . $
§ 1. * Процессы с дискретным вмешательством случая (примеры) f
§ 2.1 Однородные марковские процессы со счетным числом со-
стояний (дифференциальные уравнения Колмогорова) . .
§ \3г Однородные марковские прЪцессы со счетным числом со- •
стояний (сходимость к стационарному распределению). . 44
§ 4. Ветвящиеся процессы (метод производящих функций) . .
§ I 5* Броуновское движение (уравнение диффузии и некоторые
свойства траекторий).................................$£
§ 6. Случайные процессы в системах массового обслуживания 4$
§ /7Ч Случайные процессы как функции в гильбертовом про-
; странстве...........................................57
§ 18.v Стохастические меры и интегралы....................G1
§ 9. Стохастический интеграл Ито и стохастические дифферен-
циалы ...............................................$$
§ 10. Стохастические дифференциальные уравнения..........
§11. Диффузионные процессы (дифференциальные уравнения
Колмогорова) .................................J4
§12. Линейные стохастические дифференциальные уравнения и
линейные случайные процессы .........................$$
§ 13^ Стационарные процессы (спектральный анализ и линей-
ные преобразования)..................................$2
§ 14. ‘Некоторые задачи оптимального оценивания...........
§ 15. Одна задача‘фильтрации (схема Кальмана—Бьюси) . . .
Приложение (основные понятия теории вероятностей) . .... ИЯ
25 ксзь