Текст
                    Д. Бриллинджер
'А А
ВРЕМЕННЫЕ РЯДЫ
ОБРАБОТКА ДАННЫХ
И ТЕОРИЯ


INTERNATIONAL SERIES IN DECISION PROCESSES TIME SERIES DATA ANALYSIS AND THEORY David R. Brillinger The University of California, Berkeley HOLT, RINEHART AND WINSTON, INC. New York Chicago San Francisco Atlanta Dallas Montreal Toronto London Sydney 1975
Д. Бриллинджер ВРЕМЕННЫЕ РЯДЫ. ОБРАБОТКА ДАННЫХ И ТЕОРИЯ Перевод с английского А. В. Булинского и И. Г. Журбенко под редакцией А. Н. Колмогорова ИЗДАТЕЛЬСТВО «МИР» Москва 1980
УДК 519.24 Монография посвящена изучению временных рядов, встречаю- встречающихся в различных областях физики, механики, астрономии, техники, экономики, биологии, медицины. Основная ориентация книги — практическая: методы теоретического анализа иллюстри- иллюстрируются детально проработанными примерами, а результаты нагляд- наглядно представлены на многочисленных графиках. Вместе с тем теоре- теоретический уровень изложения очень высок. Для более глубокого понимания выводов и выкладок приводится большое число упраж- упражнений. Книга рассчитана на математиков и специалистов различных областей науки и техники. Она доступна аспирантам и студентам университетов. Редакция литературы по математическим наукам 1702060000 20203-500 © 1975 by Holt, Rinehart and Winston, Inc. 041 @1)-80 © Перевод на русский язык, «Мир», 1980 Давид Р. Бриллинджер ВРЕМЕННЫЕ РЯДЫ. ОБРАБОТКА ДАННЫХ И ТЕОРИЯ Научный редактор И. А. Маховая. Младш. научн. редактор Э. Г. Иванова Художник М. И. Гочуев. Художественный редактор В. И. Шаповалов Технический редактор Е. С. Потапенкова. Корректор С. А. Денисова ИБ № 1608 Сдано в набор 25.01.80. Подписано к печати 23.06.80. Формат 60x90Vie. Бумага газетная. Гарнитура латинская. Печать высокая. Объем 16,75 бум, л. Усл. печ. л. 33,50. Уч.-изд. л. 31,17. Изд. № 1/9986. Тираж 9 500 зкз. Заказ № 1182. Цена 2 р. 40 к. ИЗДАТЕЛЬСТВО «МИР» Москва, 1-й Рижский пер., 2. Ордена Октябрьской Революции и ордена Трудового Красного Знамени Первая Образцовая типография имени А. А. Жданова Союзполиграфпрома при Государственном комитете СССР по делам издательств, полиграфии и книжной торговли. Москва, М-54, Валовая, 28
Моей семье ПРЕДИСЛОВИЕ Исходным материалом книги послужили лекции, прочитанные мною летом 1967 г. сотрудникам отдела 1215 Телефонной лабо- лаборатории Белла в Мюррей Хилл, Нью-Джерси. Рэм Гнанадеси- кан, работающий в этом отделе, посоветовал мне оформить записки лекций для печати. Во время моей работы в Лаборато- Лаборатории были подготовлены многие из приведенных в книге приме- примеров; для расчетов применялась ЭВМ GE 645, снабженная устрой- устройствами графического представления результатов. Этот же курс был прочитан вновь, но в более элементарной и описательной манере в течение зимнего и весеннего семестров 1968 г, старшекурсникам Университета штата Калифорния в Беркли, специализирующимся в области статистики, а затем в весеннем семестре 1969 г.— студентам отделения статистики и эконометрики Лондонской экономической школы. Окончательный вариант рукописи был подготовлен к середине 1972 г. Хочется надеяться, что библиография почти полностью отражает работы, появившиеся до этого времени. Мне кажется, что книга будет полезна и как учебник по анализу временных рядов для студентов старших курсов, и как справочник для научных работников, интересующихся частот- частотным анализом временных рядов. Всюду, где возникает такая необходимость, приводятся точные определения и формулировки нужных условий. Благодаря такой форме представления мате- материала читатель получает прочные основы для решения практи- практических задач. Приведенные здесь результаты, как правило, не являются наиболее общими, однако имеют то преимущество, что все они по существу вытекают из одного важного условия пере- перемешивания, которое вводится на раннем этапе изложения и свя- связывает всю книгу. Многие теоремы нашей книги содержат только утверждения об асимптотиках, так как более детальная информация попросту не из- известна. Это обстоятельство не должно отпугивать специалистов в прикладных областях математики. Теоремы такого рода приводятся
Предисловие в расчете на то, что указанные в них асимптотические моменты и распределения могут служить разумным приближением к ре- результатам, основанным на конечных выборках, которые пред- представляют особый интерес. К сожалению, проверке точности асим- асимптотических приближений посвящено очень мало исследований, однако несколько ссылок на такие работы даны. Читатель обратит внимание на тот факт, что рассматривае- рассматриваемые здесь различные статистики являются простыми функциями дискретных преобразований Фурье, вычисленных по отрезкам наблюдений временных рядов. Может быть именно эта особен- особенность точнее всего характеризует настоящую книгу. Предпочте- Предпочтение, отданное дискретному преобразованию Фурье, обусловлено его важными математическими и эмпирическими качествами. К тому же, благодаря работе Cooley, Tukey A965), его можно быстро вычислять. Определения, методы, техника и статистики, обсуждаемые в этой книге, во многих случаях оказываются про- простыми обобщениями известной техники множественной регрессии и многомерного статистического анализа. Столь удачное поло- положение дел указывает на большую проникающую способность методов, важных для статистики и анализа экспериментальных данных. Вся книга разделена на два тома. Данный том в основном посвящен различным аспектам линейного анализа стационарных векторных временных рядов. Во втором томе, который еще под- подготавливается к печати, освещаются вопросы нелинейного ана- анализа и обобщаются результаты первого тома на стационарные векторные ряды, случайные поля и на векторные точечные про- процессы. Д-р Колин Мэллоуз из Телефонной лаборатории Белла сде- сделал целый ряд замечаний к рукописи настоящей книги. Профес- Профессор Инграм Олкин из Стэнфордского университета просмотрел рукопись первых глав, а г-н Джостейн Лиллестёль прочитал всю верстку. Их замечания оказались в высшей степени по- полезными. Анализу временных рядов я учился у Джона У. Тьюки, ко- которому весьма „признателен за всю оказанную помощь и под- поддержку. Беркли, Калифорния Д. Бриллинджер июнь 1974
i ПРИРОДА ВРЕМЕННЫХ РЯДОВ И ИХ ЧАСТОТНЫЙ АНАЛИЗ 1.1. Введение В этой книге мы будем изучать вектор-функции (i.i.i) все компоненты Xj(t), /=1, ..., г, которых действительны, a t принимает значения 0, ±1, ±2, ... . Такую совокуп- совокупность функций назовем r-компонентным векторным временным рядом (г-мерным временным рядом). Переменная t обычно соот- соответствует времени выполнения или регистрации наблюдений и измерений. Таблица 1.1.1 Данные о наблюдениях температуры (метеостанции и периоды наблюдений), использованные при построении примеров Номер 1 2 3 4 5 6 7 8 9 10 И 12 13 14 Город Вена Берлин Копенгаген Прага Стокгольм Будапешт Де-Би/im Эдинбург Гриндич Ньш'Хейбен Базель Вроцлав Вильнюс Трондхейм Период (годы) 1780-1950 1769-1950 1798-1950 1775-1939 1756-1960 1780-1947 1711-1960 1764-1959 1763-1962 1780-1950 1755-1957 1792-1950 1781-1938 1761-1946
25 15 5 -5 -15 25 15 5 -5 -15 25 15 5- -5 -15 15 ~5 -15 25 15 5 -5 -15 25 15 5 -5 -15 25 15 5 -5 -15 Эдинбург УХ zvzx ZX . Гриндич /\ z_5 z Ныа-ХейВен A A Л 7\ Базель ^т /V ВроцлаВ / \ \± A 7 \ вильнюс^_ А 1 А \ / \ Mi Трондхеим А J\ /X 1920 1921 1922 1923 1924 1925 . 1926 Год Рис. 1.1.1. Средние месячные температуры в °С на 1920—1930 гг. 1927 1928 1929 1930 14 метеостанциях за период
25 15 5 -5 •15 25 15 5 -5 -15 25 15 5 -5 -15 P | 15 1 : й? - 25 15 5 -5 -15 25 15 5 -5 -15 25 15 ¦5 с -15 7.7. Введение 9 A. 1 \ * V / у /\ / v /\ f\ / \ A / X J v / \ ' \ f '. \ /\ s f \ /\ / V л У \ N / V /\ / A /\ / A } ч /\ / \ I \ / \ As / \ ' \ Л A у v ' \ Л л / \ J \ /\ Д / \ У v / v / Ail / V / I \ Г. \ 1 v \ 1 \ Л l\ / J \ \ Вена 'Берлин- л /\ пенгаген J\ Прага- /\ / \ тошль A /\ ^ V >удапешп A / \ ' \ A A У \ A / \ A /\ J >- /Л M A /V / \ 7 у \ f V r V A / \ A / \ J V Д у \ A У \ ^ \ ^ \ л /\ J \ /\ 1 V Л / \ f \ A У \ A л /\ /\ j\ /\ / i A A / \ i ^ A / / л / v / 1 v у A / \ / V J ' Л / \ л / \ ) \ л I \ J \ /4 A У ч I \ f \ / \ 1920 1921 1922 1923 1924 1925 1926 1927 1928 1929 1930 Год Рис. 1.1.1. (продолжение).
10 /. Природа временных рядов и их частотный анализ • Вена •Базель •Будапешт Рис. 1.1.2. Расположение метеостанций (за исключением Нью-Хейвена, США). В качестве примера векторного временного ряда рассмотрим набор средних месячных температур, зарегистрированных раз- разными метеостанциями. На рис. 1.1.1 приводится такой ряд, по- построенный по данным для городов, перечисленных в табл. 1.1.1. Географическое расположение соответствующих метеостанций показано на рис. 1.1.2. Такие данные можно найти в World Weather Records A965). Указанный ряд построил J. M. Craddock (Meteorological Office, Bracknell). Другим примером векторного временного ряда является совокупность сигналов, записанных разными сейсмографами после землетрясения или ядерного взрыва. Об этом см. работы Keen и др. A965), Carpenter A965). На рис. 1.1.3 представлен пример записей такого рода. Приведенные примеры относились к естественным наукам, однако общественные науки также нуждаются в рассмотрении век- векторных временных рядов. Графики, изображенные на рис. 1.1.4, показывают изменения объема экспорта из Великобритании на различные рынки за период 1958—1968 гг. Излагаемая в книге техника исследований будет полезна и для анализа подобных рядов. Но следует иметь в виду, что получаемые при этом ре-
1.1. Введение И Рмс. 1.1.3. Сигналы, записанные группой сейсмографов во время события. зультаты, как правило, нельзя считать окончательными в силу нехватки данных, а также из-за того, что при исследовании делаются предположения, которые могут не соблюдаться в реаль- реальных процессах такого типа. Внимательно изучив предлагаемые рисунки, можно заклю- заключить, что отдельные компоненты рядов сильно связаны друг с другом. Поэтому в дальнейшем мы уделим значительное вни- внимание исследованию взаимных связей компонент векторных вре- временных рядов. В некоторых случаях представляют интерес и однокомпонентные ряды. Такие примеры можно найти в работе Singleton, Poulter A967), изучавших сигналы самцов дельфина- касатки, а также у Godfrey A965), занимавшегося изучением количества наличных денег Федеральной резервной системы США, предназначенных для сбалансирования ежемесячных межбанков- межбанковских платежных обязательств. Еще один пример приведен на рис. 1.1.5, где показан график среднегодовых чисел солнечных пятен за период 1760—1965 гг. [Waldmeir A961)]. Этот ряд часто рассматривался статистиками; см., например, Yule A927), Whittle A954), Brillinger, Rosenblatt A967 b). Понятно, что однокомпонентные ряды можно рассматривать как частный случай r-компонентных векторных рядов, соответствую- соответствующий г=1. Однако стоит подчеркнуть, что анализ векторных рядов, содержащих несколько компонент, обычно дает больше информации, чем анализ однокомпонентных рядов. Поэтому ра-
12 1. Природа временных рядов и их частотный анализ -?(м/1н) 600 г Общий объем Стерлинговая зона Jf (млн) \. . i 1 ЕЭС I I L I 1958 1960 1962 1964 1966 1968 Год Рис. 1.1.4. Объем экспорта Великобритании (стоимость в миллионах фунтов стерлингов) на различные рынки с 1958 по 1968 гг.
1.2. Основания для применения гармонического анализа 13 200 1760 1800 1850 1900 1950 1965 Год Рис. 1.1.5. График солнечной активности (среднее годовое число солнечных пятен) за период 1760—1965 гг. зумно отыскивать и включать в рассмотрение дополнительные ряды, связанные с каким-либо процессом, описываемым одно- компонентным рядом. 1.2. Основания для применения гармонического анализа Главным методом, который будет использоваться при анализе временных рядов, является гармонический анализ. Объясняется это тем, что в дальнейшем мы будем рассматривать только ряды, описывающие результаты экспериментов, не привязанных к конк- конкретному началу отсчета времени. Другими словами, мы наме- намерены ограничиться экспериментами, инвариантными по отноше- отношению к временным сдвигам. Отсюда следует, например, что доля значений X (/), / > и, попавших в некоторый интервал /, должна быть примерно такой же, как доля значений X(t)> t>u + v, попавших в интервал / для всех v. Можно считать, что типичные физические эксперименты обла- обладают свойством временной инвариантности. Так, для многих практических целей неважно, в какой именно день начата серия измерений силы тяжести. Беглый анализ рядов, упоминавшихся в предыдущем параграфе, показывает: температурный ряд на рис. 1.1.1 вполне приемлемо считать обладающим таким свой- свойством инвариантности во времени; отрезки сейсмических наблю- наблюдений тоже кажутся на первый взгляд стационарными; ряды, описывающие объем экспорта, заведомо не похожи на стационар- стационарные, и с меньшей уверенностью это можно сказать про ряд, изображающий число солнечных пятен. Поведение рядов, опи- описывающих объем экспорта, является типичным для большинства рядов, связанных с социально-экономическими процессами. Поскольку люди извлекают уроки из прошлого и соответственно изменяют свое поведение, ряды, относящиеся к человеческой деятельности, вообще говоря, не являются инвариантными во времени. Позднее мы обсудим методы, позволяющие выделить стационарную компоненту из нестационарных рядов, однако тех-
14 /. Природа временных рядов и их частотный анализ ника этой книги главным образом нацелена на анализ стацио- стационарных процессов. Потребовав, чтобы при сдвигах аргумента поведение интере- интересующих нас функций было в некотором смысле элементарным, можно получить определенные аналитические следствия. Пусть f(t)—действительная или комплексная функция, определенная при t = 0y ±1, ... . Если потребовать, чтобы для t9 а = 0, ±1, ... , A.2.1) то, очевидно, f(t) будет постоянной величиной. Поэтому для от- отбора функций, имеющих простое поведение при временных сдви- сдвигах, придется накладывать менее жесткие ограничения. Потре- Потребуем вместо A.2.1) выполнения условия f(t + u) = CJ(t) для U м = 0, ±1, ... , где Сгф0. A.2.2) Подставив и = 1, получаем после нескольких шагов при t ^ 0 A.2.3) или в случае /(/) = Cr7(< + l) = C1-V(/ + 2)=...=Ci/@). A.2.4) В обоих случаях, положив С1 = ехр{а}9 где а — действительное или комплексное число, мы видим, что общее решение уравнения A.2.2) можно записать в виде /W = /(O)exp{otf} A.2.5) и что Си = ехр {аи\. Ограниченные решения уравнения A.2.2), как видно, получаются при a=iA,, где % действительно, i = = V — 1. Таким образом, поиски функций, просто изменяющихся при сдвигах аргумента, приводят нас к гармоникам ехр {Ш\ с действительным параметром X. Этот параметр X называется частотой гармоники. Если же оказывается, что 2 0-2.6)' то f{t + u) = yZcJexp{iKJu}exp{iKjt} =2C>exp{iy}, л 2 7) где Cj =бу ехр {ikjti}. Другими словами, если интересующая нас функция является суммой гармоник, то ее поведение при сдви- сдвигах аргумента также легко описывается. Поэтому если в резуль- результате инвариантного во времени эксперимента получаются детер- детерминированные функции времени, то естественно рассматривать функции, представимые в виде A.2.6). Изучение таких функций является предметом гармонического анализа или фурье-анализа [Bochner A959), Zygmund A959), Hewitt, Ross A963), Wiener A933), Edwards A967)].
1.4. Исторический обзор 15 В § 2.7 мы увидим, что фильтры —важный класс операций над временными рядами —также проще всего описываются и исследуются средствами гармонического анализа. Требование временной инвариантности применительно к экс- экспериментам, результаты которых описываются случайными (сто- (стохастическими) функциями X(t)y приводит к рассмотрению спе- специального класса экспериментов. Для них семейства случайных величин {X(t1 + u)i ..., X(tk + u)} и {Х(/х), ..., X(tk)\ имеют одинаковые распределения при всех и и t±, ..., tk. Результаты таких экспериментов называются стационарными стохастиче- стохастическими процессами [Doob A953), Wold A938), Хинчин A934)]. 1.3. Перемешивание Второе важное требование к временным рядам состоит в том, что они должны иметь короткий промежуток времени зависимо- зависимости. Иначе говоря, измерения X (t) и X(s) становятся несвязан- несвязанными или взаимно статистически независимыми при t — s—>oo. Это требование получит далее формальное выражение в виде условий 2.6.1 и 2.6.2 A)\ оно позволит определить существен- существенные цараметры генеральной совокупности и заключить, что раз- различные полезные оценки являются асимптотически гауссовскими в смысле центральной предельной теоремы. По-видимому, многие ряды, которые можно считать стацио- стационарными, удовлетворяют требованию такого типа. Возможно, это свойство объясняется тем, что с течением времени ряды подвер- подвергаются случайным возмущениям, не связанным с их предысто- предысторией, и эти случайные толчки в конечном счете формируют основное содержание процессов. Выдвинутое здесь требование к временному ряду — обладать слабой „памятью" —обычно именуется условием перемешивания. [Rosenblatt A956b).] 1.4. Исторический обзор Основной инструмент, который мы будем использовать при анализе временных рядов,—это конечное преобразование Фурье отрезка временного ряда, доступного наблюдениям. Для отыскания скрытых периодичностей Stokes A879) пред- предложил подвергать преобразованию Фурье эмпирически найден- найденные функции. Желая избежать неудобств, связанных с рассмот- рассмотрением относительных фаз, Schuster A894, 1897, 1900, 1906 a, b) предложил рассматривать квадрат модуля конечного преобразо- преобразования Фурье. Он назвал эту статистику периодограммой, по- поскольку занимался и исследованием скрытых периодичностей.
IS /. Природа временных рядов и их частотный анализ Рассмотрение периодограмм для общих стационарных про- процессов было начато Слуцким A929, 1934). Он выявил многие статистические свойства периодограмм, налагая условия нор- нормальности и определенные условия перемешивания. Одновре- Одновременно с ним Wiener A930) предложил очень общую схему гар- гармонического анализа временных рядов и начал изучение вектор- векторных процессов. Впоследствии изучение скрытых периодичностей уступило место другому, гораздо более важному приложению гармониче- гармонического анализа, который стал применяться для изучения зави- зависимостей между временными рядами [Wiener A949), Press, Tukey A956)]. Важной статистикой в этом случае является кросс-пери- одограмма — произведение конечных преобразований Фурье двух рядов. Она используется в работах Wiener A930), Goodman A957), а сам термин появился в работе Whittle A953). Периодограмма и кросс-периодограмма являются статистиками второго порядка и поэтому они особенно важны при рассмотре- рассмотрении гауссовских процессов. Аналогичные статистики более высо- высокого порядка требуются для изучения различных свойств негаус- совских рядов. Периодограмма третьего порядка — произведе- произведение трех конечных преобразований Фурье — введена в работе Rosenblatt, Van Ness A965), а периодограмма k-ro порядка — произведение k конечных преобразований Фурье —в работах Brillinger, Rosenblatt A967 a, b). Неустойчивость статистик типа периодограмм немедленно про- проявляется, как только они вычисляются по эмпирическим фун- функциям, см. Kendall A946). Wold A965) и гл. 5 настоящей книги. Наличие такой нестабильности и заставило Даниеля [Daniell A946)] предложить численное сглаживание периодограммы, которое теперь стало основным приемом частотного анализа. Важную роль в истории развития математических основ гармонического анализа временных рядов сыграли следующие статьи и книги: Слуцкий A929), Wiener A930), Хинчин A934), Wold A938), Колмогоров A941а, b), Cramer A942), Blanc-Lapi- ere, Fortet A953), Grenander A951a). Список статей и книг, игравших важную роль в истории развития эмпирического гармонического анализа временных рядов, включает работы: Schuster A894, 1898), Tukey A949), Bartlett A948), Blackman, Tukey A958), Grenander, Rosenblatt A957), Bartlett A966), Hannan A960), Stumpff A937), Chapman, Bartels A951). Книга Wold A965) содержит библиографию статей по ана- анализу временных рядов. Burkhardt A904) и Wiener A938) дают обзор очень ранних работ в этой области. Simpson A966) и Robinson A967) приводят много полезных при анализе времен- временных рядов программ для ЭВМ.
1.5. Применения частотного анализа 17 1.5. Применение частотного анализа Настоящий параграф содержит краткий обзор некоторых областей, в которых применялся спектральный анализ. Име- Имеются три главных аргумента в пользу его применения: (I) спект- спектральный анализ позволяет получить полезные описательные ста- статистики, (II) служит орудием диагностики, указывая, какой дальнейший анализ может быть полезен, и (III) применяется для проверки постулируемых теоретических моделей. Степень успеха, который достигается при использовании этой техники, по-види- по-видимому, прямо пропорциональна длине отрезка ряда, доступного для анализа. Физика. Если под спектральным анализом понимать изучение индивидуальных частотных компонент интересующих нас вре- временных рядов, то можно считать, что первое серьезное приме- применение этой техники состоялось в 1664 г., когда Ньютон рас- расщепил солнечный свет на отдельные компоненты, пропустив его через призму. Из этого эксперимента вырос предмет спектро- спектроскопии [Meggers A946), McGucken A970), Kuhn A962)], в кото- которой изучается распределение энергии поля излучения как функ- функция частоты. В дальнейшем эта функция будет называться спектром мощности. Физики применяли спектроскопию для рас- распознавания химических элементов, для определения направле- направления и скорости движения небесных тел и для проверки общей теории относительности. Спектр является важной характеристи- характеристикой цвета [Wright A958)]. Частотный анализ света подробно обсуждается в книге Born, Wolfe A959); см. также Schuster A904), Wiener A953), Jenni- son A961), Sears A949). Спектр мощности часто применялся при изучении турбулент- турбулентности и в гидромеханике [Meecham, Siegel A964), Kampe de Feriet A954), Hopf A952), Burgers A948), Friedlander, Topper A961), Batchelor (I960)]. Обычно при этом строилась модель, приводящая к теоретическому спектру мощности, который затем сравнивался с эмпирическим. Ссылки на ранние работы можно найти в статье Wiener A930). Электротехника. Электротехников давно интересовала проб- проблема измерения мощности электромагнитных сигналов в разных полосах частот [Pupin A894), Wegel, Moore A924), Van der Pol A930)]. В дальнейшем изобретение радиолокации стимулировало изучение проблемы детектирования сигналов, и в этих исследо- исследованиях частотный анализ зарекомендовал себя как эффективный инструмент [Wiener A949), Lee, Wiesner A950), Солодовников A952)]. Частотный анализ теперь прочно вошел в кодирование, теорию информации и связи [Gabor A946), Middleton A960),
18 Л Природа временных рядов и их частотный анализ Пинскер (I960)]. При изучении многих из этих проблем на основе уравнений Максвелла строились полезные модели явлений. Акустика. Важные применения нашел частотный анализ в акустике. Здесь спектр мощности обычно играл роль описатель- описательной статистики [Crandall, Sacia A924), Beranek A954), Majew- ski, Hollien A967)]. Частотные характеристики процессов полу- получаются с помощью технических устройств, среди которых сле- следует отметить звуковой спектрограф, позволяющий рассматри- рассматривать спектры, зависящие от времени [Fehr, McGahan A967)]. Другой интересный прибор описан в работе Noll A964). Геофизика. Подробно описал применения частотного анализа в геофизике и снабдил это описание библиографией Tukey A965a); см. также работы Tukey A965b), Kinosita A964), Sato A964), Smith и др. A967), Labrouste A934), Munk, MacDonald (I960), Ocean Wave Spectra A963), Haubrich, MacKenzie A965), Various Authors A966). Недавний сенсационный пример — исследование структуры Луны посредством частотного анализа сейсмических сигналов, вызванных деятельностью человека на Луне [Latham и др. A970)]. Другие разделы техники. Помимо электротехники, гармони- гармонический анализ использовался, например, в космической технике [Press, Tukey A956), Takeda A964)], военно-морской [Yamanouchi A961), Kawashima A964)], в гидравлике [Nakamura, Murakami A964)] и в механической технике [Nakamura A964), Kaneshige A964), Grandall A958, 1963)]. Гражданские инженеры считают спектральные методы полезными для исследования поведения сооружений при землетрясениях. Медицина. Разнообразные медицинские данные собираются в виде временных рядов, например электроэнцефалограммы и электрокардиограммы. Частотный анализ таких данных имеется в работах: Alberts и др. A965), Bertrand, Lacape A943), Gibbs, Grass A947), Suhara, Suzuki A964), Vuzuriha A960). Корреля- Корреляционный анализ энцефалограмм обсуждает Barlow A967), а также Wiener A957, 1958). Экономика. О приложениях частотного анализа к временным рядам, возникающим в экономике, появились две книги: Gran- Granger A964) и Fishman A969). Кроме того, упомянем работы: Beveridge A921, 1922), Nerlove A964), Cootner A964), Fishman, Kiviat A967), Burley A969), Brillinger, Hatanaka A970). Биспект- ральный анализ применял Godfrey A965). Биология. Частотный анализ использовался для исследования ритмов, присущих поведению некоторых растений и животных; например, см. Aschoff A965), Chance и др. A967), Richter A967). Частотный анализ также полезен при конструировании моделей человеческого слуха [Mathews A963)].
1.7. Упражнения 19 Психология. Частотный анализ данных, получаемых при пси- психологических тестах, содержится в работе Abelson A953). Численный анализ. Спектральный анализ применялся для исследования свойств независимости псевдослучайных чисел, порождаемых различными рекуррентными схемами [Jagerman A963), Coveyou, MacPherson A967)]. 1.6. Заключительные замечания Цель этого параграфа —отметить факт, который читатель, работающий с данной книгой, вскоре заметит и сам: теория и техника, применяемые в статистике временных рядов, по существу элементарны. Основным способом построения оценок является метод моментов. Для обоснований широко привлекается асимп- асимптотическая теория. Многое из изложенного в книге связано с теорией моментов второго порядка и поэтому наиболее при- пригодно для гауссовских процессов. Достаточные статистики, ста- статистики максимального правдоподобия и другие важные поня- понятия математической статистики упомянуты лишь вскользь. Было сделано несколько попыток распространить понятия и методы современной статистической теории на стационарные временные ряды [Bartlett A966), Grenander A950), Slepian A954), Whittle A952)]. Отношение правдоподобия рассмотрено в рабо- работах: Striebel A959), Parzen A963), Гихман и Скороход A966). Описание общих схем применения анализа временных рядов привели Rao A963, 1966), Stigurn A967), Hajek A962), Whittle A961), Arato A961). Следует указать, что исторически имели место два довольно обособленных направления в исследовании временных рядов: частотный (гармонический) подход и подход, связанный с ана- анализом зависимости от времени. В этой книге рассматривается первый подход, а второй представлен работами Mann, Wald A943), Quenouille A957), Durbin A960), Whittle A963), Box, Jenkins A970). Различия между этими двумя методами анализа обсуждаются Вольдом [Wold A963)]. Однако с появлением алго- алгоритма быстрого преобразования Фурье может оказаться, что вычисления эффективнее проводить, пользуясь частотными пере- переменными даже в том случае, когда избран подход; связанный с анализом временного аргумента, см., например, § 3.6. 1.7. Упражнения 1.7.1. Докажите, что если /(•)—-комплексная функция и /(/3 + «i, .. . h+) CUimmMkf(tlt ..., tk) при t/t uf = 0, ± 1, ±2, ..., /=1, ..., k, k то f(tl9 ..., tk) = f(O> ..., 0) exp {2<X/fy} для некоторых аь ..., ak\ см. Aczel
20 1. Природа временных рядов и их частотный анализ 1.7.2. Докажите, что если f(t) — непрерывная комплексная функция и f (t-\-u) = Cuf (t) при —оо < t, и < оо, то / (t) = f @) ехр {at} для некоторого а. 1.7.3. Докажите, что если f (t) — векторная функция с г комплексными компонентами, такая, что f (t-\-u)~CJ (t), где t, w = 0, ± 1, ±2, a Ca есть rXr-матричная функция, то f (/) = Cxf @), если Det {f @), ..., f (/- — 1)} ф 0, причем Ся = ехр{Аа}, A = lnCi. См. Doeblin A938) и Kirchener A967). 1.7.4. Пусть IF (a), — оо <a< оо, — абсолютно интегрируемая функция, удовлетворяющая условию Пусть /(а), — оо <а< оо, — ограниченная функция, непрерывная при <х = Покажите, что s \ W [8 (к — a)] da= 1 и со lime-1 [ f(a)Wt&-1(k—a)]da = 0 J 1.7.5. Докажите, что для X ф О, ± 2jx, ... Т cosA-c 2 2sin| т (с) 1=-т sin у J sin~ -я 1.7.6. Пусть Xlt ..., Хг — независимые случайные величины с ЕХу- = |ху и DXj = o2j. Рассмотрим линейные комбинации Y = ?jajXj, 2u^j — 1- Тогда / / ЕУ = ^j flyfi/. Докажите, что DY минимизируется при выбаре 0^=0J2/^a/ , У=1, /.., г. 1.7.7. Докажите, что сумма 2 ехр {/Bя^)/Г} равна Г, если s = 0, ±7\ ±2Т, ..., и равна 0 при других целых значениях s. 1.7.8. Докажите, что если X—действительная случайная величина с ко- конечным вторым моментом и 8—действительное число, то Е (X—6J = DX+ + (ЕХ — бJ. 1.7.9. Пусть / обозначает пространство бесконечных в обе стороны после- последовательностей x = {xt, t = 0, ±1,±2, ...}. Пусть Щ, обозначает линейную операцию на / [91 (ах-\-$у) = аШ (д:) + р91 (у) для чисел a, p и для х, у?1], которая инвариантна во времени [Щ =К, если 9h: = X, ^ = ^+0, ^t —^t+a для некоторого w = 0, ±1, ±2, ...]. Докажите, что существует функция А (к), такая, что (%x)t= А (X) Xf, если Xf — exp{iXt}.
1.7. Упражнения 21 1.7.10. Рассмотрим последовательность с0, съ с2, ..., ее частные суммы = V Cf и средние в смысле Чезаро °Т= °-уф = Г+1 при Т—>ос; см. Кпорр A948). 1.7.11. Пусть \у —векторная случайная величина, где К—действитель- Докажите, что если , то От ная величина, такая, что EF2 <ос. Докажите, что величина #(Х), у которой Е0(ХJ<оо, минимизирующая Е[У—0(Х)]2, задается формулой (Х) Е{У|Х} 1.7.12. Покажите, что для /г=1, 2, ... п- 1 sin sin nk " Т и выведите отсюда, что Sin у sin ~ 2 - 1.7.13. Покажите, что справедливо тождество П П-1 где 1.7.14. (а) Пусть функция f(x), рируемую производную /<1) (л:). Покажите, что _! = 0 (преобразование Абеля). 1 интегрируема и имеет интег- интег4 где [#] обозначает целую часть числа у. (Ь) Пусть f{k) (x), O^x^L обозначает k-ю производную функции / (х). f{k)() O^l k 0 I K П () у f (), ^ Предположим, что f{k)(x), жите, что ру фу / () l, интегрируема для k = 0, I, ...,K. Пока- Покау=0 где В^ (у) обозначает k-н полином Бернулли (Эйлер—Маклорен).
2 ОСНОВНЫЕ ПОНЯТИЯ 2.1. Введение В этой главе приводятся некоторые сведения об основах ста- статистического и детерминистического подходов к анализу вре- временных рядов. Мы увидим, что предположения, которые дела- делаются в каждом из подходов, приводят к определению близких по своему смыслу параметров; одинаковыми обычно оказываются и практические выводы. Фактически будет показано, что эти два подхода в определенном смысле эквивалентны. Важным в настоя- настоящей главе является параграф, посвященный изучению тех свойств интересующих нас параметров, которые инвариантны относительно фильтров—специального класса преобразований временных ря- рядов. Доказательства теорем и лемм вынесены в конец книги. На. протяжении всего текста матрицы обозначаются буквами А, В, набранными жирным шрифтом. Если матрица А имеет элементы AJk, то иногда пользуемся и другим ее обозначением: [Ajk]. Для rxs-матрицы А ее транспонированную sxr-матрицу записываем как Ат; А—матрица, элементы которой комплексно- сопряжены с элементами A. Det А обозначает детерминант мат- матрицы A, trA—след матрицы А и |А|—сумму модулей элемен- элементов А. Единичную матрицу обозначаем через.I. Всякий г-компо- нентный вектор является гх 1-матрицей, т. е. столбцом. Символы ЕХ и DX обозначают соответственно математичес- математическое ожидание и дисперсию случайной величины X. Для пары случайных величин (X, Y) будем записывать их ковариацию как cov{X, У}, а коэффициент корреляции как cov{Xy Y}. Если z — комплексное число, то Re г и 1тг означают соот- соответственно его действительную и мнимую части. Таким образом, z можно представить в виде z = Rez + ilmz. B.1.1) Будем обозначать через \z\ модуль числа г, равный [(RezJ + (IJ]1/2, и через argz его аргумент, т. е. tg arg z= 1тг/Яег.
2.1. Введение 23 Для действительных чисел х, у будем писать ), B.1.2) если при делении х—у на' а получается целое число. В дальнейшем окажутся полезными следующие функции: дельта-функция Кронекера, определяемая равенствами ( 1, если а = 0, 6{а} = < ' B.1.3) 1 ' ^ 0 в противном случае, v ' и „гребень" Кронекера { 1, если а == 0 (mod 2я), тИа/ — | q в противном случае. \ • • ) Столь же полезны будут следующие обобщенные функции: дель- дельта-функция Дирака 6 (а), —оо<а<оо, обладающая свойством B.1.5) для всех функций /(а), непрерывных в нуле, и „гребень" Дирака со Л(сб)= 2 8(а-2я/), -оо<а<оо, B.1.6) /=-00 для которого С / (а) Л (а) doc = 2 /Bя/) B.1.7) при всех допустимых функциях /(а). Эти функции рассматри- рассматривают Lighthill A958), Papoulis A962), Edwards A967). В упр. 1.7.4 показано, что функции e-^fe^a) при малых е аппроксими- аппроксимируют дельта-функцию Дирака. 2.2. Стохастические процессы Иногда имеет смысл считать конкретный r-компонентный век- векторный временной ряд X (t) элементом набора векторных вре- временных рядов, который возникает из некоторой случайной схемы. Мы можем обозначить такой набор рядов через {Х(?, 0),0?0 и ^ — 0, :+.\у ...}, где 0—случайная величина, принимающая зна- значения в множестве 6. Если Х(/,0) окажется измеримой функ- функцией 0, то Х(/, 0) при каждом t является случайной величи- величиной, и можно говорить о конечномерных распределениях. Они задаются следующим образом:
24 2. Основные понятия a, ak=\, ...,r,k=l,2 B.2.1) Можно затем рассмотреть такие функционалы, как , (*, 0) = J xdFa(х-1) = са @, B.2.2) -ca(t)YdFa{x\t) = caa(t,t), B.2.3) (xltx2\ t19 *я) = = ^ (*i. Q Для а, Ь == 1, ..., г, ^ B.2.4) если выписанные интегралы существуют. Каждому значению, которое (в соответствии со своим вероятностным распределением) принимает 6, соответствует функция Х(/, В) с фиксированным 0; она будет именоваться реализацией, траекторией или выборочной функцией временного ряда. Поскольку, вообще говоря, необязательно включать 0 специ- специальным аргументом в Х(/, 0), мы будем далее писать X (/) вмес- вместо Х(/, 0). Функция Х(/) будет называться временным рядом, случайным процессом или случайной функцией. Интересующийся читатель может найти изложение основ веро- вероятностной теории временных рядов в книгах: Cramer, Leadbet- ter A967), Яглом A952) или Doob A953). Функция ca(t), опре- определенная равенством B.2.2), называется функцией среднего для временного ряда Xa(t). Функция caa(tl9 t2), определенная со- согласно B.2.4), называется (авто)ковариационной функцией Xa{t)y и функция cab(tlf /2), введенная в B.2.4), называется кросс-кова- кросс-ковариационной функцией Xa(t) и Xb(t). Функция ca(t) существует тогда и только тогда, когда Е|Ха(/)|<оо. По неравенству Шварца I саЬ (tlt t2) |2 < саа (t19 tx) cbb (t2t tt)9 B.2.5) и cab(ti> t*) существует, если caa(t19 tx), cbb(t2, *2)<oo. Функция PaaVi* U) = Caa(t19 Ql{{caa (/lf t,)caa(t2, t2)}^ называется (авто)корреляционной функцией Xa(t).. Наконец, Pabih, t*)=cab(t19 U)l{caa(t19 tz)cbb(t19 g}1/2 называется кросс-корреляционной функцией Xa(t^) и Xb(t2). Говорят, что ряды Xa(t) и Xb(t) ортогональны, если cab(ti* ^):=0 Для всех t19 t2.
2.3. Кумулянты 25 1* 2,3. Кумулянты Рассмотрим теперь случайный вектор (Yl9 .-., Yr) с действи- действительными или комплексными компонентами F.-, для которого Е|У1 / 1 Определение 2.3.1. Совместный кумулянт r-го порядка cum (Yi9 ..., Yr) вектора (Y19 ..., Yr) задается формулой: /€V где суммирование ведется по всем разбиениям^, •,., vp), р = 1,... ..., г, множества A, ..., г). В важном частном случае Yj = Y<, /=1, ..,,г, приведенное определение задает кумулянт r-го порядка одномерной случай- случайной величины Y. Теорема 2.3.1. Кумулянт cum(F1, ...,Fr) является коэффи- ( п циентом при (i)r tx.. Лг в разложении функции logf E exp i2 Yj в ряд Тейлора в окрестности начала координат. Утверждение этой теоремы иногда принимается за определе- определение cum(F1, ..., Yr). Перечислим ряд свойств кумулянтов: (i) cum \a^Yx, ..., a/rYr) = а±.. .ar cum (Ylf ..., Yr) для всех посто- постоянных ai9 ..., ar\ (ii) cum (Yt, ..., Yr)—симметричная функция своих аргументов; (iii)если некоторая группа величин из Yl9 ..., Yr независима от остальных величин в наборе, то cumQ^, ..., Гг) = 0; ^ Z Ky)y) Z ^ i 1r)(lr) A1 ..., Yr) для случайных величин (Z19 Yl9 ..., Yr)\ (v) для постоянной \i и г = 2, 3, ... x, Y%9 ...,yr) = cum{K1,yif ...9Yr)\ B.3.2) (vi) если случайные величины (Y19 ..., Yr) и (Z19 ..., Zr) неза- независимы, то Y19 ..., Vr) + cum{Z19 ...,Zr)9 B.3.3) (vii) cum Yj = EY/ Для / = 1, ..., r, (viii) cum (Y/t YJ) — DKy для / = 1, ..., r; (ix) cum(Ky, Yk) = cov {Yf, Yk) для /, k= 1, ..., r. l) В отечественной литературе более распространен термин „семиинвари- „семиинварианты", который мы также используем в настоящем издании.—Прим. перев.
26 2. Основные понятия Кумулянты, являющиеся полезной мерой статистической за- зависимости случайных величин (см. (iii) выше), представляют собой средство определения интересующих нас параметров, а так- также удобный аппарат для доказательства теорем. Кумулянты часто называют семиинвариантами, они рассматривались в работах: Dressel A940), Kendall, Stuart A958), Леонов и Ширяев A959). Стандартная нормально распределенная величина имеет ха- характеристическую функцию ехр{—t2/2\. Из теоремы 2.3.1 сле- следует, что ее кумулянты порядка выше 2 равны 0. Из (iii) выте- вытекает также, что все совместные кумулянты набора независимых величин равны нулю. Многомерная нормально распределенная величина определяется как вектор, компоненты которого явля- являются линейными комбинациями независимых нормальных вели- величин. Согласно (i) и (vi), все кумулянты порядка выше 2 равны нулю и для многомерного нормального распределения. Нам часто придется использовать совместные кумулянты по- полиномиальных функций от случайных величин. Прежде чем при- привести выражения для совместных кумулянтов таких величин, введем некоторые обозначения, восходящие к работе Леонов, Ширяев A959). Рассмотрим (необязательно прямоугольную) таблицу A, 1)...A, А) ! B.3.4) и разбиение P1[)P2U • • • UPm множества ее элементов. Мы ска- скажем, что принадлежащие разбиению множества Рт>, Рт» зацеп- зацепляются, если существуют (i19 /x)(EPm' и (i2, j2)(zPm"> такие, что i1 = i2. Будем говорить, что Рт> и Рт» сообщаются, если суще- существует последовательность множеств Рт1=Рт', Рт^ - • • > PmN—Pm"> такая, что Ртп и Pmn+i зацепляются для п=\,2, . ..,# —1. Разбиение называется неразложимым, если все множества Рт сообщаются. Пусть Rx, ...,/?/ обозначают строки табл. 2.3.4. Разбиение Ри ..., Рм является неразложимым тогда и только тогда, когда не существует множеств Pmi, ...? PmN(N <М) и строк Rtl, ..., Rio @ < /), таких, что ^U...UP^-^и...и^. B.3.5) Следующая лемма дает критерий неразложимости разбиений. Лемма 2.3.1. Рассмотрим разбиение Р19 ..., Рм, М > L, табл. 2.3А. Для элементов таблицы г(j и заданных чисел sm, / = = 1, ..., Jo i-= 1, ..., /, m=-1, .. .,M, положим Ф(ru) = sm, если
2.3. Кумулянты 27 (tti)?Pm. Разбиение неразложимо тогда и только тогда, когда все элементы множества {sm—sm*; I ^m, m' ^.M} являются сум- суммами и разностями величин Ф{г^-)—Ф(Г//3), l^/i> Ь^Л*» i= 1, ...,/. Возможна и альтернативная формулировка. По на- набору чисел ti9 i = 1, ...,/, определим функцию ^(г^) = ti9 j = 1,... ..., Jt\ i = 1, ...,/. Разбиение неразложимо тогда и только тогда, когда сложение и вычитание чисел *ф (rf-y) — гр (г^у); (*, /), (*', j')?Pm> /w= 1, ..., М, порождает все элементы множества { l '/} Заметим, что множество {^-— ^; 1^^', /'^/} порождается / — 1 независимыми разностями, такими, как tt—tfi ..., tI^1—tf. Отсюда следует, что в случае неразложимого разбиения можно найти 7—1 независимых разностей среди ф(г/у) — ф(/>/')*» (i, /), (Г, П€^; т=1, ...,М. Теорема 2.3.2. Рассмотрим набор случайных величин Xtj\ j = 1, ..., /;, i = 1, ..., 7. Введем I случайных величин йи i = \, ...,I. B.3.6) Тогда совместный кумулянт cum (К^ ..., F/) задается формулой 2 cum (X,7; t/ € vj... cum (Xv; // € v^), B.3.7) V где суммирование ведется по всем неразложимым разбиениям v^ViU ... Uv^ табл. 2.3.4. Эта теорема представляет собой частный случай результата, полученного Леоновым и Ширяевым A959). Коротко упомянем один из примеров использования этой тео- теоремы. Пусть (Х19 ..., Х4) — 4-компонентный нормальный вектор. Его кумулянты порядка выше 2 будут равны нулю. Допустим, нас интересует cov {ХгХ2, Х3Х4}. Доказательство теоремы 2.3.2 показывает, что cov {X,X2i X3X,} - cov {X19 X3} cov {Х2Х,} + cov{Xlf X4}cov{X2, X3\. B.3.8) Это выражение получил Isserlis A918). Закончим этот параграф определением, которое обобщает определения функции среднего значения и автоковариационной функции, приведенные в § 2.2. Для векторного временного ряда Х(/), ? = 0, ±1, ..., с компонентами Xa(t)9 a=^l9 ...,г, Е | Ха (t) \k < оо положим t1)9 ..., Xak {tk)\ =cxai ...x4(t19 ...,^), B.3.9)
28 2. Основные понятия где а19 ..., ак= 1, ..., г и ty ..., *л = 0, ±1, .... Эта функция будет называться совместной кумулянтной функцией порядка k ряда Х@, * = 0, ±1, ... . 2.4. Стационарность Временной ряд Х@> f = 0, ±1, ...,с г компонентами назы- называется стационарным в строгом смысле, если все семейство его конечномерных распределений инвариантно по отношению к общему сдвигу временного аргумента или, другими словами, если совместное распределение Xai(t1 + t)> ..., Ха (tk + t) не зависит от t для всех t, tit ..., ^ = 0, ±1, ... и а19 ..., аА=1,... .... г, ft=l, 2, ..... . Примерами строго стационарных рядов служат г-компонент- ный ряд e(t), t==0y ±1, ..., состоящий из независимых одина- одинаково распределенных векторов, а также ряд, который является детерминированной функцией от таких величин: X(*) = f[e(O, e('-l), *(*+1), ...], ^ = 0, ±1, ... . B.4.1) Другие примеры строго стационарных рядов встретятся позднее. В этом параграфе, как и на протяжении всей книги, аргу- аргумент временного ряда будет принимать значения ? = 0, ±1, .... Заметим, что если /—любой конечный отрезок в последователь- последовательности целых чисел, то временной ряд Х(^), /?/, являющийся строго стационарным на /, может быть расширен до строго ста- стационарного ряда, определенного на всех целых числах. (Стацио- (Стационарное расширение ряда, определенного и стационарного на конечном интервале, рассматривается в работе Parthasarathy, Varadhan A964)). С точки зрения практики важно, чтобы иссле- исследуемые временные ряды являлись приблизительно стационарными в период времени наблюдения. Векторный ряд Х(/), / = 0, ±1, •••> имеющий г компонент, называется стационарным второго порядка или стационарным в широком смысле, если саЬ (t + u,t) = cov {Xa (t + u), Xb (t)\ = cab (u) для ty w = 0, ±1, ... и a, 6= 1, ..., r. Отметим, что этим свойством обладают строго стационарные ряды с конечными вторыми моментами. Иногда ковариационная функция ряда, стационарного в ши- широком смысле, записывается в несимметричной форме: u9u)9 a = 0f ±1, ... . B.4.2)
2.5. Спектр второго порядка 29 Обозначим rxr-матричную функцию с элементами саЬ(и) через ?хх(и) и назовем ее автоковариационной функцией ряда Х(/), t = 0, ±1, ... . Если мы распространим определение ковариа- ции на случайные векторы X, Y, полагая cov{X, Y} = E{[X-E(X)][Y-E(Y)]4, B.4.3) тогда можно определить автоковариационную функцию ряда, стационарного в широком смысле, формулой схх (и) = cov {X (* + и), X (t)\ ' B.4.4) для f, и = 0, ±1, ... . Если векторный временной ряд X(t)9 / = 0, ±1, ..., строго стационарен и Е|Х;- (t)\k <oo, / = 1, ..., г, то k Cait...9ak(t19 .-.,**) B.4.5) для t19 ..., tki u = 0, ±1, ... . В этом случае мы будем ис- использовать и несимметричную запись, подчеркивающую зависи- зависимость от меньшего числа переменных: сах ak (t19 ..., tk-i) = cat,..., ч (t19 ..., tk_i9 0). B.4.6) Указанное предположение о конечности моментов не приведет к потере общности рассмотрения, поскольку на практике все до- доступные анализу временные ряды являются ограниченными, т. е. | Xj (t) | < С, / = 1, ..., г, для некоторой конечной постоянной С и, таким образом, существуют моменты всех порядков. 2.5. Спектр второго порядка Предположим, что ряд Х(^), ? = 0, ±1, ..., является ста- стационарным, и, как говорилось в § 1.3, зависимость его членов мала в том смысле, что Xa(t) и Xb(t + u) становятся все менее зави- зависимыми при|и|-—^оо для а, Ь=\, ..., г. Разумно потребовать, чтобы 00 2 Кб(")|<«> для а,Ь=\ г. B.5.1) U— -СО В таком случае мы определим спектр второго порядка рядов Ха (t) и Хъ (t) как функцию 2 свЬ(и)ехр{-*Ч Ы=-00 для —сх>< Я < оо, а, Ь — 1, ..., г. B.5.2)
30 2, Основные понятия При условии B.5.1) функция fab(k) ограничена и равномерно непрерывна. Если компоненты ряда X (t) действительны, то значит fab W == fab (— ^) ~ fba (— ^) = fba (ty* B.5.3) Из выражения B.5.2) также видно, что fab (%) как функция Я имеет период 2я. ^ Действительный параметр к, появляющийся в B.5.2), назы- называется радианной или угловой частотой в единицу времени, либо просто частотой. Если Ь = а, то faa(^) называется спектром мощности ряда Ха (/) на частоте Х..Если Ь^а, то fab(k) назы- называется кросс-спектром рядов Ха (/) и Хь (/) на частоте X. Заме- Заметим, что если с вероятностью единица Xa(t) = Xb(t), / = 0, ±1, ..., то кросс-спектр fab (X) в действительности является спектром мощности faa{k). Re/ab(X) и lmfab(k) называются соответственно коспектром и квадратурным спектром. Функция ФаЬ (k)=argfab(k) носит название фазы спектра, а | fab (k) [ называется амплитудой спектра. Пусть автоковариационные функции саЬ(и), и = 0, ±1,..., объединены в одну матричную функцию схх(и), w = 0, ±1, ..., имеющую саЪ (и) элементом, стоящим на пересечении а-й строки и b-го столбца. Допустим также, что спектральные функции вто- второго порядка fab(k), — oo<X<oo, объединены в одну матрич- матричную функцию fxxfi)* — oo<X<oo, таким же образом, как это описано выше для схх{ц). Тогда определение B.5.2) может быть переписано в виде 1Ш(X) = BЯ)'1 2 c**(w)exP{—i^u) Для —оо<Я<оо. B.5.4) tt= — со Матричная г х r-функция \хх (X), — оо < X < оо, называется матрицей спектральной плотности ряда X (t), t = 0, ±1, ••• . При условии B.5.1) соотношение B.5.4) можно обратить и по- получить представление схх(и)= J exp{iXu\fxx(X)dk для м = 0, ±1, ... . B.5.5) Теорема 2.5.1 покажет нам, что матрица fxx(X) эрмитова и неотрицательно определенная, т. е. txxW^xxW и аХ'п№а^0 для всех векторов а с г комплексными компонентами. Теорема 2.5.1. Пусть X(t), /=^0, ±1, .. ., — г-мерный вре- временной ряд с автоковариационной функцией схх (и) = cov {X (t + u), Х@}» U и —0, ±1, ..., удовлетворяющий условию : оо. B.5.6)
2.5. Спектр второго порядка 31 Тогда матрица спектральной плотности ? B.5.7) эрмитова и неотрицательно определенная. Для г = 1 отсюда вытекает, что спектр мощности будет дей- действительным и неотрицательным. В свете этой теоремы и с учетом свойств симметричности и периодичности, указанных выше, спектр мощности может рас- рассматриваться как неотрицательная функция на промежутке [0, я]. Свойства спектра мощности мы детально исследуем в гл. 5. В случае когда векторный временной ряд X (/), t = О, ± 1, ..., имеет конечные вторые моменты, но необязательно удовлетворяет некоторым свойствам перемешивания типа B.5.1), мы все же можем получить спектральное представление, аналогичное B.5.5). А именно, справедлива Теорема 2.5.2. Пусть X(t), t = 0, ±1, ..., — r-мерный вре- временной ряду стационарный в широком смысле и имеющий конеч- конечную ковариационную функцию схх (и) = cov{X (t + u), \(t)\ для t, u = 0, ±1, ... . Тогда существует rxr-матричная функция Fxx (к), — я < X ^ я, элементами которой являются функции ограниченной вариации и приращения которой неотрицательно определены, такая, что для и = 0, ±1, ... . B.5.8) -Я Эта функция задается формулой т S (и) [exp {- 1Щ- l]/(- iu) для — я<Я<я. B.5.9) Функция Fxx{%) называется спектральной мерой ряда Х(/), f = 0, ±1, .... В случае когда выполнено B.5.1),. она запи- записывается в виде ?хх W = J hx («) da, — я< X < я. B.5.10) о Представление B.5.8) получили Herglotz A911) для одномерных действительных функций и Cramer A942) в векторном случае.
32 2. Основные понятия 2.6. Кумулянтные спектры порядка k Допустим, что ряд Х(/), / = 0, ±1, ..., стационарен и за- зависимость его членов достаточно мала, а именно 2 I**, ...,«*("!, ..., ^-!)|<ОО. B.6.1) В этом случае кумулянтный спектр k-ao порядка, обозначаемый fax ak(K> •••> 4-i) = /xflif ..., Xak(K> • • • » Ч-i)» выражением I / = 1 J B.6.2) где — oo<Ay<oo, fllf ..., afe = l, ..., r, fe = 2, 3, ... . Рас- Распространим определение B.6.2) на случай k= 1, полагая fa — ca— = ЕХа (/), а= 1, ..., г. Иногда, чтобы сохранить симметрию, мы будем добавлять символический аргумент \ у функции, опреде- определяемой формулой B.6.2), записывая ее как f^ ak (K> •••Д^)- k При этом %k связан с другими А,у соотношением 2^у = 0 (mod2n). Заметим, что fQl ak(K> •••» ^) является, вообще говоря, комплексной функцией. Она ограничена и равномерно непрерывна k на многообразии 2^/ — 0 (тос12я). Имеет место следующая 1 у формула обращения: Я Я ^ Л-1 ^ = 5 ...|$ ехр|/ 2 AyMyffe, ak{K ...» W^i. •••' dVi> -я -я V J ) B.6.3) или в симметричном виде -Я -Я ^ ' / Здесь r\(l)= 2 в(Я, + 2я/) B.6.5) /=-oo — „гребень" Дирака B.1.6).
2.6. Кумулянтные спектры порядка k 33 Мы часто будем предполагать, что для рассматриваемого ряда выполнено Условие 2.6.1. X (t) т-строго стационарный векторный времен- временной ряд с г компонентами Ху- (/),/= 1, ..., г, все моменты которых существуют, и> кроме того, при а1У ..., ak=\, ..., г и k = 2> 3, ... выполняется B.6.1). Отметим, что для рядов, .удовлетворяющих условию 2.6.1, существуют кумулянтные спектры всех порядков. Для гауссов- ских процессов это условие сводится к требованию 21 саь (и) I < °°» а, Ь= 1, ..., г. Кумулянтные (семиинвариантные) спектры определяются и рас- рассматриваются в работах: Ширяев A960), Леонов A964), Brillinger A965), Brillinger, Rosenblatt A967a, b). Идея фурье анализа старших моментов временных рядов содержится в книге Blanc- Lapierre, Fortet A953). Спектр третьего порядка для одного ряда получил название . биспектра [Tukey A959), Hasselman, Munk, MacDonald A963)]. Спектр четвертого порядка был назван триспектром. В некоторых случаях окажется - полезным Условие 2.6.2(/). Для векторного стационарного процесса X(t) с компонентами Х^ (t), j = 1, ..., г, существует I ^ 0, такое, что !'} К-..,*>!, .... »*-l)|<«> B.6.6) при / = 1, ..:, k — 1 и любом наборе а1У ..., ак, где k = 2, 3, ... . Из этого условия вытекает, что для / > 0 зависимость доста- достаточно удаленных по времени значений процесса еще слабее, чем при выполнении условия 2.6.1. Степень зависимости определяется величиной /. Соотношение B.6.6) обеспечивает существование всех производных порядка, не превосходящего /,~ функций fat ak{K> •••> kk)y и эти производные ограничены и равносте- равностепенно непрерывны. Если вместо B.6.1) или B.6.6) потребовать лишь, чтобы Е;|*Л0|*<°°, fl =1, .... Г, ТО fat ak(K •••> К) > фИГури- рующие в B.6.4), представляют собой распределения Шварца, порядок которых не превосходит 2. О распределениях или обоб- обобщенных функциях см. монографии Schwarts A957, 1959). В случае k = 2 теорема 2.5.2 показывает, что эти обобщенные функции являются мерами. В последних главах нам понадобится следующее условие, которое сильнее обычно используемого условия 2.6.1.
34 2. Основные понятия Условие 2.6.3. Векторный ряд Х(/), t = 0, ±1, ...,с г ком- компонентами удовлетворяет условию 2.6.1, и, кроме того, величины Vk- k-i) таковы, .что для z из некоторой окрестности нуля %\ <oo. B.6.8) Это условие позволит в дальнейшем получить оценки с веро- вероятностью единица для различных интересующих нас статистик. Если Х(/), / = 0, ±1, ..., — гауссовский ряд, то требования 2.6.3 сводятся к суммируемости его ковариационной функции. В упр. 2.13.36 указана конкретная форма условия 2.6.3 и для других полезных примеров. 2.7. Фильтры При анализе временных рядов мы часто имеем возможность применять к ним некоторые преобразования. Важный класс пре- преобразований составляют линейные операции, инвариантные во времени. Рассмотрим операцию, определенную на г-компонентных векторьых рядах Х(/), ? = 0, ±1, ..., и сопоставляющую ряду X (/) векторный ряд Y (/), f = 0, ±1, ...,cs компонентами. Ряды X Щ составляют область определения, а ряды Y(t) — область значений операции. Результат операции будем записывать сле- следующим образом: B.7.1) Операция называется линейной, если для любых рядов Х^/), Х2@» ^ — 0» ±1> . ..,к каторым применима эта операция, и для любых постоянных а1У а2 выполняется 1 Я [аА + atXJ (t)=a& [XJ (t)+a& [XJ (t). B.7.2) Далее, пусть ТаХ (/), / = 0, ±1, ..., для данного и обозначает ряд X(t-{-u), t — 0, ±1, ... .Операция называется инвариант- инвариантной во времени, если для /, и = 0, ±1, ... . B.7.3) Теперь можно дать следующее определение: операция St, перево- переводящая r-компонентные ряды в s-компонентные и обладающая свой- свойствами B.7.2) и B.7.3), называется sxr-линейным фильтром. Область определения sx г-линейного фильтра можно расширить, включив в нее гхr-матричные функции U(/), / = 0, ±1, ... .
2.7. Фильтры 35 Обозначим столбцы U (/) через Uy. (t), /=1,#..., г, и положим «[U] (t) = [31 [UJ @...«[Ur] @]. B.7.4) Область значений этой .расширенной операции состоит из sxr- матричных функций. Важным свойством фильтров является способность преобразо- преобразовывать гармоники в гармоники, а именно справедлива Лемма 2.7.1. Пусть 21 — линейная операция, инвариантная во времени, область определения которой включает г хг-матричные ряды @ {Ш}1, B.7.5) / = 0, ±1, ...; — оо < X < оо, а I —единичная матрица порядка г. Тогда существует sxr-матрица А (Я), такая, что 81 [е] (/) - ехр {Ш} А (X). B.7.6) Другими словами, линейная операция, инвариантная во вре- времени, переводит комплексную экспоненту частоты X снова в ком- комплексную экспоненту той же частоты. Функция А (X) называется передаточной функцией операции. Заметим, что А (Х + 2п) = А (А,). Важный класс sxr-линейных фильтров имеет вид Y(f)= S &(t-u)X(u)= 2 *(u)X(t-u), B.7.7) «=-00 М=~СО it = O, ±1, ..., где X (t) есть r-компонентный векторный ряд, Y (/) есть s-компонентный векторный ряд, в. (и), и = 0, ±1, .„., является последовательностью sx r-матриц, удовлетворяющих условию 2) |а(и)|<оо. . B.7.8) Мы называем такой фильтр суммируемым и обозначаем его {а (и)}. Передаточная функция фильтра B.7.7) задается формулой со А(А,)= 2 а (и) ехр {—&и} для — оо < % < оо. B.7.9) Принимая во внимание B.7.8), видим, что А (X) является равно- равномерно непрерывной функцией Я. Функция а (и), и=0,±1, ..., называется импульсным откликом фильтра, так как если область определения фильтра расширить до г X r-матричных функций и на вход фильтра подать импульс I для / = 0, о-ддя **0. <2'7Л0> то на выходе получится ряд а(*), * = 0, ±1, ... •
36 2. Основные понятия Назовем sxr-фильтр {а. (и)} реализуемым или физически осу- осуществимым, если а(&) = 0 для и^—1, —2, —3, ... «Из B.7.7) следует, что такой фильтр имеет вид со Y@= 2 а(и)Х(*—и), B.7.11) так что для определения Y (t) требуются значения X (t) лишь в настоящий и прошлые моменты времени. В этом случае область определения А (К) может быть расширена до множества — оо < <ReA,< оо, Imh>0. Иногда нам понадобится применять целую серию фильтров к одному и тому же ряду. В этой связи приведем такую лемму. Лемма 2.7.2. Если {ах (t)} и {а2(/)} являются sXr-суммируе- sXr-суммируемыми фильтрами соответственно с передаточными функциями А1(К), А2(А,), то {ах (t) + &2 (t)} представляет собой sxr-сумми- руемый фильтр с передаточной функцией Аг (К)-{-А2 (к). Если {Ь^)} есть rxq-суммируемый фильтр с передаточной -функцией Вх (К) и {Ь2(/)} есть sx r'-суммируемый фильтр с пере- передаточной функцией В2(Я), то фильтр {b2*b!(^)}, получающийся в результате применения сперва фильтра {hi (/)}, а затем {Ь2 (/)}, является sxq-суммируемым фильтром с передаточной функцией В,(Х)В1(Я,). - - Вторая часть этой леммы показывает, что наряду с коэффи- коэффициентами фильтра, зависящими от времени, бывает удобнее рас- рассматривать его передаточную функцию. Выражение для свертки Ь2*ЬХ @ -2b2 (t-u) Ъ, (и) B.7.12) и заменяется произведением функций B2(^)Bi(X), зависящих от частоты X. Пусть {а(?)} — rxr-суммируемый фильтр. Если существует rxr-фильтр {Ь@}, такой, что I для * = 0, 0 для ^0, B7ЛЗ> то {а(^)} называется невырожденным или несингулярным. Фильтр {Ь.(?)} называется обратным к фильтру {a (t)\. Обратный фильтр существует, если, матрица А (к) невырожденна при — оо < i < оо; передаточная функция обратного фильтра равна А (А,)*1. Иногда мы будем иметь дело с l-суммируемым фильтром. Так называется суммируемый фильтр, удовлетворяющий условию 00 S [1 +1 w |'J4 а (й) | < оо для некоторого / > 0. B.7.14)
2.7. Фильтры 37 Приведем два примера /-суммируемых фильтров. Операция, задаваемая формулой l)-1 2 X(t + u), B.7.15) Л1 2 ы=-Л1 является /-суммируемым фильтром для всех / > 0 и имеет коэф- коэффициенты J BM+1)-1 при и = 0, ±1, ..., ±М, а(и)={ Л B.7.16) I 0 в противном случае, ' а передаточная функция фильтра имеет вид для — оо <Jl<oo. B.7.17) sin — График этой передаточной функции будет дан в § 3.2. Для М не слишком малых А (К) является функцией, грубо говоря, со- сосредоточенной вблизи частот Jt = O (mod2jt). Общий эффект воз- воздействия такого фильтра состоит в сглаживании функций, к ко- которым он применяется. Точно так же операция, которая X (t) переводит в Y(t) = X(t)-X(t-l), B.7.18) для всех /-является /-суммируемым фильтром с коэффициентами !1 для и = 0, —1 для и = 1, B.7.19) О в противном случае и передаточной функцией {^iny. B.7.20) Эта передаточная функция, грубо говоря, сосредоточена в окрестностях частот Я=±зх, ± Зтс, .... В результате при- применения этого фильтра пропадает медленно меняющаяся часть функции X (t) и выделяется ее быстро меняющаяся составляющая. Мы часто будем применять фильтры к случайным процессам. В этой связи отметим следующую лемму. Лемма 2.7.3. Если X (t) — стационарный г-компонентный век- векторный ряд cE\X(t)\<oou {a(t)\—суммируемый sxr-фильтр, то *(<)= 23 а(*-и)Х(и) B.7.21)
38 2. Основные понятия для ^ = 0, ±1, ... существует с вероятностью 1 и является стационарным рядом с s компонентами. При этом если Е|Х@1*<°о, k>0, то E\Y(t)\k<oo. Эта лемма находит важное применение, позволяя получать новые стационарные ряды из уже имеющихся. Например, если ?(?) — последовательность независимых, одинаково распределенных r-компонентных векторов и {а(/)} — sxr-фильтр, то s-компонент- ный векторный ряд 00 Х@= 2 a(t-u)s(u) B.7.22) М=-оо строго стационарен. Он называется линейным процессом. Иногда нам придется сталкиваться с линейной операцией, ин- инвариантной во времени, для которой передаточная функция А (к) не обязательно является преобразованием Фурье абсолютно сум- суммируемой последовательности. В случае когда А (к) AWdl < оо, • B.7.23) функцию на выходе такого фильтра возможно определить как предел в среднем квадратичном. Точнее, справедлива Теорема 2.7.1. Пусть X(t), t = 0, ±1, ...,—г-компонентный векторный временной ряд с абсолютно суммируемой автоковариа- автоковариационной функцией. Пусть А (к)—sx r-матричная функция, удов- удовлетворяющая B.7.23). Положим я а (и) = Bл)-/1 J А (Я) ехр {шЦ dl, B.7.24) -Я н = 0, ±1, ... . Тогда при t = Oy ±1, ... существует т Y(f) = l.i.m. 2'а(*-и)Х(и). B.7.25) Т -> оо и=-Т -Результаты такого рода рассматривались в работе Rosenberg A964) В предположении, что, кроме условий теоремы 2.5.2, выполнено еще Особенно важны для нас в дальнейшем будут два lxl-фильтра, удовлетворяющих B.7.23). Назовем 1х 1-фильтр {а (и)} фильтром с полосой пропускания ширины 2А, центрированной на частоте J^1), х) Будем использовать также термин полосно-пропускающий фильтр.— Прим. перев.
2.7. Фильтры 39 если его передаточная функция в области — я < % < я имеет вид 1 для ^ + ^0|<Л, 0 в противном случае. Обычно Л является малой величиной. Если А,о = 0, фильтр называется низкочастотным. При передаточной функции B.7.26) в результате фильтрации ряда k -X @ = 23 fl/cos(y+ Ф/). B.7.27) где Rj, Ф;, k—постоянные, получается ряд % Rf cos (Kjt+ф;); B.7.28) здесь суммирование ведется по всем /, удовлетворяющим нера- неравенству | Ау + А,о |<; Д. Другими словами, те составляющие X(t), частоты которых близки к Ко, остаются без изменений, в то время как другие составляющие устраняются при фильтрации. Второй полезный 1 х 1-фильтр называется преобразованием Гиль- Гильберта. Его передаточная функция чисто мнимая, она имеет вид — isgnK, т. е. — i при 0 < К < я, 0 при Л, = 0, B.7.29) 1 при — я < % < 0. Если на вход фильтра с такой передаточной функцией подается ряд X(t), определяемый формулой B.7.27), то на выходе полу- получается ряд k 2#ysin(y + <?,.). B.7.30) Ряд, который получается из X (t) с помощью преобразования. Гильберта, будет обозначаться Xм(/), f = 0, ±1, ... . Лемма 2.7.4 показывает, как процедура комплексной демоду- демодуляции [Tukey A961)] может быть использована для получения из низкочастотного фильтра новых фильтров с полосой пропуска- пропускания, центрированной на произвольной частоте А,о, а также для получения аналогов преобразования Гильберта. В процессе комплексной демодуляции сначала мы образуем пару действительных рядов
40 2. Основные понятия для t = 0, ±1, ..., а затем пару где {а(t)} — низкочастотный фильтр. Ряды Wx(t), W2(t) называ- называются составляющими комплексной демодуляции ряда X (/). Они, как правило, будут существенно глаже, чем сам ряд X(t), по- поскольку {a (t)\, — оо < t < oo, — низкочастотный фильтр. Если затем составить ряды V, @ = cos V Wi (О + sin V W2 (t), ,9 * ^ V2 @ = sin V Wt (t) + cos \t W2 (t) l *' ^ для — oo < t < oo, то, как показывает следующая лемма, ряд Vx (t) по существу совпадает с выходом фильтра, пропускающего неко- некоторую полосу частот, на вход которого подается X(t), a V2(t), по сути дела, получен из преобразования Гильберта Хн (t). Лемма 2.7.4. Пусть {a(t)}—фильтр с передаточной функцией А (к), — оо < К < оо. Операция, переводящая ряд X (/), — oo < t< < оо, в ряд V1(t)y задаваемый формулой B.7.33), линейна, инва- инвариантна во времени и имеет передаточную функцию - B 7 34) Операция, переводящая ряд X{t) в ряд V2(t), определяемый фор- формулой B.7.33), также линейна и инвариантна во времени. Ее передаточная функция равна" В частности, если 1 при Ш<Д, п l l B.7.36) 0 в противном случае, v ' где —п<Я<я, а А —малая величина, то функции B.7.34) и B.7.35) имеют вид f 1/2 при |^±Я0|<Д, / B 7 37) \ 0 в противном случае, \ • • / — зг < Я, Ji0 < я, и соответственно 1/2i при |Х — Я l/«f при |?1 + Я0КД, B.7.38) V в противном случае.
2.8. Инвариантные свойства кумулянтного спектра 41 Интерпретация и применение таких фильтров рассматриваются в работах: Бунимович A949), Oswald A949), Dugundji A958), Deutsch A962). 2.8. Инвариантные свойства кумулянтного спектра Основными величинами, используемыми при частотном анализе стационарных временных рядов, являются кумулянтные спектры. Мы часто будем подвергать ряды прохождению через фильтры и рассматривать результаты этих операций. Поэтому важно по- понять, какое влияние оказывает фильтрация на кумулянтный спектр. Этот эффект имеет простую алгебраическую природу. Теорема 2.8.1. Пусть X(t) — r-компонентный*векторный ряд, удовлетворяющий условию 2.6.1 и Y(/) = 2a(^—и)Х(и), где и {&(t)\—суммируемый sxr-фильтр. Тогда Y (t) также удовлетво- удовлетворяет условию 2.6.1 и его кумулянтный спектр gh, ...,bb{Ki •••> ^*)t h> •••» bk=\, ..., s; k = 2, 3, ..., * '/ задается формулой ёьх ън{К* • •'•» К) = S .-. S АЬх,ЛК) •••.Abk,k(h)fh /*(V -... Ю- B.8.1) Некоторые частные случаи этой теоремы особенно важны. им B-8.2) Пример 2.8.1. Пусть X(t) и Y (t) действительны и имеют спектры мощности соответственно fxx(h) и /уК(А»). Тогда где Л (А;) —передаточная функция фильтра. Пример 2.8.2. Пусть ixx (К) и iYY (X) обозначают соответственно гхг- и sxs-матрицы спектра второго порядка для X (t) и Y (t). Тогда tyy(b) = A(b)txx(b)AW. B.8.3) Если s=l, то спектр мощности Y (t) равен S 2^/(^W//*W. B.8.4) /=1 k=z\
42 2. Основные понятия Поскольку спектр мощности неотрицателен, мы можем заключить на основании B.8.4), что 2 2iW/*W>0 B.8.5) для всех комплексных А1У ..., Аг. Таким образом, рассматривая г=1, получаем, что матрица fM (А,) — неотрицательно определен- определенная (результат теоремы 2.5.1). Пример 2.8.3. Пусть X(f), Y (f), f = 0, ±1, ...,—два r-ком- понентных векторных ряда и Y выражается через X следующим образом: Y/(t)=31bj(t — u)Xf(u)f /=1, ...,г. B.8.6) м Тогда кумулянтный спектр Y (t) дается формулой Вй1 (К) -..Вак (К) /*. .... ак (К • • • , ^), B.8.7) где Ву(^) обозначают передаточные функции фильтров \bj(u)}. Позднее мы увидим, что примеры 2.8.1 и 2.8.3 помогают ин- интерпретировать спектр мощности, кросс-спектр и кумулянтные спектры высших порядков. 2.9. Примеры стационарных временных рядов Определение стационарного ряда и несколько элементарных примеров были даны в § 2.4. Поскольку стационарные ряды яв- являются главным объектом нашего исследования, желательно иметь как можно больше их примеров. Пример 2.9.1 (белый шум). Пусть s(t)> t = 0, ±1,...,— последовательность независимых одинаково распределенных г-ком- понентных векторных величин. Такая последовательность, оче- очевидно, образует стационарный временной ряд. Пример 2.9.2 (линейный процесс). Пусть е (t)> t = 0, ± 1,..., — белый шум, рассмотренный в предыдущем примере. Положим где {а(а)} —суммируемый sxr-фильтр. Согласно лемме 2.7.3, этот s-компонентный ряд является стационарным. Если лишь конечное число членов ъ(и) в выражении B.9.1) отлично от нуля, то ряд X (t) называется процессом скользящего среднего. Говорят, что процесс имеет порядок т, когда а@), (H и а(#) = 0 для и>т и и<0.
2.9. Примеры стационарных временных рядов 43 Пример 2.9.3 (косинусоида). Предположим, что X (t) — вектор- векторный ряд с компонентами , / = 1, ..., г, B.9.2) где Rly ..., Rr — постоянные, а ф19 ..., Фг-1 — равномерно рас- распределенные в интервале (—зт, п) случайные величины, такие, что фх4- • • • +Фг = 0. Тогда этот ряд стационарен, поскольку его конечномерные распределения инвариантны относительно временных сдвигов. Пример 2.9А (стационарный гауссовский ряд). Ряд X(t)9 f = 0, ±1, ±2, ... называется гауссовским, если все его конеч- конечномерные распределения являются гауссовскими (нормальными). В случае когда ЕХ@ = М^и ЕХ (/) X (и)х= R (t — и) для всех t, и> ряд Х@ стационарен и полностью определяется свойствами моментов первого и второго порядков. Заметим, что если X @ —стационарный r-компонентный век-' торный гауссовский ряд, то Y(f) = 2a(f-a)X(a) B.9.3) и для любого sxr-фильтра {а(^)} образует s-компонентный стацио- стационарный гауссовский ряд. Подробное рассл^отрение стационарных гауссовских рядов содержится в книгах: Bl^nc-Lapierre, Fortet A965), Loeve A963), Cramer, Leadbetter A967). Пример 2.9.5 (стационарные марковские процессы)-. Ряд Х(^), tf = 0, ±1, ±2, ... с г компонентами называется г-ком- понентным марковским процессом, если условные вероятности P{X@<X|X(s1) = x1, ..., X(sn) = xn, X(s)=x} B.9.4) для любых s± < s2 <... < sn<C s равны следующим условным вероятностям: Р {X @ < X | X (s) = х} = Р (s, х, If, X), s < t. B.9.5) Функция Р (s, х, t9 X) называется функцией переходной вероят- вероятности. Она и начальное распределение Р{Х@)^х0} полностью определяют вероятностную структуру процесса. Марковские про- процессы и, в частности, стационарные марковские процессы иссле- исследуются в кйигах: Doob A953), Дынкин A963), Loeve A963), Feller A966). Важный пример представляет гауссовский стационарный мар- марковский процесс. Когда этот процесс принимает действительные значения, его автоковариационная функция очень просто описы- описывается.
44 2. Основные понятия Лемма 2.9.1. Автоковариационная функция невырожденного гауссовского марковского стационарного процесса X(t)> ^ = 0, ±1, ±2, ..., принимающего действительные значения, имеет вид Схх@)р]и] для некоторого р из интервала (—1, 1). Другой класс примеров действительных стационарных мар- марковских процессов дает Wong A963). Бернщтейн A932) рассмат- рассматривал марковские процессы, возникающие при решении стохас- стохастических разностных и дифференциальных уравнений. Примером стационарного марковского процесса X (t) с г ком- компонентами служит решение уравнения ), B.9.6) где s(t) — /"-компонентный белый шум и а является гхг-матри- цей, все собственные значения которой по модулю меньше еди- единицы. Пример 2.9.6 (схема авторегрессии). Уравнение B.9.6) наво- наводит на мысль рассмотреть r-компонентные процессы Х(^), удов- удовлетворяющие* более общим условиям вида X@ + a(i)X(*-l)+...+a(m)X(f-m) = e(/), B.9.7) где s(t)—r-компонентный вектор белого шума и аA), ..., а(т) — матрицы порядка гх г. Если корни уравнения Det A (z) = 0 лежат вне единичного круга, а A(*) = I+a(l)z+...+a(m)z«, B.9.8) то можно показать (см. § 3.8), что B.9,7) имеет стационарное решение. Такое решение X (/) называется r-компонентным авто- регрессионным процессом порядка т. Пример 2.9.7 (смешанная схема скользящего среднего-и* авто- авторегрессии). Иногда мы будем комбинировать схемы скользящего среднего и авторегрессии. Рассмотрим r-компонентный векторный процесс Х(/), удовлетворяющий уравнению ) —т) = ...+b(/i)e(*-/i), B.9.9) где 8(t) — s-компонентный белый шум;а(/), /=1, ..., m, b(k)y k=l9 ..., пу—соответственно г х г-и rxs-матрицы. Если суще- существует стационарный процесс Х(^), удовлетворяющий уравне- уравнению B.8.9), то он называется смешанным процессом скользящего среднего и авторегрессии порядка (т> п). Если корни уравнения Det[I+a(l)*+...+a(m)*e] = 0- B.9.10)
2.9. Примеры стационарных временных рядов 45 лежат вне единичного круга, то Х@> удовлетворяющий B.9.9), представляет собой линейный процесс Х@=2с(/-и)е(и), B.9.11) где с (X) = А (X)-1 В (А,); см. § 3.8. Пример 2.9.8 (функции от стационарного процесса). Распо- Располагая стационарным рядом (таким, например, как белый шум), мы можем рассмотреть инвариантные во времени функции от этого процесса и в результате получить другой стационарный ряд. Например, допустим, что X @ —стационарный ряд и Y(f) = =2а(^ — и)Х(и), где {а(и)[ — некоторый sxr-фильтр. Мы уже и видели (лемма 2.7.1), что при условиях регулярности Y (t) также будет стационарным рядом. С другой стороны, можно рассмат- рассматривать Y(?), полученные с помощью нелинейных функций, скажем, X(f —1)], B.9.12) где f[x19 x2] — некоторая измеримая функция [Rosenblatt A964I. В действительности всем стационарным функциям можно при- придать форму выражения B.9.12), если применять также функции f от бесконечного числа' аргументов. Любой стационарный ряд может быть записан в виде Y@ = f(*/'9), B.9.13) где ?/ — сохраняющее меру преобразование и 6 —точка вероят- вероятностного пространства [Doob A953)]. Часто можно считать 6 точкой единичного интервала [Choksi A966)]. К сожалению, работать с соотношениями типа B.9.12) и B.9.13) в общем случае не легко. В надежде получить более обозримые результаты некоторые исследователи [Wiener A958), Balakrishnan A964), Ширяев A960), McShane A963), Meecham, Siegel A964)] перешли к рассмотрению рядов, порожденных не- нелинейными преобразованиями вида utu2 ,(/-«!, t—ui9 /-й|)Х(й1)Х(йД(и,)+.... B.9.14) UX U2 M3 Nisio A960, 1961) исследовал Y (t) указанного выше вида в слу- случае, когда X(t) — белый гауссовский шум. Meecham A969) рас- рассматривал случай, когда Y (t) является почти гауссовским про- процессом.
46 2. Основные понятия Будем ссылаться на выражение вида.B.9.14) как на функ- функциональное разложение Вольтерра [Volterra A959), Brillinger A970а)]. В связи с рассмотрением соотношения B.9.14) приведем сле- следующую теорему. Теорема 2.9.1. Если ряд X(t), t=rOy ±1, ..., удовлетворяет условию 2.6.1 и У@=21 -21 aj(t-ui9 ...,t-uJ)X(u1)...X(uj), B.9.15) J=zO Uit ..., Uj где aj—абсолютно суммируемы и L<oo, то ряд Y(t), t = Q, ±1, ••., также удовлетворяет условию 2.6.1." Мы видим, например, что "ряд X(t)J, f = 0, ±1, ..., удов- удовлетворяет условию 2.6.1, когда этому условию удовлетворяет X(t). Теорема обобщается на r-компонентные ряды и в таком виде является обобщением леммы 2.7.3. Пример 2.9.9 (решения стохастических разнбстных и диффе- дифференциальных уравнений). Ограничимся ссылками на литературу, посвященную стационарным процессам, которые удовлетворяют стохастическим разностным и дифференциальным уравнениям, см., например, Kampe de Feriet A965), Ito, Nisio A964), Mor- tensen A969). В некоторых случаях [ltd, Nisio A964)] решение стохасти- стохастических уравнений может быть выражено в форме B.9.14). Пример 2.9.10 (решение функциональных соотношений Воль- Вольтерра). В ряде задач нам может быть известен ряд Y (t) и тре- требуется определить X(t) как ряд, удовлетворяющий соотношению B.9.14). При решении мы столкнемся с явлением, обратным к умножению-частот, и с появлением гармоник низших порядков. 2.10. Примеры кумулянтного спектра В этом параграфе приводятся примеры кумулянтного спектра порядка k для r-компонентных стационарных временных рядов. Пример 2.10.1 (белый шум). Предположим, что s(t) — белый шум с компонентами Ea(t)> a=\, ..., г, и пусть существует Kat, ...,аЛ
2.10. Примеры кумулянтного спектра 47 Cau...,ak(U19 . . . , Uk^) = Kat а^ {ux) ... б^^}, ГДе б (*)— дельта-функция Кронекера. Непосредственно видно, что Uu..,.ak(K ••-. ^) = Bя)-* + 1/Св1 ak. B.10.1) Пример 2.10.2 (линейный процесс). Допустим, что 00 Х(*)= 2 а(*-ц)е(и), B.10.2) И = — СО где {а(*)} —SX/*-фильтр и e(t)—r-компонентный белый шум. Из теоремы 2.8.1 вытекает, что falt ...,ak(\> • • • » *k) = Bл)-*« 2 .. /t ляи-(я,)... л„Л(у к, ,,. B.ю.з) Результаты этого и предыдущего примеров могут быть исполь- использованы для получения спектров процессов скользящего среднего и авторегрессии. Пример 2.10.3 (стационарный гауссовский ряд). Характе- Характеристическая функция многомерной гауссовской величины с век- вектором математического ожидания jui и ковариационной матрицей S задается формулой exp ji"jiTt— ytTSt|. B.10.4) Отсюда следует, что для гауссовских рядов все кумулянтные функции порядка выше 2 равны нулю, поэтому все кумулянт- кумулянтные спектры порядка выше 2 также обращаются в нуль. Мы видим, что кумулянтные спектры порядка выше 2 пред- представляют в некотором смысле меру негауссовости ряда. Пример 2.10.4 (косинусоида). Пусть X (/) — векторный про- процесс с компонентами Хв(/) = /?,,cos(юв/ + <рв), а=1, ..., г, где Ra — постоянные, сох+ ... -f-cor = 0 (mod 2л); фх, ..., фг^1 неза- независимы, равномерно распределены в промежутке (—я, я] и вы- выполнено условие фх+ ... -f фг = 0 (mod2n). Тогда X(t) — стацио- стационарный процесс. Заметим, что элементы любого истинного под- подмножества множества фх, ..., фг независимы в совокупности и, следовательно, совместные кумулянты набора таких величин обращаются в нуль. Таким образом, cum{*!&}, ...,Xr(tr)\ = E{X1(t1)x...xXr{tr)\ = /?j ... flrcos(©,*!+...+©ЛJ~r+;t- B.10.5)
48 2. Основные понятия Эта функция зависит от tx — tr9 ..., tr-x — tr9 поскольку щ+ ... ... -f-cor = 0(mod2:rt). Далее, ^...,r(«i. •••> "r-i) = ^i ••'• #rcos(WA+...+ (Dr.iur-1J~r+\9 B.10.6) и потому 0H... nCVi-co^,)]; B.10.7) здесь т] (А,), определяется формулой B.1.6), см. также упр. 2.13.33. В случае г=\ для спектра мощности ряда Х(?) JRcos(co? + <?) получается выражение ДЧл (*<*) +Л (* + *>)]. B.10.8) Последняя функция имеет пики на частотах Я= ±со(тос!2я). В этом одна из причин называть переменную к частотой. Оче- Очевидно, (о/Bя)—число полных циклов изменения косинусоиды cos(co/+</>)> проходимых ею при изменении аргумента t на еди- единицу. Поэтому %/Bп) называется циклической частотой в единицу времени у обратная к ней величина 2п/Х носит название периода, а X —угловая частота, выраженная в радианах в единицу вре- времени. •. Пример 2.10.5 (функциональное разложение Вольтерра). Воз- Возвращаясь к примеру 2.9.8, сформулируем следующую теорему. Теорема 2 Л0.1. Пусть Y (t), t = 0, ± 1, ..., определяется формулой B.9.15), где ^\aj(uly ..., uj) | < оо и Aj (К19 ... ,h) = S • • • 2 aj (иг uj) exp {—i(klUl+ /.. +IjUj)} для /=1, ...,' L. B.10.9) Тогда для кумулянтного спектра 1-го порядка ряда Y (t), t = Q, ±1, ..., справедливо уравнение = 2 2-..2S ... $л(!?сх./-О"- A1(a1J',j=\,...,Ji) ... M^l JX Jjr \ 1 / • • • Л Bа«у; («. /) € Л) • • • Ц Bа,/, (i, j) € Ям) X /аг... к (а,-/. (П /) € Л) • • • fx ¦ ¦ ¦ х К' (*< D € Ли) ^«и • • • daW/, B.10.10)- где внешняя сумма берется по всем неразложимым разбиениям \Pi> ¦¦¦> рм}> М=1, 2, ..., табл. 2.3.4.
2.11. Функциональный и стохастический подходы '49 В уравнении B.10.10) для кумулянтного спектра использо- использована симметричная запись. Теорема 2 в работе Ширяева A960) дает сходный результат. 2.11. Функциональный и стохастический подходы к анализу временных рядов При исследовании временных рядов широко применяются два различных подхода, а именно стохастический и функциональный.. Первый из них, обычно используемый вероятностниками и ста- статистиками [Doob A953), Cramer, Leadbetter A967)], изложен в § 2.2. Данный временной ряд при таком подходе рассматри- рассматривается как результат случайного выбора из* некоторой совокуп- совокупности возможных рядов. Пусть в нашем распоряжении имеется множество 0 векторных функций Q(t) с г компонентами. После того как на 0 определена вероятностная мера, мы получаем случайную функцию X (ty 6), значениями которой являются задан- заданные функции Q(t). С другой стороны, для данной X (t) можно взять в качестве индекса 6 = X (•) и считать 0 состоящим из таких элементов 6. Затем можно положить Х(?, 6) = Х(?, Х(-)). Но в любом случае придется иметь дело с теорией меры и вероят- вероятностными пространствами. Во втором подходе r-компонентный временной ряд интерпре- интерпретируется как неслучайная функция из основного множества функ- функций вида {X(f, u) = X(/ + t;)|i; = 0, ±1, ±2, ...[, где Х(*) — заданная векторная функция с г компонентами. Этот подход, носящий название обобщенного гармонического анализа, изложен, например, в работе Wiener A930). С точки зрения теоретиков различие указанных подходов состоит в том, какие математические средства используются и какие предельные процессы вовлекаются в рассмотрение. Допустим, что Х(^) имеет компоненты Xa(t)> a=\, ..., /\ При функциональном подходе мы предполагаем, что существуют пределы вида S *«(') . lim /=-/ =та9 B.11.1) 7-1 2 Xa(t)Xb(t + u) s+T = таь(и). B.11.2)
50 2. Основные понятия Свойство стационарности в этом случае будет выглядеть как существование пределов lim '='* = me, B.11.3) 7 °~Гу Г-1 lim ?^ -me6(a), B.11.4) не зависящих от у при у = 0, ±1, ±2, .... Определим теперь кросс-ковариационную функцию формулой саь (и) = ^Дб (и)—тать. B.11.5) Если 2 1^(«)|<оо, B.11.6) Ы=-0О то, как в § 2.5, можно определить спектр второго порядка fab(k). Предположим, что функции Xa(t)9 a=l, ...,г, таковы, что (i) для действительных xlf ..., xft и ^, ..., /А функция F[a~,s'.?ak(xlf ..., хЛ; ^, ..., tk)9 т. е. доля тех t в промежутке [—S, Т), для которых *ei(' + 'iX*i. ••-. ^(' + <*)<^ B.11.7) стремится к пределу Ffll аЛ(^1, ..., лу, ^, ..., ^) (в точках непрерывности этой функции) при S, Т —> сх> и (ii) выполнено условие компактности, имеющее вид (S+T)-* S \X,(t)\*<M B.11.8) t — — о для всех S, Т и некоторого а > 0. В этом случае Ffll, ...,ак(х19 .-., xk; t1} ..., /Л) представляет собой симметричное и согласованное семейство конечномерных распределений, и по теореме Колмогорова это семейство можно связать с распределениями некоторого случайного процесса [Doob A953)]. Предел в (i) зависит лишь от t1 — tk, ..., th-x — tk, и потому случайный процесс X (t) с такими конечномерными рас- распределениями является строго стационарным. Если в (ii) будет ^ky то s HnMS+T)-1 Д B.11.9)
2.11. Функциональный и стохастический подходы 51 т. е. имеет смысл вводить в рассмотрение X(t). Этот процесс будет удовлетворять условию 2.6.1, если функции кумулянтного типа, полученные для Х(/), удовлетворяют B.6.1). Другими словами, если функция (при функциональном под- подходе] удовлетворяет определенным условиям регулярности, то имеется строго стационарный процесс, анализ которого будет эквивалентен исследованию указанной функции. Обратно] если Х(/) эргодичен (метрически транзитивен), то с вероятностью 1 любая выборочная функция обладает требуе- требуемыми предельными свойствами и может быть взята за основу при функциональном подходе1). . Таким образом, имеет место Теорема 2.11.1. Если векторная функция с г компонентами удовлетворяет приведенным выше условиям (i) и (И), то с ней может быть связан стационарный случайный процесс, обладаю- обладающий теми же предельными свойствами. Обратно, если стацио- стационарный процесс эргодичен, то с вероятностью 1 любая его вы- выборочная функция может быть взята за основу при функцио- функциональном подходе. Эти два подхода прямо сопоставимы с двумя подходами к ста- статистике, где за основные объекты рассмотрения выбираются либо коллектив [Von Mises A964)], либо измеримые функции [Doob A953)], см. также Von Mises, Doob A941). Условие, что процесс X (t) эргодичен, не окажется чрезмерно ограничительным для целей нашего исследования, поскольку процесс будет эргодическим, если он удовлетворяет условию 2.6.1 и определяется своими моментами; см. Леонов A960). Заметим также, что общий стационарный процесс является смесью эрго- дических процессов (Розанов A963)); ассоциированный с семей- семейством конечномерных распределений стационарный процесс (про- (процедура получения которого описана выше) будет соответствовать некоторой компоненте смеси. Пределы в (i) будут существовать с вероятностью 1; однако они, вообще говоря, являются слу- случайными величинами. Wold*A948) рассматривал соотношение между функциональ- функциональным и стохастическим подходами в случае конечных моментов второго порядка. *) Процесс X (t) эргодичен, если для любой действительной функции f[x], такой, что Е | / [X (t)] \ < оо, с вероятностью 1 имеем Т -\ [Cramer, Leadbetter A967), Wiener и др. A967), Halmos A956), Billingsley A965) и Hopf A937).] У
52 2. Основные понятия Заметим также, что соотношения B.11.1) и B.11.2) вытекают при определенных условиях из существования пределов в (i); см. Wintrier A932). Мы вернемся к рассмотрению функционального подхода к ана- анализу временных рядов в § 3.9. 2.12. Тренды С одной из разновидностей отклонения от стационарности можно познакомиться на примере ряда X(t), / = 0, ±1, ..., являющегося суммой стационарного ряда е@> * = 0, ±1, .-., и детерминированной функции m(t)> t = 0, ±1, ..., отличной от постоянной: X(t) = m(t) + B(t), * = 0,±l, .... B.12.1) Если, кроме того, m(t) не удовлетворяет условиям типа рас- рассмотренных в § 2.11, то X(t) нельзя подвергнуть непосредствен- непосредственному гармоническому анализу. Наш метод исследования таких рядов будет состоять в попытке разделить и изучать порознь эффекты .влияния m(t) и s(t) на поведение X(t). Если функция tn(t)y t = Qy ±1, • •¦ , изменяется медленно, то будем говорить о наличии тренда. Похоже, что многие ряды, возникающие в практических задачах, обладают такой состав-' ляющей. Приведенным на рис. 1.1.4 рядам, изображающим экспорт Великобритании, по-видимому, это свойственно. В § 5.11 будут рассмотрены оценки тренда достаточно простого вида. 2.13. Упражнения 2.13.1. Пусть X (t)~cos (kt-{-Q), где 9—случайная величина, равномерно распределенная в промежутке (—я, я]. Определите конечномерные распр'еделе- ния процесса, функцию среднего значения cx(t) и автоковариационную функ- Дию cXx(ti,t2). ^ 2.13.2. Докажите, что если для случайного вектора (Ki, ..., Yr) сущест- существуют кумулянты cum{Yjx, ..., YJs) при /г; ..., /5=1, ..., г, то для Zk = ^ak.Yjt &=1, ..., s справедлива формула cum {Zk^ ... f J = 2---,S^i/i"-%/,cum(y/V"- Yh)> U"-- bs=l,..., s. /i is 2.13.3. Обозначим cum (У\ [т1 раз], . *., Yr [mr раз]), cum {Z\ [n^ раз], ... ..., Zs [ns раз]) соответственно через Кт^ mni[Y) *и КП11 : ns(Z), а век- векторы с такими компонентами обозначим как /С^ (Y) и К}п^ (Z), m = mi+... ... + mr, n = n17f ... -\-ns. Запишем преобразование упр. 2.13.2 в виде Z = AY, где А есть (sX/^матрица. Докажите, что К[п] (Z) = A[n]K[n] (Y), где А[п] есть л-я симметрическая степень Кронекера матрицы А [Ниа A963, стр. 10, 100).]
2.13. Упражнения . 53 2.13.4. Определите передаточную функцию фильтра, задаваемого форму- формулой B.9.6). 2.13.5. Покажите, что для (стационарного в широком смысле) ряда X (t) = R cos (Ш-\-Ф), где R—постоянная, со — случайная величина с непре- непрерывной плотностью /(со) и Ф—независимая от со величина, равномерно рас- распределенная на (¦— я/я], спектр мощности задается формулой /= — 00 2.13.6. Докажите, что для передаточной функции (гХг)-филътра, опреде- определяемого формулой N Y@ = Btf+l)-i '2 Х(/-и), u=-N недиагональные элементы равны 0 и диагональные равны [sin BW+1) Я/2]/ /[Btf4l)iX/2J 2.13.7. • Пусть Yx (t) = 2" *п С —«) *l («)• ^2@ =2« ^22 (*—и) Х2 (и), {X (t) X(t)} 261/Д у x () 2" п С ) l ()• ^2@ 2« 22 () 2 (), где {Xi (t), X2(t)} удовлетворяет условию 2.6.1/Допустим также, что пере- передаточные функции Лп(к), Л22(Я) отличны от нуля. Обозначим спектры вто- второго порядка {Xi@, X2{t)} и {Y1(t), Y2(t)} соответственно через /д(Х) и gjkfo), /, ^=1,2. Докажите, что i/i2Wl2 I g» (^) I2 2.13.8. Докажите, что б(х)= lim nW (ял:), если функция IF такова, что 1^(jc)|^< оо и J 1^(;с)Лс=1. 2.13.9. Пусть X (О» Y (f)—независимые r-компонентные векторные ряды с • кумулянтными спектрами fa(A,)=/fli а (кь ..., Xk) и ga(?)== ~&ait ..., ak (hlt ..., X^) соответственно. Докажите, что кумулянтный спектр X(t)+Y(t) равен fa(^) + gaW- 2.13.10. Докажите, что если X (/) и a(t) принимают действительные значения, Y(t) = 2jUa(t — и) X (и) и X (t) имеет кумулянтный спектр fXt X (Я^ ... , а^), то кумулянтный спектр процесса Y (t) равен Afc)\A{k)f(* *) 2.13.11. Докажите, что /fli ^(Хь ..., Хл) = /в1 ^(-А*, .... - Хл) для векторного ряда с г действительными компонентами. 2.3.12.- Докажите, что если X (/)—стационарный гауссовский марковский векторный процесс с г компонентами, для которого Е(Х («)-* то и схх(и) = (с^ (— и))* , 'и < 0. 2.13.13. Докажите, что спектр мощности действительного стационарного гауссовского марковского процесса имеет вид аа/A+р2—2pcosXJrc, — я < Х<я, —1 < р < 1.
54 2. Основные понятия 2.13.14. Приведите пример, показывающий, что процесс X (/), определен- определенный в § 2.11, не обязательно является эргодическим. 2.13.15. Пусть X№(t)9 * = 0, ±1, ...; #=1, 2, ...,—последователь- ...,—последовательность рядов, удовлетворяющих условию 2.6.1. Предположим, что для U tit, ... , uk-i = 0, ± U ... ; N=\, 2, ... , где 2 ft,. „.("i» •• > "*-i) < »• «i uk-l ' k Предположим еще, что при N —> оо все конечномерные распределения про- процесса XiN)(t)> t = 0, ±1, ... , сходятся по распределению к конечномерным распределениям процесса Х(/), * = 0, ±1, .... Требуется показать, что V I cum {Xai (/ + «!), ..., X (t + uh^)9X a(t)}\< oo. «» 4-х ' 2.13.16. Покажите, что для фильтра передаточная функция обращается в нуль при Х=?о). Рассмотрите резуль- результат воздействия этого фильтра на ряд / = 0, ±1, 2.13.17. Пусть Х(/)-1дляB/~ 1J</<B/Jи~B/J</<—B/—1J, /=1, 2,..., и пусть Х(/) = -1 для B/J < / < B/+1J и~B/+1J < t <— B/J, /=0, 1, 2, .... Докажите, что функция X (*) удовлетворяет условиям из § 2.11, и определите ассоциированный с ней случайный процесс. 2.13.18. Положим X(t) = R cos (о/ + ф), где R> со и ф постоянные. Дока- Докажите, что функция X (t) удовлетворяет условиям § 2.11, и определите ассо- ассоциированный с ней случайный процесс. 2.13.19. Пусть X(t), / = 0, ±1, ..., JiY(t), / = 0, ±1, ...,—независимые ряды с нулевым средним и спектрами мощности соответственно fxxft) и /кkW« Покажите, что спектр мощности ряда Х(/)К(/), / = 0, ±1, ... , задается фор- формулой я 2.13.20. Пусть Х(/), / = 0, ±1, ...,—-гауссовский ряд с нулевым средним спектром мощности fxxft)- Покажите, что спектр мощности ряда X (tJ, = 0, ±1, ..., определяется выражением 2.13.21. Докажите, что если X (t)—действительный ряд, удовлетворяющий условию 2.6.1, то [X (t)]2 также удовлетворяет условию 2.6.1; определите его кумулянтный спектр. 2.13.22. Докажите, что если при некотором / ряд X (t) удовлетворяет усло- условию 2.6.2 (/) и Y (t) =2" а ('""«) х («)» гДе а (и) есть «Хг-фильтр, такой, что
2.13. Упражнения 55. 2 I "N ajk (w) | < oo, /= 1 s, k= 1, ..., г, то Y (/) удбвлетворяет усло- условию 2.6.2 (/). 2.13.23. Говорят, что sXr-фильтр а (и) имеет ранг t, если А (А,) имеет ранг t при каждом к. Докажите, что в этом случае действие а (и) эквива- эквивалентно применению сначала /Хг-фильтра, а затем sXZ-фильтра. 2.13.24. Докажите, что если X (О = 2"=оа (/ — и) г (и), где e(t)—вектор- e(t)—векторный /--компонентный белый шум и {а(«)}—суммируемый sX/*-фильтр, то функ- функция \хх М может быть представлена в виде Ф (eix) Ф (еЩх, где Ф B) есть sXr-матричная функция с элементами, аналитическими в круге [z|^l. 2.13.25. Докажите, что если X(t)=^?^oa(t — u) в(и), где е (и)—действ и-, тельный белый шум и 2 я2 (и) < °°> то кумулянтный спектр &-го порядка вид Ф(^) ... Ф {e%k), \л+ .. . + \k = 0 (mod 2я), ф | | 1 fx...x(h> ••• > Ьк) ™еет вид Ф(^) ... Ф {ek), \ где Ф B) — аналитическая функция в круге | 2 | ^ 1. 2.13.26. Докажите, что если X (t) — процесс скользящего среднего поряд- порядка /л, то сух («) = 0 при | и | > т. 2.13.27. Покажите, используя функциональный подход к анализу времен- временных рядов, что Y (/) = 2« а (t — u) X (и), 2-~ I а (") I < °° определяет фильтр. Укажите связь между спектрами У (?) и X (t). 2.13.28. Покажите, что Vx (/), V2@> определяемые формулой B.7.33), получаются из X (t) с помощью фильтров с коэффициентами {а (и) cos Xo и}> {а (и) sin Хои} соответственно. 2.13.29. Докажите, что б (ах) = | a I б (*). 2.13.30. Пусть X (/)—стационарный векторный ряд с г компонентами, такой, что Xj(t) = pjXj(t— 1) + 8у(/), |ру | < 1, / = 1, ..., г, где е (/) есть r-компонентный белый шум. Докажите, что здесьT = min (/ь ..., tk)> а = (а„ ..., я*) и/Св1 fl/fe = cum {efli @, ..., е^ (/)}. 2.13.31. Пусть Ф(Г), Г=1, 2, ...,—последовательность положительных чисел, обладающая свойствами: Ф (Г)—> оо и Ф(Г+1)/Ф(Г)—)-1 при Г—>-оо. Пусть X (/), /=0, ± 1, ..., есть л-компонентная функция, такая, что г-|«1 Urn Ф(Г)-* 2 для м = 0, ? 1, .... Покажите, что существует лХ/'-матричная функция G(^)> —я < Я,<я, такая, что» при и = 0, ? 1, ... . -я Указание. Определите 1хх(^) как в доказательстве теоремы 2.5.2 [Boch- я пег A959), стр. 329), Grenander A954)].'Докажите, что { A (a) I^jjr (a)da я —> \ А (а) dGxx (а) для функций Л (а), непрерывных на [—я, я].
56 2. Основные понятия 2.13.32. Пусть X (/), * = О, ± 1, ...,—векторный стационарный ряд с ку- мулянтным спектром fa > t a (kv ..., кк). Определите кумулянтный спектр ряда X(—t),t = Q,±lt ..., с измененным направлением времени. 2.13.33. Покажите, что Bл;)-1 2 exp{~U«} = 2 в(Я-2я/) = т|(»,) U= — СО /=—СО» при — оо < Я < оо (формула суммирования Пуассона, Edwards A967)). 2.13.34. Покажите, что функция сХх(и) не может быть автоковариацион- автоковариационной функцией, если схх(и)—^ ПРИ |м|^т.и сххМ — О для остальных и. 2. №.35. Рассмотрим / независимых реализаций стационарного процесса Ху(О» * = 0, ±1, ..., /=0, ..., /—1. Введем Y(sJ + j) = Xj (s) при / = 0, ..., / —1; s = 0, ±1, ... . Покажите, что У (t)> / — 0, ±1, ..., — стационарный ряд и его спектром мощности является fxx&J)- 2.13.36. Пусть X(t), / = 0, ± 1, ...,—линейный процесс X (О =S » ('-«)« М. и 2 I а (и) I < со, К^я. .e/k=cum {е^ @), ..., г^ @)}, Покажите, что условие 2.6.3 удовлетворяется, если для z в некоторой окрест- окрестности нуля 2.13.37.. Фильтр называется устойчивым, если поступающий на вход огра- ограниченный ряд он преобразует в ограниченный ряд. Покажите, что суммируе- суммируемый фильтр устойчив. 2.13.38. Пусть х A), t = 0, ± I, ..., — процесс авторегрессии порядка 1 и z{t), t = 0, ± 1, ..., — белый шум. Положим X (t) = x (/) + e (t). Пока- Покажите, что X (t), t = 0, ± 1, ...,—смешанный процесс авторегрессии и сколь- скользящего среднего порядка A,1)- . 2.13.39. Сформулируйте и докажите обобщение теоремы 2.9.1 в том слу- случае,-когда ряды X (/) и Y (/) принимают векторные значения.
АНАЛИТИЧЕСКИЕ СВОЙСТВА ПРЕОБРАЗОВАНИЯ ФУРЬЕ И КОМПЛЕКСНЫЕ МАТРИЦЫ 3.1. Введение Преобразование Фурье будет нашим основным аналитическим средством при изучении временных рядов. В этой главе изла- излагаются те разделы фурье-анализа, которые понадобятся в даль- дальнейшем; рассматриваемые здесь функции чаще всего предпола- предполагаются детерминированными. Изучение стохастических свойств преобразований Фурье временных рядов мы отложим до сле- следующей главы. Ниже обсуждаются такие вопросы, как степень аппроксима* ции функции частными суммами ее ряда Фурье, увеличение точности этой аппроксимации с помощью улучшающих сходи- сходимость множителей, преобразование Фурье конечных последова- последовательностей и способы быстрого вычисления таких преобразований Фурье, спектр матрицы и его связь с аппроксимацией одной матрицы другой матрицей меньшего ранга, свойства функций от преобразований Фурье и, наконец, спектральное или гармо- гармоническое представление некоторых функций. Начнем с рассмотрения ряда Фурье функции А (к). 3.2. Ряд Фурье Пусть Л (А,), —оо<Я<оо, — комплексная функция, имею- имеющая период 2д, такая, что J \A(%)\dl<oo. C.2.1) Коэффициенты Фурье функции А (к) задаются.формулой я а(«) = Bя)-* J exp{iuk}A(k)d%, a = 0, ±1, ... . C.2.2)
58 3. Аналитические свойства преобразования Фурье Тогда ряд 00 2 ехр{— Ни} а (и) C.2.3) И—-со называется рядом Фурье функции А (к). Имеется обширная лите- литература, посвященная рядам Фурье и свойствам коэффициентов Фурье (например Zygmund A959) и Edwards A967)). Значи- Значительное внимание в литературе уделяется исследованию частных сумм А{п)(Ь)= 2 ехр{— iku\a(u), д = 0, 1, 2, ... . C.2.4) ы= -п В этой книге нам много раз придется оценивать близость А{п) (к) к А (к) при больших п. Прежде всего заметим, что из C.2.2) и упр. 1.7.5 вытекает следующая формула: J sin (/г + ^- A(k-a)da. C.2.5) 2я sin -pr -п I Графики функций sin(n + T)a У C.2.6) 2я sin ^ изображены на рис. 3.2.1 для п=1, 3, 5, 10. Отметим, что функция Dn(a) знакопеременна и при больших п она, так ска- сказать, все более сосредоточивается в окрестности точки а = 0. При этом, как следует из упр. 1.7.5, sin 1 2я sin -jr- Т) a ±J—da=l. C.2.7) Эти свойства Dn (a) показывают, что А{п) (к) является взвешен- взвешенным средним функции А(к—а) с весом, сосредоточенным в окрест- окрестности а^О. Если функция Л (а) достаточно регулярна, то было бы естественно ожидать, что А{п) (к) близки к А (к) при боль- больших п. Можно, например, доказать, что, если А (а)—функция ограниченной вариации, А{п) (к) стремятся к А (к) при п—+оо\ Edwards A967 стр. 150). Налагая дополнительные условия регулярности, можно оценить скорость приближения А(п) (к) к А (к) при п—>оо#
3.2. Ряд Фурье 59 2. 1. О -1 2. 1. О •1 2. 1. О /7*5 /7*3 Рис. 3.2.1. График функции Dn(a) = s\n (/г+"9') Допустим, что 2 | и \k | а (и) | < со при некотором C.2.8) Это условие связано со степенью гладкости Л (а). При выпол- выполнении такого условия функция А (а) имеет ограниченные непре- непрерывные производные вплоть до порядка k. Тогда 2 ехр{— iXu}a(u) C.2.9) и, следовательно, 2 \и\> п 2 \и\> п а(ц)\ \и\> п и |* I л (и) | = о (л-*)х). C.2.10) Таким образом, степень аппроксимации А (к) суммами А{п) (X) оказывается тесно связанной с гладкостью А (к). 1) Мы будем использовать символы' Ландау о, О, записывая аи = о(ри), когда а„/р„—>о при /г—> оо, и записывая аи=О(Р„), когда отношение 1ал/Рл1 ограничено для достаточно больших п.
60 3. Аналитические свойства преобразования Фурье Предостережем читателя, что, вообще говоря, А{п) (к) необя- необязательно стремитдя к А (к) при п —> оо даже в случае, когда А (к) является непрерывной ограниченной функцией k; Edwards A967, стр. 150). Однако связь между функциями А (к) и А{п) (к) хорошо отражается формулой C.2.5). «Регулярное» поведение разности А (к) — А{п)(к) особенно сильно нарушается в окрест- окрестностях точек разрыва функции А (к).. При этом может иметь место явление Гиббса, когда превышение уровня А (к) значе- значениями функции А{п) (к) не уменьшается с ростом п\ Hamming A962, стр. 295) или Edwards A967, стр. 172). 3.3. Множители, улучшающие сходимость Fejer A900, 1904) обнаружил, что даже непрерывные функ- функции могут плохо приближаться частными суммами рядов Фурье. Поэтому вместо частных сумм C.2.4) он предложил рассматри- рассматривать следующие: {— iku]. C.3.1) u=-n + \ ч " ' Используя выражение C.2.2) и упр. 1.7.12, можно переписать C.3.1) в виде С 1 Г sin па/2 12 . ПЪ9\ \ п I —: ^— I г\ \N ОС) CiCX. (O.O.Z j J 2nn i sin a/2 J v ; v ; -я График функции C.3.3) изображен на рис. 3.3.1 при я = 2, 4, 6, 11. Легко видеть, что эта функция неотрицательна, сосредоточена в окрестности точки а = 0и, согласно упр. 1.7.12, такова, что ч J j 3.3.4) "Она более плавно изменяется, чем функция C.2.6), и ее график меньше „пульсирует". Эта большая регулярность приводит к тому, что функции, задаваемые формулой C.3.2), сходятся к А (к), когда Л (а) непрерывна, хотя в то же самое время C.2.5) может и не сходиться к A (k)\ Edwards A967, стр. 87). Введение в вы- выражение C.3.1) множителя 1 —|u|/n привело к расширению
3.3. Множители, улучшающие сходимость 61 1,г 1 г /7=2 /7 = 6 а 7Г Рис. 3.3.1. График функции sin2 ^/2яп sin2 у. класса функций, которые могут быть хорошо представлены три- тригонометрическими рядами. В общем случае мы можем рассматривать выражения вида- и), CV3.5) где h (х) — некоторая функция, такая, что Л @) = 1 и h (х) = 0 при |x|>l. Множитель h(u/n)> появляющийся в C.3.5), назы- называется множителем сходимости; Moore A966). Положим -шА), C.3.6) тогда C.3.5) можно переписать как C.3.7) т. е. как взвешенное, среднее интересующей нас функции. Было предложено очень много различных множителей схо- сходимости h(u/n). Некоторые из них вместе с соответствующей функцией Н(п) (к) приведены в табл. 3.3.1. Типичное поведение h(u/n) таково: максимум, равный 1, при и = 0, а дальше не- неуклонное убывание к 0 при возрастании | и \ от 0 до п. Множи- Множители сходимости также назывались окнами просмотра данных и коэффициентами сглаживания', Tukey A967).
62 3. Аналитические свойства преобразования Фурье 4 Таблица 3.3.1 Некоторые множители, улучшающие сходимость ft (и/п), О < | и J < п Hin) (X), -Ж.А, < я Авторы Дирихле р п{ }~~ о . 1. [Edwards A967)] 2л sin -^- л \и\ 1—!—- 1 Г sin •п— —. 2яп L si 2ял L sin Л/2 J [Parzen A^63), sinV4 1 / nu\ -2ипК'1~Т"\л~Т) Хэмминг, Тьюки -s-ll+cos—— I . . _% [Blackman, K ' +TD"r+T) Tukey A958)] Бохман 1 cjn Ti\u\ — '""*\(n2X2—n2J [Bohman (I960)] я n 1 0<|u|<n j_ 1 \—p2/n Пуассон 0 < p < 1 2k 1— 2pv"cos X + p2/n [Edwards A967)] in"^ J_~ I А, К--. Риман, Ланцош -— ~2 л [Edwards A967), ~ =0 в противном случае Lanczos A956)] Г Ф \ . п ( п2А,2 ^ Гаусс expi - ~ К = -т=~ ехР 1 о~" Г Вейерштрасс I 2лМ Т^2я Д 2 j [ДхиезерГ A9 Рисе, Бохнер Парзен [Bohner A936), Parzen A961I
h (и/л). 0< | 3.3. Множители, u\<n i улучшающие сходимость v{n) (Я), -я < Я < л 63 Продолжение Авторы и | < fn ' Тьюки lTuk«, „967,,. /л < | и | <: л, где 0 < / < 1 Характерный вид весовой функции НКп) (к) таков, что она становится все более сконцентрированной в окрестности нуля при п—>оо. Как и следовало ожидать, из C.3.6) вытекает л J Я(»>(а)Жх=1. C.3.8) -Л Рассмотрение выражения C.3.7) наводит на мысль, что для не- некоторых целей желательно выбирать Н{п) (к) неотрицательной. Функции, фигурирующие во второй и третьей строках табл. 3.3.1, обладают этим свойством. Функция Нп (к) получила название частотного окна или ядра. Из C.3.7) мы видим, что близость функцди C.3.5) к А (к) связана со степенью сосредоточения Я" (а) в окрестности а —0. Предлагались различные меры этой кон- концентрации, т. е. ширины полосы пропускания. Press и Tukey A956) предложили использовать ширину полосы, отвечающей половин- половинной мощности, равную а1 — аи," где aL и аи—соответственно первая положительная и первая отрицательная точки, в которых Н(п) (а) = Н(п)@)/2. Grenander A951) предложил в качестве та- такой меры величину л у J a2tf(*>(a)da C.3.9) Это не что иное, как среднеквадратическая ошибка, или откло- отклонение от нуля, если Н{п) (а) рассматривать как плотность ве- вероятностного распределения на (—я, я). Parzen A961) предложил такую меру концентрации: C'ЗЛ0) ширина, прямоугольника, имеющего ту же высоту, что и максимум #(п)(а), и площадь, равную 1.
64 3. Аналитические свойства-преобразования Фурье Особенно удобная в обращении мера задается формулой 11/2 [Я . ' -11 J (l-cosa)H{n)(a)da\ Г я = J 2sin2^H{n)(a)da _[,_[* (±)+*(_±)]/2]«\ C.3.11) Среди ее свойств отметим, в* частности, следующее: если h (и) обладает второй производной h" @) в точке и — 0, то ", (З.ЗЛ2) что показывает связь этой меры с мерой Гренандера C.3.9). С другой стороны, если ядро является сверткой ядер G{n) (a), #(r/)(a), то можно показать, что при больших п Отметим также, что если для некоторого q > 0, как предпола- предполагал Parzen A961), существует ТО В табл. 3.3.2 приведены значения $% и \/Н{п) @) для ядер, рассмотренных в табл. 3.3.1. С помощью этой таблицы можно составить представление об относительной асимптотической кон- концентрации различных ядер. Следующая теорема дает другое средство исследования сте- степени приближения функции А (К) суммами вида C.3.5). Теорема 3.3.1. Предположим, что А (К) имеет ограниченные производные вплоть до порядка Р и функция Н(а) = Bn)~i\ h(x) ехр {— iax}dx C.3.16) такова, что для некоторого конечного К .$|a|p|#(a)|da</C. C.3.17)
о.З. Множители, улучшающие сходимость 65 Тогда 00 У,ехр {— iku) h(-)a (u)'= f пН(па) А (К-a)da n-p). C.3.18) P=1 Таблица 3.3.2 Концентрация Нп(а) в окрестности а—0 для различных ядер Ядро Дирихле Фейер Де ла Валле-Пуссен Хэмминг Бохман Пуассон Риман Гаусс Коши Рисе Тьюки 0 У~Ып п /2 л я/ У2п ViogHfi/yn ИУьп 1/|/2я Мп 1/п 0 \/Н{п)@) я/л 2д/л 4 л /Зп 2л/п я3/4 л ^(logl/p)M 2/п Vn/n 1/пп Зя/2л 2я/(я+/п) По формуле C.3.18) можно судить о том, как близость C.3.5) к А (к) зависит от применяемого множителя сходимости. Жела- Желательно по возможности выбрать h так, чтобы интегралы C.3.19). равнялись нулю для р = 1,2, ... . Если h(x) = h(—х), то так будет для всех нечетных р. Требование обращения в нуль для четных р эквивалентно тому, чтобы график h (x) был очень пло- плоским в окрестности х = 0. В этом отношении примечательна последняя функция табл. 3.3.1. Вообще говоря, выбор оптимальной функции h(u/n) зависит от конкретного вида интересующей нас функции А (к). Имеется развитая математическая теория наилучшего приближения функ- функций тригонометрическими полиномами, см., например, Ахиезер A947) или Тиман А. Ф. A960). Bohman A960) и Akaike A968) исследовали множители сходимости, пригодные для приближения широкого класса функций, см. также Тиман М. Ф. A962), Shapiro A969), Hoff A970), Butzer, Nessel A971).
66 3. Аналитические свойства преобразования Фурье __ Wilkins A948) привел асимптотические разложения вида C.3.18), которые справедливы при менее ограничительных ус- условиях. В качестве применения материала, изложенного в этом пара- параграфе, обратимся к задаче конструирования фильтра. Допустим, мы хотим определить-зависящие от времени коэффициенты а (и), и = О, ±1, ... , фильтра, имеющего заданную передаточную функ- функцию А (К). Связь между а (и) и А (к) выражается формулами а (и) = BЯ)-1 J ехр {шЦА (X) dK C.3.20) -п со А(к)= 2 ехр{— Ни) а (и). C.3.21) Фильтр, как мы знаем, имеет вид Y(t)= 23 a(t-u)X(u), . C.3.22) «=-00 где X(t), t = 0y ±1, ... ,— исходный ряд. Вообще говоря, коэф- коэффициенты а (и) не обращаются в нуль при больших |и|, в то время как практически нам доступен лишь конечный отрезок наблюдений X(t). Это создает трудности для применения фор- формулы C.3.22). Можно поэтому поставить такую задачу: построить фильтр конечной длины, использующий конечное число наблюде- наблюдений X(t) и имеющий передаточную функцию, близкую к А (к). Ее можно переформулировать как задачу отыскания таких мно- множителей h(u/ri)> что сумма (){и) C.3.23) близка к А (к). Именно этот вопрос обсуждался выше. Допустим, мы хотим аппроксимировать низкочастотный фильтр с усечением частот, превышающих по модулю Q < я, т. е. же- желаем аппроксимировать передаточную функцию 1 при ||<, п ' . C.3.24) 0 при остальных л, v ' Коэффициенты этого фильтра — при и=-- 0, 1 Г \ К l I . \ луп //7 // I W2i < ^ч / 3 9^N ~ Jn при иФ§. -" \ ил г '
3.3. Множители, улучшающие сходимость 67 Предыдущие рассуждения подсказывают, что имеет смысл рас- рассмотреть фильтр, например, такого вида: (M. C.3.26) где h (и/п) — некоторый множитель сходимости. Предположим теперь, что мы хотим практически реализовать вычисление преобразования Гильберта, введенного в § 2.7. Пере- Передаточная функция этого фильтра такова: О, Х = 0, C.3.27) и, следовательно, коэффициентами фильтра будут (О, если и четно, а(и) = \ 2 C.3.28) —, если и нечетно. Допустим п нечетно. Тогда мы приходим к рассмотрению фильт- фильтров вида =4{л(|)[Х(<-1Н^^ y C.3.29) На рис. 3.3.2 изображены для 0 < К < ~ мнимая часть идеаль- идеальной функции А(Х)У задаваемой формулой C.3.27), и мнимые части приближений к А (к), вычисленных, согласно C.3.29), при п = 7 для различных множителей сходимости, взятых из табл. 3.3.1. В силу симметрии рассматриваемых функций достаточно изображать их лишь в указанной частотной области. Приведен- Приведенные графики показывают важность введения множителей сходи- сходимости, а также и то, каким образом различные коэффициенты сгла- сглаживания влияют на результат. Вопросы построения численных методов для нахождения фильтров рассматривались в работах: Kuo, Kaiser A966), Wood A968); см. также IEEE Trans. Audio Electro. A968). Goodman (I960) исследовал численные реализации преобразования Гиль- Гильберта и фильтров, пропускающих определенные полосы частот. В § 3.6 мы обсудим способы быстрого вычисления профильтро- профильтрованного ряда Y(t). Различные аспекты вопросов, разобранных в этом параграфе, рассмотрел Parzen A963).
68 3. Аналитические ееойства преобразования Фурье О -.2 -.4 -.6 -.8 -1.0 2" - Идеальное преобразование Я 2 - Множитель Рисса -.4 -.8 -1.0 Множитель Дирихле Множитель Фейера Множитель Римона О -2 -.4 -1.0 - Множитель Бохмона *"" Множитель Хэмминга-Тьюки 'Множитель Де ли Валле-Пуссена Рис, 3.3.2. Мнимая часть передаточной функции преобразования Гильберта и ее различные аппроксимации, построенные с помощью множителей, улучшаю- улучшающих сводимость, при п = 7.
3.4. Конечные преобразования Фурье и их свойства 69 3.4. Конечные преобразования Фурье и их свойства Для данной последовательности а (и), и = 0, ±1, ..., в пре- предыдущем параграфе приходилось рассматривать выражения вида п 2 ехр{— i%u}a(u). C.4.1) . и— ~п Последнее при фиксированном п называется конечным пре- преобразованием Фурье набора чисел а (и), и = 0, ±1, ... , ±я. При анализе временных рядов такие преобразования будут представ- представлять собой важные статистики. Прежде чем двигаться дальше, целесообразно слегка изме- изменить обозначения, а также рассмотреть общий случай векторных последовательностей. А именно, рассмотрим последовательность /--мерных векторов X @), X A), ..., X (Г — 1), определенную на числах 0, 1, ..., Т — 1, в отличие от прежнего выбора в качестве области определения чисел —п, —я+1, ..., — 1, 0,1» —» п. Опре- Определим конечное преобразование Фурье этой последовательности формулой 2{—Ш}, — °о < Ж оо. C.4.2) В случае когда Т = 2п+\, где п — целое, можно записать d(/> (X) - ехр {— iXn} 2 X (и + п) ехр {— Ои). Понятно, что единственная разница между определениями C.4.1) и C.4.2) состоит в наличии множителя, равного по модулю еди- единице. Какое из двух определений более удобно, зависит от кон- конкретной ситуации. Среди свойств определения C.4.2) выделим следующее: C.4.3) если же компоненты X (/) принимают действительные значения, то -b). C.4.4) Из этих двух свойств вытекает, что в случае действительных компонент в качестве основной области определения функции d(p(k) может быть взят отрезок О^Х^я. Далее заметим, что для дан- данных Х(/), Y(/), ^^=0, ...,7 — 1, и постоянных а и р выполняется соотношение - а&р (X) + pd(/> (X). (ЗА.9)
70 3. Аналитические свойства преобразования Фурье Иногда требуется сравнить конечное преобразование Фурье свертки двух последовательностей с преобразованиями Фурье самих этих последовательностей. Справедлива Лемма 3.4.1. Пусть Х(?), t = 0, ±1, ... ,— равномерно огра- ограниченная последовательность г-мерных векторов, и пусть а(/), ? = 0, ±1, ... ,— такая sxr'-матричная функция, что М}|а(и)|<оо. C.4.6) М= -00 Положим S . C.4.7) Тогда существует такое конечное К, что | d</> (Я) - А (к) &р (к)\ < /С, -оо < X <оо, C.4.8) где оо А(Х)= 2 а(и)ехр{— iku\. C.4.9) «=-00 Мы видим, что конечное преобразование Фурье профильтро- профильтрованного ряда приблизительно равно произведению передаточной функции фильтра и конечного преобразования Фурье исходного ряда. Этот результат в дальнейшем позволит осуществлять филь- фильтрацию интересующих нас рядов с помощью численных методов; см. также лемму 6.3.1. Приведем теперь несколько примеров конечного преобразо- преобразования Фурье. В рассматриваемых случаях проще воспользоваться симметричным определением 2 Х(*)ехр{— Ш\. C.4.10) Пример 1 (постоянная). Пусть X (t) = 1, / = 0, ±1, ... ; тогда выражение C.4.10) обращается в п ехр{-Ш}=—v /J =2nDn(k). C.4.11) ? {}/ t--n sin—-A, График этой функции приведен на рис. 3.2.1, 0<Я<я. Заме- Заметим, что функция имеет пики при А, = 0, ±2я, .... Пример 2 (гармоническое колебание). Пусть X(t) = exp{tot\, = 0, +1, ... , где со—действительное число, тогда C.4.10) об-
ЗА. Конечные преобразования Фурье и их свойства 71 ращается в exp {-i (^-<->)'} = ¦ sin -?- (К — со) = 2nDn(X — со). C.4.12) Эта функция совпадает с преобразованием из примера 1, если сдвинуть аргумент на со. Она имеет пики при А, = ш, ш±2я, .... Пример 3 (комплексный тригонометрический полином). Пусть X(t) =2&P&exP {"МЬ ^3 предыдущих рассмотрений ясно, что C.4.10) совпадает с 1 Ер.- Sin П-4--ГГ: (Л — Sin—(А, —(О/г) C.4.13) и у этого преобразования большая амплитуда при K = a)k- / = 0,±1, ... . Пример 4 (моном). Допустим X(t) = tk, t = 0, ±1, ... , где k — натуральное число. Тогда C.4.10) примет вид д* t=- п sin (n+— C.4.14) Это выражение ведет себя подобно производной преобразования, рассмотренного в примере 1. Заметим, что при больших п наше преобразование сконцентрировано в окрестности к = 0, ±2я, .... Полином ^kOLktk будет вести себя как линейная комбинация функций вида C.4.14). Пример 5 (колебание с мономиальной амплитудой). Положим t) = tkexp{i(ot\\ тогда C.4.10) обращается в ** ехр {-*(*-«)*} = sin у (к-со) , C.4.15) т. е. в рассмотренную выше функцию примера 4, сдвинутую по частоте на величину со. Общее содержание этих примеров таково: в случае, когда Х(^) — постоянная или медленно меняющаяся по t функция, амплитуда ее преобразования Фурье сосредоточена вблизи точек Я = 0, ±2я, .... Если X (t) — гармоническое колебание частоты со или гармоническое колебание частоты (со), умноженное на поли-
72 3. Аналитические свойства преобразования Фурье ном по f, то ее преобразование Фурье сосредоточено в окрест- окрестности X = со, со ± 2я, .... Преобразование C.4.2) можно обратить с помощью интегри- интегрирования: *=0, ... , Т-1. C.4.16) С другой стороны, обратное преобразование получается и сум- суммированием: j^ (|s) -1. C.4.17) Набор Т векторов diJ)Bns/TI s —0, ... , Г—1, размерности г иногда называют дискретным преобразованием Фурье функции Х(/), / = 0, ...,Т—1. В следующих двух параграфах мы рас- рассмотрим способы его вычисления, а также ряд его свойств. Дискретное преобразование Фурье можно представить в ма- матричной форме. Пусть Ж обозначает rxT-матрицу со столбцами X @), ..., X (Т— 1), расположенными в таком порядке, и пусть ?) обозначает г х Т-матрицу со столбцами d^)Bjts/T), s-=0> ..., Т—1. Пусть также $ есть Тх Т-матрица с элементами ехр {—i Bnst/T)\ в (s+ 1)-й строке и (t+l)-u столбце при s, ^ = 0, ..., Г— 1. Тогда нетрудно видеть, что Ф = #?. C.4.18) В случаях 7=1,2,3,4 получаются соответственно следующие матрицы: [! -!]• C.4.19) C.4.20) C.4.21) 1 1 1 1 —i —1 1 ~1 1 C.4.22)
3.5. Быстрое преобразование Фурье 73 Общее исследование дискретного и конечного преобразований Фурье проводится в работах: Stumpff A937), Whittaker, Robin- Robinson A944), Schoenberg A950), Cooley, Lewis, Welch A967). Даль- Дальнейшие сведения даны в упражнениях к этой главе. 3.5. Быстрое преобразование Фурье Для построения интересующих нас статистик в этой книге применяется, главным образом, дискретное преобразование Фурье. Поэтому важно уметь быстро вычислять дискретное преобразо- преобразование Фурье данного набора чисел X(t), O^.t^.T— 1. Заметим, что если вычислять это преобразование по формуле т. е. по определению, то требуется произвести Г? операций умножения комплексных чисел. В случае когда Т —составное число (произведение нескольких целых чисел), был предложен ряд простых процедур, сокращающих необходимое число умно- умножений [Cooley и др. A967)]. Недавно появились формальные алгоритмы, сокращающие число умножений почти до минимума [Good A958), Cooley, Tukey A965), Gentleman, Sande A966), Cooley и др. A967), Bergland A967), Bingham и др. A967), Brigham, Morrow A967)]. О формулировках в терминах компо- композиционных рядов конечной группы см. Posner A968), Cairns A971). Укажем вначале вид алгоритма быстрого преобразования Фурье в двух элементарных случаях. "Идея этих алгоритмов — сократить число операций при преобразовании длинного ряда наблюдений, сводя задачу к последовательному вычислению преобразований Фурье более коротких наборов данных. Теорема 3.5.1. Пусть Т = 7\Т2, где Тг и Т2 — целые числа; тогда ехР {- i2nTrlJA\ exp {- т2-\ . X S p{;j%t}A + 2l C.5.2) 0</i^7\-l, 0</2<T2-l. Заметим, что 1гТ2 + ]2 пробегает все целые значения /, /^Г— 1 приО^/^71!— 1 и 0</2^7\— 1. Заметим так-
74 3. Аналитические ^свойства преобразования Фурье же, что требуется (Т1 + Т2)Т1Т2 умножений комплексных чисел для вычисления дискретных преобразований Фурье порядков Tt и Т2 в формуле C.5.2). Некоторое определенное число дополни- дополнительных операций будет затрачено на введение множителей Другой алгоритм дается следующей теоремой, в которой X(t) обозначает периодическое продолжение 9 X @), ..., X (Т — 1), с периодом Т. Теорема 3.5.2. Пусть Т = ТгТ2, где 7\ и Т 2 взаимно простые числа. Тогда для j^jt (modTj), j=j2 (mod Ta), O^/^Tx — 1, 0 ^ /2 ^ Т2 —¦ 1, имеем Т% Т? ехр {- C.5.3) Отметим, что необходимое число умножений комплексных чисел опять равно (Тг + Т2) ТХТ2. Здесь для каждого / мы должны определить /\ и /2, фигурирующие выше, и подсчитать соответ- соответствующий коэффициент Фурье. При этом отсутствуют члены вида ехр{—i2nT~1j2t1}, входящие в C.5.2), и результирующее выражение симметрично по 7\ и Т2. Good A971) сравнил эти два алгоритма быстрого преобразования Фурье. Расширение теоремы 3.5.1 на случай, когда Т = Т1.. .Tk при некотором k и числа 7\, ..., Tk—целые, очевидно. В фор- формуле C.5.2) Т2 теперь является составным числом и поэтому внутреннее преобразование Фурье по аргументу t2 само может быть записано в виде повторной процедуры (в виде C.5.2)). Про- Продолжая таким образом, мы видим, что d(P BnT~1j)i / = 0, ... ..., Т — 1, мбжет быть получено последовательным применением k дискретных преобразований Фурье порядков Т19 ..., Tk. Для этого понадобится произвести G\+ ... +Tk)T умножений ком- комплексных чисел. Некоторые формулы, касающиеся этого случая, можно найти в работе Bingham и др. A967). Справедливо следующее обобщение теоремы 3.5.2. Теорема 3.5.3. Пусть Г = 7\...7\, где 7\, ..., Tk—взаимно простые числа. Пусть jz==jt (mod Tt)> O^/^^—l, 1=1, ... ..., k. Тогда /) = Т% •. . 2 ехр {- i2n (Тг%и+... +n%jk)} X К (tJTr1 + ... + tkTT'k% j = 0, ..., T- 1. C.5.4)
3.5. Быстрое преобразование Фурье 75 Здесь X (t) означает периодическое продолжение X (t) с перио- периодом Т. Поясняя этот результат, заметим, что числа ?1777\+... ... +tkT/Tk, взятые по модулю Г, пробегают все целые значе- значения t, 0<f<T—1, при O^^T^-l, ..., 0<*Л<ГЛ—1. При каждом / необходимо определить фигурирующие выше /j, ..., jk и выразить соответствующий коэффициент Фурье через те, которые предварительно были вычислены. Это можно сде- сделать, составляя таблицу остатков от деления /, 0^/^Т—1, на Т„ /=1, ...,&. Для вычисления результата по формуле теоремы 3.5.3 также необходимо произвести G\4- • • • -\-Тк) Т умножений. Отсюда видно, что наибольшая выгода получается, когда Г, малы. Если Т = 2", то в сущности необходимо выполнить 2Т log2 T умножений. В конце § 3.4 приводились дискретные преобразования Фурье для Т = 1, 2, 3, 4. Изучение этих примеров показывает, что может понадобиться даже меньшее^число операций, чем указано выше. Случаи Т=4 и Т = 8 представляются особенно важными. До- Дополнительный выигрыш может быть достигнут при учете свойств X (t) или за счет преобразования нескольких рядов; см. Cooley и др. A967), а также упр. 3.10.30. Часто случается, что Т не разлагается на большое число множителей, и нас не интересуют значения d^p (к) на частотах вида 2я//7\ / = 0, ..., Т—1. Если это так, то можно выбрать такое S > 7\ которое разлагается на большое число множителей, и добавить S — T нулевых значений к набору X(t). Преобразо- Преобразование d(/}(A,) теперь получается при X = 2nj/S> j = 0, I, ... ..., 5—1. Совершенно очевидно, что мы можем комбинировать технику, предоставляемую теоремой 3.5.3, когда Т разлагается на взаимно простые множители, с предыдущей процедурой, имеющей дело с произвольными множителями. Таким образом может быть со- сокращено число умножений на экспоненты. Подробности о случае Т = 12 см. в книге Hamming A962, стр. 74). Программу на языке Фортран для вычисления быстрого преобразования Фурье приводит Singleton A969). В заключение заметим, что быстрое преобразование Фурье— это прежде всего эффективный численный алгоритм. Используется такое преобразование или нет — на основных выводах статисти- статистического исследования это не скажется. Цель этого преобразова- преобразования—радикальным образом сократить количество вычислений при эмпирическом анализе временных рядов.
76 3. Аналитические свойства преобразования Фурье 3.6. Применения дискретного преобразования Фурье Допустим, нам известны значения X(t)> Y (t)> / = 0, ... ..., 71 — 1. Иногда бывает необходимо рассматривать свертку 2 X(t + u)Y{t)9 « = 0, ±1, .... C:6.1) Если dp{%) = 2 Х@ехр{-Ш}, r1°i C.6.2) )= 2 то сразу видно, что свертка C.6.1) представляет собой коэффи- коэффициент при ехр {—гки) в тригонометрическом полиноме dp (k) d^\X) и, следовательно, свертка задается формулой Bя)-1 J dp(X)d^(?)exp{iu%}dXy и^О, ± 1, ... . о C.6.3) Этот случай подсказывает, что свертку C.6.1) можно вычислять, применяя дискретное преобразование Фурье, и тем самым ис- использовать преимущества быстрого преобразования Фурье. Лемма 3.6.1. Для данных X(t)y Y(t), * = 0, ..., Г-1, и целого 5>Т свертка C.6.1) задается формулой { ?) #' (^) ехр и = 0, ±1, ..., dzE —Г). C.6.4) В общем случае C.6.4) обращается в №р4) C.6.5) 0< /, Взяв S достаточно большим, мы можем получить нужное значение свертки из C.6.4). Если S выбрано разлагающимся на большое число множителей, то дискретные преобразования Фурье, используемые в C.6.4), могут быть вычислены при помощи ал- алгоритма быстрого преобразования Фурье, обсуждавшегося в пре- предыдущем параграфе. Таким образом, свертка C.6.1) быстрее вычисляется указанным методом, нежели прямо по определению C.6.1). Этот факт подметил Sande [Gentleman, Sande A966)],
3.6. Применения дискретного преобразования Фурье 11 а также Stockham A966). Из формулы C.6.5) видно, что при S—T<|«|<T — 1 выражение C.6.4) дает C.6.1) плюс допол- дополнительные члены. Для не слишком больших значений | и | оно будет примерно равно C.6.1), и это справедливо для всех и, если взять S^2T. Знание свертки C.6.1) требуется, например, при оценке моментов пг12(и) = Е[Хгу + и)X2(t)] стационарного двумерного ряда. Несмещенная оценка m12(u) задается формулой (Т-\и\у- 2 'хгу + и)Хшу), C.6.6) 0<t, t + u^T-l имеющей вид C.6.1). Из упр. 3.10.7 видно, как можно изменить результат леммы 3.6.1, чтобы построить оценку для с12(и) = ^coviXAt + u), X2(t)}. Результат леммы 3.6.1 оказывается также полезным при вы- вычислений значений профильтрованного ряда т-\ У@=2 a(t — u)X(u) для < = 0, ±1, ..., C.6.7) и = 0 где величины X (t), ? = 0, ..., Т — 1, известны. Пусть А (к) — передаточная функция фильтра {а(и)}. Тогда леммы 3.4.1 и 3.6.1 подсказывают, что стоит вычислить l*dx {^)A{-S-JexPy—\ ДЛЯ / = 0, ±1, ... . C.6.8) Эти значения должны быть близки к значениям профильтрован- профильтрованных величин. Непосредственная подстановка показывает, что C.6.8) принимает вид [ 2 ] C.6.9) и поэтому, если коэффициенты а (и) быстро убывают при \и\ —> оо и О^^^Г—1, выражение C.6.8) будет близко к выражению C.6.7). В случае когда 5 разлагается на большое число множи- множителей, вычисления по формуле C.6.8) могут быть сокращены при помощи алгоритма быстрого преобразования Фурье. Можно было бы, кроме того, ввести в рассмотрение и множители схо- сходимости. Заметим, что лемма 3.6.1 допускает следующее обобщение. Лемма 3.6.2. Для данных Xj(t)t * = 0, ..., Г—1, / = 1, ..., г и целого S>T выражение 2 Xv(t + u1)...Xr.1(t + ur-1)Xr(t) C.6.10) о </, t+uf^ т - 1
78 3. Аналитические свойства преобразования Фурье равняется «/ = 0, ±1, ..., ±(S — T)9 / = 1, ..., r-1. В заключение этого параграфа укажем некоторые применения конечного преобразования Фурье. Допустим, что 2яХ (/) = /? cos (ю* + Ф), — я<со<я, C.6.12) тогда, согласно примеру 2 из § 3.4, X (t) exp {^ Ш} =| Re'>Dn(^-co) + -i Re-f*Dn(^+(o).C.6.13) Проверка показывает, что амплитуда функции, задаваемой фор- формулой C.6.13), велика лишь для Я, близких к ± со (—я<А,<я). Следовательно, конечное преобразование Фурье C.6.13) должно быть полезно при практическом определении заранее неизвестной частоты гармонического колебания. Об этом см. Stokes A879). Заметим, что если X (t) содержит две неизвестные частоты, т.е. 2пХ (t) = Rx cos (©!* + Фг) + R2 cos (юя< + ф2), C.6.14) то близкие частоты сох и со2 трудно разрешить (т. е. различить), так как t=-n * C.6.15) Очевидно, эта функция не будет иметь заметных пиков на ча- частотах А, = ± ©!, ± оJ, ..., если о)х и со2 так близки, что всплески соответствующих функций Dn гасят друг друга. Трудность эту можно преодолеть, если ввести в преобразование Фурье множи- множители сходимости. А именно, используя C.3.6) для ряда, зада-
3.7. Комплексные матрицы и их экстремальные значения 79 ваемого формулой C.6.14), получим п h [±) X \ + -i- R2 exp {- 1ф2) #<»> (Я + оJ).C.6.16) Если множители сходимости h(u/n) выбраны так, что Н(п) (к) сосредоточена в некотором интервале, например в интервале | X | < А/я, то амплитуда функции, определяемой формулой C.6.16), будет иметь отчетливые пики в случае ] щ — со21 > 2Д/я. Отметим также ряд других применений конечного преобра- преобразования Фурье. Оно используется при вычислении собственных значений интересующих нас матриц [Lanczos A955)], при оценке распределений, являющихся смесями [Medgyessy A961)], при определении кумулянтной функции распределения по ее харак- характеристической функции [Bohman (I960)]. 3.7. Комплексные матрицы и их экстремальные значения Переходя к рассмотрению матриц с комплексными эле- элементами, заметим, что примером такой матрицы является матрица спектральной плотности, введенная в § 2.5. Начнем с нескольких определений. Если Z = [ZJk\ — матрица размера JxK, у которой на пересечении /-й строки и &-го столбца стоит комплексное число ZJk, то обозначим через Z = [ZJk] матрицу, состоящую из элементов, комплексно-сопряженных к соответст- соответствующим элементам матрицы Z. Пусть Zx=^[Zkj\ — матрица, транспонированная к Z. Говорят, что Z — эрмитова матрица, если ZT = Z. Эрмитова матрица Z размера J x J называется неотри- неотрицательно определенной, если 2 ajVkZjk>0 C.7.1) для всех комплексных чисел а;., /=1, ..., J. Квадратная ма- матрица Z называется унитарной, если Z = Zt, или, что экви- эквивалентно, ZZ1' = I, где I—единичная матрица. Комплексное число |х называется собственным значением или характеристическим
80 S. Аналитические свойства преобразования Фурье числом /х /-матрицы Z, если Det(Z-[iI) = 0, C.7.2) где I — единичная матрица той же размерности, что и Z. По- Поскольку Det(Z—fxl) является полиномом от \х порядка /, урав- уравнение C.7.2) имеет не более / различных корней. Для любого собственного значения [i всегда существует /-компонентный вектор а, такой, что Za = n,a. C.7.3) Это — классический результат [MacDaffeeA946)]. Такой вектор а называется собственным вектором матрицы Z. Если Z—-эрми- Z—-эрмитова матрица, то все ее собственные значения действительны [MacDaffee A946)]. Упорядочив собственные значения в порядке возрастания, обозначим /-е из них через [Ду или \ij (Z), / = 1, ...,/, а соответствующий собственный вектор через ау- или af (Z). .На- .Набор собственных чисел квадратной матрицы называется ее спек- спектром. Кратко обсудим связь между спектром матрицы и ранее определенным спектром второго порядка стационарного ряда. Заметим, что для каждой матрицы Z матрицы ZZT, ZTZ всегда будут эрмитовыми и неотрицательно определенными. Согласно теореме 2.5.1, если X(t), t = 0, ± 1, ...,—векторный стацио- стационарный ряд с г компонентами, имеющий абсолютно суммируемую ковариационную функцию, то матрица его спектральной плот- плотности $хх№) является эрмитовой и неотрицательно определенной. Отметим, что если 3? = [ехр {— /2П/Л/74}] C.7.4) — матрица дискретного преобразования Фурье, рассмотренного в § 3.4, то матрица Т'1^ будет унитарной. Ее собственные значения приведены в упр. 3.10.12. В ряде случаев оказывается полезным сводить вычисления, связанные с комплексными матрицами, к вычислениям, вовле- вовлекающим только действительные матрицы. Приводимая ниже лемма 3.7.1 устанавливает важный изоморфизм между комплексными и действительными матрицами. Предварительно для матрицы Z--[Zjk] с элементами Z.fe = ReZ,fe + nmZyft введем следующие обозначения: ReZ = [ReZ,.ft], • . lmZ = [lm ZJk\. {6J-b> Лемма 3.7.1. Каждой комплексной J х К-матрице Z соответ- соответствует действительная BJ)x{2K)-Mampuqa ZR, такая, что
3.7. Комплексные матрицы и их экстремальные значения 81 (i) если Z-X + Y, то (и) если Z-XY, то Z* (iii) если Y^Z-1, то Y* = (Z*)~l\ (iv) DetZ* = |DetZ|2; (v) если Z эрмитова, то ZR симметрична; (vi) если Z унитарна, то ZR ортогональна; (vii) если собственными значениями и собственными векторами матрицы Z будут соответственно [Ау, а;-, /=1, ..., /, то для матрицы ZR собственными значениями и векторами будут соот- соответственно Подразумевается, что все складываемые и перемножаемые матрицы имеют подходящие размеры. Действительно, соответствие между матрицами, о котором идет речь, может быть задано следующим образом: Оно рассматривалось в работах: Wedderburn A934), Lanczos A956), Bellman A960), Brenner A961), Good A963), Goodman A963). Это-соответствие чрезвычайно полезно при вычислениях с комплексными матрицами. Однако Ehrlich A970) указывает, что в некоторых случаях удобнее иметь дело непосредственно с комплексными матрицами. Собственные векторы и собственные значения играют важную роль, когда мы представляем матрицы с помощью более элемен- элементарных матриц. Для эрмитовых матриц верна Теорема 3.7.1. Если Н является эрмитовой J x J-матрицей, то IL=.2MW. ' C.7.8) / 1 где \1; — это j-e собственное значение Н и Uy-—соответствующий собственный вектор. Следствие 3.7.1. Эрмитова J х /-матрица Н может быть запи- записана в виде имп\ где M = diag {|у, /'= 1, ..., J}1), а матрица г) Так обозначена матрица М, ненулевые элементы которой стоят на глав- главной диагонали и М,;=|Х/.—Прим. перев.
82 3. Аналитические свойства преобразования Фурье 1} = [1}1У ..., иу] унитарна. Если к тому же Н—неотрицатель- Н—неотрицательно определенная матрица, то |лу-^0, /=1, ..., J. Приведенная теорема иногда называется спектральной теоре- теоремой. Для матриц произвольных размеров справедлива Теорема 3.7.2. Для JxK-матрицы Z имеет место представ- представление Z= 2 HyU/V/, C.7.9) j<J,K где |Ху есть j-e собственное значение матрицы ZZT (или матрицы ZTZ), Uy есть j-й собственный вектор матрицы ZZT и V, есть 1-й собственный вектор матрицы ZTZ; при этом |лу. ^0. Следствие 3.7.2. Каждая JxK-матрица Z может быть запи- записана в виде UMVT, где JxK-матрица M=diag{^.; /= 1, ..., J} диагональна, JxJ-мащрица U = [Ulf ..., \i j\ унитарна и КхК- матрица у=[У1э ..., VK] также унитарна. Эту теорему установил Autonne A915). Структурные теоремы для матриц обсуждаются в книгах: Wedderburn A934) и Ниа A963), см. также Schwerdtfeger A960). Представление Z=UMUT* называется разложением Z по сингулярным значениям. Про- Программа вычисления такого представления на ЭВМ приведена в работе Businger, Golub A969). С точки зрения анализа временных рядов важный класс мат- матриц представляют конечные теплицевы матрицы. Говорят, что C = [C/k] является конечной теплицевой матрицей, если ее эле- элементы CJk зависят только от / — &, т. е. Cjk — c(j—k) для неко- некоторой функции с(«). Эти матрицы рассмотрены в работе Widom A965), где можно найти дальнейшие ссылки. При изучении вре- временных рядов конечные теплицевы матрицы важны по следующей причине. Если X(t), t = 0, ±1, ...,—действительный стацио- стационарный ряд с автоковариационной функцией схх (и), и = 0, ± 1, ..., то ковариационная матрица отрезка этого ряда X(t), ? — 0, ... ..., 7— 1, является конечной теплицевой матрицей с элементами cxx(j—k), стоящими на пересечении /-й строки и &-го столбца. Иногда нас будут интересовать собственные значения и соб- собственные векторы ковариационной матрицы для X(t)> t — 0, ... ..., Т — 1, где X(t) — стационарный ряд. Имеются различные ре- результаты об аппроксимации этих величин при больших Т. Перед тем как привести некоторые из них введем важный подкласс конеч- конечных теплицевых матриц. Квадратная теплицева матрица Z = \Zjk] называется циклической порядка Г, если Z/k = z(k—/) для неко-
S.7. Комплексные матрицы-и их экстремальные значения 83 торой периодической функции z(-) с периодом 7, т. е. г*@) 2A) ... 2G-1)" 2G-1) 2@) 2G-2) 2G-2) 2G — 1) 2G-3) 2B) C.7.10) Используя это понятие, сформулируем теорему. Теорема 3,7.3. Пусть Z = [z(k — /)] является циклической ТхТ-матрицей, тогда ее собственные значения задаются вы- выражениями Г-1 2 г (/) ехр {- i2njk/T\, fc = 0 /=о Им соответствуют собственные векторы j = 0, ..., 7—1J 7-1. C.7.11) г = 0, ..., 7-1. C.7.12) Как видно, собственные значения представляют собой диск- дискретное преобразование Фурье последовательности z (t), t = 0> ... .. .., 7—1. Матрица, составленная из собственных векторов, про- пропорциональна матрице $ из § 3.4. Теорему 3.7.3 можно найти в работах: Aitken A954), Schoenberg A950), Hamburger, Grimshaw A951, стр. 94), Good A950), Whittle A951). Теперь вернемся к рассмотрению квадратных конечных теп- лицевых матриц общего вида C=[c(j—&)], /, &=1, ..., 7. Пусть Z —соответствующая циклическая матрица, у которой ?-й элемент первой строки равен с(\—k) + c(l—? + 7), при этом мы считаем с(Т) = 0. Согласно теореме 3.7.3, собственными зна- значениями Z будут числа -j + T)]exp{-i2njk/T\ ?? C.7.13) = 2 c(u)exp{i2nuk/T}y k^O, ..., 7 — 1. u=-T+l Этот набор чисел образует дискретное преобразование Фурье от с(и)у и = 0, ±1, ..., ±G—1). Пусть %Т обозначает 7x7- матрицу, столбцами которой являются векторы, определяемые формулой C.7.12), и пусть Мг обозначает диагональную матрицу
84 3. Аналитические свойства преобразования Фурье с элементами |xft(Z). Тогда Z = 8f1JVWfr, C.7.14) и можно рассматривать приближение С с помощью %ТЖТ%Х = Ъ. Имеет место следующая оценка разности: \\C-Zf-= ?\C/k-Z/k\* = ^2 Ju\\c(u)f. C.7.15) 2 J Эта оценка может быть использована для получения оценок раз- разностей между собственными числами и между собственными век- векторами матриц С и Z. Например, согласно теореме -Вейланда- Гофмана [Wilkinson A965)], существует такая нумерация (^(С), ..., \iiT (С) собственных значений ^(С), ..., |хг(С) мат- матрицы С, что т- 2 7-1 и=-Т+\ c{u)exv{i2nku/T\ ; S I C.7.16) Если . 2 |и||с(й)р<оо, ' C.7.17) М=-оо то распределение собственных значений матрицы С при Т—>оо стремится к дискретному преобразованию Фурье от с (и), & = 0, ±1, ..., ±G"—1). Большое количество результатов такого ха- характера можно найти в книге Grenander, Szego (-1958); см. упр. 3.10.14. Результаты такого типа указывают связь между спектром мощности стационарного временного ряда (этот, спектр определяется как преобразование Фурье автоковариационной функции ряда) и спектром (т. е. набором собственных значений) ковариационных матриц, отвечающих длинным отрезкам этого ряда. Мы вернемся к этому вопросу в § 4.7. Относительно величины несовпадения собственных векторов С и Z можно рекомендовать работы Гавурина A957) и Davis, Kahan A969). Заметим, что приведенные выше результаты могут быть -распространены на случай векторных рядов и на блоки теплице- вых матриц, см. упр. ЗЛО.15. Представление C.7.9) играет важную роль при приближении одной матрицы с помощью другой, меньшего ранга. В этом на- направлении отметим следующую теорему. Теорема 3.7.4. Пусть имеется JxK-матрица Z. Среди всех JxK-матриц А ранга L^J,K минимум величинам M[Z-A][Z=AT) C.7.18)
3.8, Функции от преобразования Фурье 85 доставляет ма/прица 2, C-7-19) фигурирующие здесь |лу., Uy., Vy- me же, что и в теореме 3.7.2. При этом минимальное значение выражения C.7.18) равно Таким образом, мы построили А из слагаемых в сумме C.7.9), соответствующих L наибольшим значениям |лу-. Случай действи- действительных симметричных Z и А разобран в работе Okamoto A969). Следствие 3.7.4. Указанный выше выбор А позволяет также минимизировать ||Z-A|p=2 SIV-Л/*!1, . C.7.20) / = 1 /е= 1 когда минимум ищется среди всех А ранга L^J, /О Минимум этот равен Дц?. C.7.21) Для действительных Z и А результаты, подобные этому след- следствию, имеются в работах: Eckart, Young A936), Kramer, Mat- hews A956), Rao A965). 3.8. Функции от преобразования Фурье Пусть X(t), ? = 0, ±1, ...,—интересующий нас векторный временной ряд. Для того чтобы рассматривать статистические свойства некоторых рядов, полученных в результате применения операторов к ряду Х@> нам необходимы некоторые сведения об аналитических свойствах функций от преобразований Фурье. Дадим следующее Определение 3.8.1. Пусть С обозначает поле комплексных чи- чисел. Функция /(z), принимающая комплексные значения и опреде- определенная для 2 = (ziy ..., zn)?D, где D—открытое подмножество из СЛ, называется голоморфной в D, если каждая точка w = (w19 ... ..., wn) 6 D имеет окрестность U\ такую, что f (z) допускает раз- разложение в степенной ряд /(*) =kt 2Л ^akt...kn(z1-w1)b...{zn-wn)kn C.8.1) для всех zgi/. Иногда для определения голоморфных функций бывает полезна
3. Аналитические свойства преобразования Фурье Теорема 3.8.1. Допустим, что Ff(y19 ..., ут\ г19 ..., гп)9 / = 1, ..., т, —функции отт + п переменных, голоморфные в окре- окрестности точки (ulf ..., ит\ v19 ..., vn)? Cm+n. Если Fj (ul9 ... ..., ит\ vly..., vn)I = 0, / = 1,..., т, а детерминант матрицы Якоби д(Ръ ..., Fm) ,о о о\ д(Уи ...,Уш) C<8-2) отличен от нуля в точке {uiy ..., ит\ vif ..., vn), то уравнения Fj(yi> •••» Ут\ г19 ..., гп) = 0у /=1, ..., т, C.8.3) имеют единственное решение У/ = У/(г19 ..., zj, /=1, ..., т, которое голоморфно в окрестности точки (vly ..., uj. Эта теорема содержится в книге Bochner, Martin A948, стр. 39). Из нее, например, вытекает, что нули полинома являются голо- голоморфными функциями от коэффициентов полинома в области, где полином имеет различные корни. Из этого в свою очередь следует, что собственные значения матрицы являются голоморфными функ- функциями от ее элементов в области различных собственных значе- значений, см. упр. 3.10.19. Обозначим символом V+ (/), /^0, пространство функций z(k), —оо<Х<оо, преобразование Фурье которых имеет вид 00 г (X) = 2 а (и) ехр {— шЦ9 C.8.4) где а (и) принимает действительные значения и удовлетворяет условию ^[ + \и\^\а(и)\<оо. C.8.5) При выполнении условия C.8.5) область определения z (k) может быть расширена до множества комплексных Я, таких, что — оо < <Rei<oo, Imh^O. Тогда справедлива Теорема 3.8.2. Если функции Zj (X) принадлежат классу V+ (/), /= 1, ..., /г, и f (zly ..., zn)—голоморфная функция в области значений {z1(k)y ...9zn(k)}; —oo<ReX<oo, Imh^O, то f (zi (ty* • • •» zn С1)) ^пакже принадлежит V+ (/). Эту теорему можно вывести из результатов Гельфанда и др. A960). Первые теоремы такого типа получили Wiener A933) и Levy A933). Приведем пример использования последней теоремы. Пусть {а(а)}, а = 0, 1, 2, ..., является реализуемым /-суммируемым г X r-фильтром .с передаточной функцией А (Я), такой, что Det А (X) Ф 0, — оо < ReX < оо, Im k^ 0. Из последнего условия
3.8. Функции от преобразования Фурье 87 вытекает, что элементы матрицы А (К) суть голоморфные функ- функции от элементов матрицы А (К) в окрестности области значений А (А,); см. упр. 3.10.37. Применение теоремы 3.8.2 показывает, что элементы матрицы В(Х) = А(А,)~1 входят в V+ (/) и, следова- следовательно, В (к) оказывается передаточной функцией реализуемого /-суммируемого г х r-фильтра {Ъ(и)\> и = 0, 1, 2, .... В частно- частности, если Х(?), ? = 0, ±1, ..., — стационарный г-компонентный ряд с Е | X (t) | < оо, то соотношение 00 Y(<)= 2>(и)Х(* — и) C.8.6) можно с вероятностью единица обратить и получить, что 00 X@=2b(«)Y(i-«). C.8.7) Здесь Ь(ы), ы = 0, 1, 2, ...,—некая функция, для которой 2[1+М']|Ь(и)|<оо. C.8.8) Заметим, что условие DetA(^)^=O, —oo<Re?i<oo, 1 эквивалентно такому условию: функция Det 2la(w)z« C.8.9) U=o J не имеет корней в единичном круге | z \ ^ 1. В том случае, когда Y(?) = 8(?), т. е. является белым шумом с конечным средним, из этих рассуждений вытекает, что если Det [I + а A) г+ ... +а (т) zm] C.8.10) не имеет корней в единичном круге, то схема авторегрессии Х(*) + аA)Х(*— l)+...+a(m)X(*-m) = e@ C.8.11) имеет с вероятностью единица стационарное решение вида Х(*)=2Ь(*-и)в(и), C.8.12) где S [1 + \и\*]\Ъ(и)\<оо C.8.13) ы = 0 для всех /^0. Иногда оказываются полезными иные результаты той же при- природы. Дадим следующее
88 • 3. Аналитические свойства преобразования Фурье Определение 3.8.2. Функция f (z), принимающая комплексные значения и определенная для z = (zly ..., zn)?D, где D —откры- —открытое подмножество Сп, называется голоморфной в действительном смысле у если у каждой точки w = (wi9 ..., wn) ? D имеется окрест- окрестность U, такая, что в этой окрестности f (z) представляется сходящимся степенным рядом, т. е. для всех z?i/ 2 .,jn=o akx...kn. п.. ./„ (гг-w^(Zi-wji*... ... Bn-wn)kn(Zn-wn)!n. C.8.14) Введем далее пространства V (/), / > 0, функций г (X), — оо < <Х< оо, имеющих преобразование Фурье вида 00 z(%)= 2 а(«)ехр{— шЦ, C.8.15) М=-сю где а (и) принимает действительные значения и удовлетворяет условию ЧИ")|<оо. C.8.16) И = *-00 Тогда верна Теорема 3.8.3. Если функции Zj{X) принадлежат V(l)y /= 1, ..., п, и f(z19 ..., z^—функция, голоморфная в действи- действительном смысле в окрестности области значений {zx (X), ... •. •» zn (k)'» — оо < Л < оо}," mo f(z1 (к), ...,гп (к)) также принад- принадлежит V(l). Эта теорема снова вытекает из результатов Гельфанда и др. A960). Сравнивая последнюю теорему с теоремой 3.8.2, мы видим, что требуемая здесь область регулярности функции /(•) меньше, а принимаемые ею значения могут быть более общими. Укажем одно из применений теоремы 3.8.3. Пусть {а(м)}, и = 0, ±1, ±2, будет /-суммируемым rxr-фильтром с переда- передаточной функцией А (к), удовлетворяющей условию Det А (А,) =^ О, — сх><Я<оо. Тогда существует /-суммируемый фильтр \Ъ(и)}, и = 0, ±i, .. .,.с передаточной функцией В (к) = А(Х). Или еще можно сказать, что существует /-суммируемый фильтр {с (и)}, и = 0, ± 1, ..., с передаточной функцией С (Я) = (А (Я) А (Я))". В качестве примера совместного использования теорем 3.8.2 и 3.8.3 отметим следующий результат, полезный при линейном прогнозе действительных стационарных рядов. Теорема 3,8.4. Пусть X(t), t = 0, ±1, ..., — ряд, принимаю- принимающий действительные значения, имеющий среднее нуль и ковариа- ковариационную функцию cov {X(t+и), X{t)} = cKX(u), t, м = 0, ±1, ... .
3.8. Функции от преобразования Фурье 89 Предположим, что 00 2 [1 + \и\1]\схх(и)\<°° для некоторого 1^0 C.8.17) « = -00 и fxxW^O, — оо < А, < оо. Тогда GO Х@=2б(«)8(^«) для * = 0, ±1, .... C.8.18) адг ряд в@ = 2 a(u)X(t-u) C.8.19) имеет нулевое среднее и автоковариационную функцию сее(и) = = 6 {и}. При этом коэффициенты удовлетворяют условию %[1+\и?]\а{иI 2[\+\и\']\Ь(иI<со. C.8.20) Коэффициенты {а(и)}> {Ь(и)\ определяются здесь неявным обра- образом. Если рассмотреть функции V 00 А (Я) = 2 а («) ехр {— /Яы}, ":° C.8.21) 5 (Я) = 2 6 («) ехр {— Ни), и=0 то для них справедливы соотношения ВA) = А(%)-\ C.8.22) • fxx(X)~\B(k)\* = \A(X)\-\ C.8.23) W = l°g В (К) + log В (X). C.8.24) Если выполняется условие C.8.17) и fxxfi) не обращается в нуль, то можно записать » logfxx(X)= 2 g(u)exp{-i%u}, C.8.25) где j A, C.8.26) C-8.27)
90 3. Аналитические свойства преобразования Фурье согласно теореме 3.8.3. Опираясь на выражение C.8.24), определим В(Х) = exp I -g-?(°) +2 ?(и) ехр {— 1Щ\ . C.8.28) ) Соответствующие последовательности {а (и)}, {Ь(и)\ удовлетворяют условию C.8.20) в силу теоремы 3.8.2. Теоремы 3.8.2 и 3.8.3 впервые были использованы при анализе временных рядов в работе Hannan A963). Библиография к этим теоремам—книги Arens, Calderon A955) и Гельфанд и др. A960). Baxter A963), используя эти процедуры," получил неравенство, которое может быть полезно при оценке ошибки конечных аппрок- аппроксимаций некоторых преобразований Фурье. 3.9. Спектральные представления при функциональном подходе к анализу временных рядов Как мы уже видели в § 2.7, эффект воздействия линейных инвариантных во времени операций на временные ряды Х(?), * = 0, ±1, ..., легко описывается, если ряд является суммой гармонических колебаний, например, X (*) = ^1 ехр {*у }*(/)• C-9Л) где z (/) суть /--компонентные векторы. В этом параграфе мы рас- рассмотрим представления ряда Х(?), близкие по своей природе к C.9.1), но применимые к более широкому классу рядов. Такие представления будем называть спектральными', они имеют вид t = 0, ±1, .... . C.9.2) Здесь Zx(k)—некоторый r-компонентный ряд. Начнем с рассмот- рассмотрения следующей теоремы. Теорема 3.9.1. Пусть г-компонентная векторная функция X (t)> t*= 0, ± 1, ..., такова, что для t, и = 0, ± 1» • • • существует lim BS+1)2 X(t + u + s)X(t + sy^mxx(u). C.9.3) S
3.9. Спектральные представления при функциональном подходе 91 Тогда существует предел и Gxx(k) = lim Bя)-х 2 Щи (и) [exp {—шА) — 1]/(— ш), U-> со и=-?/ — я<Я<я. C.9.4) Существует также г-компонентная векторная функция Ъх (к; s), Я s = 0, ±1, ..., такая, что $ exp{fW}dZx(X; s), s, < = 0, ±1, • ••, C.9.5) -Я б толе смысле, что s л л 2 lim BS+1)"* 2 ЦX (^-Ьs) — [exp{iU}dZx(X\s)\\ =0, / = 0, ±1, .... C.9.6) Функция 2Х{%; s) удовлетворяет также соотношениям lim lim B5 + 1)"* S Т X 2 ||Zx(b;s)-Bjt)r* 2 X(^ + s)[exp{-^}-l]/(-i0||2 = 0, — зх<Я<я, C.9.7) и lim BS+l)-« S ZX(V, s)Zx(F,sr = G^fining ^}), 0<Я, |х<я. C.9.8) Матрица Gxx(?i), фигурирующая в C.9.4), является ограниченной неотрицательно определенной неубывающей функцией от Я, О^Я^я, и такой, что Gxx(—k) = Gxx(X)x. Можно сравнить ее с матрицей, определенной в упр. 2.13.31. Выражение C.9.5) представляет X(? + s) в виде суммы гар- гармоник с различными фазами и амплитудами. Предположим, что {&(и)\, и = 0, ±1, ...,—фильтр, коэффициенты которого обра- обращаются в нуль при достаточно больших значениях \и\, и пусть А (X)—передаточная функция этого фильтра. Тогда если ввести , f = 0, ±1, ..., C.9.9) и то профильтрованный ряд будет иметь представление ; s), s, / = 0, ±1, ... . C.9.10)
92 8. Аналитические свойства преобразования Фурье Гармонические колебания, составляющие X(t + s), теперь домно- жаются на передаточную функцию фильтра. -Вариант теоремы 3.9.1 приведен'в работах Bass A962 а, b), однако сама теорема вытекает из теоремы о представлении, пред- предложенном в работе Wold A948). Другую форму спектрального представления получил Wiener A930). Справедлив следующий вариант этой теоремы для* вектор- векторных рядов с дискретным параметром. * Теорема 3.9.2. Пусть X(t), 2 = 0, ±1, ...,—такая г-компо- г-компонентная функция, что : *>. C.9.П) Тогда существует г-компонентная функция Zx(k), —я^ такая, что Ъх(я)—Z^—л) = Х@) и , t = 0, ±1, .... C.9.12) Выражение C.9.12) справедливо в смысле формального интегри- интегрирования по частям: л X(t) = eMZx(n)-e-l*tZx(—n) + it J exp {iU)lx(k)d%. C.9.13) Функция Ъх (к) удовлетворяет соотношению п C.9.14) Если X (t) также удовлетворяет C.9.3) и Охх (к) дается форму- формулой C.9.4), то я lira 5г f [Zx (а + е)—Zx (а—в)] [Zx (а + г)—2х (а-е)]Ма =GXX (к) г -> о Zfc ^ C.9.15) в точках непрерывности Gxx(X)y О^Я^я. Теорема Винера [Wiener A933, стр. 138)] позволяет показать, что соотношение C.9.11) выполняется, если т lira supB7 + l)-1 2 ||Х(/)||2<оо. C.9.16) г -> с» ^= - т
ЗЛО. Упражнения 93 Ясно, что выражение C.9.12) может быть использовано для опи- описания действия линейного фильтра на ряд Х(/). Другой способ получения спектрального.представления детер- детерминированного ряда Х(/), t = 0, ±1, ..., основан на применении теории распределений Шварца - [Schwartz A957, 1959), Edwards A967, гл. 12)]. В § 4.6 будет получено спектральное представле- представление стохастического ряда. Bertrandias A960, 1961), как и Henin- ger A970), также рассматривал случай детерминированного ряда. 3.10. Упражнения 3.10.1. Предположим, что А(Х) = \ для | X ± со | < А при малом А и А (Х) = 0 для остальных X из промежутка —л < X < л. Покажите, что 2А/л при и~0, 2 cos toil sin Аи/(ли) при и Ф 0. 3.10.2. Пусть А (X) — передаточная функция фильтра. Покажите; что фильтр оставляет инвариантными полиномы, степени k тогда и только тогда, когда Л@)=1, Л</>@) = 0, 1«^/<;& (здесь Л</> (X) обозначает /-to производную функции А(Х)) [Schoenberg A946), Brillinger A965a)]. 3.10.3. Покажите, что если 1 Я (а) = Bл) -1 \ h (x) ехр {— iax) dx допускает оценку | Я (а) | </СA + ]а|)-2, то Я<"> (X), фигурирующая в C.3.6), задается формулой 00 п ^] Н(п[Х—2л/]), — оо < X < оо. 3.10*4. Покажите, что если ^ обозначает матрицу, у которой на пересече- пересечении /-й строки и &-го столбца, 1 <;/, k^Tt стоит элемент ехр {— i2n (/—1)Х X(k— l)/T}y то ggT = ri и 54 = Г21. 3.10.5. Докажите, что если Dn (X) задается выражением C.2.6), то Bn+ \)^Wn(X) стремится к ц{Х}/2п при п->оо. 3.10.6. Докажите, что при п -> оо функция, определяемая формулой C.4.14), стремится к 2л (— i)k ^ . 3.10.7. Пусть с(х\ с(/) обозначают соответственно средние значения X (t)f Y(t), /==0, ..., Г — 1. Покажите, что : г-1 равняется s-i —: S ~1 V d{p (-2- J и(у} ( -^ ] ехр {/2л5«/5} при w = 0, ±
94 3. Аналитические свойства преобразования Фурье 3.10.8. Пусть Xj(t), t = 0, ..., Г—1, обозначает Г-периодическое про- продолжение X/(t), * = 0, ..., 71—-1, для /=1, ..., г. Получите формулу 7-1 A. s1==0 ''' + Sr-l]) схр {i 2л [SlUl+ •'' + sr-i"r-i1 \ При иъ .,., Wr.! = 0, ± 1 * 3.10.9. Пусть % • 7-1 Y@= 2 а(/—а)Х(а) для ^ = 0, ± 1, ... . 0 2 ы=0 Покажите, что dy7) (A,) = A (A,) d(p (А,), — оо < X < оо. 3.10.10. Пусть п<г>(%, ..., tfr-i) обозначает выражение C.6.10). Пока- Покажите, что 7-1 7-1 Г7-1 1 Г7-1 "I 2 ••• 2 n{T)(Ui,\.., *r-i) = 2 Хг«) ... 2 ХгЩ 7-1 Г-1 3.10.11. Покажите, что если W = Z-1, то Re W = {ReZ + (Im Z) (Re Z)-1 (Im Z)}-1, ImW = -(ReW)(ImZ)(ReZ)-1. 3.10.12. Пусть g—та же матрица, что и в упр. 3.10.4. Покажите, что ее собственные значения равны Г1/2, —гТ1/2, —Г1/2, *Т1/2 соответственно с кратностями [Г/4]+1, [(Г + 1)/4], [(Г + 2)/4], [(Г +3)/4]—1. (Здесь [iV] обо- обозначает целую часть N.) См. Lewis A939). 3.10.13. Докажите, что если эрмитова матрица Z имеет собственные зна- значения (ii, ..., fir и соответствующие собственные векторы Ult ..., Ur, то у матрицы Z—p-xUxUi собственными значениями будут 0, \i2, ••., \*>г, а соб- собственными векторами — Ui, ..., Ur. Покажите, как этот результат может быть использован для сокращения количества вычислений при определении собст- собственных значений и собственных векторов матрицы Z по собственным значе- значениям и собственным векторам матрицы Z^. 3.10.14. Используя неравенство C.7.16), докажите следующую теорему. Пусть ос Ы=-се где —оо < А, < оо и 2luMc(")l2 < °°- Пусть также С<г> = [с(/—^)], /, и ft=l, ..., Г. Если F [•]—функция, производная которой равномерно ограни-
ЗАО. Упражнения 95 чена на области значений f(X), —оо < % < оо, то Теоремы такого типа имеются в книге Grenander, Szego A958). 3.10.15. Матрица Z размера (Тг)х(Тг) называется блочно-периодической, если она составлена из гХг-матрицы Zfk = z(k—/), где z(-) — некоторая гХг-матричная функция периода Т. Докажите, что собственные значения мат- матрицы Z выражаются через собственные значения 7-1 2 z(j)exp{-i2njk/T}> k = 0, ..., Г-1, (*) /=о и соответствующими собственными векторами окажутся [ехр {- i2njk/T} nlk\ / = 0, ..., Г — 1], где Uik—собственные векторы для (*) [Friedman A961)]. Покажите, как этот результат можно использовать для нахождения матрицы, обратной к блочно- периодической. 3.10.16. Пусть /х «/-матрица Z эрмитова. Докажите, что xTZx ty(z) = inf sup —— , D Dx=0 XX где х—вектор с J компонентами, a D—матрица, имеющая / строк и ранг ко- которой не превосходит /—1. Это утверждение, именуемое теоремой Куранта — Фишера, можно найти в работе Bellman A960). 3.10.17.' Докажите, что если белый шум 8 (t), t = 0, ±1, ..., имеет мо- моменты всех порядков, то авторегрессионная схема C.8.11) с вероятностью 1 имеет решение X (/), для которого выполнено условие B.6.1), если полином C.8.10) не имеет корней в единичном круге. 3.10.18. Докажите, что если F (В; А) = ВА, где А, В суть комплексные гХг-матрицы, то детерминант матрицы Якоби dF/дВ равен (Det AK; см. Dee- mer, Olkin A951), Khatri A965a). 3.10.19. Пусть комплексная rXr-матрица Z имеет различные собственные значения \ij, / = 1, ..., г. Докажите, что \ij являются голоморфными функ- функциями от элементов матрицы Z. Указание: величины \ij являются решениями уравнения Det (Z—|iI) = 0; применить теорему 3.8.1 [Portmann (I960)]. 3.10.20. Пусть комплексная гХг-матрица Zo имеет различные собственные значения. Покажите, что существует невырожденная матрица Q, элементы ко- которой яеляются голоморфными функциями от элементов Z для всех Z в ок- окрестности Zo и при этом Q-^ZQ будет диагональной матрицей в этой окрест- окрестности. [Portmann (I960)]. 3.10.21. Покажите, что если матрицы Zo, Z, фигурирующие в упр. 3.10.20, эрмитовы, то столбцы Q ортогональны. Выведите отсюда, что унитарная мат- матрица U, элементы которой являются действительными голоморфными функ- функциями от элементов Z, может быть определена так, что UTZU окажется диаго- диагональной матрицей. 3.10.22. Докажите, что если для реализуемого гХг-фильтра {а (и)}, м = 0, ±1, ..., существует обратный {Ь (и)}, то b (и), и = 0, 1, ..., задается
3. Аналитические свойства преобразования Фурье как a(O)b(O) = I, a(O)b(!) + a(l)b(O) = O, а@) bB) + a(l)b (l) + aB)b @) = 0 3.10.23. Выполните упр. 2.13.22, используя результаты § 3.8. 3.10.24. Пусть р E)—монотонно возрастающая функция, такая, что lim p(S + l)/p(S) = l, и пусть функция X (t), t = 0, ± 1, ..., такова, что 5 существует lim для t, t(==0, ± 1, ... . Выясните, какой вид примет теорема 3.9.1 для таких рядов X (t). 3.10.25. Примем обозначения теоремы 3.9.1. Докажите, что если моменты таи ..., ak ("i> • • •> wjfe-i) выражения B.11.9) существуют и представляют собой преобразования Фурье—Стильтьеса функций Mat ... О ^) — я < Ху^я, то s lim BS+1)~1 ^ dZai{%? s)...dZ0k(Xk; s) 3.10.26. Пусть Xi, ..., X/—упорядоченный набор собственных векторов эрмитовой JX/-матрицы Z. Покажите, что у„ч xTZx |iy(Z)=max X X XX где максимум берется по всем х, ортогональным к Xi, ..., xy^j, и максимум достигается при х=ху. 3.10.27. Пусть А есть эрмитова rXr-матрица, собственные значения и векторы которой будут соответственно jxy- и Vy, /=1, ..., г. Зададим отобра- отображение ф действительной прямой в себя и определим rXr-матричную функцию ф(А) формулой Покажите, что ф (А)Я = ф (А7?). 3.10.28. Покажите, что существуют постоянные /С, L, такие, что 2я 2Я f | А<г> (а) | da < К log Г, J | Д<г> (а) ^ da < ZT/>-<b о о для р, Т > 1, где А<г>(а)= 2 exp{-fctf}. - /=о 3.10.29. Предположим, кроме выполнения условий теоремы 3.3.1, еще не- непрерывность Р-й производной функции Л (а) при а = %. Покажите, что послед- последний член в выражении C.3.18) можно заменить величиной
3.10. Упражнения 97 3.10.30. Пусть известны действительные числа X (t),Y (t)*t = Положим Z(t)=X (t)-\-iY(t). Покажите, что Re d(p (К) = {Re d(zT) (к) + Re d(P (- Щ/2, Im d(p (A,) = {Im dp (A,) — Im dP (- Щ/2, Re d(/} (Я) = {Im <&Г) (X) + Im Im dSfy (X) ={- Re ^Г) (Я) + Re Это упражнение показывает, как преобразования Фурье двух действительных наборов данных наблюдений могут быть найдены применением преобразования Фурье к комплексным наборам данных- [Bingham и др.* A967)]. 3.10.31. Докажите, что для целого S 00 S-1 2 a(Sv)=S~1 2 ABns/S), Vz= — <Х> S = 0 * ? где а (и) и А (А,) связаны между собой формулой C.2.2). 3.10.32. Покажите, что если а есть r-компонентный вектор и Z есть эр- эрмитова rXr-матрица, то где 3.10.33. будем применять обозначения следствия 3.7.2. Положим M+=diag{pi/, /=1, ..., J), где pi+ = l/|i, если \х ф 0 и р,+ =0, если р, = 0. Тогда /Сх«/-матрица Z+=VM+UT называется обобщенной обратной к Z. Про- Проверьте, что (a) ZZ+Z = Z, . (b) Z+ZZ+ = Z+, (c) (ZZ+)T (d) (Z+Z)T = 3.10.34. Покажите, что для (a) tf'W=s-l? d<J> (? (b) dix)(l) ^ о 3.10.35. Покажите, что если Л<«) (К) задается выражением C.2.4), то для 2m-l (a) ^-.W-Cta+D-ia» g 2Я S ^ (b) Л(») (A,) = f Л<л> (a) Dn (A,—a) da. 3.10.36. Используя разложение через сингулярные значения, покажите что /Х/С-матрица А ранга L может быть записана, как А=ВС, где В—мат- В—матрица размера JXL и С—размера Lx/C. З.Ш.37. Пусть гхг-матрица Zo имеет DetZe^0. Покажите, что элементы матрицы Z~i являются голоморфными функциями от Z в окрестности Zo.
СТОХАСТИЧЕСКИЕ СВОЙСТВА КОНЕЧНОГО ПРЕОБРАЗОВАНИЯ ФУРЬЕ 4.1. Введение Рассмотрим последовательность r-мерных векторов X (t), 2 = 0, ±1, .... В предыдущей главе мы изучали различные свой- свойства конечного преобразования Фурье d?>(X)= 23 Х@ехр{-Ш}, -оо<Х<оо, D.1.1) предполагая X(t) заданной неслучайной функцией. В этой главе приводятся разнообразные свойства величин d(p(k), соответст- соответствующих стационарным временным рядам X (t), t = 0, ±1, Кроме того, для таких X (t) будут рассмотрены асимптотические распределения, оценки с вероятностью 1, свойства сверток, а также выведено представление Крамера. Мы уже упоминали, что преобразование Фурье обладает ря- рядом ценных свойств; например, в гл. 3 было показано, что дискретное преобразование Фурье можно легко подсчитать с по- помощью алгоритма быстрого преобразования Фурье. Теперь нам предстоит проверить, что это преобразование обладает полезными и элементарными статистическими свойствами. По всем этим при- причинам преобразование Фурье играет основную роль при анализе временных рядов. Однако прежде чем излагать статистические свойства преобра- преобразования D.1.1), определим два типа комплексных случайных величин. Эти величины будут важны при исследовании распре- распределений различных статистик, связанных с временными рядами. 4.2. Комплексное нормальное распределение Если X —случайный вектор с г действительными компонен- тамц, имеющий нормальное распределение со средним рх и ковариационной матрицей 2^> то условимся писать, что X имеет распределение Nr(iiXi %Xx)- На протяжении всей книги нам часто придется рассматривать случайные векторы X, имеющие г
4.2. Комплексное нормальное распределение 99 комплексных компонент. Мы скажем, что такой вектор X имеет распределение Ncr(iix, 2И), если сопоставленный ему вектор с 2г действительными компонентами имеет распределение l D 2 1) lmXj ( ' где iix — 'некоторый r-компонентный комплексный вектор, а 2^ — эрмитова неотрицательно определенная г xr-матрица. В этом слу- случае говорят также, что X является комплексной многомерной нор- нормально распределенной величиной со средним рх й ковариацион- ковариационной матрицей 2И. При этом ЕХ = |шх, D.2.3) = 2„ D.2.4) = 0. D.2.5) Отметим, что для класса комплексных векторных случайных вели- величин, действительная и мнимая части которых имеют совместное многомерное нормальное распределение, справедливо свойство: если матрица D.2.4) диагональна, то компоненты вектора X будут статистически независимы, см. упр. 4.8.1. Различные свой- свойства нормального распределения рассмотрены в статьях: Woo- Wooding A956), Goodman A963), James A964); см. также 'упр. 4.8.1—4.8.3. Упомянем следующее свойство. Если матрица 2ХХ не вырождена, то дифференциал распределения вероятности век- вектора X дается формулой D.2.6) для —oo<R"eX/, ImXy<oo. В случае г=1, если X имеет распределение N^(ixx,axx), то величины ReX и 1т X незави- независимы и имеют соответственно распределения Ni(R,e\iXy oxx/2) и Переходя к другому классу величин, предположим, что Xlf .. .,ХИ независимы и имеют распределение Nr@t %хх). Тогда говорят, что гхг-матричная функция W=2XyXJ D.2.7)
100 4. Стохастические свойства конечного'преобразования Фурье имеет распределение Уишарта размерности г с п степенями сво- свободы. Это условие записывается так: W имеет распределение Wr(n,%Xx). С другой стороны, если X*, .. .,ХЯ — независимые величины с распределением N^ @, ЪХх)> то говорят, что гхг-мат- ричная случайная величина W= 2 ХД) D.2.8) имеет комплексное распределение Уишарта размерности fen степенями свободы. В этом случае пишем, что X распределена как W? (п, %Хх)- Комплексное распределение Уишарта ввел Good- Goodman A963). Свойствам этого распределения посвящены упр. 4,8.4—4.8.8; см. также-Srivastava A965), Gupta A965), Kabe A966, 1968), Saxena A969) и Miller A968, 1969). Плотность этого распределения имеет вид я^^^П Г(л —/ + 1) (DetS^-^DetWI»-' Xexpj-trSAW}; D.2.9) здесь n^rHW^O. В числе других свойств отметим следующие: D.2.10) л2и D.2.11) и . D.2.12) Комплексное распределение Уишарта будет полезно при по- построении аппроксимаций для распределений оценок матрицы спектральной плотности. : В последних главах книги нам понадобится понятие асимпто- асимптотической нормальности. Говорят, что r-компонентная векторная последовательность gr, Т = 1, 2, ..., имеет асимптотически нор- 1\шльное распределение Nr(\iT, Sr), если последовательность Sr1/2 (?г~~~Мт) сходится по распределению к Afr(O, I). Говорят также, что r-компонентная векторная последовательность ?г, Т=1,2, ..., имеет асимптотически нормальное распределение N?(iiTi Sr), если последовательность S^1/2 (gr — jnr) сходится по распределению к.Л^@, I).
4.3. Стохастические свойства конечного преобразования Фурье 101 4.3. Стохастические свойства конечного преобразования Фурье Рассмотрим векторный r-компонентный стационарный ряд Х@» f= 0, ±1, .... В этом параграфе будут выведены асимпто- асимптотические выражения для кумулянтов конечного преобразования Фурье отрезка наблюдений указанного ряда. В § 3.3^ мы видели, что некоторые преимущества по сравнению с обычным конечным преобразованием Фурье можно получить, вводя в определение преобразования множители сходимости. Будем использовать мно- множители сходимости и здесь, тогда результаты для обычного конечного преобразования Фурье получатся как частный случай. Нам понадобится Условие 4.3.1. Функция h(u), — оо < и < оо, ограничена, имеет ограниченную вариацию и обращается в нуль при \ и | > 1. Предположим, что /ia (м) удовлетворяют этому условию для а=1, ...,г. Конечное преобразование Фурье, которое мы рас- рассматриваем, определяется формулой AT (X) = [2ha(t/T)Xa(t)exp {-М}.] ==[d(aT){X)] для — оо<Х<оо, а = \, ..., г. D.3.1) В данном контексте функция ha(t/T) будет называться окном просмотра данных или сглаживающей функцией. Преобразование вовлекает только члены ряда X(t) с < = 0, ±1, . *., ±(Г —1). Если ha (u\*= 0 при и < 0, тогда в преобразование войдут лишь значения X(t) при t = 0, . ..,Т— 1. Таким образом, асимптоти- асимптотические результаты мы сможем применять как к двусторонним, так и к односторонним статистикам. Если не известен некоторый отрезок наблюдений внутри периода наблюдений ряда, то можно оперировать только имеющимися в распоряжении данными, вы- выбрав функцию h(t/T)> обращающуюся в нуль на этом отсутст- отсутствующем отрезке. Если компоненты ряда наблюдались на разных временных промежутках, то можно взять ha(t/T), не обращаю-' щейся в нуль на этих промежутках. Положим HZ\... ak M = S [ЙК, {ЦТ) ] ехр {- Щ для — оо < Л, < оо ' и аи ..., ak*= 1, ..., г. D.3.2) Если .же <'... ak (A.) = j [б ha. (f)] exp {- Ш}dt D.3.3)
102 4. Стохастические свойства конечного преобразования Фурье и если допустимо применение формулы суммирования Пуассона [Edwards -A967, стр. 173)], то к 2 а1...ак([ + ]). D.3.4) Рассмотрение множителей сходимости в § 3.3 наводит на мысль, что значения Нпх... ak будут велики только для К, близких к 0. Отсюда последует, что функция D.3.2) будет принимать большие по величине значения только для К близких к кратным 2я. Напомним, что С*... Ч (Ui% . . ., ИЛ_1) = СШП {Хп1 (t + U±)9 . . . Xak_t (* + H*-l), Хак (t)\ D.3.5) и что при 2... 2 \Сь...ак{Щ, ...,^-i)|<oo D.3.6) определялась функция fat ... аЛ(^1» • • • » ^Л-i) = Bя)-*+12... S ехр {- / (Mi+.. • + Vi^-i» XCat ./.ak(UU •••» ^-i)- D.3.7) Используя эти функции, сформулируем следующую теорему. Теорема 4.3.1. Пусть X (t), t = 0, ± 1, ..., —стационарный векторный г-компонентный временной ряд, для которого выпол- выполнено D.3.6). Предположим, что ha(u), —оо<а<оо, удовлет- удовлетворяет условию 4.3.1 для а=\> ..., г. Тогда D.3.8) cum {4Г) (М, • • • > <} (*-*)} <^ Bп)^ТНп1 ... а, @) Х/а1...а,(^, ..., Vi). D.3.9) причем оценка порядка дстаточного члена равномерна по Если %i+... +Xk = 0(mod2n)9 то Если же %i+ ...+кнщк0 (mod2n), то кумулянт будет иметь меньший порядок роста по Т. Упражнение 4.3.9 позволяет пред- предположить, что при оценке кумулянтного спектра D.3.7) можно
4.3. Стохастические свойства конечного преобразования Фурье 103 исходить из . величин d^ (К)> • • •.<*<?> (кк), у которых Хх + ... ... +%к = 0 (mod2jt). . В некоторых случаях остаточный член в выражении D.3.8) имеет порядок меньший, чем о(Т). Допустим, что вместо D.3.6) выполнено условие 2-.« 2 [1 + 1 И/ПК ...**("!• •••» M*-i)l<°°»  uk-i /=1, ...,*-1. D.3.10) Тогда справедлива Теорема 4.3.2. Пусть X(t), t==0, ±1, ...,— векторный ста- стационарный г-компонентный ряд, удовлетворяющий условию D.3.10). Предположим также, что для ha(u), — оо < и < оо, выполнено условие 4.3.1 'при а—\, ..., г. Тогда D.3.11) причем оценка порядка остаточного члена равномерна по ^i» •• •» ^л- С качественной точки зрения результаты теорем 4.3.1 и 4.3.2 одинаковы. Однако последняя показывает, что ослабление меры зависимости внутри рассматриваемого ряда, о чем свидетельст- свидетельствует замена условия D.3.6) на D.3.10), приводит к уменьшению асимптотического остаточного члена. Согласно упр. 4.8.14, оста- остаточный член можно сделать еще меньше путем выбора таких множителей ha(u), для которых преобразование Фурье быстро обращается в нуль с ростом \%\. Множитель сходимости 1 при 0<и< 1, Л D.3.12) 0 для остальных и v ; представляет особый интерес. В этом случае преобразование Фурье имеет вид 2{— Щ Д^ — оо<Ь<оо. D.3.13) Из выражения D.3.2) получаем Г-1 Н{1\.. ak (X) = 2 ехр {— iXt) - Д<Г) (X). D.3.14)
104 4. Стохастические свойства конечного преобразования Фурье Функция Д(Л(А,) обладает следующими свойствами: Ат(к) = при A, = 0(mod2ji), Aa)Bns/T) = 0 для целых O(dT Справедлива также оценка | Дт (к) | ^ 1м sin у к щая, что при Я, не являющихся близкими к кратным 2я, значе- значения Д(Л (к) не слишком велики. В нашем случае выражение D.3.11) примет вид показываю- показываюcum{^(М, <Ч^)} ^|) D.3.15) Этот совместный кумулянт принимает большие по величине зна- значения, когда сумма А,1+...+Ял близка к некоторому кратному 2я. Заметим, что первый член в правой части выражения D.3.15) обращается в нуль для Xj = 2nsj/T, где sy- — целые числа, такие, что Si+... +sk^0(modT). Выражение D.3.15) выведено в Brillinger, Rosenblatt A967a); укажем также другие работы, посвященные этой теме: Davis A953), Root, Pitcher A955), Kawata. A960, 1966). Согласно упр. 4.8.21, в некоторых случаях для введения коэффициентов сглаживания эффективнее проводить вычисления не с функциями времени, а с функциями частоты. 4.4. Асимптотическое распределение конечного преобразования Фурье В предыдущих параграфах были получены асимптотические выражения для совместных кумулянтов конечного. преобразова- преобразования Фурье стационарных временных рядов. В настоящем пара- параграфе мы используем найденные выражения при выводе предель- предельного распределения этого преобразования. Введем обозначение Су=ЕХ(/). Имеет место Теорема 4.4.1. Пусть г-компонентный ряд X (/), t = 0, ± 1,..., удовлетворяет условию 2.6.1. Пусть Sj(T) —такое целое число, что Xj (Т) = 2ns, (Т)/Т —* %j при Т —> оо для j = 1, ..., J. Предполо- Предположим, что Щ(Т), 1к;-(Т)±кк(Т)ф0(той2п) для 1 </<&<«/. Полагаем т-\ d(P(X)= 2 Х(*)ехр{—Ш} для — оо<Ь<оо. D.4.1) Тогда случайные величины d(/} (Я,у. (Г)), /"= 1, ...,/, асимптоти- асимптотически независимы и соответственно имеют распределение
4.4. Лсимптическое распределение конечного преобразования Фурье 105 N? @, 2пТ\хх (Лу)). Кроме того, если X == 0, ± 2я, ..., то &Р (X) является величиной, асимптотически распределенной как Nr (Тсх, 2nTixx (X)) и не зависящей от предыдущих величину если же Х = ± я, ±3я, ..., то d(p (X) является 'величиной, не завися- зависящей от предыдущих величин, и распределенной как Nr @, 2nTixx (К)). В случае Х = 0 имеем d(/)@)=2X@ D.4.2) t = o и наша теорема представляет собой центральную предельную теорему для ряда Х(?). Другие варианты центральной предель- предельной теоремы для стационарных последовательностей -приводятся в работах: Rosenblatt A956, 1961), Леонов и Ширяев A960), Iosifescu, Theodorescu A969, стр. 22), Philipp A969). Условия асимптотической нормальности коэффициентов Фурье исследованы Kawata A965, 1966). Если выполнены условия теоремы и Xj = X, /==1, ...,/, то dlP (hj (T)), j = 1, ...,/, ведет себя примерно как выборка объема- J из распределения N^ @, 2nTlxx(k)). Последнее замечание будет полезно позднее, когда появятся оценки fxx(k) и аппроксимации к интересующим нас статистикам. Если при вычислении конечного преобразования Фурье ряда Х(?), tf = 0, ± 1, ... , применяются множители сходимости, то справедлив следующий альтернативный вариант центральной пре- предельной теоремы. Теорема 4.4.2. Пусть г-компонентный векторный ряд \{t), f = 0, ± 1, ..., удовлетворяет условию 2.6.1. Предположим, что 2Xj, Xj ±Хкф0 (mod 2я) для 1 ^ / < k ^ /. Пусть г-ь • <1(аТ)(Ь) = 1<К(-т)ХаУ)ЫР{-М\, D-4.3) 2де К (t) удовлетворяет условию 4.3.1, а = 1,"...,. г. Тогда d(/} (Xj), .Xy^0(mod2n), / = 1, ...,/, являются асимптотически незави- независимыми величинами с распределением Nf @, 2nT[Hab @) fab (Kj)])9 Если Х = 0, ± 2я, ..., mo d{p (X) имеют асимптотически распре- распределение Nr(T[caHa(Q)], 2лТ[НаЬ@) fab (X)] и независимы от предыдущих величин; если X = ± я, ± Зя, ..., mo d(/) (X) имеет асимптотически распределение Nr @, 2яТ [ЯаЬ @) /flb (A,)J) ^ я^ зависит от предыдущих величин. Если сглаживание всех компонент X (t) производится с по- помощью одного и того же множителя h(t), то асимптотическая ковариационная матрица d(p {X) такова: 2stT[h(tJdttxx(K) для — оо<Х<оо. D.4.4)
106 4. Стохастические свойства конечного преобразования Фурье Налагая дополнительные условия регулярности на ha(f), а=\, ...,г, можно получить теорему, описывающую поведение ФР(^/0О)» К0ГДа последовательности частот ^(Т) стремятся к пределам Ау,/=1, ...,/; см. BriHinger A970) и упр. 4.8.20. Величины d{p (Л/ (Т)) оказываются асимптотически независимыми, если только hj(T)9 kk(T) не слишком близки друг другу по mo'd2jt для l^.j<k^.J. В упр. 4.8.23 определено асимптоти- асимптотическое поведение преобразований Фурье, построенных по непере- непересекающимся отрезкам данных. Предположим, что спектр мощности fXx(ty действительного стационарного ряда X (/), f = 0, ±1, ..., приблизительно равен постоянной, скажем, сР/Bп), — оо < X < оо. Согласно теореме 4.4.1, значения d{p Bns/T)> s= 1, ..., (Т— 1)/2, являются при- приблизительно независимыми величинами с распределениями iVf @, То2), и, следовательно, значения Re,d(/> Bns/T), lmd{PBns/T)у s = 1, ..., (T—1)/2, будут почти независимыми Nt @, Та2/2)-величинами. Займемся теперь частичной эмпириче- эмпирической проверкой этого заключения. Рассмотрим ряд V(t), t = 0, I, ..., средних месячных темпе- температур в Вене за период с 1780 по 1950 г. Этот ряд, отрезок которого изображен на рис. 1.1.1, обладает ярко выраженной годовой периодической компонентой. Для того чтобы получить ряд с почти постоянным спектром мощности, мы попытались убрать эту периодическую компоненту, вычитая из каждого зна- значения месячной температуры среднюю температуру для данного месяца, вычисленную по всему отрезку данных. А именноь был составлен ряд ^l]ji D.4.5) для / = 0, ..., 11 и & = 0, 1, ... . Затем мы вычислили преобра- преобразование Фурье d(p Bas/T)9 s=l9 ..., (Т—1)/2, взяв 7=2048 = 2П, так что можно было использовать алгоритм быстрого преобразо- преобразования* Фурье. На рис. 4.4.1 . и 4.4.2 представлены кривые вероятностных распределений соответственно для Щ, s=\, ..., 1000, y-S) , s=l,...., 1000. Способ построения таких графиков изложен в работе Chernoff, Lieberman A954). Оцениваемый спектр мощности этого ряда (явное выражение для спектра приведено в § 7.8) медленно ме- меняется с ростом Я и остается практически постоянным. Если кажда/ переменная имеет одно и то же маргинальное нормаль-
4.4. Асимптическое распределение конечного преобразования Фурье 107 .256.. .112 -.032 -.176 -.320 -3.50 -2,50 -1.50 -.50 .50 1.50 2.50 3.50 К8анти/ш Рис, 4.4.1. График действительной части дискретного преобразования Фурье ряда среднемесячных (без сезонной составляющей) температур в Вене с 1780 по 1950 г., построенный на нормальной вероятностной бумаге. ное распределение, то их значения на плоскости будут лежать вблизи прямой. Полученные нами графики отличаются от пря- прямых, по сути дела, лишь на концах. Это подтверждает заклю- заключение теоремы 4.4.1 по крайней мере для таких рядов. Теоремы, приведенные в этом параграфе, оправдывают заме- замечание, которое часто встречается в литературе по теории связи: ряд, получающийся на выходе фильтра с узкой полосой пропу- пропускания, является приблизительно гауссовским; см. Rosenblatt A961). Рассмотрим передаточную функцию фильтра с узкой полосой пропускания, центрированной на частоте %0: D.4.7) л п\ _ ' 1 ПРИ I ^ ^ ^o I ^ ~f > "" (О в противном случае. Если на вход этого фильтра подается ряд X(t), t = 0y ± 1, ..., то выражение C.6.8) предыдущей главы показывает, что на вы- выходе получится ряд, который аппроксимируется следующим об- образом: /2jxs\ d-jexp . . * = 0, ±1, ..... D.4.8)
108 4. Стохастические свойства конечного преобразования Фурье i } .256 .112 -.032 -.176 -.320 -• -** X 1 1 t r к X* 1 1 1 -3.50 -2.5.0 -1.50 -.50 .50 1.50 2.50 3.50 Кбанти/ги Рис. 4.4.2. График мнимой части дискретного преобразования Фурье ряда среднемесячных (без сезонной составляющей) температур в Вене с 1780 по 1950 г., построенный, на нормальной вероятностной бумаге. Здесь s—целая часть от ТХ0/Bп), поэтому 2ns/TzL'k0. В случае когда А,0^0(тос1я), согласно теореме 4.4.1, величина D.4.8) будет иметь асимптотически распределение N (OA^T^fxxiK))- По этому поводу см. также Леонов и Ширяев A960), Picinbono A959), Rosenbratt A956c). Полезный результат содержится в упр. 4.8.23, которое показывает, что конечные преобразования Фурьё, построенные по последовательным отрезкам данных, будут при некоторых условиях асимптотически независимы и одинаково распределены. ~ 4.5. Оценки, имеющие место с вероятностью 1 Иногда бывает полезно иметь оценки конечного преобразова- преобразования Фурье 2 D) D.5.1) как функции X и объема выборки Т. Отметим следующий ре- результат. • '
4.5. Оценки, имеющие место с вероятностью 1 109 Теорема 4.5.1. Пусть ряд X{t), t = 0, ±1, ..., с нулевым средним у принимающий действительные значения, удовлетворяет условию 2.6.3. Пусть также h(t) удовлетворяет условию 4.3.1 и (VPCk) задается формулой D.5.1). Тогда с вероятностью единица TETsup \d$> (K)\/(T logTI/» ^2 [2n\te{t)dt sup fx D.5.2) Это означает, что с вероятностью 1 для любого /С>1 про- произойдет лишь конечное число событий sup | dT (X) | > КG log r)V2 2 {2я J /i2 @ dt sup /xx (X)}1/2 7=1, 2, .... D.5.3) Из выражения D.5.2) видно, что при указанных условиях преобразование Фурье имеет порядок роста не более G1og7I/2. Если значения X(t) ограничены постоянной, скажем М, то эле- элементарное неравенство D.5.4) дает порядок роста не выше чем 7. С другой стороны, если рассматривать [^^(Х)! для фиксированной частоты, то можно применить закон повторного логарифма; Maruyama A949), Part- hasarathy A960), Philipp A967), Iosifescu A968), Iosifescu, Theo- dorescu A969). Закон повторного логарифма приводит к заклю- заключению о скорости роста порядка G log log 7I/2; другие резуль- результаты типа D.5.2) можно найти в работах: Salem, Zygmund A956), Whittle A959), Kahane A968). Из теоремы 4.5.1 немедленно вытекает, что при сформулиро- сформулированных условиях регулярности sup | d</> (^) |/Г — 0 D.5.5) At к с вероятностью 1 при 7--*оо. В частности, полагая Х = 0, полу* чаем, что с вероятностью 1 при 7 —> оо 2 X{t)/T-+09 m D.5.6) * = о т. е. справедлив усиленный закон больших чисел. Подобные ре- результаты содержатся в работе Wiener, Wintner A941). Продолжая рассмотрение различных асимптотических резуль- результатов, предположим, что s-компонентный векторный ряд Y(/), t=*09 db 1, ..., представляет собой профильтрованный ряд
ПО 4. Стохастические свойства конечного преобразования Фурье Х(О, т. е. оо Y@= 2 a(f —и)Х(и) D.5.7) М= -со для некоторого sxr-матричного фильтра {а (и)}. , В некоторых случаях будет представлять интерес связь конечного преобразо- преобразования Фурье ряда Y (t) с конечным преобразованием Фурье для ряда X(t). Согласно лемме 3.4.1, если ряд Х(/), t = 0, ±1, ..., ограничен и 2 A+М)|аМ|<оо, D.5.8) «=-00 то существует постоянная /С<оо, такая, что sup | d(yr> (*) —А (Ь) d(xr) (X) | < К, D.5.9) где А(Я,) = 2 а(«)ехр{—йл}. D.5.11) М=-оо В случае когда Х(?), ^ = 0, ±lt •••, является г-компонентным стохастическим рядом, справедлива Теорема 4.5.2. Пусть г-компонентный векторный ряд X(t), t = 0, ±1, •••> удовлетворяет условию 2.6.3 и имеет нулевое среднее. Пусть Y (t) задается формулой D.5.7), где {а(и)} удов- удовлетворяет условию D.5.8). Тогда существует, такая постоянная L, что с вероятностью 1 l^sup\dlYT>{X)—A(X)uW(X)\/{\ogT)V*<L. D.5.12) Т -> оо к Выражение D.5.12) показывает, что порядок возможной ско- скорости роста для не превосходит (logГI/2. В теореме 4.5.3 продемонстрировано, что эта оценка скорости сходимости может быть доведена до по- порядка r-^logTI/8, если в преобразование Фурье предвари- предварительно ввести множитель сходимости. Теорема 4.5.3. Пусть г-компонентный векторный ряд Х(/), 2 = 0, ±1, ..., имеющий нулевое среднее, удовлетворяет условию
4.6. Представление Крамера 111 2.6.3, и пусть Y (t) задается формулой D.5.7), где {а(м)} удов- удовлетворяет условию D.5.8). Пусть также где h (и) имеет равномерно ограниченную производную и h (и) = О при \и\^1. Тогда существует постоянная L<oo, такая, что с вероятностью 1 ч TSTsup | d(yr> (X) -А (X) d(P (X) | T«*/(log Г)V2 < Lm D.5.14) В случае когда Х(?), * = 0, ±1, ...,— ряд, состоящий из неза- независимых величин, ряд Y@, определяемый формулой D.5.7), представляет собой линейный процесс. Выражения D.5.12) и D.5.14) показывают, как можно изучать выборочные свойства преобразования Фурье линейного процесса с помощью выбороч- выборочных свойств преобразования Фурье ряда из независимых величин. Такой подход применялся Бартлетом A966, § 9.2). В ряде случаев представляют интерес грубые оценки роста sup | dxr) (Ц |, когда ряд X (/), t = 0, ± 1, ..., удовлетворяет более слабому условию 2.6.1. Теорема 4.5.4. Пусть ряд X(t), t = 0, ±1, ..., принимаю- принимающий действительные значения, имеет нулевое среднее и удовлет- удовлетворяет условию 2.6.1. Пусть функция h(t) удовлетворяет усло- условию 4.3.1 и d(x] (Ц задается формулой D.5.1). Тогда для любого е>0 | d(p щ ^ о D.5.15) с вероятностью '1 при Т—>оо. 4.6. Представление Крамера В § 3.9 были получены два спектральных представления для временных рядов, рассматривавшихся в рамках функционального подхода, а в этом параграфе мы получим спектральное представ- представление при стохастическом подходе к анализу временных рядов. Это представление было введено Крамером [Cramer A942)]. Пусть X@, * = 0, ±1, ..., есть /--компонентный ряд. Рас- Рассмотрим множитель сходимости при Ы<1, A F ' '^ D.6.1) 0 при остальных и v '
П2 4. Стохастические свойства конечного преобразования Фурье и соответствующее конечное преобразование Фурье dP(X) = 2 Х(*)ехр{-М[. D.6.2) Это преобразование будет играть основную роль при выводе нужного нам представления. Положим 2nZP (X) = J йР (a) da. D.6.3) о Тогда 2nZp (X) = 2 X (t) [I -exp {-iXt}]/(-it), D.6.4) если считать, что [1— ехр{—Ш}]/(—it) = X при *-0. * D.6.5) Пусть 00 \К) = . 2л О (K~f- ZTtj) D.b.b) будет 2я-периодическим расширением дельта-функции Дирака. После введения этих обозначений мы можем сформулировать следующую теорему. Теорема 4.6.1. Пусть ряд X(t), ? = 0, ±1, ..., удовлетво- удовлетворяет условию 2.6.1, и пусть Zp (Я), —оо<Я<оо, задается формулой D.6.4). Тогда существует Zx(k), —оо<А<оо, такая что Zp (k) сходится к Zx (k) в. среднем порядка v для любого по- положительного v. Кроме того, Zx (X+2n)=Zx (X), Zx (X)~ZX (—X) и о о ai9 ..., аЛ=1, ..., r; k = 2t 3, .... Соотношение D.6.7) можно переписать в дифференциальной форме: cum{dZai(K)> •••, dZak(K)} = ...*№> •••> ^-i)^i ... dXk. D.6.8) Выражение D.6.8) показывает, что cov {dZx (Я), dZx Oi)} = r, (X-|i) fxx (X) Лф,, D.6.9)
4.6. Представление Крамера 113 где fxx (ty обозначает матрицу спектральной плотности ряда Х@- Приращения Zx(k) ортогональны, кроме тех случаев, когда X = ^(mod2jt). Далее, совместные кумулянты приращений будут очень малы, кроме случаев 2^/^0(m°d2n). Приращения 2х(к) ведут себя примерно так же, как величина d^P (к), рассмотрен- рассмотренная в § 4.3., В теореме 4.6.2 нам встретится стохастический интеграл вида 2л \<KX)dZx(l). D.6.10) о Если 2л <р \Ь*)лхх (Л>) <р (fa) u/v <С оо, ^4.0.11) 0 • то этот интеграл определяется как предел в среднеквадрати- ческом: 2л N~{ Cramer, Leadbetter A967, § 5.3). Теперь мы можем ввести пред- представление Крамера ряда Х(^), / = 0, ±1, ... . Теорема 4.6.2. При выполнении условий теоремы 4.6.1 с веро- вероятностью 1 2л , ' Щ<ИХ(Ц> t = 0, ±1, ...; D.6.13) при этом 1Х Щ удовлетворяет условиям и обладает свойствами, указанными в теореме 4.6.1. Иногда бывает удобнее переписать D.6.13) в виде, использую- использующем переменные с действительными компонентами. Положим Для этих функций
114 4. Стохастические свойства конечного преобразования Фурье Если воспользоваться равенствами то из формулы D.6.8) получим cum \dUa, (%,) dUak (A,,), dVbl (щ), .... dVb( |» D-6.18) = ± 1. В случае cov {dVx (X)f dVx <р)\ =1 {Л (Ь-1*) + Л где суммирование ведется по всем е, у = ± 1. В случае k-\-y = из этих соотношений вытекает D.6.19) D.6.20) cov {d\x (I), d\x (|i)} =4 {Л (X—|л) - D.6.21) Представление Крамера D.6.13) можно тогда записать в таком виде: S / '< = 0, ±1, .... D.6.22) о Преобразование Крамера особенно удобно использовать для того, чтобы понять, каков эффект применения той или иной опе- операции к интересующему нас ряду. Рассмотрим, например, про- профильтрованный ряд *@ = 2а(* —и)Х(а), * = 0, ±1, ..., D.6.23) и предполагая, что для ряда X (t) справедливо представление Кра- Крамера D.6.13). Если для функции А(А,) = 2а(а)ехр{—Ш*}, — oo<Jl<<x>, D.6.24) и существует интеграл J A(X)fM(X)ТЩХ<&< оо, D.6.25)
4.6. Представление Крамера П5 ТО (X)y *==0, ± 1, D.6.26) В дифференциальной форме последнее соотношение можно запи- записать так: dlY (Я) = А (К) dZx (X), — оо < X < оо. D.6.27) В качестве примера применения формулы D.6.27) отметим, что она вместе с равенством D.6.9) сразу дает соотношение fYY(X) = A(X)fxx(X)A(Xy> D.6.28) полученное в § 2.8. Предположим, что к каждой компоненте ряда Х(/), * = 0, ±1, . .^, применяется фильтр, пропускающий определенную по- полосу частот, который имеет передаточную функцию D 6 29) О в противном случае (здесь —я < X ^ я). * Пусть, далее, преобразование Крамера ряда X(t) можно за- записать в виде л. X (9 = $ ехр {Ш}dZx(К). D.6.30) -Я Тогда профильтрованный ряд можно представить следующим об- образом: /-ю+Д ю+Д\ Y (t) = \ \ ~Ь \ г ^^Р {^#W} dZ% (X) \-о~А о-А/ i ехр {t(of} dZ? ((о) + ехр {—to^} dZx (—со) (©)]; D.6.31) подразумевается, что приближенное равенство имеет место при малых А. Результат воздействия фильтра, 'пропускающего ука- указанную полосу частот, состоит в выделении из преобразования Крамера гармонических колебаний, имеющих частоты, близкие к ± со. При малых Д ряд Y (t) иногда называют компонентой частоты со для ряда X (t) й обозначают как X (t, о), подчерки- подчеркивая тем еамым зависимость от со и игнорируя зависимость от А. Рассмотрим по'лный набор фильтров с взаимно исключающими полосами пропускания, имеющих следующие передаточные функ-
116 . 4. Стохастические свойства конечного преобразования Фурье ции: „/WJ»11I"fX±2'4'<4- D.6.32) 1 v ' [ О в противном случае, / = 0, 1, ..., J и B/ + 1)Д = я. Тогда ряд X(t), * = 0, ± 1, ..., может быть представлен в виде суммы своих частотных компонент: X@=2X(*f 2/А), * = 0, ±1, ... . D.6.33) /=о . В дальнейшем мы увидим, что многие полезные статистические процедуры имеют характер элементарных воздействий на отдель- отдельные частотные компоненты изучаемых рядов. Рассмотрим теперь результат применения преобразования Гиль- Гильберта к каждой компоненте ряда Х(?), f=0-, ±1, ... . Переда- Передаточная функция преобразования Гильберта, как мы знаем, зада- задается формулой А (Х) = — isgnX, —я<Я<я. D.6.34) Если преобразование Крамера ряда Х(?) записать в виде Х@= S [cosMd\Jx(k) + sinXtdtix(X)]t D.6.35) — Л то сразу видно, что X@H= J [smltd\Jx(X)—cos'KtdVx(X)]. D.6.36) Гармонические колебания в этом представлении изменили фазу на я/2. Для X (t, со)—компоненты частоты со ряда X (t)—из равен- равенства D.6.36) получаем, что X(ty (o)HJL2[sm(otd\}x((j>)—cosco^dV^(co)], D.6.37) и поэтому . X (t, ш) -}-/X (ty со)я _^_ 2exp {tot} dZ% (со). D.6.38) Выражение D.6.38) позволяет дать другую интерпретацию диф- дифференциала dZj^(co), появляющегося в представлении Крамера. Рассмотрим далее ковариационную матрицу 2г-комгтонентного векторного ряда ГХ(<, со) , 1 V ; ' D.6.39)
4.6. Представление Крамера . 117 Элементарные выкладки показывают, что в случае со ф О (mod я) она имеет вид [Re fхх (со) Im fxx (со) 1 т V / -n / 4А = ^И/?4А D.6.40) [-Imfx^(co)Ref^(o>)J xxx ' v ; и в случае со = 0 (mod я) будет [Ref^v(co)" Imfvv(co)"| ' т V / чп / I 2А = !^(©)^2А. D.6.41) Эти соотношения полезны для интерпретации действительной и мнимой частей матрицы спектральной плотности временного ряда. В качестве другого примера использования представления Крамера рассмотрим, какой вид можно придать с его помощью конечному преобразованию Фурье. Пусть dx > (X) - ^Л (^г) X (t) exp {-Ш}, D.6.42) где h(u)—некоторый множитель сходимости. Прямая подстановка показывает, что 2я d{? (X) = J #(Г> (Х-а) dlx (a), D.6.43) о где / 4 \ D.6.44) Из проводившегося ранее обсуждения свойств множителей сходи- сходимости можно заключить, что при больших Т функция Н^Т) (К—а) сконцентрирована 'в окрестности X = a (mod 2я). Следовательно, из формулы D.6.43) получаем, что при больших Т функция й{х] (X) несущественно отличается от dZx(X). В заключение отме- отметим также, что формулы D.6.8) и D.6.43) влекут за собой точное равенство cum о о Х/в1...вл(а1, ..., a^da^^da^ D.6.45) Полезно сравнить это равенство с асимптотическим выражением D.3.8). ' ' ' В действительности Cramer A942) получил представление D.6.13) при выполнении условий теоремы 2.5.2. В этом более
118 4. Стохастические свойства конечного преобразования Фурье общем случае функция Zx(k) удовлетворяет соотношению cov jdZx (Я), dZx (,!)} = г, (Х-ц) dFxx (Я) ф,, D.6.46) где FXX(A,) обозначает г х r-матричную функцию, существование которой вытекает из теоремы 2.5.2. Но интегральное представле- представление в этом случае справедливо, только если интеграл понимается в среднеквадратическом смысле; можно получить этот результат, модифицировав доказательство теоремы 3.9.1. 4.7. Анализ главных компонент и его связь с представлением Крамера Пусть Y есть /-компонентная векторная случайная величина с ковариационной матрицей 2уу. Если компоненты вектора Y коррелированы и их число J больше двух или больше трех, то часто бывает трудно понять существенную статистическую при- природу Y. Рассмотрим поэтому задачу нахождения величины ? бо- более простой, чем Y, но которая содержала бы почти всю стати- статистическую информацию, заключенную в Y. Будем искать ? вида g = AY, D.7.1) где А—некоторая /С X «/-матрица, такая, что/С</. Требование, чтобы величина ? содержала большую часть статистической инфор- информации, имеющейся в Y, формализуем следующим образом: ? должна минимизировать функцию minE{(Y-B-CSHY-B-C?)}, B/xl, CJxK. D.7.2) В, С * - Справедлива Теорема 4.7.1. Пусть Y есть, J-компонентная величина с ко- вариационной матрицей 2ГГ. Матрица А размера /Сх/, кото- которая задает ? по формуле D.7.1) и минимизирует функцию D.7.2), имеет вид Щ D.7.3) где Uy есть /-й собственный вектор матрицы 2КГ, /=1, ..., Л При этом минимальное значение D.7.2) равно ДИ/. D.7.4)
4.7. Анализ главных компонент 119 где \if есть j-e собственное значений Srr. Экстремальными матри- матрицами В, С будут B = E{Y}— CAE{Y}. D'7'5) Компоненты величины ? называются главными компонентами Y. Они имеют вид ?y=UJY, и для них coy {Су, U = 0 при 1 D.7.6) Величина ?, следовательно, проще устроена, чем Y. Эта теорема приводит к рассмотрению аппроксимаций /-ком- /-компонентной величины Y посредством выражения D.7.7) D.7.8) й ее [-Й компоненты посредством выражения Ошибка при такой аппроксимации величины Y с помощью D.7.7), как показывает D.7.4), зависит от величины собственных значе- значений с номерами />/С- Если K=J, то ошибка равна 0 и выра- выражение D.7.8) дает представление Y через некоррелированные величины ?у. Мы подробно изучим свойства главных компонент в гл. 9. Главные компоненты были введены в работе Hotelling A933). Теорема 4.7.1 восходит к Kramer H. P., Mathews A956), а также Rao A964, 1965). Теперь перейдем к случаю, когда величина Y представляет собой отрезок наблюдений некоторого действительного стационар- стационарного временного ряда X(t), t = — Г, ..., Т. В этом случае ГХ(— Т)' Y- Х@) . D.7.9) 1Х(Т) Предположим, что схх(и)у и — 0у ±1, ..-,— автоковариационная
120 4. Стохастические свойства конечного преобразования Фурье функция ряда X{t), /=^0, ±1, .... Тогда ш % ГсХх@) сххA) ... с„BТ)' схх(—1) D.7.10) _с„(-2Т) . ... схх@) ^ Согласно изложенному выше, главные компоненты вектора D.7.9) будут выражаться через собственные векторы матрицы D.7.10). Эта матрица представляет собой конечную теплицеву матрицу, поэтому, как следует из § 3.7, ее собственные значения и соб- собственные векторы будут приблизительно равны соответственно 2Т 2 cxx(t)exp{i2nst\/BT + l) D.7.11) и BT+l)-*'*[exp{—i2nst/BT+l)}\ t = -T, ..., Г]; D.7.12) здесь s = — 7, ..., Т. Главные компоненты вектора D.7.9) будут, следовательно, примерно равны т BГ+1)-1/2 2 exp{—i2nst/BT+l)}X(t), s = —T, ...,Г. D.7.13) Если мы вернемся к выражению D.6.2), то увидим, что выраже- выражение D.7.13) равняется d(p Bns/BT+ 1)), т. е. конечному преобра- преобразованию Фурье, на котором было основано преобразование Кра- Крамера и которое, как мы уже отмечали, было взято в качестве основной статистики при исследовании отрезков наблюдений вре- временных рядов. .. , Следуя теореме 4.7.1, приходим к такой аппроксимации для X(t): t = — T, ..., Г; D.7.14) суммирование в выражении D.7.14) ведется по s, соответствую- соответствующим К наибольшим значениям величин D.7.11). Если взять К = = 2Г+1 и устремить Т к бесконечности, то следовало бы ожи- ожидать, что значения D.7.14) будут очень близки к X(t). Действи- Действительно, D.7.14) стремится при Т—+оо к J exp{iM}dZx(X), D.7.15)
4.8. Упражнения 121 если в каком-то смысле )-1 J d{P (a)da-+Zx(k). D.7.16) о Выражение D.7.15) является преобразованием Крамера ряда X(t). Представление Крамера получается, таким образом, как предель- предельный результат при анализе главных компонент ряда X(t), t = 09 ±1, .... Craddock A965) провел эмпирический анализ главных компо- компонент для ковариационной матрицы, построенной на основе отрезка наблюдений временного ряда. Полученные им главные компо- компоненты выглядели как сумма гармонических колебаний в D.7.13). Набор собственных значений матрицы иногда называют спект- спектром. Спектр матрицы, задаваемой формулой D.7.10), аппрокси- аппроксимируется, как показывает D.7.11), числами 2nfxxBns/BT +1)), s = — 7\ ..., Т, где fxx(k)—спектр мощности ряда X(t),t = O, 4=1, .... Таким образом, мы сразу же убеждаемся в связи этих двух разных типов спектра. 4.8. Упражнения 4.8.1; Пусть Y = U + iV, векторы U и V имеют совместное нормальное распределение. Пусть также EY = [i и Е (Y—[i)(Y — [i)T = 0. Докажите, что компоненты вектора Y независимы, если матрица Е (Y — |л) (Y — jm)T диагональна. 4.8.2. Докажите, что если величина Y имеет распределение Nr @, 2), то распределением AY будет N% @, А2АТ) для любой sXr-матрицы А. Выведите отсюда, что если элементы Y представляют собой независимые N± @, G2)-pac- пределенные величины и А есть унитарная rXr-матрица, то элементы AY также будут независимыми величинами с распределением Ni @, а2). Выведите также, что маргинальное распределение многомерного нормального' комплексного рас- распределения является нормальным. 4.8.3. Покажите, что если X имеет распределение Nr (ц, 2) и Im 2 = 0, то 4.8.4. Докажите, что если W имеет распределение IWr (n, 2), то Wjj pac- величины Re X и Im X независимы. 4.8.4. Докажите, чт пределено как 2/Д2п/2. 4.8.5. Докажите, что если W имеет распределение Wr (n, 2), то EW = n2. Докажите также, что Е (Wjk — tiZJk) (Wlm—n2lm)=n2JmI>lk. 4.8.6. Докажите, что е*сли W имеет распределение Wr (n> 2), где 2— невы- невырожденная матрица, то 2~1/2W2"/2 будет величиной с распределением!^ (/г, I). 4.8.7. Пусть Y имеет распределение N% (jut, оЧ) и YTY = YTi где Afc—-эрмитова матрица ранга п^. Докажите, что необходимое и достаточное условие, для того чтобы формы YTA*Y были независимы и имели нецедтраль-
122 4. Стохастические свойства конечного преобразования Фурье ное хи-квадрат распределение о2%1пь (м-тм-/о'2)/2, состоит в том, чтобы 1 " :n [Brillinger A973)]. 4.8.8. Пусть матрица W, имеющая распределение W^-s (n> 2), представлена в виде W= Г^и W12~l LW2i W22J' где Wn и W22 имеют соответственно размеры гХг и sxs. Допустим также, что 2 представлена аналогичным образом. Докажите, что матрица W22—W2iWu1Wi2 будет распределена как Докажите, что если 2i2 = 0, то величина W2i Wu1W12 имеет распределение Wf (r, 222) и не зависит от W^-'WajWiYWia. 4.8.9. Пусть Y имеет распределение N? (О, 2). Докажите, что тгри / Ф k справедливо равенство" EYai...YaYbl...Ybk = 0, а при jsstk эта величина равняется (*) где (*) обозначает алгебраическое дополнение размера /X/ [Goodman, Dub- man A969)]. 4.8.10. Пусть X @, * = 0, ±1, ...,—стационарный процесс с конечными моментами, такой, что Х(/ + Г) = Х(/), * = 0, ±1, ..., для некоторого поло- положительного Т. В таком случае X (t) называется периодическим процессом. Докажите, что cum{d?> BnsdT), ..., Jo? Bnsk/T)} =0 для целых slf ..., Sft, таких, что Si+.-.+Sfc^O (mod2л). 4.8.11. Докажите, что при k > 2 для стационарной гауссовской последова- последовательности X (/), * = 0, ±1, ..., выполняется равенство 4.8.12i Пусть X (/), / = 0, ±1, ..., есть векторный г-компонентный белый шум. Обозначим сшп{Хв1@, ..., ^@}=V...v Докажите, что если SJ) [К] задается формулой D.3.13), то cum [d^(Kh ... 4.8.13. Пусть X (/), ^ = 0, ±1, ..., есть векторный г-компонентный ста- стационарный ряд, удовлетворяющий условию D.3.6). Положим^Т^тшТу. Пока-
4.8. Упражнения 128 жите; что для величины d^ (к), задаваемой выражением D.3.13), 4.8.14. Предположим, что выполнены условия теоремы 4.3.2 и величина На(к), определяемая формулой D.3.3), допускает при некотором конечном К и v>2, а=1, ..., г, оценку Докажите, что тогда cum ¦ 0 mini 1 L' V 4.8.15. Пусть X(f), / = 0, ±1, ..., есть г ^компонентный векторный ряд. Допустим нам известен отрезок наблюдений X (t), t=0, г.., Т — 1. Докажите, что d^ Bns/T)t s = 0, ..., Т/2 является достаточной статистикой. 4.8.16. Докажите, что при выполнении условий теоремы 4.6.1 величина (A) непрерывна в среднем порядка v для любого v > 0. 4.8.17. Пусть Y является /-компонентной векторной случайной величиной с ковариационной матрицей 2уу* Определите, какая линейная комбинация aTY с aTa=l имеет наибольшую дисперсию. 4.8.18. Используя 3.10.15, обобщите рассуждение § 4.7 на случай вектор* ных рядов. 4.8.19. Докажите, что при выполнении условий теоремы 4.4.2 величина arg < SJ1 (к) \ сходится по распределению при Т —*- оо к величине, равномерно й ^0 2) Я§0 (d ) К б распределенной в интервале ^0, 2л), если Я^§0 (mod л). Каким будет предель- предельное распределение в случае л = 0 (mod я)? 4.8.20. Предположим, что выполнены условия теоремы 4.4.2. Допустим также, что функция На(к), определяемая формулой D.3.3), при некотором конечном /С, v> 2 и а=1, ..., г допускает оценку Предположим еще, что Xj(T)-+kj при Т —+ оо и min T \kj (Г)—2я/|, тшГ|Х/(Г) ±kk(T)—2nl\--^ оо при Т -^ оо, 1</ < k^J. Докажите, что тогда к u^(Kj(T))t / = 1, ..., J, применимо заключение теоремы 4.4.2. т-\ 4.8.21. Пусть dfp (к) = 2 X(t)exp{—iKt}. Покажите, что справедливо
124 - 4. Стохастические свойства конечного преобразования Фурье равенство X @ ехр <- Ш) = Г-1 2 где Н^Р (Я) задается формулой D.3.2). 4.8.22. Пусть X (t), t = 0, ..., Г—1, — последовательнобть независимых нормально распределенных величин с нулевым средним и дисперсией а2. Поло- Положим г-1 (a) Покажите, что для -таких целых s, что 2ns/T^0 (mod л), величина ns/T) имеет распределение Ni (О, Га2). (b) Найдите распределение величины (с) Найдите распределение для arg "тГ") \- 4.8.23. Пусть X (t), t~0, ±1, ..., есть r-компонентный векторный ряд, удовлетворяющий условию 2.6.1. Пусть функции /га(и), — оо < и < оо, удовлет- удовлетворяют условию 4.3.1. Положим V -1 и=0 где —оо<Я<оо; / = 0, ..., L—1; а=1, ..., г. Покажите, что d^ (^, /) = [da (К I)], 1=0, ..., L—1 являются асимптотически (при V —> оо) независи- независимыми N?(О, 2яК[НаЪ @) /ab (А,)])-распределенными величинами, если А,^=0(mod я) и асимптотически Л^г @, 2яУ [Hai>(ti)fab (Я)])-распределенными величинами, если 31= i я, dz Зя, .... ч Указание. Этот результат немедленно вытекает из теоремы 4.4.2, если X (/) и ha (и) переопределены надлежащим образом. 4.8.24. Покажите, что если X имеет распределение N^ @, S) и Аг—э-рми- г това г Xr-матрица, то ХТАХ распределено как ^ Iх/ (м/ + и/)» гДе H-i» • • •» Нт — /=1 собственные значения матрицы и и±у'..., мг, i>i ..., иг — независимые N @, ^-распределенные величины. 4.8.25. Пусть Хх, ..., Хп —независимые Л7? (\х, 2)-распределенные вели- величины. Покажите, что ^L = ^\j/n и S = 2 (^у"~ Му) (^У — М'/)Т//г являются / / оценками максимального правдоподобия для jui и S [Giri A965)].
4.8. Упражнения ' 125 4.8.26. Покажите, что Wr (п, ^-распределенная величина, для которой ImS=0, может быть представлена в виде -^ {Wu4-"W22 + i(Wi2 —W2i)}, где j ИМееТ РаспРеДеление W (n L S I WgiWj ИМееТ РаспРеДеление W2r (n, Выведите отсюда, что действительная часть такого комплексного распределения Уишарта имеет распределение — W2 Bny 2).' 4.8.27. Используя функцию плотности D.2.9), покажите, что W*? (п, ^-рас- ^-распределенную величину W можно представить как (X-f/Y) (X + tY)T, где X, Y —нижние треугольные матрицы, т.е. имеющие одни нули над главной диа- диагональю,- a Xjk> Yjk, 1 ^ k <j^r, — независимые Ni(Q, ^-распределенные величины и Xfj, У// — независимые Хя-/+1"РаспРеДеленные величины. 4.8.28. При тех же условиях, что и в упр. 4.8.25, покажите, что Э2 = ДТ2"~1|л имеет распределение %2r Bn'}xzll-1 р) Хгт-о, гДе %?(§)- обозначает нецент- нецентральное хи-квадрат распределение с 2г степенями свободы и параметром не-» центральности б, a xim-n обозначает независимое от него центральное хи- квадрат распределение с 2(п — г) степенями свободы [Giri A965)]. 4.8.29. Покажите, что при выполнении условий теоремы 4.4.2 предельное распределение d^ (К) не изменится, если опустить любое конечное число вели- величин из ряда X (t). 4.8.30. Пусть W имеет распределение W? (п, 2). Покажите, что cum [Wа и у ..., W где суммирование ведется по всем таким перестановкам Р множества {h ..., k], что Р не оставляет на месте никакое собственное подмножество множества {Ь •••, k). Покажите также, что число таких перестановок будет (&--1)!. 4.8.31. Пусть W имеет распределение Wr (n, S). Покажите, что " — 1) аналогичнцх членов, получающихся в результате всех замен cij<~>bj при / = 1, ..,, k— l) , здесь Р — перестановки, описанные в предыдущем упражнении. Покажите, что общ^ее число слагаемых будет равно 2k~x (k— 1)!. 4.8.32. Пусть W имеет распределение W2 ( пЛ р \\ . Покажите, что функ- функция плотности величины x = Wt2 задается формулой I jcl(/2~1)/2 е (' 'М- где /Cv — модифицированная функция Бесселя второго- рода v-ro порядка [Pearson и др. A929), Wishart, Bartlett A932)]. 4.8.33. Пусть W имеет распределение W% (п, _ Р V
126 4. Стохастические свойства конечного преобразования Фурье (а) Покажите, .что плотность величины лс = Ц712 (по отношению к Rejc, 1тлс) задается формулой (Ь) Покажите, что плотность величины y = ReflPla задается формулой ШexP{at//(l~|p|2)} где a=Rep, (J=Imp. (с) Покажите, что величина z=ImUP12 имеет плотность |-1/1-1/2 - Щ УглТ(пJп/2(У 1—a2 ехр (d) Покажите, что плотность величины <f> = aTgWi2 имеет вид A-1РР)" где ^0 = gp (е) Покажите, что плотность величины ш=| равняется где /0—модифицированная функция Бесселя первого рода нулевого порядка. Все плотности, приведенные в этом упражнении, получены в работе Good- Goodman A937). 4.8.34. Пусть X(t)^t = O, ±1, ...,—стационарная гауссовская последова- последовательность с нулевым средним и спектром мощности /хх(^)> — оо < Я < оо. Покажите, что представление Крамера можно записать в виде ), * = 0, ±1, где 3 (А,), О^Я^я—комплексный процесс броуновского движения, такой, что cov{B(k), В ([i)}=min{Kt ц) и В (— Х) = ? (К). 4.8.35. Предположим, что ряд Y(t), /=0, ± 1, ..., задается формулой B.9.15). Покажите, что его можно записать, используя представление Крамера ряда X(t), t=0, ±1, ..., следующим образом: 4.8.36. (а) Пусть W имеет распределение Wr (ru, S) и а, 0, y, 6 суть /--ком- /--компонентные векторы. Покажите, что cov = п
4.8. Упражнения 127 с ' (b) Пусть W имеет распределение Wr (п, 2) и а, р, y> ^ СУТЬ комплекс- комплексные г-компонентные векторы. Покажите, что cov {5TWP, YTW6} = n 4.8.37. Пусть X(t), t==09 ±1, ... ,—действительный ряд с нулевым сред- средним, удовлетворяющий условию 2.6.1. Пусть и — неотрицательное целое число. Тогда теорема 2.9.1 показывает, что ряд У (t) = X (t + u) X (t) также удовлетво- удовлетворяет условию 2.6.1. Используя это, а также теорему 4.4.1, покажите, что 'Т-1-и {p 2 X(t) является асимптотически нормальной величиной со средним схх (и) и дисперсией Г 2л Щ^ (l + cos2ua)fxx(aJda 2л 2л П — а, |
5 ОЦЕНКА СПЕКТРА МОЩНОСТИ 5.1. Спектры мощности и их интерпретация Пусть X(t), t = 0, ±1, ...,— действительный временной ряд со средним значением 0 = Сх, < = 0, ±1, .... E.1.1) и ковариационной функцией cov{X(t + u), X(t)} = cxx(u), t, ы = 0, ±1 E.1.2) Предположим, что для ковариационной функции выполняется неравенство S \сХх(и)\'«*. E-1.3) тогда спектром мощности ряда X{t), ? = 0, ±1, ..., назовем преобразование Фурье fxx(ty = Bn)-1 2 ехр {—ihu}cxx(u), —оо <Х<оо. E.1.4) « = -00 Как было отмечено в § 2.5, спектр мощности есть неотрицатель- неотрицательная четная функция от %х периодом 2я. Из четности и перио- периодичности следует, что в качестве основной области определения fxxft) можно, если это нужно, взять отрезок [0, я]. Если выполнено условие E.1.3), то fxxft) есть*ограниченная равномерно непрерывна^ функция. Обращая соотношение E.1.4), получаем для ковариационной функции выражение (a)da, и = 0, ±1, ... . E.1.5) В частности, полагая и = 0, получаем л ^- E-1.6)
5.1. Спектры мощности и их интерпретация 129 Как было показано в § 2.8 и 4.Q, если ряд фильтруется линейно и инвариантно по времени, то спектр мощности преоб- преобразуется элементарным образом. Пусть, в частности, Y (t), t = 0, ±1, ..., есть результат фильтрации ряда X(t), t = 0, ±1, ..., с передаточной функцией А (К), —оо<Х<оо. Тогда, согласно примеру 2.8.1, для спектра мощности ряда Y(t), t = 0, ±1, ..., выполнено соотношение . E.1.7) Из соотношений E.1.6) и E.1.7) следует, что DY(t)= $\A(a)\*fxx(a)da. E.1.8) -Я Из E.1.8) вытекает одна из возможных интерпретаций спектра мощности. Пусть для —я<а<я и достаточно малого А ( DД)/2 при |а + Х|<Д, А(а) = { К ' *^ ' — ' - E.1.9) ^ О в противном случае, а вне интервала (—я, я] эта функция продолжена периодичес- периодическим образом. Такая передаточная функция соответствует фильтру, пропорциональному полосно-пропускающему (см. § 2.7). Таким образом, ряд Y(t)y t = 0, ±1, .., пропорционален X(t9h) — компоненте частоты % рйда X(t), t = 0y ±1, ... (см. §4.6). Из выражений E.1.8) и E.1.9) следует, что DY(t)^fxx(X)y f = 0f±l, .... . E.1.10) Это означает, что fxx (К) можно интерпретировать как величину, пропорциональную дисперсии компоненты X(t, X) частоты X ряда X(t)y t = Q, ±1, .... В частности, заметим, что EY(t) = A@)cx. E.1.11) Это среднее равно нулю, если X отстоит от 0, ±2я, ... дальше, чем на Д; точно так же ЕГ(ф±Гхх(к),'Ьф09 ±2я, ...; * = 0, ±1, ... . E.1.12) Пусть теперь Y (t) — напряжение, приложенное к участку изображенной на рис. 5.1.1 электрической цепи, содержащей сопротивление 1 Ом; в таком случае мгновенная рассеиваемая энергия равна Y (tJ. Равенство E.1.12) показывает, что fxx(k) можно интерпретировать как ожидаемое количество мощности, рассеиваемое в электрической цепи компонентой ряда X (t) частоты К. Это вскрывает причину того, почему fxx(k) часто называют спектром «мощности».
130 5. Оценка спектра мощности Рис. 5.1.1. Простейшая электрическая цепь, к которой подводится зависящее от времени t напряжение Y (t). о Рис. 5.1.2. Приблизительная фдрма передаточной функции системы, состоящей из трубы, обдуваемой с одного конца потоком воздуха. Для иллюстрации спектра мощности Roberts, Bishop A965) рассматривали колебательную систему в виде цилиндрической медной трубы, обдуваемой потоком воздуха на своем открытом конце; эту систему можно рассматривать как процесс X'(t). Выходным сигналом является давление у закрытого конца, трубы, а передаточная функция напоминает представленную на рис. 5.1.2. Пики передаточной функции находятся в точках К-^г^, EЛ.13) где /—длина трубы, с — скорость звука и /г=1, 2, .... образом, давление на дне трубы будет пропорционально Таким E.1.14) где Хп задаются формулой E.1.13). Для получения выходного сигнала у закрытого конца трубы устанавливается микрофон. В заключение этого параграфа продемонстрируем некоторые примеры ковариационных функций и соответствующих им спект- спектров мощности (рис. 5.1.3). Например, если функция схх(й) скон- сконцентрирована в нуле, то fxx(k) близка к константе. Если схх(и) медленно убывает, когда и возрастает, то fXx(fy концен!рируется
5./. Спектры мощности и их интерпретация 131 -7Г Я ? . i • '¦ I о « 1.0т -я о \ п 1.0т III, ..I т-i-y -7С Рис. 5.1.3. Некоторые ковариационные функции с спектры мощности f ух(и) и соответствующие им около А, = 0, ±2д, .... Если схх(и) осциллирует около нуля, когда и возрастает, то fxxft) несет существенную массу вне точек А, = 0(тос12я). Теперь мы переходим к рассмотрению оценок fXx(ty> —°° < <Я<<х>, и их различных статистических свойств. При жела- желании читатель может обратиться дополнительно к некоторым из следующих работ, касающихся оценок спектров мощности: Ти- key A959a, b), Jenkins A961), Parzen A961), Priestley A962a), Bingham и др. A967), Cooley и др. A970).
132 5. Оценка спектра мощности _ 5.2. Периодограмма Пусть X (t) — стационарный ряд со средним сх и спектром мощности fXx (^), —°° < Я < оо. Предположим, что имеются зна- значения Х@), ..., Х(Т— 1) и нужно построить оценку fxx(ty- Прежде всего мы можем вычислить конечное преобразование Фурье т dT (Л) - 2 ехр {— Ш} X (<). E.2.1) Из теоремы 4.4.2 следует, что эта переменная имеет следующее асимптотическое распределение: N2 @, 2nTfxx (Я)), К ф 0 (mod я), Nx (Tcx, 2nTfxx (X)), X = 0, ±2я/ ..., E.2.2) ^ @, 2nTfxx(K)), l=±ny ±3я, Эти распределений предполагают рассмотрение статистики /5ci (Я) = BЯГ)-11 dST» (А.) |- Г-1 2 ехр {— Ш) X (t) t=o E.2.3) как оценки fxx(k) в случае Х^() Статистика I{xx(k), задаваемая равенством E.2.3), называется периодограммой второго порядка, или, более кратко, периодо- периодограммой величин X @), ..., Х(Т— 1). Эту статистику ввел Schuster A898) для отыскания скрытых периодичностей случая 2py(/ + y) E.2.4) когда 1{хх(Ц имеет пики в точках X^±(o/(mod2n). Заметим, что 1{Рх{Ц, заданная формулой E.2.3), имеет те же свойства симметрии, неотрицательности и периодичности, как и /ет(Х). На рис. 5.2.1 представлена диаграмма ежемесячного коли- количества осадков в Англии за период с 1920 по 1930 г.; конечное преобразование Фурье d{P (К) значений за 1780—1960 гг. было вычислено с использованием алгоритма быстрого преобразования Фурье. Вычисленная после этого периодограмма /хх(^) приво- приводится на рис. 5.2.2. Она выглядит довольно нерегулярной функ- функцией X. Эта нерегулярность появляется также на рис. 5.2.3 и 5.2.4, где представлены соответственно нижние и верхние частоты рядов ежемесячных средних чисел солнечных пятен; они содержат каждый по 100 ординат периодограмм (см. рис. 1.1,6 для зна-
5.2. Периодограмма 133 1920 1921 1922 1923 1924 1925 1926 1927 1928 1929 1930 Год Рис. 5.2.1. Составной индекс количества осадков для Англии и Уэльса за 1920—1930 гг. - 102 1 г-trh run mil Illl 1 ii up !™ ¦ i PIBVB ii ¦ ivii III M :r -rf :r: M i ?" s;s 11! !Г МП (I'll ТГ Г11 ii ¦¦ ii 11Г !ГГ irr'li'Htl 111Г IO~ . 1 111 ¦i ¦¦! i ' ii ma I Ml 1 I 1Ш1ИИ 1 II I . i lllll 1 lUlttllUIIII Ilk ¦ ¦¦• ¦па ¦Mil ¦¦ S!iS ¦!¦ ¦!!¦ —Ti 1 • ¦ III 1 1 .1 ¦ 1 II I 1 II III IIUII Ш. 1ШЯ !!!S -4— I': ':,, панн НАШ !!¦ 1 T . Ill J1 Л i ii > l III ¦ ¦' i 'i i « ¦ hi ¦ ¦ Iliilll II tiyiii 1 Ш i Inl !!!! f- 1 1 III л 1II ¦ III it ¦¦ ¦шва 1 j!!l!i! ¦ i In it n . 1 \\\U\\i\ II ¦II 'I' III ¦ •«¦ mtwm ¦(¦ r Illl \m i ii i II 1 jii 'ii Illl 1 ¦ HI и | IBIilll IN, m ¦J tt~ r j i ¦и ji iiiii! IIUU ¦1 Si + гЧ .1 .2 .3 A .5 Рис. 5.2.2. Периодограмма составного количества осадков для Англии и Уэльса за 1789—1959 гг. (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.) чений среднегодовых чисел). Wold A965) приводит некоторые другие примеры периодограмм. В каждом из этих примеров 1{ххЩ крайне нерегулярна по X, несмотря на тот факт, что fxx (X) пред- предположительно достаточно регулярная функция X. Из этого заклю- заключаем, что 1{Рх(Х) является неэффективной оценкой fxxity, по- поэтому мы вынуждены перейти к рассмотрению некоторых других оценок. Чтобы попытаться понять причины нерегулярности и таким образом построить лучшие статистики, прежде всего при- приведем несколько теорем относительно статистического поведения
134 5. Оценка спектра мощности .005 ,010 .025 .030 •035 .015 .020 \/гп Рис. 5.2.3. Нижние частоты десятичного логарифма периодограммы месячных средних чисел солнечных пятен за 1750—1865 гг. (По горизонтали—частоты в цикл /месяц.) .465 .495 .50' Рис. 5.2.4. Верхние частоты десятичного логарифма периодограммы месячных средних чисел солнечных пятен за 1750—1865 гг. (По горизонтали—частоты в цикл /месяц.) Рассмотрим математическое ожидание*периодограмм. Теорема 5.2.1. Пусть X(t), t = 0, ±1, ..., есть временной EX(t) {X(t X(t)} () O E.2.5) p() x Предположим, уто тогда b -оо < X < оо. E.2.6)
5.2. Периодограмма 135 В случае когда ХфО (тос!2я), последний член в E.2.6) исчезающе мал, и мы видим, что Е1{хх (X) по существу является взвешенным средним интересующего нас спектра мощности с весом, сконцентрированным в окрестности точки X. Переходя к пре- пределу, получаем Следствие 5.2.1. При выполнении условий теоремы 1{хх (X) есть асимптотически несмещенная оценка fxxft) nPu Хф$ (тос12я). Следующая теорема дает асимптотику смещения 1{хх(Х). Теорема 5.2.2. Пусть выполнены все условия теоремы 5.2Л и 2|и|к*х(иI<°°> E.2.7) тогда Е/^(Х) = ^х(Х) + BяЛ-1 [iSfr^ + OCr-1). E-2.8) Член О (Г) равномерен по X. Заметим, что в том случае, когда X = 2ns/T,' s — целое, s^O (mod Г), второй член в правой части выражений E.2.6) и E.2.8) обращается в нуль, что ведет к полезному упрощению резуль- тов. Если рассматривать 1{хх (X) только в точках 2ns/T, s — целое, s^=0 (mod Г), то множество периодограмм 1Х-с{Т), x-c(r*(ty> по- X ' X строенных по выборочным значениям X(t), t = 0, I, ..., Г—1, со средним cT = T-*t>X(t)t E.2.9) значительно сокращается ввиду равенства \jY)=dx \jyJ . E.2.10) для s^O (modT). Сточки зрения основного определения спектра мощности, использующего ковариационную функцию, инвариант- инвариантную по отношению к среднему, ограничение рассмотрения Iхх Bns/T) только для целых s, s ф 0 (mod Г), выглядит вполне оправданным. Мы вернемся к этому ниже в теореме 5.2.4. В § 3.3 и 4.6 мы могли видеть, что временное сглаживание по краям наблюдаемых величин, предшествующее вычислению их преобразования Фурье, дает некоторые преимущества. Вер- Вернемся к построению модифицированных периодограмм, соответ- соответствующих рядам со сглаженными значениями. Рассмотрим -Ш} E.2.11)
136 5. Оценка спектра мощности для некоторого временного окна h(u)> удовлетворяющего усло- условию 4.3.1. В таком случае из теоремы 4.4.2 следует, что рас- распределение величины d{p {Ц асимптотически равно tff (о, 2nT{\h{tfdt)fxx{X))y E.2.12) если Я^=0 (mod^Следовательно, для случая временного сгла-. живания мы можем, рассматривать статистику У) (у) 2 E.2.13) в качестве оценки для fxxft)- Мы заменили T\h(t)?dt суммой квадратов значений времен- временного окна, так как последняя легко вычисляется. Положим H(h)=\h(u)exp{—ihi}du E.2.14) и = ? Л (f ) ехр {— Ш}." E.2.15) Применим, если это возможно, формулу суммирования Пуассона; тогда последние два выражения связаны соотношением HW(%) = T 2 Я(Г[Х + 2я/]), E.2.16) /=-00 откуда Н{Т)(К) имеет значительную величину, только если А, = 0 (тоA2я), что будет существенно для нас при рассмотрении выра- выражения E.2.17). Справедлива Теорема 5.2.3. Пусть X(t), t = 0, ±1, ...,— ряд с действи- действительными значениями, удовлетворяющий условиям теоремы 5.2.1, h (у) удовлетворяет условию 4.3.1, а 1{хх{Ц задано выражением E.2.13). Тогда справедливо соотношение ч -1 Я (а) \Ча) J | Я<" (а) |2 /„ (X - а) da / ) (А.) = ( 5 I \, -оо<Х<оо. E.2.17) Если Х^О (тос12я), то последний член формулы E.2.17) достаточно мал по величине. Первый "член правой части E.2.17)
5 2. Периодограмма 137 является взвешенным средним с весовой функцией, сконцентри- сконцентрированной *в окрестности, точки К интересующего нас спектра мощности с учетом относительного веса временного окна. Это выражение полезно сравнить с формулой E.2.6), соответствую- соответствующей несглаженному случаю. Если fxxft) имеет значительный пик в окрестности точки а, то математическое ожидание, задаваемое выражениями E.2.6) и E.2.17), может значительно отличаться от fxxft)- Отсюда оче- очевидны преимущества в применении сглаживания, с помощью которого можно уменьшить влияние пика в соседних частотах. Продолжая исследования статистических свойств периодо- периодограмм как оценок спектра мощности, приведем теорему 5.2.4, которая описывает ковариационную структуру 1{хх(к) в точках 2ns/T, s —целое, для несглаженного случая. Теорема 5.2.4. Пусть X(t), t = 0, ±1, ...,— действительный случайный ряду удовлетворяющий условию 2.6.2A). Пусть /(/х (Я) задано выражением E.2.3), г, s —целые, г, s r ± s ^ 0(mod T) и [i = 2nr/T, K = 2ns/T, Тогда D/S (X) = /„ (ЯJ + О (Г-1), E.2.18) cov {/& (*), 1{Рх (!*)} = О (Г-1), E.2.19) где член ОСТ), равномерен по всем рассматриваемым А, и (х. Заметим, что, согласно условиям теоремы, /^хBяг/Т) = = I{xxBns/T), если r + s, r — s = 0 .(modГ), т. е. оценки иден- идентичны. Эта теорема имеет решающее значение для статистической практики. Из нее следует, что, каким бы большим мы не брали Т, дисперсия 1{хх (Я) будет стремиться к постоянному уровню fxxftJ- Если мы желаем получить оценку с меньшей дисперсией, то добиться этого простым увеличением длины выборки, по кото- которой строится периодограмма, невозможно. Теорема также вскры- вскрывает причины нерегулярности диаграмм 5.2.2 и 5.2.4: а именно, близкие ординаты периодограмм, по всей вероятности, имеют относительно малую ковариацию по сравнению с их дисперсией. Как мы увидим из теоремы 5.2.6, различные ординаты периодо- периодограммы асимптотически независимы., Теорема 5.2.5 описывает асимптотическую структуру кова- риаций периодограммы, когда к не обязательно вида 2ns/T. Теорема 5.2.5. Пусть X(t)y t = 0> ±1. ...,— действительный ряд, удовлетворяющий условию 2.6.2A). Пусть /хх(Х) задано
138 5. Оценка спектра мощности выражением E.2.3) и к, \х^0 (тос12я). Тогда it(T) /лч at), ч) (fsinr(A,+ u)/2"|2 [й^Ц]2})> E-2-20) причем для данного г > 0 член О (Г) равномерен по к, (х, чающихся от всех чисел, кратных 2я, по крайней мере на е. Заметим, что выражение E.2.20) более информативно, чем E.2.19): в E.2.20) можно проследить переход cov {I(xx (к), 1(рх (|х)} в DI^xx(k), когда \i—>к. Оно также объясняет, почему малы ковариации в случае, когда к, \х принимают частные значения, равные 2ns/T и 2пг/Т с целыми s и г. Мы заканчиваем исследование элементарных асимптотических свойств периодограмм отысканием их асимптотического распре- распределения в условиях регулярности. В теореме 4.4.1 доказана асимптотическая нормальность dSP (к) для к вида 2ns/T, s — це- целое, из которой следует Теорема 5.2.6. Пусть X (t), t = 0, ± 1, ...,— действитель- действительный ряд, удовлетворяющий условию 2.6.1. Пусть Sj(T) — целое, такое, что kj{T)=^2nsj{T)lT стремится к kj, когда Т —>оо для всех / = 1, ..., У. Предположим, что Щ (Т), к- (Т) ± kk (T) ф 0 (тос12я) для l^j<k^J и 7=1,2, ... . Пусть Т-1 2 E.2.21) для всех—оо < к < оо. Тогда переменные 1{хх (kj (T)), j = 1, ..., J,— асимптотически независимые {хх(к;-)%1/2-величины. Если Л=±я, ±3я, ..., то 1{хх (к) асимптотически не зависит от предыду- предыдущих величин и имеет закон распределения fxx (k) %f. В теореме 5.2.6 %v означает случайную величину, распреде- распределенную по хи-квадрат с v степенями свободы. В частности, %1/2 соответствует экспоненциальному распределению со средним 1. Практический вывод теоремы состоит в доказательстве того, что ордината периодограммы 1{хх(к) приблизительно есть произ- произведение распределений %1. Некоторое эмпирическое подтвержде: ние этого заключения дает рис. 5.2.5, на котором приводится множество значений I{xxBns/T), s = T/4, ..., Т/2, ежемесячных средних чисел солнечных пятен, распределенных по хи-квадрат с двумя степенями свободы. Мы выбрали указанные частные зна- значения s потому, что из рис. 5.2.4 и 5.4.3 следует, что fxx (к) приблизительно постоянна на соответствующем интервале частот. Если величины, наносимые на данный график, имеют в дейст-
5.2. Периодограмма 139 ¦282 235 188 1 141 I 94. 47. ж - жжж X л ¦ж Я 1.17 2.35 3.52 Квантили 4.70 5.87 Рис. 5.2.5. Множество распределенных по х2 50° ординат верхних частот периодограммы ежемесячных средних чисел солнечных пятен за 1750—1965 гг. вительности распределение %!, то наносимые точки должны лечь примерно вдоль прямой линии. Именно это с очевидностью демон- демонстрирует рис. 5.2.5. Аналогичные графики приводят Wilk и др. Теорема 5.2.6 подтверждает высказанное при обсуждении тео- теоремы 5.2.4 предположение о неэффективности периодограммы как оценки спектра мощности. Для больших Т ее распределение будет приблизительно произведением х! с двумя степенями сво- свободы и, следовательно, будет крайне неустойчивым. В § 5.4 мы займемся проблемой построения достаточно устойчивых оценок. Среднее и дисперсия асимптотического распределения IxxBns/T), как видно, находятся в соответствии с выборочными средним и дисперсией IxxBns/T)f задаваемыми выражениями E.2.8) и E.2.18) соответственно.
140 5. Оценка спектра мощности Теорема 5.2.6 не дает описания асимптотического распреде- распределения 1{хх(Ь), когда Х = 0 (mod2jt). Теорема 4.4.1 отмечает, что таким асимптотическим распределением будет fxx (k) %1, когда EX(t) = cx = 0. В случае когда схФ0, теорема 4.4.1 показывает, что приближением выборочного распределения будет fxx(%)%[2, где %i2 обозначает нецентральное распределение с одной степенью свободы и параметром нецентральности \cx\VT/Bnfxx(k)). В случае сглаженных временных рядов справедлива Теорема 5.2.7. Пусть X(t), ^ = 0, ±1, ...,— действительный ряд, удовлетворяющий условию 2.6.1. Предположим, что 2XJf Ау±^^О (пюс12я) для 1</<&^/. Пусть h(и) удовлетво- удовлетворяет условию 4.3.1 и № = Bя? h [y)Y\ S h (f) X (t) exp {- Ш}|2 E.2.22) для —oo < Я< oo. Тогда 1{хх (Ay), /= 1, ..., /, асимптотически независимы и распределены как fxx(^j)%V^- Если Я=±я,±3я, ..., то 1{хх(Ц асимптотически независимы от предыдущих перемен- переменных и распределены как fxx (к) yj. Как видно, предельное распределение 1{хх (Ц не изменилось от процедуры сглаживания временного ряда. Однако мы надеемся, что оценки сглаженных рядов при больших выборках будут давать меньшее смещение. Продолжение теоремы 5.2.5 на случай сгла- сглаженных рядов дает Теорема 5.2.8. Пусть X(t), t = 0, ±1,-..., есть действи- действительный ряд, удовлетворяющий условию 2.6.2A), со средним 0. Пусть h(u) удовлетворяет условию 4.3.1 и* 1(хх(Ц задано фор- формулой E.2.22). Тогда cov {/& (X), /& И} = | Нр@)|- {| Н?> (I- li) |2 fxx(W + O(T-i) E.2.23) для —оо<Я, fi<oo, и ошибка равномерна по X, \х. Здесь -Ш}. E.2.24) Очевидно, зависимость 1{хх (X) и 1{хх Ы исчезает, как только функция ЩТ) становится достаточно малой. Bartlett A950, 1966) получил выражение среднего и ковариа- ции периодограммы в условиях регулярности, ему также при- принадлежит идея аппроксимации распределения многомерным %2-рас- пределением с двумя степенями свободы. Материал этого пара-
5.3. Дальнейшее изучение периодограммы графа построен также на следующих работах: Слуцкий A934), Grenander, Rosenblatt A957), Kawata A959), Hannan A960), Akaike A962b), Walker A965), Olshen A967). 5.3. Дальнейшее изучение периодограммы Спектр мощности fxx(k) ряда X(t), t = 0, ±1, ..., был опре- определен как со fxx№ = №)-1 2 exp{-iXu}cxx(u), E.3.1) u= — со где схх(и), и = 0, ±1, ...,— корреляционная функция времен- временного ряда. Это приводит нас к новой оценке fxx(k). Мы можем оценить схх(и) следующим выражением: сй(и) = Г-> 2 (X(t + u)-c{xT))(X(t)-c{P)9 0</, t + u<T-\ и = 09 ±1, ..., E.3.2) где ' сТ = Т^ 2 XV), E.3.3) и затем, принимая во внимание E.3.1), оценим fxx (X) выражением Bя)-12 ехр {— Ни} сТх («)• E.3.4) U Подставим выражение E.3.2) в E.3.4), тогда эта оценка при- примет вид Г-1 Г-1 (Z711 ) l 7i /i s = 0 / = 0 Г-1 что является периодограммой отклонений наблюдаемых величин от их среднего. При обсуждении теоремы 5.2.2 отмечалось, что для k = 2ns/Ty s^O (modГ), поэтому теоремы 5.2.4 и 5.2.6 отно- относятся и к оценкам вида E.3.5). В случае использования временного окна ^T) ^ E.3.7)
142 5. Оценка спектра мощности получим EdP (X) = cjSih (t/T) exp {— Ш} = cxHiT) (k), E.3.8) что предполагает использование статистики с нулевым средним dP (X)-c{xT)HW (I) = dP {Ц-dP @) HW (к)/НЮ (О), E.3.9) где {P %l% P ). E.3.10) Таким образом, нам нужно рассмотреть преобразование Фурье dx-cp &)=<№ M-dP @) #<г> (ЩНЮ @), E.3.11) основанное на использовании величин с исправленными средними значениями. Заметим, что в терминах представления Крамера из § 4.6 последнее выражение может быть записано в форме (-*)/№ @)]dZx (a), E.3.12) показывающей ослабление частотных компонент для X, близких к 0, ±2я. Кроме того, изложенное выше делает теперь вполне оправданным использование видоизмененной периодограммы E-3.13) для спектральных оценок в сглаженном случае. Математическое ожидание этой статистики дает решение упр. 5.13.22. Касаясь некоторых дальнейших свойств периодограмм, отме- отметим, что ординаты периодограмм /^(Ау), / = 1, ..., /, асимпто- асимптотически независимы для различных Лу, / = 1, ...,/. Теорема 5.3.1 показывает, что ординаты периодограмм одной и той же частоты, но построенные по непересекающимся отрезкам данных, тоже асимптотически независимы. Теорема 5.3.1. Пусть X(t), t==0y ±1, ...,— ряд с действи- действительными значениями, удовлетворяющий условию 2.6.1. Пусть h (и) удовлетворяет условию 4.3.1 и обращается в нуль при и < 0. Пусть E.3.14) X v-\ v=0
5.3. Дальнейшее изучение периодограммы 143 для — оо<А,<оо, / = 0, ..., L—1. Тогда при V—*оо величины 1{хх(К /), / = 0, ..., L — 1, асимптотически назависимы и имеют асимптотическое распределение /хх(^)Хг/2, еслм Я^О (mod я), а асимптотически независимы с распределением fxx(^)xl если Я= ± я, ±3я, .... Этот результат будет использован позднее для построения статистики спектральной плотности. Интересно отметить, что асимптотическая независимость периодограмм достигается или путем разделения данных, согласно последней теореме, на непе- непересекающиеся сегменты, или путем их вычисления по соседним частотам, как это делается в теореме 5.2.7. В заключение данного параграфа отметим некоторые свойства периодограмм, которые выполняются с вероятностью 1. Начнем с того, что приведем верхнюю границу 1{хх(Ц как функцию А, и Т. Теорема 5.3.2. Пусть X(t), t = 0, ±1, ...,— действительный временной ряд с нулевым средним, удовлетворяющий условию 2.6.3. Пусть h(u) удовлетворяет условию 4.3.1 и, кроме того, . E.3.15) Тогда с вероятностью 1 выполняется неравенство lim sup Ixx (^)/l°g T ^ 2 sup fxxW9 E.3.16) Другими словами, порядок скорости роста периодограммы не превышает log Г, причем в указанных предположениях это выполняется равномерно по К. Практическим следствием этого результата является тот факт, что максимальное отклонение 1{хх (А,) от fхх (k) как функции X становится неограниченно боль- большим, когда Г—^оо. Это является еще одним подтверждением того, что Тхх(к) не может быть хорошей оценкой fxxify- Изучим в общих чертах действие линейной фильтрации ряда на периодограмму. Пусть ^ E.3.17) для некоторого фильтра {а (и)}, удовлетворяющего 2A+|и|)|а(и)|<оо E.3.18) и и имеющего передаточную функцию А (К). Теорема 4.5.2 пока- показывает, что в условиях регулярности с вероятностью I выпол- выполняется P P E.3.19)
144 5. Оценка спектра мощности Путем элементарных алгебраических преобразований получаем с вероятностью 1 = \А (К) |2 /& (Я) + 0 (T-i/« log Г), E.3.20) откуда остаточный член равномерен по Я. Другими словами, фильтраций приводит • приблизительно к умножению периодо- периодограммы на квадрат модуля передаточной функции фильтра. Ана- Аналогичное действие фильтрации на спектр мощности приводится в выражении EЛ.7). 5.4. Сглаженная периодограмма В этом параграфе мы делаем первый серьезный шаг для получе- получения оценки спектра мощности. При обсуждении теоремы 5.2.4 отме- отмечалась неэффективность периодограммы как оценки спектра мощ- мощности fxx (Я) ввиду того, что дисперсия этой оценки в некоторых вполне приемлемых условиях регулярности асимптотически равна fxx Ш даже при сколь угодно большой длине выборки. Во многих ситуаци-ях мы требуем от используемых нами оценок гораздо боль- большей точности и надеемся, что такие оценки существуют. Теорема 5.2.6 намечает путь построения улучшенной оценки. Пусть s(T)—целое число, такое, что 2ns(T)/T близко к А,. Тогда по теореме 5.2.6 2т+1 прилежащих значений периодо- периодограмм lTx@n[s(T) + j]/T) / = 0, ±1, !.., ±т, асимптотически независимы с распределением ^(Я)х1/2, если 2 [s (Г)-f/] =? О (mod Г), / = 0, ±1, ...,<±т. Таким образом, мы имеем Bт+1) асимптотически независимых оценок fXx(ty> что приводит нас к оценке вида № (*) = Bт + 1)- ± т BЛИУ+Л) , E.4.1) /=-т если А,^ 0 (mod я), что есть просто осреднение ординат периодо- периодограммы в окреосдости точки К. Дальнейшее исследование тео- теоремы 5.2.6. приводит к рассмотрению оценки -1 +^'), • E.4.2)
5.4. Сглаженная периодограмма 145 л, . 5.4.1. Графики ядра Атт\ .6 Л .1 °| 1.0 .8 .6 .4 .2 0 'О для Т /77=1 /77=3 если Л = 0, ±2я, ±4я, ... или Я = = 11 и т = 0, 1, 2, 3. ±3я, ... и Т —четное, и Т Т )] E.4.3) если Я = ±я, ±3я, ... и Г—нечетное. Легко видеть, что оценка E.4.1) —E.4.3) имеет те же свойства
146 5. Оценка спектра мощности 1.0 .8 .6 .4 .2 0 Г /77-2 1.0 •8 .6 А .2 0. /77*1 10 .8 .6 .4 .2 О 7Т /77 = О X Я О X 7Г Рис. 5.4.2. Грифики ядра ВТт(К) для 7 = 11 и т=1, 2, 3. неотрицательности, периодичности и симметрии, что и сама функ- функция fxxft)- Основу этой статистики составляют* выражения d^P Bns/T), s = 0t ..., Т— 1, которые при достаточно больших Г могут быть вычислены посредством алгоритма быстрого преобра- преобразования Фурье. Исследуем кратко статистические свойства по- последнего выражения. Для теоремы 5.4.1 нам понадобится ядро Фейера E.4.4) введенное в § 3.3. Положим E.4.5)
5,4. Сглаженная периодограмма 147 И пусть /=-m ДЛЯ — ОО < X < ОО. Принимая во внимание выведенные в § 3.3 свойства, получим, что АТт(к), ВТт(к) и СТт (к) являются неотрицательными функ- функциями с периодом 2я, интеграл от которых по периоду равен единице. Практически они сосредоточены на интервале (— 2пт/Т, 2ппг/Т) для —я<А,<л;. На рис: 5.4.1 график Атт (к) приво- приводится для значений Т= И, т = 0, 1, 2, 3. Как видно, эта функ- функция приближенно имеет прямоугольную форму, что можно было ожидать исходя из ее определения E.4.5). На рис. 5.4.2 график Втг> (к) приводится для значений Т= 11, пг= 1, 2, 3. Здесь также видно, что эта функция имеет приближенно ту же форму, что и Атт (Я), за исключением того, что в непосредственной окрест- окрестности нуля она сама близка к нулю. Математическое ожидание оценки fxx (Ц дает Теорема 5.4.1. Пусть X(t), t = 0, ±1, ...,—действительный ряд, такой, что EX(t)=cx, и cov {X (t + u)> X (t)} = cxx(u) для и —0, ±1, ... . Предположим, что 2 \сжх(и)\ <<*>. E.4.7) М=-00 Пусть fxx (к) задается выражениями E.4.1) —E.4.3). Тогда Е/&' (к) = j Атт (a) fxxB-=i?>-а) da, -Я если А,^0(тос12я), -Я если к = 0 (тос12я) или Я = ±я, ±3я, ... и Т —четное, -Я если Х=±п, ±3я, ... и Т—нечетное. E.4.8) Взвешенная сумма интересующего нас спектра мощности с весом, сконцентрированным в полосе шириной 4ят/Т с центром в точке к,
148 5. Оценка спектра мощности Я^О (mod я), является математическим ожиданием величины fxx (fy. В случае А, = 0 (mod 2я) математическое ожидание В fxx (k) остается взвешенной суммой fxx(a) c весом, сконцентрированным в окрестности точки А,, с той разницей, что значения fxx(a) B не" посредственной окрестности 0 частично исключаются. Это связано с тем, что нам неизвестно значение ЕХ(/). Если т не слишком велико по сравнению с Г и fxx (а) достаточно гладкая, то Щ(хх(к) окажется достаточно близким к fxxfi) в обоих случаях. Сравнение выражений E.2.6) и E.4.8) позволяет сделать вывод о том, что смещение fxx (А), как интеграл, взятый по существенно •большему промежутку, вообще говоря, будет больше, чем сме- смещение /хх(А,). Подробно смещение будет рассматриваться позднее. Из последней теоремы следует Следствие 5.4.1. Дополнительно предположим, что А, — 2ns (T)/T — О^-1) и m является константой по отношению к Т. Пусть также 1,\и\\схх(и)\<оо, E.4.9) U тогда S ) E.4.10) для —оо<А,<оо. В пределе f{xx(k) есть асимптотически не- несмещенная оценка fxxft)- Таким образом, рассматривая первый момент при т не слиш- слишком большом по сравнению с Т, мы получим, что fixity является вполне приемлемой оценкой /хх(Я,). Оценка приемлема даже в том случае, когда EX (t) неизвестно и А,^==0 (mod2n). Относительно второго момента этой оценки справедлива Теорема 5.4.2. Пусть X(t), t = 0, ±1, . ., — действительный ряду удовлетворяющий условию 2.6.2A). Пусть fxx(k) задано выражениями E.4.1) —E.4.3) с K — 2ns(T)=^O(T-1). Пусть ^ ± \i ф. 0 (mod 2я) и т не зависит от Т. Тогда )' если MO(modK), E.4.11) если X^O(d) ( и cov {/$ (X), /$ (ц)} = О (Т-1). E.4.12) В случае К^ёО (mod 2л) осреднение 2/п+1 ординат соседних периодограмм привело к уменьшению дисперсии такой оценки в 2т+Граз по сравнению с дисперсией периодограммы. Таким
5.4. Сглаженная периодограмма 149 5. 4. 3. 2. S .5. 4. 3, 2. 1. 5. 4. 3. 2. 1. 5. 4. 3. 2. 1 0.125 0.250 0.375 0,500 /77=5 0.375 0.500 0.125 0.250 0.375 0.500 /77 = 20 0.125 0.250 Х/2* 0.375 0.500 Рис. 5.4.3. Десятичный логарифм оценки спектра /^ (X) для месячных сред- средних чисел солнечных пятен за 1750—1965 гг.. с осредненными 2т-\-1 ордина- ординатами периодограммы. (По горизонтали—частоты в цикл/месяц.)
150 5. Оценка спектра мощности 10. Рис. 5.4.4. Нижние частоты де- десятичного логарифма fpx (к) для месячных средних чисел солнеч- солнечных пятен за 1750—1965 гг. с осреднением пяти ординат перио- [ дограммы. (По горизонтали—ча- 0 .005 .010 .015 .020 ,025 .030 .035 .040 .045 стоты в Цикл/меся1*-) образом, предполагаемый выбор величины т должен быть столь большим, чтобы был достигнут необходимый уровень устойчивости оценки. Однако при обсуждении теоремы 5.4.1 было показано, что смещение оценки fixity может возрастать с возрастанием пара- параметра т, следовательно, в качестве т должно быть выбрано не- некоторое промежуточное значение. Дисперсия величины fixity в случае Х = 0 (mod я) приблизи- приблизительно удваивается по сравнению со случаем Я^О (mod я). Это является отражением того факта, что в первом из этих случаев оценка использует вдвое меньше независимых переменных. Асимп- Асимптотическое распределение для /5$ (А,) в некоторых условиях ре- регулярности дает Теорема 5.4.3. Пусть X(t), * = 0, ±1, ...,—действительный ряд, удовлетворяющий условию 2.6.1, и величина fixity опреде- определяется формулами E.4.1) — E.4.3), причем 2ns(T)/T-+K когда 7 -> оо. Пусть Xj±kk^0 (mod2я) для 1 </ < k</. Тогда fxx(K)> •••»fxx(Ay) асимптотически независимы и fixity име' ет асимптотическое распределение fxx ity llm+Ji^tn + 2), если
5.4. Сглаженная периодограмма А,=?0(тос1л), и асимптотическое распределение !ш{Цг1т1{2т)у если А, = 0 (modя). • Эта теорема будет особенно полезной позднее для нахождения доверительных границ оценки fxxity- На рис. 5.4.3 представлен десятичный логарифм от fxx (А,), полученной по формулам E.4.1) — E.4*3) для рядов ежемесячных чисел солнечных пятен, периодограммы которых были даны на рис. 5.2.3 и 5.2.4. Статистика /хх(А,) вычислена для 0<Я<я, т = 2, 5, 10, 20. Хорошо видно, что с.возрастанием т устойчи- устойчивость оценок возрастает. Из рисунка видно также, что значи- значительная масса fxxify сосредоточена в нуле. Это означает, что соседние значения ряда имеют тенденцию сосредоточиваться в кластеры. Это замечание подтверждается исследованием самого ряда (рис. 1.1.5). Периодограмма и графики, соответствующие т-^2, 5, 10, указывают на возможный пик в спектре в окрест- окрестности частоты 0.015л. Эта частота соответствует одиннадцатилет- одиннадцатилетнему циклу солнечной активности, упоминаемому Швабе в 1843 г. [Newton H. W. A958)]. Рассматриваемый пик исчезает в случае т = 20, что указывает на тот факт, что смещение становится значительным. Так как этот пик представляет особый интерес, изобразим график /хх(^) в случае т — 2 в увеличенном масштабе на рис. 5.4.4. На этом рисунке можно также различить пик около частоты О.ОЗОя, что является первой гармоникой частоты 0.015я. Рисунки 5.4.5 — 5.4.8 представляют спектральные оценки ря- рядов ежемесячных средних количеств осадков, периодограммы ко- которых были приведены на рис. 5.2.2. Статистика вычислена при т--^=2, 5, 7, 10. Как и прежде, увеличение параметра т ведет к повышению устойчивости оценки. Значительный пик соответ- соответствует частоте один цикл в год, что вполне оправдывается се- сезонной природой ряда. Для других значений X величина f{xx(ty близка к константе, из чего можно заключить,, что ряд прибли- приблизительно представляет собой годовую компоненту, наблюдаемую на фоне белого шума. График на рис. 5.4.9 является эмпирическим подтверждением справедливости теоремы 5.4.3. Это график значений fxxBns/T), Т = 2592, s = T/4, ..., (Т/2) — 1, ежемесячных чисел солнечных пятен, распределенных, по %зо- Величина /хх(^) была образована сглаживанием 15 прилегающих ординат периодограмм. Если fXx(ty близка к константе для я/2 < А, < я, что предполагается в исследуе- исследуемом случае, и, согласно теореме 5.4.3, величину f{xx (А,) можно при- приблизить распределением %зо> то предлагаемый график значений должен быть близок к прямой линии. Это- можно наблюдать на рис. 5.4.9. Правая часть графика, однако, обладает некоторой
152 5. Оценка спектра мощности JO1 1 о 6 4 2 8 г 6 6 4 ': 8 6 4 2 ю-2 1 | 1 1 1 1 1 1 1 .г \ л \ 1 1 1 i 1 i i - in 11 L I UN Г l ... ii. L 1 Wrfh i i lilu ш It Ш ш и 11 * .2 Х/2Я .4 P«c. 5.4.5. Оценка /<?? (A-) составного ряда осадков для Англии и Уэльса за 1789—1959 гг. с осреднением пяти ординат периодограммы (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.) Ю-2 1 Рис. 5.4.6. Оценка /<??. (К) составного ряда осадков для Англии и Уэльса зэ 1789—1959 гг. с осреднением одиннадцати ординат периодограммы (логариф- (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.)
| qI i 8 6 5 4 3 2 6 5 4 3 2 1.5 10 1 5.4 . Сглаженная периодограмме г t JL r w 1 A № ft Л К \ ц ч, 1 jIa 1 -lift 4 1 j 1 i P J 1 Л L и И 1 153 X/Zn A .5 Pi/c. 5.4.7. Оценка /^ (Я) составного ряда осадков для Англии и Уэльса за 1789—1959 гг. с осреднением пятнадцати ординат периодограммы (логарифми- (логарифмический масштаб.) (По горизонтали —частоты в цикл/месяц.) Ю1 8 6 '5 4 3 2 »i 6 5 4 3 2 1.5 i v ± it L г - к 1 Ч лА 1 1 \ f W \ X/Zn .5 Р«с. 5.4.8. Оценка f(px (к) составного ряда осадков для Англии и Уэльса за 1789—1959 гг. с осреднением двадцати одной ординаты периодограммы (лога- (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.)
154 5. Оценка спектра мощности 84. 70. 56. §42. Й28. 14. / юн XX* X / / X J 5.08 10.15 15.23 20.30 Квантили 25.38 30.45 5.4.9. График распределенных по Хзо ^00 верхних оценок спектра мощности со сглаживанием пятнадцати прилегающих ординат периодограмм для средних месячных чисел солнечных пятен за 1750—1965 гг. кривизной. Направление этой кривизны указывает на то, что действительное распределение убывает на бесконечности быстрее теоретического. Важно отметить, что вычисление fxx (^) для последовательности значений т дает нам гораздо большую информацию о спектре, чем вычисление при одном единственном значении т. Графики оценок спектральной плотности при малых значениях т помогают раскрыть почти периодические компоненты спектра и их место- местоположение, в то время как графики при больших значениях т дают гладкие кривые спектров и могут быть полезны в вопросах выбора модели. В том случае, когда значения I(xxBns/T)9 s=l, 2, ».., уже получены (возможно вычислены посредством быстрого преобразования Фурье), не составляет большого труда вычислить оценки спектра для нескольких значений т.
5.5. Общий класс спектральных оценок 155' Предложение об использовании сглаживания периодограмм для улучшения свойств спектральных оценок внес Daniell A946); см. также Bartlett A948b, 1966), Jones A965) и письмо Tick A966). Bartlett A950) использовал- %?-распределение для оценок сгла- сглаженных периодограмм. 5.5. Общий класс спектральных оценок Спектральные оценки предыдущего параграфа осредняли ор- ординаты периодограмм в окрестности точки К равномерным обра- образом. Если fxx(a) близка к константе для а, близких к Я, тогда это, несомненно, правильная процедура, однако, если fxx(a) ме" няется значительно, то, возможно, лучше осреднять ординаты периодограмм с большим весом в непосредственной окрестности точки Я, чем на некотором расстоянии. Обобщим построение оценки на различные весовые функции. Пусть W/y j == 0, ± 1, ..., ± т, — веса, удовлетворяющие условию т 2 Wy=l. E.5.1) Пусть s G)— такое целое число, что 2ns (Т)/Т близко к X и 2 [s (Г) +/] # 0 (mod Г), / = 0, ±1, ..., ±гп. рассмотрим оценку если A,^0(modjr), E.5.2) № (*) = ! если X = 0 (mod 2я) или если К = ± я, ± Зя, ... и Т четно, E.5.3) если А,= ±я, ±3я, ... и Г нечетно; E.5.4) здесь Г-1 X(t)exp{—iXt} E.5.5) ДЛЯ — 00 < Я< СХ),
156 5. Оценка спектра мощности Для вычисления математического ожидания определим не- несколько функций. Положим Пусть также /=-m оо<Я<оо. E.5.6) E.5.7) E.5.9) Из свойств функций FT(X) следует, что Ат(к) и ВТ(Х) будут весовыми функциями, сконцентрированными в основном в интер- интервале (—2ят/7\ 2тспг/Т) для —я<Я<я. Функция Вт(к) отли- отличается от Ат(к) тем, что она имеет исчезающе малую массу для — 2я/Г < X < 2я/7\ В случае равных весов Ат(к) и Вт(к) пря- прямоугольны по форме. В общем случае форма АТ(Х) повторяет форму Wj, j = — m, ..., 0, ..., m. Приступим к исследованию свойств этой оценки. Теорема 5.5.1. Пусть X(t), t = 0, ±1, ....—действительный ряд, причем EX(t)=cx и cov{X(t + u), X(t)\ = cxx(u) для t, и = 0, ±1, ... . Предположим также, что S кдМК». E.5.10) Ы=-0О Пусть f{xx(k) задается выражениями E.5.2) —E.5.4). Тогда (К) = | АТ (a) fxx -Я -а) da, если =1 BT(a)fxx{-a)da, (modя), E.5.11) и Т четно, E.5.12) если Х=±я, ±3я, ... и 7 нечетно.. E.5.13) если Я^0(тос12я) или Х=±п, ±3я, . я
5.5. Общий класс спектральных оценок 157 Математическое ожидание оценок E.5.2) — E.5.4) отличается от математических ожиданий аналогичных оценок § 5.4 исполь- использованием взвешенного среднего спектра мощности fXx(a)- В том случае, когда fxx(a) меняется достаточно сильно в окрестности Л, мы можем, выбирая должным образом Wу., воздействовать на характер взвешенного среднего, в результате чего можно получить оценку со смещением меньшим, чем в § 5.4. «Следствие 5.5.1. Если в дополнение к условиям теоремы пред- предполагать, что X—2ns(T)/T = O(T) и 2Мки(и)|<оо, E.5.14) и то ) для -оо<Я<оо. E.5.15) В пределе /хх (Я) есть асимптотически несмещенная оценка для Относительно структуры моментов второго порядка справед- справедлива Теорема 5.5.2. Пусть X(t), / = 0, ±1» • •,—действительный ряд, удовлетворяющий условию 2.6.2 A). Пусть f{xx(k) задается формулами E.5.2) —E.5.4), причем Х — 2т(Т)/Т = 0(Т-1). Тдгда, если К db М<щк 0 (mod 2я), m xx(ty=fxx(W 2 1*7 +0G-4 при Кф0 (modя), E.5.16) т Г m -]2 $a(Л) = /Хх(Л)« S ^7/ [23 W'/j при ^O(modjT) E.5.17) E.5.18) Очевидно, дисперсия оценки пропорциональна 2 ^7 Для боль- больших 7. Заметим, что "~ ' ' E.5.19) E.5.20) поэтому 2jjWj минимальна при условии ^у- и/у = 1, когда ТТ7"/ * • Г\ ¦ ! i Отсюда следует, что дисперсия величины fxx Щ при больших выборках минимальна, если используются оценки § 5.4. Как еле-
15ft 5. Оценка спектра мощности дует из обсуждения теоремы 5.5.1, возможны ситуации, при ко- которых оценка § 5.4 имеет большее смещение по сравнению с оцен- оценкой E.5.2), использующей подходящий выбор WJt Исследование предельного распределения дает Теорема 5.5.3. Пусть X(t), t = 0, ±1, ...,—действительный ряд, удовлетворяющий условию 2.6.1. Пусть fxx(h) задается фор- формулами E.5.2) —E.5.4), где 2ns(T)/T-+K когда Т-+оо. Пред- Предположим, что Xj ±Хкф0 (mod2я) для 1 ^ / < k< /. Тогда fix (К) у • • •»fix (Xj) асимптотически независимы и величина fix (X) асимптотически равна т fxxW S W/%l(j)/2, E.5.21) j=-m если КфО (modя), и fa (*-) [ .| WjXl (/)/з] /{| F/]Я F-5.22) ^сли Я^О (mod я), причем входящие в разные слагаемые перемен- переменные х2 статистически независимы. Как видно, асимптотическое распределение fix (к) является взвешенной суммой независимых распределений хи-квадрат. Эту аппроксимацию на практике использовать трудно, однако в стан- стандартных статистических процедурах [Satterthwaite A941), Box A954)] переменные аппроксимируются наборами 0%*, средние и числа степеней свободы которых можно определить, приравняв первые и вторые моменты. В данном случае мы получим следую- следующие соотношения: 6v= |] Wj = l, E.5.23) 9*2v= 2 W}, E.5.24) /=-m т. e. E-5-25) 6 = 1. E.5.26) В случае Wj= l/Bm+1) это опять приводит нас к приближению, предложенному в теореме 5.4.3. Приближение распределения оценок
5.6. Состоятельные оценки ; 159 спектра мощности наборами распределений хи-квадрат предлагал Тьюки A949J. Некоторые другие аппроксимирующие распределе- распределения рассматривались в работах: Freiberger, Grenander A959), Slepian A958) и Grenander и др. A959). В этом параграфе мы получили достаточно гибкую оценку спектра мощности, использующую схему взвешенных ординат периодограмм. Мы рассмотрели асимптотические свойства оценки, включающей 2т +1 взвешенных ординат периодограммы, когда Т—>оо. Для некоторых целей такая процедура может предпо- предполагать прямую аппроксимацию по большим выборкам, в других случаях имеет смысл предположить, что m растет вместе с 7\ Эту вторую возможность, позволяющую доказать асимптотическую нормальность и состоятельность оценки, мы рассмотрим в сле- следующем параграфе. Если поведение функции fXxW различно в разных интерва- интервалах, то возможно применение различных весов Wj и различных m для этих интервалов частот. 5.6. Состоятельные оценки В этом параграфе мы будем рассматривать оценки вида где Wm(a), —оо<а<оо, 7* = 1, 2, ...,—семейство весовых функций с периодом 2я, таких, что оценка E.6.1) по существу включает 2тг4-1 ординат периодограмм в окрестности Я. Для того чтобы получить оценку с дисперсией, стремящейся к нулю при Т—> <», мы будем требовать, чтобы пгт—> оо в противопо- противоположность постоянному m из § 5.5. Интервал частот, используе- используемых оценкой E.6.1), имеет длину 2я Bпгт+ 1)/Т, таким образом, для того чтобы получить асимптотически несмещенную оценку, мы будем требовать, чтобы пгт/Т -+ 0 при Т —> <х>. Оценка наследует свойства гладкости Wm(a). Удобным способом построения используемой в оценке E.6.1) весовой функции W(T) со всеми нужными свойствами является введение масштабных множителей Вт, Т=1, 2, ..., таких, что ?г>0, ?г->0, ?гТ-^оо, когда Т-^оо, и -оо<а<оо, E.6.2) /=-со где 1^(р), — оо <р< оо,—заданная функция, для которой вы- выполнено
160 5. Оценка спектра мощности Условие 5.6,1. Функция W $), где — оо<р<оо, есть дей- действительная четная функция ограниченной вариации, причем •-1 E.6.3) — во и $ЦР(РIФ<°9- E.6.4) Если мы выберем функцию Wф) так, что для |р|>2дх она принимает значение 0, то оценка E.6.1) включает только те из 2ВТТ +1 взвешенных ординат периодограмм, частоты которых попадают в интервал (Х — 2цВт, Х + 2пВт). Следуя введению к этому параграфу, положим тт = ВтТ. Ввиду того что W(T) (а) имеет период 2я, то же самое будет справедливо и для fxx{X). Аналогичным образом из соотношения Wm (— а) = Wm (а) следует fxx (— X) = fXx (X). Согласно условию 5.6.1, оценка E.6.1) может иметь отрицательные значения, однако если мы дополнительно предположим, что W (|3) ^ 0, то будет 2л выполнено fIxW>°; Ввиду E.6.3) справедливо $ W{T)(a)da= I. о Из E.6.2) для f{xx{X) получим выражение fxx(**)•= Zd BT W \BT ук—Y\) Ixx\T) ^§0 (d T) (mod T) (^*]) W Cf) E.6.5) которое лучше объясняет структуру fxx{k). Для больших Т сумма весов выражения E.6.1) ввиду E.6.3) должна быть близка к 1. Исследователь может потребовать от выражения E.6.1) равенства суммы весов в точности 1. Это не изменит асимптотических выражений, приведенных ниже. -Исследование математического ожидания величины f{x]c(k) по большим выборкам дает Теорема 5.6.1. Пусть X(t), t = 0, ±1, ...,—действительный ряд, причем EX(t) = cx и cov \X{t + u), X(t)} = cxx(u) для t9 u~0, ±1, ... . Предположим, что 00 S \u\\cxx(«)!<«?• E.6.6)
5.6. Состоятельные оценки 161 Пусть fixity задается формулой E.6.1). Тогда s=l ^ 00 = 5 E.6.7) для — оо < X < оо, где W ф) удовлетворяет условию 5.6.1. Оста- Остаточный член равномерен по К. Как видно, математическое ожидание величины fxx (ty является взвешенным средним функции fxx(a)> —оо<а<оо, с весами, сконцентрированными в интервале, содержащем Я и имеющем длину, пропорциональную ВТ. Справедливо Следствие 5.6.1. Если выполнены условия теоремы и ВТ—+0 при Т—>оо, mo fxx(ty является асимптотически несмещенной оценкой для fxxityy m- е- lim EfTx(ty = fxx(ty, -оо<Я<оо. E.6.8) Свойством асимптотической несмещенности обладала также и оценка § 5.5. Свойства моментов второго порядка оценок по большим выборкам выясняет Теорема 5.6.2. Пусть Х(/), ? = 0, ±1, ...,—действительный ряду удовлетворяющий условию 2.6.2 A). Пусть fixity задается формулой E.6.1), где W ф) удовлетворяет условию 5.6'. 1. Тогда (^) (-^) /„ (Щ 2я ypm (X—a) W{T) (\i — a) fxx (aJ da 1 (X — a) Wm (ц + a) fa (aJ da о 2я ) E.6.9) для — оо < kf [X < оо#
162 5. Оценка спектра мощности Ниже, в следствии E.6.2), мы будем использовать функцию 1, если Я=еО (mod 2я), 0 в противном случае, которая является периодическим продолжением дельта-функций Кронекера [ 1, если Я = 0, 6{М= п E-6Л1) 1 ' @ в противном случае. Следствие 5.6.2. ?йш выполнены условия теоремы 5.6.2 и ВТТ —> оо пра Г —> оо, то lira fijTcov {#?(*). /(/1(ц)} T 0 . E.6.12) Из этого выражения при \i=X следует, что E.6.13) Таким образом, в каждом из этих случаев DfJxW стремится к нулю при ВГТ —>оо. В следствии 5.6.1 мы видели, что если Вт—>0 при Т —>оо,тои Е/!й(Я)->/хх(Я).Поэтому оценка E.6.1) при выполнении условий теоремы 5.6.2 обладает свойством Нт Е|/^(Л)-/^(Я)|2 = 0, E.6.14) Г-> со если Вт—+0 к ВтТ—+оо. Такую оценку называют состоятельной в среднеквадратичном. Заметим, что согласно выражению E.6.13) дисперсия удваи- удваивается в точках Я = 0, ± я, ± 2я, ... . Еще более информативно выражение E.6.9). Оно показывает, что этот асимптотический эффект сохраняется в окрестностях точек Я = 0, ± я, ±2я, ..., размеры которых имеют порядок ВТ. . Из E.6.12) следует, что fxxCk) и f{xx коррелированы при Т —> оо, если Я—|л Я тотическое распределение fxx (Я) исследует Теорема 5.6.3. Яусть X(f), t = 0, ±1, асимптотически не- О (mod2K). Асимп- Асимп. — действительный ряд, удовлетворяющий условию 2.6.1. Пусть fxx(fy задается фор-
5.6. Состоятельные оценки 163 мулой E.6.1), где W ф) удовлетворяет условию 5.6.1. Предполо- Предположим, что lxx (kj) Ф О, / = 1, ..., /. Тогда величины fxx (К)>... ..., fix (kj) асимптотически нормальны и имеют ковариацион- ковариационную структуру у задаваемую формулой E.6.12) при Г—*оо и ВТТ-+ооу Вт-+0. Оценка, рассматриваемая в § 5.4, имела асимптотическое рас-, пределение, пропорциональное %2 в условиях осреднения по ко- конечному числу ординат периодограммы. В данном случае число осредняемых ординат периодограммы возрастает до оо вместе с Т9 что, естественно, ведет к асимптотической нормальности оценки. Одним из интересных следствий теоремы является асимптотиче- асимптотическая независимость f(xx(ty и /х*([х), когда Х±\лфО (mod2n). Из теоремы вытекает Следствие 5.6.3. В условиях теоремы 5.6.3 и в предположении, что /ххМ^О» величина lgfxx(X) имеет асимптотически нор- нормальное распределение у дисперсия которого задается формулами если Хф 0 (mod я), ; E.6.15) если ^=0(modn). Из этого следствия вытекает, что дисперсия logf{xx(k) слабо зависит от величины fxx(^) и от Я при больших Т. Таким об- образом, график значений \ogf{xxCk) может быть более показатель- показательным, чем график /хх(Я). В действительности это часто приме- применяется в инженерной практике и было сделано для различных оценок спектра этой главы. Состоятельные оценки спектра мощности были получены в ра- работах: Grenander, Rosenblatt A957), Parzen A957, 1958). Эти же авторы, а также Blackman, Tukey A958) исследовали асимпто- асимптотическое среднее и дисперсию. Асимптотическую нормальность изучали в различных условияхРозепЫаи A959), Brillinger A965b, 1968) Brillinger, Rosenblatt A967a), Hannan A970), Anderson A971). Представляет интерес работа Jones A962a). В случае когда наблюдаемые величины предварительно сгла- сглаживаются во времени, аналогично теореме 5.6.3 справедлива Теорема 5.6.4. Пусть X(t)> t = 0, ±1, ..., —действительный ряд, удовлетворяющий условию 2.6.1, a h (t)> — со < t < оо, —вре- —временное окно, удовлетворяющее условию 5.6.1. Пусть также W (а),
164 5. Оценка спектра мощности — оо<сс<оо, удовлетворяет условию 5.6.1. Положим У 2я ? ft(-fJ V1 , E.6.16) * J t где 2 2;(t)/[i;(t)] <5-6Л7> Положим % {Щ ?> (?) . E.6.18) ВГ->О, ?ГГ -+ооприТ-+оо. Тогда fPx(h)> • • • >/а:х(^) имеют совместное нормальное распределение, причем lim Т -> оо Ит mHty^fxxW E.6.19) Т -> оо (tLt E.6.20) — oo < Я, (X < oo. По сравнению с выражением E.6.12) предел дисперсии в сгла- сглаженном случае отличается от несглаженного случая множителем Г 1 I5 \ J h(t)*dt\ . Г I h(tLtj\ J h(t)*dt\ . E.6.21) По неравенству Шварца этот множитель больше или равен 1. В случае когда мы используем сглаживание с помощью косинуса по первым и последним 10-процентным временным интервалам, величина этого множителя равна 1,116. Есть основания на- надеяться, что в большинстве ситуаций значительное уменьшение смещения в сглаженном случае будет с запасом компенсировать это возрастание дисперсии. В табл. 3.3.1 приведены некоторые полезные временные окна.
5.7, Доверительные интервалы Л65 5.7. Доверительные интервалы Для того чтобы получить представление о возможной близости оценки к параметру, часто желательно по имеющейся оценке иметь доверительные интервалы для параметра. В этой связи могут использоваться асимптотические представления, полученные в предыдущем параграфе для различных спектральных оценок. Прежде всего введем некоторые обозначения. Пусть z (a), %v(a) обозначают числа, такие, что Р[г <*(<*)] = а E.7.1) <Xv»] = <*, E.7.2) где z—величина со стандартным нормальным распределением, a Xv—величина, имеющая распределение хи-квадрат с v степе- степенями свободы. Рассмотрим сначала оценку § 5.4 /=-т = Bт + 1)- S *® (^Ш1) E.7.3) для числа 2ns(Г)IT, близкого к Хф0 (modя). В теореме 5.4.3 предлагалось аппроксимировать распределение этой оценки рас- распределением fxx (к) xlm+2/D^ + 2). Такая аппроксимация приводит к следующему 100у-процентному доверительному интервалу для fxx W'. что после логарифмирования дает log/SR (Л) < log fSR (Я) —log |х1я+. (iTI)/D™ + 2)}- E-7.5) В случае Х = 0 (mod n) число степеней свободы и множители пеРЗД х2 изменятся в соответствии с теоремой 5.4.3. На рис. 5.7.1 приведены 95-процентные границы около оценки, соответствующей случаю т = 2 на рис. 5.4.4. Эти границы можно установить двумя способами. В верхней части рис. 5.7.1 дей- действуем в соответствии с выражением E.7.5). В нижней части рисунка устанавливаем границы около сильно сглаженной спек-
166 5. Оценка спектра мощности .005 .010 .015 .020 .025 .030 .035 .040 .045 тральной оценки; такая проце- процедура имеет свои преимущества при» наличии больших пиков. В § 5.5 мы рассматривали оценку /=-771 'CD Bnls(T)+j]\ хх\ Т J * i 0 (mod я), E.7.6) включающую взвешенные орди- ординаты периодограмм. Было най- найдено, что ее асимптотическое распределение является взве- взвешенной суммой экспоненциаль- экспоненциальных величин. С таким распре- распределением, вообще говоря, не- неудобно работать, однако при обсуждении теоремы 5.5.3 пред- предлагалось приближать его рас- распределением fxxO^Xv/v* где v = —I E.7.7) Zj w j=-m в случае Яф 0 (mod я). Выбрав такое значейие для v, мы при- приходим к следующему ЮОу-про- центному доверительному ин- интервалу для log far (Я): < log/„ (Я) < log f5a (Я) ^p)/v}. E.7.8) Рис. 5.7.1. Два способа построения 95-процентных доверительных границ около приведенной на рис. 5.4.4 оцен- оценки спектра мощности. (По горизон- горизонтали—частоты в цикл/месяц.) Если Гу=1/Bт+1), / = 0, ±1, ..., ±m, то интервалы E.7.8) и E.7.5) совпадают. Если v велико, то lg{%v/v} имеет асимптотически нормаль- нормальное распределение со средним 0 и дисперсией, равной 2 @.4343J/v. Поэтому для асимптотического распределе-
6.7\ Доверительные интервалы 167 ния logfxxfi) мы приходим к следующим границам для дове- доверительного интервала: log/® (Ц-г (Цр) @.4343) l/".im Щ < log/™ (Я.) <log/fi(X)-2(i=l)@.4343)l/i П E.7.9) Из последних непосредственно получаем приближение, предла- предлагавшееся в § 5.6. Оценка, рассматривавшаяся там, имела вид -Щ1(Л(Щ. ' E.7.10) Следствие 5.6.3 приводило нас к таким границам для ЮОу-про- центного доверительного интервала: i/ 2л [ (p) p @.4343) У —L— < \gfxx(X) /1 л. \ 1 / 2л [ w (РJ ЙР i±2) @.4343) |/ —Ц^ ' E-7Л1> Ввиду т " — го„ / «-.mi о- л 7(рJ^ E.7.12) — m s интервалы E.7.11) и E.7.9) необходимым образом согласованы. Интервалы E.7.9) и E.7.11) соответствуют случаю ХфО (mod я). В случае Я = 0(тос1я) дисперсия оценки приблизительно удваи- удваивается, что указывает на необходимрсть расширения интервалов в 1^2 раз. В том случае, когда можно ожидать, что fxx(a) Достаточно гладкая в некоторой окрестности точки Я, возможны некоторые ' дополнительные процедуры. Мы можем оценить дисперсию вели- величины f(xx (Л) по изменению f{Px (а) в окрестности точки X. Такая процедура, например, может быть использована в интервале частот я/2 < к < я для ранее рассматривавшегося ряда ежеме- ежемесячных средних чисел солнечных пятен. В этом параграфе были построены доверительные интервалы для оценки спектра мощности в заданной точке X. Вне этих пределов могут оказаться только A—у) 100% всех значений изучаемых величин. Иногда могут представлять также интерес Доверительные области для целого диапазона частот. Woodroofe, Van Ness A967) рассматривали асимптотическое распределение
168 5. Оценка спектра мощности переменной lflftH(?)l EJ13) когда NT—>оо при Г-—>оо. Доверительную область для fxxfi) О < Я < я, можно определить, исходя из этого асимптотического распределения. 5.8. Смещения и предварительная фильтрация В этом параграфе мы займемся более детальным анализом смещения предлагаемых оценок спектра мощности. Мы выясним, каким образом, используя элементарную операцию под назва- названием „предварительная фильтрация", можно уменьшить смеще- смещение. Начнем с рассмотрения периодограмм сглаженного ряда. Предположим для удобства, что ЕХ(/) = 0, хотя все основные выводы останутся в силе и в общем случае. Пусть ХD) -оо<Я<оо, E.8.1) где Л (а) —временное окно, обращающееся в нуль при и < О, и > 1. Тогда соответствующая периодограмма имеет вид № (X) = f 2я ? h (^JXх | dT (X) |». E.8.2) = f 2я ? h (^JXх | d Определим ядро л /С(Г> (а) = | Я<г> (а) |2/ J | НМ (а) |« da, E.8.3) -Л где 1 («Н X А (т)ехр f- "аЬ <5-8-4) В этих терминах утверждение теоремы 5.2.3 имеет следующий вид: (a) fo (Я-а)da. E.8.5) Рассмотрим это математическое ожидание более подробно. Поло-
5.8. Смещения и предварительная фильтрация 169 ЖИМ я J (а) ехр {— tea} da Как и следовало ожидать из § 3.3, верна Теорема 5.8.1. Пусть X (t), t = 0, "± 1> ...,— действительный ряд со средним 0 и ковариационной функцией, удовлетворяющей условию Ъ\и\р\с„(и)\<<х> E.8.7) Зля некоторого Р ^ 1. Предположим, что временное окно h(и)— такое, что km(u), задаваемое E.8.6), может быть представлено в виде E.8.8) Пусть 1(хх(Ь) задается формулой E.8.2). Тогда п = J (а) /„ (К-a) da S ipT-Pk/A (Х) + О(Т-г), E.8.9) j0=l 23e fxx(k) обозначает р-ю производную fxxW)- Остаточный член равномерен по К. Из определения следует, что k{T) (и) = km (—а), откуда kp = О для нечетных р в формуле E.8.8). Таким образом, главный член смещения по формуле E.8.9) равен № E.8.10) Как видно, этот член зависит как от применяемого ядра, так и от исследуемого спектра. Мы будем стараться выбирать сгла- сглаживающую функцию такой, чтобы | k2 \ было по возможности меньше.-© самом деле, если мы используем определение C.3.11) ширины окна, то ширина ядра /С(Л (а) равна V\k2\/T, что также делает предпочтительными малые |^2|. Ширина ядра—важный параметр в определении величины смещения. Так, например, в спектре трудно различить пики, расстояние между которыми меньше, чем V\K \/T. Это тесно связано с выводами теоремы 5.2.8,
170 5. Оценка спектра мощности из которых следует, что 1(хх (Я) и 1{хх (^) сильно зависимы, когда Я, близко к (х. Выражения E.8.9) и E.8.10) показывают, что сме- смещение будет исключительно мало в том случае, когда fXx(a) близка к константе в окрестности Я; это замечание подтверждает необходимость предварительной фильтрации, что будет обсуждаться позднее. Рассмотрим оценку Wj№ Г1^"), E.8.11). в которой 2ns (T)/T близко к Я, и 2 W, = l. E.8.12) /=-m Ввиду m f2n ,-.« ^ т v E.8.13) остаются справедливыми замечания к теореме 5.8.1 о том, что смещение E.8.П) будет меньшим для меньших k2 и для/^^а), близких к константе. Это подтверждает также и выражение |/(^)(^) E.8.14) -Л / которое вытекает из E.8.5). Ядро -Щ E.8.15) интеграла E.8.14) повторяет форму функции, задающей величины Wj для а, близких к 2лj/T> / = 0, ±1» . .-• ±tn. Грубо говоря, ширина этого ядра в m раз превышает ширину /С(Г)(а), так что смещение E.8.11) должно быть больше, чем смещение для 1{хх (Я)-, если fxx(a) отличается от константы. С помощью статистики E.8.11) будет трудно различать пики fxx (Я), расстояние между которыми меньше, чем mYkjT. Сглаживание с весами W;-приво- W;-приводит к уменьшению разрешающей способности статистики /$?(Я). Необходимо помнить, однако, что сглаживание было введено для увеличения устойчивости оценки, есть также основание полагать, что в некотором более общем смысле сглаженные оценки будут лучше.
5.8. Смещения и предварительная фильтрация 171 Вернемся к детальному исследованию состоятельной оценки, введенной в § 5.6. Напомним ее вид: -^ 2 WlT) (ь-2-г) /® №). E.8.16) s=l где 1Aх (Ь)задается формулой E.8.2), a W^ (а)—формулой E.6.2). Теорема 5.8.2. Пусть X(t), t = 0f ±1, ...,— действительный ряд со средним О и ковариационной функцией, такой, что 00 S |и|'кн(иI'<» E.8.17) «•=-00 Зля некоторого Р ^ 1. Пусть временное окно h (и) таково, что k{T) (X) из формулы E.8.6) может быть представлено в виде E.8.8) для |и|<Г. tf#cm& /??(Л) задается E.8.16), причем W (а) удовлетворяет условию 5.6.1. Тогда s=l s=l — оо<Я<оо. E.8.18) Остаточный член равномерен по %. Выражение E.8.18) показывает преимущества сглаживания и в этом случае. Как видно из E.8.18), математическое ожидание приблизительно равно взвешенному среднему интересующего нас спектра мощности с ядром W{T)(a). Эффективная ширина ядра имеет порядок О(ВТ), поскольку /ТС ч 1/2 / <» Ч 1/2 | S [l—cQsa}W™-(a)da\ - BTlj J aW (a)da\ . E.8.19) Для следствия 5.8.2 введем величину 00 W,= J VW®)d$. E.8.20)
172 5. Оценка спектра мощности Следствие 5.8.2. Предположим в. дополнение к условиям тео- теоремы 5.8.2, что J E.8.21) — СО тогда = fxx (Я) + E.8.22) для — оо < X < оо. Ввиду того что Ц7(Р) = Й7(—р), члены выражения E.8.22) с нечетными р обращаются в нуль. Мы видим, что, выбирая W (Р) так, чтобы Wp = 0, р=1, ..., Р—1/мы можем уменьшить смещение до порядка В?. Такое Ц7 (Р), очевидно, должно при- принимать кое-где отрицательные значения, что в некоторых ситуа- ситуациях может привести к определенным сложностям. Для Р = 3из .E.8.22) следует Я^ ^^ + О (В*) + О (В^Г-i). E.8.23) Как следует из выражения E.8.19), эффективная ширина ядра W{T)(a) равна Вг}/^2/2, что еще раз подчеркивает зависимость смещения от ширины ядра и гладкости fKX (а) в окрестности точки А,. В § 3.3 обсуждался вопрос о том, какое ядро W{T) (а) более выгодно применять при сглаживании периодограммы. В большин- большинстве случаев этот вопрос может быть решен путем разумного выбора» фильтра, применяемого перед оценкой спектра мощности. Как было показано, главный член Ef{xx (k) равен J W™ (К—a) fxx (a) da. E.8.24) -Я Если fxx(a) не зависит от а и fxx (a) = fXx> T0 выражение E.8.24) равно fxx. Отсюда следует, что чем ближе fxx(a) K константе, тем меньше смещение. Предположим, что ряд X(t)9 t = 0, 4=1, ..., подвергается действию фильтра с передаточной функцией А (Я). Обозначим ряд на выходе через Y (t), t = 0, ± 1» • • • • Из упр. 2.8.1 следует, что спектр мощности этого ряда задается выражением fYYm = \A(%)l*fxx(X), E.8.25) или, после обращения, А (Ь)ФО. E.8.26)
5.8. Смещения и предварительная фильтрация 173 Пусть }{уу{Ц является оценкой спектра мощности ряда Y(t). Из соотношения E.8.26) следует, что в этом случае выражение \A(%)\-*fWW E.8.27) будет оценкой для fxxft)- Математическое ожидание этой оценки, как уже отмечалось выше, равно Я W'T)(X—a)\A(a)\*fxx(a)da. E.8.28) Если А (к) выбрано так, что | Л (а)|2/хх(а) —величина постоян- постоянная, то E.8.28) будет в Точности равно fxx(k). Отсюда следует, что в том случае, когда fxx(a) отличается от константы, мы мо- можем попытаться найти передаточную функцию А (К)у такую, чтобы спектр фильтрованного ряда Y (t) был близок к константе; тогда в качестве оценки для 1хх(Х)мы возьмем | А (к) |~2/Ук(^)- Такая процедура, предложенная в работе Press, Tukey A956), назы- называется оценкой спектра с помощью предварительной фильтрации или приведения к белому шуму. Обычно фильтр определяется из некоторых частных соображений, однако Парзен и Тьюки предложили общую процедуру, которая состоит в определении фильтра по авторегрессионной схеме. Для, некоторого т опреде- определим а(ЛA), ..., ат(т) так, чтобы минимизировать выражение Т-\ 2 [*(*)—а(Г)(!)#('—!)— •••— a{T)(m)X{t— m)]2; E.8.29) при этом Y(t) = X{t)~ a<T)(l)X(t — 1)— ...— a^(m)X{t—m), t = m9 ..., 7-1, E.8.30) удовлетворяет изложенным выше соображениям. В случае когда ряд X(t) является приблизительно авторегрессионной последо- последовательностью порядка m (см. § 2.9), эта процедура будет близка к оптимальной. Она дает неплохие результаты также и в других случаях. Аналогичным образом для ряда Y(t), полученного из X(t) фильтрацией с передаточной функцией А (к) по формуле E.3.20), имеем E.8.31)
174 5. Оценка спектра мощности откуда s = 1 _*L 2 IT™ (Я-2^) | Л (Щ f № (Щ . E.8.32) Это обсуждение приводит к следующей оценке для А (х) I- Щ. -^s) | Л (^s) \'m (Щ Л (^s) \'m (Щ , E.8.33) причем функция А(Х) выбрана так, чтобы \A(a)\2fxx(a) было по возможности близко к константе. Эта оценка, основанная на дискретном преобразовании Фурье значений X (t), t = 0,..., Т — 1, включает сглаживание взвешенных ординат периодограммы. В том случае, когда fxx(a) имеет острый пик около точки 2tcS/T^K мы можем выбрать Л (а) такой, чтобы A BnS/T)=0. После_этой процедуры сумма E.8.33) не будет содержать ординат периодограммы /xxBitS/7). Заметим, что ордината 1(хх@) была опущена еще в оценке E.8.16). Согласно обсуждению теоре- теоремы 5.2.2, это эквивалентно изучению периодограмм значений X(t)—c{P при / = 0, ..., Г —1, E.8.34) где сф = Т-г 2 X(t). E.8.35) Аналогичная ситуация возникает в том случае, когда удаляется из оценки ордината I{xxBnS/T). Если значения d{P Bns/T), s = 0, ..., S— 1, S+l, ..., Т/2, не меняются при умножении ряда на exp{±i2nSt/T)f t = 09 ..., Т— Г, то устранение орди- ординаты периодограммы /хх BjiS/7) эквивалентно изучению перио- периодограмм значений X(t), t = 0, ..., Т — 1, из которых вычтена синусоида наилучшего вложения частоты 2tlS/T. Идею исключе- исключения некоторых частот при сглаживании периодограмм рассматри- рассматривали Priestley A962b), Bartlett A967), а также Brillinger, Rosen- Rosenblatt A967b). Некоторые свойства предварительной фильтрации обсуждались в работе Akaike A962a). Иногда мы настолько хо- хорошо можем представить себе функцию А (X), что из ее вида можно непосредственно делать вывод относительно спектра ряда Y(t), не производя его деления на |Л(?1)|2.
5.9. Другие оценки спектра мощности 175 5.9. Другие оценки спектра мощности Рассматриваемые до сих пор оценки спектров являлись взве- взвешенными средними значениями периодограмм частот 2ns/T, s = 0, ..., Т— 1. Использование такой оценки оправдывается тем, что при больших Т эти частные значения периодограммы могут быть вычислены с помощью алгоритма быстрого преобра- преобразования Фурье (§ 3.5), а их совместное распределение при боль- больших выборках довольно элементарно (теоремы 5.2.6 и 4.4.1). В этом параграфе мы рассмотрим некоторые другие оценки. Рассмотренная в § 5.6 оценка спектра имела следующий вид: т-\ ~Z* wm[b—T-)Ix-c<ptx-c<P[-T')> ~оо<Х<оо. E.9.1) Если дискретное среднее в E.9.1) заменить непрерывным, то оценка будет выглядеть следующим образом: 2л (Т) ) Х-сх , Х~сх г_,т(Л—a)da. E.9.2) -ю " . Х В этом случае т-\ 2 с<хх{и)ехр{—1ки}у E.9.3) л А и~-Т+\ где (и) = Г-* 2 [X (< + а) - с</>] [X @ -~с?>1- E.9.4) 0< t, t + uK T-\ Произведя такую замену в формуле E.9.2), мы придем г выра- выражению BЯ) 2 w(BTu)cTx{u)exp{-Uu\, E.9.5) и=-Т+\ где w(u)= J W (a) exp {iua} da. E.9.6) — со Оценку E.9.5) исследовали в общей форме Grenander A951a), Grenander, Rosenblatt A957) й Parzen A957); некоторые частные случаи этой оценки рассматривали Bartlett A948b), Hamming, Tukey A949), Bartlett A950). Оценка E.9.5) широко использо- использовалась до появления алгоритма быстрого преобразования Фурье,
176 5. Оценка спектра мощности В действительности оценки E.9.1) и E.9.2) имеют в основном одинаковый характер и почти совпадают. Например, в упр. 5.13.15 показано, что оценка E.9.5) может быть представлена как среднее дискретных значений периодограммы для любых целых S ^ 2Г — 1 в следующей форме: * ? W™ (%-2f) iTx^f) ; E.9.7) см. также Parzen A957). Выражение E.9.7) использует в два раза больше значений периодограмм, чем выражение E.9.1). В случае когда S очень велико, оно может быть вычислено с по- помощью быстрого преобразования Фурье ряда X(t) при f = 0, ..., Г —1, о „Р„( = г s-i. '<5-9-8> или получено вычислением с помощью быстрого преобразования Фурье, согласно упр. 3.10.7, величин с$$(и), и = 0, ±1, ..., с последующей оценкой выражения E.9.5) также с помощью быстрого преобразования Фурье. Обратно, оценка E.9.1) может быть представлена, как показывает упр. 5.13.15, в форме непре- непрерывного среднего значений периодограммы 2Л / 71  5=1 0 I 5=1 (т—I) а где sin () ij^E.9.10) 2я sin -jT- а Равномерную оценку разности двух статистик дает Теорема 5.9.1. Пусть W(а), — оо<а<оо, удовлетворяет условию 5.6.1 и имеет ограниченную производную. Тогда S=l 0 л )) E.9.11) для некоторого конечного L и —<х> < Я < оо.
5.9. Другие оценки спектра мощности 177 Очевидно, что в том случае, когда ВТ стремится к 0 не слиш- слишком быстро, асимптотическое поведение этих двух оценок прак- практически совпадает. При обсуждении интерпретации спектра мощности, приведен- приведенном в § 5.1, была предложена некоторая спектральная оценка. Так, пусть А (а) означает передаточную функцию узкополосного фильтра, такого, что А(а)^=0 при |a±Jl|>A, E.9.12) — я<а, Я<я, А мало и я 5 \А(а)\Ча=1. E.9.13) Свойства таких фильтров обсуждались в § 2.7, 3.3 и 3.6. Пусть X(t>%), t = 0, ±1, ..., означает временной ряд на выходе та- такого фильтра; тогда л W = S | А (а) |2 fxx (a) da +1 А @) |* с\ -Я = fxx(ty> если ^^=0(mod 2я). E.9.14) Это приводит к рассмотрению в случае X^0(mod2ji) оценки т-\ Т-1 2 X(t9 ЯJ. E.9.15) В действительности эта оценка была первой спектральной оцен- оценкой, использовавшейся на практике; см. Pupin A894), Wegel Moore. A924) Blanc-Lapierre, Fortet A953). Такая оценка яв- является одной из общеупотребительных во временных процессах. Обсудим свойства этой оценки, предположив, что Л (а) Л V^k+T) ПРИ 1«±М<тг(* + т). E.9.16) { 0 в противном случае, —п < а < я. Если d(x,., ху Bns/T) обозначает дискретное преобразование Фурье значений X(t, X), t=0, ..., T—l, выхода фильтра и Ъ(Т)Т±К, то Т) ([() + \ , ./ Т (Т)([() + ] E.9.17) Т ,<Г) Bл [T-s(T)-s\\ dx [ f J
178 5. Оценка спектра мощности для s = 0, ±1, ..., ±т и асимптотически равно 0 в противном случае. Из равенства Парсеваля следует, что = Г- E-9.18) и поэтому асимптотически равно Bт+ \)-г ? /ft (Mim±!l) . E.9.19) Таким образом, оценка E.9.15) имеет ту же форму, что и оцен- оценка E.4J). Из теоремы 5.3.1 следует, что ординаты периодограмм оди- одинаковых частот Хф 0 (mod я), вычисленные * по различным вре- временным интервалам, асимптотически независимые fxx (k) %^/2-nepei менные. Этот результат дает возможность построить оценку путем осреднения по различным временным интервалам. В самом деле, справедлива Теорема 5.9.2. Пусть X(t), t = 0> ±1, ... ,—действительный временной ряд, удовлетворяющий условию 2.6.1. Пусть v-\ 2 X (v + IV) ехр {— il {v + IV)} E.9.20) для — оо<Я<оо, / = 0, ... , L— 1. Пусть также ©W = i"' S' Wx(K I). E-9.21) /= о где T = LV. Тогда f(xx{fy имеет асимптотическое распределение /xx(^)%2l/BL), если Кф0(тоAл)у и асимптотическое распреде- распределение fxxW)lVL> если Я=±я, ±3я, ... и V—^оо. Оценку E.9.21) предложил Bartlett A948b, 1950), ее иссле- исследовали также Welch A967), Cooley, Lewis, Welch A970). По срав- сравнению с другими эта оценка имеет преимущества ускоренных вычислений, особенно, когда V достаточно велико. Кроме того, она позволяет изучать ряд на стационарность. Welch A967) предложил использовать периодограммы, вычисленные по пере- пересекающимся временным интервалам. Спектральные оценки, осно- основанные на преобразовании Фурье, рассматривали Akcasu A961) и Welch A961). На основании приведенной теоремы можно построить доверительные границы для />хМ> если I^xiK l)9 / = 0, ..., L—1, считать L независимыми оценками fxxify- Как отмечалось в предыдущем параграфе, для оценки спектра мощности может быть использована также авторегрессионная
5.9. Другие оценки спектра мощности 179 схема. Оценку спектра мощности ряда остатков Y(t) для после- последовательности значений т рассматривал Parzen A964) в том случае, когда эта оценка близка к постоянной; в качестве оценки мы можем принять |Л(ГЧ-2Т~^2 Ylt)*9 E.9.22) t = ° где А{Т) (к) есть передаточная функция фильтра, переводящего основной ряд в ряд остатков. Естественно, что эта процедура тесно связана с предварительной фильтрацией. Некоторые ста- статистические свойства этой процедуры рассматривали Kromer A969), Akaike A969a); рассматриваются они также в § 8.10. В процессе работы над данной главой мы пришли к важному выводу о существенном влиянии параметров* эффективной ши- ширины т или ВТ на статистические свойства оценки. В самом деле, выбор формы весовой функции используемой оценки ста- становится несущественным, если мы приводим к белому шуму исходный ряд. Существенной будет только ее эффективная ши- ширина. Параметры m или Вт мы надеялись определить из ожи- ожидаемой статистической устойчивости. Если же у нас не было четкого представления об этой устойчивости, мы использовали последовательность предлагаемых параметров. Leppink A970) для выбора необходимой оценки предлагал оценивать Вт на ос- основании исходных данных, см. также Picklands A970). Daniels A962) и Akaike A968b) предлагали процедуру для модификации оценки. В случае когда X(t), t = 0, ±1, ..., является гауссовским рядом с нулевым средним, оценку, основанную на величинах Y (t) = sgn X @, t = 0, ..., Т - 1 E.9.23) (где sgnX=l, если Х>0 и sgnX = —1, если X < 0), предло- предложил Гольдштейн; см. Rodemich A966); обсуждение этой оценки можно найти в работах: Hinich A967), McNeil A967) и Brillin- ger A968). Rodemich A968) рассматривал оценку для fXx(ty> построенную по сгруппированным значениям ряда X(t). Jones A962b) и Parzen A963a) предложили оценки для слу- случая, когда 'имеются систематические пропуски значений X(t), J = 0, ..., Т—1. Brillinger A972) рассматривал оценку, когда ~X(t) наблюдается в моменты х1У ..., ти, являющиеся значениями точечного процесса. Akaike A960) изучал процесс X(t)y наблю- наблюдаемый для значений t, близких к точкам 0, 1, ..., Т—1; такие Наблюдения мы будем называть возмущенными выборками. Писаренко A972) был предложен некоторый класс нелинейных оценок. Предположим, что ряд наблюдений разделен на L сег- сегментов. Пусть с{Рх(и>1)> и = 0, ±1, ...; / = 0, ..., L— 1, озна-
180 5. Оценка спектра мощности < чает оценку ковариационной функции, построенной на сегменте /. Пусть \х(р, U)T\ / = 1, ,.., «/, означают собственные значения и векторы матрицы \L"X 2с(/л:(/ —&> /);/,&= 1, ..., У]. В таком случае предлагаемая оценка имеет следующий в'ид: h E.9.24) где Я (л:), 0<#< оо,— строго монотонная функция и h (^ — об- обратная к ней. Эта оценка основана на определении матричной функции 3.10.27. В случае Н(х) = х оценка E.9.24) представ- представляется в виде L-\ 1 = 0 1 ? A-ЩсТх(и,1)ехр{-шЦ, E.9.25) что совпадает с оценкой E.9.21), если J = V. В случае Н (х) = х~х оценка представляется в виде V J -1-1 Bя/)-* 2 С(Д>ехр{— Л (/-Л) , E.9.26) L /. *=i J где [С}-р] — матрица, обратная матрице, собственные значения и векторы которой вычислены. Оценку E.9.26) с высокой разре- разрешающей способностью рассматривал Capon A969). Писаренко A972) показал, что для нормального ряда с /, L—*oo, когда Т—*оо, оценка E.9.24) будет асимптотически нормальной с дис- дисперсией E.9.27) Capon, Goodman A970) приближали распределение E.9.26) с по- помощью fxx(b)%*L-%j+i/2L9 если A,^0(modji), и hxityiL-J+i/L, если Я=±я, ±3я, .... Иногда нас может интересовать оценка спектра мощности с помощью параметрической модели. Полезные общие замечания в этом направлении содержатся в работах Whittle A951, 1952а, 1961). Некоторые частные модели рассматривали Box, Jenkins A970). 5.10. Оценки спектральной меры и ковариационной функции Пусть X(t), t = 09 ±1, ...,— действительный ряд с ковариа- ковариационной функцией схх(и)у и = 0, ±1, ..., и спектральной плот- плотностью fxx(ty> —оо<Х<оо. Во многих ситуациях интересно
5.10. Оценки спектральной меры и ковариационной функции 181 знать оценку спектральной меры введенной в § 2.5. Точно так же во многих ситуациях интересно оценить ковариационную функцию da, E.10.2) а также широкополосную оценку спектрального среднего 2Я \W(%-a)fxx(a)da, E.10.3) о где W (а)—весовая функция с периодом 2я, сконцентрированная около точек а = 0 (mod 2я). Выражения E.10.1), E.10.2) и E.10.3) являются частными случаями более общего: 2Л J(A)= ^A(a)fxx(a)da E.10.4) о для некоторых функций Л (а), 0^а<2я. По этой причине мы займемся кратким исследованием оценки E.10.4) для заданных функций Л (а). Эту задачу рассматривал Parzen A957). В качестве первой оценки рассмотрим статистику -2» ? А (Щ 1Тх (Щ , (&.10.5) S=l гДе 1{хх С1)» ¦— оо < X < оо,— периодограмма, построенная по значениям X(t), t = 0, ..., Т—1. Применение в качестве ста- статистики дискретной суммы со значениями в точках 2ns/T дает возможность использовать для вычислений алгоритм быстрого преобразования Фурье. Положим ( 1, 0<а<, Л(а) = < п E.10.6) 4 { 0 в противном случае, v 7 что приводит к следующей оценке спектральной меры Fxx(k): -т- 2 ШВД. E.10.7)
182 5. Оценка спектра мощности ' Положим 0<ос<2я, E.10.8) что приводит, согласно упр. 3.10.8, к оценке схх(и) круговой ковариационной функцией cTx(u) = T^T^[X(t + u)-cTx][X(t)-cTl E.10.9) (Здесь X (t), t = 0, ± 1, ...,— периодическое продолжение X (t) с .периодом Т.) Выбор функции A(a) = W{X—d)9 0<а<2я,. E.10.10) приводит нас к рассмотрению спектральной оценки вида жм-т? w {К-Щ w* [?) • <БЛ0Л1> В упр. 5.13.31 приведена статистика, которая иногда исполь- используется в стационарных гауссовских рядах для проверки гипо- гипотезы о наличии у ряда спектра мощности fXx(k)- Справедлива Теорема 5.10.1. Пусть X(t), / = 0, ±1, ... ,— действитель- действительный ряду удовлетворяющий условию 2.6.2 A). Пусть функции Aj(a)f 0^а<2я, ограничены и имеют ограниченную вариацию для j = 1, ..., /. Тогда ЕЛТ)(А Далее, cov {J{T 2j 0 t T-l I1" (Л,)) ! ЛуBя—а)ЛА 2я2л "r)l :и (т')+( о x(aJda + i '- 2Л 0 1.. (a) Ak J. E. 10.12) [a)«da j Jy -«). E.10.13) о о Кроме того, JiT)(Aj), /=1, ..., /, асимптотически имеют сов- совместное нормальное распределение и указанную выше структуру первых и вторых моментов. Из выражения E.10.12) видно, что J{T)(Aj) является асимпто- асимптотически несмещенной оценкой для «/ (Лу). Она является также и
5.10, Оценки спектральной меры и ковариационной функции 183 состоятельной оценкой ввиду того, что ее дисперсия стремится к 0, когда Т—+оо. Если Л (а) выбрать согласно E.10.6), то формула E.10.13) приводит к следующему выражению для оценки спектральной меры Fxx(k): ton Tcov №(*,), F min (Я, ц) К ц = 2я J /у* (a) da + 2я J J /„„ (а, 0, — а) da О 0 0 , ц,<я. E.10.14) В случае оценки ковариационной функции схх(и) с Л (а), задан- заданной выражением E.10.8), из E.10.13) следует lim jTcov ¦ ~ 2Я = 2я J ехр {— i (и + v) a} fxx (aJ da о 2я 0 2я2я я J 5 ехр {I (иа—ф)} /ххх^ (а, р, — a) da о о и, о = 0, ±1, .... ' E.10.15) В случае широкополосной спектральной оценки E.10.10) из E.10.13) следует 2Л в= 2я J W (к + a) W ([х—a) fxx (а) о 2Я + 2я J W (к—a) W (\i — a) fxx (аJ da о 2я2л1 E.10.16) о о В случае постоянной весовой функции спектральные оценки /хх(^) и fxxiv^) не будут асимптотически независимы, как это было раньше. Если вычислены оценки fax (а) и fXxxx (a» Р> V)» то мы можем подставить их в выражение E.10.13) и получить оценку для
184 5. Оценка спектра мощности 1.0г .9 .125 .250 .375 X/Z7C •500 Рис. 5.10.1. График ^хх (^)/^хх (^) Для среднемесячных чисел солнечных пятен за 1750—1965 гг. (По горизонтали—частоты в цикл/месяц.) дисперсии JiT)(Aj). Если при этом использовать асимптотическую нормальность этой оценки, то можно получить приближенные доверительные границы для этого параметра. В некоторых ситуациях предпочтительнее использование оценки с непрерывной весовой функцией 2я К х_ Г-1 2 ¦ и=-Т+\ E-10.17) где с(хх(и)—выборочная ковариационная функция, определенная выражением E.9.4) и 2Я а(и)= \ ехр {— iua} A (a) da. о E.10.18) Так, например, в случае Л(а) = ехр{ша} мы получим выбороч- выборочную ковариационную функцию с(Рх (и) в отличие от круговой функции, полученной ранее. Оценка E.10.17) ненамного отличается от оценки E.10.5); справедлива Теорема 5.10.2. Пусть А (а), 0 ^ a < 2я,— ограниченная функция, имеющая ограниченную вариацию. Пусть X(t),
5.10. Оценки спектральной меры и ковариационной функции 185 — 0, ±1, ... , удовлетворяет условию 2.6.2 A). Тогда Т -\ 2я 2я v^ /i72rts\ r(T) /2jxs\ С л У" 2 А \Т) Я* (Т)—) А s=l О E Л ЛшшЛ. \ 1 / \ 1 J J . . .- -л , -- -л s=l О = О(Т~1). E.10.19) Как видно, эти две оценки близки для больших Т и их асимптотические распределения совпадают. Приведенная в E.10.7) оценка спектральной функции Fixity иногда может оказаться очень полезной для обнаружения перио- периодических компонент ряда и для оценки достоверности предлагае- предлагаемой модели, в особенности модели белого шума. На рис. 5.10.1 даны значения F(xx(X)/F{xx(n)> 0<Х^я, ежемесячных средних чисел солнечных пятен. Периодограмма этого ряда была приве- приведена в § 5.2. График спектральной функции исключительно сильно растет в низких частотах и несколько слабее в верхних. Если Fxxfi) постоянна в некотором интервале, то FXX(K) растет ли- линейно в этом же интервале. Этого нельзя сказать о графике на рис. 5.10.1, за исключением разве лишь частот выше я/2. Выборочная ковариационная функция с{хх{и)> и = 0, ±1, ..., также может оказаться весьма полезной при изучении структуры ряда. На рис. 5.10.2 и 5.10.3 представлены графики с(Хх(и) Для рядов соответственно ежегодных и ежемесячных средних чисел солнечных пятен. Хорошо видна заметная корреляция значений ряда с расстояниями, кратными приблизительно 10 годам. Пик в нуле на рис. 5.10.3 указывает на присутствие ошибки измерений. Асимптотические свойства ковариационной функции рассмат- рассматривались Слуцким A934) для случая гауссовских процессов с нулевым средним. Bartlett A946) распространил асимптотиче- асимптотическую теорию моментов второго порядка на случай линейных процессов с нулевым средним. Вопросы асимптотической нор- нормальности рассматривали Walker A954), Lomnicki, Zaremba A957b, 1959), Parsen A957), Rosenblatt A962), Anderson T. W., Walker A964). Как отмечал Akaike A962a), иногда удобно рас- рассматривать c(xx(u), и = 0у ±1, ..., как стационарный временной ряд со спектром мощности 2nT~fxx(K}2, Это соответствует со- сохранению только второго члена в правой части E.10.15). ВгШ- ingen A969c) указал две формы сходимости с вероятностью еди- единица и вывел слабую сходимость оценки к гауссовскому про- процессу.
186 5. Оценка спектра мощности 10 Рис. 5.10.2. Оценка с{рх(и) ковариационной функции для среднегодовых чисел солнечных пятен за 1750—1965 гг. (По горизонтали—запаздывание в годах.) 80 100 120 140 Рис. 5.10.3. Оценка срх(и) ковариационной функции для среднемесячных чисел солнечных пятен за 1750—1965 гг. (По горизонтали—запаздывание в месяцах.)
5.11. Отступление от принятых предположений 187 5.11. Отступление от принятых предположений В этом параграфе мы обсудим действие некоторых элементарных отступлений от принятых в данной главе предположений. Одним из важных допущений является EX(t)=cx, * = 0,±1, ..., E.11.1) и 2 |*и(«01<«>, EЛ1.2) где cxx(u) = cov{X(t + u)9 X(t)\ для t, u = 0, ±1, Прежде всего рассмотрим случай, когда условие E.11.2) не выполняется: Пусть 2 где Rj, о)/ постоянны, Ф;. равномерны на (—я, я), / = 1, ...,«/, а ряд е(?) удовлетворяет условию 2.6.1. В таком случае кова- ковариационная функция ряда E.11.3) представляется в виде j схх (и) = т S #/cos °VU + °ы (")» E.11.4) откуда следует, что условие E.11.2) не выполнено. Заметим, что спектральная функция FgX(ty, существование которой доказы- доказывается в теореме 2.5.2, представляется в виде j к /=i о где J 1 при а^О, Н(а) = \ Л . А E.11.6) v ' \ О при а < О, V ' a /ее(^) означает спектральную плотность ряда е(?), ^ = 0^ + 1, .... Обобщенная производная выражения E.11.5) равна j " 2-1 ^/" l^"/) + /ее(^)» E.11.7) где О^Х^я, a S(X)—дельта-функция Дирака. Функция E.11.7) имеет бесконечные пики в точках соу, /=1, ...,/, над ограни- ограниченной непрерывной функцией /ееМ- Говорят, что ряд, задавае- задаваемый выражением E.11.3), имеет смешанный спектр.
188 5. Оценка спектра мощности Для рассматриваемого ряда из выражения E.11.3) следует, что Х@ехр{—Ш\ -Н*Р {-*>/} Д(Г)(* + ©,)] + ** (*). E.11.8) где A<7>(?i) определено в формуле D.3.14). Функция ДG) (Я) имеет большую амплитуду только для Я= 0 (mod 2л). Это означает, что при X i о>/г i< j E.11.9) у RjT ехр {—1фу} при ?ii-o);, в то время как d<P (Ъ)=#ВТ>(К) + ОA) E.11.10) для | X ± coy | > б/Т, —я < X^ я. Как следует из формулы E.11.9), изучая значимые пики периодограммы 1(хх(Ц> можно оценить значения со,-. Значения Rj можно оценить с помощью выражения Kco/)/T. E.11.11) По существу эту процедуру использования периодограмм пред- предложил Schuster A898) для отыскания скрытых периодичностей ряда. Формула E.11.10) показывает, что мы можем оценить fSB(k) сглаживанием периодограммы, избегая при этом частот в непо- непосредственной окрестности «у. Равномерно осредняя v ординат периодограммы PpxBns/T) (s целое), из теоремы 4.4.1 и выра- выражения E.11.10) получим, что эта оценка асимптотически равна fxx (^) %lv/Bv) в случае К ф 0 (mod я); случай X = 0 (mod я) рас- рассматривается аналогично. Приведенную выше простую модификацию сглаживания периодо- периодограмм, устраняющую пики, изучали Bartlett A967), Brillinger, Rosenblatt A967b). Это близко связано с техникой предваритель- предварительной фильтрации, обсуждаемой в § 5.8. Читатель может обратиться также к работам: Hannan A961b), Priestley A962b, 1964) и Nicholls A967). Albert A964), Whittle A952b), Hext A966) и Walker A971) рассматривали проблему построения более точных оценок coy из выражения E.11.3). Обратимся к ситуации, в которой нарушено условие неизмен- неизменности среднего E.11.1). Следуя § 2.12, будем изучать модель
5.11. Отступление- от принятых предположений 189 с трендом X @ = .2 буфу @+ *('). E.11.12) где* = О, ±1, ... , Фх(О, •• • , Ф7(О — известные функции, Q19 ... ...., 07—неизвестные постоянные и 8 (t), t=0, ±1, ... ,—-ненаблю- ,—-ненаблюдаемый ряде нулевым средним, удовлетворяющий условию 2.6.1. Такие модели рассматривал Grenander A954). Эта модель позво- позволяет построить по методу наименьших квадратов оценки Q(f\ ... ... ,*Q(jT) параметров Q19 ... , 67, минимизируя сумму 2JX@-0^@--.. -<VM0]2> E.11.13) и оценить затем f8eM из ряда остатков «@ = ^@-6{Г)Ф,@--..-в7>ф7(/), E.11.14) *=0, ... , Г— 1. Займемся исследованием асимптотических свойств такой процедуры. Введем некоторые условия относительно функ- функций ФЛ*), ... , Фу(О- Условие 5.11.1. Для заданных действительных функций Ф/(()у 1-.=. 0, ± 1, ... , / = 1, ... , Jу существует последовательность NT> Т = 1, 2, ... , такая, что NT—+ oo, NT+1/NT—+ 1 при Т-+ оо и Т-\и\ YrniNf1 2 Ф/(< + ")ФЛ@ = Л1у*(") E.11.15) для а = 0, ±1, ... и /, А=1, ...,/, причем члены последова- последовательности т-\ Nt1 2 |ФЙ1(^ + ^)...Ф^ 1(' + ^.1)Фв/к@|, 7 = 0 Т=1,2, ... , ограничены в совокупности для aiy ... , аЛ= 1, ... , г; «1, ... ,^-1 = 0, ±1, ... ; k= 1,2, В качестве примера функций, удоЁлетворяющих этому усло- условию, рассмотрим Фу @ = Я/cos (юу* +Фу) E.11.16) для постоянных Rj, со., ф-, /=1, ... , /. Нетрудно видеть, что при NT^T ju( = k> E.11.17) (О при \фк. Некоторые другие примеры приводятся в статье Grenander A954).
190 5. Оценка спектра мощности Пусть m/k(и) — элемент матрицы тфф(и), находящийся на пе- пересечении строки / и столбца k, /, k— I, ...,/. Как следует из улр. 2.13.31, существует rxr-матричная функция ,(лфф('К)> Я с элементами ограниченной вариации, такая, что («)=¦-• J exp {iu%} dGH{%) E.11.18) -Я для w = 0. Справедлива Теорема 5.11.1. Пусть e(t), t = 0, ±1, ... ,— действительный ряду удовлетворяющий условию 2.6.2 (/), имеющий нулевое сред- среднее и спектр мощности fSs(k), —оо<А,<оо. Пусть также Фу (^), / = 1, ...,«/, 2 = 0, ±1, , удовлетворяют условию 5.11.1, причем матрица т_фф@) несингулярна. Предположим, что ряд X(t) задан формулой E.11.12) для некоторых постоянных Qiy ... ... , 07. Пусть 0jr\ ... , 0(/)—оценки параметров Qi9 ... , 07, полученные методом наименьших квадратов. Если ряд e(t) задан формулой E.11.14), причем Т-1 s=l ^ J \ J где W{T)(a)==^Bf1W(Bf1[a-\-2nj]) и W (а) удовлетворяет уело- / вию 5.6.1, то переменная Q(T) = [Q[T>, ... , 0(/>] имеет среднее 8 = [01, ... , 07] и ковариационную матрицу, такую, что lim NTE {8<г> - 8)Т (8(г) — 0)} = (О) $ Ы(^)AОфф(а)тфф@)'я19 E.11.20) причем последнее выражение асимптотически нормально. Если ВТТ-+оо при Т —>оо, mo fee}(h) асимптотически не зависит от 8<Г) и имеет математическое ожидание' r-1). E.11.21) Ковариационная функция этой переменной удовлетворяет ус- условию E.11.22)
5.11. Отступление от принятых предположений 191 причем конечный набор оценок f&iK)* • • • » f(ee4K) имеет асимп- асимптотически нормальное совместное распределение. Как видно, в приведенных условиях асимптотическое поведе- поведение ffiik) совпадает с поведением оценки №}(Ц> вычисленной непосредственно по ряду е(/), / = 0, ±1, Этот эффект мы уже наблюдали для временного ряда с неизвестным средним, что соответствует случаю У = 1, фх(/)= 1, Вг=сх, Q[T>=c(p=T~l 2 X(t). Из теоремы вытекает Следствие 5.11.1. При условиях теоремы 6<г> и ffi (k) явля- являются состоятельными оценками для 9 и fee(ty соответственно. Более подробные результаты, аналогичные теореме 5.11.1, приводятся в гл. 6. Этой теме посвящены статьи Grenander A954), Rosenblatt A956a), Hannan A968), представляет также интерес статья Koopmans A966). На практике часто используется про- процедура построения спектральных оценок по первым разностям е(t) = X (t)~X (t — I), t= 1, ...., Г—1. Эта процедура непосред- непосредственным образом устраняет линейный тренд (см. упр. 3.10.2). Возможна более сложная по сравнению с разобранной в на- настоящем параграфе ситуация, в которой cov {ХA-\-и)у X(t)\ зависит от обоих параметров i и и. Выражаясь точно, спектр мощности в этом случае вообще неопределен, см. Loynes A968); однако, в том случае, когда cov {X (t + u), X (t)\ достаточно слабо зависит от /, вычислениями спектрального типа можно накопить полезную информацию об отрезке ряда. Все предлагаемые в дан- данной главе спектральные оценки мы можем также строить по уко- укороченным отрезкам ряда, для которых предположение стационар- стационарности можно приближенно считать выполненным. К этой ситуации скорее всего хорошо будет подходить спектральная оценка, по- построенная путем осреднения квадрата выхода узкополосного фильтра (см. §5.9). Такие ситуации обсуждаются в статьях ' Priestly A965), Brillinger, Hatanaka A969). Интересной может оказаться также следующая ситуация: пусть ряд X (t) определен для-всех действительных чисел t> —оо<7<оо. (До сих пор мы рассматривали X (t) определенным только для * = 0, ±1, ...)• Предположим, что схх(и) = cov {X(t + u), X (/)} E.11.23) определена для —оо < /, и < оо и удовлетворяет условию S sup \cxx(v)\<oo; E.11.24) << 1
192 5. Оценка спектра мощности тогда определены как /и(*') = Bя)-1 S с„(и)ехр{-Ли}, E.11.25) ы= -со так и со toW = Bn)-1 J <**(u)exp {-&«}*« E.11.26) — 00 для —оо < X <оо. Функция fxxfi) называется спектром мощности дискретного ряда X(t)> * = 0, ±1, *...,'в то время как ?ухМ> —оо < Я<оо, 'называется спектром мощности непрерывного ряда X(t)> —оо<?<оо. Спектр gxxfi) чаще всего имеет тот же ха- характер, что и спектр fxxft)- Эти два спектра, согласно E.11.26), связаны следующим соотношением: = $ ДЛЯ что и = 0, ±1, дает ее 2Ж/+1 -.S = ^ ехр { 0 .... Из схх{и) fxx{X 2Я/ iuX) E.11 2я -S- 0 ) == ) ехр со .2 .25) яр{ 00 2 i = — оо {шЯ,} gxx (Я) dA, имеем iuX}fxx(X)dX, %xx(h+2nj)- E.11.27) E.11.28) E.11.29) Как видно из соотношения E.11,29), частота X дискретного ряда X(t)9 t = Q, ±1, ..., связана с частотами Я, Х±2п, ... непре- непрерывного ряда X(t), —оо<^<оо, а также с частотами —X, —X ± 2я, ... , ввиду того что /и (X) = /хх (—Я). Согласно Тьюки, частоты Л + 2я/, —Я + 2я/, / = 0, ±1, ..., E.11.30) называются сопутствующими, а сам эффект—подменой частот. Эти частоты невозможно различить с помощью одной единствен- единственной функции fxxity- В качестве подтверждающего примера рас- рассмотрим ряд E.11.31)
5.11. Отступление от принятых предположений 193 —оо < t <оо, где величинаФраспределена равномерно на(—я, д).; Для этого непрерывного ряда имеем 4 E.11.35) •E.11.33) Эта функция имеет бесконечные пики в точках Л, = ± со. Рассмат- Рассматривая теперь функцию E.11.32) для f = 0, ±1, ..., из B.10.8) или E.11.29) мы имеем | )]. E.11.34) —оо<м<оо, и из определения E.11.26)-— 1 г Последняя функция имеет бесконечные пики в точках А, = ± со + 2я/, / = 0, ±1, ... , так что со не может быть точно определено, о нем можно сказать лишь, что оно совпадает с одной из этих частот. В практической ситуации мы не можем знать наверное, какая из частот ±со + 2я/, / = 0, ±1, ... , реально соответствует пику, если оценка спектра мощности f{px{X), вычи- вычисленная для О^к^п, дает пик в точке со. Однажды автор столкнулся с подобной ситуацией: произво- производился периодический отсчет числа электронов, попадающих в коническое отверстие вращающегося вокруг своей оси спутника серии Explorer (Зонд). Измерялось остронаправленное поле элект- электронов, так что поступающие данные должны были иметь пери- периодическую составляющую, соответствующую периоду вращения спутника. Планировалось, что частота отсчета данных и скорость вращения спутника будут связаны между собой так, что частота вращения X попадает в интервал—0 < 31 < я. В действительности скорость вращения спутника оказалась выше планируемой, так что частота вращения попала вне интервала 0 < X < я. Исследован- Исследованный спектр, в самом деле, содержал значимый пик, и нужно было решить, какая из сопутствующих частот дала этот пик. В данном случае это оказалось возможным только благодаря наличию оптической информации, давшей грубую оценку этой частоты. Предварительная фильтрация данных иногда может уменьшить трудности, вызываемые подменой частот. Предположим, что не- непрерывный временной ряд X(t)9 —оо</<оо, фильтруется с помощью фильтра с полосой пропускания [—я/ —я, —я/], [я/, nj-\-n] и после этого записывается в точках ? = 0, ±1, • • • •
194 5. Оценка спектра мощности В таком случае из E.11.29) следует /). E Л 1.35) что значительно упрощает исследование. Мы закончим этот параграф обсуждением свойств выборки из временного ряда X(t), —оо<?<оо, через равные промежутки времени h > 0. Таким образом, в промежутке времени [0, Т) теперь записываются значения X(uh)> и = 0, ..., /7 — 1, где U = T/h. ?сли ряд стационарен и имеет ковариационную функ- функцию cov{X(uh)t X@)}=cxx(uh)y и = 0, ±1, ... > причем 2 \cxx(uh)\<oot E.11.36) и=-оо то мы определим спектр мощности fxx(k), —оо<Я<оо, фор- формулой |r cxx(uh)exp{-iKuh\ E.11.37) или в обращенном виде я/А cxx(uh)= j ^„(Х,)ехр{Л«ЛуЛ. E.11.38) -я/А Из приведенной формулы видно, что спектр мощности fxx(k) имеет период 2я/А. А так как /хх(—А,) = /ххМ> то в качестве основного частотного интервала можно выбрать [0, я/Л]. В этом случае выражение E.11.29) представляется в виде ( f) E.П.39) /=-00 Верхний предел интервала [0, я/ft], а именно я/Л, называется частотой Найквиста или частотой свертки. Если ряд Х@> —оо<?<оо, не имеет компонент с частотами, большими, чем частота Найквиста, то выполняется равенство E-11.40) для |Я|^я/Л и не возникает никаких подмен частот. Чтобы построить оценку fxx(k) по ряду X(uh), u = 09... ..., {/ —1, T = uhy определим • = S Х(аЛ)ехр{—ЛиА}, E.11.41) ^71 dSP (Л.) |*. E.11.42)
5.12. Использование анализа ^спектров мощности 195 и затем, можем, например, воспользоваться сглаживанием периодо- граммы Ixxify- Проблему подмены частот обсуждали Beveridge A922), Press, Tukey A956), Blackman, Tukey A958). 5,12- Использование анализа спектров мощности Различные области прикладных исследований, где частотный анализ может оказаться крайне полезным, уже упоминались в первой главе. В данном параграфе мы обсудим некоторые при- примеры практического использования спектров мощности. Описательная статистика. Функция f(Px (X) часто вычис- вычисляется просто как описательная статистика наблюдений X(t), / = 0, ... , Т — 1. Она дает некоторую общую информацию о всей совокупности данных. В случае стационарного ряда она обла- обладает хорошими выборочными свойствами. Обычно эта функция гораздо удобнее для исследования, чем основной ряд. Такое исследование опирается также на использование внутреннего ме- механизма генерации данных. Таким образом Wiener A957, 1958) изучал -биотоки мозга. Спектр мощности вычислялся также как непосредственная мера мощности в ваттах различных частотных компонент электрического сигнала; см., например, Bode A945). В оптике [Wright A958)], спектр мощности рассматривается как основная характеристика цвета объекта. Как уже отмечалось, спектр мощности меняется элементарным образом при фильтрации ряда. Это использовали Nerlove A964), Godfrey, Karreman A967), чтобы вскрыть сезонную природу экономических временных рядов с помощью различных процедур. Gartwright A967) с помощью таких процедур изучал приливы. Некоторые другие примеры приводят Condit, Grum A964), Haubrich A965), Yamanouchi A961), Manwell, Simon A966), Plageman и др. A969). Неформальные критерии и различение гипотез. Использование спектра мощности для различения гипотез и построения крите- критериев примыкает к использованию описательных статистик. При изучении цветов было замечено, что спектры объектов разных цветов изменяются определенным образом [Wright A958)]. Car- Carpenter A965) и Bullard A966) по наблюдаемым записям сейсми- сейсмических колебаний изучали их спектры мощности, надеясь отли- отличить на этой основе землетрясения от подземных ядерных взры- взрывов. Точно так же сравнивались спектры сигналов биотоков мозга, полученные от здорового и психически больного пациентов, в надежде получить способ диагностики; см. Bertrand, Lacape A943), Wiener A957), Yuzuriha A960), Suhara, Suzuki A964), Alberts и др. A965), Barlow A967).
196 5. Оценка спектра мощности Как мы видели, спектр мощности белого шума постоянен. Таким образом, этот спектр можно использовать как неформаль- неформальный критерий статистики белого шума [Granger, Morgenstern A963), Press, Tukey A956)]. Этот метод особенно эффективен в том случае, когда альтернативный процесс представляет собой некоторую другую форму стационарного процесса. Так, второй процесс может выражаться через первый в некоторой функци- функциональной форме. После того как выбор функциональной зависи- зависимости уже сделан, его качество может быть проверено гладкостью спектра мощности остатков [Macdonald N. J., Word A963)]. Величина спектра мощности остатков может быть использована в качестве критерия согласия. Частотные границы плохого согла- согласия также могут быть получены из непосредственного рассмотре- рассмотрения спектров. Изучению экономических рядов через спектральный анализ посвящены многочисленные статьи, см., например, Grander, Elliot A968), Howrey A968), Sargent A968). Оценка. Спектры мощности используются для оценок пара- параметров. Внутренняя структура ряда иногда ведет к функциональ- функциональной форме зависимости спектра от неизвестных параметров. В таком случае параметры могут быть оценены из экспериментального спектра; см. Whittle A951, 1952а, 1961), Ибрагимов A967). Линейные процессы являются моделями со многими неизвестными параметрами [Ricker A940), Robinson A967b)]. Для их исследо- исследования используются спектры. Сдвиг пика в наблюдаемом спектре с места его обычного расположения используется астрономами для определения направления движения астрономического тела; Bracewell A965). Перемещение пика в спектрах наблюдений ис- использовали Munk, Snodgrass для определения возможных штормов в Индийском океане. Исследование скрытых периодичностей. Измерение частоты возможно периодического явления явилось первоначальной про- проблемой, приведшей к определению периодограммы второго по- порядка [Schuster A898)]. Пики функции f(Px (k) сразу же попадают в поле арения, а ширина их может служить мерой точности определения скрытых частот. Определение главной частоты био- биотоков мозга является важным шагом в исследовании пациента с возможными психическими отклонениями [Gibbs, Grass A947)]. Bryson, DuttonA961) исследовали периоды солнечной активности по кольцам на срезе дерева. Сглаживание и прогнозы. Точное исследование спектра мощ- мощности является важным этапом при определении формулы Колмо- Колмогорова и Винера; см. Колмогоров A941а), Wiener A949), Whittle A963а). К этой же области относится проблема усиления сигна- сигналов и построения оптимальных передаточных устройств для сиг- сигналов гармонической природы (например, человеческой речи).
5.13. Упражнения 197 5.13. Упражнения 5.13.1. Пусть X(t) — стационарный ряд с нулевым средним, Y (t) ^ ^ua(t-u)X(u). Докажите, что ЕЩ W -\Л (X) | 5.13,2. Докажите, что /=0 другими словами, при равномерном сглаживании /^ Bя//Г) по всей области мы получаем значение /п^ @). (Этот результат можно-рассматривать в каче- качестве проверки точности вычислений.) Получите аналогичный результат для 5.13.3. Пусть задай действительный стационарный в широком смысле про- процесс X (t), / = 0, ± 1, ±2, ..., с абсолютно суммируемой автоковариационной функцией сХх(и) и спектром мощности fxxW Ф 0," —п < к^л. Покажите, что при этих условиях существует суммируемый фильтр Ъ (и), такой, что ряд ?@ = 2« b(t — u)X(u) имеет постоянный спектр. Указание: в качестве пе- передаточной функции возьмите [/ххМ]~1/2 и воспользуйтесь теоремой 3.8.3. 5.13.4. Докажите, что ехр { — /^ (K)lfxx (Щ является в условиях теоре- теоремы 5.2.7 при Т —у оо асимптотически равномерной случайной величиной, рас- распределенной на @, 1). 5.1&5. Докажите, что в условиях теоремы 5.2.7 статистики (пТ)~1Х [Rec^p (k)]2 и (лГ) [Im SP (к)]2 являются асимптотически независимыми величинами, распределенными как /xxWXi* 5.13.6. Пусть У^ (к) означает меньшую и К$х (^)—большую из двух ве- величин, рассматриваемых в предыдущем упражнении. В условиях" предыдущего упражнения докажите, что [J(xx (^), Кхх (^)] является приблизительно 42-про- 42-процентным доверительным интервалом для fxxfi)- См. обсуждение работы Дур- бина в статье Hannan A967 b). 5.13.7. Докажите, что результат теоремы 5.2.6 становится точным, а не асимптотическим, если X @), ...,Х(Г—1) являются нормальными независи- независимыми величинами с нулевым средним и дисперсией а2. 5.13.8. Пусть W (а)=0 при а < Л, а > В, В > Л, где Л и В конечны. До- Докажите, что асимптотическое выражение для дисперсии, приведенное в E.6.13), будет минимальным при W (а) —(В — Л)~г для А <а<?. 5.13.9. Докажите, что периодограмма в условиях регулярности является состоятельной оценкой для fxx(*<)> если fxxfi)^®- 5*13.10. Пусть заданы ряд Y (t) со спектром /и^Л) и независимый ряд со спектром fXx(b). Пусть X(t) = Y(t) для ОЩ^Т/й и X(t)**Z(t)
198 5. Оценка спектра мощности для Т/2 < t<T—1. Определите приближенные статистические свойства перио- периодограммы 1(хх М- 5.13.11. Докажите, что /<$Bяв/Г)=Bя)-] 5.13.12. Покажите, что ¦*»G) /4,\ /72V v (W) ЛЛ х ' 5.13.13. Покажите, что я схх (и)= \ -я 5.13.14. Докажите, что в [? 7— 1 1Хехр { я = \ ехр -я ехр {iau} . условиях 5.13.15. (а) Докажите, что (Г) 'ххЫ- 2я 0 где Dr-i(a) задается формулой E.9.10' нием C.2.5). (Ь) Докажите, что t(T) /\ \ 2я lXX W — -g- S-1 s=0 ___ ^. jtsu l тШ. (w)s где S-—целые. {iau} I(PX (a) do. ^Х-с^ х-с^Т^а^а' теоремы 5.6.2 (Г) (b-a)/xx(a)<fa, ). Указание: воспользуйтесь выраже- Л 2ns\ 7G) /2ns\ (А =- 1 'XX 1 "с" 1 \ ^ / \ ^ / для 5.13.16. Покажите, что 2я min /xx W < ^XX @) < 2я max /xx (X). 5.13.17. Докажите, что если для ряда * К @=2 <* «-«)*(«) U выполнено условие 2.6.1, то равномерно по % = J {[sin T (b-a)/2]2/[sin (Я^а)/2]2} | А (Х)-Л («) |2 -я = о(Г). Если Л (а) имеет ограниченную первую производную, то это выражение равно 0A) равномерно по К.
5.13. Упражнения 199 5.13.18. Пусть X(O = /?cos(ctf + 0) + e(O> t = 0 Г —1, где е @ — независимые переменные с распределением N (О, а2). Покажите, что оценка максимального правдоподобия а приблизительно совпадает со значением К, на котором достигается максимум 11хх М> см. Walker A969). 5.13.19. Пусть X (t), / = 0, ± 1, ...,—действительный ряд со средним О, удовлетворяющий условию 2.6.2 (/). Пусть для W (а) выполнено условие 5.6.1. Если BfT—*оо при Т—*оо, то 2jt -t2 J Покажите это. 5.13.20. Пусть задан действительный ряд X (t), * = 0, ± 1 удовлет- удовлетворяющий условию 2.6.1. Пусть, далее, cty =Т~1 2 X (t). Покажите, что VT (с(р—сх) асимптотически не зависит от УТ (схх («)~^хх(«))» которая является асимптотически нормальной величиной с нулевым средним и дисперсией 2я 2я 2я 2n^{l + cos2u*)fxx(<*Jda+2n^ J exp {iu (a~P)} fxxxx(<*» P,-a)dadp. 0 0 0 5.13.21. Покажите, чтов условиях теоремы5.6.3 У~Т {с{р — сх)н VВтТХ x[f(xk W — E/xx MJ асимптотически нормальны и независимы. 5.13.22. Покажите, что математическое ожидание видоизмененной периодо- периодограммы E.3.13) задается выражением а) |2 da. X J | Я(Г) (Я-а)-ЖГ) И Я(Г) (- а)/Я(^) @) р fл (a) -л и стремится к fxxfi) для Я^0(тос12я). 5.13.23. Докажите, что в условиях теоремы 5.2.6 при Т —> оо 5.13.24. Пусть /хх(А-) задается формулой E.6.1), причем W ($) ограничена. Допустим, что Покажите, что Для некоторого конечного /С. Установите, что sup^ 11^}х (Л)— Е/(/^ (Я)| стре- стремится по вероятности к 0, если ВТТ—>¦ оо.
200 Оценка спектр мощности 5.13.25. Покажите, что в условиях теоремы 5.4.3 распределение величины VlnfTx @)/Г стремится к /-распределению Стьюдента с 2т степенями свободы. (Этот резуль- результат может быть использован для указания приблизительных границ довери- доверительных интервалов для сх-) 5.13.26. Пусть X{t), * = 0, ± 1, ...,—действительный ряд, причем EX (f)=0 и cov{X (*+«)> X(t)} = cxx(u) Для ** ы = 0, ± 1, Предположим, что 21 <**(«)! < °°- и Докажите, что существует конечное /С, такое, что для и = 0, ± 1, ... и Г = 1, 2 5.13.27. Пусть действительный ряд X(t), ^ = 0, ±1, ... , получен из аа- торегрессионной схемы a(\) X (t— l)+... + a(m)X (t — m) = e (/) для ^ = 0, ± 1, ..., где е (^ — последовательность независимых одинаково рас- распределенных случайных величин со средним 0 и конечным моментом четвертого порядка. Допустим, что корни уравнения таковы, что |г| > 1. Пусть а(Г>A), ..., а(Г) (т)—оценки для аA), ..., а(т), полученные методом наименьших квадратов и минимизирующие выражение 7-1 2 [X(t) + u№(l)X(t-\)+... + aWen)X(t-m)]*. t=m Покажите, что У^Т [aST) A)—-аA), ..., а{Т) (m)~a(tn)] стремится по распре- распределению к Nm(Q, [cxx(J — k)]~l) ПРИ Т—* °°- Этот результат получили Мапп, Wald A943). 5.13.28. Докажите, что если функциЯРРР} на [0, 1] удовлетворяет для некоторого а, 0 < а < 1, условию | g (х) -—ф(у) \ G \ |а 5.13.29. Покажите, что для функции /х^М, заданной формулой E.6.1), выполнено
5.13. Упражнения 201 5,13.30. Пусть помимо условий теоремы 5.2.1 выполняется сх~0. Пока- Покажите, что «IV ) J -Я 5.13.31. Покажите, что в условиях теоремы 5.10.1 величина 2л v /{Т) Bns\ /f Bjis\ асимптотически нормальна, причем EG^-(Х) = Я+0G1~1) и 2я —J J о о 2л Г Г T-J J fxxxx(<*» Р» -« о о 5.13.32. Пользуясь результатом упр. 2.13.31, покажите, что выражение E.11.20) может быть записано в виде Е {F<г>-6)т (в<г>-в)} ~ ЛГ-12ят<?> @)-* J /8e (a) I<J> (а) dam$ @)-i. 5.13.33. Покажите, что в обозначениях § 5.11 выполняется неравенство Mfi) для всех Я.
АНАЛИЗ ИНВАРИАНТНЫХ ВО ВРЕМЕНИ ЛИНЕЙНЫХ СООТНОШЕНИЙ МЕЖДУ СТОХАСТИЧЕСКИМИ И НЕКОТОРЫМИ ДЕТЕРМИНИРОВАННЫМИ РЯДАМИ 6.1. Введение Пусть Y (t) и e(tf), t = 0, ± 1, ..., —стохастические действи- действительные временные ряды, а Х(/),^ = 0, ±1 —фиксирован- —фиксированный векторный временной ряд с г компонентами. В этой главе будут рассматриваться соотношения вида К(9 = 1*+ 2 а(*-и)Х(и) + е(9> F.1.1) где [л — некоторая константа, {а (а)}— линейный 1хг-фильтр. Будем предполагать, что ряд ошибок г (t)—стационарный ряд со средним 0 и спектром мощности /ее (к). Назовем этот спектр мощности спектром ошибок. Он указывает ту степень, в которой ряд Y (t) определен линейной фильтрацией ряда Х(?). Относи- Относительно результирующего ряда Y (t) и основного ряда X (/) сде- сделаем допущение, согласно которому значения этих рядов изве- известны при / = 0, ..., Г—1. Поскольку Ее(/) = 0, то 00 ЕГ(9 = |*+ 2 a(t—u)\(u). F.1.2) Ы= -оо Таким образом, среднее значение ряда Y (t) является результатом фильтрации ряда Х@- Заметим, что, вообще говоря, из F.1.2) не следует стационарность ряда Y (t). Вместе с тем для k > 1 выполняется cum {Y (/,), ..., Y (tk)\ = cum {e (^), ..., е (tk)}, F.1.3) поэтому Y (t) имеет семиинварианты стационарного ряда, если только порядок их превышает единицу. Передаточная функция фильтра а(м) задается выражением 00 А(А,)= S а (и) ехр {— iuK}. F.1.4)
6.1. Введение 203 Рассмотрим влияние фильтрации рядов Y (t) и X (t) на поведение этой передаточной функции. Пусть |Ь (и)\ — линейный г х г-фильтр, имеющий обратный фильтр {с(и)}, a {d(и)} — линейный 1x1- фильтр. Полагая Xi@= 2 с(*-и)Х(и), F.1.5) «=-00 получим Х@= 2 b(*-a)Xi(a). F.1.6) Если, кроме того, S a)K(tt)f F.1.7) 1*1= Г S L«=-Q F.1.8) L«=-QO J и ei@= S d(t-u)e(u), F.1.9) то соотношение F.1.1) примет вид М0 = Иь+ 2 a1(^-tt)X1(tt) + ei@, F.1.10) где (i/). F.1.11) Таким образом, соотношение между фильтрованными рядами Yi(t), Xj(^) и е^/) имеет тот же вид, что и соотношение F.1.1). В терминах передаточных функций F.1.11) .можно переписать в виде Аг {X) = D(l)A (X) В (к) F.1.12) или - FЛЛЗ) Как видно, передаточная функция, связывающая Y (t) с X (t), может быть определена с помощью передаточной функции, свя- связывающей Yx (t) с Хх (t) в том случае, когда все необходимые Для этого обратные функции существуют.' Заметим, кстати, что такое же соотношение имеет место даже, если Yi(t) из F.1.7) содержит X в виде 2 е(*—и)Х(и) F.1.14)
2045. Анализ соотношений между стохастическими и детерминированными рядами для некоторого 1 х r-фильтра {е(а)}. Это замечание будет играть особенно важную роль в дальнейшем при оценивании А (к) пред- предварительным сглаживанием ряда. На протяжении всей главы мы будем рассматривать случай детерминированного ряда X (t) и стохастического действительного ряда Y (t). Brillinger A969a) рассматривал модель 2 а(*-а)Х(а) + 8(*), F.1.15) t = 0, ± 1, ..., в которой ряд X(t) детерминированный, аГ(?), е (t) — векторные s-компонентные ряды. В гл. 8 будет рассматри- рассматриваться модель F.1.15), в которой ряд Х(?) — также стохастиче- стохастический. 6.2. Метод наименьших квадратов и регрессионная теория Основу метода наименьших квадратов и линейной регрессион- регрессионной теории составляют две классические теоремы. Первая из них —теорема Гаусса—Маркова Теорема 6.2.1. Пусть F.2.1) где г есть lxn-матрица случайных величин, причем Ее = 0, Еете = а21, а есть \xk-матрица неизвестных параметров и X есть kxn-матрица известных величин. Тогда (Y—aX)(Y-aX)x F.2.2) минимизируется при выборе а равным a — YXX(XXX)~*, если ма- матрица XXх несингулярна. Этот минимум равен Y(I — Xхх Х(ХХТ)-1Х) YT. Математическое ожидание величины а равно а, а ковариационная матрица а задается выражением Е (а — а)тх X (а-а)-а2 (XXх)-1, причем если а?= (п — ft) Y(I — Xх х Х(ХХХ)~1Х) Yx, то Ёо2 = о2. Кроме того, а является линейной несмешанной дценкой для а с минимальной дисперсией. Этот результат можно найти, например, в гл. 19 книги Ken- Kendall, Stuart A961). Обратимся к вопросу о распределении ве- величины Ъ% и а, которую обычно называют оценкой наименьших квадратов величины а. Теорема 6.2.2. Если в дополнение к условиям теоремы 6.2.1 предположить, что п компонент вектора г являются величинами,
6.2. Метод наименьших квадратов и регрессионная теория 205 имеющими нормальное распределение, то ат имеет распределение #л(ат, <ха(ХХт)~1), а& имеет распределение o2%n_k/(n — k) и не зависит от а. Непосредственно из теоремы 6.2.2 следует, что величина —XT(XXT)-1X)YT] F.2.3) имеет нецентральное /^-распределение с knn—k степенями сво- свободы и параметром нецентральности аХХтат/ог2. Как видим, ги- гипотезу а=0 можно проверить, заметив, что величина F.2.3) имеет центральное /^„^-распределение, когда гипотеза верна. Соответствущую статистику ? F.2.4) называют квадратом множественного выборочного коэффициента корреляции. Нетрудно видеть, что 0^.RyX^ 1. Из F.2.3) сле- следует также, что R -k)], F.2.5) и потому распределение этой величины может быть определено непосредственно из нецентрального /^-распределения. Пусть clj и Яу обозначают /-е компоненты а и а соответственно, a Cjj обозначает /-й — элемент диагонали (XXх). Тогда довери- доверительные интервалы для af могут быть получены из рассмотрения центрированной величины [я/-Я/М<уЛ (I-X^XX^X) YVt/i-ft)]1^, F.2.6) имеющей /„.^-распределение. Эти результаты можно применять для действительных слу- случайных величин и параметров. Однако при анализе временных рядов большинство случаев, представляющих интерес, требуют перехода к комплексным величинам. Верна Теорема 6.2.3. Пусть Y-aX + 8, F.2.7) где г есть 1 х п-матрица комплексных случайных величин, причем Ее = 0, Еете = 0, Еете = a2l, а есть 1 х k-матрица неизвестных комплексных параметров, X — kxn-матрица с известными ком- комплексными элементами, Y есть lxn-матрица с известными ком- комплексными элементами. Тогда (Y-aX)(Y-aX)T F.2.8)
2066. Анализ соотношений между стохастическими и детерминированными рядами минимизируется при выборе травным а = YXT (XXх), ест матри- матрица XX* несингулярна. Этот минимум равен Y (I — Xх (XXх) X) YT. Кроме того, Еа = а, Е (а— а)х (а — а) = 0 и Е (а — а)хх Для распределений величин а и а2 верна Теорема 6.2.4. Если в дополнение к условиям теоремы 6:2.3 предположить, что компоненты вектора г являются независи- независимыми величинами с распределением N% @, а2), то ат имеет рас- распределение Nck (ах, (ХХ1) а2) и а? имеет распределение о2х1(п—k)l 1\2(п—k)] и не зависит от а. Из этой теоремы можно заключить, что величина G = [(n-k) aXXTax]/[6Y (I —Xх(XXх)-1 X) Y"x] F.2.9) имеет нецентральное /^-распределение со степенями свободы 2k и 2(n — k) и параметром нецентральности аХХтат/а2. Эта стати- статистика может быть использована для проверки гипотезы а = 0. Соответствующее выражение ^L F.2.10) является квадратом комплексного множественного выборочного коэффициента корреляции. Нетрудно убедиться, что 0 ^| RYx |2^1. Также из F.2.10) получаем \RYx\*- = [Gk/{n--k)]/[l+Gk/(n-k)], F.2.11) так что распределение этой величины можно определить непо- непосредственно из нецентрального F-распределения. Сформулирован- Сформулированные выше теоремы 6.2.3 и 6.2.4 приведены в работе Akaike A965). Khatri A965а) показал, что а и (п—k)o2/n являются оценками наибольшего правдоподобия для а и а2. Оценка а играет важную роль при прогнозировании матема- математического ожидания у0 — переменной, связанной с данным х0. Справедлива Теорема 6.2.5. Предположим, что выполнены условия теоремы 6.2.4. Пусть также |/0 = ах0 + е0, F.2.12) где е0 не зависит от г из F.2.7) и ^г0 = ах0; тогда у0 имеет рас* пределение Aff (ах0, а8х5(ХХт)~1х0) и не зависит от а2.
6.2. Метод наименьших квадратов и регрессионная теория 207 Во многих ситуациях для компонент вектора а из выражения F.2.7) желательно знать доверительные области. Как мы видели, в случае действительных величин доверительные интервалы могут быть построены, если учесть, что в условиях теоремы 6.2.2 ве- величина F.2.6) имеет /-распределение. В данном случае возникают осложнения, связанные с тем, что компоненты суть комплексные величины. Пусть ctj и uj обозначают /-е компоненты а и а соответст- соответственно. Пусть также с^ обозначает /-й диагональный элемент матрицы (ХХХ)~1У a wf обозначает Cjjу (I —Xх (ХХТ) -1 X) YT ¦?-! J^ -=*,/Л F.2.13) Величина -aj) F.2.14) имеет вид vlj2z, где z имеет распределение Nf(O, 1), а у не зависит от г и имеет %г <л-*)/{2(/г—/^-распределение. Тогда wffy—cijfl2 F.2.15) имеет F2; 2 («-^-распределение. Доверительная ЮОр-процентная область для Reay-, Imay. может быть определена из неравенства {Rea/-Reajy + {lmaj-lmaJY^2w/F2;Un.kh ф) F.2.16) где F ф) обозначает более чем ЮОр-процентную точку F-pacrtpe- деления. Заметим, что эта область имеет форму круга с центром в Reay, Imay.. В некоторых ситуациях предпочтительнее иметь доверитель- доверительные интервалы для \af\ и argay. Варианты интервалов можно получить алгебраическим способом из выражения F.2.16). Пусть v/ = Vr2w/Ft; 2{п-к)ф) , F.2.17) тогда область F.2.16) приближенно может быть представлена следующим образом: arg Qj — arcsin {oy/| cij \) < arg af < argа} + arcsin {vf/\ a;- (|. F.2.18) Это представление для области приводится в работах: Goodman A957), Akaike, Yamanou?hi A962). Границы области F.2.18) имеют только приближенный харак- характер. Точные ЮОу-процентные интервалы для \at\ могут быть
208 6. Анализ соотношений между стохастическими и детерминированными рядами определены, если заметить, что шу1«/1V2 F.2.19) имеет нецентральное F-распределение со степенями свободы 2 и 2(я— k) и параметром нецентральности \а/\2/2. Теперь для построения точных доверительных интервалов можно воспользо- воспользоваться таблицами для мощностей ^-критерия [Pearspn E. S., Hartley A951)]. Могут быть использованы также таблицы Fox A956). С другой стороны, для построения приближенных ЮОу-про- центных доверительных интервалов распределение величины F.2.15) можно определять из центрального /^-распределения со степенями свободы B + |ау.|2/2J/B + |ау|2) F.2.20) и 2 (я — k). Такую аппроксимацию нецентрального /^распреде- /^распределения приводят Abramowitz, Stegun A964); см. также Laubscher A960). В случае - ф] = argа. точные границы доверительных 1006- процентных интервалов можно определить, заметив, что {(Ima/)cos0/—(ReayJsin^yJwy-1/2 F.2.21) имеет /2(„_Л)-распределение. Интересно, что эта процедура тесно связана с проблемой Кризи — Филлера [Fieller A954) и Halperin A967)]. Описанные выше две процедуры построения точных до- доверительных интервалов приводят Groves, Hannan A968). Если доверительные интервалы требуются одновременно для нескольких компонент а, то можно определять их, исходя из обобщения многомерного /-распределения на комплексный случай. Многомерное комплексное /-распределение обсуждается в работе Dunnett, Sobel A954); см. также Gupta A963a), Kshirsagar A961), Dickey A967). Тем не менее приведем определение комплексного /-распределения. Пусть г имеет распределение N^@, 1), а не зависящая от г величина s2 имеет Хл/я-распределение. Тогда z/s имеет комплексное /-распределение с п степенями свободы. Если u = Ret, v=lmt, то плотность этой величины задается выра- выражением -'1/2, F.2.22) гд* — оо<«, v<oo. Здесь мы сошлемся на Hoyt A947).
6,3. Эвристическое построение оценок 209 6.3. Эвристическое построение оценок Займемся построением оценок интересующих нас параметров. Положим R(t)= 2 а(*-а)Х(и). F.3.1) Модель F.1.1) теперь принимает вид Y(t) = p + R(t) + *(t). F.3.2) Поскольку значения X (t), t = О, ..., Т — 1, известны, можно вычислить конечное преобразование Фурье d?> (X)=2X (*) ехр {- Ш}, F.3.3) которое в данном случае представляет собой r-мерную векторную статистику. Определим также T-i d%> (А) =2 Я С) ехр {- Ш}. F.3.4) Оценку близости djf} (Я) и d(/) (X) дает Лемма 6.3.1. Предположим, что |Х(/)|^М, / = 0, ±1,...,^ и S|a||a(a)|<oo. Тогда (а)-А (а) d(/> (а) | < 4М 21 и 11 а(а) | F.3.5) F.3.6) г^ — оо<а<оо « |а —XKLT-1. • Пусть s(T) — такое целое число, что 2ns(T)/T близко к Я. Положим Т большим. Из выражения F.3.6) вытекает, что > F.3.7) скажем, для s = 0, ±1, ..., ±m. Если е(^) удовлетворяет условию 2.6.1, то, согласно теореме 4.4.1, величины й(еГ)Bях x[s(T)-\-s]/T)t s = 0, ±1, ..., ±m, аппроксимируются пере- переменными с распределением N? @, 2nTfEe(K)). Соотношение F.3.7), как видно, имеет форму соотношения множественной регрессии, содержащего комплексные переменные. Вспоминая теорему 6.2.3,
2106. Анализ соотношений между стохастическими и детерминированными рядами определим № (*) = Bя Л -1 <А-Г) (*) dST (*)\ F.3.8) & / F.3.9) F.3.10) F.3.11) и предположим, что гхг-матрица f(ix(h) несингулярна. Теперь мы имеем для А (Я) оценку A,)-«, F.3.12) ДЛЯ /ееМ — В теореме 6.2.4 предлагалось в качестве аппроксимирующего распределения для А{Т) (Х)х использовать N? (А (Х)х), Bm-f l)~lx /(WM)*> а для gg>(А,)-распределение [2Bт+ 1—г)]-гх fee()X2<m+r) В следующих параграфах оценки F.3.12) и F.3.13) будут обобщены и мы уточним предложенные аппроксимирующие рас- распределения. Для оценки \л возьмем ,!«¦> = с(уГ) г А(Г> @) с(Р, F.3.14) где с{у} и с^ являются выборочными средними для данных зна- значений Y и X. Ниже в формулировках отдельных теорем будет удобнее пользоваться статистикой ^G) + А(Г) @)с(р =с(/\ Рассмотренный эвристический подход был предложен в ра- работах: Akaike A964, 1965), Duncan, Jones A966), Brillinger A969a). 6.4. Вид асимптотического распределения В этом параграфе найдем асимптотические распределения класса элементарных оценок параметров А (к) и feE(k), возник- возникших из эвристических соображений § 6.3. Форма и статистиче- статистические свойства этих оценок будут зависеть от выполнения усло- условия X = 0 (mod я). Выделим три случая: Случай А: для Я выполнено кф0(то<1л).
6.4. Вид асимптотического распределения 211 Случай В: для X выполнено Я = 0(тос12я) или Х=±п, ± Зя,... и Т четно. Случай С: для X выполнено Х=±п, ±3я,... и 71 нечетно. Предположим, что s(T) — такое целое число, что 2ns (T)/T близко к X. (Позднее мы будем требовать, чтобы 2ns (T) IT —*Я при Т—-юо.) Пусть /п —целое неотрицательное число. Пусть также Vyxity задается выражением F.3.8). Определим в случае А, F.4.1) (-1 m \ ? +И !^ (я+-^) в слУчае в s=-m s = \) ^ ' И (+у~^-)} в случае С F.4.3) по аналогии с определениями fyyity и f(xx(^)- Эти оценки осно- основываются на дискретном преобразовании Фурье и поэтому могут быть вычислены с помощью алгоритма быстрого преобразования Фурье. В качестве оценок A (A,), fee(X)9 \i возьмем F.4.4) F.4.5) где С (т, г) —константа, причем 2m F-4-6) ^=7" в слУчаях В и С, и, таким образом, ^т) = с(г, _ А(г) @) с5Р F.4.7) дает выражение для оценки \х. Приведем теорему, показываю- показывающую поведение математического ожидания А(Т)(Х) в данном случае. Теорема 6.4.1. Пусть e(t)y / = 0, ±1, ..., удовлетворяет условию 2.6.1 и имеет среднее 0. Пусть значения X(t), г = 0, ±1, ...", ограничены в совокупности, Y (t) имеет вид F.1.1), причем выполнено условие 2|^Па(^) I < °°- Пусть в задающем А(Г)(Я) выражении F.4.4) f^(X) имеет вид F.4.1). Тогда вслу-
2125. Анализ соотношений между стохастическими и детерминированными рядами чае А имеем (Г) {2n[s(T) + s хх I f Л -1 + R<n, F.4.8) ') для конечных К выполняется ^)-1!172- F.4.9) Такой же характер носят выражения в случаях В и С. Заметим, что в выражении F.4.8) для ЕА(Г) (%) основной вклад дает матрица взвешенного среднего передаточной функ- функции А (а). Кроме того, из этого выражения следует, что разли- различие со взвешенным средним тем меньше, чем больше Vxkft)* Из теоремы 6.4.1 можно вывести ,* Следствие 6.4.1. Если в условиях теоремыбАЛ норма fl/i^)! ограничена при Т—>оо, то оценка А(Л (К) является асимпто- асимптотически несмещенной. Вернемся к исследованию асимптотических распределений. Теорема 6.4.2. Предположим, что выполнены условия тео- теоремы 6.4.1. Предположим также, что i(xk(k) несингулярна для достаточно больших Т и 2ns (Т)/Т —+ X при Т —* оо. Тогда А{Т) (X) имеет асимптотическое распределение N? (А (к)х, Bт + 1)~х х x/eeWifiW) в случае А и асимптотическое распределение Nr(\(k)\ Bm)-1feE(X)rpx(X)^) в случаях В и С. Кроме того, распределение g$ (К) стремится к /ее(^)х!<2т+1-о/[2 Bт + 1— г)] в случае А и к распределению /ее(^)х1т-г/Bт — г) в случаях В и, С. Предельные нормальное и у?-распределения независимы. Нако- Наконец, [1{Т) + АA) @) с{р имеет асимптотическое распределение #1-(|А + А@)с#\ 2яГ-7ев@)), не зависящее от А^(Х), g?(X), — оо < Я < оо. В случае ?t ^0 (mod я) из теоремы 6.4.2 следуют приближен- приближенные формулы Dg?> (k) i {DxS Bm+i-o/[2 Bm + 1 - г)]) fee (l)> -r)-1/eeW2. F.4.10) В случае А. ^0 (mod я), как это следует из теоремы, дисперсия приближенно равна 2feB(kJ/Bm — г). Для поиска предельных распределений амплитуды и фазы можно использовать
6.5. Математические ожидания оценок 213 Следствие 6.4.2. В условиях теоремы 6.4.2 значения функций от А(Г) (A,), geV (*•)» ^(Г) + А(Г) @) с(П стремятся по распределению /с значениям тех же функций от пределов переменных, указан- указанных в теореме. Мы будем пользоваться теоремой 6.4.2 и ее следствием в §6.9 при построении доверительных областей для некоторых пара- параметров. Нередко представляет особый интерес статистика которая дает представление некоторой меры линейного инва- инвариантного по времени соотношения зависимости между рядами Y(t), * = 0, dzl, ..., и Х(*), * = 0, ±1, ... . Ее распределе- распределение при больших выборках дает Теорема 6.4.3. Предположим, что выполнены условия тео- теоремы 6.4.1 и пусть статистика |^(й(^)|2 задается выражением F.4.11). Тогда в случае А при Т—> оо ) F.4.12) где F — нецентральное F-распределение со степенями свободы 2г а- 2 Bт + 1 —г) и параметром нецентральности А (к) \{хх {Ц X Мы вернемся к обсуждению этой статистики в гл. 8. Обозна- Обозначение ontH(\) введено для члена, стремящегося к 0 с вероят- вероятностью 1. 6.5. Математические ожидания оценок передаточной функции и спектра ошибок Вернемся снова к изучению средних значений оценок не- несколько более общего вида, чем в предыдущем параграфе. Допус- Допустим, что нас интересуют оценки параметров модели F.1.1) сдан- сданными значениями X{t), Y{t), t = 0, ..., Г —1. Пусть 1(й (^) задается выражением F.3.8), аналогично которому определяются 1(уу(Ц и Vxx(ty- Мы построим наши оценки с помощью этих статистик так же, как в F.3.10); можно, однако, сделать наши оценки более гибкими введением для членов выражения F.3.10) некоторых весов. Более точно, для весовой функции W (а) будем считать выполненным Условие 6.5.1. Функция W (а), —оо<а<оо, ограничена, четна, неотрицательна и равна нулю для |а|>я, причем я J W(a)da=l. F.5.1)
2145. Анализ соотношений между стохастическими и детерминированными рядами Существенными ограничениями на введенную здесь функцию являются, кроме условий 5.6.1, условия неотрицательности и конечности функции. Чтобы подчеркнуть тот факт, что весовая функция стано- становится более сконцентрированной при возрастании объема вы- выборки Г коо, введем параметр эффективной ширины ВТ, зави- зависящий от 7. Кроме того, периодически продолжим весовую функцию с той целью, чтобы наша оценка обладала необходи- необходимыми свойствами симметрии. Таким образом, мы определим функцию 2 (f[ + j]) F,5.2) /=-00 Мы видим, что Wm (а) неотрицательна и W(T) (сс + 2я) = Г(Г) (а), F.5.3) причем если ?г—*0 при Г—>оо, то для достаточно больших Т H7<r>(a)da=l. F.5.4) Масса W{T) (а) концентрируется в интервале длины 2пВт с цент- центром в точке, а = 0 (mod 2л) при Т—*оо. Теперь определим № (X) =2яГ-1 ? W^ (X —^) I& (Щ-) , F.5.5) Г-1 s=l Г-1 ^(-yi) . F.5.7) В качестве оценок для. А (А,), /ее(^), jx возьмем А«г> (А.) = № (X) f5Ti W-1. F.5.8) «rS} W = /» W - f Й W fSR W -1 f Й W F.5.9) ц(п = с</>- A<r) @) c(/> F.5.10) соответственно. Если m велико, то определения F.5.9) и F.4.5) по существу совпадают. Из ограничений на весовую функцию W (а) видно, что F.5.11)
6.5. Математические ожидания оценок 215 Точно так же А(Г) (К) и g{el} (Ц имеют период 2я и, кроме того, <т> (X) — неотрицательная функция, симметричная относительное Наконец, \i{T) принимает действительные значения как величина, соответствующая изучаемому параметру \х. В дальнейшем нам встретится статистика |/?ух (Л»)|а, задавае- задаваемая выражением = 1—T^f. F.5.12) имеющим, как это видно, форму множественного коэффициента корреляции, ограниченного 0 и 1. Появляться эта статистика будет главным образом при вычислении дисперсий наших оценок. Относительно последовательности фиксированных (в противо- противоположность случайным) значений X(t) мы введем одно важное Условие 6.5.2. Значения X(t), t = 0, ±1, ..., ограничены в совокупности, причем если \{хх (Ц задано выражением F.5.5), то существует такое конечное К, что №ШЬ Dtf&Wr'IK* F.5.13) для всех X и достаточно больших Т. Вернемся к изучению свойств А(Л (к) при больших выборках. Верна Теорема 6.5.1. Пусть s(t), t = 0, ±/, ..., удовлетворяет условию 2.6.2(Z), а Х(^), ? = 0, ±1, ..., удовлетворяет условию 6.5.2. Пусть Y(t), t = 0y ±1, ..., задан выражением F.1.1), в котором для {а (и)} выполнено условие 21и 11 а (и) \ < оо. Пусть также W (а) удовлетворяет условию 6.5.1 и А{Т) (X) задается выражением F.5.8). Тогда выполнено ЕА<" (к) = (g 1Г"? (Я -Щ A F.5.14) где остаточные члены равномерны по X. Мы видим, что математическое ожидание А(Л (к) является по существу (матричным) взвешенным средним функции А (а) с весом, сконцентрированным в окрестности точки к ширины 2пВТ. По- Поскольку это взвешенное среднее представляет собой матрицу, возникают трудности с различными элементами А (а). Если мы желаем уменьшить асимптотическое смещение, то должны пытаться расположить А (а) около константы в окрестности Я.
216 6. Анализ соотношений между стохастическими и детерминированными рядами Веса в выражении F.5Л4) зависят от Х(/), t — 0, ..., Т—1. Было бы выгодным сделать 1(/На)> насколько это возможно, близким к константе, так чтобы недиагональные элементы были близки к 0. Последнее выражение в F.5.14) показывает, что главный член асимптотического смещения Аг (к) имеет порядок эффективной ширины ВТ. Мы имеем Следствие 6.5.1. Если выполнены условия теоремы 6.5.1 и ВТ—>0 при Т —>оо, то А(Г) (к) является асимптотически несме- несмещенной оценкой А (К). Обозначим элементы А (к) и А(Г) (к) соответственно как А;- (к) и Л}Г)(А,), /=1, ..., г. Иногда мы будем интересоваться дейст- действительной амплитудой Gj(k) = \Aj(k)\ F.5.15) и действительной фазой <t>j(k) = argAj(k). F.5.16) Они могут быть оценены с помощью F.5.17) F.5.18) Теорема 6.5.2. Предположим, что выполнены условия тео- теоремы 6.5.1. Тогда EG)T) (к) = | ЕА)Т) (к)\ + О (Bf1/2T-V*) -=Gj(k) + OtBT) + O(Bf1/2T-^), F.5.19) причем, если А;- (к) Ф 0, то Е log Gf (к) = log | EAf> (k)\ + O (BjlT-*) ^\oeGj(k) + 0(BT) + 0(T-^) + 0(BflT-*)9 F.5.20) ЁФ)Т> (к) = arg А)т> (к) + О (Вт1Т-*) Т-1), F.5.21) (В этой теореме Е обозначает математическое ожидание, полу- получаемое в виде члена разложения Тейлора, см. Brillinger, Tukey A964).) Следствие 6.5.2. Если выполнены условия теоремы 6.5.2 и ?г—*0, ВТТ —>оо при Т—^оо, mo G)T) (к) является асимпто- асимптотически несмещенной оценкой Gj(k). Что касается нашей оценки gZ)(Я) спектра ошибок, то мы имеем следующую теорему.
6.6. Асимптотические ковариации оценок 2J/7 Теорема 6.5.3. Если выполняются предположения теоремы 6.5.1, то ^ F.5.22) Полезно сравнить этот результат с выражением E.8.22) в слу- случае Р = 1. В пределе мы получим Следствие 6.5.3. Если выполнены условия теоремы 6.5.3 и ВТ—>0, ВТТ —*оо при Г-+оо, mo geP(^) является асимпто- асимптотически несмещенной оценкой /ее(^)- Для случая |А(Г) мы-можем доказать следующую теорему. Теорема 6.5.4. В условиях теоремы 6.5.1 E\i{T) = \i + O(BT) + O(T-1^). F.5.23) Из теоремы 6.5.4 вытекает Следствие 6.5.4. Если выполнены предположения теоремы 6.5.1 и ВТ—>0 при Т—*оо, то (л(Г) является асимптотически несме- несмещенной оценкой \i. 6.6. Асимптотические ковариации предложенных оценок Чтобы оценивать точность наших оценок, необходимо знать вид их моментов второго порядка. Статистика, которая при этом появляется, определяется выражением ь(/ИХ) ~2*T-i few™ (ь-Щ F.6.1) Эта статистика имеет такой же вид, как и f(/x(A,) в выражении F.5.5), за исключением того, что входящая туда весовая функ- функция W (а) заменена здесь на W(aJ. Обычно последняя более сконцентрированная однако в том случае, когда fl^ (a) = Bл)", Для |а|^я имеем ЪТх(Ь) = Пк(Ь).. F.6.2) В некоторых случаях мы будем находить оправданным аппрок- аппроксимацию h(/x(^) функцией f(xx(h). Это дает преимущество сокра- сокращения необходимого объема вычислений. Заметим, что если Ъск(К) ограничена, то то же самое справедливо и для Мы можем теперь установить следующий результат.
218 5. Анализ соотношений между стохастическими и детерминированными рядами Теорема 6.6.1. Предположим, что e(t), f = 0, ±1, ..., удов- удовлетворяет условию 2.6.1 и имеет среднее 0. Пусть X(t)9 * = 0, ± 1, ..., удовлетворяет условию 6.5.2. Пусть Y(t)9 t = 09 ± 1,... ..., задается выражением F.1.1) с таким {а (и)}, что 21 и 11 а (и) | < оо. Пусть W (а) удовлетворяет условию 6,5.1. Если ВТ—+0 при Т—*оо, то J Г (aJdaf F.6.3) В том случае, когда выполнено F.6.2), второе уравнение в F.6.3) имеет вид J ~*), F.6.4) которое можно оценить с помощью ^S F.6.5) Из выражения F.6.3) мы видим, что дисперсия Ат(Х) асимп^ тотически имеет порядок В^Т*1, так что справедливо Следствие 6.6.1. Если выполнены условия теоремы и ВТТ—+оо при Т -+оо, то А{Т)(Х) является состоятельной оценкой А (А,). , Заметим также, что из F.6.3) следует асимптотическая некор- некоррелированность А{Т)(Х) и A(n(jx) для A,=?fx(mod2n). На практике мы имеем дело с действительными статистиками. Асимптотическая ковариационная структура ReA(r)(h), 1тА(Г)(Я) приводится в упр. 6.14.22. С другой стороны, мы можем поль- пользоваться статистиками G}r>(A,), Ф/Г)(^) и поэтому сейчас изучим их асимптотические ковариации. Определим Т}Р(Л.) как элемент, стоящий- в /-й строке и в k-м столбце матрицы № (Х)-*ЬЙ (к) f Й (*,)-«. F.6.6)
6.6. Асимптотические ковариации оценок 219 Теорема 6.6.2. Если выполнены условия теоремы 6.6.1 и Aj(k), 0, то X Re {Aj (A.)-lTJI> (X) Ak (%)-*} + 0(T-*)9 F.6.7) cov {In Gf> (X), Фр (и)} = О (Г-1), F.6.8) F-6-9) /, k= 1, ..., r. Заметим, что асимптотическая ковариационная структура g/r(^) такая же, как и ф)Т)(Х)9 за исключением случая ^ 0 (mod я). Мы можем построить оценки ковариации в теореме 6.6.2, заменив неизвестные Aj (к) и /Бе(^) их оценками. Заметим, что log G}r> (Jt) и Ф^Г) (|л) асимптотически некоррелированны для всех /, k и X, \i. Что касается ^ееЧ^)» то верна Теорема 6.6.3. В условиях теоремы 6.6.1 cov №(*•). fiflPft*)} = В?1?4-1 [Ч ^-1*} + Ч ^ + 1*Н 2я$1Г(а)«Лх/„(А,)» + О(Т-1) + О(Вг1Т-?). F.6.10) Переходя к пределу, получим Следствие 6.6.3. Если выполняются условия теоремы 6.6.3 и ВТТ—>оо п/ш Г—>оо, /по Нт ДгГюу{в#(А,), gS>(|i)} /->00 . ' S F.6.11) Km Br7Dlngg>(A,)=2n \W(afda[l +ц Ш]. F.6.12) Выражения F.6.11) и F.6.12) можно сравнить с выражени- выражениями E.6.12) и E.6.15). Из этих предельных соотношений видно, что асимптотические свойства моментов второго порядка g(el}(X), такие же, как у g$ (А,), — оценки спектра мощности, основанной только на значениях е(/), / = 0, ..., Г—1.
220 6. Анализ соотношений между стохастическими и детерминированными рядами В случае \i(T) + А(Г) @) с(р = с(/> мы имеем следующую тео- теорему. Теорема 6.6.4. В условиях теоремы 6.6.1 D {ц"-) + А«-> @) с</>} = 2пТ-%е @) + о (Г-*), F.6.13) Чтобы получить выражение для дисперсии \i{T) при больших выборках, можно пользоваться приведенным ниже выражением F.6.15). (См. упр. 6.14.31.) Эта дисперсия стремится к 0 при Т—>оо, поэтому справедливо Следствие 6.6.4. Если выполнены условия теоремы и ВТТ—юо при Т'—*оо, то [х(Л является состоятельной оценкой \i. Совместное поведение А(Г)(Х), gee'M» |i(r) + A(n @)с(/} описы- описывает Теорема 6.6.5. В условиях теоремы 6.6.1 cov{A"Wf gJsWHOn, F.6.14) cov{A(r>(?i)\ [хG'> + А(^@)с(хГ)}-О(Г-1) F.6.15) cov {^> (к), ^> + А^> @) с</>} = О (Г*1). F.6.16) Мы видим, что gQ (\i) асимптотически некоррелированны как с А(П(Х), так и с \i{T) + А(Г) @) с(р. Асимптотически некоррели- некоррелированны также А{Т)(Х) и \i{T) + А{7) @) с(р. Для случая амплитуд и фаз верна Теорема 6.6.6. В условиях теоремы 6.6.1 cov {logGf>(X), й>(|1)} = 0(ГЛ. F.6.17) cov {фр (X), g?> (lx)} = O(T-i), F.6.18) /)} = О(Г-1) F.6.19) = 0G-*), / = 1, ..., г F.6.20) 6.7. Асимптотическая нормальность оценок Теперь обратимся к изучению асимптотических распределе- распределений оценок А(Г)(Х), gePW, \i{T) в предельном случае ВТТ —*оо При Т-+ОО. Теорема 6.7.1. Пусть е(/), ? = 0, ±1, ..., удовлетворяет условию2.6Л и имеет среднее 0. Пусть также X{t), t = 0, ±1, ...f
6.7. Асимптотическая нормальность оценок удовлетворяет условию 6.5.2, и Y(t), t = 0, ±1, ..., зада- задается выражением F.1.1), в котором для {&(и)\ выполнено усло- условие 21и 11а МI ^ °°# Предположим, что W (а) удовлетворяет условию 6.5.1. Если Вг—>(), ВТТ—+оо при Т—>оо, то A(r)(^i)» ёы(Ю> •••> А(Л(Ху), g(r)(M асимптотически имеют совместное нормальное распределение с ковариационной структу- структурой, заданной выражениями F.6.3), F.6.11) и F.6.14). Наконец, ^(п_|_а<г) (О)с;р асимптотически не зависит от этих перемен- переменных и имеет дисперсию F.6.13). Из выражения F.6.14) мы видим, что в указанных выше условиях А(Г) (А,) и gfePd^) асимптотически независимы для всех X и \i. Из выражения F.6.3) видно также, что \{Т)(Х) и А(Л([х) асимптотически независимы, если X — \хфО(тоA2п). Как. сле- следует из упр. 6.14.22, ReA(n(X) и 1тА(Г)(Я) асимптотически независимы. Все эти отдельные случаи асимптотической незави- независимости согласуются с интуитивно подсказанным теоремой 6.2;4. Теорема показывает, что А(Л (к) имеет асимптотическое рас- распределение l, F.7.1) если X^O(modtt) и Ч*47^) имеет вид F.6.6). Этим результатом -мы воспользуемся позднее для получения, доверительных облас- областей А (к). Следуя теореме Mann, Wald A943 a), получим Следствие 6.7.1. В условиях теоремы 6.7.1 lnG}r>(X), Ф}(), geP M> cy ) = И'(Г) + А(Г) @) схГ) асимптотически нормальны и имеют ковариационную структуру, заданную выражениями F.6.7) —F.6.10), F.6.13) и F.6.17)-F.6.20), для / = 1, ..., г. Заметим, в частности, что в указанных условиях logGf^X) и ф(р (К) асимптотически независимы. Асимптотическое распределение \(Т)(Х) в этой теореме стано- становится таким же, как в теореме 6.4.2, как только выполняется равенство F.7.2) Асимптотическое распределение gQCk) находится 'в соответствии S теоремой 6.4.2, поскольку в случае, когда F.7.2) велико, ^-распределенная переменная имеет большое число степеней сво- свободы и близка к нормальной. 2л f W(aJda,
222 6. Анализ соотношений между стохастическими и детерминированными рядами 6.8. Оценивание импульсной характеристики В предыдущем параграфе рассматривались вопросы оценива- оценивания передаточной функции А (А,). Теперь мы займемся задачей оценивания соответствующей функции импульсной характерис- характеристики {а (а)}. С использованием А (А,) она задается выражением A(X)exp{iuX}dK а = 0, ±1, .... F.8.1) Пусть Ат(К) является оценкой А(Х) и имеет рассмотренный ранее вид. Пусть также РТ — последовательность положительных целых чисел, стремящаяся к оо вместе с Г. В качестве оценки а (и) рассмотрим М. и = 0, ±1, ..-• F.8.2) Заметим, что, пользуясь свойствами симметрии А(Г)(Я), пре- пределы суммирования в выражении F.8.2) можно сократить до 0<[/?^(Рг--1)/2 в членах ImA(r), ReAG). Заметим также, что оценка имеет период Рт и поэтому, например, а<г> (— и) = а(Г) {Рт — и). F.8.3) Может быть доказана Теорема 6.8.1. Пусть г (/), / = О, ±I, .,., удовлетворяет условию 2.6.1 м имеет среднее 0. Пусть Х(?), ? = 0, ±1, ..., удовлетворяет условию 6.5.2. Допустим, что Y (t) задано выра- выражением F.1.1), в котором для {а{и)\ выполнено условие 2|м|Х ха(м)|<оо. Пусть далее W (а) удовлетворяет условию 6.5.1, а a(r^(w) задается выражением F.8.2). Тогда " = Pf1 2 А BяР/рг) exp {i2npu/PT\ + О (ВТ) + О (Г-1/«) = а(а)+ 2 а(ц + ^Рг) + О(Вг) + О(Г-1/2). F.8.4) Мы видим, что при больших Рт и малых Вт математическое ожидание представляет собой по существу желаемое а (и). Из этой теоремы вытекает Следствие 6.8.1. Если выполнены условия теоремы 6.8.1 и ВТ-+0, Рт—+оо при Т—>оо, то аG)(а) является асимптотиг чески несмещенной оценкой.
6.8. Оценивание импульсной характеристики 223 Обратимся теперь к изучению моментов второго порядка оценки а(Г)(и)« Прежде всего определим *(Г) W = f ft W* hft W f ft W-» i fft W-"f F.8.5) а после этого — *= Pf 2 exP №*P (« -») /^rl he {2np/PT) Ч™ Bяр/Яу). F.8.6) Это выражение ограничено при тех условиях, которые мы счи- считаем выполненными. Верна Теорема 6.8.2. Если выполнены допущения теоремы 6.8.1 и ВТ<;Рт\ Вт-+0 при Г—юо, то &{T)(v)\ 2n\W{afdah.^{u> v) + 0(T-*)9 и, о = 0, ±1 F.8.7) * Заметим, что из F.8.6) следует, что асимптотически ковариа- ковариационная матрица а(Л(н) не зависит от и. Кроме того, асимпто- асимптотически ковариационная матрица а(Г)(а) и а(Г)(и) зависит от раз- разности «-ни поэтому а(Г)(м), и = 0, ±1, ..., можно рассмат- рассматривать в некотором смысле как процесс, имеющий ковариации стационарного временного ряда. Переходя к пределу, мы полу- получим Следствие 6.8.2. Если выполнены условия теоремы 6.8.2 и РТВТТ—*оо при Т ~->оо, то з.т(и) является состоятельной оценкой а. (и). Что касается совместного поведения а(Г) (и) и g$ (X), то верна Теорема 6.8.3. В допущениях теоремы 6.8.1 cov {а<г> (и)\ gg> (Я)} = О (Г). F.8.8) Мы видим, что а(Г)(а), gee^X) асимптотически некоррелиро- некоррелированны при всех и, X. Для предельного распределения верна Теорема 6.8.4. Если выполнены условия теоремы 6.8.1 и РТВТ^0 при Г-*оо, то а^^), ..., а^>(иД ^>(^), ... • • • 9 gee (Л/с) асимптотически нормальны и имеют ковариацион- ковариационную структуру, задаваемую выражениями F.6.10), F.8.7) и F.8.8). В теореме 6.8.2 мы требовали, чтобы ВГ^Р^. Из выражения F.8.7) видно, что мы должны брать РТВТ столь большим, на* сколько это возможно. Представляется разумным выбор Рт — Втг, поскольку в данном случае дисперсия &{Т)(и) асимптотически имеет порядок Г. Однако при этом мы не сможем из выраже-
224 6. Анализ соотношений между стохастическими и детерминированными ря ния F.8.7) выделить главный член. В случае же РТВТ—>0 пр обладающим в F.8.7) является первый член. В итоге мы мож€ асимптотически сравнить порядок этой дисперсии с порядко дисперсии величины АG)(Х), т. е. сВ^Т. 6.9. Доверительные области Предложенные в этом параграфе доверительные области 6уду< основываться на асимптотических распределениях, полученный в § 6.4. Их построение будет согласовываться с асимптотиче| скими распределениями § 6.7. - Предположим, что оценки А(Г)(Я), \im, gee'M» а(Г)(и), исполу зующие весовую функцию W (а), построены так же, как в § 6.5$ Сравнение асимптотических распределений, полученных для \т(Ц в теоремах 6.4.2 и 6.7.1, приводит к соотношению Как следует из теоремы 6.7.1, распределение А(Л(Я)Т ^ быть аппроксимировано распределением N? (A (Xy Bт + 1)-%г(Х) V?x W~l) в случае А F.9.*| или Nr(A{l)\ Bm)-ifee(X)i(Px(b<)-x в случаях В и С. F.9.3J Что касается распределения g$ (X), то соответствующим аппро- аппроксимирующим распределением служит fee (^) Х|т-г -по и> г\ е\ —2mJy г в случаях В и С. F.9.5) Таким образом, ЮОР-процентный доверительный интервал для /ее (А) дается выражением ^t m^ ggHlJBm+\r) < he (Ц < — TTjT F.9.6У I Щ 2 / Л2Bт+1 в случае А и подобными выражениями в случаях В и С. Дове- Доверительный интервал для log /ее (^) нетрудно получить, алгебрани чески из F.9.6). Если теперь си обозначает /-й диагональный элемент Bт+\)-Ч?х{Ц-1 F.9.7|
6.9. Доверительные области 225 и для CjjgeV {X) введено обозначение wJy то, как следует из рас- рассуждений § 6.2, ЮОр-процентная доверительная область для ?ед<Л(А,), Im Ар (к) может определяться, из неравенства {Re Aj (X) -Re Ар (X)}? + {Im А, (X) - Im Ар (Л)}? <2ш/2;2Bт+1.г)(р). F.9.8) Эу область рассматривали Akaike A965), Groves, Hannan A968). Если 100|3-процентные доверительные области требуются одновре- одновременно для всех Aj(k), /=1, ..Г, г, то можно воспользоваться результатом из упр. 6.14.17 и рассматривать область . | Re Aj (X)-Re Ар (X) | < BrWjF2n а(а/я+1-г> (Р)I/2, | Im Aj (X)-Im Ар (X) | < BrwjF%n 2Bm+1-r) (P)I/2, F.9.9) /= 1, ..., г. Если положить uj = Bш/2г; 2{2m+ w) (P))i/S F.9.10) то область F.9.9) приближенно совпадает с областью рЩ^,Щр р arg Ар (Ц—arcsin {иу/| Л}Г) (X) |} < arg А, (к) < arg А}г> (X) + arcsin {иу/1 Ар (Щ, F.9.11) дающей совместную доверительную область для действительных амплитуд и фаз. Области в такой форме рассматривали Goodman A965), Bendat, Piersol A966). Точные процедуры, основывающиеся на F.2.19) и F.2.21), могут также быть использованы для по- построения доверительных интервалов отдельных [Лу(Х)| и Фу(Х), Они включают аппроксимацию распределения 1 ' 72 И F.9.12) нецентральным ^-распределением со степенями свободы 2, 2Bт+1—г) и параметром нецентральности |Лу-(Х)|2/2, а также аппроксимацию распределения wj-V* {Im Ар (X) соэф. (к) — Re Ар (К) sinjfy (Щ F.9.13) распределением /aB«-i-r) c последующим нахождением границ интервалов алгебраическим путем. Иногда может представлять интерес проверка гипотезы А (X) ==0. Она может проводиться с помощью аналогов статистик F.2.9) и F.2.10), а именно: Bт-1
226 6. Анализ соотношений между стохастическими и детерминированными рядами = f(/x (*•) txx (ty-^xY (X)/flYY (*)• F.9.15) В случае А(к) = О статистика F.9.14) имеет асимптотическое ^2;2Bот+1„г)-распределение; соответственно последняя статистика имеет вид -т+\ — г г F-9.16) Обратимся теперь к задаче определения доверительных гра- границ для элементов а(Г)(и). Подобно тому, как это делалось в § 6.8, вычислим статистику Пусть Ajp обозначает /-й диагональный элемент Л(Г). Тогда тео- теорема 6.8.4 в качестве приближенного 100|3-процентного довери- доверительного интервала для ау- (и) предлагает (и) - [р^В^Т-^л J Г (aJ doA}pl1/2 г (ЦЗ} < ау (а) . F.9.18) Совместные доверительные области для aJt (иг)у ..., ctj (Uj) мо- могут быть построены с использованием неравенства Бонферрони; см. Miller A966). 6.10. Рабочий пример В качестве первого примера приведем исследование соотно- соотношения между рядом B(t) месячных средних температур в Бер- Берлине и рядом V (t) среднемесячных температур в Вене. По- Поскольку эти ряды обладают выраженной годовой изменчивостью, мы прежде всего посезонно выправим их, вычисляя средние зна- значения для каждого месяца всего периода наблюдений и вычитая затем эти средние из соответствующих месячных величин. Если Y(t) обозначает" выправленный ряд для Берлина, то К(/+ 12Л) = Д (/ + 12Л) —/С-1 S В (/ + 12Л), F.10.1) / = 0, ..., 11; ft = 0f ..., K-l и # = 7712. Пусть X (t) обозначает такой же выправленный ряд для Вены. Эти ряды представлены на рис. 6.10.1 и 6.10.2. Исходные ряды •представлены на рис. 1.1.1.
6.10. Рабочий пример 227 10 5 0 ч/у 1 IV 1920 1921 1922 1923 1924 1925 1926 1927 1928 1929 1930 Рис. 6.10.1. Сезонно приведенный ряд среднемесячных температур по Цельсию для Берлина за 1920—1930 гг. 10 -10 . 1 1 Кг / 4 tJ\ к /А * 1 V 1920 1921 1922 1923 1924 1925 1926 1927 1928 1929 1930 Год Рис. 6.10.2. Сезонно приведенный ряд среднемесячных температур по Цельсию для Вены за 1920—1930 гг. Выбранный нами для этих температурных рядов период вклю- включает в себя годы 1780—1950. Определим различные статистики таким же способом, как в § 6.4. Выбирая в действительности Т = 2048, можно вычислить необходимые дискретные преобразо- преобразования Фурье с помощью алгоритма быстрого преобразования Фурье. Для статистики /у? (Л), /(у?М» /ххМ положим /л =10. Результаты вычислений приведены на ряде рисунков. Рис. 6.10.3 представляет собой графики lg/yy(A,) и iggeVity, первый из ко- которых представлен верхней кривой. Если мы воспользуемся вы- выражениями E.6.15) и F.6.12), то можем найти асимптотические стандартные ошибки этих величин, равные в обоих случаях 0.095 для Xф0 (modя). На рис. 6.10*4 изображен график величины Re А(Т) (X), изменяющейся вблизи значения 0.85; на рис. 6.10.5— трафик величины 1тЛ(П(Х),изменяющейся вблизи 0; на риСсб.10.6— .график величины б(Г)(Х), значения которой расположены вблизи 0.9; на рис. 6.10.7 представлен график значений Ф<Г)(А,), распо- расположенных вблизи 0; на рис. 6.10.8 —график величины |/?(/х М |2> которая изменяется вблизи 0.7. Напомним, что эта статистика указывает ту степень, в которой ряд Y линейно определен рядом X. На рис. 6.10.9 изображен график а(Т)(и) для |t/|^50. Как сле- следует из F.8.7), асимптотическая стандартная ошибка этой ста- статистики равна 0.009. Значение а(Т) (и) равно 0.85. Другие значения несущественно отличаются от 0. Наши вычисления приводит к соотношению У @ = 0. F.10.2)
228 6. Анализ соотношений между стохастическими и детерминированными рядами) Л/27С Рис. 6.10.3. Оценки спектра мощности для температур в Берлине и спектра' ошибок сезонно приведенного ряда температур в Вене за 1780—1950 гг. (логарифмический масштаб). (По горизонтали — частоты в цикл/месяц.) к/гп Рис. 6.10.4, Оценка действительной части передаточной функции Re Л<г> (К) для приведенного ряда температур Берлина температурами в Вене. (По гори- горизонтали—частоты в цикл/месяц.)
6.10. Рабочий пример 229- 1.2 г Х/27Г Рис. 6.10.5. Оценка мнимой части передаточной функции Im Л(Г) (к) для при- приведенного ряда температур Берлина температурами в Вене. (По горизонтали— частоты в цикл/месяц.) Х/2л Рис. 6.10.6. Оценка амплитуды передаточной функции G<r> (к) для приведен- приведенного ряда температур Берлина температурами в Вене. (По горизонтали—час- горизонтали—частоты в цикл/месяц.)
230 6. Анализ соотношений между стохастическими и детерминированными рядами Рис. 6.10.7. Оценка фазы передаточной функции <?<г>(Я) для приведенного ряда температур в Берлине температурами в Вене. (По горизонтали—частоты в цикл/месяц.) Рис. 6.10.8. Оценка когерентности |/?(/^(^)|2 температур в Берлине и Вена за 1780—1950 гг. (По горизонтали—частоты в цикл/меся^)
6.10. Рабочий пример 231 1.0 .9 .8 Л .6 Ь А .3 .2 .1 ' • ' ' i ' i «I* i -50 -40 -30 -20 -10 ¦¦•¦-¦',-x,--T--f'.--y Г/ О 10 20 30 40 50 Рис. 6.10.9. Оценка коэффициентов фильтра а(Г>(м) для приведенного ряда температур в Берлине рядом температур в Вене. (По горизонтали—упрежде- горизонтали—упреждение или запаздывание в месяцах.) в котором спектр мощности е (t) имеет вид нижней кривой на рис. 6.10.3. Мы подправили мгновенное соотношение методом наименьших квадратов и пришли к простым регрессионным ко- коэффициентам Y (t) и X(t), равным 0.81. Если допустить, что e(t) независимы и одинаково распределены, то соответствующая оценочная стандартная ошибка равна 0.015. Оценочная дисперсия ошибки равна 1.57. В качестве второго примера приведем результаты частотной регрессии ряда среднемесячных температур, отмечавшихся в Грин- Гринвиче по отмеченным среднемесячным температурам в остальных тринадцати местах, указанных в табл. 1.1.1. Мы подвергнем эти ряды предварительной фильтрации, устранив месячные средние и линейный тренд. Исходные данные для этого случая представ- представлены на рис. 1.1.1. Построим оценки таким же способом, как в F.4.1)—F.4.5), полагая в них /п = 57. Необходимые для этих вычислений пре- преобразования Фурье мы определим при помощи алгоритма быст- быстрого преобразования Фурье с 7" = 2048. Для рассматриваемого случая на рис. 6.10.10 представлены G<r)(ty, Ф)Т)(Ц, где /=1, ..., 13; на рис. 6.10.11 изображен график lggee}(A); на рис. 6.10.12 представлена величина \R(Yx(ty\2> определяемая
232 6. Анализ соотношений между стохастическими и детерминированными рядами 1.0 .8 .6 .4 .2 6 i 1.0 .8 .6 . A .2 ( 1.0 .8 .6 A 2 I 1.0 .8 .6 .4 .2 0, v / А/ Рис. 6.10.10. Оценочные амплитуды и фазы для сезонно приведенного вычи- вычитанием ряда температур в Гринвиче, полученные по подобным рядам темпера- температур других тринадцати станций за 1780—1950 гг.
6.10. Рабочий пример 233 I-6 Й .4 ^ .2 °, 1.0 .6 I'6 1.0 I-6 ^4 .2 °( 1.0 .8 ГС -тс .тс -тс \^д 0 X 0 X 0 X J / J v/ ^ Рис. 6.10.10 (продолжение).
to a л 1.0 .8 -e .4 .2 2 0 1.0 I A .2 °, 1.0 .8 I'4 .2 О -я . -n n \ л v: i\, c. 6.10.10 (продолжение).
6.10. Рабочий пример 235 -.6 г -.8 •1.0 -1.2 -1.4 -1.6 -1.6 "О X л Рис. 6.10.11. Логарифм оценочного спектра ошибок для приведенного ряда температур в Гринвиче lgg?>(h) по температурам на остальных тринадцати станциях* я 0 X Рис. 6.10.12. Оценка множественной когерентности |/?у^(Я)|2 ряда темпера- температур Гринвича и остальных тринадцати станций.
236 6. Анализ соотношений между стохастическими и детерминированными рядами. выражением F.4.11). Спектр мощности для Гринвича приведен на рис. 7.8.8. В табл. 6.10.1 приводятся результаты мгновенной множествен- множественной регрессии для ряда Гринвича по остальным тринадцати ря- рядам. Оценочная дисперсия ошибки такого анализа равна 0.269. Квадрат множественного коэффициента корреляции этого анализа равен 0.858. Оценочные амплитуды С/Г) (Я) колеблются как функции от X около горизонтальных уровней. Самые высокие уровни соответ- соответствуют Эдинбургу, Базелю и Де-Билту в указанном порядке... Вместе с тем, как следует из табл. 6.10.1, станции в Де-Билте, Базеле и Эдинбурге имеют наибольшие выборочные коэффициенты регрессии, убывающие в этом же порядке. Каждая из оценочных фаз ф}Г)(Я), соответствующих данным станциям, близка к конс- константе вблизи нуля, что указывает на отсутствие опережающих или запаздывающих фаз и на мгновенность связей этих станций.- Поскольку оценочные амплитуды остальных станций уменьшают- уменьшаются, функция оценочной фазы, как видно, становится более неус- неустойчивой. Это же можно было предполагать из вида выражения. F.6.9) для асимптотической дисперсии оценки фазы. Кроме того, наименьшая оценочная амплитуда соответствует Нью-Хейвену, штат Коннектикут, что можно объяснить большим удалением от Гринвича. Таблица 6.10.1. Коэффициенты регрессии для ряда Гринвича по рядам для остальных городов Город Вена Берлин Копенгаген Прага Стокгольм Будапешт Де-Билт Эдинбург Нью-Хейвен - Базель Вроцлав Вильнюс Трондхейм Выборочный коэф- коэффициент регрессии —0.071 -0.125 0.152 —0.040 —0.041 -0.048 0.469 0.305 0.053 0.338 0.030 ^0.024 —0.010 Оценочная стандарт- стандартная ошибка 0.021 0.023 0.022 0.010 0.016 0.019 0.022 0.014 0.009 0.016 0.017 0.009 0.013 Как можно видеть, оценочная множественная когерентность \R(yx M |2 близка к константе, равной 0.87. Эта константа близка
6.11. Дальнейшие исследования 237 к величине 0.858, полученной при мгновенной множественной регрессии. Наконец, оценочный спектр ошибок gee* {Ц постоянно убывает при возрастании Я. 6.11. Дальнейшие исследования Вернемся к исследованию природы различных полученных нами результатов для независимых рядов X(t). Прежде всего -рассмотрим смещение оценки А(Г)(Я). Как видно из выражений F.4.8) и F.5.14), математическое ожидание А(Г) (Я) является мат- матричным взвешенным средним А (а) с весами, зависящими от 1(/х(°0* Выражения F.4.8) и F.5.14) значительно упростятся, если пред- предположить, что функция \(хх (а) близка константе по а и ее недиа- недиагональные члены близки к 0. Приближение к нулю недиагональ- недиагональных членов значительно упрощает вид А (а). Продолжая иссле- исследование остаточного члена F.4.8), будем предполагать, что главную роль играет член со взвешенным средним в случае, когда р(/х(^)1| мало или Р/хМне имеет острых пиков. Далее мы рассмотрим асимптотические свойства второго по- порядка А(Г)(Я). Как следует из выражения F.6.4) и теоремы 6.4.2, для того чтобы асимптотически уменьшить дисперсию элементов А(Г)(Я), нам следует выбирать X (/), ? = 0, ±J, ..., таким обра- образом, 'чтобы диагональные элементы Р/Н^) были достаточно большими. Пусть заданы диагональные элементы //рМ> j' — J>- • • ..., г, матрицы Р/х(Я). Согласно упр. 6.14.18, Е|Л^(Я)-Лу(Я)|3>/Я>(Я)-ь F.11.1) равенство достигается в случае, когда недиагональные элементы равны нулю. Мы опять видим преимущества того случая, когда недиагональные элементы матрицы f(xx W близки к нулю, а диа- диагональные достаточно большие. Из близости к нулю недиагональных элементов можно извлечь еще некоторые преимущества. Согласно F.6.4), из этого факта следует почти некоррелированность и почти независимость ста- статистик А)Т)(Я), А(р(к), 1^/<&<>, значительно упрощается также их интерпретация и асимптотические свойства. Для получения приемлемой оценки А(Г)(Я), —оо<Я<оо, следует искать такой процесс Х(?), ? = 0, ±1, ..., чтобы мат- матрица f(Px (а) была близка к константе по а, имела недиагональные члены, близкие к нулю, и достаточно большие диагональные члены. Позднее мы увидим, что такими свойствами обладает f(ix(a) процесса Х(^), который является процессом белого шума с независимыми компонентами, каждая большой дисперсии. В большинстве ситуаций процесс Х(^), t = 0, ±1, ..., пред- предстает перед нами как свершившийся факт, однако, согласно § 6.1,
238 6. Анализ соотношений между стохастическими и детерминированными рядами свойства X(t) легко изменить посредством фильтрации. Можно построить со Xj(/)= 2 с(/-и)Х(и), F.11.2) U— -оо t = 0, ..., Т—1, для rxr-фильтра {с(и)} и оценить затем пере- передаточную функцию Ai(X), переводящую Y (t) в X1(t)> t = 0, ±1,... .Пусть эта оценка будет А{Г)(Я).' Тогда в качестве оценки для А (Я) можем рассмотреть А<г>(Я) = А1Г)(Я)С(Я). F.11.3) Из F.1Л0) и F.5.14) следует {Щ (?)с (т) ^ (?)•FЛЬ4) из чего заключаем, что нам нужно искать такой фильтр С (Я), чтобы А (Я) С (Я) было не очень большим по X. Такую операцию называют предварительной фильтрацией. Ее применение весьма существенно даже в простых ситуациях. Рассмотрим общую модель, в которой Y (t) связан с X (t) через запаздывающий аргумент v: Y (t) =aX (t—v)+& (t). F.11.5) В этом случае A (X) = aexp{—iKv}-=acosXv—iasmXv9 F.11.6) так что =PJ. F.11.7) В случае когда v достаточно большое, знак cos2nsv/T быстро меняется с изменением s. Ввиду сглаживания выражение F.11.7) будет гораздо ближе к нулю, чем ipcn (Я—=р) /& (^) . F.11.8) S=l ^ / \ / Согласно предыдущему обсуждению, следует использовать пред- предварительную фильтрацию с, передаточной функцией С(Я) = = ехр{—Ш}, т. е. выполнять спектральные вычисления с ря- рядом X1(t) = X (t—v) вместо X(t). Таким образом, оценим А (к)
6.1 L Дальнейшие исследования239 выражением ехр{— *'М fl$t М//*?*. №' ^ пР01*еДУРУ предло- предложили Darzell, Pearson W. J. A960), Yamanouchi A961) и Akaike, Yamanouchi A962). На практике предполагается использование запаздывания v перед этими вычислениями. Одной из причин выбора запаздывания является стремление максимально увели- увеличить кросс-ковариацию рядов Y (t) и X(t). В § 7.7 процедура предварительной фильтрации будет обсуж- обсуждена в случае векторного ряда Х(/). Она основана на методе наименьших квадратов для выбора предварительной временной модели и последующего спектрального анализа ряда X (t) и ос- остатков. До сих пор мы говорили о путях улучшения оценки А(Г)(Я). Другие оценки g&Ck), [г(Г), а(Г) (и) связаны с этой весьма орга- органично. Поэтому можно ожидать улучшения статистики А(Г) A) в результате улучшения этих добавочных статистик. В общих сло- словах мы считаем, что лучшей оценкой связи между Y (t) и X(t)f ? = 0, ±1, •••» будет соотношение в виде множественной регрес- регрессии ? (t) по Х(/) с ошибками в виде шума. Для сведения этой оценки к такому виду следует использовать все априорные све- сведения. Приведем несколько комментариев по поводу вычисления ста- статистик. Оценки основываются на непосредственном использовании дискретного преобразования Фурье рассматриваемых рядов. Это делается для упрощения их выборочных свойств. Естественно, при вычислении дискретного преобразования Фурье имеет смысл пользоваться алгоритмом быстрого преобразования Фурье. Дру- Другое важное упрощение результатов следует из того, что оценки § 6.4 могут быть получены непосредственно из стандартного мно- множественного регрессионного анализа действительных переменных. Рассмотрим случай Х^ 0 (modя). Согласно обсуждению из § 6.3, модель F.1.1) приводит к приблизительному равенству F.11.9) s = 0, ±1, ..., ±m, для 2ns(T)/T> близких к X. Для действительных величин это можно записать в следую- следующем виде: Red</. B«Шр±?!) i Re A (X) Red?» Bл['<Г) + ")
240 6. Анализ соотношений между стохастическими и детерминированными рядами 1ш а?> (*"№+*) ^ Re А (К) Im F.11.10) s = 0, ±1, ..., ±m. Ввиду того что Re4r> Bn[sG) +s]/T)9 lmd{eT\Bn[s(T)+s]/T), s = 0, ±1, ..., ±m,— приблизительно некоррелированные переменные, соотношения F.11.10) имеют форму множественного регрессионного анализа с матрицей рег- регрессионных коэффициентов [ReA(X)ImA"(X)] F.11.11) и дисперсией ошибок яТ/ее(^). Поэтому оценки интересующих нас параметров получаются из множественного регрессионного анализа, если за Y взять матрицу . s=o, ±i, ...] F.11.12) а за X —матрицу F.11.13) Оценки в случае X ^ 0 (mod я) получаются аналогичным образом. Заметим, что модель F.1.1) может использоваться даже в том случае, когда Х(^), ^ = 0, ±1, ..., не являются векторными величинами. Например, если мы желаем исследовать возможность нелинейных соотношений между действительными рядами Y (t) и X(t), t = 0, ±1, ..., можно положить в F.1.1) = X(t)X(t-\),
6.12. Сравнение трех оценок импульсной характеристики 241 6.12. Сравнение трех оценок импульсной характеристики Пусть модель, рассматриваемая в этой главе, имеет более простой вид У@=1*+ 2 а(и)Х(*-и) + е(*), * = 0, ±1, ... , F.12.1) и~-т для некоторых конечных т, п. Это случай конечной зависимости Y@ от РяДа Х@» f = 0, ±1, ... . Займемся сравнением трех часто используемых оценок коэффициентов а (—/п), ..., а @), ..., а (/г), а именно оценки из § 6.8, оценки наименьших квад- квадратов и асимптотически эффективной линейной оценки. Для начала заметим, что достаточно рассмотреть простую следующую модель: Г@ = |г + аХ@ + е@, * = 0, ± 1, .... F.12.2) В самом деле, F.12.1) можно представить в виде (-/п) ...а lX(t-n)j F.12.3) что имеет вид F.12.2) с увеличенным числом измерений. В § 6.8 была принята следующая оценка а соотношения F.12.2) ). F.12.4) р = о v ' Из F.6.4) следует 0, jo^^, F.12.5)" так что ковариационная матрица а[т> приблизительно равна БгТ-^я ^W(afdaP-T^fee (^f^^). F.12.6) Р Частный случай модели F.12.2) предполагает также использова- использование метода наименьших квадратов, минимизирующего S [Y(t)-\i-bX(t)Y. F.12.7)
242 6. Анализ соотношений между стохастическими и детерминированными рядами относительно |л и а, что приводит к оценке аBГ) - с(Л @) с& (О)-1, F.12.8) которую можно приблизить следующим образом: /p-i \ (р-\ ™ ~~ "" "" ' " ""'rijrj[ • F.12.9) Используя F.12.5) для ковариационной матрицы F.12.9), полу- получим следующее приближение: ( р- 1 /ее ( -p-j f^X (-pr Заметим, что оценки F.12.4) и F.12.9) являются взвешенными средними значениями А(Г) Bпр/Р). Это предполагает использова-, ние в качестве дальнейшей оценки наилучшей линейной комби- комбинации этих значений, что, согласно упр.-6.14.11 и выражению F.12.5), представляется приблизительно в следующем виде: с ковариационной матрицей ^)-1^^)!. F.12.12) Учитывая вид выражений а^Г), матричные разности F.12.6)—- F.12.12) и F.12.10)—F.12.12) будут неотрицательно определены. В случае когда gQ (^) близко к константе, что имеет силу, когда ряд ошибок z(t) является белым шумом и Т не слишком мало, формулы F.12.9) и F.12.11) показывают, что оценка наименьших квадратов аBГ) будет эффективной оценкой а?Г). В случае когда *хх (Я)gQ (X) близко к константе, формулы F.12.4) и F.12.11) показывают, что оценка а^Г) будет близка к оценке а?Г). Наппап
6.13. Использование предложенных методов 243 A963b, 1967a, 1970) рассматривал оценки а.[Т), а.(Р для случай- случайного ряда Х@, t = 0, ±1, ...; Grenandef, Rosenblatt A957), Rosenblatt A959) и Hannan A970) рассматривали эти оценки для фиксированных рядов Х@, t = Q> ±1, ... • 6.13. Использование предложенных методов Рассматриваемые в данной главе статистики использовались многими исследователями в различных ситуациях. Обычно иссле- исследователи рассматривали ряд Y(t), / = 0, ±1, ..., полученный из ряда X(t)y t = 09 ±1, ..., посредством линейного инвари- инвариантного во времени преобразования, что является существенным свойством модели F.1.1). При этом используются статистики () () () «() |()| () Важной областью приложений является геофизика. Robinson A967а) обсуждал применимость линейной инвариантной по време- времени модели к изучению сейсмических возмущений X(t), когда Y (t) записывается различными станциями. Tukey A959c) анализировал связь записей сейсмических возмущений на одной станции с за- записями других станций. Некоторые другие приложения в сейсмо- сейсмологии приводят Haubrich, Mackenzie A965) и Писаренко A970). В океанографии Hammon, Hannan A963) и Groves, Hannan A968) рассматривали зависимость между уровнем моря и давлением, а также ветровыми воздействиями на некоторых станциях. Groves, Zetler A964) рассматривали взаимосвязь уровней моря в Сан- Франциско и в Гонолулу. Munk, Cartwright A966) рассматривали некоторую математическую модель X (t) по отношению к уровню приливов Y (t). Kawashima A964) с помощью спектрального ана- анализа изучал поведение судна в океане. В метеорологии Panofsky A967) использовал спектральный анализ для различных рядов, включая скорость ветра и температуру. Madden A964) рассмат- рассматривал некоторые данные электромагнетизма. Rodrigues-Iturbe, Yevjevich A968) рассматривали ряды Y (t) количества осадков, записанных некоторыми станциями США, и X(t)—число солнеч- солнечных пятен. Brillinger A969а) рассматривал ряды Y (t)—ежеме- (t)—ежемесячные осадки в Санта-Фе, Нью-Мексико, и X(t)—соответству- X(t)—соответствующие ежемесячные числа солнечных пятен. Lee A960) показал, что многие электронные схемы обнару- обнаруживают линейное инвариантное по времени поведение. Akaike, Kaneshige A964) рассматривали вход X (t) и выход Y (t) нели- нелинейной схемы и провели оценку некоторых статистик, обсуждае- обсуждаемых в этой главе. Goodman и др. A961), Jenkins A963), Nakamura A964), Na- kamura, Murakami A964) обсуждали приложения в индустрии.
244 &. Анализ соотношений между стохастическими и детерминированными рядами Takeda A964) использовал многомерный спектральный анализ в исследовании поведения самолетов. В качестве примера приложений в экономике сошлемся на книги Granger A964) и Fishman A969). Nerlove A964) использо- использовал многомерный спектральный анализ для изучения некоторых сезонных эффектов. Neylor A967) изучал свойства моделей в тек- текстильной промышленности. Результаты Khatri A965b) могут быть использованы для по- построения критериев проверки гипотезы 1тЛ(Х) = 0, —оо<Х<оо или а(и)=а(—и), и = 0, ± 1, .-.. . Последнее имеет место, если связь Y (t) и X (t) обратима во времени. Ряд интересных приложений в физике приводит к рассмотре- рассмотрению интегрального уравнения \du. F.13.1) относительно f(t) при заданных g(t), P, b(t). Для приближенного решения этого уравнения можно использовать его дискретный аналог ЙГ(О = Р/(О + 2 b(u)f(t-u), f = 0, ±1, ...; F.13.2) последний решается обращением матрицы. Запишем выражение F.13.2) в виде Y(t) = %X(t-u)a{u) + B{t), F.13.3) и где ряд e(t) может означать ошибку приближения при дискре- тизацииХ@) = р+&@),Х(ы)^6(г/), ифО9 Y (t)=g(t). Система F.13.3) рассматривалась на протяжении этой главы, так что другой путь решения F.13.1)—использование многомерного спек- спектрального анализа и выбор а{Т) (и) согласно F.8.2), как аппрок- аппроксимации функции f(t). В этой главе основное внимание уделялось А (К) и а (и). Однако следует отметить ситуацию, где большой интерес пред- представляет исследование спектра ошибок. Рассмотрим модель . Y(t) = ]i + Za(t-u)X(u) + E(t) F.13.4) и с 2М1а(мI < °°- ^ас интересует а(/), ^ = 0, ± ]_, ..., при- приводящее к сигналу небольшой продолжительности. Пусть
6.14. Упражнения 245 Выражение F.13.4) приобретает вид (t) + e(t). F.13.6) Наблюдаемый ряд Y (t) является суммой интересующего нас ряда jjL-fe(/) и кратковременного ряда a(t), в котором мы, возможно, не заинтересованы. В этой главе была предложена оценка для /е8(Я) изучаемого спектра мощности. Мы просто строили g&} (к) по наблюдениям Y(t)9 t = 0, ..., Т — l,nX(t) согласно F.13.5). Эта оценка имеет смысл даже в том случае, когда присутствует нежелательный кратковременный ряд одновременно с интересую- интересующим нас рядом. Распределение величины g$ (к) будет прибли- приближенно многомерным распределением хи-квадрат с 4т степенями свободы в случае использования асимптотической процедуры § 6.4. Прямая оценка f$ (к) по сравнению с этим дает 4/П + 2 степеней свободы. Как видно, мы лишь немного проигрываем в устойчивости, выигрывая в робастности оценки. 6.14. Упражнения 6.14.1. Пусть выполнены условия теоремы 6.2.1 с Еете = а21, замененным на Еете = 2. Покажите, что Еа = а и Е (а-а)т (а^-а) = (ХХт) Х2ХТ (ХХ'). 6.14.2. Пусть выполнены условия теоремы 6.2.1 с Еете + аЧ, замененным на EeTe = a2V. Докажите, что выражение (Y — bX)TV-1(Y — ЬХ) минимально при b=YV-1XT(XV-1XT). Покажите, что В —несмещенная оценка с ковариационной матрицей a2 (XV-1XT)~1. Покажите также, что оценка наименьших квадратов a=YXT(XXT) остается несмещенной с ковариационной матрицей o»(XXt)XVXt(XXT). 6.14.3. Сохраняя обозначения теоремы 6.2.3, покажите, что несмещенная линейная оценка ата, минимизирующая дисперсию, где а — вектор размер- размерности ky имеет вид ата. 6.14.4. Пусть X—комплексная случайная величина; покажите, что D | X |< cov {X, X}. 6.14.5. Сохраняя обозначения теоремы 6.2.3, положим | R |2 = aXXTa.T/YYT. Докажите, что 0^|/?|2^1. При соблюдении условий теоремы 6.2.4 пока- покажите, что распределение величины (n — k) \ R \2/[k(\ — | R |2)] есть нецентраль- нецентральное /^-распределение со степенями свободы 2k, 2(п — k) и-параметром нецен- нецентральности аХХта7а2. 6.14.6. При соблюдении условий теоремы 6.4.2 или теоремы 6.7.1 дока- докажите, что величина Ф(Г> (к) асимптотически равномерна на @, 2я], если Л (Л) = 0.
246 6. Анализ соотношений между стохастическими и детерминированными рядами 6.14.7. Докажите, что следующее определение асимптотической нормаль- нормальности является состоятельным. Последовательность Хп векторных г-мерных случайных величин асимптотически нормальна со средним 9„+ 4^/11 и ковариа- ковариационной матрицей ЕвН-Ч^ХЧ?,,, если ЧГ„1(Х„~9Л) стремится по распределе- распределению к Nr(n, 2), где дп есть последовательность r-мерных векторов, а Ч^-—• последовательность несингулярных гХг-матриц. 6.14.8. Сохраняя обозначения упр. 6.14.2, покажите, что (XXT)XVXtX x(XXT)"J^(XV-1X)-1. (A^B означает, что А—-В неотрицательно опреде- определена.) 6.14.9. Докажите, что t?? (к) из F.5.6) можно записать в виде т-\ «=-741 где wiT) (к) задано выражением ) — выражением 2 0< Л t + u< T~\ 6.НЛО. Пусть y(t), ? = 0, ±1, ..., имеет конечное преобразование Фурье d^)(X) — A<T)(k)d{P (к). Докажите, что f$(K) = g{M (Ь), т. е. оценка спект- спектра ошибок равна спектру мощности ряда остатков. 6.14.11. Пусть Y/, / = 1, ..., J, есть 1 х г-матричная случайная величина с EYy = p, E{(Yy— P)T (Yjfe —р)} = в {/ — Л} Vy для 1 </<?< У. Докажите, что наилучшая несмещенная линейная оценка 0 задается выражением г j 1-1 Указание: использовать упр. 6.14.2 и 6.14.8 и упр. 1.7.6 в случае г = 1. Показать, что E{(p-p)*(fHJ)) = [S/V/]. 6.14.12. Пусть выполняются условия теоремы 6.2.4. Покажите, что в слу- случае ортогональности двух столбцов матрицы X соответствующие элементы а статистически независимы. 6.14.13. Покажите, что оценка g^ (К) спектра ошибок, задаваемая F.4.5), неотрицательна. 6.14.14. При |/?у?х(^)|а, определенном по формуле F.4г. 11), покажите, что выборочный спектр мощности Y (t) можно интерпретировать как пропор- пропорцию, определяемую значениями Х@- 6.14.15. Покажите, что статистики А(Г) (k), g^ (к) не зависят от значений выборочных средних с^\ с(/*. 6.14.16. Докажите, что /(/^ (к) ^> g^ (к), используя определения § 6.4.
6.14. Упражнения ' 247 6.14,17. Пусть а—вектор размерности k. При условиях теоремы 6.2.4 по- покажите, что . 1(n.fc).(p)I/4a (a (XXT)~ дает ЮОр-процентную многомерную доверительную область для всех линейных комбинаций элементов вектора а. (Эта область является комплексным аналогом области Шеффе, см. Miller R. G. A966, стр. 49).) 6.14.18. Сохраним обозначения теоремы 6.2.3 и обозначим /-ю строку в X через Ху, где ХуХ/ = Су, /=1, ..., k, при некоторых заданных Clt ..., Сд. Докажите, что l и минимум достигается, когда XyXj = 0, k Ф /, т. е. строки в X ортогональны. (Этот результат для действительных величин получен в работе Rao A965, стр. 196).) 6.14.19. Пусть переменная w имеет распределение Ni (ц, а2), # = |а/|, р = | \i \,'f — argw, 0 = arg(x. Докажите, что функция плотности для R пред- представляется в -виде где /о(#) есть бесселева функция порядка 0 первого рода. Докажите, что v i/71(~v/2; I; p2/a2) для v > 0, где 1F1(a; Ъ\ *)—вырожденная гипергеометрическая функция. Оцените Ei^, если р = 0. Докажите, что функцию плотности / можно предста- представить в виде Bл)-1 ехр {—p2a-2 sin2 (/—Ф)} [|/"я"р2а~2 cos (f—Ф) +Л(-1/2; 1/2; -р2а-2 cos* (/- см. Middleton A960). 6.14.20. Пусть где е есть sXfl-матрица, столбцы которой суть независимые переменные с рас- распределением Ns @, S), а есть sx/"-матрица неизвестных комплексных парамет- параметров, х есть гХя-матрица известных комплексных элементов и у есть sX/1-мат- рица известных комплексных переменных. Пусть a = jiT(xxT)-1 И ?=(/i-r)-iy A-7 (xF)-^) yT. Докажите, что а имеет распределение A/rs(veca, S® (хх1')") и S не зависит от аи (п—г)^1^ (п—г, S). Операции vec и ® определены в § 8.2. 6.14.21. Пусть заданы матрицы х и у размеров sxn и гхп соответственно с комплексными элементами. Покажите, для заданных с X s-матрицы С, г X и- матрицы U и сХи-матрицы Г, что при ограничении CaU = r, минимизирующем trity-axlTF1^!^» sXr-матрица а задается выражением ajj8==a-C^(CC^)-1[CaU--r][UMxx^-1U]-1 V* (хх?)~\ где а= ухт (XXх)-1 и предполагается существование обратной матрицы.
2486.Анализ соотношений междустохастическими и детерминированными рядами 6.14.22. Докажите при условиях теоремы 6.6.1, что cov{ReA<r>(A,)T, Re f\ 6.14.23. При соблюдении условий теоремы 6.4.2 докажите, что {А<П (Я)-А (Я)} f<$ (Я) {\W (Я)- А (Я)}т стремится к B/n+l)/е8(Я)х2г независимо от g?P (Я) для А, =~ 0 (mod л). Получите соответствующий результат для случая Я = 0(п^д). 6.14.24. Пусть в выражении F.4.2) т = Т — \. Докажите, что А(Г> (Я) есть (Т-\ Л (Т-0 ^ZjqL у I |/=01 х Л х где с^ и с^^ — выборочные средние величин У и X. Найдите связь этого ре- результата с коэффициентом множественной регрессии У (t) no X (t). 6.14.25. При соблюдении условий теоремы 6.4.2 и А(Я) = 0 докажите, что для Я^=0 (mod я), стремится по распределению к где F имеет ^-распределение со степенями свободы 2Bm-fl—г) и 2г. 6.14.26. Пусть K(f), ?@ = 0, ±1, ..., суть s-мерные случайные ряды, есть вектор размерности s и а (/) есть sX/"-матричная функция. Пусть, далее, Y (/).= »*+ 2 а(/-и)Х(и)+е@. М= — 00 Получите оценки А(Г> (Я) передаточной функции {а (и)} и ggp (k) матрицы спектральной плотности е (t); Brillinger A969а). 6.14.27. Пусть f^рх (К) стремится к fxx(^) равномерно по X при Т—>- оо и ll^xWII» \\*хх(к)~1\\ < К, — оо < Я < оо, для конечных /С. Докажите, что условие 6.5.2 выполнено. 6.14.28. Докажите, что величина f^x(^), определенная в F.5.5), неотрица- неотрицательно определена, если W (a)^0. Докажите также, что g^ (К), определенная в F.5.9), неотрицательна при этом условии. 6.14.29. Пусть Х1ц @ = 2]«b (t — u) X (и), где {Ь (и)} —суммируемый гХг- фильтр с передаточной функцией В (Я). Пусть В (Я) несингулярна, — оо < Я < оо. Докажите, что Xj (t), t = Q, ±1, ..., удовлетворяет условию F.5.2, если X (/), f = 0, ±1, ..., удовлетворяет этому же условию.
* 6.14. Упражнения 249 6.14.30. Пусть Y(t) и X @ связаны соотношением F.1.1). Пусть Xj (t) заменено на Xj(t)-\-exp {Ш}, остальные компоненты X (/) оставлены без изме- изменений. Какую пользу можно извлечь из этого для интерпретации Aj (X)? 6.14.31. При соблюдении условий теоремы 6.6.1 покажите, что /q\ |(Л (О) с^ / -4-0 G1). 6.14.32. Рассмотрим полную модель F.12.3) вместо упрощенной F.12.2). Пусть [а/ } (— m).. .a/ } (и)], / = 1, 2, 3, являются для этого случая аналогами оценок а! \ &[ \ азГ).из§6.12. Покажите, что ковариации cov {ajr>(w), a/ } (v)}, / = 1, 2, 3, равны приблизительно величине В^1Г~12я \ IF (aJ ofa, умножен- умноженной соответственно на X Р X Р
ОЦЕНКИ СПЕКТРА ВТОРОГО ПОРЯДКА МНОГОМЕРНЫХ ВРЕМЕННЫХ РЯДОВ 7.1. Матрицы спектральной плотности и их интерпретация В этой главе мы, обобщая результаты гл. 5, будем изучать совместное поведение статистик второго порядка компонент много- многомерного временного ряда. Пусть X (t)y t = Q, ± 11 • •,— многомерный временной ряд с компонентами Xa(t)y t = 0% ±1, ..., где а=1, ..., г. Пусть ЕХ(*)=с„ G.1.1) ся(м) G.1.2) для t, u±=0, ±1, .... Отдельные компоненты вектора с^ обозна- обозначим через са, а=1, ..., г; таким образом, са = ЕХа(t) является средним ряда Xa(t), f = 0, ±1, • • • • Элемент в пересечении строки а и столбца b матрицы схх(и) обозначим через саЪ(и)> а, 6=1,... ..., г, так что саЬ (и) есть кросс-ковариационнай функция ряда Xa(t) и ряда Xb(t). Заметим, что для и = 0> ±1, ... { )\ = cxx(-u). G.1.3) Предположив, что 2 \саъ{и)\ < °° Для а, 6= 1, .,., г, G.1.4) U— -00 определим матрицу спектральной плотности ixx (К) частоты Я ряда Х(/), ? = 0, ±1, ..., следующим образом: fxx(k) = Bn)-i 2 exp{-iku}cxx(u). * G.1.5) М= — 00 Очевидно, что элемент fab (k) в пересечении строки а и столбца Ь матрицы. ixx(k) является спектром мощности ряда Xa(t)> если а = 6, и кросс-спектром ряда Ха@ и ряда Xb(t), если а =^6. Заметим, что fxx(k) имеет по X период, равный 2я. Ввиду того что компоненты схх(и) действительны, из G.1.3) следует и (^)т- G.1.6)
7.1. Матрицы спектральной плотности и их интерпретация 251 Согласно последнему выражению матрица 1хх№) эрмитова. Отсюда следует, что в качестве основной области определения можно выбрать интервал [0, я]. Как видно из теоремы 2.5.1, ixxO^) поло- положительно определена, f^x^^O» —оо<А,<оо; это означает, в частности, что спектр мощности действительного ряда неотри- неотрицателен. Пример 2.8.2 показывает эффект фильтрации матрицы спект- спектральной плотности. Пусть = 2 a(/-u = 0, ±1, ..., G.1.7) для фильтра с матрицей размерности sxr, имеющего передаточ- передаточную функцию a(u)exp{— iku}9 — оо<А,<оо; G.1.8) в таком случае матрица спектральной плотности ряда Y (t) для — оо < К < оо имеет вид G.1.9) Из определения матрицы спектральной плотности следует, что я = J exp{iau}fyY(a)da, G.1.10) где а = 0, ±1, .... Из выражений G.1.9) и G.1.10) получим ковариационную матрицу ряда Y (t)t Чтобы дать интерпретацию fXx(ty> рассмотрим применение этого результата для 2г-координатного фильтра с передаточной функ- функцией 1 1 — i sgn k G.1.12)
252 7. Оценки спектра второго порядка для |а±А,|<Д и равной 0 для всех других частот fxx(X). (В G.1.2) мы использовали определение фильтра по теореме 2.7.1.) Если А достаточно мало, то выход этого фильтра есть 2г-мерный ряд Х(*, X) [ содержащий компоненту частоты X, введенную в § 4.6. Исследуя выражение G.1.11), получим следующий приближенный результат: rRef^x(X) Im ixx(k)'\ 4А 1- Imf J (X) Re fxx(X)\ = 4Af« m eC™ " Ф ° (m°d ">' G.1.14) или ffvvM 0 I 2A n * /14 =2Afxx(b)*, если X^O(modn). G.1.15) L u »xxWJ Оба этих приближения приводят к полезной интерпретации Refxx(X) как величины, пропорциональной ковариационной мат- матрице X(t, X) (компонента частоты X в Х(/)), a lmtxx(k) как величины, пропорциональной кросс-ковариации Х(/, X) и ее пре- преобразования Гильберта Xя (t, X). Коспектр Re fab (X), полученный из Ха (t) и Хъ (t), пропорционален ковариации компоненты частоты X в ряде Xa(t) с соответствующей компонентой ряда Xb(t). Квадратурный спектр Im fab{X) пропорционален ковариации гиль- гильбертова преобразования компоненты частоты X ряда Xa(t) с ком- компонентой частоты X ряда Xb(t). Будучи ковариациями, оба приве- приведенных приближения являются мерами линейной зависимости. Интерпретируя матрицу спектральной плотности fx^(?i), полезно также напомнить некоторые свойства второго порядка представ- представления Крамера. Согласно теореме 4.6.2, для Х(?) справедливо представление S Xt}dZx{X)y G.1.16) t = 0, ±1, ..., причем стохастическая функция ZX(X) удовлетво- удовлетворяет соотношению cov{dZx(X)t dZx(li)}--=r\(X^li)ixx(X)dXdViy G.1.17) где г|(-) есть периодическое с периодом 2я продолжение дельта- функции Дирака. Из G.1.17) следует, что мы можем интерпрети- интерпретировать ixx(X) как величину, пропорциональную ковариационной матрице комплексного дифференциала dZx(X). Обе эти интерпре- интерпретации позже будут рассмотрены как достаточно удовлетворитель- удовлетворительные оценки fM
7.2. Периодограмма второго порядка 253 7.2. Периодограммы второго порядка Пусть имеется выборка Т последовательных значений г-мерных векторов X (t), ? = 0, ..., 7—1, из стационарного ряда со сред- средним сх и матрицей спектральной плотности fxx(h), — оо<Я<оо. Допустим, что нас интересует оценка f^ (А,). Рассмотрим оценки, основанные на конечном преобразовании Фурье G.2.1) где функция сглаживания ha {t) стремится к нулю при достаточно больших \t\, a=\, ..., г. Согласно теореме 4.4.2, эта перемен- переменная имеет асимптотическое распределение Л?@, 2nT[Hab@)fab(X)]), если ^^O(modn), Nr(T[Ha@)ca], 2nT[Hab@)fab(X)]), если'Х = 0, ±2я Nr@, 2nT[Hab@)fab(X)]), еслиЯ = ±я, ±3л G.2.2) где ТНа @) = Т j ha @ dt~ ? К (f) = Я<г' @) G.2.3) и для а, 6=1, ..., г ТНаЬф) = Т§ha(t)hb(t)dt-Ц^(т) Л»(т) =Я^@). G.2.4) Эти распределения приводят к рассмотрению статистики • = [/&» (Я,)] = [{2яЯ<Г (О)}-14Г) (A.) dT(bj] G.2.5) в качестве оценки fxx(^) в случае Х^О, ±2я, .... Координаты вектора 1{рх (^) являются периодограммами второго порядка сгла- сглаженных значений ha(t/T) Xa(t), t = Q, ±1, .... Эта статистика, очевидно, имеет те же свойства симметрии и периодичности, что и fyx(X). В соответствии с этим справедлива Теорема 7.2.1. Пусть X(t), ? = 0, ±1, ..., есть г-мерный ряд со средним EX (t) =cx и кросс-ковариационной функцией cov{X(? + «), \(t)\ = схх(и) для t, u = 0, ±1, ..., причем 2|схх(ц)|<оо. G.2.6) и Если ha(u), — oo<w<oo, удовлетворяет условию 4.3.1 для а=1, ..., г, 1{хх(К) задано выражением G.2.5), то для — оо<Я<оо,
254 7. Оценки спектра второго порядка X 1 \нр{*)Нр(-а)и(Ь-а)да G.2.7) Функция сглаживания ha(t/T) имеет такой характер, что ее преобразование Фурье Н(аТ) (ft) концентрируется при больших Т в окрестности частот Я=0, ±2л, .... Отсюда следует, что в слу- случае А,^ 0 (mod 2jx) последний член формулы G.2.7) будет исчезающе малым при больших Т. Первый член правой части G.2.7) яв- является, очевидно, взвещенным средним интересующего нас кросс- спектра fab с весом, сконцентрированным в окрестности точки X и определенным функцией сглаживания. Переходя в этом равен- равенстве к пределу, получим Следствие 7.2.1. Если выполнены условия теоремы 7.2.1 и \ha(u)hb(u)du^Q для а, 6 = 1, ..., г, то справедливо соотно- соотношение lim ElTx(X)=:fxx(X) G.2.8) при ft^0(mod2n) или сх=0. Оценка будет асимптотически несмещенной, если ХфО (mod2n) или сх=0. Если са> сь достаточно удалены от нуля, то смещение в оценке \(хх(Х) может быть значительным, как это явствует из вида члена выражения G.2.7), содержащего са n cb. Этот эффект может быть уменьшен путем вычитания оценки среднего X(t) перед операцией конечного преобразования Фурье. Так, можно ввести статистику = 4Г) (А.) —rfi »@) Н'аТ) {ЩН^ @), G.2.9) в которой для а = 1, ..., г выполняется с?> = 1>К{±г)хЛг)\^к{Г), G.2.10)
7.2. Периодограмма второго порядка 255 и статистику X {4Г) (*.)-4Г) @) #in (*W} i°}] G-2.11) в качестве оценки f^xM- Асимптотическое поведение ковариации двух элементов 1{хх (fy в случае ряда с нулевым средним дает Теорема 7.2.2. Пусть X (/), tf = 0, ±1, . • •, является г-мерным рядом, удовлетворяющим условию 2.6.2(/). Пусть ha(u)y a=l> ..., г, удовлетворяет условию 4.3.1, а 1{хх (fy задано выражением G.2.5). Тогда cav " G.2.12) + /С4 с постоянными К19 ..., /С4 и а = а19 а2У Ь1У 62, — оо< К |i<oo. Статистическая зависимость /^ и 7^2, как нетрудно видеть, исчезает с убыванием функции Н$}. Переходя в утверждении теоремы к пределу, получим Следствие 7.2.2. При сохранении условий теоремы 7.2.2 для Л, \i ф 0 (mod 2jc) справедливо соотношение G-2.13) Hm Для несглаженных данных, т. е. при ha(u)~ 1, если О^а < 1 и ha(u) = 0 в остальных случаях, из упр. 7.10.14 следует, что <[> ^ = т| {Я- ^} feA (Я) /Mi (- X) для частот К, |х вида 2nr/T, 2ns/T, где г, s целые и г, (mod T). Мы завершаем это обсуждение асимптотических свойств мат- матрицы периодограмм второго порядка выводом их асимптотиче- асимптотического распределения.
256 7. Оценки спектра второго порядка Теорема 7.2.3. Пусть Х(/), / = 0, ±1, ..., есть г-мерный векторный ряд, удовлетворяющий условию 2.6.1. Пусть 1{хх(Ь) задано выражением G.2.5). Предположим, что ha(t), а=1, ..., г, удовлетворяет условию 4.3.1 и что 2Xj, Xj ± A,A^=0 (mod2n) Зля 1 ^ / < &^ J. Тогда I j/x (Ay), / = 1, ..., J, являются асимпто- асимптотически независимыми величинами с распределением W? A, fxxi^j))- Если, кроме того, X=±jc, ±3jt, ..., то Vpx(X) асимптоти- асимптотически имеет распределение Wr(l, \хх{Ц) и не зависит от пре- предыдущих переменных. Распределение Уишарта было- введено в § 4.2, там же были рассмотрены различные его свойства. Как видно, в последней теореме предельное распределение непосредственно зависит от txxity- Однако распределение Уишарта с одной степенью свободы довольно сильно растянуто относительно fxxity. Поэтому l(xx(k) нельзя рассматривать как удовлетворительную оценку^ Интересно отметить, что предельное распределение в теореме 7.2.3 не содержит используемой в статистике сглаживающей функции. Предельное распределение не зависит от сглаживающей функции, однако, как показывает выражение G.2.7), вид сгла- сглаживающей функции влияет на смещение оценки при конечных размерах выборки. Отсюда следует, что наличие близких пиков спектральной плотности fXx(^) требует использования сглажива- сглаживания для повышения разрешающей способности. Рассматриваемые в теореме 7.2.3 частоты не зависят от 7\ Приведенная ниже теорема указывает асимптотическое распреде- распределение в случае, когда некоторые из частот стремятся к X при 7—^оо. Вернемся к случаю, когда сглаживание отсутствует. Теорема 7.2.4. Пусть \(t), t = 0, ±1, ..., есть г-мерный ряд, удовлетворяющий условию 2.6.1, и для —оо < X < оо вы- выполняется \Тх (Л) = BяГ)-1(Д X @ ехр {- W})(ji X (*) ехр {- iXtfj. G.2.15) Предположим, что sy- (T) — целое число, причем Xj (T) = 2nsj (T)/T стремится к Xj при Т-+оо для / = 1, ..., У, а что 2Xj(T), Xj (T) ± Xk (T) ф 0 (mod 2jx) для 1 ^/<^<^« достаточно боль- больших Т. Тогда 1(хх(\ (Т)), /=1, •-., J> являются асимптоти- асимптотически независимыми величинами с распределением Wcr (I, ixxi^/))* /=1, ••-.., /. Аналогично если Х=±п, ±3я, ..., то Vxx(fy асимптотически имеет распределение Wr(l$ fxx (X)) и не зависит от предыдущих переменных.
7.2. Периодограмма второго поряска 257 Наиболее важен случай, когда Kj = X для / = 1, ..., J- Здесь теорема указывает источник J асимптотически независимых оце- оценок iXy{k). Справедливость этой теоремы можно было предпола- предполагать на основании теоремы 4.4.1, в которой указывалось, что VtX(?)exp{—Wkj(T)}, / = 1, ...,/, суть асимптотически неза- независимые переменные, распределенные по #?@, 2nTfxx (kj)). Мы привели теорему 7.2.4 в случае несглаженных переменных только для того, чтобы избежать некоторых технических трудно- трудностей. Случай сглаживания переменных и зависящих от Т частот можно найти в работе Brillinger A970b) и в упр. 4.8.20. Су- Существенное требование для получения асимптотической независи- независимости состоит в том, что lkj(T) — 'kk{T)y 1^/<&<</, не могут стремиться к нулю слишком быстро. Теоремы 7.2.3 и 7.2.4 дают, в частности, маргинальные рас- распределения, определенные ранее в гл. 5 для периодограммы 1$ (к). Приведенная ниже теорема показывает, как можно построить L асимптотически независимых оценок fxx (к) в том случае, ко- когда данные предварительно сглажены. Мы разделим все* данные на L непересекающихся интервалов, каждый из которых содер- содержит по V сглаженных наблюдений, и построим периодограммы для каждого такого интервала. Теорема 7.2.5. Предположим, что r-мерный векторный ряд X (t), t = 0, ± 1, ..., удовлетворяет условию 2.6.1. Пусть функ- функция ha (и), — оо < и < оо, равна нулю при и < 0, и ^ 1 и удов- удовлетворяет условию 4.3.1. Если, кроме того, для 1 = 0, ...,L—1 выполняется K О], G.2.16) где v-i К (?) Xa(v + tV)exv{-ik(v + lV)\, G.2.17) v=0 mo lxx(K О» / = О, ..., L— 1, при V—> оо являются асимпто- асимптотически независимыми переменными с распределением Wcr (I, Г^(Я), есл^/ X^O(modjx), и асимптотически независимыми переменными с распределением Wr(l, fxx(X)), если А,= ±л, ± Зл, ... . Отметим еще раз, что предельное распределение не содержит Функции сглаживания, несмотря на то что она существенно ис- используется в dbV) (к, I) при построении VpxiK О- Комплексное распределение Уишарта ввел Goodman A963) как аппроксимацию распределения спектральных оценок в случае многомерных рядов. Brillinger A969с) получил Wcr{\, fxx(k)) как предельное распределение матрицы периодограмм второго порядка. На рис. 7.2.1—7.2.5 приведены периодограммы и кросс-перио- Дограммы некоторых двумерных рядов. Ряд Хг (t) есть сезонная
258 7. Оценки спектра второго порядка 10» 10- Х/2Л Рис. 7.2.1. Периодограмма сезонно приведенных ежемесячных средних темпе- температур в Берлине за 1780—1950 гг. (логарифмический масштаб). (По горизон- . тали —частоты в цикл/месяц.) ю- Ill Щ Ш! — I , II 1 II 1 k ii ¦' III I «1 1 !¦ 4 41 1 i1 Г j;— IhJ.i. Ill 1) 1 111 ПИП ' I'll !f! * llfl Hill t\ -JIT I LI ill run !!!Ё!'> ¦111 ¦II 1 < .11 114 IIjiUIj II IB Illlll 1 1 1 1 ll.l 1 i ¦¦ Ш IIJ iih'iii'ib вами ip ¦ iriiibp II Mil, I 7 кМг!( II if, 'Mill I'dillUIU.hllllM. —1—1—1— iiL. 1. Л. ИМ ЧИ1* ¦Till,1, RSni" | 1 -Ц- 1 .III ll 1 ¦ mun ¦'¦¦¦¦ Ml'PII.Vnr.U lllUUil'lllfilllllilll 1 1111 ¦г- iuiiiiiiSi IIIBHH ¦Biii ijiii III 4 BL'ii ¦1 ¦ I III 1 iiS 1 ни IH 4- - - Л/2Я Рис. 7.2.2. Периодограмма сезонно приведенных ежемесячных средних темпе- температур в Вене за 1780—1950 гг. (логарифмический масштаб). (По горизонтали-^ частоты в цикл/месяц.)
7.2. Периодограммы второго порядка 259 Х/2Я Рис. 7.2.3. Действительная часть кросс-периодограммы температур Берлина с температурами Вены. (По горизонтали — частоты в цикл/месяц.) 8.0 7.0 6.0 5.0 4.0 3.0 2.0 1.0 о -1.0 -2.0 -3.0 и i i U 1 0 Рис. 7.2.4. Мнимая часть кросс-периодограммы температур Берлина с темпе- температурами Вены. (По горизонтали — частоты в цикл/месяц.)
260 7. Оценки спектра второго порядка 0 —7Г 1 11 п пг ПИП iTlti i i, 1 > 1 II i ill 11. 1 1 11 1 11 11 IJU ilBUIJillillH yiifiiiiilllLd и ,, II lii 1,1 ,i II 1 1 1 ll iyilliillillLtNilil!llllliinilli!i(i . ишшШш ы ШмшшШшш 1 ffi lUIln » ИПнтнтиинииршигнщпм»!1 H I'l i f 111! 11IIUI i 1 1 Jill] i i 1 i If Л I II11 111 I'l'II III1 II II IT It Jt T 1 1 11 1 1 1 i 1 i If PHI 1 ' " 1 II 1 Х/27Г Рис, 7.2.5. Фаза кросс-периодограммы температур Берлина и Вены. (По го- горизонтали—частоты в Ц1кл/месяц.) выборка ежемесячных средних температур в Берлине за 1780— 1950 гг. Ряд X2(t)—сезонная выборка ежемесячных средних температур в Вене за 1780—1950 гг. На рис. 7.2.1 и 7.2.2 при- приводятся периодограммы 1[р (К) и 1$ (X) этих рядов. На остальных рисунках представлены кросс-периодограммы Re /1BГ) (X), Im /{2Г) (X), 2rg/i2r)(^) соответственно. Все эти графики крайне неустойчивы, что находится в полном соответствии с теоремой 7.2.3, согласно которой периодограмма второго порядка не может быть удовлет- удовлетворительной оценкой спектра второго порядка. 7.3. Оценка матрицы спектральной плотности путем осреднения периодограммы Теорема 7.2.4 наводит на мысль о построении достаточно гибкой оценки для fxx(^)- Если W~ X(*)exp{—Ш} G.3.1) то из этой теоремы следует, что для целых s(T), таких, что 2ns(T)/T близко к ^;=z?=0(mod я), распределение величин VpxBn[s(T) + s]/T), s = 0, ±1, ..., ±т, аппроксимируется 2пг+1 независимыми распределениями W?(l, tXx(^))- Следова- / 7 \Тх М = BЯГ)-1 ( X X @ ехр {- Ш}
7.3. Оценка матрицы спектральной плотности 261 тельно, имеет смысл рассматривать оценку при 7^0(тоМ. G-3.2) Дальнейшее изучение результатов теоремы приводит к оценке т ?(^) G.3.3) в случае Я = 0, ± 2я, ... или Я=±я, Ч=3я, ... и четного Г; в случае же Я = ± я, ± Зя, ... и нечетного Т* приходим к оценке G.3.4) S=l Ч - - * / Оценки G.3.2)—G.3.4) основаны на вычислении дискретных пре- преобразований Фурье d(/)Bjcs/T1), $ф0 (modT1), и имеют,- очевидно, те же свойства симметрии и периодичности, что и fy*(A,). Отно- Относительно этих оценок справедлива Теорема 7.3.1. Пусть X(t)> t=^0f ±1, ..., есть г-мерный векторный ряд со средним значением сх и кросс-ковариационной функцией схх (и) = cov {X (t + и), X (*)} для tf и = 0, ± 1, ... . Предположим также, что QO 2 |см(«)|<оо, G.3.5) и— -со а i(xx(h) задано выражениями G.3.2)—G.3.4). Тогда в случае ШТх (X) = j ЛгИ (а) !„ E^П_а) da, G.3.6) -Я \ а в случае А, = 0, ч=2я, ... ала Л=±я, ±3я, ... и четного Т математическое ожцдание величины f{xx (^) равно я X)= J firra(a)fxx(^-«)rf«; G-3.7)
262 7. Оценки спектра второго порядка наконец, в случае Я = ±я, ±3я, ... и нечетного Т имеем для выражение п C()i(k)d G.3.8) Здесь для — оо < а < оо А(Г) («+Т5) f' s=l G.3.10) ^_|?)|г. G.3.11) S=l Функции Атт (а), Ву,,» (а), СТт (а) являются неотрицательными весовыми функциями. Первая имеет пики в точках а = 0, ±2я, ± 4я, ... и ширину, равную приблизительно 4ят/Г. Вторая и третья приблизительно также сконцентрированы в интервалах ширины 4пт/Т около точек а = 0, ±2я, ..., однако имеют про- провал непосредственно в этих частотах. На рис. 5.4.1 они изобра- изображены для Т = 11. Во всяком случае, значение Ef{px (К) будет близко к требуемому f*xW> если *хх(а) близка к константе в полосе ширины 4пш/Т около Я. Переходя к пределу, получим Следствие 7.3.1. Если выполнены условия теоремы 7.3.1 и 2j^s(Т)/Т —> Я при Т —> оо, то для — оо < Я< оо limEf$ (*) = Г->оо G.3.12) Как и следовало ожидать, оценка асимптотически несмещен- несмещенная. Рассмотрим теперь ее некоторые свойства второго порядка. Теорема 7.3.2. Предположим, что r-мерный ряд X(t), t = Q9 ±1, ..., удовлетворяет условию 2.6.2(/), a fJ&W задано выРпт
7.3.. Оценка матрицы спектральной плотности 263 жениями G.3.2)—G.3Л), причем k—2ns(T)/T=-.0(T). Тогда COV {faxbx W» fa2b2 (|^)} Т] {A, —|l} faiui (^) /&i&2 (— X) -\-\] {k + \l} fQxbi (I) fbiu2 (— X) если К^0 (mod я) я/?и —оо < А,, ^<оэ. G.3.13) Нетрудно видеть, что моменты второго порядка убывают по величине, когда т возрастает. Выбирая /п, асимптотически можно устранять изменчивость оценки до желаемого уровня. Как видно, статистики будут асимптотически некоррелированными в случае Я+ \1фО (mod2jt). Добавим также, что выражение G.3.13) имеет особенности в точках A, ji = 0, ±я, ±2я, ... . Это происходит по двум причинам: неизвестно среднее значение сх, кроме того, fXxW принимает действительные значения в этих точках. Заме- Заметим, что оценка f{xx(k) в условиях последней теоремы несостоя- несостоятельна, однако в следующем параграфе состоятельные оценки будут построены. Вернемся к дальнейшему развитию приближений по большим выборкам распределения $х(к).. Теорема 7.3.3. Пусть r-мерный векторный ряд X (/), t = 0, ±1, ..., удовлетворяет условию 2.6.1, а оценка t%x(k) задается выражениямиG.3.2)—G.3.4), причем 2ns(T)/T—+A, при Г->оо. Тогда fxx(^) имеет асимптотическое распределение Bт+1)~1х X W?Bm+\, iXx М). если Хф0 (mod я), или Bт)-1 Wr Bm, fxx(A)), если Я^0(modя). Кроме того, fxx(^/)» /=li •••» «/, асимпто- асимптотически независимы при Kj ± Xk Ф 0 (mod 2я) для l^j<k^.J. Как видно, маргинальные распределения диагональных членов '*хМ асимптотически совпадают с теми, qfo были получены ранее. Диагональные элементы ffy (Ц имеют предельные распре- распределения х2» указанные в теореме 5.4.3. Стандартизированные элементы, стоящие вне диагонали, имеют асимптотические плот- плотности, приведенные в упр. 7.10.15. Приближение распределения величины fxx(^) комплексным распределением Уишартабыло получено в работе Goodman A963). Wahba A968) рассматривал случай гауссовских рядов и /п-^оо. Настоящий случай со средним 0 рассматривал Brillinger A969c). Результаты, аналогичные теоремам 7.3.1—7.3.3, могут быть также получены для случая сглаженных данных, сгруппирован- сгруппированных на L непересекающихся интервалах по V наблюдений в каж-
264 7. Оценки спектра второго порядка дом. Положим для — оо < X < оо и / ^ О, ..., L — 1 d(aV) (К I) = ? К (f) Xa (v + IV) ехр {- iX (v + IV)}*, G.3.14) v=o где ha (и), — оо < и < оо, обращается в нуль при а < 0, и^\. Для / = 0, ..., L — 1, определим {K Dl <7.3.15> Как следует из теоремы 7.2.5, оценки lxh(K I), 1 = 0, ..., L— 1, являются асимптотически независимыми переменными, распреде- распределенными как И^A, fxx(^))» если А^О (mod я), и распределен- распределенными как W r (I, fx^ (Я)), если А,= ± я, ±3я, ... . Естественно ввести оценку № (Я) = L-1 So /(й (^, 0. G-3.16) относительно которой справедлива Теорема 7.3.4. Пусть выполнены условия теоремы 7.3.1, а функция ha(u), a=l, ..., г, равная нулю при «<0, и^1, удовлетворяет условию 4.3.1 w \^ha(u)hb(u)du=^0. Если оценка )? задана выражением G.3.16), то /гра У—>оо <^> (а) Нр {-a)da\ \] Н^ (а) Н$* {- а) * X !аЪ .(Г-а) da + Я^> (X) Н?> (- Ьсась\ — fab (k), G.3.17) (тоё2я) w а, Ь—1, ..., г. Эта теорема непосредственно связана с теоремой 7.2.1 и яв- является ее следствием. Интересно заметить, что взвешенное сред- среднее величины fab, фигурирующей в выражении G.3.17), сконцен- сконцентрировано в интервале ширины, пропорциональной У. Теорема 7.3.5. Предположим, что г-мерный векторный ряд Х@, ? = 0, ± 1. ..., удовлетворяет условию 2.6.1. Пусть функ- функция Аа (и), а=1, ..., г, равная нулю при и < 0, и^1, удовлет- удовлетворяет условию 4.3.1 u ^ha(u)hb(u)du=?0, а оценка f?p (X) зя- д выражением G.3.16). 7"огда Зля Я, 2 •*¦ » • • • > * » .(/.б.IS) {fffi() f _ Л {Ь-И} fa,q, (Я) /,,,, (- Я) + П {Я + ^} /Д1д, (Я) /tiflt (X) — ? : :
7.4. Состоятельные оценки матрицы спектральной плотности 265 По сравнению с выражением G.2.13) в данном случае моменты второго порядка домножаются на величину 1/L. В большинстве случаев исследователь имеет возможность выбрать Ь достаточно большим. Таким образом, справедлива * Теорема 7.3.6. Пусть ^ххЧ^) задается выражением G.3.16), тогда при сохранении условий теоремы 7.2.5 оценка 1{хх {Ц при У—*оо имеет асимптотическое распределение L"XW^ (L, f*x(^))> если Х=?0 (mod я) и L-xWr(L, \XxW)> если Я=±я, ±3я,... . Как и прежде, матрица спектральной плотности аппроксими- аппроксимируется распределением Уишарта. Единственная трудность в при- приведенной выше процедуре оценивания состоит в том, что она неудовлетворительна при А, = 0 (тос12я). Для этого случая оценка может быть получена экстраполированием по ближайшим часто- частотам. См. также оценку в упр. 7.10.23. В упр. 7.10.24 приводится асимптотическое распределение оценки л* для неравномерно взвешенных периодограмм. 7.4. Состоятельные оценки матрицы спектральной плотности Большинство оценок предыдущего параграфа не являлись со- состоятельными, т.е. в этих случаях \(рх (К) не сходилась по ве- вероятности к ^хх(Ц ПРИ Т—^°°- Эта оценки зависели, однако, от параметров (т или L), влияющих на их асимптотическую из- изменчивость. Можно надеяться, что те случаи, в которых эти параметры стремятся к бесконечности при Т—^оо, позволяют получить состоятельные оценки. В этом параграфе мы убедимся, что это действительно верно. Такие результаты важны скорее для возможности аппроксимации моментов и распределения оценки при больших размерах выборок, чем для непосредственных пред- предполагаемых вычислений. Рассмотрим выборку X (t), / = 0, .-.., Т— 1, r-мерного ряда Х(/). Вычислим дискретное преобразование Фурье {^}, s = 0, ±1, ...; G.4.1)
266 7. Оценки спектра второго порядка тогда соответствующую периодограмму второго порядка дает вы- выражение (^) (^)r>(y!),s = 0,±l,..., G.4.2) где s = 0, ±1, ... . Образуем оценку fab(ty как взвешенное среднее этой статистики с весом, сконцентрированным в окрест- окрестности точки X ширины 0(ВТ), где Вт— параметр ширины окна, стремящийся к 0 при Т—>оо. Пусть весовая функция WаЪ (а), — оо < а < оо, удовлетворяет соотношению 5 Wab(a)da=\ ' G.4.3) — 00 и задана последовательность неотрицательных масштабных пара- параметров Вт, Т=1, 2, ... . В качестве оценки для /а&(Я), — оо<А,<оо, а, &=1, ..., г, рассмотрим МММг])'#(?)• G-4-4) s ф 0 (mod Г) Ввиду периодичности 1$ (а) с периодом 2я последнее равенство можно переписать в виде Г (?)^ (?) <7-4-5> s=l где ./= G.4.6) Оценка G.4.4) является, очевидно, взвешенной периодограммой, сосредоточенной в окрестности точки К ширины 0(Вт). Позднее мы потребуем, чтобы Вт—^0 при Т—^сх>. В качестве оценки для fxx&) рассмотрим Рг G.4.7) В случае когда WаЬ (а) — четная функция, т. е. Wab(—а)= WаЬ (а), эта оценка имеет те же свойства симметрии и периодичности, что и функция fxx(^)- Добавим также, что если матрица [И?а6(а)] неотрицательно определена для всех а, то fJx(^) и fxx(^) такще неотрицательно определены; см. упр. 7.10.26. Справедлива Теорема 7.4.1. Пусть задан r-мерный векторный ряд Х(/), / = 0, ±1, ..., со средним ЕХ(/) = сх и ковариационной функ- функцией cov{X{t + u), Х@} = сет(и), t, и = 0, ±1, ... . Допус-
7.4. Состоятельные оценки матрицы спектральной плотности 267 , что 2 1с„(и)|<оо. G.4.8) Если /ср(^) определена выражением G.4.5) с функцией Wab(a)\ а, &=1, ..., г, удовлетворяющей условию 5.6.1, и ВТ-^0 при 71 ~> оо, то для а, Ь = 1, ..., г sin Г (^-а ]/2 sin ( — — a /2 , кроме того, выполняется условие со 2j I u 11 схх(и) I ^ °°> . G.4,9) G.4.10) то для —оо<Я<оо; а, & = 1, ..., г, справедливо соотношение G.4.11) s=l = S ^(^ с равномерным по К остаточным членом. Из выражений G.4.9) и G.4.11) видно, что математическое ожидание предлагаемой оценки является взвешенным средним функции fab(a)9 — oo<a<oo, с весом, сконцентрированным в полосе ширины 0(ВТ) около точки X. В случае когда Вт—>0 при Т"—юо, оценка оказывается асимптотически несмещенной. Аналогично теореме 3.3.1 можно представить асимптотическое смещение оценки G.4.5) в виде функции от Вт. Таким образом, справедлива Теорема 7.4.2. Пусть fab(h) имеет ограниченные производные порядка ^.Р. Предположим, что \ \*\P\Wab(a)\da<oo. G.4.12)
268 7. Оценки спектра второго порядка Если ВТ—у О при Т —> оо, то для — оо < )i < оо, а, Ь= 1, ..., г, справедливо ). G.4.13) При Р = 3 и W(—a) = W(a) из приведенной выше теоремы вытекает соотношение, • 1 «1Г (а) da^^ + О (В3Г) + О (Bf Г) G.4.14)' Как следует из выражения G.4.13), с точки зрения уменьшения смещения оценки fj?y (X) оказывается предпочтительным, чтобы функция fаЬ (а) была близка в окрестности X к константе, а ве- величины ВТ и \aPW(a)da, p = 2, 4, ..., были малыми. Следую- Следующая теорема показывает, что нельзя выбирать Вт слишком малым, если требовать состоятельности оценки. Теорема 7.4.3. Пусть r-мерный ряд Х(^), * = 0,*±1, ..., удовлетворяет условию 2.6.2 (/), а функция WаЪ (а), — оо < а < оо, удовлетворяет условию 5.6.1; а, Ь=\, ...,г. Если оценка }${%) определена выражением G.4.5) и ВТТ—*оо, то для а1У а2У Ь19 Ь2=1, ..., г выполняется соотношение cov {/&(*), f$ i Л 2яЛ ур(Т) ( 2ns\ г /2зт?\ с. / 2jxs ( + 0 (Bf2T~2) + 0 (T-1) G.4.15) с равномерным по К и \i остаточным членом. Как видно, при заданных функциях W{T) наибольшее значе- значение ковариации достигается при К ± \х = 0 (mod 2я). Средние
7.4. Состоятельные оценки матрицы спектральной плотности 269 в выражении G.4.15) сконцентрированы в полосе ширины 0(ВТ) около точки Я, \i, поэтому ковариация приближенно может быть представлена в виде Т-\ 2jis В пределе получаем Следствие 7.4.3. Если выполнены условия теоремы 7.4.3 и ВТ—+0, ВТТ —+оо при Т —-юо, то для — оо < X, \i < оо, а19 а2, Ь19 &а=1, ..., г, lim Br^ З (—к). G.4.17) Моменты второго порядка имеют, как нетрудно видеть, вели- величину О(Вт1Т~1)у и, следовательно, стремятся к нулю, когда Т—>оо. Мы уже видели, что оценка оказывается асимптотически несмещенной и в то же время состоятельной. Оценки, вычислен- вычисленные при частотах Я, jjt, Я + М^О (тос12я), асимптотически не- некоррелированны. Первое выражение формулы G.4.15) можно использовать для получения ковариации по большим выборкам в случае, когда Вт=^2п/Т. Пусть Wab (а) обращается в нуль для достаточно больших | осI и X==2ns(T)/T, где s (T) — целое. В таком случае оценка G.4.4) для больших Т принимает вид . G.4.18) При Wab(s) = Т/2пBm + 1) и |s|<m это же выражение дает оценка G.3.2). Очевидно, в этом случае G.4.16) приводит к сле- следующей приближенной формуле для ковариации: Частный случай G.4.19) был приведен в теореме 5.5.2. Комбинируя выражения G.4.17) и G.4.14), можно для боль- больших выборок и X^O(modn) получить среднеквадратичное от-
270 7. Оценки спектра второго порядка клонение ftp (А,), J Wab (aLafaa (k) fbb (X) P)* G.4.20) Как отмечается в упр. 7.10.30, порядок убывания ВТ должен быть Т1-1/», если мы желаем минимизировать асимптотическое значение среднеквадратичного отклонения. Для асимптотических распределений справедлива Теорема 7.4.4. Если выполнены условия теоремы 7.4.1, усло- условия 2.6.1 иВТТ-+оо,ВТ->ОприТ-+ооуто i(px(k)> --Jxxih) имеют асимптотически совместное нормальное распределение с ковариациями, заданными выражением G.4.17). Из выражения G.4.17) следует, что оценки f(/xM> *(хх (v) асимптотически независимы при К db |я Ф 0 (mod 2я). В случае X^O(modjx) оценка i(xk(ty принимает действительные значения и ее предельное распределение будет действительным нормальным. В § 7.3, исследуя оценку с осреднением по 2т+1 ординатам периодограмм, мы получили в пределе распределение Уишарта с 2т +1 степенями свободы. Этот результат полностью согласу- согласуется с результатом теоремы 7.4.4. Оценка G.4.4) является по существу взвешенным средним ординат периодограммы частот окрестности точки Я ширины О(ВТ). В данном случае таких ор- ординат будет О(ВТТ) в противоположность ранее рассмотренным 2/п+1. Распределение Уишарта приблизительно нормально при больших числах степеней свободы. Из предположения ВТТ—*оо вытекает, что оба этих распределения по существу одинаковы. Предположим, что во всех оценках используется одна и та же весовая функция Wab(a) = W (а). Для сравнения выражений G.4.16) и G.3.13) удобно положить 2*.+1 = BTTJ{2n J W (aJda}. G.4.21) Образуя оценки по аналогии с формулами G.4.4) или G.4.18) и заменяя 2т+1 по формуле G.4.21), мы получим их прибли- приближенные распределения в виде Bт + l)^? Bт + 1, f^(^)), если Я =? 0 (mod я) и Bт)-11ГгBт, fxx(?i)), если k = 0 (mod я). Асимп-
7.5. Построение доверительных границ , 271 тотическую структуру моментов первого и второго порядка, а также совместное распределение состоятельных оценок спектра второго порядка рассматривал Rosenblatt A959). Связь между асимпто- асимптотической теорией и некоторыми эмпирическими аспектами изучал Parzen A967c). Развитию асимптотического распределения спект- спектральных оценок, основанных на сглаживании временных рядов, посвящен § 7.7. 7.5. Построение доверительных границ : После того как мы определили некоторые предельные распре- распределения оценок ffy (к) спектра второго порядка, обратимся к по- построению доверительных границ для величины fab (к) с использо- использованием этих распределений. Начнем с оценки § 7.3. В случае X ф О (mod я) оценка имеет вид т ? B"[s(r)+s]l G.5.1) для таких целых s(T), что 2ns(T)/T близко к Я. К такой оценке мы пришли на основании теоремы 7.2.4, из которой следует, что величины EИШ), = о, ±1, ...,±т, G.5.2) можно рассматривать в качестве 2т +1 независимых оценок для fat (ty- Имея набор приближенно независимых оценок интересую- интересующего нас параметра, не представляет труда построить доверитель- доверительные границы. Рассмотрим, например, случай 9 = Re/ab (X). Поло- Положим для s = О, ± 1, ..., ±т 9 -Rc!^( ) us — ^с ' ab I у I • В качестве оценки для 0 возьмем т e==Re/<r(X) = Bm+l)-1 2 б,. G.5.4) s= -m Положим 52-Bm)-1 S (9,-9J. G#5.5) S Даже в том случае, когда основные переменные 95 не являются нормальными, статистическая практика показывает (см. гл. 31 в книге Kendall, Stuart A961)), что распределение переменной \ Ъ~1- G.5.6)
272 7. Оценки спектра второго порядка может быть аппроксимировано ^-распределением Стьюдента с 2т степенями свободы. Это приводит к следующим 100|3-процентным доверительным границам для 0 = R/(X) где ty(y) означает ЮОу-процентиль ^-распределения Стьюдента с у степенями свободы. В случае k = 0 (mod я) также воспользуемся теоремой 7.2.4. Положивт для s = О, ±1, ..., ±т 81) G.5.8) можно аналогичным образом получить приближенный доверитель- доверительный интервал для квадратурного спектра Im/fl6(A,). Тесно связанный с рассмотренным метод построения границ приближенного доверительного интервала следует также из тео- теоремы 7.2.5. В этом случае статистики 1%* (к, I), 1 = 1, ..., L, для 'к ф. О (mod 2jx) дают L приблизительно независимых оценок fab {к). Поступая как прежде, положим 9 = Re/^&(A,),. А f(V) (\ 1\ / — 1 Т П ^ Q\ "l — * ab \*"i ^) г I — 1>*>*>-'-'| \i .O.z/j L Q^Ref^m^L-1 26<f G.5.10) o2^(L-\)-1^i(Ol-Q)\ G.5.11) После этого аппроксимируем распределение величины ё-9 S/VT G.5.12) /-распределением Стьюдента с L—1 степенями свободы и найдем требуемые границы. Приближенные доверительные границы для квадратурного спектра lmfab(k) находятся аналогично. Результаты теоремы 7.4.4 и упр. 7.10.8 приводят к несколько иному способу построения. Пусть X^O(modjx) и оценка f&(h) задана выражением G.4.4). В таком случае согласно упр. 7.10.8 распределение Ref$(k) будет приближенно нормальным со сред- средним Re fal} (К) и дисперсией G.5.13)
7.6. Оценки родственных величин _ 273 Выражение G.5.13) допускает следующую оценку: 6* - (BTT)-i я J W (aJ da[/?> (К) f$ (К) + {Яе^(Х)^-{1ш^(Щ% G.5.14) откуда можно приближенным образом получить 100|5-процентный доверительный интервал Re/?>(*) -а* G.5.15) где z(y) означает ЮОу-процентную точку распределения стан- стандартной нормальной величины. Приближенный интервал для квадратурного спектра lmfab(k) можно получить аналогичным образом. В заключение отметим, что некоторые полезные способы по- построения доверительных интервалов для Re/flb(A.) и lmfab(k) можно вывести из приближений, которые рассматривали Freiber- ger A963), Rosenblatt A960) и Gyires A961). 7.6. Оценки родственных величин Пусть задан r-мерный стационарный рядХ(/), f = 0, ±1, ... , с ковариационной функцией схх(и), и=0, ±1, ••• , и матрицей спектральной плотности fXxW, —оо<а<оо. Иногда представ- представляют интерес оценки параметров, процесса Jab(A)= \A(a)fab{a)da G.6.1) о для некоторой функции Л (а), а, Ь=1> ... , г. Так, например, такими параметрами могут быть ковариационные функции 2Л саЬ (и) = J exp {iua\ fab (a) da, и - 0, ± 1, ... , G.6.2) 6 или спектральные меры я, Fab(b)=ifab(*)d*> 0<Х<2я, а, 6=1, ... , г. G.6.3) о Пусть 1$(К) есть периодограмма отрезка данных ехр {- Ш] j( ^ ^ь @ ехр { - G.6.4)
274 7. Оценки спектра второго порядка тогда за оценку для JаЪ(А), очевидно, можно принять S=l №) , а, Ь= 1, ... , г. G.6.5) Для этой статистики справедлива Теорема 7.6.1. Пусть r-мерный ряд X(t), t = 0, ±1. ...» удовлетворяет условию 2.6.1. Если функции А;-(а), 0^^2 имеют ограниченную вариацию для всех /= 1, ... , У, то 7-1 2я 2я /= 1 У. G.6.6) 2я = Цг \ Aj (a) A^a) faiai (a) fbibj (- a) da 0 2я о 2я2я Aj (a) Ak Bя - аOвЛ (а) fMl (- а) da ,аЪ (a,—a,~^)dad^ + o(T~1). G.6.7) Кроме того, асимптотически Jfy (Лу), /=1, ...,/; a, 6=1, .... , г, имеют совместное нормальное распределение с указанными выше моментами первого и второго порядков. Согласно теореме 7.6.1, статистика Jfy (Aj) является асимпто- асимптотически несмещенной состоятельной оценкой для Jab(Aj). Она основана на дискретном преобразовании Фурье и поэтому ее можно получить, используя преимущества алгоритма быстрого преобразования Фурье. Если выполняется условие 2.6.2A), то остаточные члены, как и в теореме 5.10.1, имеют порядок О (Т1) и О (Г-2). В случае оценки f () G-6-8) спектральной меры Fab(k), соответствующей функции Л(а)=1 при О^а^А, и А (а) = 0 в остальных случаях, выражениеG.6.7)
7.6. Оценки родственных величин 275 для 0 < К (х < я; а19 Ьи а2, Ь2 = 1, ... , г дает min (К. ii) lim T cov {FiTi (k), Fill, (р)\ = 2я J /«,«, («) /»а (~ «) ^« Г О + 2jx $ J faibla2bAa> -a, —p)dadp. G.6.9) о о Вопрос о сходимости Ffy (к) мы обсудим несколько позже в этом параграфе. В случае оценки 7-1 т sTf \ г / «* v т1 у Г- 1 пг—1 ^^ rv (f\ij\ r^^l fV ^/^ г^П A fi 10^ ковариационной функции rab (и), соответствующей функции А (а) = = ехр {ma} и в которой Ха (t) обозначает периодическое про- продолжение последовательности Х@), ... , X (Т — 1), из выраже- выражения G.6.7) следует, что для и, v = 0, ±1, ... lim T cov (c{aTX (a), c{aTl(v)} 2л = 2я J ехр {i(u- v) a} fa^ (a) fb%b% (— a о 2л + 2я J ехр {-1 (и + о) а} /а,6, (a) /Mj (- a) da О i^a(a,-a,-P)dad|3. G.6.11) О 2л 2л О О В упр. 7.10.36 показано, что оценка ковариации с^Т\(п\ Т-1 \^ TY // _1_ и\ г>^I fY //\ ^(T'Jit /7C 10\ *"Хх \Ц) — i ^ L^ \* ~т~ ^/ — ^х J L^ \*/ — ^х J ^/ .и. izj О < /, / + w < Г-1 асимптотически нормальна и имеет ковариационную структуру Полезно в качестве параметров ввести следующие величины: где — оо<Х<оо; \ ^а <b^r. Величина Rab (к) называется когерентностью ряда Ха (t) с рядом Хь (t) частоты X. Иногда мы будем называть когерентностью ряда Ха (t) с рядом Xb(t) частоты X также и квадрат модуля этой величины
276 - 7. Оценки спектра второго порядка \Rab(k)\2. Интерпретация параметра Rab(k) дается в гл. 8. ^ величина является комплексным аналогом коэффициента корре-* ляции. Ее оценку дает выражение В том случае, когда используются приведенные в § 7.4 оценку спектральной плотности, справедлива Теорема 7.6.2. При соблюдении условий теоремы 7.4.3 дМ\ РХ), заданной формулой G.6.14), справедливы соотношения ave Я?' (к) = Яа„ (к) + О (Вг) + О (В^Т-1), G.6.15) cov {#$> (к) 1 1 1 + " RabRdcRadRda + " RabRdcRbcRcb + " RabRdcRbdRdb J + y\{X + li\ 1^ RadRcb —-? RcdRacRcb —  RcdRadRdb |_ П П П |_ /?/?/? 9 ^ab^ad^ca 9 ^ab^bc^db 1 l 4 ^e&^crf^flc^ceT 4 ^ab^cd^ad^da + " RabRcdRbcRcb + " RabRcdRbdRdb) I х2я \ IF (a^daB^T'^O (Bj-2T~2) G.6.16) a, ft, c, d= 1, ... , г. Переменные R$ (k), a, 6= 1, ... , r, имеют асимптотически совместное нормальное распределение с ковариационной структурой, задаваемой выражением G.6.16), где для краткости пишется Rab вместо Rab(h), а, Ь= 1, ... , г. Асимптотическую ковариационную структуру оценок коэффи- коэффициентов корреляции рассматривали Pearson, Filon A898), Hall A927) и Hsu A949) для случая векторных переменных с дейст- действительными компонентами. Очевидно, можно развить иную тео- теорию предельных распределений, взяв за рснову оценку и пре- предельные распределения Уишарта по теореме 7.3.3. Такое распре- распределение рассматривал Fisher A962) для случая векторных пере* менных с действительными компонентами. Из теоремы вытекает
7.6. Оценки родственных величин 277 Следствие 7.6.2. При соблюдении условий теоремы 7.6.2 вы- выполняются соотношения ave | Я# (X) |2 = | Rlb (X) |2 + О (ВТ) + О (Я^), G.6.17) X [1 -| Rab (*•) И2 4я 5 ^ (aJ daB?T-i + 0 (Я^Т), G.6.18) и для заданного J переменные R$ (Ях), ... , Rfy (Xj) имеют асимп- асимптотически совместное нормальное распределение с ковариационной структурой, задаваемой формулой G.6.18), для 1^а<6^г. Дальнейшие вопросы, связанные с асимптотическим распре- распределением величины | Rfy (X) |2, будут обсуждаться в § 8.5, построе- построение приближенных доверительных интервалов для | Rab (к) \ будет проведена в § 8.9. Введем пространство D[0, я] непрерывных справа функций, имеющих левосторонние пределы. В этом пространстве можно так ввести метрику, что оно будет полным и сепарабельным [Billingsley A968, гл. 3)]. Пусть пространство DJ^'fO, я] есть пространство гх r-матричных функций, элементы которых являются комплекс- комплексными функциями, непрерывными справа и имеющими левосторон- левосторонние пределы. Это пространство изоморфно D2r2[0, я] и метри- зуемо так, что оно будет полным и сепарабельным. Пусть задана последовательность вероятностных мер РТ, Т = 1,' 2, ... , на про- пространстве D?xr[0, я]; тогда будем говорить, что эта последова- последовательность слабо сходится к вероятностной мере Р на Drcxr[0, я], если \hdPT-+\hdP G.6.19) при Т —¦> оо для всех действительных ограниченных непрерывных функций h из Dp' [0, я]. Если в этой ситуации Рт определяется случайным элементом Хг> а Р — элементом X, будем говорить, что последовательность Х7, Т = 1, 2, ... , сходится по распре- распределению к X/ Случайная функция F(Px(A)> очевидно, принадлежит простран- пространству DrcXr[0, я] так же, как и функция l/Y[F(/i (X) — FXX(X)]. Справедлива Теорема 7.6.3. Пусть r-мерный ряд X (/), ^0, ±1, ... , удовле- удовлетворяет условию 2.6.2(/). Предположим, что оценка F(xx(X) задана формулой G.6.8). Тогда последовательность процессов {VT [F(px (X) — Fxx (A,)]; 0 < К ^ я} сходится по распределению к г х г'-матричному гауссовскому процессу {Y (Я); 0 ^ X ^ я} со сред-
278 7. Оценка спектра второго порядка HUM О и г min (А,, |и) cov { Yaibi (X), Yaibi ((г) = 2л $ /вЛ (a) f6A (-а) da \ о % ц о о И о о где О < Я, |х < я u alf а2, 61э Ь2 = 1, ... , г. Используя результаты гл. 4 книги Cramer, Leadbetter A967), можно показать, что выборочная траектория предельного про- процесса {Y(X); О^Х^я} непрерывна с вероятностью 1. В случае когда ряд Х(^) гауссовский, спектры четвертого порядка обра- обращаются в 0 и ковариационная функция G.6.20) упрощается, В этом случае, положив А1 (а) = 1 при (х^а^^ и Л2(а) = 1 при щ^а^А,2 и приняв обе равными нулю в остальных слу- случаях, из G.6.7) получим для (хх ^ Кх ^ (х2 ^ Х2 cov {Yaibi (K)-Yaibl ((x,), Ya2b2 (К) -Yaib2 di2)} = 0. G.6.21) Таким образом, предельный процесс будет гауссовским с незави- независимыми приращениями. Основным следствием теоремы 7.6.3 является такой факт: если множество точек разрыва функции h на D?xr[0, я] имеет вероят- вероятность 0 относительно процесса {Y (X); 0 ^ К ^ я}, то h (VT[F(xx(-) — f*x(')]) сходится по распределению к h(Y(-)) [Billingsley A968)]. Используемая выше метрика в D?Xr[0, я] часто бывает неудобна. Если, однако, рассмотренный в теореме предельный процесс непрерывен, то согласно результату М. L. Straf из непрерывности h в метрике 2p|eb()| G.6.22), a,b Я и измеримости случайной функции h(VT[F(xx(-) — F^(-)] сле- следует сходимость по распределению h к /i(Y(-)). Так, например, VT sup \F?{b)-Faa(k)\ G.6.23) 0< Я я сходится по распределению к sup |Увв(^)|. G.6.24) 0< Я<
7.6. Оценки родственных величин 279 —гауссовский процесс со средним 0 и min (Я, ц) , Yaa fa)} = 2я j faa {af da о о для 0<A,, [х<я, a=l,...,r. G.6.25) Рассматриваемая в теореме оценка имеет то неудобство, что она разрывна и тогда, когда соответствующие теоретические ве- величины непрерывны и даже дифференцируемы. К непрерывной оценке приводит Можно показать, что процесс («)da - сходится по распределению к гауссовскому процессу со средним О и ковариационной функцией G.6.20). Если г=1 и ряд X(t), t = 0, ±1, ... , является линейным процессом со средним 0, то, как показали Grenander, Rosenblatt A957), имеет место слабая сходимость процесса S } G.6.28) Они рассматривали также слабую сходимость процесса G.6.29) гДе f(xx (^) — оценка спектральной плотности с использованием весовой функции. Случай гауссовских процессов со средним 0 и интегрируемой с квадратом спектральной плотности рассматри- рассматривали Ибрагимов A963) и Малевич A964, 1965). MacNeil A971) изучал двумерные гауссовские процессы со средним 0. Brillinger A969с) рассматривал случай r-мерных процессов со средним 0, удовлетворяющих условию 2.6.2(/), и доказал сходимость в тон- тонкой топологии. Clevenson A970) занимался слабой сходимостью непрерывных процессов, рассматриваемых в теореме в случае гауссовских рядов с нулевым средним.
280 7. Оценки спектра второго .порядка 7.7. Дальнейшее развитие оценок спектра второго порядка Начнем этот параграф исследованием асимптотического рас- распределения состоятельной оценки матрицы спектральной плот- плотности fXxW> построенной по сглаженным данным r-мерногсГ ряда X(t)>.t = 0, ±1, ..., с функцией среднего значения с^. Пусть функция сглаживания ha(u), —oo<w<oo, удовлетворяет усло- условию 4.3.1 для а=1, ..., г. Будем анализировать набор сгла- сглаженных значений ha (t/T) Xa (/), / = 0, ±1, ... . Предположим, что функция среднего для а=1, ..., г оценивается выражением t Пусть при —оо<А,<оо, а=1, ..., г, d{aT) W =Тлка(т)Х« @ еХР {— Ш) • G-7-2) Наша оценка для fxxW будет основана на преобразовании Фурье сглаженных значений, из которых вычитаются средние, а именно на = S К (т) [X* «)-&>]ехр {- Ш} я* } @) где для а= 1, ..., г (Я) = ? fte (f) ехр {-Ш\. G.7.4) Следуя обсуждению, приведенному в § 7.2,* образуем периодо- периодограммы второго порядка } (Г) v дIл; = рпй#^| 1d</> (T)(k)d (Г)(^), G.7.5) где -Ш}, а, &=1, ..., г. G.7.6) Из G.7.3) следует, что G.7.5) можно переписать в виде 2ё-/Ял}сЙ)(и), G-7-7)
7.7. Дальнейшее развитие оценок спектра второго порядка 281 где ( ' ' Х[Х&(О-4Г)]< G.7.8) является оценкой кросс-ковариационной функции саЬ (и). Пусть весовая функция Wab(a), —оо <а< оо, а, Ь= 1, ..., г, удовлетворяет условию j Wab(a)da= 1. В данном случае, вклю- включающем произвольные функции сглаживания, мы не видим ника- никаких преимуществ от осреднения периодограммы по частным зна- значениям частот 2nsfT, s = 0, ±1, ... . Поэтому рассмотрим оценку, включающую непрерывную весовую функцию № W = S В^> Wab (ЯГг> 1>- «]) /?>_с<г) х _С(Т) (а) da, G.7.9) _оо - а а ' b b где а, & = 1, ..., г, а величины 5Г, Т= 1, 2, ..., положительны и ограничены. Используя G.7.7), можно выражение G.7.9) пере- переписать в виде faV (А,) = Bл)-12>вЬ (Вт*) ^ (и) ехр {- ihi}9 G.7.10) где wab(u)= \ Wab (a) exp {iua} da, —oo<^<oo. G.7.11) Мы будем считать, что для этой функции выполняется Условие 7.7.1. Действительная функция w(u)y —оо < и < оо, ограничена, симметрична, ш@)=1 a tt||w(w)|dw<oo. • G.7.12) Как следует из упр. 3.10.7, оценку G.7.10) можно вычислить, используя быстрое преобразование Фурье. Справедлива Теорема 7.7.1. Пусть r-мерный ряд X(t), t = 0, ±1, ..., удовлетворяет условию 2.6.2 (/), функция ha (и), —оо < и < оо, удовлетворяет условию 4.3.1 для а=1, ..., г и, кроме того, )ha(u)hb(u)clu=^=O. Предположим, что • wab(u), —оо < и < оо, удовлетворяет условию 7.7.1 для а, Ь=1, ..., г и ВТТ —+оо при Т —*оо. Тогда справедливы соотношения (а) /вЬ (Х_ (и) ехр {- Ли} + О (В^1 Г) G.7.13)
282 7. Оценки спектра второго порядка И = 2я J Лв1 (О АЬ| (О Л} "' { J Лв1 (О A,t (t) dt} "' X J Ав1 (О Ав1 (О Abl (О hb% (t) dt [т, {b-ji} /в1в1 (Я) /Ма (- X) причем переменные ffX (К)> •••» /а^(^к) асимптотически нор- нормальны с приведенной выше ковариационной структурой. Сравнение выражений G.7.14) и G.4.17) показывает, что асимп- асимптотически сглаживание приводит к появлению в выражении для предела дисперсии множителя [hax(t)ha,(t)hbx(t)hb,(t)dt hax (t) hbl (t) dt) ( J ha% (t) hb2 (t) dt) * Этот множитель равен 1 в случае отсутствия сглаживания, т. е. ^а@=1 Для 0^?<1 и ha(t) = O для других t. Если исполь- используется одна и та же функция для всех рядов, т. е. ha(t)=^h(t), a=\t ..., г, множитель равен h(t)*dt G.7.16) Из неравенства Шварца следует, что этот множитель всегда больше или равен 1, так что использование сглаживания при- приводит к увеличению предела дисперсии. Можно надеяться, однако, что произойдет достаточное уменьшение смещения и оно будет компенсировать увеличение дисперсии. Справедливо Следствие 7.7.1. Если соблюдаются условия теоремы 7.7.1 и ВТ—+6 при Т—+ооу то оценка является асимптотически несме- несмещенной. Исторически первая широко используемая оценка кросс- спектра имела вид G.7.10) [Goodman A957), Rosenblatt A959)], хотя сглаживание, как правило, не использовалось. Ее асимпто- асимптотические свойства совпадали в основном со свойствами §.7.4. Такое исследование провели Akaike, Yamanouchi A962), Jenkins A963а), Murthy A963) и Granger A964). Freiberger A963) рас- рассматривал приближения к этому распределению в случае двумер- нйго гауссового ряда.
7.7. Дальнейшее развитие оценок спектра второго порядка 283 Обсуждение § 7.1 предлагает иной класс оценок спектра вто- второго порядка fab(k). Пусть ряд Ya(t) есть результат прохож- прохождения ряда Xa(t) через полосно-пропускающий фильтр с переда- передаточной функцией А (а) = 1 при | а ± А, | < А и А(а) = 0 в против- противном случае; — л<а, Х^п. Рассмотрим в качестве оценки для 2^@^@. №T)-*TtYa(t)HYb(t)H9 G.7.17) или среднее этих двух оценок. Для lmfab(k) рассмотрим оценки aYb{t)« G.7.18) или среднее этих двух оценок. Такая процедура оцениваний по- позволяет нам провести исследование структуры ряда на медленную эволюцию во времени [Brillinger, Hatanaka A969)]. Этот тип оценок рассматривали Blanc-Lapierre, Fortet A953). Одним из способов преобразования рассматриваемых рядов является комп- комплексная демодуляция; см. § 2.7 и Brillinger A964b). Оценки кросс-спектра от величин sgnXx@, sgr\X2(t), t = 0y ..., Т — 1, двумерного гауссовского ряда со средним 0 рассмат- рассматривал Brillinger A968). Было получено асимптотическое распре- распределение оценки G.7.10) без сглаживания. В некоторых случаях может оказаться интересным, насколько fab (Ц может отклоняться как функция К и Т от своего матема- математического ожидания. Начнем с изучения периодограмм второго порядка. В теореме 4.5.1 отмечалось, что в некоторых условиях регулярности для ряда с нулевым средним выполняется с вероят- вероятностью 1 неравенство G.7.19) Отсюда следует Теорема 7.7.2. Пусть r-мерный ряд Х(?), ? = 0, ±1, ..., с нулевым средним удовлетворяет условию 2.6.3, а функция ha(u), —оо < и < оо, удовлетворяет условию 4.3.1, а= 1, ..., г. Пусть 1%х(К) задано выражением G.2.5). Тогда Um sup | IaV (A,) I/log T < 4 {К ha (t) hb (t) dt\yX x{S/fe@2^S^@2*}1/2{^uP^«^)suP^W/1/2 G-7.20) выполняется с вероятностью 1 для а, &=1, ..., г.
284 • 7. Оценки спектра второго порядка Whittle A959) определил вероятностные границы для периодо- периодограмм второго порядка, см также Walker A965). Parthasarathy A960) нашел границу вероятности 1 заданной ординаты периодо- периодограммы и показал, что такая выделенная ордината может расти как log log Г, а не как log Г в G.7.20). Прежде чем перейти к изучению поведения fjb (^) — E/ip (^), сформулируем условие, близкое по характеру к условию 2.6.3, относительно ряда Х(/), * = 0, ±1, ... '. Условие 7.7.2. Пусть r-мерный ряд Х@» * = 0, ±1, ..., удовлетворяет условию 2.6.1. Пусть для величин Сп, заданных выражением B.6.7), выполняется 2 (XCni...Cn)zL/L\ <оо G.7.21) ? Л Р) для z в некоторой окрестности 0. Внутреннее суммирование в (/.7.21) производится по всем неразложимым разбиениям v = (v,, ..., vP) таблицы 1 2 3 4 G.7.22) 2L—1 2L с vp, состоящим из пр> 1 элементов, /7=1, ..., Р. В случае гауссовского процесса имеет место Crt = 0, я > 2, и G.7.21) обращается в S 2L-X (L- 1)! C2L2^!. G.7.23) Этот ряд сходится при 2C2|z|< 1, так что условие 7.7.1 выпол- выполняется в этом случае, если только выполнено условие 2.6.1. Справедлива Теорема 7.7.3. Пусть r-мерный ряд X (t) удовлетворяет усло- условию 7.7.2; ha (и)у —оо < и < оо, удовлетворяет условию 4.3.1 для а=Г, ..., г; wab(u), — ооО<оо, а, 6=1, ..., г, удовлет- удовлетворяет условию 7.7.1' w обращается в 0 для достаточно больших \и\; оценка ffi (Л) определена формулой G.7.10). Тогда для задан-
7.7. Дальнейшее развитие оценок спектра второго порядка 285 ного г\ > 0, такого, что 2г^г<°°. выполняется lira sup | ffi (К) - EfS» (Л) | EГТ / log l/firI/2 < [A + л)8я J Web(aJda {$ fte @M0<«j "' S1*"  1 /2 fte (ty hb (tf dt sup faa (K) sup /и (Л) I G.7.24) Я Л> J с вероятностью 1 Зля a, 6=1, ..., г. Если 21м11свь(мI< °°» и j lall ^дь1 < °°> то из теоремы 3.3.1 и выражения G.7.13) следует соотношение E/iP (X) = U (X) + О (ВТ) + О (BfT-*)9 G.7.25) так что с вероятностью 1 выполняется равенство fib (X) = fab (X) + О (Вт) + О ([BTT/\og l/5r]-i/«,' G.7.26) в котором остаточные члены равномерны по X. Как видно из теоремы 7.7.3, оценка fJJ (X) в сильном смысле состоятельна. Как показали Woodroofe и Van Ness1* A967), в не- некоторых условиях регулярности, включающих линейность про- процесса X(t), по вероятности выполняется равенство Ш (ВТТ/log 1 /Вт) ^ sup | /?> (Ц - faa (I) \lfaa (К) 7->оо К 2. G.7.27) Здесь рассматривается случай несглаженных данных. Они иссле- исследовали также предельное распределение максимального откло- отклонения. При более слабом условии 2.6.1 справедлив более грубый результат: Теорема 7.7.4. Пусть r-мерный векторный ряд X(t), t = 0y ±1, ..., удовлетворяет условию 2.6.1, функция ha(u), —оо < и < оо, удовлетворяет условию 4.3.1. Предположим, что wab (и), .—oo<w<oo, a, b=l, ..., г, удовлетворяет условию 7.1 Л и обращается в 0 для достаточно больших значений |и|, оценка f$(h) задается формулой G.7.10). Пусть ВТТ-+оо, Бг->0 при Г—>оо. Тогда для любого е>0 при Т—* оо имеет место сходимость по вероятности: (BTT)V* B\ sup | faV (К) - Ef№ (I) | — 0. G.7.28) Если, кроме того, для некоторого т > 0 выполняется условие 2г#г<оо, то событие G.7.28) выполняется при Т —* оо сг роятностью 1.
286 7. Оценки спектра второго порядка В теореме 7.7.4 вместо множителя (SrT/log l/BTI/2 из ра-* венства G.7.27) использован несколько меньший множитель^ Если мы желаем использовать оценку G.4.5), и нас устраи^ вает максимум по дискретному множеству точек, то имеет местом Теорема 7.7.5. Пусть r-мерный ряд X(t), t = 0, ±1, ...,! удовлетворяет условию 2.6.1, Wab(a), —оо<а<оо, удовлетво^ ряет условию 5.6.1, оценка fJb (Ц определена формулой G.4.5Х и ВТ —> О, Рт, ВТТ —> оо при Т —->• оо. Тогда для-любого е > 6 при Т —¦>¦ оо имеет место сходимость по вероятности: ^) -E/S» (^) | -0. G.7.29) p | /? (^) -E/S» к /пожу ж^ 2г^>7;т<00 Зля некоторого т > 0, то G.7.29) выполняется при Т—+оо с вероятностью 1. В § 5.8 мы обсуждали важность выполненной до построения- спектральной оценки предварительной фильтрации. Выражение G.7.13) еще раз подтверждает это. Математическое ожидание величины fdb (Ц, вообще говоря, не совпадает с fab(k) и является всего лишь взвешенным средним от fab{oC) с весом, сконцентри* рованным в окрестности точки К. Если fab (К) имеет значительйые всплески или впадины, то взвешенное среднее может Довольно сильно отличаться от /аЬ(Я). На практике часто случается, что кросс-спектры имеют большие значения, чем спектры мощности. Рассмотрим часто встречающуюся ситуацию, когда Х2 (t) является по существу запаздывающей версией ряда Хх(?), например, G.7.30) ^ = 0, ±1, ..., величины a, v — постоянные и ряд ошибок е(/) ортогонален ряду X1(t). Тогда кросс-спектр задается выражением = cos {Щ afn (X) - i sin {to} afu (X). G.7.31) Если выбрать должным образом v> то функция /21 (К) будет быстро менять знак при изменении К. Любое взвешенное среднее этой функции, такое же, как G.7.13), будет близко к 0. Отсюда можно заключить, что между исследуемыми рядами нет никакой связи, в то время как на самом деле имеется сильная линейная связь.. Akaike A962 a, b) предполагал, что подобная ситуация возникает при рассмотрении ряда Хг (t) с запаздыванием приблизительно на v временных единиц. Другими словами, вместо исходного отрезка ряда анализируется ряд [X1(t-— v*)y Х2(/)], / = 0, ±1, ..•> где v* близко к v. Это —один из видов предварительной фильт-
7.7. Дальнейшее развитие оценок спектра второго порядка 287 рации. Akaike предполагал, что на практике v* может быть опре- определено как запаздывание, при котором le^MI максимально. Если оцениваемое запаздывание хоть где-нибудь близко к у, оце- оцениваемый кросс-спектр должен быть гораздо менее быстро меняю- меняющейся функцией. В § 5.8 отмечалось, что фильтр, приводящий интересующий нас ряд к белому шуму, может быть подогнан по авторегрес- авторегрессионной схеме для этого временного ряда. Nettheim A966) пред- предложил подобную процедуру при оценках кросс-спектра. Осуще- Осуществив подгонку модели Х2 (t)^a(m) X1(t-.m) + ... +a@) Xt(t)+... +a(—n) Xt (t + n) G.7.32) методом наименьших квадратов, оценим кросс-спектр остатков и Хх@- В более общем случае r-мерных рядов можно определить г векторов а(Г)A), ..., а(Г) (т), минимизирующих выражение 2 [X @—а(Г) A)-Х (/— 1) —... —а(Г) (т) X (t-m)]x t=m X[X @ -а(Л A) X (t— 1) - .,. — а(Т> (т) X (т) X (t—m)]. G.7.33) Затем, построив спектральную оценку f??} (Л) по ряду остатков е @ - X @ -а(г> A) X (* - 1) - ... — а<л (т) X(t-m), G.7.34) для t = m, ..., Т—1, оценим fxxft) посредством А(Г> (A,)-1 fi~ (Ц(А«>(Ц-*)\ G.7.35) где для — оо < К < оо А«) (X) = i__а(п A) еХр {-iX}— ... -а(Л (т) ехр { —Лт}. G.7.36) Обычно для интересующего нас ряда полезно, предложив на основании предварительных сведений статистическую модель, провести ее подгонку, а затехм вычислить спектральную оценку по ряду остатков. В заключение обратим внимание на связанную с подменой частот сложность, встретившуюся в § 5.11. Заметим, что теоре- теоретический параметр fxxfi) и его °Денки обладают свойствами и периодичности, и симметрии: fи (* + 2я) - f„ (Ц; fхх (- Ц = *хх (Мт, ГРх (^ + 2п) = ГЛ W; «i (- X) = f& (Л)^. G.7.37) Это приводит к тому, что популяционный параметр и его оценки по существу совпадают для частот ±К ±К ±2л, ±Х ±4я, .... G.7.38)
10! 1 8 6 5 4 • 2 1.5 2 1.5 I0 1 1= и 1 i H m V\ r i Л s V \ 1; Ir 4/ 0 Л/27Г Рис. 7.8.1. Оценка /<р (Я) для сезонно приведенного ряда среднемесячных температур Берлина за 1780—1950 гг. с осреднением по 21 ординате периодо- периодограммы (логарифмический масштаб). (По горизонтали— частоты в цикл/ме- цикл/месяц.) 2 1.5 1 8 6 5 4 2 1.5 10 1 b Щ -K- (- Л л A Ы V ft V V / V A -A*- / ttf1 ! / , .. л ,2 \/Zn ¦3 .4 Рис. 7.8.2. Оценка Др (Я) для сезонно приведенного ряда среднемесячных температур Вены за 1780—1950 гг. с осреднением по 21 ординате периодо- периодограммы (логарифмический масштаб). Д1о горизонтали —частоты в цикл/ме- цикл/месяц.)
7.8. Рабочий пример 289 Если это возможно, то предварительно ряд подвергают преобра- преобразованию с помощью полосно-пропускающего фильтра для устра- устранения тех частотных компонент, которые могут при интерпрета- интерпретации спектральной оценки стать причиной путаницы. 7.8. Рабочий пример Чтобы привести пример полученной в § 7.3 оценки, обратимся к рядам, рассмотренным в § 7.2, где ряд Хг (t) представлял собой сезонную выборку среднемесячных температур в Берлине A780—1950), а Х2 (/)— сезонную выборку среднемесячных тем- температур в Вене A780—1950). На рис. 7.2.1—7.2.4 приводились периодограммы и кросс-периодограмма для этих рядов. На рис. 7.8.1—7.8.4 этого параграфа изображены графики /аЧ*). АРМ, Re/{p(ty> lm-fg>(K), для построения которых использовались оценки вида E.4.1) и G.3.2) при т=10. Из вы- выражения E.6.15) следует, что для десятичного логарифма обеих оценок спектра мощности стандартные ошибки равны прибли- приближенно 0.095. Интересно сопоставить форму Re f[l} (к) и 1тДР(А,); в то время как значения Ref&m всюду положительны и при- примерно постоянны, за исключением заметных всплесков в не- нескольких частотах, 1тДр(Х) просто колеблется около нуля, наводя на мысль, что f12(ty=0. Другие статистики для этого примера приводились в § 6.10. Мы приведем здесь также оценки авто- и кросс-ковариацион- кросс-ковариационных функций этих двух рядов. На рис. 7.8.5 представлена оценка автоковариационной функции для ряда среднемесячных температур в Берлине с исключением сезонных эффектов. Подоб- Подобная оценка автоковариационной функции для ряда, соответст- соответствующего Вене, приведена на рис. 7.8.6. На следующем рисунке G.8.7) изображен график функции с& (и) для w = 0, ±1, ... . Все эти графики согласуются с гипотезой о мгновенности взаимодействия этих двух рядов. (Под мгновенностью здесь под- подразумеваются малые времена опережения или запаздывания по отношению к одному месяцу, поскольку данные ежемесячны.) В качестве примера многомерных наблюдений рассмотрим ряд среднемесячных температур, зарегистрированных на станциях, перечисленных в табл. 1.1.1. Этот ряд был предварительно се- зонно приведен вычитанием средних месячных температур по различным сезонам. В табл. 7.8.1 приведены значения ковариа- ковариационной матрицы с нулевым запаздыванием с(Рх @). В табл. 7.8.2 содержатся корреляции с нулевым запаздыванием. За исключе- исключением ряда для Нью-Хейвена мы имеем сильно коррелированные ряды.
1.6 1.4 1.2 I.О ~ .8 о * .4 О -.2 -.4 1 I M If p 1 1 yV Ik г Unf\ if L i ш». If " l V 4 1 Л, /v г л V к т { f W V IV. V д j J V Г Х/27Г Рис. 7.8.3. Оценка Re/jJ>(A,) для коспектра температур Берлина и Вены за 1780—1950 гг. с осреднением по 21 ординате периодограммы. (По горизон- горизонтали— частоты в цикл/месяц.) 1.4 1.2 1.0 /< "^ .6 E ~* .4 .1 0 *-.2 -.4 1 1 i у ¦ \ I Y /v ц \ Л V V .Л ЛД »/ V. Л / Л/27Г с. 7.8.4. Оценка \т f[P (К) квадратурного спектра температур Берлина и Вены за 1780—1950 гг. с осреднением по 21 ординате периодограммы. (По го- горизонтали— частоты в цикл/месяц.)
7.8. Рабочий пример 291 Рис. 7.8.5. Оценка с<р (и) коварна- ционной функции для температур Берлина. (По горизонтали—запазды- вание в месяцах.) 24 Рис. 7.8.6. Оценка с<р (и) ковариа- ковариационной функции для температур Вены. (По горизонтали — запаздыва- - ние в месяцах.) Матрица спектральной плотности была получена посредством статистики вида G.3.2) с т = 57. Ввиду многочисленности спект- спектров второго порядка мы представляем лишь некоторые из них. 7W 24 Рис. 7.8.7. Оценка с<?> (и) кросс-ковариационной функции для температур Берлина и Вены. (По горизонтали—запаздывание в месяцах.) На рис. 7.8.8 приведены десятичные логарифмы оцениваемых спектров мощности. В основном они носят одинаковый характер. На рис. 7.8.9 приводится выборочная когерентность | /?ip (X) |2, где за Xt (t) взят ряд наблюдений в Гринвиче и / пробегает оставшиеся номера рядов. Горизонтальная прямая каждой
Вена Берлин Копенгаген Прага Стокгольм Будапешт Де-Билт Эданй/рг Нью-Хейвен Базель Вроцлав Вильнюс Трондхеим Гринвич 4.272 3.438 2.312 3.986 2.056 3.808 2.665 .941 .045 3.099 3.868 3.126 1.230 1.805 1 4.333 2.962 3.756 2.950 3.132 3.209 1.482 .288 3.051 4.227 3.623 2.165 .2.255 Берлин 2.939 2.635 3.052 2.047 2.315 1.349 .520 1.946 2.868 2.795 -2.358 1.658 Копенгаген 6.030 2.325 3.558 2.960 1.182 .076 3.212 4.100 3.152 1.496 2.005 Прага 4.386 1.843 2.170 1.418 .672 1.576 2,805 3.349 3.312 1.570 Стокгольм 4.040 2.261 .627 .009 .2.776 3.646 2.993 .984 1.450 Будапешт 3.073 1.509 .206 2.747 3.053 2.392 1.656 2.300 1 2.050 -.404 1.179 1.139 .712 1.429 1.564 1 | 2.939 .178 .165 .057 .594 .440 1 4 3.694 3.123 1.962 .884 2.310 1 5.095 3.911 6.502 1.801 2.185 2.059 1.261 Вроцлав Вильнюс 3.949 1.255 Трондхеим i 2.355. Гринвич о со 1 к о . S X рэ а н К .С § а тз а ё п 1 Таблица «емесячных температур 292 Г* О 1 g г» ! "§ о порядка
7.8. Рабочий пример 293 1 г Вильнюс Берлин Вроцлав Прага О Л 71 1 г- Стокгольм Будапешт О К Я О 1 г- Нью-Хейбен Гриндич Л Базель Де-Билт л О Эдинбург О К п Копенгаген Трондхейм Рис. 7.8.8. Логарифмы оценочных спектров мощности сезонно приведенных температурных рядов для различных станций при сглаживании по 115 орди- ординатам периодограммы.
294 7. Оценки спектра второго порядка 1.0 •8 .6 Л .2 Здинбург Вильнюс Л. Нью-Хейвен Рис. 7.8.9. Оценочные когерентности сезонно приведенных ежемесячных сред- средних температур в Гринвиче с такими же температурами на 13 других станциях за 1780-1950 гг.
7.8. Рабочий пример 295 Вена Стокгольм Берлин Рис. 7.8.9 (продолжение).
296 . 7. Оценки спектра второго порядка Таблица 7.8.2 Матрица выборочных корреляций для сезонно приведенного ряда 1 2 3 4 5 6 7 8 9 10 11 12 13 1 Вена 2 Берлин .80 3 Копенгаген .65 .83 4 Прага .79 .73 .63 5 Стокгольм .48 .68 .85 .45 6 Будапешт .92 .75 .59 .72 .44 7 Де-Билт .74 .88 .77 .69- .59 .64 8 Эдинбург .32 .50 .56 .34 .48 .22 . .61 9 Нью-Хейвен .01 .08 .18 .02 .19 .00 .07 .16 ¦ 10 Базель .78 .76 .59 .68 .39 .72 .82- .43 .05 11 Вроцлав .83 .90 .74 ,74 .59 .80 .77 .36 .04 .72 12 ВиЛЬНЮС .59 .68 .64 .50 .63 .58 .54 .20 • .01 .40 .68 13 Трондхейм .30 .52 .69 .31 .80 .25 .48 .50 .17 .23 .40 .43 14 Гринвич .57 .71 .67 .53 .49 .47 .86 .72 .17 .78 .59 .32 ' .41 1 2 3 4 5 6 7 8 9 10 11 12 13 диаграммы соответствует квадрату корреляции с нулевым запаз- запаздыванием. Как видно, в каждом случае графики расположены около констант и колеблются вблизи горизонтальных прямых. Последнее наводит на мысль о мгновенной зависимости рядов, поскольку, если саЬ(и) = 0 для ифО, то \Яаъ№)\2= ' =-\саь @) |2/|саа @)сьь @) | для — оо < X < оо. Небольшая корре- корреляция соответствует, как нетрудно видеть, Де-Билту, следом за ним идет Базель. Наименьшая корреляция соответствует Нью- Хейвену (Коннектикут), расположенному на противоположной стороне Атлантики. На рис. 9.6.1 изображен график десятичного логарифма оценки спектра мощности, вычисленной по формуле G.3.2)v с т=25. Эти кривые более изменчивы, чем можно было ожидать из выборочной теории, развитой в этой главе. 7.9. Изучение рядов, встречающихся в планировании эксперимента В некоторых случаях индекс а = 1, ..., г r-мерного вектор- векторного ряда X(t) = [Xa(t)], f=0, ±1, ..., может иметь .собствен- .собственную структуру, как это бывает в случае рядов, встречающихся в планировании эксперимента. Рассмотрим, например, случай
7.9. Изучение рядов, встречающихся в планировании эксперимента 297 сбалансированной однофакторной классификации, где К рядов распределяются по J классам. Здесь, по-видимому, уместно вве- ввести обозначение Xjhl t = 0> ± 1, ...; k = 1, ..., К\ j = 1, ..., «/ и r = JK для ряда, который может возникнуть, если образовать J групп реализаций и выбрать К реализаций в каждой группе. Если нас интересует однородность реализаций, то можно, обоз- обозначив положение от начала, выбранного для всего набора реа- реализаций, буквой /, рассматривать значения k-ft реализации из /-й группы как процесс XJk(t) положения /. Модель, которая может оказаться подходящей для этого случая, зададим следую- следующим образом: @. G.9.1) где \i — константа; ряд а(<), t~0t =j=l, ..., является стацио- стационарным рядом с нулевым средним и спектром мощности /аа.(Х); Р;.(/), / — О, ±1, ..., /==1, •••, J*—также стационарные ряды с нулевыми средними и спектрами мощности /рр (Я), —оо< X <с»; наконец, Sjk(t) являются для / = 0, ±1, •••; k=l9 ..., К\ / = 1, ..., / стационарными рядами, каждый из которых имеет нулевое среднее и спектр мощности /ее(А,), —оо<А,<сх>. Пара- Параметр \х соответствует среднему значению всех реализаций. Ряд a(t), t = 09 ±1, ..-, является общим для всех реализаций, а ряды (Зу(/), t = 0f 4=1, ..., отвечают эффектам /-й группы, если такие индивидуальные эффекты существуют. Они . являются общими для всех реализаций j-й группы. Ряды &jk(t), t = 0, ±1, ..., представляют собой ряды ошибок. Пользуясь термино- терминологией, принятой для моделей со случайными эффектами в пла- планировании эксперимента [Scheffe A959)], мы назовем /аа(Я), fpp М» /ее (^) компонентами спектра мощности частоты X. Спектр /рр (Ц может быть назван межгрупповым спектром мощности частоты Ji, а /ее (А,) — внутригрупповым спектром мощности час- частоты X. Используя введенные предположения, заметим, что EX/k (t) = \х, t = 0, 4=1, ..., а спектр мощности и кросс-спектр задаются вы- выражениями fx/k. xJk (Я) = U (k) + fw (l) + U (Ц, G.9.2) hJk. xlk. (Ь) = и{Ц + Ы&)' если k^k>> G.9.3) fx.k, xn,(Я) = faa(Я), если /ф]', kфk!. G.9.4) Как нетрудно видеть, когерентностью между рядами, соответст- соответствующими реализациям, выбранным из одной группы, будет слу- служить величина
298 7. Оценки спектра второго порядка Ее можно назвать когерентностью между классами частоты к. Когерентность между рядами, соответствующими реализациям, выбранным из разных групп, как нетрудно видеть, равна Иногда может быть интересным вопрос о том, в какой мере связаны реализаций из одной группы по частоте к. Одним при- примером такой меры может служить когерентность G.9.5). В экстре- экстремальном случае, когда a (t) и |5у (/) тождественно равны нулю, эта мера равна нулю. Другой крайний случай, когда e/k(t)=O, дает для этой меры значение 1. Обратимся к задаче оценивания U О), Ы*) И /M (Я.). Мы видим, что модель G.9.1) приводит к соотношению p (К) = цД<г> (%) +d<aT> (Я) +#/) (X) +dg> (Я), G.9.6) JR j /Л где для — оо < К < оо d& (к) = 2 XJk (t) exp {- Ш), G.9.7) а величины d(j\ d^\ d{P определяются аналогично. Как следует из теоремы 4.4.2, величины dg* (к) асимптотически распределены как N% @, 2nTfaa(k))9 величины dW(k), /=1, ..., /, асимпто- асимптотически независимы и распределены как N$ @, 2яТ/рр (А,)) при к ф 0 (mod я); наконец, величины dSJ^ (к), к = 1, ..., К\ j = 1, ..., /, асимптотически независимы для к щк 0 (mod я) и имеют предельные распределения N% @, 2nTfee(k)). Таким обра- образом, модель G.9.6) можно приближенно считать моделью слу- случайных эффектов в дисперсионном анализе при сбалансирован- сбалансированной однофакторной классификации; см. Scheffe A959). Это при- приводит нас к вычислению статистики S^WS( ^Jk())p{-ikt\ G.9.8) и оценке /ее(^) посредством \2 S BлТ)-Ч<Кр (X)-diT)(l)K G.9.9) /= 1 ^=1 I /А у Мы оценим /С/ээ (к) + fe8 (^) посредством /ад?
7.9. Изучение рядов, встречающихся в планировании эксперимента 299 и, наконец, JKfaa ft)+Kh& ft) + fee ft) посредством ОД2 ft) + KI$ ft) + № ft) = BяГ) -11 d?> ft) |2 G.9.11) в случае ХфО(той2п). Теорема 7.9.1. Пусть JK рядов X/k(t), t = 0, ± 1, ...; k=l9 ..., /С; / = 1» • • •, Л заданы выражением G.9.1), где \x—KOHcthaHtna, a(t)t $j(t), B/k(t)f t = 0, ±1, •••; fe=l, ..., K\ j=\y ..., /, являются независимыми рядами со средним О, удовлетворяющими условию 2.6.1 & имеющими спектры мощности faaft), /рзМ> /eeW соответственно. Пусть 1$ (X), KI$ ft)+ + IeV ft), M/ffi (Л) + KI$ ft) +1& ft) заданы формулами G.9.9) — G.9.11). Тогда при Ji^O(modn) эти статистики явля- являются асимптотически независимыми величинами с предельными распределениями /8е ft) %Ь <*-i>/[2/ (/С— 1)], [/С/РЭ ft) + he ft)] Xtij/BJ)> VЩaa ft) + Kfw ft) + fee ft)] %l/2. Кроме того, для таких целых st(T), что hl(T) = 2nsl(T)/T-+ht при Т-+оо и 2%ь (Г), Xt (T) ± Xm (Т) ф 0 (mod 2я) при 1 < / < m < L Зля дос- таточно больших 7, статистики /?} fti(T))y KI$ ftt(T)) +1&* ft^T)), JKI^iTV + KI&HhiTV + I&fttiT)), l=U .... L, являются асимптотически независимыми величинами. Как следует из теоремы 7.9.1, оценка ^Й?}^] G.9.12) спектра /^ (Jt) распределена асимптотически как разность двух независимых %2-переменных. Из нее следует также, что отношение асимптотически распределено как G-9Л4) при 71—>оо. Этот последний результат может быть использован для построения доверительных интервалов отношения спектров Как мы видели раньше, часто выгодно пользоваться осредне- осреднением периодограмм статистик. То же справедливо и в данном контексте. Для целых s(T), таких, что. 2ns(T)/T близко к 2t=f?0(mod2jt), рассмотрим статистики G-9.15)
300 7. Оценки спектра второго порядка T J G.9.16) Как следует из теоремы 7.9.1, эти статистики независимы и асимптотически распределены как /88 (К) %\j (К_1} {2m+1)l[2J. (К— 1) X XBm+1)] и [X^(X) + /seW]X22jBm+i)/[2/Bm+l)] соответст- венно. Приступим теперь к обсуждению приложений к временным рядам, встречающимся в более сложных ситуациях при плани- планировании эксперимента. Вычисления и асимптотические распреде- распределения получаются аналогично в случаях моделей нормальных случайных эффектов в рассматриваемом планировании. Shum- way A971) рассматривал модель Yj(t) = s{T)+nj{t), j=l, ..., N, G.9.17) где s(T) представляет собой фиксированный неизвестный сигнал и tij (t) — ряд, являющийся случайным шумом. Им было предло- предложено рассматривать F отношений, вычисляемых в области опре- определения частот. Brillinger A973) рассматривал модель G.9.1) также в том случае, когда ряды <x(t) и Р;- (t) фиксированы, и случай, в котором задаются кратковременные ряды. 7.10. Упражнения 7.10.1. Покажите, что для рядов [Xi(t), X2(t)], / = 0, ±1, ..., имеющих абсолютно суммируемую кросс-ковариационную функцию с12 («) ^covjXj (t-\- и), X2(t)}, t, w = 0, ±1, ..., имеет место соотношение /21 (Л-)= /12 (— Я,). 7.10.2. Покажите, что в условиях предыдущего упражнения коспектр ря- 'дов Xj(t)H и X2(t) является квадратурным спектром рядов Хг (/) и Х2 (/). 7.10.3. Покажите, что в условиях первого упражнения /12 (^), —-оо< Я<оо, принимает действительные значения, если с12(и)=с2) (и). 7.10.4. Предположим, что авто- и кросс-ковариационные функции стацио- стационарных рядов [X] (t), X2(t)], t = 0, ±1, ..., абсолютно суммируемы. Исполь- Используя тождество Г Л докажите, что 7.10.5. Докажите, что если d{7> (Ц ^^to1 е~Шх/ @. /<^> (Л,) = BгсГ)-г Xd[T) {X) d2T) (k) и 2и I и I ki2 M I < °°> то для X ^ 0 (mod 2л) выполняется соотношение
7.10. Упражнения 301 7.10.6. Докажите, что (а) т? /jj. (^Це'^ ю *2 (о=»i.r> @). s=0 V ' t = 0 Т-\ - Г-1 (Ь)-^- Ji* 712 ("Г" J^T" 2-1 [Xl@—^1 ] [*2 @ — ^2 ]=Ci2 @) 's=l V ' / = 0 7.10.7. Предположим, что [^ (/), X2 @1> ^ = 0, ±1, ..., являются ста- стационарными рядами. (a) Покажите, как коспектр рядов Уг (t) = X1 (t)-\-X2 (t), Y2(t) = X1(t) — X2 (t) можно оценить с помощью спектра мощности Yx (t) и Y2 (t). ' (b) Покажите, как квадратурный спектр Im /12 (к) рядов К1(/) = Х1(/ + + 1) — Xi (t — 1) и Y2(t) = X2(t) можно оценить с помощью коспектра Yx (t) и rut)- 7.10.8. Покажите, что в условиях теоремы 7.4.4 вектор (ВТТУ '2 Bя J W (aJ da) /2 [Re/<p (к), Im /<[> (X)] имеет асимптотически нормальное двумерное распределение с дисперсиями [1+11 [Щ] Uu (M /и W + {Re/x* (Я.)}*-{1ш/„ (Я)}2]/2, [1 -11 {2Я.}1 [/и (*) /22 (Я)-{Яе /12 (Х)}* + {1га /12 (?.)}2]/2, и ковариацией [ 1 -г\ {2Ц] [- {Re /12 М} {Im /12 (Я)}]. 7.10.9. Покажите, что в условиях теоремы 7.4.4 | /<р (X) | и | /<р (ji) | асимптотически имеют нормальное двумерное распределение с ковариационной структурой lim Srrcov{|/<[>(Щ 1ЛГ<ИI} и (W /22 (*,)+ I /i2 (Я) |2] J Г (aJ da. 7.10.10. Покажите, что в условиях; теоремы 7.4.4 <?<р (X) = arg f<?> (Я) и Ф^) (jbi).= arg /^p (jx) имеют асимптотически нормальное двумерное распреде- распределение с ковариационной структурой lim BTT cow {Ф[Ъ (к), Ф[1>(\1)} 1 [/и (Я) /22 (X) - | /12 (Я) |2] | /12 (Я) |-« J 7.10.11. Покажите, что при условии 2j\ci2(u)\ < оо математическое ожи- ожидание величины /<г> ,Т) (Т)(к) дается формулой ^ {| А^)(Я—а)|2 — Г А<Г)(Х) Д<г> (—а) о — Г-1 Д<г> (-Х)А^) (а) 7.10.12. Пусть [Xiit), X2(t)]> / = 0, ±1, ..., является двумерным рядом, удовлетворяющим условию 2.6.1. Примем обозначения J 0=o L
302 7. Оценки спектра второго порядка для /=1, ..., L. Покажите, что с^ (/), 1=1, ..., L, являются асимптотиче- асимптотически независимыми величинами с распределением Убедитесь, что при T = является неплохой оценкой для /12 @)= 7.10.13. Покажите, что результаты теорем 7.2.3, 7.2.4, 7.2.5 и 7.3.3 дают более точную асимптотику, нежели в случае, когда [Хг (t), X2(t)]. t = 0, ±1, ..., представляют собой последовательность независимых одинаково рас- распределенных двумерных нормальных величин. 7.10.14. Предположим, что ряд [Xi (/), X2(t)], t = 0, ±1, ... удовлетво- удовлетворяет условию 2.6.2A) и имеет среднее 0. Тогда cov {/<р (X), /<|> (у)} = Г-« | Д<г> (X-rt |» /и (Я) /22 (Я) /1Я (Я) /и (—X) где существуют такие К и L, что 7.10.15. Предположим, что выполнены условия теоремы 7.3.3. Пусть P = fab{K)lVfaa(K)fbb(b)< * Ф Ь. Тогда x = f$ (l)\V f&> (k) ffi (l) имеет асимптотическое распределение с функцией плотности при X ф 0 (mod л) и функцией плотности яГ(т)»?пГут=?ехр {^0/A " при Я^0(тос1л). Указание. Воспользуйтесь упр. 4.8.33. 7.10.16. Пусть схх(и)> и = 0, ±1, ..., является автоковариационной мат- матрицей стационарного r-мерного ряда X (/)* t = 0, ±1, .... Покажите, что матрица схх@>— схх(и)т cxxi®)'1 Cxx(u) неотрицательно определена для и = 0, ±1, ... . 7.10.17. Пусть f^x(X), — оо < А, < оо, обозначает матрицу спектральной плотности стационарного r-мерного ряда X (t), t = 0, ±\ Покажите, что 7.10.18. Допустим, что автоковариационная функция в упр. 7.10.16 удов- удовлетворяет условию и Detf^x(^) 7^0, — оо<А,<оо. Покажите, что существует такой /-сумми- /-суммируемый rXr-фильтр {a(w)}, что для ряда
7.10. Упражнения . 303 выполняется соотношение fyy(X) = Bn)~11, —оо < >. <оо, и суу@) = 1, суу(и) = 0 для и f 0. 7.10.19. Пусть X (t), t = 0f ±1, ..., является векторным рядом из при- примера 2.9.7. Покажите, что 7.10.20. Покажите, что в условиях теоремы 4.5.2 существует такое конеч- конечное L, что с вероятностью 1 ТШГ sup 11(/у (Я,)-А (Я) iSBc W AH)t | < L. 7.10.21. Покажите, что для случая несглаженных данных утверждение теоремы 7.2.1 принимает вид 7.10.22. Предположим, что г-мерный ряд X (/), Г=0, ±1, ..., удовлет- удовлетворяет условию 2.6.2A). Пусть I^ (К) задано выражением G.3.1). Пусть также \x = 2nr/T, X = 2ns/T для целых г и s. Покажите, что для X, \к=?0 (mod 2л) (b) co X (d) i(K) fblbl(-%)-faibi(K) fbiui(-X)} + 0 (T-^). 7.10.23. Допустим, что выполнены условия теоремы 7.2.5. Положим /=о Тогда величины (Z— I) S' 1{ распределены асимптотически как (L— I) Wf(L— I, ^x(^))» если (modя), и как (L— l)-1^ (L— 1, f^x(А,)), если X^
304 ¦ • 7. Оценки спектра второго порядка 7.10.24. Рассмотрим оценку У ' s= -m в которой 2ns (T)/T —>k^Q (mod л) и 2s 1^=1. Покажите, что в условиях теоремы 7.3.3 i(xx M асимптотически расщ>еделена как s= - m где Ws, s = 0, ± 1, ..., ± m, являются независимыми переменными с распре- распределением W^ (I, fxx(^)^ Укажите среди ее, и ковариационную матрицу пре- предельного распределения. 7.10.25. Предположим, что оценка т используется в случае четного Т и к = п. Покажите, что в условиях теоремы 7.3.3 эта оценка имеет асимптотическое распределение Bm + 1)-1 Wr Bm + 1, $хх(л))- 7.10.26. Покажите, что оценка G.4.5) является неотрицательно определен- определенной, если для — оо < а < оо неотрицательно определена матрица [Wab(a)]. Указание. Воспользуйтесь результатом Шура о неотрицательности [АаъВаь] в случае, когда неотрицательны [АаЬ] и [Ваь]\ см. Bellman A960, стр. 94). 7.10.27. Покажите, что матрица [ffy (k)] оценок G.7.9) неотрицательно определена, если таковой же является матрица [1^аь(а)], —-оо<а<оо, в случае ha(u) — h(u) для а=\х ..., г. 7.10.28. Покажите, что в условиях теоремы 7.3.2 оценка fjj (к) является состоятельной, если fab(k) = O или /ьь(^) = О. 7.10.29. Покажите, что в условиях теоремы 7.3.3 ]/У (с(/) — с^) и f(/x @) являются асимптотически независимыми величинами с распределениями Nr @, 2лГух@)) и Bm)~1WrBmt ixx @)) соответственно. Покажите также, что ве- величина 32//\ где 32 = Bя)-1Г (сТ-сх)х?хх-{0)-* (с^-сх), имеет асимптотическое Fr, 2w-распределение. Этот результат можно использо- использовать при построении приближенных доверительных областей для с#- 7.10.30. Покажите, что в условиях теоремы 7.4.3 нужно выбирать Bf =О(Г~1/5), чтобы минимизировать среднеквадратичную ошибку Е|/ар(А,)-— — fab$)?\ см. Barttett A966, стр. 316). 7.10.31. Докажите, что Rab* (к) и Red* (к) в условиях теоремы 7.6.2 асимп- асимптотически независимы, если Rab, Rac> Rad, R^cy Rbd, Rcd равны нулю. 7.10.32. Покажите, что в случ~ае ряда X (t), t~0, ±1, ..., не обязательно гауссовского, ковариация G.6.21) равна 2л 7.10.33. В случае стационарного, действительного гауссовского ряда X (t), t = Q, ± 1, ..., докажите, что ковариационная структура предельного, процесса
7.10. Упражнения 305 в теореме 7.6.3 такая же, как и А, где В (а) есть броуновское движение на [0, я]. 7.10.34. Если ряд X (t), / = 0, ± 1, ..., является действительным белым шумом с дисперсией а2 и четвертым семиинвариантом х4, то предельный про- процесс теоремы 7.6.3 имеет ковариационную функцию Bл)-!а4 min (к, \х) + Bя)-2щ1\х. 7.10.35. Покажите, что для линейного действительного ряда X (t), ? = 0, ±1, ..., в условиях теоремы 7.6.3 слабо сходится к гауссовскому процессу, у которого ковариационная функция не содержит спектра четвертого порядка ряда X (t). 7.10.36. Пусть X (t)f t = 0, ±1, ..., является r-мерным рядом,- удовлетво- удовлетворяющим условию 2.6.1. Покажите, что effi (и), задаваемая формулой G.6.10), и <ГаР (и), задаваемая формулой G.6.12), имеют одинаковое предельное нор- нормальное распределение. См. также упр. 4.8.37. 7.10.37. Пусть ,Ф (А А-_.^2. V А (?Е!) /Ф (?™ Л Jab \л> 4 = 1^ 2м Л \Т^У V~ ' J * где /2? (К I) ,v-\ \/v~l / = 0, ...,L—I; a,b=\, ...,r. В условиях теоремы 7.6.1 покажите, что J(ab (А- /)» ^ = 0, ..., L—1, являются асимптотически независимыми нормаль- 2я ными величинами со средним \ A (a) f^ (a) da при V—> оо. Этот результат о можно использовать для построения приближенных доверительных интервалов Jab (A). 7.10.38. Пользуясь замечанием в § 7.9, докажите следующее тождество: ll'l /=l 7.10.39. Положим
306 7. Оценки спектра второго порядка для —оо < X < оо; а, 6=1, .,.., г. Покажите, что матрица l(Jx(^) неотрицательно определена. 7.10.40. Пусть ряд X (t), t = 0t ±1, ..., удовлетворяет условию 2.6.2(/). Покажите, что выполняется соотношение G.2.14) с равномерными по г, s^O (mod T) остаточными членами O(T~l), O(T~2). 7.10.41. Используя результаты предыдущего упражнения, покажите, что в условиях теоремы 7V4.3 Е f 7.10.42. Пусть ряд X (t)> t = 0, ± 1 -удовлетворяет условию 2.6.2(/). Допустим, что А (а) имеет ограниченную вариацию. Пусть W (а) удовлетворяет условию 6.4.1. Положим Рт = Р—у оо при PTBT*skl и РтВтТ—> оо при Т —*оо. Тогда Р-1 НЯ) / /in _ 2л у , / 2яр \ f(T) ( 2пр \ р=о \ / \ / Покажите, что jffi (А) асимптотически нормальна, о р2я ~*L*L]^W (a)* da j J Л/ (a) T^fi fM% (a) /Wi (- a) da 2jt -, J Лу (a) ЛлBя-а) /eift, (a) fblfl2 (- a) da о J о 2Я2Я j J о о Указание. Воспользуйтесь предыдущим упражнением.
8 АНАЛИЗ ЛИНЕЙНЫХ ИНВАРИАНТНЫХ ВО ВРЕМЕНИ СООТНОШЕНИЙ МЕЖДУ ДВУМЯ МНОГОМЕРНЫМИ СТОХАСТИЧЕСКИМИ РЯДАМИ 8.1. Введение Рассмотрим (r + s)-MepHbm векторный стационарный ряд (О ? = 0, ±1, • • •, составленный из r-мерного ряда Х(/) и s-мерного ряда Y(^). Предположим, что ряд (8.1.1) удовлетворяет условию 2.6.1, и введем средние ЕХ @ = Cv, ковариации Е {[X (t + и) - сх] [Y @ - ск]П = схг (и), (8.1.3) )-cYf}^cYY(u), u = 0, ±1 и спектральные плотности второго порядка f^ (Я) = Bя)~* 2 сук(«) ехр {— ifoi), (8.1.4) 00 fKy(^)=Bn)-1 2 Задача, которой посвящена эта глава, состоит в выборе такого s-мерного вектора |ш и такого sxr-фильтра {а (а)}, чтобьГряд 00 ц+ 2 a(t-u)X(u) (8.1.5) был в некотором смысле близок к Y(/). Мы изучим также ста- статистические свойства оценок искомых |ш и а (и), основанных на
308 8. Анализ соотношений между двумя стохастическими рядами конечных выборках значений Х(^), Y(^), ^ = 0, ..., Т — 1. Глав- Главное отличие проблематики, затронутой в этой главе, от материала гл. 6 связано с тем, что основной ряд Х(/), f = 0, ± 1, ..., мы считаем стохастическим, а не детерминированным. В следующем параграфе приводится обзор результатов, отно- относящихся к аналогичным задачам для многомерных случайных величин. 8.2. Результаты для многомерных случайных величин Напомним читателю, что в множестве эрмитовых матриц вво- вводится частичное упорядочение А>В, . (8.2.1) означающее, что матрица А —В неотрицательно определена. Это отношение порядка обсуждается, например, в книгах: Bellman A960), Гельфанд и др. A960) и Siotani A967). Среди следствий неравенства (8.2.1) отметим такие: DetA^DetB, (8.2.2) trA^trB, (8.2.3) Ajj^Bjj (8.2.4) ^(A)^My(B), (8.2.5) здесь Ну (A), fy-(B) обозначают /-е в порядке возрастания собст- собственные значения А и В соответственно. Далее, когда в формулировке теоремы речь пойдет о миними- минимизации эрмитовой матричной функции А (9) аргумента 9, под этим будет подразумеваться отыскание такого значения 0О, что А(9)>А(90) (8.2.6) при всех 9. Значение А@О) называется минимальным значением А@). Заметим* что если 90 минимизирует А@), то из (8.2.2) — (8.2.5) вытекает, что 90 минимизирует одновременно функционалы DetA(9), trA(9), А„ (9) и Ну (А F)).' Введем еще некоторые новые обозначения. Пусть Z —произ- —произвольная матрица со столбцами Zlf ..., Z/. Тогда вектор-столбец, составленный из столбцов матрицы Z, помещенных один под дру- другим, обозначим ' vecZ= i . (8.2.7)
8.2. Результаты для многомерных случайных величин 309 Для любых матриц U и V назовем их кронекеровым произведением матрицу U® V, составленную из блоков по следующему правилу: если V имеет размеры /х/С, то iV = MV IK (8.2.8) Два вновь введенных объекта связаны важным соотношением (U ® V) vec Z - vec (UZVT) . (8.2.9) (предполагается, что матрицы, фигурирующие здесь, имеют над- надлежащие размеры), см. упр. 8.16.26. Neudecker A968) и Nissen A968j рассматривают приложения этих определений в статистике. Займемся теперь поисками минимума. Пусть случайные векторы X и Y имеют соответственно г и s компонент. Рассмотрим (r + s)- мерный вектор га- Допустим, что (8.2.10) имеет среднее значение и ковариационную матрицу [^хх ^ 2КДГ S (8.2.10) (8.2.11) (8.2.12) Если мы хотим найти s-компонентный вектор ji и sxr-матрицу а, минимизирующие sxs-эрмитову матрицу j? /гу м aXl FY ц аХ1т}- f8 2 13^ то решение этой задачи дает Теорема 8.2.1. Пусть задан (г + $)-мерный случайный вектор (8.2.10) со средним (8.2.11) и ковариационной матрицей (8.2.12). Предположим, что матрица IiXx невырожденна. Тогда (8.2.13) минимизируют величины (8.2.14) (8.2.15)
310 8. Анализ соотношений между двумя стохастическими рядами Соответствующее минимальное значение равно 2КК—^yx^xx^xy- (8.2.16) Назовем величину а, определенную формулой (8.2.15), коэф- коэффициентом регрессии Y на X. Случайный вектор S^(X-tix) (8.2.17) называется наилучшим линейным прогнозом Y, основанным на X. Указанные в теореме jm и а доставляют также минимум детерми- детерминанту, следу, диагональным элементам и собственным значениям матрицы (8.2.13). Дадим библиографические ссылки на эту тео- теорему: Whittle A963a, гл. 4), Goldberger A964, стр. 280), Rao A965), Khatri A967). При s=l квадрат коэффициента корреля- корреляции Y с его наилучшим линейным прогнозом, именуемый квадра- квадратом множественного коэффициента корреляции, имеет вид В случае многомерной величины Y рассматривают матрицу 2Рк/22кх2хх2хк2ук/2; с ней мы встретимся при обсуждении ка- канонических корреляций в гл. 10. Полезными могут оказаться функции этой матрицы, принимающие действительные значения, скажем ее след и детерминант. Эта матрица была введена в ра- работе Khatri A964). Tate A966) сделал ряд замечаний о много- многомерных аналогах коэффициента корреляции, см. также Williams A967) и Hotelling A936). Определим векторную случайную величину в=?-^-2те25МХ-1*х), (8.2.19) которую будем называть ошибкой. Она представляет собой оста- остаточный член при аппроксимации Y лучшим линейным прогнозом, основанным на X. Ковариационная матрица для 8 задается фор- формулой 2ее = 2кк-2кх2А2хк, (8.2.20) т. е. совпадает с матрицей (8.2.16). Ковариация величины ef с ek называется частной ковариацией Yj с Yk, она выступает в каче- качестве меры линейной зависимости величин Yf и Yk, остающейся после удаления линейного влияния X. Аналогичным образом ко- коэффициент корреляции 8у. и ek называется частной корреляцией Yt с Yk. Эти параметры рассмотрены в книгах: Kendall, Stuart A961), гл. 27, и Morrison A967, гл. 3). В том случае, когда величина (8.2.10) имеет многомерное нор- нормальное распределение, ее прогноз, предлагаемый теоремой 8.2.1, оказывается наилучшим в более широком классе прогнозов.
8.2. Результаты для многомерных случайных величин 311 Теорема 8.2.2. Предположим, что многомерная случайная величина (8.2.10) со средним (8.2.11) и дисперсией (8.2.12) рас- распределена по нормальному закону, и пусть матрица Ххх невы- рожденна. Векторная s-компонентная функция Ф(Х), имеющая Е {Ф (Х)ТФ (X)} < оо, которая минимизирует Е{[?-ф(ХK[?-ф(Х)И, (8.2.21) определяется равенством Ф (X) = iiY+ 2ra2jfr (Х- ,*). (8.2.22) Минимальное значение (8.2.21) равно (8.2.16). Для нормально распределенных величин условным распреде- распределением Y при заданном X будет Ъуу-ЪухЯхФху), (8-2.23) так что частная корреляция Yj с Yk оказывается условной кор- корреляцией Yj с Yk при заданном X. Перейдем к некоторым деталям оценки параметров в сформу- сформулированных теоремах. Допустим, что мы располагаем выборкой (8.2.24) /= 1, ..., п, из значений величины, для которой выполнены усло- условия теоремы 8.2.1. Для удобства будем полагать, что jut^ = 0 и fir=0. Введем гхя-матрицу х и sxn-матрицу у: x = ft XJ, (8.2.25) y = [Ylf .... YJ. (8.2.26) Можно оценить ковариационную матрицу (8.2.12), взяв ZXY=—t (8.2.27) и 2 = ууТ . Коэффициент регрессии Y на X можно оценить матрицей а = ?„?хх, (8.2.28) а в качестве оценки матрицы (8.2.20) предложим y—tyxlxbcSxY)' (8.2.29)
312 8. Анализ соотношений между двумя стохастическими рядами причина замены множителя п на (п — г)'1 в этой оценке ста- становится ясной при рассмотрении следующей теоремы. Теорема 8.2.3. Предположим, что (8.2.24), /, ...,я, обра- образует выборку из многомерного нормального распределения со средним О и ковариационной матрицей (8.2.12). Пусть а опре- определяется формулой (8.2.28), а 288 — формулой (8.2.29). Тогда каков бы ни был rs-мерный вектор а, величина (8230) распределена так же, как tn_r. Кроме того, Ea = a, covjveca, veca}- (я— г — l)"^® Sxx, (8.2.31) и при п —+¦ oo оценка a будет асимптотически нормальной ве- величиной, имеющей такие моменты. Матрица 288 не зависит от а и распределена по закону (n — r)~1Ws(n — г, 288). При s~l величина Ryx = ^yx%1u<$xy№yy имеет плотность распределения \Л/2Г ( П П Г D2 52 \ Г (ft/2) X (RyxO*!'! -Ryx){n-r-2)/2. (8.2.32) Появляющаяся в (8.2.32) функция—это обобщенная гипер- гёометрическая функция, см. Abramowitz, Stegun A964). Про- Процентные точки и моменты Ryx приведены в работах: Amos, Koop- mans A962), Ezekiel, Fox A959) и Кгащег A963). Olkin, Pratt A958) построили несмещенную оценку для R2YX. Распределения других статистик можно определить, пользуясь тем, что слу- случайная матрица Гу* у 1 *ХХ ^XY l^YX^YY J имеет распределение (8.2.33) Распределение для а приводит Kshirsagar A961). Плотность этого распределения пропорциональна {Det[S^ + (a-a)T 2^ (a-a)]} -<«+s)/2. (8.2.34) Такое распределение является разновидностью многомерного ^-распределения, см. Dickey A967).
8.2. Результаты для многомерных случайных величин 313 Подобно тому как определялись частные корреляции, можно построить их оценки, основанные на элементах See. Например, оценка частной корреляции величин Y. и Yk при отсутствии линейных изменений X имеет вид где [2ее]/? обозначает элемент матрицы Е8е, стоящий на пере- пересечении /-й строки и k-vo столбца. Эта оценка, как видно из распределения для 288, указанного в теореме 8.2.3, распределена как выборочный коэффициент кор- корреляции ву с гк, основанный на п — г наблюдениях. Функция плотности распределения квадрата этой величины определяется выражением (8.2.32), если заменить в нем R2YX) R2YX, n и г соот- соответственно на Ry., Y х, Ry., Yh-x, n — r, 1. Большая выборочная J ^ К J К дисперсия такого R% приблизительно равняется 4/?2[1—R2]/n. Найденные в работе Fisher A962) распределения коэффициентов корреляции можно так модифицировать, чтобы получить совмест- совместное распределение всех частных корреляций. Асимптотику сов- совместных ковариаций можно получить, опираясь на результаты работ Pearson, Filon A898), Hall A927) и Hsu A949). Дальней- Дальнейшие результаты, а также приближения для законов распределе- распределения оценок квадратов коэффициентов корреляции содержатся в работах: Kendall, Stuart A961), стр. 341, Gajjar A967), Hodg- Hodgson A968), Alexander, Vok A963), Giri A965) и Gurland A966). Рассмотренные выше теоремы имеют аналоги для комплекс- комплексных случайных векторов. Например, справедлива Теорема 8,2.4. Пусть комплексный (г + s)-мерный вектор (8.2.36) со средним 0 таков, что (8.2.38) Если матрица 2ХХ- невырожденна, то \i «а, минимизирующие E{[Y-n-aX][Y—ц-аХ]т}, (8.2.39)
314 8. Анализ соотношений между двумя стохастическими рядами таковы: а-2 I-* (8*2'40) а само минимальное значение равно Z^-S^j&Z^ (8.2.41) Назовем а, определенный формулой (8.2.40), комплексным коэффициентом регрессии Y на X. Указанные jn и а будут до- доставлять минимум, следовательно, и детерминанту, и следу, и диагональным элементам матрицы (8.2.39). При s=l выражение для минимума (8.2.41) можно записать в виде [l-\RYX\2]2YY, - (8.2.42) где по определению Эта величина, очевидно, представляет собой обобщение на комп- комплексный случай квадрата коэффициента множественной корреля- корреляции. Поскольку минимум (8.2.41) должен лежать между 2КК и 0, то, значит, 0^|/?ух|2^1, причем значение 1 соответствует минимуму, равному 0. В ряде случаев удобно расщепить |/?у*12> рассматривая порознь (8.2.45) здесь 2rx= Re 2ГЛГ + i Im 2гх. Эти выражения служат мерами линейной связи Y с ReX и ImX соответственно. Вернемся теперь к случаю векторного Y. Явной мерой сте- степени аппроксимации Y линейной функцией от X служит вели- величина ошибки г=\-1Ху-Ъгх2-х1х(Х-11Х), (8.2.46) имеющей среднее 0 и такой, что = 2ГК— 2гх2хх2Ху (8.2.47) и Е(88т)-1 = 0. ^ (8.2.48) Аналоги частной ковариации и частной корреляции можно не- немедленно получить, используя матрицу (8.2.47).
8.2. Результаты для многомерных случайных величин 315 Предположим теперь, что в нашем распоряжении имеется выборка Щ, /-1. ...,». (8.2.49) значений вектора, удовлетворяющего условиям теоремы 8.2.4. Определим матрицы х и у формулами (8.2.25) и (8.2.26). Естест- Естественно рассмотреть статистики -, 2 ад (8.2.50) ^хх 2 _ XY у YY- V * 1 п —т ху п уу п 2 2 п ХД/ п YyYj п (8.2.51) (8.2.52) Для них справедлива Теорема 8.2.5. Пусть величины (8.2.49), / = 1, ...,п, обра- образуют выборку из многомерного комплексного нормального рас- распределения со средним 0 и ковариационной матрицей (8.2.37). Если а определяется формулой (8.2.51), а 2ее — формулой (8.2.52), то для любого гs-мерного вектора а величина х~*\ 1/а (8.2.53) распределена как t%(n_r). Кроме того, Еа = а, cov {veca, veca} = (n--_r)-12ee(gJ3&i (8.2.54) и при п—>оо величина veca распределена асимптотически как W?(veca, n^^gg^Sxx)- Цалее, матрица See не зависит от а и распределена по закону (л —г)^ (л —г, 2ее). Наконец, если s=l,mo величина \RYX I^^yx^x^xy/^yy имеет плотность распределения QARn\Wi(n>n\r\\Ry*\%A&n\%) I 2Г-2 /1 | П \2\п-Г-1 /Q О КК\ • * i ж л i f \ /
316 8. Анализ соотношений между двумя стохастическими рядами Отметим, что распределение |/?Гх12 в комплексном случае совпадает с распределением в действительном случае при вдвое большем объеме выборки и одновременном увеличении размер- размерности X вдвое. Объяснение этому обстоятельству предлагает' эвристический подход, описанный в § 8.4. Полезное же следст- следствие заключается в том, что можно будет применять таблицы и результаты, полученные для действительных величин. Плотность (8.2.55) приводится в работе Goodman A963); см. также James A964), формула A12), и Khatri A965a). При \RYX\* = 0 выра- выражение (8.2.55) превращается в и совпадает с «нулевым» распределением величины F.2.10), выве- выведенным при условии, что ряд X фиксирован. Поэтому процент- процентные точки в этом случае можно получить из процентных точек F- закона, как в гл. 6. Amos, Koopmans A962) и Groves, Hannan A968) нашли много «ненулевых» процентных точек для \RYx\2- Доверительные области для элементов матрицы а можно по- построить по выражению (8.2.53), действуя как в § 6.2. По аналогии с (8.2.34) плотность распределения матрицы а будет пропорциональна {Det [S/x + Ta-a^See1 (а-~а)]}-("+5). (8.2.57) Wahba A966) нашел эту плотность в случае s=l. Иногда представляет интерес рассмотрение следующих комп- комплексных аналогов частных корреляций: (8.2.58) при I ^.j^k^s. Естественной оценкой для (8.2.58) служит Распределение для 2ее, приведенное в теореме 8.2.5, показы- показывает, что последняя оценка распределена одинаково с* комплекс- комплексным выборочным коэффициентом корреляции величин еу. и ек, основанным на /г — г наблюдениях. Квадрат модуля этой оценки имеет плотность распределения (8.2.55), в которой RYx> Ryx> n> r заменяются на RY., у..х, Ry;, Yh-x,n — r> 1 соответственно. Асимп- J к /к тотические ковариации пар этих оценок можно вывести из выра- выражения G.6.16).
8.3. Определение оптимального линейного фильтра 317 8.3. Определение оптимального линейного фильтра Применяя обозначения § 8.1, вернемся к задаче построения s-мерного вектора |ш и sxr-фильтра {а (г/)}, которые обеспечивают близость I*+"S- *(t'—u)X(u) (8.3.1) W=-00 к Y@-.Выбрав в качестве меры близости рядов эрмитову sxs- матрицу (8.3.2) получаем такое решение: Теорема 8.3.1. Пусть г + s-компонентный векторный ряд (8.1.1) является стационарным второго порядка и имеет сред- среднее (8.1.2) и автоковариационную функцию (8.1.3). Предположим еще, что схх(и), cYY(u) абсолютно суммируемы, а матрица iXx(k), определенная в (8.1.4), невырожденна при — оо < А, < оо. Тогда минимизирующие (8.3.2) величины \х и & (и) имеют вид (8.3.3) 2Я а (и) = Bл)-11 А (а) ехр {ша} doc, (8.3.4) о где \А*) :==z IYX yfu) IXX yfo) • (О.О.О) Фильтр {а (и)} — абсолютно суммируемый. Минимальное значе- значение (8.3.2) равно Ivv(O?) — Ivy \0L) ivvyOL) Tvvl^JluCC. (o.u.o) L Y Г \ / ГЛ \ / ЛЛ \ / AJT \ /J \ »v/ 0 Функция А (Я), заданная выражением (8.3.5), является пере- передаточной функцией того sxr-фильтра, для которого достигается указанный минимум. Назовем А(Х) комплексным коэффициент том регрессии Y (t) на X(t) на частоте X. Векторный s-компонентный ряд ,, * = 0, ±1, ..., (8.3.7)
318 8. Анализ соотношений между двумя стохастическими рядами в котором выражения ц и а(м) взяты из теоремы 8.3.1, назы- называется рядом ошибок. Как видно, этот ряд имеет среднее 0 и матрицу спектральной плотности . he (*) = tYy(b)-tn Whx W-1 hv (*). (8.3.8) Матрицу f88(^) называют спектром ошибок. Можно переписать (8.3.8) в виде (8.3.9) тем самым мы придем к измерению линейной зависимости Y (t) от X(t) посредством sxs-матрицы 'irW-^'wW'nW-'^W'irW-171- (83.10) В случае s=l выражение (8.3.10) называется множественной когерентностью Y (t) с X(t) на частоте Я. Обозначим эту вели- величину через \RYx(fy\2 и запишем (B.d.il) (В случае r = s=l определяем когерентность yx() fYx()/ /I/xxM/WW]1/a-) Множественная когерентность, удовлетворяю- удовлетворяющая неравенству <l, (8.3.12) (см. упр. 8.16.35) выступает в качестве меры того, сколь точно можно определить действительную величину Y(t), применяя к r-мерному векторному ряду Х(?) линейные операции, инва- инвариантные во времени. Записав Yy(^ (8-3.13) мы видим, что \Ryx(^)\2 = ^ соответствует некогерентному слу- случаю, когда X (t) не уменьшает дисперсию ошибки. Значение |/?кх(Я) |2= 1 соответствует полной когерентности, в этом слу- случае ряд ошибок сводится к 0. Коэффициент множественной когерентности ввел Goodman A963); см. также Koopmans A964a, b). В общем случае, когда s любое, кросс-спектр между а-й и 6-й компонентами ряда ошибок га (t) и гь (t) мы назовем част- частным кросс-спектром Ya (t) с Yb (t) после удаления линейного воздействия X(t) и представим его выражением * fYaYb-X (X) = fyayb W - fYaX (X) f„ (k)-1 hYb (k) = /eA (X), .(8.3.14) — оо<Я<оо. Когерентность этих компонент назовем частной когерентностью Ya(t)- с Yb(t) после удаления линейного воздей-
8.3. Определение оптимального линейного фильтра 319. ствия X(t)\ ее выражение имеет вид Последние величины применяют для определения того, в ка- какой мере существование явного линейного инвариантного во времени соотношения между рядами Ya(t) и Yb(t) обязано нали- наличию линейных связей каждого из этих рядов с Х(?), см. Gersch A972). Можно также ввести частный комплексный коэффициент регрессии Y a (t) на Yb (t) после удаления линейного воздействия Х@ как (8.3.16) В соответствии с теми предположениями, которые можно сделать, изучая ситуацию для действительных величин, оказывается, что выражение (8.3.16) является элементом, отвечающим Yb(t) в мат- матричном комплексном коэффициенте регрессии Ya(t) на (г+1)- мерный векторный ряд rnwi Тем самым возникает интерпретация отдельных элементов матрич- матричного комплексного коэффициента регрессии. Указанные здесь величины, используемые при анализе част- частного кросс-спектра временных рядов,, ввели Tick A963) и Won- nacott, см. Granger A964), стр. xiii. Более подробно они изу- изучены в работах: Koopmans A964b), Goodman A965), Akaike A965), Parzen A967c) и Jenkins, Watt A968). В качестве примера рассмотрим значения введенных величин для модели и где X (t) есть r-мерный стационарный ряд с матрицей спектраль- спектральной плотности fjix(A'); 8@ есть s-мерный стационарный ряд со средним 0, имеющий матрицу спектральной плотности fe8(^), не зависящий от X (t) при всех запаздываниях, т. е. сдвигах аргу- аргумента в прошлое; |ш есть s-мерный вектор, а {а (и)} — абсолютно суммируемый sxr-матричный фильтр. Легко проверить, что комплексный коэффициент регрессии Y (t) на X(t) задается фор- формулой = S а (") ехР {— <М- (8.3.18)
2Jt 320 8. Анализ соотношений между двумя стохастическими рядами Кроме того, fYaYbx{K) = Uah{K), (8.3.19) и поэтому ЯуЛ.х(Ь) = ЯвЛ(Ь). (8.3.20) Если ряд (8.1.1) гауссовский, то \л и а(м), введенные в тео- теореме 8.3.1, можно охарактеризовать и иначе. Теорема 8.3.2. Если выполнены условия теоремы 8.3.1 и ряд (8.1.1) гауссовский, то для \х и &(и), определенных в (8.3.3) и (8.3.4), E{Y(f)|X(i;), 1> = 0, ±1,...} = f*+ S &(t-u)X(u). (8.3.21) U= -00 Далее, C0V{Y (t + u)t Y @ | X (и), v = 0, ±1, .-.} = fn- M - *кх W hx (Ц -Ъг (Щ exp {ihi} dk. (8.3.22) 0 Библиографические ссылки на изложенный материал для случая г = s=l включают работы Wiener A949), Солодовни- кова A950), Koopmans A964a) и Blackman A965). Между под- подходом, рассмотренным в этом параграфе, и подходом гл. 6 имеется целый ряд связей. Главное же отличие в сделанных предположениях состоит в том, что теперь ряд X (t) предпола- предполагается не детерминированным, а стохастическим. В гл. 6 рас- рассматривалась модель связи между рядами Y @ = li +2]a (t — u) X (u)+e(t), (8.3.23) и в которой вектор |ш постоянен, а (а) —суммируемый фильтр, а 8 (t) — ряд ошибок с нулевым средним. Упражнение 8.16.33 должно показать, что такая модель осуществляется при условиях тео- теоремы 8.3.1. Мы закончим этот параграф примером применения теоремы 8.3.1. Допустим, что rj(^) и Y (t) — независимые стационарные s-компонентные векторные ряды с нулевыми средними, и рас- рассмотрим ряд X@ = Y @+4@- (8.3.24) Можно интерпретировать ряд Y @ как полезный сигнал на фоне шума, описываемого рядом r\{t). Предположим, что'нам жела- желательно аппроксимировать Y @ рядом, полученным фильтрацией X(t). Матрица спектральной плотности Х(/) и Y @ имеет вид - (8<3-25)
8.4. Эвристическая интерпретация параметров 321 Согласно выражению (8.3.5), передаточная функция наилучшего линейного фильтра, предназначенного для определения Y (t) по Х(/), задается формулой А (Я) = \YY (Я) {iYY (Я) + im (Я))-1. (8.3.26) Эта функция А (Я) называется избирательным фильтром -для сигнала Y(^), присутствующего в шуме i\(t). Как видно, его основное свойство заключается в том, что частотные компоненты X (t) из интервала частот, где значение f^ (Я) очень велико по сравнению с !уу(Я),%этим фильтром не пропускаются, и в то же время пропускаются почти без изменений компоненты из интер- интервалов, где значение f^ (Я) мало по сравнению с fYY (Я). При s= 1 величина fYY (X)/fm (Я) называется отношением сигнала к шуму на частоте Я. 8.4. Эвристическая интерпретация параметров и построение оценок Пусть г +5-компонентный векторный ряд (8.4.1) / = 0, ±1, ..., удовлетворяет условию 2.6.1. Предположим, что нам известны его значения при / = 0, ..., Т—1. Вычислим ко- конечное преобразование Фурье этих значений: — оо < Я< оо. Согласно теореме 4.2.2, при больших Т распре- распределение этой случайной величины аппроксимируется распреде- распределением если Хф 0 (mod я). Сославшись на обсуждение теоремы 8.2.4, можно теперь за- заключить, что А (Я) — комплексный коэффициент регрессии Y (t) на Х(^) на частоте Я—можно интерпретировать в некотором при- приближении как комплексный коэффициент регрессии d(/} (Я) на &{Р (к). ГГоэтому он оказывается полезным при предсказании зна- значения diP (Я) по значению d{P (Я) с помощью линейного анализа. Спектр ряда ошибок fee (Я) приближенно пропорционален кова-
322 8. Анализ соотношений между двумя стохастическими рядами риационной матрице ошибки, связанной с этим прогнозом. Точно так же и частный»комплексный коэффициент регрессии Ya(t) на Yb(t) после удаления линейного воздействия, связанного с X(t), будет близок к коэффициенту регрессии dtfl (X) на d$l (X) после удаления линейного воздействия d{p (X). Теперь предположим, что s = 1. Величину | RYx М |2 — множественную когерентность Y (t) с X(t) на частоте X — можно в соответствии с теоремой 8.2.4 интерпретировать как комплексный аналог квадрата коэффициента множественной^ корреляции d^ (X) с й{р(Х). Наконец, частная когерентность Ya (t) с Yb (t) после удаления линейного воздей- воздействия X (t) может быть истолкована как комплексный аналог частной корреляции dy] (X) с d(/J (X) после удаления линейного воздействия dxr)(A,). В случае когда ряд (8.4.1) гауссовский, эти частные параметры будут приближенно условными параметрами при заданном значении й{р (X). Аналогичную интерпретацию можно предложить и при Х = 0 (mod я). В этом случае применяются статистики и распределения, имеющие действительные значения. Обратимся далее к построению оценок различных параметров. Предположим, чтоз (Т) — целое число и величина 2ns (T)/T близка к Л, причем ХфО (modя). Согласно теореме 4.4.1, значения rd(V) [2n[s(T)+s]\1 их [ Т J \ т J s = 0, ±1, ..., ±m, являются приближенно независимыми реа- реализациями величины (8.4.3). Используя выражение (8.2.50), пред- предваряющее теорему 8.2.5, можно ввести статистики JxT)Bn[s(T) + s]/T)]\d(xT)Bn[s(T) + s i (Г) + s]/T) J I d(yr) Bя [s (Г) + s]/T)\ А<г> (Я) = f $ (Я) f (Px (Я)"I (8.4.6) и geP (Я.) = Bт +1 - г)-1 Bт + 1) x[f^ (Я) -№ (Я) f<$ (Я) fjf7? (Я)]> (8.4.7) две последние выступают в роли оценок для А (Я) и fее (Я) соот- соответственно. Теорема 8.2.5 указывает приближения к распреде-
8.4. Эвристическая интерпретация параметров 323 лениям этих статистик. В § 8.6 мы рассмотрим более гибкий вариант (8.4.5), включив в сумму весовые множители. Эвристические подхсдоы к линейному анализу многомерных рядов содержатся в работах: Tick A963), Akaike A965), Groves, Hannan A968). Параметры и оценки рассматривал Fishman A969). Мы можем также предложить интерпретацию параметров, введенных в § 8.3, основанную на частотных компонентах X(t, Я), Y (/, К)у t = 0t ±1, ..., и их преобразованиях Гильберта Xя(t, %)> Vя (t, i), < = 0,N±l, .... Рассуждения § 7.1 показывают, что ковариационная матрица величины Y (*, X) Xм (t Л) ¦ли (8.4.8) приблизительно пропорциональна Re f ImfXY(X) — lmtxx(X).—lmfXY(X) Refxx(X) ReiXY(X) .— lmfYX(X) —lmiYY(X) ReiYX(X) ReiYY(X) _ XXV Далее, поэтому [Re A (A,) hyiW* iYY(X)\ ' = iYX(X)ixx(X)-\ (8.4.9) (8.4.10) = [ReiYX(X) lmiYX(X)] Reixx(X) Im 1ХХЩ-* xx(V RefxxWJ * ( } X Г Ref [—Imf Теперь ясно, что Re A (X) можно интерпретировать как коэффи- коэффициент, соответствующий Х(?, X), в регрессии Y (t, X) на \X(t,X) ] [x»(t,x)\' (8.4.12) Точно так же Im A (X) можно интерпретировать как коэффициент, отвечающий Xя(t, X), в той же регрессии.
324 8. Анализ соотношений между двумя стохастическими рядами Ковариационная матрица для ошибки этого регрессионного анализа такова: lmiYX(k)] fReixx(k) lmixx(k)l -*1 Г RefXK(^) -lmfxx(k) Reixx(k)\ l-lmiXY(k) = Re {fYY(k) -iYX (k) fxx (Я)-1 fXY (k)} = RefEe(X). • ' (8.4.13) Тем самым оказывается, что действительные части частных коге- рентностей можно интерпретировать как частные корреляции, фигурирующие в регрессии Y(/, k) на величину (8.4.12). Анало- Аналогичное рассуждение для мнимых частей приводит к интерпрета- интерпретации и.х как частных корреляций, фигурирующих в регрессии ?я(/, к) на величину (8.4.12). . Если s=l, то квадрат коэффициента множественной корре- корреляции регрессии Y (t) на величину (8.4.12) равен = \RYX(k)\\ (8.4.14) Поэтому коэффициент множественной когерентности можно интер- интерпретировать как квадрат коэффициента множественной корреля- корреляции Y (t) с выражением (8.4.12). Завершим параграф описанием нескольких полезных парамет- параметров. В общем случае величины, являются комплексными, но прак- практически может быть удобно работать с действительными парамет- параметрами Re4a&(ty, \тАаЪ{к) или с модулем Gab(k) = \Aab(k)\ и аргументом фаЬ (к) = arg АаЬ (к). Рассмотрим случай г = s — 1. Величина G (к) = \ А (к) | называется приростом амплитуды Y (t) по сравнению с X (t) на частоте к. Функция G (к) неотрицательна, G(—k) = G(K) (8.4.15) и G (к + 2л) = G (к), — оо < к< оо. (8.4.16) Если Y(t) = ^a{t-u)X(u), (8.4.17)
8.4. Эвристическая интерпретация параметров 325 ТО f.Yy(X)=\A(X)\>fxx(X) = — KJ у /VI / хх I /vl. ^О • т. 1О^ Выражение (8.4.18) показывает происхождение термина „прирост". Амплитуда компоненты Y (t) на частоте X отличается от ампли- амплитуды соответствующей компоненты X(t) множителем G(X). Взяв в качестве примера Y (t) = aX(t — и), получим G(A,) = |a|. (8.4.19) В данном случае прирост —это абсолютное значение коэффициента регрессии, оно постоянно для всех X. Функция Ф (X) = arg А (X) называется фазой между Y (t) и X (t) на частоте X. Главной областью изменения функции Ф (X) является промежуток (—я, я]. Поскольку fxxW^®> функция ф(Х) опре- определяется формулой Ф (X) = arg fyX (X). (8.4.20) Так как Ф(—Ь) = —Ф(А), (8.4.21) то ф@) = 0. Кроме того, ф(Я + 2я)=ф(А,) (8.4.22) Пусть Y(t) = ^a(t — u)X (и). (8.4.23) и Применим преобразование Крамера: J еш dZY (X) = J ешА (X) dZx (X) = J eiktG (X) ei<f>(k) dZx(X). (8.4.24) Тем самым ф (X) можно интерпретировать как фазовый угол между компонентой X (t) с частотой X и соответствующей компонентой ряда Y(t). Если, например, Y (t) = aX (t — и), то ф(X) = — Хи (mod2я) при а>0 . (8.4.25) и ф (X) = я — Хи (mod 2я) при а < 0. (8.4.26) Графики этих двух функций изображены на рис. 8.4.1 и 8.4.2, причем в качестве области изменения Ф(Х) выбран промежуток (—я, п].
326 8. Анализ соотношений между двумя стохастическими рядами п'/и Рис. 8.4.1. Фазовый угол Ф (к), соответствующий запаздыванию на и единиц времени, в случае а > 0. \ V \ \ \ \ Рис, 8.4.2. Фазовый угол Ф(к), соответствующий запаздыванию на и единиц времени, в случае а < 0. В ряде случаев легче интерпретировать функцию d (8.4.27) Она называется групповым запаздыванием Y (t) no сравнению с X (t) на частоте X. В рассмотренном примере при всех значениях а групповое запаздывание равно и. Иными словами, на такой промежуток времени Y (t) запаздывает по сравнению с X(t). Отметим, что групповое запаздывание определено однозначно, в то время как Ф (к) определяется только с точностью до слагае- слагаемого, кратного 2я. 8.5. Предельное распределение оценок В этом параграфе мы определим предельное распределение оценок, введенных в предыдущем параграфе, при Т —*оо, но при фиксированном т. Пусть ГХ (
8.5. Предельное распределение оценок 327 так что Введем Пусть т — неотрицательное целое число и s(T), Г = 1, 2, такая последовательность целых чисел, что 2ns (Т)/Т — Т—>оо. Следуя § 7.3, полагаем при Т) [2л [s(T) + s] Т 1Й Теперь построим оценки А(Т) (я) =f?> (Я) g?> (Л) = С (m, r) [f(/^ (Ц -f(/i где если ХфО (modя), если Х-0, ±2я, ...или если Я=±я, ± Зя, ... и 71 четно, если Л=±я, ± Зя, ... и Г нечетно. (8.5.4) (8.5.5) , (8.5.6) (8-5-7) т при X^ при Лн=0(тоая). При больших m выполняется С (m, r)JLl и определение (8.5.6) упрощается. Образуем также при а, Ь=1, ..., s и, если s=l, введем / уу (8-5t8) (8.5.9) уу
328 ' 8. Анализ соотношений между двумя стохастическими рядами Теорема 8.5.1. Пусть (г + s)-мерный ряд (8.5.1) удовлетворяет условию 2.6.1 и имеет матрицу спектральной плотности (8.5.2). Предположим, что в оценке (8.5.4) этой матрицы т и s(T) — целые числа и 2ns(T)/T -+k при Т-^оо. Пусть матрица \Z YX w YY <8-бл'°> распределена по закону Bm + l)!^?^ Bm +1, fZz(fy) nPu k^Q (mod я) и по закону Bm)~1Wr+sBm, iZzW) nPu A, = 0 (modя). Тогда А(ТЦХ) — A (k), geP(A,) сходятся по распределению к WYx^x\ и W8E = С (m,r) (Wyy-Wy^W^Wxy) соответственно. Кроме того, R{Yyb.x(k) сходится к WeaEJ[WeaGaWebeb]lf\ /, й=1, ...,s, и при s=l величина |/?(Л(Я)|а сходится к WyxW^xWxyIWyy- Плотность предельного распределения для А<г> (Я) можно вы- вывести из (8.2.57) и (8.2.34). Она приведена в работе Wahba A966) для случая s=l, A,^0 (modя). Более полезен результат, осно- основанный на следующем наблюдении: для любого /^-мерного век- вектора а ат(уес[АG<)»)-АЩ]) [Bm+ l)-i аЧё?\Х) ®f&(b)-1) а] (8 5 11) имеет предельное распределение /2Bm+w> B случае Х^О (mod я). Аналогичные результаты справедливы в случае А, = 0 (modя). Из упр. 4.8.8 вытекает, что при условиях теоремы 8.5.1 ве- величина g^ (А,) асимптотически имее* распределение Bт + 1 — г)" xWs Bm + \— r, fee(A)), если A^O(modn), и распределение Bт—г)" Ws Bm—r, fEe (Я)), если Х = 0 (mod Jt). Она также асимп- асимптотически не зависит от А<Г)(А,). Отметим, что, согласно теореме 7.3.3, асимптотическое распределение glP (К) аналогично по своей сути асимптотическому распределению спектральной оценки, осно- основанной непосредственно на значениях е(/), f = 0, ..., Г —1, только в нашем случае надо параметр 2т заменить на 2т— г. Частные когерентности Ry^y^x М> а,Ь=\, ..., s, получаются непосредственно по матрице gee* М- Из предыдущих замечаний мы делаем вывод, что при условиях теоремы 8.5.1 их асимпто- асимптотическое распределение то же самое, что и для безусловных когерентностей, если заменить параметр 2т на 2т — г. Для век- векторных нормальных величин этот результат отметил Fisher A928). Распределение для одного i?(/jy&x (Л) дается формулами (8.2.32) и (8.2.55) при г=1.
8.6. Класс состоятельных оценок 329 Обратившись к асимптотическому разложению коэффициента множественной когерентности в случае s=l, полагаем \RYXY Н#кх(^I2> |?гс|а = |#(Лф)|2- Тогда предельное распределение величины \R{Yx(ty\2 будет определяться формулой (8.2.32), где п = 2т, если Я = 0(пкх1я), и (8.2.55), где n = 2m+l, если Я^ 0 (modя). Указанное выше предельное распределение для когерентностей обнаружил Goodman A963); см. также Goodman A965), Khatri A965), Groves, Hannan A968). Enochson, Goodman A965) исследо- исследовали точность приближения распределения величины arth | R{yx (k) I нормальным распределением со средним 2Bm^l_r) (8.5.12) и дисперсией 1/[2Bт — г)]. По-видимому, это неплохое прибли- приближение. 8.6. Класс состоятельных оценок В этом параграфе мы построим общий класс оценок парамет- параметров, введенных в § 8.3. Предположим известными значения Y(/)J. (8-6.1) t = 0, ..., T— 1. Введем d{P (X)y dP (X), — oo<A,<oo, со- согласно (8.4.2). Определим матрицу кросс-периодограмм lpY (X) = BПТ)-1 d(P (k) d(/} (?t)T, (8.6.2) — oo < Я < oo, аналогично определяется и I^x (^), I(/y (Я). Пусть IF (а) —весовая функция, удовлетворяющая условию 5.4.1. Оценим матрицу спектра второго порядка \ixx (X) L КХ \ / *YY \ /J посредством г- 1 /2KS\ W7) /2ttS (-у- I ixy \~y~ _YX[ir) iYY [t)^ G-) (8.6.4) приняв во внимание эвристическую оценку (8.4.5); А (А,) оценим величиной (Я) -f(Л (Л) fja (k)-K (8.6.5)
330 8. Анализ соотношений между двумя стохастическими рядами В общем случае элементы АаЬ (Я) матрицы А (Я) будут комплекс- комплексными. Иногда могут представлять интерес не сами элементы, а их мбдули Gab(k) и аргументы ФаЪЩ. Основываясь на указанной оценке, возьмем A,) (8.6.6) при 0=1, ..., s и Ь=1, ..., г. Оценим матрицу f8E( ральной плотности ошибки величиной а частную когерентность i?(/V x (^) °Иеним величинф! eil. ft) (V) При s = 1 оцениваем | i? KX Y (t) с X (t) — посредством (8.6.7) спект- (8.6.8) (.8.6.9) 5 — множественную когерентность — оо < К < оо. Различные оценки оказываются выборочными аналогами соответствующих величин, подлежащих оценке. Относительно асимптотических моментов первого порядка для различных статистик справедлива Теорема 8.6.1. Пусть (г-\-s)'мерный ряд (8.6.1) удовлетворяет условию 2.6.2 A) и имеет матрицу спектральной плотности (8.6.3). Предположим, что матраца ix,x (Я) невырожденна. Пусть W (а) удовлетворяет условию 5.6.1, и пусть статистики АG)(Я), {1Щ ФР(Я) gee}(A,), #(/V.xM определяются формулами &0, ВТТ -> оо при Т->оо, то (8.6.5)—(8.6.9). Тогда если 5 (Я) = 5& 2я (8.6.11) (8.6.12) (8.6.13)
8.6. Класс состоятельных оценок Egg' (Я) = $ Wm (К~а) *УУ («) а<х~ {$ WiX) (*-«)f} X { J WiT) (К—a) fH (a) da} "' {№<" (Л-а) 1xr (a) da) + 0E^Г-1). (8.6.14) Если же s = 1, a f уу (Я) Ф 0, mo X { J Ц7^> (X-a) fXK(a) da}/J Щ7(Г> (Я—a) fKr (a) da -1). (8.6.15) В каждом случае асимптотические средние различных статис- статистик получаются нелинейными усреднениями параметров, пред- представляющих интерес,. с матричными весами. Асимптотическое смещение поэтому будет зависеть от того, насколько близки к постоянным эти усредненные значения в окрестности к. В пре- пределе имеет место Следствие 8.6.1. При выполнении условий теоремы 8.6.1 lim ЕА{Т)(Х) = А(к), (8.6.16) lim Еф^) (X) =фа& (X), (8.6.17) Km Eg?> (Я) =*«(*), (8.6.19) UmERWy x(k) = Ryy ЛЯ), (8.6.20) 7^00 YaYb'X YaYb* V а при s— 1 lim E\R<YT?(X)\2 = \RYxW\2'. (8.6.21) Г-> 00 Указанные оценки являются асимптотически несмещенными, т. е.. несмещенными в расширенном понимании. Мы можем построить разложения асимптотических средних по степеням Вт, см. упр. 8.16.25. Рассматривая такие выражения, можно сделать важное наблюдение: чем ближе к 0 производные спектров вто- второго порядка генеральной совокупности, тем меньше асимптоти- асимптотическое смещение". Nettheim A966) получил разложение по степе- степеням В^Т в гауссовском случае. Оценки рассмотренных нами параметров изучали Good- Goodman A965), Akaike A965), Wahba A966), Parzen A967a—с),
332 8. Анализ соотношений между двумя стохастическими рядами Jenkins, Watt A968). Случай r = s=l рассматривали Goodman A957), Tukey A959a, b), Akaike, Yamanouchi A962), Jenkins A963a, b), Akaike A964), Granger A964) и Parzen A964). 8.7. Асимптотические моменты второго порядка рассмотренных оценок Займемся теперь некоторыми свойствами моментов второго порядка статистик, описанных в предыдущем параграфе. Теорема 8.7.1. Если выполнены условия теоремы 8.6.1 и\хх(а) невырожденна в окрестности X или \iy то cov{vecA<7)(X), ~ Ч {W} (fee (Ь)®*хх W) Вт'Т-1 2я J W (осJdoc, (8.7.1) [Ч ^— I*} /еЛ (Л) /ebBrf ( — Я) + TJ erf ^ X В^Т-1 2n\w (осJ doc, (8.7.2) G.6.16) (8.7.3) при а, Ьу с, d=l, ..., s, TAeRn0 = RYnY0.x(X) Для п9 0=1, ..., s. Если s= 1, то (а)Ча. . (8.7.4) Для того чтобы рассмотреть различные аспекты этих резуль- результатов, выпишем соотношения, вытекающие из (8.7.1) и разло- разложений по теории возмущений, приведенных в упр. 8.16.24, обозначив через ЧГ(Я) матрицу fxxW'1'- МЧа, (8.7.5) X Re {Лл(Л)-7вл (Я) Тм (Я) 4ЛЯ)} б?1?-^ J Г (a)«da, (8.7.6) сот {Ф^>(Я), ф<?> (ц)} - [п {К-^-ц xRe^W^/e^^A,)^ (X) Л^)-1}Вг17'-1я$ ^ («J^« (8.7.7) при а, с=1, ..., s; 6, d=- 1, ..., г.
87. Асимптотические моменты второго порядка _ 333 Набор величин XdJ d=ly ..., г, из которого исключена Хь, обозначим Х'ъ. Тогда на основании упр. 8.16.37 ^W оГ' (8.7.8) *Х X X' (К) l1"'^! y' г также Ua*a W = fYaY<,xW = [l-\RYaX(b)nfYaYaW> (8-7.9) и поэтому Г W («Na;,,,/^^^;,;. (8.7.Ю) 6ft Г J Что касается дисперсии, из формулы (8.7.10) ясно, что оценка АаР (ty будет наилучшей, если множественная Когерентность Уа (t) с X (t) близка к 1 и множественная когерентность Xb (t) с Х,@. •••. *6-i @. ^»+i@. •••> ^г@ близка к 0. Обратившись к оценке прироста и фазы, сперва отметим соотношения fY X X' (Х) A.b(b) = fa b' b(Xy (8.7.11) (8.7.12) aab abb(X). (8.7.13) Из выражений (8.7.6)-(8.7.8), (8.7.11) и (8.7.13) выводим D log G& (Я) ~ Вт1Т-хя J Г (aJ da -1] (8-7-14) D Фй} (Я) ~ В^Т^л ) W (а)Ча !--1]. (8.7.15) Таким образом, дисперсии величин logGaP(^) и ФаР(Я) малы, если частная когерентность Ya (t) с Хь (t) после удаления линей- линейного влияния X^t), ..., Xb_, @, ^b+i@. •••. ^г@ будет близка к 1. В случае r = s=l частная когерентность в выраже- выражениях (8.7.14) и (8.7.15) заменяется на когерентность \ЯУХ(Х)\*. Заметим, что если Я±ц^ 0(тос12я), то асимптотика кова- риаций логарифма прироста и фазы одинакова.
334 8. Анализ соотношений между двумя стохастическими рядами artho? 3. 2. 1. "Y\ - - - - -J 0 1. -1, -2. -3. Рис. 8.7.1. График функции # = 4 ¦<?-:• Рассматривая оценку матрицы спектральной плотности для ошибки, отметим, что, как показывают формулы (8.7.2) и G.4.17), асимптотическое поведение g^} (^) во втором порядке в точности такое же, как если бы эта оценка была прямой спектральной оценкой fee'M» основанной на значениях e(t)t t = 0> . ..,Т—1. Из (8.7.3) следует, что асимптотическое поведение оценок частных когерентностей совпадает с асимптотикой оценок коге- рентностей таких s-мерных векторных рядов, у которых ко- герентностями генеральных совокупностей являются частные R(k) 6 р р у когерентности RYaYb-x(k), a, 6=1, aYb- (8 s. Взяв а = с, 6= ab можно с помощью (8.7.3) заключить по аналогии со следствием 7.6.2, что X | RvaYb.x a'b V4RYaYb.x (Ц |2]2 2 В^Т- ;J W (aJda. (8.7.16) Асимптотическая структура ковариаций \RYaYb-x(ty\2 оказы- оказывается одной и той же при всех значениях s, r. Изучение (8.7.16) наводит на мысль рассмотреть преобразование, стабили- стабилизирующее дисперсию (8.7.17) Характер этого преобразования иллюстрирует табл. 8.7.1 и рис. 8.7.1. Видно, что значения \R\ вблизи 0 изменяются очень мало, в то время как вблизи 1 значения очень сильно возрас-
8.7. Асимптотические моменты второго порядка 335 Значения .00 .05 .10 .15 .20 .25 .30 .35 .40 .45 .50 .55 .60 .65 .70 .75 .80 .85 .90 .95 1.00 Таблица 8.7.1 arth х arth x .0000 .0500 .1003 .1511 .2027 .2554 .3095 .3654 .4236 .4847 .5493 .6184 .6931 .7753 .8673 .9730 1.0986 1.2562 1.4722 1.8318 00 cov {arth | /?у> (Я) |, arth | R<pY x а о о и тают. Далее, ?Т~*)9 (8.7.18) т*Т~*). (8.7.19) В случае s=\ частная когерентность совпадает с множест- множественной когерентностью [Ryx(k)\2> и ее оценкой служит оценка \R{Y^(k)\2. Тем самым выражения (8.7.18) и (8.7.19) будут верны также и для \RW(X)\2. Enochson, Goodman A965) изучали воз- воздействие этого преобразования и предложили такие приближен-
336 8. Анализ соотношений между двумя стохастическими рядами ные выражения: Е arth | Rft (X) | JL arth | RYX (X) \ + ^—^, (8.7.20) a2(w_1r_1)y (8.7.21) если г>1, Х=?0(тос1я), где n= r T ± - rBlT . (8.7.22) 2л V Г<г> (aJ da 2л l Г (aJ da Если привлекаются оценки из § 8.5, то надо взять n = 2m+l. Parzen A967a—с) нашел асимптотическое среднее и диспер- дисперсию для А$(\), logGg'Ck) и Ф№(К) при s=l. Jenkins, Watt A968, стр. 484, 492) определили асимптотическую структуру ко- вариаций А(Г) (X) и | Rlpx (X) |*. В случаях r=s= I Jenkins A963a) получил асимптотические дисперсии фазы-, прироста и когерент- когерентности. 8.8. Асимптотическое распределение оценок Укажем теперь предельные распределения для рассмотренных статистик. Начнем с такого утверждения. Теорема 8.8.1. Пусть выполнены условия теоремы 8.6.1 и fxx(hil)) невырожденна при /=1, ..., L. Тогда оценки А(Г)(ХШ), ge? (^ш)» R{y\ (^u>)» а' Ь= 1, . • -, s, асимптотически нормально а Ъ распределены, и структура их асимптотических ковариаций определяется формулами (8.7.1) —(8.7.3). Величины А(Т) (К) и } M асимптотически независимы. Эта теорема окажется полезной при построении доверитель- доверительных областей. Пользуясь теоремой 8.8.1 и выражением (8.7.1), заключаем, что при Х^О (mod я) вектор vecAG)(X) асимптотиче- асимптотически имеет распределение W?(vecEA^(JL), 2r), . (8.8.1) причем 2Г = ВтгТ-*2п J W (aJ da (fee (Я) ® fxx (X)ri). (8.8.2) Из упр. 4.8.2 следует, что отдельные элементы матрицы А{Т) (К) являются асимптотически комплексными нормальными величи- величинами; такое предположение высказал Parzen A967a—с). Тео- Теорема 8.8,1 имеет
8.9. Доверительные области- для предложенных оценок 337 Следствие 8.8.1. При выполнении условий теоремы 8.8.1 асимптотически нормальны те функции от А(Г)(Я), geP(X), #(/V M» для которых нешрождены матрицы, составленные из а Ь первых производных. В частности, можно сделать вывод, что log Gip (Я) имеет асимптотически нормальное распределение с дисперсией [1 + т| {2Щ [ | RYaXyX> W |-1] BjlT-*n J W (осJ da. (8.8.3) Величина ф^ (К) асимптотически лормальна с дисперсией {а)Ыа (8.8.4) я log GeP W» ФаР М асимптотически независимы при а— 1, ..., s; 6=1, ..., г. Величина arth | #(/V .x (^) | также асимптотически нормальна с дисперсией [1 + т| {2Я}] Б^Г-1^ J W (aJda, (8.8.5) а, 6=1, .... s, и, если s=l, arth | R(xy (К) \ асимптотически нор- нормальна с той же дисперсией (8.8.5). Рассмотрение преобразова- преобразований, стабилизирующих дисперсию [Kendall, Stuart A968, стр. 93)], показывает, что распределение преобразованной величины может быть ближе к нормальному, чем до преобразования. Мы приме- применим преобразованную величину при построении доверительных интервалов для когерентностей в следующем параграфе. Отметим, что предельное распределение для А(Г)(Х), приве- приведенное в теореме 8.8.1, согласуется с результатом теоремы 8.5.1 при больших т, если отождествить 2т + 1 = —-—^ = сВтТ . (8.8.6) 2л V Г<г> (aJ da 2n\>W (аJ da Распределения других величин также согласуются, так как рас- распределение Уишарта при большом числе степеней свободы близко к нормальному. 8.9. Доверительные области для предложенных оценок Асимптотические распределения, рассмотренные в предыду- предыдущем параграфе, можно использовать при построении доверитель- доверительных областей для изучаемых параметров. В этом параграфе мы пользуемся отождествлением (8.8.6).
338 8. Анализ соотношений между двумя стохастическими рядами Начнем с построения приближенной доверительной области для АаЪ(К). Пусть Хф0(modя). Выражение (8.5.11) приводит к тому, чтобы в качестве аппроксимации распределения величины (8.9.1) lBm+ взять распределение t$Bm+1_n\ здесь 4r(r)(X) = f/x (Я)-1. Это при- приближение может быть использовано, как и в § 6.9, для построе- построения доверительной области либо для {Т(еАаЬ(Х)9 1тАаЬ(Щ, либо для {log Gab (А,), - фаЪ (Щ. При Х = О (mod я) распределение (8.9.1) аппроксимируется faBm_r). Если обозначить а-ю строку матриц А(Г) (К) и А (К) соответ- соответственно через А(аТ) (X), Аа (К), то доверительную область для Аа (К) можно получить, аппроксимируя распределение {Bт +1) [А/' (Я) -Ао (К)] ГРх W [А^Г) (Я) -Аа (А,)р/2г}//</) (Ц а а . (8.9.2) распределением F2r, 2 <2m+i -г) в случае Хф 0 (mod я). В упр. 6.4.17 указывается способ построения приближенных совместных дове- доверительных областей для всех линейных комбинаций элементов из Ав (Л). Тем самым мы приходим к 100|3-процентной довери- доверительной области вида Ц-АаЬ(К) |2 <2F2,; 2'<2« + i-r) (P) Bm+ 1) Y6b (Я)^г (X), (8.9.3) 6 = 1, ..., Л если Кф 0 (mod я). Ее можно преобразовать в сов- совместную доверительную область для фаЬ (X), logGab(h),b=\> ..., г, по методу упр. 6.9.11. Рассматривая f8€(X), можно заметить, что параметры /8 8 (X), l^a^fe^s, алгебраически эквивалентны параметрам fEaSa (X), а=1, ..., s; /?увуь^И, l<a<fc<s, для которых мы и ука- укажем доверительные интервалы. Теорема 8.5.1 предлагает взять в качестве приближения к распределению g<?8a (ty/haea W ПРИ ^ ^ ° (mod я) распределение %!Bт+1-г)/{2 Bт+1 —г)}, а при Х = 0(modя) — распределение llm-rl{%m—г\- Доверительные интервалы для feaea(fy можно построить с помощью этих приближений по аналогии с выра- выражением E.7.5).
8.9. Доверительные области для предлоясенных оценок 339 1.0, .9 .8 ..7 .6 .5 .4 ее .2 .1 .05 ю .05 .1. .2 .3 .4 .5 .6 .7 .8 .9 1.0 Рис. 8.9.1. 80-процентные доверительные интервалы для когерентностей. Индексы у кривых соответствуют числу усредненных периодограмм. В случае одного RYaYb-x(k) рассмотрим, ориентируясь на теорему 8.8.1, 100A—а)-процентный доверительный интервал: arth | #<Ру&х (X) | + ([1 + г, {2Щ В^Т-Чп J W (a)» da)^ г (| < arth arth X - ([1 ?). (8.9.4) Можно было бы в качестве альтернативы найти распределе- распределение комплексного аналога коэффициента корреляции при умень- уменьшенном на г объеме выборки, воспользовавшись таблицами Amos, Koopmans A962), или построить с помощью этих таб- таблиц кривые рис. 8.9.1 и 8.9.2. В случае множественной когерентности можно рассмотреть
340 8. Анализ соотношений между двумя стохастическими рядами 10 .9 .8 .7 .6 .5 .4 c4rii. r Я Л •05 г ь 10 _—-z^* ^/ ¦ ^^ // У/ /// / II11 / / А /// // t/ // / .11 1 1Г щ =¦ ?1 // / ч 1 и 1 .05 Л .2 .3 .4 .5 .6 .7 .8 .9 1.0 Рис. 8.9.2. ЭД^Процентные доверительные интервалы для когерентностей. Индексы у кривых соответствуют числу усредненных периодограмм. приближенный 100 A —а)-процентный доверительный интервал: arth | R\ft (Я) | + ([1 + т) {2Щ W (a)« da 1/2 г (| (8.9.5) Имеется и другая возможность—обратиться .к таблицам Alexan- Alexander, Vok A963). Доверительные области, типа рассмотренных выше, определя- определялись в работах Goodman A965), Enochson, Goodman A965), Akaike A965), Groves," Hannan A968). Если |/?1/Х(Я)|? = 0, Хф 0 (mod я), то приближенная ЮОа-процентная точка |/?'/^ (k)f задается элементарным выражением 1—A—аI/2; см. упр. 8.16.22.
8.10. Оценка коэффициентов фильтра 341 8.10. Оценки коэффициентов фильтра Допустим, что (г + 5)-мерный ряд (8.1.1) удовлетворяет соот- соотношению / = 0, ±1, ..., в котором e(t), t = Oy ±1, ...,—стационарный ряд, не зависящий от X(t). В соответствии с теоремой 8.3.1 рассмотрим зависящие от времени коэффициенты а (и) = Bл)-1 J A (a) exp {iua} da, (8.10.2) где А (Л) = !„(*)!„ (Л)-1. Пусть А(Т)(Х)— рассматривавшаяся в этой главе оценка А (Я). Для оценки а (и) можно использовать статистику а(Г)(«) = Рг1 2 A™ Bnp/PT)exp{i2npu/PT\t (8.10.3) где Рг—последовательность целых чисел, стремящаяся при 7—>оо к оо. Можно было бы предположить, что распределение а(Г) (и) цен- центрировано вблизи 2 ехр {12яр/РТ\. (8.10.4) Обсуждение результата теоремы 7.4.2 показывает, что распреде- распределение э1Ъ сосредоточено вблизи рт-\ Pfl 2 ABnp/PT)exp{i2npu/PT}9 (8.10.5) если параметры fKJf(a), f^x(a) мало меняются на промежутках длины О(ВГ). Выражение (8.10.5) можно переписать в виде а(и)+ 2 а(« + ^Яг), (8.10.6) кф 0 тогда оно будет близко к интересующему нас а (и), если коэф- коэффициенты фильтра достаточно быстро убывают к 0. Это замеча- замечание наводит на мысль, что в данном случае особенно полезной должна оказаться предварительная фильтрация.
342 8. Анализ соотношений между двумя стохастическими рядами Занявшись затем вторыми моментами, можно ожидать на ос- основании (8.7.1), что cov{veca(T)(i/), vecam(i>)} 2 X exp {i2np (u—v)/PT\ Вт1Т-г2п J W(aLa PfB^T-1 J W{aLa to(i/ — v)} da, (8.10.7) при условии, что Рт не слишком велико. В действительности справедлива Теорема 8.10.1. Пусть (г + s)-мерный ряд (8.1.1) удовлетворяет (8.10.1), причем для независимых рядов Х(/), e(t) выполнено ус- условие 2.6.2 A). Предположим еще, что fxx(ty невырожденна и имеет ограниченную, вторую производную. Пусть W (а) удовлет- удовлетворяет условию 6.4.1. Определим Ат (Я) формулой (8.6.5) и а.т(и) формулой (8.10.3), а^=0, ±1, ... . Если РТ—+оо и PTBT^l, P1T+eBf1T~1—>0 при некотором г > 0, то величины ат (ах), ..., а(Л (Uj) асимптотически совместно нормальны, имеют средние (8.10.4) и ковариации (8.10.7). Заметим, что в первом порядке асимптотическая ковариаци- ковариационная матрица для vecaG)(a) не зависит от и. Можно было бы оценить ее величиной рт-\ ' ( рт-\ (af da, (8.I0.8) где ё(е1у(Ц определена в (8.6.8). Если W{T) (X) обозначает flpx (Я)-\ а (8 10 9^ то можно выписать такой приближенный 100A—а)-процентный доверительный интервал для a/k(u): 2я J W (а)Ча}1/2 г (| \W(aLa)ll2z (|). (8.10.10)
8.10. Опенки коэффициентов фильтра 343 Если положить РТ = Втху то асимптотическая дисперсия будет порядка Т~1. Hannan A967a) рассмотрел оценку а (и) в- случае, когда а(у)=0 при достаточно больших v, и для ряда ошибок г @, ?=0, ±1, ..., являющегося линейным процессом. Wahba A966, 1969) рассматривал гауссовский случай при фиксированном Р. Представляют также интерес и оценки г.(и), и = 0, ±1, ..., с наименьшим квадратичным уклонением, полученные минимиза- минимизацией суммы квадратов Т-р-1 /Г q \ V tr( < Y (Л—jul— 2 а(и)Х(* — и)} x|y@ —F*- S a(u)X(t — u)Vj (8.10.11) при некоторых р, q^O. К изучению этих оценок приходим, рассматривая модель ), (8.10.12) ^ = 0, ±1, ... . Здесь мы предполагаем, что |и — неизвестный s-мерный вектор; а — неизвестная sxr-матрица; Х@, / = 0, ± 1, . • •» — наблюдаемый стационарный r-мерный векторный ряд, а е@, ^ = 0, ±1, ..., —ненаблюдаемый стационарный s-мерный ряд ошибок, имеющий матрицу спектральной плотности !88(Я), — оо < Я< оо и Ее @ = 0. Ряд Y@, t = 0, ±1, ..., предпо- предполагается наблюдаемым. Если в нашем распоряжении имеется отрезок значений ГУ ( + \Ч f = 0, ..., Г—1, (8.10.13) то возникает задача оценить (а, а и fe8(^), — оо < Я< оо. Рамки модели (8.10.12) шире, чем могло бы показаться на первый взгляд. Например, возьмем модель 2 a(u)?(*-u)+e(*), (8.10.14) где t = 0, ±1, ... и 3t@ —это стационарный r'-мерный вектор- векторный ряд, а ряд е@ независимый от него и стационарный. Можно придать этой модели форму (8.10.12), полагая по определению (8.10.15)
344 8. Анализ соотношений между двумя стохастическими рядами ¦X(t + py (8.10.16) t = 0, ± 1, ... . Введенные матрицы имеют размеры s х г' (р + q — 1) и /-'(р + ^ —1)х1 соответственно. Частным случаем модели (8.10.14) является схема авторегрессии - 1)?(t-q) + e(t), -(8.10.17) в которой ?(/), / = 0, ±1, ..., является процессом белого шума с нулевым средним. Поэтому приведенные ниже результаты можно использовать для получения оценок и их асимптотических свойств для моделей (8.10.14) и (8.10.17). Располагая набором значений (8.10.13), получаем оценки |л(Л, а(Г) величин |л и а, имеющие наименьшее квадратичное уклонение: ?> • (8.10.18) ). (8.10.19) В качестве оценки fee (Я) можно рассмотреть (-?) Iff! (т-$). (8.10.20) где е (t) является остатком, определяемым формулой e@ = Y(/)-|i(r>-aB>>X@, <=0f-±l, .:. . (8.10.21) Для этих оценок справедлива Теорема 8,10.2. Пусть s-мерный векторный ряд Y(/), t = 0, ±1» ..., представим в виде (8.10.12), где г-мерный ряд Х(/), ? = 0, ±1, ..., удовлетворяющий условию 2.6.1, имеет автоковариационную функцию схх(и)9 и = 0> ±1, ..., матрицу спектральной плотности fxx(Я), — оо < Я< оо, и где e(t), / —0, ± 1, ..., — независимый с Х(/) s-мерный ряд, удовлетво- удовлетворяющий условию 2.6.1, с матрицей спектральной плотности he М = [fab (Щ\ I1 u Si —матрицы размера sxl и sxr. Пусть |х<™ и ахТ) определены согласно (8.10.18) и (8.10.19), a ftp(X) = = \}$> (Щ задается формулой (8.10.20), где W (а), —оо <а< оо,— удовлетворяет условию 5.6.1 и ВТТ—+оо при Т—>оо. Тогда jm<r) распределена асимптотически как Ns(ti, T'-12^f8e@)); величи- величина vecaG) асимптотически независима и распределена как
8.10. Оценки коэффициентов фильтра 345 Nrs (vec a, 2яГ-1 J fee (a) ® [е„ @)-Ч„ (а)с*х @)-*}**). того, g^ (А) асимптотически независима и нормально распреде- распределена с Egg> (Я) = J Г (а) fм(Я-ВД doc + О (ВТ) + О (ВрТ-*) (8.10.22) Т -+ оо = [2я $ ^ (аJ da] [г, \Хг ^ axd% ' (8.10.23) Асимптотическое распределение для g^ (^) оказывается тем Же самым, что для f^ (А,),1 введенной непосредственно по ряду оши- ошибок е(^), < = 0, ±1, .... В случае модели (8.10.14) предельные распределения будут вовлекать параметры @)- 'С зга (°) @) (8.10.24) ехр exp{—t . (8.10.25) Если e(t)9 / = 0, ±1, .-., является белым шумом с матри- матрицей спектральной плотности f8e (Я) = Bя)~12, —оо < А, < оо, то теорема 8.10.2 показывает, что vec[a(r>(—р), ..., а(Г) (q)] будет асимптотически нормальным со средним vec[a(—р), ..., a(q)] и ковариационной матрицей Т1 S(g) cxx (О). Отсюда получается асимптотическое распределение для оценок параметров в схеме авторегрессии, имеющих наименьшее квадратичное уклонение. В § 6.12 мы рассмотрели соответствующие результаты для фик- фиксированного ряда Х(/). Можно было бы рассмотреть здесь и аналог „наилучшей" линейной оценки F.12.11).
346 8. Анализ соотношений между двумя стохастическими рядами 8.11. Оценки отклонений, имеющие место с вероятностью 1 В § 7.7 мы изучили отклонение спектральной оценки от ее математического ожидания при Т—>оо. Этот результат можно применить при выводе ограничений для отклонения А(Г) (Я) от {Ef(yi(X)}{Ef(xx(^)}. Можно также найти границу отклонения А(Г) (X) от А (X) и оценить отклонение других введенных ранее статистик от соответствующих оцениваемых параметров. Точнее справедлива Теорема 8.11.1. Пусть (r + s)-Mepnbiu векторный ряд (8.1.1) удовлетворяет условию 2.6.1, и выполнены предположения теоре- теоремы 8.6.1. Пусть DT=(BTTyi2BET при некотором е > 0 и^В1? < оо при некотором fn > 0. Тогда при Т—>оо почти наверное A^(^) = {Ef»W}{Ef5riW}^ + O(Df1). (8.11.1) Кроме того, k™(b)=k(%) + O(BT) + O(Df1), (8.11.2) Щ' (Ц = Фу* (*) + о (вТ)+о (Dfh (8:rt .a) (8.11.4) (8.11.5) ), (8.11.6) = I Ryx (Я) |2 + О (Вт) + О (D?1) (8.11.7) почти наверное при Т—+оо для — сх)<А,<оо, / = 1, ..., s; k=l, ..., г. Величины, входящие в О(-), допускают оценки, равномерные по X. Из этой теоремы вытекает, что если ВТ, Df1—*Q при Т—*оо, то рассмотренные статистики являются сильно состоятельными оценками соответствующих параметров. 8.12. Дальнейшее обсуждение Статистики, которые рассматриваются в этой главе, в общем случае комплексные. Поэтому никаких трудностей не возникает, если имеются программы для ЭВМ, рассчитанные на обращение с комплексными величинами. Однако зачастую это не так, по- поэтому стоит отметить, что можно вычислять статистики с по- помощью программ, обрабатывающих действительные величины. Например, возьмем оценку комплексного коэффициента регрессии (8.12.1)
8.12. Дальнейшее обсуждение 347 Применив операцию, описанную в § 3.7, получим А(Г) (Я)« = Гтк (Х)« ppx (l)R}-i, (8.12.2) Взяв первые s строк в (8.12.2), получим набор уравнений, вов- вовлекающих только действительные величины: 1тА(Г)(Л)] = [Refl&(A.) Imf^(X)] J ( } Основное усложнение, связанное с такой редукцией, состоит в удвоении размерности вектора X. Другой подход к уравнению (8.12.1) можно предложить на основе упр. 3.10.11. Можно'также выписать статистики — выборочные аналоги вы- выражений (8.4.13) и (8.4.14) —и определить спектральную плот- плотность ошибки, частную когерентность и множественную когерент- когерентность. • Далее упомянем интересные аналоги в частотной области сле- следующих важных проблем, которые можно назвать так: ошибки в исходных переменных и системы одновременных уравнений, тип которых описывается ниже. Предположим, что ряд Y (t), t = 0, ±1, ..., задается фор- формулой 2 (8.12.4) где r-мерный ряд 3t(t), t = 0> ±1, ..., непосредственно не на- наблюдаем, а е(/), / = 0, ±1, ..., —ряд ошибок, не зависящий от 2i(t). Будем, однако, считать, что наблюдаем ряд 0 (8.12.5) ит)(/), 7 = 0, ±1, ..., —это ряд ошибок, не зависящий от X(t). Проблема оценки ji и {а(^)| в подобной ситуации—„это пробле- проблема ошибки в исходных переменных. Имеется значительная лите- литература, посвященная этому вопросу для рядов с нулевой сериаль- сериальной корреляцией; см. например, Durbin A954), Kendall, Stuart A961). Если рассматриваемые ряды стационарные, то можно написать (Щ1Т(Щ (Щ (8.12.6) (8.12.7) причем указанные величины почти некоррелированны при раз- разных s. Благодаря этой слабой корреляции мы можем теперь
348 5. Анализ соотношений между двумя стохастическими рядами попытаться найти подход к проблеме ошибок в исходных дан- данных, применяя различные классические процедуры. Решение нашей задачи (8.12.4) —(8.12.5) будет связано с нахождением отдельных ошибок в переменных для каждой из частот Я, при- принадлежащих промежутку [0, я]. Пожалуй, самые красивые результаты получаются, когда наряду с рядами Y(/), X(/) доступен анализу r-мерный вспомо- вспомогательный ряд Z(t)y t = 0, ±1, ... • Этот ряд коррелирован с X(t)> t = 0, ±1, ..., но некоррелирован с рядами е(?) и r\(t). В стационарном случае из выражений (8.12.5) и (8.12.4) получаем frz(*) = A (*)!«(*). (8.12.8) Статистику A^^^f/i^fjaw-1 (8.12.9) можно предложить в качестве оценки для А (Я). Об этой проце- процедуре см. Hannan A963a) и Parzen A967b). Akaike A966) пред- предложил процедуру, полезную, если ряд t\(t) — гауссовский, а Зс (t) — негауссовский. Различные модели в эконометрике приводят к системам од- одновременных уравнений, имеющих вид 2а(* —и) Y(K)=2b(f —k)Z(k) + b@, .(8.12.10) где Y (/), е(/) есть s-мерные векторные ряды, a Z(t) есть г-мер- ный ряд, не зависящий от e(f)\ см. Malinvaud A964). Модель вида (8.12.10) называется системой структурных уравнений. Ода отличается чрезвычайной общностью, становясь, например, водном случае схемой авторегрессии, а в другом—линейной системой ?@ = 2а(*-и)Х(н) + е@ (8.12.11) и с коррелированными рядами X (t), s{t). Эта корреляция может быть обязана наличию в системе обратной связи. В эконометри- ческих задачах часто интересуются оценкой коэффициентов от- отдельного уравнения системы (8.2.10), и целый ряд таких проце- процедур был предложен Malinvaud A964) в случае отсутствия се- сериальной корреляции. В стационарном случае можно выписать выражение Щ, (8.12.12) взяв 2ns/Ty близким к Я, с переменными, почти некоррелирован- некоррелированными при разных s. Ясно, что для оценки интересующих нас коэффициентов можно применять к системе (8.12.12) комплексные аналоги различных эконометрических оценок. Процедуры эти
8.13. Другие типы оценок 349 связаны с исследованием системы одновременных уравнений по от- отдельности в ряде узких частотных полос. Brillinger, Hatanaka A969) записали систему (8.12.10) и предложили провести ее час- частотный анализ. Akaike A969) и Priestley A969) рассмотрели проблему получения оценок для систем с обратной связью. Как отметил Durbin A954), модель для ошибок в переменных (8.12.4) и (8.12.5) с вспомогательным рядом Z(t) может изу- изучаться в рамках одновременных уравнений. Мы просто запишем эту модель в такой форме: (8.12.13) (8.12.14) и будем рассматривать пару Y (t), X(t) как Y (t) из (8.2.10). 8.13. Другие типы оценок Построенные нами оценки прироста амплитуды, фазы и коге- когерентности в каждом случае являлись выборочными аналогами соответствующих параметров генеральной совокупности. Напри- Например, мы определили i5iL (8'13Л) а потом построили оценку 'S'^ ' (8.13.2) Но в ряде случаев может оказаться предпочтительнее не столь прямой образ действий. Например, выражения (8.6.11) и (8.6.13) показывают, что асимптотическое смещение имеет место для С(П(Я),если спектры frx(a) и fxx(a) будут не слишком мало меняться при а, близ- близких к Я. Таким образом, если возможно, то следует предвари- предварительно профильтровать X (t) и Y (t), чтобы получить ряды, для которых спектры второго порядка почти постоянны. Следует оценить прирост амплитуды для этих профильтрованных рядов и построить оценку G(k). С другой стороны, выражение (8.7.14) показывает, что X [I Ryx (*>) |~2- 1] Bf'T-'n \ W (а)Ча + 0 (Bj2T~*). (8.13.3)
350 8. Анализ соотношений между двумя стохастическими рядами 8.13.1. График Ф(Г) (к)—оценки фазового угла между рядом средних месячных температур (без сезонной составляющей) в Берлине и аналогичным рядом для Вены, умноженным на —1. При оценке усреднено 15 периодограмм. Тем самым, если | RYX (к) |2 как функция 4, будет близка к кон- константе, можно провести дальнейшее сглаживание и оценить log G (i) величиной N BN+1)-1 2 \ogG{T)(X+nkT) (8.13.4) n=-N при некоторых N> Ar, построив Gm (а) по методу § 8.6. Отметим, между прочим, возможность оценить C(ЯJ в соот- соответствии с (8.4.18) величиной ( } "i. (8.13.5) В упр. 8.16.12 показано, что такая процедура приемлема не всегда. В качестве оценки фазы Ф(Х) мы предложили ф<г>(Я) = агё7й(Я). (8.13.6) Выражение (8.6.12) показывает, что Ефт(Х) является главным образом результатом нелинейного усреднения фазы 'с неравными весами. Это обстоятельство побуждает нас проводить, если это возможно, до оценивания фазы предварительную фильтрацию рядов, сглаживающую колебания кросс-спектра. С другой стороны, можно было бы рассмотреть нелинейные оценки, которые не так чувствительны к изменениям весов. На-
8.13. Другие типы оценок пример, можно работать с оценкой вида S p{g/^( + r)}) (8.13.7) \ n=-N J или вида . (8-13.8) л=-ЛГ Вычисляя значения arg/(/x (Х + яДГ) при построении оценки (8.13.8), необходимо быть внимательным, поскольку фазовый угол определен лишь с точностью до кратного 2я. Эта неопределенность вызывает трудности и при графическом представлении Ф(Г) (X). Можно получить совершенно неправильную картину, если Ф(к) быстро меняется или если велика D Фт(Х). Например, на рис. 7.2.5 показан график оценки фазового угла между рядами средних месячных температур в Берлине (с се- сезонной поправкой) и Вене, построенный по кросс-периодограмме. Интерпретировать этот график трудно, потому что, когда фаза испытывает небольшой скачок, скажем от л—е к зт + е, оценка фт (X) изменяется от я —е до —я —е, если изображать ее в промежутке (—я, я]. Один из способов уменьшить влияние этого эффекта — рисовать график каждой фазы дважды, выбирая два ее значения в промежутке (—2я, 2я]. Картинка особенно улучшится, если истинная фаза близка к я. Например, на рис. 8.13.1 изображена оценка фазы, соответствующая усреднению 15 периодограмм между средними месячными температурами с сезонной поправкой в Берлине и отрицательными значениями • таких средних температур для Вены, когда за область измене- изменения Ф(Г) (к) принят промежуток (—я, я]. Если, как предлагалось, увеличить эту область изменения до (—2я, 2л], то получится рис. 8.13.2. Tukey рекомендовал строить график для значений в промежутке [0, я] и при этом пользоваться разными значками или линиями для различения фаз с главной областью изменения (я, 2я] и фаз, принимающих значения в [0, я]. Если так изо- изобразить данные, относящиеся к Берлину и Вене, то получится рис. 8.13.3. Имеется другая возможность — строить график оценки груп- группового запаздывания, см. выражение (8.4.27). Тогда не возникает затруднений с произвольными добавками 2я. Вообще говоря, выбор лучшего графика, по-видимому, зависит от Ф(Х), нахо- находящихся в распоряжении исследователя. Обратимся теперь к другим оценкам когерентности. Смещение l^rxMI2 можно уменьшить, если провести предварительную фильтрацию фильтруемого ряда, а затем алгебраически вывести оценку когерентности.
2тт -7Г -27Г /у "V T\/ V v vv Vy/ vv \/ rv у ч/ V л/ v v yv w W/v vv v\ w . 8.13.2. Другой способ представить данные, приведенные на рис. 8.13:1 (областью изменения <?<г> (Л) служит отрезок [—2л, 2л]). ^ Рис. 8.13.3. Еще один способ изобразить данные, приведенные на рис. 8.13.1 (жирная линия соответствует значениям ф(т> (К) из промежутка [л, 2л]).
8.13. Другие типы оценок 353 Но можно использовать свойства преобразования arth, ста- стабилизирующего дисперсию, и по аналогии с выражением (8.13.4) рассмотреть оценку arth| RYx.(^)\'- N BЛГ + 1)-* 23 атЩЯТх(к + п&Т)\. (8.13.9) п= -Л/ Отметим, что воздействие этого преобразования проявляется в увеличении значений \RYx(a)\> близких к 1, при малом влия- влиянии на значения, близкие к 0. Высокие когерентности поэтому будут взвешены сильнее, если построить оценку (8.13.9). На рис. 8.13.4 изображен график \RYx(k)\2 для упоминавшихся рядов берлинских и венских температур, построенный на основе спектра второго порядка вида (8.5.4) при т = 7. На графике .8.13.5 для (8.13.9) величина | Ryx (a) I определена по спектру второго порядка вида (8.5.4) при т = 5, затем положено N=^2. Тем самым для двух последних графиков оказываются сравнимы полосы частот и стабильности. Заметно, что пики кривой на рис. 8.13.5 менее зазубрены, чем пики на рис. 8.13.4. Нелиней- Нелинейная комбинация коэффициентов корреляции рассмотрена в рабо- работах: Fisher Mackenzie A922) и Rao A965), стр. 365. Tick A967) приводит доводы в пользу того, что |/Vx(a)|2 может быть близок к константе, в то время как fYX (а) не близок. (Такой случай представится, если Y (t) = X (t — и) при большом и.) Он затем приходит к оценкам вида (8.13.10) 21/?И+гI2 l — N — N и предлагает также оценки вида BЛГ+1)~*2 1ЯЙ(Я + лДг)|\ (8.13.11) если \RYx(a)\2 близок к константе, а спектр второго порядка не обладает таким свойством. Jones A969) рассматривал оценку максимального правдопо- правдоподобия |/?юг (Я) |2, основанную на маргинальном распределении величин fix (Я), /ук(Я) и |fyxW|2> выводя его из предельного распределения теоремы 8.5.1. Нельзя переоценить важность применения какой-либо из форм предварительной фильтрации рядов до оценки их параметров, рассмотренных в этой главе. В § 7.7 мы убедились в необходи- необходимости такой процедуры при оценке кросс-спектра двух рядов. Тем более следует применять ее, оценивая комплексный коэф-
354 8. Анализ соотношений между двумя стохастическими рядами Рис. 8.13.4. График | R{yx М I2—оценки когерентности рядов среднемесячных температур (без сезонной составляющей) в Берлине- и Вене. При оценке усред- усреднено 15 периодограмм. (По горизонтали — частоты в цикл/месяц.) l.Or 0.9 .4 Х/Ы Рис, 8.13.5. Оценка когерентности, основанная на выражении (8.13.9), при /тс = 5, N = 2 для рядов температур в Берлине и Вене. (По горизонтали — час- частоты в цикл/месяц.)
8.14. Рабочий пример 355 фициент регрессии, когерентность и спектр ошибки. Akaike, Yamanouchi A962) й Tick A967) выдвинули убедительные аргу- аргументы в пользу предварительной фильтрации. В частности, имеется много физических примеров, в которых непосредствен- непосредственная обработка данных приводит к оценкам когерентности, близ- близким к 0, в то время как физические соображения показывают, что соответствующие параметры не близки к 0. Техника пред- предварительной фильтрации обсуждается в § 7.7, простейшим при- приемом является запаздывание одного ряда относительно другого. 8.14. Рабочий пример В качестве примера, иллюстрирующего вычисление оценок в случае г = s = 1, читателю предлагается рассмотреть ряды среднемесячных температур Берлина и Вены, уже фигурировав- фигурировавшие в гл. 6 и 7. Спектры и кросс-спектры этих рядов изобра- изображены на рис. 7.8.1—7.8.4. Оценки совпадают с (8.5.4) при т= 10. На рис. 6.10.3 приводится график g&ik), на рис. 6.10.4 — ЯеАт(Х), на рис. 6.10.5-Im A'T) (Я), на рис. 6.10.6—G(T) (Я), на рис. 6.10.7—Ф1Т) (К) и на рис. 6.10.8 —|/?(й (Я) |2. Наконец, рис. 6.10.9 изображает а{Т)(и). Оценки стандартных отклонений этих статистик даны в § 6.10. Пример, соответствующий случаю г =13 и s=l, можно по- почерпнуть из § 6.10, где представлены результаты частотного анализа, типа того, который обсуждался здесь: ряд Y (t) соот- соответствует среднемесячным (с сезонной привязкой) температурам в Гринвиче (Англия), a \{t) — таким же температурам в 13 дру- других пунктах. На рис. 6.10.10 изображены приросты G(aT) (Я) и фазы ф{р (Я). Рис. 6.10.11 представляет график логарифма спектра ошибки, т.е. lggge*^)- На рис. 6.10.12 показана множественная когерентность | Ryx (Ц I2- 8.15. Применения материала настоящей главы Использование техники этой главы теснейшим образом пере- переплетается с применением анализа, изложенного в гл. 6. Мы уже отмечали, что многие из введенных здесь статистик те же самые, что и в гл. 6, однако главное отличие в сделанных допущениях заключается в том, что ряд X (/), / — 0, ±1, ..., теперь счи- считается стохастическим. Следовательно, статистические свойства, рассмотренные в этой главе, соответствуют средним по прост- пространству всех реализаций X(t), в то время как в гл. 6 —это свойства конкретных реализаций.
356 8. Анализ соотношений между двумя стохастическими рядами Одной из областей исследований, в которой X (t) желательно считать Стохастическим,—это статистическая теория фильтрации и прогнозирования. См., например, Wiener A949), Солодовников A952), Lee A960), Whittle A963a) и Robinson A967b). Опти- Оптимальные прогнозы лучше всего строить, используя пространство всех возможных реализаций X(t), и статистические свойства эмпирических прогнозов связаны с этой обширной генеральной совокупностью. Читатель может вернуться к § 6.10, где перечислены ситуа- ситуации, в которых были вычислены различные статистики этой главы. В действительности авторы перечисленных там статей обычно вводили статдстики, полагая X (t) стохастическим рядом. Brillinger, Hatanaka A970), Gersch A972) оценивают частные когерентности и спектры. Очевидно, что выбор X (t) детерминированным или стохасти- стохастическим связан с выбором генеральной совокупности, на которую мы хотим распространить выводы, основанные на изучении за- заданной выборки. К счастью, как мы видели, практическая сто- сторона действий в этих двух случаях не слишком различается, если объем выборки велик. 8.16. Упражнения 8.16.1. При условиях теоремы 8.2.2 и при s=l докажите, что Ф (X) яв- является функцией с конечными вторыми моментами, имеющей максимальную корреляцию с Y\ см. Rao С. R. A965, стр. 221) и Brillinger A966а). 8.16.2. Докажите, что при выполнении условий теоремы 8.2.2 условное распределение Y при заданном X — многомерное нормальное распределение со средним (8.2.14) и ковариационной матрицей (8.2.16). 8.16.3. Пусть AYx(k)- обозначает комплексный коэффициент регрессии Y (t) на ряд X (/), a Аху(Х) обозначает комплексный коэффициент регрессии X (t) на Y (t) при s = r=l. Покажите^ что Следовательно, А%у (^) — ^кх(^) только в том случае, когда когерентность между X (t) и Y (t) равна 1. 8.16.4. Если А (К)—комплексный коэффициент регрессии Y (t) на ряд X (t) — постоянен при всех X, то покажите, что он равен обычному коэффици- коэффициенту регрессии Y (t) на X (/). 8.16.5. Пусть р@> ^==0, ± 1, ..., — белый шум, т.е. стационарный вто- второго порядка процесс с постоянным спектром мощности, а X (t)=2jUb (t — и) р(йO %(t-u)p(u). Определите А (X), ф (Я), G (Я), RYxQ>) и 8.16.6. При условиях теоремы 8.3.1 и при s= 1 докажите, что | Ryxft) |2=Ь — оо < X < со, тогда и только тогда, когда Y(/) получается из X (t) приме- применением линейного фильтра. 8.16.7. Пусть выполнены условия теоремы 8.3.1 и s = r— 1. Определите когерентность между Y (t) и его наилучшим линейным прогнозом, основанным на X (/). Найдите также когерентность между рядом ошибок 8 (t) и X (t).
8.16. Упражнения 357 8.16.8. При предположениях предыдущего упражнения докажите, »что Ryx(^) и 1^кх(^I2 окажутся преобразованиями Фурье абсолютно суммируе- суммируемых функций, если fxxft) Ф 0» /гк(^) 5* О, — оо < Л < со. 8.16.9. Если Y(t) = XH(t), то докажите, что Ф'(к)=п/2. Найдите Ф (X) в случае Y(t) = XH (t — и), где и—целое. 8.16.10. Докажите, что [сог { X (О, Y (О}]2 - сух @J/ta @) cYy @).] <: а при г = $=1. 8.16.11. Докажите, что | fyx (Я) |2 = /jfi (Я) /у? (X), и поэтому | /ух (^) |2/[/х^ (^) /уу (Я)] при r = s= 1 не является приемлемой оценкой для 8.16.12. Докажите, что так что [fyy (k)/f(xx (^)J1^2, как правило, не будет хорошей оценкой для G (К) при r = s=\. 8.16.13. Выясните, почему X (t) и Y (t) могут иметь когерентность 1 и тем не менее при этом не обязательно | Ryx (^) I2— I- 8.16.14. Допустим, что мы.оценили матрицу спектральной плотности вторым выражением в (8.5.4) при т = Т—1. Покажите, что А<г>(Х) = сУГх@)с$с@)-1, и если г — s = 1, то f Рассмотрите, какое воздействие на эти выражения окажет предварительное запаздывание Y (t) на и единиц времени по сравнению с X (t). 8.16.15. Если выполнены предположения § 8.6 и W(a)^0, а r = s=l9 то докажите, что | Ryx 8.16.16. При условиях теоремы 8.7.1 и r = s== 1 докажите, что lim BTT D Re Л^> (X) = lim БгтЪ Im Г 7 = [ 1 + т] {2Х} ] /кк (X) fxx (X) -М1 -1 RYX (X) |«] n J IF («)• da, в то время как ]imBTT~cov{ReAM{X), Im A<T> (Щ =0. Т-Уоо 8.16.17. Пусть к предположениям упр. 8.16.16. добавлено условие Покажите, что /хх(Я,) ВтхТ^п J
358 8. Анализ соотношений между двумя стохастическими рядами 8.16.18. Пусть выполнены условия теоремы 8.8.1 и, кроме того, r — s=l. Покажите, что Ф<г> (X) асимптотически равномерно распределена на (— п, зг], если fYX (К) ф 0. 8.16.19. Получите выборочные аналоги ряда ошибок 8 (/) и выражения (8.3.8). 8.16.20. При условиях теоремы 8.7.1 покажите, что при r = s==l сот { Re RTx (Ц, Re Ryx (ji)} = [ц {Я-ц} + r\ {X + ц}] ,Х ll- cov {Re tf(/x (X), Im tf Й (|i)} =-[т) {X—ц}—т X[Re Лгаг (Я) ] [Im Ryx&>)] П~1 «ra(M I2] В^Т~Ы J Г (a)* X [1 -(Im 8.16.21. Проверьте, что в отличие от безусловного значения 4Ryx A —Ryx)In {Hooper A958)] условная дисперсия квадрата выборочного коэффициента мно- множественной корреляции при заданных значениях X приближенно равна 2RyxB-Ryx)A-Ryx) п р если выполнены условия теоремы 8.2.3. 8.16.22. Для случайной величины с плотностью распределения (8.2.56) проверьте, что E\Ryx\2 = r/n и 2 /=о при 0 < х < 1; см. Abramowitz, Stegun A964, стр. 944). Если г=1, отсюда вытекает простое выражение для ЮОа-процентной точки \Ryx\2:x==z ==l_(l_a)i/(«-i). 8.16.23. Покажите, что множественная когерентность длярядаУ(/) с дей- действительными значениями и векторного ряда X (t) не изменится при невырож- невырожденной линейной фильтрации каждого из рядов по отдельности. 8.16.24. Получите следующие разложения по степеням малых параметров а, р, V' 8: )___b Ь j p а b) с) [ас]1/. ас ^ ас
8.16. Упражнения 359 8.16.25. Пусть временной ряд [X (t), Y (t)}, составленный из двух рядов, удовлетворяет условию 2.6.2 C) и пусть для IF (fee) выполнены условия 5.G.1 и E.8.21) при Р — 3. Если выполнены остальные условия теоремы 8.6.1, то (k) = A + W2fxx [fvx—Afxx] Вт/2 з —i Ёф<т) (К) = Ф + W2 Im {fYx fvx\ Вт/2 HX) = G+W2Re{fYx[fYx — Afxx]}B2T!2 --у /ix fyX fxx ~ y fYYfrxfYYJ В*т/2 + О (Вт) + О где /" обозначает вторую производную /. 8.16.26. Докажите, что а) Т АТ\ Ь) с) d) (A®B) vec X = vec (AXBT); размеры матриц должны быть правильно выбраны. 8.16.27. Для матрицы, появляющейся в тексте сразу после формулы (8.2.18), докажите, что 8.16.28. При условиях теоремы 8.2.1 проверьте, что для ошибки (8.2.19) выполнено a) Ее = 0, b) Е88т = 2кг-2гх2хх2хг> c) ЕеХт = 0. 8.16.29. Проверьте, что частная корреляция Y\ с У2 после удаления ли- линейного воздействия со стороны X не выражается через какие-либо ковариации, связанные с Yj, j > 2. 8.16.30. Докажите, что при а, определенной формулой (8.2.15), достигает максимума квадрат векторного коэффициента корреляции [Detcov{Y, aX}]2 [Detcov{Y, Y}] [Det cov {aX, aX}] ' 8.16.31. Найдите |ш и а, которые при выполнении условий теоремы 8.2.1 минимизируют Е {[Y-fi-aX] Г [Y-fi-«X]T}, где Г есть sXs-матркца,
360 8. Анализ соотношений между двумя стохастическими^ рядами 8.16.32. Пусть X @, / = 0, ±1, ..., есть /--мерный векторный процесс авторегрессии порядка т. Докажите, что частная ковариационная функция обращается в 0 при и > т. 8.16.33. При условиях теоремы 8.3.1 докажите, что существуют |ш, абсо- абсолютно суммируемый фильтр {а (и)} и стационарный второго порядка ряд 8 (/), ортогональный X (t)y обладающий абсолютно суммируемой автоковариационной функцией, такие, что 8.16.34. Пусть ряд в теореме 8.3.1 является m-зависимым процессом, т.е. значения процесса, отстоящие друг от друга более чем на т единиц времени, независимы. Покажите, что sl(u)~0 при | и | > т. 8.16.35. При условиях теоремы 8.3.1 докажите, что \RY у .х (А,) |2<: 1. CL Ъ Если s=l, докажите, что l^rxWl2^1- 8.16.36. При s=l докажите, что 8.16.37. Покажите, что матрица, обратная к матрице (8.2.47) частных ко- вариаций, будет s^s-блоком под диагональю матрицы, обратной к ковариа- ковариационной матрице (8.2.37). 8.16.38. Найдите при s=l когерентность между Y (t) и наилучшим линей- линейным прогнозом, основанным на X (/), ^ = 0, ±1, ... . 8.16.39. Докажите, что 8.16.40. Пусть ркх@J обозначает квадрат мгновенной множественной корреляции Y (t) с X (t). Покажите, что \\Xto4Q 9YX (ОJ < -= = < max | RYX (X) \К 8.16.41. При условиях теоремы 8.3.2 докажите, что матрицей условной спектральной плотности для Y (t) при заданных значениях. X (t)t t = Q, ± 1,..., будет 8.16.42. Предположим, что весовая функция W (а), применявшаяся при построении оценки (8.6.4), неотрицательна. Покажите, что | #(уРу #х( 8.16.43. Пусть выполнены условия теоремы 8.5.1, и пусть / Yaxb'xb — 0. Проверьте, что асимптотическим распределением Ф(аР (К) является рав- равномерное распределение на (—.я, я).
8.16. Упражнения ' 361 8.16.44. Пусть выполнены условия теоремы 8.3.1. Покажите, что комплек- комплексный коэффициент регрессии действительного ряда Ya(t) на ряд X (t) совпа- совпадает с а-й* строкой комплексного коэффициента регрессии s-мерного ряда Y (t) на ряд X (t), a=l, ...5 s. Выясните следствия этого результата. 8.16.45. При условиях теоремы 8.2.1* покажите, чтоа = 2^х2хх Достав- Доставляет максимум 2у> аХХ(\х, ax)'l^aXt У. 8.16.46. Пусть матрица W распределена по закону W^ (n, 2). Покажите, что vecW имеет ковариационную матрицу nS^S1". 8.16.47. а) Если W имеет распределение Wr(n, 2), то покажите, что EW-* = (n—r-l)-1^-1. b) Если матрица W распределена по закону W? (п, 2), то EW-* = (n—rJ-iS-1. См. Wahba A966).
9 ГЛАВНЫЕ КОМПОНЕНТЫ В ЧАСТОТНОЙ ОБЛАСТИ 9.1. Введение В предыдущей главе была рассмотрена задача аппроксимации стационарного ряда при помощи пропущенного через линейный фильтр другого стационарного ряда. В этой главе мы изучим проблему аппроксимации ряда посредством фильтрации не дру- другого, а того же самого ряда; при этом ограничимся фильтрами, имеющими ранг меньший, чем число компонент ряда. Уточним постановку задачи. Пусть рассматриваемый вектор- векторный ряд X (t), t = 0, ±1, ..., с г компонентами имеет среднее ЕХ(*) = с*, (9.1.1) абсолютно суммируемую автоковариационную функцию E{[X(t + u)-cx][X(t)-cxT\ = cxx(u), « = 0, ±1, ..., (9.1.2) и матрицу спектральной плотности 00 ixxW^i2*1)'1 23 cxx(u)exp{—iXu\, — оо<А,<оо. (9.1.3) Допустим, необходимо передать по каналам связи из одного пункта в другой значения величин X (t), но при этом в нашем распоряжении только q^r каналов. Предположим, что процесс передачи ряда X(t) по q каналам связи можно описать как фильтрацию, в результате которой получается ^-компонентный векторный ряд S(O=23b(f —и)Х(и), * = 0, ±1, ... (9.1.4) и (здесь {Ъ(и)) есть дхг-матричный фильтр), и собственно пере- передачу. Пусть на выходе каналов связи принимается ряд, который выступает в качестве оценки для Х(^): , (9.1.5)
9.1. Введение " 363 где fx—вектор с г компонентами, а {с(и)} есть rx^-фильтр. Мы ставим себе целью так выбрать (л и фильтры {Ь(#)}, {с(и)}, чтобы ряд Х*(?) был близок кХA). Связь между Xs* (^) — jut и X(t) линейна и инвариантна во времени, она описывается передаточной функцией А(^ = С(Я)В(Х), (9.1.6) если В (А,) и С (к) обозначают соответственно передаточные функ- функции фильтров {Ъ(и)\ и {с (и)}. Теперь ясно, что поставленная задача сводится к определению г xr-матрицы А (А,), ранг которой меньше г, так, чтобы величина разности X (О—X* @ + J* =-$ ехр {Ш\ dZx (к) — J А (X) ехр {Ш} dZx {К) (9.1.7) оказалась мала. Можно было бы рассматривать эту задачу и как отыскание способа построить такой ^-мерный ряд ?(<), который несет зна- значительную часть информации об исходном ряде X(t). Отметим здесь, что Bowley A920) однажды сделал такое замечание: „По- „Показатели применяются для того, чтобы измерить изменения вели- величины, не доступной прямому наблюдению, но о которой нам извест- известно, что она оказывает определенное воздействие на другие вели- величины, непосредственно наблюдаемые, причем хотя само это воздей- воздействие вызывает либо одновременное увеличение, либо уменьшение всех наблюдаемых величин, его эффект маскируется действием мно- многих других причин, по-разному влияющих на отдельные наблюдае- наблюдаемые". Возможно, что введенный ряд ? (t) будет выступать в роли ряда показателей, описывающих воздействие на X (t) со стороны некоторого скрытого от наблюдателя ряда. Вводя ряд ?(f), усло- условимся считать, что он наилучшим среди ^-мерных рядов образом позволяет восстановить X(t) с помощью линейных операций, инвариантных во времени. Правомерна и другая точка зрения. Введем ряд e(t), описы- описывающий ошибку или искажение 8(*) = х(*)~х«(9; (9.1.8) тогда получим Х@ = 1» + 2с(*-и)Б(и)+в@, t = 0, ±1 (9.1.9) . и Ряд X (t) оказывается выраженным как профильтрованный ва- вариант ряда Z,(t), имеющего меньшую размерность, плюс ошибка. Приведем пример ситуации, в которой полезна такая модель: пусть t(t) представляет собой ряд импульсов, вызванных q зем- землетрясениями, одновременно происходящими в разных местах; пусть X (t) представляет сигналы, принятые г сейсмографами, и
364 9. Главные компоненты в частотной области пусть с (и) описывает переходные явления в земной коре, свя- связанные с землетрясениями. Сейсмологов интересуют свойства ряда ?(?), ? = 0, ±1...; см., например, Ricker A940) и Robin- Robinson A967b). Существейным моментом решения этих задач является аппроксимация изучаемого ряда другим, имеющим меньшую раз- размерность. В § 9.2 мы приводим обзор некоторых аспектов клас- классического анализа главных компонент векторных переменных. 9.2. Анализ главных компонент векторных величин Пусть X—случайный вектор с г компонентами, имеющий среднее \лх и ковариационную матрицу 2ХХ. Займемся задачей одновременной минимизации всех собственных чисел симметрич- симметричной матрицы Е{(Х-(Л—СВХ)(Х-|Л-СВХ)Т} . (9.2.1) за счет выбора вектора (л с г компонентами, <ухг-матрицы В и г х ^-матрицы С. Определив* соответствующие величины jut, В и С, можно убедиться, как уже отмечалось в § 8.2, что они достав- доставляют минимум также монотонным функциям от собственных чисел матрицы (9.2.1), таким, как след, детерминант и диаго- диагональные элементы. Поскольку любая rxr-матрица А ранга q^.r может быть представлена в виде произведения СВ, в котором В имеет раз- размеры qxr, а С—размеры гхд (упр. 3.10.36), то тем самым, отыскивая В и С, мы одновременно найдем матрицу А ранга, не превосходящего q, которая минимизирует собственные числа матрицы Е {(X—IX—АХ) (X—jx- АХ)*}. (9.2.2) Ответ на поставленную экстремальную задачу дает Теорема 9.2.1. Пусть г-компонентный случайный вектор X таков, что ЕХ = (хх и Е{(Х—рх) (X — iix)T} = 1txx. Тогда все собственные числа матрицы (9.2.1) минимальны, если взять -vr В= . , (9.2.3) C = [Vi...VJ = B* (9.2.4) и (9.2.5)
9.2. Анализ главных компонент векторных величин 365 где Vy. есть \-й собственный вектор матрицы 2ХХ, /=1, ..., г. Если соответствующие собственные значения матрицы 1tXx °$0' значить буквами \i/y то при указанном выше выборе jx, В и С матрица (9.2.1) примет вид .2//W (9-2.6) Теорема 9.2.1 является частным случаем теоремы, доказан- доказанной Okamoto и Kanazawa A968); см. также Okamoto A969). Тот факт, что указанные (х, Ъ и С минимизируют след (9.2.1), установили Kramer, Mathews A956), Rao A964, 1965) и Dar- roch A965). Величина E/ = V7X (9.2.7) называется j-й главной компонентой вектора X, / = 1, ..., /*. Отметим результат, относящийся к главным компонентам. Следствие 9.2.1. При условиях теоремы 9.2.1 cov{V?X, VJX} = |^ j^ (9.2.8) Таким образом, главные компоненты X оказываются такими линейными комбинациями составляющих вектора X, которые не- некоррелированны. Можно было бы охарактеризовать /-ю главную компоненту как линейную комбинацию ?у = остХ при ата = 1, ко- которая имеет максимальную дисперсию и некоррелированна с ?Л, k<j [Hotelling A933); Anderson A957, гл. 11), Rao A964, 1965) и Morrison A967, гл. 7)]; однако определение (9.2.7) больше подходит для дальнейших целей. Покажем теперь, как проводятся оценки упомянутых выше параметров. Для удобства рассмотрения предположим, что fxx = 0, тогда формула (9.2.5) дает для (х значение 0. Допустим, что известна выборка Ху, / = 1,-..., п, значений случайного вектора X из теоремы 9.2.1. Введем гхя-матрицу х = [Х<...Хя]. (9.2.9) В качестве оценки для ковариационной матрицы 2ХХ возьмем S*x = V- (9.2.10) Далее, в качестве оценки \ij выберем \ij — j-e из упорядоченных по возрастанию собственных чисел матрицы Sxx, a Vy оценим соответствующим /*м собственным вектором Vy матрицы %хх. Тогда справедлива
366 9. Главные компоненты в частотной области Теорема 9.2.2. Пусть величины Х;-, /=1, ..., п, образуют выборку из распределения Nr@, Ъхх). Предположим, что мат- матрица 2ХХ имеет г различных собственных чисел [лу-, /=1, ..., г. Тогда величина {\ij, Vy, / = 1, ..., г} асимптотически нормальна и при этом {jiy, /=1, ..., г) асимптотически независимы от {Vy, /=1, ..., г}. Асимптотические выражения для моментов этих величин даются формулами 1), (9.2.11) ^j *), (9.2.12) cov{py, ]ik} = 6{f-k}2]ti/n + O(n-%) (9.2.13) M^ 2> (9.2.14) ПрИ /, /5=1, ..., Г. Эту теорему установил Girshick A939). Anderson A963) по- получил предельное распределение в случае, когда среди собст- собственных значений матрицы 1tXx есть совпадающие. Из выраже- выражения (9.2.13) вытекает полезный результат: 4 (9.2.15) James A964) нашел точное распределение ]х1э ..., \хг при вы- выполнении условий теоремы; оказалось, что это распределение зависит только от [х1э ..., \ir. Он получил также асимптотиче- асимптотические выражения функции правдоподобия для (ц, ..., \хп более подробные, чем в приведенной нами теореме; см. James A964), Anderson A965) и James A966). Точное распределение векторов, дуальных Vj, ..., Vr, приводит Dempster A969, стр. 303). Tumura A965) нашел распределение, эквивалентное распределе- распределению величин Vj, ..., Vr. Chambers A967) указал выражения для кумулянтов асимптотического распределения при условии существования у распределений конечных моментов. Эти куму- кумулянты могут быть использованы для построения приближений к распределениям по методу Корниша —Фишера. Поскольку \ij бу- будут близки к выборочным дисперсиям, может оказаться полезным приближение их распределений масштабированными х2-распреде- лениями, например, можно взять в качестве аппроксимации \ij распределение \ij%l/n. Madansky, Olkin A969) приводят прибли- приближенные доверительные границы для набора р19 ..., \in см. также Mallows A961). Разумеется, мы могли бы применить „процедуру складного ножа" Тьюки, чтобы определить прибли-
9.2. Анализ главных компонент векторных величин 367 женно доверительные области для собственных чисел и собст- собственных векторов 2ХХ, [Brillinger A964c, 1966b)]. Sugiyama A966) вывел распределение наибольшего собствен- собственного числа и соответствующего собственного вектора матрицы %хх. Krishnaiah, Waikar A970) получили совместное распределе- распределение нескольких собственных значений. Вычисления, относящиеся к данному случаю, рассматривает Golub A969). В нормальном случае асимптотическое распределение для ч CB = S VyVJ. (9.2.16) нашел Izenman A972). При изучении временных рядов нам понадобятся аналоги рассмотренных результатов, относящиеся к комплексным слу- случайным величинам. Вначале сформулируем следующее утверж- утверждение. Теорема 9.2.3. Пусть X—случайный вектор с г компонента- компонентами, у которого ЕХ = (ЛХ, Е {(X—(хх)(Х — \*>хУ}===^хх- Столбец |и, qxr--матрица В и rxq-матрица С минимизируют сразу все собственные значения матрицы Е{(Х-(л-СВХ)(Х-(л-СВХ)Ч, (9.2.17) если взять В = (9.2.18) (9.2.19) (9.2.20) где V7- есть ]-й собственный вектор Sxx, / = 1, ..., г. Если \if обозначает соответствующее собственное число, то экстремаль- экстремальное значение (9.2.17) равно S//V/V/. (9.2.21) Отметим, что так как Sxx —эрмитова и неотрицательно опре- определенная матрица, то все jiy. неотрицательны. Степень аппрок-' симации непосредственно зависит от того, сколь близки к нулю числа \ij, j > q. Мы пришли к аппроксимации X вектором (9.2.22)
368 9. Главные компоненты в частотной области .где _ _ A=ViVf+...+V,VJ. (9.2.23) Ранее мы сталкивались с подобной ситуацией в теореме 4.7Л. . В связи с теоремой 9.2.3 приходим к изучению величин ?y = VJX, /' = 1, ..., г. Они называются главными компонентами вектора X. Если X имеет распределение N? (О, 2ХХ)» то ?i» •••» ?г будут независимыми величинами с распределением ¦Aft@, !*/)• Н1' ••- г- Теперь оценим параметры, характеризующие распределение вектора X. Пусть Ху, /=1, ..., я, образуют выборку из рас- распределения ДО? (О, 2ХХ), а х определяется выражением (9.2.9). Тогда в качестве оценки для 2ХХ возьмем *хх = Ц-- (9.2,24) Матрица 2ХХ имеет комплексное распределение „Уишарта. Обо- Обозначим ее собственные числа и собственные векторы соответст- соответственно как \ij и Vy, /= 1, ...., г. Эта матрица эрмитова и не- неотрицательно определена, поэтому \if неотрицательны. Справед- Справедлива Теорема 9.2.4. Пусть величины Хх-, ..., Хп представляют собой выборку из распределения N^ (О, SXX). Предположим, что все собственные значения матрицы ^хх различны. Тогда величина {(jiy, Vy, / = 1, ..., г) асимптотически нормальна и {|у, }* = 1, ..., г} асимптотически не зависит от {Vy-; 7=1» •••» г}- Асимптоти- Асимптотические моменты выражаются формулами (9.2.25) (9.2.26) (9.2.27) (9.2.28) О (я-?), / = ftf &•*•**) при /, fe== 1, ..., г. Теорема 9.2.4 основывается на двух фактах: собственные значения и собственные векторы матрицы Ъхк являются диффе-
9.3. Ряды главных компонент 369 ренцируемыми функциями матричных элементов и при п —+ оо 2Х* асимптотически нормальна; см. Gupta A965). Выражение (9.2.27) показывает, что Din^=1 + 0 (/г*). (9.2.30) В полной аналогии со случаем действительного X можно рас- рассмотреть аппроксимацию распределения величины [Лу- посредством ^. ' (9.2.31) Особенно хорошим приближение (9.2.31) оказывается тогда, когда недиагональные элементы 2ХЛГ малы, а диагональные эле- элементы заметно отличаются друг от друга. Точное распределение [Xj, ..., \ir в комплексном нормальном случае нашел James A964). Из выражения (9.2.29) при j = k видно, что асимптоти- асимптотически Vy. имеет комплексное нормальное распределение. Кроме того, мы заключаем на основании (9.2.28), что разброс Vy. будет велик, если некоторые из [лу- очень близки по величине. 9.3. Ряды главных компонент Вернемся к задаче отыскания r-компонентного вектора jut, ^xr-фильтра {Ъ(и)\ и rx^-фильтра {с(и)\, таких, чтобы ока- оказался мал по величине r-мерный ряд , (9.3.1) и где ряд 2Ь(*-и)Х(и). (9.3.2) и Если в качестве меры величины ряда взять (9.3.3) то ответ содержит Теорема 9.3.1. Пусть X(t), t = 0, ±Л, ..., есть г-мерный ряд, стационарный в широком смысле,, сх — его среднее, схх(и) — автоковариационная функция, являющаяся абсолютно суммируе- суммируемой, а\хх (К), — оо<Я< оо, — матрица спектральной плотности. Тогда (9.3.3) минимально при следующем выборе р, {Ъ(и)\ и
370 9. Главные компоненты в частотной области {с (и)}: 2я b {и) = Bл)-1 j В (а) ехр {та} da о (9.3.4) (9.3.5) с(и) = Bл) С С (а) ехр {та} da, (9.3.6) В(Я) = (9.3.7) (9.3.8) Здесь Vj(k) обозначает ]-й собственный вектор матрицы fXx(ty> / = 1, ..., г. Если \x.j (Я,)—соответствующее собственное значение (/ = 1, ..., г), то минимальное значение (9.3.3) равно (9.3.9) Эта теорема содержится в статье Brillinger A969d). Пусть А (К) обозначает передаточную функцию фильтра, ко- который эквивалентен последовательному применению фильтра {Ъ(и)\, а затем {с (и)}. Заметим, что А (Я,)=С(Ь)В(Я,) = имеет ранг, меньший либо равный q. Допустим теперь, что ряд X(t)9 / = 0, ±1, ..., обладает представлением Крамера (9.3.11) Тогда указанному в теореме экстремальному выбору соответст- соответствует ряд ?(/), представимый в виде (Я), (9,3.12)
9.3. Ряды глазных компонент 371 где В (Я) задается выражением (9.3.7). Для /-й компоненты t,j(t) получается формула Е/ (<) = J v7WTexp {Ш} dZx (X). (9.3.13) Этот ряд называется рядом j-й главной компоненты X(t). При- Приведем результат относительно рядов главных компонент. Теорема 9.3.2. При выполнении условий теоремы 9.3.1 ?/@ — ряд ]-й главной компоненты —имеет спектр мощности \ij(X)y — оо<Я<оо, а ряды lj(t) и ?*@> \ФК для всех частот имеют когерентность 0. Ряд ?>(t) обладает матрицей спектральной плотности х 0 (9.3.14) Пусть X* (?), ^ = 0, ± 1, •.., — ряд, наилучшим образом аппроксимирующий Х(?), т. е. выбранный в соответствии с тео- теоремой 9.3.1. Определим ряд ошибок формулой е(*)=Х@-Х*@. (9.3.15) Выражение этого.ряда через представление Крамера имеет вид J [I - А (X)] ехр {Ш\ dlx (X) = V/ W УГ(^)Т} ехР 1Ш1 dzx W- (9.3.16) = С {S Мы видим, что среднее e(t) равно 0, а матрицей спектральной плотности служит fee (Ц = .2 l*y (^) Vy (Я) VJJXJ\ (9.3.17) Так что степень аппроксимации Х(/) рядом Х*(^) определяется тем, насколько близки к 0 при / > q числа (ху. (Я), —оо < X < оо. Ясно также, что и матрица кросс-спектра е(?) и ?(^), и мат- матрица кросс-спектра e(t) и Х*(/) тождественно равны нулю. Упомянем теперь несколько алгебраических свойств рядов главных компонент. Поскольку *и (- *) = fxx W = *и (^т. (9-3.18) получается, что
372 9. Главные компоненты в частотной области в то время как Vy(—A,) = Vy(X), / = 1 г. (9.3.20) Поскольку, кроме того, = !„(*,), (9.3.2.1) ясно, что |ху(А,) (9-3-22) y y /=1 г. (9.3.23) К сожалению, при фильтрации ряда X(t) соответствующее пре- преобразование ряда главных компонент обычно не является эле- элементарным. А именно, пусть к ряду Х(/) применен гхг-фильтр {d(u)\ с передаточной функцией D(X): Y(t) = %d(t-u)X(u). (9.3.24) и Тогда матрица спектральной плотности результирующего ряда Y (t) будет fYY(X) = D(X)ixx(X)WW. (9.3.25) Собственные значения и векторы этой матрицы, как правило, не выражаются простым образом через собственные значения и собственные векторы fXx(fi). Имеется, однако, случай, когда эта связь дается удобным соотношением. Если матрица D (X) уни- унитарна, то MWW) = MbW) (9.3.26) и при этом V, (tyy (X)) = ЩХУ Vy (f„ (X)). (9.3.27) Наложив дополнительные условия, из теоремы 9.3.1 можно вы- вывести некоторые свойства регулярности фильтров {Ъ(и)}> {с (и)}. Теорема 9.3.3. Примем условия теоремы 9.3.1 и предположим еще у что 2[1 + |«|р]|схИ«)|<оо (9.3.28) и при некотором Р^О. Пусть также все собственные значения матрицы fxxity различны. Тогда фильтры {Ъ(и)\ и {с (и)}, выра- выражения для которых даны в теореме 9.3Л, обладают свойством 2[1+M4|b(a)|<oof (9.3.29) и 2[1+|«П|с(м)|<оо. (9.3.30)
9.3. Ряды главных компонент • 373 С качественной точки 'зрения этот результат означает, что коэффициенты фильтров тем быстрее убывают к нулю при | и | —> —>оо, чем слабее зависимость ряда X(t) от времени. Примени- Применительно к ковариационным функциям рядов главных компонент и ряду ошибок в таком случае можно получить Следствие 9.3.3. При выполнении условий теоремы 9.3.3 И[1+1«П|с„(«)|<оо . (9.3.31) 2[1+|<]|сее(ы)|<;оо. (9.3.32) и Имеется возможность ввести ряд главных компонент иначе, чем указано в теореме 9.3.1. Теорема 9.3.4. Пусть выполнены условия теоремы 9.3.1, и пусть ряд 2/@» ^ = 0» ±1» •••» из (9.3.13) принимает действи- действительные значения и имеет вид Ву (К) ехр {Ш} dlx (X), * (9.3.33) о где 1 х r-матрица Ву (к) такова, что Ву (А,) Ву (Я)т = 1. Ряд ?у (t) имеет максимальную дисперсию и когерентность 0 с рядами "^</> /=1» •••» г- Эта максимальная дисперсия ряда равна 2я lij(a)da. (9.3.34) о Такой подход применялся в работах: Brillinger A964a) и Goodman A967); по сути дела, ряд главных компонент при этом определяется не прямо, а посредством рекуррентной процедуры. Ряды главных компонент обладают более сильными свойст- свойствами оптимальности, чем указано в предыдущей теореме. Для удобства формулировки соответствующего утверждения предпо- предположим, что ЕХ @ = 0. Теорема 9.3.5. Пусть Х@» t = 0, ±1, ..., есть г-мерный ряд со средним 0 и абсолютно суммируемой автоковариационной функцией; 1хх(к)> — оо<Я<оо,— его матрица спектральной плотности. Тогда j-e собственное значение матрицы спектраль- спектральной плотности ряда Х@—2с(*-и)Б(и)| (9.3.35) и
374 9. Главные компоненты в частотной области построенного по 2Ь(*-м)Х(и) (9.3.36) (где {Ъ(и)) есть qxr-> а {с (и)} есть rxq-фильтр), будет мини- минимальным и равным Иу+я(^)> если выбрать. {Ъ(и)\ и {с (и)} по формулам (9.3.5) и (9.3.6) соответственно. Собственные значения и векторы матрицы спектральной плот- плотности используются в работах: Wiener A930), Whittle A953), Пинскер A964), Koopmans A964b) и Розанов A963). Другой близкий по содержанию результат содержит лемма 11 моногра- монографии Dunford, Schwartz A963), стр. 1341. 9.4. Построение оценок и их асимптотические свойства , Предположим, что в нашем распоряжении имеется отрезок Х(^), ? = 0, ..., Т — 1, r-мерного ряда X(t) с матрицей спек- спектральной плотности fXx(ty> и мы хотим получить оценки собст- собственных значений и векторов этой матрицы, т. е. \ij (Я), Vy- (Я), / = 1, ..., г. Существует, очевидно, такой способ оценки: по- построить оценку \(хх (Ц матрицы спектральной плотности и взять собственные значения и собственные векторы f(xk (X) в качестве оценок для (Ху (X) и Vy- (X) с теми же номерами. Займемся выяс- выяснением некоторых статистических свойств получающихся на таком пути оценок. В гл. 7 обсуждались процедура построения оценок матрицы спектральной плотности и асимптотические свойства этих оце- оценок. Одна из приводившихся оценок имела вид т-\ ГРх (Я) = 2пТ-* X W(n (* —г1) I& (Щ . (9-4.1) s=l где Vpx (А.) есть матрица периодограмм второго порядка: \Тх («) = B"?1)-1 [-Ц X @ ехр {- fa*} J Щ X (/) ехр {- fa*}]* , (9.4.2) a WlT) (а) — весовая функция, в выражение которой ()=.2 W(BT1[a+2nj]) (9.4.3) /= — 00 входят функция W (а), сконцентрированная в окрестности а = О, и последовательность неотрицательных чисел Вт, Т = 1, 2, ...,—
9.4. Построение оценок и их асимптотические свойства 375 параметров ширины полосы пропускания. Воспользовавшись этими обозначениями, сформулируем теорему. Теорема 9.4.1. Пусть X(t), t = 0y ±1, ..., есть г-компо- г-компонентный ряду удовлетворяющий условию 2.6.2 A). Пусть v)T) (X) и Ы}Г) (Я), / — 1, ..., г,— собственные значения и собственные векторы матрицы J W^(X-a)ixx(a)da, (9.4.4) о я М'Г'С1)' v/r>(^)> /=1» •••» гt—собственные значения и соот- соответствующие собственные векторы матрицы VPX(X) из (9.4.1). Предположим, что функция W (а), по которой определяется f{xx(tyt удовлетворяет условию 5.6.1. Если ВТТ—+оо при Т—>оо, то }Г) (X) =vjn (к) + О(Вт 1/2Г/2). (9.4.5) , кроме того, среди собственных значений \Хх^) нет оди- одинаковых, то при всех /=1, ..., г Е|х}г> (Я) = vp (X) + О (В?1^) (9.4.6) и EVf > (Я) = Uf > (Я) + О Ef 1Г-1). (9.4.7) При больших значениях ВТТ в силу теоремы 9.4.1 распре- распределения собственных значений (х}Г) (X) и собственных векторов У(р(Х) имеют математические ожидания, мало отличающееся от соответствующих собственных значений и векторов матричного среднего (9.4.4). А если к тому же Вт—*0 при Т —>оо, то,- очевидно, (9.4.8) t)-^Vy(?t) для /=1, ..., г при Г->оо. (9.4.9) Собственные значения и векторы матрицы (9.4.4) окажутся близкими к интересующим нас величинам \х}- (Х)у Vy. (X) в том случае, когда fXx(a)> — oo<a<oo, почти постоянна. Это об- обстоятельство вновь указывает, что прежде чем строить оценки интересующих нас параметров, имеет' смысл профильтровать имеющиеся в распоряжении данные, с тем чтобы получить почти постоянный спектр. Следующая теорема освещает некоторые аспекты связи между vp'(^), ЦТ) (X) и Цу(^), V- (X).
376 9. Главные компоненты в частотной области Теорема 9.4.2. Пусть rxr-матрица спектральной плотности fxxity имеет вид «иМ-Ря):1 2 схх(и)ехр{-Ли}9 (9.4.10) U— -оо где 2 |и|»|с„(и)|<оо/ (9.4.11) Пусть функция W (а) в выражении (9.4.3) для W{T) (а) та- такова, что W (а) = W (— а) и \a\*\W(a)\da<oo. (9.4.12) Предположим, что все собственные значения ц.у(Я), / = 1, ..., г, матрицы lXx(ty различны. Если ВТ—»-0 при Г—i-oo, mo для всех / = 1, ..., г v/" (а) = ^ (Я,) +1 BJ-V^A)*-^^- Vy (Л) (9.4.13) X V, (X) [|х; {Ц -п (^)]г1 J a*W{a) da + 0 (B\). (9.4.14) Теоремы 9.4.1 и 9.4.2 показывают, что асимптотические от- отклонения оценок [х(уГ) (А), Xip (k) очень тесно связаны со сте- степенью гладкости спектральной плотности fxx (а) при а, близких к Я, а также с параметрами 5Г, фигурирующими в определении весовой функции W(T)(a). Обратимся теперь к изучению асимптотических распределений для ixf^X) и Vf(X). Теорема 9.4.3. При выполнении условий теоремы 9.4.1, если для каждого т^=1, ..., М собственные значения матрицы hx^m) различны, то величины ^{р(кт)\ Vp(XJ, /=1, ..., г;
9.4. Построение оценок и их асимптотические свойства 377 m — 1, ..., M, асимптотически совместно нормальны. При этом litn R Т1 r*r\\r /цG*) (\ \ .. G*) /Tl \1 11111 LJ'rl CUV lM'/ Л*''/»/» M'fe \*^л/1 ""^ (9.4.15) т - Хп\ р, (%т) 2 X [|iy (Я.) - и, (ЯJ] -2 Г, (A.J V, (Л.)*, -2я J IF (аJ (9.4.17) ^ X  V, (X.) Vy j9 k=ly ..., г; т, л=1, ..., М. Эти предельные выражения можно сопоставить с асимптоти- асимптотическими соотношениями в теоремах 9.2.2 и 9.2.4. Асимптотиче- Асимптотическую независимость величин, зависящих от частот Хт, Хп, та- таких, что \т ± К Ф 0 (mod 2я), можно было предвидеть, поскольку соответствующие f(xx (ЛЛ) и f(xx (^я) асимптотически независимы. Более неожиданным является утверждение теоремы 9.4.3 об асим- асимптотической независимости разных собственных векторов. Из выражения (9.4.15) вытекает, что W при при Л = (9.4.18) Полученная формула является аналогом результата E.6.15) о дисперсии логарифма оценки спектра мощности. Справедливость этой формулы неудивительна, если вспомнить интерпретацию, данную величинам \х;. (X) в теореме 9.3.2: они представляют со- собой спектры мощности рядов /-х главных компонент. Выраже- Выражение (9.4.18) позволяет предположить, что в качестве основной статистики имеет смысл взять не (а)Г)(Я), a log^f* (X).
378 9. Главные компоненты в частотной области К предельному распределению другого вида можно прийти, рассматривая спектральные оценки § 7.3: 1ф_ [ 2n[s(T) + s] Т при Bт+ !)-*.? 1Тх( при Л = 0(mod2jt) или при К= ± я, ± Зя, ... и четных Т, при Л= it Зя, и нечетных Т. (9.4119) В теореме 7.7.3 было установлено, что в этих трех различных случаях данная оценка имеет асимптотически при Т—*оо рас- распределение или Bm) Wr Bm, tx Последнее сразу же позволяет получить такой результат. Теорема 9.4.4. Пусть для r-мерного ряда X (/), t = 0, ±1, выполняется условие 2.6. L Пусть т фиксировано, a [2ns(T)/T] стремится к X при Т —> оо. Если \х(р (X), VJr> (Я), / = 1, ..., г,— собственные числа и векторы матрицы (9.4.19), то при ХфО (mod я) они сходятся по распределению к собственным значе- значениям и векторам случайной величины, имеющей распределение Bт + I) W?Bm+ I, fxx(ty)> а при X = 0 (modя) — к собствен- собственным значениям и векторам случайной величины с распределением Bm)'lWrBmy fXx(^))- Оценки на частотах ХпУ п=\, ..., N, для которых Хп± %п> #0(mod2я), асимптотически независимы. Распределение собственных значений матричных случайных величин с действительным или комплексным распределением Уишарта было получено в работе James A964). Распределения, приведенные в теоремах 9.4.3 и 9.4.4, не являются несогласованными друг с другом. Отождествив, как в § 5.7 и § 7.4, 2"* + 1~_го«. '/ ^тлт ^ , (9.4.20)
9.5. Дальнейшие свойства главных компонент 379 мы установим при больших т с помощью теорем 9.2.2 и 9.2.4, что собственные значения и собственные векторы асимптотически нормальны и имеют надлежащие асимптотики первых и вторых моментов. Результаты этого параграфа можно применить для прибли- приближенного определения доверительных границ величин Цу(^)> Vpj(k), /, р=1, ..., г. Например, из теоремы 9.4.3 и рассуж- рассуждений § 5.7 можно получить такое приближенное выражение для доверительного интервала величины lg \ij (К) с уровнем дове- доверия 100у%: < lg Dr> (Я) + z -Щ @.4343) У i-g-= . (9.4.21) В то же время результат упр. 9.7.5 показывает, что может ока- оказаться полезной Хг/2-аппроксимация распределения )\ъ % (9.4.22) 7 % от где 82Т = Bf-T-^n \ W (aJ da\i(P (X) X 2 KJ) (ШЛ (Я) —|*^>(Я)]—|VJJ> (X)|«. (9.4.23) Далее, действуя в духе § 6.2, можно было бы использовать эту аппроксимацию при определении доверительных областей для величин * {ReVp/(X)y lmVp/(%)} или {\VPJ(b)\, *rgVp/(X)}. Большая часть материала данного параграфа взята из статьи Brillinger A969d). 9.5. Дальнейшие свойства главных компонент Ряды главных компонент, введенные в § 9.3, могут быть ис- истолкованы и в рамках обычного анализа многих переменных как главные компоненты. Возьмем r-мерный стационарный вре- временной ряд Х(*), * = 0, ±1» ..-, с матрицей спектральной плотности f;rxW> и пусть X (*, Я) обозначает компоненту этого ряда с частотой К (см. § 4.6). Тогда, как показано в § 4.6
380 9. Главные компоненты в частотной области и 7.1, 2г-компонентный действительный случайный вектор \X{t'K) 1 ( • } имеет ковариационную матрицу, пропорциональную матрице Стандартная методика изучения главных компонент величины (9.5.1) приведет нас к рассмотрению собственных значений и векторов (9.5.2). Согласно лемме 3.7.1, эти числа и векторы имеют вид j = 1, ..., г, где [ху. (Я), Vy- (Я), / — 1, ..., г, являются собствен- собственными значениями и векторами матрицы f^Et), фигурирующими в теореме 9.3.1. Таким образом, анализ главных компонент стационарного ряда X(t)> который проводится в частотной об- области,— это обычный анализ главных компонент, примененный к индивидуальным частотным составляющим X(t) и их преоб- преобразованиям Гильберта. Процедуры, рассмотренные в § 9.3, могут иметь самые разно- разнообразные приложения. Вначале напомним введение к этой главе: пусть нас интересует передача r-мерного ряда по q < г каналам связи. Одно из решений возникающей при этом задачи дает теорема 9.3.1. С другой стороны/ часто представляет интерес исследование серии рядов с одной действительной компонентой, содержащих полезную информацию об изучаемом r-мерном ряде, в особенности^ если число компонент велико. В такой ситуации теорема 9.3.4 рекомендует сначала рассмотреть ряд, соответст- соответствующий наибольшему собственному значению, затем ряд, соот- соответствующий второму по величине собственному значению, и т. д. Но возможны ситуации, когда, напротив, полезно начать с рассмотрения рядов, отвечающих самым маленьким собствен- собственным значениям. Допустим, нам кажется, что рядХ(^), ? = 0, ±1, ..., может удовлетворять некоторому инвариантному во времени линейному условию вида . 2b(/-")X(«) = i(, (9,5.4) и где К—константа, а lxr-матрица Ъ(и) нам не известна. В та- таком случае {2! 0 (9.5.5)
9.5. Дальнейшие свойства главных компонент 381 и в качестве b (и) имеет смысл выбрать векторный ряд r-й глав- главной компоненты, отвечающей r-му из собственных чисел, зану- занумерованных в порядке возрастания. Такой рецепт есть не что иное, как обобщение предложения Bartlett A948a) применительно к многомерному случаю. В некоторых других ситуациях может встретиться одна из разновидностей многофакторных аналитических моделей типа Х(*) = !* + 2с(*-и)Б"(и)+е(*), * = 0, ±1, ..., (9.5.6) и где ^-мерный ряд ?(f), f = 0, ±1, ..., описывает q различных „скрытых" факторов, а гх^-фильтр {с (а)} представляет влияние факторов. Пусть нас интересует ряд?(?), f = 0, ±1, • ., ко- который в определенном смысле является содержанием модели. Методы § 9.3 предлагают один из способов определения g(f). Если ряд не автокоррелирован, то процедура сводится к факторному анализу, столь часто применявшемуся психологами при психо- психометрических исследованиях [Horst A965)]. Обычно тогда интер- интерпретируют отдельные главные компоненты и, пытаясь облегчить задачу интерпретации, совершают преобразования вращения или линейные преобразования над наиболее важными компонентами. Применительно к нашему изучению временных рядов подобная интерпретация чрезвычайно усложняется из-за того, что если Vy (k). является нормированным собственным вектором, отвечаю- .щим собственному значению Ну (Я), то тем же свойством обла- обладает вектор ау (X) Vy (X), когда комплексное число ау. (X) равно по модулю 1. Другого рода трудность связана с тем, что собственные зна- значения и векторы матрицы спектральной плотности не остаются инвариантными при линейной фильтрации ряда. В результате у рядов, которые заметно изменяются во времени, оказываются после фильтрации сильнее взвешены главные компоненты. Если ряды до и после фильтра регистрируются не в сопоставимых шкалах отсчета, то неизбежно возникают трудности. Одним из способов избежать больших сложностей явилась бы схема вы- вычислений, основанная не на оценках матрицы спектральной плотности, а на оценках матрицы когерентностей [R& (Щ. В заключение этого параграфа напомним читателю, что, как мы убедились в § 4.7, представление Крамера вытекает из свое- своеобразного анализа главных компонент ряда, который проводится bq. временной области. Другие применения анализа главных компонент при временном подходе встречаются в работах: Crad- dock A965), Hannan A961a), Stone A947), Яглом A965) и Crad- dock, Flood A969).
382 9. Главные компоненты в частотной области t 9.6. Рабочий пример Рассмотрим оценки коэффициентов ряда главных компонент для временного ряда, имеющего размерность 14. Это ряд сред- средних месячных температур, измеренных на одной американской и 13 европейских метеостанциях, упоминавшихся в гл. 1. При обсуждении теоремы 9.4.2 мы подчеркнули, что оценки [л}Г)(^)» Vyr> (k) могут иметь существенные отклонения, если матрица спектральной плотности ряда как функция X сильно отличается от константы. По этой причине наш ряд был подвергнут пред- предварительной фильтрации, удалившей эффекты сезонного изме- изменения температуры. На рис. 9.6.1 представлены оценки спектра мощности ряда, прошедшего такую обработку; эти оценки рас- рассчитывались по формуле (9.4.19) при т = 25. На рис. 9.6.2 изображены кривые для lg|i/r) (Я), /= 1, ..., 14; по-прежнему \\>{р(к) обозначает собственное значение матрицы fxxCO» оценивающей матрицу спектральной плотности. Поскольку мы не располагаем программой для вычислений на ЭВМ собст- собственных значений и собственных векторов комплексных эрмито- эрмитовых матриц, то практически ц)Г) (К) и V}r> (к) рассчитывались с помощью леммы 3.7.1 по матрице с действительными эле- элементами: ( ' Кривые* на рис. 9.6.2 спадают с ростом X в значительной сте- степени так же, как кривые на рис. 9.6.1, изображающие спектр мощности. Согласно выражениям (9.4.18) и (9.4.20), стандарт- стандартное отклонение этих оценок приближенно равняется : 0.062. (9.6.2) На рис. 9.6.3 и 9.6.4 представлены величины оценок прироста |Ур/}(^)| и Фазы argVp/^A,) для первых двух главных компонент. Для первой из них поразительным образом постоянны модули как функции Я. За исключением Нью-Хейвенской станции, все они не близки к 0. Для большинства рядов фазы близки к 0 или ах/2 одновременно. При интерпретации этого явления сле- следует иметь в виду, что собственные векторы определены с точ- точностью до множителя, равного по модулю единице. Именно поэтому на большинстве графиков 4 точки выступают из плав- плавной кривой. Ряд первой главной компоненты, по-видимому, в зна- значительной степени пропорционален усреднению по 13 европей- европейским рядам, которое проводится без всяких временных задер- задержек. Модули и фазы ряда второй главной компоненты содержат
9.6. Рабочий пример 383 1р Вильнюс о -1 ВроцлаВ Прага 7Г 7Г 7Г 1 г" Вена Будапешт Базель Де-Билт 1 гНью-Хейден _L J Гринвич Эдинбург О к Л 1г Стокгольм Трондхейм Копенгаген Рис. 9.6.1. Логарифмы оценок спектра мощности, построенных усреднением 51 периодограммы, для рядов средних месячных температур (без сезонной со- составляющей) на разных метеостанциях.
384 - 9. Главные компоненты в частотной области 1 о -1 j j г -2 1 О X Я О 5 J 1 х я о хяо хя 4^Vvv*V4^ J I О Х7ГО I I X -Я О 10 ХТГО 11 | 12 J I J I ХяО ХяО X яг, G Хя 13 14 О ХЯО X Я Рис. 9.6.2. Логарифмы оценок спектра мощности рядов главных компонент.
9.6. Рабочий пример 385 Bens Берлин тшяш Прирост 7Г Стокгольм J 1t "О X 71 9.6.3. Оценки прироста и фазы для ряда первой главной компоненты.
386 9. Главные компоненты в частотной области Будапешт Прирост Фаза Де-Билт А .1 О Эдинбург Л .4 .2 О Гринвич А .2 О .4 Нью-Хейден -.•*..-.V H-.V..- • V Рис. 9.6.3 (продолжение).
9.6. Рабочий пример 387 Базель л А .2 Прирост Фаза г ВроцлаЛ л А .2 Вильнюс л А I .2 Грондхеш 7Г 0 0 ^0 re 0 0 1Т 0 •я • • • I ! \ Л, i »ч Я % Я •Л Рыс. 9.6.3 (продолжение).
388 9. Главные компоненты в частотной области Вено .6 A .2 °l .8 .4 .2 0 ,6 Kommeit1- л Прирост р Фаза Берлин Прага .2 О -n ..v ...... Л -. Стокгольм Рис. 9.6.4. Оценки прироста и фазы для ряда второй главной компоненты.
9,6. Рабочий пример 389 Будапешт .в А .2 Прирост Де-Бипт * А .2 О Я .6 А .2 О ГринНич Нью-ХеМен -я — •• • • • * * * л • . -7Г 7Г Рис. 9.6.4 (продолжение).
390 9. Главные компоненты в частотной области Вазе/tb .6 .4 .2 О Прирост Фаза Вроцлав Вильнюс .6 .4 .2 °( .6 .4 .2 О я 0 -я • • • • • » • _J л • • • • • * t Трондхебм .6 .4 ,2 О 'Рис. 9.6.4 (продолжение).
9.7. Упражнения 391 Таблица 9.6.1 Десятичные логарифмы собственных значений матрицы С^х @) (см. табл. 7.8.1) 1.591 1.025 .852 .781 .369 .267 .164 .009 -.121 -.276 -.345 -.511 -.520 -.670 более значительную ошибку и их труднее истолковать. Для Нью- Хейвена прирост имеет заметно большую величину при Я, близ- близких к 0. Рассуждения, приведенные в конце § 9.4 и упр. 9.7.7, позволяют предложить два варианта определения приближенных стандартных отклонений этих оценок. В табл. 9.6.1 приведены значения десятичного логарифма собственных значений матрицы с(хх @), содержащихся в табл. 7.8.1. Соответствующие собственные векторы даны в табл. 9.6.2. Эги величины имеет смысл рассматривать, поскольку две указанные главные компоненты имеют явный характер. Изучая табл. 9.6.2, можно заметить, что первый вектор соответствует простому среднему 13 рядов, когда из общего числа 14 исключается ряд для Нью-Хейвена. Второй же собственный вектор соответствует главным образом данным Нью-Хейвена. 9.7. Упражнения 9.7.1 Пусть \ij (А,), /=1, ..., г, обозначают собственные числа неотрицательно определенной матрицы \ХХ М- Пусть vj-r) (^)> /=1, ..., г,—собственные числа матрицы f ц?<Г)(А,_а)\Хх(а) &*> о
392 9. Главные компоненты в щдтотной области •Я о 3 Г I Ж О М 4) ' ' * f ' 'f ГГ f ' ' * СО f^* СО СЧ О »¦< СО ГО Г1*» О\ Г1*» 00 О СО 8 2 ft ? К 5 S Я Я § S S. ^ 8 * i Г ' ' Г Г Г Г * Г *HNrNf0\0«nN\0h»rNNVflttO ' Г j' Г ' '.*."»' Г Г Г ' к s s s а й д 2 s 9 s s§ s s cn о ^ сп г-5 с4 о с< с5 г^ся <ч t-< о * Г * Г *.' Г \ ' * Г ?ЙЯ00О,Онн5Л1Л00 52>1Г* S 2 Ц Щ 8 S 8 S S S S S 8. о * Г i ¦ Г ¦ ' i' ¦ ' г' Г r*»n^-«cpvor^oo«oi-H-<4tfOO\b- я 2 з я й a r г s 9 a s ц г ' Г # " Г Г Г Г \ Г Г СМ ^ т-н rj т-. О СО СЧ О О Ц СО «О CM * »" Г Г Г Г * Г Г \ ' Г Г \0«-чсО«-4Г^ГЧЧОГЦГ»0|Г^Г>-«-«0 S8 2Ssa^^SSS98S '1 * Г ' ' i # Г ' ' i" Г " 1 1 Г Г # ' Г " Г # ' Г S? Я | § S й S S 2 2 S S? S8 S \ ' \ ' \ \ ' ' \ Г Г j Г I j I Г Г \ \ Г ' I* I 1 I I* ' * ' 1' f 1 Г i Г Г ' i# Г i ' i ' i wmdUDgfiq внэд
Упражнения* 353 где W{T) (a)^=sQ. Покажите, что 2* i—a)\ii(a)d<x. 9.7.2. Предположим, что выполнены условия теооемы 9.3.1 и пусть сХх (и)=0 при м # 0. Покажите, что фильтры {Ь(и)}> {с (и)}, определенные в этой тео- теореме, обладают свойством Ь(*/)=0 и с(#)~0 при и<фО. 9.7.3. Покажите, что при выполнении условий теоремы 9.3.1 когерентность рядов Xj(t) и lk(t) равна 9.7.4. Докажите, что E[i/ = fi/+0(n~1/a)» I*!» • ••» Л Для величин, 922 924 9.7.4. Докажите, что E[i/ = fi/+0 фигурирующих в теоремах 9.2.2 и 9.2.4. 9.7.5. Пусть выполнены условия теоремы 9.4.3. Покажите, что величина (к) распределена асимптотически как Nf (Vpj (к), о^), где ~ W (*)]-'1 vPi (W I2 9.7.6. Воспользуемся оценками теоремы 9.4.3, но предварительнв сгладим данные при помощи сглаживающей функции h (t/T). Покажите, что тогда при выполнении условий этой теоремы в формулы для асимптотических ковариа- ций (9.4.15) и (9.4.17) надо ввести сомножитель С А(*L dt /Г \ h (/J itV . 9.7.7. Покажите, что при выполнении условий теоремы 9.4.3 log | ]/$ (к)\ и arg{F$}(A,)} асимптотически распределены как независимые нормальные ве- величины, т. е. соответственно как N flog | Vpj- (к) |, ( ~ J от \ Vpj- (к) |  J и ^V f arg {Vpj (к)}, (— J g\ | Fjpy-(Я) | J; параметр распределения вт тот же, что и в упр. 9.7.5. 9.7.8. а) Покажите, что если ои^нку (9.4.19) сгладить по всему диапазону частот, то предложенная техника анализа сведется к обычному анализу глав- главных компонент выборочной ковариационной матрицы с^х Ф) • Ь) Пусть гауссовский ряд X (/), /=0, ± 1, ..., удовлетворяет услеви» 2.6.2A), a Jiy, Vy, /—I, ..., г,— собственные значения и векторы матрицы с<х& ДО)» причем все собственнее значения различны. Применяя G.6.11) и раз- разложения, использованные при доказательстве теоремы 9.2.4, накажите, что |А/> ^7/, / = 1» ..., rt являются асимптотически совместно нормальными и, креме
394 9. Главные компоненты в частотной области того, COV{fA/, fA*}~0 {/ — A 2Я О l-m=jfeft X (Vjf** (- а) V*) + (VJtxx («) V*) (v/fXJC (~ а) V J} 2Я О U чЬ / m =# ft }fxx (~ «) V*>+ (VfIxx («) V») (v/fxx (- a) V»)} -I»!)-1 (I**-!**)-1 V/Vm Ida.
10 КАНОНИЧЕСКИЙ АНАЛИЗ ВРЕМЕННЫХ РЯДОВ 10.1. Введение В этой главе рассматривается аппроксимация одного ста- стационарного, временного ряда другим, прошедшим через фильтр, ранг которого меньше размерности фильтруемого ряда. А именно, пусть X(t) есть r-мерный, aY@—s-мерный стационарные ряды, так что ГХ(О] A0.1.1) t = 0, ±1, ..., является рядом размерности r+s. Предположим, что мы заинтересованы в превращении ряда X (t) в ^-мерную вектор-функцию, например, вида 6@=2Ь(<-и)Х(и), A0.1.2) U t=*0, ±1, ..., где {Ъ(и)\—-некоторый qx г -матричный фильтр. Допустим, что в итоге мы хотим получить такой s-мерный ряд V(t) = ii + IiC(t-u)$(u), A0.1.3) и который мало отличался бы от Y (t) за счет удачного выбора вектора fi, sx^-фильтра {с (и)} и фильтра {Ь(«)}. Если ряд У (t) совпадает с Х(?), то приходим к задаче, обсуждавшейся в пре- предыдущей главе, для решения которой матрицу спектральной плот- плотности изучали с помощью главных компонент. Если q = min (r, s), то фактически не требуется никакого уменьшения размерности, и тогда имеем дело со схемой множественной регрессии, обсуж- обсуждавшейся в гл. 8. Связывающее ряды Y* (t) — fi и X (t) соотношение линейно и инвариантно во времени, его передаточная функция — А (К) = В (Я) С (Я), A0.1.4) где В (К) и С (К) — передаточные функции фильтров {Ь (и)} и {с (и)} соответственно. Подчеркнем, что при указанных вначале ограни-
396 10. Канонический анализ временных рядов чениях ранг матрицы А (X) не превосходит q. С другой стороны, если известно, что ранг матрицы А (Я) меньше либо равен q, то можно найти такую gxr-матрицу В (Я) и sx^-матрицу С (Я), что выполняется соотношение A0.1.4). Итак, поставленная задача заключается в аппроксимации Y (t) рядом X(t), пропущенным через фильтр, ранг которого не превосходит д. В следующем параграфе рассмотрим аналогичную задачу не для рядов, а для векторных случайных величин. Основной библио- библиографический источник в этой главе —Brillinger A969d). 10.2. Канонический анализ векторных случайных величин Пусть задан (г+ s)-компонентный случайный вектор, A0.2.1) [?]¦ причем X имеет г, a Y —s компонент. Предположим, что сред- среднее значение A0.2.1) есть UrJ§ A0.2.2) г л а его ковариационная матрица— Поставим такую задачу; определить вектор \л размерности s, <?хг-матрицу В и sx^-матрицу С так, чтобы оказался мал вектор Y-jx-CBX. A0.2.4) В качестве меры величины A0.2.4) выберем действительное число -^Y —|*-СВХ]}; A0.2.5) здесь Г —некоторая положительно определенная симметричная матрица. Справедлива Теорема 10.2.1. Пусть задана (r + s)-мерная векторная слу- случайная величина A0.2.1) со средним A0.2.2) и ковариационной матрицей A0.2.3). Предположим, что матрицы %хх и Г не$ы*
10.2. Канонический анализ векторных случайных величин 397 рождении. Тогда минимум A0.2.5) обеспечивается выбором. •••v,] A0.2.6) A0.2.7) A0.2.8) еде V; это f-й собственный вектор матрицы Г/2 2кх2зсх2хкГ-1/2» / = 1, ..., s. Если (Ху обозначает соответствующее собственное значение, то величина минимума дается выражением +*• / / V V V — IV \ Т^ —-1\ I "\^ ¦¦ 1_ /V Т1 — 11 >^ ¦¦ /1Л о О\ Особенно важен частный случай Г=1. Тогда приходится оты- отыскивать собственные значения и векторы матрицы SKXSxx^r. Если обозначить их \i;- и Vy-, то ковариационная матрица ряда ошибок A0.2.10) при указанном в теореме выборе В C«[Vle..VJ окажется равной A0.2.11) A0.2.12) A0.2.13) A0.2.14) Полагая теперь ^==г, приходим к.схеме множественной рег- регрессии (соответствующие результаты сформулированы в виде тео- теоремы 8.2.1). При s = r и Y = Х приходим в сущности к резуль- результату теоремы 9.2.1. Близкий по содержанию к теореме 10.2.1 результат приводит Rao A965, стр. 505). С этой теоремой весьма тесно связана следующая задача: определить grxl-матрицу щ ?хг-матрицу D и ^xs-матрицу Е
398 10. Канонический анализ временных рядов так, чтобы оказался мал вектор EY-n-DX. A0.2.15) Изучение этого вопроса приводит к такому ответу. Теорема 10.2.2. Пусть задан случайный вектор A0.2.1) со средним A0.2.2) и ковариационной матрицей A0.2.3). Допустим, что Ъхх и SK1, невырожденны. Вектор ft, размерности q, qxr- матрица\> и qxs-матрица Е, удовлетворяющие условию Е2КуЕт= =s I, DSjfXDT=I, которые минимизируют Е {[Е Y - ji - DX]*[E Y DX]}, задаются выражениями D = гиг LUJ -VjJ >-i/a A0.2.16) A0.2.17) A0.2.18) A0.2.19) здесь У, обозначает j-й собственный вектор матрицы у$ух X Exx^xk^vk2» a Ц обозначает \-й собственный вектор матрицы ^x]12^xy^yy^yx^xx%- Если [ij обозначает j-e собственное число любой из этих двух матриц, то минимальное значение A0.2.16) равно 2q-2 2A}/». 1< Далее мы находим, что ковариационная матрица величины [EYJ (Ю.2.20)
10.2. Канонический аидлив векторных случайных величин 399 имеет вид - ! О i A0.2.21) Это обстоятельство служит основанием для введения канони- канонических переменных (канонических величин) 9- —TV A0.2.22) в данном определении ссу и ру пропорциональны соответственно 2зос/2иу и 2yy/2Vy: Коэффициенты ау, ру канонических перемен- переменных удовлетворяют условиям ^x^xy^yy^yx^/ = Иу«/ при / = 1, ..., г A0.2.23) и ^YY^YX^x^xYh^bh при / = 1, ..., s. A0.2.24) Мы будем нормировать их так, чтобы =1, /-1, ..., г; й-1, ..., s. A0.2.25) Заметим, что иногда предпочитают нормировку а] ^=1. Однако выборочные свойства эмпирических 'пере- 'переменных упрощаются, если применять условия A0.2.25). Введем еще J ^//2 при /=1, ..., min(r, s), /fo2 26) Р/ \ 0 в остальных случаях. I • • J Следствие 10.2.2. При выполнении условий теоремы 10.2.2 cor{?/t Сл} = б{/ — ^} пРи U k=\, ..., г, A0.2.27) сог{?/, ©Л} = 6{/—k\p: при /=1, ..., г; А = 1, ..., s A0.2.28) сог{о)у, o)ft} = 6{/ — й} Atpw /, А = 1, ..., s. A0.2.29) Величина р/ = ^//2 называется /-й канонической корреляцией, это название оправдывается равенством A0.2.28). Подчеркнем,
400 10. Канонический анализ временных рядов что введенные нами переменные можно было бы получить и иначе, с помощью теоремы 10.2.1,'в которой для этого надо взять Впервые канонические переменные ввел Hotelling A936) как линейные .комбинации компонент X и Y, имеющих экстремаль- экстремальные корреляции. К этому направлению примыкают работы: Обу- Обухов A938, 1940), Anderson A957), Morrison A967), Rao A965), Kendall, Stuart A968). В случае когда вектор A0.2.1) является гауссовским, первая каноническая переменная будет экстремаль- экстремальной в более широком классе величин, см. Lancaster A966). Кано- Канонические переменные весьма полезны при изучении зависимостей между двумя случайными векторами [Hotelling A936)], придискри- минантном анализе [Glahn A968), Dempster A969, стр. 186), Kshirsagar A971)], при отыскании общих факторов [Rao A965, стр. 496)], при предсказании значений одних величин по зна- значениям других [Dempster A969, стр. 176), Glahn A968)] и при исследовании систем линейных уравнений [Hooper A959), Hannan A967с)]. Рассмотрим сейчас некоторые аспекты оценки указанных выше параметров. Для удобства предположим, что jxx = O и |ху=0. Пусть в нашем распоряжении имеется выборка A0.2.30) / = 1, ..., п, случайного вектора, удовлетворяющего условиям теоремы 10.2.2. Возьмем в качестве оценки A0.2.3) A0.2.31) ^YyYj Тогда оценки \х/9 «у, Ру определяются из уравнений V — 1 Ч* V-1 V ** ' •? #* /1Л ft QO\ ~*XX~*XY YY YXr^.У— \rj i \l\J.S*OZ) И v* — lvi V*— 1 V1 ft ,,, о /1 Л О Q.Q\ при нормировке. ,1, j»7p,-l. A0.2.34)
10.2. Канонический анализ векторных случайных величин 401 Далее, при формулировке теоремы воспользуемся обозначениями ? <10-2-35> Теорема 10.2.3. Допустим, что величины A0.2.30) образуют выборку объема п из распределения A0.2.37) Предположим, что r^s и что собственные значения jut,-, /=1, ..., s, различны. Тогда случайные величины {|iy., ау-, ру; /=1, ..., s} асимптотически нормальны, а {|1у., / = 1, ..., s\ асимптотически не зависит от {ссу-, ру; /=1, ..., s}. Асимптотические моменты задаются формулами Еру = |iy- + О (п-1), A0.2.38) Еау=а/+0(п-1), A0.2.39) A0.2.40) "а), A0.2.41) {«/» «*} = 6 {/ — Щ (OLfSxX&j) A —f х 2 (pJ-p?)~~ "" Х(—P/pI — P/pt + 4р|р| -f-р/ ~Ь pfe — р/—pi) (а*«//я + 0(п~2) A0.2.42) npw /, й= 1, ..., s, / = 1, ..., г; -2) A0.2.43) /, ky /= 1. ..., s; /f pA} = б {/-ft} (PfSyyfij) A - S(p?-p1)-2(R!222)bb? (n-2) (Ю.2.44) при j, ft, /=1, ..., s.
402 10. Канонический анализ временных рядов Асимптотические выражения для дисперсий рассматриваемых статистик можно теперь получить, пользуясь формулами A0.2.41)— A0.2.44). Отметим, что для [i/ D arth ?j/« = 4 + 0 (я-2), A0.2.45) поэтому проще будет рассмотреть преобразованную величину arthji//2. Для практических целей, вероятно, полезнее всего асимптотические оценки моментов второго порядка, которые по- получаются при помощи „процедуры складного ножа"; см. Brillin- ger A964c, 1966b). Если s=l,-можно заметить, что квадрат канонической кор- корреляции pf = |ii является возведенным в квадрат коэффициентом множественной корреляции, рассматривавшимся в § 8.2. Асимптотику ковариации величин \ij и \ik вывел Hotelling A936). Hsu A941) нашел асимптотическое распределение; Lawley A959) отыскал кумулянты старших порядков; Chambers A966) установил вид следующих членов в асимптотическом разложе- разложении для средних; Dempster A966) рассмотрел проблему умень- уменьшения отклонений; Hooper A958) вывел формулы для асимпто- асимптотических ковариации, предполагая фиксированными Ху-, /= 1,... ..., п\ точное распределение выборочных канонических корре- корреляций, которое зависит лишь от канонических корреляций ге- генеральной совокупности, приведено в работах Constantine A963) и James A964). Распределению векторов посвящена статья Ти- тига A965), а вычислительным аспектам — Golub A969). В нор- нормальном случае Izenman A972) нашел асимптотическое распре- распределение оценки для СВ из A0.2.4). Нам понадобятся аналоги рассмотренных результатов для векторов с комплексными компонентами. Пусть такой вектор га A0.2.46) имеет r + s компонент; обозначив его среднее через [ey1 = M A0.2.47). и ковариационную матрицу—через . Рх] [X—l*xV\ _ №хх ^xy] ПО 2 48Ъ предположим, что Тогда имеет место
10.2. Канонический анализ векторных случайных величин 403 Теорема 10.2.4. Пусть заданы случайный вектор A0.2.46) с комплексными компонентами, его среднее A0.2.47) и ковариаци- ковариационная матрица A0.2.48). Предположим, что Ъхх и Г невырож- денны, причем Г > 0. Тогда минимум выражения Е{[У— ji-CBX]Tr-l[Y — i достигается при выборе qxr-матрицы СВХ]} sxq-матрицы A0.2.50) A0.2.51) A0.2.52) и здесь A0.2.53) обозначает j-й собственный вектор матрицы , / = 1, ..., г. Если |ху.—соответствующее A0250) собственное значение, то минимум A0.2.50) равен (Ю.2.54) Подчеркнем, что Vy- определены лишь с точностью до множи- множителя, равного по модулю 1. Далее справедлива Теорема 10.2.5. Рассмотрим (г + $)-компонентный случайный вектор A0.2.46) со средним A0.2.47) и ковариационной, матри- матрицей A0.2.48). Пусть матрицы ЪХх и ^yy невырожденны. Тогда qxl-матрица jm, qx г-матрица D и qxs-матрица Е, для кото- которых E2yyET = I, DSXXDT = I, доставляют минимум выражению если E{[EY — u—DX]T[EY S-i/a YY A0.2.55) A0.2.56) A0.2.57)
404 10. Канонический анализ временных рядов U jn = EfiK— Dfix, A0.2.58) где Vy обозначает j-й собственный вектор матрицы 2уу/2?кх2хх2Хк2ху/а и Uj—j-й собственный вектор матрицы %7?' Как и в случае действительных векторов, мы приходим к величинам ? *]Х A0.2.59) с коэффициентами ау. и Ру, пропорциональными S^pUy и 2yV2Vy соответственно. Выберем нормировку «?«/=!• Р/Р/-1. A0.2.60) В таком случае получим Следствие 10.2.5. При выполнении условий теоремы 10.2.5 («?2х1ау), A0.2.61) y, U-0 A0.2.62) для /, Л« 1, .. i, r; ) {/ — k) (ocySjfyPy), A0.2.63) W = 0 A0.2.64) др« /*sl, ,.., г; *=1, ..., s; cov {<uj, <dh} = 6 {/— &} (p/S^py), A0.2.65) cov{coy,0^} = O A0.2.66) ;=1, ..., s. Если /-е собственное значение матрицы обозначить символом и., то окажется, что при/=1, ..., min (г, s). Величины ?у, ©у при /=1, . ..,min(r, s) будем называть /-й парой канонических переменных^ а число ру = |Х//2>0 назовем j-м каноническим коэффициентом корреля- корреляции. При / > min (r, s) полагаем ру = 0 и выберем а- и ру так, чтобы (ZySjfyPy р/ = №?хи«у) даад/)]1" A0>2'68) при / —1 min (r, s).
10.2. Канонический анализ векторных случайных величин 405 Канонические переменные для комплексных случайных вели- величин встречаются в работе Пинскера A964, стр. 134). Предположим теперь, что цх^0 и (лк=0 и что нам известна выборка [*']. A0.2.69) / = 1, ..., я, значений величины A0.2.46), о которой шла речь в теореме 10.2.5. Построим оценку величины A0.2.48), взяв лг п ±YY=J— A0.2.70) Тогда оценки цу-, а,- и ру- определятся из уравнений A0.2.71) х#/ ~hh A0.2.72) при условиях нормировки ajay = l,ljpy = l A0.2.73) A0.2.74) В теореме 10.2.6 будем считать, что - A0-2-76) Теорема 10.2.6. Предположим, что величины A0.2.69) пред- ставляют собой выборку объема п из распределения
406 to. Канонический анализ временных рядов Пусть все собственные значения Цу, /=1, ..., s, различны и r^s. Тогда величины {?,, a/t jJy; /' = 1, .... s} асимптотически нормальны и {ц,у, / = 1 s\ асимптотически не зависит от [а,], $/, j — l, •-., s}. Выражения для асимптотических момен- моментов имеют вид A0.2.78) A0.2.79) A0.2.80) 8), A0.2.81) X 2. (P/—Pi) (P/ + Pf- 2p|p?) а^/л + О (n-«) A0.2.82) (n-2) A0.2.83) /, A;=l, ..., s; / = 1, ..., r; ay, pft} = 6 {j-k} (a]Zxxaj) ^(H^vM1^ X A -|iy) 2 (P?-P?) B-pf-P?) а,Ь//п + О (п-2), A0.2.84) {ay, I,} = A—6 0* — A}) (a/ K P/P? + 2PK+2P/Pft п-2) A0.2.85) при /, k, I = 1, ..., s; ^ t p*} = a {j-k\ (PjsKypy) (i - n-i), A0.2.86) (n-8) A0.2.87) при /, k, 1 = 1, ..., s. Отметим также, что асимптотически величины A0.2.88)
10.3. Ряды канонических переменных 407 / = 1, ..., s, имеют комплексное нормальное распределение. Кроме того, D arth$/2=~ + O(>i-2). A0.2.89) James A964) приводит точное распределение \Hj9 /= 1, ..., s, и в комплексном случае. 10.3 Ряды канонических переменных Рассмотрим задачу, которая упоминалась во введении к этой главе: отыскивается вектор fi с s компонентами, <7Хг-фильтр |Ь(а)} и sx^-фильтр {с (и)}, такие, что если 2b(t-u)X(u), A0.3.1) и то ряд V @ = 1* +2е С-"KM (Ю.3.2) и будет близок к Y(/), f = 0, ±1, ... . Предположим, что сте- степень близости рядов измеряется величиной математического ожи- ожидания {[[ A0.3.3) которое можно представить в виде с tr{fy_y*,y_y*(a)fda, A0.3.4) о если EY (t) = EY*(/). Теорема 10.3.1. Пусть [?(!)]• (Ю.3.5) ? = 0, ±1, ...,— стационарный в широком смысле ряд с r + s компонентами, имеющий среднее A0.3.6) абсолютно суммируемую автоковариационную функцию и матри- матрицу спектральной плотности
408 10. Канонический анализ временных рядов —оо < Я< оо. Предположим, что матрица \хх (X) невырожденна* Тогда при заданных q, г, s (<7<r, s) следующий выбор ц., {Ъ(и)\ и {с (и)} минимизирует A0.3.3): х, A0.3.8) b (a) = Bk)-1 J В (а) ехр {iua} da и где 2Я с (и) = Bл)-1 $ С (а) ехр {iua} da, A0.3.9) A0.3.10) A0.3.11) A0.3.12) Здесь V/(X) есть \-й собственный вектор матрицы fKX(A,)fxx(A,)"~1fXK(X), /=1, ..., s. Если \ij(X) обозначает соот- соответствующее собственное значение, то минимум A0.3.3), кото- который достигается при указанном выше выборе, равен и о е В этой теореме приходится рассматривать собственные зна- значения и собственные векторы некоторых матриц, построенных по матрице спектральной плотности. Теорема 10.3.1 представ- представляет собой обобщение теорем 8.3.1 и 9.3.1, которые вытекают из нее, если соответственно взять q = s или Y(^) = X(/) с веро- вероятностью 1. Нетрудно видеть, что ряд ошибок e(f) = Y(O — Y*@ . A0.3.14) имеет среднее значение 0 и матрицу спектральной плотности - tTY(X)-С (X) В (X)iXY(X)-iYX (X) Ъ(Х)С(ХУ + - f - .2 2V vy (X) )^iYX (X) i xx -» fXY (X)+ (Ю.3.15)
10.3, Ряды канонических переменных 409 —оо<Я<оо. Эта матрица является суммой двух слагаемых, различных по характеру. Первое из них fYX(k)fxx(X)Xy(X) A0.3.16) появлялось в§ 8.3 как матрица спектральной плотности ошибки, связанной с регрессией Y(t) на ряд Х@, * = 0, ±1» ••• .Оно представляет собой нижнюю грань степени аппроксимации, не- улучшаемую посредством выбора q, и одновременно выступает как мера • качества линейной аппроксимации ряда Y (t) рядом X(t), * = 0, ±1, ... . Второе слагаемое WYTWv (ю.3.17) при фиксированном q будет мало, если малы собственные зна- значения (л,- (к), / > q. Оно является убывающей функцией q, и при q^r или q^s обращается в 0. Критерий A0.3.3) выбран так, что различные компоненты У (t) входят с равными весами. Такое условие.чможет оказаться нежелательным в случае, когда дисперсии разных компонент существенно отличаются по величине или когда сложна струк- структура корреляционных связей компонент. Для ряда целей может оказаться полезным критерий достижения минимума выражением J tr {fir(a)-i/* fy_y.t y-y* (a) iyyi*)-1'*} da. A0.3.18) 0 В этом случае получается Следствие 10.3Л. При выполнении условий теоремы 10.3.1 вы- выражение A0.3.18) будет минимальным, если выбрать фильтры {Ъ(и)\ и {с (и)} по формулам, приведенным в этой теореме, но только в качестве Vy.(Я), 7=1, ..., s, следует брать собствен- собственные векторы матрицы fYy(^)/2hxW *хх№)~1*ху(Ь)*irW/a* Процедура аппроксимации, о которой говорится в следствии, обладает тем цреимуществом, что она остается инвариантной при невырожденной фильтрации рядов, см. упр. 10.6.5. Упомянутые здесь собственные векторы играют важную роль и в следующем утверждении. Теорема 10*3*2. Пусть выполнены условия теоремы 10.3.1. Рассмотрим ряды ^(/), t\f(t), tf = 0, ±1, ..., с действительны- действительными значениями, имеющие представления , (t) = ) kj (a)*exp {iat} dZx (a) A0.3.19)
410 10. Канонический анализ временных рядов {iat)dlY{a). A0.3.20) Предположим, что Ау- (а) и Ву(а) удовлетворяют условиям Ау (а)тАу (а) = 1, Ву (а)т Ву (а) == 1, и ряды ?у (t), т|у (t) таковы, что их когерентность |"/?;.i|.(A,)|a максимальна, а когерентность с ря- рядами lk (t), r\k (t), k < /, / = 1, ..., min (r, s), нулевая. Тогда ?y (t) и r\j(t) являются соответственно решениями уравнений hx W-1 f,к W fyy(Я) fyjr (X) Ay. (X) = ку (Я) Ау (X) A0.3.21) A0.3.22) / = 1, ..., min(r, s); зЗвсь \ix (l)^\i2 (Я)>... . Я/71/ з/пож симальное значение \ R^i {%) |2 /?авяо ^(Я). Решение уравнений A0.3.21) и A0.3.22) тесным образом связано с отысканием собственных значений и собственных векторов мат- матрицы, фигурирующей в следствии 10.3.1, которые удовлетворя- удовлетворяют соотношению *yyW-1/2 hx Whx (ty-1 hvMhyW-1/2 Vy (X) = vy (Я) Vy (X). A0.3.23) Из него вытекают равенства =vy (Я) [ixx (Я)-1 f^(X) fKK(^)-1/2 Vy (A,)] A0.3.24) nW4WW PitW-171 V/ (Щ = vy(X)[fFK(X)-i/»Vy(X)]f A0.3.25) которые позволяют нам отождествить (iy (Я) и vy (Я) и взять Ау(Я) и By(?i) пропорциональными соответственно ЬМЧММ^УО) WW1/2VW ЬхМхуМугМ/О) WWyW По сравнению со следствием 10.3.1 теорема 10.3.2 выгодно отличается тем, что ряды X (t) и Y (t) выступают в ней сим- симметричным образом. Пары рядов ?у(/) и т)у@» * = 0, ±1, ..., введенные в этой теореме, называют j-ми парами канонических рядов. Их когерентность |ху (X) именуется j-й канонической коге- когерентностью. Канонические пары можно было бы ввести и по аналогии со способом теоремы 10.2.4. В том случае, когда автоковариационные функции рассмат- рассматриваемых рядов быстро убывают при \и\-^оо, коэффициенты соответствующих фильтров тоже быстро убывают. Точнее говоря, справедлива
10.3. Ряды канонических переменных 411 Теорема 10.3.3. Пусть наряду с условиями теоремы 10.ЗЛ выполняются следующие: |<оо A0.3.26) и A0.3.27) при некотором Р^0> Если все • собственные значения матрицы 'wWxxW^IjbkW различны, то коэффициенты Ъ(и), с (и) фильтров, определенных в теореме 10.3.1, удовлетворяют условиям 2[1+|иП|Ь(и)|<оо A0.3.28) A0.3.29) Автоковариационная функция ряда ошибок e(t), / = 0, ±1, ..., также удовлетворяет условию 2[1+|иИ|Свв(и)|< <*>• A0.3.30) и Содержащийся в следующей теореме близкий результат ока- оказывается иногда полезным при упрощении структуры временных рядов. Теорема 10.3.4. Пусть выполняются условия теоремы 10.3.1 и неравенства ~ A0.3.31) A0.3.32) и при некотором Р^0. Пусть также собственные значения № (Я)9 ..., |i, (Я) матрицы fYY(A,)~1/21п№хх(Ь)~г hrity W(^)*/2 не совпадают друг с другом и отличны от нуля. Тогда сущест- существуют такие г х г-фильтр {а (и)} и sxs-фильтр {Ъ(и)}9 что (ГО.3.33) A0.3.34) 2[1+|иЩа(и)|<оо, и ряд f-fi)X (и)- A0.3.35)
412 10. Канонический анализ временных рядов имеет матрицу спектральной плотности т 1 0 • • • О '^Mi(*) , О ' • • • О О 1 • • • О О л/м2(Х) • • • О о о • • • о о *"• о о о о • • • О т*? • ^Г • ~~^v «1 О ¦ • •. • О • • • О 1 О • • • О О *Ш>$ ••¦00 1 • • • О • о о #" • • • 1 •„ A0.3.36) Пинскер A960) отметил, что, пропустив стационарный ряд через фильтр, можно получить ряд с матрицей спектральной плотности A0.3.36). .4. Построение оценок и их асимптотические свойства Допустим, что мы располагаем отрезком стационарного временного ряда с г + s компонентами ГX ( ,.., A0.4.2) имеющего матрицу спектральной плотности A0.4.3) На основании этой информации мм хотим оценить собственные значения \if (К) и передаточные функции Ау (Я), В;. (Я), /=1,2,..., описанные в теореме 10.3.2. Очевидный способ действий — сна-
10.4. Построение оценок и их асимптотические свойства 413 чала построить матрицу Р* W I» (Я)] Wiftwr A0-4>4) т. е. оценку матрицы A0.4.3), а затем в качестве искомых.оценок выбрать решения уравнений ГРх <А)-Ч& (Я) f & (А,)-» ГРХ (Я) Af > (X) -iif > (Я) Af > (Я), A0.4.5) I» (*)-*«& (Я) f& W-1 f& (Л) Bf > (Я) = iip (Я) Ър (Я), A0.4.6) подчиняющиеся условиям нормиррвки AfWAf> (Я) - 1 и Вр^В}^ (Я)»1. A0.4.7) Рассмотрим теперь статистические свойства получающихся оценок. Предположим, что в качестве оценки A0.4.4) выбрана функция Г-1 s=i , A0.4.8) где H [2 X @ exp {- ШЦ Г2 X (/) exp {- ШЦ * [S Y (/) exp ^ iat)\ [S Y (/) exp {_ ш}\ . (Ю.4.9) и что Wm(a) с помощью некоторой весовой функции W (а) выражается как Г(Л(а)= 2 W (Bf1[a+2nj]). A0.4.10) Тогда справедлива Теорема 10.4.1. Пусть (г + s)-мерный ряд {10.4.2) удовлетво- удовлетворяет условию 2.6.2 A) и определим у}Г)(Я), Rf}(k)y ЩТ)(Х) км решения системы уравнений Ь)-1 uTy W 2(й W-1 tTx (*) ЩТ} W = v}r> (Я) Rf> (Я) A0.4.11) t)-1 йУк W g» (ЯГ* g» (Я) Sf > (Я) - vp (Я) Sf > (Я), A0.4.12)
414 /fl. Канонический анализ временных рядов где «J -j w A-я)Lw |„«1*• A0-4l3) Выберем оценку A0.4.4) в виде A0.4.8) и потребуем, чтобы W (а) удовлетворяла условию 5.6.1. Величины ji}r>(^)i А}Г)(А), В}Г)(Я) определим из соотношений A0.4.5) и A0.46). Если ВТТ —> оо при Т—^оо, то r r /2 A0.4.14) ?Ъш, /срож того, собственные значения матрицы fYY (k)~1/2f кх (Я) х xW(^)"^xk(^)jkkW*/2 различны, то Efif (Я) = vf > (К) + О {ВтгТ~% A0.4.15) ЕА}Г) (Я) = R<f> (Я) + О (BfгГ-*) A0.4.16) EBf > (К) =Sf> (Я) +О (Bfxr-*) A0.4.17) / = 1,2,.... Т~^сх), то, очевидно% ), Е |if> (Л) -> |1У (Я) A0.4.18) A0.4.19) Теорема 10.4.1 свидетельствует о важной роли предваритель- предварительной фильтрации. Распределения \л{р(к)9 А(/Г)(Я), В(/Г>(А) имеют своими средними решения уравнений A0.4.11) и A0.4Л2), однако последние будут близки к искомым решениям A0.3.21) и A0.3.22) только тогда, когда взвешенное среднее A0.4.13) близко к A0.4.3). Рассчитывать на это можно с большим основанием, если под- подвергнуть предварительно наш ряд надлежащей фильтрации. Возвращаясь к исследованию асимптотических распределений li{P(k) и А(Р(к), Ър(к), сформулируем такой результат. Теорема 10.4.2. Предположим наряду с условиями теоремы 10.4.1, что собственные# значения ^(А.^), /=1, .-., min(r, s), различны при т= 1, ..., М. Тогда случайные величины рр(кт), A(/r)(UJ> Ъ(Р(кт), т = 1, ...9М9 имеют совместное асимптоти- асимптотически нормальное распределение и обладают следующей асимпто-
10.4. Построение оценок и их асимптотические свойства 415 тической ковариационной структурой: xf (Я,.), А?>(Я„)} = 0, A0.4.21) lim 5ГГ c"ov {nf (*-«), B(ftr> (Л^)} = 0. A0.4.22) Л также (зависимость оцениваемых параметров распределе- распределений от Кт опускаем) lira НА^А,) ¦ при / = 2я J 1НаJ^аг|{^4-^0гу-^ при A0.4.23) Аналогичные выражения для cow {A(p(km), J(J} B^r)(^)} жож/io вывести из формул A0.2.84) —A0.2.87). Из выражения A0.4.20) вытекает, что величины arth |/fiy} (А) асимптотически нормальны. Используя эти результаты, можно построить приближенные доверительные границы для канонических когерентностей. Результаты другого рода, касающиеся предельных распреде- распределений, можно получить, рассматривая спектральную оценку (8.5.4), соответствующую обычному усреднению фиксированного количества ординат периодограммы. Теорема 10.4.3. Пусть векторный ряд A0.4.2) с r + s ком- компонентами удовлетворяет условию 2.6.1 и обладает матрицей
416 10. Канонический анализ временных рядов спектральной плотности A0.4.3). В качестве оценки этой мат- матрицы возьмем (8.5.4), где m, s(T) —целые числа и 2ns(T)/T-+% при Т—+ОО. Далее, пусть A0.4.25) имеет распределение Bm+\yiWcr+s({2m+\)y A0.4.3)) при X5&0(m6dn)uBm)-xWr+sBm, A0.4.3)) при A, = 0(modji). Тогда при Т-+оо величины \i{pCk), А^^Я), B(/r>W сходятся по рас- распределению к величинам |ху-, Ау, Ву, которые являются решени- решениями уравнений A {iA A0.4.26) ^ A0.4.27) Распределение для jiy, /=1, 2, ..., приводят Constantine A963) и James A964). Результаты теорем 10.4.2 и 10.4.3 согла- согласованы. При больших т отождествим, как это делалось в §5.7, 2т +1 - ^го . * х-гт-2 тг^ • (Ю.4.28) Тогда из теорем 10.2.3 и 10.2.6 вытекает, что \х(Р(Х)у А(Р(К) и В(/}(А) асимптотически нормальны и асимптотическая структура их первых и вторых моментов нам известна. 10.5. Дальнейшие свойства канонических переменных Вначале сопоставим введенные в этой главе канонические ряды с обычными каноническими переменными для векторных случайных величин с действительными компонентами. Пусть X(t, Я) и Y(t>k) обозначают составляющие с частотой Я соот- соответственно рядов Х@, * = 0, ±1, ..., и Y(f), < = 0, ±lf ,.. • Тогда (см. § 4.6 и § 7.1) векторная случайная величина
10.5. Дальнейшие свойства канонических переменных 417 имеет ковариационную матрицу, пропорциональную матрице ¦ Ref^(^) ImfH(A,) RefXK(X) Im !„(*,)¦ - Im ixx (Я) Re ixx(X) - Im fXY (Ц Re iXY (X) ReiYX(k) Imfrx(>.) RefKK(A,) lmiYY{k) — lmiYX{l) R -к При стандартном исследовании канонических корреляций вели- величины A0.5.1) мы стали бы рассматривать собственные значения и векторы матриц, построенных с помощью A0.5.2), точнее го- говоря, нам понадобились бы собственные значения и векторы матрицы hy^y1^ AQ.5.3) В соответствии с леммой 3.7.1 они, по сути дела, представляют собой собственные значения и векторы матрицы fyy/afrafxxWy^/a- Резюмируя сказанное, можно заметить, что канонический анализ в частотной области ряда ГХ(О1 Y@ ¦'-••• ±1, A0.5.4) может трактоваться как обычный анализ канонических корреля- корреляций для каждой из частотных составляющих рядов Х(?), Y(/) и их преобразований Гильберта. Возможна и другая точка зрения: считать, что величины, появляющиеся в теореме 10.4.3, получаются в результате кано- канонического корреляционного анализа комплексных случайных величин типа тех, которые рассматривались в теореме 10.2.6. В частности, теорема 4.4.1 позволяет предположить, что если 5G")—целое число и 2ns(T)/T~ А,н=?0(тос1я), то значения } )л , s-0, ±1, ..., ±т, A0.5.5) будут близки к выборке объема 2т +1 из генеральной сово- совокупности
,418 10. Канонический анализ временных рядов Следуя указаниям, приведенным перед теоремой 10.2.6, мы пришли бы к величинам типа тех, о которых идет речь в тео- теореме 10.4.3. Заметим, что читатель, имеющий в распоряжении программу для вычисления на ЭВМ канонических корреляций величин с действительными компонентами, может воспользоваться ею, а не составлять новую программу для комплексного случая, учитывая упомянутое выше соответствие с действительным слу- случаем. Продолжая наше рассмотрение, мы можем обратиться к ста- статистикам аФ (и) = Bя) -1 \ \<р (а) ехр {шо} da A0.5.7) 2Л ¦5 о Ъ1Р (и) = Bл)-1 J Wf> (а) ехр {ша} da, A0.5.8) м = 0, ±1, ..., где Ар (к), Ър (X) суть решения уравнений A0.4.5) и A0.4.6). Эти статистики являются оценками завися- зависящих от времени коэффициентов канонических рядов. По аналогии с тем, как поступают в многомерном статисти- статистическом анализе, мы могли бы заняться определением принима- принимающих действительные значения мер связи между рядами X(t) и Y (/), таких, как А-статистика Уилкса Ц-IV (*•)). A0-5-9) векторный коэффициент удаленности 2A -IV (Я)) A0.5.10) или векторный коэффициент корреляции A0.5.11) Выборочные оценки этих коэффициентов окажутся полезными при проведении оценки степени связи между частотными состав- составляющими рядов X(t) и Y (t) на частоте К. Miyata A970) привел пример применения эмпирического кано- канонического анализа к некоторым рядам в исследовании по океано- океанографии.
10.6. Упражнения 419 10.6. Упражнения 10.6.1. Покажите, что если в теореме 10.2.1 положить q = rt то получа- получаются результаты теоремы 8.2.1, касающиеся множественной регрессии. 10.6.2. Если в теореме 10.2.1 взять Г = 2уу, то критерий A0.2.5) будет инвариантным при невырожденных линейных преобразованиях вектора Y. 10.6.3. Докажите, что при выполнении условий теоремы 10.3.1 справед- справедливо равенство \хг (А,) = | Ryxft) | 2» если s=l. 10.6.4. Докажите, что при выполнении условий теоремы 10.3.2 справед- справедливо неравенство | \ij (к) | < 1. 10.6.5. Установите, что при условиях теоремы 10.3.1 канонические коге- когерентности Му(^), /=1, 2, ..., инвариантны при невырожденных фильтрациях как ряда X (t), * = 0, ±1, ..., так и ряда Y (t), t = 0, ±1, .*. . 10.6.6. Предположим, что выполнены условия теоремы 10.3.1 и, кроме того, схх(")> ?xy(u)> Суу(и) = 0 при и Ф 0. Тогда {Ъ (и)} и {с (и)}у указан- указанные в этой теореме, обладают свойством: Ь(м) = 0 и с(и) = 0 при и ф 0. 10.6.7. Покажите, что когерентность \Ryx(^)\2 можно интерпретировать как квадрат наибольшей из канонических корреляций {X (t, Я), X (t, А,)я} {Y(tl) Y(tX)"} 10.6.8. Докажите, что если сгладить во всей частотной области оценку (8.5.4), применявшуюся в теореме 10.4.3, то предложенный'метод исследования сведется к стандартному анализу канонических корреляций выборочной кова- ковариационной матрицы Г SF @) (^Л 10.6.9. Допустим, что прежде чем вычислять оценки теоремы 10.4.2, ряд домножен на множитель сходимости h(t/T). Пусть выполнены условия этой теоремы. Докажите, что возникающие асимптотические ковариации оказыва- оказываются умноженными на 10.6.10. Предположим, что имеется / групп r-компонентных векторов, представляющих данные наблюдений, и каждая группа содержит по К наблю- наблюдений. Эти комплексные векторы обозначим буквами Y,^, /=1, ...» J\ 6 = 1, ...,/С. Пусть а) Покажите, что линейные дискриминантные функции pTY, совпадающие с экстремумами отношений §TS#p/pTSwP (суммы квадратов, взятых из разных
420 10. Канонический анализ шременных рядов ' групп, делятся на суммы квадратов внутри группы), являются решениями определяющего уравнения при некотором v. b) Введем (/—1)-компонентную векторную индикаторную переменную Х = [Х/], такую, что Xj=lf если Y входит в /-ю группу, и Х;- = 0 в против- противном случае, /=1, ..., J — 1. Покажите, что рассмотренный выше анализ экви- эквивалентен каноническому корреляционному анализу величин [*'*] ],/ 1, ..., /; Л«1 К; см. Glahn A968). с) Укажите обобщение этих результатов на случай стационарных времен- временных рядов Y/a@, t=*0> ±1, ..* .
ДОКАЗАТЕЛЬСТВА ТЕОРЕМ < главе 2 Доказательство теоремы 2.3.1. Следует непосредственно рас- рассмотреть соответствующие коэффициенты ряда Тейлора и срав- шть их с выражением B.3.1). Доказательство леммы 2.3.1. Начнем с необходимости усло- шя. Если разбиение не будет неразложимым, то, согласно 2.3.5), разности Ф(ri/t)—4> (г/А), 1 < нФ\г < //, i = ii9 ..., i09 >удут порождать только величины sW'—-sm», т'у т"=щ9 ..., mN9 i не существует способа получить sm' — sm» при т' = т19 ..., mN i т'Фщ, ..., mN. Теперь о. достаточности условия. Предположим, что Ф^^-) -Ф(г/у,). l<ii?=j2<:Ji> t = U •••> ^» порождают smi — sm[y [<^тгфт2^.М. Но тогда любая пара Рт>, Рт» множеств раз- 5иения окажется сообщающейся, иначе не порождалась бы раз- разность sm' — sm». Тем самым показана неразложимость. Продемонстрируем справедливость другой формулировки лем- ш. Если не выполнено свойство неразложимости разбиения, то, з силу B.3.5), Ъ(гц)—Ъ(Пч)* (h /)» С. П€рт> т = щ, .,.,% юрождают лишь разности ti — tr, i, V =iit ...,/„, и величины tt — ti'9 i = ii9 ..., t0» i' ФН> • • •» *'o» получить нельзя. С другой стороны, если i|? (r/y) — г|) (гг/0 порождают все вели- величины tt — tr, то должна существовать некоторая последователь- последовательность множеств Рт9 начинающаяся с i и кончающаяся Г; поэтому все множества сообщаются. Доказательство теоремы 2.3.2. Проведем индукцию по /. Согласно теореме 2.3.1, имеем при каждом у где Од = cum (Ftti, ..., Yam), |a= (ai> • • •» a J и суммирование ведется по всем разбиениям (^, ...,(хя) множества A, ...,y%v Кроме того, ..у>=еП II^=2cVl...c (**) l1 "
422 Доказательства теорем где Cv= cum (Xai, ..., Xam), v= (aiy ..., am) (а обозначают пары целых чисел) и суммирование распространяется на все разбие- разбиения множества {(т, п) \ т = 1, ...,/; п = 1, ..., km\. Из (*) и (**) видим, что cum (Yi, •. * 9 У*) = ^ CVi... Cv^—^j O^! • • • Вцр. v М, Здесь 2м. берется по всем разбиениям с р^2. Тем самым в этом выражении члены, соответствующие разложимым разбие- разбиениям, будут вычитаться, откуда и вытекает утверждение. Доказательство теоремы 2.5.1. Будем писать А>0, подра- подразумевая, что матрица А неотрицательно определенная. То об- обстоятельство, что ixx (К)—эрмитова матрица, следует из B.5.7) и равенства схх(и)х = схх(—и). Далее можно предположить, что EX (t) = 0. Рассмотрим Ypx {%) = BпТу1 2 X (t) ехр {— Ш) 2 X (t) ехр {— i По построению 1(хх(^)^0» и тем самым ~Е1(рх W^O. Матема- Математическое ожидание Г-1 представляет собой среднее Чезаро для ряда fxx(k). Из условий теоремы вытекает, что этот ряд сходится, поэтому из упр. 1.7.10 получаем, что ft = !„ (Я) и, следовательно, Доказательство теоремы 2.5.2. Пусть ЕХ(/) = 0. Рассмотрим j [ * Х@ ехр - Ш}]' при —я^Л<я. По построению I^xW^O. Далее введем 7-1 ы=-Г + 1 Заметим, что и J(ixM^0- Из (*) получаем (**)
К главе 2 423 при и = О, ±1, ...,±7\ Последовательность Vpx(a)da9 — матричных мер заключена между 0 и 0^@). Обобщение теоремы Хелли о выборе показывает, что эта последовательность содер- содержит подпоследовательность, слабо сходящуюся к некоторой матричной мере. Обозначим через Fxx W предел такой сходящейся подпоследовательности J(xx(k). Аппроксимируя интегралы ко- конечными суммами, убеждаемся, что я я 5 exp{ilu\Урх (X)dk—- J exp{ihu}dFxx(К). -Я -Я Помимо этого, из (**) следует, что предел семейства интегралов равен схх{и). Отсюда получается B.5.8). Выражение B.5.9) вытекает из обычной формулы обращения преобразования Фурье — Стилтьеса. Приращения Fxxity по по- построению ^0. Доказательство леммы 2.7.1. Исйользуя свойства линейности и временной инвариантности, получаем 31 [Г«е] @ = exp {ifoi} SI [e] (t) = 31 [е] (t + u). Полагая ? = 0, имеем т. е. B.7.6), где А(Л) = Я[е]@). Доказательство леммы 2.7.2. Указанные свойства—это стан- стандартные результаты, относящиеся к преобразованию Фурье аб- абсолютно суммируемых последовательностей; см., например, Zyg- mund A968). Доказательство леммы 2.7.3. Отметим, что следовательно, так что сумма 2 * ('"~м) X (и) конечна с вероятностью 1. Ста- и ционарность ряда Y (t) вытекает из временной инвариантности операции.
424 Доказательства теорем Далее мы получим неравенства xE\XJl{u1)...XJk{ak)\ /* завершающие доказательство. Доказательство теоремы 2.7.1. Введем Yr@= 2 а(и)Х(*-и) для Т= 1, 2, ... . Суммирование слагаемых с 7" < |и|^Т обо- обозначим символом 2'. Тогда при 7" < 7 найдется некоторая кон- константа /С, такая, что 2'а («) ехР {-'*«}] *и (*•) Е'а («) ехР < /С J [2' а (и) ехр {- Ли}] [?' а («) ехр {- iXu}] dX. Выражение справа стремится к 0 при Т, Т' —> оо согласно B.7.23). Значит, последовательность Yr(^), Т= 1, 2, ..., является после- последовательностью Коши, и предел B.7.25) существует в силу полноты. Доказательство леммы 2.7.4. Обозначив видим, что операции действительно линейны и инвариантны во времени. Полагая убеждаемся в справедливости B.7.34) и B.7.35). Доказательство теоремы 2.8.1. Векторный ряд X(t) с г ком- компонентами строго стационарен и имеет кумулянтные спектры far-'ak(^u--^hh Y@= S а(* — ы)Х(м), где а (а) — коэф-
К главе 2 425 00 фициенты sx г-фильтра, такого, что 2 I ai/ (u) I < °°» * = 1» • • • И=-оо ...,s; /=1, ...,г. По лемме 2.7.3 ряд Y(/) тоже строго ста- стационарен и существуют его кумулянтные функции d bl.. ,bk (v19... ...,^_i). Тогда Г Г oo = cum < 2 23 abJt (vj. — щ) Xj, (a,), ..., 1 У. ... У, а„, @,-и,)... г г Г Г оо оо = S • • • .2j i • • • i ^/t. • ./л (^i» • • •» wfe-l) где = 2 Оьг/М — Ui-u)---abk.ljk.l(x>k-i~4-i-4)abku(—u). U= -oo Поскольку aft.(w) абсолютно суммируемы, из теоремы Фубини вытекает абсолютная суммируемость ряда ^jl...jk(u19 ..., ^-i)- Следовательно, Оправдано будет и изменение порядка усреднения и суммирова- суммирования, позволяющее перейти от (*) к (**). Теперь функция dbx...bkivi> • • 'i^k-i) представима как сумма сверток абсолютно суммируемых функций, а потому сама абсолютно суммируема. Значит, ряд Y (/) удовлетворяет условию2.6.1. Выражение B.8.1) мы получим, применив преобразование Фурье к кумулянтной функции ряда Y (t) и воспользовавшись при этом тем, что рас- рассматривается сумма сверток.
426 Доказательства теорем Доказательство леммы 2.9.1. Если X (t)—марковский гауссов- ский ряд, то X(s + t)-E{X(s + t)\X(s)\, t>0, s>0, не зави- зависит от X @). Поэтому cov {X @), [X (s+t)—E{X (s + t)\X (s)}]}=0, а так как Е{Х (s + t)\X (s)} = K + X(s)cxx(t)/cxx@), где К — константа, то ^ приМ>0. Это показывает, что @)[A)/@)У при *> Для завершения доказательства остается заметить, что cxx(t)=* = cxx(-t). Доказательство теоремы 2.9.1. Начнем с того, что при сде- сделанных предположениях Y (t) существует с вероятностью 1, так как 21 <*S-Ui) IB | Х(иг) | +2 21 о» (t-u»t-uE) 1E | XJ(u1)X(ii Рассмотрим далее cum{Y(tt)t ..., j1=o J7=o «ry .., a/7/) cum {X {tt—uXl).. ^X(t1- Кумулянты, зависящие от значений X, согласно теореме 2.3.2, являются суммами произведений совместных кумулянтов величин X(ti—ии). Суммы эти берутся по неразложимым разбиениям и имеют вид 2 c(ti-uu;(ifj)€P1)...c(ti-uu',(i,j)€PM). 1> 1 Поскольку ряд стационарен, куму/янты зависят только от раз- разностей ti—tf — tiij + Ui'j'. В силу леммы 2.3.1, среди разностей if — tr будет / — 1 независимых. Пусть для определенности это *i — f/i •••»*/-* — */• Полагая tI = 01 мы видим теперь, что
К главе 3 427 где g—абсолютно суммируемая функция своих аргументов. Сде- Сделав замену переменных убеждаемся, что кумулянты ряда Y (t) абсолютно суммируемы. Доказательство теоремы 2.10.1. Мы несколько предвосхитим дальнейшее изложение материала. В § 4.6 будет показано, что можно представить ряды в виде я я X @ = J exp {iU)dZx (k), Y(t)=l exp {Ш} dZY (К), -Я -Я где cum {dZx (A*), ..., dZx (kk)\ cum {dZy (I,),... tdZY(lk)\ Подстановка этих выражений в B.9.15) показывает, что • • J л К+ ... +ау-А) Aj(aiy ...,а;) Теперь, применив теорему 2.3.2 и воспользовавшись выписанными выражениями, получаем нужную нам формулу B.10.10). К главе 3 Доказательство теоремы 3.3.1. Первое равенство в C.3.18) получается немедленно. Переписав интеграл в виде Н(а) А (*-?) d«= ] Н(а) Г? ^ приходим к второму равенству.
428 Доказательства теорем Доказательство леммы 3.4.1. Имеем 2 а ГГ-1 ' I (и) 2 Х(< — и)ехр{— Ш}\ О ГГ-1 -н-1 Г-.1-и"| = 2 а(и)ехр{~Ои} 2- S + 2 00 X [X (у) ехр {— iktt}] + S а (и) ехр {— {%«} И=1 fs + 2 - 2* ][X(y)exp{-iM] 0=0 о=-а o=r-«J где | е(Г) (X) | < L 21 а (и) | | и | при некотором конечном L, посколь- u ку компоненты X(t) ограничены. Доказательство теоремы 3.5.1. Теорема прямо вытекает из подстановки / = jtT2 + j2, t = tt + t2T± и из того, что ехр {—i2nk} = 1 для целых k. Доказательство теоремы 3.5.2. См. доказательство теоре- теоремы 3.5.3. Доказательство теоремы 3.5.3. Прежде всего отметим, что целые числа t,T thT взятые по mod T, пробегают все целые значения t из промежутка О^^^Г — 1. Поэтому (*) принимает Тг.. .Tk = T возможных целых значений. Предположим, что два из них совпадают по mod Ту т. е. при некотором целом / Тг + " " ' + Tk ~ Ti + * ' ' + Th T Это эквивалентно равенству Ti "" т2 Т-...-1- ^ левая часть которого не делится на Tlf в то время как правая часть делится. Получено противоречие, следовательно, значения (*) совпадают с целыми ? = 0, ..., Т— 1. Утверждение теоремы по- получается теперь, если рассмотреть по mod T
К главе 3 429 Доказательство леммы 3.6.1. См. доказательство леммы 3.6.2. Доказательство леммы 3.6.2. Если подставить в C.6.11) то получим выражение В случае г = 2 отсюда получается C.6.5), а при |^y|^S—Т имеем C.6.10). Доказательство леммы 3.7.1. Утверждение легко проверяется после того, как установлено соответствие C.7.7). Доказательство теоремы 3.7.1. См. книгу Bellman A960). Доказательство теоремы 3.7.2. Матрица ZTZ неотрицательно определенная и эрмитова. Поэтому ее собственные значения имеют вид [ij, причем выберем (ху.^0. Пусть V обозначает ассо- ассоциированную матрицу, составленную из соответствующих собст- собственных векторов; для нее ZTZV = VD, где диагональная матрица D = diag {|i/}. Допустим, что M = diag{(x/} имеет размеры sxr. Выберем U так, чтобы UM = ZV. Тогда ясно, что U—унитарная матрица, составленная из собственных векторов ZZT; теорема полностью доказана. i Доказательство теоремы 3.7.3. Пусть \ik обозначает выраже- выражение C.7.11), а ак обозначает C.7.12). Нетрудно проверить, что Доказательство теоремы 3.7.4. Положим B = Z—А. По тео- теореме Куранта —Фишера [см. Bellman A960) и упр. 3.10.16] u/(BBT) = inf sup ^4г^, J D DX=O XTX где D —произвольная (/ —1)X /-матрица, а х—любой J-компо- J-компонентный вектор. Следовательно, h
430 Доказательства теорем поскольку ранг матрицы не превосходит j + L—1. Проверка показывает, что этот мини- минимум достигается, если взять матрицу А, задаваемую формулой C.7.19). Таким образом, утверждение доказано. Доказательство теоремы 3.8.1. См. книгу Bochner, Martin A948), стр. 39. Доказательство теоремы 3.8.2. Пространство V+ (/) является коммутативным нормированным кольцом, см. Гельфанд и др. A960). Пространство ЗК максимальных идеалов этого кольца гомоморфно полосе в комплексной области —я < ReX^jt, ImX^O. Если этот гомоморфизм сопоставляет М?*Ш число Я, то м=0 a (и) ехр {— i%u}. Именно так выглядят функции из V+ (/). Наше утверждение вы- вытекает теперь из теоремы 1 книги Гельфанда и др. A-960). За- Заметим, что можно было бы провести и прямое доказательство. Доказательство теоремы 3.8.3. Пространство V{1) является коммутативным нормированным кольцом, а его пространство максимальных идеалов гомоморфно интервалу (—я, я] действи- действительной прямой. Соответствие задается следующим образом: х (М) = 2 а (и) ехр {— i Xu\ и для всякого максимального идеала М. Величины х (М) являются элементами V (I). Теорема представляет собой следствие теоремы 1 из работы Гельфанд и др. A964, стр. 82). Доказательство теоремы 3.9.1. Рассмотрим пространство, со- состоящее из конечных линейных комбинаций величин Xj(t-\-s), / = 1, ... г, / = 0, ± 1, ... . Можно снабдить это пространство внутренним произведением, полагая по определению <У1Э Г2> = ton BS+1)-1 S Yt (s) Y2 (s). Получившееся предгильбертово пространство может быть попол- пополнено. Пусть Я—соответствующее гильбертово пространство. В Н существует такой унитарный оператор Ц, что / = 1 г.
^ ; К главе 3 431 Согласно теореме Стоуна (см. Riesz, Nagy A955)), оператор tt обладает спектральным представлением где Е (Я)—спектральное семейство проекционных операторов в Я. Это семейство обладает свойствами: Е (%) Е ((г) = Е ((х) Е (к) = = E(min{A,, jx}), Е(—я) = 0, Е(я) = / и Е(Я) непрерывна по К справа. Кроме того, для Y±(t) и Y2(t)9 принадлежащих Я, функция <E(A,)yif У2> имеет ограниченную вариацию и <UKf, Г2> = J exp {iX} d <E (К) Yp Г2>. (•) -Я Если ввести Zy(A,; s) = E(^)Xy.(s), тогда видно, что в смысле C.9.6). Из равенства (*) также вытекает, что mJk{u)= -Я Я s* J exp{au}d<Zj(k\ s), -Я Далее, сославшись на теорему Бохнера, мы можем отождест- отождествить GJk(k), определенную формулой C.9.4), со скалярным про- произведением <Zy(A,; s), Zk{%\ s)>. Остальные утверждения теоремы вытекают из свойств спектрального семейства Е(к). Доказательство теоремы 3.9.2. Полагаем В силу C.9.11) найдется такая ZX(A), что оо Нт Т-+оо _я
432 Доказательства теорем Возьмем теперь Z (%) так, чтобы выполнялось условие Zx (я) — — Zx(-n)=X{0). Тогда 0 при < = 0, P^lxto)-lx(O при Отсюда получаем C.9.13). Обратившись далее к проверке C.9.15), имеем при и=.О, ±1, ... limi limi С ехр {iua\[Zx (a+e)-Zx(a-e)][Zx (a+e)—Zx(a-6)]4a n = Нт^Bя)-8 f exp{iU X [2eX@) + 2 X (/) exp {i где п\хх(и) задается формулой C.9.3). Теперь учтем, чтс поэтому C.9.15) вытекает из теоремы единственности преобра* зования Фурье—Стилтьеса. К главе 4 Прежде чем перейти к доказательству теорем 4.3.1 и 4.3.2, установим ряд лемм. Лемма Д4.1. Если ha(u) удовлетворяет условию 4.3.1 и если t + ин-г) AiJ (t) ехр {-Ш\ - Hl\,ak (l) | при некотором конечном /С.
К главе 4 433 Доказательство. Рассматриваемая сумма не превосходит"" при некотором конечном L. Для удобства предположим, что иа > 0. (Другие случаи рассматриваются аналогично.) Тогда, продолжая цепочку неравенств k-\ иа- 1 получаем нужное выражение. Лемма Д4.2. Кумулянт, о котором идет речь в теоремах 4.3 Л и 4.3.2, дается выражением s s /n_\^__i гг(^) /\ I 5l ^ ^Р '"S^ pyn / * /у. it __L. ax...ak 1 *. »s" ' " -S V /> //у А cai...at Vai» • • •» гй^ S = 2(T—1) гг s s "^ _s _s l au" k при некотором конечном К. Доказательство. Кумулянт имеет вид лтА • *шА 1 ^ \ /г/ г 1 ajJ у у I d\..\ fo\ 1 Л> •••» /г —1 /г/ ' / У i l ^ Применяя лемму Д4.1, приравняем это выражение s где ег оценивается указанным выше образом.
434 * Доказательства теорем Лемма Д4.3. При выполнении условия 4.3.6 гТ = о(Т) при Доказательство. r-4er|<^S.-.Sr-MI^I+--- + l^il)l^..eik(^---.ttlb-i)|. Но Т'1(\и1\+... + \uk-1\)-+0 при Т-*оо. Опираясь на D.3.6), мы можем теперь применить теорему о мажорированной сходимости и убедиться, что У1ег| —> 0 при Г—^оо5 Лемма Д4.4. При условии D.3.10) ег = ОA). Доказательство очевидно. Доказательство теоремы 4.3.1. Воспользуемся соотношением far • • ak(hi • • • , hk-1 утверждение вытекает из лемм Д4.2 и Д4.3 Доказательство теоремы 4.3.2. Оно немедленно следует из лемм Д4.2 и Д4.4 и соотношения f ax...ak {К> • • •» ^л-i) так как выполнено'условие D.3.10). Следующая лемма понадобится нам при доказательстве тео- теоремы 4.4.1. Лемма Д4.5. Пусть Y<7>, Г=1, 2, ..., будет такой после- последовательностью случайных векторов с г комплексными компонен- компонентами, что все кумулянты величины {Y[T\ Y[T\ ..., Y{rT\ Y(rT)} существуют и стремятся к кумулянтам величины {Yiy Flf ... ..., Yri Yr\, которая определяется своими моментами. Тогда YG> сходится по распределению к величине, имеющей компоненты Y У * 1» • • • » * г* Доказательство. Все сходящиеся подпоследовательности сов- совместных функций распределения Y<7> стремятся к совместным функциям распределения с заданными моментами. По предполо-- жению существует только одна функция совместного распреде- распределения с такими моментами, отсюда и вытекает указанный результат.
К главе 4 435 Доказательство теоремы 4.4.L Вначале отметим, что Ыр (± V (Т)) = Д<г> (± Xj (Г)) E Xa (t) ( О при 1;(Т)ф0 (mod я), = {. ТЕХа (t) при Яу (Г) = 0 (mod 2я), 10 или ЕХв@ при Ау(Т) = ±я, ±3я, ... . Поэтому ясно, что первый кумулянт величины d* > (fy (Л) веДет себя требуемым в теореме образом. Далее отметим, что в силу теоремы 4.3.1 Г-* cov {dp (± Ху (Т)), 4Г> (± ХЛ (Г))} _ Г-2.А- ( а""'^-И) U (± V (П) +• О) ¦ Выражение в правой части последнего равенства стремится к нулю, если Xj(T) ± lk (Г) ф (mod 2д). Если же ± lf (T) = ± XftG) (mod2jt), то оно стремится к 2я/аЬ(± Лу). Это показы- показывает, что и поведение кумулянтов второго порядка правильно указано в теореме. Наконец, вновь сославшись на теорему 4.3.1, видим, что T-W cum {d?> (± Xh (Г)), ..., #Ц (± Xik (T))\ (± ХЛ (Л ±... ± \ (Т)) Последнее выражение стремится к 0 при Г—>оо, если k > 2, поскольку Д<7)(«) ведет себя как О(Т). Объединяя все эти результаты, мы видим, что кумулянты рассматриваемых величин, а также сопряженных величин, схо- сходятся к кумулянтам нормального распределения. Заключение теоремы вытекает теперь из предыдущей леммы, так как нор- нормальное распределение определяется своими моментами. Доказательству теоремы 4.4.2 предпошлем лемму. Лемма Д4.6. Пусть ha{f) удовлетворяет условию 4.3.1, а = = 1, ..., г, и пусть №р а (Ц задается формулой D.3.2). Тогда при некотором конечном К если Доказательство, Предположим для удобства, что h (t) отлична от нуля только при 0^tf<7\ Используя упр. 1.7.13, получим Но |Al/)(^)|<l/|sinV2| и поэтому
436 , Доказательства теорем I H2,k <*> I < над ? | П Ч (ф) -П S (t) I согласно лемме, применявшейся при доказательстве теоремы 4.3.2. Доказательство теоремы 4.4.2. Действуя, как в теореме 4.4.1, получим с помощью лемм Д4.6 и Д4.1 (± *у) = оA) при Ay =?0(mod2jt), ТНа{0)са+оA) при Xy 0(d2) Далее из теоремы 4.3.1 имеем что, согласно лемме Д4.6, стремитсяк нулю, если Ay и стремится к 2я { J К (О Л, (*) Л} /вЬ (± Лу) = 2пНаЬ @) fвЬ (± Яу) если ± Ху = ± ХЛ (mod 2я). Теперь (± ХА ±... Это выражение стремится к 0 при & > 2, так как Я^Г) в (X) = О(Т), и доказательство завершается так же, как раньше. Для доказательства теоремы 4.5.1 мы рассмотрим серию лемм. Обозначим ar=D Red?> (X) =-j f | #<r> (X-a) + Я<Г> (— X-a) |«/и (a)da. Лемма Д4.7. Пусть выполнены условия теоремы 4.5.1, тогда при заданных X, г и достаточно малом а Е exp {a Re d(p (X)\ < ехр {а2аг A + е) /2}. Доказательство. Первое из выражений, выписанных при доказательстве леммы Д4.2, показывает, что |cum где L = sup|ft(tt)|, а Сл определены в B.6.7). Тем самым
К главе 4 437 з Выбрав достаточно малое а, получим нужное неравенство. Следствие. При условиях леммы Д4.7 Е ехр {а | Re df (К) \\ < 2 ехр {а2аг A + в)/2}. Лемма Д4.8. Пусть Xr = 2jtr//?, r = Q9 ¦ .., R — 1, где целое R>6nT. Тогда sup | Redf (X) |<sup| Red?> (Ml/A—6nT/?^). Я г Доказательство. Неравенство следует непосредственно из леммы 2.1 книги Woodroofe,. Van Ness A967), см. также тео- теорему 7.28 из гл. 10 книги Zygmund A968). Лемма Д4.9. При условиях теоремы 4.5.1 <2exp{log#+a22jtT J h (uJdu A +е) sup fxx (X)/[2(\— A Доказательство. Интересующее нас математяческое ожидание не превосходит Е ехр {asup | Red$> (kr) \ / (l—6nTR~*)} г <2 Еехр {а| Red'/' (k,)\/ (I - GnTR-1)}. Г Отсюда и получается доказываемое неравенство, поскольку сумма содержит # = exp{log/?} слагаемых и Лемма Д4.10. Зафиксируеме, б > 0 и обозначим а2—2л A+е) х X B + б) Т (log Т) #2 sup fxx (К). При выполнении условий тео- ремы 4.5.1 найдется такое К, что Р [sup|Red'p (X)\>а]^КТ-*-<>. А Доказательство. Эта вероятность не превосходит ехр {— оих} 2 ехр {log R + а*2пТ A + 6) Я2 sup fxx (К) /[2A- л а если взять здесь R = TlogT и
438 Доказательства теорем то не превосхрдит 2ехр{— a2(l Последнее выражение меньше либо равно KT~l~6 при указан- указанном выше выборе а. Следствие. При выполнении условий теоремы 4.5.1 с вероятностью 1. Доказательство следует из леммы Бореля — Кантелли [см. Loeve A963)] ввиду произвольного выбора 8 и б в лемме Д4.10. Доказательство теоремы 4.5.1. Можно сформулировать след- следствие, аналогичное только что рассмотренному, и для itf Тогда доказательство вытекает из того, что Доказательство теоремы 4.5.2 вполне аналогично доказа- доказательству теоремы 4.5.3, к которому мы теперь перейдем. Отли- Отличие состоит лишь в том, что вместо основного неравенства сле- следующей леммы надо применить такое: J Доказательство теоремы 4.5.3 представим в виде цепочки лемм. Лемма Д4.11. Предположим, что функция h(u) имеет конеч- конечный носитель и производная ее равномерно ограничена. Пусть Тогда при некотором М. Доказательство. (О X (t) exp {— Ш\ Sa (u) exP I— t и 2 WT) {и+v)—h^ (v)] а (и) X (у) ехр {— i% (и+о)}.
К главе 4439 Поэтому cum = 2 ... 2 и» vt uk, vk xexp{— * I Модуль этого выражения не превосходит 2 ... 2 s \щ\т-ч...\ин\т-*ь при некотором конечном Л1 (здесь L обозначает константу, огра- ограничивающую производную функции h(u)). Лемма Д4.12. При достаточно малых а можно указать такое число L, что Е exp {a Re ftr> (Щ < ехр {оР Доказательство. Из предыдущей леммы получаем, что при малых |а| найдется такое конечное L, что Лемма Д4.13. Пусть 'Kr = 2nr/R, r = 0, ..., /?—1, где R — целое число, R > 12я7\ Тогда существует такая константа N\ что sup | ЙГ> (Я,) | < sup | ?<г' (Я,) | / A - 12яТ/?-») + A^r-i sup | d(xr» (Я) |. Доказательство. Пусть г А(П (Х)= 2 a(?i)exp{—1'Ш. «= -г Тогда из D.5.8) вытекает, что при некотором К Далее мржно представить QT) (к) в виде {цр (I) - А<^> (X) dT (Щ + {А(Г> (X) - А Первый член этого выражения является тригонометрическим полиномом порядка 27. Поэтому, в силу леммы 2.1 книги Wood- Л
440 Доказательства теорем roofe, Van Ness A967), sup | [d?> (A,)-A^(A <sup | [dVr) (K)~ А(Г)(М d'J» (K)]a I / A - < sup | &Г) (Хг) | / (\-\2nTR-1) + ЯГ-* sup № (Ji) | / A-1 Отсюда и из.(*) последует указанное в лемме неравенство. Лемма Д4.14. При выполнении условий теоремы 4.5.3 Eexp{asup|&r> (k,)\/ (l-\2nTR-1)} < 2 exp {log R + tfLT-1/ A - \2nTR-1)*}. ¦Доказательство. Достаточно применить лемму Д4.12 и учесть, что sup берется по конечному множеству из R элементов. Лемма Д4.15. Пусть выбрано число 6>0 и a2 = 4LB + 6)x X log Т/Т, тогда при выполнении условий теоремы 4.5.3 Р [sup | &Г) (Л,) | / A - 12яГ#~1) > а] < /(Г-1 - Г некотором конечном /С. Доказательство, Положим /? = Т log T и 2L Тогда интересующая нас вероятность не превосходит 2ехр {log T + log log T-a^O-12ЯГД-1J/ DL)} </С exp {log Г - B + 6) log 7} < КТ~{ -«. Следствие. Я/?гг условиях теоремы 4.5.3 найдется такая константа /С, Пт с вероятностью 1. Доказательство теоремы 4.5.3 следует из теоремы 4.5.1, пре- предыдущего следствия и леммы Д4.13. Доказательство теоремы 4.5.4. Согласно упр. 3.10.34(Ь), (a) А(Г> (Х-a) da.
К главе 4 441 Пусть & —положительное целое число. По неравенству Гёльдера ¦\Bk-\)/2k ¦ Л ¦ ¦ Л :2я [2я П1/2^Г2я , S K/>(a)|2*da J | Д<г> (Я —с») [2Я 11/2* J d(P (a)*dlP (-a)*da KT^ при некотором конечном К в силу упр. 3.10.28. Из теоремы 2.3.2 и формулы (*), фигурирующей в доказательстве леммы Д4.7, следует неравенство Е | djf> (а) |я* < Af Г* при некотором конечном М. Поэтому найдется такое число N, что Тем самым sup А так как- ^Т1-*2*8) < оо при достаточно больших &, то отсюда вытекает результат теоремы. Для доказательства теоремы 4.6.1 вначале рассмотрим лемму. Лемма Д4.16. Допустим, что ряд X(t), t = Q, ± 1, ..., удов- удовлетворяет условию 2.6.1. Пусть также т 2пНр (X) = V х (I t=-T Тогда Т. lira cum {Zl; (К) ZTa4\j\ = J ... \ Л Bа/ )/«.•••«* («i» •••' aft-i)^!--- о о \ 1 / при ох, ..., аА = 1 ,...,/•; Л =2, 3, ....
442 Доказательства теорем Доказательство. Кумулянт можно представить как> произве- произведение Bл) "* на интеграл .... ( 2 ... 2 cag...ak(t1-tk, .... tk-i-tj ( k \ Xt ЛЛ2я 2Я xexp I —i %а? >dax ... dak= J ... J J ... J /fll.. .fljk (pif ... ^ l ' 0 0 0 0 • • .,"P*-iJ •. • Sexp {it, ф1-а1) + . ..+Uk-i (P*-i-a*-i)- / t Указанный в лемме предел получаем, заметив, что т Шп Bя)~1 2 Т -> оо где т](-) является периодическим расширением б-функции Ди- Дирака; см. упр. 2.13.33. к Следствие. Если 2^>' — 0(тос12я), то lim cum (Z<f (^) -Zjf) (^), ..., Z<5> D) ~^> (ЛЛ)\ - 0. Доказательство. Кумулянт является суммой слагаемых вида ± cum и, согласно предыдущей лемме, каждое из них стремится к од- одному и тому же пределу (с точностью до знака!). Поэтому сумма имеет* предел 0. Следствие, lim EIZ (aS) (ty ~ Z(aT) (К) |2* = 0 при k = 1, 2, .... Доказательство. Можно записать момент как сумму кумулян- кумулянтов того же вида, что и в последнем следствии. Каждый из этих кумулянтов стремится к 0, откуда и получается требуемый ре- результат. Доказательство теоремы 4.6.1. Последнее следствие показы- показывает, что последовательность Z{P(%), Г=1, 2, ..., является по- последовательностью Коши в любом пространстве Lv, v > 0. Эти пространства полны, поэтому в каждом из них существует предел Для завершения доказательства заметим, что выражение D.6.7) получается из леммы Д4.16.
К главе 4 443 Доказательство теоремы 4.6.2. Рассмотрим *> @ = % 2 п=О Тогда 2я С N —> oo T —> oo и Кроме того, т Е{Ха (t)Z(J)(X)\= 2 caa(t — w)[l—exp{— Я2я т оо аа »=- о Отсюда видно, что / 2я N —> оо 7" —>> оо Z 0 )/ & Ит "Ж Z ехр {йяп^/^} J /«« (~"а) ехР {— ^ ¦* °° /1 = 0 2ял/Л/ 2я - S /„(-«) da=EXtf@2. о Аналогичным образом можно показать, что Г2я -12 ЕЙ ехр{Ш}^(Я) =ЕХ(О'. Из двух последних равенств выводим, что [ Xa(t)- [2я -12 Xa(t)-jexp{at}dZa^)\ =0,
444 Доказательства теорем и, следовательно, с вероятностью 1 2Я о ? = 0, ±1, ..., т.е. получено нужное представление* Доказательство теоремы 4.7.1. Мы можем записать .E{(Y-B-C6)MV-B-CE)} = tr[cov{Y-C?, ?-С?}] + (ЕУ-В-СЕ6)т(Е?-В-СЕ6)- Минимум этого выражения, рассматриваемого как функция В, достигается при Но тогда tr[cov{Y-C?, Y- = tr [(sV/2y —С А2&) Bft- — Согласно следствию 3.7.4, минимальным этот след окажется, если положить, используя обозначения из доказываемой теоремы, к к СА= 2/ р/'иМЪуУ* = S U/u/- /=1 /=1 Тем самым утверждение установлено. К главе 5 Доказательство теоремы 5.2.1. Мы имеем F/lTv fM — (УпТ)*1 rum т-\ s, /=0 Выражение E.2.6) получается теперь заменой я схх (и) = S exP V'awl fxx (a)da- Доказательство теоремы 5.2.2. Поступая так же, как при доказательстве теоремы 4.3.2, получим с учетом E.2.7) соотно- соотношение cum {dip.(X), d{p (-%)} = 2nTfxx (Ц + 0A),
К главе 5- 445 и E.2.8) непосредственно следует из приведенного выше выра- выражения (*). Доказательство теоремы 5.2.3. Прежде всего заметим, что я J |Я<^ (a) pda = J -я t Далее, имеем cum {dip (X), d<p(-X)\ ( s, t n S Я - J I tfW(b-a) |«/«(a) da. - Я Выражение E.2.17) вытекает из того факта, что cum {dp (X), d^(- Доказательство теоремы 5.2.4. См. приведенное ниже дока- доказательство теоремы 5.2.5. Доказательство теоремы 5.2.5. Из теоремы 4.3.2 имеем соот- соотношение cov {p () p ( , -X, |) () Х) fxxx (-Xf ii) + O A)] + три подобных члена + три подобных члена ОA)][2яА(^(-Я-ц)/ /„ (-Л) + 0 A)], дающее нужный результат. Теперь сформулируем результат, который потребуется в сле- следующем доказательстве, а затем и в других.
446 Доказательства теорем Теорема Д5.1. Пусть последовательность г-мерных векторных случайных величин ХТу Т=\, 2, ..., сходится по распределению к случайной величине X. Пусть g: Rr—+Rs является s-мерной векторной измеримой функцией, множество разрывов которой имеет меру X относительно 0. Тогда последовательность s-мер- ных векторных величин g(XG)), T=l, 2, ..., сходится по рас- распределению к случайной величине g(X). Доказательство. См. Mann, Wald A943a) и теорему 5.1 у Billingsley A968). Нам потребуется также и связанная с этой Теорема Д5.2. Пусть последовательность r-мерных векторных случайных величин УТ(\Т— м)> Т = 19 2, ..., сходится по рас- распределению к Nr@, 2). Пусть g: Rr—+Rs есть s-мерная вектор- векторная функция, дифференцируемая в окрестности \л и имеющая sxr-матрицу Якоби 3 в ju. Тогда последовательность |/Г (g(YT-)— — g(jn)) сходится по распределению к Ns@, JSJT) при Т—+оо. Доказательство. См. Mann, Wald A943a, b) и Rao A965, стр. 321). Следствие Д5.2 (действительнозначный случай). Пусть УТ(\т—И^» Т = 1, 2, ..., сходится по распределению к N @, а2). Пусть g: R—+R в окрестности \i имеет производную g'". Тогда при Т—>оо VT(g<yT)-g(v))-+N{0, fe Доказательство теоремы 5.2.6. Теорема 4.4.1 показывает, что d{P (Kj(T)), lmй(х] (I; (T)) суть асимптотически независимые переменные с распределением Af(O, ^Tfxx(kj)). Из теоремы Д5.1 следует, что Яу (Т)) - BяГГ {[ЯейТ (Xj (T))]* + [lmd{xT) ( имеет асимптотическое распределение /^х(Лу)х1/2. Асимптотиче- Асимптотическая независимость для различных значений / выводится таким же способом из асимптотической независимости d)T) (kj (Г)), / = 1, ..., J. Доказательство теоремы 5.2.7. Эта теорема вытекает из тео- теоремы 4.4.2, подобно тому, как теорема 5.2.6 вытекает из теоремы 4.4.1.
К главе 5 447 Доказательство теоремы 5.2.8. Из теоремы 4.3.2 следует, что COV \dW (X) d(P (-Я), d{ Нужный результат вытекает из соотношения Доказательство теоремы 5.3.1. Эта теорема является непо- непосредственным следствием упр. 4.8.23. Доказательство теоремы 5.3.2 вытекает непосредственно из теоремы 4.5.1 и определения I(xx(k). Доказательство теоремы 5.4.1. Эта теорема прямо следует из соотношения E.2.6) теоремы 5.2.1 и определений АТт (Я), ВТт (Я), CTm(h). Следствие вытекает из теоремы 5.2.2. Доказательство теоремы 5.4.2 следует из теоремы 5.2.4. Доказательство теоремы 5.4.3 следует из теоремы 5.2.6. Доказательство теоремы 5.5.1. Эта теорема следует из соот- соотношения E.2.6), теоремы 5.2.1 и определений AT(k), BT(X)t СТ(Х). Следствие вытекает из теоремы 5.2.2. Доказательство теоремы 5.2.2 следует из теоремы 5.2.4. Доказательство теоремы 5.5.3 следует из теоремы 5.2.6 и теоремы Д5.1. Нам потребуется при доказательстве нескольких теорем сле- следующая лемма. Лемма Д5.1. Если на отрезке [0, 1] функция g(x) имеет ограниченную полную вариацию V, то Доказательство. См. Polya, Szego A925, стр. 37); соответст- соответствующая ссылка имеется у Cargo A966). Если функция g диффе- дифференцируема, то правая часть может быть заменена на С |g' (x) \dxfn. Дополнительные результаты содержатся в упр. 1.7.14 и 5.13.28.
448 Доказательства теорем Доказательство теоремы 5.6.1. Первое выражение в E.6.7) следует непосредственно из соотношения E.2.8) и определения E.6.1). Если мы воспользуемся приведенной выше леммой, чтобы приблизить возникшую сумму интегралом, то увидим, что 2я о оо = J Bf'W (Bf'IK-a]) fxx(a) da + O (Bf1!-1). — oo Это даст последнее выражение в E.6.7). Доказательство теоремы 5.6.2. Пользуясь теоремой 5.2.5, получим для нужной ковариации выражение (тг)' 2 ? которое приводит к первому соотношению. Мы получим из него второе соотношение, заменив сумму интегралом и применив лем- лемму Д5.1. ^ Доказательство теоремы 5.6.3. См. доказательство теоремы 7.4.4. Доказательство следствия 5.6.3 вытекает из теоремы 5.6.3 и следствия Д5.2, Доказательство теоремы 5.6.4. См. доказательство теоремы .7.7.1. Доказательство теоремы 5.8.1. Ввиду E.8.7) и того, что (Г)(и)К Ь имеем имеем я j «) fxx (*-a)<fa = Bя)-12*'(Г) (") с„ (и) ехр {- j -я Это в свою очередь равно хс„ (и) ехр {-шЯ} + О (Г-р),
К главе 5 449 что приводит к нужному результату, поскольку иРсхх (и) ехр {-ШЦ = i? dPf™p{l) ¦+ О (Т»~Р). \и\<Т Доказательство теоремы 5.8.2. Первое из соотношений в E.8.18) следует непосредственно из определения f{xx(k) и соот- соотношения E.8.9). Второе соотношение получается из первого, если пренебречь всеми членами, кроме первого, и применить лемму Д5.1. Доказательство следствия 5.8.2 получается подстановкой раз- разложения Тейлора р-\ р p = l '• во второе соотношение из E.8.18). Доказательство теоремы 5.9.1. Ниже мы будем писать X' вместо X—ср. Имеем Т- 1 2я у- 2* S s 1 7-1 s = 1 2Я/Г J 2Я/Г )-/1йг. (a)] } d« / J |рг(Г) (х—а)/?>*,(«) da- о Нужный результат мы получим теперь следующим образом: 7- 1 s = 1 2ns sup -a) da = О (В?1), для ^ Для ^
450 Доказательства теорем для что дает | хх \ Т j и, наконец, Е/?>х, (<*)== 0G-1) для 0<a<2ns/7\ Доказательство теоремы 5.9.2 получается непосредственно из теоремы 5.3.1. Доказательство теоремы 5.10.1. Как следует из теоремы 5.2.2, для целых s, se=?O (mod T), Это дает первую часть E.10.12). Вторая часть следует из леммы Д5.1. Далее, по теореме 4.3.2 7-1Т-1 /„ О A)] Г-1 Bks\ a Bns\f BksY s=l 2лг \ . Bns —)Ak\— 2лг 2ns что дает соотношение E.10.13).
К главе 5 451 Обратимся к семиинвариантам высших порядков. Мы имеем cum U{T) (А,\), ..., I Т-\ Г-1 2 • S, S "L V/ p J где внутренняя сумма распространена на все неразложимые раз- разбиения таблицы Принимая во внимание линейные ограничения, введенные для функций А(Г), мы видим, что главный член этого семиинварианта имеет порядок T'L + 1. Рассматривая теперь переменные 7"/«у(П (Лу), / = 1, ..., У, мы видим, что все их совместные семиинварианты, порядок которых выше 2, стремятся к 0. Это означает, что указанные переменные асимптотически нормальны. Доказательство теоремы 5.10.2 проводится так же, как и до- доказательство теоремы 5.9.1. Доказательство теоремы 5.11.1. Чтобы избежать громоздких алгебраических выкладок, проведем доказательство только в слу- случае / = 1. Общий случай рассматривается аналогичным образом. Моделью здесь является и оценка наименьших квадратов такова: т-\ ,т-\ 2(О(о/ S / = о ' t-о
452 Доказательства теорем Поскольку Ее (t) = 0, из последнего выражения видим, что Е9<г> 9. Кроме того, D {2 в (О Ф (/)} = 2 2 '« (<х - *.) Ф (/х) Ф (<,) Г-1 ' Т-\и\ (и) 2 ф(* + и)ф(О. * 0 Как следует из критерия сходимости ограниченной последова- последовательности, В то же время поэтому 2 » т^ (ОJ как и указано в E.11.20). Для случая семиинвариантов высших порядков видим, что {2 е @ Ф @} ^ 2 • • • 2ce...e(^i—^1 - 2 ...  согласно второму из условий 5.11.1. Отсюда вытекает, что для L>2 V ? cum {^в (О Ф при Т—*оо, поэтому, как и утверждает теорема, Э(Г) асимпто- асимптотически нормальна. Рассмотрим теперь статистическое поведение /^' (Я). Поскольку 4Г) (X) = (е«->- в) 4Г) (я.) + 4Г) (Я), имеем /<[> (Я) = @^) _в)« № (X) + @<^> -0) /<Р (Я)
К главе 6 453 Далее, для некоторых конечных М и М' s = МВтхТ~*Т 2 Ф (О2 < M^ t в то время как для некоторого конечного N е|№W\2<т-*??|и?(Г) (я— Щ-} w<" (я—^-s Таким образом, для некоторого конечного N\ поэтому что с учетом теоремы 5.6.1 дает E.11.21). Из этих неравенств следует также соотношение /<[> (X) = (ДгГI/« «J> (Ji) + оя A), показывающее, что асимптотическое распределение ДР(Х), такое же,- как и полученное в теореме 5.6.3 распределение Де}(Х). (Обозначение ор(\) введено для величины, стремящейся к 0 по вероятности.) Асимптотическая независимость 0(Г) и feP(^i)» •••» feP (К) получается из рассмотрения совместных асимптотических семи- семиинвариантов. К главе 6 Доказательства теорем 6.2.1 и 6.2.2. Эти результаты явля- являются классическими. Доказательства можно найти, например, в монографии Kendall, Stuart A961, гл. 19). Доказательства теорем 6.2.3 и 6.2.4. Мы получим эти резуль- результаты как следствия теорем 6.2.1 и 6.2.2, переписав F.2.6) в виде
454 Доказательства теорем рассмотренной в этих теоремах модели TReX ImXl [ReY ImY],= [Rea Ima][_imX ReXj+[Re8 Доказательство теоремы 6.2,5 непосредственно вытекает из указанных в теореме 6.2.4 свойств а. Доказательство леммы 6.3.1. Справедливо соотношение )= 2 a(u\ = ? а(«)ехр{-фн} f S'- sV^SitX^expi- «=-oo |_ 0=0 UsO VmT J a («) exp {- фы} f TS + S - Tf 1 [X (o) exp {- Щ] в котором I e(T) ф) | ^ 4m 2a Iwa (u) I B силу ограниченности зна- значений X (t). Отсюда заключение леммы вытекает непосредственно. Ниже нам понадобится Лемма Д6.1. Для произвольных 1 х М-матрицы Р и гхМ-мат- рщы Q выполняется неравенство IIPQT (QQ")-11|<IIРРТ||1/ Доказательство. Прежде всего запишем неравенство Шварца в матричной форме (Это вытекает из достижимости минимума в теореме 6.2.1.) От- Отсюда получаем ~ ) -1 QF || > || PQ^ (QQT) -1/« f. Далее, || PQT (QQT) -11|< 1PQT (QQT) -1/21| || QQT) -1/21|, откуда и следует результат. Доказательство теоремы 6АЛ. Поскольку Ее(/) = О, выпол- выполняется соотношение ЕА(Л (A,) = fj$ (X)fxx (Л). Подставим сюда
К главе 6 455 выражение ,й «=<*.+»- ? а (*и!ф±а) 1Й s=-m Здесь по лемме Д6.1 поэтому справедливо F.4.9). Прежде чем мы приступим к доказательству теоремы 6.4.2, докажем лемму, являющуюся некоторым обобщением результата Billingsley A966). Лемма Д6.2. Пусть Zm —последовательность q-мерных векто- векторов, сходящихся по распределению к Л/?@, I) при Г—>оо, а \}т—~ последовательность унитарных qxq-матриц. Тогда U(nZ(n также сходится по распределению к Ncq (О, I). Доказательство. Рассмотрим некоторую подпоследовательность Z(r'> из Z(n. Поскольку группа унитарных матриц компактна [Weyl A946)], UG"> содержит некоторую подпоследовательность СИ7"'), сходящуюся к U. По теореме Д5.1 1}(T")JST") сходится по рас- распределению к UA/? (О, I) = iV^ (О, I). Из этого следует, что вся- всякая подпоследовательность U(nZ(n имеет подпоследовательность, сходящуюся по распределению к Л/?@, I), поэтому U(nZ(n также должна сходиться к Ncq (О, I). Доказательство теоремы 6.4.2. Рассмотрим сначала X, вхо- входящие в случай Л. Как следует из леммы 6.3.1, для s = 0, ±1, ..., ±т выполняется соотношение AT) [2л [s(T) + s]\ д [2k[s(T) + s]\ .(Г) /2я [s(T) + s]\ ay ^ f j-a^ f jQX ^ f « A (X) djf> B + 0A) с равномерным по s (в силу равномерной ограниченности первой производной А (X) и справедливости соотношения||й{х] (а)|| = О (Т)) остаточным членом 0A). Написанное выше выражение полезно сравнить с F.3.7). Введем обозначение DK для 1 х Bт + ^-мат- ^-матрицы, столбцы которой суть величины BпТ)-1^d^ Bn[s(T) + s]/T), s^O, ±1, ..., ±m, и аналогично определим Dx и De. Теперь полученное выше соотношение можно переписать в виде
456 Доказательства теорем Введем обозначение U(r) для унитарной Bт + 1)Х Bт + ^-мат- ^-матрицы, первые г столбцов которой составляют матрицу \J[T) = dHdxdVT1/2. Запишем это так: U(r) = [U[T) 1ДГ)]. Применив U(r) к матричному соотношению, приведенному выше, получим DrU(r) = А (X) DXU{T) + DeU(r) Для первых г столбцов это дает {A^(X)-A(X)}f^(?i)i/M2m Для оставшихся мы получим соотношение Поскольку матрица U(n унитарна, имеем Bт + 1) fft (X) = DyDl поэтому где 0^A) обозначает ограниченную по вероятности величину. Теперь применение теоремы 4.4.1 показывает, что поскольку ряд е(/), ? = 0, ±1, ...» удовлетворяет условию 2.6.1, ряд DJ СХОДИТСЯ К Af?m+1(O, /ee(X)I). ПОЭТОМУ /ee(^)-l/2De СХОДИТСЯ к Л^^т+1@, I). Применение леммы Д6.2 показывает, что /ееМ"72 (DeU(r))T также сходится к N$m+1 (О, I) и потому (DeU(r))x сходится к ^2^+1@, fee(?i)I). Указанное асимптотическое пове- поведение Ат(Х) и ^ееЧ^) следует теперь из полученных для них выше представлений. Для Ху входящих в случай В или случай С, приведенная форма рассуждений проходит с заменой унитарной матрицы орто- ортогональной. Поведение величины |х(Г) получается из ее зависимости от А(Г)@). Нам понадобится Лемма Д6.3 [Скороход A956)]. Пусть V(r), Г=1, 2, ...,— последовательность векторных случайных величин, сходящихся по распределению к V. Тогда, переходя к эквивалентной вероятно- вероятностной структуре, можно написать Эта лемма дает нам другое доказательство леммы Д6.2. Мы можем написать
К главе 6 457 где Z имеет распределение N?@, I), поэтому и U(T)Z имеет распределение N% @, I) для всех Т. Доказательство теоремы 6.4.3. Последняя лемма показывает, что можно написать 5-0, ±1 ±т, где ?, являются независимыми переменными с распределением JVf (б, 2яГ/ее(Я)). Пусть ^ = 2«[sG1)+s]/71. Мы__можем совер- совершить замену dVr) (Я,) = А (X) d{P (K) + t* + °n. н. (Vt). Для суммы квадратов имеем тождество (Я,,) |а = BяГ)-* А»" (X) S Г)-1 S | W (К) - А(Г) (Л) d{P (Xs) |2 Появившиеся члены являются квадратичными формами от ?5 степеней 2т + 1, г, 2т+ 1 — г соответственно плюс стремящийся к нулю с вероятностью 1 член. Из упр. 4.8.7 следует, что пер- первый член в правой части можно записать как /ее (X) ^ (A (k) i*xx (X) X А (Я)т//ее(^))/2 + оп# н A), в то время как второй член может быть записан в виде /ee(^)X2<2/n+i-r>/2 + on. н. A)» гДе величины %2 независимы. Выражение F.4.12) получается теперь простыми выкладками. Доказательство теоремы 6.5.1. Пусть /?@==2а(^ — и)\(и). и Далее, поскольку Ее (t) = 0, имеем Пусть d{P ф) = А (Р) d^r) (Р) +е(Т) ф). По лемме 6.3.1 величина е{Т) ф) равномерно ограничена. Поэтому подстановкой получим s=l T-\ -Щ BПГ)- [А B-^) diT> (^
458 Доказательства теорем где, согласно лемме Д6.1, для некоторого конечного К ,1/2 Здесь мы воспользовались ограниченностью е{Т) $) и неотрица- неотрицательностью W ф). Первое выражение в F.5.14) следует теперь из условия 6.5.2. Обратимся ко второму выражению и предпо- предположим, что 0^.Х<2п. Областью, в которой функция Wm не равна нулю, является область | X—Bns/T) \^Втп. В этой области A Bns/T) = А (X) -\-0 (Вт), поскольку по принятым допущениям А ф) имеет равномерно ограниченную первую производную. До- Доказательство теоремы завершает теперь подстановка этого послед- последнего соотношения в выражение F.5.14). Доказательство теоремы 6.5.2. Заметим сначала, что, как следует из F.6.3), Е 11 ЛГ> (I) | -1 ЕЛ)П (X) 11 < Е | А)Т) (X) - ЕА{}Т) (X) \ поэтому справедливо соотношение | EG}r) (X) —| ЕЛ{П (X) || = 0 (Вт1/2Т-1/*), приводящее к первому выражению F.5.19). Второе выражение следует из F.5.14) и того факта, что |а + е| = |а| + 0(е). Для доказательства первых соотношений в F.5.20) и F.5.21) воспользуемся разложениями в ряд Тейлора приняв 1 + е = А)Т) (X), ? = ЕЛ}П(А,), и применим F.6.3). Чтобы доказать справедливость вторых выражений, также воспользуемся этими разложениями, однако на этот раз положим ? + ? = ЕЛ)Г) (к), ^=Лу(Я) и применим F.5.14). Прежде чем перейти к оставшимся доказательствам этого параграфа, необходимо ввести некоторые обозначения и доказать
К главе 6 459 несколько лемм. Мы положим Г-1 (I) = 2яГ- ? w™ {Ь-Щ (ЗпТ)-114Г> (?) |\ l S=l «5 Поскольку ряд e(tf), ^ = 0, =fcl, ..., ненаблюдаем, эти величины также ненаблюдаемы. Мы увидим, однако, что интересующие нас статистики являются элементарными функциями этих величин. Далее, k-и элемент d(/} (X) мы обозначим [diP (ty]k и подобным же образом будем обозначать элементы f^ (к). Справедлива Лемма Д6.4. Если функция fxx (^) равномерно ограничена, то выполнено соотношение г=1 с равномерным по X остаточным членом. Доказательство. Этот результат следует из неравенств i|i/a Лемма Д6.5. Если ixx (^) равномерно ограничена, то справед- справедливо соотношение Г-1 с равномерным по Я ы ц. остаточным членом.
460 Доказательства теорем Доказательство. В силу неравенства Шварца абсолютная ве- величина указанного выражения не превосходит Л. 2jis \V>— ~y "*¦ ' что дает желаемый результат. Лемма Д6.6. Яры условиях теоремы 6.5.1 cum 1/2 L = 0, M = l, L = l, УИ=О, ), если L + M>1. Доказательство. Заметим сначала, что, пользуясь леммой 6.3.1, можно получить соотношение Т-\ -^) BЯГ)- [ А (Щ Л<Р (^ Поскольку для \K—Bnq/T)\^.BTn справедливо имеем
К главе 6 46[ Рассматриваемый семиинвариант дается выражением sjv m Главный член возникшего в последнем выражении семиинварианта имеет вид X /..... 2я \ /2я/р +1 2д/ /2я \ /р где pp = 2N и /1Э ..., /2Лг есть подстановка (slt — st; ...; sy, — s^), соответствующая некоторому неразложимому разбиению. Мы имеем р^п. Устранив с помощью лемм Д6.4 и Д6.5 сум- суммирование по q и г, увидим, что главный член в А имеет вид V 2Я5 3=0 G1~2^~2Л^ что дает указанный результат для L + A1 >1. Остальные соот- соотношения получаются таким же способом. Зги оценки порядков совместных семиинвариантов для неко- некоторых целей вполне достаточны, однако они являются довольно грубыми для случая второго порядка. Здесь верна более детальная
462 Доказательства теорем Лемма Д6.7. В условиях теоремы 6.5.1 cov{[f$ x Ц7(Л^ _2p.sj + Wm ^ _^f j Wm ^ +^U + О (Г) Доказательство. Рассмотрим второе из этих выражений. Как следует из первого соотношения в доказательстве леммы Д6.4, искомая ковариация равна гфО s X Другие ковариации также получаются из этого соотношения, леммы Д6.4 и того факта, что fee(X) имеет равномерно ограни- ограниченную производную, а носителем функции W(T) (а) является | а | ^ Вттс. В следующей ниже лемме мы положим Ст— Вг + ^"/2. Лемма Д6.8. Пусть R @ = 2a (t — u) X(u). Тогда при усло- и виях теоремы 6.6.1 = A (k) f S (Я) A (^ + О (СТ),
К главе 6 463 = /& (А.) - f& (^) ftft (V-1 W, (*) + О (Ст) Доказательство. Первое из этих выражений мы получили в ходе доказательства F.5.14). Второе получается непосредственно. Для третьего заметим, что откуда и выводится указанный результат. Согласно условию 6.5.2, имеем W fS (^) II<К tr {fJS (Я) fg? (X) tPx (Л)-Ч при конечных /С и L. Для последнего утверждения заметим, что в?» (^) = fSk (Ц - fй (А.) + /1«» (Я) + /«8Ге> (Я,) - {f ^ (Л)+fS' (Я)} f ^ (Я) -1 {f й (Я)+f и результат вытекает из предыдущих соотношений леммы. Доказательство теоремы 6.5.3. Мы видим, что по леммам Д6.8 и Д6.7 B Е |[П5 (Х)]А |2) + О (СТ) Из теоремы 5.6.1 ясно, что Ef?> (Л) = /ее (Л) + О (Вт) + О (B^T-i), и мы получаем нужный результат. Доказательство теоремы 6.5.4. Из F.3.2) и леммы 6.3.1 видим, что Edp @) = Г^ + А @) d#> @) + О A). Это дает
464 Доказательства теорем Поэтому, используя F.5.14), получаем соотношение Теперь результат доказан, поскольку из указанной ограничен- ограниченности X (t), / = 0, ±1,..., следует равномерная ограничен- ограниченность с(Р. Доказательство теоремы 6.6.1. Непосредственно из опреде- определения А(Т) (К) видно, что cov {А<г> (Я)\ А<г> (ixy\ = f& (X)-' cov {! и F.6.3) следует из первого выражения леммы Д6.7. Доказательство теоремы 6.6.2. Как и в доказательстве тео- теоремы 6.5.2, мы имеем разложения Тейлора = log | EAf> (X)| +1 {[E Ар (Я)]-1 [Af > (X) - -i [A}n (A,) - E A)r) (X)]} + .. = arg EAf> (X) +^{[EAp (Щ-* [Af' (X) - -[E47) (X)]-i [A{7) (X) - EA \T) Нужные ковариации получаются теперь из этих разложений и F.6.3). Доказательство теоремы 6.6.3. Из леммы Д6.8 видим, что covte&M, $?(!*)} = cov {/&(&), /{J>(ji)}+ остаточный член. Из леммы Д6.6 ясно, что остаточным членом является О (T'2Bfl + T~^2Bf1+1 + T~1Bf1+2). Указанный результат следует теперь из E.6.12). Доказательство теоремы 6.6.4. Как видно из F.3.2) и леммы 6.3.1, c(/) = tx + А @) с{Р + Т-Ч^ @) + О (Г-1) =,^> + А(Г> @)с(/\ Соотношение F.6.13) следует теперь из теоремы 4.3.1. Доказательство теоремы 6.6.5. Если воспользоваться пред- представлениями леммы Д6.8 и леммы Д6.6, то первой искомой ко- вариацией будет служить cov {f$ (X), g?> (|i)H О (T-^Bf* + Г-1).
К главе 6 465 Вторая ковариация получается из представления \х(Т\ полу- полученного в доказательстве теоремы 6.6.4, и из лемм Д6.6 и Д6.8. Последняя ковариация получается аналогично. Доказательство теоремы 6.7.1. Мы докажем первую часть этой теоремы, вычисляя совместные семиинварианты A<r>(ji), g"ee)(v) порядка выше второго и устанавливая сходимость к О этих совместных семиинвариантов при подходящей нормировке. Из леммы Д6.6 видно, что )U> ¦¦•. [А(Г) ' (BTT)N^ О (T~N+iBfN+1), если М = О, TN+1), если Л4 = 1, Bf1), если М>1, и каждый из них стремится к 0 при Т—+оо. Вторая часть тео- теоремы доказывается аналогично, вычислением совместных семи- семиинвариантов. Доказательство теоремы 6.8.1. Из F.8.2) видно, что pr-i i) = Pfi 2 E{A(T)Bnp/PT)\exp{i2npu/PT} р=0 с равномерными остаточными членами. Это дает первое выра- выражение в F.8.4); второе получается вычислениями. Доказательство теоремы 6.8.2. Рассмотрим сначала F.6.3) и заметим, что cov {А(Г> Bпр/РТ)\ А(Т) Bnq/PTy\ = О (Г-*) для рфц> 1<Р> q^Pf1, поскольку BT^.Pf\ так что в этом случае W/(T) Bпр 2ns\ W(T) Bnq 2ns\ _ п
466 Доказательства теорем Теперь из F.8.2) и F.6.3) видим, что cov {а(Г> (н)\ а(Г) (v)T\ =Pf2 2 cov {А(Г) Bпр/Рт)\ Р, д=0 хехр{/2яр(и — ^/ и получаем F.8.7). Доказательство теоремы 6.8.3 проводится как доказательство теоремы 6.8.2, однако вместо F.6.3) мы воспользуемся F.6.14). Доказательство теоремы 6.8.4. Докажем, что нормированные семиинварианты порядка выше второго переменных, указанных в теореме, стремятся к 0. Мы имеем >fJ 2. • .2exp {/2я (plUl +... +PjUj)/Pt\ X cum {[A<^> BnPl/PT)]h, У..., [А( Здесь мы воспользовались леммой Д6.6, а также тем замечанием, что доказательство завершает устранение одного суммирования по р. Как видно, этот семиинвариант стремится к 0, поскольку РгВг-*0 при Т-+оо. К главе 7 Доказательство теоремы 7.2.1. Поскольку имеем = са ? А2>Г) ( у) ехр \-Ш) = саЯ'г> @). ( у) Кроме того, справедливо представление Крамера
К главе 7 467 Из этого следует, что я = S H?>(X-a)H<bT>(-X+a).fab(a)da -Я Я H?4a)H$>(-a)fab(%-a)da. Наконец, по формуле Парсеваля имеем (а) Н?> (-а) da, я Я< -Я откуда вытекает G.2.7). Доказательство следствия 7.2.1. Положим ha(u) = 0 для м < 0. (Общий случай доказывается с помощью записи функции ha в виде суммы функции, обращающейся в нуль при и < 0, и функции, обращающейся в нуль при и^О.) Пользуясь пре- преобразованием Абеля из упр. 1.7.13, мы получим Если вариацию функции ha (и) обозначить Va, то I Н?> (К)\ < Va sup | Д('> (Х)\ < Fa {sin 6/2}-1 для 0 < б < | X | < я. (*) В то же время я -Я (ее) Нр (-a) dec = 2я X Лв (±) h 2nT[ha(t)hb(t)dt. (**) Из соотношений (*) и (**) видно, что сомножители в сасъ стре- стремятся к 0 при Т—>оо, если A,^0(mod2n) или если сЛ = 0 или сь=*0. Далее, рассмотрим я -Я (а) Нр (-a)da] ~* J Я<,г> (а) Я^г»(-а)
468 Доказательства теорем Разобьем область интегрирования на две: | а | < б и | а | ^ б. Так как функция \аЬ непрерывна, величина \fabCk — a) — !аЪ{Щ в первой области может быть сделана выбором б сколь угодно малой. Кроме того, здесь J | Н?\а)\ | ЩТ)(—a)|da<[ J | H{J\a)\4a J| //f )(а)|Ма|1/2=^О(Г). |а|<6 Во второй области fab(^ — a) — fab№) ограничена и, как выте- вытекает из (*), |а|>б Поэтому из (**) следует, что (***) стремится к 0 при Т —»-оо. Доказательство теоремы 7.2.2. Из теоремы 4.3.2 следует, что cov {d?> (%) 4? (-*), 4Р (ц) 4? (- [^ () а, + 0A)] [Я<? (-ti) сй2 + О A)] x[2nHiTJt{—X+\i)fblbl(—l) + OA)] + трн подобных члена +[HiT1)(k)cai + O(l)\\Bn)*HibTXbl(-k)hla,bAK -К +три подобных члена -V)fatat (l)+0(l)][2nHbTX (- 1Ьг (l)+0(\)][2nHiTX (—Л,— ] Это приводит к нужному результату, если учесть, что Н%\ H? O(T) Доказательство следствия 7.2.2. Мы легко получим его, рас- рассмотрев по порядку случаи Х±\х = 0 (mod 2я) и k±\i ф 0 (mod 2я). Доказательство теоремы 7.2.3. В теореме 4.4.2 показано, что dxr)(^i), •••»dxn(X7) являются асимптотически независимыми величинами с распределением jV?(O, 2nT)[Hab@) fab(k)]. Далее, из теоремы Д5.1 следует, что где / = 1, ..., J, являются асимптотически независимыми вели- величинами с распределением W^(\f ixxi^/))- Заключение теоремы вытекает теперь из того, что
К главе 7 469 Доказательство теоремы 7.2.4 вытекает из теоремы 4.4.1 так же, как теорема 7.2.3 следовала из теоремы 4.4.2. Доказательство теоремы 7.2.5. Оно получается непосредст- непосредственно из упр. 4.8.23 и теоремы Д5.1. Доказательство теоремы 7.3.1. Из упр. 7.10.21 следует со- соотношение для целых г, r^O(modT). Если А, =?0 (mod я), то мы получим соотношение приводящее к G.3.6). Если X = 0(mod2n) или Х=±я, ±3я, ..., где Т четное, то s=l X ' 1 -Я что приводит к G.3.7). Если же Х=±я, ±3я, ..., а Г нечет- нечетное, то ш я s=i ^л^1 ^ Т Т )\\ и мы получим G.3.8). Доказательство следствия 7.3.1. В силу того что fxx (а) яв- является равномерно ограниченной функцией а, выражение (*) из предыдущего доказательства стремится к \хх (X) при Т —> оо, если 2яг/Г —> X. Это дает нужный результат. Доказательство теоремы 7.3.2. Если г, s суть такие целые числа, что 2яг/Г, 2ns/T ф 0 (mod2я), то, как следует из упр.
470 Доказательства теорем 7.10.22(а), С учетом того факта, что для Bпг/Т) — Х = О это дает G.3.13) в случае А, ^0 (mod я), поскольку 2т+ 1 чле- членов оценок одинаковы, в то время как другие члены имеют ко- вариацию О (Г). Обратимся к случаю X=0(modn). Из упр. 7.10.22(Ь) и того факта, что m членов одинаковы, следует, что ковариация имеет вид и, как нетрудно проверить, это приводит к G.3.13). Доказательство теоремы 7.3.3. Эта теорема непосредственно вытекает из теоремы 7.2.4 и теоремы Д5.1. Доказательство теоремы 7.3.4 вытекает непосредственно из теоремы 7.2.1 и ее следствия. Доказательство теоремы 7.3.5. Псевдосглаживающие множи- множители А (и /) = < а ' О в противном случае, обладают для /, т==0, ..., L—1 следующим свойством: К), если l — i Далее, основное выражение в доказательстве теоремы 7.2.2 при подходящем изменении определений показывает, что ift, (К /), lZl (К т)} = fZk (О)-1 HZlAor'Kk fr-p) nil (х-ц) /e,e, (Я) /м, (-^) ^ ZI М2 (-я,)}+о (г->), если / = т, О (К-1), если /=^= т. Это приводит к G.3.18).
К главе 7 471 Доказательство теоремы 7.3.6 вытекает непосредственно из теоремы 7.2.5 и теоремы Д5.1. Доказательство теоремы 7АЛ. По теореме 7.2.1 для s=l, ..., 7" — 1 выполняется соотношение . гп Bns > sin Г ——а УТ " fab(a)da. sin^-aj/2 Это дает первое выражение в G.4.9). Приступая к доказатель- доказательству второго равенства, заметим, что правая часть приведен- приведенного выше соотношения имеет вид 7-1 ы=-7+1 где в силу упр. 1.7.10 член оA) равномерен по s. Пользуясь этим, мы получим 7-1 Второй член в правой части может быть сделан сколь угодно малым с помощью разбиения области суммирования на сегмент, где \Bns/T)-X\<8 и потому \fabBns/T)-fab (Щ< е, и его дополнение, на котором ^W(T) (К — Bns/T)) стремится к нулю и \fabBns/T) — fab(X)\ ограничена. Это завершает доказательство G.4.9). Для соотношения G.4.11) по теореме 4.3.2 имеем ), s=l, ...,Т-\, с равномерным по s остаточным членом. Это дает первую часть G.4.11). Вторая следует из леммы Д5.1. Доказательство теоремы 7.4.2 получается с помощью разло- разложения /а&(Я — BjoC) как функции а в ряд Тейлора.
472 Доказательства теорем Доказательство теоремы 7.4.3. Из выражения G.2.14) сле- следует, что для г, s=l, ..., Г—1 J2n(s-r)\ BJ±l\fhh( 2Л?\ ±^ } /м, (?-') /м, (- ^) + О G-) с равномерным по г и s остаточным членом. Это приводит к соотношению cov j - (f)' Z П7. (^-?) <L (*-f) U«, (?) /^ (-Щ дающему первое выражение в G.4.15); второе вытекает из леммы Д5.1. Доказательство следствия 7.4.3 получается непосредственно из последней части соотношения G.4.15). Доказательство теоремы 7.4.4. Нами уже изучалось асимп- асимптотическое поведение первых и вторых моментов оценок. Для того чтобы доказать асимптотическую совместную нормальность, остается показать, что в указанных условиях все нормирован- нормированные совместные семиинварианты порядка выше второго стре- стремятся к 0 при Г—>оо. Мы имеем cum {2 W%k (К - ZnsjT) 1{аТХ Bnsl/T)i ... =2 • • • 2 w*k (*i - 2™t/r) • • •w ?v ^ ~2n X cum {d\? BnsjT) di? (-2JISJT), ... Положим rki, = sk, rk2"=—sky k=l, ..., К- Кроме того, опу- опустим нижние индексы а19 ..., ак, Ь1У ..., Ью не играющие су- существенной роли. Из теорем 2.3.2 и 4.3.2 следует, что семиин-
К главе 7 473 варианты в последнем соотношении задаются выражением 2 rJh/T)fBnrJk/Ti jk?ух) + о( /2я Д r/k/T\ f Bnr/k/T- jk 6 v,) + o (ГI , где суммирование производится по всем неразложимым разбие- разбиениям v = {vx, ..., v^} таблицы И 12 21 22 /С1/С2 a mi обозначают число элементов в vr Семиинвариант (*) при- принимает теперь вид 2- • - ' r/k/T\o(TP-*).' J 2 jkevq Наличие функций А(Г) приводит к q линейным ограничениям, если q < /С, и к ^—1, если q — K- Это количество мы запишем как <? —[<7/^]- (Здесь [ ] обозначает целую часть.) Таким образом, семиинвариант (*) имеет порядок max q<P<K Поэтому имеет порядок ВтК/2+1Т~К/2+1 и стремится к 0 при Т ~^оо для К> 2. Нужный результат вытекает теперь из леммы Д4.5. Доказательство теоремы 7.6.1. Из теоремы 4.3.1 для s = l, ..., Т — 1 следует соотношение с равномерным по s остаточным членом. Это сразу приводит к первому выражению в G.6.6); второе получается по лемме Д5.1.
474 Доказательства теорем Далее, из теоремы 4.3.2 следуют соотношения Т- 1 Г-1 X т-\ 2я \2 у* j f 2nr \ A ( 2nr \ f /2nr\f f_2nr\ /2nr\f f_2nr\ /2яг\ . /2ns\f /2яг 2яг 2я5\ Г S дающие G.6.7). Для семиинвариантов более высоких порядков мы, пренебре- пренебрегая нижними индексами, получим следующее соотношение: • • 2 А BjlSi/r) • • • X cum {d'r> {2nsjT)d^ BnsJT) T-a?2 • • • S ^ BnSl/^ ... Л
. К главе 7 475 где внутреннее суммирование производится по всем неразложи- неразложимым разбиениям таблицы d<T)Bnsi/T)d{T)(—2nsi/T), d{T)BnsL/T)d{T)(—27isL/T). Принимая во внимание линейные ограничения, обусловленные функциями А(Л, понятно, что главный член этого семиинва- семиинварианта имеет порядок T~L+1. Далее, рассматривая переменные Т1^2^ (Лу), /=1, ¦.., J, а, .6=1, ..., г, можно видеть, что все их совместные семиин- семиинварианты порядка выше второго стремятся к 0. Отсюда по лемме Д4.5 следует указанная асимптотическая нормальность этих переменных. Доказательство теоремы 7.6.2. Воспользуемся разложением в ряд Тейлора = Rab (k) + [{/# M-U (ЭД-Т faa (I)'1 {№ 0)-ha (Щ / W {№ W f (Щ] I [faa W fbb W + • • • для вывода G.6.15) и G.6.16) из G.4.13) и G.4.17) и применим теоремы из Brillinger, Tukey A964). Утверждение об асимптоти- асимптотической нормальности следует из теоремы 7.4.4 и теоремы Д5.2. Доказательство теоремы 7.6.3. Мы уже видели в теореме 7;6.1, что, как и требуется, конечномерные распределения сходятся. Кроме того, равномерно по Я так что достаточно рассмотреть процесс Y(n (A.) = [/x() — EF(j?\(A,)]; О^Я^я. Таким образом, нужно показать пол- полноту этого семейства вероятностных мер. Как следует из за- задачи 6 на стр. 41 монографии Billingsley A968), для этого достаточно показать полноту маргинальных распределений веро- вероятностей. Из теоремы 15.6 Billingsley A968) вытекает, что в этом случае достаточно показать справедливость для некоторого конечного К неравенства где 0<Atf<A,<A,a<Jt. ДляЧ>|Г имеем
476 Доказательства теорем Нетрудно убедиться, что Из теоремы 7.6.1 видно, что все вторые моменты величин У%ъ (Ц—У%ь ik), У& (К)-УаТьу (Ц и сопряженных им меньше или равны Z, | Л,3 — А,х | для некоторого конечного L. Нам остается, таким образом, рассмотреть только cuma>, 4r s {Y.S, (t~) >Bяг ' (Я,) — V |4Bя7) jT)df Ш J (—2яг г1 у^ 2/л. < ^ cum {4Г> Bя 4Г)Bп81/ГLГ: гх/ГLГ)(- Ч-гяв^л, d?>Bns2/T)d<bT>(-2ns2fT)\, где ^ < 2лrj/T, 2яг2/Г < Я, и I < глз^Т, 2ns2/T < Я,а. Поскольку здесь области суммирования не пересекаются, семиинварианты в правой части имеют меньший порядок, и на самом деле выра- выражение (*) имеет вид Т* (^L BяГ)-*???Е (Д<г> Bя[rt-rt]/T) О (Г«) Bя [Si-s.J/T) О (Г») + О (Г2)) = | Х,-^ |» О A). Далее, если Ef/, ЕУ=0, то Е {[/2У2} = cum2,2 {?/, У} + 2 (Е {(/V}J + (Е?/2) (EV2). Это дает нужный результат. Прежде чем мы приступим к доказательству теоремы 7.7.1, отметим, что в силу инвариантности оценки относительно сдвига можно действовать так же, как в случае EX(t)—O. Докажем леммы, показывающие, что исправление среднего значения не приводит к асимптотическому различию со случаем ЕХ(^) = 0, Лемма Д7.1. Пусть X(t)> t = 0, ±1, ..., есть г-мерный век- векторный ряду удовлетворяющий условию 2.6.2(/) и имеющий сред- среднее 0. Пусть ha(u)y — оо < и< оо, удовлетворяет условию 4.3.1, а=19 ..., г, величина cfy{и) задается выражением G.7.8) и для и = 0, ±1, ..., (и) = Тогда равномерно по и
S Л К главе 7 477 Доказательство. Положим Л^Г) (u) — ha(u/T). Тогда и) hp @ [Ха (t+u)- 4Г)] [Хь (о - 4Г)] - сFГ) 2 hTa (t + и) h?>(t) Xa (t + и) 2 Теперь из теорем 5.2.3 и 5.2.8 получаем, поскольку са — 0, Е (с</>)« = Е ря2AST» (О2/S» @) /12 Air> (О}1]2 = О (Г-"«). Из рассуждений в этих теоремах следует также, что равномер- равномерно по и ЕB^>(t + u)h(bT>(t)Xb(t)y = О ^AJT> (/ + «) - о (S^1 (О41ЖГ) (О4) = о (П- Отсюда вытекает соотношение E | (•) |2 = 0A), дающее нужный результат. Лемма Д7.2. Предположим, что выполнены условия теоремы. Допустим у что EX (t) = 0 ^ в?} W = Bя) -12 ™аь (ВТи) тй> («) exp {-tta}; равномерно по X Доказательство получается непосредственно из леммы Д7.1 и того факта, что BT^\wab(BTu)\^\\wab(u)\du. Доказательство теоремы 7.7.1. Лемма Д7.2 показывает, что асимптотики для /?р (А,) по существу совпадают с асимптотиками gabfi)- Начнем с рассмотрения Eg^A,). Мы имеем 2я где
478 Доказательства теорем По теореме 4.3.2 поэтому о %b(u)exp{-iku} + O(T-*) = В^ J Wab(Bfl[K-a])fab(a)da что дает G.7.13). Далее, по теореме 7.2.2 X {/4Лд. (« ~ Р) МЯ (а - Р) /а,* (а) Ь,>, (- а) Покажем теперь, что равномерно по а С ). (**) Поскольку ЯЙ> (Я) = 2 h^ (t) h^ (t) exp {- Ш}, можно записать (**) следующим образом: s s с &) а^ (^) с 1 = 2 S Aif (^) AilVi) ЛГ (it) Ьъ] (Q exp {i (ц-a) (^ - /,)} = %w (BfU) exp {i (ц - a) и} S a?j (< + и) A^ (t + u) f?? (t) h^ (t) *? (О С @ hi? (t) hi? (t) + RT, где по лемме Д4.1 для некоторого конечного Н rti)\\u\~HBf2 ^\u\\w(u)\du.
К главе 7 479 Подобный результат справедлив и для второго слагаемого ис- исходного интеграла. Вычисленная таким образом ковариация имеет вид X откуда и следует нужное соотношение G.7.14). Далее, рассмотрим величины совместных семиинвариантов порядка К- Пренебрегая с этого момента нижними индексами а, Ь, имеем cum{g<r>(М. •••• S{T)(h)\ X 2!2>(Вг[^-/,]) ...w(BT[ttL.t-t2L\) X exp {- jK [t, - tt] - ... - at t^i-i^J} h^ (tj ... X cum {X (/x) X (<,), .... X (^_x) X (tiL)\. (*) Далее, (УХ(У X(<,i-i)X (*,?)} = Scx...x (^; У € vi) • • • cx...x (<y; У где суммирование ведется по всем неразложимым разбиениям v = (vlf ..., vp) таблицы 1 2 3 4 2L-1 2L Поскольку разбиения неразложимы, в каждом множестве \р раз- разбиения можно найти такой элемент t*p, что ни одна из разностей tj—t'p, j?vp, p=l Р, не совпадает с t^^—t^ / = 1,2,..., L. Определим 2L — P новых переменных ых Щь-р Для ненуле-
480 - Доказательства теорем вых t/ — t*p. Семиинвариант (*) ограничен теперь величиной 22.--22-.- 2 \«>(в V *J t*p «i «2L-P X \k^ (Ц)\\СХ...Х (UX. ..).. .CX...X (• • ., Z-/>)| для некоторого конечного М, где alf ..., a2L выбираются из 1, ..., 2L, а р1э ..., P2Z, выбираются иэ 1, ...> Р. Определив ф(^) = ^, /€vlf и применив лемму 2.3.1, мы увидим, что среди разностей ^ — ^э,» •••» ^2i-i"~^2L Hlv№eTe51 -P" линейно неза- независимых. Положим для определенности, что это ?р, —^$а, ... •••> ^.a""^-i- СовеРшив замену мы увидим, что семиинвариант (*) ограничен величиной -- 2 2... 2 \w(b1v1)...w(b1up-1)\ ni ...Cn В предпоследней строке выражения величин Сп задаются соот- соотношением B.6.7), а tij обозначают число элементов в /-м мно- множестве разбиения v. Как видно, нормированный совместный семиинвариант для L>2 стремится к 0 при У—>оо. Это означает, что пере- переменные g{aTX(ii), ... , ga^(^A:) асимптотически нормальны и имеют структуру моментов, указанную в теореме. Согласно лемме Д7.2, то же справедливо и для /(Г), поэтому доказатель- доказательство завершено. Доказательство следствия 7.7,1 следует непосредственно из G.7.13). Доказательство теоремы 7.7,2 вытекает непосредственно из теоремы 4.5.1.
К главе 7 «1 Доказательство теоремы 7.7.3. Мы докажем эту теорему по- посредством нескольких лемм, аналогичных .леммам, использован- использованным при доказательстве теоремы 4.5.1. Как следует из леммы Д7.2, достаточно рассмотреть статистику ?аР(Я), соответствующую случаю с нулевым средним. Ниже, в доказательствах лемм, мы будем пользоваться обозначением Лемма Д7«3. Если выполнены условия теоремы, то для выбран- выбранных К, г и достаточно малом а Е exp {a RegJP (k)\ < exp {a2D Reg?> (Я) A +г)/2}. Доказательство. При доказательстве теоремы 7.7.1 мы видели, что для некоторого конечного М Поэтому i 23Clll ... Cn\\a\4L\. v p) Теперь указанный результат вытекает из G.7.21) при выборе |а| достаточно малым, а также из того факта, что, согласно G.7.14), X { J К (ty hb (tr dt) [1 + г, BЩ [faa (К) fbb (X) В рассуждениях ниже положим Ф = 2я Jra,(aJda Следствие. Если выполнены условия теоремы, то при задан- заданном р Еехр И Re?#(Я)|}<2ехр {a2DRegg> (Я) A +е)/2} < 2 exp Ja»Bf ХГ-»Ф sup faa(X) swpfbb (I) A +p) \ для достаточно больших Т.
482 Доказательства теорем Лемма Д7.4. Пусть kr = 2nr/R> r = 0 ..., R — 1, для некото- некоторого целого R; тогда sup|Re«& (к) |<sup| Reg<?>(kr) |/A -KB^R-*) Зля некоторого конечного К. Доказательство. Заметим сначала, что, поскольку функция w(u) равна 0 при достаточно больших значениях \и\, g&} (к) является целой функцией порядка ^.KBf1. Неравенство лем- леммы Д7.4 получается теперь тем же способом, каким доказали следствие 2.1 Woodroofe, Van Ness A967), используя неравенство Бернштейна для целых функций конечного порядка [см. Ти- ман А. Ф. A953)]. Лемма Д7.5, При достаточно больших Т < 2 ехр / log R + a»Bf 1Г-*Ф sup faa (к) sup fbb (к) A + Щ . Лемма Д7.6. Пусть а2 = (log \/BT) В^Т^Ф sup faa (к) sup fbb {к) X 2A +Р)A +г\) для заданных г), Р>0. Тогда для некоторого конечного N Доказательство теоремы завершается доказательством анало- аналогичных лемм для lmg{?}(k) и применением леммы Бореля — Канте л ли. Доказательство теоремы 7.7А. Положим wab (и) = О для |а|> 1. Тогда f(jb}(k) является тригонометрическим полиномом степени Bf1 = n. Из упр. 3.10.35(Ь) вытекает равенство й> (к) — ЕДУ (к) = 3 [/S (а) — Е/й (°03 D« (^ — а) da. о Пусть 6 — положительное целое число, тогда ;[" Lo X I lab v*/ ^/flfe v0^/ I ^^ J lBA-l)/2* [2я l\Dn(k-a)\*k/W Как следует из упр. 3.10.28, последний интеграл здесь имеет порядок O(n1^2k). Мы видели при доказательстве леммы 7.7.1,
К главе Т 483 что Е|/$>(а) — E/$}(a)|a* = O(Bffcr-*). Из этого следует, что Е П ВТТ)^ Bf sup \ f^ (I) - Efg^ (К) \Vk^ О (.Bf8-1). Выбрав до-, статочно большое k, получим оба результата теоремы. Доказательство теоремы 7.7.5, Для положительных целых k имеем неравенство suolf^fW —ЕК>№Ч2*< У *Ф/ЭД_еЯ>/ЗД"* ьиР /о& \~JT} — с/а6 \ р 1\ ^ ^ '°& yP^ J 'аЬ \ Р Из теоремы 7.4.4 следует, что равномерно по % Поэтому е [(вгту/* р?- sup | /s» (^) - e/s» (^е) |]2k=о Выбрав & достаточно большим, мы получим оба результата теоремы. Доказательство теоремы 7.9.1. Как следует из леммы Д6.3 и теоремы 4.4.2, справедливы соотношения: где т) имеет распределение Л/^f (О, /асб(Я)); 0у., / = 1, ..., У, яв- являются независимыми величинами с распределением N% @, /рр(^)), а ?уЛ1 / = 1, ..., У, k = 1, ..., /С,— независимыми величинами с распределением N? (О, /ее(^)). Остюда следует, что i ^^^ Вычислив ковариации, мы убедимся, что Sy*"-"Cy.t ?у. —?•• + ву — в. и ^.. + Э.+ т| статистически независимы. Отсюда и следует ста- статистическая независимость статистик, рассматриваемых в теореме. Справедливо равенство /» *
484 . Доказательства теорем В упр. 4.8.7 показано, что 2|?/* —С/. |* имеет распределение /ее Мх!у</с-1>/2. Справедливо также равенство и, еще раз обратившись к упр. 4.8.7, заключаем, что 21 ?/• 69 |2 [/ (К) /C7 M] i/-i>/2. р р ур 21 ?/? + 6у—9. |2 имеет распределение [/w (К) +/Cee M] 5Ci</-i>/2. Нако- Наконец, величина |С.. + 6. + я|* распределена какД/аа(Л) +у-*/эр(Я) + J^K^fee Wjxi/2. Это завершает доказательство теоремы. К главе 8 Доказательство теоремы 8.2.1. Можно записать E{[Y-F*-aX][Y-F*-aX]4 = [|*к—I* — »l*x][l*r—I* равенство здесь достигается при выборе, указанном в (8.2.14) и (8.2.15). Прежде чем обратиться к теореме 8.2.2, рассмотрим лемму, представляющую и самостоятельный интерес. Лемма Д8.Ь Пусть выполнены условия теоремы 8.2.1. Вектор- Векторная s-компонентная функция Ф (X), для которой Еф (Х)т Ф (X) < оо и которая минимизирует представляет собой условное математическое ожидание Доказательство. Мы можем переписать (*) в виде E{[Y-E{Y|X}][Y-E{Y|X}n +E{[E{Y|X}-*(X)][E{Y|X}-*(X)]4 >E{Y-E{Y|X}][Y-E{Y|X}]4, при этом равенство обеспечивается выбором Ф(Х) = Е{?|Х}. Доказательство теоремы 8.2.2. Если случайный вектор (8.2.20) имеет нормальное распределение, то
К главе 8 485 Это классический результат, приведенный, например, в Anderson A957). Доказательство теоремы вытекает теперь из леммы Д8.1. Доказательство теоремы 8.2.3. Читатель может провести его по аналогии с доказательством теоремы 8.2.5, приведенным ниже. Доказательство теоремы 8.2.4. Доказательство следует из оче- очевидных неравенств, подобно доказательству теоремы 8.2.1. Доказательство теоремы 8.2.5. Обозначим матрицы (8.2.25) и (8.2.26) через х и у соответственно. Тогда представим у в виде где а = 2кх2хх и е = у—ах. Столбцы матрицы е—независимые величины с распределением N% @, See). Кроме того, сне зависит от х. Поэтому при фиксированном х, как показывает упр. 6.12.20, vec(a—а) распределен по закону N?s@, See (^(xx^), a See независима и имеет распределение (п — г)~1}М$ (п — г, See). Тем самым при фиксированном х (8.2.53) имеет распределение t^tn-n- .Но так как это распределе- распределение от х не зависит, оно будет совпадать с безусловным распре- распределением. Далее, Е{а|х} = а, так что Еа=а, как и утвержда- утверждалось. Кроме того, covjveca, Поскольку E(xxT) = (/i—r)-1 Sge1 (см. упр. 8.16.47) и cov {Ea | х, Еа|х} = 0, то выполняется (8.2.54). Асимптотическая нормаль- нормальность а последует из совместной асимптотической нормальности элементов матриц ухт и ххт на основании теоремы Д5.2, так как а является дифференцируемой функцией этих элементов. Остается показать независимость а и S8g. Пользуясь отмечен- отмеченной ранее условной независимостью, можно для плотностей рас- распределений написать соотношение Отсюда вытекает, что Р(а, ^е, Х)=р(а, x)/7(See), и доказательство завершено. Доказательство теоремы 8.3.1. Пусть А (X) — передаточная функция фильтра {а (а)}. Мы увидим, что она корректно опреде-
486 Доказательства теорем лена. Выражение (8.3.2) можно записать в виде ск—1*—( S а (и) JcxJ Jcy-fA + J [hv («) ~ *» (а)fхх (а) "х + S [А (а) 1„ (а)-1ух («)] 1„ (а)"* [А (а) ixx (а) -f „ (а)]'da > J tfккН -f«(а) fxx (а) *jtkH] d*> причем равенство достигается при выборе, указанном формулами (8.3.3) и (8.3.5). Поскольку fxxfi) невырожденна, —оо < Я< оо, то из тео- теоремы 3.8.3 следует, что А (Я), определенная формулой (8.3.5), является преобразованием Фурье абсолютно суммируемой функ- функции. Доказательство теоремы 8.3.2. Мы видели, что можно записать где Ее(*) = 0, cov {X(t + u)f e(t)} = 0 при всех и. Поскольку ряды совместно нормальны, из равенства нулю этой ковариации следует независимость Х(/ + и) и e(f) при всех и. Поэтому (i>), о = 0, ±1, ...} = Ее(/) = 0, Y@-E{Y(/)|X(o)f o = 0f ±1, ...} = e(Qf т. е. получаются соотношения (8.3.21) и (8.3.22). Доказательство теоремы 8.5.1 следует из теоремы 7.3.3 и теоремы Д5.1. Доказательство теоремы 8.6.1. При сформулированных пред- предположениях из теоремы 7.4.1 вытекает = J W«> (Х-a) ixx (а) <fa (X) = J Г(Г) (X-a) lKK Каждая из статистик А(Г), ф)Р, G}?, Ry}yh-x, \Ryx\2 является дифференцируемой функцией от fxx (Я), fSry (Я), f(/y (X). Приве- Приведенные в теореме выражения выводятся теперь из теоремы статьи Brillinger, Tukey A964).
К главе 8 487 Доказательство следствия 8.6.1 следует непосредственно из выражений (8.6.11) —(8.6.15) с учетом теоремы, сформулирован- сформулированной в упр. 1.7.4. Доказательство теоремы 8.7.1. Воспользовавшись тем, что А(Г)М> g&M. Я(Г)», \Rm(X)\2—Дифференцируемые функции элементов матриц fxx(X), f(/Jr(X), f(/y A), можно записать раз- разложения типа разложения по теории возмущений: (Я) = А (I) + {f$ (Я) - f„ (Я)} fxx (Я) -» } 1„ (Х)-»+ ... . Используя их в сочетании с теоремой 7.4.3, можно вывести ука- указанные асимптотические ковариации. Фактически же гораздо удобнее определить асимптотику ковариации, воспользовавшись результатами § 8.2. Начнем с того, что, согласно следствию 7.4.3, ковариации величин с частотами Л, |Л имеют порядок о{Вт1Т), если фО(шоА2п). Допуртим, что % — |x = 0(mod2n) и h() Тогда легко видеть, что асимптотически структура ковариации для та же самая, что для где 2л ^W (aJ doc Поэтому с точностью до первого порядка асимптотика ковариации, полученная с помощью разложений по теории возмущений, ока- окажется совпадающей с ковариациями, построенными по вели- величине (*). Тогда теорема 8.2.5 позволяет заключить, что в данном случае . cov {vec А(Г) (Я), vec А(Г) (К)} а из теоремы 7.4.3 выводим, что
488 Доказательства теорем В случае когда Я + |х = 0 (mod 2я) и ?i#0(mod2n), можно заме- заметить, что — Щ = cov {vec А(Г) (Я), vec А(Г) (Я)} = о (/г-1), поскольку предельное распределение, указанное в теореме 8.2.5, является комплексным нормальным. Кроме того, 2, (Я), jfij. (- В случае Я, [л е^ 0 (mod 2л) статистики принимают действи- действительные значения, так что следует применить теорему 8.2.3. Мы получим сот {vec А(Г) @), vec А(Г) @)}~п-%ъ @)® ixx (О)-1, Тем самым полностью обоснованы формулы (8.7.1) и (8.7.2). Выра- Выражения (8.7.3) и (8.7.4) следуют из теорем 8.2.5 и 7.6.2. Доказательство теоремы 8.8.1 вытекает из замечания, сделан- сделанного в начале доказательства теоремы 8.7.1 и из теорем 7.4.4 и Д5.2. Асимптотическая независимость А(Г) и g^ будет следствием обращения в нуль их асимптотической ковариации, вытекающего из теоремы 8.2.5. Перед доказательством теоремы 8.10.1 удобно ввести ряд обо- обозначений. Если Кр — 2лр/РТ, р = Оу ..., Pr-i> определим Ар = Ef(/i (Я,), А, + а,= i(YT)x (kp), Теперь можно сформулировать лемму. Лемма Д8.1. Пусть выполнены условия теоремы 8.10.1. Тогда а™ (и) = Ртг S А^Врх ехр {ЗД + р?' S «,B?1 exp {iV} р р - Р?х 2 А^В-^Вр1 ехр {а^и} + ор любом б > 0. Доказательство. Рассмотрим тождество -^—сеВ-1?) (В + р).
. К главе 8 489 Норма правой части ограничена, величиной если — 7^Р ПРИ 7 По теореме 7.7.5 sup|a,|, р р для любого е > 0. Следовательно, что равняется ор(РтВт1/2Т-1/2) равномерно по р. Отсюда и вы- вытекает утверждение леммы. Доказательство теоремы 8.10.1. Необходимо выяснить асимп- асимптотическое поведение = 0, ..., PT~i. Мы знаем, что Вначале отметим, что Evecg^O. Далее получаем из упр. 7.10.41 (учитывая, что РТВТ^ 1 и W(a) = 0 при |а|>я): al (К)} Тем самым ковариационная матрица величины IvecaJ LvecpJ состоит из двух частей: одна содержит только спектры второго порядка, а другая— только спектры четвертого порядка. Изучение А(л (к) позволяет нам сказать, что асимптотически вклад члена со спектрами второго порядка в covlvec^, J равен
490 Доказательства теорем Условимся обозначать выражение в cov {vec PP vec {L}, содер- содержащее спектры четвертого порядка, как Bя/Т) V^. Поскольку в модели Y(f) = (A + 2a(f —&)Х(и)+е(*) ряд z(t) не зависит от X(t)f соответствующие члены в cov {veca^, vecjij и covjveca^ vecaj будут Следовательно, их вклад в cov {vec ?я, vec ?J равен так как A (kp) ~ Ap Bp1. Из всех этих соображений заключаем, что cov {vec g,, vec ?,} - ч {%Р~К\ Рее ( поэтому cov /Pr^explt^ujvecgj,, ^rxSexp {t^J На основании упр. 7.10.42 теперь можно заключить, что />г12ехР i^jp"}Уес^ асимптотически нормален. Сводя все эти рассуждения воедино, получаем нужный результат. Доказательство теоремы 8.10.2. Подставив с'Л @) = Т S[Y @-сН [X @ -ciPf = ас!й @) +сй? @), t получим ц(г> _ j! = (а—а(Г>) cJP+с(ег>, тем самым /Г vec {а(гГ-а} = ll ®с1й (О)] Vf vec eg? @).
К главе 8 | 4Ш Согласно упр. 7.10.36, величина ей? @) асимптотически нормальна со средним 0 и cov [c&lxh @), с$шХья @)} ~2я Т-> J W*, (a) fxblxbt (—a)da\ поэтому cov {vecc$ @), veceg? @)} ~2nT~* J fee (а) ® txx (-а) da. Отсюда последует указанное асимптотическое распределение для veca(T), так как с(/х@)-* сходится по вероятности к схх@). ^Поскольку ЕХ(^) = 0, Сх)=о/?A) и имеет место (*), то VT (iim — ii) = VTcp + op(\)y так что приведенное предельное распределение |ш(Л вытекает из теоремы 4.4.1. Асимптотическая независимость а(Г) и |ш(Л следует из асимптотической независи- независимости с?Г) и Сех@)- Далее Следовательно, f<J> (Я) = (а -а<г Последнее выражение с учетом ранее установленной асимптотики распределений f??(*,), ^(Л) дает ff / A), т.е. указанное в теореме предельное распределение для Доказательству теоремы 8.11.1 предпошлем лемму. Лемма Д8.2. Пусть Хт, Г=1, 2, ...,— последовательность случайных векторов, jm—постоянный вектор и аг> Г= 1, 2, ...,— последовательность чисел у сходящаяся к нулю. Предположим, что с вероятностью 1 lim |ХГ—|ш|/аг^1. Пусть f (х) имеет непрерывную производную в окрестности | Г ()|0 ГЗ rhmJf(XT)-f(n)|/ar<|f'k)| с вероятностью 1.
492 Доказательства теорем Доказательство, С вероятностью 1 вектор Хг при больших Т попадет в упомянутую в теореме окрестность jut. Будем считать, что он попал в эту окрестность. Так как f(x) имеет первую производную, то при некотором g из окрестности |л. Непрерывность f (х) озна- означает, что V (g) при Т —* с» стремится к Г (ц,), и тем самыяг утверж- утверждение доказано. Доказательство теоремы 8.ILL Теорема является следствием леммы Д.8.2, теоремы 7.7.3 и теоремы 7.4.2. К главе 9 Доказательство теоремы 9.2.1. Оно проводится точно так же, как приведенное ниже доказательство теоремы 9.2.3. Доказательство теоремы 9.2.2. См. аналогичное доказатель- доказательство теоремы 9.2.4. Доказательство теоремы 9.2.3. Покажем, что /-е собственное значение матрицы (9.2.17) не меньше чем \Ь/+09 причем равенство достигается при указанном в теореме выборе jli, В, С. По теореме 8.2.4 Е {(X — jui-CBX) (X—ii—СВХ)Т} где D = 2„В' Ранг матрицы D не превосходит q. Далее a a где L—матрица размера (i — l)xr. Последнее выражение больше или равно или равно sup ^te-D)» La=Da = o aT-a La=Da= f"L"| так как ранг матрицы п не превосходит q + i—1. Легко про- проверить, что при указанных |ш, В, С получается матрица (9.2.17), имеющая вид (9.2.21). Поскольку /-е собственное значение (9.2.21) равно \iq+i, знак равенства в предыдущем соотношении полу- получается именно иря указанном выборе.
К главе 9 493 Приведенное доказательство является аналогом рассуждений Okamoto, Kanazawa A968), относящихся к действительному слу- случаю. Доказательство теоремы 9.2.4. Справедливы следующие разло- разложения в ряд Тейлора: 1\ См. Wilkinson A965, стр. 68). Убедившись, что величина Ъхх асимптотически нормальна со средним ЪХх и 2aiaa, 2Ma}, приходим к полезному результату упр. 4.8.3(Ь): cov KSp,?S8} = 2 для векторов a, p, v» 8» имеющих г компонент. Пользуясь этими выражениями, выводим формулы для асимптотических моментов из (*) и (**). Например, = S S (VfeVJ (VJS»Vy) V,УЬ/[6*у - ^) (|i* - |iJ]/n + ..., = S S (V?SarVik)(V2I2xxV/)VlVSl/[0i/-|iI)((i*-|iJ]/n+... • Отсюда получаем требуемые выражения для ковариаций, по- поскольку собственные векторы Vy- удовлетворяют соотношениям _ [ \iv при р = 0, y/pbxxVq-\ о при р?=9# Свойство асимптотической нормальности вытекает из асимптоти- асимптотической нормальности ?.хх и из теоремы Д5.2.
494 Доказательства теорем Доказательство теоремы 9.3.1. Можно переписать (9.3.3) в виде + J tr {[I - A (a)] f„ (а) [1-А(а)]* da, где А (а) = С (а) В (а). Первое слагаемое можно обратить в 0, выбрав Второе же слагаемое будет минимальным, если минимален при каждом а след tr {[txx (aI/2 - A (a) txx (a)*/« ] [1„ (a)*/» - A (a) tXJg (a)^f}, здесь A (a) —матрица ранга не выше #. Теорема 3.7.4 показывает, что следует взять где Vy(ft) есть /-й собственный вектор матрицы fxx(ty1/2, а тем самым и собственный вектор матрицы ixx(ЛI/2. Теперь ясно, что при указанном выборе В (Л) и С (Л) действительно достигается минимум. Доказательство теоремы 9.3.2. Мы получим утверждение, рассмотрев выражение кросс-спектра T>j(t) и ?Л(/): М./Ш при / = ?, о при Доказательство теоремы 9.3.3. Поскольку при любом Л мат- матрица fXx(ty имеет простые собственные значения, то, согласно результатам упр. 3.10.19—3.10.21, эти собственные значения и соответствующие собственные векторы будут голоморфными (в действительном смысле) функциями матричных элементов. Выражения (9.3.29) и (9.3.30) мы получим, сославшись на теорему 3.8.3. Из этих выражений, в свою очередь, выводим (9.3.31) и (9.3.32), привлекая (9.3.28). Доказательство теоремы 9.ЗА. Искомая величина Ву (К) должна быть некоторой линейной комбинацией строк Vk(X)x, k=\> ...; пусть это будет В/ (Я) = G/i (Х)Щху +.. 7T Нужный нам ряд должен быть ортогонален ?Л (t), k< /, поэтому при k< j все Gjk (К) = 0. "Дисперсия величин (9.3.33) может быть
К главе 9 495 представлена в виде 2| где 2|Gy*(A) |2= 1- Очевидно, что эта дисперсия максимальна, если 1 при j = k, О при \Фку что и требовалось показать. Доказательство теоремы 9.3.5. Матрица спектральной плот- плотности ряда (9.3.35) задается выражением в котором А (Л) = С (Я) В (Л). Теорема 9.2.3 показывает, что соб- собственные значения минимальны при упомянутом в формулировке утверждения выборе В (X) и С (Я). Доказательство теоремы 9АЛ. По теореме* Виланда—Хофф- мана [Wilkinson A965)], о Кроме того, из теорем 7.4.1 и 7.4.3 следует, что 2 (X-a)fJk(a)da и так как f>(X)-v}r>(*)]|«<E[|i)r>(A,)-v}r> то получается выражение (9.4.5). Выражения (9.4.6) и (9.4.7) выводим из-разложений в ряд Тейлора, употреблявшихся при доказательстве теоремы 9.2.4: / 2Я \ Г ' (Я) + .... X UJr) (^)/{vf (Ц - vf > (Я)} + ....
496 Доказательства теорем Доказательство теоремы 9А.2. Формулы (9.4.13) и (9.4.14) получаем из выражений, использованных при доказательстве теоремы 9.2.4: $ Я7^(Л-а) fxx(oc)<fa- fxx (X) (Я) = УДЯ) ^ fV7WT ( J привлекая результат G,4.13), который при рассматриваемых условиях имеет вид Доказательство теоремы 9.4.3 получается, если применить рассуждения теоремы 9.2.4 и выражения, выписанные при дока- доказательстве теоремы 9.4Л. Доказательство теоремы 9.4.4. Собственные значения и соб- собственные векторы матрицы являются непрерывными функциями ее элементов. Следовательно, наша теорема вытекает из теорем 7.3.3 и Д5.К К главе 10 Доказательство теоремы 10.2.1. Пусть А = СВ. Перепи- Перепишем. A0.2.5): Согласно теореме 3.7.4, это выражение минимально, если Q V-1/2 2
К главе 10 497 ИЛИ Значение минимума, как легко видеть, совпадает с указанным. Доказательство теоремы 10.2.2. Пусть сначала матрица Е фиксирована. Тогда теорема 10.2.1 показывает, что минимум рассматриваемой функции р> и D равен < Положим U = E2yy. Тогда UTU=I; запишем Далее соответствующие собственные значения будут максимальны, если взять столбцы матрицы Ur равными первым q собственным векторам матрицы ^yy^yx^xx^xy^yy2', cm. Bellman A960), стр. 117. Отсюда сразу же следует утверждение теоремы. Доказательство теоремы 10.2.3 проводится так же, как при- приведенное ниже доказательство теоремы 10.2.6. Доказательство теоремы 10.2А вполне аналогично рассмот- рассмотренному доказательству теоремы 10.2.1. Доказательство теоремы 10.2.5 не отличается по существу от доказательства теоремы 10.2.2. Доказательство теоремы 10.2.6 Пусть ^хх^^хх^-^хх* вели- величины AXY и Ауу определяются по аналогии. Рассуждения, при- приведенные в Wilkinson A965, стр. 68), или Dempster A966), по- показывают, что справедливы разложения Ну = Иу - Ь (*7AM»i) - V>/ (b/Ayrb/) + (a/Ajcyb/) + (b/A где + Р/ (a?Ajf yb/ и Л// = ft*/—И-*) [— РуРг
498 Доказательства теорем Используя выражения, полученные при доказательстве тео- теоремы 9.2.4, мы видим, что cov{gyi, gkm\= (|iy-ft)-* A —Иу) (Иу + М/ —2|iyl*f). если / = &, / = m, ив противном случае равно нулю. Аналогично при / = m, / = & и cov(g>/7, g?W} = 0 в противном случае. Далее cov{g),, АЛж} = (иу-A|)-"A-Иу)B-Иу-^), если / —k, l = m\ c°v {g/7, hkm\ = — (|i;-ц,)-2 (pjp! + pfpf — Р/ —Р/Р? —2р^Р« —2p,py + p7 + pf), если / = т, / = А, и т. д. Выписанные ранее разложения и эти выражения для момен- моментов позволяют получить требуемые формулы для асимптотических моментов первого и второго порядка. Асимптотическая нормаль- нормальность оказывается следствием асимптотической нормальности величин %ХХУ SXK, Ъуу и свойства, вытекающего из теоремы Д5.2: собственные значения и собственные векторы являются диффе- дифференцируемыми функциями матриц. Доказательство теоремы 10.3.1, Выражение A0.3.3) можно записать в виде о Ясно, что следует выбрать |Л так, чтобы EY (^) = EY* (t). Рассмотрим f у- Y*t y- у* (a) = tYY (a) - С (a) B (a^j^ (a)-f KX (a) В^)ТОД"Т (a) fxx (a) f xyW («)/а -c («) B («) X Ри («) f« (a)/2 ~С (a) B (a) В силу следствия 3.7.4, выражение A0.3.3) минимизируется ука- указанными в теореме В (а) и С (а). Доказательство следствия 10.3.1. Этот результат получим, применив теорему 10.3.1 к преобразованному ряду Y' (t) = ^ о заметив, например, что f
К главе 10 499 Доказательство теоремы 10.3.2. Нас интересует когерентность 1 А (X) fXK (X) в7^)х I2 [А (X) ixx (X) А (Х)х] [В (X) \уу (X) В (Х)х 1 А- (X) \хх (^Г1/2 ffj 'здесь использованы обозначения А' (Я) = А (Я,) f« (ЛI/«, В' (Я) = В (Я) f yY ( Применив неравенство Шварца, видим, что указанная когерент- когерентность не превосходит для В' (к), ортогональных Vx (Я), ... , Vy_i (Я), т. е. первым / — 1 собственным векторам матрицы fyy/2fyXixxiXyiYY/2\ см. упр. 3.10.26. Утверждение теоремы относительно By (Я) вытекает из A0.3.25), а относительно Ау (Я) проверяется непосредственно. Доказательство теоремы 10.3.3. Так как при всех Я матрица iy^xbcixy имеет простые собственные значения, то собственные значения и векторы этой матрицы являются действительными голоморфными функциями ее элементов, см. упр. 3.10.19—3.10.21. Поэтому из теоремы 3.8.3 получаются выражения A0.3.28) и A0.3.29). Выражение A0.3.30) выводится из A0.3.26)—A0.3.29). Доказательство теоремы 10.3.4. Собственные значения мат- матрицы fyy/2fyxfxxWfvy/2 простые при всех Я, поэтому и они, и соответствующие им собственные векторы являются действитель- действительными голоморфными функциями матричных элементов, см. упр. 3.10.19—3.10.21. Выражения A0.3.33) и A0.3.34) следуют из теоремы 3.8.3. Тот факт, что спектральная плотность имеет вид A0.3.36) вытекает из теоремы 10.3.1 либо проверяется прямым вычислением. Доказательство теоремы 10.4.1. Оно проводится так же, как доказательство теоремы 9.4.1. Единственное отличие заключается в том, что используются разложения теории возмущений, фигу- фигурирующие в доказательстве теоремы 10.2.6. Доказательство теоремы 10.4.2. Оно проводится по аналогии с доказательством теоремы 10.2.6 с привлечением тех же разло- разложений. Доказательство теоремы 10.4.3. Величины jjty-, Ay- и Ву яв- являются непрерывными функциями элементов матрицы A0.4.25). Поэтому утверждение вытекает из теоремы 7.3.3 и теоремы Д5.1.
СПИСОК ЛИТЕРАТУРЫ1) ABELSON, R. A953). Spectral analysis and the study of individual differences. Ph.D. Thesis, Princeton University. ABRAMOWITZ, M., and STEGUN, I. A. A964). Handbook of Mathematical Functions. Washington: National Bureau of Standards.. ACZEL, J. A969). On Applications and Theory of Functional Equations. Basel: Birkhauser. AITKEN, A. C. A954). Determinants and Matrices. London: Oliver and Boyd. AKAIKE, H. (I960). "Effect of timing-error on the power spectrum of sampled data." Ann. Inst. Statist. Math. 11:145-165. AKAIKE, H. A962a). ^'Undamped oscillation of the sample autocovariance function and the effect of prewhitening operation." Ann. Inst. Statist. Math. 13:127-144. AKAIKE, H. A962b). "Gin the design of lag windows for the estimation of spectra." Ann. Inst. Statist. Math. 14:1-21. AKAIKE, H. A964). "Statistical measurement of frequency response function." Ann. Inst. Statist. Math.y Supp. III. 15:5-17: AKAIKE, H. A965). "On the statistical estimation of the frequency response func- function of a system having multiple input." Ann. Inst. Statis't. Math. 17:185-210. AKAIKE, H. A966). "On the use of a non-Gaussian process in the identification of a linear dynamic system." Ann. Inst. Statist. Math. 18:269-276. AKAIKE, H. A968a). "Low pass filter design." Ann. Inst. Statist. Math. 20:271-298. AKAIKE, H. A968b). "On the use of an index of bias in the estimation of power spectra." Ann. Inst. Statist. Math. 20:55-69. AKAIKE, H. A969a). "A meth6d of statistical investigation of discrete time para- parameter linear systems.". Ann. Inst. Statist. Math. 21:225-242. AKAIKE, H. A969b); "Fitting autoregressive models for prediction." Ann. Inst. Statist. Math. 21:243-247. x) Знаком * помечены работы отечественных авторов и работы зарубежных авторов, имеющиеся на русском языке. См. список на стр. 526,
Список литературы 501 AKAIKE, Н., and KANESHIGE, I. A964). "An analysis of statistical response of backrash." Ann. Inst. Statist Math., Supp. Ш. 15:99-102. AKAIKE, H., and YAMANOUCHI, Y. A962). "On the statistical estimation of frequency response function." Ann. Inst. Statist. Math. 14:23-56. AKCASU, A. Z. A961). "Measurement of noise power spectra by Fourier analysis." /. AppL Physics. 32:565-568. * AKHIEZER, N. I. A956). Theory of Approximation. New York: tJngar. ALBERT, A. A964). "On estimating the frequency of a sinusoid in the presence of .. noise," Am. Math. Statist. 35:1403. ALBERTS, W. W., WRIGHT, L. E., and FEINSTEIN, B. A965). "Physiological mechanisms of tremor and rigidity in Parkinsonism. Confin. NeuroL 26:318-327. ALEXANDER, M, J., and VOK, C. A. A963). Tables of the cumulative distribution of sample multiple coherence. Res. Rep. 63-67. Rocketdyne Division, North American Aviation Inc. AMOS, D. E., and KOOPMANS, L. H. A962). Tables of the distribution of the coefficient of coherence for stationary bivariate Gaussian processes. Sandia Corporation Monograph SCR-483. ANDERSON, G. A. A965). "An asymptotic expansion for the distribution of the latent roots of the estimated covarianee matrix." Ann. Math. Statist. 36:1153- И73. SANDERSON, T. W. A957). An Introduction to Multivariate Statistical Analysis. New York: Wiley. ANDERSON, T. W. A963). "Asymptotic theory for principal component analysis." Ann. Math. Statist. 34:122-148. ' i * ANDERSON, T. W. A971). Statistical Analysis of Time Series. New York: Wiley. ANDERSON, T. W., and WALKER, A. M. A964). "On the asymptotic distribu- distribution of the autocorrelations of a sample from a linear stochastic process." Ann. Math. Statist. 35:1296-1303.- ' *ARATO, M. A961). "Sufficient statistics of stationary Gaussian processes.'* Theory Prob. AppL 6:199-201. ARENS, R., and CALDERON, A. P. A955). "Analytic functions of several Banach algebra elements." Ann. Math. 62:204-216. ASCHOFF, J. A96.5). Circadian Clocks. Amsterdam: North Holland. AUTONNE, L. A915). "Sur les matrices hypohermitiennes et sur les matrices unitaires." Ann. Univ. Lyon. 38:1-77. - BALAKRISHNAN, A. V. A964). "A general theory of nonlinear estimation prob- problems in control systems." /. Math. Anal. App. 8:4-30. BARLOW, J. S. A967). "Correlation analysis of EEG-trempr relationships in man." In Recent Advances in Clinical Neurophysiology9 Electroenceph. Clin. Neuro- physiol.9- Suppl. 25:167-177. BARTLETT, M. S. A946). "On the theoretical specification of sampling properties of auto-cbrrelated time series." J, Roy. Statist. Soc.y Suppl. 8:27-41. BARTLETT, M. J5. A948a). "A note on the statistical estimation of supply and demand relations from time series." Econometrica. 16:323-329. BARTLETT, M. S. A948b). "Smoothing periodograms from time series with con- continuous spectra." Nature. 161:686-687.
502 Список литературы BARTLETT, М. S. A950). "Periodogram analysis and continuous spectra.'* Biometrika.Zl:l-\6. * BARTLETT, M. S. A966). An Introduction to Stochastic Processes, 2nd ed. Cam- Cambridge: Cambridge Univ. Press. BARTLETT, M. S. A967). "Some remarks on the analysis of time series.'* Bio* metrika. 50:25-38. BASS, J. A962a). "Transformees de Fourier des fonctions pseudo-aleatoires." C, R. Acad. Sci. 254:3072. BASS, J. A962b). Les Fonctions Pseudo-aleatoires. Paris: Gauthier-Villars. *BATCHELOR, G. K. A960). The Theory of Homogeneous Turbulence. Cambridge. Cambridge Univ. Press. ч BAXTER, G. A963). "A- norm inequality for a finite section Weiner-Hopf equa- equation." ///. J. Math. 7:97-103. * BELLMAN, R. A960). Introduction to Matrix Analysis. New York: McGraw-Hill. BENDAT, J. S., and PIERSOt, A, A966). Measurement and Analysis of Random Data. New York: Wiley. BERANEK, L. L. A954). Acoustics. New York: McGraw-Hill. BERGLAND, G. D. A967). "The fast Fourier transform recursive equations for arbitrary length records." Math. Сотр. 21:236-238. ¦BERNSTEIN, S. A938). "Equations differentielles stochastiques." Act. Sci. Ind. 738:5-31. BERTRAND, J., and LACAPE, R. S. A943). Theorie de VElectro-encephabgram. Paris: G. Doin. BERTRANDIAS, J. B. A960). "Sur le produit de deux fonctions pseudo-aleatoires.'* С R. Acad. Sci. 250:263 BERTRANDIAS, J. B. A961). "Sur Tanalyse harmonique generalisee des fonctions * pseudo-aleatoires." C. R. Acad. Sci. 253:2829. BEVERIDGE, W. H. A921). "Weather and harvest cycles." Econ. J. 31:429. BEVERIDGE, W. H. A922). "Wheat prices and rainfall in Western Europe." J. Roy. Statist. Soc. 85:412-459. * BILLINGSLEY, P. A965). Ergodic Theory and Information. New York: Wiley. BILLINGSLEY, P. A966). "Convergence of types in A>space." Zeit. Wahrschein. 5:175-179. * BILLINGSLEY, P. A968). Convergence of Probability Measures. New York: Wiley. BINGHAM, C, GODFREY, M. D., and TUKEY, J. W. A967). "Modern tech- niques in power spectrum estimation." IEEE Trans. Audio ElectroacousU AU- 15:56-66. BLACKMAN, R. B. A965). Linear Data Smoothing and Prediction.in Theory and Practice. Reading, Mass.: Addison-Wesley. .BLACKMAN, R. В., and TUKEY, J. W. A958). "The measurement of power spectra from the point of view of communications engineering." Bell SysU Tech. J. 37:183-282,485-569. BLANC-LAPIERRE, A., and FORTET, R. A953). Theorie des Fonctions AUatoires. Paris: Masson. BLANC-LAPIERRE, A., and FORTET, R. A965). Theory of Random Functions. New York: Gordon and Breach. Translation of 1953 French edition.
Список литературы 503 BOCHNER, S. A936). "Summation of multiple Fourier series by sphericatmeans." , Trans. Amer. Math. Soc. 40:175-207. ¦ BOCHNER, S. A959). Lectures on Fourier Integrals. Princeton: Princeton Univ. fcress. ¦ BOCHNER, S., and MARTIN, W. T. A948). Several Complex Variables. Prince- Princeton: Princeton Univ. Press. BODE, H. W. A945). Network Analysis and Feedback Amplifier Design. New~ York: Van Nostrand. BOHMAN, H. A960). "Approximate Fourier analysis of distribution functions.'* Ark. Mat. 4:99-157. # BORN, M., and WOLF, E. A959). Principles of Optics. London: Pergamon. BOWLEY, A. L. A920): Elements of Statistics. London: King. BOX, G. E. P. A954). "Some theorems on quadraticjforms applied in the study of analysis" of .variance problems.".Ann. Math. Statist» 25:290-302. * BOX, G. E. P. and JENKINS, G.. M. A970). Time Series Analysis, Forecasting "~ and Control. San Francisco: Holden-Day. BRACEWELL,JR. A965). The Fourier Transform and its Applications. New York: McGraw-Hill. BRENNER, J. L. A961). "Expanded matrices from matrices with complex ele- elements." SIAM Review. 3:165-166. BRIGHAM, E. O., and MORROW, R. E. A967). "The fast Fourier transform." • IEEE Spectrum. 4:63-70. BRILLINGER, D. R. A964a). "The generalization of the techniques of factor analysis, canonical correlation and principal components to stationary time series." Invited paper at Royal Statistical Society Conference in Cardiff, Wales. Sept. 29-Oct. 1. . l BRILLINGER, D. R. A964b). "A technique for estimating the spectral density matrix of two signals." Proc. I.E.E.E. 52:103-104. BRILLINGER, D. R. A964c). "The asymptotic behavior of Tukey's_gfcneral method of setting approximate confidence limits .(the jackknife) when applied to maximum likelihood estimates." Rev. Inter. Statis. Inst. 32:202-206. BRILLINGER, D, R. A965a). "A property of low-pass filters. "SL4M Review. 7:65-67. BRILLINGER, D. R. A965b). "An introduction to polyspectra." Ann. Math. «Sta/rf. 36:1351-1374. BRILLINGER, D. R. A966a). "An extremal property of the conditional expecta- expectation." Biometrika. 53:594-595. BRILLINGER, D. R. A966b). "The application of the jackknife to the analysis of sample surveys." Commentary. 8:74-80. BRILLINGER, D. R. A968). "Estimation of the cross-spectrum of a stationary bivariate Gaussian process from its zeros." /. Roy. Statist. Soc.,B. 30:145-159. BRILLINGER, D. R. A969a). "A search for a relationship between monthly sunspot numbers and certain climatic series. "Bull. ISI. 43:293-306. BRILLINGER, D. R. A969b). "The calculation of cumulants via conditioning." Ann. Inst. Statist. Math. 21:215-218. BRILLINGER, D. R. A969c). "Asymptotic properties of spectral estimates of second-order." Biometrika. 56:375-390.
504 Список литературы BRILLINGER, D. R. A969d), "The canonical analysis of stationary time series," In Multivariate Analysis—II, Ed. P. R. Krishnaiab, pp. 331-350. New York: Academic. *¦ BRILLINGER, D. R. A970a). "The identification ofpolynomial systems by means of hifeher order spectra." J. Sound Vib. 12:301-313. BRILLINGER, D. R. A970b). "The frequency analysis of relations between sta- stationary spatial series," Proc. Twelfth Bien. Sent» Canadian Math. Congr, Ed. R. Руке, pp. 39-81. Montreal: Can. Math. Congr. BRILLINGER, D. R. A972). "The spectral analysis of stationary interval func- functions." In "Proc. Seventh Berkeley Symp. Prob. Statist.~E6&. L. LeCam, J. Ney- maa, and E. L. Scott, pp. 483-513. Berkeley: Univ. of California Press.. BRILLINGER, D. R. A973). "The analysis of time series collected in an experi- experimental design." Multivariate Analysis—Ш, Ed. P. R. Krishnaiah, pp. 241- 256. New York: Academic. BRILLINGER, D. R., and HATANAKA, M. A969). "An harmonic analyas of nonstationary multivariate economic processes* "Econometrica. 35:131-141. BRILLINGER, D. R^ and HATANAKA, M. A970). "A permanent income hy- hypothesis relating to the aggregate demand for money (an application of spectral and moving spectral analysis)." Economic Studies Quart. 21:44-71. BRILLINGER, D. R., and ROSENBLATT, M. A967a)r "Asymptotic theory of Ыа order spectxaJ'Spectraf Analysis ofTimeSeries, Ed*B. Harris, pp. 153-188. New York: Wiley. » BRILLINGER, D. IU and ROSENBLATT, M. A967b). "Computation and inter- interpretation of ?-th order spectra." In Spectral Analysis of Time Series, Ed. B. Harris, pp. 189-232. New York: Wiley. BRILLINGER, D. R., and TUKEY,* J..W. A964). Asymptotic variances, moments, cumulants and other average values. Unpublished manuscript. BRYSON, R: A., and DUTTON, J. A." A961). "Some aspects of the variance spectra of tree rings and varves." Ann. New York Acad. Sci. 95:580-604. BULLARD, E. A966). "The detection of underground explosions." Sci. Am. 215:19.. *BUNIMOVITCH, V. L A949). The fluctuation process^as a vibration with random amplitude and phase." J. Tech. Phys. (USSR) 19:1237-1259. BURGERS, J. M. A948). "Spectral analysis of an irregular function," Proc. Acad. ScL Amsterdam. 51:107$. . BURKHARDT, H.'A904). "Trigonometrische Reihen und Integrate." Enzykl. ' Math. Wiss. 2:825-1354. BURLEY, S. P. A969). "A spectral analysis of the Australian business cycle." Austral. Econ. Papers. 8:193-128. BUSINGER, P. A., and.GOLUB, G. ftf. A969). "Singular value decomposition of a. complex matrix." Comm. ACM. 12:564-565. BUTZER, P. 1., and NESSEL, R. J. A971). Fourier Analysis and Approximations, Vol. 1. New York: Academic. CAIRNS, T. W. A971). "On the fast Fourier transform on a finite Abelian group." IEEE Trans. Computers. C-20:?69-571. CAPON, J. A969). "High resolution frequency wavenumber spectral analysis.'* Proc. I.E.E.E. 57:1408-1418.
Список литературы 505 CAPON; J. and GOODMAN, N. R. A970). "Probability distributions for estima- estimators of the frequency wavenumber spectrum.'* Proc. I.E.E.E. 58:1785-1786. CARGO, G.T.Q966). "Some extension of the integral test." Amer. Matk.MonMy. 73:521-525. CARPENTER, E. W. A965). "Explosions seismology." Science. 147:363-373. CARTWRIGHT, D. E. A967). "Time series analysis of tides and simile motions of the sea surface." /. Appl. Prob. 4:103-112. CHAMBERS, J. M. A96©. Some methods of asymptotic approximation in nrnlii- variate statistical analysis, Ph.D. Thesis, Harvard University. CHAMBERS, J. M. A967). "On methods of asymptotic approximation for multi- variate distributions." Biometrika. 54:367-384. CHANCE, В., PYE, K., and HIGGINS, J. A967). "Waveform generation by enzymatic oscillators." IEEE Spectrum. 4:79-86. CHAPMAN, S., and BARTEbS, J. A951). Geomagnetism, Vol. 2. Oxford: Oxford Univ. Press. CHERNOFF, H., and LIEBERMAN, G. J. A954). "Use of normal probability paper.'! J. Amer. Statist. Assoc. 49:778-785. CHOKSI, J; R. .A966). "Unitary operators induced by measure preserving trans- transformations."/. Math. andMech. 16:83-100. CHOW, G. C. A966). "A theorem on least squares and vector correlation in multi- variate linear regression." /. Amer. Statist. Assoc. 61:413-414. CLEVENSON, M. L. A970). Asymptotically efficient estimates of the parameters of a moving average time series. Ph.D. Thesis, Stanford University. CONDIT, H. R., and GRUM, F. A964). "Spectral energy distribution of daylight." J. OpticalSoc. Amer. 54:937-944. CONSTANTINE, A. G. A963). "Some noncentral distributions in multivariate analysis." Ann. Math. Statist. 34:1270-1285. COOLEY, J. W., LEWIS, P. A. W., and WELCH, P. D. A967a). "Historical notes on the fast Fourier transform." IEEE Trans, on Audio and Electroacoustics. AU-15:76-79. COOLEY, J. W., LEWIS, P. A. W., and WELCH, P. D. A967b). The fast Fourier transform algorithm and its applications. IBM Memorandum RC 1743. COOLEY, J. W., LEWIS, P. A. W., and WELCH, P. D. A970). "The application of the Fast Fourier Transform Algorithm to the estimation of spectra and cross- spectra." J. Sound Vib. 12:339-352. COOLEY, J. W., and TUKEY, J. W. A965). "An algorithm for the machine cal- calculation of complex Fourier series." Math. Сотр. 19:297-301. COOTNER, P. H. A964). The Random Character of Stock Market Prices. Cam- Cambridge: MIT Press. COVEYOU,R. R., and MACPHERSON, R. D. A967). "Fourier analysis of uni- uniform random number generators." J. Assoc. Сотр. Mach. 14:100-119. CRADDOCK, J. M. A965). "The analysis of meteorological time series for use in forecasting." Statistician. 15:167-190. CRADDOCK, J. M., and FLOOD, C. R. A969). "Eigenvectors for representing the 500 mb geopotential surface over the Northern Hemisphere." Quart. J. yi Met. Soc. 95:576-593.
506 Список литературы CRAMER, H. A939). "On the representation of functions by certain Fourier integrals." Trans, Amer. Math. Soc 46:191-201. CRAMER, H. A942). "On harmonic analysis in certain functional spaces.'* Arkiv Math. Astr. Fysik. 28:1-7. * CRAMER, H., and LEADBETTER, M. R. A967). Stationary and Related Sto- Stochastic Processes. New York: Wiley. CRANDALL, I. B. A958). Random Vibration, I. Cambridge: MIT Press. CRANDALL, I. B. A963). Random Vibration, II. Cambridge: MIT Press. CRANDALL, I. В., and SACIA, C. F. A924). "A dynamical study of the vowel sounds/1 Bell Syst. Tech. J. 3:232-237. DANIELL, P. JJ A946). "Discussion of paper by M. S. Bartlett," J. Roy. Statist. Soc, SuppL3:27. DANIELS, H. E. A962). "The estimation of spectral densities." /. Roy. Statist. Soc, B. 24:1^5-198. DARROCH, J. N. A965). "An optimal property of principal components.*' Ann, Math. Statist. 36:1579-1582. DARZELL, J. F., and PIERSON, W. J., Jr. A960). The apparent loss of coherency in vector Gaussian processes due to computational procedures with applications to ship motions and random seas. Report of Dept. of Meteorology and Oceano- Oceanography, New York University. DAVIS, C, and KAHAN, W. M. A969). "Some new bounds'on perturbation of subspaces." Bull. Amer. Math. Soc 75:863-868. DAVIS, R. С A953). "On the Fourier expansion of stationary random processes.'* Proc Amer. Math. Soc 24:564-569. . DEEMER, W. L., and Olkin, I. A951). "The Jacobians of certain matrix trans- transformations." Biometrikd. 38:345-367. DEMPSTER, A. P. A966). "Estimation in multivariate analysis." In Multivariate Analysis, Ed. P. R. Krishmaiah, pp. 315-334. New York: Academic. DEMPSTER, A. P. A969). Continuous Multicanate Analysis. Reading: Addison- Wesley. DEUTSCH, R. A962). Nonlinear Transformations of Random Processes. Englewood Cliffs: Prentice-Hall. DICKEY, J. M. A967). "Matricvariate generalizations of the multivariate / dis- distributions and the inverted multivariate / distribution." Ann. Math. Statist. 38:511-519. DOEBLIN, W. A938). "Sur l'equation matricielle A(t + s) - A(t)A(s) et ses ap- applications aux probabilites en chaine." Bull. Sci. Math. 62:21-32. * DOOB, J. L. A953). Stochastic Processes. New York: Wiley. * DRAPER, N. R., arid SMITH, H. A966). Applied Regression Analysis. New York: Wiley. DRESSEL, P. L. A940). "Semi-invariants and their estimates." Ann. Math. Statist. 11:33-57. DUGUNDJI, J. A958). "Envelopes and рге-envelopes of real waveforms." IRE Trans. Inf. Theory. IT-4:53-57. DUNCAN, D. В., and JONES, R. H. A966). "Multiple regression with stationary errors." Л Amer. Statist. Assoc 61:917-928.
Список литературы 507 *DUNFORD, N., and SCHWARTZ, J. T. A963). Linear Operators, Part П. New York: Wiley, Interscience. DONNETT, C. W,, and SOBEL, M. A954). "A bivariate generalization of Student's f-distribution, with tables for certain special cases.*' Biometrika. 41:153-169. DURBIN, J. A954). "Errors in variables." Rev. Inter. Statist. Inst. 22:23-32. DURBIN, J. (I960). "Estimation ot parameters in time series regression models." J. Roy. Statist. Soc, B. 22:139-153. *DYNKIN, E. B. A960). Theory of Markov Processes. London: Pergamon. ECKART, C, and YOUNG, G. A936). "On the approximation of one matrix by another of lower rank." Psychometrika. 1:211-218. ECONOMIC TRENDS A968). No. 178. London, Central Statistical Office. EDWARDS, R. E. A967). Fourier Series: A Modern Introduction, Vols. I, П. New York: Holt, Rinehart and Winston. EHRLICH,L. W. A970). "Complex matrix inversion versus real.'V.Co/w/w. А. С. M. 13:561-562.- ENOCHSON, L. D,, and GOODMAN, N. R. A965). Gaussian approximations ta' the distribution of sample coherence. Tech. Rep. AFFDL— TR — 65-57, Wright-Patterson Air Force Base. EZEKIEL, M. A., and FOX, С. А. A959). Methods of Correlation and Regression . Analysis. New York: Wiley. FEHR, U., and MCGAHAN, L. С A967). "Analog systems for analyzing infra- sonic signals monitored in field experimentation." J. Acousf. Soc. Amer. 42: 1001-1007. FEJER, L. A900). "Sur les fonctions bornees et integrables." C. R. Acad. Sci. (Paris) 131:984-987. FEJER, L. A904). "Untersuchungen uber Fouriersche Reihen." Mat. Ann. 58:501- 569. * FELLER, W. A966). Introduction to Probability Theory and its Applications^ Vol. 2. New York: Wiley. FIELLER, E. C. A954). "Some problems in interval estimation." /. Roy. Statist. Soc, B. 16:175-185. . FISHER, R. A. A928). "The general sampling distribution of the multiple correla- correlation coefficient." Proc. Roy. Soc. 121:654-673. . FISHER, R. A. A962). "The simultaneous distribution of correlation coefficients." Sankhya A. 24:1-8. FISHER, R. A., and MACKENZIE, W. A. A922). "The correlation of weekly rainfall" (with discussion). /. Roy. Met. Soc. 48:234-245. FISHMAN, G. S. A969). Spectral Methods in Econometrics. Cambridge: Harvard Univ. Press. FISHMAN, G. S., and KIVIAT, P. J. A967). "Spectral analysis of time series generated by simulation models. Management Science. 13:525-557. FOX, M. A956). "Charts of the power of the F-test." Ann. Math. Statist. 27:484- 497. FREIBERGER, W. A963). "Approximate distributions of cross-spectral estimates for Gaussian processes." In Time Series Analysis, Ed. M. Rosenblatt, pp. 244- 259. New York: Wiley.
508 Список литературы FREIBERGER, W., and GRENANDER, U. A959). "Approximate distributions of noise power measurements." Quart, Appl. Math. 17:271-283. FRIEDLANDER, S. K., and TOPPER, L. A961). Turbulence; Classic Papers on Statistical Theory. New York: Wiley Interscience. FRIEDMAN, B. A961). "Eigenvalues of composite matrices," Proc. Comb. Philos. Soc. 57:37-49. •GABOR, D. A946). "Theory of communication." /. Inst. Elec. Engrs. 93:429-457. .GAJJAR, A, V. A967). "Limiting distributions of certain transformations of multiple correlation coefficient." Metron. 26:18^-193. _ * GAVURIN, M. K. A957). "Approximate determination of eigenvalues and the theory of perturbations." Uspehi Mat. Nauk. 12:173-175. *GELFAND, I., RAIKOV, D., and SHILOV, G. A964). Commutative Normed Rings. New York: Chelsea. . GENTLEMAN, W. M., and SANDE, G. A966). "Fast Fottrier transforihs—for fun and profit." AFIPS. 1966 Fall Joint Computer Conference. 28:563-578. Washington: Spartan. GERSCH, W. A972). "Causality or driving in electrophysiological signal, analy- analysis." J. Math. Bioscience. 14:177-196. GIBBS, F. A., and GRASS, A. M. A947). "Frequency analysis of electroencephalo- electroencephalograms." Science. 105:132-134. * GIKMAN, 1.1., and SKOROKHOD, A. V. A966). "On the densities of probability measures in function spaces." Russian Math. Surveys. 21:83-156. *GINZBURG, J. P. A964). "The factorization of analytic matrix functions." Soviet Math. 5:1510-1514. GIRI, N. A965). "On the complex analogues of Г? and R2 tests." Ann. Math. Statist. 36:664-670. GIRSfflCK, M. A. A939). "On the sampling theory of roots of determinental equations." Ann. Math. Statist. 10:203-224. GLAHN, H. R. A968). "Canonical correlation and its relationship to discriminant analysis and multiple regression." J. Atmos. Sci. 25:23-31. GODFREY, M. D. A965). "An exploratory study of the bispectrum of an economic time series." Applied Statistics. 14:48-69. GODFREY, M. D., and KARREMAN", H. F. A967). "A spectrum analysis of seasonal adjustment." In Essays in Mathematical Economics, Ed. M. Shubik, pp. 367-421. Princeton: Princeton Univ. Press. GOLDBERGER, A. S. A964). Econometric Theory. New York: Wiley. GOLUB, G. H. A969). "Matrix decompositions and statistical calculations." In Statistical Computation, Eds. R. C. Milton, J. A. Nelder, pp. 365-397. New York: Academic. GOOD, I. J. A950). "On the inversion of circulant matrices." Biometrika. 37:185- 186. GOOD, I. J. A958). "The interaction algorithm and practical Fourier series." J. Roy. Stat. Soc, B. 20:361-372. Addendum A960), 22:372-375. GOOD, I. J. A963). "Weighted coVariance for detecting the direction of a Gaussiaa source. In Time Series Analysis, Ed. M. Rosenblatt, pp. 447-470. New York: Wiley.
Список литературы 509 • GOOD, I. J. A971). "The relationship between two fast Fourier transforms.'* IEEE Trans. Computers. C-20:310-317. GOODMAN, N. R. A957). On the joint estimation of the spectra, cospectrum and quadrature spectrum of a two-dimensional stationary Gaussian process. Ph.D. Thesis, Princeton University. GOODMAN, N. R. A960). "Measuring amplitude and phase." /. Franklin InsU 270:437-450. GOODMAN, N. R. A963). "Statistical analysis based upon a certain multivariate complex Gaussian distribution (an introduction)." Ann, Math. Statist. 34:152- 177. ' GOODMAN, N. R. A965). Measurement of matrix frequency reponse functions and multiple coherence functions. Research and Technology Division, AFSC, AFFDL TR 65-56, Wright-Patterson AFB, Ohio. G OODMAN, N. R. A967). Eigenvalues and eigenvectors of spectral density matrices. Seismic Data Lab. Report 179. • GOODMAN, N. R., andDUBMAN, M. R. A969). "Theory of time-varying spec- spectral analysis and complex Wishart matrix processes." In Multivariate Analysis II, Ed. P. R. Krishnaiah, pp. 351-366. New York: Academic. GOODMAN, N. R., KATZ, S., KRAMER, B. H., and KUO, M. T. A961). "Fre- "Frequency response from stationary noise: two case histories." Technometrics. 3:245-268. GORMAN, D.5 and ZABORSZKY, J. A966). "Functional expansion in state space and the s domain." IEEE Trans. AuL Control. AC-11:498-505. GRANGER, C. W. J. A964). Spectral Analysis of Economic Time Series. Princeton: Princeton Univ. Press. GRANGER, С W. J., and ELLIOTT, С. М. A968). "A fresh look at wheat prices ' and markets in the eighteenth century." Economic History Review. 20:257-265. GRANGER, С W. J,, and HUGHES, A. O. A968). "Spectral analysis of short series — a simulation study." J. Roy. Statist. Soc, A. 131:83-99. GRANGER, С W. J., and MORGENSTERN, O. A963). "Spectral analysis of stock market prices." Kyklos. 16:1-27. GRENANDER, U. A950). "Stochastic processes and statistical inference." Ark. Mat. 1:195-277. GRENANDER, U. A951a). "On empirical spectral analysis of stochastic pro- processes." Ark. Mat. 1:503-531. GRENANDER, U. A951b). "On Toeplitz forms and stationary processes." Ark. Mat. 1:551-571. GRENANDER, U. A954). "On the estimation of regression coefficients in the case of an autocorrelated disturbance." Ann. Math. Statist. 25:252-272. GRENANDER, U., POLLAK, H. O., and SLEPIAN, D. A959). "The distribution of quadratic forms in normal variates: a small sample theory with applications to spectral analysis."/. Soc. Indust. Appl. Math. 7:374-401. GRENANDER, U., and ROSENBLATT, M. A953). "Statistical spectral analysis of time series arising from stochastic processes." Ann. Math. Stat. 24:537-558. GRENANDER, U., and ROSENBLATT, M. A957). Statistical Analysis of Sta- Stationary Time Series. New York: Wiley. . ) ¦ GRENANDER, U., and SZEGO, G. A958). Toeplitz Forms andTheir Applications. Berkeley: Univ. of Cal. Press.'
510 Список литературы GROVES, G. W., and HANNAN, E. J. A968). "Time series regression of sea level on weather." Rev. Geophysics. 6:129-174. GROVES, G. W., and ZETLER, B. D. A964). "The cross-spectrum of sea level at San Francisco and Honolulu." /. Marine Res. 22:269-275. GUPTA, R. P. A965). "Asymptotic theory for principal component analysis in the complex case." /. Indian Statist. Assoc. 3:97-106. GUPTA, S. S. A963a). "Probability integrals of multivariate normal and multi- variate /." Ann. Math. Statist. 34:792-828. GUPTA, S. S. A963b). "Bibliography on the multivariate normal integrals and related topics/' Ann. Math. Statist. 34:829-838. GURLAND, J. A966). "Further consideration of the distribution of the multiple correlation coefficient." Ann. Math. Statist. 37:1418. GYIRES, B. A961). "Ober die Spuren der verallgemeinerten Toeplitzschen Ma- trize." Pub!. Math. Debrecen. 8:93-116. HAJEK, J. A962). "On linear statistical problems in stochastic processes." Czech. Math. J. 12:404-443. HALL, P. A927). "Multiple and partial correlation coefficients." Biometrika. 19: 100-109. *HALMOS, P. R. A956). Lectures in Ergodic Theory. Tokyo: Math. Soc. Japan. HALPERIN, M. A967). "A generalisation of Fieller's theorem to the ratio of complex parameters." J. Roy. Statist. Soc, B. 29:126-131. HAMBURGER, H., and GRIMSHAW, M. E. A951). Linear Transformations in n-dimensiorial Vector Space. Cambridge: Cambridge Univ. Press. HAMMING, R. W. A962). Numerical Methods for Scientists and Engineers. New York: McGraw-Hill. HAMMING, R. W., and TUKEY, J. W. A949). Measuring noise color. Bell Telephone Laboratories Memorandum. HAMbN, B. V., and HANNAN, E. J. A963). "Estimating relations between time series."/. Geophys. Res. 68:6033-6041. * HANNAN, E. J. A960). Time Series Analysis. London: Methuen. HANNAN, E. J. A961a). "The general theory of canonical correlation and its relation to functional analysis." J. Aust. Math. Soc. 2:229-242. HANNAN, E. J. A961b). "Testing for a jump in the spectral function." /. Roy. Statist. Soc, B. 23:394-404. HANNAN, E. J. A963a). "Regression for time series with errors of measurement." Biometrika. 50:293-302. HANNAN, E. J. A963b). "Regression for time series." In Time Series Analysis, Ed. M. Rosenblatt, pp. 17-37. New York: Wiley. HANNAN, E. J. A965). "The estimation of relationships involving distributed lags." Econom etrica. 33:206-224. HANNAN, E. J. A967a). "The estimation of a lagged regression relation." Bio- ' metrika. 54:409-418. HANNAN, E. J. A967b). "Fourier methods and random processes." Bull. Inter. Statist. />wf. 42:475-494. HANNAN, E. J. A967c). "Canonical correlation and multiple equation systems in • economics." Econometrica. 35:123-138. HANNAN, E. J. A968). "Least squares efficiency for vector time series." /. Roy. Statist. Soc, B. 30:490-498.
Список литературы 511, * HANNAN, Е. J. A970). Multiple Time Series. New York: Wiley. HASSELMAN; K., MUNK, W., and MACDONALD, G. A963). "Bispectrum of ocean waves." In Time Series Analysis, Ed. M. Rosenblatt, pp. 125-139. New York: Wiley. HAUBRICH, R. A. A965). "Earth noise, 5 to 500 millicycles per second. 1. Spectral stationarity, normality, nonlinearity." /. Geophys. Res. 70:1415-1427. HAUBRICH, R. A., and MACKENZIE, G. S. A965). "Earth noise, 5 to 500 miffi- . cydes per second. 2. Reaction of the earth to ocean and atmosphere.'* /. Geophys. Res. 70:1429-1440. HENNINGER, J. A970). "Functions of bounded mean square and generalized Fourier-Stieltjes transforms." Can. J. Math. 22:1016-1034. HERGLOTZ, G. A911). "ttber Potenzreihen mit positivem reellem Teil im Ein- heitskreis." Sitzgsber. Sachs Akad. Wiss. 63:501-511. * HEWITT, E., and ROSS, K. A. A963). Abstract Harmonic Analysis. Berlin: Springer. HEXT, G; R. A966). A new approach to time series with mixed spectra. Ph.D. Thesis, Stanford University. HINICH, M. A967). "Estimation of spectra after hard clipping of Gaussian pro- processes." Technometrics. 9:391-400. HODGSON, V. A968). "On the sampling distribution of the multiple correlation coefficient." Ann. Math. Statist. 39:307. HOFF, J. C. A970). "Approximation with kernels of finite oscillations, I. Con- Convergence." Л Approx. Theory. 3:213-228. HOOPER, J. W. A958). "The sampling variance of correlation coefficients under assumptions of fixed and mixed variates." Biometrika. 45:471-477. HOOPER, J. W. A959). "Simultaneous equations and canonical correlation theory." Econometrica. 27:245-256. HOPF, E. A937). Ergodentheorie. Berlin: Springer. HOPF, E. A952). "Statistical hydromechanics and functional calculus." J. Rat. Mech. Anal. 1:87-123. HORST, P. A965). Factor Analysis of Data Matrices. New York: Holt, Rinehart and Winston. HOTELLING, H. A933). "Analysis of a complex of statistical variables into principal components." J. Educ. Psych. 24:417-441,498-520. HOTELLING, H. A936). "Relations between two sets of variates." Biometrika. . 28:321-377. HOWREY, E. P. A968). "A spectrum analysis of the long-swing hypothesis." Int. Econ. Rev. 9:228-252. HOYT, R. S. A947). "Probability functions for the modulus and angle of the normal complex variate." Bell System Tech. J. 26:318-359. HSU, P. L. A941). "On the limiting distribution of canonical correlations." Bio-* metrika. 33:38-45. HSU, P. L. A949). "The limiting distribution of functions of sample means and application to testing hypotheses"." In Proc. Berkeley Symp. Math. Statist. Prob., Ed. J. Neyman, pp. 359-401. Berkeley: Univ. of Cal. Press. *HUA, L. K. A963). Harmonic Analysis of Functions of Several Variables in Classical Domains. Providence: American Math. Society.
512 Список литературы *IBRAGIMOV, I. A. A963). "On estimation of the spectral function of a stationary Gaussian process." Theory Prob. AppL 8:366-401. , *IBRAGIMOV, I. A. A967). "On maximum likelihood estimation of parameters of the spectral density of stationary time series.'* Theory Prob. AppL 12:115-119, *IOSIFESCU, M. A968). "The law of the interated logarithm for a class of de- dependent random variables." Theory Prob. AppL 13:304-313. IOSIFESCU, M., and THEODORESCU, R. A969). Random Processes andLearn- ing. Berlin: Springer. ISSERLIS, L. A918). "On a formula- for the product moment coefficient of any order of a normal frequency distribution in any number of variables." Bio- metrika. 12:134-139. ITO, K., and NISIO, M. A964)."On stationary solutions of a stochastic differential equation." J. Math. Kyoto. 4:1-75. ... IZENMAN, A. J. A972). Reduced rank regression for the multivariate linear model. Ph.D. Thesis, University of California, Berkeley. JAGERMAN, D. L. A963). "The autocorrelation function of a sequence uniformly distributed modulo 1." Ann. Math. Statist. 34:1243-1252. JAMES, A. T. A964). "Distributions of matrix variates and latent roots derived from normal samples." Ann, Math. Statist. 35:475-501. JAMES, A. T. A966). "Inference on latent roots by calculation of hypergeometric * functions of matrix argument." In Multivariate Analysis, Ed. P. R. Krishnaiah, pp. 209-235. New York: Academic. JENKINS, G. M. A961). "General considerations in .the analysis of spectra." Technometrics. 3:133-166. • JENKINS, G. M. A963a). "Cross-spectral analysis and the estimation.of linear' open loop transfer functions." In Time Series Analysis, Ed. M. Rosenblatt, pp. 267-278. New York: Wiley. JENKINS, G. M. A963b). "An example of the estimation of a linear open-loop transfer function." Technometrics. 5:227-245. * JENKINS, G. M., and WATTS, D. G. A968). Spectrum Analysis and Its Applica- Applications. San Francisco: Holden-Day. JENNISON, R. C. A961). Fourier Transforms and Convolutions for the Experi- Experiment alist. London: Pergamon. JONES, R. H. A962a). "Spectral estimates and. their distributions, II." Skand. Aktuartidskr. 45:135-153. JONES, R. H. A962b). "Spectral analysis with regularly missed observations." Ann. Math. Statist. 33:455-461. JONES, R. H. A965). "A reappraisal of the periodogram in spectral analysis." Technometrics. 7:531-542.. JONES, R. H. A969). "Phase free estimation of coherence." Ann. Math. Statist. 40:540-548. KABE, D. G. A966).."Complex analogues of some classical non-central multi- multivariate distributions." Austral. J. Statist. 8:99-103. KABE, D. G. A968a). "On the distribution of the regression coefficient matrix of a normal distribution." Austral. J. Statist. 10:21-23. KABE, D. G. A968b). "Some aspects of analysis of variance and covariance theory 4 for a certain multivariate complex Gaussian distribution." Metrika. 13:86-97#
Список литературы 513 * KAHANE, J. A968). Some Random Series of Functions. Lexington: Heath. KAMPE de FERIET, J. A954). "Introduction to the statistical theory of turbu- turbulence." J. Soc. Ind. Appl. Math. 2:244-271. KAMPE de FERIET, J. A965). "Random integrals of differential equations." In Lectures on Modern Mathematics, Ed. T. L. Saaty, 3:277-321. New York: Wiley. KANESHIGE, I. A964). "Frequency response of an automobile engine mounting." Ann. Inst. Stat. Math., Suppl. 3:49-58. KAWASHIMA, R. A964). "On the response function for the rolling motion tof a fishing boat on ocean waves." Ann. Inst. Stat. Math., Suppl. 3:33-40. К AW ATA, T. A959). "Some convergence theorems for stationary stochastic processes." Ann. Math. Statist. 30:1192-1214. KAWATA, T. A960). "The Fourier series of some stochastic processes." Japanese J. Math. 29:16-25. KAWATA, T. A965). "Sur la serie de Fourier d'un processus stochastique sta- tionaire." C. R. Acad. Sci. (Paris). 260:5453-5455. KAWATA, T. A966). "On the Fourier series of a stationary stochastic process." Zeit. Wahrschein. 6:224-245. KEEN, C. G., MONTGOMERY, J., MOWAT, W. M. H., and PLATT, D. C. A965). "British seismometer array recording systems." J. Br. Instn. Radio Engrs. 30:279. KENDALL, M. A946). Contributions to the Study of Oscillatory Time Series. Cambridge: Cambridge Univ. Press. * KENDALL, M. G., and STUART, A. A958). The Advanced Theory of Statistics, Vol. I. London: Griffin. * KENDALL, M. G., and STUART, A. A961). The Advanced Theory of Statistics, Vol. II. London: Griffin. * KENDALL, M. G., and STUART, A. A968). The Advanced Theory of Statistics, Vol. III. London: Griffin. KHATRI, C. G. A964). "Distribution of the 'generalised' multiple correlation matrix in the dual case." Ann. Math. Statist. 35:1801-1806. KHATRI, C. G. A965a). "Classical statistical analysis based on a certain multi- variate complex Gaussian distribution." Ann. Math. Statist. 36:98-114. KHATRI, C. G. A965b). "A test for reality of a covariance matrix in a certain complex Gaussian distribution." Ann. Math. Statist. 36:115-119. KHATRI, С G. A967). "A theorem on least squares in multivariate linear re- regression." J. Amcr. Statist. Assoc. 62:1494-1495. *KHINTCHINE, A. A934). "Korrelationstheorie der stationaren Prozesse." Math. Annalen. 109:604-615. KINOSITA, K. A964). "On the behaviour of tsunami in a tidal river." Ann. Inst. Stat. Math., Suppl. 3:78-88. KIRCHENER, R. B. A967). "An explicit formula for exp At Г Amer. Math. Monthly. 74:1200-1203. KNOPP, K. A948). Theory and Application of Infinite Series.. New York: Hafner. *KOLMOGOROV, A. N. (J941a). "Interpolation und Extrapolation von stationaren zufalligen Folgen." Bull. Acad. Sci. de IV.R.S.S. 5:3-14.
514 Список литературы *KOLMOGOROV, A. N. A941b). "Stationary sequences in Hilbert space." (In Russian.) Bull* Moscow State U. Math. 2:1-40. [Reprinted in Spanish in Trab. Estad. 4:55-73, 243-270.] KOOPMANS, L. H. A964a). "On the coefficient of coherence for weakly stationary stochastic processes." Ann. Math, Statist. 35:532-549. KOOPMANS, L. H. A964b). "On the multivariate analysis of weakly stationary stochastic processes." Ann. Math. Statist, 35:1765-1780. KOOPMANS, L. H. A966). "A note on the estimation of amplitude spectra for sto'chastic processes with quasi-linear residuals." /. Amer. Statist. Assoc. 61: 397-402. KRAMER, H. P., and MATHEWS, M. V. A956). "A linear coding for transmitting a set of correlated signals." IRE Trans. Inf. Theo. IT-2:41-46. KRAMER, К. Н. A963). "Tables for constructing confidence limits on the multiple correlation coefficient." J. Amer. Statist. Assoc. 58:1082-1085. KRISHNAIAH, P. R., and WAIKAR, V. B. A970). Exact joint distributions of few roots of a class of random matrices. Report ARL 70-0345. Aerospace Res. Labs. KROMER, R. E. A969). Asymptotic properties of the autoregressive spectral estimator. Ph.D. Thesis, Stanford University. KSHIRSAGAR, A. M. A961). "Some extensions of the multivariate /-distribution and the multivariate generalization of the distribution of the regression co- coefficient." Proc. Camb. Philos. Soc. 57:80-85. KSHIRSAGAR, A. M. A971). "Goodness of fit of a discriminant function from the vector space of dummy variables." /. Roy. Statist. Soc, B. 33:111-116. KUHN, H. G. A962). Atomic Spectra. London: Longmans. KUO, F. F., and KAISER, J. F. A966). System Analysis by Digital Computer. New York: Wiley. LABROUSTE, M. H. A934). "L'analyse des seismogrammes." Memorial des Sciences Physiques, Vol. 26. Paris: Gauthier-Villars. LAMPERTI, J. A962). "On covergence of stochastic processes." Trans. Amer. Math. Soc. 104:430-435. LANCASTER, H. O. A966). "Kolmogorov's remark on the Hotelling canonical correlations." Biometrika. 53:585-588. LANCZOS, C. A955). "Spectroscopic eigenvalue analysis." /. Wash. Acad. Sci. 45:315-323. LANCZOS, C. A956). Applied Analysis. Englewood Cliffs: Prentice-Hall. LATHAM, G., et al. A970). "Seismic data from man-made impacts on the moon." Science. 170:620-626. LAUBSCHER, N. F. A960). "Normalizing the noncentral / and F distributions." Ann. Math. Statist. 31:1105-1112. LAWLEY, D. N. A959). "Tests of significance in canonical analysis." Biometrika. 46:59-66. LEE, Y. W. A960). Statistical Theory of Communication. New York: Wiley. LEE, Y. W., and WIESNER, J. B. A950). "Correlation functions and communica- communication applications." Electronics. 23:86-92. *LEONOV, V. P. A960). "The use of the characteristic functional and semi-invariants in the ergodic theory of stationary processes." Soviet Math. 1:878-881.
Список литературы 515 * LEONOV, V. P. A964). Some Applications of Higher-order Semi-invariants to the Theory of Stationary. Random Processes (in Russian). Moscow: Izdatilstvo, Nauka. * LEONOV, V. P., and SHIRYAEV, A. N. A959)._"On a method of calculation of semi-invariants," Theor. Prob. AppL 4:319-329. * LEONOV, V. P., and SHIRYAEV, A. N. A960). "Some problems in the spectral theory of higher moments, II." Theory Prob. AppL 5:460-464. LEPPINK, G. J. A970). "Efficient estimators in spectral analysis. "Proc. Twelfth Biennial Seminar Can, Math, Cong.y Ed. R. Руке, pp. 83-87. Montreal: Can, Math. Cong. LEVY, P. A933). "Sur la convergence absolue des series de Fourier." С R. Acad. Sci. Paris. 196:463-464. LEWIS, F. A. A939). "Problem 3824." Amer. Math. Monthly, 46:304r305. LIGHTHILL, M. J. A958). An Introduction to Fourier Analysis and Generalised Functions. Cambridge: Cambridge Univ. Press. * LOEVE, M. A963). Probability Theory, Princeton: Van Nostrand. LOMNICKI, Z. A., and ZAREMBA, S. K. A957a). "On estimating the spectral density function of a stochastic process." j. Roy, Statist, Soc.f B. 19:13-3?. LOMNICKI, Z. A., and ZAREMBA, S. K. A957b). "On some moments and dis- distributions occurring in the theory of linear stochastic processes, I." Mh. Math, 61:318-358. LOMNICKI, Z. A., and ZAREMBA, S. K. A959). "On some moments and dis- distributions occurring in the theory of linear stochastic processes, П." Mh, Math. 63:128-168. LOYNES, R. M. A968). "On the concept of the spectrum for non-stationary processes." J. Roy. Statist. Soc, B. 30:1-30. MACDONALD, N. J., and WARD, F. A963). "The prediction of geomagnetic. disturbance indices. 1. The elimination of internally predictable variations." J. Geophys, Res. 68:3351-3373. MACDUFFEE, С. С A946). The Theory of Matrices. New York: Chelsea. MACNEIL, I. B. A971). "Limit processes for co-spectral and quadrature spectral distribution functions." Ann. Math. Statist. 42:81-96. MADANSKY, A., and OLKIN, I. A969). "Approximate confidence regions for constraint parameters." In Multivariate Analysir~-ll, Ed. P. R. Krishnaiah, pp. 261-286. New York: Academic. MADDEN, T. A964). "Spectral, cross-spectral and bispectral analysis of low frequency electromagnetic data." Natural Electromagnetic Phenomena Below 30 kc/s, Ed. D. F. Bleil, pp. .429-450. New York: Wiley. MAJEWSKI, W., and HOLLIEN, H. A967). "Formant frequency regions of Polish vowels." /. Acoust. Soc. Amer. 42:1031-1037. * MALEVICH, T. L. A964). "The asymptotic behavior of an estimate for the spectral function of a stationary Gaussian process." Theory Prob. Appl. 9:350-353. * MALEVICH, T. L. A965). "Some properties of the estimators of ihe spectrum of a stationary process." Theory Prob. Appl. 10:447-465. MALINVAUD, E. A964). Statistical Methods of Econometrics. Amsterdam: North- Holland.
516 Список литературы MALLOWS, С. L. A961). "Latent vectors of random symmetric matrices." Bio» metrika. 48:133-149. ч, MANN, H. В., and WALD, A. A943a). "On stochastic limit and order relation- * ships." Ann. Math. Statist. 14:217-226. MANN, H. В., and WALD, A. A943b). "On the statistical treatment of linear stochastic difference equations." Econometrica. 11:173-220. MANWELL, Т., and SIMON, M. A966). "Spectral density of the possibly random fluctuations of 3 С 273." Nature. 212:1224-1225. MARUYAMA, G. A949). "The harmonic analysis of stationary stochastic pro- processes." Mem. Fac. Sci. Kyusyu Univ. Ser. A. 4:45-106. MATHEWS, M. V. A963). "Signal detection models for human auditory percep- perception." In Time Series Analysis, Ed. M. Rosenblatt, pp. 349-361. New York: Wiley. MCGUCKEN, W. A970), Nineteenth Century Spectroscopy. Baltimore: Johns Hopkins. MCNEIL, D. R. A967). "Estimating the covariance and spectral density functions from a clipped stationary time series." J.Roy. Statist. Soc, B. 29:180-195. MCSHANE, E. J. A963). "Integrals devised for special purposes." Bull. Amer. Math. Spc. 69:597-627. MEDGYESSY, P. A961). Decomposition of Superpositions of Distribution Functions. Budapest: Hungar. Acad. Sci. MEECHAM, W. C. A969), "Stochastic representation of nearly-Gaussian nonlinear processes."/. Statist. Physics. 1:25-40. MEECHAM, W. C, and SIEGEL, A. A964). "Wiener-Hermite expansion in model turbulence at large Reynolds numbers." Physics Fluids. 7:1178-1190. MEGGERS, W. F. A946). "Spectroscopy, past, present and future." J. Opt. Soc. Amer. 36:431-448. MIDDLETON, D. A960). Statistical Communication Theory. New York: McGraw- Hill. MILLER, K. S. A968). "Moments of complex Gaussian processes." Proc. IEEE. 56:83-84. MILLER, K. S. A969). "Complex Gaussian processes." SI AM Rev. 11:544-567. MILLER, R. G. A966). Simultaneous Statistical Inference. New York: McGraw- Hill. MIYATA, M. A970). "Complex generalization of canonical correlation and its application to sea level study." /. Marine Res. 28:202-214. MOORE, С N. A966). Summable Series and Convergence Factors. New York: Dover. MORAN, J. M., et al. A968). "The 18-cm flux of the unresolved component of 3 С 273." Astrophysical J. 151 :L99-L101. MORRISON, D. F. A967). Multivariate Statistical Methods. New York: McGraw- Hill. MORTENSEN, R. E. A969). "Mathematical problems of modeling stochastic non-linear dynamic systems." /. Statist. Physics. 1:271-296. MUNK, W. H., and CARTWRIGHT, D. E. A966). "Tidal spectroscopy and prediction." Phil. Trans., A. 259:533-581.
Список литературы 517 #MUNK, W. H., and MACDONALD, G. J. F. A960). The Rotation of the Earth. Cambridge: Cambridge Univ. Press. MUNK, W. H., and SNODGRASS, F. E. A957). "Measurements of southern swell at Guadalupe Island." Deep-Sea Research. 4:272-286. MURTHY,' V. K. A963). "Estimation of the cross-spectrum.'* Ann. Math. Statist. 34:1012-1021. NAKAMURA, I. A964). "Relation between superelevation and car rolling." Ann. Inst. Stat. Math., Supph 3:41-48. NAKAMURA, H., and MURAKAMI, S. A964). "Resonance characteristic of the hydraulic system of a water power plant." Ann. Inst. Stat. Math.9 Suppl. 3:65-70. NAYLOR, T. H., WALLACE, W. H., and SASSER, W. E. A967). "A computer simulation model of the textile industry." J. Amer. Stat. Assoc. 62:1338-1364. NERLOVE, M. A964). "Spectral analysis of seasonal adjustment procedures.*' Econometrica. 32:241-286. NETTHEIM, N. A966). The estimation of coherence. Technical Report, Statistics Department, Stanford University. NEUDECKER, H. A968). "The Kronecker matrix product and some of its appli- applications in econometrics." Statistica Neerlandica. 22:69-82. NEWTON, H. W. A958), The Face of the Sun. London: Penguin. NICHOLLS, D. F. A967). "Estimation of the spectral density function when testing for a jump in the spectrum." Austral. J. Statist. 9:103-108. NISIO, M. A960). "On polynomial approximation for strictly stationary processes." J. Math. Soc. Japan. 12:207-226. NISIO, M. A961). "Remarks on the canonical representation of strictly stationary processes." J. Math. Kyoto. 1:129-146. NISSEN, D. H. A968). "A note on the variance of a matrix." Econometrica. 36:603- 604. NOLL, A. M. A964). "Short-time spectrum and 'cepstrum' techniques for vocal- pitch detection." J. Acoust. Soc. Amer. 36:296-302. *OBUKHOV, A. M. A938). "Normally-correlated vectors." Jzv. Akad. NaukSSR. Section on Mathematics. 3:339-370. * OBUKHOV, A. M. A940). "Correlation theory of vectors." Uchen. Zap. Moscow State Univ. Mathematics Section. 45:73-92. OCEAN WAVE SPECTRA A963). National Academy of Sciences. Englewood Cliffs: Prentice-Hall. OKAMOTA, M. A969). "Optimally of principal components." In Multivariate Analysis — II, Ed. P. R. Krisknaiah, pp. 673-686. New York: Academic. OKAMOTO, M., and KANAZAWA, M. A968). "Minimization of eigenvalues of a matrix and optimality of principal components." Ann. Math. Statist. 39:859- 863. OLKIN, I., and PRATT, J. W. A958). "Unbiased estimation of certain correlation coefficients." Ann. Math. Statist. 29:201-210. DLSHEN, R. A. A967)* "Asymptotic properties of the periodogram of a discrete stationary process." J. Appl. Prob. 4:508-528. OSWALD, J. R. V. A956). "Theory of analytic bandlimited signals applied to carrier systems." IRE Trans. Circuit Theory. CT-3:244-251.
518 Список литературы PANOFSKY, Н. А. A967). "Meteorological applications of cross-spectrum analysis." In Advanced Seminar on Spectral Analysis of Time Series, Ed. B. Harris, pp. 109-132. New York: Wiley. PAPOUUS, A. A962). The Fourier Integral and its Applications. New York: McGraw-Hill. PARTHASARATHY, K. R. A960). "On the estimation of the spectrum of a stationary stochastic process." Ann, Math. Statist. 31:568-573. * PARTHASARATHY, K. R., and VARADAHN, S. R. S, A964). "Extension of stationary stochastic processes." Theory Prob. Appl. 9:65-71. PARZEN, E. A957). "On consistent estimates of the spectrum of a stationary time series." Ann. Math. Statist. 28:329-348. * PARZEN, E. A958). "On asymptotically efficient consistent estimates of the spectral density function of a stationary time series." Л Roy. Statist. Soc9 B. 20:303-322. PARZEN, E, A961). "Mathematical considerations in the estimation of spectra." Technometrics. 3:167-190. PARZEN, E. A963a), "On spectral analysis with missing observations and ampli- amplitude modulation." Sankhya. A. 25:180-189. PARZEN, E. A963b). "Notes on Fourier analysis and spectral windows." Included in Parzen A967a). PARZEN, E. A963c). "Probability density functionals and reproducing kernel Hilbert spaces." In Times Series Analysis, Ed. M. Rosenblatt, pp. 155-169. New York: Wiley. PARZEN, E. A964). "An approach to empirical-time series analysis." Radio Science. 68D:937-951. PARZEN, E. A967a). Time Series Analysis Papers. San Francisco: Holden-Day. PARZEN, E. A967b). "Time series analysis for models of signals plus white noise." In Advanced Seminar on Spectral Analysis of Time Series, Ed. B. Harris, pp. 233-257. New York: Wiley. PARZEN, E. A967c). "On empirical multiple time series analysis." In Proc. Fifth Berkeley Symp. Math. Statist. Prob., 1, Eds. L. Le Cam and J. Neyman, pp. 305-340. Berkeley: Univ. of Cal. Press. PARZEN, E. A969). "Multiple time series modelling." In Multivariate Analysis— II, Ed. P. R. Krishnaiah, pp. 389-409. New York: Academic. PEARSON, E. S., and HARTLEY, H. O. A951). "Charts of the power function for analysis of variance tests derived from the non-central F distribution." Bio» metrika. 38:112-130. PEARSON, K., and FILON, L. N. G. A898). "Mathematical contributions to the theory of evolution: IV. On the probable errors of frequency constants and on the influence of random selection on variation and correlation." Phil. Trans., A. 191:229-311. PEARSON, K., JEFFERY, G. В., and ELDERTON, E. M. A929). "On the co- coefficient of the first product moment coefficient in samples drawn from an indefinitely large normal population." Biometrika. 21:164-201. PHILIPP, W. A967). "Das Gesetz vom iterierten Logarithms fur stark mischende stationareProzesse."Z#7. Wahrschein. 8:204-209. PJ-ilLIPP, W. A969). "The central limit problem for mixing sequences of random variables." Z. Wahrschein. verw. Gebiet. 12:155-171.
Список литературы 519 PICINBONO, В. A959). "Tendence vers le caractere gaussien par filtrage selectif." С JR. Acad. Sci. Paris. 248:2280. PICKLANDS, J. A970). "Spectral estimation with random truncation.*' Ann. Math. Statist. 41:44-5$. *PINSKER, M. S. A964). Information and Information Stability of Random Variables and Processes. San Francisco: Holden-Day. *PISARENKO, V. F. A970). "Statistical estimates of amplitude and phase correc- corrections." Geophys. J. Roy. Astron.Soc. 20:89-98. *PISARENKO, V. F. A972). "On the estimation of spectra by means of non-linear functions of the covariance matrix." Geophys. J. Roy Astron. Soc. 28:511-531. PLAGEMANN, S. H., FELDMAN, V. A., and GRIBBIN, J. R. A969). "Power spectrum analysis of the emmission-line redshift distribution of qua.si-stellar and related objects." Nature. 224:875-876. *POLYA, G., and SZEGO, G. A925). Aufgaben undLehrsatze aus der Analysis I. Berlin: Springer. PORTMANN, W. O. A960). "Hausdorff-analytic functions of matrices.'* Proc. Amer. Math. Soc. 11:97-101. POSNER, E. C. A968). "Combinatorial structures in planetary reconnaissance.1* In Error Correcting Codes, Ed. H. B. Mann, pp. 15/47. New York: Wiley. PRESS, H., and TUKEY, J. W. A956). Power spectral methods of analysis and their application to problems in airplane dynamics. Bell Telephone System Monograph 2606. PRIESTLEY, M. B. A962a). "Basic considerations in the estimation of spectra." Technometrics. 4:551-564. PRIESTLEY, M. B. A962b). "The analysis of stationary processes with mixed spectra." /. Roy. Statist. Soc, B. 24:511-529. * PRIESTLEY, M. B, A964). "Estimation of the spectra density function in the presence of harmonic components." J. Roy. Statist. Soc., B. 26:123-1^2. PRIESTLEY, M. B. A965). "Evolutionary spectra and non-stationary processes.'* J. Roy. Statist. Soc., B. 27:204-237 PRIESTLEY, M. B. A969). "Estimation of transfer functions in closed loop sto- stochastic systems." Automatical 5:623-632. PUPIN, M. I. A894). "Resonance analysis of alternating and polyphase currents." Trans. A.IJE.E. 9:523. QUENOUILLE, M. H. A957). The Analysis of Multiple Time Series. London: Griffin. RAO, C. R. A964). "The use and interpretation of principal component analysis in applied research." Sankhya, A. 26:329-358. *RAO, С R. A965). Linear Statistical Inference and Its Applications, New York: Wiley. RAO, M. M. A960). "Estimation by periodogram." Trabajos Estadistica. 11:123- 137. . *RAO, M. M. A963). "Inference in stochastic processes. I." Teor. Verojatnest. i Primemen. 8:282-2?8. ч RAO, M. M. A966). "Inference in stochastic processes, II." Zeit; Wahrschein. 5: 317-335.
520 Список литературы RAO, S. Т. A967). "On the cross-periodogram of a stationary Gaussian vector process." Ann. Math. Statist. 38:593-597. RICHTER, С P. A967). "Biological clocks in medicine and psychiatry." Proc. Nat. Acad. Sci. 46:1506-1530. RICKER, N. A940). The form and nature of seismic waves and the structure of seismograms." Geophysics. 5:348-366. *RIESZ, F., and NAGY, B. Sz. A955). Lessons in Functional Analysis. New York: Ungar. ROBERTS, J. В., and BISHOP, R. E. D. A965). "A simple illustration of spectral density analysis." /. Sound Vib. 2:37-41. •ROBINSON, E. A. A967a). Multichannel Time Series Analysis with Digital Com- Computer Programs. San Francisco: Holden-Day. ROBINSON, E. A. A967b). Statistical Communication and Detection with Special Reference to Digital Data Processing of Radar and Seismic Signals. London: Griffin. RODEMICH, E. R. A966). "Spectral estimates using nonlinear functions.'* Ann. Math. Statist. 37:1237-1256. RODRIGUEZ-ITURBE, I., and YEVJEVICH, V. A968). The investigation of re- relationship between hydrologic time series andsunspot numbers. Hydrology Paper. . No. 26. Fort Collins: Colorado State University. ROOT, W. L., and PITCHER, T. S. A955). "On the Fourier expansion of random functions." Ann. Math. Statist. 26:313-318. ROSENBERG, M. A964). "The square-integrability of matrix-valued functions with respect to a non-negative Hermitian measure." Duke Math.J. 31:291-298. ROSENBLATT, M. A956a). "On estimation of regression coefficients of a vector- valued time series with a stationary disturbance." Ann. Math. Statist. 27:99-121. ROSENBLATT, M. A956b). "On some regression problems in time series analysis." Proc. Third Berkeley Symp. Math. Statist. Prob., Vol 1. Ed; J. Neyman, pp. 165-186. Berkeley: Univ. of Cal. Press. ROSENBLATT, M. A956c). "A central limit theorem and a strong mixing condi- condition." Proc. Nat. Acad. Sci. (U.S.A.). 42:43-47. ROSENBLATT, M. A959). "Statistical analysis of stochastic processes with sta- stationary residuals." In Probability and Statistics, Ed. U. Grenander, pp. 246-275. New York: Wiley. ROSENBLATT, M. A960). "Asymptotic distribution of the eigenvalues of block Toeplitz matrices." Bull. Amer. Math. Soc. 66:320-321. ROSENBLATT, M. A961). "Some comments on narrow band-pass filters." Quart. Appl. Math. 18:387-393. ROSENBLATT, M. A962). "Asymptotic behavior of eigenvalues of Toeplitz forms." jr. Math. Mech. 11:941-950. ROSENBLATT, M. A964). "Some nonlinear problems arising in the study of ran- ' dom processes." Radio Science. 68D:933-936. ROSENBLATT, M., and VAN NESS, J. S. A965). "Estimation of the bispectrum." Ann. Math. Statist. 36:1120-1136. *ROZANOV, Yu. A. A967). Stationary Random Processes. San Francisco: Holden- Day.
Список литературы 521 SALEM, ft., and 2YGMUND, A. A956). "A note on random trigonometric f polynornials.InProc. Third Berkeley Symp. Math. Statist. Pro&, Ed. J.Neyman, pp, 243-246. Berkeley: Univ. of Cal. Press. SARGENT, T. J. A968). "Interest rates in the nmeteen-fifties." Rev. Ест. Stat. 5a:164-172. SATO, H. A964). "The measurement of transfer characteristic of ground-structure systems using micro tremor." Ann. Inst. Stat. Math., Suppl. 3:71-78. SATTERTHWAITE, F. E. A941). "Synthesis of variance." Psychometrica. d:309- 316. SAXENA, A. K. A969). "Classification into two multivariate complex normal dis- distributions with different covariance matrices." J. Ind. Statist. Assoe. 7:158-161. *SCHEFFE, H. A959). The Analysis of Variance. New York: Wiley. SCHOENBERG, I. J. A946). "Contributions to the problem of approximation of equidistant data by analytic functions." Quart. AppL Math. 4:45-87,112-141. SCHOENBERG, I. J. A950). "The finite Fourier series and elementary geometry." Amer. Math. Monthly. 57:390-404. SCHUSTER, A. A894). "On interference phenomena." Phil. Mag. 37:509-545. SCHUSTER, A. A897). "On lunar and solar periodicities of earthquakes." Proc. Цру. Soc. 61:455-465. SCHUSTER, A. A898). "On the investigation of hidden periodicities with applica- application to a supposed 26-day period of meteorological phenomena." Terr. Magn. 3:13-41. SCHUSTER, A. A900). "The periodogram of magnetic declination as obtained from the records of the Greenwich Observatory during the years 1871-1895." Comb. Phil. Trans. 18:107-135. SCHUSTER, A. A904). The Theory of Optics. London: Cambridge Univ. Press. SCHUSTER, A. A906a). "the periodogram and its optical analogy." Proc. Roy. Soc. 77:137-140. • SCHUSTER, A. A906b). "On the periodicities of sunspots." Philos. Trans. Roy. Soc; A. 206:69-100. SCHWARTZ, L. A957). Theorie des Distributions, Vol. I. Paris: Hermann. SCHWARTZ, L. A959). Theorie des Distributions, Vol. II. Paris: Hermann. SCHWERDTFEGER, H. A960). "Direct proof of Lanczos's decomposition the- theorem." Amer. Math. Mon. 67:856-860. SEARS, F. W. A949). Optics. Reading: Addison-Wesley. SHAPIRO, H. S. (\969).tSmoothing and Approximation of Functions. New York: Van Nostrand. * SHIRYAEV, A. N. A960). "Some problems in the spectral theory of higher-order moments, I." Theor. Prob. Appl. 5:265-284. * SHIRYAEV, A. N. A963). "On conditions for ergodicity of stationary processes in terms of higher order moments." Theory Prob. Appl. 8:436-439. SHUMWAY, R. H. A971). "On detecting a signal in N stationarily correlated noise series." Technometrics. 13:499-519. SIMPSON, S. M. A966). Time Series Computations in FORTRAN and FAP. Reading: Addison-Wesley.. SINGLETON, R. C. A969). "An algorithm for computing the mixed radix fast Fourier transform." IEEE Trans. Audio Elec. AU-17:93-103.
522 Список литературы SINGLETON, R. С, and POULTER, Т. С. A967). "Spectral analysis of the call lof the male killer whale." IEEE Trans, on Audio and Electroacoustics. AU-15: 104-113. SIOTANI, M. A967). "Some applications of Loewner's ordering of symmetric matrices." Ann. Inst. Statist. Math. 19:245-259. *SKOROKHOD, A. V. A956). "Limit theorems for stochastic processes." Theory Prob.Appl. 1:261-290. SLEPIAN, D. A954). "Estimation of signal parameters in the presence of noise." Trans. I.R.E. PGlT-3:82-87. . SLEPIAN, D. A958). "Fluctuations of random noise power." Bell Syst. Tech. J. 37:163-184. * SLUTSKY, E. A929). "Sur l'extension de la theorie de periodogrammes aux suites des quantites dependentes." Comptes Rendues. 189:722-733. * SLUTSKY, E. A934). "Alcuni applicazioni di cbefficienti di Fourier al analizo di: sequenze eventuali coherenti stazionarii." Giorn. d. Instituto Italiano deglf Atuari. 5:435-482. SMITH, E. J., HOLZER, R. E., MCLEOD, M. G., and RUSSELL, С. Т. A967). "Magnetic noise in the magnetosheath in the frequency range 3-300 Hz." /. Geophys. Res. 72:4803-4813. * SOLODOVNIKOV, V. V. A960). Introduction to the Statistical Dynamics of Auto- Automatic Control Systems. New York: Dover. SRIVASTAVA, M. S. A965). "On the complex Wishart distribution." Ann. Math. Statist. 36:313-315. STIGUM, B. P. A967). "A decision theoretic approach to time series analysis." Ann. Inst. Statist. Math. 19:207-243. STOCKHAM, T. G., Jr., A966). "High speed convolution and correlation." Proc. Spring Joint Comput. Conf. 28:229-233. STOKES, G. G. A879). Proc. Roy. Soc. 122:303. STONE, R. A947). "On the interdependence of blocks of transactions." /. Roy. Statist. Soc.t B. 9:1-32. STRIEBEL, C. A959). "Densities for stochastic processes." Ann. Math. Statist. 30:559-567. STUMPFF, K. A937). Grundlagen und Methoden der Periodenforschung. Berlin: Springer. STUMPFF, K. A939). Tafeln undAufgaben zur Harmonischen Analyse undPeriodo-. grammrechnung. Berlin: Springer. SUGIYAMA, G. A966). "On the distribution of the largest latent root and corre-. sponding latent vector for principal component analysis." Ann. Math. Statist.- 37:995-1001. •SUHARA, K., and SUZUKI, H. A964). "Some results of EEG analysis by analog type analyzers and finer examinations by a digital computer." Ann. Inst. Statist. Math., Suppl. 3:89-98. TAKEDA, S. A964). "Experimental studies on the airplane response to the side • gusts." Ann. Inst. Statist. Math., Suppl. 3:59-64. TATE, R. F. A966). "Conditional-normal regression models." /. Amer. Statist. c. 61:477-489.
Список литературы 523 TICK, L. J. A963). "Conditional spectra, linear systems and coherency." In Time Series Analysis, Ed. M. Rosenblatt, pp. 197-203. New York: Wiley. TICK, L. J. A966). "Letter to the Editor." Technometrics. 8:559-561. TICK, L. J. A967). "Estimation of coherency." In Advanced Seminar on Spectral Analysis of Time Series, Ed. B. Harris, pp. 133-152. New York: Wiley. * TIM AN, M. F. A962). "Some linear summation processes for the summation of Fourier series and best approximation.'* Soviet Math. 3:1102-1105. *TIMAN, A. F. A963). Theory of Approximation of Functions of a Real Variabte.. New York: Macmillan. TUKEY, J. W. A949). "The sampling theory of power spectrum estimates." Proc. on Applications of Autocorrelation Analysis to Physical Problems» NAVEXOS- P-735, pp. 47-67. Washington, D.C.: Office of Naval Research, Dept. of the Navy. TUKEY, J. W. A959a), "An introduction to the measurement of spectra." In Probability and Statistics, Ed. U. Grenander, pp. 300-330. New York: Wiley. TUKEY, J. W. A959b). "The estimation of power spectra and related quantities." In On Numerical Approximation, pp. 389-411. Madison: Univ. of Wisconsin Press. TUKEY, J. W. A959c). "Equalization and pulse shaping techniques applied to the determination of initial sense of Rayleigh waves." In The Need of Fundamental Research in Seismology, Appendix 9, pp. 60-129. Washington: U.S. Department of State, TUKEY, J. W. A961). "Discussion, emphasizing the connection between analysis of variance and spectrum analysis." Technometrics. 3:1-29. TUKEY, J. W. A965a). "Uses of numerical spectrum analysis in geophysics." Bull. LS.L 35 Session. 267-307. TUKEY, J. W. A965b). "Data analysis arid the frontiers of geophysics." Science. 148:1283-1289. TUKEY, J. W. A967). "An introduction to the calculations of numerical spectrum analysis." In Advanced Seminar on Spectral Analysis of Time Series, Ed. B. Harris, pp. 25-46. New York: Wiley. TUMURA, Y. A965). "The distributions of latent roots and vectors." TRUMafh* ematics. 1:1-16. VAN DER POL, B. A930). "Frequency modulation." Proc. Inst. Radio. Eng. 18: 227. VARIOUS AUTHORS A966). "A discussion on recent advances in the technique of seismic recording and analysis." Proc. Roy. Soc. 290:288-476. VOLTERRA, V. A959). Theory of Functionals and of Integrals and Integro-differ» ential Equations, New York: Dover". VON MISES, R. A964). Mathematical Theory of Probability and Statistics. New York: Academic. VON MISES, R., and DOOB, J. L. A941). "Discussion of papers on probability theory." Ann. Math. Statist. 12:215-217. WAHBA, G. A966). Cross spectral distribution theory for mixed spectra and estima- estimation of prediction filter coefficients. Ph.D. Thesis, Stanford University." WAHBA, G. A968). "One the distribution of some statistics useful in the analysis of jointly stationary time series." Ann, Math. Statist. 39:1849-1862.
524 Список литературы WAHBA, G, A969). "Estimation of the coefficients in a distributed lag model." Econometrica. 37:398-407. WALDMEIR, M, A961). The Sunspot Activity in the Years 1610-1960. .Zurich:"* Schulthess. WALKER, A. M. A954). "The asymptotic distribution of serial correlation co- coefficients for autoregressive processes with dependent residuals." Proc. Camb. WALKER, A. M. A965). "Some asymptotic results for the periodogram of a sta- stationary time series.'* J. Austral. Math. Soc. 5:107-128. WALKER, A. M. A971). "Qn the estimation of a harmonic component in a time -series with stationary residuals." Biometrika. 58:21-36. WEDDERBURN, J. H. M. A934). Lectures on Matrices. New York: Amer. Math. Soc. WEGEL, R. L., and MOORE, С R. A924). "An electrical frequency analyzer." BellSyst. Tech. J. 3:299-323. WELCH, P. D. A961). "A direct digital method of power spectrum estimation." IBM J. Res. Dev. 5:141-156. WELCH, P. D. A967). "The use of the fast Fourier transform for .estimation of spectra: a method based on time averaging over short, modified periodograms." IEEE Trans. Electr. Acoust. AU-15:70. ' " ' * WEYL, H. A946). Classical Croups. Princeton: Princeton Univ. Fress. * WHITTAKER, E. Т., and ROBINSON, G. A944). The Calculus of Observations. Cambridge: Cambridge Univ. Fress. WHITTLE, P. A951). Hypothesis Testing in Time Series Analysis. Uppsala: Alm- qvist. WHITTLE, P. A952a). "Some results in time series analysis." Skand. Aktuar. 35: 48-60,- WHITTLE, P. A952b). "The simultaneous estimation of a time series' harmonic and covariance structure." Trab. Estad. 3:43-57. WHITTLE, P. A953). "The analysis of multiple stationary time series." /. Roy. Statist. Soc., B. 15:125-139. WHITTLE, P..A954). "A statistical investigation of sunspot observations with special reference to H. Alven's sunspot model." Asirophys. J. 120:251-260. WHITTLE, P. A959). "Sur la distribution du maximim d'un polynome trigono- metrique a coefficients aleatoires." Colloques Internationaux du Centre National de la Recherche Scientifique. 87:173-184. WHITTLE, P. A961). '«Gaussian estimation in stationary time series." Bull.lnt. Statist. Inst. 39:105-130. WHITTLE, P. A963a). Prediction and Regulation. London: English Universities Press. WHITTLE, P. A963b). "On the fitting of multivariate auto-regressions and the approximate canonical factorization of .a spectral density matrix." Biometrika. 50:129-134. WIDOM, H. A965). "Toeplitz matrices." In Studies in Real and Complex Analysis, Ed. 1.1. Hirschman, Jr., pp. 179-209. Englewood Cliffs: Prentice-Hall. WIENER, N. A930). "Generalized harmonic analysis." Acta. Math. 55:117-258.
Список литературы 525 * WIENER, N. A933). The Fourier Integral and Certain of its Applications. Cambridge: Cambridge Univ. Press. WIENER, N. A938). "The historical background of harmonic analysis." Amer. Math. Soc. Semicentennial Pub. 2:56-68. WIENER, N. A949). The Extrapolation, Interpolation and Smoothing of Stationary Time Series with Engineering Applications. New York: Wiley. WIENER, N. A953). "Optics and the theory of stochastic processes." J. Opt. Soc. Amer. 43:225-228. WIENER, N. A957). "Rhythms in physiology with particular reference to ence- phalography." Proc. Rud. Virchow Med. Soc. in New York. 16:109-124 * WIENER, N. A958). Non-linear Problems in Random Theory. Cambridge: MIT Press. WIENER, N., SIEGEL, A., RANKIN, В., and MARTIN, W. T. A967). Differential Space, Quantum Systems and Prediction. Cambridge: MIT Press. WIENER, N., and WINTNER, A. A941). "On the ergodic dynamics of almost periodic systems/* Amer. J. Math. 63:794-824. WILK, M. В., GNANADESIKAN, R., and HUYETT, M. J. A962). "Probability plots for the gamma distribution."-Technometrics. 4:1-20, WILKINS, J. E. A948). "A note on the general summability of functions." Ann. Math. 49:189-199. WILKINSON, J. H. A965). The Algebraic Eigenvalue Problem. Oxford: Oxford Univ. Press. WILLIAMS, Ё. J. A967). "The analysis of association among many variates." J. Roy. Statist. Soe.9 B. 29:199-242. WINTNER, A. A932). "Remarks on the ergodic theorem of Birkhoff." Proc. Nat. Acad. Sci. (U.S.A.). 18:248-251. WISHART, J. A931). "The mean and second moment coefficient of the multiple correlation coefficient in samples from a normal population." Biometrika. 22:353-361. WISHART, J., and BARTLETT, M. S. A932). "The distribution of second order . moment statistics in a normal system." Proc. Comb. Philos. Soc. 28:455-459* WOLD, H. O. A. A948). "On prediction in stationary time series." Ann. Math. Statist. 19:558-567. WOLD, H. О. А. (Г954). A Study in the Analysis of Stationary Time Series, 2nd ed. Uppsala: Almqvist and Wiksells. WOLD, H. O. A. A963). "Forecasting by the chain principle." In Time Series . Analysis, Ed. M. Rosenblatt, pp. 471-497. New York: Wiley. WOLD, H. O. A. A965). Bibliography on Time Series and Stochastic Processes. London: Oliver and Boyd. WONG, E. A964). VThe construction of a class of stationary Markov processes." Proc. Symp. Applied Math. 16:264-276. Providence: Amer. Math. Soc. WOOD, L. C. A968). "A review of digital pass filtering." Rev, Geophysics. 6:73-98. WOODING, R. A. A956). "The multivariate distribution of complex normal variates." Biometrika. 43:212-215. WOODROOFE, M. В., and VAN NESS, J. W. A967). "The maximum deviation** sample spectral densities." Ann. Math. Statist. 38:1558-1570.
526 Список литературы WORLD WEATHER RECORDS. Smithsonian Miscellaneous Collections, Vol.79 A927), Vol. 90 A934), Vol. 105 A947). Smithsonian Inst. Washington. WORLD WEATHER RECORDS. 1941-1950 A959) and 1951-1960 A965). U.S. Weather Bureau, Washington, D.C. WRIGHT, W. D. A906). The Measurement of Colour. New York: Macmillan. *YAGLOM, A. M. A962). An Introduction to the Theory of Stationary Random Functions. Englewood Cliffs: Prentice-Hall. ¦YAGLOM, A. M. A965). "Stationary Gaussian processes satisfying the strong mixing condition and .best predictable functional." In Bernoulli, Bayes> Laplace, Ed. J. Neyman and L. M. LeCam, pp. 241-252. New York: Springer. YAMANOUCHI, Y. A961). "On the analysis of the ship oscillations among waves—I, II, III." J. Soc. Naval Arch. (Japan). 109:169-183; 110:19-29; 111: . 103-115. YULE, G. U. A927). "On a method of investigating periodicities in disturbed series, with special reference to Wolfer's sunspot numbers." Phil. Trans. Roy. Soc., A. 226:267-298. YUZURIHA, T. A960). "The autocorrelation curves of schizophrenic brain waves and the power spectra." Psych. Neurol. Jap. 62:911-924. ZYGMUND, A. A959). Trigonometric Series. Cambridge: Cambridge Univ. Press. *ZYGMUND, A. A968). Trigonometric Series, Vols. I, II. Cambridge: Cambridge Univ. Press. СПИСОК РАБОТ ОТЕЧЕСТВЕННЫХ И ЗАРУБЕЖНЫХ АВТОРОВ НА РУССКОМ ЯЗЫКЕ АБРАМОВИЦ, СТИГАН (ABRAMOWITZ M., STEGUN I. А.) A979) Справочник по специальным функциям. Пер. с англ.—М.: HaVKa АНДЕРСОН (ANDERSON T. W.) A963) Введение в многомерный статистический анализ. Пер. с англ.—М.: Физматгиз. A976) Статистический анализ временных рядов. Пер. с англ.—М.* Мио АРАТО (ARATO М.) Р A961) О достаточных статистиках стационарных гауссовских случайных процессов. Пер. с венг.—Теория вероятн. и ее примен.. 6. 2, с. 216-218. АХИЕЗЕР Н. И. A965) Лекции по теории аппроксимации.—М.: Наука. БАРТЛЕТТ (BARTLETT M. S.) A958) Введение в теорию случайных процессов. Пер. с англ — М • ИЛ БЕЛЛМАН (BELLMAN R.) A976) Введение в теорию матриц. Пер. с англ.—М.: Наука. БЕРНШТЕЙН С. (BERNSTEIN S.) A938) См. Bernstein S. A938). БИЛЛИНГСЛИ (BILLINGSLEY Р.) A969) Эргодическая теория и информация. Пер. с англ.—М.: Мир. A977) Сходимость вероятностных мер. Пер. с англ.—М.: HavKa БОКС, ДЖЕНКИНС (BOX G. Е. P., JENKINS G. М.) A974) Анализ временных рядов. Прогноз и управление, вып. 1, 2." Пер с англ,—М.: Мир. БОХНЕР (BOCHNER S.) оСТо^ Пер' с англ-м*: Физматгиз' A973) Основы оптики, изд. 2-е—М.: Наука.
Список литературы J527 БОХНЕР, МАРТИН (BOCHNER S., MARTIN W. Т.) A951) Функции многих комплексных переменных. Пер. с англ.—-М.: ИЛ. БУНИМОВИЧ В. И. A949) Флюктуационный процесс как колебание со случайными амплиту- амплитудой и фазой.—Журнал техн. физики. 19, 11, с. 1231 — 1259. БЭТЧЕЛОР (BATCHELOR G.) A955) Теория однородной турбулентности. Пер. с англ.—М.: ИЛ. ВЕЙЛЬ (WEYL Н.) A947) Классические группы, их инварианты и представления. Пер. с англ.— М.: ИЛ. ВИНЕР (WIENER N.) A961) Нелинейные задачи в теории случайных процессов. Пер. с англ.— М.: ИЛ. A963) Интеграл Фурье и некоторые его приложения. Пер. с англ.—М.: Физматгиз. ГАВУРИН М. К. A957) Приближенное розыскание собственных чисел и теория возмуще- возмущений.—УМН 12, 1, с. 173—175. ГЕЛЬФАНД И. М., РАЙКОВ Д. А., ШИЛОВ Г. Е. A960) Коммутативные нормированные кольца.— М.: Физматгиз. ГИНЗБУРГ Ю. П. A964) О факторизации аналитических матриц-функций.—ДАН СССР, 159, 3, с. 489—492. ГИХМАН И. И., СКОРОХОД А. В. A966) О плотностях вероятностных мер в функциональных пространст- пространствах.-УМН 21, 6, с. 83-152. ГРЕНАНДЕР, СЕГЁ (GRENANDER U., SZEGO G.) A961) Теплицевы формы и их приложения. Пер. с англ.—М.: ИЛ. ДАНФОРД, ШВАРЦ (DUNFORD N., SCHWARTZ J. Т.) A966) Линейные операторы, т. 2. Пер. с англ.—М.: Мир. ДЖЕНКИНС, ВАТТС (JENKINS G. M., WATTS D. G.) A971—1972) Спектральный анализ и его приложения, вып. 1, 2. Пер. с англ.—М.: Мир. ДРЕЙПЕР, СМИТ (DRAPER N. R., SMITH H.) A973) Прикладной регрессионный анализ. Пер. с англ.—М.: Статистика. ДУБ (DOOB J. L.) A956) Вероятностные процессы. Пер. с англ.—М.: ИЛ. ДЫНКИН Е. Б. A963) Марковские процессы.—М.: Физматгиз. ЗИГМУНД (ZYGMUND А.) A965) Тригонометрические ряды, т. 1, 2. Пер. с англ.—М.: Мир. ИБРАГИМОВ И. А. A963) Об оценке спектральной функции стационарного гауссовского про- процесса.—Теория вероятн. и ее примен., 8, 4, с. 391—430. A967) Об оценке методом максимума правдоподобия спектральной плот- плотности стационарного процесса.— Теория вероятн. и ее примен., 12, 1, с. 123-134. ИОСИФЕСКУ (IOSIFESCU М.) A968) Закон повторного логарифма для одного класса зависимых случай- случайных величин. Пер. с рум.— Теория вероятн. и ее примен,, 13, 2, с. 315-325. КАХАН (KAHANE J.) A973) Случайные функциональные ряды. Пер. с англ.—М.: Мир. ^КЕНДАЛЛ, СТЬЮАРТ (KENDALL M. G., STUART A.) A966) Теория распределений. Пер. с англ.—М.: Наука. A973) Статистические выводы и связи. Пер. с англ. —М.: Наука.
528 Список литературы A976) Многомерный статистический анализ и временные ряды. Пер. с англ.— М.: Наука. КОЛМОГОРОВ А. Н. A941а) Интерполирование и экстраполирование стационарных случайных последовательностей.—Изв. АН СССР, сер. матем., 5, с. 3—14. A941b) Стационарные последовательности в гильбертовом пространстве.— Бюлл. МГУ, 2, 6, с. 1—40. КРАМЕР, ЛИДБЕТТЕР (CRAMER H., LEADBETTER M. R.) A969) Стационарные случайные процессы. Пер. с англ.—М.: Мир. ЛЕОНОВ В. П. A960) Применение характеристического функционала к эргодической тео- теореме.-ДАН СССР, 133, 3, с. 523-526. A964) Некоторые применения старших семиинвариантов в теории стационар- стационарных случайных процессов.— М.: Наука. ЛЕОНОВ В. П., ШИРЯЕВ А. Н. A959) К технике вычисления семиинвариантов.— Теория вероятн. и ее примен., 4, 3, с. 342—355. A960) Некоторые вопросы спектральной теории старших моментов П.— Теория вероятн. и ее примен., 5, 4, с. 460—464. ЛОЭВ (LOEVE М.) A962) Теория вероятностей. Пер. с англ.—М.: ИЛ. МАЛЕВИЧ Т. Л. A964) Об асимптотическом поведении оценки спектральной функции ста- стационарного гауссовского процесса.— Теория вероятн. и ее примен., 9, 2, с. 386-390. A965) Некоторые свойства оценок спектра стационарного процесса.— Тео- Теория вероятн. и ее примен., 10, 3, с. 500—509. МАНК, МАКДОНАЛЬД (MUNK W. H., MACDONALD G. J. F.) A964) Вращение Земли. Пер. с англ.—М.: Мир. ОБУХОВ А. М. A938) Нормальная корреляция векторов.— Изв. АН СССР, сер. матем., 3, с. 339—370. A940) Теория корреляции векторов.—Ученые записки МГУ, сер. матем., 45, с. 73—92. ПАРЗЕН (PARZEN Е.) A962) Об асимптотически эффективных состоятельных оценках спектраль- спектральной плотности стационарного процесса.— Математика, сб. перев. 6: 6, с. 130-150. ПАРТАСАРАТИ, ВАРАДАН (PARTHASARATHY К. R., VARADAHN S.R.S.) A964) Продолжение стационарных стохастических процессов.— Теория вероятн. и ее примен., 9, 1, с. 72—78. ПИНСКЕР М. С. A960) Информация и информационная устойчивость случайных величин и процессов.—М.: АН СССР. ПИСАРЕНКО В. Ф. A970) См. Pisarenko F. A970). A972) См. Pisarenko F. A972). ПОЛНА, СЕГЁ (POLYA G., SZEGO G.) A956) Задачи и теоремы из анализа, ч. 1—2. Пер. с англ.—М.: Гостех- издат. РАО (RAO С. R.) A968) Линейные статистические методы и их применения. Пер. с англ.— М.: Наука. РАО (RAO М. М.) A963) Статистические выводы о случайных процессах I.—Теория вероятн. и ее примен., 8, 3, с. 282—298;
Список литературы 529 РИСС, СЕКЕФАЛЬВИ-НАДЬ (RIEZ F., NAGY В. SZ.) A979) Лекции по функциональному анализу.—М.: Мир. РОЗАНОВ Ю. А. A963) Стационарные случайные процессы.—М.: Физматгиз. СКОРОХОД А. В. A956) Предельные теоремы для случайных процессов.—Теория вероятн. и ее примен., 1, 1, с. 289—319. СЛУЦКИЙ Е. Е. A929) См. Slutsky E. A929). A934) См. Slutsky E. A934). СОЛОДНИКОВ В. В. A952) Введение в статистическую динамику систем автоматическое управ- управления.—М—Л.: ГИТТЛ. ТИМАН А. Ф. A953) Теория приближения функций действительного переменного.—М.: Физматгиз. ТИМАН М. Ф. A962) Отклонение гармонических функций от их значений на Границе и наилучшее приближение.—ДАН СССР, 145, 5, с. 1008—1009. УИТЕККЕР, РОБИНСОН (WHITTAKER Е. Т., ROBINSON G.) A933) Математическая обработка результатов наблюдений, изд. 2-е. Пер. с англ.-М—Л.: ОНТИ. ФЕЛЛЕР (FELLER W.) A967) Введение в теорию вероятностей и ее приложения, т. 2. Пер. с англ.— М.: Мир. ХАЛМОШ (HALMOS P. R.) A959) Лекции по эргодической теории. Пер. с англ.— М.: ИЛ, ХЕННАН (HANNAN E. J.) A964) Анализ временных рядов. Пер. с англ.—М.: Наука. A974) Многомерные временные ряды. Пер. с англ.—М.: Мир. ХИНЧИН А. Я. A934) См. Khintchine A. A934). ХУА ЛО-КЕН (HUA L. К.) A959) Гармонический анализ функций многих комплексных переменных в классических областях. Пер. с нем.— М.: ИЛ. ХЬЮИТТ, РОСС (HEWITT F., ROSS К. А.) A975) Абстрактный гармонический анализ, т. 1—2. Пер. с англ.— М.:Мнрф ШЕФФЕ (SCHEFFE Н.) A963) Дисперсионный анализ. Пер. с англ.—М.: Физматгиз. ШИРЯЕВ А. Н. A960) Некоторые вопросы спектральной теории старших моментов I.— Теория вероятн. и ее примен., 5, 3, с. 293—313. A963) Об условиях эргодичности стационарных процессов в терминах старших порядков.— Теория вероятн. и ее примен., 8, 4, с. 470—473. ЯГЛОМ А. М. A952) Введение в теорию стационарных случайных функций,—УМН, 7E), с. 3-168. A965) См. Yaglom A. M. A965).
УКАЗАТЕЛЬ ОБОЗНАЧЕНИЙ V"K* , d{^(K /J57 a<^> (u) 341 Det д 22 A(X) 35, 317 UetA ll A^> (X) 322, 327, 329, 348 Ar(X) 156 EX 22 Arm(X) 146, 262 E(^av?) 216 (=E) 216 argz 22 /y y X(X) 318 D 1cn fa" ЬаЛК ..., A*_!) 32, 102 ?r(X) 156 tax...ak\Ki> •••> Л/г) 33 Srm(X) 147, 262 fa 32 /в* (X) 30 c 28 'й} (Я> 266' 281 /r> 2^4 9Я0 ^(Я) 30> 128» 250 ex 104/128, 250 fxx(X) i44' i55' i59» 160» l64* m> jT) QQ ,J 1/M 1й/1 17/1 1ОЛ 261, 266, 304 ex 93, 135, 141, 164, 174, 199 иТ) m oi i cn(e) 29, 30, 128, 250 /{/i (X) 169 exx (и) 175, 198, 275 Fg> (I) 274 2lPx (и) 182, 183 ptW%3i28i18i«9 cxx(u, 1) 180 И тЛ опт Cr(X) 156 Crm(X) 147, 262 G(X) 324, 349 cov 220 n{T) /5,4 910 009 cov{X, Г} 22, 25, 100 ^" {) ' ^«o Я^)Ш 136 covIX, Y} 29 cor{X, Y} 22 ^ cum(Klf ..., Гг) 25 tf^W HO cai...a (^1» •••• h-i) 29, 102 Я^Г) fl (к) 101 с // / \ 07 a,... л i, ..., _ ^ I 22 DX 22, 25 y(j^ ^^ 132> 197 D(^var) 163, 219 .(f) (l) 253 Dn(a) 58, 176 !(xvf(A) , D[6/jiJ 277 /xx (X, I) 178 d(J}(X) 69, 101, 132, 135, 253 Ixx (X, /) 257
Указатель обозначений 531 Imz 17 ImZ 81 ) 181 273 274 169 169 lim 109, 143 mab(u) 49, 77, 189 ыхх(и) 55, 90, 190 m(Px(u) 127, 197 r (I*. 98 99 o(Pn) 59 О(ря) 59 Op (I) 456 Опн.О) 213 Ryx 310 ^ 205 314 315 275 276 Re г 22 D (\ \ Q Ду V", . V \'*/ *J ReZ 80 sgn A, 39, 179 T 34 Л, 312 MY) 272 /$ 315, 328 tr (A) 22 213, 215, V (/) 88 V+ (I) 86 vec 247, var*(s=D) 163, 219 159 (a) 266 Wr(n9 2) 100 UP? (л, 2) 100 X(t9 со) 115, 177 a/(Z) 80 P^ 64 6 (a) 23 6 {a} 23 A<r>(a) 96, 104 T) (a) 23, 32, 55, 112 r]{a} 23 jxy(Z) 80, 95, 96, 308 2 311 Ф (A) 96 Ф (К) 325 Xv 138 165 125, 140 ® 247, 309 ^ 245, 308 = (приближенно сравнимо с) 132, 136 x (транспонирование) 22, 79 - (комплексная сопряженность) 22, 79 | | (сумма абсолютных значений мат- матрицы) 22 [jk] (матрица) 22, 79 * (свертка) 36 + (обобщенная обратная) 97 = (сравнимо с) 23 [ ] (целая часть) 21, 94 # (действительная матрица) 80) (модуль) 22 (норма матрицы) 84 н (преобразование Гильберта) 39, 116 (периодическое продолжение) 74, 182 (процесс ассоциированный) 50
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Белый шум 42, 46 Биспектр 33 Вектор г-компонентный 22 Выборки возмущенные 179 Временной ряд 24 Гармонический анализ обобщенный 49 Главные компоненты 119, 368 Гребень Дирака 23 — Кронекера 23 Дельта-функция Дирака 23 — Кронекера 23 Демодуляция комплексная 39, 40 Дисперсия 22 Запаздывание групповое 326 Импульсный отклик фильтра 35 Канонические переменные (величины) 399 Квадрат множественного коэффициента корреляции 310 выборочного коэффициента корреля- корреляции 205 Классификация сбалансированная одно- факторная 297 Ковариация частная 310 Когерентность 275, 318 — каноническая /-я 410 Когерентность между классами частоты А, 298 — множественная 318 — частная 318 Коллектив 51 Комплексная многомерная нормально рас- распределенная величина 99 Компонента главная /-я 365 — частоты о) 115 Компоненты главные 119, 368 — спектра мощности частоты ft, 297 Корреляция каноническая /-я 399 — частная 310 Косинусоида 43, 47 Коспектр 30 Коэффициент корреляции векторный 418 канонический у-й 404 — регрессии 310 комплексный 314, 317 частный 319 — сглаживания см. Окно просмотра данных — удаленности векторный 418 Кросс-ковариационная функция 24 Кросс-спектр 30, 250 — частный 318 Кросс-периодограмма 16 Кумулянт 25—26 — r-го порядка совместный 25 Математическое ожидание 22 Матрица 22 — блочно-периодическая 95 — единичная 22 — обобщенная обратная 97 — спектральной плотности 30 частоты ft, 250 — теплицева конечная 82 циклическая 83 — транспонированная 22 — унитарная 79 — эрмитова 79 неотрицательно определенная 79 Матрицы детерминант 22 — след 22 — собственное значение 79 — 80 — собственный вектор 80 — спектр 80 мера спектральная 31 множества зацепляющиеся 26 — сообщающиеся 26 множители сходимости 61 Обобщенный гармонический анализ 49 Окно просмотра данных (временное) 61, 101 — частотное см. Ядро Операция инвариантная во времени 34 — линейная 34 Отношение сигнала к шуму на частоте ft, 321 Оценка наименьших квадратов 204 Оценка состоятельная в среднеквадратич- среднеквадратичном 162 — спектра с помощью предварительной фильтрации 173 Ошибка 310 — в исходных переменных 347 Пара канонических переменных /-я 404, 410 Переменные канонические 399 Период 48 Периодограмма 16 — второго порядка 132, 253 — третьего порядка 16 — &-го порядка 16 Подмена частот 192 Подход стохастический 49 — функциональный 49 Представление Крамера 113 Преобразование Абеля 21 — Фурье быстрое 73
Предметный указатель 533 — — дискретное 72 — — конечное 69 Прирост амплитуды 324 Прогноз линейный наилучший 310 Произведение кронекерово 309 Процесс авторегрессионный порядка m 44 — линейный 38, 42, 47 — марковский стационарный 43 г-компонентный 43 . — периодический 122 х — скользящего среднего 42 и авторегрессии смешанный 44 — случайный см. Временной ряд — стационарный стохастический 15 — эргодический 51 Разбиение неразложимое 26 Разложение по сингулярным значениям 82 Распределение асимптотически нормальное 100 — Уишарта 100 комплексное 100 Распределения конечномерные 23 Реализация 24 Ряд временной 24 — вспомогательный 348 — гауссовский стационарный 43, 47 — основной 202 — ошибок 202, 318, 371 — результирующий 202 — стационарный в строгом смысле 28 широком смысле 28 — Фурье 58 — /-и главной компоненты 371 Ряды ортогональные 24 Семиинварианты см. Кумулянты Системы одновременных уравнений 347 Случайный процесс см. Временной ряд Спектр второго порядка 29 — квадратурный см. Коспектр — кумулянтный &-го порядка 32 — матрицы 80 — мощности 30 ряда 128 частоты % внутригрупповой 297 межгрупповой 297 Спектр ошибок 202, 218 — смешанный 187 Спектра амплитуда 30 — фаза 30 Спектральные представления 90 Стохастические разностные и дифферен- дифференциальные уравнения 46 — стационарные процессы 15 Стохастический подход 49 Схема авторегрессии 44 Сходимость по распределению 277 — слабая 277 Теорема Гаусса—Маркова 204 — спектральная 81—82 Траектория см. Реализация Тренд 52 Триспектр 33 Условие перемешивания 15 Фаза на частоте % 325 Фильтр избирательный 321 — невырожденный (несингулярный) 36 — низкочастотный 39 — обратный 36 — полосно-пропускающий см. Фильтре по- полосой пропускания 2А, центрированный на частоте А,о — реализуемый (физически осуществимый) 36 — с полосой пропускания 2А, центриро- центрированный на частоте Ко 38 Фильтр суммируемый 35 — устойчивый 56 — /-суммируемый 36 — sXr-линейный 34 Фильтра импульсный отклик 35 — ранг 55 Фильтрация предварительная 168 Функции линейные дискриминантные 419 — от стационарного процесса 45 Функциональное разложение Вольтерра 46, 48 Функциональный подход 49 Функция автоковариациойная 24 ряда 29 — автокорреляционная 24 — выборочная см. Реализация — голоморфная 85 в действительном смысле 88 — Дирака — ковариационная см. Функция автокова- автоковариационная — корреляционная см. Функция автокор- автокорреляционная — Кронекера 2 3 периодическое продолжение 162 — кросс-корреляционная 24 — передаточная 35 — переходной вероятности 43 — сглаживающая см. Окно просмотра дан- данных — случайная см. Временной ряд — совместная кумулянтная порядка k 28 — среднего 24 Характеристическое число см. Матрицы соб- собственное значение Частота Найквиста 194 — радианная 30 — свертки см. Частота Найквиста — угловая 4 8 — циклическая в единицу времени 48 Частоты сопутствующие 192 Ядро 63 Д-статистика Уилкса 418
ОГЛАВЛЕНИЕ1) Предисловие • , 5 1. Природа временных рядов и их частотный анализ .... 7 1.1. Введение 7 1.2. Основания для применения гармонического анализа 13 1.3. Перемешивание 15 1.4. Исторический обзор 15 1.5. Применения частотного анализа 17 1.6. Заключительные замечания 19 1.7. Упражнения 19 2. Основные понятия . . 22 2.1. Введение 22 2.2. Стохастические процессы 23 2.3. Кумулянты 25 2.4. Стационарность 28 2.5. Спектр второго порядка , , 29 2.6. Кумулянтные спектры порядка k 32 2.7. Фильтры 34 2.8. Инвариантные свойства кумулянтного спектра 41 2.9. Примеры стационарных временных рядов 42 2.10. Примеры кумулянтного спектра 46 2.11. Функциональный и стохастический подходы к анализу времен- временных рядов 49 2.12. Тренды 52 2.13. Упражнения 52 3. Аналитические свойства преобразования Фурье и комп- комплексные матрицы 57 3.1. Введение 57 3.2. Ряд Фурье 57 3.3. Множители, улучшающие сходимость 60 3.4. Конечные преобразования Фурье и их свойства 69 3.5. Быстрое преобразование Фурье •. . . . 73 3.6. Применения дискретного преобразования Фурье 76 3.7. Комплексные матрицы и их экстремальные значения 79 3.8. Функции от преобразования Фурье 85 3.9. Спектральное представление при функциональном подходе к анализу временных рядов 90 ЗЛО. Упражнения . . . . < 93 4. Стохастические свойства конечного преобразования Фурье 98 4.1. Введение 98 4.2. Комплексное нормальное распределение 98 4.3. Стохастические свойства конечного преобразования Фурье ... 101 4.4. Асимптотическое распределение конечного преобразования Фурье 104 4.5. Оценки, имеющие место с вероятностью 1 : 108 4.6. Представление Крамера 111 4.7. Анализ главных компонент и его связь с представлением Крамера 118 4.8. Упражнения 121 г) Перевод предисловия, гл. 1—4 и 8—10 выполнен А. В. Булинским, гл. 5—7 перевел И. Г. Журбенко.— Прим. ред.
Оглавление 535 5. Оценка спектра мощности 128 5.L Спектры мощности и их интерпретация 128 5.2. Периодограмма • , 132 5.3. Дальнейшее изучение периодограммы , 141 5.4. Сглаженная периодограмма. . . . , 144 5.5. Общий класс спектральных оценок 155 5.6. Состоятельные оценки 159 5.7. Доверительные интервалы 165 5.8. Смещения и предварительная фильтрация 168 5.9. Другие оценки спектра мощности 175 5.10. Оценки спектральной меры и ковариационной функции .... 180 5.11. Отступление от принятых предположений 187 5.12. Использование анализа спектров мощности 195 5.13. Упражнения 197 6. Анализ инвариантных во времени линейных соотношений между стохастическими и некоторыми детерминированны- детерминированными рядами 202 6.1. Введение 202 6.2. Метод наименьших квадратов и регрессионная теория ...... 204 6.3. Эвристическое построение оценок 209 6.4. Вид асимптотического распределения 210 6.5. Математические ожидания оценок передаточной функции и спектра ошибок 213 6.6. Асимптотические ковариации предложенных оценок 217 6.7. Асимптотическая нормальность оценок 220 6.8. Оценивание импульсной характеристики 222 6.9. Доверительные области 224 6.10. Рабочий пример 226 6.11. Дальнейшие исследования 237 6.12. Сравнение трех оценок импульсной характеристики 241 6.13. Использование предложенных методов 243 6.14. Упражнения 245 7. Оценки спектра второго порядка многомерных временных рядов , # . 250 7.1. Матрицы спектральной плотности и их интерпретация , # , ¦ 250 7.2. Периодограммы второго порядка 253 7.3. Оценка матрицы спектральной плотности путем осреднения пе- периодограммы 260 7.4. Состоятельные оценки матрицы спектральной плотности .... 265 7.5. Построение доверительных границ 271 7.6. Оценки родственных величин , . . . 273 7.7. Дальнейшее развитие оценок спектра второго порядка .... 280 7.8. Рабочий пример 289 7.9. Изучение рядов, встречающихся в планировании эксперимента 296 7.10. Упражнения 300 8. Анализ линейных инвариантных во времени соотношений между двумя многомерными стохастическими рядами. . , 307 8.1. Введение , 307 8.2. Результаты для многомерных случайных величин 308 8.3. Определение оптимального линейного фильтра 317 8.4. Эвристическая интерпретация параметров и построение оценок 321 8.5. Предельное распределение оценок 326
536 Оглавление 8.6. Класс состоятельных оценок 329 8.7. Асимптотические моменты второго порядка рассмотренных оценок 332 8.8. Асимптотическое распределение оценок 336 8.9. Доверительные области для предложенных оценок 337 8.10. Оценки коэффициентов фильтра 341 8.11. Оценки отклонений, имеющие место с вероятностью 1 346 8.12. Дальнейшее обсуждение 346 8.13. Другие типы оценок * 349 8.14. Рабочий пример 355 8.15. Применения материала настоящей главы 355 8.16. Упражнения 356 9. Главные компоненты в частотной области 362 9.1. Введение 262 9.2. Анализ главных компонент векторных величин . ¦ 364 9.3. Ряды главных компонент 369 9.4. Построение оценок и их асимптотические свойства 374 9.5. Дальнейшие свойства главных компонент 379 9.6. Рабочий пример 382 9.7. Упражнения ; 391 10. Канонический анализ временных рядов 395 10.1. Введение 395 10.2. Канонический анализ векторных случайных величин 396 10.3. Ряды канонических переменных 407 10.4. Построение оценок и их асимптотические свойства 412 10.5. Дальнейшие свойства канонических переменных 416 10.6. Упражнения 419 Доказательства теорем 421 К главе 2 421 К главе 3 • 427 К главе 4 # , 432 К главе 5 444 К главе 6 t * 453 К главе 7 , 466 К главе 8 484 К главе 9 492 К главе 10 496 Список литературы 500 Указатель обозначений • • • 530 Предметный указатель ...,,,...¦ 532